レンダープロパティのフィルムの透過をチェックすることで背景透過のレンダリングができます。 通常はPNGかTargaの連番で透過で出します。 動画フォーマットではffmpegでカラーの項目にRGBAが表示されるコンテナとコーデックの組み合わせで出力可能ですが 受け渡すソフトの対応次第です。