専門家も見破れない“AIフェイク動画”最前線

出典：CBCニュース

ニセ広告を見抜け！フェイク動画に騙されるな！！　専門家も見破れない“AIフェイク動画”最前線　バイデン大統領の“フェイク”制作者に直撃【大石が聞く】

出典：AIsmiley News

ディープフェイク(deepfake)とは

ディープフェイクとは、ディープラーニング技術を活用して作成された合成メディアです。その人が実際に行っていない動作をしたり、実際口に出していないことを発言したりしているかのように描くことができます。

ディープフェイクの技術は年々⾼度化しており、もはや⼈間が眼で見て判別することは困難なレベルの高い画質の画像が⽣成できるようになりつつあります。

また、画像や動画だけでなく、⾳声をクローンする技術も進化しています。この高度な技術が世界的に広まりつつある今、ネット上でのいじめや名誉棄損、脅迫、詐欺などの犯罪行為など、既に大きな問題が多発しているのが現状です。

ディープフェイクには悪用のリスクもある

ディープフェイクは、もともと映画やテレビといった動画コンテンツの制作時に用いる加工技術として使われていました。しかし、近年ではディープフェイクが悪用されるケースも多くなってきています。

例1. 登場人物の顔のすり替え

オーストラリア出身の映像作家であるニコラス・ガーディナーは、実験的に製作した短編映画「Proxy」において、ドナルド・トランプの顔が中国の国家主席である習近平にすり替わるというテクニックを利用し、注目を集めました。

これはあくまでも作品内でのすり替えであるため特に問題はありませんでしたが、「ディープフェイクス（Deepfakes）」を名乗る正体不明のプログラマーが顔のすり替えを行えるソフトウェアを公開し、誰でも使用できるようにしてしまいました。これにより、さまざまなフェイク動画が世界中に拡散される事態となりました。

例2. 演説動画の加工

Facebookを運営するMetaは2022年3月16日（現地時間）にウクライナのゼレンスキー大統領に関するディープフェイク動画を発見し、「加工されたメディア」に関する規定違反で削除したと発表しました。

偽動画ではウクライナの兵士や市民に投降を呼びかけていますが、本人より頭部が大きく見え、本人より低い声で語りかけています。

米シンクタンク「アトランティック・カウンシル」によると、ハッカーがウクライナのウェブサイトに動画を投稿したと報じています。

「より価値のある動画コンテンツを制作する」という本来の目的でディープフェイクを活用する分には一切問題ありませんが、影響力のある人物の発言が捏造されることになれば、大きな問題を引き起こすことになります。

便利で魅力的な技術である反面、使い方を間違えれば大きな危険を生んでしまう可能性があることは、あらかじめ把握しておきましょう。

続きを読む＞＞ディープフェイクの悪用防止に向けた動き