【Facebook】ディープフェイク動画の投稿を削除へ！

現地時間の1月6日、米Facebookが、Facebookへのディープフェイク動画投稿について、ポリシーの強化を行うことを発表しました。

Facebookでは、「ディープフェイク」動画について、ディープラーニングなどのAI技術を使用して制作された偽物であると判断し、現実に誤解を与える動画と定義付けしています。

Facebookが「ディープフェイク動画」の投稿を削除する背景についてご紹介しておきましょう。

世界中のユーザーに幅広く利用されている「Facebook」ですが、人を欺く目的で写真や動画に手を加え真実と違う情報操作を行う、ディープフェイクなどの「ディープフェイク」動画が問題視されています。

Facebookでは、悪意ある情報操作や「ディープフェイク動画」の投稿への対策として、AIによって作成されたコンテンツやフェイクアカウントの作成などの不正行為の調査を実施しています。

また、不正行為の調査結果を実行するために、研究者や政府、インターネット業界など、必要箇所と提携の上、世界中の有識者50名以上の専門家との取り組みを行い、人を欺く目的で制作された「ディープフェイク動画」に対するポリシーを強化しています。

Facebookでは、「ディープフェイク」動画の削除の定義や削除対象外となる場合でも、警告を行うとしており、その判断基準や定義について明らかにしています。

近年、世界中で問題視されている情報操作の方法として、「Photoshop」などでの写真や動画の加工がありますが、人工知能やディープラーニングを用いた高度なツールを活用した「ディープフェイク動画」が利用される場合があります。 

「ディープフェイク」技術については、AIや機械学習の進化によって、ここ数年で目覚ましい技術の発展を行っています。

「ディープフェイク」の技術は、有力政治家やセレブ有名人などの著名人の顔を、まったく関係のない第三者の動画と合成し、まるで本人の言動かのように見せる技術となっています。

Facebookが「ディープフェイク」動画の削除を実施する削除対象の動画について確認しておきましょう。

Facebookは「ディープフェイク」を、AI技術を利用して制作された現実をゆがめる動画として定義を行い、以下の条件を満たす投稿については削除を行うと発表しています。
 

• 動画内の人物が実際には言わなかった言葉を言ったように見えるように編集を行った、一般的なユーザーには見分けの付かない洗練された動画

• 機械学習などのAI技術を活用してコンテンツの置き換えを行ったりコンテンツを重ねたりして本物のように見せかけている動画

なお、削除対象としている条件に当てはまらない場合でも、削除対象外となる問題のある動画は、世界の50以上のパートナーによるファクトチェックを含む、独立した第三者による確認プログラムの審査の対象となります。

 削除対象外となる問題のある動画については、「ファクトチェック」により、写真や動画の全部または一部が虚偽と評価された場合には、該当の動画について、虚偽である旨の警告が、投稿を見る人や投稿をシェアするユーザーへ表示されます。

なお、「虚偽」と評価された動画等については、ニュースフィードでの表示が削減され、その動画が広告として配信されている場合は取り消しとなります。

Facebookは今後も、フェイクアカウントやフェイク動画などの不正行為の発見や、情報操作されたコンテンツの特定に取り組んでいく方針を公表しています。