MicrosoftのディープフェイクツールはAIで操作されたメディアを検出できる

写真やビデオへの人工知能 (AI) の使用が増えるにつれ、「ディープフェイク」コンテンツがインターネット上で非常に一般的になりました。これらのコンテンツの多くは楽しみやエンターテイメントを目的として作成されていますが、情報の少ない人々にとっては依然として誤った情報源となる可能性があります。そこで、「ディープフェイク」画像や動画による誤った情報やフェイクニュースの拡散と戦うために、マイクロソフトはAIが作成した画像や動画を検出できるツールを開発した。

レドモンドに本拠を置く巨大ソフトウェア企業の研究開発部門が開発した「Video Authenticator」ツールは、 画像やビデオを分析し、それらが人工的なものであるか本物であるかを検出することができる 。このツールはビデオと画像を調査し、それらに「確率スコア、または信頼スコア」を与えます。

「本日、Microsoft Video Authenticator を発表します。 Video Authenticator は静止写真やビデオを分析して、メディアが人為的に操作されている確率、つまり信頼度スコアを提供します。」 とマイクロソフト幹部らは 公式ブログ投稿 で述べた。

Microsoft によると、ビデオを分析する場合、このツールはビデオの各フレームの「確率」をリアルタイムで提供します。

AIで操作されたメディアの検出は困難だが、同社によれば、このツールは 「ディープフェイクと、人間の目では検出できない可能性のある微妙なフェードまたはグレースケール要素の混合境界を検出することで機能する」という。

ここで、技術的な詳細について説明します。「Video Authenticator」ツールは、 FaceForesnics++ の公開データセットを使用して開発されました。その後、 DeepFake Detection Challenge Dataset でテストされました。そして Microsoft によれば、これら 2 つは 「ディープフェイク検出テクノロジーのトレーニングとテストのための主要なモデル」 です 。

レドモンドに拠点を置くこの巨人は、サンフランシスコの AI 財団と協力してツールを配布しています。同社はこのツールの導入により、特に米国選挙を前に、誤った情報の拡散を防ぐことを目的としている。

そのため、このツールは 「当初は RD2020 [Reality Defender 2020] を通じてのみ利用可能となり、ディープフェイク検出テクノロジーに固有の制限と倫理的考慮事項について組織をガイドします。」 。そのため、選挙運動の主催者や政治ニュースを扱う報道機関に配布されることになる。