このソフトウェアは顔認識ツールの顔を「隠す」ことができます

過去数年間の顔認識技術の発展により、プライバシーは一般の人々にとって徐々に神話になりつつあります。 「Clearview AI」のような顔認識ツールは、30 億枚の写真データベースから誰でも認識できるため、プライバシーの概念を単純に破壊します。そこで、このような種類の顔認識ツールからユーザーを守るために、科学者たちは、写真の中の顔に最小限の変更を加えて、市場に出回っているほとんどの顔認識ツールを騙すことができるツールを開発しました。

シカゴ大学サンドラボの科学者チームによって開発された 「Fawkes」は、Microsoft の Azure Face や Amazon の Rekognition などのほとんどの顔認識ツールでユーザーを認識できなくなるユニークなツールです 。

ここ で、あなたの顔はどの顔認識ツールでも認識できませんが、あなた自身は元の画像と変換された画像を区別できないことに注意してください 。ここで人工知能 (AI) が登場します。

フォークスはどのようにして顔を「隠す」のでしょうか?

さて、科学的に言えば、このツールが従うプロセスは、顔認識ツールを支援するソースを変更することを目的としているため、「クローキング」と呼ばれています。したがって、 このツールは基本的に AI を使用して顔に微妙な変更を加え、これらの変更は人間の目から隠されたままになります 。ただし、顔認識ツールが画像を分析しようとしても、データベースの画像と照合することはできません。

「フォークス」（V for Vendettaのキャラクター、ガイ・フォークスにちなんで命名）の開発者チームは、今年初めにこのツールのAIアルゴリズムに関する 論文を 発表したと伝えられている。さらに、チームは最近、Windows と Mac ユーザー向けにこのツール を無料でダウンロードできるソフトウェア としてリリースしました。

違いは検出できない

そこで、 Windows PC 用に約 125MB のツールをダウンロードしました 。ダウンロード後、写真の 1 つに対してツールを実行して「クローク」しました。結果は以下のとおりです。

ご覧のとおり、私の顔の皮膚の奇妙なテクスチャを除いて、 私の画像はどちらもほとんど同じに見えます 。ただし、右側のはマントを着たものです。したがって、AI アルゴリズムが顔認識ツールからあなたの顔を「隠す」ために行う変更がどれほど微妙であるかが想像できるでしょう。

「私たちがやっていることは、本質的にはトロイの木馬のように、隠された写真を使用して、無許可のモデルを破壊して、何が あなたに似ていて他の人ではないのかについて間違ったことを学習させることです」と 、開発に貢献したコンピュータサイエンス教授のベン・ザオ氏は言う。ツール。

「一度汚職が発生すると、どこに行っても、誰に見られても、継続的に保護されます。」 と彼はさらに付け加えた。