ホーム テクノロジー ニュース 犯罪を予測する AI は人間よりも悪影響を及ぼし、人種差別的でもある

犯罪を予測する AI は人間よりも悪影響を及ぼし、人種差別的でもある


21 世紀には、AI (人工知能) がチェスで人間を簡単に破ったり、外国語を素早く教えたりするなどのタスクを達成するのが目撃されています。

コンピューターのより高度なタスクは、犯罪者が別の犯罪を犯す可能性を予測することです。それがCOMPAS(代替制裁のための矯正犯罪者管理プロファイリング)と呼ばれるAIシステムの仕事だ。しかし、そのツールは平均的な人間と同じであり、人種差別的である可能性があることが判明しました。研究チームが司法機関で広く使用されている AI システムを徹底的に研究した結果、まさにそれを 発見しました

Science Advances が 発表した 研究論文によると、COMPAS は人間の参加者のグループと対戦し、その効率性をテストし、一般人による論理的予測に対してどれだけうまく機能するかを確認しました。機械と人間の参加者には、再犯の可能性を予測する犯罪者の年齢、過去の犯罪、性別などを含む 1000 件のテスト記述が提供されました。

COMPAS よりもかなり少ない情報 (COMPAS の 137 の特徴と比較して特徴は 7 つだけ) であるため、専門家以外の少数の集団でも COMPAS と同じくらい正確に再犯を予測できます。

COMPAS は、再犯 (有罪判決を受けた犯罪者が再犯する傾向) の予測において全体の精度 65.4% を記録しましたが、これは人間の参加者の全体的な予測精度 (67%) よりも低いです。

ここで少し時間をとって、平均的な人間と何ら変わらない AI システムが再犯を予測するために法廷で使用されたことを頭の中で考えてみてください。

再犯を予測するために広く使用されている商用ソフトウェアは、オンライン調査に回答した刑事司法の専門知識をほとんどまたはまったく持たない人々の予測と同じくらい正確でも公平でもありません。

Crime-Predicting AI Fares Worse than Humans in Repeat Offender Study, and It’s Racist Too
Crime-Predicting AI Fares Worse than Humans in Repeat Offender Study, and It’s Racist Too

さらに悪いことに、犯罪者の人種情報も含まれる記述から再犯の可能性を予測するよう求めたところ、このシステムも人間のシステムと同様に人種的偏見の影響を受けやすいことが判明したという事実である。 AI は人間の教師が学習するようにプログラムしたパターンを採用することが知られているため、それほど驚くべきではありません。

どちらの側も許容できる精度スコアの達成には大幅に達していませんが、平均的な人間と同等の AI ツールを使用する意味には多くの疑問が生じます。

絶対に観るべき!「犯罪を予測する AI は人間よりも悪影響を及ぼし、人種差別的でもある」についてベスト動画選定

「生成AI」と著作権保護に関する“考え方”の素案を提示 文化庁 無断学習は著作権侵害のケースも 年度内にもとりまとめ|TBS NEWS DIG
【イギリスの安保担当相が警告】生成AIの発達で“日本も海外の犯罪グループの標的に”