物議を醸すコンテンツの拡散を抑制する YouTube の「インテリジェンス デスク」

一連のかなり疑わしい動画がプラットフォーム上で拡散したことを受け、YouTube は物議を醸すコンテンツの拡散を阻止するために攻勢をかけている。日本の「自殺の森」で死体を映したローガン・ポールのビデオから、最近のタイド・ポッド・チャレンジのビデオまで、YouTubeのモデレーターたちは年初から多くのことに取り組んできた。

さて、 Buzzfeed News の最近の 記事 によると、YouTubeはプラットフォーム上で物議を醸す動画を、拡散する前に検出する「インテリジェンスデスク」の設置を計画しているという。この新たな取り組みは、最近うまく機能していないコンテンツモデレーションシステムの改善を目指す同社の取り組みの一環である。インテリジェンス デスクは、Google、ユーザー レポート、ソーシャル メディア トレンド、サードパーティ コンサルタントからデータを収集し、物議を醸すコンテンツが手に負えなくなる前にフラグを立てます。

YouTubeの広報担当者は Buzzfeed News に対し、インテリジェンスデスクの発足について認め、次のように述べた。

「12月にブログで概説したように、私たちはプラットフォームを悪用しようとする悪意のある者に対する取り組みを拡大しています。これには、違反の可能性のあるコンテンツに対処するためにより多くの人員を雇用することや、機械学習テクノロジーの使用を増やすことが含まれます。これらの取り組みの一部には、新たなトレンドや脅威からプラットフォームを保護することに専念する新しいチームの結成が含まれることを確認しています。」

このプラットフォームは、主流の広告を過激派コンテンツの隣に表示することを許可したり、特定の動画における児童への憂慮すべき虐待を認識しなかったりするなど、いくつかのことで非難されている。 YouTubeはまた、問題のビデオが削除される前にトレンドリストのトップ10にランクインしていたため、ポールの件への対応方法でも批判された。

Buzzfeed News が入手した広告主の説明では、より専門知識を持って物議を醸すコンテンツを処理するために、同プラットフォームが100以上のNGO、政府機関、学者と提携する予定であることも示されている。