Facebook、リベンジポルノをAIシステムで検出すると発表c

Facebookは昨年末、リベンジポルノ対策システムの試験運用を開始したが、かなり厄介な点があった。プラットフォームがブロックすべき画像を判別するために、ユーザーは自分のヌード写真をアップロードする必要があったのだ。Facebookは本日、AIをベースにした新たな検出システムを発表した…

現在も使用されており、今後拡大展開される予定の以前のシステムは、共有されるかもしれないと懸念する写真をユーザーがアップロードすることに依存しており、Facebook はデジタル指紋を作成し、一致する画像のアップロードをブロックすることができた。

Messengerでヌード写真を自分宛に送信すると、Facebookはその写真のハッシュ化されたデジタル指紋（画像ファイル内の生データの暗号化版）を作成します。誰かが写真をアップロードしようとすると、その指紋と照合され、一致しない場合は拒否されます。

Facebookによると、同社の新しいAIベースのシステムは、ヌードまたはヌードに近い画像を自動的に検出し、人間のモデレーターに渡して、写真や動画をブロックするかどうかを決定するように設計されているという。

機械学習と人工知能を活用することで、FacebookやInstagramで許可なく共有されたヌードに近い画像や動画を積極的に検出できるようになりました。つまり、誰かが報告する前にこれらのコンテンツを発見できるということです。これは2つの理由で重要です。被害者は報復を恐れて自らコンテンツを報告したがらない、あるいはコンテンツが共有されていることに気づいていないことが多いからです。

コミュニティオペレーションチームの特別な訓練を受けたメンバーが、当社の技術によって発見されたコンテンツを審査します。画像または動画がコミュニティ規約に違反している場合は削除し、多くの場合、許可なく性的コンテンツを共有したアカウントは無効化されます。

同社によれば、自分のアカウントが不適切にブロックされたと感じた場合、異議申し立ての手続きがあるという。

フェイスブック社は、同社の以前の取り組みは被害者に歓迎されていると述べている。

被害者や支援団体から肯定的なフィードバックを受け取った後、私たちは今後数か月かけてこのパイロットを拡大し、より多くの人が緊急時にこのオプションの恩恵を受けられるようにする予定です。

同社はまた、セーフティセンター内に新しいページを作成し、リベンジポルノの報告方法や被害者が取るべき追加措置について説明している。

yocben.com を Google ニュース フィードに追加します。