Metaは、コンテンツ監視業務を強化するため、より高度なAIシステムを導入することを発表しました。これにより、テロ、児童搾取、薬物、詐欺などのコンテンツの検知・削除を自動化し、外部ベンダーへの依存度を低減する計画です。

同社は、これらのAIシステムが現在の監視方法よりも一貫して優れたパフォーマンスを発揮した場合、アプリ全体に展開します。AIは、繰り返し行われる過激なコンテンツのレビューや、敵対的な攻撃者が戦術を常に変化させる領域（違法薬物販売や詐欺など）で、人間よりも効率的に業務を遂行できると期待されています。

Metaによると、AIシステムは、より高い精度で違反を検知し、詐欺をより効果的に防止し、現実世界の出来事に迅速に対応し、過剰な執行を削減できます。初期テストでは、AIシステムは、人間のレビューチームの2倍の違反コンテンツ（成人向けの性的勧誘コンテンツ）を検知し、エラー率を60%以上削減したとのことです。

さらに、AIは有名人などを装ったアカウントの特定・防止や、新しい場所からのログイン、パスワード変更、プロフィール編集などの兆候を検知することでアカウント乗っ取りを防ぐことも可能です。また、1日あたり約5,000件の詐欺試行（ログイン情報を詐取しようとするもの）を特定・軽減できるとしています。

Metaは、専門家がAIシステムを設計、トレーニング、監督、評価し、パフォーマンスを測定し、最も複雑で影響の大きい決定を下すと説明しています。例えば、アカウント無効化の異議申し立てや法執行機関への通報など、リスクが高く重要な決定には引き続き人間が関与します。

この動きは、Metaが過去1年ほどコンテンツモデレーション規則を緩和してきた流れの中で行われています。昨年は、外部ファクトチェックプログラムを終了し、X（旧Twitter）の「コミュニティノート」モデルに移行しました。また、「主流の言論の一部」とされるトピックに関する制限を解除し、ユーザーが政治コンテンツに対して「パーソナライズされた」アプローチを取ることを奨励すると述べていました。

さらに、Metaは子供や若年ユーザーの被害に関してソーシャルメディア大手への説明責任を問う複数の訴訟に直面しています。

同時に、Metaは24時間365日サポートを提供するAIサポートアシスタントのローンチも発表しました。このアシスタントは、iOSおよびAndroidのFacebookおよびInstagramアプリ、ならびにデスクトップ版FacebookおよびInstagramのヘルプセンターでグローバルに展開されます。