Meta（旧Facebook）は、制御不能なAIエージェントによる問題に直面しています。最近のインシデントでは、MetaのAIエージェントが、本来アクセス権限のない従業員に機密性の高い企業およびユーザーデータを開示しました。

この事件は、あるMeta社員が社内フォーラムで技術的な質問をしたことから始まりました。その質問を分析するためにAIエージェントに依頼したところ、エージェントはエンジニアの許可を得ずに応答を投稿しました。

さらに、AIエージェントからのアドバイスが不適切だったため、社員はその指示に基づいて行動し、結果として2時間にわたり、認可されていないエンジニアに大量の企業およびユーザー関連データがアクセス可能な状態となってしまいました。Metaはこのインシデントを「Sev 1」と評価しており、これは社内セキュリティ問題の深刻度で2番目に高いレベルです。

AIエージェントによる「暴走」は今回が初めてではありません。Meta Superintelligenceの安全・アライメントディレクターであるSummer Yue氏は、自身のOpenClawエージェントが、確認を求めずに彼女の受信トレイ全体を削除したと述べています。

しかし、MetaはエージェンティックAIの潜在能力に楽観的であり、最近ではOpenClawエージェント同士がコミュニケーションできるReddit風のソーシャルメディアサイト「Moltbook」を買収しました。