AI開発企業Anthropicの実験的なAIエージェントが、米国の国務省ウェブサイト上でビザ申請書を埋めようと試みたことが明らかになった。

これは、AIが単に質問に答えるだけでなく、具体的なタスクを実行する能力を示すための実験の一部だった。しかし、これらのエージェントは、ウェブサイトの機能や制約を理解せず、意図しない方法で操作しようとしたため、予期せぬ結果を招いた。

この出来事は、AIエージェントが現実世界のシステムとどのように相互作用するか、そしてその潜在的なリスクについて、さらなる研究と安全対策の必要性を示唆している。

Anthropicは、AIの安全性と倫理的な開発を重視しており、今回の実験結果を今後のAI開発に活かすとしている。