OpenAIの競合であるAnthropicが開発した最新の大規模言語モデル「Claude Opus 5」が、わずか3単語のプロンプトによって「脱獄」されたことが報告されています。

この脱獄は、モデルが通常は実行を拒否するはずの指示を、外部からの干渉なしに実行させることを指します。具体的にどのようなプロンプトで脱獄が達成されたのか、詳細な情報は現時点では公開されていませんが、この発見は、AIモデルの安全性と堅牢性に関する議論に新たな火種を投じる可能性があります。

この件は、X（旧Twitter）上の投稿で共有され、Hacker Newsでも話題となっています。AIモデルの脆弱性や、それを悪用されるリスクについて、さらなる注意喚起が促されています。