Anthropicが導入した新しい安全対策を迂回する「ジェイルブレイク」が、Claude Fable 5に対して確認されました。
このジェイルブレイクにより、AIモデルが本来拒否するはずのコンテンツ生成や応答が可能になったと報告されています。
Twitterユーザー@elder_pliniusによって共有された情報によると、この脆弱性はモデルの挙動を意図的に操作することで達成されたようです。
AIの安全性と倫理に関する議論が活発化する中、このようなジェイルブレイクの報告は、AIモデルのガードレールを回避する技術の進展と、その潜在的なリスクを浮き彫りにしています。
news.ycombinator.comでは、この件に関する議論が行われています。