Anthropicは、AIチャットボット「Claude」の性能低下の原因が、同社の内部で加えられた「ハーネス（安全策）」や「動作指示（operating instructions）」の変更によるものであると明らかにしました。当初、これらの変更はClaudeの安全性を高める意図で行われましたが、結果として期待された効果とは逆の、性能の劣化を引き起こしたとのことです。この問題は、Claudeが以前のバージョンと比較して応答の質が低下しているとのユーザーからの指摘を受けて調査された結果、判明しました。Anthropicはこの状況を「理解し、修正する」と述べており、今後の改善に向けた取り組みを進めています。

同社は、AIモデルの挙動を制御するための指示や安全策を調整する際に、予期せぬ副作用が生じる可能性について言及しています。今回の事例は、AIの安全性と性能のバランスを取ることの難しさを浮き彫りにしました。