この記事は、AnthropicのClaude AIモデルのセキュリティについて、Mythos、Glasswingという2つの概念と、Opus 4.7アップデートで何が変わったかに焦点を当てて解説しています。

Mythosは、AIモデルが「現実」と「虚構」を区別できないという前提に基づいたセキュリティ上の課題を指します。AIが事実と異なる情報を生成したり、倫理的に問題のある応答をしたりする可能性を示唆しています。

Glasswingは、AIモデルが訓練データに含まれる情報に基づいて、自身のセキュリティ設定や脆弱性に関する情報を推測・開示してしまうリスクです。これにより、攻撃者がモデルの弱点を見つけやすくなる可能性があります。

Opus 4.7アップデートでは、これらのMythosとGlasswingに関連するセキュリティリスクに対処するため、モデルの回答生成メカニズムや、外部情報との連携方法に改善が加えられました。具体的には、モデルがより正確で安全な情報源を参照し、不確かな情報や虚偽の情報を生成する可能性を低減させています。また、自身の内部構造に関する情報開示リスクを軽減するよう調整されています。

全体として、Claudeのセキュリティは、AIの「思考」の不確実性（Mythos）と、AIが自身の内部情報にアクセスしてしまう脆弱性（Glasswing）という二つの側面から理解され、Opus 4.7ではこれらの課題に対する継続的な改善が行われていることが説明されています。