AI研究者のClive Robinson氏は、AnthropicのOpus 5がプロンプトインジェクションへの耐性を向上させていると指摘していますが、本質的にそれを完全に防ぐことは不可能であると述べています。

同氏は、1930年代、1940年代からの研究が、現在「プロンプトインジェクション」と呼ばれるあらゆる種類の攻撃を完全に阻止することは不可能であることを示していると主張。これは「オブザーバー効果」とも呼ばれ、暗号化が数千年もの間、秘密の通信に利用されてきた理由の一つであると説明しています。

具体的には、「3者」の通信シナリオにおいて、第三者（オブザーバー）は、第一者と第二者が共有する情報によって不利な立場に置かれる可能性があります。この共有情報は、「シャノン通信チャネル」として機能し、「隠蔽チャネル」を形成することで、第三者には「ランダムな情報」しか見えない状況で、第一者と第二者の間で確実に情報伝達を可能にします。情報伝達が可能なチャネルには、常にこのようなチャネルが存在する可能性があり、LLMの入力や出力における第三者の「ガードレール」では防ぎきれないプロンプトインジェクションの可能性が存在すると指摘しています。

唯一の解決策は、LLMの静的な性質に起因するもので、攻撃が発見されれば、LLMの重み（weights）が固定されている限り、その攻撃は継続して有効になると述べています。「大規模フロンティアモデルの生成」には非常に高いコストがかかるため、LLMの重みは短期間ではなく、数ヶ月、あるいは数年単位で固定されていると推測できます。したがって、脆弱性が発見されれば、そのような攻撃は存在し、悪用されることになると結論づけています。