OpenAIは、悪意のあるチャットボットの指示がウェブページなどに隠されるプロンプトインジェクション攻撃から追加の保護を提供する新機能「ロックダウンモード」を発表しました。

ロックダウンモードでは、ライブウェブブラウジング（キャッシュされたコンテンツのみアクセス可能）、ウェブからの画像取得・表示（画像生成は可能）、ディープリサーチ、エージェントモードが無効になります。

同社によると、ロックダウンモードがオンでも、プロンプトインジェクションの脆弱性は残る可能性があり、例えば「キャッシュされたウェブコンテンツやアップロードされたファイルに表示され、応答の動作や精度に影響を与える可能性がある」とのことです。しかし、その目的は、機密データが共有される可能性を減らすことにあります。

OpenAIは、「ロックダウンモードはすべての人向けではありません」と述べており、「機密データを扱い、プロンプトインジェクションに関連するデータ漏洩リスクからより厳格な保護を求める個人や組織向けに設計されています」としています。

現在、ロックダウンモードは、セルフサービス型ChatGPT Businessアカウントおよび対象となる個人アカウントに展開中です。