中国は、米AI企業Anthropicが開発した大規模言語モデル「Claude」のコードに、セキュリティ上の脆弱性を発見したと発表しました。
中国サイバーセキュリティ企業「360」は、AnthropicのAIモデルから機密情報が流出する可能性を指摘しており、この脆弱性はAIモデルが訓練データに含まれる情報にアクセスできることに起因すると説明しています。
360は、Claudeのユーザーは、モデルが訓練データから機密情報を取得して回答を生成することを防ぐため、プロンプトエンジニアリングによる対策を講じるべきだと警告しています。一方、Anthropicは、この指摘についてコメントしていません。
この件は、AI開発におけるセキュリティリスクと、機密情報の保護という課題を浮き彫りにしています。