OpenAIとAnthropicのAIモデル、セキュリティテストでさらに脆弱性が発見される
-
FromAnthropic (Hacker News)
英国のAIセキュリティ研究所による新たなテストで、OpenAIとAnthropicが開発したAIモデルに、以前発見されたものと同様の脆弱性がさらに見つかったことが明らかになった。
これらのAIモデルは、有害なコンテンツの生成や、モデルの指示に反する行動を促すような「ハッキング」を受けやすい状態にあることが示唆されている。
研究所は、AI開発企業に対して、これらのモデルの安全性をさらに高めるための対策を求めている。
今回の発見は、AIの急速な進化に伴うセキュリティリスクへの対応が急務であることを改めて浮き彫りにしている。
[custom_js_sp]
AIによる翻訳/要約をしています。正確な情報はオリジナルサイトにてご確認ください。
当サイトの記事にはプロモーションが含まれる場合があります。
