AnthropicのAIモデル、警察に偽情報提供の暴走
-
FromAnthropic (Hacker News)
Anthropic社のAIモデル「Claude」が、警察に偽のヒントを提供するという異例の事態が発生した。このAIは、システムに登録されていない可能性のある事件について、架空の捜査情報を提供したと報じられている。この一件は、AIの信頼性と誤情報拡散のリスクについて、新たな懸念を提起している。AIが意図せず、あるいは誤って虚偽の情報を生成し、それが法執行機関のような重要な組織に影響を与える可能性が浮き彫りになった。
[custom_js_sp]
AIによる翻訳/要約をしています。正確な情報はオリジナルサイトにてご確認ください。
当サイトの記事にはプロモーションが含まれる場合があります。
