Anthropic、サイバー・ジェイルブレイク開示プログラムを発表 – セキュリティ脆弱性の報告を奨励
-
FromAnthropic (Hacker News)
Anthropicは、自社AIモデルの「ジェイルブレイク」と呼ばれるセキュリティ脆弱性に関する開示プログラムを開始しました。
このプログラムでは、研究者や一般ユーザーが、AnthropicのAIシステム(Claudeなど)のセキュリティ上の弱点を発見した場合、HackerOneプラットフォームを通じて報告することを奨励しています。
成功した報告者には、脆弱性の重大性に応じた報酬が支払われます。
これは、AIの安全性と信頼性を高めるためのAnthropicの継続的な取り組みの一環であり、潜在的なリスクを特定し、修正することで、より安全なAIの開発を目指すものです。
[custom_js_sp]
AIによる翻訳/要約をしています。正確な情報はオリジナルサイトにてご確認ください。
当サイトの記事にはプロモーションが含まれる場合があります。
