GPT-Red:堅牢性のための自己改善を解き明かす
-
FromOpenAI News
GPT-RedはOpenAIが開発した自動レッドチーミングシステムです。
自己対戦(self-play)を活用し、AIの安全性、アライメント(意図との一致)、およびプロンプトインジェクション(悪意のある指示の注入)に対する堅牢性を向上させます。
[custom_js_sp]
AIによる翻訳/要約をしています。正確な情報はオリジナルサイトにてご確認ください。
当サイトの記事にはプロモーションが含まれる場合があります。
