Anthropic、プロンプト内の「Pi」「OpenClaw」を検索・ブロック
-
FromAnthropic (Hacker News)
Anthropicは、同社の大規模言語モデル(LLM)において、特定のキーワード「Pi」と「OpenClaw」をプロンプト内で検出し、ブロックする措置を講じていることが明らかになりました。この変更は、モデルの安全性を高めるための措置の一環と考えられます。具体的なブロックの理由や、どのような文脈でこれらのキーワードが問題視されるのかについての詳細は、現時点では公表されていません。しかし、AIモデルの意図しない動作や、潜在的な悪用を防ぐための継続的な取り組みの一環として、このようなキーワードフィルタリングは今後も導入される可能性があります。
[custom_js_sp]
AIによる翻訳/要約をしています。正確な情報はオリジナルサイトにてご確認ください。
当サイトの記事にはプロモーションが含まれる場合があります。
