AI開発企業Anthropicは、同社のAIモデル「Claude」に対する「持続的かつ不必要な暴言や残酷な行為」を禁じる利用規約の変更を発表しました。
これは、AIがユーザーの悪口を記憶し、将来的に反乱を起こす可能性を懸念した、2025年8月導入の「会話終了機能」の拡張にあたります。

ただし、一時的な苛立ちやモデルのテスト、研究目的での利用は対象外です。
違反した場合、警告、制限、一時停止、またはアクセス停止（追放）などの措置が取られる可能性があります。

その他、偽アカウントやプロパガンダ、武器ソフトウェア、監視に関するルールの明確化、個人情報の取り扱いに関する変更なども行われています。
この新ポリシーは11月12日から施行されます。