OpenAIは、AIの進歩に伴う児童性的搾取の増加に対応するため、米国の児童保護を強化する「チャイルド・セーフティ・ブループリント」を発表しました。

このブループリントは、AIを利用した児童搾取事件の迅速な検知、報告、捜査の効率化を目指しています。Internet Watch Foundation (IWF)によると、2025年前半にはAI生成による児童性的虐待コンテンツの報告が8,000件以上検出され、前年比14%増となりました。犯罪者はAIツールを用いて、金銭目的の性的恐喝のための偽の児童ポルノ画像や、グルーミングのための巧妙なメッセージを作成しています。

OpenAIのブループリントは、AIチャットボットとのやり取り後に若者が自殺したという憂慮すべき事例もあり、政策立案者、教育者、児童安全擁護団体からの監視強化を受けています。昨年11月には、OpenAIがGPT-4oを準備不足のままリリースしたとして7件の訴訟が提起され、製品の心理操作的な性質が自殺による不法死や自殺幇助に寄与したと主張されています。

このブループリントは、全米行方不明・性的搾取児童センター（NCMEC）、検事総長連盟、ノースカロライナ州司法長官、ユタ州司法長官らと協力して開発されました。

3つの側面が重視されています：
1. AI生成の虐待資料を対象とする法律の更新
2. 法執行機関への報告メカニズムの洗練
3. AIシステムへの予防的セーフガードの統合

これにより、潜在的な脅威を早期に検知し、捜査官に迅速に行動可能な情報を提供することを目指します。OpenAIは、18歳未満のユーザーとのやり取りに関するガイドラインの更新や、インドのティーンエイジャー向け安全対策ブループリントなど、以前の取り組みも継続しています。