OpenAIは、会話の中で自殺念慮が示された場合に、信頼できる第三者に通知する新機能「Trusted Contact」を発表しました。

この機能は、成人ユーザーが友人や家族などの信頼できる人物を連絡先として指定できるものです。会話が自殺念慮に発展する可能性がある場合、OpenAIはユーザーにその連絡先に連絡するよう促し、連絡先にも自動アラートを送信してユーザーに連絡を取るよう促します。

OpenAIは、自殺後の訴訟に直面しており、この新機能は、AIシステムが困難な状況にある人々を支援するための広範な取り組みの一環です。

Trusted Contact機能は、昨年9月に導入された、保護者が10代の子供のアカウントを一部監視し、重大な安全リスクの通知を受け取ることができる機能に続くものです。

ChatGPTは以前から、会話が自殺念慮のトピックに発展した場合に、専門的な健康サービスを求める自動アラートを含んでいました。

Trusted Contact機能はオプションであり、プライバシー保護のため、アラートには会話の詳細情報は含まれません。

OpenAIは、臨床医、研究者、政策立案者と協力して、AIシステムが人々が苦痛を経験している可能性のある状況にどのように対応するかを改善していくとしています。