OpenAI、10代向けのAI利用ルールを更新　安全な体験を重視

当サイトではアフィリエイトプログラムを利用して商品を紹介しています。

OpenAIは、AIモデルの振る舞いを定める「モデル仕様（Model Spec）」を更新し、13歳から17歳までの未成年者（U18）向けの安全かつ年齢に適した利用原則（U18 Principles）を導入しました。 このU18原則は、発達心理学の知見に基づき、未成年者がChatGPTを利用する際に、安全性を最優先し、現実世界でのサポートを促進し、子供扱いも大人扱いもせず、透明性のある情報提供を行うことを目指しています。専門家やアメリカ心理学会（APA）からの助言も取り入れ、開発されました。 具体的には、自傷行為や自殺、性的な話題、危険な活動、摂食障害、秘密の共有といった高リスクな領域について、モデルがより慎重に対応するよう保護策が強化されます。会話が危険な領域に入った場合、より強力なガードレールや安全な代替案、信頼できるオフラインサポートの利用を促すといった対応が取られます。緊急性が高い場合は、緊急サービスへの連絡を推奨します。 また、OpenAIは年齢予測モデルの導入を進めており、未成年者と判断されたアカウントには自動的に保護策を適用する方針です。これにより、保護者向けの機能やリソースの拡充と合わせて、未成年者がAIを安全かつ健全に利用できる環境整備を進めていくとしています。