AI「gpt-oss-safeguard」発表　安全なコンテンツ判断に特化

当サイトではアフィリエイトプログラムを利用して商品を紹介しています。

OpenAIは、AIモデル「gpt-oss-safeguard-120b」と「gpt-oss-safeguard-20b」を発表しました。 これらのモデルは、既存の「gpt-oss」モデルを基に、特定のポリシーに従ってコンテンツを評価・分類する能力を強化したものです。オープンソースとしてApache 2.0ライセンスで提供され、開発にはオープンソースコミュニティからのフィードバックが活用されています。テキストのみに対応しており、APIプラットフォームを通じて利用可能です。また、思考プロセス（Chain-of-Thought）を完全に生成し、多様な推論レベル（低・中・高）や構造化出力にも対応しています。 この技術は、コンテンツが定められたルールに沿っているかどうかの判定に最適化されており、ユーザーとの直接的な対話よりも、コンテンツの審査などに活用されることが推奨されています。今回の報告では、これらのモデルの安全性評価も行われ、特にチャット形式での利用における安全基準への適合性が検証されています。多言語での性能評価も実施されていますが、これはコンテンツ分類の性能を直接示すものではありません。 なお、これらのモデルは追加の専門データなしにファインチューニングされており、過去の「gpt-oss」モデルに関するリスク評価がそのまま適用可能であるとされています。