ChatGPTに高度な安全機能「ロックダウンモード」が追加

当サイトではアフィリエイトプログラムを利用して商品を紹介しています。

OpenAIは、ChatGPTに新たなセキュリティ機能「ロックダウンモード」と「昇格リスク」ラベルを導入しました。 これは、AIがウェブサイトや外部アプリと連携する際に増大する「プロンプトインジェクション」という、悪意のある指示でAIを操る攻撃からユーザーを保護するためのものです。ロックダウンモードは、特に機密性の高い情報を扱う経営者やセキュリティ担当者向けの高度なオプション設定です。このモードでは、ChatGPTが外部システムと連携する能力が大幅に制限され、例えばウェブブラウジングはキャッシュされた情報のみに限定され、直接的なネットワーク通信は行われません。これにより、機密情報が外部に漏洩するリスクを最小限に抑えます。 また、「昇格リスク」ラベルは、ChatGPT、ChatGPT Atlas、Codexといった製品群で、追加のリスクを伴う可能性のある機能に表示されます。これにより、ユーザーは機能利用に伴うリスクを事前に認識し、情報に基づいた選択ができるようになります。例えば、CodexがWeb検索を行う際の設定画面には、このラベルと共にリスクに関する説明が表示されます。 これらの機能は、既存のサンドボックスやURLからのデータ漏洩防止策、エンタープライズ向け管理機能などに加えて導入されます。OpenAIは、今後もAIの安全性とセキュリティを強化し、リスクが十分に軽減されたと判断された機能については「昇格リスク」ラベルを解除していく方針です。ロックダウンモードは、一般ユーザー向けにも数ヶ月以内に提供予定とのことです。