ChatGPTの情報漏洩リスクとは

プロンプト情報が学習データに用いられるリスク

ChatGPTでは、ユーザーが入力したプロンプト情報がモデルの学習や改良に利用される可能性があります。特にPersonalプランではそういったデータの利用が一般的ですが、データ学習の設定をオフにすることで対処することもできます。この設定を怠ると、重要な機密情報が学習データとして用いられ、他のユーザーが利用する際に類似の情報が生成されるリスクが考えられます。

アカウント情報が流出するリスク

アカウント情報の流出は、利用者にとって深刻な問題と言えます。たとえば、過去に日本のChatGPTアカウントが闇市場で売買された事例がありました。このような事態は、パスワードの弱さや多要素認証（2段階認証）の未設定が原因となる場合があります。このリスクはPersonal、Business、Enterprise問わず全てのプランで共通して存在しますので、適切な運用を心がけることが重要です。

チャット履歴が流出するリスク

過去にはChatGPTのバグにより、一部のユーザーが他のユーザーのチャット履歴タイトルを閲覧できた事例が報告されています。チャット履歴の流出は、特に機密情報を含む会話を行っている場合にブランドイメージや経済的損害を引き起こす可能性があります。個人の利用であれば被害が限定される場合もありますが、法人利用においては被害が拡大する恐れがあるため、BusinessプランやEnterpriseプランの選択、ならびに履歴管理機能の設定変更が求められます。

実際に起きた情報漏洩のパターン

某韓国企業では2023年、社内機密のソースコードを社員がChatGPTにアップロードし、誤って流出させたことが発覚しました。ソースコードや会議議事録といった社外秘の情報が、ChatGPTの学習データとして取り込まれてしまったのです。原因は社員の不注意によるものですが、企業は生成AIの利用ガイドライン強化を迫られました。利便性の高いツールだからこそ、適切な利用ルールを設ける重要性が再確認された事例と言えるでしょう。

プランごとのセキュリティの違い

情報漏洩のリスクはChatGPTのプランによっても異なります。ここからはChatGPTのプランごとのセキュリティについて解説していきます。

ChatGPTの各プランについて

ChatGPTには、利用者のニーズに応じた複数のプランが用意されています。それぞれのプランではセキュリティ対策や利用機能に違いがあるため、用途や目的に合わせた選択が必要です。主に提供されているプランとしては、無料利用が可能なPersonalプラン、より幅広い機能を提供するBusinessプラン、高度なセキュリティ対策が施されたChatGPT Enterpriseがあります。

これらのプランは、例えば個人利用を目的とした場合と企業利用を目的とした場合で特に使用感が異なるため、情報漏洩のリスク回避の観点からも選択が重要です。次の項目で各プランの特性とセキュリティ対策の違いについて解説します。

参照：https://openai.com/ja-JP/chatgpt/pricing/

Personalプラン

PersonalプランはChatGPTを最も手軽に利用できるプランで、無料でも提供されています。このプランでは、基本的な会話機能は利用できるものの、セキュリティ面では限定的な対応に留まります。「モデルの改善」がオンになっている場合、ユーザーが入力した情報がAIの学習に使用され、情報が流出する可能性があります。「モデルの改善」の設定状況についてはChatGPTの設定>データコントロールから確認いただけます。

なお、Personalプランユーザーは基本的に使いやすさが重視されている一方で、企業向けの高度なセキュリティ機能や専用サポートは提供されません。そのため、個人利用に適しているものの、業務での利用や機密情報の取り扱いを伴うケースでは注意が必要です。

Businessプラン

Businessプランは、主に中小規模の企業やチームメンバー間向けに設計されています。このプランではPersonalプランに比べてデフォルトでユーザーのビジネスデータや会話が学習に使用されないようになっているなど、情報漏洩リスクを抑えた利用が可能です。

さらに、Businessプランでは、複数人がアカウントを共有して利用できる仕組みなど、チーム利用を前提とした機能が提供されています。ただし、管理者はメンバーの使用状況を監視・分析することは現状はできないようです。例えば「使いこなせているユーザーがどんな活用をしているのか？」や「使えていないユーザーの傾向は？」などの分析を行うことが活用促進につながるため、本格的な全社導入の場合には注意が必要です。

ChatGPT Enterprise

ChatGPT Enterpriseは、企業の高度な要求に応えるために設計されたプランで、他のプランと比べセキュリティ対策がより強固になっています。このプランでは、ユーザーが入力した情報は完全に非公開で扱われ、AIの学習に使用されない仕組みが保証されています。また、専用のセキュリティインフラが提供され、データの暗号化やアクセス制御機能など、企業向けの高度な対策が実装されています。

さらに、ChatGPT Enterpriseでは、管理者はメンバーのログデータのモニタリングや分析が可能なため、企業内で情報漏洩リスクを最小限に抑えつつ、業務プロセスの効率化や活用を促進することが可能です。このように、ChatGPTの各プランには、それぞれセキュリティ対策や機能の違いがあります。特に情報漏洩リスクを懸念する場合には、BusinessプランやChatGPT Enterpriseの導入を検討することが重要です。

企業や個人が取るべきセキュリティ対策

対策1「モデルの改善」の設定変更

ChatGPTには、ユーザーの利用履歴をサービスの学習に反映させる「モデルの改善」という設定があります。この設定をオンのままにしてしまうと、入力された情報がモデル改善のためのデータに使用される可能性があります。情報漏洩を防ぐためには、この機能をオフに設定することを推奨します。この変更を行うことで、会話履歴が学習に使用されなくなります。特にBusinessプランやChatGPT Enterpriseでは、デフォルトでこの機能が無効になっている点も大きな利点です。プライバシーを確保するために適切な設定変更を行うことが必須と言えるでしょう。

対策2 Businessプラン, ChatGPT Enterpriseの利用

ChatGPTを安全に利用するためには、利用中のプランを見直すことが重要です。特に企業としてChatGPTを活用するのなら、個人向けのPersonalプランではなく、BusinessプランやChatGPT Enterpriseを検討するべきです。これらのプランはより高度なセキュリティ機能が搭載されており、デフォルトでデータがOpenAIのモデル学習に利用されない仕組みになっています。また、これらのプランではユーザーがより詳細な管理と制御を行えるため、企業が抱える重要な機密情報の流出を防ぐことに役立ちます。機密情報を扱う業務では、こうしたセキュリティ対策が充実したプランに切り替えることがおすすめです。

対策3 法人向け生成AIサービスの導入

情報漏洩リスクをさらに軽減するために、法人向けの生成AIサービスの導入を検討するのも有効です。これらのサービスでは、データが外部に保存されたり利用されたりするリスクを最小限に抑える設計が施されています。

また、弊社が提供する法人向け生成AIサービス「ユーザーローカル ChatAI」では、ビジネス用途に最適化された追加機能を数多く搭載しており、例えば、業務プロセスを効率化するためのテンプレートやカスタマイズ機能が含まれています。文章生成や校正、翻訳などの基本的なタスクから、カスタマーサポートの自動化や議事録の作成といった高度な活用まで、幅広い用途で活躍します。これにより、多くの企業が業務効率の向上や従業員の負担軽減を実現しています。

ユーザーローカルChatAIの資料をダウンロード

対策4 機密情報を入力しないためのガイドラインの作成

セキュリティ対策において、意識の向上は欠かせません。企業や個人がChatGPTを利用する際には、機密情報や個人情報を入力しないようにするガイドラインを作成し、徹底する必要があります。例えば、社員に対して「顧客情報や業務に関する具体的な数値、未公開のプロジェクト情報は入力しない」などの方針を明確に伝え、誤入力を防ぐ対策を講じましょう。また、ChatGPTを利用する目的や適切な使用例を定義することで、不注意な入力による情報漏洩のリスクを大幅に減らすことができます。