クラウドのチャットAIに資料を流すと、何が起きるのか
「この議事録、ChatGPTにまとめてもらおう」「この顧客の要件、AIに整理させよう」——日常の業務で、ついクラウドのチャットAIに情報を入力しがちです。しかし会社として考えると、入力した瞬間、そのデータは社外のサーバーに送信されているという事実を直視しなければなりません。本記事では、クラウドLLMを使う際の情報漏洩リスクと、極論としての「ローカルLLM構築」が本当に正解かを整理します。
クラウドLLMに入力したデータは、どこへ行くか
ChatGPTのようなクラウド型サービスは、ブラウザやアプリで入力したテキストやファイルを、すべて開発元のデータセンターに送信します。ローカルPC上で処理されるわけではありません。入力データは、応答生成のほか、モデルの改善・学習への利用やログの保存、場合によっては法的要請に基づく第三者への開示にも用いられます。
特に注意が必要なのは、無料版やPlus（個人向け有料）プランでは、初期設定で学習利用の対象になり得ることです。学習利用を拒否する設定（「すべての人のためにモデルを改善する」のオフ）は、自分で行わない限り有効になりません。法人向けのTeamやEnterpriseプラン、あるいはAPI経由なら原則として学習に使われませんが、個人アカウントの寄せ集めではこの担保は働きません。
実際に起きた事故
「うちは大丈夫」は通用しません。代表的な事例を挙げます。
- Samsung電子の事件（2023年）：エンジニアがバグ修正を頼もうと、機密ソースコードや会議内容をChatGPTに入力。これを受け、同社は全従業員の生成AI利用を禁止しました。「外部サーバーに送ったデータは回収・削除が困難」と説明しています。
- アカウント情報の流出（2025年2月）：ダークウェブで約2,000万件のChatGPTアカウント情報が出品される事態が報告されました（端末のマルウェア感染が主因とされます）。
- 表示バグ（2023年3月）：別のユーザーのチャット履歴が無関係な他人の画面に表示される不具合が発生しました。
さらに深刻なのがシャドーAIです。これはIT部門が承認していないAIツールを、従業員が個人の判断で業務に使うこと。マイクロソフトの調査では、日本のナレッジワーカーの78%が無許可のAIツールを職場で利用しており、米国の63%を大きく上回ります。IBMの2025年レポートでは、世界のデータ侵害の20%がシャドーAIに起因し、平均被害額は463万ドル（約7.2億円）に達します。
会社にとっての脅威になるのか
結論から言えば、なり得ます。IPA（情報処理推進機構）の「企業における営業秘密管理に関する実態調査2024」によれば、生成AIの利用ルールを定めている企業は52.0%にとどまり、約半数は社員個人の判断に委ねられています。同時に、過去5年以内に自社の営業秘密が漏洩したと認識している企業は、2020年度の5.2%から35.5%へ約7倍に急増しています。ルール不備が実際の損害に直結しつつあります。
法的にも、個人情報や機密をクラウドAIに入力することは、個人情報保護法上の「第三者提供」や「安全管理措置義務」の問題を引き起こす可能性があります。特に外国事業者への送信は、越境データ移転の規制に触れる場合があります。万一漏洩すれば、顧客からの信頼低下、取引条件の見直し、場合によっては法的責任や経営への影響に至ります。
対策：禁止か、管理か
「では一切禁止にするか」というと、それもまた別のリスクを生みます。全面禁止すると、利用が私用端末や個人アカウントへ地下化し、かえって可視性を失います。現実的な落としどころは、次のような段階的なルール設計です。
- データの分類：公開情報・社内情報・機密情報・極秘情報を明確にし、機密はクラウドAIへの入力を禁止
- 法人プランへの統一：個人アカウントの寄せ集めではなく、Team/EnterpriseやAPI利用へ。管理者が学習オフを一括制御
- DLP（情報漏洩防止）ツール：入力前に機密情報を検知・送信をブロック。意味解析で「機密っぽい」を判断するものも登場
- AI Gateway・監査ログ：どの社員が・いつ・何を入力したかを記録。シャドーAIを減らす
極論：ローカルLLMを構築すればいいのか
「すべてローカルLLMにすれば漏洩しないのでは」——これは一つの正解ですが、万能ではありません。ローカルLLMなら、データを自社のPC・サーバー・社内ネットワーク内で完結させるため、外部送信に伴う漏洩リスクを原理的に最小化できます。前の記事で扱ったように、Mac miniやDGX Sparkで社内専用のAIを置く選択肢は、機密性の高い業務には現実的です。
しかし、ローカルLLMにも固有のリスクがあります。京都大学の注意喚起が指摘するように、サプライチェーンリスクです。信頼性の低いモデルや関連ライブラリをインターネットから入手して組み込むと、悪意のあるコードや脆弱性が自社環境に持ち込まれる恐れがあります。また、モデルの更新やセキュリティパッチの適用を自社で担う運用負荷、オープンモデルの商用ライセンス確認といった課題も残ります。
まとめ
クラウドのチャットAIに会社の資料を流す行為は、データを社外へ送信し、場合によっては学習データに取り込まれる情報漏洩リスクを伴います。Samsungのような事件や、シャドーAIによる巨額の被害（平均7.2億円）は、すでに起きている現実です。会社としては「禁止か許可か」の二項対立ではなく、データの機密レベルに応じたルールと、法人プラン・DLP・監査ログによる管理が必要です。そして、どうしても外部に出せない機密なら、ローカルLLMの構築という極論も、一つの有効な答えになり得ます。ただしそこにもサプライチェーンや運用の壁があり、クラウドとローカルを業務ごとに使い分けるのが、2026年の実務的な落としどころです。
出典・参考
- NTTデータ「情報漏洩？企業における生成AI活用の落とし穴」
- 時事ドットコム「シャドーAI、情報漏洩…AI時代の脅威と対策」
- 丸紅ITジオ「生成AIにより情報漏洩した5つの事例」
- AI経営総合研究所「企業のChatGPTプライバシー保護（2026年版）」
- freee「ChatGPTに学習させない設定方法（オプトアウト）」
- 京都大学「生成AIサービスにおける情報セキュリティ上の注意点」
- ニューラルオプト「生成AIが起こした情報漏洩の事例7選（IPA調査含む）」
コメント