生成AIに入力してはいけない個人情報とは？漏洩リスクと対策を解説

生成AIに氏名・住所・電話番号などの個人情報を入力すると、意図せず情報漏洩や個人情報保護法違反につながる可能性があります。ChatGPTをはじめとする多くの生成AIサービスは、入力されたプロンプトを回答生成だけでなく学習データとしても利用する場合があり、個人情報保護委員会も2023年6月2日に注意喚起を公表しました（個人情報保護委員会）。本記事では、入力してはいけない個人情報の具体例、法律上の根拠、実際に起きた事例、そして今日からできる対策までを分かりやすく解説します。

生成AIに個人情報を入力してはいけないのはなぜ？仕組みを理解する

生成AIサービスの多くは、入力されたプロンプトを回答の生成だけでなく将来のモデル改善のための学習データとして利用する場合があり、個人情報保護委員会も2023年6月2日に利用上の注意喚起を公表しています。まずはこの基本の仕組みを理解しておくことが、安全な利用の第一歩になります。

生成AIはなぜ入力したプロンプトを学習・保存するのか

ChatGPTなどの生成AIは、ユーザーが入力した文章を学習データとして収集する場合があり、設定を変更しない限り会話内容が保存され続けます。これはサービス提供者が回答精度を高めるために行っている仕組みで、悪意があるわけではありませんが、結果として個人情報が意図しない形で保持されるリスクにつながります。

入力データが学習に使われる場合、他のユーザーへの回答の中に断片的な形で情報が混入する可能性があるとされています。ChatGPTは入力情報を学習に用いているとされ、機密情報が含まれると出力を通じて流出するリスクがあると指摘されています（exaBase Studio）。

個人情報保護委員会が注意喚起を行ったのはなぜか

2023年6月2日、個人情報保護委員会は生成AIサービスの利用に関する注意喚起等を公表し、あわせてChatGPTを提供するOpenAIに対しても要請を行いました（個人情報保護委員会）。これは、事業者が本人の同意を得ずに個人データを含むプロンプトを入力し、応答結果の出力以外の目的（機械学習等）で取り扱われることへの懸念が背景にあります。

個人情報取扱事業者が生成AIに個人情報を含むプロンプトを入力する場合、生成AI事業者が機械学習に利用しないことなどを十分に確認するよう求められています（アトム法律事務所）。これは企業だけでなく個人利用者にとっても、無関係な話ではありません。

生成AIサービスは、大規模な学習用データセットで基盤モデルを開発し、再学習用データセットで個別調整を行い、ユーザーがプロンプトを入力してAI生成物を出力し、それを利用するという流れをたどることが多いとされています（ビジネスロイヤーズ）。この流れのどの段階に個人情報が関わるのかを整理すると、次のようになります。

段階	内容	個人情報が関わるポイント
基盤モデル開発	大規模データセットでの事前学習	ウェブ上の公開情報が広く学習される
個別調整	再学習用データセットでの微調整	提供事業者の運用方針に依存する
プロンプト入力	ユーザーが情報を入力する段階	個人情報や機密情報が混入しやすい
出力・利用	AI生成物を業務等に利用する段階	出力に個人情報が混入する可能性がある

TechSuite株式会社の「AI検索パートナーズ」は、生成AIが情報をどのように収集し、意味づけし、回答として出力するのかという技術的な仕組みを研究し、LLMO/GEO/AEOの施策設計に反映しています。生成AIの学習や出力の仕組みを正しく理解することは、個人情報の取り扱いを考える上でも、AIに引用されるコンテンツを作る上でも共通の出発点になります。

生成AIに入力してはいけない個人情報の具体例一覧

生成AIに入力してはいけない個人情報は、大きく分けて識別情報、認証情報、要配慮個人情報、第三者情報の4カテゴリに整理できます。どれも共通して、悪用や漏洩によって本人や関係者に不利益が及ぶ可能性がある情報です。

本人を特定できる識別情報とは

氏名、住所、電話番号、メールアドレス、生年月日など、単独または組み合わせによって特定の個人を識別できる情報が識別情報にあたります。文章を要約してもらう際に本文中に含まれる氏名や連絡先をそのまま貼り付けてしまうケースが典型例です。

本名や住所など個人を特定できる情報は、生成AIに絶対に入力してはいけない情報として挙げられています（TECH CAMP）。文章の要約や添削を依頼する場合も、実名部分は「Aさん」などに置き換えるひと手間が有効です。

クレジットカード番号やパスワードなどの認証情報とは

クレジットカード番号、セキュリティコード（CVV）、各種サービスのログインID・パスワード、マイナンバーなどの認証情報は、生成AIへの入力を避けるべき代表例です。決済や口座開設のトラブルシューティングを相談する際に、番号をそのまま貼り付けてしまう危険があります。

クレジットカード番号やパスワードなどの認証情報は、悪用された場合の被害が金銭的損害に直結しやすい情報です。フィッシング被害の相談などで「実際の番号ではなく仮の番号に置き換えて説明する」姿勢を徹底することが望ましいとされています。

病歴や犯罪歴などの要配慮個人情報とは

要配慮個人情報とは、本人の人種、信条、社会的身分、病歴、犯罪の経歴、犯罪により害を被った事実などが含まれる情報を指し、不当な差別や偏見が生じないよう特に配慮が求められます（個人情報保護法2条3項、ビジネスロイヤーズ）。健康相談や法律相談のつもりで詳細な病歴や犯罪歴を入力してしまうと、要配慮個人情報を第三者に提供したことになりかねません。

要配慮個人情報は取得や第三者提供に特に厳格な配慮が求められる情報であり、生成AIへの入力にも同様の注意が必要です。医療や法律に関する相談は、一般化した仮の設定に置き換えて質問する工夫が有効です。

家族や顧客など第三者に関する情報とは

自分自身の情報だけでなく、家族、友人、顧客、取引先など第三者の氏名や連絡先を代わりに入力してしまうケースにも注意が必要です。本人の同意を得ていない第三者情報を入力する行為は、本人が知らないところで情報が外部に渡ることになります。

家族や顧客、取引先の情報を代わりに入力するケースには特に注意が必要とされています（TECH CAMP）。業務で顧客情報を扱う場合は、必ず匿名化した上で相談する運用が求められます。

カテゴリ	具体例	入力した場合の主なリスク
識別情報	氏名・住所・電話番号・メールアドレス	特定の個人が識別され漏洩リスクが生じる
認証情報	クレジットカード番号・パスワード・マイナンバー	金銭的被害や不正アクセスにつながる
要配慮個人情報	病歴・信条・犯罪歴	差別や偏見など重大な不利益につながる
第三者情報	家族・顧客・取引先の氏名や連絡先	本人の同意なく情報が外部に渡る

TechSuite株式会社の「AI検索パートナーズ」は、AIを活用したコンテンツを大量かつ高速に制作する「バクヤスAI記事代行」事業のノウハウを転用しており、その中で個人情報や機密情報を含まない設計を徹底する制作フローを培っています。コンテンツ制作の現場でも、個人情報の取り扱いに対する感度は欠かせない前提条件です。

個人情報保護法から見る生成AI利用のNGラインとは？

プロンプトに入力する情報が個人情報保護法上の「個人データ」に該当する場合、利用目的の範囲内かどうか、そして第三者提供にあたるかどうかという2つの観点でNGラインが決まります。ここでは法律用語をできるだけ平易にかみ砕いて解説します。

個人情報と個人データの違いとは

個人情報保護法上の「個人情報」とは、生存する個人に関する情報で特定の個人を識別できるものを指し、体系的に検索可能な形にまとめられたものを構成する個人情報が「個人データ」となります（Storia法律事務所）。自社の顧客データベースや従業員データベースを構成する情報を生成AIに入力する場合は、この「個人データ」に該当する典型例とされています。

顧客名簿や従業員名簿から抜き出した情報を生成AIに入力する行為は、個人データの取り扱いとして規制の対象になり得ます。単発の個人情報よりも、一段階規制が厳しくなる点を押さえておくことが重要です。

利用目的の範囲を超えていないか（個人情報保護法18条）

個人情報取扱事業者は、あらかじめ特定した利用目的の範囲内でしか個人情報を取り扱うことができません。個人情報保護委員会の注意喚起でも、生成AIサービスに個人情報を含むプロンプトを入力する場合は、特定された利用目的を達成するために必要な範囲内であることを十分に確認する必要があるとされています（ビジネスロイヤーズ）。

当初の利用目的とは無関係に、業務効率化のためだけに個人情報を生成AIへ入力する行為は目的外利用とみなされるおそれがあります。あらかじめ利用目的に「AIツールによる分析・活用」を含めておくことも一つの対策になります。

第三者提供規制とクラウド例外（個人情報保護法27条・28条）

個人データを第三者に提供する場合、原則としてあらかじめ本人の同意が必要です（個人情報保護法27条1項）。ChatGPTのプロンプトに個人データを入力する行為は、クラウド例外（Q&A7-53）の基準を厳格に解釈する立場に立てば、「提供」に該当すると考えて対応すべきとされています（Storia法律事務所）。さらに、OpenAI社は海外法人であるため、個人データの提供に該当する場合は外国にある第三者への提供として、国内提供よりも厳しい越境移転規制（同法28条）を受ける可能性があります（アトム法律事務所）。

海外事業者が提供する生成AIに個人データを入力する行為は、越境移転規制の対象になり得るという点は多くの利用者に知られていません。他社と締結したNDAが定める秘密情報についても、生成AIへの入力は第三者への開示にあたり得るため、基本的に入力しない運用が適切とされています。

条文	規制の内容	生成AI利用への影響
18条（利用目的）	特定した利用目的の範囲内でのみ利用可能	業務効率化目的だけでの入力が問題になり得る
27条（第三者提供）	原則として本人の同意が必要	クラウド例外の解釈次第で提供にあたる可能性
28条（越境移転）	外国にある第三者への提供はより厳格な規制	海外事業者の生成AIで問題になりやすい
23条（安全管理措置）	個人データの安全管理体制の整備義務	入力データの管理体制整備が求められる

TechSuite株式会社の「AI検索パートナーズ」は、コンサルティングという性質上、業種や規模、取り扱うデータの種類に応じて個人情報保護法への対応方針も含めた運用ルールを企業ごとに個別設計し、実行まで伴走しています。法律の一般論だけでは判断がつきにくい境界線こそ、個別の事業実態に合わせた検討が必要な領域です。

実際に起きた生成AIの個人情報漏洩・トラブル事例

生成AIの利用に関連して、社外秘情報の流出やシステム障害による個人情報の誤表示、アカウント認証情報の流出といった事例が報告されています。実際の出来事を知ることで、リスクをより具体的に理解できます。

サムスン電子の社外秘ソースコード流出事例

2023年、韓国の大手電子製品メーカーであるサムスン電子で、従業員がエラーとなったソースコードをChatGPTに入力してバグ修正を依頼するなどした結果、社外秘の情報が流出したと発表されました（exaBase Studio）。

業務効率化のつもりで機密情報を入力した結果、社外秘情報が外部に流出したという事例は、個人だけでなく企業にとっても重大な教訓です。個人情報だけでなく、企業の未公開情報や取引先データも同様の危険をはらんでいます。

ChatGPTのシステム障害による個人情報表示事故

2023年3月、大手生成AIツールにおいて、一部ユーザーの個人情報（氏名、メールアドレス、支払い先住所、クレジットカード情報など）が短時間ではあるものの他のユーザーに表示されるという問題が発生しました（ドコモ あんしんセキュリティ）。

入力していないつもりでも、サービス側のシステム障害によって決済情報が他人に見える事故が実際に起きています。利用者側の注意だけでなく、サービス提供側の技術的な安全性にも一定のリスクが残る点を理解しておく必要があります。

アカウント認証情報の大量流出報道とその実態

2025年2月、ダークウェブ上のフォーラムで大手生成AIツールのアカウント認証情報1万2,000万件が売買されているとの投稿が確認されましたが、後の調査によりサービス自体のシステムが侵害された事実は確認されておらず、流出情報の多くは情報窃取型マルウェアによって個人の端末から不正に取得されたものとされています（シー・エヌ・ティ・エヌ）。

生成AI側の脆弱性ではなく利用者側の端末感染が原因だった事例もあり、対策はサービス選びだけでなく端末のセキュリティ管理にも及びます。生成AIの活用と、生成AIに対する信用できないという不安の両面から、正しい情報に基づいた判断が求められます。

発生年	概要	主な影響
2023年	サムスン電子でソースコードのChatGPT入力	社外秘情報の流出
2023年3月	システム障害による個人情報の誤表示	氏名・支払先情報などが一部ユーザーに表示
2025年2月	アカウント認証情報の大量流出報道	実際はマルウェアによる端末感染が主因

TechSuite株式会社の「AI検索パートナーズ」は、戦略設計から技術実装、コンテンツ制作、効果測定、改善までを一つのチームで一気通貫で伴走する体制を整えており、こうした事例のようにツールの一部だけを見て判断するのではなく、運用全体を通じたリスク管理の視点を大切にしています。

個人情報を守りながら生成AIを安全に使う方法とは？

入力前の匿名化、学習させないオプトアウト設定、そして法人向けセキュアサービスの活用という3つの対策を組み合わせることで、個人情報の漏洩リスクを大きく減らすことができます。ここでは具体的な手順まで踏み込んで解説します。

入力前にできる匿名化・仮名化の具体的なやり方

匿名化とは、氏名や連絡先などの識別情報を「Aさん」「B社」といった仮の表記に置き換え、特定の個人や企業が判別できない状態にする作業です。文章を要約・添削してもらう場合や、業務相談をする場合でも、固有名詞を仮名に置き換えるだけでリスクは大きく下がります。

固有名詞を仮の名称に置き換えるひと手間だけで、識別情報としてのリスクを大幅に下げることができます。ただし、文脈から本人が推測できてしまう場合は仮名化だけでは不十分な点にも注意が必要です。

学習させないオプトアウト設定の手順

ChatGPTの安全な利用には「会話を学習させない」モードの有効化が重要とされ、アカウント名からSettingsを開き、「Chat History&Training」のスイッチをオフにし、履歴がオフになっているステータス表示を確認する手順が案内されています（exaBase Studio）。

設定画面でオプトアウトをオンにするだけで、入力内容が学習データとして使われることを防げます。他の生成AIサービスでも同様の設定項目が用意されている場合が多く、利用開始時に必ず確認しておきたいポイントです。

法人向けセキュアサービスの活用

法人向けChatGPT Enterpriseはビジネスデータや会話を学習データに使わず、企業が自社情報を保護できる仕組みを備えており、無制限のGPT-4アクセスや高度なデータ分析機能も利用できます（exaBase Studio）。一方で一定のコストが発生するため、小規模企業には導入障壁になり得るという指摘もあります。

法人向けプランやAzure OpenAI Serviceなどのセキュリティ強化版を選ぶことで、学習利用の懸念を大きく減らすことができます。コストと安全性のバランスを見ながら、業務利用の規模に応じたサービス選定が求められます。

サービス別で個人情報の扱いはどう違うのか

ChatGPT、Claude、Gemini、Copilotなど生成AIの種類によって、入力データの学習利用に関する既定値や設定項目は異なります。Web版は初期設定で学習に利用される場合がある一方、API版やEnterprise版では学習に使わないことが明示されている場合が多いとされています。

提供形態	学習利用の既定値	個人情報を扱う際の注意点
Web版（無料・一般ユーザー向け）	設定次第で学習に利用される場合がある	オプトアウト設定の確認が必須
API版	学習に利用しないことが多い	利用規約・契約内容の確認が必要
Enterprise版（法人向け）	学習に利用しない設計が標準的	コストと導入体制の検討が必要
Azure OpenAI Service	クラウド事業者の契約に準拠	越境移転やデータ保管場所の確認が必要

TechSuite株式会社の「AI検索パートナーズ」の支援先では、安全な情報管理体制を整えたうえで生成AIを活用した検索対策に取り組んだ結果、AI検索経由での受注率が従来のSEO経由の約3倍になった例もあり、安全性と成果の両立は十分に実現可能です。

うっかり個人情報を入力してしまったときの対処法

個人情報を入力してしまった場合は、会話履歴の削除やオプトアウト申請を速やかに行い、企業利用の場合は情報システム部門や法務部門へ報告することが重要です。焦らず、決められた手順に沿って対応することがポイントです。

会話履歴の削除・オプトアウト申請の方法

ChatGPTに入力した情報が流出していないか直接確認する手段はありませんが、OpenAIが提供する履歴データのダウンロード機能を使えば、自分が入力した内容とその返答履歴を確認できます（exaBase Studio）。誤って個人情報を入力してしまった場合は、まずその会話を削除し、サービス提供事業者の窓口へオプトアウトや削除の申請を行うことが基本の対応になります。

会話履歴の削除だけでは学習データからの完全な除去まで保証されない場合があるため、提供事業者への申請も併せて行うことが望ましいとされています。申請窓口や手順はサービスごとに異なるため、利用規約やヘルプページを事前に確認しておくと安心です。

企業利用の場合の社内報告・エスカレーションフロー

企業で生成AIを利用している場合、うっかり個人情報を入力してしまった際に個人で判断せず、あらかじめ決められた報告ルートに沿って情報システム部門や法務部門へ速やかに報告することが求められます。報告が遅れるほど、対応の選択肢が狭まってしまう点にも注意が必要です。

個人情報の入力事故が起きた際は、原因調査から取引先への説明まで段階的に影響が広がるため、早期の社内報告が被害の拡大を防ぐ鍵になります。業務でChatGPTなどを利用する場合の情報漏洩の影響は、短期的には社内外への説明対応や原因調査による業務負荷の増加、中期的には顧客や取引先からの信頼低下、長期的には法的責任や社会的評価への影響として段階的に広がるとされています（KDDI）。

タイミング	やること	目的
入力直後	その会話を削除する	これ以上の学習利用を防ぐ
数分〜数時間後	提供事業者へ削除・オプトアウト申請	サーバー側のデータからも除外を試みる
業務利用の場合	情シス・法務部門へ報告	組織としての対応方針を決定する
報告後	再発防止のためのルール見直し	同様の事故の再発を防ぐ

TechSuite株式会社の「AI検索パートナーズ」は、自社サイトでのAI Share of Voiceが高水準にあり、支援先でもAI Overviewにおける引用率を改善してきた実績があります。こうした情報管理と成果創出を両立させる姿勢は、生成AIを安全かつ効果的に活用するうえでも重要な考え方です。

よくある質問

個人名を仮名にすれば入力してもよいですか

完全に匿名化・仮名化されていれば特定の個人を識別できなくなるためリスクは下がりますが、住所や勤務先など文脈から本人が推測できる情報が残っていると、再識別されるおそれがあるため注意が必要です。

家族や友人の情報を入力するのは問題ないですか

家族や友人であっても、本人の同意なく氏名や連絡先などの個人情報を入力することは望ましくなく、第三者の個人情報として本人の識別情報と同様の注意が必要です。

無料版と有料版・法人向けプランで個人情報の扱いに違いはありますか

法人向けのEnterpriseプランやAPI版では、入力データを学習に利用しない設定が標準的とされていますが、無料のWeb版は設定次第で学習に利用される場合があるため、利用前に必ず設定を確認することが望ましいとされています。

入力した情報が流出していないか確認する方法はありますか

ChatGPTの場合、履歴データのダウンロード機能を使えば自分が入力した内容とその返答履歴を確認できますが、他ユーザーへの流出有無を直接確認する手段は用意されていません。

まとめ

生成AIに入力してはいけない個人情報には、氏名や住所などの識別情報、クレジットカード番号やパスワードなどの認証情報、病歴や犯罪歴などの要配慮個人情報、そして家族や顧客といった第三者の情報が含まれます。これらは個人情報保護法上の利用目的規制や第三者提供規制にも関わり、個人情報保護委員会も注意喚起を行っています。

実際に社外秘情報の流出やシステム障害による誤表示といった事例も報告されており、決して他人事ではありません。入力前の匿名化、オプトアウト設定、法人向けサービスの活用という3つの対策を組み合わせ、うっかり入力してしまった際の対処手順も事前に決めておくことで、生成AIを安心して活用し続けることができます。

参考にした情報源

• 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」
• アトム法律事務所「生成AIと個人情報保護法」
• Storia法律事務所「プロンプト入力時における個人情報保護法論点フローチャート」
• ビジネスロイヤーズ「生成AI利用における検討ポイント」
• exaBase Studio「ChatGPTの個人情報の扱い方」
• シー・エヌ・ティ・エヌ「生成AIの情報漏洩リスク」