Crisis Management

生成AIに機密情報を入力してしまったら

生成AIに顧客情報や社内資料、取引先から預かった情報を入力・添付してしまった場合は、当該情報の追加の入力・共有を止め、入力内容や日時、利用したサービス・アカウントなどの記録を確保します。漏えいに当たるかどうかの結論を待たず、社内の担当部署へ連絡し、対応を進める必要があります。

情報がどこに保存され、誰に利用・閲覧され得るかは、入力時の契約や設定などによって異なります。入力した情報の種類によって、報告・通知や契約上の対応も変わります。

本稿では、生成AIへの情報入力が判明した企業に向けて、最初に確認する事項、契約・設定の調べ方、情報の種類に応じた対応、削除・利用停止の申入れとその限界を整理します。

最終更新日：2026年9月20日

生成AIへの入力が判明したとき、最初に確認すること

入力した情報の内容・権利者・対象人数と、個人データ、営業秘密、預かった秘密情報、著作物の該当状況
入力日時、発覚日時、入力したファイル・文章・履歴の所在
利用したサービス、運営事業者、アカウント、契約プラン、実際の送信経路
入力当時の規約と、学習利用・保持期間・第三者アクセスに関する設定
共有リンク、公開ボット、外部連携などによる利用・公開範囲の拡大
秘密保持契約、業務委託契約、社内規程と、報告・通知に関する条項

確認できない項目は「不明」と記録し、確認を待たずに、次の章以降の対応を並行して進めます。

ご相談いただけること入力した情報の種類と送信先の整理／個人情報保護法上の評価と報告・通知の要否の検討／契約・規約・設定の確認と事業者への照会／削除・利用停止の申入れ／取引先への通知と従業員に対する措置の検討／再発防止に向けた利用ルールの見直し

お問い合わせフォームへ

1　追加の入力・共有を止め、事実と記録を確保する
2　送信先の契約・設定から、情報の利用範囲を確認する
3　情報の種類ごとに、報告・通知と契約上の対応を判断する
4　削除・利用停止を要請し、再発防止につなげる
当事務所のサポート内容
よくあるご質問

1　追加の入力・共有を止め、事実と記録を確保する

広がりを止めることと、記録を残すことは、並行して行います

必要な記録の保全と並行して、既存の共有リンクの失効、公開ボット・共有会話の公開停止、外部連携の停止を進めます。新たな共有リンクの発行を止めるだけでは足りません。公開が続くことで被害が広がる場合は、完全な記録の確保を待たずに遮断し、実施した措置とその時刻を記録します。

履歴やファイルの削除は、証拠への影響と、被害の拡大を防ぐ必要性の双方を踏まえて判断します。何を、いつ、どのアカウントから送ったかを示す記録は、その後の判断の基礎になりますので、削除を先行させると、報告や通知の内容を組み立てられなくなることがあります。

入力した情報にパスワードやAPIキー等の認証情報が含まれていた場合は、履歴の削除とは別に、情報システム部門と、失効や変更の要否を検討します。

併せて端末の隔離や第三者による侵入の調査が必要な場合は、サイバー攻撃・情報漏えい対応をご覧ください。

記録として確保するもの

入力した文章・ファイルの内容と版、入力日時、利用したサービスとアカウント、当時の設定、会話やプロジェクトの共有範囲、外部連携の有無を記録します。画面の表示だけでなく、管理者側で取得できる利用ログがある場合は、その保全も検討します。

誰が、いつ、何を知ったかを記録する

入力した情報に個人データが含まれ、報告の対象となる漏えい等又はそのおそれがあると分かった場合には、報告期限の管理が必要になります。法人では、部署内の従業者が当該事態を知った時点が基準となる場合があり、調査の完了や法務部門の判断まで起算を遅らせることはできません。誰が、いつ、どの事実を把握したかを記録し、社内の担当部署への連絡と期限の管理を並行して進めます。

2　送信先の契約・設定から、情報の利用範囲を確認する

確認するのは三つです

第一に、入力した情報が何に使われるのかです。モデルの学習、サービスの改善、不正利用の監視など、目的によって取扱いが異なります。第二に、どこに、どれだけ残るのかです。会話、アップロードしたファイル、ログ、共有先や保存先を分けて確認します。第三に、いつの時点の条件かです。入力した時点で適用されていた規約・設定と現在の設定とは異なることがあり、設定の変更が将来の入力にしか及ばない場合もありますので、変更履歴を確認します。

「法人向け」「学習利用なし」といった表示だけでは、これらは判断できません。個人情報保護委員会も、令和5年6月2日の注意喚起において、生成AIサービスに個人情報を含むプロンプトを入力する場合には、特定された利用目的の達成に必要な範囲内であることを十分に確認することを求めています。

個人データについては、三段階で確認します

入力した情報に個人データが含まれる場合は、次の順序で確認します。

第一に、個人情報保護法27条にいう「提供」があったかどうかです。個人情報保護委員会のガイドラインに関するQ&Aは、クラウドサービスの利用について、判断の基準は保存している電子データに個人データが含まれているかどうかではなく、当該サービスを提供する事業者において個人データを取り扱うこととなっているのかどうかにある、としています。

もっとも、「人が閲覧しない」「学習に使わない」といった説明があることから、直ちに提供者が当該データを取り扱わないと判断できるわけではありません。規約と設定に加えて、応答を生成する過程での処理の内容、保存の範囲、提供者側のアクセスの管理まで確認する必要があります。クラウドサービス一般についての整理を、生成AIサービスにそのまま当てはめることはできません。

第二に、提供があるとして、それが委託に伴うものといえるかどうかです。利用目的の達成に必要な範囲内において個人データの取扱いの全部又は一部を委託することに伴って提供される場合、提供先は第三者に該当しません（同法27条5項1号）。もっとも、この場合、提供先は委託された業務以外に当該個人データを取り扱うことはできません。

第三に、委託の範囲に収まらない利用がある場合に、その利用について適法な根拠があるかどうかです。事業者が入力データを自社のモデルの学習など別の目的にも用いる場合は、その利用まで委託の範囲に含まれるのか、第三者提供としての対応が必要なのかを検討します。

なお、同Q&Aは、委託先が、委託元の利用目的の達成に必要な範囲内である限りにおいて、提供された個人データを自社の分析技術の改善のために利用することができる、としています。もっとも、これは委託元の利用目的の達成に必要な範囲内という限定を付したものであり、一般に公開する汎用的なモデルの学習を包括的に認めたものではありません。

委託に当たる場合も、外国にある事業者の場合も、検討は残ります

委託に当たる場合には、委託先に対する必要かつ適切な監督が求められます（同法25条）。また、提供に当たらないと整理される場合であっても、自ら果たすべき安全管理措置を講じる必要があることは変わりません。

提供に当たる場合には、提供先が外国にある第三者に当たるかどうかと、同法28条上必要な対応を確認します。ここで判断の対象になるのは提供先の事業者であって、データが置かれているサーバの所在地ではありません。国内のサーバに保存される場合であっても、外国にある事業者がそのデータを取り扱っているのであれば、外国にある第三者への提供に当たり得ます。他方、外国の法令に準拠して設立された事業者であっても、日本国内で個人情報データベース等を事業の用に供していると認められるときは、これに当たりません。国内に出張所があることだけで決まるものではなく、国内における事業の実態を確認することになります。

提供に当たらないと整理される場合も、確認はこれで終わりません。事業者やサーバが外国にあるのであれば、その国の個人情報の保護に関する制度等を把握したうえで、自社の安全管理措置に不足がないかを点検します。あわせて、保有個人データの安全管理のために講じた措置として本人の知り得る状態に置いている内容が、今回判明した実際の利用実態と合っているかも確認します。これは、事故について本人に個別に通知すること（同法26条2項）とは別の事柄です。

送信先や設定が分からないとき

送信先が不明な場合は、追加の入力と外部連携を止めたうえで、画面・アプリ・アカウント・通信記録から実際の送信経路を確認します。情報システム部門と契約担当者に、接続先、処理を行う事業者、共有の範囲を照会します。

設定が不明な場合は、安全側の設定であったと推定せず、入力当時の規約・管理設定・変更履歴を確認します。確認できない項目は「不明」と記録し、提供者に対して、学習への利用、保持期間、第三者によるアクセス、削除の取扱いを照会します。

いずれの場合も、確認の担当者と回答期限を決め、判明を待たずに進めるべき報告・通知の検討を並行させます。

3　情報の種類ごとに、報告・通知と契約上の対応を判断する

入力した情報が何であったかによって、検討する法令も、期限も異なります。一つの情報が複数の区分に当てはまることがありますので、該当する区分をすべて確認します。

情報の種類	結論を分ける確認事項	先行する対応	報告・通知・期限の扱い
個人データ	実際の取扱い、送信・閲覧の範囲、データの内容・人数、漏えい等のおそれ、法定報告の対象性	対象者・情報・送信範囲を特定し、個人情報の責任部署へ連絡する	第三者提供等の評価と漏えい等報告は分けて検討する。報告対象であれば、法定の起算点と期限に従う
自社の営業秘密	秘密管理の状況、外部での利用・再提供の可能性、アクセスの範囲	管理状況と送信経路を保全し、アクセス・共有の範囲を絞る	営業秘密であることだけを理由とする一律の法定報告期限はない。契約上・業法上の義務を別に確認する
第三者から預かった秘密情報	秘密保持契約上の利用目的、提供先・再委託の可否、事故やそのおそれについての通知条項	契約と入力範囲を確認し、通知先・通知事項・期限を特定する	当該契約の通知事由・起算点・期限に従う。漏えいが確定していなくても通知対象となることがある
他人の著作物	入力・保存・共有の態様、許諾の範囲、権利制限の適用、出力への再現の有無	問題となる素材と出力の追加利用・公開を止め、利用の経過を記録する	入力したことだけを理由に、一律の通知義務が生じるものではない。契約上の義務と権利者への対応を別に判断する

なお、不正アクセスやランサムウェアなど、外部からの攻撃によって情報が漏えいした場合の初動と報告については、サイバー攻撃・情報漏えい対応で扱っています。本章は、自社から外部のサービスへ送信した場合を前提としています。

個人データ――漏えい又はそのおそれと、報告対象への該当性を確認する

ガイドライン（通則編）は、個人データの「漏えい」とは、個人データが外部に流出することをいうとしています。システムの設定ミス等によりインターネット上で閲覧が可能な状態となっていた場合も、漏えいに該当する事例として挙げられていますので、第三者が現に閲覧したことの立証が一律に求められるわけではありません。

他方、同ガイドラインは、第三者に閲覧されないうちに全てを回収した場合と、個人情報取扱事業者が自らの意図に基づき個人データを第三者に提供する場合を、漏えいに該当しない例として挙げています。

ここで注意が必要なのは、従業員が自分の意思で入力したというだけで、会社として意図した提供になるわけではない、という点です。社内規程に反する入力については、入力者の権限、指示や承認が当該情報・サービス・利用範囲にまで及んでいたか、規程と実際の運用に食い違いがないか、送信先やデータの取り違えがなかったかを確認します。規程違反であるという一点だけでも結論は決まりません。漏えいに当たらないと整理される場合にも、利用目的による制限（同法18条）、第三者提供の制限（同法27条）、外国にある第三者への提供の制限（同法28条）は、別に確認することになります。

入力した個人データが報告対象に当たるかと、報告の期限

個人情報保護委員会への報告が必要となるのは、①要配慮個人情報が含まれる個人データ、②不正に利用されることにより財産的被害が生じるおそれがある個人データ、③不正の目的をもって行われたおそれがある当該個人情報取扱事業者に対する行為による個人データ、④本人の数が千人を超える、のいずれかについて、漏えい等が発生し、又は発生したおそれがある場合です（同法26条1項、同法施行規則7条）。

③については、当該事業者が取得し、又は取得しようとしている個人情報であって、個人データとして取り扱われることが予定されているものも含まれます。取得する個人情報のすべてが一律に報告の対象となるわけではありません。

また、これら四つの類型に共通して、高度な暗号化その他の個人の権利利益を保護するために必要な措置を講じた個人データは、対象から除かれています。もっとも、AIに読み取らせるために入力した情報について、暗号化されているという表示だけを理由に対象から外れると判断することはできません。

このうち③については、ガイドライン（通則編）が、不正の目的をもって行われたおそれがある行為の主体には第三者のみならず従業者も含まれるとし、その相手方である「当該個人情報取扱事業者」には、個人データを取り扱うに当たって第三者の提供するサービスを利用している場合における当該第三者も含まれるとしています。したがって、生成AIサービスの提供者への不正アクセスによって入力した情報が漏えいした場合にも、③の該当性を検討することになります。

他方、業務上の操作の誤りによって入力したというだけでは、通常、③にいう不正の目的をもって行われた行為には当たりません。もっとも、規程に反することを知りながら、情報を外部に持ち出す意図で入力したような場合は、これとは別に検討します。ガイドライン（通則編）は、従業者が顧客の個人データを不正に持ち出して第三者に提供した場合を、③について報告を要する事例として挙げています。

また、③に当たらないことは、報告義務がないことを意味しません。①②④への該当性を別に確認する必要があります。

報告には速報と確報があります。速報は、報告対象事態を知った後、速やかに行います。ガイドライン（通則編）は、「速やか」の日数の目安について、当該事態を知った時点から概ね3日から5日以内であるとしています。確報は、当該事態を知った日を1日目として、30日以内に行います。③の事態である場合は60日以内となり、③に加えて①②④の事態にも該当する場合も60日以内とされています。この30日・60日の算定には土日・祝日も含まれますが、期限の日が土日、祝日又は年末年始の閉庁日に当たる場合は、その次の開庁日が報告期限となります。

本人への通知は、当該事態の状況に応じて速やかに行います（同法26条2項）。確報の30日・60日という期限が、そのまま本人への通知に当てはまるわけではありません。

受託している個人データを入力してしまった場合

他の個人情報取扱事業者から個人データの取扱いの委託を受けている場合には、報告義務を負う委託元に対し、速報として報告すべき事項のうちその時点で把握しているものを通知したときは、委託先は委員会への報告義務を免除され、本人への通知義務も免除されます（同法26条1項ただし書・2項、同法施行規則9条）。この通知も、事態の発生を知った時点から概ね3日から5日以内が目安とされています。

もっとも、委託元における報告・本人通知等の対応は残りますので、調査や対応の分担も確認します。通知の内容・方法が法令上の要件を満たすかに加えて、契約上の連絡義務とその期限も確認してください。

氏名を伏せて入力した場合

氏名を削って入力した、顧客リストの一部だけを入力したという場合でも、当然に個人データでなくなるわけではありません。自社に残る他の情報と照合することによって特定の個人を識別できるかどうかを確認します。送信先のAIが個人を識別できるかどうかだけで判断することはできません。

自社の営業秘密、預かった秘密情報、他人の著作物

自社の営業秘密が含まれる場合、入力したことだけで秘密管理性や非公知性が失われると決まるわけではありません。もっとも、外部での利用や再提供の可能性、社内でのアクセス範囲は、その後の主張に影響しますので、管理の状況を記録に残します。

取引先から預かった秘密情報が含まれる場合は、秘密保持契約の利用目的、提供先・再委託に関する定め、事故やそのおそれについての通知条項を確認します。通知条項は、漏えいが確定していなくても通知を求める定めになっていることがあります。他人の著作物については、入力・保存・共有の態様と目的、許諾の範囲、権利制限規定の適用を確認し、生成物に既存の著作物の表現が再現されていないかを公開前に確認します。

実際に外部で使用されている疑いがあり、差止めや損害賠償を検討する場合の進め方は、競合企業による営業秘密の不正使用への対応で扱っています。

4　削除・利用停止を要請し、再発防止につなげる

事業者への申入れ

提供者に対しては、対象となる会話・ファイル・ログの特定、保持期間、バックアップの有無、共有先、学習に用いられた場合の取扱いを照会します。回答を待つ必要はなく、対象を特定できる範囲で、当面の利用・共有の停止を並行して申し入れることを検討します。

削除・利用停止を求める際は、契約・規約上の請求、法令上の請求、義務の有無にかかわらず協力を求める任意の依頼を区別し、申入れを行う主体と根拠を確認します。なお、個人情報保護法が定める利用停止等の請求は本人の権利ですので、情報を入力した会社が、自社の立場で当然に行使できるものではありません。

照会に際しては、照会そのものによって機密情報を重ねて送信してしまわないよう注意します。まずは会話のIDや日時などで対象を特定し、資料の再送が必要な場合には、送信先と送信範囲を確認したうえで行います。

社内で申請を行う主体も確認します。従業員の個人アカウントが用いられていた場合、会社が契約者でないために、会社の名前で照会や削除の申請ができないことがあります。契約者、管理者、申請の権限を確認し、必要に応じて利用者本人を通じて手続を進めることになります。

削除には限界があります

履歴を削除しても、バックアップやログに残ることがあります。共有リンクから第三者が取得した情報や、外部連携先に渡った情報は、提供者への申入れだけでは回収できません。既に学習に用いられた場合に、その影響をどこまで解消できるかも、提供者の仕組みによって異なります。削除の完了を確認できる範囲と、確認できない範囲を分けて記録し、確認できない部分については、その旨を前提に報告・通知や取引先への説明を組み立てます。

社内の対応

入力した従業員への対応については、当面の措置と懲戒の判断を分けて考えます。被害の拡大を防ぐために必要な範囲で、当該サービスの利用停止やアクセス権限の制限を並行して行うことは考えられます。他方、懲戒の要否と内容は、必要な事実確認と本人の説明を踏まえて判断します。社内規程の内容とその周知の状況、承認された利用手段が用意されていたかどうかによっても、評価は変わります。

すべての調査が終わるまで何の措置も取れないというものではなく、規程違反があれば直ちに処分できるというものでもありません。

対象となる本人の数が多く、公表や記者会見、被害者対応まで検討する必要がある場合は、サイバー攻撃・情報漏えい対応をご覧ください。

再発防止

業務で用いるサービスとアカウントを承認されたものに集約すること、入力してはならない情報の範囲を具体的に定めること、利用の記録が残る仕組みを整えること、契約・設定の内容を定期的に確認することが考えられます。研修では、禁止事項だけでなく、承認された手段で何ができるのかを示すことが有効です。

当事務所のサポート内容

入力した情報の種類と送信先を整理し、個人情報保護法上の評価、営業秘密としての保護、契約上の義務を分けて検討します
契約・規約・設定を確認し、事業者に照会すべき事項と、削除・利用停止の申入れの内容を整理します
個人情報保護委員会への報告および本人への通知について、要否、期限、記載内容を検討し、書面の作成を支援します
取引先への通知が必要な場合に、契約上の通知事由と期限を確認し、通知文案を作成します
従業員に対する措置の要否と程度について、事実確認の結果を踏まえて検討します
再発防止として、利用ルール、入力禁止情報の定義、承認手続、記録の取り方を見直します

※2026年7月17日公布の改正個人情報保護法には、第三者提供や受託者の義務等に関する見直しが含まれています。本稿で扱うこれらの改正規定は未施行であり、本文は施行済みの法令を前提に説明しています。施行日や具体的な制度内容については、個人情報保護委員会の公表資料をご確認ください。

よくあるご質問

顧客情報を入力しましたが、誰かに閲覧された形跡がありません。それでも漏えいになりますか。

閲覧の形跡がないことだけで、漏えいに当たらないと判断することはできません。ガイドライン（通則編）は、システムの設定ミス等によりインターネット上で個人データの閲覧が可能な状態となっていた場合を、漏えいに該当する事例として挙げています。

他方、第三者に閲覧されないうちに全てを回収した場合は漏えいに該当しないとされていますが、利用者側で履歴を削除しただけでは、閲覧されないうちに全てを回収したと確認したことにはなりません。送信先において誰が当該情報を取り扱い得たのか、共有リンクや外部連携によって範囲が広がっていないかを確認することになります。

事業者が自らの意図に基づいて提供した場合も漏えいに該当しないとされていますが、従業員が自分の意思で入力したというだけで、会社として意図した提供になるわけではありません。

学習利用を停止した法人向けAIなら、取引先から預かった秘密資料を入力してよいですか。

学習に用いられないことと、契約上・法令上の問題がないこととは別です。秘密保持契約では、開示の相手方、利用目的、再委託の可否が定められていることが通常であり、外部のサービスに入力することがこれに反する場合があります。また、個人データが含まれる場合には、提供の有無、委託の範囲、外国にある第三者への提供の規律を別に検討することになります。サービスの表示だけでなく、契約書の条項と、入力する情報の内容に即して確認してください。

チャット履歴や添付ファイルを削除すれば、対応を終了できますか。

削除しただけでは、対応を終了したとは判断できません。削除しても、バックアップやログに残ることがあり、共有リンクや外部連携を通じて第三者が取得した情報は回収できません。また、履歴を先に削除すると、何をいつ送ったのかを示す記録が失われ、報告・通知の内容を組み立てられなくなることがあります。

もっとも、完全な消去を証明できない限り永久に終了できない、ということでもありません。削除・利用停止の確認結果と残る不明点、必要な報告・通知を履行したこと、引き続き確認する事項とその担当者を記録したうえで、対応の区切りを判断することになります。

送信先や入力範囲が分からない段階でも、取引先への連絡や委員会への報告が必要ですか。

不明であることだけで、報告義務の有無が決まるわけではありません。もっとも、判明している事実から報告対象となる漏えい等のおそれが認められる場合には、全容の判明を待たずに対応します。速報は、その時点で把握している内容を報告すれば足ります。取引先への連絡についても、秘密保持契約の通知条項が「おそれ」の段階での通知を求めている場合がありますので、契約の定めを確認してください。

従業員の誤入力について調査が終わらない場合、確報を60日以内に行えばよいですか。

そうではありません。60日以内とされているのは、不正の目的をもって行われたおそれがある当該事業者に対する行為による漏えい等の事態（および、これに加えて他の類型にも該当する事態）であり、業務上の操作の誤りによる入力は、通常これに当たりません。報告の対象となる場合の確報の期限は、原則として、当該事態を知った日を1日目として30日以内です。調査が終わらないことを理由に期限が延びるわけではなく、合理的な努力を尽くしたうえで一部の事項が判明していない場合には、その時点で把握している内容を報告し、判明次第、報告を追完することになります。

知的財産・IT・データに対応する弁護士を見る →

Contact

ご相談にあたって

現在の状況、受領している通知があればその内容と日付、把握している期限を、分かる範囲でお知らせください。