Crisis Management
保密信息已被输入生成式人工智能时的应对
如果客户信息、内部资料或业务伙伴委托的信息已被输入或附加到生成式人工智能服务中，应停止进一步输入和共享该信息，并保全所输入内容、日期和时间、所用服务和账户等相关记录。需要联系公司内部负责部门，不必等待是否构成泄露的结论，即着手应对。
信息存储在何处、谁可以使用或查看，取决于输入时的合同、设置及其他条件。报告、通知和合同上的应对，也因所输入信息的类型而异。
本指南面向已发现信息被输入生成式人工智能的企业，说明首先应确认的事项、如何调查合同和设置、按信息类型的应对，以及删除和停止使用的请求及其局限。
审核：吉川景司律师、专利代理师（第一东京律师会）
发现信息被输入生成式人工智能时首先应确认的事项
- 所输入信息的内容、权利人、涉及的人数，以及是否属于个人数据、商业秘密、公司受托保管的保密信息或作品
- 输入的日期和时间、发现的日期和时间，以及所输入文件和文本的位置及历史记录
- 所用服务、其运营者、账户、合同套餐以及实际的传输路径
- 输入时有效的条款，以及有关用于训练、保存期限和第三方访问的设置
- 是否因共享链接、公开机器人、外部集成等方式而扩大了使用范围或公开范围
- 保密协议、外包协议、内部规则以及关于报告和通知的规定
无法确认的事项记录为“不明”，下文各节的应对同时推进，无需等待确认。
目录
1. 停止进一步输入和共享、查明事实并保全记录
阻止扩散与保存记录同时进行
在保全必要记录的同时，撤销现有共享链接，停止公开机器人和共享对话的公开访问，并暂停外部集成。仅停止创建新的共享链接是不够的。如果持续公开会导致损害扩大，应在完整保全记录之前即阻断访问，并记录所采取的措施及其时间。
是否删除历史记录或文件，需要综合考虑对证据的影响和防止损害扩大的必要性来判断。显示发送了什么、何时以及从哪个账户发送的记录，是后续判断的基础，因此如果先行删除，可能无法确定报告或通知的内容。
如果所输入的信息包含密码或API密钥等认证信息，应与删除历史记录分开，与信息系统部门一同研究是否需要吊销或更改。
如果还需要隔离设备或调查第三方入侵，请参阅“网络事件与数据泄露应对”。
应保全的记录
需记录所输入文本和文件的内容及版本、输入的日期和时间、所用服务和账户、当时的设置、对话或项目的共享范围，以及是否存在外部集成。除屏幕上显示的内容外，如果管理员可以获取使用日志，也应研究保存这些日志。
记录谁在何时知悉了什么
如果所输入的信息包含个人数据，且已知悉发生或可能发生应报告的泄露等事态，就需要管理报告期限。对法人而言，部门内某员工知悉该事态的时间可能成为基准时点；期限的起算不能推迟到调查完成或法务部门作出判断之后。需记录谁在何时知悉了哪些事实，并同时推进与公司内部负责部门的联络和期限管理。
2. 通过接收方的合同和设置确认使用范围
确认三个事项
第一，所输入的信息被用于什么。其处理方式因目的而异，例如模型训练、服务改进或滥用监控。第二，信息保留在何处、保留到何种程度。对话、上传的文件、日志、共享信息的接收方和存储位置需分别确认。第三，相关条件所对应的时间点。输入信息时适用的条款和设置可能与当前设置不同，设置的变更也可能仅适用于今后的输入，因此需要确认变更历史。
仅凭“面向企业”或“不用于训练”等标签，并不能确认这些事项。个人信息保护委员会在2023年6月2日发布的提醒中也要求，在将包含个人信息的提示词输入生成式人工智能服务时，应充分确认该输入处于实现特定利用目的所必需的范围内。
个人数据分三个阶段确认
如果所输入的信息包含个人数据，按以下顺序确认。
第一个问题是，是否存在《个人信息保护法》第27条所称的“提供”。个人信息保护委员会关于指南的问答指出，在使用云服务时，判断标准不是所存储的电子数据是否包含个人数据，而是服务提供商是否会处理该个人数据。
不过，“无人工查看”或“不用于训练”等表述，并不当然证明提供商不处理数据。除条款和设置外，还需要确认生成回答所涉及的处理、存储范围以及提供商一方的访问管理。关于一般云服务的分析，不能原样适用于生成式人工智能服务。
第二个问题是，如果构成提供，能否认为该提供伴随委托。在实现利用目的所必需的范围内，伴随委托个人数据处理的全部或部分而提供个人数据的，接收方不构成第三方（《个人信息保护法》第27条第5款第1项）。但在这种情况下，接收方不得为受托业务以外的目的处理该个人数据。
第三个问题是，对于超出委托范围的使用是否有合法依据。如果提供商还将所输入的数据用于其他目的，如训练自身模型，需审查该使用是否属于委托范围，或是否需要作为向第三方提供来应对。
同一问答指出，受托人在实现委托方利用目的所必需的范围内，可以使用所提供的个人数据来改进自身的分析技术。但这以该使用处于实现委托方利用目的所必需的范围内为限，并不是全面允许训练向公众提供的通用模型。
委托情形以及提供商位于外国的情形下仍需审查的事项
存在委托时，需要对受托人进行必要且适当的监督（该法第25条）。此外，即使判断不构成提供，公司自身应负责采取的安全管理措施的必要性也不会改变。
如果构成提供，需确认接收方是否属于外国的第三方，以及根据该法第28条需要采取何种措施。判断的对象是接收数据的提供商，而不是存储数据的服务器所在地。即使数据存储在日本境内的服务器上，如果由外国的提供商处理该数据，也可能构成向外国第三方提供。另一方面，即使是依据外国法律设立的提供商，如果被认定在日本为业务使用个人信息数据库等，也不属于该类别。仅凭在日本设有办事处并不能作出判断，需确认其在日本的实际业务活动。
即使判断不构成提供，确认也并不到此为止。如果提供商或服务器位于外国，需要了解该国的个人信息保护制度等，并确认公司的安全管理措施是否存在缺陷。还需要确认，就企业所持有个人数据采取的安全管理措施，向本人提供的、使其可以知悉的信息，是否与此次发现的实际使用情况相符。这与就事态向本人个别通知（该法第26条第2款）是不同的事项。
接收方或设置不明时
如果接收方不明，应停止进一步输入和外部集成，并通过画面、应用程序、账户和通信记录确认实际传输路径。向信息系统部门和合同负责人询问连接目的地、执行处理的提供商以及共享范围。
如果设置不明，不要假定设置处于安全一侧，而应确认输入时的条款、管理设置和变更历史。无法确认的事项记录为“不明”，并向提供商询问用于训练、保存期限、第三方访问以及删除处理等情况。
无论哪种情况，都要确定负责确认的人员和回复期限，同时并行研究那些不应等待事实明朗即需推进的报告和通知。
3. 按信息类型判断报告、通知和合同上的应对
需要审查的法律和期限因所输入的信息而异。一项信息可能同时属于多个类别，因此需确认所有适用的类别。
| 信息类型 | 决定结论的确认事项 | 首先采取的措施 | 报告、通知与期限 |
|---|---|---|---|
| 个人数据 | 实际处理情况、传输和查看的范围、数据的内容和人数、发生泄露等事态的可能性，以及是否适用法定报告 | 确定所涉本人、信息和传输范围，并联系负责个人信息的部门 | 对向第三方提供等事项的判断，与泄露等事态的报告，需分别审查。如果事态应报告，则适用法定的起算点和期限 |
| 公司的商业秘密 | 秘密管理措施、外部使用或再提供的可能性，以及访问范围 | 保存秘密管理措施和传输路径的记录，并缩小访问和共享范围 | 并不存在仅因信息属于商业秘密而统一适用的法定报告期限。合同上的义务以及行业监管法律上的义务需另行确认 |
| 由第三方委托的保密信息 | 保密协议中的使用目的、允许的接收方及是否允许再委托，以及关于事态或其可能性的通知条款 | 确认合同和所输入信息的范围，并确定通知的对象、内容和期限 | 适用合同规定的触发条件、起算点和通知期限。即使未确认发生泄露，也可能需要通知 |
| 他人的作品 | 输入、存储和共享的方式、许可范围、权利限制规定的适用，以及作品是否在生成物中被再现 | 停止对相关素材和生成物的进一步使用和公开，并记录其使用情况 | 仅凭输入行为，并非在所有情况下都会产生通知义务。合同上的义务以及对权利人的应对需另行判断 |
因未经授权访问、勒索软件等外部攻击导致信息泄露时的初步应对和报告，请参阅“网络事件与数据泄露应对”。本节以公司自行将信息发送至外部服务的情形为前提。
个人数据：确认是否已发生或可能发生泄露，以及是否需要报告
《通则指南》指出，个人数据的“泄露”是指个人数据流出至企业外部。该指南还举例说明，因系统设置错误等问题导致个人数据可在互联网上被查看的情形，属于泄露。因此，并非在所有情况下都需要证明第三方实际查看了数据。
另一方面，该指南列举的不构成泄露的例子包括：在第三方查看之前已回收全部数据的情形，以及个人信息处理经营者基于自身意思向第三方提供个人数据的情形。
这里需要注意：员工凭自己的意思输入信息，这一事实本身并不使该提供成为公司有意为之的提供。如果输入违反内部规则，需要确认输入者的权限，以及指示或批准是否涵盖该信息、服务和使用范围；规则与实际做法是否存在差异；以及是否选错了接收方或数据。输入违反规则这一事实本身，也不能决定结论。即使判断不构成泄露，也需要另行确认基于利用目的的限制（该法第18条）、向第三方提供的限制（该法第27条）以及向外国第三方提供的限制（该法第28条）。
所输入的个人数据是否属于报告对象，以及报告期限
如果发生或可能发生的泄露等事件属于以下任一类别，必须向个人信息保护委员会报告：（1）包含需特别注意的个人信息的个人数据；（2）不当使用可能造成财产损害的个人数据；（3）针对相关个人信息处理经营者的行为可能出于不正当目的，且该行为导致泄露等事件所涉及的个人数据；或（4）涉及人数超过1,000人的情形（该法第26条第1款，以及《个人信息保护法施行规则》第7条）。
第（3）类还包括相关企业已取得或正在试图取得、且预定作为个人数据处理的个人信息。并非对所有取得的个人信息都统一要求报告。
此外，上述四类均不包括已采取高级加密等保护本人权益所必需措施的个人数据。但是，为使人工智能能够读取而输入的信息，不能仅因标注为已加密就被判断为属于排除对象。
关于第（3）类，《通则指南》指出，可能出于不正当目的实施行为的人既包括员工，也包括第三方。该指南还指出，作为行为对象的“相关个人信息处理经营者”，包括该企业为处理个人数据而使用其服务的第三方。因此，如果所输入的信息因生成式人工智能服务提供商遭到未经授权访问而泄露，也需审查是否适用第（3）类。
另一方面，仅因工作中的操作失误而输入信息，通常不构成第（3）类中出于不正当目的实施的行为。但如果明知违反规则，仍以将信息带出公司为意图而输入，则需另行审查。《通则指南》举出的需按第（3）类报告的例子，是员工不当带出客户个人数据并提供给第三方的情形。
此外，第（3）类不适用并不意味着没有报告义务。需另行确认是否适用第（1）、（2）或（4）类。
报告分为初步报告和最终报告。初步报告应在知悉应报告的事态后迅速进行。《通则指南》指出，“迅速”的标准是自知悉该事态之时起约3至5日以内。最终报告应在30日以内进行，以知悉该事态之日为第1日起算。第（3）类事态的期限为60日以内。该60日期限也适用于事态属于第（3）类且同时属于第（1）、（2）或（4）类中任一类的情形。计算30日和60日期限时包括周六、周日和节假日，但如果期限届满日为周六、周日、节假日或政府机关年末年初休息日，则报告期限为下一个政府机关办公日。
应根据事态情况，迅速通知所涉本人（该法第26条第2款）。最终报告的30日和60日期限，并不原样适用于对本人的通知。
输入了受托处理的个人数据时
如果个人数据的处理是受其他个人信息处理经营者委托的，受托人只要将当时已知的初步报告所需事项通知负有报告义务的委托方，即可免除向委员会报告的义务和通知本人的义务（该法第26条第1款但书、第26条第2款，以及《个人信息保护法施行规则》第9条）。该通知的标准也被指出为自知悉事态发生之时起约3至5日以内。
但是，委托方的报告、对本人的通知及其他应对仍需进行，因此也需确认调查和应对工作的分工。除了确认通知的内容和方式是否符合法定要求外，也请确认合同上的联络义务及其期限。
输入的信息已删除姓名时
即使在输入前删除了姓名，或仅输入了客户名单的一部分，信息也不会当然不再属于个人数据。需确认能否通过与公司内留存的其他信息进行比对而识别特定个人。不能仅以接收信息的人工智能能否识别个人为判断依据。
公司的商业秘密、受托保管的保密信息以及他人的作品
如果包含公司的商业秘密，仅凭输入行为并不能认定已不再满足秘密管理性或非公知性的要件。但外部使用或再提供的可能性以及内部访问范围会影响日后的主张，因此需记录管理措施。
如果包含业务伙伴委托的保密信息，需确认保密协议中的使用目的、关于接收方和再委托的规定，以及关于事态或其可能性的通知条款。即使未确认发生泄露，通知条款也可能要求通知。对于他人的作品，需确认输入、存储和共享的方式和目的、许可范围以及权利限制规定的适用。在公开之前，确认生成的内容中是否再现了既有作品的表达。
怀疑存在实际的外部使用并考虑请求禁令救济或损害赔偿时的处理方法，请参阅“竞争对手不当使用商业秘密时的应对”。
4. 请求删除和停止使用，并防止再次发生
向提供商提出的请求
向提供商询问相关对话、文件和日志的识别、保存期限、是否存在备份、共享信息的接收方，以及信息已被用于训练时如何处理。无需等待答复。在能够确定相关信息的范围内，同时考虑请求其暂时停止使用和共享。
请求删除和停止使用时，需区分基于合同或条款的请求、基于法律的请求，以及不论有无义务而提出的自愿协助请求，并确认请求主体及其依据。《个人信息保护法》规定的请求停止使用等的权利属于本人，因此输入信息的公司不能当然以自己的名义行使该权利。
询问时，注意避免通过询问本身再次发送保密信息。首先使用对话ID、日期和时间等细节确定相关信息。如需重新发送资料，应在发送前确认接收方和传输范围。
还需确认由公司内部谁提出请求。如果使用的是员工的个人账户，由于公司不是合同当事人，可能无法以自己的名义询问或请求删除。需确认合同当事人、管理员和提出请求的权限，必要时通过相关使用者办理手续。
删除存在局限
即使已删除历史记录，信息仍可能保留在备份或日志中。第三方通过共享链接获得的信息，或通过外部集成传递给接收方的信息，仅向提供商提出请求无法回收。如果信息已被用于训练，其影响能在多大程度上消除，也取决于提供商的系统。需分别记录能够确认删除完成的范围和无法确认的范围。对于后者，报告、通知以及对业务伙伴的说明，均应以无法确认删除为前提。
公司内部的应对
对于输入信息的员工，临时措施与惩戒处分的决定需分开考虑。为防止损害扩大，可以在必要限度内同时考虑暂停其使用该服务和限制访问权限。另一方面，是否需要惩戒处分以及处分内容，需根据必要的事实调查和该员工的说明来判断。判断还会因内部规则的内容、规则的传达方式以及是否提供了经批准的使用途径而有所不同。
这既不意味着在全部调查完成之前不能采取任何措施，也不意味着只要违反规则就可以立即予以惩戒处分。
如果所涉人数众多，还需要考虑公告、记者会以及对受害者的应对，请参阅“网络事件与数据泄露应对”。
防止再次发生
可选的措施包括：将工作中使用的服务和账户限定于经批准者、具体界定不得输入的信息范围、建立保存使用记录的机制，以及定期确认合同和设置。在培训中，除说明禁止事项外，展示可通过经批准的途径做些什么也很有效。
我们如何协助
- 我们整理所输入信息的类型和接收方，并分别审查《个人信息保护法》上的判断、作为商业秘密的保护以及合同上的义务
- 我们确认合同、条款和设置，并梳理应向提供商询问的事项以及删除和停止使用请求的内容
- 我们研究是否需要向个人信息保护委员会报告以及通知本人、期限和应记载的内容，并协助编写书面文件
- 如需通知业务伙伴，我们确认合同规定的通知触发条件和期限，并起草通知书
- 我们根据事实调查结果，研究是否需要对员工采取措施及其程度
- 为防止再次发生，我们审查使用规则、禁止输入信息的界定、批准程序以及记录保存方法
注：2026年7月17日公布的《个人信息保护法》修正案包括有关向第三方提供和受托人义务等事项的修订。与本指南所涉事项相关的修正条款尚未施行，本指南正文的说明以现行有效的法律为依据。关于施行日期和制度详情，请查阅个人信息保护委员会公布的资料。
常见问题
我输入了客户信息，但没有迹象表明有人查看过。这仍可能构成泄露吗？
没有被查看的迹象，这本身并不能证明没有发生泄露。《通则指南》举例说明，因系统设置错误等问题导致个人数据可在互联网上被查看的情形，属于泄露。
另一方面，该指南指出，在第三方查看之前已回收全部数据的情形不构成泄露。但仅凭用户删除了历史记录，并不能确认所有数据在被查看之前已被回收。需确认接收方中谁可能处理了该信息，以及共享链接或外部集成是否扩大了这一范围。
该指南还指出，基于企业自身意思的提供不构成泄露；但员工凭自己的意思输入信息，这一事实本身并不使该提供成为公司有意为之的提供。
如果在面向企业的人工智能服务中已关闭用于训练的设置，可以输入业务伙伴委托的保密资料吗？
信息不被用于训练，与是否存在合同上或法律上的问题是两回事。保密协议通常规定披露对象、使用目的以及是否允许再委托，将信息输入外部服务可能违反这些规定。此外，如果包含个人数据，还需另行审查是否构成提供、委托范围以及向外国第三方提供的相关规则。请对照合同条款和拟输入信息的内容确认这些事项，而不要仅依赖服务的标签。
删除聊天记录和附件就可以结束应对吗？
仅凭删除，并不能认定可以结束应对。即使删除后，信息仍可能保留在备份或日志中，而第三方通过共享链接或外部集成获得的信息也无法回收。此外，先删除历史记录可能导致显示发送内容和发送时间的记录丢失，从而无法确定报告和通知的内容。
不过，这并不意味着除非能够证明已完全删除，否则永远无法结束应对。需记录删除和停止使用的确认结果及仍不明的事项、必要报告和通知义务的履行情况，以及需持续确认的事项及其负责人。在此基础上，再判断何时结束应对。
即使接收方或所输入信息的范围不明，也需要联系业务伙伴或向委员会报告吗？
这些事项不明这一事实本身，并不能决定是否存在报告义务。但是，如果根据已知事实可能已发生应报告的泄露等事态，则无需等待全貌明朗即推进应对。初步报告只需报告当时已知的情况即可。保密协议中的通知条款也可能要求在存在事态“可能性”时通知业务伙伴，因此请确认合同规定。
如果对员工误输入信息的调查尚未完成，在60日内提交最终报告就足够了吗？
不是。60日期限适用于因针对相关企业、可能出于不正当目的实施的行为而导致的泄露等事态，包括同时属于其他类别的事态。工作中因操作失误而输入的情形，通常不属于这一类别。需要报告时，最终报告的期限原则上为30日以内，以知悉该事态之日为第1日起算。期限不会因调查尚未完成而延长。如果尽到一切合理努力后仍有部分事项不明，应报告当时已知的事项，并在其余事项明确后尽快补充报告。
Contact
提出咨询
请告知情况概要、已收到的通知及其日期，以及需要遵守的任何期限。
联系表单我们可以通过中文电子邮件与您沟通。由于能够使用中文进行面谈的人员有限，安排面谈日程可能需要较长时间。
本文仅提供一般性信息，不构成针对任何具体事项的法律意见。有关您的具体情况，请与我们咨询。内容依据最后更新日期时有效的法律法规编写。