GDPR与AI Act：使用生成式AI前企业须核查的事项
一位招聘专员把一份简历粘贴进在线助手，想得到一份摘要：几秒钟内，她的公司就把个人数据传给了第三方，或许还出了欧盟，并在欧盟法律严密监管的领域使用了AI系统。本文按条文逐项说明，在走到这一步之前需要核查什么，所依据的是截至2026年10月1日的法律状态。
两部法规，两种逻辑
有两部欧盟条例同时适用于企业使用生成式AI。通用数据保护条例（GDPR）规范一切个人数据的处理，即与可识别个人有关的任何信息。只要姓名、电子邮件或客户档案进入一次请求，它就适用。人工智能条例，称为《AI Act》，则按使用的风险级别规范AI系统本身，无论它们是否处理个人数据。
《AI Act》区分提供者和部署者：前者开发系统或将其投放市场，后者在职业场景中、在自己的权限下使用系统。员工为工作使用对话助手的企业就是部署者，无论规模大小。它不承担模型发布者的义务，但也有自己的义务。
GDPR按处理活动和目的来考虑。《AI Act》按系统和用途来考虑。同一个动作，比如总结一份简历，两者都管：GDPR管，因为简历含有个人数据；《AI Act》管，因为招聘属于条例附件III所列的高风险领域。
2026年7月修改后的《AI Act》时间表
第(EU) 2024/1689号条例于2024年8月1日生效，分阶段适用。被禁止的做法，如社会评分或某些形式的操纵，以及AI素养义务，自2025年2月2日起适用。针对通用AI模型的规则和治理组织，自2025年8月2日起适用。欧盟委员会表示，条例于2026年8月2日起全面适用，少数例外除外，透明度规则也于当日生效。
这些例外来自AI数字综合条例，这是委员会于2025年11月19日提出的简化文本。经2026年5月7日的政治协议，欧洲议会于2026年6月16日通过，理事会于6月29日通过。它以第(EU) 2026/1744号条例公布，于2026年7月27日生效。它把附件III所列高风险系统的义务推迟到2027年12月2日，这些系统包括用于招聘、教育或获取某些服务的系统。集成在已受行业立法约束的产品中的高风险系统，如机械或医疗器械，期限为2028年8月2日。
综合条例新增了一项禁令，自2026年12月2日起适用：禁止生成未经同意的私密图像或涉及儿童性剥削内容的系统。它还给予已在市场上的系统的提供者，直至2026年12月2日的期限，对其生成的合成内容加上可检测的标记。
最后，它改写了关于AI素养的第4条。旧的表述要求提供者和部署者确保其人员具备足够的素养水平。新的表述要求他们采取措施促进这种素养，考虑人员的知识和使用背景，而不要求某个确定的水平。这项义务没有被推迟：它适用于在业务中使用AI系统的所有企业。
处罚仍是第99条规定的：对于禁止的做法，最高3 500万欧元或全球营业额的7%；对于其他大部分义务，包括部署者义务和透明度义务，最高1 500万欧元或3%。对于中小企业，以两个金额中较低者为上限。
《AI Act》对使用企业的要求
大多数办公用途，如写邮件、总结会议、翻译说明书，不属于高风险。对于这些用途，部署者的义务归结为两点：根据第4条对员工进行培训和告知，并遵守第50条的透明度规则。
第50条主要针对对外发布的内容。部署者发布逼真地伪造的图像、声音或视频时，必须说明它们是生成或操纵的。由AI生成并发布以向公众通报公共利益事项的文本，同样必须说明，除非它经过人工审阅，并由一位明确的人员承担编辑责任。该信息必须清晰地提供，最迟在首次接触该内容时。
如果用途属于附件III，例如筛选求职申请或评估员工，义务就加重了。第26条于是要求部署者把对系统的监督交给有能力且拥有必要权限的人员，将自动生成的日志至少保存六个月，在系统于工作场所投入使用之前告知员工代表和相关员工，并利用提供者的文档开展GDPR规定的影响评估。这些义务将于2027年12月2日起适用，但今天启动的项目到那时就已在运行了。
在法国，政府于2025年9月9日提出了一套监管方案，由竞争、消费与反欺诈总局（DGCCRF）负责协调，并将监督分配给若干机关，其中CNIL负责与就业和教育相关的高风险系统，视听与数字通信监管局（Arcom）负责合成内容。该方案本应经法律确认；启动项目时需要核查其进展状态。
GDPR：第一次请求之前要问的问题
GDPR并不禁止使用生成式AI。它要求，对每一项涉及个人数据的用途，回答通常的那些问题：什么目的，依据第6条所列的哪项法律依据，使用哪些严格必要的数据，保存多久，如何告知当事人，以及他们如何行使权利。该处理活动必须记入处理活动记录。
生成式AI增加了一个难题：进入请求的内容可能在别处出现。汇集各国监管机关的欧洲数据保护委员会，于2024年12月17日就AI模型发表了意见。意见认为，基于个人数据训练的模型不能在所有情况下都被视为匿名：必须逐案核查，从中提取个人数据的可能性是否可以忽略。它承认正当利益可以作为某些处理的依据，前提是通过三步测试：明确的利益，处理的必要性，与当事人权利之间的权衡。
对使用企业来说，实际的结论很简单。必须知道供应商是否重复使用请求来训练其模型，并能在合同上予以拒绝。CNIL在2024年7月关于生成式AI的问答中提醒，数据可以获取，并不足以授权供应商重复使用它。
GDPR本身也可能演变。委员会于2025年11月19日提出了数字综合立法的第二部分，其中涉及个人数据的定义。截至2026年9月底，这一部分仍处于一读，理事会尚无谈判授权。因此现行规则不变地适用。
供应商：作为处理者，依据什么合同
当服务商代表企业处理个人数据时，它是GDPR第28条意义上的处理者。合同于是必须规定处理的对象、期限、性质和目的，数据的类别，并使服务商承诺仅按指示行事，确保安全，只有经授权才使用其他处理者，并在合同结束时删除或归还数据。
在线助手的面向大众的方案，通常不是为这一框架而设计的。面向企业的方案则更常如此，但条件各不相同。CNIL区分三种部署模式。在本地，机构保持对基础设施的控制。在云端，需要一份分包合同来划定责任和对数据的获准访问。通过API，CNIL认为风险最高，建议避免向其传送个人数据，并留意关于向欧盟境外传输的条款。
有一点值得仔细阅读：如果供应商为自己的目的重复使用收到的数据，例如改进其模型，它就不再仅仅代表其客户行事。各方的法律定性随之改变，并带来责任方面的后果。合同必须白纸黑字地解决这个问题。
敏感数据与商业秘密
GDPR第9条原则上禁止处理某些类别的数据：种族或族裔出身、政治观点、宗教信仰、工会会员身份、基因和生物识别数据、健康、性生活和性取向。例外有限，必须在任何处理之前确认。病假证明、人事档案中关于残疾的记载，或粘贴进在线助手的医疗报告，都属于此类。
CNIL建议根据部署模式，界定获准和被禁止的用途，并在工具由外部托管时，禁止输入某些保密信息，例如受商业秘密保护的信息。它还建议培训用户了解系统的运作方式和局限，并要求他们在采用结果之前先予核实。
向欧盟境外的传输与《云法案》
GDPR第五章规范个人数据向欧盟境外的传输。向美国的传输，目前大多依据欧盟与美国之间的数据保护框架，由委员会于2023年7月通过。2025年9月3日，欧盟普通法院在T-553/23号案中，驳回了法国议员Philippe Latombe针对该框架的诉讼。原告于2025年10月31日向欧盟法院提出上诉，案号C-703/25 P。在法院作出裁决之前，这些传输的法律依据仍受质疑，选择工具时须核查其状态。
《云法案》是2018年的美国法律，带来了另一种风险。它在美国联邦法典中插入了一项条款，即第18篇第2713节，要求受美国法律管辖的通信和存储服务提供者，应要求提供其拥有、保管或控制的数据，无论这些数据存储在美国还是其他地方。因此，当服务商受美国法律管辖时，托管在欧洲数据中心并不能消除这一风险。
对企业来说，这两点属于风险分析的内容。对每个工具，须确定服务商及其自身分包商所在的国家，规范传输的法律工具，以及如果该框架倒下会发生什么。
记录日志而不监视
日志记录是记下系统中谁在何时做了什么。它用于发现滥用，在事件后展开调查，并证明合规。CNIL于2021年11月18日发布了关于此事的建议。它主张将获授权用户的访问和操作痕迹保存六个月至一年，更长的期限须有理由并有记录，大多数情况下不超过三年。
对于生成式AI，这个问题加倍了。助手的日志往往包含请求和回答的文本，因此含有个人数据，有时含有商业秘密。日志本身就是需要保护、限定期限并防止过度监视员工的一种处理。对于高风险系统，《AI Act》为部署者设定了日志保存六个月的下限。必须知道这些日志存放在哪里，谁能阅读，以及供应商是否可以访问。
影响评估，一种决策工具
数据保护影响评估，简称AIPD，依据GDPR第35条，当某项处理可能对个人的权利和自由造成高风险时，是强制性的。欧洲监管机关确定了九项标准，其中包括敏感数据、大规模处理、弱势群体、数据集交叉，以及技术的创新性使用。符合至少两项标准的处理，推定应进行评估。
CNIL指出，包括生成式AI在内的新近技术，属于创新性使用的标准，这不同于久经检验的统计方法。它还列出了应纳入分析的AI特有风险：生成虚假内容，歧视性偏见，以及旨在从模型中提取数据的攻击。因此，人力资源部门用助手处理员工档案，很快就会符合两项标准。
AIPD不是又一张表格。做得好的话，它迫使人们描述数据的实际流向，比较各种部署方案，并记录所作的选择。企业往往就是在这个阶段发现，自己的一部分用途不应当经过外部服务。
本地处理改变了什么
让模型在企业场所内的机器上运行，会改变若干答案。CNIL建议对个人或保密数据采用这种部署模式，因为它限制了被第三方提取的风险。如果没有服务商接触请求，就既没有向欧盟境外的传输，也没有通过该渠道受到《云法案》影响，更没有为训练第三方模型而重复使用数据。分包链缩短，日志留在企业控制之下。
它并不消除其余的一切。法律依据、数据最小化、告知当事人、安全、保存期限和影响评估仍然需要。《AI Act》的义务不取决于模型在哪里运行：筛选求职申请仍是高风险用途，无论在美国的数据中心还是在服务器机柜里执行。而且，如果服务商通过远程维护获得了数据访问权，它就重新成为处理者。
本地处理还把一部分技术责任转移给企业：安全更新、访问控制、备份。法律上的收益以机器得到妥善管理为前提。
签字之前
核查归结为一小串要点。一份书面章程区分获准和被禁止的用途。每项用途按是否涉及个人数据，以及其中是否有敏感数据来分类。对每个工具，企业知道请求的处理地点、服务商、其所受的法律，以及规范可能的传输的法律工具。合同禁止将数据重复用于训练，或对其加以规范。日志有确定的存放位置、访问权限和保存期限。属于《AI Act》附件III的用途已被识别，需要时开展了影响评估，员工接受了相应的培训。
本文描述的是截至2026年10月1日的法律文本状态。它不构成法律意见：每个具体情形，尤其是涉及人力资源、健康或国际传输的，都需要法律人员或数据保护官的意见。为了回答数据位置的问题，HOMN设计了在现场处理请求的机器；清单上的其他问题，仍由各企业自己负责。
使用ChatGPT或Copilot的企业受《AI Act》约束吗？
是的。它是条例意义上的部署者。至少须为员工采取AI素养措施（第4条），并遵守第50条的透明度规则。如果用途属于高风险，如招聘，还要加上更重的义务。
《AI Act》的高风险义务自2026年8月起适用吗？
不。2026年7月27日生效的第(EU) 2026/1744号条例，已将附件III所列系统的义务推迟到2027年12月2日，将集成在受监管产品中的系统的义务推迟到2028年8月2日。
使用生成式AI需要做影响评估吗？
不一定。当处理存在高风险时，评估是强制的，只要符合九项欧盟标准中的两项，即推定如此。CNIL把生成式AI归入创新性用途，这本身就构成一项标准。它建议开展评估。
在欧洲托管AI就足以避开《云法案》吗？
不。《云法案》针对受美国法律管辖的供应商，无论数据存放在哪里。只有由不受该法律管辖的服务商处理，或在没有外部访问的企业自有机器上处理，才能排除这一风险。