本地AI还是云端：企业数据去向与选择方法

2023年5月2日，三星电子禁止员工在公司的电脑、手机和平板电脑以及内部网络上使用ChatGPT和其他生成式AI助手。几周前，工程师们把公司内部的源代码粘贴进了ChatGPT。没有人入侵任何系统。代码是沿着既定的路径流向了第三方，也就是发给在线助手的每个请求所走的路径。

发给在线助手的请求所走的路径

语言模型是一种在海量文本上训练的程序，根据提交给它的内容，计算最可能的后续词语。让它作答称为推理。推理需要图形处理器即GPU，这是专为串联数十亿次乘法而设计的芯片，价格昂贵。

企业有两种方式使用它。可以通过互联网租用供应商的算力：这就是云。请求的文本、附件和对话历史于是离开企业的网络，在供应商所有的数据中心里处理，然后回答返回。也可以把模型安装在自己拥有的机器上，放在自己的场所里。这称为本地AI，或“本地部署”。请求不会离开这栋建筑。

对输入问题的人来说，两者看起来相似：一个窗口，一段文字，几秒后的回答。区别在于文本之后的去向。在云端，它的命运取决于供应商的通用条款、国籍、分包商，以及它可能被传唤到的法院。在本地，则取决于企业为自己制定的规则。

供应商保留什么，谁可以要求调取

供应商至少会在一段时间内保留交流的记录，用来发现滥用、计费或改进服务。视所订购的方案，这些交流也可能用于训练后续的模型。面向企业的合同通常排除这种用途，但保存期限和分包商清单写在合同附件里，而不是首页上。

《纽约时报》诉OpenAI案在纽约南区联邦法院审理，显示了这种保留可以走多远。2025年12月初，法官Ona Wang拒绝改变其裁定，该裁定要求OpenAI向新闻出版商交出2 000万条去标识化的ChatGPT对话。据eWeek的报道，她指出这一样本只占该公司保存的数百亿条个人用户对话中的一小部分。数据已去标识化，并置于一项保护令之下，只有律师可以查阅。

对话出现在这一样本中的用户并不是诉讼的当事人。他们的交流之所以成为版权纠纷中的证据，只有一个原因：它们存储在供应商那里。对企业来说，实际的结论一句话就能说清。凡是第三方保存的东西，总有一天可能被法官或主管机关调取，而且是在一个与自己无关的案件中。

《云法案》跟随的是供应商的国籍，而不是服务器的地址

《云法案》（Cloud Act）是2018年3月通过的美国法律。其最受关注的条款，编入联邦法典第18篇第2713节，要求电子通信服务和远程存储服务的提供者，保存或提供其客户的、由其拥有、保管或控制的数据。条文明确指出，无论数据位于美国还是国外，这一义务都适用。

因此，受美国法律管辖的公司在巴黎设置的服务器，仍在该法律的范围之内。2025年6月10日，在参议院公共采购调查委员会上，参议员Dany Wattebled询问微软法国公共与法律事务总监Anton Carniaux，他能否宣誓保证，托付给微软的法国公民数据，在未经法国当局同意的情况下，绝不会应美国政府的命令被传送。Anton Carniaux回答说他无法保证，并补充说这种情况从未发生过。

美国司法部把这部法律说成是调查严重犯罪的工具，并辅以与伙伴国家的双边协议。这一描述是准确的，也没有任何迹象表明法国中小企业的数据是常见的目标。但法律上的风险是存在的，它涉及所有受美国法律管辖的供应商的客户，而其中最大的一家已经宣誓表示无法排除这一风险。不受美国管辖的供应商不受这项义务的约束。安装在企业场所内的模型同样不受约束，因为没有任何第三方持有这些数据。

对美国的数据传输依赖一项受到质疑的协议

GDPR即欧盟个人数据保护条例，只有在目的地国家提供被认为等效的保护，或者落实了合同保障时，才允许把这些数据发往欧盟之外。对于美国，自2023年7月起，这种等效性依赖于欧盟与美国之间的数据保护框架，称为Data Privacy Framework。

它的前两个版本都被欧盟法院撤销：Safe Harbor于2015年10月，Privacy Shield于2020年7月，每次都是奥地利活动人士Maximilian Schrems发起程序之后。第三个目前仍然有效。2025年9月3日，欧盟普通法院驳回了法国议员Philippe Latombe的诉讼，确认该框架有效。2025年10月31日，Philippe Latombe向欧盟法院提出上诉。据我们所知，在本文发布之日，法院尚未作出裁决。

因此，把个人数据交给美国供应商托管的助手的企业，依赖的是一个前两个版本都被宣告无效的机制。如果第三个也倒下，就必须重新审视合同，重新评估数据传输，有时还要紧急暂停某些用途。在安装于企业内部的机器上进行的处理不涉及任何传输，不受影响。

CNIL对生成式AI的建议

CNIL于2024年7月18日发布了一组关于使用生成式AI系统的问答。该文件没有规定任何技术，但在一点上很明确。当一个组织打算向系统提供客户或员工的个人数据，或敏感或战略性的文档时，它认为优先采用本地部署“通常更合适、更安全”，这可以限制第三方提取数据的风险。

CNIL也承认这个选项的成本。在现场安装并运行一套系统是一笔可观的开支，使用远程基础设施往往更简单。它补充说，小企业或地方政府完全可以共享一套共用的基础设施，只要对数据传输加以规范并保证其安全。

对于在线服务，它要求核查供应商的通用条款是否允许其重复使用输入的数据。如果允许，组织必须逐案决定是否应禁止某些类别的信息，例如受商业秘密保护的信息。服务商必须受一份分包合同约束，规定其责任和获准的访问。按GDPR的定义，处理者是代表另一家企业处理个人数据的企业。

在本地托管模型并不免除GDPR的任何义务。仍然必须界定目的，把数据限制在必要的范围内，确定保存期限，并保护好机器的安全。不过，本地可以减少需要维持的合同数量和需要审核的主体。

2026年7月综合立法之后的《AI Act》时间表

欧盟人工智能条例，称为《AI Act》，于2024年8月1日生效。它根据系统带来的风险对其分类，并对两类主体施加义务：设计系统的提供者，以及在业务中使用它们的部署者。为团队提供助手的中小企业就是部署者。

被禁止的做法，如对个人的社会评分，自2025年2月2日起即被禁止。通用AI模型（大型语言模型属于其中）特有的义务，自2025年8月2日起适用，欧盟委员会自2026年8月2日起对这些模型拥有监督权。透明度规则，例如须告知某人其交流的对象是AI，也自同一日期起适用。

2026年7月在官方公报上公布的第2026/1744号条例（AI数字综合条例），推迟了两个期限。附件III中的高风险系统（涵盖招聘、信用评估和教育等）须在2027年12月2日前合规。附件I中的系统，即已集成到机械或医疗器械等受监管产品中的系统，须在2028年8月2日前合规。

该文本不区分云与本地。但它要求企业知道自己使用的是什么系统，用于什么用途，使用什么数据，并能够提供记录。当模型的版本不会在使用者不知情的情况下改变时，这份记录更容易维护，而两种选项在这一点上差别明显。

成本：按请求付费，还是购买一份算力

在线服务按用量计费，通常按处理的token数量。token是词的片段，是模型读取和生成的单位。只要只有几名员工在试用，账单就不高。当工具每天读取数百份文档，或回应每一个客户请求时，账单就随用量增长，价格由供应商设定，且供应商可以调整。

安装在现场的机器则颠倒了这一算法。大部分支出在购买时就已投入，此后每增加一个请求，只花费电费和硬件损耗。对偶尔使用，租用仍然更便宜。对每天持续的使用，购买最终更划算。转折点取决于每家企业的用量，需要用自己的数字来计算。

斯坦福大学《AI Index》公布的两项测量影响着这个计算。据2025年版，GPT-3.5水平的系统，推理成本在2022年11月至2024年10月间下降了280多倍。同一版本指出，开放权重模型，也就是可以下载并在自己的机器上运行的模型，在某些测试上，一年之内把对闭源模型的落后从8%缩小到了1.7%。

2026年版对第二个数字作了修正。2026年3月，在由用户盲测比较回答的投票得出的Arena排行榜上，最好的闭源模型领先最好的开放模型3.4%，而2024年8月为0.5%。落后幅度依然不大，但并不是沿直线缩小：每次有新的闭源模型发布，差距就拉大，然后再收窄。

故障与延迟：距离的代价

2025年10月19日至20日夜间，亚马逊云科技（AWS）的北弗吉尼亚区域发生了连锁故障。据AWS发布的报告，管理其DynamoDB数据库地址的系统中，两个自动进程之间的同步缺陷产生了一条空的DNS记录。DNS是把服务名称翻译成网络地址的目录。没有这一条目，应用就找不到DynamoDB。这第一阶段从太平洋时间23点48分持续到2点40分，共2小时52分钟。

后续持续的时间长得多。依赖DynamoDB的多项AWS内部服务受到连锁影响，EC2计算服务的客户遇到错误、迟缓和机器启动失败，直到10月20日13点50分，大约是事故开始后十四小时。建立在这些服务之上的应用也随之中断。

安装在企业内部的基础设施同样会出故障。磁盘损坏，电源烧毁，更新出了问题。区别在于由谁来诊断，由谁来决定恢复服务的顺序。区别也在于互联网连接：一旦团队的日常工具在第三方那里，连接就成了又一个故障点。

延迟，即从发送请求到回答开始之间的时间，遵循同样的逻辑。在对话中，多一秒几乎察觉不到。对于每小时向模型查询数百次的业务软件，往返次数会累加，其时长随供应商的负载而变化。在内部网络上，延迟更稳定，前提是机器的规格适合用户数量。

当供应商更换模型

2025年8月7日，OpenAI推出GPT-5，并将其设为ChatGPT的默认模型，同时从界面中撤下了此前的模型，包括GPT-4o。抗议立即出现，在随后的几天里，Sam Altman宣布Plus订阅用户可以重新选择GPT-4o。这一事件主要涉及喜欢旧模型语气的个人用户。在企业里，同样的机制有更具体的后果。

用某个特定版本的模型调好的流程，例如自动提取发票上的金额和日期，在下一个版本上的表现可能不同。这时就必须重做测试，重写给模型的指令，有时还要修改提供给客户或审计方的文档。价格和使用条件也以同样的方式变化，由供应商主导。工具集成得越深，离开的成本就越高。经济学家称之为退出成本，而信息技术人员称之为专有锁定。

安装在现场的开放模型，在企业替换它之前不会改变。同样的指令，用于同一个模型，设置相同，月复一月给出可比较的结果，这使得一种用法可以被记录并得到辩护。当更好的模型出现时，替换仍然是可能的，时间由自己选择，并且是在企业文档上测试之后。

云仍然更合适的情形

最强大的模型只能通过API访问，API是一种让软件远程查询服务的接口，有些模型反正也放不进一台办公机器。对于非常长的推理、大型项目的编程，或无人监督、串联几十个步骤的任务，它们保持着可测量的领先。如果需求恰好要求这个水平，云往往是唯一合理的选择。

云也适合短期项目，例如演示，或投入之前为期几周的试点。适合负载极不均匀的情形，即按峰值配置的机器在当月其余时间都会闲置。也适合没有敏感性的文本：改写一则已经公开的公告，或为文章找一个标题，不会暴露任何东西。

因此，选择是在对数据进行分类之后作出的。公开信息可以交给供应商。个人数据、合同、未公布的数字和技术诀窍，要么在现场处理，要么交给一位已阅读其合同、核实其管辖权、检查过其安全性的服务商。

默认在现场处理，外发由决定而定

一条简单的规则可以把两种做法结合起来。请求默认在企业的机器上处理。发送到外部服务成为一项明确的决定，针对具体任务作出，有记录，且负责人可以拒绝。大多数常见的请求，如总结一份案卷、起草一封回复，或在一批合同中找出某项条款，用在办公硬件上运行的中等规模模型即可完成。其余的则在知情的情况下发往外部。

对已经在使用的每一个AI工具，三项核查就能让情况相当清晰：文本在哪里处理，谁保存、保存多久，以及服务中断一天会怎样。答案在合同、分包附件和供应商的状态页面中。

HOMN正是基于这一原则设计其设备：一个安装在场所内的模型，在企业文档上工作而不向外传输，只有当其所有者决定时，才连接外部服务。

本地AI和云端AI有什么区别？

云端AI运行在供应商的服务器上：每个请求都离开企业，在外部数据中心处理，然后回答返回。本地AI运行在安装于企业场所内的机器上，请求不会离开其网络。

《云法案》适用于存储在法国的数据吗？

适用，只要供应商受美国法律管辖。该法律针对由其拥有、保管或控制的数据，无论存储在何处。2025年6月10日，微软法国公共与法律事务总监在参议院宣誓表示，无法保证这些数据绝不会被传送给美国当局。

在企业使用ChatGPT能符合GDPR吗？

可以，前提是有分包合同、针对欧盟境外传输的保障措施，以及关于允许输入哪些数据的内部规则。CNIL要求核查供应商是否可以重复使用所输入的数据，并认为对于个人数据或敏感数据，本地部署通常更可取。

本地AI什么时候比云更划算？

当使用是每天持续的时候。云按处理的文本量计费，而本地机器在购买时付费，此后只有电费和维护成本。对于偶尔或极不均匀的使用，租用通常更便宜。