AI 造害快于立法:一份现成的工具箱
世界银行《2026 世界发展报告:人工智能的潜力》第 30 页,有两句话值得每个法律人抄下来。
第一句:「AI can create harm faster than governments can create new laws.」——AI 造成损害的速度,快于政府立法的速度。
第二句:「Existing laws on data protection, consumer protection, human rights, intellectual property, and cybersecurity, for example, already provide important tools for managing many AI risks.」——既有的数据保护、消费者保护、人权、知识产权与网络安全法律,已经为治理诸多 AI 风险提供了重要工具。
这两句合起来是一个判断:等新法,是错的策略;把现有规则用对,才是。报告甚至把这层意思提炼成一句更好记的话(p.220):「The technology does not determine outcomes; governance choices do.」决定结果的是治理选择,不是技术本身。
一、为什么「等新法」一定会等空
立法有周期,损害没有。一部法律从立项到施行,动辄两三年;而一次模型更新、一次提示词改动,就能让一批人的权益受损。
报告还给了个侧面数据:在 58 个经济体的官方调查里,低收入与中低收入国家 43% 把「缺少政策、框架与标准」列为主要约束(p.309)——它们等的不是更聪明的法条,而是能立刻用的框架。
AI 监管的全球图景也远未统一:欧盟《AI 法案》的高风险义务因 Digital Omnibus 推迟至 2027 年 12 月(嵌入产品者 2028 年 8 月);欧盟之外只有 6 个经济体立了横向法,日本走的是无罚则的「轻触式」(pp.311–312)。指望一部万能法落地,再照着做,是把自己钉在原地。
二、工具箱里的五件,在中国法下怎么用
第一件:著作权法。 训练数据的第一步是复制、下载、清洗、入库——这是复制行为;把生成内容发布出去,可能触及信息网络传播。合理使用的边界在个案里划,不在口号里划。「我在训练、没有发表」不是免责理由,复制本身就要有依据。
第二件:商业秘密与反不正当竞争。 模型参数、训练数据、提示词工程、清洗规则,凡符合非公知、有价值、有保密措施三要件的,都可以主张商业秘密。反过来讲,企业自己不设防,事后主张侵权会很难——这一点与专利不同,商业秘密的保护强度取决于权利人自己做了多少。
第三件:个人信息保护法。 训练语料里只要有一句真人说的话、一张真人的脸,就进入个保法的射程。第 24 条给了个人对自动化决策的知情与拒绝权,这条在客服、风控、招聘、内容推荐四个场景里最常被触发。合规动作不是写一份隐私政策,而是能说出「这批数据从哪来、依据是什么、怎么退出」。
第四件:消费者权益保护法与广告法。 AI 生成的宣传语、测评、比较广告,一旦虚假或引人误解,责任不在模型,在发布者。报告特别点出生成式 AI 对学习的侵蚀(中国 7–12 年级研究:作业分 +18%、月考分 −20%,p.194)——放到营销场景里,就是「AI 写的功效描述」这类高风险内容。
第五件:网络安全法、数据安全法与出境规则。 数据出境不是只有跨境巨头才会碰到:用境外 API 处理客户数据、把标注外包给海外团队、把日志同步到境外服务器,都可能构成出境。
三、三个已经发生的事,说明工具箱在动
荷兰:算法误判 2.6 万人,内阁辞职。 税务机关的算法在 2015–2019 年间错误判定逾 2.6 万个家庭存在福利欺诈,2021 年内阁为此辞职(p.180)。这里没有「AI 法」,用的是行政法上的问责。
哥伦比亚:宪法法院裁定 AI 不得替代法官判断。 报告在概述里记录了这起裁定(p.30 一线)。它回答的不是技术问题,而是权力能不能委托给机器的问题——这在任何法系里都是宪法层面的问题。
中国:AI 合成声音案,赔 3.4 万美元。 报告记录中国一名配音演员因 AI 语音生成器未经同意使用其数据获赔(p.309)。要特别注意报告的定性:它把这笔赔偿归入数据与人格利益,不是著作权判例。对外引用时写错定性,等于自己给对方送一个反驳点。
三件事的共同点是:法官用的都是手上的法——行政法、宪法、人格权与个人信息保护,没有一件在等新法。
四、企业四步自查
第一步,把场景列出来。 不要一上来就谈「AI 合规」,先列你实际在用的场景:训练、推理、生成、分发、自动化决策,分别对应不同的法。
第二步,一个场景对一部法。 训练数据对著作权与个保法;模型与参数对商业秘密;对外发布对广告法与消保法;跨境传输对数据出境规则;自动化决策对个保法第 24 条。
第三步,把留痕做出来。 数据来源清单、授权文件、清洗规则、版本记录、人工复核记录。报告在讲政府时说过一句同样适用于企业的话(p.282):AI 系统的可靠程度不会超过喂给它的数据管道,而政府场景里的小错误会放大成大损害。
第四步,在合同里分配责任。 报告点出责任链的结构性困难(p.181):法律建立在「故意、因果」这类以人的行为为核心的法理上,而算法失误时,责任在开发者、供应商、采购方还是一线操作者,难以归属。合同不写清楚,出事时只能靠猜。报告另一句话可以直接拿去谈判(p.295):外包只转移责任的位置,不消灭责任。
五、律师的价值不在发明规则
这份报告最反直觉的地方,是它没有呼吁各国「尽快立 AI 法」。它说的是:先用标准,标准不足时用监管托底(p.307),而在此之前,现行法已经够用。
对企业的含义很清楚:你不需要等一部新法来告诉你该做什么,你需要一个能把现有五部法对应到你五个场景的人。这件事现在就能做,做完就能用。
对同行的含义也一样:AI 合规不是一门等风来的生意,是一门把旧工具磨快的生意。
资料来源:World Bank, World Development Report 2026: The Promise of Artificial Intelligence(DOI 10.1596/978-1-4648-2331-2),页码为原书印刷页。文中数据与引文均出自该书,涉及中国案件时按报告原定性表述。
如果你正在做 AI 相关产品、或者被要求出一份「AI 合规意见」,可以把场景清单发我们:我们按「场景—法条—留痕—合同」四步出一份对照表,先看哪些是现在就能改的。
相关阅读
北京觅理律师事务所 · 知识产权与数据合规
诉讼 · 商业秘密 · 数据合规
何自刚 | 律师 | 北京觅理律师事务所
*本文由 AI 辅助检索与整理,观点与判断经律师审定。*
*本文为实务解读,不构成对具体案件的法律意见。*