该法的实施将为全球带来三大影响

2024年3月13日，欧洲议会以523票赞成、46票反对、49票弃权正式批准通过了欧盟《人工智能法案》（EU AI Act），由此走出了完成立法程序最重要的一步。

作为全球范围内首部关于人工智能治理的综合性法律，欧盟《人工智能法案》提出了世界上第一个全面的、有约束力的可信任人工智能规范框架，使欧盟在对人工智能这一战略性技术与应用的法律规制方面走在了世界前列，也为西方未来的人工智能规则走向和监管生态定下了锚定点。

欧盟《人工智能法案》的立法核心点

欧盟《人工智能法案》的立法特色是基于欧洲固有的历史性价值观针对新兴人工智能技术和应用场景建构一揽子专门的法律治理要求，特别是基于各类人工智能系统不同的风险等级和影响程度划定相应的业务规则与合规要求，就其制度重点而言：

一是明确了被禁止的人工智能应用情形。《人工智能法案》禁止某些威胁公民权利的人工智能应用，包括基于敏感特征的生物识别分类系统，以及无差别性地从互联网或闭路电视录像中获取面部图像以创建面部识别数据库。工作场所和学校中的情绪识别、社交评分、特定的预测性警务以及操纵人类行为或利用人们弱点的人工智能应用也将被禁止。

二是建构了高风险人工智能的合规义务。《人工智能法案》围绕对健康、安全、基本权利、环境、民主和法治具有重大潜在危害的“高风险人工智能系统”，包括关键基础设施、教育和职业培训、就业、基本的私人和公共服务、执法、移民和边境管理以及司法与民主领域的特定系统等，规定了立体、系统的各项合规要求，尤其是必须评估和降低风险，保存使用日志，做到透明和准确，并确保人工监督等，并且公民有权提交有关人工智能系统的投诉，并获得对基于高风险人工智能系统、影响其权利的决定的必要解释。

三是划定了通用人工智能的透明度要求。作为当下最重要的战略性场景，《人工智能法案》专门针对通用人工智能 (GPAI) 系统及其所基于的GPAI模型，明文强调它们必须满足一定的透明度要求，包括遵守欧盟版权法和公布用于训练的内容的详细摘要等。而可能带来系统性风险的更强大的GPAI模型则需要满足更多的要求，包括开展模型评价、安全评估和系统性风险缓解以及事件报告等。此外，人工或经过处理的图像、音频或视频内容，也即“深度合成”的情形中，义务人需要依法明确标注为人工或经过处理的图像、音频或视频内容。

总体而言，欧盟《人工智能法案》核心的立法宗旨在于保护基本权利、民主、法治和环境可持续性不受“高风险人工智能”的影响，同时促进创新和发展，将欧洲变成值得全球信赖的人工智能中心，加强整个欧盟层面对于人工智能的使用、投资和创新，力图使欧洲成为AI研发应用和法治领域的世界级领导者。

欧盟《人工智能法案》的实施将带来三大影响

应当指出的是，《人工智能法案》的制定缘起于2018年欧盟《人工智能战略》，整个过程始终饱受全球各方的高度关注，其出台和施行将会持续产生三大生态性影响：

其一，影响人工智能监管理念与方法。一方面，《人工智能法案》注重持续促进和加强欧盟各方在人工智能技术方面的合作，在符合欧盟价值观的前提下以提高其技术竞争力为重要目标。另一方面，法案的制度设计立足各种人工智能系统的分类分级思路，侧重于强化具体应用场景相关的风险规制，并且通过设立人工智能办公室以及引入模型评价、安全评估、风险缓解和透明度要求等工具箱，系统建构关于人工智能安全的治理体系。这一“风险导向”的监管思路，延续了欧盟《通用数据保护条例》（GDPR）、《非个人数据自由流动条例》、《数据治理法案》、《数据法案》、《数字服务法案》以及《数字市场法案》等欧盟新一代数字立法的核心方法论，并实现了在人工智能领域的创新覆盖。

其二，影响人工智能的国际治理生态。如前所述，《人工智能法案》各项规范的重要特点是以欧盟的人权、民主、自由和法治等传统价值观为逻辑底色，其落地实施的重要凭借在于欧盟市场的经济体量和相对软实力。结合欧盟过往关于技术主权和数字主权的主张诉求和实践做法，以及在人工智能国际治理领域的各种表现，特别是目前联合国框架下《网络犯罪公约》和《人工智能决议》制定进程中与美国、英国、日本和加拿大等国的联动情况，不难想见“欧式模板”会作为一种突出的治理方案，在人工智能国际治理生态中成为重要的规则参照系，进而对其他国家政策法规的价值选择和监管执法的方式方法产生显著的“规则溢出效应”，并通过各种国际协定、经贸协议持续在全球扩大其影响版图。

其三，影响人工智能产业应用与合规。《人工智能法案》围绕不同人工智能技术与应用场景及其影响和风险水平而体系化设定的各种业务规则与合规义务，在实操层面将通过作为执法枢纽职能部门的人工智能办公室协同各方渐次展开，并会呈现足够的力度、广度和速度。全面施行后会在短期内产生改变人工智能企业的技术研发方向和商业投资架构的后果，也会波及从基础设施、云计算、数据中心到大模型等各个层次的人工智能实体的市场规划、业务运营与合规策略，深度改变未来人工智能和数字产业的上下游生态面貌。对此需要持续、系统地研判《人工智能法案》的施行进度与执法切入，及时做好相关产业的风险洞察，全面梳理盘点战略性商业谱系和数字资产结构，并及时设计和引入匹配人工智能的技术逻辑且具有经济性、敏捷性和可行性的整体合规方案。

本文来自微信公众号“Internet Law Review”（ID:Internet-law-review），作者：吴沈括