欧盟《人工智能法》2024年8月生效
点击蓝字 关注我们
导读
本文翻译自An American's Guide to the EU AI Act，作者Margot E. Kaminski, Andrew D. Selbst，原作公开于Social Science Research Network。
《人工智能法》于2024年8月生效。《人工智能法》篇幅很长，也很复杂。它依赖于美国许多人并不熟悉的监管框架和机构。但作为全球首部综合性人工智能监管法规，它有可能对实践和立法产生广泛影响。
本文提供一份面向美国读者的《人工智能法》指南。本文面向美国法律读者拆解《人工智能法》，解释其总体机制，以及该法如何与欧盟（European Union, EU）背景性法律和机构互动。就其核心而言，《人工智能法》建立在欧洲产品安全制度之上。它旨在通过将人工智能系统划分为不同风险层级，并运用禁止、风险监管和自我监管来治理人工智能系统。但它也包含后来起草的关于通用目的人工智能（general-purpose AI, GPAI）的条款，这些条款偏离了这一框架，此外还包含多项临时性条款和其他监管线索。
本文还分析了将人工智能监管框定为风险监管，以及将人工智能系统建构为产品而非官僚流程所带来的后果。本文将《人工智能法》本身描述为一个“法律外骨骼”，即以硬法包裹技术标准这一较为柔软的腹部。本文指出，这种设计对实体内容和正当性构成的威胁，以及可能产生的政治影响。
本文提供一份面向美国读者的《人工智能法》指南。第二部分首先介绍理解本文所必需的欧盟法和欧盟机构背景；如果读者已经熟悉欧盟，可以略读或跳过。第三部分概述《人工智能法》。就其核心而言，《人工智能法》建立在欧洲产品安全制度之上。它旨在通过将预测性人工智能系统划分为不同风险层级，并运用禁止、风险监管和自我监管来治理这些系统。但它也包含后来起草的关于GPAI的条款，这些条款偏离了这一框架，此外还包含多项临时性条款。
第四部分提出我们的分析。我们指出，将人工智能监管框定为风险监管，以及将人工智能系统建构为产品而非官僚流程所带来的后果。我们将《人工智能法》本身描述为一个“法律外骨骼”，即以硬法包裹技术标准这一较为柔软的腹部。我们指出，这种设计对实体内容和正当性构成的威胁，以及可能产生的政治影响。
第五部分以一项关于全球权力政治的警示作结。现在或许并不是让布鲁塞尔再次输出法律的时机。而且，《人工智能法》本身也并不适合被输出。相反，我们提醒读者，放松监管的力量正在叠加，既来自欧洲内部，也来自美国。
《人工智能法》建立在既有欧盟法和制度结构的高山之上。在本节中，我们先介绍一些基础和并不那么基础的背景；我们认为，要理解《人工智能法》正在发生什么，这些背景是必要的。
A. 欧盟机构
我们从欧盟机构讲起，简要介绍基础内容以及这些机构与《人工智能法》的关系。欧盟是一个超国家组织，由二十七个成员国组成，这些成员国共同参与一项法律和经济事业。美国读者可以把它理解为一种联邦制体系，尽管它也许更接近《邦联条例》所设想的那种体系，即成员国行使真正的主权。
某些立法机构在欧盟层面运作，方式包括直接立法或授权成员国立法。欧盟有四个主要决策机构：欧洲理事会、欧洲议会、欧盟理事会和欧盟委员会。欧洲理事会不同于欧盟理事会，由欧盟各国国家元首或政府首脑组成。它确定欧盟的一般政治方向，但通常不参与立法。欧盟的两个主要立法机构是欧洲议会和欧盟理事会。欧洲议会代表成员国公民，并由他们直接选举产生。欧盟理事会由各成员国部长组成，其构成会因所审议法律的政策领域而不同。欧盟的主要行政机构是欧盟委员会。
我们之所以概述欧盟立法程序，是因为《人工智能法》在若干处设想，为修正或实施之目的绕开该程序。一般而言，新的欧盟法律通常通过所谓“普通立法程序”通过：欧盟委员会行使其“倡议权”提出新法律草案，随后由欧洲议会和欧盟理事会共同审议。新法律往往要经历漫长的“三方会谈”谈判，这是一种非正式的机构间谈判，三个机构的成员共同拟定草案，随后可由三个机构各自在内部正式通过。这有点类似美国国会将议案提交两院协商委员会，但更为复杂，因为需要三个机构达成一致。《人工智能法》在其三年起草过程中遵循的正是这一程序。
欧盟委员会这一行政机构在《人工智能法》中被赋予若干特定角色，包括在不经过完整立法程序的情况下修改法律某些方面的授权能力。该法还在欧盟委员会内部设立了一个“人工智能办公室”，以“发展欧盟在人工智能领域的专业知识和能力”。这个欧洲人工智能办公室已经参与制定《通用目的人工智能行为准则》，主要充当召集者。人工智能办公室还发布了用于概述GPAI训练数据的模板。
回到欧盟法：欧盟的权力由条约授予。不同于主权被预设的欧盟成员国，欧盟并不享有固有权力，因为它不是一个主权国家。欧盟制定法律的权力，即所谓“权限”，会因不同事项领域而异，取决于条约赋予了它什么权力。在某些领域，欧盟享有专属权力；在另一些领域，其权力则与成员国共享，或对成员国发挥支持作用。例如，欧盟对欧元和贸易治理享有专属权力；对消费者保护、某些类型的社会政策以及更一般的内部市场治理享有共享权力；而在工业、文化、旅游等领域仅享有支持性权力。成员国保留内部安全和犯罪预防方面的权力；一般而言，凡未明确授予欧盟的权力均属于成员国。
尽管这一“授予原则”在形式上仍然有效，但欧盟似乎正在经历一种类似美国联邦政府在商业条款之下扩张权力的过程。许多不同的法律问题都被视为对“内部市场”的规制，因而可以纳入欧盟权力范围。如下文所述，《人工智能法》是欧盟更大范围产品安全制度的一部分，其正当性基础正是对内部市场的规制。
欧盟的主要司法机构是欧盟法院（Court of Justice of the European Union, CJEU）。CJEU与成员国国家法院并行运作，以落实欧盟法。其主要职能之一是解释欧盟法。CJEU是一个机构，但包含两个管辖范围不同的法院：欧洲法院（European Court of Justice, ECJ）和普通法院。欧洲法院主要审理由成员国高级法院提交的案件，包括就新的法律问题作出初步裁决。相比之下，普通法院可以直接受理个人和机构提起的案件，但仅限于主张某个欧盟机构直接侵犯其权利的请求。
一般而言，如果个人想主张私人主体或国家机构违反了欧盟法，就必须通过本国法院提出。国家法院审理欧盟法适用于本国公民的争议，并可将欧洲法问题提交欧洲法院。这被称为“初步裁决程序”。欧洲法院的作用会因特定条约的结构而异。例如，在数据保护法中，欧洲法院发挥着积极作用。根据《通用数据保护条例》（General Data Protection Regulation, GDPR），数据主体可以向当地数据保护机关投诉；如果不满意，可以在国家法院起诉该机关，并由欧洲法院作为可能的后盾。但即便在赋予数据主体许多个人权利的GDPR之下，数据主体也不能直接向欧洲法院起诉。相比之下，尽管《人工智能法》据称很大程度上出于对个人基本权利的关切，但该法并未规定个人救济权。相关机构关注的是市场中产品的运行，而不是审理基本权利案件。因此，CJEU在对该法大部分内容进行监督或提供后盾方面的作用并不清晰。
到目前为止，我们已经介绍了欧盟的主要立法、行政和司法机构。《人工智能法》还提到若干美国读者可能不熟悉的其他机构。《人工智能法》依赖欧洲数据保护监督员（European Data Protection Supervisor, EDPS）这一为执行数据保护法而设立的机构，使其承担若干不同职能。当欧盟层面的机构以通常应由成员国机构，例如市场监管机构，加以监督的身份行事时，欧洲数据保护监督员被指定为监督者。它还被指定为该法设立的欧盟人工智能委员会的观察员。
接下来是欧洲标准组织。这些组织是私人组织而非政府机构，但它们被视为欧洲机构，并受欧盟法管辖。某些欧盟法律授权三个标准机构制定技术标准，以帮助落实《人工智能法》。它们各自的专业领域略有不同。欧洲标准化委员会较为综合，欧洲电工标准化委员会侧重于电气工程相关标准，欧洲电信标准化协会则侧重于信息和通信领域。《人工智能法》要求并高度依赖“技术”标准的制定，并已委托欧洲标准化委员会和欧洲电工标准化委员会的联合技术委员会来实施《人工智能法》的标准。
B. 欧盟法律
在这里，我们从欧盟机构转向欧盟法律。我们首先介绍一些常用术语的含义，例如条例、指令和序言性陈述。随后，我们转向《人工智能法》背后更广泛的实体法背景，识别若干相关且相互重叠的欧盟法律。
欧盟成文法主要有两种形式：条例和指令。条例是对欧盟的各个个体实体，即公民、公司和成员国，具有直接约束力的法律。相比之下，指令是一种要求成员国在一定参数范围内就某一主题制定法律的法律。如果将欧盟理解为超国家组织，那么条例类似于自动执行条约，而指令类似于非自动执行条约。欧盟法的一项主要功能总体上是协调成员国法律。当欧盟认为法律协调需要较轻的干预时，会使用指令；而条例则用于实现更紧密的协调。
例如，GDPR于2016年通过，是因为成员国在实施1995年《数据保护指令》（Data Protection Directive, DPD）时形成的数据保护法律高度碎片化。此外，如果立法机构认为有必要，指令有时会作为后来制定条例的垫脚石，例如从《数据保护指令》到GDPR的转变，或《电子商务指令》与《数字服务法》（Digital Services Act, DSA）的情形。
欧盟法律由条文、序言性陈述，有时还包括附件构成。条文构成具有约束力的立法文本。相比之下，序言性陈述说明法律背后的目的；它们类似于形式化的立法史。但不同于美国的立法史常被贬低为解释中的最后手段或无关材料，序言性陈述极其重要。CJEU遵循目的解释理论，即文本应当结合其宣示的目的加以解释。因此，序言性陈述在赋予欧盟法意义方面发挥直接作用。
有些欧盟法律包含附件，附件也是具有约束力的立法文本，只是另行书写。某一条文可以指向某个附件，以适用某项规定所需的程序或所涵盖情形的清单。将附件单列出来，便于更新实施细节。附件在《人工智能法》中被大量使用。
现在，我们从结构转向法律实体内容。《人工智能法》以隐性和显性方式依赖、重叠于并受制于其他欧盟法律。其中最相关的是一种被称为“新立法框架（New Legislative Framework, NLF）”的模式，即欧盟产品安全制度的框架。建立在NLF之上的法律通过要求产品在进入市场之前满足某些安全“基本要求”来运作。只有在完成“合格评定”之后，产品才被允许进入市场；该评定显示产品以及其风险缓释框架、故障预警程序和文件均符合该框架的基本要求。典型的NLF法律规制儿童玩具或电梯等产品，即标准的产品安全制度；在美国，这类制度可能由消费品安全委员会负责。熟悉NLF之所以重要，主要是因为《人工智能法》是作为NLF之下的产品安全法创设的，并使用其他NLF法律所采用的同样合格评定和市场监督结构。下文在讨论该法实体内容时会更具体地展开。
其他法律也因不同原因对《人工智能法》很重要。《欧盟基本权利宪章》规定了欧盟的基本权利制度。《人工智能法》以两种方式隐含依赖该宪章及相关解释性判例。首先，该法指出人工智能会对基本权利构成风险，但并未界定哪些权利会受到影响，也未说明人工智能可能如何影响这些权利。因此，它依靠既有欧盟基本权利框架来填补这一空白。该法也未提供个人救济权，而是交由其他既有法律来为基本权利受侵害提供个人救济。
欧盟的数据保护制度，尤其是GDPR，是《人工智能法》尤为重要的补充。尽管人工智能建立在数据之上，《人工智能法》并不是数据保护法。承担这一功能的是GDPR。数据保护是受《宪章》保护的一项基本权利。GDPR由CJEU提供后盾，CJEU结合基本权利解释GDPR的监管要求。因此，即便CJEU在《人工智能法》中看似缺席，它仍在一部关系密切、相互补充且有所重叠的法律中积极存在。
GDPR和《人工智能法》各自试图缓解或防范不同类型的损害，且所保护的人群也不同：一类是数据主体受到的损害，另一类是受人工智能影响者受到的损害。然而，两部法律的某些方面直接重叠，例如使用个人数据对个人作出决定的情形。一些要求，例如对人工智能决策的解释权，也会相互竞争或重叠。
《人工智能法》还为某些GDPR规则创设例外。例如，在遵循若干保障措施的前提下，它允许在“为确保偏见检测和纠正之目的而严格必要”时，处理GDPR下的“特殊类别”数据，即种族等敏感数据。该法还允许为监管沙盒处理个人数据，监管沙盒本质上是带有安全港的人工智能试点项目。最后，如上所述，该法还为欧洲数据保护监督员这一由GDPR设立的机构指定角色，包括让欧洲数据保护监督员成为受该法规制的欧盟实体的相关监督机关。
《人工智能法》还与《数字服务法》存在实质性互动。《数字服务法》涵盖平台使用，使用人工智能进行内容审核的平台将同时受《数字服务法》和《人工智能法》约束。在这种情况下，相对于《人工智能法》这一特别法，《数字服务法》是一般法；平台人工智能将受《数字服务法》治理，同时叠加适用《人工智能法》的要求。同一原则也适用于同时属于既有NLF制度所涵盖产品的人工智能，例如玩具或无人机。《人工智能法》要求提供者遵守既有NLF框架，并在此基础上叠加《人工智能法》的要求。最后，该法还与欧盟版权法重叠，尤其是《数字单一市场版权指令》。
C. 成员国机构
该法还依赖若干不属于欧盟而属于成员国的机构。成员国被要求“设立或指定国家主管机关，其中至少包括一个通知机关和一个市场监管机构”。回想一下，该法所建立于其上的NLF产品安全制度依赖合格评定程序；该程序实际上是在产品能够进入欧盟市场之前认证其符合法律要求。有时，合格评定由被称为合格评定机构的第三方进行，这些机构通常是私人组织。“通知机关”是成员国层面的机构，可以设立程序，将合格评定机构认证为“公告机构”。合格评定机构可以向通知机关提出申请，并通过其用于检查能力的程序，从而成为公告机构。
第二类机构是市场监管机构，通常是负责一般产品安全监督的国家机关。《人工智能法》允许成员国为该法目的指定不同于其既有产品安全机关的其他机关作为市场监管机构。如下文所述，这些成员国层面的机构对该法的问责框架非常重要，也是整个NLF的核心。
《人工智能法》还依赖与其他法律领域相关的成员国机构。该法特别依赖负责执行基本权利的机关。它授予“监督或执行保护基本权利的欧盟法义务之遵守情况的国家公共机关或机构”“请求并查阅根据本条例制作或保存的任何文件”的权力。之所以作出这种含糊描述，是为了顾及成员国之间这类机构的差异；并且按照《人工智能法》的要求，大多数成员国已经指定哪些具体机构符合这一标准。在该法与数据保护相交叉的范围内，成员国数据保护机关也将在执法中发挥作用。
《人工智能法》的核心目标，是通过减轻人工智能系统使用所产生的风险，促进人工智能在整个欧洲的采用。该法第一条开宗明义地规定，本条例的目的在于改善内部市场运行，促进以人为本、可信赖的人工智能（AI）的采用，同时确保对健康、安全和基本权利的高度保护。
对于欧盟以外、习惯于将欧盟监管想象为自上而下、集中且强硬的读者而言，《人工智能法》明确优先强调市场运行和人工智能采用，或许会令人意外。但欧盟最初是一个贸易集团，其早期法律关注的是开放共同市场。因此，仅将该法理解为欧洲采纳预防原则的体现，是一种误读。该法在很大程度上旨在通过统一的监管框架，为人工智能相关商品和服务在欧盟各成员国之间流通和采用清除障碍。至于这一框架是否有效，则是另一个问题。
《人工智能法》的监管框架以减轻风险为核心。该法将“风险”定义为“损害发生概率与该损害严重程度的组合”。它试图通过一种大体统一的方法，将人工智能划分为不同的“风险层级”，以减轻多种风险。然而，该法试图减轻的风险类型并不相同，包括对“健康、安全、基本权利”的风险。虽然这看起来只是一个简短清单，但其中对“基本权利”的提及大幅扩展了该法的覆盖范围，将《宪章》中涉及的每一项基本权利都纳入其中。
这种试图用同一框架处理多样化风险的做法会产生问题。以预测和衡量潜在损害为重点的定量框架，对于某些类型的损害（例如对人身安全的损害）可能运作良好，但对于其他类型的损害（例如对人权的损害）则未必如此。适合用于预防人身损害的风险缓解方式，也可能与理想中规制隐私或言论自由损害的方式大不相同。此外，该法以风险缓解框架为核心，而不是以权利保护框架为核心，这可以说预设了人工智能的采用，并且预设在采用人工智能的过程中，对基本权利造成某些剩余损害是可以接受的。
在其核心部分，即对“高风险”人工智能系统的规制上，《人工智能法》建立在欧盟产品安全法框架之上。然而，该法的多个方面是临时增补的，因此并不能完全纳入产品安全框架。有些内容是在起草后期加入的。例如，在该法起草过程中 ChatGPT 公开发布之后，立法者为该法所称的“GPAI”设计了一个独立的监管框架。其他临时性要素则是为了回应包括数据保护监管机构在内的各类群体的反馈。
以这种方式把握该法的实质内容，即（A）产品安全核心，（B）GPAI 部分，以及（C）临时性要素，有助于理解其结构。本第二部分的大多数讨论都围绕该法的产品安全核心展开。但我们会更详细地介绍这三个方面。
A. 核心产品安全制度：“新立法框架”
《人工智能法》的核心，即其对高风险人工智能系统的规制，采用了欧盟关于产品安全的框架方法。这一 NLF 由两项条例（2008年、2019年）、一项指令（2008年）以及特定产品法律加以规定。
因此，《人工智能法》采用了与医疗器械、建筑产品和儿童玩具等产品监管相同的框架。
NLF 的运作方式大致如下：为了能够在欧盟市场上合法流通，产品提供者必须接受“合格评定”，以表明该产品及其安全治理符合欧盟法律。完成合格评定后，产品提供者可以为产品加贴“CE”标志，然后使该产品在内部市场流通。加贴标志的产品随后受到被称为“市场监管机构”的实体的上市后监督。下文将结合《人工智能法》对此作更详细说明。
首先，我们将在第三部分A.1节讨论该法的风险层级。随后，我们将在第三部分A.2节简要讨论其禁令。接着，我们将在第三部分A.3节更详细地讨论该法对高风险人工智能系统的规制，这构成了该法的主体内容，并体现了其对 NLF 架构的运用。
该法围绕特定人工智能应用所引发的三类风险来构建其核心框架：不可接受风险、高风险以及其他所有情形。可以将这些层级理解为交通信号灯。该法在第二章禁止一份特定人工智能实践清单（红灯）。它在第三章规制一份可能不断演变的人工智能实践清单（黄灯）。而对于其他所有情形，在建议性自律的约束下予以允许（绿灯）。该法的主体内容聚焦于高风险人工智能系统的规制（黄灯）。我们在这里也采取同样的重点。
在继续之前，我们先作一个总体观察。首先需要注意，该法规制两类主要行为者：人工智能提供者和人工智能部署者。（它还规制人工智能分销者和进口商；如果将该法理解为关注产品进入欧盟市场，这一点是合理的。）该法的主要重点在于人工智能提供者，也就是许多人所说的人工智能开发者。不过，它也规制人工智能部署者。
因此，该法的核心结构所规制的是一种特定的人工智能心智模型：由一个行为者开发、由另一个行为者为特定目的使用的人工智能。该法的主要义务试图在责任于这两类行为者之间转移时对其进行追踪。因此，某一特定“人工智能实践”适用哪一风险层级，取决于特定人工智能系统的具体目的。由此也就不难理解，当涉及通用目的人工智能系统时，这种以目的为中心的框架会失灵。
《人工智能法》对风险最高层级的规制采用了一种简单但严厉的法律机制：禁令。
尽管篇幅不长，《人工智能法》通过禁令规制“被禁止的人工智能实践”，这本身相当引人注目。在美国，一些人工智能系统的用途曾在市政层面或州层面被禁止或暂停。国际上也曾就禁止人工智能在战争中的某些用途进行讨论。但总体而言，截至《人工智能法》颁布时，美国很少有人工智能系统受到有实质意义的规制，更不用说被禁止。
从监管设计角度看，《人工智能法》使用禁令，为某些特定人工智能实践设定了一套相对明确的规则。如果受监管企业确实想要清晰性，对某些实践的禁令就能提供这种清晰性。禁令不是标准。它在适用中不留下多少解释空间，也不把决策权委托给机构或法院等其他主体。决定禁止什么的是公共立法者，而不是通过技术标准制定机构运作的某些私人行为者。尽管《人工智能法》的许多内容属于较轻度的监管，但这一部分显然不是。应当记得，《人工智能法》所陈述的目的，是便利人工智能系统在欧盟市场上的采用。该法第二章对人工智能系统某些用途的禁令，似乎构成了通过监管促进采用这一总体目标的后盾，至少象征性地划定了欧洲愿意允许的外部边界。
《人工智能法》在法文本本身而非附件中列出一份“被禁止的人工智能实践”清单。这使该清单比该法的“高风险”实践清单等内容更具稳定性，也更难修改。它表面上反映了欧洲对于哪些具体人工智能用途事实上侵犯基本权利，或对健康、安全构成过高威胁的共识。
然而，现实中，这一清单似乎是对若干有关算法或人工智能系统滥用的突出新闻事件的回应。被禁止的实践包括：将人工智能用于社会评分（“别成为中国式禁令”）；将人工智能用于预测实施刑事犯罪的风险（“少数派报告禁令”）；将人工智能用于推断工作场所或教育环境中的情绪（“情绪颅相学禁令”）；以及抓取公开图像以协助创建面部识别系统（“Clearview AI 禁令”）。完整清单列于第二章第五条。
有一项被禁止的实践值得进一步讨论，即禁止在公共空间为执法目的使用实时生物识别系统（本小节余下部分称为“生物识别禁令”）。原因有二。第一，生物识别禁令所确立的禁止事项，与该法其他部分允许但加以规制的用途相距很近。该法只禁止生物识别系统用途中的一个非常特定子集：实时使用（而非事后使用）、在公共空间使用（而非在私人空间使用）、并且为执法目的使用（而非私营部门使用）。除此之外，生物识别系统在该法下作为高风险人工智能用途受到规制。这形成了一种潜在的悬崖效应，使受监管的人工智能提供者可能竭力避免落入被禁止的行为类别。也有人指出，该法并未禁止，而是在某种程度上容许安装面部识别基础设施。
第二，生物识别禁令在起草过程中争议很大，它是该法中唯一一项禁令，也是该法少数几个设想并安排与法院发生重要互动的地方之一。不同于其他若干禁令，生物识别禁令包含三项明确例外：针对受害者的定向搜寻；应对对生命或人身安全的“具体、重大且迫在眉睫的威胁”或恐怖袭击风险；以及寻找或识别涉嫌实施某些较严重犯罪的人。它为这些例外建立了事前司法监督机制，或根据国内法建立类似的独立行政监督机制。这一点值得注意，因为它直接将法院作为基本权利监督的权威主体纳入其中，而该法其他方面并非如此。
《人工智能法》的大部分内容涉及高风险人工智能系统的规制，也就是我们风险层级交通信号灯中的黄色部分。这里，我们将讨论：哪些人工智能系统被认为是“高风险”，该法对高风险人工智能系统提供者在相关欧盟或国家法律允许使用生物识别技术的范围内：
（a）远程生物识别身份识别系统。但这不包括仅以确认某一特定自然人是否为其所声称之人为唯一目的、拟用于生物识别验证的人工智能系统；
（b）拟用于根据敏感或受保护的属性或特征，并基于对这些属性或特征的推断进行生物识别分类的人工智能系统；
（c）拟用于情绪识别的人工智能系统。
（开发者）和部署者（使用者）分别作出的实质性规制、合格评定在该法下如何运作（包括私人技术标准制定的核心作用），以及该法建立的复杂问责体系（包括登记和上市后监测）。
a）哪些实践属于“高风险”？
如果某一人工智能系统是 NLF 及其他特定欧盟法律所涵盖产品的产品本身或安全部件，则该人工智能系统被视为“高风险”。此外，如果某一人工智能系统被列入该法附件三，也会被视为“高风险”。附件三目前列出了八类高风险人工智能系统。这些类别包括：未被该法禁止且根据欧盟和国家法律另行允许的生物识别系统；用于关键基础设施的人工智能系统；用于教育和职业培训的某些人工智能系统；用于就业的某些人工智能系统，包括招聘、解雇和员工监控；用于确定某些公共和私人基本福利的人工智能系统；以及另外三类。
为了使法律面向未来保持适应性，《人工智能法》使附件三中的高风险人工智能系统清单比通常的欧盟法律更容易更新。第七条赋予欧盟委员会通过“授权法令”更新附件三的权力，条件是损害风险与当前清单中的既有实践一样高，并且新的高风险系统属于既有八个类别之一。
有两个值得注意的复杂之处。第一，附件三所列的一些实践，如果其使用未获其他欧盟或国家法律允许，在实践中可能仍被禁止。也就是说，开发者不应假定附件三列名的某项人工智能实践必然合法；它只是没有被《人工智能法》本身明确禁止。
第二，第六条在该法的高风险分类方面包含一个重大的潜在漏洞。在某些情况下，提供者实际上可以选择不让其系统被认定为高风险。大体而言，这些情况涉及将人工智能作为原本由人类进行的决策过程中的微小要素使用，即便该决策过程落入附件三的八个类别之一。这会激励相关主体在这类决策中加入更多人类参与环节，无论这种参与是真实的还是表演性的，以逃避该法的要求。
在这些情况下，提供者可以自行认定某一人工智能系统“不会对自然人的健康、安全或基本权利造成重大损害风险，包括不会实质性影响决策结果”。这一决定没有事前审查。提供者必须记录该认定并登记相关流程；同时，在存在具体、可靠证据表明某些人工智能系统虽属于附件三范围但不会对自然人的健康、安全或基本权利造成重大损害风险时，可以通过授权法令对这些条件进行修改，包括增加新的条件或修改既有条件。
（a）该人工智能系统旨在执行狭窄的程序性任务；
（b）该人工智能系统旨在改进先前已完成的人类活动的结果；
（c）该人工智能系统旨在发现决策模式或相对于既往决策模式的偏离，且在没有适当人工审查的情况下，并非意在取代或影响先前已完成的人类评估；或者
（d）该人工智能系统旨在为附件三所列使用情形相关的评估执行准备性任务。
系统投放市场之前完成这一程序，以便在损害发生或相反证据出现时，能够在事后审查该认定。b）高风险人工智能系统提供者（开发者）的实质性要求是什么？
《人工智能法》的大部分内容旨在规制高风险人工智能系统的提供者。这些要求大多列于第三章第二节，其标题很清楚地写作“高风险人工智能系统的要求”。这些要求包括但不限于：建立风险缓解系统；建立数据治理；建立技术文档和自动日志记录；以及建立一定的准确性、鲁棒性和网络安全措施。
其中一些要求更具实质性。另一些则主要通过程序和文档安排，为之后的外部问责创造条件。有些要求将程序与实质交织在一起。还有若干要求旨在系统开发者向系统部署者移交系统的过程中维持问责。
本节与本文许多部分一样，并非旨在提供法律意见，也并非穷尽式讨论。我们概述适用于高风险人工智能系统提供者的《人工智能法》要求，并对每类要求举出若干更深入的例子。
首先，尽管《人工智能法》有大量程序性和问责性架构，它确实包含实质性要求。第十五条关于“准确性、鲁棒性和网络安全”的规定提供了若干例子。例如，该法要求高风险人工智能系统“达到适当的准确性水平”，并提到将实质性的“基准和测量方法”作为性能指标来开发。该法要求开发者在向部署者传达的使用说明中披露上述准确性水平和指标。
其他实质性要求的例子可见于第十条关于数据和数据治理的规定。该法要求“训练、验证和测试数据集应当相关、具有充分代表性，并且在最大可能范围内，结合预期目的无错误且完整”。它还要求此类数据集必须“具有适当的统计属性”，尤其是就高风险人工智能系统拟适用的个人或人群而言。后一项要求意义重大，因为一些备受关注的报告显示，算法使用某一人群的数据开发，却随后用于另一人群，而没有确认这两个人群是否具有相同的统计属性。
第二，该法本节的若干要素要求通过文档和程序来建立外部问责。例如，第十一条要求提供技术文档。此类技术文档的组成要素列于附件四，小型企业可以采用简化版本。技术文档要求的明确目的，是建立面向政府行为者的外部问责。
第三，该法本节的若干要素涉及程序与实质的混合。例如，第九条要求开发者为高风险人工智能系统建立“风险管理系统”。乍看之下，这些要求主要是程序性的，要求采取一系列步骤。但风险
管理系统也具有实质性方面。例如，它要求将风险缓解到“可接受”的风险水平，无论是针对每一种危害，还是针对整个系统。第九条还要求对高风险人工智能系统进行测试。在实质上，它要求这些系统适合其预期目的。
第四，该法对开发者提出的若干要求，旨在建立一种从高风险AI 系统的提供者（开发者）向部署者（使用者）移交问责的机制。第 13 条要求系统开发者向部署者制作并传递使用说明和透明度信息。使用说明至少必须包括 AI 系统的“特征、能力和性能限制”，包括其用途；其准确性、稳健性和网络安全水平；可能导致更高风险的情形；以及“该系统针对拟使用对象中的特定个人或人群的性能”。该法还要求向部署者解释 AI 系统（不同于第 86 条所涉及的受影响个人），例如要求提供者在适用情况下向部署者披露“高风险AI 系统为提供与解释其输出相关的信息而具备的技术能力和特征”。
然而，在某些方面，这种设想中的问责移交可能会失灵。以人为监督条款为例，当高风险AI 系统按照其预期目的使用时，这些条款涉及基本权利。
这些规定描述了一种从提供者到部署者的复杂转交。该法要求提供者在设计高风险AI 系统时，使其能够接受“与风险、自主程度和使用情境相称”的人为监督。AI 提供者负责将相关支持功能内置于 AI 中。提供者还负责告知部署者如何使用高风险AI，包括需要多少人为监督。然而，该法也承认，人为监督本身往往将由部署者实施。因此，理想中的转交路径如下：AI 提供者将人为监督作为一种风险缓释方式纳入系统设计，并指示部署者应采用何种监督程度。随后，部署者必须遵循这些说明。
不过，该法总体上并未对部署者施加直接义务。按现有文本，该法授权 AI 提供者决定所需的人为监督水平，并通过使用说明来约束部署者。Michael Veale 和 Frederik Zuiderveen Borgesius 将这种安排描述如下：“颇为奇怪的是，该法并未直接向使用者施加人为监督义务。就人为监督而言，使用者只需遵循说明手册。”与人为监督有关、直接落在部署者身上的义务，只有将监督交由“具有必要能力、培训和权限以及必要支持”的自然人承担，并按照使用说明使用高风险AI 系统。部分但并非所有部署者必须提供“根据使用说明实施人为监督措施的说明”。
c）高风险AI 系统部署者（使用者）的实体要求是什么？
这使我们进入对该法关于高风险AI 系统部署者（使用者）要求的更简短讨论。这些要求主要见于第 26 条。但部署者应确保通读整部法律，因为针对部署者的若干要求规定在其他条文中。这里我们概述几项核心要求。
如上所述，部署者负有法律义务，必须遵循其从提供者处收到的使用说明，包括任何关于人为监督的说明。他们必须确保输入数据“就高风险AI 系统的预期目的而言具有相关性并具有充分代表性”。他们必须保存 AI 系统自动生成的日志，通常至少保存六个月。更核心的是，部署者必须“监测高风险AI 系统的运行”，并在即使遵循说明系统仍呈现风险，或发生“严重事件”时，通知提供者、分销商和相关政府机关。在这些情况下，他们必须停止使用该 AI 系统。
部署者还承担若干通知义务。他们必须在工作场所部署高风险AI 系统之前通知劳动者及其代表。如果受影响个人受到高风险AI 系统作出的决定约束，部署者也必须通知该个人。部署者还受到该法其他部分规定的若干要求约束，下文将进一步讨论：在部署系统前，在某些情境中提供 AI 决策的个别解释，并开展基本权利影响评估（fundamental rights impact assessment, FRIA）。
d）合格评定
如前所述，《人工智能法》借鉴的NLF的关键特征，是“合格评定”及其配套的问责框架。合格评定是一份文件，用以说明相关法律的“基本要求”是否得到满足，以及该法律可能规定的不同程序性要求是否得到落实。在《人工智能法》中，合格评定要求满足三类要求。
第一类是质量管理体系。第 17 条列出了质量管理体系的十三项要求，其中包括“监管合规战略”；用于设计、设计控制、设计验证、开发、质量控制和质量保证的“技术、程序和系统性措施”；“在高风险AI 系统开发之前、期间和之后开展的检查、测试和验证程序”；“拟适用的技术规范，包括标准”；全面的“数据管理系统和程序”；“第 9 条所述的风险管理系统”；“上市后监测系统的建立、实施和维护”；“与严重事件报告有关的程序”；以及“规定管理层和其他工作人员就所列各方面承担责任的问责框架”。
第二项必须满足的要求是，技术文档必须证明其符合该法第三章第二节规定的基本要求。该法第三章第二节对应第 8 条至第 15 条，因此涵盖前文所述的风险管理框架、数据治理体系、文档、日志记录、使用说明、人为监督，以及准确性和稳健性检查。
第三项必须满足的要求，是核验第 72 条所述的上市后监测系统。这一监测系统用于收集数据，使提供者能够在 AI 系统整个生命周期内评估其是否持续符合该条例。委员会负责在 2026 年初前为此制定模板。进行合格评定有两套程序。
一套是附件六规定的自我评定，另一套是附件七规定的第三方评定。第 43 条规定各类高风险AI 系统适用哪一种程序。就其是否可以（a）在自我认证和第三方评定之间选择，（b）使用自我认证程序，或（c）必须使用第三方评定而言，该条将高风险AI 系统分为三类。
结论是：（1）遵循已发布标准的生物识别系统提供者可以自我认证；但如果不遵循这些标准，则必须取得第三方认证；（2）关键基础设施 AI 以及其他影响基本权利的 AI 的提供者可以自我认证；（3）影响安全的 AI 提供者必须接受其产品所适用的其他产品安全法规定的第三方评定程序，而这类 AI 之所以被视为影响安全，仅仅是因为它属于 NLF 下另行指定为影响安全的产品类型之一。影响权利的 AI 由合规自我认证来治理这一事实，引发了欧洲学者和活动人士的一些严厉批评，认为该法对基本权利不够重视。
尽管该法包含这些合格评定要求，但在实践中，许多细节最终将由私人标准制定组织来形成。第 40 条指示委员会向欧洲标准化组织（European Standards Organizations, ESOs）提出标准化请求，以覆盖该法的所有实体要求。第 40 条第 1 款随后创设了一种安全港：其中规定，“符合协调标准或其部分内容的高风险AI 系统或通用目的人工智能模型……应被推定为符合”该法要求。
因此，提供者只要严格遵循任何已发布标准，就可以避免面对某些含糊且棘手的问题，即其流程何时以及是否与法律要求相一致。委员会已请求 CEN 与 CENELEC 的联合技术委员会承担这项任务，但该任务尚未完成。假定它们完成相关工作，且标准符合法律中的条件，那么这些标准很可能成为企业遵守《人工智能法》的主要方式。
e）问责与执法
《人工智能法》为高风险系统设想的问责框架建立在以下基础之上：（a）建立公司内部治理；（b）形成监管机构可在事后审查的文档；（c）建立在问题发生时能够提醒监管机构的系统；以及（d）使市场监管机构能够获取信息，并赋予其采取补救性或惩罚性行动的能力。
第一个组成部分，即公司治理，是通过上一部分和前一部分所述的第三章第二节条款来实现的，例如建立风险管理系统（第 9 条）、数据治理体系（第 10 条）、人为监督（第 14 条），以及准确性、稳健性和安全性检查（第 15 条）。无论合格评定是自我认证，还是由公告机构认证，都要求评估这些系统是否已得到充分建立。同样，合格评定还要求作出符合第 17 条的声明，而第 17 条要求建立“确保合规的质量管理体系”。
该法问责与执法的第二个组成部分是文档。第 11 条要求在产品整个生命周期内持续更新技术文档。第 17 条要求质量管理体系“以书面政策、程序和说明的形式，以系统和有序的方式形成文档”。二者都是公司治理框架的必要组成部分。但文档的真正目的，是使政府机构之后能够开展监督。第 18 条要求技术文档和质量管理体系文档保存十年，“供国家主管机关查阅”；第 21 条要求提供者向提出请求的机关提供“证明高风险AI 系统合格所必需的一切信息和文档”。第 74 条赋予对“文档以及用于开发高风险AI 系统的训练、验证和测试数据集”的充分访问权。类似地，第 77 条赋予负责监督基本权利的国家机关访问权，使其能够在为有效履行职权且在其管辖范围内有必要访问时，以可访问的语言和格式获取“根据本条例制作或保存的任何文档”。
该法问责与执法体系的第三个组成部分，是向政府行为者作出主动通知。第 20 条从自我治理出发，要求每当提供者获悉某一系统不再合格时，必须立即采取纠正措施，“酌情使该系统恢复合格、将其撤出、禁用或召回”。但重要的是，该条还规定，如果某一系统“对人的健康、安全或基本权利构成风险”，且提供者知悉该风险，则其必须开展调查，并与该系统的部署者一道，将该风险告知市场监管机构和公告机构（如适用）。结合自动日志记录要求，该条款旨在确保一旦出现问题，政府能够收到警示。
最后，该法问责框架的第四个组成部分，是相关政府机构在必要时开展调查并采取补救性和惩罚性行动的能力。这构成了一种回应型监管框架，在欧盟监管机构中较为常见。
第 79 条要求市场监管机构在知悉系统对健康、安全或基本权利构成风险后，对该系统进行评估，并在适当情况下与保护基本权利的国家机关合作。如果该机关发现不合规，必须要求“相关经营者采取一切适当纠正行动，使 AI 系统符合规定，将 AI 系统撤出市场，或将其召回”。如果经营者未采取纠正行动，该机关必须视需要升级处理，禁止该产品或将其召回。关于“处罚和其他执法措施，其中也可包括警告和非金钱措施”的规则，则交由成员国制定。
第 99 条根据不同违法行为规定了不同的最高罚款。违反第 5 条禁令的罚款最高（3500 万欧元或年度营业额的 7%，二者取其高）；不遵守某些“与经营者或公告机构有关的规定”的罚款居中（1500 万欧元或 3%）；可能最常见的问题，即在回应请求时向公告机构或国家主管机关提供“不正确、不完整或具有误导性的信息”，罚款最低（750 万欧元或 1%），但数额仍然可观。
总体而言，这是一种相对轻触式的问责和监督路径，将主要控制权交给系统提供者，并在很大程度上依赖善意的实体合规。最清楚的例子是，即使某一系统属于高风险系统类型清单上的系统，提供者仍有能力将其指定为非高风险系统。要使该系统几乎完全退出该法的实体性监管，唯一要求是记录该决定，在相关国家机关请求时提供该文档，并将其登记在欧盟高风险系统数据库中。
其他监督模式也明显缺位。受损害个人没有私人诉权；相反，该法规定其有权向市场监管机构提出投诉，而投诉随后会被纳入该机关的标准流程。面向公众的透明度同样有限。尽管存在大量文档，但这些文档面向的是政府行为者，而不是公众。该法确实为附件三下既有的高风险AI 系统（即影响权利的系统加关键基础设施系统）设置了一个公共数据库，但除此之外别无其他。
因此，该法整体上的问责框架依赖这样一种期待：AI 提供者最清楚如何判断其系统风险，而政府主要应当进行监测，只有在问题发生之后才介入。再次强调，这并不是真正的预防性监管框架。
B. 通用目的人工智能模型
该法对其所谓“GPAI”模型的处理方式，不同于该法中有关“高风险AI”系统的主体部分，其运作方式也不一样。它同样采用了风险监管的若干要素。但不同于该法对预测型 AI 的处理方式，它并未同样直接建立在 NLF 之上。
其原因在某种意义上是实践性的：包括依赖 NLF 在内的原始《人工智能法》草案于 2021 年起草，当时 ChatGPT 尚未向公众发布，也尚未成为家喻户晓的名称。当对生成式 AI 的担忧在 2022 年爆发时，这部法律的起草者原本声称要覆盖所有 AI，因而不得不回过头来，加入一些关于生成式 AI，或他们所称“通用型”AI 的处理规定。
起草者并未从头重写该法，而是插入了若干新条款，这些条款模仿了该法其余部分中的一些概念，但使用了不同的执法机制和机构。总体上最大的差异或许在于，该法将这些 GPAI 模型视为天然具有跨国性，避免依赖国家市场监管机构，并将监督集中在欧盟层面。
这些规定与该法其余部分之间的互动关系相当复杂。一个 GPAI 模型最终可能被整合进一个 GPAI 系统，而后者并不归入构成该法其余部分的三个风险层级中的任何一个。或者，它也可能最终被整合进一个确实落入该法某一风险层级的 AI 系统。无论如何，下文概述的该法 GPAI 义务，适用于 GPAI 模型的提供者，而不论该模型所整合进入的系统是否能够恰当地纳入该条例其余部分。
该法主要基于应用的一般性，将生成式 AI 模型与其他类型的 AI 模型区分开来，将“GPAI 模型”定义为一种模型，即“不论该模型以何种方式投放市场，均表现出显著的一般性，并能够胜任范围广泛的不同任务，且能够被整合进多种下游系统或应用”。该定义“包括此类 AI 模型使用大量数据通过大规模自监督进行训练的情形”，但并不将定义限于这些技术参数。
该条例为 GPAI 模型以及构成系统性风险的 GPAI 模型规定了具体规则；当这些模型被整合进 AI 系统或构成 AI 系统的一部分时，这些规则也应适用。该条例明确排除“在投放市场之前用于研究、开发或原型设计活动的 AI 模型”。
《人工智能法》将通用目的人工智能模型分为两个不同类别：具有“系统性风险”的模型和不具有“系统性风险”的模型。通用目的人工智能模型在以下情形下具有系统性风险：其“具有基于适当技术工具和方法评估出的高影响能力，包括相关指标和基准”，或者委员会认为该模型与之等同。所谓“高影响能力”，在法律中被定义为“达到或超过最先进通用目的人工智能模型所记录能力的能力”。委员会在判断某一通用模型是否构成等同的系统性风险时，必须“考虑”附件 XIII 所列标准，这些标准主要是技术性标准，包括模型规模、训练模型所用计算量、模型的不同模态（文本到文本、图像到文本等），以及与模型覆盖范围有关的问题，即注册终端用户数量。《人工智能法》还单独规定，在训练使用超过 10^25 次浮点运算（FLOPs）时，推定存在系统性风险。附件 XIII 还规定，当模型可供一万名注册商业用户使用时，也推定存在系统性风险。委员会有权随时间修改这些阈值。
通用目的人工智能模型的提供者负有若干义务；如果该人工智能模型被认定具有系统性风险，还会承担额外义务。提供者必须保存最新的技术文档，以供人工智能办公室和国家主管机关审查。他们还必须向拟将该通用目的人工智能模型整合进其系统的下游人工智能系统提供者提供信息和文档。这些要求类似于高风险系统必须提供给监管机关的文档要求，也类似于为正确使用人工智能系统而需要向部署者提供的说明。
此外，《人工智能法》要求通用目的人工智能模型的提供者就版权法相关事项履行三项义务：（1）制定版权政策；
（2）落实权利人退出训练数据集的选择；以及（3）起草并公开一份足够详细的、关于用于训练其模型内容的摘要。委员会最近发布了用于描述训练数据的模板。《人工智能法》豁免开源模型提供者适用于通用目的人工智能系统的要求，但不豁免其版权相关要求。
具有系统性风险的通用目的人工智能模型提供者还必须开展模型评估，进行并记录对抗性训练，评估并缓解可能的系统性风险，报告并记录有关“严重事件”的信息，并重视网络安全保护。《人工智能法》并未豁免具有系统性风险的开源模型。
《人工智能法》针对通用目的人工智能模型的监督框架不同于适用于高风险人工智能系统的框架。（不过，请回想一下，通用模型最终可能被用于高风险人工智能系统，下文将对此加以讨论。）首先，合格评定框架，即该法整体上的核心框架，并不适用于通用目的人工智能模型。相反，《人工智能法》将监督和执行相关条款的“专属权力”赋予委员会的人工智能办公室。为支持这一点，委员会被授予要求提供文档和信息、评估模型、要求采取补救措施，并在与提供者进行“结构化对话”后使这些措施具有约束力的权力。
《人工智能法》还考虑了通用模型与高风险人工智能系统重叠的情形。凡任何人工智能系统由通用目的人工智能提供者制作并纳入该通用目的人工智能，人工智能办公室即享有市场监管机构的权力。凡部署者为在高风险人工智能场景中使用而对通用目的人工智能系统作出实质性修改（即对生成式人工智能进行微调），该部署者即被视为高风险系统的提供者，并落入上文详述的《人工智能法》高风险监管范围。
如果国家市场监管机构有理由担心某一通用目的人工智能系统可由部署者在未经修改的情况下使用，且该系统违反《人工智能法》的要求，该机关应与人工智能办公室合作以确保合规。如果国家市场监管机构受到通用目的人工智能提供者阻挠，其应向人工智能办公室提交请求，要求执行其获取必要监督信息的权利。
C. 特设要素与其他监管线索
最后，《人工智能法》还包含一些临时性要素和其他监管线索，既不属于其对NLF的核心依赖，也不属于其针对通用目的人工智能模型的事后补充式处理方式。本部分最后将指出其中若干要素，但同样，这并非穷尽性评述。我们将讨论《人工智能法》要求向个人作出的披露；《人工智能法》关于“基本权利影响评估”和向受影响个人解释人工智能的要求；以及有关“创新”的监管线索，包括监管沙盒、真实世界测试和小企业。
如上所述，《人工智能法》总体上并未赋予受影响者个人权利，或许是依赖其他法律所确立的权利，例如GDPR。不过，《人工智能法》第四章（仅由一条即第 50 条构成）确立了“某些人工智能系统的提供者和部署者的透明度义务”。这些义务包括：聊天机器人等人工智能系统必须被设计为能够告知人们其正在与人工智能系统互动。情感识别系统的部署者必须告知受影响者该系统正在使用。生物识别分类系统的部署者也必须如此。
第 50 条的若干透明度规定涉及合成内容，即“深度伪造”。生成合成内容的通用目的人工智能系统提供者必须确保输出以机器可读方式标记为由人工智能生成。部署者必须披露图像、音频或视频输出经过人工生成或操纵。如果涉及公共关切事项的文本经过人工生成或操纵，部署者也必须披露。
《人工智能法》的另外两项规定似乎是对起草期间欧盟数据隐私监管机构，即欧洲数据保护委员会（European Data Protection Board, EDPB）和欧洲数据保护监督员EDPS所提出批评的临时性回应。这些监管机构批评《人工智能法》早期草案未能保护、甚至几乎未能真正处理受影响个人的权利。因此，EDPB 和 EDPS 敦促起草者为“受人工智能系统约束的个人”确立权利和救济。具体而言，他们呼吁确立针对人工智能决策的“解释权”，《人工智能法》第 86 条也因此作出了规定。我们中的一位作者曾详细分析这一权利何时以及如何适用，包括其如何与 GDPR 确立的类似权利相互作用。
EDPB 和 EDPS 的批评还促成了在部署者层面采用风险缓解措施：第 27 条中的基本权利影响评估。EDPB 和 EDPS 指出，最初，《人工智能法》（与 NLF 保持一致）仅将风险缓解要求加诸提供者，而未加诸部署者。他们解释说，有时应由人工智能系统用户（部署者）来开展风险缓解。因此，《人工智能法》的起草者增加了第 27 条。该条要求政府实体、提供公共服务的私营实体，以及为保险定价或决定信用状况而部署高风险人工智能系统的部署者，在首次使用之前开展基本权利影响评估FRIA。FRIA 除其他事项外，必须识别可能受到影响的人员和群体类别及其面临的具体损害风险，并概述在风险实际发生时所采取的措施，包括“内部治理和投诉机制”。其结果必须报告给市场监督机关。
最后，《人工智能法》包含大量被其称为“支持创新的措施”的规定。我们将这些规定作为不同于 NLF 框架的单独监管线索加以讨论。严格来说，它们并非临时性规定，因为自早期起草以来，它们一直是该法框架的一部分。这些线索包括设立人工智能监管沙盒的规定、关于在真实世界条件下测试系统的规定，以及关于小企业监管的规定。
监管沙盒是一种临时性、实验性的监管制度，可能以接受监督为条件，提供对监管要求的暂时豁免。通常，沙盒意味着公私合作，并伴随监管机构提供的明确指引。监管沙盒最早用于英国金融科技监管领域。按照《人工智能法》的设想，监管沙盒旨在促进创新、支持初创企业、提高法律确定性、促进最佳实践分享，并有助于“基于证据的监管学习”。
《人工智能法》要求成员国在 2026 年 8 月之前至少建立一个人工智能监管沙盒。人工智能监管沙盒被描述为一种“受控环境……[它]便利创新型人工智能系统在投放市场或投入使用之前，依据提供者与主管机关商定的具体沙盒计划，在有限时间内进行开发、训练、测试和验证”。曾进入沙盒的人工智能提供者日后可以使用其沙盒“退出报告”来证明其符合《人工智能法》。
另一条相互重叠的监管线索涉及测试。《人工智能法》的多项规定涉及在真实世界条件下测试人工智能系统。监管沙盒内部设想了真实世界测试。第 60 条还对沙盒之外最长一年的真实世界测试作出规定，但须向市场监管机构提交真实世界测试计划。第 61 条要求测试对象给予知情同意。
《人工智能法》还包含若干影响其适用于小企业和初创企业的措施。例如，该法要求中小企业获得监管沙盒的优先准入。它还要求成员国便利小企业参与标准化过程。它要求对小企业和初创企业收取较低的合格评定费用。并且，《人工智能法》要求委员会为员工少于十人且收入低于 200 万欧元的企业制定简化遵守质量管理体系（第 17 条要求）的指南。
在最后这一部分，我们提出一些分析。我们首先讨论《人工智能法》究竟更应被理解为预防原则的一种体现，还是一部促进人工智能采纳的法律。随后，我们讨论该法如何通过产品安全框架建构高风险人工智能系统，以及这样做的后果。我们强调，《人工智能法》应被理解为其起草历程的独特产物。我们将其描述为一种“法律外骨骼”：一个硬法框架，内部却包含较软的法律内容，并留下许多悬而未决的问题。最后，我们将以对全球权力政治以及该法未来及其全球影响的若干思考收尾。
A. 预防原则，还是争夺AI商业机会？
如果说美国律师在思考欧盟与美国监管者差异时最容易想到一个概念，那就是预防原则，即强调对新技术保持谨慎。在美国，我们先创新，后提问；而在欧洲，繁文缛节层层叠加，至少通常的叙事是如此。
正因如此，值得注意的是，《人工智能法》将“以人为本且可信赖的人工智能的采纳”置于与其旨在“确保”的“高水平健康、安全和基本权利保护”同等的目的地位。该法核心上优先推动人工智能的采纳。理解《人工智能法》的一种方式，是将其置于欧盟监管的典型背景之下：欧盟决定吸引更多人工智能使用。作为世界上首个通过综合性人工智能法律的地区，欧盟此举可能是在争取占据更多全球人工智能市场份额，而保护欧盟公民则是次要目标。
这当然有助于解释该法为何依赖产品安全框架，并将基本权利关切推入自我认证框架之中。正如我们中的一位作者在其他地方所主张的，全球范围内正日益趋同于以风险监管作为人工智能治理方式。风险监管通常是“事前的、系统性的，并关注总体结果”，而不是聚焦于针对个体化损害的事后问责。风险监管的“政策包袱”之一在于，它通常“以一项技术必须被修复以便能够被使用为出发点”。因此，《人工智能法》不仅明确表示其希望增加人工智能的采纳，而且通过采用风险监管框架，实质上采取了一种立场：人工智能是可以被修复的，但也是不可避免的。
尽管风险监管并不总是与预防性路径相冲突，毕竟预防与风险分析往往相伴而行，但这一特定风险监管路径的法律和智识框架，与更强有力的禁止制度、健全的个人救济体系以及针对损害的事后责任制度形成对照。尽管《人工智能法》确实包含若干禁令，但这些禁令狭窄且有限。选择在 NLF 框架下制定法律，也不同于人们通常可能期待一个关注维护个人基本权利的欧盟所采取的做法。
B. 通过产品安全法建构高风险AI系统
《人工智能法》通过产品安全监管的价值与制度，建构了“高风险人工智能系统”这一法律概念。它对待人工智能系统的方式，仿佛人工智能系统是电梯或儿童玩具，而不是用于决策的官僚系统。该法不仅将人工智能系统描述为产品，而且将人工智能系统设想为为了某一特定预期目的而设计和使用的产品。从本质上看，通用目的人工智能系统并不容易契合这一监管模式。
在将人工智能系统描述为产品时，《人工智能法》引入了产品安全监管的价值。它优先保护健康与安全，而不是保护基本权利。它依赖产品召回等事后措施，这表明在一定限度内，某种程度的损害是可以接受的。这并不是欧盟通常对待基本权利的方式。通常，欧盟法关注的是一项权利是否受到侵害，而不是是否已经造成某种可衡量程度的损害。
《人工智能法》通过特定制度（产品安全监管机构）将人工智能系统建构为特定客体（产品）。《人工智能法》依附于 NLF 既有制度框架（尽管如上文所述，这一点存在若干重要限定）。其基础设施依赖于两类成员国机构的存在：（a）负责市场监督并确保合规的市场监管机构；以及（b）负责指定第三方合格评定机构的通知机关。请回想一下，成员国可以指定既有 NLF 机构承担这些角色。这一点很重要，因为该法将主要由受过产品安全价值操作化训练的机构执行，而不是由受过基本权利价值训练的机构执行。例如，在芬兰，作为既有市场监管机构的交通与通信局负责《人工智能法》的执行。
不过，成员国确实拥有偏离这些机构安排的裁量权。例如，意大利改而指定其国家网络安全机构作为市场监管机构。其他成员国则指定其数据保护机关作为市场监管机构。还有一些成员国专门设立了新的机构来监管人工智能系统。不同机构在专业知识、资源和价值取向的程度与类型上各不相同，这将极大影响《人工智能法》在实践中的实施方式。简言之，尽管其中一些机构会把产品安全价值之外的其他价值带入执法过程，但并不能保证这些机构熟悉CJEU有关基本权利的判决。这些机构的巨大差异也将导致成员国之间在实施上高度异质。
不过，《人工智能法》并非孤立存在，因此有必要了解其周边存在什么、不存在什么。例如，产品安全监管通常会与产品责任相互作用，由责任制度为监管提供兜底，并为个人救济提供机会。然而，在欧盟层面并不存在相应的协调统一的产品责任法。拟议中的《人工智能责任指令》原本会对人工智能责任进行一定程度的协调，但如今已经夭折。因此，成员国关于责任的路径在人工智能方面将不会得到协调。
在缺少兜底性产品责任指令的情况下，《人工智能法》对风险监管的核心依赖显得更加重要。这种对风险监管的依赖既影响实体内容，也影响制度设计。它导致该法所使用的工具与其旨在预防的损害之间出现一种奇特的不匹配。《人工智能法》围绕“风险”的量化定义展开，而人权侵害通常并不可量化。除少数例外，该法并未赋予具体的个人权利。对于一部据称在很大程度上旨在保护基本权利的法律而言，这一点颇为怪异。
从制度设计角度看，缺乏个人权利或救济意义重大。它可能使根据《人工智能法》提出的基本权利保护案件更难进入法院（即 CJEU）。在这里，与 GDPR 作一对比或许有所帮助。如第一部分所述，通常情况下，案件会在成员国国内法院就欧盟法问题提交转介时进入 CJEU。在 GDPR 之下，权利受到侵害的个人可以向成员国的数据保护机关提出投诉，可以起诉成员国的数据保护机关（DPA），也可以在法院起诉数据控制者或处理者。如果该案件上诉至国内法院，该法院随后可以将数据保护法问题提交 CJEU。（这一过程本身需要很长时间！）在实践中，这使 CJEU 能够作为 GDPR 所勾勒监管制度中的制度性权利保护兜底机制发挥作用。
相比之下，《人工智能法》缺乏同样稳健的基本权利兜底机制。一方面，《宪章》仍然是基本权利的来源，并且无论《人工智能法》是否对其作出充分操作化，都会为该法提供兜底。另一方面，该法在很大程度上将执行导向市场监管机构，并且不同于 GDPR，它并未确立起诉这些机关或起诉人工智能提供者的权利。是否可以起诉指定的市场监管机构，取决于成员国法律。这使 CJEU 可能更难作为《人工智能法》制度中的权利保护兜底机制发挥作用。
不过，一些关于《人工智能法》的问题仍有可能提交至CJEU，包括部分具有直接效力的条款，或个人依据其他法律制度享有起诉权的情形。
然而，再次需要指出的是，《人工智能法》并不是欧盟治理人工智能的唯一法律。该法依赖其他法律的存在，这些法律提供基本权利保护、消费者保护以及其他要求。这些正是人工智能提供者所处的法律环境。《宪章》继续为基本权利提供保护。GDPR继续赋予个人数据保护权利。《数字服务法》确立了针对大型在线平台的具体义务。《数字单一市场版权指令》则处理版权方面的关切。
该法以其他欧盟法规作为背景依托，产生了两个重要后果。第一，该法对既有基本权利保护的依赖，在一定程度上为其产品安全路径提供了正当性。据称，该法之所以能够以风险规制作为核心机制，正是因为个人可以通过其他法规获得权利和救济。
然而，该法依赖其他欧盟法律的第二个后果是，如果你对人工智能规制的某些方面有实体性问题，答案可能在别处。这无疑会让美国律师在评估某一特定人工智能系统的合法性时更加棘手。例如，如果你想判断某一特定生物识别系统是否合法，就必须同时查阅《人工智能法》和 GDPR。如果你想判断在线平台如何在内容审核中使用人工智能，就必须同时查阅《人工智能法》和《数字服务法》。如果你想理解欧盟关于版权和训练数据的处理方式，就必须同时查阅《人工智能法》和欧盟版权法。
该法与数据保护之间的关系尤其紧张。《人工智能法》和 GDPR 都关注数据，但目标根本不同。GDPR 的核心在于保护“数据主体”，也就是受到个人数据收集、处理和使用影响的个人；他们不仅受 GDPR 保护，也受《宪章》保护。《人工智能法》并不以此为关切。它更关注降低不准确性并确保适合目的。不过，《人工智能法》并不取代数据保护法；也不取代数据保护机构，事实上它有时还依赖这些机构。
C. 作为起草过程产物的《人工智能法》
《人工智能法》是其混乱起草历程的产物。该法起初可能只是将NLF移植到高风险人工智能系统上，而这本身已经足够复杂。但最终，它变成了一个复杂的拼合体。
该法关于GPAI的路径是在事后加入的。其若干关于基本权利的条款，是为了回应数据保护监管机构和其他批评者而增加的。而其对某些人工智能用途的禁令，几乎都可以追溯到关于特定预测型人工智能应用的具体新闻事件。因此，要理解《人工智能法》，既需要意识到它对 NLF 的核心依赖，也需要意识到，作为一部法律，它极其典型地是时代产物。
还值得注意的是，尽管《人工智能法》的起草耗时三年，许多其他欧盟法规却经历了长得多的酝酿期。以 GDPR 为例，欧洲成员国拥有数据保护法已有数十年，有些自 20 世纪 70 年代起就是如此。欧盟层面的《数据保护指令》于 20 世纪 90 年代中期生效。2000 年确立的《欧盟宪章》包含数据保护基本权利。到 GDPR 颁布时，欧洲数据保护法这一项目既已有认同基础，也已有相当程度的制度基础设施。关于在线平台规制从 2000 年《电子商务指令》到 2022 年《数字服务法》的较慢演进，也可以作类似说明。相比之下，《人工智能法》是在短短三年内以条例形式确立的，之前并没有通过指令在公民或成员国之间建立认同基础。与欧盟的数据保护制度和在线平台规制相比，它并不反映一种随时间逐步形成的、自下而上的实践共识。因此，《人工智能法》可能面临合法性问题，并导致未来的修订以及/或者合规困难。
D. 作为法律外骨骼的《人工智能法》
我们将《人工智能法》的核心描述为一种法律外骨骼：一个硬法法律框架包裹着较软法的内部。该法核心上依赖授权，也就是让其他主体填补大部分实体空白，这意味着从核心看，它最终可能相当宽松。该法将大量实体内容委托给多个潜在行为者，包括技术标准制定机构和欧盟委员会。每一类主体都带有民主合法性问题，也并非没有相当可能产生反映权力政治的结果。我们在此讨论对技术标准制定机构的授权，以及欧盟委员会近期制定的 GPAI 行为准则这一进展。
一部法律可以在不同维度上更软或更硬。这些维度包括法律是强制性还是自愿性、由谁决定规则、规则是模糊还是具体，等等。《人工智能法》与近来若干欧洲法规一样，包含一种复杂且有意安排的硬法与软法混合。它作为条例而非指令的地位，使其对成员国具有直接约束力，因此比指令更具硬法属性。其执法机制包括高额罚款，也表明其具有相当程度的硬性。然而，该法核心上依赖较为模糊的语言，并通过将由技术标准制定组织制定的标准来具体化，这显示出其较软的内里。
尽管该法确立了一个庞大而复杂的问责框架，我们仍然不知道人工智能系统大多数实际实体要求是什么。《人工智能法》要求诸如“对可能出现的风险进行估计和评价”，以及“训练、验证和测试数据集应当相关、具有充分代表性，并在最大可能范围内没有错误”。在许多其他要求之外，这两项要求都留下了充分的不确定空间，使人难以判断某一特定提供者是否合规。
人工智能系统提供者最想要的是确定性。因此，技术标准制定迅速推进。一旦 CEN/CENELEC 联合技术委员会完成其《人工智能法》标准的制定，该文件很可能成为事实上的法律制度。尽管 CEN/CENELEC 制定的标准本身在技术上并非有约束力的法律，但它们实际上仍将具有法律效力，因为遵守这些标准将确立符合法律的推定。
在这些标准发布之前，我们并不知道它们实际上会有多实体化、多详细或多技术化。它们可能提供具体指标或基准，也可能延续该法现有的模糊性，或者两者兼而有之。因此，从核心看，该法最终可能形成如下状态：（a）主要由私人行为者协商形成的不够严格的要求；（b）仍停留在高层级、更像标准而不像规则的“技术性”要求；或者很可能是（c）两者的某种结合。
通过委托核心决策，该法在核心上存在民主合法性问题。有评论者指出，《人工智能法》如此强调以技术标准制定来治理基本权利，是在 NLF 之下埋下了一颗“宪法炸弹”；而 NLF 作为一个框架，在欧盟产品安全治理方面原本运行良好。依赖缺乏相关专长的市场监管机构来监督基本权利，已经颇为奇怪；而将基本权利决策委托给私人标准制定组织，则简直令人匪夷所思。
另一方面，欧盟的标准制定组织并不像美国的标准制定组织那样是纯粹私人的。欧盟请求并确立技术标准的正式程序，已经比美国将私人标准纳入法律的做法包含更多公共部门决策和监督。CJEU 的判例法确认，被赋予法律效果的标准应更接近实际法律来对待。例如，CJEU 曾要求版权法下的技术标准必须公开可获取，因为它们具有法律效力。此外，《人工智能法》还特别对人工智能标准制定过程施加了某些参与要求。
该法设想，欧盟委员会可以拒绝其认为不符合法律的标准，并转而制定自己的“共同规范”。也就是说，它以一种公法选项为较软法提供后备支撑。（不过，由欧盟委员会制定的法律本身也可能存在问题，下文马上会谈到这一点。）
将《人工智能法》理解为法律外骨骼，会让我们看到一个关键观察：该法核心上依赖技术标准，使其容易受到国际现实政治的影响。一方面，欧盟通过《人工智能法》，表面上是为了发展内置欧洲价值的人工智能。另一方面，由于核心上依赖技术标准，该法打开了一扇通向国际影响的侧门。其他标准制定组织已经颁布了人工智能标准，或在这一进程中推进很远。中国近期加强了对国际标准制定的参与。在美国，NIST 于 2023 年发布了人工智能风险管理框架，并已将注意力专门转向影响全球标准制定。
无论欧洲标准化组织发布何种标准，都会着眼于国际共识的形成。（事实上，在仍有人遵守国际贸易规则的范围内，它们在世贸组织规则下也必须如此。）
《人工智能法》本身也注意到了这一动态。有迹象表明，欧盟委员会自身也意识到了这一风险；据称，出于对美国和中国影响的担忧，他们排除了一家欧洲标准化组织对该过程的参与。
在标准制定竞赛中存在先发优势。欧盟或许是第一个通过综合性人工智能硬法的主体，但并不是第一个颁布标准的主体。这意味着，它通过标准制定输入美国和中国价值的可能性，与其有效确立可供输出的欧洲人工智能标准的可能性一样大。再次而言，欧盟委员会拒绝并由此制衡已提交标准的能力，可能对影响究竟向哪个方向流动至关重要。然而，与法院不同，欧盟委员会并不是一个人权机构。与法院等机构相比，欧盟委员会较少受到激励，难以基于基本权利理由对不足的标准提出反制。
最后，我们以一个相关的近期情节转折收尾：近期制定的 GPAI 行为准则。同样，关于这一切在较长期内将如何展开，仍有许多未决问题。但近期对该行为准则的关注，显示出该法软法造法可能发生在何处存在某种障眼法，也表明欧盟委员会同样不能免受政治压力影响。
该法第 56 条为欧盟委员会下设人工智能办公室确立了一个兼具政策制定与召集功能的角色，涉及通用目的人工智能模型。它要求人工智能办公室“鼓励并便利在欧盟层面拟定行为准则，以有助于本条例的适当适用，并考虑国际路径”。因此，人工智能办公室召集了一组专家起草 GPAI 行为准则草案，随后该准则由欧盟委员会批准。
遵守 GPAI 行为准则可用于证明符合该法，至少在标准制定组织就通用目的人工智能形成协调标准之前如此。事实上，通用目的人工智能模型提供者似乎可以自行选择其法律路径，选择遵守 GPAI 行为准则，而不是任何协调标准。因此，如果 GPAI 行为准则相对薄弱，而技术标准制定的产出更为严格，该准则就可能提供一条监管阻力最小的路径。
毫不意外，这一选项的存在引发了“密集游说”。行为准则的起草吸收了来自学界、民间社会和产业界的一千多名利益相关者参与。但 GPAI 企业拥有“特殊席位”，包括可以优先接触文本的最新版本。尽管如此，多家美国企业表示不会签署该准则。最终，欧盟委员会顶住了压力，欧盟委员会和人工智能委员会共同完成了确立该准则的程序。但这个故事表明，企业会试图从制度上寻找阻力最小的路径。
E. 一切最终归结为权力政治
对权力政治的这一追踪，引出了我们的最后一点。如果美国和中国的人工智能企业决定无视该法，会发生什么？可以说，该法中存在一些要求，生成式人工智能的提供者不可能遵守。企业会放弃欧盟市场，还是欧盟监管机构会淡化或不执行该法律？
另一种提出这个问题的方式，是追问欧洲监管机构这一次将在技术开发和部署中扮演什么角色。众所周知，欧洲数据保护法已经被输出到世界各地。但《人工智能法》不同。第一，与欧洲数据保护法相比，《人工智能法》登上世界舞台时所处的位置非常不同。如前所述，欧盟数据保护法在成员国内部具有深厚的历史合法性。此外，它涉及反复出现的既有参与者，包括已经习惯其价值、机构和机制的受规制公司。第二，数据保护法被有意设计为可供输出：它包含著名又颇具争议的“充分性”机制，根据这一机制，除非某国被认定已经采用充分的数据保护法，否则欧洲不会向该国输出欧盟人员的数据。（美国是一个众所周知的例外。）
相比之下，《人工智能法》是自上而下强加的。欧盟内部要求放松管制、增强竞争力的压力正在增加。《人工智能法》并不包含充分性机制；相反，它依赖技术标准的协调效果。如前所述，这些标准自带一幅权力政治地图，其中包括美国率先发起的行动以及中国参与度的提高。而特朗普政府，包括昔日盟友埃隆·马斯克以及人工智能支持者 JD·万斯，一直在与欧洲监管机构展开跨国现实政治博弈。这一次，欧洲输出自身价值的“布鲁塞尔效应”可能不会出现。相反，《人工智能法》面临着通过标准从内部被掏空的风险，或者在实施中被掏空、被修订的风险。
《人工智能法》已经让人感觉像是来自另一个时代的法规。它篇幅很长、结构复杂，并建立在美国受众并不熟悉的法律制度之上：NLF。欧盟立法者通过产品安全法来框定人工智能系统，旨在鼓励人工智能在欧盟的采用。但他们最终创造出一种工具，也就是我们所称的法律外骨骼；它最终可能从中心被掏空，把真正的人权工作留给其他欧盟法律和机构。时间会给出答案。
END