2024年5月21日,欧盟理事会正式批准了欧盟《人工智能法》,这是世界上第一部对人工智能领域进行全面监管的法律。该《人工智能法》正文部分包括十三个章节,共有一百一十三条,《人工智能法》的发布对后续人工智能产业的发展,以及其他国家人工智能领域的立法与监管具有重要的指引与参考作用。本次批准通过《人工智能法》大部分的篇幅在于依照风险程度对人工智能系统进行分类并且规定了各类人工智能系统相关主体的义务。同时为了协助《人工智能法》的实施,欧盟在正文中还规定了一些新的管理机构,还明确了各机构的职责。此外,本次《人工智能法》并非一次性全部生效,为了给各相关主体缓冲的机会,《人工智能法》中还规定了几大重要的时间节点。因此,本文从人工智能系统的分类及对应义务、人工智能新管理机构及职责、该法规生效及适用时间方面为读者点评欧盟《人工智能法》。
一.人工智能系统的分类以及对应义务
欧盟《人工智能法》在第二章、第三章、第四章、第五章内,根据不同的风险等级,将人工智能系统依次划分为禁止使用的人工智能(Prohibited AI Practices)、高风险人工智能系统(High-risk AI Systems)、特定人工智能系统(certain AI systems)以及通用目的人工智能模型(General-purpose AI models)下的“具有系统风险的”通用目的的人工智能模型。
其中,禁止使用的人工智能的标准为,存在:
01
损害他人知情决策,从而造成或可能造成重大伤害的情形;
02
利用他人由于年龄、残疾或特定社会或经济状况而产生的弱点对其进行引诱,从而造成或可能造成重大伤害的情形;
03
使特定个体或群体在与原始收集数据无关的场景下,遭受不利后果或使特定个体或群体在与原始收集数据相关的场景中,遭受不成比例的不利后果的情形;
04
在刑事犯罪以外的场合,仅根据个人外貌或性格评估其犯罪概率的情形;
05
从互联网或监控录像中随意收集人面数据的情形;
06
出于健康或安全以外的目的,在工作和学习的场合中,推测人的情绪的情形;
07
在特定情形以外,将人按照生物特征进行分类,以此推断其种族、政治观点、宗教信仰等的情形;
08
在特定情形以外,为执行法律而在公共场所使用“实时”远程生物识别系统的情形。
对于这一类的人工智能,由于已为法律所禁止使用,所以在《人工智能法》中仅主要针对第(8)项的例外情形规定了遵守相关法律法规、进行事先登记、获得授权许可、符合比例原则等义务。
风险等级次一级的人工智能系统是高风险人工智能系统,这也是本部法案的重点。对于高风险人工智能系统的分类规则,《人工智能法》的规定为:
01
意图作为某个产品的安全组件,或者已属于附件一所包含的产品范围;
02
根据附件一中的欧盟立法清单,被要求受第三方监管的人工智能安全组件或产品。对于高风险人工智能系统的相关义务,《人工智能法》用了非常大的篇幅进行说明,在义务主体上包括提供者的义务、进口者的义务、分销者的义务、部署者的义务,在内容上涉及风险管理、数据治理、日志记录、监督、授权、通知等各种相关义务。
第三级风险等级的人工智能系统则为特定人工智能系统,对于该类人工智能系统,《人工智能法》并没有给出分类标准,仅直接规定提供者和部者负有透明度义务,即要求提示用户与其互动的对象是人工智能系统。
第五章单独规定了通用目的人工智能模型,在这一类别中,《人工智能法》又从中分出“具有系统风险的”通用目的的人工智能模型和“不具有系统风险的通用目的”人工智能模型两种类型。而“具有系统风险的”通用目的的人工智能模型和“不具有系统风险的”通用目的人工智能模型的范围都由委员会或者科学小组按照一定技术手段和方法进行确定,但系统的提供者享有异议权,可以在评估做出后的六个月内申请重新评估。针对这类人工智能系统,《人工智能法》主要规定了通用目的人工智能模型这一大类别下的提供者义务,以及“具有系统风险的”通用目的的人工智能模型这一小类别下的提供者义务。并且,根据相应的法条,“具有系统风险的”通用目的的人工智能模型的提供者在履行义务时,并非是仅需履行小类别项下义务,而是在履行大类别项下义务的同时,附加履行小类别项下的义务。
二.新管理机构
为了保障《人工智能法》的顺利实施,欧盟还安排了多个机构进行分工,主要包括:
01
人工智能办公室,负责帮助欧盟了解关于人工智能领域的专业知识;
02
欧洲人工智能委员会,由各成员国代表组成,为欧洲委员会和成员国在实施《人工智能法》方面提供建议和协助;
03
咨询论坛,由各利益相关方组成,负责向欧洲人工智能委员会和委员会提供咨询意见和技术知识;
04
科学小组,由人工智能专家组成,负责支持本条例的实施和执行以及协助人工智能办公室履行其在保障条款方面的职责。
三.生效和适用时间
《人工智能法》中还包含了几个重要的时间节点:
01
公布后二十天:本法案自其在《官方公报》上公布后第二十天起生效。
02
生效后六个月:第一章(立法目的、适用范围、定义)和第二章(禁止使用的人工智能)自本条例生效后六个月起适用;
03
生效后十二个月:第三章第4节(主管机关和指定机构)、第五章(通用目的人工智能)、第七章(管理)和第十二章(惩罚)自本法案生效后十二个月起适用,第101条除外;
04
生效后三十六个月:第6条第1款(高风险人工智能的分类)及其对应义务自本条例生效后三十六个月起适用。
05
生效后二十四个月:本法案其余部分自生效后24个月起适用;
无疑,欧盟出台的首部《人工智能法案》为全球人工智能立法提供了一个重要的参考框架,它给予其他国家在制定人工智能法律时考虑细化风险分级分类制度、完善监管制度和程序的启发。这不仅对欧盟内部的人工智能发展和治理具有深远影响,而且对全球人工智能领域的立法和监管也具有指导和借鉴作用。
![](/public/uploads/20230822/9718f4df5b6d3782386ab4da087a3e36.jpg)
![](/public/uploads/20230801/6046b214d8e3bd4c064b69197b7e2c05.png)
![](/public/uploads/20230801/c5321165ab7fd4cd0f8059c87689b26e.png)