必威欧洲议会、欧盟成员国和欧盟委员会三方,终于在漫长谈判后,于布鲁塞尔当地时间12月8日晚,就《人工智能法案》达成协议。
欧盟内部市场专员蒂埃里·布雷东坦言,这份协议将有助于欧洲“在全球人工智能竞赛中领跑”。
已达成协议的《人工智能法案》草案规定,严格禁止“对人类安全造成不可接受风险的人工智能系统”,其中包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。
相关规定还包括,人工智能公司要对其算法进行人为控制,提供技术文件,并为“高风险”应用建立风险管理系统。每个欧盟成员国都将设立一个监督机构,确保这些规则得到遵守必威。
• 2019年以来,欧盟一直布局人工智能监管领域,先后发布人工智能伦理准则并出台《人工智能白皮书》。
• 2021年4月,欧盟委员会提出《人工智能法案》提案的谈判授权草案。此后,欧洲议会和欧盟理事会就草案进行了多轮修订和讨论。
• 2023年6月,欧洲议会以499票赞成、28票反对和93票弃权,高票通过了《人工智能法案》谈判授权草案,推动了该法案进入立法程序的最后阶段,即举行欧洲议会、欧盟成员国和欧盟委员会的“三方谈判”,以确定法案的最终条款。
本周,三方为此展开了马拉松式的闭门谈判,其中一次谈判持续了22个小时,第二轮谈判于12月8日上午开始。
参与谈判的西班牙数字化和人工智能国务秘书卡梅·阿蒂加斯表示,为确保“里程碑式”的监管而付出的努力是值得的。
北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括接受中央广播电视总台环球资讯广播记者专访时表示,欧盟各方最终就《人工智能法案》达成协议,是各方做出妥协的结果,这既有来自欧盟内部的迫切需求,也有来自外部环境的压力。
• 第一,欧盟各国都认同发展人工智能能使欧盟获得竞争优势,在未来全球治理中赢得话语权,并且各国也有产业和经济发展的实际需求。因此,欧盟内部对于人工智能立法是比较迫切的。
• 第二,包括中国、美国、英国在内的国际治理主体,都在快速地推进关于人工智能治理的规则建设。从外部环境来讲,也决定了欧盟需要尽快形成和推出自己的规则。
吴沈括进一步分析认为,欧盟的《人工智能法案》对欧盟乃至全球的人工智能发展格局和立法格局都会带来非常重大的影响。
• 《人工智能法案》的立法技巧具有全面性和综合性。未来法案颁布实施必威,将对人工智能的研发、人工智能产品和服务的设计与运行带来非常大的直接影响。
• 在合规层面,该法案会影响各类人工智能企业的市场格局、业务模式、运营方式乃至发展前景。从执法和实施的前景来看,对于人工智能企业是一个比较大的挑战,同时也是一个业务重构、业务设计的过程。
• 法案正式颁布实施后,各成员国将基于本国的公共政策基础,做出一定的变通适用。
耐人寻味的是,此前,包括空客和西门子在内的数十家欧洲大型企业曾采取集体行动,以“可能损害欧洲竞争力”“不能应对潜在挑战”等为由,公开反对欧盟通过《人工智能法案》。