编辑:shixunjie 来源:shixunjie
2024-08-03 19:40:42
本地时间8月1日,欧盟《人工智能法案》正式生效。作为全球首部全面监管人工智能的法规,它的出台意味着人工智能的规范应用迈出重要一步。
正迎头赶上的中国人工智能企业,会否因此受到影响?
如何监管?
该法案接纳风险分级管理的模式,将人工智能系统分为禁止、高风险、有限风险和最低风险四类,并据此设定差别的合规尺度。
其中,关于高风险人工智能系统的界定和要求成为多方关注焦点。根据法案,自动驾驶汽车、医疗设备、贷款决策系统、教育评分和远程生物识别系统等均属于高风险人工智能系统,涉及医疗健康、公共宁静、交通运输等关键领域,因此该法案对高风险人工智能系统规定了严格的透明度义务。
同时,复杂和广泛使用的人工智能系统也将受到新约束。法案要求,所有人工智能生成的内容(包罗图像、音频或视频等)都要有明确标签,能够被检测为人工智能生成的内容,以解决人们对虚假信息的担心。
别的,该法案规定,禁止使用被认为对用户基本权利构成明显威胁的人工智能系统。对有违规行为的企业,欧盟最高将对其处以3500万欧元或全球年营业额7%的罚款,取二者中的较高值。
根据计划,该法案相关规则将分阶段实施,主要是为了给企业留出一定过渡期。某些规则将在该法案通过6个月后或12个月后生效,而大部门规则将于2026年8月2日开始生效。
值得一提的是,该法案将不但适用于欧盟境内,其效力还扩展至欧盟区域外运营的相关公司,具有广泛国际影响力。
影响几何?
随着法案各条款逐步实施,人工智能应用或将走向更加规范的轨道。
北京金杜律师事务所顾问方禹接受中新社国是直通车采访时指出,欧盟《人工智能法案》从约束内容随处罚规定,保持了一如既往的“高尺度”,具有标杆性意义,将为世界其他地区和国家立法提供参考框架。
与此同时,业内也有很多观点认为,合规意味着本钱上升,该法案实施将显著增加人工智能相关企业的合规本钱。
据早期预测,该法案可能导致欧盟在未来五年内经济损失超300亿欧元,并使人工智能领域的支出增加近17%的合规本钱。
北京大成(上海)律师事务所合伙人彭凯认为,《人工智能法案》对透明度、个人信息掩护等方面提出了较高要求,于消费者而言是利好的。但同时,鉴于严格的监管要求,人工智能价值链上的到场者需要投入更多资源。部门企业可能因无法负担高昂的合规本钱,需要调整其市场进入计谋,甚至因此放弃进入欧盟市场。
在方禹看来,中国人工智能企业若要出海欧盟市场,面临的合规本钱和压力将不可制止增加。在合规本钱之外,他还强调企业或将面临“价值观本钱”。
方禹认为,对出海企业而言,这部法案涉及的方面以及影响是复杂且多面的。该法案是基于风险的治理思路,但欧盟和中国相互间对于“风险”的认识和界定存在一定差别。中国出海企业要面临的不但是制度上的合规,还需要在价值观等认识层面进行一定调整和平衡。
中国信息通信研究院人工智能研究所人工智能治理高级主管呼娜英表现,法案生效后,中国出海企业面临的挑战,一方面在于从内部调整自身业务与合规体系以同欧盟尺度对齐,另一方面要从外部平衡好差别国家和司法区域之间的规则。
有观点担心,由于监管和约束趋向严苛,该法案可能抑制技术创新,尤其是对初创企业和高风险人工智能系统供应商将构成较大压力。但有分析认为,随着合规体系完善,久远看将激发企业通过技术创新来降低合规本钱,促进人工智能行业规范化发展。
对此,方禹表现,法案自己只是一种工具,且差别企业有差别的合规尺度,不可绝对地一概而论。但如果过多企业或类别被列入高风险品级,将可能在一定水平上影响企业创新力。