转自：中工网
原标题：欧盟人工智能法案注重风险防控
欧洲议会高票通过的《人工智能法案》，体现了欧盟在人工智能治理上长期奉行严的基调，不仅突出强调了要防止高风险人工智能对个人基础权利、社会民主法治、环境可持续性的侵犯，还为人工智能的功能性应用划定了明确的禁区，并按照使用场所规定了相应的应用规范等。欧盟在人工智能发展和治理问题上一直相对保守和稳健，相较于鼓励创新而言，更注重防控风险。此次通过《人工智能法案》，或将对人工智能全球治理产生新的影响。
日前，欧洲议会以523票赞成、46票反对，高票通过了《人工智能法案》。欧盟长期以来在人工智能规则和标准制定上走在世界前列，此次通过《人工智能法案》，或将对人工智能全球治理产生新的影响。
《人工智能法案》充分体现了欧盟在人工智能治理上长期奉行严的基调，突出强调了要防止高风险人工智能对个人基础权利、社会民主法治、环境可持续性的侵犯。法案为人工智能的功能性应用划定了明确的禁区，禁止基于采集到的敏感信息对民众进行生物学分类、禁止利用未经授权采集的面部图像建立人脸识别数据库、禁止在学校或工作场所进行情绪识别、禁止基于对个人的特点评估对其进行预防性执法干预，以及禁止通过利用人们的弱点对人进行行为操控等。
法案除了对人工智能技术本身作出规制外，还按照使用场所规定了相应的应用规范，在关键基础设施、教育和职业培训、就业、基本服务、执法的某些系统、移民和边境管理、司法等领域，要对使用人工智能采取严格的管理规范，以确保透明性。具体措施包括记录使用日志、确保人力监控、接受民众投诉等。此外，法案还规定，通用型人工智能及其模型必须遵守欧盟版权法，并且详细公布其用于模型训练的数据内容。法案尤其针对合成照片以及音频、视频内容的“深伪”技术严加防范，认为其能够带来系统性风险，要求对此类技术进行模型评估，并将技术滥用的负面个案上报监管部门。
欧盟在人工智能发展和治理问题上一直相对保守和稳健，相较于鼓励创新而言，更注重防控风险，规制性和禁责性政策内容占比较高。精通国际贸易法以及欧盟规则制定的作家阿努·布拉德富德曾在其作品《数字帝国——规范科技的全球博弈》中指出，在人工智能发展和治理的全球博弈中，不同于美国以尽可能宽松的规范和监管环境让尖端技术大厂自由发展，尽快培育核心竞争力的做法，欧盟始终将高标准规范作为立身之本。而其也凭借独特的“布鲁塞尔效应”，正成功推动其治理规范在全球范围内推广。
所谓“布鲁塞尔效应”，即欧盟自身高质量互联网用户群体庞大，任何人工智能产品都较为重视欧盟的市场体量和质量，希望在全球布局中率先进入欧盟市场。欧盟则利用上述先发优势，规定任何进入欧盟市场，或接入欧盟数据的人工智能产品必须遵守欧盟有关法规和标准，确保大型人工智能企业及产品在欧、涉欧业务必须按欧盟标准规范行事。相关企业在产品的后续市场拓展中，往往因为减少边际成本，不会为后续市场再单独开发一套规则，而是会将已经用过的欧盟模式直接搬运套用。实际上，这种做法是对欧盟模式进行了输出，帮助欧盟在人工智能全球治理问题上占据先机。澳大利亚、日本等国家在制定各自的人工智能国内治理机制时，均大量参考欧盟做法，将管理和规制放在相对优先突出位置。
当前，人工智能技术的快速发展正呼唤着全球治理体系的相应完善，2024年无疑是人工智能全球治理的“大年”。今年5月，负责信息通信事务的联合国专门机构国际电信联盟将主办人工智能向善峰会，邀请各国相关领域的领军人物共商今后人工智能善治之道；今年9月，联合国未来峰会也计划通过《全球数字契约》作为峰会成果之一。欧盟致力于深度参与契约的制定，早在去年3月就形成了立场文件，并提交给负责协调契约的联合国秘书长科技特使，立场文件强调了要尊重和保护公民的权利，确保全球数字化转型能够以人为中心。此次通过的《人工智能法案》，继承和体现了立场文件中的有关精神和原则，并以法律形式将其细化固化。其在欧盟内部率先通过和施行，无疑为全球提供了新的人工智能治理政策借鉴以及实践参考。
欧盟通过《人工智能法案》对我国也有多方面影响。首先，在市场合作方面，我国人工智能应用进入欧盟市场或接入欧盟数据的规则门槛虽进一步提高，但这对于提升我国自身产品的国际竞争力并非坏事，尤其是在当前美国人工智能技术应用由于规范性不足而较多遭遇负面案例反噬的情况下，“布鲁塞尔效应”或许能帮助我国人工智能企业实现弯道超车。其次，在治理合作方面，中欧之间在人工智能治理问题上有较大的立场共性，均强调了新技术要服务于人，而不是人被技术奴役，相信这一关键公约数，能为中欧双方今后在人工智能全球治理问题上相向而行提供足够的空间。（梁桐）
海量资讯、精准解读，尽在新浪财经APP