美欧人工智能监管动向及启示
作者：国家计算机网络应急技术处理协调中心上海分中心 王怡青 杨梦倩 杨瑛瑛
【慧聪通信网】2023年，ChatGPT引爆全球人工智能产业浪潮，随后引发的人工智能安全焦虑加快了全球主要国家和地区制定监管政策的进程。当前，美欧已先后发布多项人工智能监管政策，以期本地区监管标准能够更多地影响全球人工智能发展，抢占先机和话语权。尽管这些政策能否起到引领作用尚待观察，但势必会影响全球人工智能治理进程。
美欧人工智能监管动向
美国：人工智能监管仍处于起步阶段
2022年10月，美国白宫科技政策办公室发布《人工智能权利法案蓝图》，提出通过“建立安全和高效的系统、避免算法歧视、保护数据隐私、及时履行通知与解释义务、准备替补方案与退出机制”五项原则，预防滥用人工智能技术带来的风险。《人工智能权利法案蓝图》并未明确实施细则，而是以公平与隐私为重点，要求相关主体在人工智能系统开发过程中，以坚守公平正义为底线，保证系统使用者不受算法歧视和数据隐私泄露的侵害。
2023年1月，美国国家标准与技术研究院发布《人工智能风险管理框架》。该文件采用多元化的治理方案，旨在帮助诸多行业及组织将人工智能风险管理原则转化为实践，以提高相关主体使用人工智能系统的安全性与可靠性。尽管从性质上来看，《人工智能风险管理框架》是非强制性的指导性文件，但因该文件是由多方利益主体共同参与并制定的，具有高可信度和高接受度，比约束性法律更容易在应用中实现更新迭代。
2023年10月，美国总统拜登签署颁布了第14110号行政命令——《关于安全、可靠、可信地开发和使用人工智能的行政命令》（以下简称“第14110号行政命令”）。这是美国政府有史以来对人工智能采取的最重要的行动。第14110号行政命令以安全为核心，确立了人工智能安全和安保的新标准，关注人工智能带来的社会公平和公民权利等风险，促进企业创新竞争，以确保美国在人工智能领域发展及风险管控上处于世界领先地位。第14110号行政命令提出建立人工智能安全新标准、保护美国民众隐私、提升美国在人工智能领域的国际领导力，以及确保政府负责任且有效使用人工智能等八项行动。值得关注的是，第14110号行政命令要求开发者与美国政府共享人工智能模型的训练结果，为美国政府密切掌握私营部门相关技术发展进行赋权。
欧盟：强势争夺人工智能治理主导权
从立法历程上看，欧盟委员会在2021年4月发布了《欧洲议会和理事会关于制定人工智能统一规则（人工智能法）和修订某些欧盟立法的条例》的立法提案，开启了人工智能立法的新进程。欧盟希望这部人工智能“硬法”能够成为全球人工智能法律法规的蓝本之一。2023年6月，欧洲议会投票通过了《人工智能法案》的谈判授权草案，新法案的监管思路是以横向监管为基础，以风险规制为主要方式，同时兼顾监管与发展的动态平衡。2024年3月13日，欧洲议会以压倒性优势通过了《人工智能法案》，标志着欧盟扫清了立法监管人工智能的最后障碍。同年5月21日，欧盟理事会正式批准《人工智能法案》。该法案在走完相关签字流程后将在欧盟官方公报上公布，并在公布20天后生效。
《人工智能法案》是全球首部关于人工智能的全面监管法规，重点关注私营和公共部门对该技术的高风险使用，也为ChatGPT等大模型制定了严格的透明规则，以防范人工智能的滥用和风险。该法案为人工智能的功能性应用划定了明确的禁区，包括禁止利用未经授权采集的面部图像建立人脸识别数据库等。欧盟委员会主席冯德莱恩盛赞道：“这是具有明确‘护栏’的创新人工智能的开创性框架。”
美欧人工智能监管特点分析
监管理念和目标不同
美国政府的监管服务于其在人工智能领域长期保持战略优势的大国竞争需求，而欧盟则希望通过影响全球标准的制定来保护本土市场和企业。美国凭借其在人工智能领域积累的优势，希望在人工智能监管上推行单边主导型治理，通过强调人工智能作为战略前沿的重要性和安全保障的绝对性，大力推动监管体系与技术业态的同步发展。欧盟则致力于打造人工智能监管的全球模板。除了《人工智能法案》这一全球首部人工智能监管法规之外，欧盟还通过了《人工智能框架公约》，为人工智能系统的全生命周期搭建法律框架，试图为全球人工智能治理确定基调。不仅如此，欧盟还推出《人工智能契约》，帮助企业更好地遵循《人工智能法案》。近年来，欧盟为抢占数字经济监管领域的先导地位，推出了《通用数据保护条例》《数字服务法案》《数字市场法案》等法律法规，深刻影响着全球监管标准的制定。当前，欧盟正试图在人工智能领域重现“布鲁塞尔效应”。
治理手段宽严不一
欧盟在人工智能领域的监管体系更为健全，且相对严格。自2016年始，欧盟就不断探索适合欧洲发展的人工智能治理体系。欧盟《人工智能法案》以横向监管为基础，将所有人工智能系统都纳入监管范围；以分类分级作为风险规制的主要方式，一方面禁止使用高风险的人工智能系统，另一方面允许低风险和无风险的系统获得免费使用和推广的机会。美国的相关立法进程则显著滞后。尽管多年来美国国会试图制定有关隐私、网络安全和新兴技术方面的监管规则，但截至目前尚未通过任何人工智能领域的重大立法，仍然以倡议性文件作为主要应对方式。
监管布局存在差异
美国的监管机制并非单一依赖于行政监管，而是强调政府与私营部门的协作，行政监管呈现分散态势，不同机构制定自己的监管规则。第14110号行政命令明确，国土安全部的重要职责是开发和监管人工智能，商务部则在实施行政命令上发挥关键作用。2023年4月，国土安全部成立该部门首个人工智能工作组，以推动人工智能的具体应用，还制定了有关人工智能技术的获取、使用，以及负责任地使用人脸识别技术的指南。商务部的工作主要由美国国家标准与技术研究院、工业与安全局、国家电信和信息管理局、美国专利商标局负责。此外，美国对人工智能的监管还严重依赖私营部门的支持。2023年7月始，拜登政府就先后召集谷歌、微软、OpenAI等15家人工智能公司作出自愿公开承诺，同意政府提出的一系列人工智能保障措施，推动人工智能技术安全、可靠和透明发展。相比美国较为分散的监管职能设置，欧盟则建立了多层次的监督和执行机制，以实现对人工智能的有效治理。一方面，《人工智能法案》将主要通过各成员国的主管机构执行，各成员国将指定一个国家监督机构，促进法案在整个欧盟的一致适用；另一方面，欧盟委员会在2024年1月成立了欧洲人工智能办公室，负责促进《人工智能法案》的实施，协调各成员国监督机构之间的合作，从而避免成员国各自为政。
人工干预程度不同
根据第14110号行政命令，美国国家标准与技术研究院将制定严格的人工智能“红队”标准，即旨在破坏模型以暴露漏洞的测试。美国国土安全部将把这些标准应用于关键基础设施项目，并成立人工智能安全委员会。美国能源部和国土安全部将具体应对人工智能系统对关键基础设施的威胁，及其带来的化学、生物、放射性材料、核及网络安全风险。而欧盟则在《人工智能法案》中明确了建立人工智能监管沙盒的相关要求。目前，西班牙、法国、挪威、英国和瑞士等多个欧洲国家正在积极推进监管沙盒试点工作。沙盒监管模式对于“盒内”企业采取审慎的监管措施，在可控范围内容错纠错，为人工智能技术创新提供了弹性包容空间。
对我国的启示
广泛磋商推进国际治理框架的建立
美欧积极与国外盟友开展合作，以建立国际框架规范人工智能的使用。2023年10月，七国集团发布《开发先进人工智能系统的国际指导原则》和《开发先进人工智能系统的国际行为准则》；2023年11月，美国副总统哈里斯在英国举行的首届人工智能安全峰会上表示，将与国际合作伙伴和标准组织一起加快制定并实施重要的人工智能标准。与此同时，欧盟意图通过《人工智能法案》建立人工智能监管全球标准，促使欧洲在国际人工智能竞争中取得优势地位，该法案未来可能成为他国制定人工智能监管方案的样本。借鉴经验，建议我国积极提升各部门在人工智能领域的治理能力，并强化国际监管对接。一方面，聚焦人工智能领域完善各监管部门间分工、配合及协调体系和制度，进一步提升各部门间的协调监管效果。政府各部门对本部门监管范围、本领域法律法规与人工智能的交叉点展开深入检查，进一步强化本部门人工智能治理。另一方面，在国际层面强化人工智能监管治理的交流磋商，积极融入并对接国际监管治理框架，提升相关话题的国际话语权，为我国相关行业发展争取利益空间。
公私同步加强人工智能治理水平
欧盟《人工智能法案》引领建立人工智能监管“世界标准”，为全球人工智能监管奠定了法律基础。与欧盟类似，中国也正处于人工智能领域立法的重要关口。欧盟《人工智能法案》对我国加强人工智能领域立法的体系化和系统性、细化风险分级分类制度以及通过制度设计鼓励创新等具有一定的借鉴意义。此外，美国政府大力推动人工智能企业作出自愿性承诺，相关做法可作为我国加强监管公私同步、进一步压实企业责任的参考手段。一方面，以企业承诺的方式作为自律监管要求，更符合人工智能的治理需求，也更贴合产业实践的前沿趋势，可以有效解决监管政策与技术发展的同步性问题。另一方面，从促进创新的角度来看，由于人工智能监管专业性极强，政府监管措施的有效落地与企业的配合密不可分，柔性措施可以更好地保证企业的合作态度。
加快构建人工智能人才培养体系
美国第14110号行政命令特别提及高技能移民的问题，支持在关键领域拥有专业知识的高技能移民和非移民在美国学习、居留和工作。此举将吸引更多的人工智能领域人才前往美国甚至“技术移民”，进而与同样聚焦人工智能发展的我国形成人才竞争关系，并可能对我国相关领域人才形成“虹吸效应”。当前，我国人工智能领域人才供需比处于较低水平，且从人才培养生态来看，高校、机构和行业还没有形成体系化、产教融合的人才培养机制。建议政府部门、产业界与教育界通力合作，拓展产教融合、协同育人的新路径，共同搭建人工智能人才培养体系。同时积极推动工业和信息化部《AI应用人才从业能力评估》等标准建设工作，进一步细分和规范相关人才市场，制定人工智能应用人才从业能力标准。
注重动态平衡，为技术产业发展留足空间
欧盟《人工智能法案》旨在通过促进监管和发展的动态平衡，确保人工智能技术的合规性与可持续发展。美国在监管上则突出行业协同，从而确保其在人工智能领域的技术优势。当前，我国出台的《生成式人工智能服务暂行管理办法》采取了包容审慎的态度，在促发展和稳安全之间寻找动态的平衡点，并为后续人工智能技术及服务发展预留了充足的政策调整空间。建议监管部门在风险分类分级的基础上，根据技术和经济的发展，及时动态调整风险分级分类清单，在保障安全的前提下促进人工智能领域持续迸发新活力。
结语
人工智能的挑战和机遇是全球性的，从美欧在人工智能领域的“发展路线图”来看，2024年将成为人工智能发展的关键期。当前，美欧正通过其先发优势，为人工智能发展制定全球监管标准；而我国正处于人工智能领域立法的重要“十字路口”，在加强自身立法建设的同时，也需要更多地考虑与他国法案的重合适用，做到未雨绸缪、行稳致远。
