除铁器服务热线
全国客服热线:

400-6368-3518

当前位置
首页 > 产品中心
联大首份人工智能决议出炉:技术监管的美国角色与全球未来
来源:欧宝app    发布时间:2024-04-17 22:08:03

  * “中美友好互信合作计划”是由复旦发展研究院和丰实集团共同打造的中美关系研究的学术平台

  3月28日,美国白宫管理与预算办公室(OMB)发布政策备忘录M-24-10,要求在各联邦机构内设立首席人工智能官(Cheif AI Officer, CAIO)职位,履行技术治理、创新监督管理和风险管控等职能,这一举措既是美国国内监管人工智能的动向,也是美国加速打造全球AI治理标杆的举措。正如副总统哈里斯对设立CAIO职位表示,此举有望发挥“美国国内政策的全球示范效应”。布鲁金斯学会也曾分析指出,美国国内人工智能治理事项将较大程度上影响国际人工智能治理的结果。

  而美国国内人工智能治理的“全球雄心”,很大程度上来自联合国方面的进展。3月21日,联合国大会通过了由美国提出的人工智能监管决议,鼓励各国在AI发展过程中保障人权、保护个人数据隐私并管控风险。对于联合国首份人工智能决议,绝大多数成员国在进行磋商谈判后最终表示了支持,但决议背后以美国为主导的意志不容忽视。随着国内与全球的双重技术治理行动,美国能否塑造人工智能治理的全球领导力?而将AI监管纳入联合国事项又是否可行?

  决议提出了“安全、可靠和让人信服”的国际人工智能治理标准,聚焦数字权利与普遍人权的一致性、减少数字鸿沟和可持续发展这三个方面。对于“安全、可靠和让人信服”三原则,决议如此定义和解释:“必须以人为本、可靠、可解释、符合道德、具有包容性,充分尊重、促进和保护人权和国际法,保护隐私、面向可持续发展和负责任”,且限定对象为“非军用的AI系统”,由此也能窥见人工智能治理的全球规范共识。

  其中,对于AI领域的“人权保护”的强调是这份联大决议的亮点之一。决议提出,在AI发展的整个生命周期内应当“尊重、保护和增进人权和基本自由”,不去使用“对人权构成过度风险”的AI系统,并要求真实的生活存在的合法人权也应当在线上受到同等保护。分析人士指出,将“确保人工智能系统遵守人权”的内容纳入决议,这表明人工智能的某些用途“与人权不相容”且“不能被允许”,而这一规定达成了全球共识,实属难得。

  强化对发展中国家在AI领域的支持也是决议重点内容。一方面,为减少国际和各国内部的“数字鸿沟”,决议促请成员国与发展中国家开展合作并向其提供援助,以实现“包容和公平地”获得数字化转型的AI系统所带来的惠益。另一方面,决议也侧重于缩小富裕国家和贫穷国家之间的差距。呼吁联合国成员国“紧急”与发展中国家就技术转让、技术援助和融资等问题做沟通,但并不包括技术的军事用途。根据决议的思路,构建全球AI治理的伙伴关系,并以此增强数字基础设施的连通性,助力发展中国家推动数字转型,最终指向的结果仍然是“安全、可靠和可信赖”的“三原则”的全球推广与落地。

  决议对于鸿沟弥补与技术援助的强调,客观上也是将AI治理与可持续发展目标进行对接,为AI治理提供了价值导向。此外,决议还将现有的联合国发展议程融入人工智能框架,例如提出关注平台语言多样性,消除性别数字鸿沟,关注技术获致性和可负担性、提高公民数字素养、保护个人隐私和在线安全。

  而决议的形成过程也是理解决议强调“全球行动”的视角。为争取国际社会的广泛理解和支持,这份由美国动议提出的决议经历了较长的协商和谈判过程,并最终以“协商一致”的方式通过。谈判过程可分为三个阶段。2023年12月,美国启动决议谈判,与各国进行了数百小时的双边对线 个国家的意见,且经过了数次修改。在决议初次提交审议(3月11日)后,美国与54个共同提案国发表联合声明,其中大多数是美国的传统盟友,巩固了决议在美国盟友和发达国家内部的支持度。紧接着,美国便试图争取中国、俄罗斯和古巴等国家对决议的支持。据美国官员透露,美国与中俄等国的官员进行了“很多激烈谈话”,并“的确接受了大多数的修改意见”。最后,联大并没有对该决议进行唱名投票,而是以“协商一致”的方式通过,彰显了较强的全球性技术治理共识。

  拜登上任以来,美国参与全球治理的第一个任务是恢复其在联合国乃至世界舞台的领导地位。加之在人工智能治理规则层面,美国正落后于欧盟——后者在3月13日正式将欧盟《人工智能法案》通过欧洲议会表决,这让美国急于恢复人工智能治理的领导能力,匹配其在全球AI技术的领导者地位。因此,本次美国对联合国大会决议的制定与宣传也内嵌了领导者叙事。

  美官员以“人权”和“自由”价值观为核心搭建起人工智能决议的领导叙事架构,在此基础上宣传共同行动,凸显领导者角色的合理性。纵观美官员表态,无不强调人工智能治理的价值观共识,这与美国建构全球领导者逻辑的叙事是统一的,即在价值观引领下,人工智能的协同治理也应由美国领导。美国驻联合国代表格林菲尔德(Thomas-Greenfield)介绍决议草案时,强调人工智能治理应通过“人性、尊严、安全”来创建和部署,并高呼“联合国大会193 个成员国正齐心协力,选择治理人工智能,而不是让人工智能统治我们。”

  美国国务卿布林肯强调决议共识在于尊重“人权和基本自由”,同时实现可持续发展,“让两者兼容”。美国国家安全顾问沙利文更将“人权和基本自由”上升到“开发和利用人工智能的核心”。美国国防部的表态强调以美国为核心的人工智能多边治理增进了共同利益,通过建立国际框架、设立发展基金和投入援助等方式达成全球人工智能治理的共识。

  美媒从舆论角度切入,强调以美国领导下的决议广受多国和各界支持,凸显领导者角色的受众基础。表示决议具有国家间的普适性,有利于弥补数字鸿沟,还声称大型科技公司“普遍支持人工智能监管的必要性”。还抓住决议生成机制特点,直指联合国大会决议的意义不在于法律约束力,而在于“世界舆论的晴雨表”,侧面表示美国的人工智能领导角色是“众望所归”。路透社也强调了协议谈判过程的阻力与美国代表与其他几个国家代表进行的“激烈的谈话”。

  智库媒体从外交和地理政治学的角度分析,认为美国在弥合各国利益分歧方面具有领导角色水平。《外交政策》杂志认为“非民主国家”在人工智能方面寻求塑造体现其世界观和优先事项的治理架构,这让全球AI治理陷入“外交斗争”,然而美国领导的技术治理规则却“超越了地理政治学分歧”。

  由美国代表动议并主导的联大决议无疑彰显了美国争夺全球AI治理领导力的雄心,尤其是欧盟在人工智能治理的领头羊正让美国倍感压力。

  自2018年以来,欧盟先后出台《欧洲人工智能战略》《人工智能协调计划》,初步勾勒出欧盟人工智能的发展的策略框架。2020年,欧委会发布了《人工智能白皮书》和《欧洲数据战略》两份文件试图“塑造欧洲数字未来战略”。基于一揽子战略规划和部署,2021年4月欧盟开始酝酿《人工智能法案》(Artificial Intelligence Act),将AI治理诉诸法律层面,大有引领全球AI治理之势。

  2022年6月,欧洲议会通过了对《人工智能法案》提案的谈判授权草案。2023年12月8日,欧委会、欧洲议会和欧盟成员国就该法案达成“历史性”协议。今年3月13日的欧洲议会上,523张赞成票让《人工智能法案》正式被表决通过。尽管过程曲折,但欧盟在人工智能治理规则的落地上,显然已经领先于美国。

  《人工智能法案》以欧盟的人权、民主、自由和法治等传统欧式价值观为逻辑底色。考虑到欧盟过往对关于数字主权的诉求和实践,以及在人工智能国际治理领域的各种表现,有分析人士指出,“欧式模板”会作为一种突出的治理方案,在人工智能国际治理生态中成为重要的规则参照系,进而对其他几个国家AI政策法规的价值选择和监管执法的方式方法产生显著的溢出效应”,并通过种种国际协定、经贸协议持续在全球扩大其影响版图。

  相比之下,美国尚未对AI监管颁布一部综合性法案,也因此可能在全球治理层面落后。对此,业界专家和媒体都为欧盟在人工智能治理立法步伐之快与可能的治理效应外溢而对美国感到担忧。欧盟《人工智能法案》正式通过后,《福布斯》便发文称美国也需要颁布类似法规,并认为拜登与2023年10月颁布的行政令“监管程度远不及欧盟”。《》表达了对美国落后的担忧,彭博社更是直言在美国没有一点立法的情况下,欧盟具有“里程碑意义”的立法可能会为“西方世界如何治理人工智能定下基调”。

  美欧双方也曾试图在人工智能治理上对齐,但仍存在诸多分歧。在监督管理模式上,美国侧重技术应用和流程监管,而欧盟侧重组织管理与风险管理。清华大学战略与安全研究中心指出,欧盟人工智能监管框架延续《通用数据保护条例》的立法初衷,更强调个人权利保护和AI应用的负面影响,而美国更强调促进AI创新与发展,因而为AI应用创设“安全港”、监管例外和监管豁免等制度。除了监管程度强弱之辩,美欧双方在对华AI合作也难有共识。在2024年慕尼黑安全会议上,欧方嘉宾恩智浦半导体公司首席执行官西弗斯(Kurt Siever)认为,在民用技术上可以与中国加强人工智能合作,而美方嘉宾帕兰提尔技术公司首席执行官卡普(Alex Karp)则认为不应与中国在人工智能上有任何合作。

  可见,对于美国而言,与其存在人工智能治理模式差异的欧盟走在了全球治理规则制定的前列,这让本就重视塑造全球治理领导力的拜登政府更加关注美国在人工智能监管的世界地位,而此次联大决议的通过也总算是“扳回一城”。随着美国国内逐渐搭建人工智能治理架构与部署行政系统人员力量,国内国外的联动治理有望让美国在全球AI治理上取得与其技术水平相称的地位。

  联合国首份就人工智能监管达成的决议通过,固然是全球技术治理的一大进程,但同时也引发了思考:针对人工智能大模型引发的治理难题,新的全球AI治理图景将如何展开?更重要的是联合国在其中的角色为何?联合国高级别人工智能咨询机构(AI Advisory Body)发布的报告提出了“一个机构或机构网络”的七个治理功能层次,主张从专家主导的科学共识开始,到全球规范的制定、合规和问责。该机构指出,全球人工治理方法应该是“敏捷的、网络化的、灵活的”,并且最大限度地利用已经在进行的倡议。

  “机构网络”的治理方案因应了AI国际治理机构不计其数,分散而交错的现实。从 2016 年开始,AI治理慢慢的变成了各国国内和国际政策议程的关键内容。迄今为止,各国AI监管政策采取了不同的形式,有些国家以立法为主,其他几个国家主要是依靠自愿框架。基于国家治理经验,部分国际组织尝试推广一系列国际倡议:其中最活跃的行为方包括有号称“发达经济体俱乐部”的经济合作与发展组织(OECD)、有29个成员国和一个专家网络的“全球AI伙伴关系”(GPAI)、 联合国教科文组织(UNESCO)和国际电信联盟(ITO)。一些国际标准制定机构也参与到治理进程中,如国际标准化组织/国际电工委员会(ISO/IEC) 和电气工程师协会(IEEE)。

  英美欧在AI全球治理方面动作频繁。2023 年,美国-欧盟关于行为准则的工作被引入到七大工业国组织(G7)。2023年11月,英国召开了一个28 个国家参与的 AI 安全峰会,产生了一份聚焦于“前沿 AI 安全的风险、机会和国际合作前进过程”的“布莱切利宣言”(Bletchley Declaration),以及设定了一系列关于 AI 安全的未来会议安排。

  联合国在人工智能治理网络中的作用至关重要。AI 合作论坛(FCAI)的研究人员指出,联合国将AI治理进程与17个可持续发展目标对接,为治理提供价值框架。皇家协会(The Royal Society)的报告进一步提出,联合国在AI治理中应提供以下几大功能:

  3. 促进国际合作,包括人才发展、计算资源获取、构建多样化的高质量数据集、负责任地共享开源模型,以及为可持续发展目标(SDGs)提供 AI 支持的公共产品。

  然而,联合国在AI技术监管治理的机制局限也同样明显。联合国秘书长古特雷斯等人提倡,未来应以国际原子能机构(IAEA)为范本建立统一的联合国先进人工智能治理组织(即下表的“模式二”)。这一模型的支持者倾向于认为,随着逐步发展,先进的AI系统将带来存在性风险,类似与核扩散对人类生存的威胁。基于这种类比,支持者强调需要一个全球AI机构来解决人工智能安全风险,这与国际组织在监控和规范国际使用原子能及防止核扩散方面的作用相类似。

  《耶鲁国际事务期刊》(YJIA)指出这种治理模式的假设缺陷。一个基本的区别源于这AI与核技术主要的物理和数字性质,以及核专业相关知识的高度保密性。和AI不同,核能发展基于固有的物理性,依赖于高度复杂的核反应堆和裂变材料来产生原子能。使用核能还常常需要高度保密的核科学和工程知识,和来自核国家政府的职业特权或高级别许可。相比之下,虽然先进的AI系统确实需要先进的物理计算基础设施,但限制性输入因素通常是数字的,更容易获取:高质量数据集、训练模型和算法的可用性,以及对AI知识和专业相关知识的获取相对较少受到规管和限制。这些输入因素的更广泛可用性,导致AI领域的进入门槛明显低于核技术。

  人工智能安全风险难以定义的特点也将阻遏联合国统一监管组织的形成。尽管各国政府的全球治理理念可能不一样,但他们都倾向于认为核扩散总体上有害于国际安全。相比之下,长期存在的人工智能风险仍是学术和政策界激烈争论的主题。由此导致的科学共识的缺乏,意味着任何国际组织在识别、商定和第一先考虑长期人工智能风险,以及制定解决这些风险的机制方面都异常艰难。因此,有学者觉得,AI监管从根本上来说比核治理更加多元化,需要采取更加差异化、细致入微的方法。

  聚焦到此次协议,“协商一致”的文本内容容纳了绝大多数国家的共识,这在某种程度上预示着少有触及关键议题和敏感问题,在一些重要事项上也有所妥协,并增加协议的全球实践力打折的可能性。数字版权组织Access Now的政策分析师罗伊费尔(Daniel Leufer)表示,达成广泛共识也会削弱该决议可能会产生的影响,特别是在联合国进程中缺乏内置的执行机制的情况下。“协商一致”通过的决议实际上意味着各国都对技术治理降到了“最低的可接受标准”。“如果我们将自己限制在能让每个州都同意的范围内,我们就不会走得太远。”

  特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

  40分+20板+10助+6断+10帽!联盟第1!文班创神级纪录,后生可畏

  2-2!国乒00后小将喜从天降:小组头号劲敌爆冷丢分,不输就出线日俄乌:美两党就援乌达成共识,超半数法国人愿意在乌作战

  附加赛前,外媒更新夺冠概率:快船3.4%,掘金11.9%,一队高达36%

  李飞飞团队年度报告揭底大模型成本:Gemini Ultra是GPT-4的2.5倍

  网友拍下自家宝宝,表示这动作和音乐也太配了,网友:手舞足蹈 太可爱了。

  《真·女神转生Ⅴ Vengeance》最新资讯:介绍新舞台“达识:新宿区”

  可立可卧,Sharkoon 旋刚推出 Rebel C20 ITX 机箱

  宏碁非凡 Go Fun 16 笔记本配置上新:i3-N305、8G+512G,2599 元

  酷比魔方4月22日发布GTBook 15 Gen2笔记本电脑,搭载12代处理器