“人工智能等创新发展如此迅速，在全球范围内迈出第一步真的很重要。这是全球首个真正具有约束力的协议，它还将把非常分散的国家聚集在一起。”英国科学、创新和技术部长彼得·凯尔说。
人工智能监管在全球范围内迈出“第一步”
综合英国《金融时报》、广州《21世纪经济报道》、上海一财网报道，凯尔所说的是欧洲委员会5日公布的《人工智能与人权、民主和法治框架公约》。该公约由欧洲委员会牵头制定，由50多个国家历时两年起草，其中包括欧盟成员国、英国、美国、加拿大、以色列、日本和澳大利亚等。
当天，英国、美国等下一步，公约将等待各签署国立法机构的批准。在获得5个签署国（包括至少3个欧洲委员会成员国）立法机构批准3个月之后生效。世界各国都有资格加入公约。
公约内容于今年5月确定，共8章36个条款，规定了一系列原则，包括保护隐私和个人数据、平等和非歧视、不损害人的尊严和自主……公约要求签署国对人工智能产生的任何有害和歧视性结果负责，并要求人工智能侵权的受害者拥有法律追索权。
这一公约的发布，是对前期多项监管举措的进一步延续与深化。就在8月1月，全球首部全面监管人工智能的法规——欧盟《人工智能法案》已正式开始生效。该法案规定，聊天机器人等人工智能系统必须明确告知用户他们在与机器互动，人工智能技术提供商必须确保合成的音频、视频、文本和图像内容能够被检测为人工智能生成的内容。
与欧盟的《人工智能法》不同的是，该公约涵盖了公共和私营部门的人工智能使用。公共当局需要评估、管理、监督人工智能系统全周期内可能产生的影响。在自身使用人工智能时，必须确保透明度和公众参与机制，公众需要有途径质疑人工智能决定，并向当局提出投诉。
一些批评者认为公约的原则和义务过于笼统，缺乏具体的执行标准和问责机制。相比之下，欧盟的《人工智能法案》则明确规定对有违规行为的企业，欧盟最高将对其处以全球年营业额7%的罚款。
对此，在网络安全和数据合规领域有多年执业经验的北京金杜律师事务所合伙人吴涵表示：“为了扩大国际条约的签署范围、增强自身的影响力，国际条约不设置罚款等制裁措施的情形并不少见。”
本次国际公约由欧盟机构牵头。而欧盟似乎一向在互联网监管方面走得很快。
“欧盟希望通过制度输出的方式增强自身在AI监管方面的‘布鲁塞尔效应’的意图有迹可循。”吴涵说。
“布鲁塞尔”效应由哥伦比亚大学教授布拉德福德提出，旨在描述欧盟单方面制定的规则对国际规则和各国国内政策产生了重要影响的现象。
布鲁塞尔效应在数字领域尤为明显。最显著的例子是在欧盟发布的通用充电器指令下，苹果公司正在全球范围内放弃其专有的闪电接口。
那么，面对人工智能治理领域，欧洲的立法能否在全球范围内激起涟漪呢？
“世界各国针对其他司法辖区新兴领域立法的多数态度均是求同存异，即批判吸收借鉴欧盟的有益经验，完善自身的监管体系。尤其是在欧盟《人工智能法案》已分阶段生效的当下，除了文本上的经验，落地实践的经验也可成为后续观察的重点。”吴涵说。
事实上，各国在人工智能治理与监管方面的合作已有多次表态。去年10月，七国集团（G7）针对开发先进人工智能系统的组织发布了国际行为准则，也为全球人工智能发展的合法化、透明化提供了指引。去年11月，中美等28个国家和欧盟还联合签署了《布莱切利宣言》，加强了各国在人工智能领域的合作。如今，全球首个具有法律约束力的人工智能公约出炉。
4月12日，中国首个人工智能沉浸式体验项目“AI之梦”在上海中心对公众开放。（图片来源：中新社）
山雨欲来 财富500强严阵以待
目前，世界各国的监管机构大多无法跟上人工智能发展的脚步。
美国《华尔街日报》在8月底的一篇文章中指出，美国人工智能监管的现状，或者说监管的缺位，是财富500强公司在推出人工智能项目时面临的一个紧迫问题。
最近提交给美国证券交易委员会的文件显示，在财富500强企业中，有27%的企业（137家）在年度报告中将人工智能监管列为风险因素之一，涉及的问题包括合规成本增加、处罚机制不确定等。
聚集了大量科技企业的加州有可能成为美国第一个吃螃蟹的州。8月28日，备受争议的《前沿人工智能模型安全创新法案》在加州州议会获得通过。州长加文·纽瑟姆将在9月30日之前就是否签署这项法案做出决定。一旦签署，它将在2026年1月1日生效。
该法案要求人工智能公司公开其训练模型的关键信息，如数据来源、数据类型和数据处理方式等。
加州拥有《福布斯》全球50强人工智能公司中的32家，2023年全球超过50%的人工智能风投资金流向了总部位于加州的公司。
目前，美国国会层面尚未建立人工智能监管的联邦框架，因此如果加州的法案通过，其影响可能远远超出加州的边界，形成“萨克拉门托效应”——即对美国甚至全球的科技行业政策产生重大影响，类似于“布鲁塞尔效应”。
许多业内人士持反对态度，比如，斯坦福大学教授李飞飞认为法案可能会损害人工智能学术界、开源社区的创新，尤其是限制开源社区的成长。包括OpenAI、Meta、谷歌、苹果、亚马逊在内，多家科技大厂高层共同签字反对该法案。
反对者认为，武器制造商不会因违法的枪击事件而被追究责任，社交媒体公司仰赖“避风港原则”而对平台内容免责，加州的这个法案却要求开发人员对技术的不可预见的使用负责，那么该法案监管的就是“技术”本身，而非“技术的使用”。
“假设你开发了一个自动驾驶汽车系统。某天，有陌生人入侵了这个系统，并引发了一场车祸。作为这个自动驾驶汽车系统的开发者，你可能会违反加州法案，被要求为涉事系统的伤人行为负责，并支付罚款。”这是反对者举的例子。
法案起草者之一、州参议员斯科特·维纳则表示，这是一种误读。大型实验室一再明确承诺对人工智能大型模型进行安全评估，而这正是该法案要求的内容。“法案的目的就是将自愿承诺转变为强制性要求。”
北京《互联网法律评论》指出，美国国会之所以在人工智能监管领域停滞不前，一方面是因为人工智能行业的科技公司和投资者投入的数千万美元游说资金效果开始显露——美国科技公司让立法者开始相信，人工智能的先进性并不可怕，严格的安全规则可能会限制美国的创新，将优势拱手让给中国。另一方面，人工智能的“毁灭性危害”尚无实证，国会对于“试图阻止的威胁或危害是什么”并没有定见，因此无法确定其政策的优先事项。这一“哲学式争论”也凸显了科技界对人工智能看法的复杂分歧。
9月10日，第三届全球人工智能峰会开幕式在沙特阿拉伯首都利雅举行。（图片来源：新华社）
建立一个人工智能国际性机构可行吗？
如今，AI绘画与AI写作等人工智能技术越来越多地被各行业采纳，包括广告、设计、内容创作等。许多企业已经开始将AI绘画应用于品牌广告和社交媒体内容的制作。同时，AI写作工具帮助用户高效生成文章、报告，甚至社交媒体帖子。
许多专家表示，有效的人工智能监管需要全球合作。美国《纽约时报》称，其中的一个想法是建立国际性机构，效仿为限制核武器扩张而创立的国际原子能机构。但难点在于要克服地缘政治不信任、经济竞争和民族主义浪潮，这些因素都已经与人工智能的发展紧密相连。
一些监管机构已经有了合作意向。新华社报道，今年7月，欧盟委员会、英国竞争与市场管理局、美国联邦贸易委员会和美国司法部签署了一份联合声明，列举了生成式人工智能的多种竞争风险，包括关键资源的集中控制风险，即生成式人工智能基础模型的发展依赖于专业芯片、大量计算能力、大规模数据和专业技术，这些关键资源的集中控制可能使少数公司占据主导地位，限制颠覆性创新，从而损害公平竞争。此外，声明还列出了与人工智能相关的消费者风险，如人工智能可能会加剧损害消费者权益的欺骗和不公平行为。
声明说，这4个监管机构将在各自法律的指导下，确保相关领域的有效竞争以及公平、诚实地对待消费者和企业。
另据联合国新闻网报道，9月3日，联合国秘书长古特雷斯在上海参加“人工智能和能力建设研讨会”时指出，我们正处在一个关键时刻。人工智能正在飞速发展，以我们刚刚开始理解的方式改变着我们的世界。然而，我们面临着一个严峻的现实：人工智能机遇的分享并不均衡。
最近的研究估计，人工智能可以帮助加快实现近80%的可持续发展目标。古特雷斯希望人工智能可以帮助拯救可持续发展目标，并迎来一个更持久、更公平的未来。
古特雷斯指出，必须尽快缩小发展中国家在人工智能方面的差距。不同国家和大陆互联互通的人工智能中心可以加快人工智能的发展，促进数据的多样性和包容性，促进合作而不是竞争。目前各国政府正在就《全球数字契约》进行谈判，以期于9月在纽约举行的联合国未来峰会上通过。他透露，拟议中的契约包括了关于人工智能治理和能力建设的新建议。
古特雷斯表示，联合国在促进数字合作、支持全球人工智能模式和人才交流方面具有优势。事实上，联大已经就此通过了两项决议：一是中国主导的关于为加强人工智能能力建设而开展国际合作的决议；另一项则是美国提出的关于促进安全、可信和包容的人工智能系统的决议。他敦促人们共同促进合作性人工智能，为人工智能治理与合作开发创新、包容的工具。