喜忧参半

　　134 vs 59

　　■有研究表明，在经济发展、社会发展和环境可持续发展三大领域中，人工智能会对134个具体目标产生促进作用，但也可能对59个具体目标产生阻碍作用

　　算力失衡

　　99% vs 1%

　　■上海人工智能实验室主任、首席科学家周伯文展示了一张坐标图，显示人工智能发展安全技术滞后于性能提升。目前99%的算力用于模型预训练，只有不到1%用于价值对齐或更多安全优先的考量

　　2024世界人工智能大会暨人工智能全球治理高级别会议昨天在上海开幕。“全球治理”这一关键词，引发业界广泛关注。

　　当前，人工智能技术的快速发展，为人类社会发展带来了诸多红利，同时也出现了不少风险挑战。如何在全球范围内通过协同共治，实现人工智能发展与安全并重，成为各方亟需对话与合作的重大课题。

　　又一项新技术攸关人类命运

　　人工智能既有强大的潜能，又有巨大的不确定性

　　很多被后世广为采用的技术，在出现之初都曾受到抵制。古腾堡印刷术发明后，就有欧洲知识阶层竭力反对，认为印刷技术将带来大量粗制滥造的印刷品。纺织机出现后，大批因此失业的纺织工人发起抵制运动，甚至捣毁机器。火车初入清朝，有反对者称“铁路一开，则中国之车夫贩竖将无以谋衣食，恐小民失其生计，必滋事端”。

　　但纵观技术发展史，对新技术的怀疑者大多是受它们影响的人群，而极少是技术的发明者、研究者。如果说有例外的话，可能要数原子弹。爱因斯坦、奥本海默等原子弹的先驱都对这项发明产生了深深的忧虑，呼吁各界共同反对使用这项致命武器。

　　当下，人工智能就引发了它的创造者——全球科技界的担忧，或者更准确地说是喜忧参半，因为它有明显造福人类的特性，但也有难以回避的风险和不确定性。包括马斯克在内的多名科技界知名人士曾发表公开信，呼吁6个月内暂停研发人工智能技术。

　　对人工智能的担忧首先来源于它在某些方面超越人类的卓越表现。例如AlphaZero从零开始自行学习国际象棋、将棋和围棋，最终在每个领域都击败了人类世界冠军。下棋，只是人工智能小试牛刀的游戏。它在人类引以为豪的思维疆域里，还在不断地挑战边界。

　　更令人忧虑的是，人们尚无法索解人工智能的智能从何而来。人工智能的核心技术——深度学习常常被称为“黑盒子”，意思是说，虽然它的代码、参数、训练方法是公开透明的，但人们仍然难以追踪、理解和预测它们如何从特定的输入生成特定的输出。不仅是普通人、使用者无法理解，即使那些书写人工智能代码的程序员也无法预测。

　　人工智能既有强大的潜能，又有巨大的不确定性。面对这项攸关全人类命运的新技术，世界各国基本达成共识，必须对话合作，构建开放、公正、有效的治理机制，促进人工智能技术造福于人类。

　　又一个新领域呼唤学术交叉

　　包括AI、密码学、政治、法律、企业等多领域需要合作

　　去年10月，中国提出《全球人工智能治理倡议》，并于7月1日在第七十八届联合国大会上协商一致通过。在中国和全球其他国家的持续探索下，人工智能治理的思路也逐渐清晰。

　　一方面，强化人工智能的全球治理，已经到了必须重视的关键时刻。

　　监管改善了商品、基础设施和社会。正是因为有了监管，汽车才有了安全带和安全气囊，我们才不用担心牛奶会被污染，建筑物才会建造得方便所有人使用。明智的监管可以确保人工智能被人类负责任地使用。

　　一个反面的案例是互联网。互联网诞生在一个强调自由发展、弱化监管的年代，事后我们才知道，互联网的设计本可以做得更好，考虑得更周全。比如，早些决定如何处理隐私和匿名问题，也许就能减少“钓鱼”和“人肉”。

　　清华大学人工智能国际治理研究院院长薛澜介绍，最近有研究表明，在经济发展、社会发展和环境可持续发展三大领域中，人工智能会对134个具体目标产生促进作用，但也可能对59个具体目标产生阻碍作用。

　　这说明，只有尽快深入全球各个领域研究治理办法，才能推动人工智能健康发展，尽可能地让它收益最大化，同时把风险降到最低。

　　上海人工智能实验室主任、首席科学家周伯文在本届大会上向大家展示了一张坐标图——横轴是人工智能技术能力的提升，纵轴是人工智能的安全维度，理想的路线是人工智能沿着45度的直线安全与性能平衡发展，而现在的实际路线则是一条长期低于45度的波动曲线，显然发展是失衡的，安全技术滞后于性能提升。他介绍，目前99%的算力用于模型预训练，只有不到1%用于价值对齐或更多安全优先的考量。

　　发展的失衡，也就造成了数据泄露、技术滥用和算法歧视等一系列问题，更凸显了人工智能全球治理的必要性和紧迫性。

　　另一方面，想要做好人工智能治理，必须利益攸关方共同参与。

　　新思科技总裁兼首席执行官盖思新在本届大会演讲中表示：“人工智能创新的步伐必须谨慎平衡其负责任发展的需求，而实现这种平衡的最佳方式就是全球协作。全球协作能够使全世界人民从人工智能带来的巨大进步中受益，同时确保这些创新能力得到负责任的实践。”

　　在图灵奖得主姚期智看来，安全治理正在成为一个学术交叉新领域，需要AI、密码学、政治、法律、企业等多领域合作。

　　也就是说，除非各国政府、众多人工智能公司甚至世界公众都参与进来，否则任何解决方案都不可能成功。

　　以各国间的合作为例，在政府合作层面，中国在《全球人工智能治理倡议》里强调广泛与公平，提出各国无论大小、强弱，无论社会制度如何，都有平等发展和利用人工智能的权利；强调要建立更加广泛的人工智能合作机制，共同推动人工智能治理进程。

　　这种全球合作是有先例可循的。例如，第二次世界大战结束时，核武器引发了人们对如何使用新技术的深深恐惧和不确定性。作为回应，81个国家一致通过了国际原子能机构的章程，开发安全、可靠、和平的核技术。还有一些全球合作模式，如国际民用航空组织，它更为“柔性”——成员国制定各自的法律，但接受一个全球性机构的咨询。

　　如今，为了建立有效合作机制共同应对人工智能带来的全球性问题，人们来到上海寻找答案。昨天的大会开幕式上，上海向全球发布了《人工智能全球治理上海宣言》。今天，大会又将召开一场以“人工智能新进展与社会科学的未来”为主题的论坛，并发布人工智能全球治理年度研究项目。

　　中国智慧，正尝试着引领人工智能驶向更加有序、安全的未来。