在2024世界人工智能大会（WAIC）上，一份《人工智能全球治理上海宣言》引发行业高度关注。在宣言的开头，“机遇与挑战”被旗帜鲜明地抛出：我们深感人工智能对世界的深远影响和巨大潜力，认识到人工智能正在引领一场科技革命，深刻影响人类生产生活。随着人工智能技术快速发展，我们也面临前所未有的挑战，特别是在安全和伦理方面。
作为国内AI领域最高规格的大会之一，每年的WAIC都被外界视为观察行业趋势的重要窗口，其中释放出的不少信号都颇具前瞻性与代表性。而在此时此刻，在上海这块中国AI发展的高地上，“AI治理”的提出，揭示了一个全新时代正在到来。
科技的进步总是“迷人”且“危险”的。对于人工智能而言，这个站在人类科技树顶端的存在尤其如此。
去年底，当全世界还沉浸在ChatGPT描绘出的宏伟蓝图之中时，其背后母公司OpenAI发生了一场颇为戏剧性的内讧。在这场闹剧中，公司时任首席科学家自爆OpenAI内部“放任AI安全问题”。直到今年，公司内部还有多位工程师发布联名公开信，警告人们，OpenAI正在打开潘多拉的魔盒。
AI带来的风险与安全问题层出不穷。风靡各大社交平台的各类换脸变声，乃至图片生成视频技术，让大家在好奇的同时，也不免背脊发凉。那究竟还有什么值得信任呢？
更进一步，对于AI而言，技术究竟是为了帮助人，还是为了取代人？
事实上，任何时候，技术进步带来的“破坏性创新”乃至“失控”都是所有人无法回避的风险。回望历史，科技之于人的关系也并非乖巧的驯兽，恰恰相反，更多时候科技总是笼中狡猾的猛兽，随时准备伺机潜逃。
对于科技，全球的科技公司都曾做过无数的表态。谷歌给出的承诺是“不作恶”，腾讯给出的愿景是“科技向善”。然而，技术的中立性让我们认识到，你不能天真地期待它自己向善。只有合理有效的“善治”，才能真正实现科技变成“善智”。
从技术论到价值论，让AI“安全、可控”，才是始终服务于人类的福祉。上海宣言的背后，是这片AI产业高地对科技深邃前瞻的洞察。
