科技的发展不应忽视人文关怀。9月5日,在2024 Inclusion·外滩大会的开幕式上,24岁的独臂男孩周键借智能仿生手演奏钢琴,在舞台上定格了温暖的一幕。
随后,复旦大学计算机科学技术学院教授、上海市数据科学重点实验室主任肖仰华,与浙江强脑科技创始人兼CEO韩璧丞就人机共生的未来展开对谈。
他们认为,AI等技术的大规模应用将重塑人的内涵,进而重塑我们的社会关系。面对AI伦理等一系列风险挑战,应提前建立AI应用准则, 以人为本作为首要出发点。
在肖仰华看来,随着脑机接口与AI技术的广泛应用,机器已经成为人类的外脑、人类的四肢,人已经不再是传统生物意义上的人。他表示,智能时代,人将变成哲学家尼采笔下的“超人”,即自我超越的人。只不过这种自我超越,将是在机器智能等外力工具协助下而完成的。人将成为机器智能增强下的超人,或许这将会是在长期使用先进技术后,对人类社会的生产和生活带来的终极影响。
“与之伴随的是,人与人之间的社会关系也将随之发生变化,AI将成为人类从事各种生产和活动的代理。人与机器之间的关系、机器与机器之间的关系,将不可避免的纳入到我们对社会关系考察范围,” 肖仰华说。
作为脑机接口技术应用的推动者,韩璧丞认为,脑机接口在未来5-10年内,会发生三个阶段的变化,分别是:修复、增强和更高阶的交互。修复是帮助最需要的人如有脑疾病、肢体残疾的人恢复正常生活。其次是增强,比如是不是可以借助脑机接口技术,根据老人的意识为其提供机能补充,让每个老人多走5-10年的路。下一代的交互则会变得更高阶,比如对话,现在是通过语言,未来可能不需要再通过语言对话,收到提问想一想就传递出去了。
在他们看来,新技术将带来更多新可能,但潜在的科技伦理问题也同样值得关注。
“AI大规模应用对人类生活有4大突出挑战,”肖仰华表示,首要挑战在于,我们的生产关系等社会发展上层建筑,如何适应以人工智能为代表的先进生产力的快速发展。“生成式人工智能技术发展,已经需要以月为单位进行记录。但是人类的情感、价值、伦理观念调整是十分缓慢的。如何调和这个矛盾,是我们需要直面的挑战之一。”
肖仰华认为,其次是技术普惠问题。要避免少部分人借助先进技术形成不正当的竞争优势。此外,我们还应该特别注意防范技术成瘾,防止先进技术对人类造成反噬。
人工智能可以“造人”,甚至可以“造超人”。韩璧丞认为,在助力肢体、视力障碍等人群上,AI技术已经发挥出越来越大的作用,帮助视障者重新“看见”,帮助肢体残疾的人重新恢复行动能力。但技术也可以使人获得一些超出常人的能力,如何平衡这些风险值得思考。
面向未来,他们认为,AI应用的首要原则应该是以人为本,回归科技服务于人的本质,凡是伤害人之本性的要格外谨慎。
在肖仰华看来,AI的大规模滥用是可能损害人之为人的本性的。要有所为有所不为,但凡伤害人之为人之本性的AI应用,我们要谨慎,要加以限制。为此,“我们要重视技术治理,并将治理提前考虑,做到未雨绸缪。”
韩璧丞表示,AI伦理委员会的存在非常重要。技术前进的时候,更应该关注“走得慢”的人。“当一个足以改变世界的技术出现时,我们先用它来帮助最需要的人”。