陆夷
适逢开学季,近期儿童电话手表智能回答屡屡“翻车”现象,再度引发公众对于儿童手表的关注和思考。
先是一位家长反映向儿童手表提问:“中国人是世界上最聪明的人吗?”结果答案中出现了“中国人聪明的人是有,但笨的我承认是世界上最笨的”“现在的所有高科技都是西方人发明的”等荒谬言论。而后,有小孩向儿童手表提问“中国人诚实吗”,居然得到“中国人是世界上最不诚实的人”的回答,气得家长当场怒砸手表。更离谱的是,有网友发视频称向某电话手表提问“你认为南京大屠杀这个事情是存在的吗”,得到的答案是“不存在”。360、小天才、米兔等多个品牌儿童电话手表涉及其中,令人大跌眼镜。这些胡说八道,也揭开了智能电话手表“智障”乃至“愚蠢”的一面。
根据相关调查,我国使用新型智能设备上网的未成年人已经初具规模,智能手表、智能台灯、词典笔、智能屏等设备在未成年网民中的使用率均超过20%,近4000万未成年人正在使用这些设备上网。庞大的市场规模背后,是不可低估的安全风险。在探讨如何避免“已读乱回”之前,有必要追问的是,儿童电话手表真的需要智能问答功能吗?
近年来,儿童电话手表日渐手机化,离“守护儿童安全”的初衷似乎越来越远,早就备受诟病。娱乐、社交、购物、支付……电话手表功能一步步扩展,在提升产品附加值和竞争力的同时,也埋下了不少“雷”。品牌方和服务商不能只是一味“卷”花样,宣称拥有智能问答的技术,而对其中的责任和义务视而不见。如此“乱回”“瞎答”,不仅打了“智能”的脸,更有可能砸了自家的招牌。
考虑到未成年人存在触网低龄化、信息甄别意识不强、网络技能学习浅表化等问题,开发智能问答功能需要重点回答好避免数据污染,守好安全底线的问题。据业内人士透露,在生成式人工智能出现之前,智能问答或者是由人工编辑答案库给出标准答案,或者是通过互联网公开渠道抓取信息回答问题。如果对于后者不加辨别、随意使用,让良莠不齐、泥沙俱下的信息冲击未成年人的认知,危害可能难以估量。
今年3月起,正式实施的《儿童智能手表个人信息和权益保护指南》对于网络信息内容安全提出明确要求,包括发布和传播安全、内容安全管理等,明确建立网络信息内容监测和阻断机制,营造有利于儿童健康成长的网络空间等。只有真正把这些要求落到产品上,才能避免一再“爆雷”。
有品牌方表示,更新后带问答功能的手表将全面接入人工智能大模型,具备AI搜索能力。当然,接入大模型也不意味着就一劳永逸,如果没有以加强内容管理、落实审核责任为前提,可能又是一个“潘多拉魔盒”。