研究称ChatGPT搜索功能存在被操纵风险:可被恶意网站诱导输出不可信内容
来源:财联社
根据英国《卫报》发布的一项调查,OpenAI的ChatGPT搜索工具可能会被隐藏内容操控,甚至返回恶意代码。《卫报》测试了ChatGPT如何应对包含隐藏内容的网页摘要。这些隐藏内容可能包括来自第三方的指令,干扰ChatGPT的回应,或是包含旨在影响回应的内容,如大量隐藏的文字推销某个产品或服务的优点。这种技术可以被恶意使用,例如让ChatGPT即使在页面上有负面评论的情况下,也返回对某个产品的积极评价。一位安全专家还发现ChatGPT有可能返回从其搜索的网站中提取的恶意代码。
郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
评论该主题
帖子不见了!怎么办?作者:您目前是匿名发表 登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
郑重声明:用户在社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》