高通钱堃:将AI工作负载转移到边缘计算设备将解决电力消耗难题
来源:新京报
新京报贝壳财经讯(记者覃澈)11月21日,2024年世界互联网大会乌镇峰会数字化绿色化协同转型发展论坛于浙江乌镇举行。高通公司全球高级副总裁钱堃表示,面对气候变化带来的挑战,前沿技术在提高效率、降低计算功耗等方面都将起到积极的重要作用。
钱堃表示,随着生成式AI应用的激增,数据中心的电力消耗也随之增加,尤其是使用生成式AI进行搜索推理的电力消耗是传统网络搜索的十倍。为了解决这一问题,除了在数据中心部署节能芯片外,将AI工作负载转移到边缘计算设备上也是一个有效的策略。采用混合AI架构可以灵活地结合云和边缘计算的优势,“边缘侧终端设备,如智能手机、PC以及车辆等,完全有能力使用较小的模型来处理相应的工作负载,而无需依赖云端资源。”
“将更多的AI工作负载转移到边缘,并实现云端与边缘侧终端的协同处理,这将比以往任何时候都更加需要可靠、低时延且端到云的连接。”钱堃称,“高通携手合作伙伴积极推动5G技术向5G Advanced演进。5G Advanced重点关注面向终端和网络的专属节能特性,并持续探索端到端的节能技术机遇,助力构建更加绿色节能的网络。”
郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
评论该主题
帖子不见了!怎么办?作者:您目前是匿名发表 登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
郑重声明:用户在社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》