• 最近访问:
发表于 2024-09-06 11:09:50 股吧网页版
腾讯混元降价对标GPT-4o 汤道生:杀手级应用仍在探索
来源:南方都市报


K图 00700_0

  “过去一年,我们看到数字经济在不断发展。一年来,我们通过持续聚焦自研,推动被集成,业务更加健康可持续:与伙伴共同服务的客户数,超过200万家;订单过百万的伙伴数量,实现了两位数的增长;很多SaaS伙伴收入增加了1倍多;国际业务增速也在两位数以上”。

  9月5日,在2024 腾讯全球数字生态大会上,腾讯集团高级执行副总裁、云与智慧产业事业群 CEO 汤道生披露了腾讯云过去一年的成绩。同时汤道生还提到,多个行业出现了“内卷式竞争”,不惜亏损也要打价格战,同时新技术的迭代也加剧了焦虑,企业都担心在行业技术升级浪潮中掉队,结果可能被用户抛弃、被市场淘汰。但指望大模型给一般企业在短期内带来巨大变化看来并不现实,用人工智能在已有业务场景中降本增效、提高经营效率,从量变到质变来加强市场竞争力,应该是更脚踏实地、行稳致远的可靠路径。

图片

  在大会上,腾讯云还发布了 AI infra品牌“腾讯云智算”,提升企业部署大模型应用的效率,从机器上架到开始训练可以做到只需1天;同时还推出了RAG解决方案,支持企业用多种技术“量身定制”AI大模型应用,进一步拓展了AI应用的灵活性和适用范围。

  对于目前杀手级AI应用仍未出现的情况,汤道生对南都记者表示,目前各家厂商对杀手级应用的探索目前仍在早期,仍有较大探索空间。

  降价一半对标GPT-4o,腾讯混元再升级

  “从经济大环境来看,挑战确实不少。一些行业因为前几年的过度投资,导致出现供求失衡,大家为了保住销售规模与市场份额,出现了‘内卷式竞争’。新技术快速迭代和应用,也在一定程度上加剧了大家的焦虑。因此,企业也必须积极投入研发与创新,确保抓住下一个机会的入场券。”9月5日,在2024腾讯全球数字生态大会上,腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生提到。

  大模型行业今年以来的价格战尤为激烈,在各家大模型技术快速迭代的同时,所谓“内卷式竞争”不时出现。9月5日,腾讯宣布推出新一代大模型混元Turbo”,相比前代模型,腾讯混元Turbo性能显著提升,训练效率提升108%,推理效率提升 100%,推理成本降低 50%,效果在多个基准测试上对标GPT-4o,且第三方测评居国内第一。

图片

  腾讯方面透露,混元Turbo已经在腾讯云上线,输入和输出价格只有前代模型的一半。企业和开发者可以通过API、专属模型、精调模型等方式使用混元大模型相关能力。

  据介绍,腾讯已经构建起了全链路的大模型产品矩阵,包括底层基础设施、帮助企业训练专属模型的TI平台和行业大模型解决方案,自研的混元大模型,构建应用的平台工具,以及基于大模型的各类智能应用。目前,腾讯已经有700多款产品接入混元大模型,包含腾讯元宝、腾讯云、QQ、微信读书、腾讯新闻、腾讯客服等。此前,腾讯旗下协作 SaaS(软件即服务)产品已全面接入腾讯混元大模型。

  会上,腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声还表示,大模型已经在全球发展了两年,目前呈现出两种趋势,一是模型性能不断提升,围绕着模型的产品使用门槛变得更低、更加易用;二是企业积极探索大模型与自身业务场景的结合,大模型的落地场景变得更丰富、更纵深。

  吴运声介绍,基于全矩阵的大模型产品,腾讯已经服务了众多客户,在知识管理、智能客服、研发提效、智能营销、内容生成、办公协同、风险管控等场景中,帮助企业实现了降本增效和业务创新。

  加码AI基建,提高企业算力应用效率

  在腾讯全球数字生态大会上,腾讯云还正式发布AI infra品牌“腾讯云智算”。作为一个高性能智算底座,腾讯云智算整合了腾讯云高性能计算HCC、高性能云存储、向量数据库、智算套件等优势产品,能够为AI创新输出性能领先、多芯兼容、灵活部署的智算产品能力。

  何为AI infra?AI Infra是一套包括构建、部署和维护人工智能系统所需的硬件、软件和服务的组合,概念类似于过往的paas,能处理数据准备、模型构建、模型产品三个层面的问题。

  在大模型时代,企业存在着大模型应用对高性能计算和存储的迫切需求。在这其中,做模型基础设施的厂商提供的价值就在于,为开发者提高算力应用效率,降低大模型的部署成本、提高部署效率,抓住AI时代的发展机遇。

  在这方面,腾讯集团副总裁、云与智慧产业事业群COO兼腾讯云总裁邱跃鹏透露,目前通过整合软硬件技术能力,腾讯云智算集群从机器上架到开始训练可以做到只需1天,相比业界以月为单位也大为缩短。

  “比如,大部分公司搭建集群,从上架到开始训练,是以月为单位,我们把这个流程优化到1天。去年集群搭建后,第二天就开始做腾讯混元的训练任务。在业界非常关注的性能上,腾讯云智算的集群,千卡单日故障数只有0.16,是meta的1/3;在数据读写效率方面,1分钟就能完成万卡checkpoint写入,是业界的10倍;千卡集群的通信时间占比,也降低到6%,是业界一半。”邱跃鹏提到。

  除了部署效率与成本,企业经常头疼的问题还有模型能力怎样与应用场景更好结合。业界的解决方法是做RAG(结合检索与生成能力的人工智能技术)来提升落地效果。腾讯云也发布了RAG解决方案,以两种解法来提供RAG技术,一种倾向于轻代码模式,少量或不用重写代码就可以构建AI问答应用;一种则是支持多模态数据源的形式,腾讯云在其中提供向量数据库,检索能力是业界的两倍。

  汤道生:杀手级应用探索仍在早期

  汤道生还提到,随着大模型与生成式AI的技术突破,图片、视频、语言的理解与生成已经有很大进步,人与人的沟通、人与系统的交互方式,都可能会被重塑。最近半年,产业界对AI大模型的关注重点,开始从模型技术本身,转到智能应用落地上。用人工智能在已有业务场景中降本增效,提高经营效率,是行稳致远的可靠路径。

  不过,尽管业界吆喝十分卖力,但目前仍未出现真正可以称得上“杀手级应用”的AI产品。

  汤道生对南都记者表示,一款真正能称之为国民级的应用更可能首先在C端诞生,目前在信息搜索、情感陪伴等领域都有厂商在做尝试。“(国民级应用)可能在信息搜索领域出现,比如我们有元宝,我们也在探索怎样给用户更方便、便捷的获取信息的交互方式,比如微信读书推出了‘AI问书’功能。行业里也有其他玩家,从不同的角度去切入 C端应用,比如情感层面,或者角色扮演。”

  汤道生认为,目前还没有国民级应用出现,很大程度上也许是因为消费互联网走到今天已经变得越来越成熟。“你能想到的需求,你能想到的场景,可能都已经有一些服务厂商在里面深耕了很长时间。”

  此外对于B端领域,汤道生则对南都记者表示,各家对杀手级应用的探索目前仍在早期,仍有较大探索空间。“TO B我觉得还比较早,场景很多,但是需要大家想到底用什么架构、怎样利用好企业内部的数据、到底解决什么问题、用什么方式等方面的问题,这里还有很大的空间去探索。”

  汤道生表示,过去很多技术都会经历玩家兴奋涌入投资、泡沫破裂、少数人保持信念坚持的周期,但新技术的变革需要时间去沉淀、积累甚至需要等第一波资本去驱动,逐渐等到不专业的玩家被淘汰,这时行业会回到理性、务实的态度,找到实际的场景和痛点去打磨。

  类似地,目前行业还需要更多耐心。“今天的技术也许在某些场景,大家可能觉得只做到了50分或60分,要到90分必须要时间去磨。我相信最后还是那些能坚持的、长期主义的企业能获得回报,而不是那些因为概念很热就一股脑投进去的企业,这样的做法也很难坚持下去。”汤道生表示。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
郑重声明:用户在社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-34289898 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:021-54509966/952500