• 最近访问:
发表于 2024-07-29 17:24:30 股吧网页版
豆包日均处理Tokens突破5千亿 豆包让企业大模型应用更易落地
来源:21世纪经济报道

  “豆包大模型日均处理Tokens突破5千亿”“平均每家企业客户日均Tokens使用量增长了22倍”。这是豆包大模型近日公布的最新成绩单。

图说:豆包大模型日均使用量大幅增长

  有分析指出,大模型行业悄然变化,随着大模型应用加速发展,以推理为主的应用型算力消耗,已经开始超越训练型算力消耗,企业对大模型的需求将更多考虑在低成本的状况下,如何落地以及达到一个较好的效果。

  Tokens使用量猛增,客户应用加速落地

  自豆包大模型5月15日发布以来,截至7月,豆包大模型日均处理Tokens突破5千亿,平均每家企业客户日均Tokens使用量增长了22倍。从调用量上来看,企业大模型应用正加速发展。

  将大模型应用落成为很多企业考虑的事情。近日,火山引擎、RollingAI联合infoQ研究中心撰写的《生成式AI商业落地白皮书》也显示,企业中高层已开始广泛了解和应用生成式AI。

  该白皮书称,在受访的590名企业中高层中,已有21.0%的人已开始小范围试点应用,26.3%的人在大范围推广生成式AI应用,更有6.4%的人已将生成式AI应用整合到整体战略转型阶段。53%的大企业开始落地生成式AI创新,仅有23%的企业尚未开始生成式AI的探索。

  从目前的使用情况看,不少企业已经开始享受大模型落地带来的“红利”。鱼泡科技CDO徐飏指出,与豆包大模型合作后,相关业务场景精度和效率均获得提升。作为全国领先的蓝领招聘平台,鱼泡科技现在的豆包大模型日均调用量已超1亿Tokens,覆盖了岗位要求识别、工种识别、求职意向识别等完整的大模型应用场景。

  OPPO通过与火山引擎的合作,成功推出了四个AI智能体,分别是“小晴”智能体,“文锋”智能体,AI面试官智能体,AI英语老师智能体,这些应用已逐步部署在Find X7等机型上,显著提升了用户体验和市场核心竞争力。

图说:火山引擎副总裁张鑫在「AI创新巡展」现场

  火山引擎副总裁张鑫表示,大模型给我们提供了新的技术工具和增长路径。在大模型技术快速迭代的环境中,企业要通过快速的试错,来探索出提升企业竞争力,甚至是颠覆行业的方式。

  实打实出效果,三大优势解决业务场景落地难题

  市场上大模型平台并不少,为什么偏偏豆包大模型Tokens使用量猛增?这和豆包大模型基于客户需求迭代形成的三大优势息息相关:更强模型、更低价格、更易落地。

  便宜是一个“杀手锏”,豆包大模型用技术驱动更高性价比,行业内第一家将大模型价格拉入“厘”时代,推动大模型应用落地。

  举个例子:一块钱可以买到豆包主力模型的125万Tokens,大约200万个汉字。这意味着花一块钱,就能让豆包大模型生成三本《三国演义》。

  豆包大模型在真实业务场景下的打磨也更容易获得客户认可,字节跳动50+真实业务场景,以及消费、医疗、汽车、金融、制造等外部客户,每日数千亿tokens打磨,可满足复杂业务场景需求,具有更好的理解、生成、逻辑等综合能力,更好模型效果。

  以豆包·语音合成模型为例,其具有多情绪、超自然、多演绎等特点,能呈现理解情节和角色,呈现对应的喜怒哀乐情绪,同款语音能力已经在模型同名的智能语音助手“豆包”上落地,给用户带来了良好的体验。

  近日升级的豆包·文生图模型,除了具备图文匹配更精准、画面更美、应用场景繁多等特点,对中国元素创作理解也更深刻,可以对中国人物、物品、朝代、美食、艺术风格等元素进行理解创作,传达中国魅力。

  在落地环节,大模型服务平台火山方舟2.0围绕1个核心+4个支撑保障模型服务落地。尤其是提供头条抖音同款3大插件,联网插件大幅提升模型搜索能力,内容插件提供海量优质图文视频内容,RAG(增强检索生成)知识库插件提供高性能知识库检索。

  例如,北京协和医院信息中心利用豆包大模型和私有化部署的 HiAgent 智能体创作平台,通过 RAG技术框架与专项优化,快速搭建了智能运维助手与 HIS 指南针,针对常见 IT 问题可以提供智能、准确的回复,支持 HIS 操作智能问答,结合图文直观展示,极大提升医护人员的工作效率和服务质量。

  另外,值得一提的是,3大插件中,内容插件新增抖音百科内容,提供人物、生物、艺术、历史、地理、自然科学、社会科学等相对专业的百科知识。这极大地丰富了内容生态,大模型创作更具有想象力。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
郑重声明:用户在社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-34289898 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:021-54509966/952500