• 最近访问:
发表于 2024-06-28 15:07:50 股吧网页版
网宿科技发布面向AIGC的一站式边缘智能解决方案
来源:上海证券报·中国证券网 作者:李雁争


K图 300017_0

  上证报中国证券网讯(记者李雁争)在近日召开的全球边缘计算大会上,网宿科技发布面向AIGC的一站式边缘智能解决方案。该方案降低了AIGC应用的落地门槛,可帮助用户以低成本、高效率的方式实现AI应用创新。

  图说:网宿科技边缘智能平台资深架构师陈云辉代表网宿科技发布面向AIGC的一站式边缘智能解决方案(李雁争摄)

  网宿科技边缘智能平台资深架构师陈云辉说,当前,尽管国内基础大模型百花齐放,为用户提供了丰富的选择。但是真正使用时,企业用户需要对比开源模型和云服务商的推理成本与性能评估,考虑系统的安全性、敏感词过滤等,这些因素都制约了大模型落地。

  作为领先的边缘计算企业,网宿科技近年来对AIGC展开了持续探索,逐步形成了涵盖Serverless GPU、AI网关、模型微调与推理服务的一站式边缘智能解决方案。

  据介绍,网宿Serverless GPU为用户提供高度可扩展、按需使用的GPU算力资源服务,主要适用于多种计算密集型任务,如AI模型推理、音视频加速生产、图形加速等。基于网宿丰富的GPU算力资源,结合Serverless K8S和GPU加速的优势,用户无需管理GPU服务器和K8S,只需上传容器镜像即可方便快捷运行AI应用。

  “Serverless GPU除了拥有免运维的特性外,由于GPU资源是放在边缘侧,离用户更近,更贴近业务边缘,具有低时延优势。并且,通过按需分配和GPU虚拟化技术,提高了GPU资源的利用率,可以有效降低用户的GPU使用成本。”陈云辉表示。

  陈云辉判断,未来,大模型会演变成基础设施,就像现在的操作系统、大数据平台一样,虽然用户感知不明显,但为各种应用提供基础性和通用性的支持。与此同时,开源能力也会越来越强。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
郑重声明:用户在社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-34289898 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:021-54509966/952500