$云天励飞-U(SH688343)$ 《科创板日报》12月16日讯 ChatGPT面世两年多以来,AI的主战场正在转向,从训练端转向一个规模更大、竞争更为激烈的领域:推理。推理被视大模型的“下半场”,在上半场中,竞争聚焦于快速预训练响应,而如今,AI推理时代正在渐渐逼近,更多目光开始投向了慢速深度推理。
随着AI大模型进入“下半场”,真正的推理端刚刚开始,关于芯片的又一场鏖战即将打响。正如博通的CEO Hock Tan此前所预言:
“未来50%的AI Flops(算力)都会是ASIC,甚至CSP(超大规模云计算产商)内部自用100%都将是ASIC”。
之前提起美股“领头羊”,大家估计会不约而同地想起英伟达、谷歌这些耳熟能详的企业,但最近这个观念发生了逆转:英伟达自12月5日起已累计回调超9%,而后期之秀博通自11月27日起已经累计上涨超50%,成为了美AI硬件股新的“主力军”。业内人士分析,博通有望打破英伟达的垄断地位,成为下一家“宇宙第一股”。
AI芯片主要分为三类:GPU、FPGA和ASIC。
GPU和FPGA是比较成熟的通用型芯片,目前已经在市场上占据了重要地位。
而ASIC是专门为满足特定需求而开发的芯片,允许设计者根据实际应用场景,对性能和功耗进行有针对性的优化。
目前市场上主流ASIC芯片有TPU、NPU、VPU芯片。
OpenAI 联合创始人Ilya的发言,预训练即将终结,推理正在崛起,算力需求会加速从预训练向推理侧倾斜,对定制化芯片的需求也有望扩大,目前ASIC以推理场景应用为主。
e公司讯,记者从云天励飞获悉,以“外置大脑、数字永生”为主题的闪极AI拍摄记忆功能眼镜发布会即将于12月19日举办,或成为国内首款量产的AI拍摄眼镜。今年11月份,闪极科技宣布完成数千万元人民币A轮融资,其中边缘AI上市企业云天励飞跟投。融资资金将主要用于公司战略级新品——闪极AI拍摄眼镜的市场拓展、AI技术研发及人才梯队建设等。云天励飞资本部总监贺鹤指出,智能眼镜作为可穿戴设备与大模型产品的结合,有望成为边缘AI时代的核心硬件和交互入口。云天励飞基于大模型能力和在行业应用中的积累,也将与闪极一起,推动智能眼镜在视觉语义个人助理和行业方面的应用探索。