12月26日,界面新闻独家获悉,小米正在着手搭建自己的GPU万卡集群,将对AI大模型大力投入。小米大模型团队在成立时已有6500张GPU资源。 知情人士对界面新闻记者表示,该计划已经施行数月之久,雷军在其中扮演了重要的领导角色。“在AI硬件这件事情上,最核心的是手机而不是眼镜,小米在这个领域不‘all in’是不可能的。”
【机会前瞻】
12月26日,界面新闻独家获悉,小米正在着手搭建自己的GPU万卡集群,将对AI大模型大力投入。小米大模型团队在成立时已有6500张GPU资源。虽然对此小米暂未置评,但是小米对AI大模型的重视度提升此前已有信号。12月20日,据第一财经报道,DeepSeek开源大模型DeepSeek-V2的关键开发者之一罗福莉将加入小米,或供职于小米AI实验室,领导小米大模型团队。
小米作为具有应用端优势的科技公司,AI布局较早,大模型战略也被视为小米“人车家”战略的重要支撑。2023年5月组建了AI实验室大模型团队,拥有超过1200名相关人员,并计划不断挖掘AI相关的用户场景。2023年8月,小米集团公告显示,AI是公司长期投入的底层赛道,其60亿参数的自研大模型在同参数量级中排名第一。11月,小米披露将AI大模型与小米澎湃OS深度融合,为用户提供基于端侧大模型的各类便利和智能功能。
小米集团创始人雷军曾公开表示:“我们做大模型的思路可能和很多公司不太一样,我们选择主力突破的是轻量化和本地部署。”这一战略选择不仅基于成本考量,也符合小米用户的使用习惯和技术需求。小米通过将AI推理场景转移到端侧,即用户的个人设备上,可以更接近用户数据,实现更有效的训练,同时显著降低云端算力的开支。
此次,小米大力投入搭建万卡集群投入大模型领域,也是大势所趋。所谓万卡集群,即由一万张及以上的加速卡组成的高性能计算系统,对于训练基础大模型至关重要。这种集群的建设成本高达百亿元,其中GPU采购成本就达几十亿元。国际上,OpenAI、Meta等科技巨头都在积极部署万卡集群;在国内,运营商、头部互联网大厂、大型AI研发企业等也纷纷入局,部分巨头甚至已开始迈向“十万卡集群”。