米兰体育

网易米兰体育 > > 正文

单机跑Kimi K3首破5.85毫秒,同等投资Token产能提升10倍!浪潮信息破局Agent算力难题

0
分享至


智东西
作者 王涵
编辑 漠影

2026年,Agent的火爆程度空前。

9月21日,在AICC 2026大会上,IDC发布了一组数字:2026年全球活跃Agent约7940万个,到2030年将达22.16亿个。

而同期Token消耗量的增长更为惊人:从2026年的0.026Peta(千万亿),增长到2030年的152667Peta。Agent数量增长约28倍,Token消耗却增长数百万倍。


需求侧增长如此之快,算力供给能接住吗?

今年有两个案例十分典型:

一是Kimi K3。这个总参数量2.8万亿的模型,权重文件达到1.56TB,普通AI服务器的GPU显存连权重都装不下,官方推荐至少64卡甚至更大规模才能运行。

它指向的是“向上”的困境:当Agent需要更强推理、更长上下文和更多智能体协同,能力上限越高,部署门槛越从单机走向集群。

二是DeepSeek。2026年上半年,它曾将V4-Pro的API价格下调75%,并称调整长期有效;但8月又预告整体提价,理由直指“算力不足”。

它指向的是“向广”的困境:当Agent大规模调用便宜模型,性价比算力的需求被迅速放大,容量不够,低价供给就难以持续。

这两个问题怎么破?

在AICC 2026大会上,浪潮信息给出了自己的回答:向上,Capability AI Compute;向广,Capacity AI Compute。

会上,浪潮信息正式发布元脑SD200 Ultra超节点AI服务器和元脑HC2000多元算力机组。“向上向广”两个方向齐头并进,通过系统协同,浪潮信息从提供算力走向生产智能。

一、向上,超节点突破智能上限

要理解向上的瓶颈从何而来,我们要先看清AI的需求端发生了什么变化。

过去,人们对AI的需求是回答问题,算力调用是单次且临时的。而在Agent时代,一次用户意图背后,可能是几十次、几百次甚至更多次推理,是多个Agent连续几小时甚至几天的协同工作。应用形态的变化,直接提高了对算力系统的要求。

与此同时,前沿模型的Scaling up也在这一时期进入加速期。

以Kimi K3为例,其参数量已经达到2.8万亿,权重文件约1.56TB,普通服务器显存连权重都装不下,更不用说百万Token上下文。官方推荐扩展到64卡甚至更大规模,才能让模型真正运行。更不用说未来可能会扩展到十万亿参数量级的更加前沿的模型。

现如今,芯片之间需要高效通信,内存需要统一寻址,数据搬运需要尽可能减少。简单地把更多服务器堆在一起,行不通了。

超节点的意义,就在于突破传统单机的计算边界,把更多芯片和内存纳入一个高效协同的计算域,为前沿智能提供更大的“有效计算空间”。

浪潮信息发布的元脑SD200 Ultra超节点AI服务器,正是围绕这一目标设计。

元脑SD200 Ultra以开放系统设计紧耦合128芯本土AI芯片,实现统一内存寻址超低延迟通信,并以对称直连、算子优化等创新技术减少模型运行中的数据搬移与等待。

基于这套系统,SD200 Ultra可以单机运行2.8万亿参数的Kimi K3,Token生成时延首次突破5.85毫秒。

同时随着模型参数规模不断提升,还支持10万亿参数规模的前沿模型,为模型规模和上下文长度的持续扩展提供支撑。


从技术实现看,SD200 Ultra基于128芯本土AI芯片,采用3D HyperMesh架构,提供8TB带宽和64TB内存,让前沿模型能够充分利用多颗芯片的计算与存储资源。

通信方面,原生内存语义通信把跨芯片通信时延降低到0.69微秒;在推理优化上,浪潮信息构建超级算子库体系,将KDA、Gated MLA、MoE中的众多基础算子融合为计算+通信的大算子,算子数量降低为原先的1/11,大幅减少了Kernel Launch次数,HBM访问开销,并隐藏了通信延迟,提升GPU整体执行效率。


今天,AI已经能够解决困扰学术界几十年的NS方程。能力型智算要做的,就是让这些前沿能力不只是实验室里的演示,而是可落地、可复制的生产力。

二、向广,让智能供给“供得上、供得便宜”

如果说Capability解决的是“智能可以有多强”,那么Capacity解决的是“我们究竟能够拥有多少智能”。

随着Agent数量和使用深度增加,Token需求还会继续快速增长。提高单位计算资源的Token产出,成为规模化供给的关键。

然而,提高Token产出并不容易。

推理不是一种单一计算模式。Prefill和Decode的计算特征不同,Attention和MoE对计算与访存的要求不同。多模态、MTP等模型架构的发展,还会带来更多类型的计算负载。

简单堆更多服务器,不仅不能带来线性能力增长,还可能因为资源浪费、失衡和任务排队,使部分算力长期闲置,另一部分资源持续紧张。

这意味着,容量型智算需要换一种思路:让不同的算力承担最适合自己的负载,再通过统一的软件栈把它们组织起来。

浪潮信息的答案,是元脑HC2000多元算力机组。

它面向持续、大规模推理需求,基于DirectCom 2.0极速架构,以原生液冷高密整机柜为载体,按负载组织计算资源,实现多元算力协同。


其核心软件栈MCIS建立了一套面向多元算力的协同机制:持续测量不同算力资源的能力与负载,根据任务需求动态分配算力,并在运行过程中实时调整资源配置,让不同类型、不同规模的算力承担更适合的推理任务。


在硬件层面,HC2000采用全液冷设计和高通流供电,单柜供电能力达到300千瓦以上,最大承载256张AI卡,算力密度实现4倍跃升。


更重要的是其算力与计算特征的精准匹配。通过不同组合,多元芯片各司其职,再通过软件栈组织起来,共同完成推理协同,提升整个算力系统的Token产出效率。

在国产算力基础上,通过MCIS和某模型适配,在典型Agent任务场景中,同等SLO约束下,相比单一算力构建的推理系统,实现了同等投资10倍Token产能提升。


浪潮信息首席AI战略官刘军曾说:“智能的价值不仅取决于最高点有多高,更取决于有多少人能够获得它。”

向广的逻辑,是要将先进推理能力通过效率提升和成本下降,快速走向更广泛的用户,让智能从稀缺资源,逐步成为整个社会都能获得的基础能力。

三、从Capability到Capacity,为什么需要系统协同?

SD200 Ultra和HC2000,一个向上,一个向广。看似在做不同的事情,但它们底层是同一个判断:当智能开始被“生产”,算力产业的竞争就不再是单点竞争,而是系统竞争。

刘军将这种思路概括为“贯穿式创新”。

第一个层面,是从芯片、服务器系统到模型的贯穿。

过去做创新,是产业链每一层做好自己的事——芯片、系统、框架、算法、算子,然后纵向对齐;但在Agent AI时代,面向特定模型需要做定制化或专用化优化。

第二个层面,是从单机到系统的贯穿。

Capacity需要从前到后的创新,把链条上每一环节拿出来看,根据不同计算负载的特征匹配最适合的计算资源。

Prefill可以用大算力芯片搭配供应和成本更优的LPDDR颗粒;对于Decode阶段,可以选择具有大容量HBM,兼顾显存容量和带宽的AI芯片。

在此基础上,在FFN计算环节,可以选择3D DRAM堆叠芯片,进一步缩短数据搬运路径。放弃用同一种通用巨无霸芯片干所有事的策略,转而构建多元芯片、多元算力系统。

第三个层面,是从技术到生态的贯穿。

以前理解“多元算力”,就是服务器厂支持不同家的AI芯片;但今天出现了新的协同方式:在同一个业务里面有多元芯片,Prefill用A家芯片,Decode用B家芯片,构成一个算力系统。产业协作从“你赢我输”的零和博弈,转向开放共赢。

从更长周期看,Capability和Capacity并不是两条平行线,而是一个循环。

每一次新的智能能力出现时,往往首先是昂贵而稀缺的。随着算法进步、系统优化和工程成熟,这些能力会逐渐以更低成本进入更多模型、应用和用户。

Capability负责创造新的可能,Capacity负责让新的可能被更多人获得。

同时,更大规模的智能普及,又会带来新的应用、新的数据、新的需求,推动下一轮Capability突破。

系统协同,正是让这个循环持续运转的底层机制。

结尾:Agent时代,计算产业从提供算力走向生产智能

进入Agent时代,Token工厂不能只问拥有多少GPU、CPU,还应该问:这些算力能够支撑多强的智能?能够以多低的成本生产多少智能?

浪潮信息用SD200 Ultra向上突破智能上限,用HC2000向广推动智能规模化供给,一个负责让AI更强大,一个负责让AI更普及。连接两者的,是系统级的协同创新与开放生态。

今天的Capability,正是明天Capacity需要规模化供给的能力。Agent时代,计算产业的使命,也因此变得比以往任何时候都更宽广。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
蒋介石曾说过:若没有西安事变,两个星期内就可以把红军全部消灭

蒋介石曾说过:若没有西安事变,两个星期内就可以把红军全部消灭

香姨谈史
2026-08-28 18:35:27
炸裂!日本妻子拍AV挽救婚姻,瞒夫出道老公崩溃,如今丈夫成粉丝

炸裂!日本妻子拍AV挽救婚姻,瞒夫出道老公崩溃,如今丈夫成粉丝

悠悠说世界
2026-08-17 13:48:27
178平方豪宅被改成6个套间,每间都有马桶,楼下邻居崩溃:夜里常被洗衣机轰鸣声吵醒,烟味大不敢开窗,墙面裂了一条从天花板到地面的缝

178平方豪宅被改成6个套间,每间都有马桶,楼下邻居崩溃:夜里常被洗衣机轰鸣声吵醒,烟味大不敢开窗,墙面裂了一条从天花板到地面的缝

都市快报橙柿互动
2026-10-24 20:11:21
个人收入要开始严查?2026年起如果账户收入超过这个数,注意下准没坏处。

个人收入要开始严查?2026年起如果账户收入超过这个数,注意下准没坏处。

巢客HOME
2026-10-13 05:10:03
接触的人多了,你就会发现:吃饭慢,走路稳,脾气好,性格内向,说话少,有这些特点的人,办事都特别细心,特别可靠

接触的人多了,你就会发现:吃饭慢,走路稳,脾气好,性格内向,说话少,有这些特点的人,办事都特别细心,特别可靠

犀利辣椒
2026-10-22 06:22:48
欧洲乱成一锅粥,唯独这2个国家没事,原因藏在和中国的账本里

欧洲乱成一锅粥,唯独这2个国家没事,原因藏在和中国的账本里

可乐爱微笑
2026-10-24 03:53:23
苏州市委书记范波会见谷爱凌:为祖国赢得荣誉,为当代青年树立榜样

苏州市委书记范波会见谷爱凌:为祖国赢得荣誉,为当代青年树立榜样

澎湃米兰体育-米兰(中国)官网
2026-10-24 15:18:03
马斯克的麻烦有点大

马斯克的麻烦有点大

长江说正事
2026-10-24 11:17:07
孙坚自曝被家人当提款机,姐姐月子中心15万记他账上,养家又还债

孙坚自曝被家人当提款机,姐姐月子中心15万记他账上,养家又还债

观鱼听雨
2026-10-22 21:23:49
一心想要冲出舒适区,连领导都劝不住!30岁程序员从国企跳槽到百度,入职2个月就被裁

一心想要冲出舒适区,连领导都劝不住!30岁程序员从国企跳槽到百度,入职2个月就被裁

蝴蝶花雨话教育
2026-10-23 00:05:15
郑丽文豁出去了!放掉蒋万安,死磕新竹嘉义,赌的是自己的位子

郑丽文豁出去了!放掉蒋万安,死磕新竹嘉义,赌的是自己的位子

老范谈史
2026-10-24 19:32:40
不装了!4万吨柴油刚卖美国,普京转头收紧对华折扣 不再两头让利

不装了!4万吨柴油刚卖美国,普京转头收紧对华折扣 不再两头让利

青青衫书生
2026-10-24 16:07:33
差点认不出!54岁巨石强森暴瘦演老人,片场驼背白发判若两人

差点认不出!54岁巨石强森暴瘦演老人,片场驼背白发判若两人

云上乌托邦
2026-10-22 18:10:01
NS2破解后变砖!世界首例 花钱打水漂

NS2破解后变砖!世界首例 花钱打水漂

游民星空
2026-10-24 18:13:05
比姆巴佩更重要!皇马锁死伯纳乌头号巨星!穆里尼奥狂喜

比姆巴佩更重要!皇马锁死伯纳乌头号巨星!穆里尼奥狂喜

奶盖熊本熊
2026-10-24 07:50:37
世界上最大的棺材,重7吨2400多年都不腐,侧下方还开了个小门洞

世界上最大的棺材,重7吨2400多年都不腐,侧下方还开了个小门洞

收藏大视界
2026-10-18 18:37:09
曾被吹上天,如今却“沦为笑柄”的4个羽绒服,看谁还在乱跟风?

曾被吹上天,如今却“沦为笑柄”的4个羽绒服,看谁还在乱跟风?

鹤羽说个事
2026-09-04 00:17:03
发生了什么?主力大举扫货,这个板块彻底爆了!

发生了什么?主力大举扫货,这个板块彻底爆了!

星图金融研究院
2026-10-24 15:05:29
收回座位那天,星巴克就只剩一杯咖啡了

收回座位那天,星巴克就只剩一杯咖啡了

创始人笔记
2026-10-24 01:14:00
解放军释放强烈信号!24小时内“包围”台湾,网友:感觉要收台了

解放军释放强烈信号!24小时内“包围”台湾,网友:感觉要收台了

黄夜雨
2026-10-22 16:07:32
2026-10-25 02:19:00
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12804文章数 117187关注度
往期回顾 全部

写程序、做3D,新Kimi还有多少本事?

澳官方扑杀200万只野猫 当地人直接搬出"全自动杀猫机"

澳官方扑杀200万只野猫 当地人直接搬出"全自动杀猫机"

从乐透秀到总冠军再到没工作 一共要几年?

翁虹19岁女儿三次拒爱,在美国上学却“不随便”

叫"保障"不叫"保险":租车平台的文字游戏

大众安徽与众09正式上市 双十一权益价16.99万起

态度原创

中国画家油画里的东方女神美到失语!一眼沦陷,怎么看都看不够

山东潍坊:用数据“算”出学位和师资未来趋势

AMD显卡终于默认支持HDMI 2.1了!4K 120Hz满血输出:AI推理性能免费提升

辽宁舰编队远海训练细节首度披露

无障碍浏览 进入关怀版