米兰体育

网易米兰体育 > > 正文

单机跑Kimi K3首破5.85毫秒,同等投资Token产能提升10倍!浪潮信息破局Agent算力难题

0
分享至


智东西
作者 王涵
编辑 漠影

2026年,Agent的火爆程度空前。

9月21日,在AICC 2026大会上,IDC发布了一组数字:2026年全球活跃Agent约7940万个,到2030年将达22.16亿个。

而同期Token消耗量的增长更为惊人:从2026年的0.026Peta(千万亿),增长到2030年的152667Peta。Agent数量增长约28倍,Token消耗却增长数百万倍。


需求侧增长如此之快,算力供给能接住吗?

今年有两个案例十分典型:

一是Kimi K3。这个总参数量2.8万亿的模型,权重文件达到1.56TB,普通AI服务器的GPU显存连权重都装不下,官方推荐至少64卡甚至更大规模才能运行。

它指向的是“向上”的困境:当Agent需要更强推理、更长上下文和更多智能体协同,能力上限越高,部署门槛越从单机走向集群。

二是DeepSeek。2026年上半年,它曾将V4-Pro的API价格下调75%,并称调整长期有效;但8月又预告整体提价,理由直指“算力不足”。

它指向的是“向广”的困境:当Agent大规模调用便宜模型,性价比算力的需求被迅速放大,容量不够,低价供给就难以持续。

这两个问题怎么破?

在AICC 2026大会上,浪潮信息给出了自己的回答:向上,Capability AI Compute;向广,Capacity AI Compute。

会上,浪潮信息正式发布元脑SD200 Ultra超节点AI服务器和元脑HC2000多元算力机组。“向上向广”两个方向齐头并进,通过系统协同,浪潮信息从提供算力走向生产智能。

一、向上,超节点突破智能上限

要理解向上的瓶颈从何而来,我们要先看清AI的需求端发生了什么变化。

过去,人们对AI的需求是回答问题,算力调用是单次且临时的。而在Agent时代,一次用户意图背后,可能是几十次、几百次甚至更多次推理,是多个Agent连续几小时甚至几天的协同工作。应用形态的变化,直接提高了对算力系统的要求。

与此同时,前沿模型的Scaling up也在这一时期进入加速期。

以Kimi K3为例,其参数量已经达到2.8万亿,权重文件约1.56TB,普通服务器显存连权重都装不下,更不用说百万Token上下文。官方推荐扩展到64卡甚至更大规模,才能让模型真正运行。更不用说未来可能会扩展到十万亿参数量级的更加前沿的模型。

现如今,芯片之间需要高效通信,内存需要统一寻址,数据搬运需要尽可能减少。简单地把更多服务器堆在一起,行不通了。

超节点的意义,就在于突破传统单机的计算边界,把更多芯片和内存纳入一个高效协同的计算域,为前沿智能提供更大的“有效计算空间”。

浪潮信息发布的元脑SD200 Ultra超节点AI服务器,正是围绕这一目标设计。

元脑SD200 Ultra以开放系统设计紧耦合128芯本土AI芯片,实现统一内存寻址超低延迟通信,并以对称直连、算子优化等创新技术减少模型运行中的数据搬移与等待。

基于这套系统,SD200 Ultra可以单机运行2.8万亿参数的Kimi K3,Token生成时延首次突破5.85毫秒。

同时随着模型参数规模不断提升,还支持10万亿参数规模的前沿模型,为模型规模和上下文长度的持续扩展提供支撑。


从技术实现看,SD200 Ultra基于128芯本土AI芯片,采用3D HyperMesh架构,提供8TB带宽和64TB内存,让前沿模型能够充分利用多颗芯片的计算与存储资源。

通信方面,原生内存语义通信把跨芯片通信时延降低到0.69微秒;在推理优化上,浪潮信息构建超级算子库体系,将KDA、Gated MLA、MoE中的众多基础算子融合为计算+通信的大算子,算子数量降低为原先的1/11,大幅减少了Kernel Launch次数,HBM访问开销,并隐藏了通信延迟,提升GPU整体执行效率。


今天,AI已经能够解决困扰学术界几十年的NS方程。能力型智算要做的,就是让这些前沿能力不只是实验室里的演示,而是可落地、可复制的生产力。

二、向广,让智能供给“供得上、供得便宜”

如果说Capability解决的是“智能可以有多强”,那么Capacity解决的是“我们究竟能够拥有多少智能”。

随着Agent数量和使用深度增加,Token需求还会继续快速增长。提高单位计算资源的Token产出,成为规模化供给的关键。

然而,提高Token产出并不容易。

推理不是一种单一计算模式。Prefill和Decode的计算特征不同,Attention和MoE对计算与访存的要求不同。多模态、MTP等模型架构的发展,还会带来更多类型的计算负载。

简单堆更多服务器,不仅不能带来线性能力增长,还可能因为资源浪费、失衡和任务排队,使部分算力长期闲置,另一部分资源持续紧张。

这意味着,容量型智算需要换一种思路:让不同的算力承担最适合自己的负载,再通过统一的软件栈把它们组织起来。

浪潮信息的答案,是元脑HC2000多元算力机组。

它面向持续、大规模推理需求,基于DirectCom 2.0极速架构,以原生液冷高密整机柜为载体,按负载组织计算资源,实现多元算力协同。


其核心软件栈MCIS建立了一套面向多元算力的协同机制:持续测量不同算力资源的能力与负载,根据任务需求动态分配算力,并在运行过程中实时调整资源配置,让不同类型、不同规模的算力承担更适合的推理任务。


在硬件层面,HC2000采用全液冷设计和高通流供电,单柜供电能力达到300千瓦以上,最大承载256张AI卡,算力密度实现4倍跃升。


更重要的是其算力与计算特征的精准匹配。通过不同组合,多元芯片各司其职,再通过软件栈组织起来,共同完成推理协同,提升整个算力系统的Token产出效率。

在国产算力基础上,通过MCIS和某模型适配,在典型Agent任务场景中,同等SLO约束下,相比单一算力构建的推理系统,实现了同等投资10倍Token产能提升。


浪潮信息首席AI战略官刘军曾说:“智能的价值不仅取决于最高点有多高,更取决于有多少人能够获得它。”

向广的逻辑,是要将先进推理能力通过效率提升和成本下降,快速走向更广泛的用户,让智能从稀缺资源,逐步成为整个社会都能获得的基础能力。

三、从Capability到Capacity,为什么需要系统协同?

SD200 Ultra和HC2000,一个向上,一个向广。看似在做不同的事情,但它们底层是同一个判断:当智能开始被“生产”,算力产业的竞争就不再是单点竞争,而是系统竞争。

刘军将这种思路概括为“贯穿式创新”。

第一个层面,是从芯片、服务器系统到模型的贯穿。

过去做创新,是产业链每一层做好自己的事——芯片、系统、框架、算法、算子,然后纵向对齐;但在Agent AI时代,面向特定模型需要做定制化或专用化优化。

第二个层面,是从单机到系统的贯穿。

Capacity需要从前到后的创新,把链条上每一环节拿出来看,根据不同计算负载的特征匹配最适合的计算资源。

Prefill可以用大算力芯片搭配供应和成本更优的LPDDR颗粒;对于Decode阶段,可以选择具有大容量HBM,兼顾显存容量和带宽的AI芯片。

在此基础上,在FFN计算环节,可以选择3D DRAM堆叠芯片,进一步缩短数据搬运路径。放弃用同一种通用巨无霸芯片干所有事的策略,转而构建多元芯片、多元算力系统。

第三个层面,是从技术到生态的贯穿。

以前理解“多元算力”,就是服务器厂支持不同家的AI芯片;但今天出现了新的协同方式:在同一个业务里面有多元芯片,Prefill用A家芯片,Decode用B家芯片,构成一个算力系统。产业协作从“你赢我输”的零和博弈,转向开放共赢。

从更长周期看,Capability和Capacity并不是两条平行线,而是一个循环。

每一次新的智能能力出现时,往往首先是昂贵而稀缺的。随着算法进步、系统优化和工程成熟,这些能力会逐渐以更低成本进入更多模型、应用和用户。

Capability负责创造新的可能,Capacity负责让新的可能被更多人获得。

同时,更大规模的智能普及,又会带来新的应用、新的数据、新的需求,推动下一轮Capability突破。

系统协同,正是让这个循环持续运转的底层机制。

结尾:Agent时代,计算产业从提供算力走向生产智能

进入Agent时代,Token工厂不能只问拥有多少GPU、CPU,还应该问:这些算力能够支撑多强的智能?能够以多低的成本生产多少智能?

浪潮信息用SD200 Ultra向上突破智能上限,用HC2000向广推动智能规模化供给,一个负责让AI更强大,一个负责让AI更普及。连接两者的,是系统级的协同创新与开放生态。

今天的Capability,正是明天Capacity需要规模化供给的能力。Agent时代,计算产业的使命,也因此变得比以往任何时候都更宽广。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
一句流传几十年的口号:“只生一个好,政府来养老”,原来并不是原文

一句流传几十年的口号:“只生一个好,政府来养老”,原来并不是原文

十为先生
2026-10-22 14:26:11
筱梅直播捅破窗户纸:选乐乐合播不看本事看人品

筱梅直播捅破窗户纸:选乐乐合播不看本事看人品

动物奇奇怪怪
2026-10-24 14:27:32
就这还2.12亿?特雷杨两战26罚遭批防守最差 输球后采访全无沮丧之色

就这还2.12亿?特雷杨两战26罚遭批防守最差 输球后采访全无沮丧之色

颜小白的篮球梦
2026-10-24 15:08:43
重磅:克里米亚全面停电!乌克兰连续打击南部俄军指挥所

重磅:克里米亚全面停电!乌克兰连续打击南部俄军指挥所

项鹏飞
2026-10-24 19:32:24
洋相百出、脑袋空空?这次杨澜和孙俪的访谈,给流量明星上了一课

洋相百出、脑袋空空?这次杨澜和孙俪的访谈,给流量明星上了一课

空樽对月花独瘦
2026-10-23 05:28:53
横店空了!剧组暴跌八成,15万群演在景区找到新饭碗,日薪还涨了

横店空了!剧组暴跌八成,15万群演在景区找到新饭碗,日薪还涨了

阿废冷眼观察所
2026-10-15 12:31:05
三大状元齐发威,弗拉格14+5+6+3欧文24分,独行侠大胜步行者

三大状元齐发威,弗拉格14+5+6+3欧文24分,独行侠大胜步行者

钉钉陌上花开
2026-10-24 09:49:27
1948辽沈战役:曾泽生率领26000将士倒戈,蒋介石下密令要诛杀其妻儿,部下却公然硬刚,让密令沦为废纸

1948辽沈战役:曾泽生率领26000将士倒戈,蒋介石下密令要诛杀其妻儿,部下却公然硬刚,让密令沦为废纸

睡前讲故事
2026-10-10 20:12:07
中央亮剑!多地开启机关事业单位大整顿,这几类人受影响最大

中央亮剑!多地开启机关事业单位大整顿,这几类人受影响最大

细说职场
2026-10-24 12:32:14
“产业操盘手”王志军履新湖南省委书记

“产业操盘手”王志军履新湖南省委书记

三农老历
2026-10-24 13:02:21
中共河南省第十二届委员会书记、副书记、常委简历

中共河南省第十二届委员会书记、副书记、常委简历

政知新媒体
2026-10-24 08:11:33
中国为加纳打了1000口井,没料到修的太好,成50万人的“救命药”

中国为加纳打了1000口井,没料到修的太好,成50万人的“救命药”

云霄纪史观
2026-10-21 13:31:36
乒乓亚锦赛!4强赛对阵,国乒再输张本智和,向鹏、温瑞博3-1逆转

乒乓亚锦赛!4强赛对阵,国乒再输张本智和,向鹏、温瑞博3-1逆转

帛河体育
2026-10-24 18:38:42
我瞒着出差的媳妇悄悄坐她后排,却见她靠在别人怀里睡得香,我没吭声,掏出手机拍下照片直接扔进家族群

我瞒着出差的媳妇悄悄坐她后排,却见她靠在别人怀里睡得香,我没吭声,掏出手机拍下照片直接扔进家族群

晓艾故事汇
2026-10-11 10:04:45
中国女首富范红卫:年入8117亿,超华为成第3民企,她哪来的钱?

中国女首富范红卫:年入8117亿,超华为成第3民企,她哪来的钱?

照亮你的前行之路
2026-10-24 15:53:45
男子帮朋友代购字画被指诈骗遭追逃:176幅鉴定仅值25万,律师称“同一性”存疑

男子帮朋友代购字画被指诈骗遭追逃:176幅鉴定仅值25万,律师称“同一性”存疑

澎湃米兰体育-米兰(中国)官网
2026-10-24 17:02:27
松岛辉空张本美和混双夺冠!日本华裔主教练中文爆粗回应:解说是XX

松岛辉空张本美和混双夺冠!日本华裔主教练中文爆粗回应:解说是XX

念洲
2026-10-24 09:03:53
某汽车自媒体正式向尊界汽车致歉,赔偿并全网禁言

某汽车自媒体正式向尊界汽车致歉,赔偿并全网禁言

大厂财经社
2026-10-24 16:51:29
45岁仍拍三级片还债,36E巨乳,被称香港妖女,60岁直播翻身破亿

45岁仍拍三级片还债,36E巨乳,被称香港妖女,60岁直播翻身破亿

轩逸阿II
2026-10-17 07:39:17
与龙洋隐婚传闻早已真相大白!央视主播张韬发文告别,将迎新工作

与龙洋隐婚传闻早已真相大白!央视主播张韬发文告别,将迎新工作

皮皮电影
2026-10-23 05:20:07
2026-10-24 21:51:00
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12804文章数 117187关注度
往期回顾 全部

写程序、做3D,新Kimi还有多少本事?

澳官方扑杀200万只野猫 当地人直接搬出"全自动杀猫机"

澳官方扑杀200万只野猫 当地人直接搬出"全自动杀猫机"

从乐透秀到总冠军再到没工作 一共要几年?

翁虹19岁女儿三次拒爱,在美国上学却“不随便”

叫"保障"不叫"保险":租车平台的文字游戏

大众安徽与众09正式上市 双十一权益价16.99万起

态度原创

全城轰动!香港中环LV旗舰店亮相,一个巨型首饰箱!

谁家手机最好卖?销量榜单出炉!

笑死我了,“孕肚大比拼”!这届准妈妈的松弛感太绝了

无障碍浏览 进入关怀版