GPU+类脑芯片"混搭"背后:中国算力的第二条路

来源:爱集微 #异构混合推理# #类脑芯片# #国产 GPU# #存算一体# #中国算力大会#
2298

2026年9月11日至13日,2026中国算力大会在河北廊坊举行。在大会首次设立的"算力首创首发发布会"专场上,由移动云联合中国电子科技南湖研究院、北京灵汐科技、上海天数智芯、清华大学、北京大学共同打造的国内首个"国产GPU+类脑芯片"大模型异构混合推理系统正式发布。当英伟达把SRAM推理芯片与GPU装进同一个机架时,中国团队用国产GPU与类脑芯片给出了同一道题的本土解法——以架构创新弥补工艺约束。这条"第二条路"成色几何?本文从技术、联合体、实测与全球竞争四个维度展开拆解。


一、廊坊的"首创首发"时刻

本届算力大会以"共织算力网 智启新未来"为主题,由工业和信息化部新闻发布会对外披露,是"十五五"开局之年算力产业的国家级风向标。大会首次举办"算力首创首发发布会",一大批算力软硬件新品集中亮相;据上海证券报报道,大会共揭晓15项"算力中国·年度重大突破成果",中国移动AI可信计算(AITC)获"算力中国·年度卓越成就",国产智算Token效能优化体系(TEOS)、国产GPU与类脑芯片异构混合推理系统等成果均在大会期间首发。

在这份首发清单中,异构混合推理系统的位置颇为特殊:它是少数直接触及"算力芯片架构路线"的成果。官方通稿显示,该系统由移动云(中移(苏州)软件技术有限公司)联合中国电子科技南湖研究院、北京灵汐科技、上海天数智芯、清华大学、北京大学共同打造,是中国移动云公司类脑与光实验室技术总监杜宇健在首发首秀活动上发布;另有报道称中国移动通信集团江苏有限公司亦参与研发。

官方对其定位的表述是:通过全栈架构创新,"让国产芯片也能高效支撑大模型推理",为国内大模型、多智能体应用提供一条自主可控的新算力路径。这句话有两层含义值得展开:其一,国产芯片"能跑"大模型推理已不是新闻,但"高效支撑"并发服务仍是难题;其二,解法不是等更先进的制程,而是换一种系统架构的组织方式。这正是理解本次发布的钥匙。

二、推理爆发期的双重瓶颈

要看懂这套系统,先要看懂它面对的矛盾。官方通稿将行业背景概括为:人工智能产业重心正从模型训练转向规模化推理服务,推理算力已成为支撑词元工厂、AI智能体、文生视频等业务的新型数字基础设施;大模型并发服务对吞吐量、能耗成本提出极高要求,传统单一GPU推理架构越来越吃力——一方面,数据频繁搬运会带来"内存墙"和"功耗墙";另一方面,国内先进芯片制程供给受限,单纯靠硬件工艺升级提升算力空间有限。

宏观数据印证了这一转向的陡峭程度。IDC与浪潮信息《2025年中国人工智能计算力发展评估报告》显示,中国智能算力规模2024年达725.3 EFLOPS(同比增长74.1%),预计2026年将达1460.3 EFLOPS,2023至2028年年复合增长率预计46.2%;同一报告预测,到2027年推理将占中国智能算力需求的70%以上。换言之,算力需求的重心正在从"把模型练出来"切换到"把模型用起来"。

图1 中国智能算力规模(2024-2026E) 

推理侧的产业空间同样在快速放大。灼识咨询数据显示,中国AI推理芯片相关产品及服务市场规模已从2020年的113亿元增至2024年的1626亿元(复合年增长率94.9%),预计2029年将达13830亿元(2024-2029年复合年增长率53.4%)。

 图2 中国AI推理芯片市场规模(2020-2029E) 

更关键的是瓶颈的技术机理。大模型推理分为两个阶段:Prefill(预填充)阶段并行处理用户输入的全部token、生成KV Cache,属于计算密集型;Decode(解码)阶段以自回归方式逐个生成token,对内存带宽的要求远高于算力,属于访存密集型。两个阶段资源特性截然不同,混合在同一GPU实例中处理时,会互相干扰、拉低利用率。此外,Transformer的每一层都由Self-Attention(自注意力)与FFN(前馈网络)两类模块堆叠而成:前者需要精确的矩阵运算与KV Cache管理,后者在MoE(混合专家)架构下参数规模巨大、权重调用量惊人——主流大模型参数普遍达到千亿级,数据在存储与计算单元之间的反复搬运,正是"内存墙"的由来。

行业的普遍应对是PD分离:把Prefill与Decode分配到不同的芯片实例上分别优化。DeepSeek-V3(2024年12月发布)已在工程实现中采用PD分离策略;英伟达更是在GTC 2026上宣布,将推理的prefill与decode两个阶段拆分为两个进程处理。但科智咨询在2025年的研究指出,国产厂商对PD分离的适配"普遍支持效果一般"——分离之后的下一步,即"让不同特性的芯片各司其职",在国内仍是空白地带。移动云这次的方案,恰恰是在这一空白处落子:它把"分离"的粒度从"阶段"深化到了"模块"。

三、PD/AF拆分:把对的模块交给对的芯片

官方对核心技术思路的概括是"分而治之,协同增效":对Transformer结构做PD/AF分离——Prefill预处理阶段与Attention注意力计算交由天数智芯国产GPU,FFN(MoE专家)等延时、带宽敏感模块交由灵汐类脑芯片,充分发挥类脑芯片存算一体、片上大容量SRAM的架构优势。(需要说明的是,各媒体转述口径略有差异:央广网与IT之家版本仅表述"Attention计算交由国产GPU",快科技与官方素材则明确为"Prefill+Attention"交由GPU,本文以后者为准。)

这个切分逻辑值得细品。把FFN/MoE交给类脑芯片,是因为它恰好命中了类脑架构的两个长处:一是存算一体——数据在存储单元内"原地计算",从根源上消解了权重搬运的效率损耗,中国电子技术标准化研究院的研究将其视为突破"内存墙"的核心路径;二是片上大容量SRAM——MoE专家权重可以常驻片上,避免反复访问片外显存。而Attention与Prefill涉及复杂的矩阵运算、KV Cache管理与长上下文处理,更适合通用性强、生态成熟的GPU。用官方的话说,就是"不同模块部署到最擅长的芯片上"。

这一步并非凭空而来。在学术侧,清华大学的"天机芯"类脑芯片是全球首款同时支持脉冲神经网络与人工神经网络的异构融合类脑芯片,曾登上《自然》杂志封面,为中国类脑计算建立了从器件到架构的学术纵深[30];在产业侧,灵汐科技是国内唯一实现类脑计算芯片规模量产商业化的企业——"既能量产、又能跑大模型模块",是这套系统能够成立的两个前置条件。

与传统PD分离相比,PD/AF拆分的激进之处在于:它不再局限于"GPU分GPU"的同构切分,而是让两种指令集、两种编程范式、两种存储体系的芯片在同一个推理请求里协作。这也意味着工程难度呈指数级上升——这正是下一章三大配套件存在的意义。

图3 国产GPU+类脑芯片异构混合推理架构示意 

四、编译器、互联协议、统一引擎:异构系统的"操作系统"

官方披露,团队自研了模型编译器、高速互联协议与统一推理引擎三大配套件,实现两类算力的"任务拆解、协同调度、结果聚合"。这三个组件分别对应异构计算的三道生死关。

第一关是"切得开"。模型编译器需要把一个完整的Transformer计算图,按PD/AF策略切分到两种架构迥异的芯片上,并完成算子映射与精度适配。切分粒度越细,协同收益越大,但调度与通信的开销也越高——切分策略本身就是一套需要专利保护的 Know-how。本次项目披露的15项授权发明专利中,编译工具链正是覆盖的三大环节之一,侧面印证了其分量。

第二关是"连得上"。GPU与类脑芯片之间的中间结果(如激活值、KV Cache引用)必须通过高速互联低时延传输,否则跨芯片往返时延会吞噬架构红利。国内算力产业正处在互联协议的密集建设期:中国移动在2026年中期业绩中披露,已面向智算卡间互联发布OISA(全向智感互联)商用 IP 核;运营商体系对开放互联的持续投入,为"GPU+类脑"这类非标组合提供了协议土壤。本次系统的高速互联协议虽未披露细节,但其必要性不言自明——官方将其列为三大自研件之一,且"覆盖异构调度、类脑芯片架构、编译工具链"的专利布局中也包含相应环节。

第三关是"管得住"。统一推理引擎向上屏蔽异构复杂度:应用侧仍然按标准接口提交推理请求,引擎在底层完成两类算力的任务编排、负载均衡与结果聚合。这一点对商业化尤为重要——客户不会为"异构"本身买单,只会为"无感的性价比"买单。

三层配套件叠起来,这套系统的本质可以一句话概括:它不是造了一颗更强的芯片,而是给两种已有的国产芯片写了一个"操作系统"。这与英伟达Vera Rubin平台"以系统级协同设计代替单点性能"的思路,在哲学上殊途同归——后文将展开。

五、产学研联合体解剖:一场"运营商+央企院所+芯片商+高校"的合纵

这份五方(加江苏移动则为六方)名单,几乎覆盖了国产算力闭环的每一类角色,值得逐一拆解。

移动云:场景与工程化的组织者。 作为中国移动云计算对外输出的主体(运营主体为中移(苏州)软件技术有限公司),移动云背靠中国移动"4+N+31+X"全国算力基础设施布局,并自研了震泽智算平台,具备异构算力智能调度能力。在需求侧,移动云正在向"由云向智"战略转向:2026年8月19日,移动云在甘肃庆阳发布西部首个Token规模化运营平台——移动云(西部)Token中心,中国移动云公司副总经理刘军卫发表《中国移动MoMA推动Token中心规模落地》主旨演讲。对一家把"Token"写进战略的云厂商而言,推理成本每降一分,商业模型的弹性就大一分——这是移动云牵头做异构推理最直接的商业动机。基础设施侧,中国移动长三角(苏州)汾湖智算中心一期总投资26.8亿元、已投入运营(另有口径称项目全部建成总投资约60亿元),为其提供了自有算力底座。

中电科南湖研究院:央企类脑研究力量。 该院成立于2020年3月,由中国电子科技集团与浙江省嘉兴市政府共建,围绕智能物联网领域的类脑计算、感存算等方向开展应用研究;据南湖区政府报道,研究院已构建规模达12亿神经元的通用异构融合类脑计算系统。"通用异构融合类脑计算系统"这一表述与本次发布的系统路线高度同源,显示出成果并非单点灵感,而有多年研究积淀。

灵汐科技:类脑芯片的产业化担当。 灵汐成立于2018年,为清华孵化企业,是国内唯一实现类脑计算芯片规模量产商业化的企业。其主力芯片KA200采用"存算一体、众核并行、异构融合"架构,单芯片集成25万神经元和2500万突触。值得注意的是其产品节奏:2026年7月19日,灵汐在世界人工智能大会(WAIC)发布全自研类脑超节点集群产品LynAInfra(灵琍),以30kW功耗支撑近100P算力,能效比提升3至10倍,首Token响应进入几十到百毫秒级别——从单芯片到"类脑超节点",再到本次嵌入混合推理系统,类脑算力正在沿着"器件→板卡→集群→系统协同"的路径逐级上探。

天数智芯:国产GPU的通用底座。 作为国产通用GPU企业,天数智芯拥有天垓系列训练芯片与智铠系列推理芯片两条产品线,并在DeepSeek V4发布当日完成核心算子Day0级适配;其2022年12月发布的智铠100是国内较早的通用GPU推理产品,2026年7月19日又发布了新一代天垓300。通用GPU负责Prefill/Attention这类"通用计算优势区",正是其能力半径之内。

清华大学、北京大学:学术纵深与人才供给。 两所高校分别深度参与了类脑计算与类脑芯片的底层研究(如清华"天机"芯片),在联合体中承担原理供给与验证角色。

这种"运营商出场景与工程化、央企院所出体系化研究、芯片商出硬件、高校出原理"的组合,把"底层芯片适配—推理引擎开发—业务场景验证"的完整链条压缩在了一个项目里。它更像是把英伟达式"芯片—系统—云"垂直一体化,翻译成了中国产业组织下的"分布式垂直一体化"。

六、实测与商业化:翻倍的性能、四成的成本

发布中最受关注的数字是实测结果:在3台天数较早型号的智芯GPU服务器、3台类脑机柜的配置下,运行DeepSeek V4 Flash模型,相较同等投入规模的纯GPU集群,推理输出和推理能效均提升1倍以上,业务运营成本降低40%以上。

选DeepSeek V4 Flash做验证负载颇有代表性。该模型为MoE架构,总参数284B、激活参数仅13B,支持100万token上下文,定位高效推理——MoE架构意味着海量专家权重需要常驻存储、按需激活,正是"访存敏感"的典型负载,恰好落在类脑芯片存算一体+片上SRAM的优势区。(注:13B激活参数即便按INT8量化也约合13GB权重,远超现行片上SRAM容量,"常驻片上"更宜理解为常用/热点专家子集的片上常驻,完整权重仍需分层存储。)

 图4 DeepSeek V4 Flash实测结果对比 

产业化进度方面,项目累计形成15项授权发明专利、6项软件著作权,覆盖异构调度、类脑芯片架构、编译工具链等环节,目前已进入小批量试产阶段。官方规划的应用场景包括Token工厂(词元工厂)、AI代码开发、文生视频、多智能体协同、智能制造等高实时性业务,同时面向金融、安防、通信等安全敏感行业提供全栈国产化推理底座。更具生态野心的一步是:团队计划将核心异构推理框架逐步开放,赋能国内GPU、类脑芯片厂商及算力运营商——若落地,这套系统的价值将不止于移动云自用,而可能成为国产异构推理的公共底座。

当然,从"小批量试产"到"规模商用"仍有距离:实测基于特定的3+3配置与单一模型,面对多模型、多负载、多租户的生产环境,调度引擎的鲁棒性、互联协议的扩展性、以及类脑芯片的产能与良率,都还有待验证。官方"持续迭代异构推理系统"的表态,也暗示这是一场持久战。

七、对标Vera Rubin+Groq:全球竞赛的同一张图纸

官方对这套系统的定位表述相当直接:对标英伟达下一代Vera Rubin with Groq异构推理架构。这个"对标对象"本身,是理解全球算力路线演进的最佳参照。

2025年12月24日,英伟达宣布以约200亿美元获得Groq技术授权,其创始人Jonathan Ross等核心成员亦将加入英伟达。到2026年3月GTC 2026,Vera Rubin平台正式揭晓:七款新芯片全面投产,其中包括新纳入的NVIDIA Groq 3 LPU;其Groq 3 LPX为机架级推理加速器,单机架集成256颗LPU,采用高带宽SRAM-only架构,与搭载大HBM的Rubin GPU协同工作,专为Agentic AI的低时延、大上下文推理而生,用以消除"高速度交互与高吞吐不可兼得"的取舍。Nebius将成为2026年底前首个部署该机架的客户。

把两张图纸并排看,相似性一目了然:英伟达的答案是"GPU(大HBM)+SRAM专用推理芯片"机架级混布;移动云联合体的答案是"国产GPU+类脑芯片(存算一体+片上SRAM)"机柜级混布。两者都在做同一件事——承认通用GPU与专用推理硬件各有最优负载域,用系统架构把两者缝合。区别在于实现路径:英伟达通过收购与自研并举、以"机架即计算机"的方式交付;中国团队则以产学研联合、在成熟工艺上以编译器与互联协议弥补硬件代差。

差距同样要正视:Vera Rubin平台已全面投产并锁定头部客户,而国内系统尚在小批量试产;英伟达拥有CUDA与NVLink多年积累的软件生态,国内异构框架则刚刚起步。但反过来看,官方所谓"依托国内成熟工艺的国产芯片,通过系统架构创新,可以实现对标国际下一代推理架构的业务能力",其战略含义在于:在全球算力竞赛从"制程竞赛"转向"架构竞赛"的窗口期,中国第一次不是跟随者,而是在同一张图纸上交出了自己的画法。

八、第二条路能走多远

把这次发布放回产业大盘,其意义有三层。

第一层是需求侧的确定性。推理正在取代训练成为算力需求的主角:IDC预测2027年推理将占中国智能算力需求的70%以上,灼识咨询预计中国AI推理芯片市场2029年达1.38万亿元。一个能把运营成本降低40%以上的国产方案,切中的是这条增长曲线中最痛的一段。

第二层是供给侧的窗口。国产算力的渗透正在加速:TrendForce测算,中国AI服务器外购芯片比例将从2024年的约63%降至2025年的约42%,本土芯片供应占比2025年提升至40%,并预测 2026 年国产 AI 芯片高端市场份额将达约 50%;TrendForce随后于2026年8月将2026年国产AI芯片高端市场份额预测上调至接近90%;IDC统计亦显示2025年国产AI加速卡份额首次突破四成、约41%。份额上来了,"好用"的矛盾就会凸显——异构混合推理恰恰是在不更换芯片的前提下放大存量算力效能的杠杆,对运营商量级采购决策具有直接说服力。

第三层是方法论的外溢。这次验证的其实是一个可复制范式:"不追最先进制程,而是把系统架构当作第一生产力"。15项发明专利与6项软著构筑的知识产权布局、计划开放的异构推理框架、以及"运营商+院所+芯片商+高校"的联合体模式,共同构成了范式扩散的基础设施。若后续有更多GPU厂商、类脑芯片厂商接入这套框架,中国算力产业将第一次拥有超越单点芯片对比的"体系级"叙事。

保持清醒同样必要:单一模型上的翻倍数据不等于全场景普适;类脑芯片的软件生态、互联协议的开放程度、以及从试产到量产的工程爬坡,都是未来12-24个月必须回答的考题。但方向已经清晰——当"制程追不上"成为约束条件,架构创新就是最大的变量。2026年9月的廊坊,或许会被记住为中国算力"第二条路"的起点:不是弯道超车,而是换了一张赛道图,和大家一起重新出发。

责编: 爱集微
来源:爱集微 #异构混合推理# #类脑芯片# #国产 GPU# #存算一体# #中国算力大会#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...