近日，端侧AI推理芯片企业聆思科技完成近5亿元B轮融资。本轮融资由安徽省与合肥市多家国资平台联合战略领投，深报一本、天智投资、科讯创投、盈科投资等一线资本跟投，其中多家老股东持续加注。
资金将主要用于新一代端侧大模型AI推理芯片研发，推动聆思产品体系从感知模型AI推理芯片向认知大模型AI推理芯片升级。据悉，聆思首颗端侧大模型AI推理芯片Nebula将于2026年底正式推出，面向机器人、AIPC、智能汽车座舱、全屋智能等场景，为端侧大模型规模化部署提供核心算力支撑。
安徽省及合肥市近年持续完善芯片、人工智能、智能终端等产业生态。此次多家国资平台联合战略领投，体现了对聆思技术路线和长期价值的高度认可，也意味着端侧AI推理芯片正成为AI芯片和智能终端产业链布局的关键一环。
端侧AI推理芯片迎来关键窗口
随着AI Agent、多模态交互和智能终端应用加速发展，AI产业重心正在从训练转向推理。2025年，中国AI推理数据量首次超过训练数据量，IDC预测，到2029年中国推理算力占比将接近八成，推理正在成为AI规模化落地的主战场。
与此同时，主流云端推理模式在实时响应、本地决策、弱网/断网可用、长期Token成本、网络稳定性和数据安全等方面面临挑战。端侧大模型AI推理可以显著降低高频交互带来的云端Token成本，提供更低时延和更稳定的实时响应，支持弱网断网持续运行，并让用户数据在本地完成处理，增强隐私保护。当大模型能力真正进入机器人、AIPC、智能座舱、智慧家庭等终端设备，端侧大模型AI推理芯片将成为下一代智能设备升级的核心算力基础。
全面展开新一代端侧大模型AI推理芯片布局
面向大模型进入终端的关键窗口，聆思科技全面启动新一代端侧AI推理芯片布局。首颗端侧大模型AI推理芯片Nebula将重点面向机器人、AIPC、智能汽车座舱、智能家电等领域，服务下一代终端设备对本地大模型推理能力的需求。
相比传统端侧AI算法，大模型推理对芯片的算力利用率、内存带宽、能效表现和模型部署效率提出了更高要求，当前大多数通用AI芯片难以在端侧功耗、成本和体积约束下高效适配。基于此，聆思端侧大模型AI推理芯片围绕“算力底座、存力底座、引擎底座”进行系统级优化，破解计算效率、内存带宽和部署效率等核心瓶颈。
在算力侧，聆思基于AI原生NPU架构、自研算子指令集、多核NPU和自适应任务调度机制，数倍提升大模型推理中的有效算力利用率和能效表现；在存力侧，采用3D-DRAM堆叠技术突破端侧内存带宽限制，提升大模型运行效率；在引擎侧，通过自研推理引擎和编译优化框架，支持主流开源模型快速适配与部署，并通过图优化、算子融合和自适应调度降低推理延迟。
基于上述架构，Nebula相较当前主流通用AI芯片方案，预计可实现10倍计算加速性能提升、10倍模型参数规模支持，推理速度超100 tokens/s，有望在功耗、体积、性能等方面达到行业领先水平。
目前，聆思已联合联想、聆动机器人、海尔、美的、面壁等企业，在AIPC、机器人、智慧家庭、智能汽车座舱等方向启动联合预研，推动端侧大模型AI推理芯片进入真实场景。
端侧AI推理的产业化路径
聆思科技成立于2020年，深耕端侧AI推理赛道，是业内少数兼具芯片设计与AI算法能力的企业。公司从AI算法源头计算需求出发，以AI原生NPU重构端侧AI计算架构，通过芯片算法协同设计提升推理效率。目前聆思NPU算力利用率可达80%，远超行业平均水平。
基于领先的NPU架构与多维算法能力，聆思已推出23款系统级端侧AI推理芯片，覆盖本地、在线、离在线等场景，并打造“芯+端+云“一体化方案。产品及方案广泛应用于家居家电、教育办公、消费电子、智能车载等领域，客户覆盖海尔、美的、海信、联通、移动、电信、安克、浩瀚、淘云、新东方、松下、TCL等头部企业，累计出货突破1.5亿片，验证了其在芯片定义、算法适配、系统集成和规模量产上的完整能力。面向端侧大模型时代，既有的NPU架构、算法适配经验、产品矩阵和量产能力将成为新一代端侧大模型AI推理芯片落地的重要支撑。
本轮融资后，聆思将进一步加大端侧大模型AI推理芯片研发投入，加快Nebula系列产品化和场景验证进程。依托安徽省及合肥市在芯片、人工智能和先进制造领域的产业生态支持，聆思将继续围绕“芯片+算法+平台+场景”强化全栈能力，推动大模型能力在机器人、AIPC、智能汽车座舱、智慧家庭等更多终端设备中规模化落地，让AI真正进入终端，服务真实场景。
