选型指南

达摩院玄铁发布端侧AI解决方案,构筑可定制化NPU通用可编程底座

发布时间:2026-09-10 00:00:00 责任编辑:lijiahuan

【导读】9月9日,阿里巴巴达摩院玄铁正式推出全新端侧AI解决方案,针对当前端侧AI场景多元、算法迭代快、NPU研发门槛高的行业痛点,打造由AI定制调度核、Titan高性能向量引擎、完整算子库与编译工具链组成的一体化可编程底座。该方案适配穿戴设备、智能家居、智能座舱、具身智能、AI PC等全品类端侧场景,能够帮助NPU厂商简化研发流程、缩短落地周期,聚焦核心差异化技术研发,加速端侧AI规模化商用落地。


1_690.jpg


端侧推理进入“组合爆炸”时代


NPU 面临全新考验


推理正在从云端走向端侧。低时延、数据隐私、离线运行与传输成本,共同推动 AI 能力向设备侧下沉。但这个“端”并非单一形态——从穿戴设备、智能家居、智能安防,到边缘计算、AI PC、智能座舱、具身智能,功耗与算力从 mW 级到车规级,跨越多个数量级。


与此同时,端侧算法日益多样:CNN 视觉之外,LLM、VLM、语音识别、语音合成、扩散生成、全模态模型接踵而至。算子构成差异极大——Softmax、归一化、RoPE、量化与数据重排的比重明显上升,且每年都在变化。场景与算法相互叉乘,同一颗端侧 NPU 要面对的组合正在快速放大。


2_582.png


三大板块接入


为端侧 NPU 打造可编程底座


一颗完整的 NPU,是控制、计算与数据供给三层协同的系统:Tensor Engine 提供峰值算力,但端到端推理时间由三层共同决定。对 NPU 厂商而言,真正的差异化在于 Tensor Engine 与存储系统;而调度、通用向量计算与配套软件,是需要长期工程积累的公共底座,自建周期长、验证成本高,往往成为产品上市节奏的瓶颈。


针对上述挑战,玄铁团队推出端侧 AI 方案,为端侧 NPU 打造可编程底座。通过提供经过验证的调度、向量与软件底座;厂商可直接接入,激活 Tensor Engine 与存储系统,各展所长。


3_485.png


AI 定制调度核:把可编程控制放进 NPU


基于玄铁 C 系列处理器为 NPU 调度场景深度定制。指令预取与 ITCM/DTCM 让控制程序与描述符常驻,访问延迟确定,命令生成不断供;循环分支控制、Tile/Shape/地址参数计算、宏命令封装与分发形成完整控制闭环;custom0–custom3 自定义指令直接转发,最多支持 32 个协处理器,命令语义可用寄存器操作数直接表达。模型变化的时候,改程序就行,不用改状态机。


Titan 高性能向量引擎:灵活计算、可整体选配


面向 AI、向量宽度 VLEN 可配 512 / 1024 / 4096 bit,达业界最宽档位;在 RVV 1.0 标准之上叠加 66 条玄铁 Vector 扩展指令:


特殊函数指令 9 条:直接支撑 Softmax 与激活


类型转换指令 9 条:支撑量化与反量化


二维归约指令 24 条、点积与低精度整数指令 22 条:针对大模型场景优化


4_356.png


理论建模数据显示(Qwen3-1.7B、FP16、序列长度 4096 条件),向量宽度从 256 bit 加宽至 4096 bit,Softmax 耗时缩短至约 1/15,端到端首字时延(TTFT)提升 2.26 倍,序列越长收益越明显。


177 个算子与完备工具链:交付可运行、可调、可迭代的软件栈


算子库覆盖 12 个类别、177 个算子,从数学运算、张量操作、卷积融合到量化与类型转换,贯通完整推理链路,并为客户自定义算子提供统一基础;GCC / LLVM 编译工具链、Runtime、调试器与性能分析工具随方案一同交付。


算子库、编译工具链与硬件指令三层对齐,厂商选择不同向量宽度或裁剪能力时,改动收敛在编译期——裁剪不等于重新维护一套软件。


五个维度灵活可配


按场景选配,按需求裁剪


为适配端侧多样化的场景与需求,助力客户围绕自身目标场景,定义一颗性能、面积与功耗精准匹配且更具竞争力的芯片;该方案在五个维度提供灵活的可配可裁能力。


5_274.png


阿里巴巴达摩院玄铁 RISC-V IP 解决方案负责人黄怡皓表示:


端侧 NPU 的差异化,很大程度来自 Tensor Engine 与存储系统,这是厂商应当牢牢握在手中的核心竞争力。玄铁推出可编程底座,是希望把需要长期工程积累的调度、通用向量计算与配套软件承担起来,授人以渔,让 NPU 厂商用得方便、改得自由,把研发资源集中到最有价值的差异化创新上。这也是 RISC-V 架构开放、灵活特性在端侧 AI 时代的又一次生动实践。


结论


随着大模型、全模态AI快速下沉端侧设备,场景算力跨度大、算法持续迭代、算子结构多变等问题,让传统NPU设计面临巨大挑战,自研全套底层调度、向量计算与软件栈成本高、周期长。玄铁全新端侧AI解决方案,精准补齐了行业短板,通过定制化AI调度核解决NPU控制调度瓶颈,依托超宽可配向量引擎与专属扩展指令,大幅优化大模型推理时延与运算效率,搭配全覆盖算子库与完备编译工具链,形成软硬件高度协同的成熟底座。同时方案支持多维度灵活裁剪配置,适配不同功耗、不同场景的端侧芯片开发需求。该方案充分发挥RISC-V架构开放灵活的优势,将通用底层工程能力标准化、模块化,让厂商集中资源深耕张量引擎、存储系统等核心差异化领域,有效降低端侧NPU研发门槛,为端侧AI产业高效迭代、多场景普及提供坚实的技术支撑。


gg_20260512171736_266_20260622170931_179_20260707113844_971_20260708172203_213_20260710172006_775.png


为您推荐

意法半导体自控式瞬态电压抑制器,以超小占板面积提供卓越保护 业界新闻

意法半导体自控式瞬态电压抑制器,以超小占板面积提供卓越保护

空间受限的消费、工业、医疗、智能家居设备对板级 ESD 与浪涌防护提出严苛要求。意法半导体全新推出自控式 TVS 器件 TVS221SC-1T2,采用 0402(1006)SOD882 封装,相比传统 TVS 面积缩减超 60%;依托内部电压控制环路,在 16A 浪涌、125℃工况下稳定维持 26.2V 钳位电压,±8kV 接触 /±30kV 空气 ESD 满足高等级 EMC 标准。器件具备 25nA 低漏电流、75nF 电容,适合 USB Type‑C VBUS、I/O 口保护,现已量产。

医疗穿戴 智能家居 电路保护 互联技术 电容 ST(意法半导体)

2027 蓝牙亚洲大会定档深圳|汇聚亚太蓝牙生态,聚焦连接创新与跨行业落地 业界新闻

2027 蓝牙亚洲大会定档深圳|汇聚亚太蓝牙生态,聚焦连接创新与跨行业落地

蓝牙技术联盟(Bluetooth SIG)正式宣布,2027 蓝牙亚洲大会(Bluetooth Asia 2027)定于 2027 年 4 月 21 日–22 日,在深圳会展中心(福田)5 号馆举行。作为蓝牙生态在亚洲的核心行业盛会,本次大会预计吸引超 4800 名参会者、60 余家参展商,设置主题演讲、圆桌论坛、行业技术分论坛、蓝牙技术讲堂、互动展区、UPF 测试大会等多元环节。2026 年大会已汇聚 4200 余位产业人士,围绕音频、车载、工业物联网、端侧 AI、医疗健康、智能照明等方向交流;本届延续生态交流定位,目前赞助与展位预定已启动,Nordic、恩智浦、芯科科技、意法半导体、泰凌微、沁恒微等多家领先企业已确认参与,为企业展示方案、对接全球蓝牙产业链合作搭建平台。

医疗穿戴 智能家居 互联技术 测试测量 通信模块 ST(意法半导体)

nRF7120/nRF7120E 亮相:Nordic 把 Wi‑Fi、多协议无线和边缘 AI 集成一颗芯片 新品速递

nRF7120/nRF7120E 亮相:Nordic 把 Wi‑Fi、多协议无线和边缘 AI 集成一颗芯片

低功耗无线方案厂商 Nordic Semiconductor 推出全新 nRF71 系列超低功耗 SoC,将 Wi‑Fi 6/6E、低功耗蓝牙、Thread 以及 Axon NPU 边缘 AI 硬件加速器集成在单颗芯片。相比 nRF70 系列 Wi‑Fi 产品,新品待机功耗最多降低 20 倍,搭配 Neuton AI 工具链、nRF Cloud 云端 OTA 能力,无需额外 AI 处理器,就可以在电池供电设备完成关键词识别、异常检测、图像分类等本地推理,适配智能家居、Matter 网关、可穿戴、工业传感器,让设备依靠电池可连续运行多年。

医疗穿戴 智能家居 互联技术 传感技术 传感器 NORDIC

意法半导体推出 L4983 PFC 控制器 简化大功率电源高能效设计 业界新闻

意法半导体推出 L4983 PFC 控制器 简化大功率电源高能效设计

2026 年 9 月 18 日,意法半导体(ST)正式推出 L4983 功率因数校正(PFC)控制器,凭借自研乘法仿真器与谐波优化电路,大幅简化连续导通模式 PFC 电路的外围设计,仅需少量无源器件即可搭建高性能电源前端方案。新品覆盖数百瓦至数千瓦宽功率应用场景,适配工业、医疗、服务器、照明、消费电子等主流设备,可全面满足全球主流 EMC 与能效法规。同时搭配多模式节能机制、完善的系统保护功能及配套评估板,能够有效缩短电源产品开发周期,助力设备实现低谐波、高效率、高可靠性运行。

医疗穿戴 智能家居 电源管理 EMC安规 碳化硅(SiC)器件 ST(意法半导体)

新增现货|TI MSPM0G5187 混合信号 MCU 上市,适配家电、医疗与可穿戴设备 新品速递

新增现货|TI MSPM0G5187 混合信号 MCU 上市,适配家电、医疗与可穿戴设备

2026年9月14日 – 提供超丰富半导体和电子元器件™的业界知名新品引入 (NPI) 代理商贸泽电子 (Mouser Electronics) 即日起开售Texas Instruments MSPM0G5187混合信号微控制器 (MCU)。MSPM0G5187 MCU采用Arm® Cortex®-M0+ 32位内核平台和超低功耗系统架构,可在降低能耗的同时提高性能。MSPM0G5187系列非常适合需要在小型或高引脚数封装中实现高达128KB闪存的应用,包括家电、医疗设备、楼宇自动化、手机和可穿戴设备。

医疗穿戴 智能家居 电源管理 微控制器 TI(德州仪器)

特别推荐

更多

行业动态

更多

技术应用

更多

选型替代

更多

产品信息

更多

热门搜索

更多

欢迎登录

没有账号,

账号注册

注册成功!

3S后自动为你跳转登陆