技术应用

英特尔:别只盯着单线程性能,智能体AI该用“实际交付量”来测

发布时间:2026-08-25 00:00:00 来源:转载 责任编辑:Lily

【导读】单线程性能、核心密度、机架吞吐量这些指标本身没错,但回答不了客户真正的问题:在给定延迟、功耗和成本下,基础设施到底能完成多少有价值的智能体工作?英特尔最近的分析给出了一个务实视角:以739个Claude Code会话为样本的代码智能体工作流显示,单个请求下CPU处理时间占比不到1%,32个请求并发时升至15%——新增延迟大多来自调度排队,而非计算。更快的核心解决不了排队,而排队会让GPU跟着空转。英特尔由此提出用“每机架实际交付的智能体数量”替代理论吞吐量,衡量系统在功耗和成本约束下真正能稳定跑完多少工作流。


并发改变答案


在单智能体循环中,衡量性能是一件很简单的事情:每一步都能完成得更快,那么整个工作流的速度也会变快。然而,系统往往并非单智能体循环,而是同时运行很多的智能体,共同争抢CPU、内存、I/O以及加速器等资源。在这种高负载的情况下,系统的瓶颈也会随之改变。


近期的一项公开分析,以739个匿名Claude Code会话为样本,包含多轮推理、代码生成和工具调用的代码智能体工作流。该分析显示,单个请求下CPU 端的处理和等待时间占总延迟的不到1%,而当32个请求并发时,这一比例最高可提升到15%。新增的延迟大部分源于调度与排队,而非计算。


更快的核心可以提高任务的执行速度,但它无法避免排队的现象。


此类等待,同样会波及系统中最昂贵的组件——GPU。同样在这个分析中,针对代码执行智能体的研究预估,GPU的有效工作时间仅占整体实际运行时长的50%~60%。当智能体等待数据库、检索系统或沙箱返回结果时,GPU也会跟着陷入空转。在这里,阿姆达尔定律依然适用:


“最昂贵的加速器,其实是那些正在等待系统其他组件响应的加速器。”


衡量理论容量,不如衡量实际交付的智能体工作流


英特尔提出了一个更实用的衡量指标,即每机架实际交付的智能体数量,也就是说,在既定功耗和成本范围内,一个机架能够在规定的吞吐量、质量和延迟要求下,稳定完成的智能体工作流数量。


如何理解实际交付容量呢?


每机架实际交付的智能体数量=每机架理论智能体数×路由效率×资源平衡度×卸载效率


理论容量反映机架可用的计算、内存和带宽资源。路由效率反映任务的部署分配效果。资源平衡度体现因瓶颈和排队造成的损失。卸载效率反映将基础设施任务从通用核心移出后,系统所释放出的容量。随附的白皮书对这些因素及具体方法作了更详细的说明。


真正的容量上限,不是理论吞吐量图表的最高点,而是增加智能体数量后,延迟超过客户目标的那个点。图1给出了一个示例说明。


1787648610557808.png

图1:容量指的是延迟曲线与目标阈值的交点。根据系统余量进行路由、任务卸载和状态分层,会将曲线拐点向右移动(示意图)。


英特尔打造完整的工作流解决方案


英特尔不是在“更快的核心”和“更多的核心”之间二选一,而是在构建一个系统,让两者都转化为实际的工作产出。


保持状态可用。带宽让智能体持续运行,容量则防止它重新启动。借助英特尔至强6平面内存模式(Flat Memory Mode),CXL附加内存与原生DDR5可以共享同一个地址空间。根据英特尔与SAP的联合评估,该方案的性能能够达到全DDR5配置的96%,与此同时,内存TCO降低约25%。这为企业以更低成本维持更多活跃会话,提供了一条可行之路。


把容量还给系统。英特尔®数据保护与压缩加速技术(英特尔® QAT)、数据流加速器(英特尔® DSA)和存内分析加速器(英特尔® IAA),可卸载原本会占用通用核心的基础设施任务。公开资料显示,使用英特尔IAA进行快照压缩,快照完成速度可提高约1.2倍。卸载不再只是功能列表上的选项,而是将容量还给客户。


按任务需求匹配算力资源。编排调度、工具执行、数据服务与状态迁移的算力需求各不相同。至强产品系列依托统一架构,既有性能核的高单线程性能,也有能效核的高密度吞吐,这让系统有能力为每一阶段的工作流,匹配最合适的执行配置。


避免加速器陷入闲置。当然,企业既需要CPU,也需要专为智能体优化的GPU,英特尔正在筹备的Crescent Island GPU,正是为满足这一需求而来。然而,如果GPU持续处在等待状态,那它终究就只是一块昂贵的硅片,白白消耗机架电力而已。这就是CPU在当下,依然事关重要的原因。至强承担了智能体系统总调度者的角色,维持会话运行、工具调用、数据流通等,持续为加速器供给任务。


更具价值的评测标准


所有智能体AI的性能声明,也包括英特尔自己所发布的在内,都应标明并发规模、延迟目标,以及理论性能与实际交付之间的损耗。一旦缺少这些,测试数据所代表的,也只是潜在上限,而无法反映实际的生产力。


英特尔将基于真实智能体轨迹,以明确的P99延迟目标为基准,公开单机柜智能体数量、路由效率、固定功能卸载所带来的性能增益、GPU挂载系统的主机侧效率,以及机柜功耗约束下的每瓦智能体数量等。


单线程性能重要,核心密度也重要。但最终胜出的系统,一定能让每个线程都有活干、每个会话都保持活跃、每个加速器都充分运转。


行业花了太多时间盘点机柜的硬件规格。现在,是时候衡量它的实际产出了。


结论

英特尔这套思路,是把智能体AI性能评测从“跑分逻辑”拉到“交付逻辑”。理论容量从来不是瓶颈的终点,延迟曲线与业务目标的交点才是。至强6平面内存模式让CXL附加内存与DDR5共享地址空间,以约25%内存TCO降幅换取96%性能;QAT、DSA、IAA把基础设施任务从通用核心卸下,把容量还给业务;性能核与能效核搭配让不同阶段匹配最合适算力;至强作为总调度者为GPU持续供给任务。



gg_20260512171736_266_20260622170931_179.png


为您推荐

新品:闪迪 iNAND CL EM181 e.MMC 闪存,兼顾延续性、耐久度与数据可靠性 新品速递

新品:闪迪 iNAND CL EM181 e.MMC 闪存,兼顾延续性、耐久度与数据可靠性

对于机顶盒、家庭网关、智慧视频等长生命周期 IoT 与物理 AI 设备,存储方案延续性是一大痛点。闪迪在 2026 慕尼黑电子展发布全新 iNAND CL EM181 嵌入式 e.MMC 闪存驱动器,保留成熟 e.MMC 接口,支持客户在大幅减少主机改动的前提下升级新一代 NAND 技术,降低集成与认证成本。产品提供 64GB/128GB/256GB 容量,顺序读写最高 300MB/s、225MB/s,搭载 SmartSLC 与可配置 EUDA 分区,宽温 - 25℃~85℃,搭配 LDPC ECC、电源保护等机制,保障边缘互联设备的数据可靠。

AI&loT 通信广电 电源管理 互联技术 存储器

贸泽开售 Ezurio Veda IF912/IF913 模块 Wi‑Fi6/6E+BLE5.4 搭载英飞凌 CYW55912 业界新闻

贸泽开售 Ezurio Veda IF912/IF913 模块 Wi‑Fi6/6E+BLE5.4 搭载英飞凌 CYW55912

专注新品引入的授权代理商贸泽电子宣布,现已上架 Ezurio Veda IF912 与 IF913 无线模块。该系列基于英飞凌 AIROC CYW55912/CYW55913 芯片,集成 Wi‑Fi 6/6E、低功耗蓝牙 5.4 以及 Cortex‑M33 处理器,在 7×11mm 的 SMT 封装内整合无线、算力与存储资源,面向工业物联网、医疗设备、HVAC、安防摄像头、EV 充电设施等嵌入式场景,可简化硬件方案、降低 BOM 成本,同步配套 IF912DVK、IF913DVK 评估开发套件,方便工程师快速验证。

安防监控 医疗穿戴 电源管理 互联技术 通信模块 Infineon(英飞凌)

Wi‑Fi HaLow 赋能边缘 AI 相机:CamThink NeoEyes 系列新增远距离低功耗无线版本 新品速递

Wi‑Fi HaLow 赋能边缘 AI 相机:CamThink NeoEyes 系列新增远距离低功耗无线版本

摩尔斯微电子与 CamThink 合作,将 Wi‑Fi HaLow 远距离低功耗无线方案集成至 NeoEyes NE101、NE301、NE302 紧凑型边缘 AI 相机。Wi‑Fi HaLow 覆盖远、功耗低,弥补传统 Wi-Fi 在偏远电池供电视觉节点的短板,适合农田、无基础设施站点无人值守分布式监控;相关机型现已上架发售,面向开发者、集成商与 OEM 快速落地视觉 AI。

安防监控 能源电路 电源管理 互联技术 通信模块

详解 Cascode SiC JFET 在 LLC 拓扑中的应用:硬件实测与验证 技术应用

详解 Cascode SiC JFET 在 LLC 拓扑中的应用:硬件实测与验证

针对高频 LLC 谐振变换器初级侧选型痛点,本文基于半桥空载等效测试平台,对 Cascode SiC JFET 开展硬件实测,验证其在近 1MHz 频率下的 ZVS 性能,同时对比有无外部 Cds 缓冲电容两种工况,量化缓冲电容对开关节点 dv/dt、整机损耗的抑制效果,为高压高频 LLC 的器件选型、缓冲电路设计与 EMI 优化提供实测依据。

电源管理 EMC安规

英飞凌推出 LinearFET 全新 MOSFET 技术,加速电动车固态配电架构升级 新品速递

英飞凌推出 LinearFET 全新 MOSFET 技术,加速电动车固态配电架构升级

英飞凌正式发布全新 MOSFET 技术 LinearFET,为电动汽车与软件定义汽车的下一代固态配电系统扫清技术障碍。当前车辆电气化升级过程中,配电设计普遍面临 MOS 并联均流难、容性负载浪涌电流过高、短路工况可靠性不足三大痛点,往往需要增加外围电路与控制逻辑,拉高整机体积、成本与开发周期。LinearFET 将均流控制、浪涌抑制、短路鲁棒性直接集成到功率器件内部,无需额外外设即可实现稳定并联扩容、电容软启动与严苛短路防护,帮助车企把传统保险丝盒升级为软件可控的网络化配电架构,打造更紧凑、低成本、高安全的车载供电系统

汽车电子 电路保护 电源管理 保险丝 Infineon(英飞凌)

特别推荐

更多

行业动态

更多

技术应用

更多

选型替代

更多

产品信息

更多

热门搜索

更多

欢迎登录

没有账号,

账号注册

注册成功!

3S后自动为你跳转登陆