业界新闻

Token成本暴跌90%!Gartner揭示2030年AI推理的“成本悖论”

发布时间:2026-04-17 00:00:00 责任编辑:lily

【导读】Gartner最新预测揭示了一个看似矛盾的趋势:尽管到2030年,万亿参数大语言模型的单次推理成本预计将比2025年下降超过90%,成本效益较2022年提升百倍,但企业的总体AI支出却可能不降反升。这一现象的背后,是“推理悖论”在起作用——单位Token成本的急剧下降,正被代理式AI等前沿应用所引发的Token消耗量爆发式增长所抵消。本文将深入剖析这一成本动态,并探讨企业应如何通过智能的模型编排策略,在控制成本的同时,最大化前沿AI的商业价值。


AI Token是生成式AI模型处理的数据单位。本次分析中,1 Token等于3.5字节数据,约合4字符。


Gartner高级研究总监Will Sommer表示:“推动这一成本下降的因素包括半导体和基础设施效率的提升、模型设计方面的创新、芯片利用率的提高、专用推理芯片的普及以及针对特定用例的边缘设备应用。”


基于这些趋势,Gartner预测,到2030年,大语言模型的成本效益将比2022年开发的同等规模早期模型高出多达100倍。


该模型预测结果分为两类半导体场景:


前沿场景:模型处理基于前沿芯片的表征。


传统混合场景:模型处理基于以Gartner预测为基准的现有半导体混合表征。


由于算力较低,“混合”预测场景的建模成本远高于“前沿”场景(见图一)。


图一、Gartner生成式AI推理成本场景预测


1776311171591071.png


来源:Gartner(2026年3月)


Token成本下降不会推动前沿智能普及化


然而,生成式AI提供商的Token成本下降不会完全传导给企业客户。此外,前沿智能所需的Token数量将远超当前主流应用。例如,代理式模型每项任务所需的Token数量是标准生成式AI聊天机器人的5至30倍并且能够执行比人类使用生成式AI更多的任务。


尽管Token单位成本的下降将推动生成式AI技术的进步,但这些进步将导致Token需求急剧增长。由于Token消耗增速快于成本降幅,预计整体推理成本仍将上升。


Sommer表示:“首席产品官(CPO)不应将商品Token成本的下降与前沿推理的普及混为一谈。随着商品化智能的成本趋近于零,支持高级推理所需的计算和系统资源依然稀缺。如果当前首席产品官用廉价的Token掩盖架构的低效,那么将来会在实现代理式应用规模化上遇到难题。”


为了创造价值,平台需要能够编排多种不同模型的工作负载。常规的高频任务必须发送到更高效的小型和领域专用语言模型,这些模型如果能够与专业工作流对齐,则其性能会优于通用解决方案且成本仅为后者的一小部分。此外,必须严格管控前沿级模型的高成本推理并且仅将其用于高利润、复杂的推理任务。


Gartner的预测清晰地指出,随着商品化智能成本趋近于零,支持复杂推理的计算与系统资源将愈发稀缺和昂贵。企业若想避免陷入“用廉价Token掩盖架构低效”的陷阱,就必须摒弃单一模型走天下的思维。未来的核心竞争力在于构建能够智能编排工作负载的平台:将高频、常规任务分流至高效的小型专用模型,同时将昂贵的前沿大模型严格限定于高利润的复杂任务。



3-958x200_20251021044824_513.png


为您推荐

MathWorks 与启迪之星达成战略合作,为孵化内初创企业开放 MATLAB、Simulink 初创计划 业界新闻

MathWorks 与启迪之星达成战略合作,为孵化内初创企业开放 MATLAB、Simulink 初创计划

MathWorks 与启迪之星正式达成深度战略合作,面向启迪之星孵化网络内符合条件的硬科技初创企业,推出 MathWorks 初创计划。成立 5 年内、研发工程师少于 15 人的初创公司,可获得为期 12 个月的 MATLAB、Simulink 及百余个附加工具箱免费许可,同时享有专家技术支持、在线培训、MATLAB Central 社区资源以及联合营销机会。合作聚焦人工智能、医工交叉、光电与智能感知、新能源、新材料赛道,帮助初创团队降低算法开发、系统建模、原型验证的试错成本,推动实验室技术向商业化产品转化。

能源电路 互联技术 Central(中环)

ST25DA‑C:首款完全符合 Matter1.6 NTL 标准器件,实现 Matter NFC 完整配网 技术应用

ST25DA‑C:首款完全符合 Matter1.6 NTL 标准器件,实现 Matter NFC 完整配网

意法半导体 ST25DA‑C 是市场首款完整支持 Matter 1.6 NTL(NFC 传输层)规范的动态 NFC 标签器件。传统 Matter 方案依赖 QR 码贴纸或者 BLE 蓝牙完成配网,存在贴纸易损坏、设备必须上电才能 BLE 配网等现实痛点;Matter1.5 版本下 NFC 仅能做入网引导,完整配网依旧需要 BLE 参与。ST25DA‑C 继承 STSAFE 安全元件技术,内置加密运算能力,依靠 NFC 射频取电即可完成预配网,设备上电后直接接入 Matter 网络,实现真正的 “碰‑to‑commission 碰一碰配网”。本文对比新旧 Matter 配网方案差异,拆解 ST25DA‑C 安全能力、硬件规格与工程落地价值,为智能家居 IoT 硬件开发者提供技术参考。

AI&loT 互联技术 RF /微波 碳化硅(SiC)器件 ST(意法半导体)

贸泽赞助|2026 “创造未来” 设计大赛决赛入围名单揭晓,纽约现场演示角逐高额奖金 业界新闻

贸泽赞助|2026 “创造未来” 设计大赛决赛入围名单揭晓,纽约现场演示角逐高额奖金

贸泽电子(Mouser)持续赞助的全球知名“创造未来(Create the Future)” 设计大赛,公布 2026 年度决赛入围名单。本届赛事由 SAE Media Group 与《Tech Briefs》主办,英特尔、ADI、COMSOL 联合参与赞助,入围作品将赴纽约开展现场演示,共同角逐 25000 美元最高奖金。大赛分为航空航天国防、汽车交通、电子产品、能源动力、制造材料、医疗、机器人自动化七大赛道。本文整理全部决赛入围项目、赛事背景,一览全球工程师面向民生改善、可持续发展的创新成果。

医疗穿戴 汽车电子 MOUSER(贸泽)

埃赛力达推出 OmniCure AC7+ UV‑LED 面光源固化系统:辐照强度提升 40%,支持分段 LED 模组控制 新品速递

埃赛力达推出 OmniCure AC7+ UV‑LED 面光源固化系统:辐照强度提升 40%,支持分段 LED 模组控制

埃赛力达(Excelitas)正式发布新一代OmniCure AC7+ UV‑LED 面光源固化平台,在成熟 AC7 平台基础上实现辐照强度最高 40% 提升,峰值辐照强度超过 7.5 W/cm²,纵向均匀度优于 ±5%。产品具备 LED 模组级分段控制、RS485 组网通信、增强热管理与 VOC 防护,提供 150 mm、300 mm 两种固化宽度,向后兼容老 AC7 设备。广泛用于显示器、触摸屏、光学薄膜、医疗器械、半导体晶圆胶带加工等自动化产线,本文梳理产品升级要点、核心特性与应用场景,为工业 UV 固化选型提供参考。

通信广电 医疗穿戴 光电显示 LED驱动 Excelitas(埃赛力达)

特别推荐

更多

行业动态

更多

技术应用

更多

选型替代

更多

产品信息

更多

热门搜索

更多

欢迎登录

没有账号,

账号注册

注册成功!

3S后自动为你跳转登陆