业界新闻

AI及HPC需求带动,今年HBM需求容量增近6成

发布时间:2023-06-30 00:00:00 责任编辑:lina

【导读】为解决高速运算,内存传输速率受限于DDR SDRAM带宽无法同步成长的问题,高带宽内存(High Bandwidth Memory,HBM)应运而生,革命性传输效率是让核心运算组件充分发挥效能的关键。市调机构研究显示,高阶AI服务器GPU搭载HBM已成主流,2023年全球HBM需求量年增近六成,到2.9亿GB,2024年再成长三成。


为解决高速运算,内存传输速率受限于DDR SDRAM带宽无法同步成长的问题,高带宽内存(High Bandwidth Memory,HBM)应运而生,革命性传输效率是让核心运算组件充分发挥效能的关键。市调机构研究显示,高阶AI服务器GPU搭载HBM已成主流,2023年全球HBM需求量年增近六成,到2.9亿GB,2024年再成长三成。


AI及HPC需求带动,今年HBM需求容量增近6成

市调机构预估到2025年,全球若以等同ChatGPT的超大型AIGC产品五款、Midjourney中型AIGC产品有25款,以及80款小型AIGC产品估算,所需运算资源至少145,600~233,700颗NVIDIA A100 GPU,加上新兴应用如超级计算机、8K影音串流、AR/VR等,也同步提高云端运算系统负载, 显示高速运算需求高涨。

由于HBM拥有比DDR SDRAM更高带宽和较低耗能,无疑是建构高速运算平台的最佳解决方案,2014与2020年发表的DDR4 SDRAM及DDR5 SDRAM便可究其原因,两者带宽仅相差两倍,且不论DDR5或将来DDR6,追求更高传输效能同时,耗电量也同步攀升,势必拖累运算系统效能表现。若进一步以HBM3与DDR5为例,前者带宽是后者15倍,且能透过增加堆叠颗粒数量提升总带宽。HBM可取代部分GDDR SDRAM或DDR SDRAM,更有效控制耗能。

市调机构表示,主要由搭载NVIDIA A100、H100、AMD MI300及大型CSP业者如Google、AWS等自研ASIC的AI服务器成长需求较强劲,今年AI服务器出货量(含搭载GPU、FPGA、ASIC等)出货量预估近120万台,年增率近38%,AI芯片出货量同步看涨,可望成长突破五成。


免责声明:本文为转载文章,转载此文目的在于传递更多信息,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题,请联系小编进行处理。


推荐阅读:

美光将于2024年推出GDDR7显存,采用1β工艺节点

存储市场遇寒冬 Q1半导体营收英特尔超越三星居第一

台积电:下半年晶圆厂产能利用率将大幅提升,订单数显著增长

折叠屏手机普及推动 OLED显示屏2027年出货达6100万片

美光加大减产力度至30% 减产将持续至2024年


为您推荐

MathWorks 与启迪之星达成战略合作,为孵化内初创企业开放 MATLAB、Simulink 初创计划 业界新闻

MathWorks 与启迪之星达成战略合作,为孵化内初创企业开放 MATLAB、Simulink 初创计划

MathWorks 与启迪之星正式达成深度战略合作,面向启迪之星孵化网络内符合条件的硬科技初创企业,推出 MathWorks 初创计划。成立 5 年内、研发工程师少于 15 人的初创公司,可获得为期 12 个月的 MATLAB、Simulink 及百余个附加工具箱免费许可,同时享有专家技术支持、在线培训、MATLAB Central 社区资源以及联合营销机会。合作聚焦人工智能、医工交叉、光电与智能感知、新能源、新材料赛道,帮助初创团队降低算法开发、系统建模、原型验证的试错成本,推动实验室技术向商业化产品转化。

能源电路 互联技术 Central(中环)

ST25DA‑C:首款完全符合 Matter1.6 NTL 标准器件,实现 Matter NFC 完整配网 技术应用

ST25DA‑C:首款完全符合 Matter1.6 NTL 标准器件,实现 Matter NFC 完整配网

意法半导体 ST25DA‑C 是市场首款完整支持 Matter 1.6 NTL(NFC 传输层)规范的动态 NFC 标签器件。传统 Matter 方案依赖 QR 码贴纸或者 BLE 蓝牙完成配网,存在贴纸易损坏、设备必须上电才能 BLE 配网等现实痛点;Matter1.5 版本下 NFC 仅能做入网引导,完整配网依旧需要 BLE 参与。ST25DA‑C 继承 STSAFE 安全元件技术,内置加密运算能力,依靠 NFC 射频取电即可完成预配网,设备上电后直接接入 Matter 网络,实现真正的 “碰‑to‑commission 碰一碰配网”。本文对比新旧 Matter 配网方案差异,拆解 ST25DA‑C 安全能力、硬件规格与工程落地价值,为智能家居 IoT 硬件开发者提供技术参考。

AI&loT 互联技术 RF /微波 碳化硅(SiC)器件 ST(意法半导体)

贸泽赞助|2026 “创造未来” 设计大赛决赛入围名单揭晓,纽约现场演示角逐高额奖金 业界新闻

贸泽赞助|2026 “创造未来” 设计大赛决赛入围名单揭晓,纽约现场演示角逐高额奖金

贸泽电子(Mouser)持续赞助的全球知名“创造未来(Create the Future)” 设计大赛,公布 2026 年度决赛入围名单。本届赛事由 SAE Media Group 与《Tech Briefs》主办,英特尔、ADI、COMSOL 联合参与赞助,入围作品将赴纽约开展现场演示,共同角逐 25000 美元最高奖金。大赛分为航空航天国防、汽车交通、电子产品、能源动力、制造材料、医疗、机器人自动化七大赛道。本文整理全部决赛入围项目、赛事背景,一览全球工程师面向民生改善、可持续发展的创新成果。

医疗穿戴 汽车电子 MOUSER(贸泽)

埃赛力达推出 OmniCure AC7+ UV‑LED 面光源固化系统:辐照强度提升 40%,支持分段 LED 模组控制 新品速递

埃赛力达推出 OmniCure AC7+ UV‑LED 面光源固化系统:辐照强度提升 40%,支持分段 LED 模组控制

埃赛力达(Excelitas)正式发布新一代OmniCure AC7+ UV‑LED 面光源固化平台,在成熟 AC7 平台基础上实现辐照强度最高 40% 提升,峰值辐照强度超过 7.5 W/cm²,纵向均匀度优于 ±5%。产品具备 LED 模组级分段控制、RS485 组网通信、增强热管理与 VOC 防护,提供 150 mm、300 mm 两种固化宽度,向后兼容老 AC7 设备。广泛用于显示器、触摸屏、光学薄膜、医疗器械、半导体晶圆胶带加工等自动化产线,本文梳理产品升级要点、核心特性与应用场景,为工业 UV 固化选型提供参考。

通信广电 医疗穿戴 光电显示 LED驱动 Excelitas(埃赛力达)

特别推荐

更多

行业动态

更多

技术应用

更多

选型替代

更多

产品信息

更多

热门搜索

更多

欢迎登录

没有账号,

账号注册

注册成功!

3S后自动为你跳转登陆