业界新闻

拯救内存市场?ChatGPT效应下HBM需求不断提升

发布时间:2023-02-17 00:00:00 责任编辑:wenwei

【导读】ChatGPT聊天机器人已经从下游AI应用“火”到了上游的芯片领域,作为一款自然语言类AI应用,ChatGPT算力需求巨大,其发展离不开高性能计算芯片的支持,比如GPU。


6.jpg


此外,在AI算力中,内存技术也非常重要,比如HBM技术,受益于ChatGPT的火爆,正从幕后走向台前。


1 ChatGPT爆红提升HBM需求


近日,韩媒报道2023年开年后三星、SK海力士两家存储大厂HBM订单快速增加,价格也水涨船高,市场人士透露近期HBM3规格DRAM价格上涨5倍。


业界认为,ChatGPT的出现使得HBM市场需求提升,这有望为存储器市场带来了新的发展机会。


资料显示,HBM(High Bandwidth Memory,高带宽存储器)是一种可以实现高带宽的高附加值DRAM产品,与普通DRAM相比,HBM以堆叠方式实现更大带宽,带宽是指在特定单位时间内可以传输的数据量,基于该特性,HBM主要应用于高性能计算场景中,比如超级计算机、AI加速器、高性能服务器领域。


HBM在与CPU及GPU协同工作中,可以提高机器学习和计算性能。目前ChatGPT的火热发展已令英伟达等GPU厂商受益——ChatGPT使用了1万多个英伟达的“A100”GPU学习了庞大的文档数据。而HBM可以安装在GPU中,通过高速数据处理,不断完善ChatGTP服务体验,英伟达“A100”就最高配备了80GB HBM2内存。


此外,媒体报道英伟达已经要求存储厂商生产最新的HBM3内存,搭配英伟达的A100 GPU供ChatGPT使用。


2 HBM市场两大主流厂商介绍


目前HBM市场以SK海力士与三星为主,SK海力士HBM技术起步早,占据较大市场。


SK海力士


早在2014年SK海力士便与AMD联合开发了全球首款硅通孔(TSV, Through Silicon Via)HBM产品。


2018年SK海力士发布第二代HBM产品HBM2,容量为4GB/8GB,对比第一代新增多项增强型功能,比如伪通道模式优化内存访问并降低延迟,从而提高有效带宽。


2020年SK海力士发布HBM2的扩展版本HBM2E,容量为8GB/16GB,是HBM2的两倍,具有技术更先进、应用范围更广泛、速度更快、容量更大、散热性能更好等特点。


2021年10月SK海力士发布全球首款HBM3,容量是HBM2E的1.5倍,由12个DRAM芯片堆叠成,总封装高度相同,适用于AI、HPC等容量密集型应用,该产品已于2022年6月开始量产。


此外,SK海力士还在研发HBM4,预计新一代产品将能够更广泛地应用于高性能数据中心、超级计算机和人工智能等领域。


三星


三星HBM的布局从HBM2开始,2016年1月,三星宣布开始量产4GB HBM2 DRAM,同年三星生产8GB HBM2 DRAM。


2018年初三星开始投产第二代HBM2,代号为“Aquabolt”,单颗封装容量达8GB,带宽307GB/s。


2020年2月三星宣布推出HBM2E Flashbolt,与前一代8GB HBM2“Aquabolt”相比,16GB HBM2E Flashbolt容量翻倍,带宽增加至538GB/s,提升约1.75倍。


此外,2021年2月三星还与AMD合作开发HBM-PIM(processing-in-memory) ,将内存和AI处理器合而为一,在CPU和GPU安装HBM-PIM时,显著提高服务器运算速度。


来源:全球半导体观察,奉颖娴



免责声明:本文为转载文章,转载此文目的在于传递更多信息,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题,请联系小编进行处理。


推荐阅读:


SiC,将拿下30%的功率器件市场

IC设计商现阶段去库存 代工折扣不显效

台湾半导体产值今年恐将下滑5.6%,IC设计业或表现最差

MLCC产业重镇突发地震,村田、三星回应

高压快充陆续“上车”,碳化硅器件成香饽饽,成本下降打开市场渗透率


为您推荐

IC China 2026|长鑫车规内存亮相,LPDDR5X 双封装方案落地,加速 LPDDR6 车载导入 业界新闻

IC China 2026|长鑫车规内存亮相,LPDDR5X 双封装方案落地,加速 LPDDR6 车载导入

IC China 2026 期间,长鑫科技展出车规级 LPDDR5X 内存方案,配套 315 焊球、441 焊球两种封装形态,适配不同车载域控带宽与集成需求。产品已拿下 AEC-Q100 Grade 2、ISO 26262 ASIL D 功能安全认证;公司同时推进 LPDDR6 向车载场景拓展,瞄准高阶智驾、AI 座舱带来的车载 DRAM 增量需求,打造国产智能汽车存储底座。

汽车电子 EMC安规 内存

长鑫科技:算力超级周期进入分层时代,三大场景内存产品集中展出 业界新闻

长鑫科技:算力超级周期进入分层时代,三大场景内存产品集中展出

在 IC China 2026 上,长鑫科技提出算力超级周期迈入分层时代的判断,并集中展出服务器、手机、汽车三大场景内存产品。展品覆盖 DDR5 RDIMM/MRDIMM、全球首发量产 LPDDR6、通过 ASIL D 认证的车规内存,依托 G5 第五代 DRAM 工艺平台,搭配高强度研发投入,面向智算、端侧 AI、智能汽车提供差异化存储方案,持续夯实国产 DRAM 算力底座。

汽车电子 EMC安规 内存

宜鼎国际布局 AI 数据中心:推出企业级 eSSD 与 AI 服务器内存,搭配 CXL 内存扩展模组 新品速递

宜鼎国际布局 AI 数据中心:推出企业级 eSSD 与 AI 服务器内存,搭配 CXL 内存扩展模组

随着 AI 数据中心规模持续扩张,存储与内存的性能、稳定性成为制约大模型训练和推理的关键。宜鼎国际(Innodisk)加码数据中心赛道,推出企业级 SSD 与 AI 服务器内存模组产品组合。SSD 分为服务器启动盘与本地高速存储两大产品线,PCIe Gen5 5TS-P 顺序读速最高 14GB/s,支持 E1.S、U.2 形态和 OCP Inspired 认证;内存端包含 DDR5 MRDIMM、RDIMM 以及 CXL 内存扩展模组,依托内存池化技术提升资源利用率。产品支持固件定制、断电保护、带外管理,搭配长期稳定供货能力,服务云服务商的 AI、HPC 数据密集型业务,目前多款 SSD 已开放送样。

电路保护 互联技术 内存 innodisk(宜鼎)

不加大内存也能提升多任务性能,江波龙与全志联合验证 HLCache 存储优化方案 业界新闻

不加大内存也能提升多任务性能,江波龙与全志联合验证 HLCache 存储优化方案

端侧 AI 普及之后,平板、IoT 设备多任务越来越多,厂商普遍面临两难:加大 DRAM 会拉高整机 BOM,小内存又容易出现 App 后台被杀、切换卡顿。江波龙自研 HLCache™高级缓存技术,把 DRAM 里的冷数据分流到 UFS 闪存,用存储硬件分担内存压力,不用扩容物理内存就能改善流畅度。近期江波龙与全志科技达成联合测试,在全志 A 系列 AI 芯片平台上,对搭载慧忆微自研主控的 HLCache UFS 完成整机调优。实测结果显示,仅配备 4GB DDR 的设备,开启这项技术后,App 保活率实现翻倍,应用启动速度已经追上常规 6GB 内存机型,为 IoT 与平板厂商提供了低成本优化方案。该方案还支持手机、AI PC 等多类终端,即将在慕尼黑电子展现场演示。

AI&loT 通信广电 测试测量 内存

澜起科技RCD05量产落地,内存接口芯片赛道再提速 业界新闻

澜起科技RCD05量产落地,内存接口芯片赛道再提速

随着AI算力需求持续爆发,高端服务器内存传输速率大幅升级,内存接口芯片作为突破服务器性能瓶颈的核心器件,行业竞争愈发激烈。在此背景下,澜起科技新一代DDR5第五代寄存时钟驱动器芯片RCD05正式实现量产。该芯片大幅提升内存数据传输速率,优化信号传输稳定性,能够有效改善高端AI服务器的内存运行性能。依托持续的技术迭代节奏与多层次产品布局,这款新品的落地不仅是企业技术实力的体现,也是其稳固行业龙头地位、抢占高端服务器内存市场的重要布局。

互联技术 内存

特别推荐

更多

行业动态

更多

技术应用

更多

选型替代

更多

产品信息

更多

热门搜索

更多

欢迎登录

没有账号,

账号注册

注册成功!

3S后自动为你跳转登陆