选型指南

美光推出性能更出色的大容量高带宽内存 (HBM)助力生成式人工智能创新

发布时间:2023-07-27 00:00:00 责任编辑:lina

【导读】Micron Technology Inc.(美光科技股份有限公司,纳斯达克股票代码:MU)今日宣布,公司已开始出样业界首款8层堆叠的24GB容量第二代HBM3内存,其带宽超过1.2TB/s,引脚速率超过9.2Gb/s,比当前市面上现有的HBM3解决方案性能可提升最高50%。美光第二代HBM3产品与前一代产品相比,每瓦性能提高2.5倍,创下了关键型人工智能(AI)数据中心性能、容量和能效指标的新纪录,将助力业界缩短大型语言模型(如GPT-4及更高版本)的训练时间,为AI推理提供高效的基础设施,并降低总体拥有成本(TCO)。


业界首款8层堆叠的24GB容量第二代HBM3,带宽超过1.2TB/s,先进的1β制程节点提供卓越能效


Micron Technology Inc.(美光科技股份有限公司,纳斯达克股票代码:MU)今日宣布,公司已开始出样业界首款8层堆叠的24GB容量第二代HBM3内存,其带宽超过1.2TB/s,引脚速率超过9.2Gb/s,比当前市面上现有的HBM3解决方案性能可提升最高50%。美光第二代HBM3产品与前一代产品相比,每瓦性能提高2.5倍,创下了关键型人工智能(AI)数据中心性能、容量和能效指标的新纪录,将助力业界缩短大型语言模型(如GPT-4及更高版本)的训练时间,为AI推理提供高效的基础设施,并降低总体拥有成本(TCO)。


美光推出性能更出色的大容量高带宽内存 (HBM)助力生成式人工智能创新


美光基于业界前沿的1β DRAM制程节点推出高带宽内存(HBM)解决方案,将24Gb DRAM裸片封装进行业标准尺寸的8层堆叠模块中。此外,美光12层堆叠的36GB 容量产品也将于2024年第一季度开始出样。与当前市面上其他的8层堆叠解决方案相比,美光HBM3解决方案的容量提升了50%。美光第二代HBM3产品的性能功耗比和引脚速度的提升对于管理当今AI数据中心的极端功耗需求至关重要。美光通过技术革新实现了能效的显著提升,例如与业界其他HBM3解决方案相比,美光将硅通孔(TSV)数量翻倍,增加5倍金属密度以降低热阻,以及设计更为节能的数据通路。


美光推出性能更出色的大容量高带宽内存 (HBM)助力生成式人工智能创新


美光作为2.5D/3D堆叠和先进封装技术领域长久以来的存储领导厂商,有幸成为台积电3DFabric联盟的合作伙伴成员,共同构建半导体和系统创新的未来。在第二代HBM3 产品开发过程中,美光与台积电携手合作,为AI及高性能计算(HPC)设计应用中顺利引入和集成计算系统奠定了基础。台积电目前已收到美光第二代HBM3 内存样片,正与美光密切合作进行下一步的评估和测试,助力客户的下一代高性能计算应用创新。


美光第二代HBM3解决方案满足了生成式AI领域对多模态、数万亿参数AI模型日益增长的需求。凭借高达24GB的单模块容量和超过9.2Gb/s的引脚速率,美光HBM3能使大型语言模型的训练时间缩短30%以上,从而降低总体拥有成本。此外,美光HBM3将触发每日查询量的显著增加,从而更有效地利用训练过的模型。美光第二代HBM3 内存拥有业界一流的每瓦性能,将切实推动现代AI数据中心节省运营开支。在已经部署的1,000万个图形处理器(GPU)用例中,单个HBM模块可节约5W功耗,能在五年内节省高达5.5亿美元的运营费用。


美光副总裁暨计算与网络事业部计算产品事业群总经理 Praveen Vaidyanathan表示:“美光第二代HBM3解决方案旨在为客户及业界提供卓越的人工智能和高性能计算解决方案。我们的一个重要考量标准是,该产品在客户平台上是否易于集成。美光HBM3具有完全可编程的内存内建自测试(MBIST)功能,可在完整规格的引脚速度下运行,使美光能为客户提供更强大的测试能力,实现高效协作,助力客户缩短产品上市时间。”


英伟达超大规模和高性能计算副总裁Ian Buck表示:“生成式AI的核心是加速计算,HBM的高带宽至关重要,并带来更出色的能效。我们与美光在众多产品领域保持了长期合作,非常期待与美光在第二代HBM3产品上继续合作,加速AI创新。”


第二代HBM3是美光领先技术的又一个里程碑。美光此前宣布推出基于1α(1-alpha)节点、24Gb单块DRAM裸片的96GB容量 DDR5模组用于大容量服务器解决方案;如今推出基于1β 节点、24Gb单块DRAM裸片的24GB容量 HBM3产品,并计划于2024年上半年推出基于1β 节点、32Gb单块DRAM裸片的128GB容量 DDR5模组。这些新品展现了美光在AI服务器领域的前沿技术创新。


关于 Micron Technology Inc.(美光科技股份有限公司)


美光科技是创新内存和存储解决方案的业界领导厂商,致力于通过改变世界使用信息的方式来丰富全人类生活。凭借对客户、领先技术、卓越制造和运营的不懈关注,美光通过 Micron® 和 Crucial® 品牌提供 DRAM、NAND 和 NOR 等多个种类的高性能内存以及存储产品组合。我们通过持续不断的创新,赋能数据经济发展,推动人工智能和 5G 应用的进步,从而为数据中心、智能边缘、客户端和移动应用提升用户体验带来更大机遇。


免责声明:本文为转载文章,转载此文目的在于传递更多信息,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题,请联系小编进行处理。


推荐阅读:

埃赛力达科技推出第三代TPG3AD1S09 905 nm脉冲激光二极管

奥拉股份推出超小封装、高带宽骨声纹传感器及降噪解决方案

埃赛力达推出适用于高分辨率应用的新型LINOS机器视觉镜头

金升阳推出800W/1300W 自带PMBus功能数字通信电源—VCB_QBO-xxWR3A-N系列

宜鼎再拓智能化布局 推出工业级空气感测模块


为您推荐

贸泽联手Micron推出全新电子书带你探索面向AI边缘应用的创新内存解决方案与设计 业界新闻

贸泽联手Micron推出全新电子书带你探索面向AI边缘应用的创新内存解决方案与设计

专注于引入新品的全球电子元器件和工业自动化产品授权代理商贸泽电子与Micron合作推出了全新电子书,探讨内存在AI边缘应用中的重要性,以及有效部署边缘人工智能 (AI) 的关键设计考虑因素。Micron是创新内存和存储解决方案的行业知名企业,在边缘计算、数据中心、网络连接和移动等关键市场领域,为AI、机器学习和自动驾驶汽车的发展提供支持。

汽车电子 内存 micron(美光)

美光率先出货用于 AI 数据中心的关键内存产品 选型指南

美光率先出货用于 AI 数据中心的关键内存产品

Micron Technology Inc.(美光科技股份有限公司,纳斯达克股票代码:MU)近日宣布在业界率先验证并出货基于大容量 32Gb 单块 DRAM 芯片的128GB DDR5 RDIMM 内存,其速率在所有主流服务器平台上均高达 5,600 MT/s。该款 128GB DDR5 RDIMM 内存采用美光行业领先的 1β(1-beta) 制程技术,相较于采用 3DS 硅通孔(TSV)技术的竞品,容量密度提升 45% 以上。

内存 micron(美光)

Q2 DRAM均价跌幅收敛至10~15%,仍不见止跌讯号 业界新闻

Q2 DRAM均价跌幅收敛至10~15%,仍不见止跌讯号

TrendForce集邦咨询表示,由于部分供应商如美光(Micron)、SK海力士(SK hynix)已经启动DRAM减产,相较第一季DRAM均价跌幅近20%,预估第二季跌幅会收敛至10~15%。不过,由于2023下半年需求复苏状况仍不明确,DRAM均价下行周期尚不见终止,在目前原厂库存水位仍高的情况下,除非有更大规模的减产发生,后续合约价才有可能反转。

内存 micron(美光)

美光推出全新 Crucial 英睿达 DDR5 内存 选型指南

美光推出全新 Crucial 英睿达 DDR5 内存

Micron Technology Inc.(美光科技股份有限公司)(纳斯达克股票代码:MU)今天宣布,美光 Crucial 英睿达 DDR5 台式电脑(PC)内存产品即将上市,该产品的数据传输速度比上一代 DDR4 内存快 50%,可为主流 PC 用户提供发烧友级别的性能。[7]无论用于商业、学习、创意、互动娱乐还是个人用途,PC 计算体验的决定因素都是性能、灵活性和效率。美光的 DDR5 内存技术进步可为每个内核提供更高带宽,有效内存带宽几乎翻倍,从而[8]为多核 CPU 提供多任务处理和其他要求严苛

内存 micron(美光)

特别推荐

更多

行业动态

更多

技术应用

更多

选型替代

更多

产品信息

更多

热门搜索

更多

欢迎登录

没有账号,

账号注册

注册成功!

3S后自动为你跳转登陆