业界新闻

传英伟达已向SK海力士、美光预购大量HBM3内存

发布时间:2024-01-05 00:00:00 责任编辑:lina

【导读】据业内爆料,除了大量预定台积电产能外,英伟达还斥巨资拿下了HBM3内存的供应合同。消息人士称,该公司从美光和SK海力士那里预购了700亿至1万亿韩元的HBM3内存。虽然没有关于这些款项具体用途的信息,但业界普遍认为其目的在于确保2024年HBM供应稳定。


据业内爆料,除了大量预定台积电产能外,英伟达还斥巨资拿下了HBM3内存的供应合同。消息人士称,该公司从美光和SK海力士那里预购了700亿至1万亿韩元的HBM3内存。虽然没有关于这些款项具体用途的信息,但业界普遍认为其目的在于确保2024年HBM供应稳定。


传英伟达已向SK海力士、美光预购大量HBM3内存

此外,还有业内人士透露,三星电子、SK海力士、美光三大存储公司明年的HBM产能已完全售罄。业界认为,由于AI行业半导体公司之间的激烈竞争,HBM市场预计将在未来两年内实现快速增长。

根据现有爆料信息,英伟达正准备推出两款配备HBM3E内存的产品:配备141GB HBM3E的H200 GPU以及GH200超级芯片,因此英伟达需要大量HBM内存。

H200是目前世界上最强的AI芯片,也是世界上首款采用HBM3e的GPU,基于NVIDIA Hopper架构打造,与H100相互兼容,可提供4.8 TB/s速度。

在人工智能方面,英伟达表示,HGX H200在Llama 2(700 亿参数 LLM)上的推理速度比H100快了一倍。HGX H200将以4路和8路的配置提供,与H100系统中的软件和硬件兼容。它将适用于每一种类型的数据中心(本地、云、混合云和边缘),并由Amazon Web Services、Google Cloud、Microsoft Azure和 Oracle Cloud Infrastructure等部署,将于2024年第二季度推出。


免责声明:本文为转载文章,转载此文目的在于传递更多信息,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题,请联系小编进行处理。


推荐阅读:

固态硬盘近九季首次涨价

NAND芯片疯涨,未来报价涨五成

业界:先进封装材料需求2024年将大幅增长

机构:MCU产业下半年复苏

大摩:联电12纳米进度超预期 有望争取到联发科、英特尔订单


为您推荐

思灵机器人完成 5 亿美元 F 轮融资,投后估值 85 亿美元,加速物理 AI 人形机器人产业化 业界新闻

思灵机器人完成 5 亿美元 F 轮融资,投后估值 85 亿美元,加速物理 AI 人形机器人产业化

物理 AI 企业思灵机器人宣布完成 5 亿美元 F 轮融资,由软银领投,英伟达、日立等参投,投后估值 85 亿美元,累计融资达 20 亿美元。资金将用于产能扩张、海外市场布局与人形机器人应用开发;同步推出适配英伟达 GR00T 生态的 Agile ONE SN 科研人形平台,并联合奥迪、达索、英伟达开展工厂零件拣选项目,公司已落地 20000 套工业机器人方案,冲刺规模化商用。

Nvidia(英伟达)

曦选创智完成 5 亿天使轮融资(投后 40 亿),打造自主可控具身智能端侧算力平台 业界新闻

曦选创智完成 5 亿天使轮融资(投后 40 亿),打造自主可控具身智能端侧算力平台

由优必选、沐曦股份联合发起的曦选创智完成 5 亿元天使轮融资,投后估值 40 亿元。公司聚焦自主可控具身智能端侧芯片,采用 “机器人真实任务牵引芯片定义” 路线,首颗自研主控 SoC 定位大小脑一体架构,对标 NVIDIA Thor,以通用 GPGPU 为核心、搭建类 CUDA 软件生态;本轮资金将投入芯片架构、工具链、团队建设与客户联合验证,计划 2027 年交付验证平台、2028 年推出正式 SoC 产品,补齐国产机器人端侧算力短板。

Nvidia(英伟达)

Supermicro 联合 IBM、NVIDIA 推出 KV Cache 存储方案 大幅优化长上下文 AI 推理 新品速递

Supermicro 联合 IBM、NVIDIA 推出 KV Cache 存储方案 大幅优化长上下文 AI 推理

2026 年 11 月 5 日,Supermicro(美超微,SMCI)宣布携手 IBM、NVIDIA 推出全新 KV Cache 存储解决方案。整套方案搭载 AMD EPYC 9005(Turin)处理器的 Petascale 全闪存存储服务器、IBM Storage Scale、NVIDIA Dynamo 推理框架与 Spectrum-X 以太网,将 KV 缓存卸载至共享存储,突破 GPU 显存限制。基于 1200 亿参数大模型测试,13 万 token 输入下首个词元生成速度提升最高 56 倍,显著提升 GPU 利用率与推理吞吐量,适配 AI 智能体、RAG、多轮对话等长上下文业务。

互联技术 测试测量 存储器 Nvidia(英伟达)

链博会首发|云尖 R8260 N8 AI Agent 服务器:搭载 NVIDIA Vera CPU 新品速递

链博会首发|云尖 R8260 N8 AI Agent 服务器:搭载 NVIDIA Vera CPU

第四届链博会,云尖信息在 NVIDIA 展区发布 R8260 N8 AI Agent 服务器。这款 iPRO 系列 2U 机型搭载 NVIDIA Vera CPU,依托 PCIe 6.0、C2C 一致性互联,主打强单核、高带宽、低功耗,针对性解决 AI Agent 场景 CPU 拖累 GPU、KV Cache 受限等痛点,适配 AI 推理、企业级 Agent、HPC 等业务,兼顾性能与 TCO。

电源管理 互联技术 CPU Nvidia(英伟达)

Cadence 推出 Maestro 领域专用 AI 模型组合,赋能智能体芯片与系统 EDA 设计 新品速递

Cadence 推出 Maestro 领域专用 AI 模型组合,赋能智能体芯片与系统 EDA 设计

楷登电子(Cadence)正式推出 Maestro™领域专用 AI 模型组合,为半导体、系统设计流程中的 AI Super Agent 提供算力支撑。该方案垂直整合强化学习闭环,打通 Maestro 模型、AuraStack/ChipStack 等 Agent 套件与 Cadence EDA、SDA 工具链。实测对比通用大模型,设计成果质量最高提升 30%,Token 效率提升 5 倍;支持混合调用前沿大模型与领域专用模型,兼顾云端与客户本地私有化部署,NVIDIA、Socionext、Silicon Labs 已开展合作验证,首批 Maestro 模型将于 2026 年 Q4 面向早期客户开放。

Nvidia(英伟达)

特别推荐

更多

行业动态

更多

技术应用

更多

选型替代

更多

产品信息

更多

热门搜索

更多

欢迎登录

没有账号,

账号注册

注册成功!

3S后自动为你跳转登陆