业界新闻

暴缺!AI供应链:“硬通货”英伟达H100交期超半年

发布时间:2023-05-30 00:00:00 责任编辑:lina

【导读】5月29日据华尔街日报报道,由于用于AI的图形处理器(GPU)几乎全部由英伟达供应,由于ChatGPT等应用制造的巨大缺口,相关型号GPU正面临有史以来最严重的缺货。


暴缺!AI供应链:“硬通货”英伟达H100交期超半年

图:英伟达H100计算卡


OpenAI的一位发言人表示:“业界对GPU的需求非常强劲。”其首席执行官Sam Altman表示,由于处理瓶颈,如果使用ChatGPT的人少一些会更好。

而许多AI企业创始人预计,英伟达GPU的短缺至少会持续到明年。由于各类AI计算需求激增,一些公司不得不封锁云服务器对外开放的容量以避免算力不足导致的崩溃。

业界人士表示,能够获得计算能力的公司仍需等待数周才能使用英伟达的GPU。“即使你已经预先支付了费用,这并不意味着GPU会在接下来的一天或一周内到达你的手中,你只需要等着。”

暴缺!AI供应链:“硬通货”英伟达H100交期超半年

图:某搭载英伟达GPU的AI服务器


而一家服务器制造商及其直接客户表示,他们需要等待六个月以上才能获得英伟达最新的GPU。

台湾晶圆代工界人士证实,近期英伟达已经向台积电数次追加先进制程订单用于H100的晶圆制造。而AMD的CEO表示,该公司GPU的延期交货达到了有史以来的最高水平,该公司正在急于增加生产能力。

报道称,对于训练能够生成原始文本和分析的大型人工智能模型的公司来说,获得数万个先进的GPU至关重要。而英伟达的高端GPU可以同时进行大量计算,这对于AI工作至关重要。

暴缺!AI供应链:“硬通货”英伟达H100交期超半年

图:单价被炒到4万美元的H100


瑞银分析师估计,较早版本的ChatGPT需要大约10,000个GPU,马斯克估计更新的版本需要的GPU是原来的的三到五倍。

芯片大师曾报道芯片成本各不相同,但英伟达的H100计算卡被一些零售商以超过40,000美元的价格出售,尽管在高需求下,它们可以在二级市场上获得更高的价格。

此前有消息称,特斯拉CEO埃隆·马斯克在美国内华达州成立了一家名为X.AI的人工智能公司,旨在与Open AI展开竞争,马斯克为了新项目已经从NVIDIA购买了数千颗高性能GPU。


免责声明:本文为转载文章,转载此文目的在于传递更多信息,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题,请联系小编进行处理。


推荐阅读:

SK海力士第五代10纳米级DDR5 DRAM 全球首次开始数据中心兼容性验证

服务器厂:等待6个月以上才能获得英伟达最新GPU

Arm 发布Cortex X4 :性能提升15%功耗降低40%

佳能成功开发不依赖稀土金属铟的OLED面板

DRAM价格连续12个月走跌,价格已接近材料成本



为您推荐

20万签名力挺黄仁勋回归!英伟达Q3营收创新高,数据中心增长1.1倍 业界新闻

20万签名力挺黄仁勋回归!英伟达Q3营收创新高,数据中心增长1.1倍

11月18日,英伟达发布2027 财年第三季度(截至 2026 年 7 月 26 日),本季度营收 1158亿美元,环比增长20%,同比增长103%,净利润653亿美元,同比增长105%。 其中,数据中心收入达到1076亿美元,同比增长110%。公司的增长主要来自于数据中心业务,体现出人工智能相关的计算需求,继续支撑着它的业绩表现。

Nvidia(英伟达)

思灵机器人完成 5 亿美元 F 轮融资,投后估值 85 亿美元,加速物理 AI 人形机器人产业化 业界新闻

思灵机器人完成 5 亿美元 F 轮融资,投后估值 85 亿美元,加速物理 AI 人形机器人产业化

物理 AI 企业思灵机器人宣布完成 5 亿美元 F 轮融资,由软银领投,英伟达、日立等参投,投后估值 85 亿美元,累计融资达 20 亿美元。资金将用于产能扩张、海外市场布局与人形机器人应用开发;同步推出适配英伟达 GR00T 生态的 Agile ONE SN 科研人形平台,并联合奥迪、达索、英伟达开展工厂零件拣选项目,公司已落地 20000 套工业机器人方案,冲刺规模化商用。

Nvidia(英伟达)

曦选创智完成 5 亿天使轮融资(投后 40 亿),打造自主可控具身智能端侧算力平台 业界新闻

曦选创智完成 5 亿天使轮融资(投后 40 亿),打造自主可控具身智能端侧算力平台

由优必选、沐曦股份联合发起的曦选创智完成 5 亿元天使轮融资,投后估值 40 亿元。公司聚焦自主可控具身智能端侧芯片,采用 “机器人真实任务牵引芯片定义” 路线,首颗自研主控 SoC 定位大小脑一体架构,对标 NVIDIA Thor,以通用 GPGPU 为核心、搭建类 CUDA 软件生态;本轮资金将投入芯片架构、工具链、团队建设与客户联合验证,计划 2027 年交付验证平台、2028 年推出正式 SoC 产品,补齐国产机器人端侧算力短板。

Nvidia(英伟达)

Supermicro 联合 IBM、NVIDIA 推出 KV Cache 存储方案 大幅优化长上下文 AI 推理 解决方案

Supermicro 联合 IBM、NVIDIA 推出 KV Cache 存储方案 大幅优化长上下文 AI 推理

2026 年 11 月 5 日,Supermicro(美超微,SMCI)宣布携手 IBM、NVIDIA 推出全新 KV Cache 存储解决方案。整套方案搭载 AMD EPYC 9005(Turin)处理器的 Petascale 全闪存存储服务器、IBM Storage Scale、NVIDIA Dynamo 推理框架与 Spectrum-X 以太网,将 KV 缓存卸载至共享存储,突破 GPU 显存限制。基于 1200 亿参数大模型测试,13 万 token 输入下首个词元生成速度提升最高 56 倍,显著提升 GPU 利用率与推理吞吐量,适配 AI 智能体、RAG、多轮对话等长上下文业务。

互联技术 测试测量 存储器 Nvidia(英伟达)

链博会首发|云尖 R8260 N8 AI Agent 服务器:搭载 NVIDIA Vera CPU 新品速递

链博会首发|云尖 R8260 N8 AI Agent 服务器:搭载 NVIDIA Vera CPU

第四届链博会,云尖信息在 NVIDIA 展区发布 R8260 N8 AI Agent 服务器。这款 iPRO 系列 2U 机型搭载 NVIDIA Vera CPU,依托 PCIe 6.0、C2C 一致性互联,主打强单核、高带宽、低功耗,针对性解决 AI Agent 场景 CPU 拖累 GPU、KV Cache 受限等痛点,适配 AI 推理、企业级 Agent、HPC 等业务,兼顾性能与 TCO。

电源管理 互联技术 CPU Nvidia(英伟达)

特别推荐

更多

行业动态

更多

技术应用

更多

选型替代

更多

产品信息

更多

热门搜索

更多

欢迎登录

没有账号,

账号注册

注册成功!

3S后自动为你跳转登陆