技术应用

如何应对AI推理的数据洪流?专用SSD与液冷成破局关键

发布时间:2026-02-27 00:00:00 来源:转载 责任编辑:lily

【导读】随着人工智能技术的飞速发展,GPU算力的指数级增长正对底层基础设施提出前所未有的挑战。Solidigm深刻洞察到,单纯依靠计算能力的提升已不足以支撑未来的AI工作负载,存储系统的效率与架构革新成为了决定系统整体性能的关键。面对这一转型,Solidigm总结了当前重塑AI数据存储格局的三大核心趋势:存储发展必须与GPU算力同步演进以打破性能瓶颈,专用AI SSD正从被动存储向主动计算参与者转变,以及液冷技术的兴起将为高密度服务器环境带来物理形态的根本性变革。这些趋势共同指向一个更加均衡、高效且智能的AI基础设施新范式。


趋势一:存储的发展必须与GPU算力齐头并进


当GPU变得日益强劲,存储的效率需要相应提升,在更高的性能要求与更低的功耗之间取得平衡。Solidigm工程经理Hardeep Singh表示:“功耗至关重要。GPU功耗的攀升,要求存储必须变得更高效,用较低的功耗维持高性能。”这给服务器内部和整个集群带来了很多的存储挑战。


在服务器内部,GPU算力的持续增长让存储的性能瓶颈愈发凸显。原因有以下几点:首先,现代加速器消耗数据的速度超过了传统NVMe SSD的数据供给速度。在存储路径无法满足GPU数据需求的环节,将不可避免地带来系统性能的降低。


Solidigm的AI专家们表示,这一挑战在集群层面会进一步加剧:为数千个GPU供给数据,需要大规模的SSD集群。这些集群需要能够提供极高的并行性,在读取密集型的AI工作负载下实现出色的磨损均衡,并且在QoS不会下降的前提下保持性能的稳定。


遗憾的是,存储并不是唯一的瓶颈。范围、规模以及与主机系统的交互都将受到类似影响。确保内部和外部网络能高效地将数据从存储端传输到计算资源将非常重要。


克服这些障碍的方法,在于存储解决方案的规模与扩展能力。我们应该不只关注单个驱动器的速度,还应该关注能够驾驭强大GPU需求的解决方案级能力。如前所述,相较于计算能力,存储效率才是系统性能的决定性因素。


谈及最近发布的NVIDIA推理上下文记忆存储平台(ICMSP),Solidigm AI与生态系统营销总监Ace Stryker剖析道:“多年来,模型训练数据的激增吸引了大量的目光,但真正的爆发其实发生在由RAG数据与KV缓存(模型用于记忆用户交互的上下文)等趋势驱动的AI推理端。”他补充说,NVIDIA的发布印证了这一点。Solidigm凭借其领先的产品、稳固的伙伴关系和深厚的技术积淀,已准备好引领这场变革。


Ace Stryker 表示:“显而易见,通过GPU内存来管理所有内容是天方夜谭,而高性能SSD是正确的解决方案。”


趋势二:专用AI SSD演进,以满足AI存储需求


为支撑AI所需的海量吞吐,SSD从被动的存储设备演变为了主动的计算参与者。SSD架构正在经历着深刻变革,包括:


深度并行:重新设计控制器,为极高的随机读取IOPS服务,同时降低尾延迟峰值,避免AI训练停滞。


精简堆栈:进一步精简PCIe和NVMe堆栈,在数据路径中降低每微秒的延迟。


更智能的固件:先进的遥测和数据放置算法能够预取数据,并将其精确地部署在GPU需要的地方。


存储架构的演进还体现在其利用SSD不同特性的方式上。Solidigm领导力叙事与技术布道总监Scott Shadley指出,SSD一贯的低延迟性能,能够应对持续增长的数据访问需求,而将数据从HDD迁移至SSD,则为实时AI应用提供了数据可用性保障。随着SSD逐渐转变为AI专用驱动器,SSD的角色将不再局限于存储,而更像一种高带宽的内存扩展。


趋势三:液冷存储的兴起


我们预见,2026年最重大的物理形态变革,将是向无风扇的液冷服务器环境的过渡。正如Solidigm AI与领导力营销高级总监Roger Corell所说,对于功率密度日益增高的环境而言,高效的散热管理至关重要;而在散热效率上,液冷比风冷要高出一个数量级。Solidigm团队与NVIDIA率先推出了采用单面冷板技术的液冷eSSD,这一合作是一个很好的范例。


这一物理形态转变的背后,有两大驱动力:其一,当GPU/CPU采用液冷后,传统风扇便失去了存在的必要;其二,随着存储功耗与性能的同步上升,传统风冷已力不从心。


液冷的采用,消除了服务器设计对于风冷的依赖。这使得SSD能在维持同等尺寸的前提下,释放出更高的持续性能。Solidigm AI市场赋能与合作高级总监Avi Shetty表示:“借助远超风冷的散热效率,液冷技术让存储能够从容应对下一代AI系统在散热与密度上的严苛要求。”


借助全液冷的解决方案,我们得以摆脱传统风扇散热的束缚,从而更好地优化系统设计。这一改变赋予了设计更高的自由度,催生了密度更高的服务器形态,并加速了SSD从U.2等传统规格向EDSFF等新形态的过渡。


1772155296289444.jpg


1772155290951103.jpg


SSD:AI的核心赋能者


展望2026年和未来,曾经算力为王的AI时代开始迈向一个更加均衡、整体的基础设施新范式。衡量一个系统性能的,不仅仅是GPU每秒万亿次的浮点运算,更是数据供给的效率。


Solidigm关注的重点从未改变:我们专注于那些足以重塑AI数据存储及未来格局的开拓性理念与创新。我们期待与您携手,共同迈向一个存储扮演AI工作流程中主动、智能参与者角色的未来。


总结

AI时代将从“算力为王”迈向计算与存储协同发展的整体基础设施新纪元。衡量系统性能的标准不再仅仅是GPU的浮点运算能力,更在于数据供给的效率与智能化水平。Solidigm将继续致力于通过开拓性的理念与创新,推动存储角色从被动的数据仓库转变为AI工作流程中主动、智能的参与者。


3-958x200_20251021044704_586.png


为您推荐

新品:闪迪 iNAND CL EM181 e.MMC 闪存,兼顾延续性、耐久度与数据可靠性 新品速递

新品:闪迪 iNAND CL EM181 e.MMC 闪存,兼顾延续性、耐久度与数据可靠性

对于机顶盒、家庭网关、智慧视频等长生命周期 IoT 与物理 AI 设备,存储方案延续性是一大痛点。闪迪在 2026 慕尼黑电子展发布全新 iNAND CL EM181 嵌入式 e.MMC 闪存驱动器,保留成熟 e.MMC 接口,支持客户在大幅减少主机改动的前提下升级新一代 NAND 技术,降低集成与认证成本。产品提供 64GB/128GB/256GB 容量,顺序读写最高 300MB/s、225MB/s,搭载 SmartSLC 与可配置 EUDA 分区,宽温 - 25℃~85℃,搭配 LDPC ECC、电源保护等机制,保障边缘互联设备的数据可靠。

AI&loT 通信广电 电源管理 互联技术 存储器

Supermicro H15 服务器出货:AMD EPYC 9006 支撑智能体 AI、HPC 与云负载 业界新闻

Supermicro H15 服务器出货:AMD EPYC 9006 支撑智能体 AI、HPC 与云负载

Supermicro(SMCI)宣布 H15 代服务器产品组合现已出货,整机基于 DCBBS 模块化数据中心积木架构,搭载第六代 AMD EPYC 9006 系列(Venice)处理器,针对 AMD Instinct 加速器优化,面向智能体 AI、云计算、HPC、存储与边缘场景。相比前代,核心数量提升 33%、PCIe 带宽翻倍、内存带宽提升 2.6 倍,模型 Token 处理能力可达前代 1.8 倍;产品线覆盖 Hyper、CloudDC、FlexTwin 液冷、GrandTwin、Petascale 全闪存、SuperBlade 刀片等 20 余款机型,并同步推进 Helios、Helion 机架级端到端 AI 方案,帮助客户快速搭建高性能 AI 基础设施。

互联技术 存储器 AMD(超微)

AMD EPYC 嵌入式 9006 SP7 正式发布,Zen6 架构最高 256 核 业界新闻

AMD EPYC 嵌入式 9006 SP7 正式发布,Zen6 架构最高 256 核

AMD 正式发布 EPYC(霄龙)嵌入式 9006 系列 SP7 处理器,基于 Zen 6 架构,最高搭载 256 核 512 线程,支持 PCIe Gen6、CXL 3.1 高速互联,配套多层硬件安全引擎与七年产品供货周期。相较上一代 9005 系列,该系列吞吐量最高提升 1.8 倍、内存带宽最高提升 2.7 倍,主打半导体自动测试设备 ATE、企业存储、高端网络防火墙三大高吞吐嵌入式场景,可满足 AI 浪潮下高速内存、SSD 验证、大流量安全处理、密集存储服务的算力与 I/O 需求。128 核 SKU 将于 11 月 15 日上市,其余型号年底前陆续出货,三星、Lanner、Portwell、IEI 等厂商已同步开展平台适配。

互联技术 测试测量 存储器 SAMSUNG(三星)

Supermicro 联合 IBM、NVIDIA 推出 KV Cache 存储方案 大幅优化长上下文 AI 推理 新品速递

Supermicro 联合 IBM、NVIDIA 推出 KV Cache 存储方案 大幅优化长上下文 AI 推理

2026 年 11 月 5 日,Supermicro(美超微,SMCI)宣布携手 IBM、NVIDIA 推出全新 KV Cache 存储解决方案。整套方案搭载 AMD EPYC 9005(Turin)处理器的 Petascale 全闪存存储服务器、IBM Storage Scale、NVIDIA Dynamo 推理框架与 Spectrum-X 以太网,将 KV 缓存卸载至共享存储,突破 GPU 显存限制。基于 1200 亿参数大模型测试,13 万 token 输入下首个词元生成速度提升最高 56 倍,显著提升 GPU 利用率与推理吞吐量,适配 AI 智能体、RAG、多轮对话等长上下文业务。

互联技术 测试测量 存储器 Nvidia(英伟达)

长江存储份额走高,三星、SK 海力士存量厂升级计划面临管制不确定性 业界新闻

长江存储份额走高,三星、SK 海力士存量厂升级计划面临管制不确定性

长江存储本土 NAND 份额已经反超三星,叠加 AI 存储需求爆发,三星、SK 海力士启动国内存量闪存工厂的工艺升级。三星西安厂计划改造至 286 层 V9 NAND,SK 海力士大连厂瞄准 300 层以上产品研发。但整套升级方案受美国设备出口管制约束,设备许可证能否获批尚不明确。两种结果将带来截然不同的产业走向:许可落地会增加国内高堆叠 NAND 供给,缓解 AI SSD 紧缺;审批受阻,则会留给长江存储更多份额提升和产品迭代窗口。

存储器 SAMSUNG(三星)

特别推荐

更多

行业动态

更多

技术应用

更多

选型替代

更多

产品信息

更多

热门搜索

更多

欢迎登录

没有账号,

账号注册

注册成功!

3S后自动为你跳转登陆