业界新闻

运营商集采新风口:AI服务器需求高涨,新要求带来新机遇

发布时间:2023-10-07 00:00:00 责任编辑:wenwei

【导读】继多家行业头部企业宣布算力领域最新布局后,中国电信近日也公布了最新进展,其AI算力服务器(2023-2024年)集中采购项目已批准,公司首次将AI算力服务器作为独立品类进行集采。


7.jpg


目前在算力领域,多家企业正围绕AI大模型热潮带来的智算市场加快布局,将智算视为今年的重点业务板块,产业链中的高性能服务器、交换机、CPO、存储芯片等多细分领域将受益;同时,国产化算力替代亦存在机会,不过国产芯片短期尚存短板。


中国电信首次独立集采AI算力服务器


据中国电信官网消息,公司AI算力服务器(2023-2024年)集采项目已批准,此次招标人为中国电信集团有限公司、中国电信股份有限公司。


记者获悉,本项目分4个标包,分别为训练型风冷服务器(I系列)、训练型液冷服务器(I系列)、训练型风冷服务器(G系列)、训练型液冷服务器(G系列)。预估采购规模为4175台,I系列配套InfiniBand交换机1182台。


值得关注的是,此次集采以训练型服务器为主,实际上近段时间在人工智能、大模型方面中国电信频频发声。2023中国算力大会上,中国电信董事长柯瑞文称,“当前算力基础设施正由通用算力为主向通算、智算、超算一体化演进,为以人工智能为代表的新一轮科技革命和产业变革注入强劲动力。”根据公司最新财报,中国电信持续优化“2+4+31+X+O”算力布局,上半年智算新增1.8EFLOPS,达4.7EFLOPS,增幅62%。7月初,中国电信还首发TeleChat大模型。


中国电信亦同步披露一项智算集采。根据公告,天翼云2023年GPU智算专区建设工程项目现已具备采购条件,拟采取单一来源方式采购。因涉及需要HPC相关性能优化的软件包授权,为华为不可替代的专有技术,本次确定单一来源供应商为华为。


AI高算力需求牵引服务器内高速通信技术迭代升级


AI大模型迭出带来数据处理量指数级增长,带动AI云端算力需求快速拉升。自2022年下半年以来AIGC(AI-Generated Content,人工智能生成内容)实现技术和产业端的快速发展。以OpenAI GPT系列的版本演进为例,从GPT-1(2018.06)到GPT-2(2019.02)、GPT-3(2020.05)、GPT-3.5(2022.11)、GPT-4(2023.03),参数量和语料库持续升级。目前AI超大模型的参数已经达到千亿、甚至万亿数量级,且在训练过程中,各类中间变量均需要存储,以上海量数据对训练场景下的算力和显存需求均提出了高要求。中国信通院预计,2030年全球算力总规模有望达到56ZFlps,2021-2030年CAGR约65%,其中智能算力贡献主要增长动能。


服务器内部各种高速连接需求大幅增长,需要承载量更大的传输通道作为支撑。我们观察到,GPT-3.5模型训练所使用的微软Azure AI云计算平台采用了分布式训练“多卡多机”的模式,涉及大量数据在GPU之间、GPU与CPU、GPU与内存等单元之间的传输,并增加了跨服务器的通信需求,服务器内部板上通信技术迎来大规模升级。此外,AI算力的提升方式,除了依靠单体GPU卡的算力迭代,还需要高速的芯片互联技术作为有力支撑,从而实现多颗GPU之间的高效聚合、提升GPU算力的可扩展性,进而形成强大的集群算力。我们认为,为提升异构并行处理超大数据量的效率,板上芯片间互联、片内Die间互联总线均需升级。


PCIe总线持续升级,NVLink引领服务器内部通信新变革。PCIe平均每三年升级一代标准,目前市场呈现多世代并存局面,我们认为在高性能服务器需求高增趋势下,CPU迭代有望加速PCIe 5.0大规模商用进程;同时,PCIe Retimer和Switch芯片在高速PCIe通路中发挥重要作用,市场空间可期。在AI异构计算场景中,算力的持续增强不仅依赖单张GPU卡的性能提升,还需要多卡高效聚合,NVLink成为实现多GPU间高速互联的关键通道,并引入基于NVLink高级通信能力构建的NVSwitch芯片以解决GPU间通讯不均衡问题,进而构成全带宽连接的多节点GPU集群。


先进封装技术不断进阶,ABF载板景气提升。众核异构方案推动先进封装技术向更高连接密度演进,全球先进封装需求呈增长态势,其中Fan-out、2.5D/3D封装市场增速领跑行业。从先进封装材料看,我们认为ABF载板作为CPU、GPU等高运算性能芯片的重要承载,有望受益于AI浪潮带来的高算力芯片需求激增;同时,Chiplet异构集成下裸片间连接需求增加,ABF载板面积增加、且载板消耗量因良率下降而增加,先进载板需求进一步向上。


PCB高速化带动板材升级,上游树脂材料有望向PPO切换。得益于服务器平台持续迭代、叠加以更高端PCB为算力载体的AI服务器需求高涨,我们认为由M6及以上覆铜板材料制成的超过16层的PCB有望在服务器市场中快速渗透,PCB板有望迎来量价齐升。聚焦覆铜板上游树脂材料,我们看好聚苯醚(PPO)凭借改性后优异的电化学性能(低介电损耗、高加工稳定性、耐热性等)逐步取代传统树脂,在下游高端服务器需求增长、覆铜板高频高速化发展的驱动下,改性PPO市场增长空间广阔。


国产AI服务器市场空间广阔


由于海量数据处理需求激增、AI模型算法渐趋复杂以及算力投资具备的强经济效益,AI算力产业的长期发展前景广阔,迎来投资机遇。


算力是AI产业发展的根基,迎来持续政策支持。数据的快速增长以及算法模型的复杂化需要更强算力的支撑,同时算力还具备极强的经济效益,据统计计算力指数平均每提高1点,国家的数字经济和GDP将分别增长3.5‰和1.8‰,因而成为政府政策支持的重点。目前,我国AI产业已经迎来了以《新一代人工智能发展规划》为顶层定调,各部委、各地方政府政策辅助落地的“1+N”的产业政策体系,进入2023年以来,北京市、深圳市、上海市等地都密集出台AI产业支持政策,行业迎来持续政策催化。


AI服务器市场空间广阔,中国厂商表现亮眼。根据IDC统计,2021年全球AI服务器市场规模为156.3亿美元,预计2026年将增长至347.1亿美元;2021年中国AI服务器市场规模为59.2亿美元,预计2026年将增长至123.4亿美元,长期成长空间广阔。2021年浪潮信息、新华三(紫光股份)、联想的AI基础设施营收增速领跑全球主要厂商,其中浪潮信息市场份额位居全球第一,未来中国AI服务器厂商有望充分受益于下游需求的持续释放,迎来长足发展。


英伟达引领全球AI芯片发展潮流,中国厂商奋起直追,有望超预期发展。在政策与需求的双轮驱动下,中国AI芯片厂商正在奋起直追,尤其是在ASIC路线上加大投入,目前已经涌现出寒武纪、华为昇腾、海光信息、燧原科技等优秀的AI芯片厂商,AI算力性能有显著提升,未来有望实现超预期发展。


来源:贤集网



免责声明:本文为转载文章,转载此文目的在于传递更多信息,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题,请联系小编进行处理。


推荐阅读:


英特尔宣布分拆FPGA业务,目标2-3年后独立IPO!

全球半导体销售额连六个月增长,需求正缓慢回升

台积电Q3营收约5467亿新台币,同比下滑10.8%!

手机、笔电、服务器三大应用终端旺季不旺?

大摩:Meta Quest 3今年出货量将达500万部


为您推荐

意法半导体升级 ST87M01 NB‑IoT 模块,新增 SoftSIM、SGP.32 工厂配置与 Zephyr 生态支持 业界新闻

意法半导体升级 ST87M01 NB‑IoT 模块,新增 SoftSIM、SGP.32 工厂配置与 Zephyr 生态支持

意法半导体宣布为 ST87M01 工业 NB‑IoT 模块新增多项软件能力:集成 Onomondo SoftSIM 软件 SIM 方案、支持 SGP.32 标准工厂端预置 SIM 配置文件,同时发布 Zephyr 操作系统驱动。SoftSIM 无需实体 SIM 器件,可降低生产成本与设备功耗;依托 SGP.32,厂商可在产线直接写入运营商配置,统一工厂预置与后期远程管理。Zephyr 驱动支持 MQTT、CoAP、GNSS 定位等功能,降低开发者集成难度。该模块将在 Enlit Europe、electronica 2026 展会现场进行功能演示,面向表计、资产追踪等空间受限的大规模物联网场景。

AI&loT 通信广电 电源管理 电机驱动 ST(意法半导体)

德州仪器推出 TICS100MOD 与 TIOM2212,扩充多协议工业通信产品组合 新品速递

德州仪器推出 TICS100MOD 与 TIOM2212,扩充多协议工业通信产品组合

达拉斯 11 月 5 日,德州仪器 (TI) 发布两款工业通信全新器件:TICS100MOD 多协议通信 SoM 以及 TIOM2212 双通道 IO‑Link 主站,进一步完善工业通信产品矩阵。TICS100MOD 基于 AM2612 MCU,单硬件可通过固件切换 EtherCAT、EtherNet/IP、Profinet 主流工业以太网协议;TIOM2212 IO‑Link 主站打通以太网到传感器、执行器的链路。依托 PRU‑ICSS 专有实时通信硬件,搭配认证量产软件栈、SDK 开发套件,帮助工程师简化多协议工业系统设计,降低硬件迭代与供应链风险,两款产品将亮相 2026 慕尼黑电子展。

通信广电 互联技术 测试测量 MCU TI(德州仪器)

4×4 MIMO SDR 平台解读:FPGA‑SoM 如何打通射频芯片到完整通信系统 技术应用

4×4 MIMO SDR 平台解读:FPGA‑SoM 如何打通射频芯片到完整通信系统

射频收发芯片不等于完整的无线通信系统,基带处理、多路数据同步、软硬件协同是 SDR 软件定义无线电开发的主要工程壁垒。本文以瑞苏盈科 Enclustra 与 Sequans 联合推出的 4×4 MIMO SDR 参考平台为案例,剖析宽带多天线场景下数据通路设计挑战,解读 FMC+JESD204C 标准化接口带来的集成优势,分析 FPGA SoM 系统级模块的工程价值。同时探讨这套平台在无人机通信、射频监测、5G/6G 预研等领域的应用潜力,重新看待 FPGA 从芯片配套向系统开发平台演进的产业趋势。

通信广电 电路保护 RF /微波 天线 Enclustra

贸泽开售 Samtec VITA 90 VNX + 互连解决方案,适配工业、国防与航空航天严苛场景 业界新闻

贸泽开售 Samtec VITA 90 VNX + 互连解决方案,适配工业、国防与航空航天严苛场景

贸泽电子正式开售 Samtec VITA™ 90 VNX+™模块化互连解决方案,产品面向工业、国防、航空航天等空间受限的严苛工况,集成射频背板、光纤、电源连接能力,支持最高 110GHz 射频、56Gbps PAM4 高速信号,具备浮动盲插保护触点,提供 13mm/19mm 堆叠高度、全 / 半孔径模块,搭配 QMC 夹层卡扩展 I/O 与算力,满足高可靠嵌入式处理系统的设计需求。本文梳理该方案关键特性、模块配置与目标应用方向。

通信广电 电源管理 RF /微波 连接器 SAMTEC

埃赛力达推出 OmniCure AC7+ UV‑LED 面光源固化系统:辐照强度提升 40%,支持分段 LED 模组控制 新品速递

埃赛力达推出 OmniCure AC7+ UV‑LED 面光源固化系统:辐照强度提升 40%,支持分段 LED 模组控制

埃赛力达(Excelitas)正式发布新一代OmniCure AC7+ UV‑LED 面光源固化平台,在成熟 AC7 平台基础上实现辐照强度最高 40% 提升,峰值辐照强度超过 7.5 W/cm²,纵向均匀度优于 ±5%。产品具备 LED 模组级分段控制、RS485 组网通信、增强热管理与 VOC 防护,提供 150 mm、300 mm 两种固化宽度,向后兼容老 AC7 设备。广泛用于显示器、触摸屏、光学薄膜、医疗器械、半导体晶圆胶带加工等自动化产线,本文梳理产品升级要点、核心特性与应用场景,为工业 UV 固化选型提供参考。

通信广电 医疗穿戴 光电显示 LED Excelitas(埃赛力达)

特别推荐

更多

行业动态

更多

技术应用

更多

选型替代

更多

产品信息

更多

热门搜索

更多

欢迎登录

没有账号,

账号注册

注册成功!

3S后自动为你跳转登陆