业界新闻

云端厂AI战开打,ChatGPT未来迈向商用,GPU需求上看三万颗

发布时间:2023-03-01 00:00:00 责任编辑:wenwei

【导读】ChatGPT近期掀起云端与AI产业话题,Microsoft、Google、百度等相继推出基于生成式AI衍生的产品服务,根据TrendForce集邦咨询最新报告「从AIGC看云端AI应用趋势与挑战」指出,在此热潮下,GPU及AI芯片相关供应链业者如NVIDIA、台积电、欣兴、世芯、力旺等可望受惠。不过,市场普及度和产品服务的功能优化仍待考验,且由于AI是以用户体验为核心,涉及个人信息及内容提供的正确性,因此下个发展阶段或将还会面临法规问题。


18.jpg


TrendForce集邦咨询表示,生成式AI是透过GAN、CLIP、Transformer、Diffusion等算法、预训练模型、多模态等AI技术的整合,在既有数据或资料中寻找规律,并在资料汇整、社交互动、文案产出等领域带出高效的内容产出,以及与用户互动体验。现行市面上已有不少生成式AI的应用,较常见的产出类别包括文字、图像、音乐、编码等。


抢占AI商机,云端大厂应先强化搜寻引擎


数据、算力、算法是深耕生成式AI不可或缺的三大关键,且产品服务易做但优化困难,因此,握有相关资源的云端大厂在发展上将更具优势。就厂商角度而言,由于ChatGPT等生成式AI聊天机器人不仅能与用户自然对话,「类理解需求」的能力使其针对各式咨询能进一步提供建议,加上使用搜寻引擎已相当普遍,故透过强化搜寻引擎已是各云端大厂的首要任务。据TrendForce集邦咨询调查,目前全球搜寻引擎市场以超过9成的Google引擎为首,Microsoft Bing仅占3%,短期间不致造成威胁,但随着用户扩大、数据反馈与模型优化的循环,是否会产生服务差异甚或抢占广告商机,也是Google不得不预防的潜在风险。


GPU及AI芯片需求增,台厂世芯、力旺等受惠


由于生成式AI必须投入巨量数据进行训练,为缩短训练就得采用大量高效能GPU。以ChatGPT背后的GPT模型为例,其训练参数从2018年约1.2亿个到2020年已暴增至近1,800亿个,TrendForce集邦咨询估GPU需求量预估约2万颗,未来迈向商用将上看3万颗(本文计算基础以NVIDIA A100为主)。生成式AI发展将成为趋势,将带动GPU需求显著提升,连带使相关供应链受惠,其中最大受益者是GPU芯片龙头的英伟达(NVIDIA),旗下可达到5 PetaFLOPS运算效能的DGX A100,几乎是目前用于大规模数据分析、AI加速运算的首选;此外,尚有推出MI100、MI200、MI300系列芯片的超威(AMD);台厂方面则有负责晶圆代工的台积电、ABF载板业者南电、景硕、欣兴等、AI芯片相关厂商如创意、世芯、智原、力旺等。


涉及个人信息及内容正确性,生成式AI产品服务将面临法规挑战


以ChatGPT为首的相关应用,直接将AI以简易可互动的方式带到消费者面前,TrendForce集邦咨询预期各行业之语音客服、游戏、零售、语音助理等领域,会是生成式AI发展初期主要的应用领域。考量现行大厂产品仍在持续优化,小厂产品发展有限,故后续产品服务是否能新颖实用兼具,仍是持续推升成长动能的关键。此外,下阶段产业尚须面对法令规范与训练素材之挑战,前者包括其必须保护个人信息、内容正确性,以及合法合规等;后者则仰赖相关知识平台服务商是否能筛选与整合多元内容,并交由生成式AI开发商进行训练。


19.png


来源:TrendForce集邦咨询



免责声明:本文为转载文章,转载此文目的在于传递更多信息,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题,请联系小编进行处理。


推荐阅读:


终端扩容需求凸显,新增行业1TB SSD报价,本周存储行情小幅调整

我国成功制备6英寸氧化镓单晶,第四代半导体正式“撒网”

VCSEL芯片产业崛起,探秘国产VCSEL的“破壁”和“突围”之路

IC通路业者:半导体库存去化速度还是很慢

三星电机、华新科、禾伸堂、顺络电子2022总销售额出炉


为您推荐

亚马逊云科技与NVIDIA宣布大幅扩展战略合作,将新增部署200万GPU 业界新闻

亚马逊云科技与NVIDIA宣布大幅扩展战略合作,将新增部署200万GPU

2026年——当AI工作负载从试点走向规模化生产,从代理式AI延伸到物理AI,算力基础设施的“天花板”正以前所未有的速度被逼近。今天,亚马逊云科技与NVIDIA宣布大幅扩展战略合作,计划于2027-2028年间在全球基础设施中新增部署200万个NVIDIA GPU,并将合作从GPU延伸至Vera CPU、NVHBM定制内存、Spectrum-X网络、Nemotron开放模型乃至机器人物理AI平台。

GPU Nvidia(英伟达)

SuperX 获日本客户 3,880 万美元 B300 GPU 服务器订单,拓展横滨 AI 基础设施项目 市场分析

SuperX 获日本客户 3,880 万美元 B300 GPU 服务器订单,拓展横滨 AI 基础设施项目

AI算力市场的竞争早已不限于芯片本身,服务器集群的交付速度、液冷方案和本地化服务能力正成为客户选择供应商的关键考量。8月25日,纳斯达克上市的SuperX AI Technology宣布,其日本子公司与当地客户Woodman签署了约3880万美元的采购订单,为其横滨AI基础设施项目提供基于NVIDIA B300 GPU的服务器集群,计划11月中旬交付。这是SuperX在日本市场的首笔商业合作,也是公司继RTX Pro 6000产品线布局后,在新一代高密度GPU算力平台上的又一次项目落地。

GPU Nvidia(英伟达)

推理性能飙升 7 倍:NVIDIA Dynamo 1.0 重塑 Blackwell GPU 生产力 选型指南

推理性能飙升 7 倍:NVIDIA Dynamo 1.0 重塑 Blackwell GPU 生产力

在数据中心推理需求呈爆发式增长的背景下,NVIDIA 于 GTC 2026 大会上正式推出了开源软件 NVIDIA Dynamo 1.0,旨在为大规模分布式推理构建生产级的基础架构。作为专为“AI 工厂”打造的分布式“操作系统”,Dynamo 1.0 通过与 NVIDIA Blackwell GPU 平台的深度协同,不仅将推理性能最高提升了 7 倍,更通过智能的资源编排与流量控制技术,有效解决了显存限制与资源浪费难题。

GPU Nvidia(英伟达)

单机架144个GPU!Supermicro全新液冷B300方案实现超大规模无缝扩展 选型指南

单机架144个GPU!Supermicro全新液冷B300方案实现超大规模无缝扩展

Supermicro(超微) 近日宣布其基于 NVIDIA Blackwell架构 的产品线实现重大扩展,正式推出并开始批量供货全新的 4U及2-OU(OCP)液冷式NVIDIA HGX B300系统。这不仅是硬件的迭代,更是其 “数据中心建构组件解决方案” 理念的深化实践,旨在为超大规模数据中心和AI工厂提供前所未有的 GPU计算密度 与 能源效率,直接回应了市场对更高性能、更低总拥有成本的迫切需求。

能源电路 GPU Nvidia(英伟达)

特别推荐

更多

行业动态

更多

技术应用

更多

选型替代

更多

产品信息

更多

热门搜索

更多

欢迎登录

没有账号,

账号注册

注册成功!

3S后自动为你跳转登陆