选型指南

英伟达推出面向企业级服务器的A30和A10 GPU,六类算法测试均刷新纪录

发布时间:2021-04-23 00:00:00 责任编辑:lina

【导读】NVIDIA AI平台在从数据中心到边缘的所有MLPerf基准测试类别中脱颖而出。4月22日消息,NVIDIA宣布其AI推理平台在最新MLPerf基准测试所有类别中展现出的性能均创下纪录。这一AI推理平台通过NVIDIA® A30和A10 GPU对主流服务器实现了全新的扩展。
 
NVIDIA AI平台在从数据中心到边缘的所有MLPerf基准测试类别中脱颖而出。4月22日消息,NVIDIA宣布其AI推理平台在最新MLPerf基准测试所有类别中展现出的性能均创下纪录。这一AI推理平台通过NVIDIA® A30和A10 GPU对主流服务器实现了全新的扩展。
 
英伟达推出面向企业级服务器的A30和A10 GPU,六类算法测试均刷新纪录
 
MLPerf是业界公认的AI性能衡量基准,涵盖计算机视觉、医学影像、推荐系统、语音识别和自然语言处理等一系列工作负载。
 
此次MLPerf是NVIDIA A30和A10 GPU的首秀。两款GPU集高性能与低功耗于一身,可成为企业在AI推理、训练、图形和传统企业级计算工作负载等诸多方面的主流选择。思科、戴尔科技、慧与、浪潮和联想预计将从今年夏季开始将这两款GPU集成到其最高容量的服务器中。
 
NVIDIA能够取得如此佳绩,得益于NVIDIA AI平台的广度,其包含多种类型的GPU和AI软件,包括TensorRT™和NVIDIA Triton™推理服务器—— 微软、Pinterest、Postmates、T-Mobile、USPS和微信等领先企业都部署了该平台。
 
NVIDIA加速计算部门总经理兼副总裁Ian Buck表示:“随着AI持续为各行各业带来变革,MLPerf也成为企业的一项重要工具,能够助力其在IT基础设施投资方面做出明智的决策。如今,所有主要OEM厂商都提交了MLPerf测试结果,NVIDIA及合作伙伴的关注点不仅在于实现全球领先的AI性能,同时还注重通过即将面市的一系列搭载A30和A10 GPU的企业级服务器来实现AI普及化。”
 
MLPerf结果
 
NVIDIA是唯一一家针对数据中心和边缘类别中的每项测试都提交结果的公司,在所有MLPerf工作负载中均展现出顶级的性能。
 
多项提交结果还基于Triton推理服务器,其支持来自所有主要框架的模型,可在GPU及CPU上运行,并针对批处理、实时和串流传输等不同的查询类型进行了优化,可简化在应用中部署AI的复杂性。在配置相当的情况下,采用Triton的提交结果所达到的性能接近于最优化的GPU实现及CPU实现能够达到的性能。
 
NVIDIA还开创性地使用NVIDIA Ampere架构的多实例GPU性能,在单一GPU上使用7个MIG实例,同时运行所有7项MLPerf离线测试。该配置实现了与单一MIG实例独立运行几乎完全相同的性能。
 
这些提交结果展示了MIG的性能和通用性,使基础设施经理能够针对特定应用,配置适当数量的GPU计算,从而让每个数据中心GPU都能发挥最大的效用。
 
除NVIDIA公司提交的测试结果外,多家NVIDIA合作伙伴也提交了共360多项基于NVIDIA GPU的测试结果,包括阿里云、戴尔科技、富士通、技嘉科技、慧与、浪潮、联想和超微。
 
NVIDIA不断拓展的AI平台
 
NVIDIA A30和A10 GPU是NVIDIA AI平台中的最新成员。NVIDIA AI平台包括NVIDIA Ampere架构GPU、NVIDIA Jetson AGX Xavier™、Jetson Xavier NX,以及经优化后能够实现AI加速的全栈NVIDIA软件。
 
A30能够为行业标准服务器提供通用的性能,支持广泛的AI推理和主流企业级计算工作负载,如推荐系统、对话式AI和计算机视觉。
 
英伟达推出面向企业级服务器的A30和A10 GPU,六类算法测试均刷新纪录
 
NVIDIA A10 GPU可加速深度学习推理、交互式渲染、计算机辅助设计和云游戏,使企业能够基于通用基础设施,为混合型AI和图形工作负载提供支持。通过采用NVIDIA虚拟GPU软件,可改进管理,为设计师、工程师、艺术家和科学家所用的虚拟桌面提高利用率并完善配置。
 
NVIDIA Jetson平台基于NVIDIA Xavier™系统级模块,可在边缘提供服务器级的AI性能,助力机器人、医疗健康、零售等领域实现更多的创新应用。Jetson基于NVIDIA的统一架构和CUDA-X™ 软件堆栈,是唯一采用紧凑型设计、能够运行所有边缘工作负载且功耗低于30W的平台。
 
供货
 
NVIDIA A100 GPU搭载于领先服务器制造商的服务器、所有主要云服务提供商的云端,以及NVIDIA DGX™系统产品组合(包括NVIDIA DGX Station A100、NVIDIA DGX A100和NVIDIA DGX SuperPOD)。
 
预计A30和A10(功耗分别为165W和150W)将从今夏起用于各类服务器中,包括经严格测试以确保在各类工作负载下均可实现高性能的NVIDIA认证系统™。
 
Jetson AGX Xavier 和Jetson Xavier NX系统级模块已通过全球经销商供货。
 
NVIDIA Triton和NVIDIA TensorRT均可通过NVIDIA的软件目录NGC™获取。
 
免责声明:本文为转载文章,转载此文目的在于传递更多信息,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题,请电话或者邮箱联系小编进行侵删。
 

为您推荐

AI 芯片监管新路径?解析英伟达 GPU 车队监控软件 技术应用

AI 芯片监管新路径?解析英伟达 GPU 车队监控软件

英伟达推出的可追踪GPU物理位置的车队监控软件备受关注。该软件聚焦AIGPU集群管理,通过NGC平台整合数据,实现GPU状态全方位可视化,能监控核心性能指标,其位置检测功能为反走私提供了新路径。但软件“选择加入”的模式及仅具备观察性、无强制干预能力的特点,使其威慑力受限,也引发了行业对工具功能与效用平衡的探讨,为运营商提供了管理参考。

安防监控 通信广电 测试测量 GPU Nvidia(英伟达)

研华推出MIC-770 V3工业级边缘解决方案 聚焦工业AI,支持NVIDIA L4 GPU 选型指南

研华推出MIC-770 V3工业级边缘解决方案 聚焦工业AI,支持NVIDIA L4 GPU

研华科技近期发布新款GPU边缘计算产品——MIC-770V3模块化工控机,可搭配i-Module系列GPU扩展模块MIC-75M20。此高性能产品可与NVIDIA L4 Tensor Core GPU兼容,支持7,424个CUDA core和24GB GDDR6 GPU内存的同时,功耗仅为72W;此外,该产品经过NVIDIA®L4 GPU NVQual验证,适用于智慧工厂、自动驾驶、自动光学检测(AOI)、医疗设备的AI预测、智慧城市监控和交通等多个场景,能支持深度学习和边缘推理的同时,也将其自身高性能、

医疗穿戴 汽车电子 电源管理 测试测量 GPU Nvidia(英伟达)

Supermicro 联合 IBM、NVIDIA 推出 KV Cache 存储方案 大幅优化长上下文 AI 推理 新品速递

Supermicro 联合 IBM、NVIDIA 推出 KV Cache 存储方案 大幅优化长上下文 AI 推理

2026 年 11 月 5 日,Supermicro(美超微,SMCI)宣布携手 IBM、NVIDIA 推出全新 KV Cache 存储解决方案。整套方案搭载 AMD EPYC 9005(Turin)处理器的 Petascale 全闪存存储服务器、IBM Storage Scale、NVIDIA Dynamo 推理框架与 Spectrum-X 以太网,将 KV 缓存卸载至共享存储,突破 GPU 显存限制。基于 1200 亿参数大模型测试,13 万 token 输入下首个词元生成速度提升最高 56 倍,显著提升 GPU 利用率与推理吞吐量,适配 AI 智能体、RAG、多轮对话等长上下文业务。

互联技术 测试测量 存储器 Nvidia(英伟达)

打通计算与实验闭环:丹纳赫推进互联科学,贝克曼库尔特提供自动化底座 业界新闻

打通计算与实验闭环:丹纳赫推进互联科学,贝克曼库尔特提供自动化底座

近期丹纳赫连续公布两项重磅动作,一方面和英伟达达成合作,共同探索自主科学;另一方面官宣筹备集团首座 AI 自主实验室,整套布局围绕 “互联科学” 展开。双方会结合丹纳赫的科学仪器、自动化产线和实验室流程能力,搭配英伟达 DGX Spark、BioNeMo、Omniverse 数字孪生等 AI 与加速计算技术,搭建模型预测和真实实验互相反馈的闭环。贝克曼库尔特作为集团重要板块,依靠 Biomek 自动化平台、Echo 声波移液等产品,承接自动化执行、高质量实验数据产出这一环,支撑 AI 方案落地。

测试测量 Nvidia(英伟达)

特别推荐

更多

行业动态

更多

技术应用

更多

选型替代

更多

产品信息

更多

热门搜索

更多

欢迎登录

没有账号,

账号注册

注册成功!

3S后自动为你跳转登陆