富拓集团

为人工智能推理时代铺平道路

时间:2025-05-05 05:05:34分类:娱乐来源:

英伟达推出英伟达Blackwell人工智能工厂平台的英伟下一代产品--英伟达Blackwell Ultra,能够轻松高效地进行前训练、平破性后训练和推理AI推断。台提体验

英伟达在GTC 2025上宣布,供突推出英伟达Blackwell人工智能工厂平台的英伟下一代产品--英伟达Blackwell Ultra,为人工智能推理时代铺平道路。平破性英伟达Blackwell Ultra增强了训练和测试时间扩展推理能力(即在推理过程中应用更多计算以提高准确性的台提体验艺术),使各地组织能够加速人工智能推理、供突代理人工智能和物理人工智能等应用。英伟黄仁勋表示:“人工智能已经取得了巨大的平破性飞跃--推理和代理式人工智能需要更多数量级的计算性能。“我们为这一时刻设计了Blackwell Ultra--它是台提体验一个单一的多功能平台,能够轻松高效地进行前训练、供突后训练和推理AI推断。英伟”

Blackwell Ultra以一年前推出的平破性开创性Blackwell架构为基础,包括英伟达GB300 NVL72机架规模解决方案和英伟达HGX B300 NVL16系统。台提体验GB300 NVL72的人工智能性能是NVIDIA GB200 NVL72的1.5倍,与使用NVIDIA Hopper™构建的人工智能工厂相比,Blackwell的收入机会增加了50倍。NVIDIA GB300 NVL72将72个Blackwell Ultra GPU和36个基于Neoverse的Arm NVIDIA Grace CPU连接在一个机架规模的设计中,作为一个为测试时间扩展而构建的大型GPU。有了英伟达GB300 NVL72,人工智能模型可以利用该平台增加的计算能力探索不同的问题解决方案,并将复杂的请求分解为多个步骤,从而获得更高质量的响应。

GB300 NVL72预计也将在英伟达DGX云平台上推出,该平台是领先云平台上的端到端、全面管理的人工智能平台,可通过软件、服务和人工智能专业知识优化性能,以应对不断变化的工作负载。配备DGX GB300系统的NVIDIA DGX SuperPOD™采用GB300 NVL72机架设计,为客户提供交钥匙AI工厂。与Hopper一代相比,英伟达HGX B300 NVL16的大型语言模型推理速度提高了11倍,计算能力提高了7倍,内存容量提高了4倍,为人工智能推理等最复杂的工作负载提供了突破性的性能。

一周热点

编辑推荐

copyright © 2016 powered by 富拓集团   sitemap