当地时间3月18日NVIDIA在加州圣何塞举办了2024GTC大会，NVIDIA 创始人兼首席执行官黄仁勋在圣何塞会议中心发表了主题演讲。本次演讲NVIDIA隆重推出了基于下一代Blackwell超级计算架构打造的AI超级计算机——DGX SuperPOD计算机，它配备了GB200 GraceBlackwell超级芯片，GB200将两个B200 Blackwell GPU与一个基于Arm的Grace CPU进行配对。新芯片拥有2080亿个晶体管，所有这些晶体管几乎同时访问与芯片连接的内存。而为了处理大规模数据中心的GPU交互问题，也需要更强的连接（NVLink）能力。

说到NVIDIA B200，它采用台积电定制的4NP工艺制造。这款芯片将两个die连接成一个统一的GPU，通信速度可达10TB/秒。B200芯片使用192GB的HBM3E内存。GB200 Grace Blackwell超级芯片则由2个B200芯片和Grace CPU组合而成，大语言模型性能提升30倍，能耗仅为25分之一。

另外NVIDIA还宣布了新的AI微服务，用于开发和部署企业级生成式AI应用。通过NIMs（Nvidia inference micro service），用与AI聊天的形式调动一堆NIMS来完成训练、应用的部署。英伟达的愿景是成为AI软件的“晶圆厂”。目前NVIDIA的AI微服务NIM网站已经上线。NIM微服务提供了最快、性能最高的AI生产容器，用于部署来自NVIDIA、A121、Adept、Cohere、Getty Images和Shutterstock的模型，以及来自Google、Hugging Face、Meta、Microsoft、Mistral AI和Stability AI的开放模型。

最后NVIDIA宣布了一项名为GR00T的项目，旨在进一步推动英伟达在机器人和具身智能的突破性工作。由GR00T驱动的机器人可以理解自然语言，并通过观察人类动作来模拟运动。

(8613166)


                                        
友情提示
本站部分转载文章，皆来自互联网，仅供参考及分享，并不用于任何商业用途；版权归原作者所有，如涉及作品内容、版权和其他问题，请与本网联系，我们将在第一时间删除内容！  
                                        
联系邮箱：1042463605@qq.com