英伟达GTC大会发布新的Blackwell计算平台

英伟达GTC大会发布新的Blackwell计算平台

英伟达上周召开了GTC大会发布了一堆新硬件和机器人平台，其中Blackwell架构比前代Hopper架构的训练性能提升2.5倍，推理性能提升5倍，太强了。

• NVIDIA推出新的Blackwell计算平台，旨在为万亿参数的大语言模型实现实时生成式AI。
• Blackwell架构比前代Hopper架构的训练性能提升2.5倍(FP8)，推理性能提升5倍(FP4)，采用第五代NVLink互连，可扩展到576个GPU。
• NVIDIA GB200 Grace Blackwell超级芯片通过900GB/s超低功耗NVLink芯片间互连，将两个Blackwell B200 GPU连接到Grace CPU，实现高度集成和内存一致性。
• NVIDIA推出NVLink Switch芯片，每个可以以1.8TB/s的速度连接四个NVLink，并通过片上通信减少来降低网络开销。
• NVIDIA GB200 NVL72是一个多节点、液冷、机架式系统，在单机架内可提供720 PFLOPS的AI训练性能和1.4 EFLOPS的AI推理性能。
• 全新NVIDIA DGX SuperPOD采用NVIDIA GB200 Grace Blackwell超级芯片，专为万亿参数模型设计，可提供11.5 EFLOPS的AI超算能力(FP4)和240TB高速内存。
• NVIDIA发布NIM(NVIDIA Inference Microservices)，通过组装加速库和生成式AI模型，让开发者能更轻松地构建和部署定制化AI应用
• NVIDIA Omniverse Cloud以API形式开放，让开发者能将Omniverse核心技术集成到设计、自动化软件和仿真工作流中，加速构建数字孪生应用。
• NVIDIA发布Isaac机器人平台更新，包括Isaac Perceptor感知SDK和Isaac Manipulator机械臂控制库。同时宣布面向人形机器人的Jetson
• Thor计算机和Project GR00T通用基础模型。
• NVIDIA与台积电、新思科技合作，将突破性的计算光刻(computational lithography)平台cuLitho推向量产，可将芯片制造中的光刻工艺加速40-60倍。