微软Azure推出NDv6 GB300 VM系列:搭载4600+ NVIDIA Blackwell Ultra GPU的超级计算集群

🎯 情报来源:NVIDIA Blog

微软Azure今日宣布推出NDv6 GB300 VM系列,这是业界首个专为OpenAI最苛刻的AI推理工作负载设计的NVIDIA GB300 NVL72超级计算规模生产集群。该集群配备了超过4600个NVIDIA Blackwell Ultra GPU,通过NVIDIA Quantum-X800 InfiniBand网络平台连接,为推理和训练提供了前所未有的计算规模。

每个NVIDIA GB300 NVL72系统集成了72个Blackwell Ultra GPU和36个Grace CPU,提供37TB的快速内存和1.44 exaflops的FP4 Tensor Core性能。在MLPerf Inference v5.1基准测试中,该系统在6710亿参数的DeepSeek-R1推理模型上实现了比NVIDIA Hopper架构高5倍的吞吐量。

💡 核心要点

  • 4600+ NVIDIA Blackwell Ultra GPU组成的超级计算集群
  • 每个VM提供37TB内存和1.44 exaflops FP4性能
  • 在DeepSeek-R1模型上实现5倍于Hopper架构的吞吐量
  • 第五代NVLink Switch提供130TB/s的机内带宽
  • NVIDIA Quantum-X800 InfiniBand提供800Gb/s的跨机带宽

📌 情报分析

技术价值:极高 – 通过创新的液冷架构和网络设计,实现了超大规模AI模型的训练和推理能力,性能指标突破行业记录。

商业价值:高 – 为OpenAI等客户提供前沿AI基础设施,微软Azure在云计算AI竞赛中取得重要优势。

趋势预测:高 – 随着微软计划部署数十万个Blackwell Ultra GPU,超大规模AI模型将成为行业新常态,推动AI能力边界进一步扩展。

原文连接

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索