微软 Azure ND H100 v5 VM 正式上线:Azure OpenAI 服务覆盖更多地区

AI资讯10个月前发布 AI发条
114 0

AI发条(aifatiao.com) 8月8日消息:今年三月,微软宣布与英伟达合作开发 Azure ND H100 v5 虚拟机系列。今天,微软宣布这些新的超级计算机已经可供使用,为企业提供了更快的生成式 AI 任务性能。

微软 Azure ND H100 v5 VM 正式上线:Azure OpenAI 服务覆盖更多地区

这些新的虚拟机采用了 NVIDIA Tensor Core H100 GPU 和 NVIDIA Quantum-2 InfiniBand 网络。目前,它们已经在东部和西部美国 Azure 地区提供服务。当企业注册并使用这些新的基于 AI 的虚拟机时,可以期待以下几点:

  • 超级计算 GPU:这些虚拟机配备了八个 NVIDIA Tensor Core H100 GPU,承诺比以前的一代显著提高 AI 模型的性能,为企业提供无与伦比的计算能力。

  • 下一代计算处理单元(CPU):我们意识到 CPU 对于 AI 训练和推理的性能至关重要,所以选择了第四代英特尔至强可扩展处理器作为这些虚拟机的基础,确保了最佳的处理速度。

  • 低延迟网络:采用 NVIDIA Quantum-2 CX7 InfiniBand 技术,带有 400GB/s 的跨节点带宽,确保在 GPU 之间实现无缝性能,与全球最强大的超级计算机相当。

  • 优化的主机到 GPU 性能:通过 PCIe Gen5 为每个 GPU 提供 64GB/s 的带宽,Azure 在 CPU 和 GPU 之间实现了显著的性能优势。

  • 大规模内存和内存带宽:DDR5 内存是这些虚拟机的核心,具有更高的数据传输速度和效率,非常适合处理大型数据集的工作负载。

微软表示,在未来一年内,他们将增加数十万个这些新的 GPU 用于虚拟机。

除了新的生成式 AI Azure 虚拟机,微软还宣布扩展了 Azure OpenAI 服务。现在在加拿大东部、美国东部 2、日本东部和英国南部地区提供。该服务将帮助企业创建自己的 AI 应用程序。

微软表示,自三月份首次宣布以来,他们已经看到了企业的非常积极的反应:我们现在自豪地服务于超过 11,000 个客户,每个季度平均吸引 100 个新客户。这种显著增长证明了我们的服务为企业利用 AI 潜力解决其独特需求带来的价值和可扩展性。

微软还补充说,ChatGPT AI 平台的最强大版本 GPT-4 也将在新的 Azure OpenAI 服务地区提供

(本文转载自站长之家)

© 版权声明

相关文章

暂无评论

暂无评论...