新闻中心

微软发布 Azure ND H100 v5 虚拟机,配备 8 个英伟达 H100 GPU

2023-11-21
浏览次数:
返回列表

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

微软发布 Azure ND H100 v5 虚拟机,配备 8 个英伟达 H100 GPU

微软 Azure AI 基础设施在11月21日迎来了升级,推出了全新的ND H100 v5虚拟机系列。这款虚拟机配备了英伟达H100 Tensor Core图形处理单元(GPU)和低延迟网络

据介绍,微软全新发布 Azure ND H100 v5 虚拟机(VM)系列,现已在美国东部和美国中南部 Azure 区域提供。

该系列产品采用了最新的英伟达 H100 Tensor Core GPU 和英伟达 Quantum-2 InfiniBand 网络,以应对日益复杂的人工智能工作负载。作为微软对人工智能领域持续深入投资的一部分,微软正在利用一个经过优化的人工智能 4K GPU 集群,并计划在明年将其扩展到数十万个全新的 GPU

我们在这个网站上整理了 ND H100 v5 VM 虚拟机系列的特性:

  • AI 超级计算 GPU:配备了八个英伟达 H100 Tensor Core GPU。比起上一代虚拟机,该系列可让 AI 模型显著提速。
  • 新一代计算机处理单元(CPU):CPU 性能对于 AI 的训练和推理至关重要,微软选择了第四代英特尔 Xeon Scalable 处理器。
  • 低延迟网络:采用英伟达 Quantum-2 ConnectX-7 InfiniBand,每个 GPU 拥有 400Gb / s、每个 VM 拥有 3.2 Tb / s 的跨节点带宽。
  • 优化主机到 GPU 的性能:通过 PCIe Gen5 提供每个 GPU 64GB/s 的带宽。
  • 大规模的内存和内存带宽:DDR5 内存是该系列虚拟机的核心,提供更高的数据传输速度和效率。

微软表示,该系列虚拟机使用新的 8 位 FP8 浮点数据类型进行矩阵乘法操作时,速度提升了六倍,比前一代的 FP16 更快。ND H100 v5 VM 帮助大型语言模型(如 BLOOM 175B 端到端模型)实现了最高两倍的推理速度提升。

以上就是微软发布 Azure ND H100 v5 虚拟机,配备 8 个英伟达 H100 GPU的详细内容,更多请关注其它相关文章!


# 配备了  # 深圳图文营销推广公司  # seo服务公司怎样  # 钻石婚恋网站建设  # 网站建设工作室策划  # 临城seo优化报价  # 电脑网站优化注意事项  # 清徐县集义村网站建设  # 鹤壁官网关键词点击排名  # 网站推广哪家负责  # 许昌360关键词排名  # 微软  # 浮点  # 在这个  # 英特尔  # 微软发布  # 实拍  # 最好用  # 新能源  # 将于  # Azure AI 


相关栏目: 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195


相关推荐: shell如何注释所有命令  双十一的哪一天最优惠呢  苹果ipad爱奇艺怎么投屏到电视  广东春运抢票怎么抢不到  如何激活固态硬盘  如何给电脑加装固态硬盘  如何提高import命令的性能  显示器上power键是什么意思  路由器上面的power红灯是什么意思  如何找出命令行  如何判断固态硬盘  春运抢票失败怎么抢  vivo怎么投屏到电视看爱奇艺教程  笔记本如何选择固态硬盘  双十一哪一天买比较便宜?  固态硬盘颗粒如何修理  什么是夸克模组文件格式  固态硬盘如何判断大小  夸克学习都有什么课程  如何去掉拍电脑的纹路详细教程  折叠屏手机哪个有性价比  主板如何禁用固态硬盘  单片机是怎么复位的  j*a数组怎么新增值  什么是unix时间戳  平板键盘nfc功能是什么意思  j*a 怎么清空数组元素  typescript如何标记私有方法  如何查询固态硬盘序列  单片机怎么判定高电平  为什么夸克网盘下载不了  华硕k20ce怎么装win7  折叠屏手机信号哪个最强  固态硬盘如何安装win10系统安装  显示器power接口是什么意思  折叠屏手机哪个卖得最好  迅达热水器显示power是什么意思  typescript 如何解决 null  广东春运抢票怎么抢的  命令行如何打开打印机  meet是什么意思  新装固态硬盘如何安装  春运抢票最快几天能成功  市盈率tt的扣非是什么意思  typescript有哪些版本  哪个牌子的折叠屏手机好  苹果16有哪些款式的  win10如何开启命令行  51单片机怎么用flash  征信不好如何快速恢复 征信不好快速恢复的方法 

搜索