NVIDIA H100传输速率带宽
时间: 2023-09-21 22:08:20 浏览: 416
NVIDIA H100 GPU 核心资料白皮书-解密了H100核心及PCIE5.0-SXM5总线互联技术
NVIDIA H100的传输速率和带宽取决于其NVLink 3.0连接器和PCIe Gen4 x16接口的性能。具体而言,NVIDIA H100使用了6个NVLink 3.0连接器,每个连接器的理论传输速率为112 Gb/s,每个连接器可以支持4个链路,因此每个H100卡可支持24个链路。此外,NVIDIA H100采用了PCIe Gen4 x16接口,理论传输速率为31.5 GB/s。
因此,NVIDIA H100的总带宽可以通过NVLink 3.0连接器和PCIe Gen4 x16接口的带宽相加来计算。根据理论值,NVIDIA H100的NVLink 3.0连接器的总带宽为6个连接器* 112 Gb/s * 4个链路=2,688 Gb/s,而PCIe Gen4 x16接口的带宽为31.5 GB/s。因此,NVIDIA H100的总带宽约为2.7 TB/s。
需要注意的是,实际的带宽可能会因为系统环境、应用场景等因素而有所不同,具体的带宽表现需要根据实际环境进行测试。
阅读全文