产品对比

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 PCIe 96 GB

GPU GPU
基本信息
发布日期 Oct 2022 Mar 2023
产品系列 Server Hopper Tesla Hopper
类型 AI GPU AI GPU
总线接口 PCIe 5.0 x16 PCIe 5.0 x16
时钟速度
基础频率 1095 MHz 1665 MHz
最大睿频 1755 MHz 1837 MHz
显存频率 1593 MHz 1313 MHz
显存
显存容量 80GB 96GB
显存类型 HBM2e HBM3
显存位宽 5120bit 5120bit
显存带宽 2.04TB/s 1681GB/s
渲染规格
GPU大核数量 114 132
流处理器数量 14592 16896
纹理单元 456 528
光栅单元 24 24
张量核心 456 528
一级缓存 256 KB (per SM) 256 KB (per SM)
二级缓存 50 MB 50 MB
理论性能
像素填充率 42.12 GPixel/s 44.09 GPixel/s
纹理填充率 800.3 GTexel/s 969.9 GTexel/s
FP16性能 204.9 TFLOPS 248.3 TFLOPS
FP32性能 51.22 TFLOPS 62.08 TFLOPS
FP64性能 25.61 TFLOPS 31.04 TFLOPS
图形处理器
GPU型号 GH100 GH100
架构 Hopper Hopper
芯片厂 TSMC TSMC
芯片工艺 5 nm 4 nm
晶体管数量 80 billion 80 billion
芯片面积 814 mm² 814 mm²
板卡设计
功耗 350W 700W
建议电源功率 750 W 1100 W
输出接口 No outputs No outputs
电源接口 1x 16-pin 8-pin EPS
图形特性
DirectX N/A N/A
OpenGL N/A N/A
OpenCL 3.0 3.0
Vulkan N/A N/A
CUDA 9.0 9.0
Shader Model N/A N/A