产品对比

H200 SXM vs NVIDIA H100 NVL 94 GB

GPU GPU
基本信息
发布日期 Nov 2023 Mar 2023
产品系列 Hopper Server Hopper
类型 AI GPU AI GPU
总线接口 PCIe 5.0 x16 PCIe 5.0 x16
时钟速度
基础频率 1590 MHz 1080 MHz
最大睿频 1980 MHz 1785 MHz
显存频率 1313 MHz 1313 MHz
显存
显存容量 141GB 94GB
显存类型 HBM3e HBM3
显存位宽 5120bit 6016bit
显存带宽 4800GB/s 3.95TB/s
渲染规格
GPU大核数量 132 132
流处理器数量 16896 16896
纹理单元 528 528
光栅单元 24 24
张量核心 528 528
一级缓存 256 KB (per SM) 256 KB (per SM)
二级缓存 50 MB 50 MB
理论性能
像素填充率 47.52 GPixel/s 42.84 GPixel/s
纹理填充率 1045 GTexel/s 942.5 GTexel/s
FP16性能 1979 TFLOPS 241.3 TFLOPS
FP32性能 67 TFLOPS 60.32 TFLOPS
FP64性能 34 TFLOPS 30.16 TFLOPS
图形处理器
GPU型号 GH200 GH100
架构 Hopper Hopper
芯片厂 TSMC TSMC
芯片工艺 4 nm 5 nm
晶体管数量 80 billion 80 billion
芯片面积 814 mm² 814 mm²
板卡设计
功耗 700W 400W
建议电源功率 1100 W 800 W
输出接口 No outputs No outputs
电源接口 8-pin EPS 8-pin EPS
图形特性
DirectX N/A N/A
OpenGL N/A N/A
OpenCL 3.0 3.0
Vulkan N/A N/A
CUDA 9.0 9.0
Shader Model N/A N/A