产品对比

NVIDIA H100 PCIe 96 GB vs NVIDIA RTX 4000 SFF Ada Generation

GPU GPU
基本信息
发布日期 Mar 2023 Nov 2018
产品系列 Tesla Hopper Radeon Instinct
类型 AI GPU Professional
总线接口 PCIe 5.0 x16 PCIe 4.0 x16
时钟速度
基础频率 1665 MHz 1200 MHz
最大睿频 1837 MHz 1746 MHz
显存频率 1313 MHz 1000 MHz
显存
显存容量 96GB 16GB
显存类型 HBM3 HBM2
显存位宽 5120bit 4096bit
显存带宽 1681GB/s 1.02TB/s
渲染规格
GPU大核数量 132 48
流处理器数量 16896 3840
纹理单元 528 240
光栅单元 24 64
张量核心 528 192
一级缓存 256 KB (per SM) 16 KB (per CU)
二级缓存 50 MB 4 MB
计算单元数 60
光追核心 48
理论性能
像素填充率 44.09 GPixel/s 111.7 GPixel/s
纹理填充率 969.9 GTexel/s 419.0 GTexel/s
FP16性能 248.3 TFLOPS 26.82 TFLOPS
FP32性能 62.08 TFLOPS 13.41 TFLOPS
FP64性能 31.04 TFLOPS 6.705 TFLOPS
图形处理器
GPU型号 GH100 Vega 20
架构 Hopper GCN 5.1
芯片厂 TSMC TSMC
芯片工艺 4 nm 7 nm
晶体管数量 80 billion 13.23 billion
芯片面积 814 mm² 331 mm²
GPU规格 Vega 20 GLXT
板卡设计
功耗 700W 300W
建议电源功率 1100 W 700 W
输出接口 No outputs 1x mini-DisplayPort 1.4a
电源接口 8-pin EPS 2x 8-pin
图形特性
DirectX N/A 12 (12_1)
OpenGL N/A 4.6
OpenCL 3.0 2.1
Vulkan N/A 1.3
CUDA 9.0 8.9
Shader Model N/A 6.7