产品对比

NVIDIA A40 PCIe vs NVIDIA H100 CNX

GPU GPU
基本信息
发布日期 Oct 2020 Mar 2023
产品系列 Tesla Tesla Hopper
类型 Desktop AI GPU
总线接口 PCIe 4.0 x16 PCIe 5.0 x16
时钟速度
基础频率 1305 MHz 690 MHz
最大睿频 1740 MHz 1845 MHz
显存频率 1812 MHz 1593 MHz
显存
显存容量 48GB 80GB
显存类型 GDDR6 HBM2e
显存位宽 384bit 5120bit
显存带宽 695.8GB/s 2039GB/s
渲染规格
GPU大核数量 84 114
流处理器数量 10752 14592
纹理单元 336 456
光栅单元 112 24
张量核心 336 456
光追核心 84
一级缓存 128 KB (per SM) 256 KB (per SM)
二级缓存 6 MB 50 MB
理论性能
像素填充率 194.9 GPixel/s 44.28 GPixel/s
纹理填充率 584.6 GTexel/s 841.3 GTexel/s
FP16性能 37.42 TFLOPS 215.4 TFLOPS
FP32性能 37.42 TFLOPS 53.84 TFLOPS
FP64性能 584.6 GFLOPS 26.92 TFLOPS
图形处理器
GPU型号 GA102 GH100
架构 Ampere Hopper
芯片厂 Samsung TSMC
芯片工艺 8 nm 4 nm
晶体管数量 28.3 billion 80 billion
芯片面积 628 mm² 814 mm²
板卡设计
功耗 300W 350W
建议电源功率 700 W 750 W
输出接口 3x DisplayPort 1.4a No outputs
电源接口 8-pin EPS 8-pin EPS
图形特性
DirectX 12 Ultimate (12_2) N/A
OpenGL 4.6 N/A
OpenCL 3.0 3.0
Vulkan 1.3 N/A
CUDA 8.6 9.0
Shader Model 6.6 N/A