产品对比

NVIDIA H100 PCIe 80 GB vs NVIDIA RTX A5000 Max-Q

GPU GPU
基本信息
发布日期 Oct 2022 Apr 2021
产品系列 Server Hopper Quadro Ampere-M
类型 AI GPU Mobile
总线接口 PCIe 5.0 x16 PCIe 4.0 x16
时钟速度
基础频率 1095 MHz 720 MHz
最大睿频 1755 MHz 1350 MHz
显存频率 1593 MHz 1500 MHz
显存
显存容量 80GB 16GB
显存类型 HBM2e GDDR6
显存位宽 5120bit 256bit
显存带宽 2.04TB/s 384.0GB/s
渲染规格
GPU大核数量 114 48
流处理器数量 14592 6144
纹理单元 456 192
光栅单元 24 96
张量核心 456 192
一级缓存 256 KB (per SM) 128 KB (per SM)
二级缓存 50 MB 4 MB
光追核心 48
理论性能
像素填充率 42.12 GPixel/s 129.6 GPixel/s
纹理填充率 800.3 GTexel/s 259.2 GTexel/s
FP16性能 204.9 TFLOPS 16.59 TFLOPS
FP32性能 51.22 TFLOPS 16.59 TFLOPS
FP64性能 25.61 TFLOPS 259.2 GFLOPS
图形处理器
GPU型号 GH100 GA104
架构 Hopper Ampere
芯片厂 TSMC Samsung
芯片工艺 5 nm 8 nm
晶体管数量 80 billion 17.4 billion
芯片面积 814 mm² 392 mm²
板卡设计
功耗 350W 80W
建议电源功率 750 W
输出接口 No outputs Portable Device Dependent
电源接口 1x 16-pin None
图形特性
DirectX N/A 12 Ultimate (12_2)
OpenGL N/A 4.6
OpenCL 3.0 3.0
Vulkan N/A 1.3
CUDA 9.0 8.6
Shader Model N/A 6.7