NVIDIA H200 SXM 141 GB vs NVIDIA RTX 4000 Ada Generation
GPU 规格对比
基本信息
发布日期
Nov 2024
Aug 2023
产品系列
Server Hopper
Workstation Ada
类型
AI GPU
Desktop
总线接口
PCIe 5.0 x16
PCIe 4.0 x16
时钟速度
基础频率
1500 MHz
1500 MHz
最大睿频
1980 MHz
2175 MHz
显存频率
1593 MHz
2250 MHz
显存
显存容量
141GB
20GB
显存类型
HBM3e
GDDR6
显存位宽
6144bit
160bit
显存带宽
4.89TB/s
360.0GB/s
渲染规格
GPU大核数量
132
48
流处理器数量
16896
6144
纹理单元
528
192
光栅单元
24
64
张量核心
528
192
一级缓存
256 KB (per SM)
128 KB (per SM)
二级缓存
50 MB
48 MB
光追核心
-
48
理论性能
像素填充率
47.52 GPixel/s
139.2 GPixel/s
纹理填充率
1045.4 GTexel/s
417.6 GTexel/s
FP16性能
267.6 TFLOPS
26.73 TFLOPS
FP32性能
66.91 TFLOPS
26.73 TFLOPS
FP64性能
33.45 TFLOPS
417.6 GFLOPS
图形处理器
GPU型号
GH100
AD104
架构
Hopper
Ada Lovelace
芯片厂
TSMC
TSMC
芯片工艺
5 nm
5 nm
晶体管数量
80 billion
35.8 billion
芯片面积
814 mm²
294 mm²
板卡设计
功耗
700W
130W
建议电源功率
1100 W
300 W
输出接口
No outputs
4x DisplayPort 1.4a
电源接口
8-pin EPS
1x 16-pin
图形特性
DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.3
CUDA
9.0
8.9
Shader Model
N/A
6.8