NVIDIA H100 PCIe 96 GB vs NVIDIA RTX 4000 SFF Ada Generation
GPU 规格对比
基本信息
发布日期
Mar 2023
Nov 2018
产品系列
Tesla Hopper
Radeon Instinct
类型
AI GPU
Professional
总线接口
PCIe 5.0 x16
PCIe 4.0 x16
时钟速度
基础频率
1665 MHz
1200 MHz
最大睿频
1837 MHz
1746 MHz
显存频率
1313 MHz
1000 MHz
显存
显存容量
96GB
16GB
显存类型
HBM3
HBM2
显存位宽
5120bit
4096bit
显存带宽
1681GB/s
1.02TB/s
渲染规格
GPU大核数量
132
48
流处理器数量
16896
3840
纹理单元
528
240
光栅单元
24
64
张量核心
528
192
一级缓存
256 KB (per SM)
16 KB (per CU)
二级缓存
50 MB
4 MB
计算单元数
-
60
光追核心
-
48
理论性能
像素填充率
44.09 GPixel/s
111.7 GPixel/s
纹理填充率
969.9 GTexel/s
419.0 GTexel/s
FP16性能
248.3 TFLOPS
26.82 TFLOPS
FP32性能
62.08 TFLOPS
13.41 TFLOPS
FP64性能
31.04 TFLOPS
6.705 TFLOPS
图形处理器
GPU型号
GH100
Vega 20
架构
Hopper
GCN 5.1
芯片厂
TSMC
TSMC
芯片工艺
4 nm
7 nm
晶体管数量
80 billion
13.23 billion
芯片面积
814 mm²
331 mm²
GPU规格
-
Vega 20 GLXT
板卡设计
功耗
700W
300W
建议电源功率
1100 W
700 W
输出接口
No outputs
1x mini-DisplayPort 1.4a
电源接口
8-pin EPS
2x 8-pin
图形特性
DirectX
N/A
12 (12_1)
OpenGL
N/A
4.6
OpenCL
3.0
2.1
Vulkan
N/A
1.3
CUDA
9.0
8.9
Shader Model
N/A
6.7