NVIDIA H100 SXM5 vs NVIDIA L4

GPU 规格对比

G

NVIDIA H100 SXM5

NVIDIA 2022-03
G

NVIDIA L4

NVIDIA 2023-03

基本信息

发布日期
Mar 2022
Mar 2023
产品系列
Tesla Hopper
Tesla Ada(Lxx)
类型
AI GPU
Professional
总线接口
PCIe 5.0 x16
PCIe 4.0 x16

时钟速度

基础频率
1590 MHz
795 MHz
最大睿频
1980 MHz
2040 MHz
显存频率
1313 MHz
1563 MHz

显存

显存容量
80GB
24GB
显存类型
HBM3
GDDR6
显存位宽
5120bit
192bit
显存带宽
3350GB/s
300.1GB/s

渲染规格

GPU大核数量
132
60
流处理器数量
16896
7424
纹理单元
528
240
光栅单元
24
80
张量核心
528
240
一级缓存
256 KB (per SM)
128 KB (per SM)
二级缓存
50 MB
48 MB
光追核心
-
60

理论性能

像素填充率
47.52 GPixel/s
163.2 GPixel/s
纹理填充率
1045 GTexel/s
489.6 GTexel/s
FP16性能
267.6 TFLOPS
30.29 TFLOPS
FP32性能
66.91 TFLOPS
30.29 TFLOPS
FP64性能
33.45 TFLOPS
473.3 GFLOPS

图形处理器

GPU型号
GH100
AD104
架构
Hopper
Ada Lovelace
芯片厂
TSMC
TSMC
芯片工艺
4 nm
5 nm
晶体管数量
80 billion
35.8 billion
芯片面积
814 mm²
294 mm²
GPU规格
-
AD104-???-A1

板卡设计

功耗
700W
72W
建议电源功率
1100 W
250 W
输出接口
No outputs
No outputs
电源接口
8-pin EPS
None

图形特性

DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.3
CUDA
9.0
8.9
Shader Model
N/A
6.8