NVIDIA L40 CNX vs NVIDIA H200 NVL

GPU 规格对比

G

NVIDIA L40 CNX

NVIDIA 2022-10
G

NVIDIA H200 NVL

NVIDIA 2024-11

基本信息

发布日期
Oct 2022
Nov 2024
产品系列
Tesla Ada
Server Hopper
类型
Professional
AI GPU
总线接口
PCIe 4.0 x16
PCIe 5.0 x16

时钟速度

基础频率
1005 MHz
1365 MHz
最大睿频
2475 MHz
1785 MHz
显存频率
2250 MHz
1593 MHz

显存

显存容量
24GB
141GB
显存类型
GDDR6
HBM3e
显存位宽
384bit
6144bit
显存带宽
864.0GB/s
4.89TB/s

渲染规格

GPU大核数量
142
132
流处理器数量
18176
16896
纹理单元
568
528
光栅单元
192
24
张量核心
568
528
光追核心
142
-
一级缓存
128 KB (per SM)
256 KB (per SM)
二级缓存
48 MB
50 MB

理论性能

像素填充率
475.2 GPixel/s
42.84 GPixel/s
纹理填充率
1406 GTexel/s
942.5 GTexel/s
FP16性能
89.97 TFLOPS
241.3 TFLOPS
FP32性能
89.97 TFLOPS
60.32 TFLOPS
FP64性能
1406 GFLOPS
30.16 TFLOPS

图形处理器

GPU型号
AD102
GH100
GPU规格
AD102-???-A1
-
架构
Ada Lovelace
Hopper
芯片厂
TSMC
TSMC
芯片工艺
4 nm
5 nm
晶体管数量
76.3 billion
80 billion
芯片面积
608 mm²
814 mm²

板卡设计

功耗
300W
600W
建议电源功率
700 W
1000 W
输出接口
1x HDMI 2.13x DisplayPort 1.4a
No outputs
电源接口
1x 16-pin
8-pin EPS

图形特性

DirectX
12 Ultimate (12_2)
N/A
OpenGL
4.6
N/A
OpenCL
3.0
3.0
Vulkan
1.3
N/A
CUDA
8.9
9.0
Shader Model
6.6
N/A