NVIDIA H100 PCIe 80 GB vs NVIDIA L40

GPU 规格对比

G

NVIDIA H100 PCIe 80 GB

NVIDIA 2022-10
G

NVIDIA L40

NVIDIA 2022-10

基本信息

发布日期
Oct 2022
Oct 2022
产品系列
Server Hopper
Tesla Ada
类型
AI GPU
Professional
总线接口
PCIe 5.0 x16
PCIe 4.0 x16

时钟速度

基础频率
1095 MHz
735 MHz
最大睿频
1755 MHz
2490 MHz
显存频率
1593 MHz
2250 MHz

显存

显存容量
80GB
48GB
显存类型
HBM2e
GDDR6
显存位宽
5120bit
384bit
显存带宽
2.04TB/s
864.0GB/s

渲染规格

GPU大核数量
114
142
流处理器数量
14592
18176
纹理单元
456
568
光栅单元
24
192
张量核心
456
568
一级缓存
256 KB (per SM)
128 KB (per SM)
二级缓存
50 MB
96 MB
光追核心
-
142

理论性能

像素填充率
42.12 GPixel/s
478.1 GPixel/s
纹理填充率
800.3 GTexel/s
1414 GTexel/s
FP16性能
204.9 TFLOPS
90.52 TFLOPS
FP32性能
51.22 TFLOPS
90.52 TFLOPS
FP64性能
25.61 TFLOPS
1414 GFLOPS

图形处理器

GPU型号
GH100
AD102
架构
Hopper
Ada Lovelace
芯片厂
TSMC
TSMC
芯片工艺
5 nm
4 nm
晶体管数量
80 billion
76.3 billion
芯片面积
814 mm²
608 mm²
GPU规格
-
AD102-895-A1

板卡设计

功耗
350W
300W
建议电源功率
750 W
700 W
输出接口
No outputs
4x DisplayPort 1.4a
电源接口
1x 16-pin
1x 16-pin

图形特性

DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.3
CUDA
9.0
8.9
Shader Model
N/A
6.6

📊 基准测试

Blender
-
3,901