NVIDIA L4 vs AMD Instinct MI300A

GPU 规格对比

G

NVIDIA L4

NVIDIA 2023-03
G

AMD Instinct MI300A

AMD 2023-12

基本信息

发布日期
Mar 2023
Dec 2023
产品系列
Tesla Ada(Lxx)
Radeon Instinct
类型
Professional
Professional
总线接口
PCIe 4.0 x16
PCIe 5.0 x16

时钟速度

基础频率
795 MHz
1000 MHz
最大睿频
2040 MHz
2100 MHz
显存频率
1563 MHz
1300 MHz

显存

显存容量
24GB
128GB
显存类型
GDDR6
HBM3
显存位宽
192bit
8192bit
显存带宽
300.1GB/s
5.32TB/s

渲染规格

GPU大核数量
60
-
流处理器数量
7424
14592
纹理单元
240
912
光栅单元
80
0
张量核心
240
-
光追核心
60
-
一级缓存
128 KB (per SM)
16 KB (per CU)
二级缓存
48 MB
16 MB
计算单元数
-
228
三级缓存
-
256 MB

理论性能

像素填充率
163.2 GPixel/s
0 MPixel/s
纹理填充率
489.6 GTexel/s
1915.2 GTexel/s
FP16性能
30.29 TFLOPS
653.7 TFLOPS
FP32性能
30.29 TFLOPS
61.29 TFLOPS
FP64性能
473.3 GFLOPS
30.64 TFLOPS

图形处理器

GPU型号
AD104
Aqua Vanjaram
GPU规格
AD104-???-A1
-
架构
Ada Lovelace
CDNA 3.0
芯片厂
TSMC
TSMC
芯片工艺
5 nm
5 nm
晶体管数量
35.8 billion
153 billion
芯片面积
294 mm²
1017 mm²

板卡设计

功耗
72W
750W
建议电源功率
250 W
1150 W
输出接口
No outputs
No outputs
电源接口
None
None

图形特性

DirectX
12 Ultimate (12_2)
N/A
OpenGL
4.6
N/A
OpenCL
3.0
3.0
Vulkan
1.3
N/A
CUDA
8.9
-
Shader Model
6.8
N/A