AMD Instinct MI300X vs NVIDIA H100 SXM5 80 GB

GPU 规格对比

G

AMD Instinct MI300X

AMD 2023-12
G

NVIDIA H100 SXM5 80 GB

NVIDIA 2022-10

基本信息

发布日期
Dec 2023
Oct 2022
产品系列
Radeon Instinct
Server Hopper
类型
Professional
AI GPU
总线接口
PCIe 5.0 x16
PCIe 5.0 x16

时钟速度

基础频率
1000 MHz
1590 MHz
最大睿频
2100 MHz
1980 MHz
显存频率
2525 MHz
1313 MHz

显存

显存容量
192GB
80GB
显存类型
HBM3
HBM3
显存位宽
8192bit
5120bit
显存带宽
10.3TB/s
3.36TB/s

渲染规格

计算单元数
304
-
流处理器数量
19456
16896
纹理单元
1216
528
光栅单元
0
24
一级缓存
16 KB (per CU)
256 KB (per SM)
二级缓存
16 MB
50 MB
三级缓存
256 MB
-
GPU大核数量
-
132
张量核心
-
528

理论性能

像素填充率
0 MPixel/s
47.52 GPixel/s
纹理填充率
2553.6 GTexel/s
1045 GTexel/s
FP16性能
653.7 TFLOPS
267.6 TFLOPS
FP32性能
81.72 TFLOPS
66.91 TFLOPS
FP64性能
81.72 TFLOPS
33.45 TFLOPS

图形处理器

GPU型号
Aqua Vanjaram
GH100
架构
CDNA 3.0
Hopper
芯片厂
TSMC
TSMC
芯片工艺
5 nm
5 nm
晶体管数量
153 billion
80 billion
芯片面积
1017 mm²
814 mm²

板卡设计

功耗
750W
700W
建议电源功率
1150 W
1100 W
输出接口
No outputs
No outputs
电源接口
None
None

图形特性

DirectX
N/A
N/A
OpenGL
N/A
N/A
OpenCL
3.0
3.0
Vulkan
N/A
N/A
Shader Model
N/A
N/A
CUDA
-
9.0