NVIDIA H100 NVL 94 GB vs AMD Instinct MI300X
GPU 规格对比
基本信息
发布日期
Mar 2023
Dec 2023
产品系列
Server Hopper
Radeon Instinct
类型
AI GPU
Professional
总线接口
PCIe 5.0 x16
PCIe 5.0 x16
时钟速度
基础频率
1080 MHz
1000 MHz
最大睿频
1785 MHz
2100 MHz
显存频率
1313 MHz
2525 MHz
显存
显存容量
94GB
192GB
显存类型
HBM3
HBM3
显存位宽
6016bit
8192bit
显存带宽
3.95TB/s
10.3TB/s
渲染规格
GPU大核数量
132
-
流处理器数量
16896
19456
纹理单元
528
1216
光栅单元
24
0
张量核心
528
-
一级缓存
256 KB (per SM)
16 KB (per CU)
二级缓存
50 MB
16 MB
计算单元数
-
304
三级缓存
-
256 MB
理论性能
像素填充率
42.84 GPixel/s
0 MPixel/s
纹理填充率
942.5 GTexel/s
2553.6 GTexel/s
FP16性能
241.3 TFLOPS
653.7 TFLOPS
FP32性能
60.32 TFLOPS
81.72 TFLOPS
FP64性能
30.16 TFLOPS
81.72 TFLOPS
图形处理器
GPU型号
GH100
Aqua Vanjaram
架构
Hopper
CDNA 3.0
芯片厂
TSMC
TSMC
芯片工艺
5 nm
5 nm
晶体管数量
80 billion
153 billion
芯片面积
814 mm²
1017 mm²
板卡设计
功耗
400W
750W
建议电源功率
800 W
1150 W
输出接口
No outputs
No outputs
电源接口
8-pin EPS
None
图形特性
DirectX
N/A
N/A
OpenGL
N/A
N/A
OpenCL
3.0
3.0
Vulkan
N/A
N/A
CUDA
9.0
-
Shader Model
N/A
N/A