产品对比

NVIDIA H200 NVL vs AMD Radeon Instinct MI300A

GPU GPU
基本信息
发布日期 Nov 2024 Dec 2023
产品系列 Server Hopper Radeon Instinct
类型 AI GPU Desktop
总线接口 PCIe 5.0 x16 PCIe 5.0 x16
时钟速度
基础频率 1365 MHz 1000 MHz
最大睿频 1785 MHz 2100 MHz
显存频率 1593 MHz 2525 MHz
显存
显存容量 141GB 192GB
显存类型 HBM3e HBM3
显存位宽 6144bit 8192bit
显存带宽 4.89TB/s 10.3TB/s
渲染规格
GPU大核数量 132
流处理器数量 16896 19456
纹理单元 528 1216
光栅单元 24 0
张量核心 528 1216
一级缓存 256 KB (per SM) 16 KB (per CU)
二级缓存 50 MB 16 MB
计算单元数 304
三级缓存 256 MB
理论性能
像素填充率 42.84 GPixel/s 0 MPixel/s
纹理填充率 942.5 GTexel/s 2554 GTexel/s
FP16性能 241.3 TFLOPS 653.7 TFLOPS
FP32性能 60.32 TFLOPS 81.72 TFLOPS
FP64性能 30.16 TFLOPS 81.72 TFLOPS
图形处理器
GPU型号 GH100 Aqua Vanjaram
架构 Hopper CDNA 3.0
芯片厂 TSMC TSMC
芯片工艺 5 nm 5 nm
晶体管数量 80 billion 153 billion
芯片面积 814 mm² 1017 mm²
板卡设计
功耗 600W 750W
建议电源功率 1000 W 1150 W
输出接口 No outputs No outputs
电源接口 8-pin EPS None
图形特性
DirectX N/A N/A
OpenGL N/A N/A
OpenCL 3.0 3.0
Vulkan N/A N/A
CUDA 9.0
Shader Model N/A N/A