产品对比

AMD Instinct MI300A vs NVIDIA H100 SXM5 96 GB

GPU GPU
基本信息
发布日期 Dec 2023 Mar 2023
产品系列 Radeon Instinct Server Hopper
类型 Professional AI GPU
总线接口 PCIe 5.0 x16 PCIe 5.0 x16
时钟速度
基础频率 1000 MHz 1350 MHz
最大睿频 2100 MHz 1980 MHz
显存频率 1300 MHz 1313 MHz
显存
显存容量 128GB 96GB
显存类型 HBM3 HBM3
显存位宽 8192bit 5120bit
显存带宽 5.32TB/s 3.36TB/s
渲染规格
计算单元数 228
流处理器数量 14592 16896
纹理单元 912 528
光栅单元 0 24
一级缓存 16 KB (per CU) 256 KB (per SM)
二级缓存 16 MB 50 MB
三级缓存 256 MB
GPU大核数量 132
张量核心 528
理论性能
像素填充率 0 MPixel/s 47.52 GPixel/s
纹理填充率 1915.2 GTexel/s 1045 GTexel/s
FP16性能 653.7 TFLOPS 267.6 TFLOPS
FP32性能 61.29 TFLOPS 66.91 TFLOPS
FP64性能 30.64 TFLOPS 33.45 TFLOPS
图形处理器
GPU型号 Aqua Vanjaram GH100
架构 CDNA 3.0 Hopper
芯片厂 TSMC TSMC
芯片工艺 5 nm 5 nm
晶体管数量 153 billion 80 billion
芯片面积 1017 mm² 814 mm²
板卡设计
功耗 750W 700W
建议电源功率 1150 W 1100 W
输出接口 No outputs No outputs
电源接口 None 8-pin EPS
图形特性
DirectX N/A N/A
OpenGL N/A N/A
OpenCL 3.0 3.0
Vulkan N/A N/A
Shader Model N/A N/A
CUDA 9.0