产品对比

NVIDIA H200 SXM 141 GB vs NVIDIA GeForce RTX 3060 12 GB GA104

GPU GPU
基本信息
发布日期 Nov 2024 Sep 2021
产品系列 Server Hopper GeForce 30
类型 AI GPU Desktop
总线接口 PCIe 5.0 x16 PCIe 4.0 x16
时钟速度
基础频率 1500 MHz 1320 MHz
最大睿频 1980 MHz 1777 MHz
显存频率 1593 MHz 1875 MHz
显存
显存容量 141GB 12GB
显存类型 HBM3e GDDR6
显存位宽 6144bit 192bit
显存带宽 4.89TB/s 360.0GB/s
渲染规格
GPU大核数量 132 28
流处理器数量 16896 3584
纹理单元 528 112
光栅单元 24 64
张量核心 528 112
一级缓存 256 KB (per SM) 128 KB (per SM)
二级缓存 50 MB 3 MB
光追核心 28
理论性能
像素填充率 47.52 GPixel/s 113.7 GPixel/s
纹理填充率 1045.4 GTexel/s 199.0 GTexel/s
FP16性能 267.6 TFLOPS 12.74 TFLOPS
FP32性能 66.91 TFLOPS 12.74 TFLOPS
FP64性能 33.45 TFLOPS 199.0 GFLOPS
图形处理器
GPU型号 GH100 GA104
架构 Hopper Ampere
芯片厂 TSMC Samsung
芯片工艺 5 nm 8 nm
晶体管数量 80 billion 17.4 billion
芯片面积 814 mm² 392 mm²
GPU规格 GA104-150-KC-A1
板卡设计
功耗 700W 170W
建议电源功率 1100 W 450 W
输出接口 No outputs 1x HDMI 2.13x DisplayPort 1.4a
电源接口 8-pin EPS 1x 12-pin
图形特性
DirectX N/A 12 Ultimate (12_2)
OpenGL N/A 4.6
OpenCL 3.0 3.0
Vulkan N/A 1.3
CUDA 9.0 8.6
Shader Model N/A 6.7