产品对比

NVIDIA GeForce RTX 4060 Ti 16 GB vs NVIDIA H100 SXM5 94 GB

GPU GPU
基本信息
发布日期 May 2023 Mar 2023
产品系列 GeForce 40 Server Hopper
类型 Desktop AI GPU
总线接口 PCIe 4.0 x8 PCIe 5.0 x16
时钟速度
基础频率 2310 MHz 1350 MHz
最大睿频 2535 MHz 1980 MHz
显存频率 2250 MHz 1313 MHz
显存
显存容量 16GB 94GB
显存类型 GDDR6 HBM3
显存位宽 128bit 5120bit
显存带宽 288.0GB/s 3.36TB/s
渲染规格
GPU大核数量 34 132
流处理器数量 4352 16896
纹理单元 136 528
光栅单元 48 24
张量核心 136 528
光追核心 34
一级缓存 128 KB (per SM) 256 KB (per SM)
二级缓存 32 MB 50 MB
理论性能
像素填充率 121.7 GPixel/s 47.52 GPixel/s
纹理填充率 344.8 GTexel/s 1045.4 GTexel/s
FP16性能 22.06 TFLOPS 267.6 TFLOPS
FP32性能 22.06 TFLOPS 66.91 TFLOPS
FP64性能 344.8 GFLOPS 33.45 TFLOPS
图形处理器
GPU型号 AD106 GH100
GPU规格 AD106-351-A1
架构 Ada Lovelace Hopper
芯片厂 TSMC TSMC
芯片工艺 5 nm 5 nm
晶体管数量 22.9 billion 80 billion
芯片面积 188 mm² 814 mm²
板卡设计
功耗 165W 700W
建议电源功率 450 W 1100 W
输出接口 1x HDMI 2.13x DisplayPort 1.4a No outputs
电源接口 1x 16-pin 8-pin EPS
图形特性
DirectX 12 Ultimate (12_2) N/A
OpenGL 4.6 N/A
OpenCL 3.0 3.0
Vulkan 1.3 N/A
CUDA 8.9 9.0
Shader Model 6.7 N/A