产品对比

NVIDIA H200 NVL vs NVIDIA TITAN RTX

GPU GPU
基本信息
发布日期 Nov 2024 Dec 2018
产品系列 Server Hopper GeForce 20
类型 AI GPU Desktop
总线接口 PCIe 5.0 x16 PCIe 3.0 x16
时钟速度
基础频率 1365 MHz 1350 MHz
最大睿频 1785 MHz 1770 MHz
显存频率 1593 MHz 1750 MHz
显存
显存容量 141GB 24GB
显存类型 HBM3e GDDR6
显存位宽 6144bit 384bit
显存带宽 4.89TB/s 672.0GB/s
渲染规格
GPU大核数量 132 72
流处理器数量 16896 4608
纹理单元 528 288
光栅单元 24 96
张量核心 528 576
一级缓存 256 KB (per SM) 64 KB (per SM)
二级缓存 50 MB 6 MB
光追核心 72
理论性能
像素填充率 42.84 GPixel/s 169.9 GPixel/s
纹理填充率 942.5 GTexel/s 509.8 GTexel/s
FP16性能 241.3 TFLOPS 32.62 TFLOPS
FP32性能 60.32 TFLOPS 16.31 TFLOPS
FP64性能 30.16 TFLOPS 509.8 GFLOPS
图形处理器
GPU型号 GH100 TU102
架构 Hopper Turing
芯片厂 TSMC TSMC
芯片工艺 5 nm 12 nm
晶体管数量 80 billion 18.6 billion
芯片面积 814 mm² 754 mm²
GPU规格 TU102-400-A1
板卡设计
功耗 600W 280W
建议电源功率 1000 W 600 W
输出接口 No outputs 1x HDMI 2.03x DisplayPort 1.4a1x USB Type-C
电源接口 8-pin EPS 2x 8-pin
图形特性
DirectX N/A 12 Ultimate (12_2)
OpenGL N/A 4.6
OpenCL 3.0 3.0
Vulkan N/A 1.3
CUDA 9.0 7.5
Shader Model N/A 6.6