NVIDIA H100 SXM5 96 GB vs NVIDIA GeForce RTX 2060 TU104
GPU 规格对比
基本信息
发布日期
Mar 2023
Jan 2020
产品系列
Server Hopper
GeForce 20
类型
AI GPU
Desktop
总线接口
PCIe 5.0 x16
PCIe 3.0 x16
时钟速度
基础频率
1350 MHz
1365 MHz
最大睿频
1980 MHz
1680 MHz
显存频率
1313 MHz
1750 MHz
显存
显存容量
96GB
6GB
显存类型
HBM3
GDDR6
显存位宽
5120bit
192bit
显存带宽
3.36TB/s
336.0GB/s
渲染规格
GPU大核数量
132
30
流处理器数量
16896
1920
纹理单元
528
120
光栅单元
24
48
张量核心
528
240
一级缓存
256 KB (per SM)
64 KB (per SM)
二级缓存
50 MB
3 MB
光追核心
-
30
理论性能
像素填充率
47.52 GPixel/s
80.64 GPixel/s
纹理填充率
1045 GTexel/s
201.6 GTexel/s
FP16性能
267.6 TFLOPS
12.90 TFLOPS
FP32性能
66.91 TFLOPS
6.451 TFLOPS
FP64性能
33.45 TFLOPS
201.6 GFLOPS
图形处理器
GPU型号
GH100
TU104
架构
Hopper
Turing
芯片厂
TSMC
TSMC
芯片工艺
5 nm
12 nm
晶体管数量
80 billion
13.6 billion
芯片面积
814 mm²
545 mm²
GPU规格
-
TU104-150-KC-A1
板卡设计
功耗
700W
160W
建议电源功率
1100 W
450 W
输出接口
No outputs
1x DVI1x HDMI 2.02x DisplayPort 1.4a1x USB Type-C
电源接口
8-pin EPS
1x 8-pin
图形特性
DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.3
CUDA
9.0
7.5
Shader Model
N/A
6.6