NVIDIA H100 PCIe 96 GB vs NVIDIA GeForce GTX 1650 TU116

GPU 规格对比

基本信息

发布日期
Mar 2023
Jul 2020
产品系列
Tesla Hopper
GeForce 16
类型
AI GPU
Desktop
总线接口
PCIe 5.0 x16
PCIe 3.0 x16

时钟速度

基础频率
1665 MHz
1410 MHz
最大睿频
1837 MHz
1590 MHz
显存频率
1313 MHz
1500 MHz

显存

显存容量
96GB
4GB
显存类型
HBM3
GDDR6
显存位宽
5120bit
128bit
显存带宽
1681GB/s
192.0GB/s

渲染规格

GPU大核数量
132
14
流处理器数量
16896
896
纹理单元
528
56
光栅单元
24
32
张量核心
528
-
一级缓存
256 KB (per SM)
64 KB (per SM)
二级缓存
50 MB
1024 KB

理论性能

像素填充率
44.09 GPixel/s
50.88 GPixel/s
纹理填充率
969.9 GTexel/s
89.04 GTexel/s
FP16性能
248.3 TFLOPS
5.699 TFLOPS
FP32性能
62.08 TFLOPS
2.849 TFLOPS
FP64性能
31.04 TFLOPS
89.04 GFLOPS

图形处理器

GPU型号
GH100
TU116
架构
Hopper
Turing
芯片厂
TSMC
TSMC
芯片工艺
4 nm
12 nm
晶体管数量
80 billion
6.6 billion
芯片面积
814 mm²
284 mm²
GPU规格
-
TU116-150-KA-A1

板卡设计

功耗
700W
80W
建议电源功率
1100 W
250 W
输出接口
No outputs
1x DVI1x HDMI 2.01x DisplayPort 1.4a
电源接口
8-pin EPS
None

图形特性

DirectX
N/A
12 (12_1)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.3
CUDA
9.0
7.5
Shader Model
N/A
6.6