产品对比

NVIDIA H100 NVL 94 GB vs NVIDIA GeForce GTX 1650 TU106

GPU GPU
基本信息
发布日期 Mar 2023 Jun 2020
产品系列 Server Hopper GeForce 16
类型 AI GPU Desktop
总线接口 PCIe 5.0 x16 PCIe 3.0 x16
时钟速度
基础频率 1080 MHz 1410 MHz
最大睿频 1785 MHz 1590 MHz
显存频率 1313 MHz 1500 MHz
显存
显存容量 94GB 4GB
显存类型 HBM3 GDDR6
显存位宽 6016bit 128bit
显存带宽 3.95TB/s 192.0GB/s
渲染规格
GPU大核数量 132 14
流处理器数量 16896 896
纹理单元 528 56
光栅单元 24 32
张量核心 528
一级缓存 256 KB (per SM) 64 KB (per SM)
二级缓存 50 MB 1024 KB
理论性能
像素填充率 42.84 GPixel/s 50.88 GPixel/s
纹理填充率 942.5 GTexel/s 89.04 GTexel/s
FP16性能 241.3 TFLOPS 5.699 TFLOPS
FP32性能 60.32 TFLOPS 2.849 TFLOPS
FP64性能 30.16 TFLOPS 89.04 GFLOPS
图形处理器
GPU型号 GH100 TU106
架构 Hopper Turing
芯片厂 TSMC TSMC
芯片工艺 5 nm 12 nm
晶体管数量 80 billion 10.8 billion
芯片面积 814 mm² 445 mm²
GPU规格 TU106-125-KAB-A1
板卡设计
功耗 400W 90W
建议电源功率 800 W 250 W
输出接口 No outputs 1x DVI1x HDMI 2.01x DisplayPort 1.4a
电源接口 8-pin EPS 1x 6-pin
图形特性
DirectX N/A 12 Ultimate (12_2)
OpenGL N/A 4.6
OpenCL 3.0 3.0
Vulkan N/A 1.3
CUDA 9.0 7.5
Shader Model N/A 6.6