NVIDIA H100 NVL 94 GB vs NVIDIA Tesla T40 24 GB
GPU 规格对比
基本信息
发布日期
Mar 2023
Unknown
产品系列
Server Hopper
Tesla Turing
类型
AI GPU
Professional
总线接口
PCIe 5.0 x16
PCIe 3.0 x16
时钟速度
基础频率
1080 MHz
1305 MHz
最大睿频
1785 MHz
1560 MHz
显存频率
1313 MHz
1625 MHz
显存
显存容量
94GB
24GB
显存类型
HBM3
GDDR6
显存位宽
6016bit
384bit
显存带宽
3.95TB/s
624.0GB/s
渲染规格
GPU大核数量
132
72
流处理器数量
16896
4608
纹理单元
528
288
光栅单元
24
96
张量核心
528
576
一级缓存
256 KB (per SM)
64 KB (per SM)
二级缓存
50 MB
6 MB
光追核心
-
72
理论性能
像素填充率
42.84 GPixel/s
149.8 GPixel/s
纹理填充率
942.5 GTexel/s
449.3 GTexel/s
FP16性能
241.3 TFLOPS
28.75 TFLOPS
FP32性能
60.32 TFLOPS
14.38 TFLOPS
FP64性能
30.16 TFLOPS
449.3 GFLOPS
图形处理器
GPU型号
GH100
TU102
架构
Hopper
Turing
芯片厂
TSMC
TSMC
芯片工艺
5 nm
12 nm
晶体管数量
80 billion
18.6 billion
芯片面积
814 mm²
754 mm²
板卡设计
功耗
400W
250W
建议电源功率
800 W
600 W
输出接口
No outputs
No outputs
电源接口
8-pin EPS
1x 8-pin
图形特性
DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.3
CUDA
9.0
7.5
Shader Model
N/A
6.8