NVIDIA H200 NVL vs NVIDIA RTX 3500 Mobile Ada Generation

GPU 规格对比

基本信息

发布日期
Nov 2024
Mar 2023
产品系列
Server Hopper
Quadro Ada-M
类型
AI GPU
Mobile
总线接口
PCIe 5.0 x16
PCIe 4.0 x16

时钟速度

基础频率
1365 MHz
1110 MHz
最大睿频
1785 MHz
1545 MHz
显存频率
1593 MHz
2250 MHz

显存

显存容量
141GB
12GB
显存类型
HBM3e
GDDR6
显存位宽
6144bit
192bit
显存带宽
4.89TB/s
432.0GB/s

渲染规格

GPU大核数量
132
40
流处理器数量
16896
5120
纹理单元
528
160
光栅单元
24
64
张量核心
528
160
一级缓存
256 KB (per SM)
128 KB (per SM)
二级缓存
50 MB
48 MB
光追核心
-
40

理论性能

像素填充率
42.84 GPixel/s
98.88 GPixel/s
纹理填充率
942.5 GTexel/s
247.2 GTexel/s
FP16性能
241.3 TFLOPS
15.82 TFLOPS
FP32性能
60.32 TFLOPS
15.82 TFLOPS
FP64性能
30.16 TFLOPS
247.2 GFLOPS

图形处理器

GPU型号
GH100
AD104
架构
Hopper
Ada Lovelace
芯片厂
TSMC
TSMC
芯片工艺
5 nm
5 nm
晶体管数量
80 billion
35.8 billion
芯片面积
814 mm²
294 mm²

板卡设计

功耗
600W
100W
建议电源功率
1000 W
-
输出接口
No outputs
Portable Device Dependent
电源接口
8-pin EPS
None

图形特性

DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.3
CUDA
9.0
8.9
Shader Model
N/A
6.7