产品对比

NVIDIA H100 SXM5 64 GB vs NVIDIA L40G

GPU GPU
基本信息
发布日期 Mar 2023 Oct 2022
产品系列 Tesla Hopper Tesla Ada
类型 AI GPU Professional
总线接口 PCIe 5.0 x16 PCIe 4.0 x16
时钟速度
基础频率 1665 MHz 1005 MHz
最大睿频 1980 MHz 2475 MHz
显存频率 1313 MHz 2250 MHz
显存
显存容量 64GB 24GB
显存类型 HBM3 GDDR6
显存位宽 3072bit 384bit
显存带宽 2.02TB/s 864.0GB/s
渲染规格
GPU大核数量 132 142
流处理器数量 16896 18176
纹理单元 528 568
光栅单元 24 192
张量核心 528 568
一级缓存 256 KB (per SM) 128 KB (per SM)
二级缓存 30 MB 48 MB
光追核心 142
理论性能
像素填充率 47.52 GPixel/s 475.2 GPixel/s
纹理填充率 1045 GTexel/s 1406 GTexel/s
FP16性能 267.6 TFLOPS 89.97 TFLOPS
FP32性能 66.91 TFLOPS 89.97 TFLOPS
FP64性能 33.45 TFLOPS 1406 GFLOPS
图形处理器
GPU型号 GH100 AD102
架构 Hopper Ada Lovelace
芯片厂 TSMC TSMC
芯片工艺 5 nm 4 nm
晶体管数量 80 billion 76.3 billion
芯片面积 814 mm² 608 mm²
GPU规格 AD102-???-A1
板卡设计
功耗 700W 300W
建议电源功率 1100 W 700 W
输出接口 No outputs 1x HDMI 2.13x DisplayPort 1.4a
电源接口 8-pin EPS 1x 16-pin
图形特性
DirectX N/A 12 Ultimate (12_2)
OpenGL N/A 4.6
OpenCL 3.0 3.0
Vulkan N/A 1.3
CUDA 9.0 8.9
Shader Model N/A 6.6