产品对比

NVIDIA L40S vs NVIDIA H200 SXM 141 GB

GPU GPU
基本信息
发布日期 Oct 2022 Nov 2024
产品系列 Server Ada Server Hopper
类型 Professional AI GPU
总线接口 PCIe 4.0 x16 PCIe 5.0 x16
时钟速度
基础频率 1065 MHz 1500 MHz
最大睿频 2520 MHz 1980 MHz
显存频率 2250 MHz 1593 MHz
显存
显存容量 48GB 141GB
显存类型 GDDR6 HBM3e
显存位宽 384bit 6144bit
显存带宽 864.0GB/s 4.89TB/s
渲染规格
GPU大核数量 142 132
流处理器数量 18176 16896
纹理单元 568 528
光栅单元 192 24
张量核心 568 528
光追核心 142
一级缓存 128 KB (per SM) 256 KB (per SM)
二级缓存 48 MB 50 MB
理论性能
像素填充率 483.8 GPixel/s 47.52 GPixel/s
纹理填充率 1431.4 GTexel/s 1045.4 GTexel/s
FP16性能 91.61 TFLOPS 267.6 TFLOPS
FP32性能 91.61 TFLOPS 66.91 TFLOPS
FP64性能 1431.4 GFLOPS 33.45 TFLOPS
图形处理器
GPU型号 AD102 GH100
GPU规格 AD102-896-A1
架构 Ada Lovelace Hopper
芯片厂 TSMC TSMC
芯片工艺 5 nm 5 nm
晶体管数量 76.3 billion 80 billion
芯片面积 609 mm² 814 mm²
板卡设计
功耗 350W 700W
建议电源功率 750 W 1100 W
输出接口 4x DisplayPort 1.4a No outputs
电源接口 1x 16-pin 8-pin EPS
图形特性
DirectX 12 Ultimate (12_2) N/A
OpenGL 4.6 N/A
OpenCL 3.0 3.0
Vulkan 1.4 N/A
CUDA 8.9 9.0
Shader Model 6.9 N/A