NVIDIA H100 SXM5 vs NVIDIA L4

GPU 사양 비교

G

NVIDIA H100 SXM5

NVIDIA 2022-03
G

NVIDIA L4

NVIDIA 2023-03

그래픽 카드

출시일
Mar 2022
Mar 2023
세대
Tesla Hopper
Tesla Ada(Lxx)
유형
AI GPU
Professional
버스 인터페이스
PCIe 5.0 x16
PCIe 4.0 x16

클럭 속도

기본 클럭
1590 MHz
795 MHz
부스트 클럭
1980 MHz
2040 MHz
메모리 클럭
1313 MHz
1563 MHz

메모리

메모리 크기
80GB
24GB
메모리 타입
HBM3
GDDR6
메모리 버스
5120bit
192bit
대역폭
3350GB/s
300.1GB/s

렌더링 설정

스트림 프로세서 개수
132
60
새딩 유닛
16896
7424
텍스처 매핑 유닛
528
240
렌더 출력 파이프라인
24
80
텐서 코어
528
240
L1 캐시
256 KB (per SM)
128 KB (per SM)
L2 캐시
50 MB
48 MB
레이 트레이싱 코어
-
60

이론적 성능

픽셀 속도
47.52 GPixel/s
163.2 GPixel/s
텍스처 속도
1045 GTexel/s
489.6 GTexel/s
FP16 (반 정밀도)
267.6 TFLOPS
30.29 TFLOPS
FP32 (단 정밀도)
66.91 TFLOPS
30.29 TFLOPS
FP64 (배 정밀도)
33.45 TFLOPS
473.3 GFLOPS

그래픽 프로세서

GPU 이름
GH100
AD104
아키텍처
Hopper
Ada Lovelace
파운드리
TSMC
TSMC
제조 공정 크기
4 nm
5 nm
트랜지스터
80 billion
35.8 billion
다이 크기
814 mm²
294 mm²
GPU 변형
-
AD104-???-A1

보드 디자인

TDP
700W
72W
권장 전원 공급 장치
1100 W
250 W
출력 포트
No outputs
No outputs
전원 연결자
8-pin EPS
None

그래픽 기능

DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.3
CUDA
9.0
8.9
쉐이더 모델
N/A
6.8