NVIDIA L40 CNX vs NVIDIA H200 NVL
GPU 사양 비교
그래픽 카드
출시일
Oct 2022
Nov 2024
세대
Tesla Ada
Server Hopper
유형
Professional
AI GPU
버스 인터페이스
PCIe 4.0 x16
PCIe 5.0 x16
클럭 속도
기본 클럭
1005 MHz
1365 MHz
부스트 클럭
2475 MHz
1785 MHz
메모리 클럭
2250 MHz
1593 MHz
메모리
메모리 크기
24GB
141GB
메모리 타입
GDDR6
HBM3e
메모리 버스
384bit
6144bit
대역폭
864.0GB/s
4.89TB/s
렌더링 설정
스트림 프로세서 개수
142
132
새딩 유닛
18176
16896
텍스처 매핑 유닛
568
528
렌더 출력 파이프라인
192
24
텐서 코어
568
528
레이 트레이싱 코어
142
-
L1 캐시
128 KB (per SM)
256 KB (per SM)
L2 캐시
48 MB
50 MB
이론적 성능
픽셀 속도
475.2 GPixel/s
42.84 GPixel/s
텍스처 속도
1406 GTexel/s
942.5 GTexel/s
FP16 (반 정밀도)
89.97 TFLOPS
241.3 TFLOPS
FP32 (단 정밀도)
89.97 TFLOPS
60.32 TFLOPS
FP64 (배 정밀도)
1406 GFLOPS
30.16 TFLOPS
그래픽 프로세서
GPU 이름
AD102
GH100
GPU 변형
AD102-???-A1
-
아키텍처
Ada Lovelace
Hopper
파운드리
TSMC
TSMC
제조 공정 크기
4 nm
5 nm
트랜지스터
76.3 billion
80 billion
다이 크기
608 mm²
814 mm²
보드 디자인
TDP
300W
600W
권장 전원 공급 장치
700 W
1000 W
출력 포트
1x HDMI 2.13x DisplayPort 1.4a
No outputs
전원 연결자
1x 16-pin
8-pin EPS
그래픽 기능
DirectX
12 Ultimate (12_2)
N/A
OpenGL
4.6
N/A
OpenCL
3.0
3.0
Vulkan
1.3
N/A
CUDA
8.9
9.0
쉐이더 모델
6.6
N/A