NVIDIA H100 SXM5 94 GB vs NVIDIA GeForce RTX 4090
GPU 사양 비교
그래픽 카드
출시일
Mar 2023
Sep 2022
세대
Server Hopper
GeForce 40
유형
AI GPU
Desktop
버스 인터페이스
PCIe 5.0 x16
PCIe 4.0 x16
클럭 속도
기본 클럭
1350 MHz
2235 MHz
부스트 클럭
1980 MHz
2520 MHz
메모리 클럭
1313 MHz
1313 MHz
메모리
메모리 크기
94GB
24GB
메모리 타입
HBM3
GDDR6X
메모리 버스
5120bit
384bit
대역폭
3.36TB/s
1.01TB/s
렌더링 설정
스트림 프로세서 개수
132
128
새딩 유닛
16896
16384
텍스처 매핑 유닛
528
512
렌더 출력 파이프라인
24
176
텐서 코어
528
512
L1 캐시
256 KB (per SM)
128 KB (per SM)
L2 캐시
50 MB
72 MB
레이 트레이싱 코어
-
128
이론적 성능
픽셀 속도
47.52 GPixel/s
443.5 GPixel/s
텍스처 속도
1045.4 GTexel/s
1290.2 GTexel/s
FP16 (반 정밀도)
267.6 TFLOPS
82.58 TFLOPS
FP32 (단 정밀도)
66.91 TFLOPS
82.58 TFLOPS
FP64 (배 정밀도)
33.45 TFLOPS
1290.2 GFLOPS
그래픽 프로세서
GPU 이름
GH100
AD102
아키텍처
Hopper
Ada Lovelace
파운드리
TSMC
TSMC
제조 공정 크기
5 nm
5 nm
트랜지스터
80 billion
76.3 billion
다이 크기
814 mm²
609 mm²
GPU 변형
-
AD102-300-A1
보드 디자인
TDP
700W
450W
권장 전원 공급 장치
1100 W
850 W
출력 포트
No outputs
1x HDMI 2.13x DisplayPort 1.4a
전원 연결자
8-pin EPS
1x 16-pin
그래픽 기능
DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.4
CUDA
9.0
8.9
쉐이더 모델
N/A
6.8