NVIDIA H100 PCIe 96 GB vs NVIDIA RTX 4000 SFF Ada Generation

GPU 사양 비교

그래픽 카드

출시일
Mar 2023
Nov 2018
세대
Tesla Hopper
Radeon Instinct
유형
AI GPU
Professional
버스 인터페이스
PCIe 5.0 x16
PCIe 4.0 x16

클럭 속도

기본 클럭
1665 MHz
1200 MHz
부스트 클럭
1837 MHz
1746 MHz
메모리 클럭
1313 MHz
1000 MHz

메모리

메모리 크기
96GB
16GB
메모리 타입
HBM3
HBM2
메모리 버스
5120bit
4096bit
대역폭
1681GB/s
1.02TB/s

렌더링 설정

스트림 프로세서 개수
132
48
새딩 유닛
16896
3840
텍스처 매핑 유닛
528
240
렌더 출력 파이프라인
24
64
텐서 코어
528
192
L1 캐시
256 KB (per SM)
16 KB (per CU)
L2 캐시
50 MB
4 MB
컴퓨트 유닛
-
60
레이 트레이싱 코어
-
48

이론적 성능

픽셀 속도
44.09 GPixel/s
111.7 GPixel/s
텍스처 속도
969.9 GTexel/s
419.0 GTexel/s
FP16 (반 정밀도)
248.3 TFLOPS
26.82 TFLOPS
FP32 (단 정밀도)
62.08 TFLOPS
13.41 TFLOPS
FP64 (배 정밀도)
31.04 TFLOPS
6.705 TFLOPS

그래픽 프로세서

GPU 이름
GH100
Vega 20
아키텍처
Hopper
GCN 5.1
파운드리
TSMC
TSMC
제조 공정 크기
4 nm
7 nm
트랜지스터
80 billion
13.23 billion
다이 크기
814 mm²
331 mm²
GPU 변형
-
Vega 20 GLXT

보드 디자인

TDP
700W
300W
권장 전원 공급 장치
1100 W
700 W
출력 포트
No outputs
1x mini-DisplayPort 1.4a
전원 연결자
8-pin EPS
2x 8-pin

그래픽 기능

DirectX
N/A
12 (12_1)
OpenGL
N/A
4.6
OpenCL
3.0
2.1
Vulkan
N/A
1.3
CUDA
9.0
8.9
쉐이더 모델
N/A
6.7