제품 비교

NVIDIA H100 SXM5 96 GB vs NVIDIA GeForce RTX 4080 Max-Q

GPU GPU
그래픽 카드
출시일 Mar 2023 Jan 2023
세대 Server Hopper GeForce 40 Mobile
유형 AI GPU Mobile
버스 인터페이스 PCIe 5.0 x16 PCIe 4.0 x16
클럭 속도
기본 클럭 1350 MHz 795 MHz
부스트 클럭 1980 MHz 1350 MHz
메모리 클럭 1313 MHz 1750 MHz
메모리
메모리 크기 96GB 12GB
메모리 타입 HBM3 GDDR6
메모리 버스 5120bit 192bit
대역폭 3.36TB/s 336.0GB/s
렌더링 설정
스트림 프로세서 개수 132 58
새딩 유닛 16896 7424
텍스처 매핑 유닛 528 232
렌더 출력 파이프라인 24 80
텐서 코어 528 232
L1 캐시 256 KB (per SM) 128 KB (per SM)
L2 캐시 50 MB 48 MB
레이 트레이싱 코어 58
이론적 성능
픽셀 속도 47.52 GPixel/s 108.0 GPixel/s
텍스처 속도 1045 GTexel/s 313.2 GTexel/s
FP16 (반 정밀도) 267.6 TFLOPS 20.04 TFLOPS
FP32 (단 정밀도) 66.91 TFLOPS 20.04 TFLOPS
FP64 (배 정밀도) 33.45 TFLOPS 313.2 GFLOPS
그래픽 프로세서
GPU 이름 GH100 AD104
아키텍처 Hopper Ada Lovelace
파운드리 TSMC TSMC
제조 공정 크기 5 nm 4 nm
트랜지스터 80 billion 35.8 billion
다이 크기 814 mm² 295 mm²
GPU 변형 GN21-X9
보드 디자인
TDP 700W 60W
권장 전원 공급 장치 1100 W
출력 포트 No outputs Portable Device Dependent
전원 연결자 8-pin EPS None
그래픽 기능
DirectX N/A 12 Ultimate (12_2)
OpenGL N/A 4.6
OpenCL 3.0 3.0
Vulkan N/A 1.3
CUDA 9.0 8.9
쉐이더 모델 N/A 6.7