제품 비교

NVIDIA A16 PCIe vs H200 SXM

GPU GPU
그래픽 카드
출시일 Apr 2021 Nov 2023
세대 Tesla Hopper
유형 Desktop AI GPU
버스 인터페이스 PCIe 4.0 x8 PCIe 5.0 x16
클럭 속도
기본 클럭 885 MHz 1590 MHz
부스트 클럭 1695 MHz 1980 MHz
메모리 클럭 1812 MHz 1313 MHz
메모리
메모리 크기 16GB 141GB
메모리 타입 GDDR6 HBM3e
메모리 버스 128bit 5120bit
대역폭 231.9GB/s 4800GB/s
렌더링 설정
스트림 프로세서 개수 10 132
새딩 유닛 1280 16896
텍스처 매핑 유닛 40 528
렌더 출력 파이프라인 32 24
텐서 코어 40 528
레이 트레이싱 코어 10
L1 캐시 128 KB (per SM) 256 KB (per SM)
L2 캐시 2 MB 50 MB
이론적 성능
픽셀 속도 54.24 GPixel/s 47.52 GPixel/s
텍스처 속도 67.80 GTexel/s 1045 GTexel/s
FP16 (반 정밀도) 4.339 TFLOPS 1979 TFLOPS
FP32 (단 정밀도) 4.339 TFLOPS 67 TFLOPS
FP64 (배 정밀도) 135.6 GFLOPS 34 TFLOPS
그래픽 프로세서
GPU 이름 GA107 GH200
아키텍처 Ampere Hopper
파운드리 Samsung TSMC
제조 공정 크기 8 nm 4 nm
트랜지스터 Unknown 80 billion
다이 크기 Unknown 814 mm²
보드 디자인
TDP 250W 700W
권장 전원 공급 장치 600 W 1100 W
출력 포트 No outputs No outputs
전원 연결자 8-pin EPS 8-pin EPS
그래픽 기능
DirectX 12 Ultimate (12_2) N/A
OpenGL 4.6 N/A
OpenCL 3.0 3.0
Vulkan 1.3 N/A
CUDA 8.6 9.0
쉐이더 모델 6.6 N/A