제품 비교

NVIDIA A40 PCIe vs NVIDIA H100 CNX

GPU GPU
그래픽 카드
출시일 Oct 2020 Mar 2023
세대 Tesla Tesla Hopper
유형 Desktop AI GPU
버스 인터페이스 PCIe 4.0 x16 PCIe 5.0 x16
클럭 속도
기본 클럭 1305 MHz 690 MHz
부스트 클럭 1740 MHz 1845 MHz
메모리 클럭 1812 MHz 1593 MHz
메모리
메모리 크기 48GB 80GB
메모리 타입 GDDR6 HBM2e
메모리 버스 384bit 5120bit
대역폭 695.8GB/s 2039GB/s
렌더링 설정
스트림 프로세서 개수 84 114
새딩 유닛 10752 14592
텍스처 매핑 유닛 336 456
렌더 출력 파이프라인 112 24
텐서 코어 336 456
레이 트레이싱 코어 84
L1 캐시 128 KB (per SM) 256 KB (per SM)
L2 캐시 6 MB 50 MB
이론적 성능
픽셀 속도 194.9 GPixel/s 44.28 GPixel/s
텍스처 속도 584.6 GTexel/s 841.3 GTexel/s
FP16 (반 정밀도) 37.42 TFLOPS 215.4 TFLOPS
FP32 (단 정밀도) 37.42 TFLOPS 53.84 TFLOPS
FP64 (배 정밀도) 584.6 GFLOPS 26.92 TFLOPS
그래픽 프로세서
GPU 이름 GA102 GH100
아키텍처 Ampere Hopper
파운드리 Samsung TSMC
제조 공정 크기 8 nm 4 nm
트랜지스터 28.3 billion 80 billion
다이 크기 628 mm² 814 mm²
보드 디자인
TDP 300W 350W
권장 전원 공급 장치 700 W 750 W
출력 포트 3x DisplayPort 1.4a No outputs
전원 연결자 8-pin EPS 8-pin EPS
그래픽 기능
DirectX 12 Ultimate (12_2) N/A
OpenGL 4.6 N/A
OpenCL 3.0 3.0
Vulkan 1.3 N/A
CUDA 8.6 9.0
쉐이더 모델 6.6 N/A