제품 비교

NVIDIA H100 NVL 94 GB vs NVIDIA RTX A5500

GPU GPU
그래픽 카드
출시일 Mar 2023 Mar 2022
세대 Server Hopper Quadro Ampere
유형 AI GPU Professional
버스 인터페이스 PCIe 5.0 x16 PCIe 4.0 x16
클럭 속도
기본 클럭 1080 MHz 1080 MHz
부스트 클럭 1785 MHz 1665 MHz
메모리 클럭 1313 MHz 2000 MHz
메모리
메모리 크기 94GB 24GB
메모리 타입 HBM3 GDDR6
메모리 버스 6016bit 384bit
대역폭 3.95TB/s 768.0GB/s
렌더링 설정
스트림 프로세서 개수 132 80
새딩 유닛 16896 10240
텍스처 매핑 유닛 528 320
렌더 출력 파이프라인 24 96
텐서 코어 528 320
L1 캐시 256 KB (per SM) 128 KB (per SM)
L2 캐시 50 MB 6 MB
레이 트레이싱 코어 80
이론적 성능
픽셀 속도 42.84 GPixel/s 159.8 GPixel/s
텍스처 속도 942.5 GTexel/s 532.8 GTexel/s
FP16 (반 정밀도) 241.3 TFLOPS 34.10 TFLOPS
FP32 (단 정밀도) 60.32 TFLOPS 34.10 TFLOPS
FP64 (배 정밀도) 30.16 TFLOPS 532.8 GFLOPS
그래픽 프로세서
GPU 이름 GH100 GA102
아키텍처 Hopper Ampere
파운드리 TSMC Samsung
제조 공정 크기 5 nm 8 nm
트랜지스터 80 billion 28.3 billion
다이 크기 814 mm² 628 mm²
보드 디자인
TDP 400W 230W
권장 전원 공급 장치 800 W 550 W
출력 포트 No outputs 4x DisplayPort 1.4a
전원 연결자 8-pin EPS 1x 8-pin
그래픽 기능
DirectX N/A 12 Ultimate (12_2)
OpenGL N/A 4.6
OpenCL 3.0 3.0
Vulkan N/A 1.3
CUDA 9.0 8.6
쉐이더 모델 N/A 6.7