제품 비교

H200 SXM vs NVIDIA H100 NVL 94 GB

GPU GPU
그래픽 카드
출시일 Nov 2023 Mar 2023
세대 Hopper Server Hopper
유형 AI GPU AI GPU
버스 인터페이스 PCIe 5.0 x16 PCIe 5.0 x16
클럭 속도
기본 클럭 1590 MHz 1080 MHz
부스트 클럭 1980 MHz 1785 MHz
메모리 클럭 1313 MHz 1313 MHz
메모리
메모리 크기 141GB 94GB
메모리 타입 HBM3e HBM3
메모리 버스 5120bit 6016bit
대역폭 4800GB/s 3.95TB/s
렌더링 설정
스트림 프로세서 개수 132 132
새딩 유닛 16896 16896
텍스처 매핑 유닛 528 528
렌더 출력 파이프라인 24 24
텐서 코어 528 528
L1 캐시 256 KB (per SM) 256 KB (per SM)
L2 캐시 50 MB 50 MB
이론적 성능
픽셀 속도 47.52 GPixel/s 42.84 GPixel/s
텍스처 속도 1045 GTexel/s 942.5 GTexel/s
FP16 (반 정밀도) 1979 TFLOPS 241.3 TFLOPS
FP32 (단 정밀도) 67 TFLOPS 60.32 TFLOPS
FP64 (배 정밀도) 34 TFLOPS 30.16 TFLOPS
그래픽 프로세서
GPU 이름 GH200 GH100
아키텍처 Hopper Hopper
파운드리 TSMC TSMC
제조 공정 크기 4 nm 5 nm
트랜지스터 80 billion 80 billion
다이 크기 814 mm² 814 mm²
보드 디자인
TDP 700W 400W
권장 전원 공급 장치 1100 W 800 W
출력 포트 No outputs No outputs
전원 연결자 8-pin EPS 8-pin EPS
그래픽 기능
DirectX N/A N/A
OpenGL N/A N/A
OpenCL 3.0 3.0
Vulkan N/A N/A
CUDA 9.0 9.0
쉐이더 모델 N/A N/A