제품 비교

NVIDIA H100 SXM5 94 GB vs H200 SXM

GPU GPU
그래픽 카드
출시일 Mar 2023 Nov 2023
세대 Server Hopper Hopper
유형 AI GPU AI GPU
버스 인터페이스 PCIe 5.0 x16 PCIe 5.0 x16
클럭 속도
기본 클럭 1350 MHz 1590 MHz
부스트 클럭 1980 MHz 1980 MHz
메모리 클럭 1313 MHz 1313 MHz
메모리
메모리 크기 94GB 141GB
메모리 타입 HBM3 HBM3e
메모리 버스 5120bit 5120bit
대역폭 3.36TB/s 4800GB/s
렌더링 설정
스트림 프로세서 개수 132 132
새딩 유닛 16896 16896
텍스처 매핑 유닛 528 528
렌더 출력 파이프라인 24 24
텐서 코어 528 528
L1 캐시 256 KB (per SM) 256 KB (per SM)
L2 캐시 50 MB 50 MB
이론적 성능
픽셀 속도 47.52 GPixel/s 47.52 GPixel/s
텍스처 속도 1045.4 GTexel/s 1045 GTexel/s
FP16 (반 정밀도) 267.6 TFLOPS 1979 TFLOPS
FP32 (단 정밀도) 66.91 TFLOPS 67 TFLOPS
FP64 (배 정밀도) 33.45 TFLOPS 34 TFLOPS
그래픽 프로세서
GPU 이름 GH100 GH200
아키텍처 Hopper Hopper
파운드리 TSMC TSMC
제조 공정 크기 5 nm 4 nm
트랜지스터 80 billion 80 billion
다이 크기 814 mm² 814 mm²
보드 디자인
TDP 700W 700W
권장 전원 공급 장치 1100 W 1100 W
출력 포트 No outputs No outputs
전원 연결자 8-pin EPS 8-pin EPS
그래픽 기능
DirectX N/A N/A
OpenGL N/A N/A
OpenCL 3.0 3.0
Vulkan N/A N/A
CUDA 9.0 9.0
쉐이더 모델 N/A N/A