제품 비교

NVIDIA H100 SXM5 96 GB vs NVIDIA GeForce RTX 2060

GPU GPU
그래픽 카드
출시일 Mar 2023 Jan 2019
세대 Server Hopper GeForce 20
유형 AI GPU Desktop
버스 인터페이스 PCIe 5.0 x16 PCIe 3.0 x16
클럭 속도
기본 클럭 1350 MHz 1365 MHz
부스트 클럭 1980 MHz 1680 MHz
메모리 클럭 1313 MHz 1750 MHz
메모리
메모리 크기 96GB 6GB
메모리 타입 HBM3 GDDR6
메모리 버스 5120bit 192bit
대역폭 3.36TB/s 336.0GB/s
렌더링 설정
스트림 프로세서 개수 132 30
새딩 유닛 16896 1920
텍스처 매핑 유닛 528 120
렌더 출력 파이프라인 24 48
텐서 코어 528 240
L1 캐시 256 KB (per SM) 64 KB (per SM)
L2 캐시 50 MB 3 MB
레이 트레이싱 코어 30
이론적 성능
픽셀 속도 47.52 GPixel/s 80.64 GPixel/s
텍스처 속도 1045 GTexel/s 201.6 GTexel/s
FP16 (반 정밀도) 267.6 TFLOPS 12.90 TFLOPS
FP32 (단 정밀도) 66.91 TFLOPS 6.451 TFLOPS
FP64 (배 정밀도) 33.45 TFLOPS 201.6 GFLOPS
그래픽 프로세서
GPU 이름 GH100 TU106
아키텍처 Hopper Turing
파운드리 TSMC TSMC
제조 공정 크기 5 nm 12 nm
트랜지스터 80 billion 10.8 billion
다이 크기 814 mm² 445 mm²
GPU 변형 TU106-200A-KA-A1
보드 디자인
TDP 700W 160W
권장 전원 공급 장치 1100 W 450 W
출력 포트 No outputs 1x DVI1x HDMI 2.02x DisplayPort 1.4a1x USB Type-C
전원 연결자 8-pin EPS 1x 8-pin
그래픽 기능
DirectX N/A 12 Ultimate (12_2)
OpenGL N/A 4.6
OpenCL 3.0 3.0
Vulkan N/A 1.3
CUDA 9.0 7.5
쉐이더 모델 N/A 6.8