제품 비교

NVIDIA H200 NVL vs NVIDIA GeForce RTX 3060 Ti

GPU GPU
그래픽 카드
출시일 Nov 2024 Dec 2020
세대 Server Hopper GeForce 30
유형 AI GPU Desktop
버스 인터페이스 PCIe 5.0 x16 PCIe 4.0 x16
클럭 속도
기본 클럭 1365 MHz 1410 MHz
부스트 클럭 1785 MHz 1665 MHz
메모리 클럭 1593 MHz 1750 MHz
메모리
메모리 크기 141GB 8GB
메모리 타입 HBM3e GDDR6
메모리 버스 6144bit 256bit
대역폭 4.89TB/s 448.0GB/s
렌더링 설정
스트림 프로세서 개수 132 38
새딩 유닛 16896 4864
텍스처 매핑 유닛 528 152
렌더 출력 파이프라인 24 80
텐서 코어 528 152
L1 캐시 256 KB (per SM) 128 KB (per SM)
L2 캐시 50 MB 4 MB
레이 트레이싱 코어 38
이론적 성능
픽셀 속도 42.84 GPixel/s 133.2 GPixel/s
텍스처 속도 942.5 GTexel/s 253.1 GTexel/s
FP16 (반 정밀도) 241.3 TFLOPS 16.20 TFLOPS
FP32 (단 정밀도) 60.32 TFLOPS 16.20 TFLOPS
FP64 (배 정밀도) 30.16 TFLOPS 253.1 GFLOPS
그래픽 프로세서
GPU 이름 GH100 GA104
아키텍처 Hopper Ampere
파운드리 TSMC Samsung
제조 공정 크기 5 nm 8 nm
트랜지스터 80 billion 17.4 billion
다이 크기 814 mm² 392 mm²
GPU 변형 GA104-200-A1
보드 디자인
TDP 600W 200W
권장 전원 공급 장치 1000 W 550 W
출력 포트 No outputs 1x HDMI 2.13x DisplayPort 1.4a
전원 연결자 8-pin EPS 1x 12-pin
그래픽 기능
DirectX N/A 12 Ultimate (12_2)
OpenGL N/A 4.6
OpenCL 3.0 3.0
Vulkan N/A 1.3
CUDA 9.0 8.6
쉐이더 모델 N/A 6.6