제품 비교

NVIDIA GeForce RTX 4060 Ti 16 GB vs NVIDIA H100 SXM5 94 GB

GPU GPU
그래픽 카드
출시일 May 2023 Mar 2023
세대 GeForce 40 Server Hopper
유형 Desktop AI GPU
버스 인터페이스 PCIe 4.0 x8 PCIe 5.0 x16
클럭 속도
기본 클럭 2310 MHz 1350 MHz
부스트 클럭 2535 MHz 1980 MHz
메모리 클럭 2250 MHz 1313 MHz
메모리
메모리 크기 16GB 94GB
메모리 타입 GDDR6 HBM3
메모리 버스 128bit 5120bit
대역폭 288.0GB/s 3.36TB/s
렌더링 설정
스트림 프로세서 개수 34 132
새딩 유닛 4352 16896
텍스처 매핑 유닛 136 528
렌더 출력 파이프라인 48 24
텐서 코어 136 528
레이 트레이싱 코어 34
L1 캐시 128 KB (per SM) 256 KB (per SM)
L2 캐시 32 MB 50 MB
이론적 성능
픽셀 속도 121.7 GPixel/s 47.52 GPixel/s
텍스처 속도 344.8 GTexel/s 1045.4 GTexel/s
FP16 (반 정밀도) 22.06 TFLOPS 267.6 TFLOPS
FP32 (단 정밀도) 22.06 TFLOPS 66.91 TFLOPS
FP64 (배 정밀도) 344.8 GFLOPS 33.45 TFLOPS
그래픽 프로세서
GPU 이름 AD106 GH100
GPU 변형 AD106-351-A1
아키텍처 Ada Lovelace Hopper
파운드리 TSMC TSMC
제조 공정 크기 5 nm 5 nm
트랜지스터 22.9 billion 80 billion
다이 크기 188 mm² 814 mm²
보드 디자인
TDP 165W 700W
권장 전원 공급 장치 450 W 1100 W
출력 포트 1x HDMI 2.13x DisplayPort 1.4a No outputs
전원 연결자 1x 16-pin 8-pin EPS
그래픽 기능
DirectX 12 Ultimate (12_2) N/A
OpenGL 4.6 N/A
OpenCL 3.0 3.0
Vulkan 1.3 N/A
CUDA 8.9 9.0
쉐이더 모델 6.7 N/A