로컬 LLM용 GPU, VRAM 1GB당 가격으로만 골라봤습니다 (2026년 10월 한국 실거래)

Об этом предложении

로컬 LLM용 그래픽카드, "성능"이 아니라 VRAM 1GB당 가격 으로 사세요. 10월 1일 한국 실거래가 기준으로 계산했습니다. 왜 GB당 가격인가 LLM 추론에서 카드의 가치는 토큰/초로 갈리지만, "돌아가는 모델의 크기"는 VRAM이 결정합니다. 같은 예산이면 더 많은 VRAM = 더 큰 모델 = 더 좋은 출력. 그래서 예산 대비 모델 크기를 극대화하는 게 목적함수입니다. 2026년 10월 1일, VRAM 1GB당 가격 (한국 실거래) 카드 VRAM 실거래 중앙값 GB당 RTX 3060 12GB 12GB 539,000원 44,900원 RTX 3090 24GB (중고) 24GB 2,075,000원 86,500원 RX 9070 XT 16GB 16GB 1,509,000원 94,300원 RTX 5070 12GB 12GB 1,371,020원 114,300원 RTX 5070 Ti 16GB 16GB 1,991,000원 124,400원 RTX 4090 24GB (중고) 24GB 3,682,000원 153,400원 RTX 5080 16GB 16GB 2,678,510원 167,400원 RTX 5090 32GB 32GB 9,088,000원 284,000원 가격 출처: 다나와 + 검색엔진 실시간 수집 (샘플 2~16건), 중고는 당근/번개장터 시세 반영. 읽는 법 1위 RTX 3060 12GB (44,900원/GB) — 놀랍지 않나요? 신형 대비 성능은 절반이지만, "12GB에 도는 모델" 범위는 거의 동일합니다. 8B~14B 양자화 추론만 한다면 예산의 절반으로 같은 모델을 돌립니다. 앰배르(Ampere) 세대의 저주: 성능은 느려도 VRAM은 그대로. 2위 RTX 3090 중고 (86,500원/GB) — 24GB를 200만원대에. 27B~35B 양자화가 현실적으로 도는 최저 진입점. 146 tok/s 실측 qwen3-coder:30b도 18GB 안에서 돕니다. 단, 소비전력 350W는 전기세 표에서 확인하세요. 5090은 왜 최악인가 — 성능이 나쁜 게 아니라 "GB당"으로 보면 5070 Ti의 2.3배. 32GB가 꼭 필요한 경우(70B 추론, 파인튜닝)가 아니면 VRAM 과잉입니다. 이중 카드 구성 시나리오 3090 중고 2장 = 48GB, 약 415만원. GB당 86,500원 유지하면서 70B급이 들어옵니다. 단일 5090(32GB, 909만원)보다 GB당 3배 싸고 총 VRAM도 많습니다. 단, PCIe 레인/전원/발열 확인 필수. 결론 예산 50만원: 3060 12GB. 8B~14B 입문용으로 충분. 예산 200만원: 3090 중고 24GB. 로컬 LLM 가성비 왕좌, 3년째 유효. 예산 400만원+: 3090 2장(48GB) vs 4090 중고 1장(24GB) — 용량 vs 속도(스루풋 두 배) 취사선택. 전체 실측 데이터와 카드별 모델 적합 판정표: VRAM Fit Matrix

Детали предложения

Провайдер

velog

Источник

velog-rss

Балл

54.35

Уверенность

49%