DGX Spark 64GB 클러스터링 조건 — 공식 문서로 본 100B 한도와 vLLM 실행 경로

About this offer

안녕하세요, 미니지식공간입니다. DGX Spark 64GB 구성이 2026년 10월 2일 공개됐고, 가격은 $4,999부터, 판매는 10월 23일부터다. 메모리만 절반으로 줄인 구성이라 GB10 칩과 소프트웨어 스택은 그대로인데, 단일 기기 모델 크기 한도가 1,000억 파라미터로 내려가고 클러스터링이 사실상 기본 선택지가 된다. 1. DGX Spark 64GB: $4,999부터, 2026-10-23 판매 시작, Acer·ASUS·Dell·Gigabyte·HP·MSI 6개 OEM 전용 (엔비디아 공식 블로그 2026-10-02) 2. 단일 기기 최대 1,000억 파라미터, ConnectX-7로 2대 묶으면 메모리 128GB·최대 2,000억 파라미터·대역폭 2배·성능 최대 1.7배 (전부 엔비디아 자사 발표) 3. 128GB는 $6,950으로 올랐다는 보도(더레지스터 2026-10-02)가 있으나 공식 블로그·제품 페이지에 가격 표기 자체가 없음 → 확인 필요 1. 공식 발표에 적힌 것만 엔비디아 공식 블로그는 2026년 10월 2일 자로 64GB 구성을 발표했다. 아래는 공식 블로그와 공식 제품 페이지에 실제로 기재된 값만 정리한 것이다. 설정 파일이 아니라 확인된 사실 목록이다. product : NVIDIA DGX Spark, 64 GB configuration announced : 2026-10-02 (blogs.nvidia.com, author Allen Bourgoyne) on sale : 2026-10-23 (Friday) price : starting at $4,999 channel : OEM partners only (Acer, ASUS, Dell, Gigabyte, HP, MSI) superchip : GB10 Grace Blackwell Superchip (same as 128 GB model) memory : 64 GB LPDDR5X unified, 256-bit interface bandwidth : 273 GB/s (product page lists one figure, not per SKU) tensor perf : up to 1 PFLOP FP4 single device : up to 100B-parameter models on device two clustered : 128 GB pool, up to 200B parameters, 2x bandwidth, up to 1.7x perf os : NVIDIA DGX OS runtimes : Ollama, vLLM, PyTorch with CUDA, llama.cpp, LM Studio storage : not stated in the official blog -> needs verification 128 GB price : not stated on any official NVIDIA page -> needs verification 출처: https://blogs.nvidia.com/blog/local-ai-dgx-spark-64gb-sync/ 및 https://www.nvidia.com/en-us/products/workstations/dgx-spark/ 컨텍스트를 하나 붙이면, 공식 제품 페이지의 확장 표는 구성별 모델 크기 한도를 1대 64GB는 1,000억, 1대 128GB는 2,000억, 2대 256GB는 4,000억, 4대 512GB는 7,000억 파라미터로 적어 뒀다. 파인튜닝 쪽은 별도로 최대 700억 파라미터라고만 적혀 있고, 이 수치는 128GB 기준 서술이다. 64GB 전용 파인튜닝 한도는 공식 자료에 없다. 2. 스펙 비교 — 바뀐 것은 메모리뿐 항목 64GB 128GB 통합 메모리 64 GB LPDDR5X 128 GB LPDDR5X 메모리 인터페이스 256-bit 256-bit 메모리 대역폭 273 GB/s 273 GB/s 슈퍼칩 GB10 Grace Blackwell GB10 Grace Blackwell CPU 20코어 Arm (Cortex-X925 10 + A725 10) 동일 Tensor 성능 최대 1 PFLOP FP4 최대 1 PFLOP FP4 NIC ConnectX-7 200 Gbps 내장 ConnectX-7 200 Gbps 내장 단일 추론 한도 최대 1,000억 파라미터 최대 2,000억 파라미터 저장장치 절반 수준(용량 미공개) 최대 4 TB NVMe 전원 / GB10 TDP 240 W / 140 W 240 W / 140 W 판매 OEM 전용 엔비디아 직판 + 파트너 가격 $4,999부터 $6,950 (매체 보도) 대역폭이 273 GB/s로 동일하다는 점이 설계상 가장 중요한 단서다. 더레지스터는 2026년 10월 2일 기사에서 대역폭이 그대로라는 사실을 근거로, 모듈 개수를 줄인 것이 아니라 용량이 작은 LPDDR5X 모듈을 썼을 것이라고 해석했다. 기자의 추정이며 엔비디아가 확인한 내용은 아니다. 다만 대역폭이 유지된다는 건 메모리에 들어가는 모델이라면 토큰 생성 속도 쪽 특성은 128GB와 크게 다르지 않을 가능성이 높다는 뜻이고, 제약은 속도가 아니라 용량 쪽에 걸린다. 3. 2대 클러스터링, 공식 문서가 정한 조건 64GB를 쓰는 입장에서 클러스터링은 선택이 아니라 확장 경로다. 엔비디아 공식 문서는 연결 가능 대수를 다음과 같이 못 박아 뒀다. "It supports up to three DGX Spark systems connected directly through cables, and up to four systems when using a switch." — https://docs.nvidia.com/dgx/dgx-spark/spark-clustering.html 물리 조건도 문서에 정리돼 있다. 기기당 QSFP 포트는 2개이고 각 포트는 최대 200 Gb/s이며, 이더넷 구성만 지원한다. NIC는 PCIe Gen 5 x4 링크 두 개로 SoC에 붙어 있어, 케이블 하나를 꽂아도 리눅스에서는 포트당 이더넷 인터페이스가 두 개로 보인다. 인터페이스 확인 명령과 공식 문서의 출력 예시는 다음과 같다. # 공식 문서 예시 출력 (docs.nvidia.com/dgx/dgx-spark/spark-clustering.html) nvidia@spark-1afa:~$ ibdev2netdev rocep1s0f0 port 1 ==> enp1s0f0np0 (Up) rocep1s0f1 port 1 ==> enp1s0f1np1 (Up) roceP2p1s0f0 port 1 ==> enP2p1s0f0np0 (Up) roceP2p1s0f1 port 1 ==> enP2p1s0f1np1 (Up) 두 대 직결 플레이북은 netplan으로 고정 IP를 잡는 방식을 권한다. 아래는 공식 플레이북의 1번 노드 설정 원문이다. 2번 노드는 같은 파일에서 주소만 192.168.100.11/24 , 192.168.101.11/24 로 바꾼다. # https://build.nvidia.com/spark/connect-two-sparks/stacked-sparks # Create the netplan configuration file sudo tee /etc/netplan/40-cx7.yaml > /dev/null <<EOF network: version: 2 ethernets: enp1s0f1np1: addresses: - 192.168.100.10/24 dhcp4: no enP2p1s0f1np1: addresses: - 192.168.101.10/24 dhcp4: no EOF # Set appropriate permissions sudo chmod 600 /etc/netplan/40-cx7.yaml # Apply the configuration sudo netplan apply 같은 플레이북이 명시한 주의점이 두 가지 있다. 첫째, 전체 대역폭은 QSFP 케이블 한 개로도 얻을 수 있지만 케이블 두 개를 연결하면 네 개 인터페이스 전부에 IP를 할당해야 전체 대역폭이 나온다. 둘째, 스위치를 쓰는 4대 구성에서는 두 인터페이스를 서로 다른 서브넷에 둬야 한다. 같은 서브넷에 두면 라우팅 모호성과 NCCL 통신 실패가 생긴다고 문서가 직접 경고한다. 노드 간 SSH는 플레이북이 제공하는 스크립트로 처리한다. # https://build.nvidia.com/spark/connect-two-sparks/stacked-sparks bash ./discover-sparks # Copy your SSH public key to both nodes. ssh-copy-id -i ~/.ssh/id_rsa.pub <username>@<IP for Node 1> ssh-copy-id -i ~/.ssh/id_rsa.pub <username>@<IP for Node 2> 이 과정을 GUI로 대체하는 것이 공식 블로그가 함께 소개한 NVIDIA Sync다. 공식 문서는 Cluster Assistant가 "validates the devices, applies ConnectX-7 network settings, checks link performance, and configures SSH between nodes"라고 설명한다. 즉 위 netplan·ssh-copy-id 단계를 대신한다. 모델 다운로드와 실행까지 자동화하는 Model Launcher는 공식 블로그 기준 이달 말 공개 예정이라 2026년 10월 말에야 쓸 수 있다. 4. 모델을 올리는 경로 — vLLM 플레이북 엔비디아 공식 플레이북은 DGX Spark용 vLLM 컨테이너와 NVFP4 가중치를 따로 배포한다. 아래는 단일 기기 기준 공식 문서 원문 명령이다. # https://build.nvidia.com/spark/vllm/instructions (Last Updated: 09/14/2026) docker ps > /dev/null hf auth whoami export PATH="$HOME/.local/bin:$PATH" # DGX Spark 전용 컨테이너 이미지 docker pull vllm/vllm-openai:qwen38 # NVFP4 가중치 다운로드 hf download nvidia/Qwen3.8-27B-NVFP4 --cache-dir "$HOME/.cache/huggingface/hub" 컨테이너 기동은 플레이북이 제공하는 런치 스크립트( sync-vllm-single-spark.sh )를 NVIDIA Sync 커스텀 앱에 등록하는 방식으로 바뀌었고, 포트는 8000이다. 기동 후 로그에서 OpenAI server is ready to accept requests 또는 Application startup complete 를 확인한 뒤, 호출은 OpenAI 호환 엔드포인트로 그대로 보낸다. # https://build.nvidia.com/spark/vllm/instructions docker logs --tail 50 --follow vllm-qwen38 curl -i http://localhost:8000/health curl -sS http://localhost:8000/v1/models curl -sS http://localhost:8000/v1/chat/completions -H "Content-Type: application/json" -d '{"model":"nvidia/Qwen3.8-27B-NVFP4","messages":[{"role":"user","content":"Write a haiku about a GPU."}],"max_tokens":4096}' NIM(NVIDIA Inference Microservices, 엔비디아가 패키징한 추론 컨테이너) 경로도 있다. DGX Spark 전용 태그가 따로 있어 그대로 당겨 쓴다. # https://build.nvidia.com/spark/nim-llm/instructions export NGC_API_KEY="<YOUR_NGC_API_KEY>" echo "$NGC_API_KEY" | docker login nvcr.io --username '$oauthtoken' --password-stdin export CONTAINER_NAME="nim-llm-demo" export IMG_NAME="nvcr.io/nim/meta/llama-3.1-8b-instruct-dgx-spark:latest" export LOCAL_NIM_CACHE=~/.cache/nim docker run -it --rm --name=$CONTAINER_NAME \ --gpus all \ --shm-size=16GB \ -e NGC_API_KEY=$NGC_API_KEY \ -v "$LOCAL_NIM_CACHE:/opt/nim/.cache" \ -p 8000:8000 \ $IMG_NAME 여기서 실무상 주의할 점은 캐시 용량이다. NIM 플레이북은 10~50 GB 캐시를 요구하고, Open WebUI 플레이북은 이미지 약 7 GB에 gpt-oss:20b 약 15 GB, qwen3.6:latest 약 25 GB를 안내한다. 64GB 구성은 저장장치가 절반이라는 보도가 있으니, 모델 여러 개를 동시에 캐싱하는 운용이라면 용량을 먼저 확인해야 한다. 5. 가격 타임라인과 비용 계산 시점 구성 가격 근거 2025-10 출시 128GB Founders Edition $3,999 톰스하드웨어 2026-02-27 2026-02 (2/23 공지) 128GB Founders Edition $4,699 (+$700, 약 18%) 엔비디아 개발자 포럼 공지 2026-10-02 128GB $6,950 (확인 필요) 더레지스터 2026-10-02 2026-10-23 판매 64GB (OEM 전용) $4,999부터 엔비디아 공식 블로그 더레지스터는 $6,950이 1년 전 대비 75%에 가까운 인상이며, 새 64GB의 $4,999도 1년 전 128GB 출시가보다 25% 높다고 지적했다. 인상 원인으로 메모리 가격 급등을 들었지만 기사 안에 엔비디아 직접 인용은 없다. 엔비디아가 공식적으로 공급 제약을 이유로 든 것은 2026년 2월 인상 때이고, 톰스하드웨어가 개발자 포럼 공지를 근거로 보도했다. 비용 계산에서 함정이 하나 있다. 하드웨어 버스터스는 $4,999 두 대가 약 $10,000이 되는데 같은 128GB 메모리 풀을 $6,950 한 대로 얻을 수 있다고 지적했다. 2대 구성의 이점은 메모리 용량이 아니라 대역폭 2배와 최대 1.7배 성능이므로, 거기에 민감한 워크로드가 아니라면 단일 128GB가 단순히 싸다. 6. 도입 전 점검 5가지 저장장치 용량 : 공식 블로그에 기재가 없고 절반이라는 보도만 있다. 제조사별 제품 페이지에서 실제 NVMe 용량을 확인한다. 실제 판매가 : 엔비디아 제품 페이지에 가격 표기가 없다. $4,999는 시작가이고 OEM 구성별로 달라진다. 클러스터 대수 한도 : 직결 3대, 스위치 4대가 공식 문서 기준이다. vLLM 플레이북은 Cluster Assistant가 2~4대를 구성할 수 있지만 모델 샤딩은 모델과 구성에 따라 다르다고 따로 적어 뒀다. 케이블과 스위치 : 승인 케이블 모델이 문서에 명시돼 있고, 스위치 구성은 QSFP56-DD 포트 4개 이상에 포트당 200 Gbps가 필요하다. 링크 속도가 200000Mb/s 로 잡히는지 ethtool 로 확인하라고 문서가 안내한다. Model Launcher 일정 : 2026년 10월 말 공개 예정이다. 그 전까지는 위 CLI 경로로 직접 구성해야 한다. 자주 묻는 질문 DGX Spark 64GB 가격과 출시일은? 엔비디아 공식 블로그(2026-10-02) 기준 2026년 10월 23일부터 $4,999부터 판매된다. 엔비디아 직판 모델은 없고 Acer, ASUS, Dell, Gigabyte, HP, MSI 여섯 OEM 제품으로만 나온다. 기존 코드를 수정해야 하나? 칩과 소프트웨어 스택이 128GB와 같아 코드 변경 요소는 없다. 바뀌는 것은 메모리 예산이다. 공식 vLLM 플레이북이 NVFP4 가중치( nvidia/Qwen3.8-27B-NVFP4 )를 쓰는 것처럼, 양자화 방식과 컨텍스트 길이를 64GB 안에 맞추는 작업이 필요하다. 64GB 두 대와 128GB 한 대 중 뭐가 낫나? 메모리 풀만 보면 128GB 한 대가 싸다($6,950 vs 약 $10,000, 매체 보도 기준). 2대 구성은 대역폭 2배와 엔비디아 자사 기준 최대 1.7배 성능이 목적이므로, 그 이점이 필요한 워크로드일 때만 유리하다. 128GB 가격 $6,950은 공식 수치인가? 아니다. 더레지스터 2026년 10월 2일 보도이고 여러 매체가 같은 수치를 인용했지만, 엔비디아 공식 블로그와 제품 페이지에는 가격이 적혀 있지 않다. 확인 필요 항목으로 둬야 한다. 마무리 정리하면 이번 발표는 성능 발표가 아니라 가격 구조 발표다. 진입가가 $4,999로 생겼지만 상위 구성은 보도 기준 $6,950까지 올라갔고, 64GB를 선택하면 모델 크기 한도와 저장장치가 제약으로 들어온다. 공식 문서의 클러스터링 조건과 vLLM·NIM 플레이북 명령을 먼저 읽고, 양자화된 가중치가 64GB 안에 들어가는지 계산한 다음 결정하는 순서가 안전하다. API 쪽 단가 흐름과 비교해 보려면 Gemini 4 Argon 가격·접근 조건을 정리한 글 을 함께 보면 맥락이 잡힌다. 출처 NVIDIA 공식 블로그 (2026-10-02): https://blogs.nvidia.com/blog/local-ai-dgx-spark-64gb-sync/ NVIDIA 공식 제품 페이지: https://www.nvidia.com/en-us/products/workstations/dgx-spark/ NVIDIA 공식 문서 — ConnectX-7 Networking / 클러스터 한도: https://docs.nvidia.com/dgx/dgx-spark/spark-clustering.html NVIDIA 공식 플레이북 — Connect Two Sparks: https://build.nvidia.com/spark/connect-two-sparks NVIDIA 공식 플레이북 — vLLM: https://build.nvidia.com/spark/vllm NVIDIA 공식 플레이북 — NIM LLM: https://build.nvidia.com/spark/nim-llm The Register (2026-10-02): https://www.theregister.com/systems/2026/10/02/nvidia-debuts-4999-dgx-spark-with-half-the-ram-and-storage-amid-memory-crunch/5300622 톰스하드웨어 (2026-02-27): https://www.tomshardware.com/desktops/mini-pcs/nvidia-dgx-spark-gets-18-percent-price-increase-as-memory-shortages-bite-founders-edition-now-usd4-699-up-from-usd3-999 Hardware Busters (2026-10-02): https://hwbusters.com/news/nvidia-dgx-spark-64gb-arrives-at-4999-as-the-128gb-model-jumps-to-6950/ 본 글은 공개 자료를 바탕으로 정리했으며, 세부 내용·수치는 원 출처·공식 문서와 대조 확인을 권장합니다. 파라미터 한도와 최대 1.7배 성능은 엔비디아 자사 발표이며 독립 검증은 없습니다. 128GB $6,950 가격과 64GB 저장장치 용량은 공식 발표에 없어 확인이 필요합니다.