NVIDIA DGX Spark는 어느 정도 크기의 모델을 실행할 수 있나요?

128 GB 통합 메모리에 최대 약 200B 파라미터 모델(양자화 기준)을 전부 기기 안에 올릴 수 있습니다. 4비트 70B 모델은 긴 컨텍스트 윈도우를 둘 여유까지 남기며 넉넉하게 들어갑니다.

로컬 LLM에서 DGX Spark가 Mac Studio보다 빠른가요?

토큰 생성에서는 그렇지 않습니다. Mac Studio의 약 546 GB/s 메모리 대역폭은 Spark의 약 273 GB/s보다 거의 두 배 높아, 같은 모델에서 초당 더 많은 토큰을 생성합니다. 반면 DGX Spark는 네이티브 CUDA와 네이티브 클러스터링을 제공합니다.

DGX Spark에서 Windows를 실행할 수 있나요?

아니요. CUDA 스택을 갖춘 Arm Ubuntu 기반 Linux인 NVIDIA DGX OS로 구동되며, 범용 데스크톱이 아니라 CUDA 개발 환경을 위한 제품입니다.

DGX Spark의 메모리나 스토리지를 업그레이드할 수 있나요?

아니요. 128 GB 메모리와 4 TB 스토리지는 사용자가 업그레이드할 수 없으므로, 구성을 미리 계획해야 합니다.

NVIDIA DGX Spark 리뷰: GB10 AI 데스크톱

어떤 제품인가

NVIDIA DGX Spark는 두꺼운 페이퍼백 크기의 개인용 AI 슈퍼컴퓨터입니다. NVIDIA의 GB10 Grace Blackwell 슈퍼칩을 중심으로 만든 150 mm 알루미늄 큐브로, 20코어 Arm CPU와 Blackwell GPU를 하나의 패키지에 결합하고 128 GB 통합 메모리를 연결했으며, NVIDIA 자체 DGX OS로 구동되어 전체 CUDA 스택이 별도 설정 없이 바로 작동합니다. 가격은 $3,999(2026년 초 메모리 가격 상승 이후에는 $4,699에 가까움)로, 일반적인 의미의 미니 PC는 아닙니다. 클라우드 GPU를 빌리는 대신 책상 위에서 대규모 언어 모델을 실행하고 파인튜닝하기 위한 개발자용 워크스테이션입니다.

이 제품은 레퍼런스 GB10 박스, 즉 다른 모든 제조사의 변형 모델이 기준으로 삼는 Founders Edition입니다. ASUS Ascent GX10이나 다른 Grace Blackwell 데스크톱과 비교하고 있다면 이 제품이 기준점입니다. 또한 같은 GB10급 실리콘을 다른 사용자층을 위해 재구성한 소비자용 ASUS ProArt RTX Spark 미니 PC의 출시 예정에 앞서 이미 판매 중인 형제 제품이기도 합니다.

어떤 용도에 적합한가: 로컬 AI 및 LLM 개발

DGX Spark는 하나의 작업을 위해 존재하며, 그 작업을 잘 해냅니다. 바로 클라우드 계정 없이 대형 모델을 로컬에서 실행하는 것입니다.

로컬 LLM 추론. 128 GB 통합 메모리 덕분에 최대 약 200B 파라미터 모델(양자화 기준)을 전부 기기 안에 올릴 수 있습니다. 4비트 70B 모델은 긴 컨텍스트 윈도우를 둘 여유까지 남기며 메모리에 넉넉하게 들어갑니다.
파인튜닝과 프로토타이핑. 원래라면 A100을 빌려야 했을 LoRA 및 QLoRA 파인튜닝 작업이 이 박스에서 돌아갑니다. 에뮬레이션 계층이 아닌 진정한 CUDA 개발 환경입니다.
처음부터 CUDA 네이티브. Apple Mac Studio나 AMD Ryzen AI Max 박스와 달리, DGX Spark는 프로덕션에 배포할 때 쓰는 것과 똑같은 CUDA, cuDNN, TensorRT, NIM 스택으로 구동됩니다. 여기서 작성한 코드는 수정 없이 DGX 서버로 옮길 수 있습니다.
가벼운 크리에이터 및 사무 용도. DGX OS는 데스크톱 Linux이므로 브라우저, 터미널, 크리에이티브 도구를 다룰 수 있지만, 이는 핵심이 아니라 덤으로 생각해야 합니다.

Tom’s Hardware는 이를 깔끔하게 정리했습니다. 개발자에게 중요한 워크로드에서 AMD의 Ryzen AI Max+ 395를 앞서는 만능 AI 샌드박스라는 평가입니다.

GB10 슈퍼칩과 통합 메모리

핵심은 전적으로 GB10 Grace Blackwell 슈퍼칩입니다. NVIDIA는 Grace급 CPU(Cortex-X925 성능 코어 10개 + Cortex-A725 효율 코어 10개)를 PCIe보다 훨씬 넓은 코히어런트 인터커넥트인 NVLink-C2C로 Blackwell GPU와 결합했습니다. GPU는 5세대 Tensor 코어와 4세대 RT 코어를 탑재하고 **1 PetaFLOP의 FP4 연산 성능(1,000 TOPS)**을 제공합니다.

CPU와 GPU가 하나의 128 GB LPDDR5x 코히어런트 메모리 풀을 공유하기 때문에, PCIe 버스를 거쳐 텐서를 복사할 필요도, 모델을 VRAM과 시스템 RAM에 나눠 담을 필요도 없습니다. GPU가 128 GB 전체에 직접 접근합니다. 다른 환경이라면 여러 개의 외장 GPU가 있어야 담을 수 있는 200B 파라미터 모델을 2리터도 안 되는 박스가 담을 수 있는 이유가 바로 이 통합 메모리 풀입니다.

빌드 품질, 연결성, 클러스터링

섀시는 대형 DGX Station의 골드 “치즈 강판” 전면 디자인을 가져와 1.2 kg으로 줄였습니다. 가로나 세로로 놓고 사용할 수 있으며, 240 W 외장 전원 어댑터로 전력을 공급받습니다(GB10 자체의 정격 TDP는 140 W입니다).

연결성에서 개발자를 겨냥한 의도가 드러납니다.

ConnectX-7 NIC와 200 Gbps QSFP 2개 포트가 핵심 기능입니다. DGX Spark 두 대를 직접 연결해 256 GB 클러스터를 구성하고, 한 대로는 감당할 수 없는 큰 모델을 실행할 수 있습니다.
10 GbE RJ-45, Wi-Fi 7, Bluetooth 5.4
USB-C 4개, HDMI 2.1a 1개, USB-C를 통한 DisplayPort 최대 3개
4 TB 자체 암호화 NVMe: 빠르고 안전하지만 사실상 고정형(사용자가 교체할 수 있는 베이가 아님)

DGX Spark 두 대를 클러스터로 묶을 수 있나요?

네. ConnectX-7 듀얼 200GbE 패브릭은 바로 이를 위해 설계되었습니다. 두 대를 묶으면 256 GB 통합 메모리로 400B 파라미터급 모델을 다룰 수 있습니다. 이것이 Mac Studio 대신 NVIDIA 박스를 사야 하는 가장 큰 이유입니다. 클러스터링 경로가 편법이 아니라 네이티브로 지원됩니다.

메모리 대역폭: 실사용의 한계

이제 솔직한 이야기를 할 차례입니다. DGX Spark의 메모리 대역폭은 약 273 GB/s이며, 성능을 제한하는 것은 연산이 아니라 바로 이 대역폭입니다.

LLM의 토큰 생성 속도는 메모리 대역폭에 거의 선형적으로 비례합니다. Mac Studio의 약 546 GB/s는 Spark의 거의 두 배이며, 같은 모델에서 초당 더 많은 토큰을 생성한다는 뜻입니다. RTX 5090의 GDDR7은 아예 차원이 다릅니다. 따라서 DGX Spark는 5090이 담지 못하는 200B 모델을 담을 수 있지만, 5090의 더 작은 VRAM에 들어가는 모델이라면 5090이 토큰을 더 빠르게 생성합니다.

요점은 이렇습니다. DGX Spark는 순수 처리량이 아니라 용량과 CUDA 호환성에 최적화되어 있습니다. “책상 위에서 가장 빠른 대화형 챗봇은 무엇인가”가 아니라 “이 거대한 모델을 애초에 실행하고 반복 개선할 수 있는가”를 위한 머신입니다. Tom’s Hardware와 ServeTheHome의 리뷰어들도 같은 결론에 도달했습니다. 대역폭이 아킬레스건이며, 이를 알고 구매해야 한다는 것입니다.

가격 및 구매처

DGX Spark는 2025년 10월 $3,999에 출시되었습니다. 전 세계적인 메모리 부족으로 2026년 초까지 실거래가가 올랐으므로, 재고 상황에 따라 $3,999–$4,699 범위로 예산을 잡는 것이 좋습니다. NVIDIA 파트너사를 통해 판매되며 Amazon에도 등록되어 있고, 제휴 링크의 상품은 Founders Edition입니다.

이 가격으로 NVIDIA의 실리콘, NVIDIA의 OS, NVIDIA의 클러스터링 패브릭을 하나의 지원 패키지로 구매하는 셈입니다. ASUS Ascent GX10 같은 파트너 변형 모델이 더 저렴한 경우도 있습니다. Founders 브랜드보다 냉각이나 SSD 세대가 더 중요하다면 비교해 볼 가치가 있습니다. 관련 글: GIGABYTE AI TOP ATOM 리뷰, MSI EdgeXpert MS-C931 리뷰, 그리고 DGX Spark 64GB 가격 분석.

주의할 점

훌륭하지만 특화된 머신에 대한 공정한 평가입니다.

273 GB/s 대역폭이 토큰 속도를 제한합니다. 단일 사용자의 대화형 추론에서는 VRAM이 큰 외장 GPU나 Mac Studio가 그 안에 들어가는 모델에서 더 빠르게 느껴질 수 있습니다.
DGX OS는 Windows가 아닌 Arm Linux입니다. 이 제품은 CUDA 개발 환경입니다. 범용 데스크톱을 원한다면 맞지 않는 제품입니다.
메모리와 스토리지를 사용자가 업그레이드할 수 없습니다. 128 GB와 4 TB가 전부입니다. 구성을 미리 계획하세요.
가격 변동. 출시 후 가격 인상으로 MSRP보다 수백 달러를 더 지불할 수 있습니다. 판매 목록을 주시하세요.

NVIDIA DGX Spark 결론

NVIDIA DGX Spark는 그 정체를 이해한다면, 지금 살 수 있는 가장 완성도 높은 개인용 AI 슈퍼컴퓨터입니다. GB10 Grace Blackwell 슈퍼칩, 128 GB 통합 메모리, 네이티브 CUDA, 듀얼 200GbE 클러스터링 덕분에 최대 200B 파라미터 모델을 실행하고 파인튜닝할 수 있는 진정한 로컬 환경이 되며, 클라우드 DGX 배포로 깔끔하게 확장할 수 있는 경로도 제공합니다.

273 GB/s 메모리 대역폭에 대해서는 냉정하게 판단해야 합니다. 이 제품은 처리량 챔피언이 아니라 용량과 호환성을 위한 머신입니다. CUDA를 주로 다루는 AI 개발자, 연구자, ML 엔지니어에게는 바로 그 절충이 정확히 맞으며, DGX Spark는 자신 있게 추천할 만합니다. 빠른 범용 데스크톱이나 단일 채팅 세션에서 최대 초당 토큰 수를 원한다면 다른 제품을 찾아보세요. 그리고 같은 실리콘을 원한다면 결정하기 전에 ASUS Ascent GX10과 비교해 보세요.