로컬 LLM 커뮤니티에서는 미니 PC 매체가 대부분 놓친 조용한 논의가 이어지고 있습니다. 2026년에 책상 위에서 70B급 모델을 돌릴 수 있는 가장 저렴한 본격 머신은 GMKtec Strix Halo 박스도, 소형 RTX 4070 미니 PC도, 중고 Mac Studio도 아니라는 것입니다. 바로 M4 Pro와 64 GB 통합 메모리를 갖춘 Apple Mac Mini이며, 약 $2,000에 구성할 수 있습니다. 양자화된 Llama나 Qwen 70B를 성숙한 소프트웨어로, 책상 스탠드보다 전력을 적게 쓰는 기기에서 로컬로 돌리는 바로 그 작업이라면, 같은 가격대에서 이에 견줄 만한 제품이 없습니다.

강한 주장인 만큼 늘 그렇듯 단서가 필요합니다. 그래서 지루하지만 근거가 확실한 버전을 정리했습니다.

Apple Mac Mini M4 Pro: 하드웨어의 실체

Mac mini의 M4 Pro 옵션은 12코어 또는 14코어 CPU, 16코어 또는 20코어 GPU, 16코어 Neural Engine으로 출고됩니다. Apple 공식 사양 페이지와 이를 뒷받침하는 M4 Wikipedia 항목에 따르면, M4 Pro는 273 GB/s의 통합 메모리 대역폭을 제공하고 최대 64 GB 통합 메모리를 지원합니다. CPU, GPU, Neural Engine이 모두 같은 메모리 풀에서 읽으므로 PCIe 왕복이 없습니다.

Apple의 2024년 10월 출시 발표에 따르면 M4 Pro Mac mini 기본 모델은 $1,399(12코어 CPU, 24 GB 통합 메모리)입니다. 로컬 LLM 작업에서 중요한 64 GB 업그레이드를 선택하면 스토리지에 따라 약 $2,000까지 올라갑니다. 서드파티 RAM은 쓸 수 없습니다. 메모리가 패키지에 통합되어 있으므로 구매 시 선택하거나, 그대로 쓰는 수밖에 없습니다.

유휴 시 거의 무소음이고 부하 시에도 100 W 미만을 소비하는 5인치 정사각형 박스에서, 이 대역폭 수치가 핵심입니다. GMKtec EVO-X2 같은 박스에 쓰이는 Strix Halo 플랫폼은 약 256 GB/s가 최대이며, 메모리 용량은 더 큽니다(최대 128 GB). 반면 외장 RTX 4090은 1 TB/s에 가깝습니다. 메모리 대역폭은 트랜스포머 모델의 토큰 생성 처리량에서 가장 중요한 수치입니다. 추론은 연산이 아니라 대역폭에 묶이기 때문이며, 이는 llama.cpp 커뮤니티가 오랫동안 이어 온 M 시리즈 벤치마크 스레드에서 M1 시절부터 기록해 온 사실입니다. M4 Pro는 묘한 중간 지점에 있습니다. 모든 ‘AI PC’ 미니 PC보다 빠르고 최신 dGPU보다는 훨씬 느리지만, 같은 가격의 4090 미니 PC보다 쓸 수 있는 메모리가 훨씬 많습니다.

2026년의 소프트웨어 스택

Apple Silicon의 로컬 LLM 이야기는 예전에는 ‘llama.cpp Metal 백엔드, 잘 되기를 빌 뿐’이었습니다. 이제는 달라졌습니다. Apple의 MLX 프레임워크(통합 메모리에 맞춰 튜닝된 NumPy 스타일 배열 라이브러리)는 이제 주요 오픈 웨이트 모델군(Llama, Qwen, Mistral, Gemma)의 추론을 안정적으로 지원하며, M 시리즈 GPU에서 LLM을 효율적으로 실행하는 방법에 관한 Apple의 공개 연구의 기반이기도 합니다. LM Studio, Ollama, llama.cpp 같은 도구는 바로 작동하는 Metal 백엔드를 제공합니다. 드라이버 씨름도, ROCm 버전 고정도, XDNA 툴체인 조립도 필요 없습니다.

이런 성숙도는 사양표에 드러나지 않는 비교 요소입니다. 그리고 지난 18개월 동안 Apple 쪽으로 기울어진 요소이기도 합니다.

64 GB로 실제 돌릴 수 있는 것: 출처 있는 수치

독립적인 보고를 바탕으로 한 64 GB M4 Pro의 솔직한 tok/s 수치는 대략 다음과 같습니다.

  • Llama 3.3 70B 4비트 (MLX, 약 40 GB 상주): 개발자 Bharani Manoharan은 64 GB, 20코어 GPU Mac mini M4 Pro에서 약 5 tok/s를 보고하며 “손바닥에 들어오는 기기라는 점을 생각하면 훌륭하다”고 평가했습니다. Simon Willison은 64 GB MacBook Pro M2 Max에서의 비슷한 Llama 3.3 70B 4비트 구성에 대해 쓰면서 비슷한 한 자릿수 토큰 속도를 기록했고, 그 경험을 “내 노트북에서 돌아가는 GPT-4급”이라고 표현했습니다. 배치 작업에는 쓸 만하고, 실시간 채팅에는 아슬아슬한 수준입니다.
  • 더 작은 30B급 모델: llama.cpp Apple Silicon 스레드에 모인 커뮤니티 벤치마크와 기타 커뮤니티 테스트에 따르면, 14B32B 범위 모델은 M4 Pro에서 1125 tok/s로 대화형으로 쓰기에 충분합니다.
  • 7B~8B 모델: 50 tok/s를 훌쩍 넘고 세 자릿수에 이르는 경우도 많아, 사람이 읽는 속도보다 빠릅니다.

4비트 70B 모델은 64 GB에 들어가지만 겨우 들어갑니다. Q5나 Q6 양자화 70B 모델은 아예 들어가지 않습니다. 이것이 이 기기의 한계이며 분명히 짚어 둘 필요가 있습니다. 64 GB 통합 메모리는 70B급의 최저선이지, 여유 있는 공간이 아닙니다.

솔직한 비교

GMKtec EVO-X2 / Strix Halo 박스와 비교하면, M4 Pro Mac mini는 메모리 상한(64 GB 대 최대 128 GB)에서 밀리지만 2026년 초 기준 소프트웨어 성숙도에서는 확실히 앞섭니다. Strix Halo의 ROCm과 XDNA NPU 스택은 개선되고 있지만, Apple Silicon의 MLX, Metal, Ollama처럼 ‘설치하면 바로 되는’ 수준에는 아직 이르지 못했습니다. ‘오늘 밤 70B급 양자화 모델을 돌리고 싶다’는 작업이라면 M4 Pro가 더 안전한 선택입니다. ‘2년 뒤 100B급 모델을 돌릴 여유가 필요하다’면 Strix Halo의 더 큰 메모리 풀이 낫습니다.

외장 RTX 4070 / 4070 Ti를 탑재한 미니 PC와 비교하면 모델 크기에 따라 결과가 뒤집힙니다. 소형 및 중형 모델에서는 dGPU 박스가 토큰당 속도에서 앞서고, 이미지 생성과 CUDA 전용 연구 코드에서는 Mac을 압도합니다. Mac은 12~16 GB VRAM에 들어가지 않는 모든 모델에서 앞서며, 2026년에 로컬로 돌릴 가치가 있는 모델은 대부분 여기에 해당합니다.

구형 Mac Studio M2 Ultra와 비교하면, M4 Pro Mac mini는 비슷한 메모리 대역폭을 약 4분의 1 가격에 제공하지만 상한이 192 GB가 아닌 64 GB입니다. 70B급 작업에서는 압도적으로 가성비가 좋습니다. 100B 이상 MoE 모델이라면 여전히 Studio가 이를 담을 수 있는 유일한 Apple 기기입니다.

Thunderbolt 클러스터라는 아이디어에 낭만을 품기 전에 AppleInsider의 M4 mini 클러스터 리뷰도 읽어 볼 만합니다. M4 mini 두 대를 연결하는 것은 재미있는 프로젝트지만, 추론에서는 사양이 더 좋은 단일 기기를 이기는 경우가 드뭅니다. 통합 메모리 풀이 해결하려던 병목이 노드 간 대역폭에서 다시 생기기 때문입니다.

분명히 짚어 둘 한계

솔직한 단점 세 가지입니다.

첫째, AI 생태계의 상당 부분에서 CUDA는 선택 사항이 아닙니다. vLLM, TensorRT-LLM, GitHub의 수많은 롱테일 연구 코드, 그리고 많은 이미지 생성 및 영상 생성 파이프라인은 NVIDIA 그래픽카드를 전제로 합니다. 이 중 어느 것도 Mac에서 돌아가지 않습니다. 특정 CUDA 전용 프로젝트가 필요한 작업이라면, 대역폭이 아무리 좋아도 이 기기는 맞지 않는 선택입니다.

둘째, 메모리 업그레이드 가격은 악명 높을 만큼 가혹합니다. 기본 24 GB에서 64 GB로 올리는 데 약 $800가 들며, 일반 PC라면 그 몇 분의 일 가격이면 되는 RAM입니다. 통합 메모리라는 특권에 Apple 세금을 내는 셈이며, 애프터마켓 해결책도 없습니다.

셋째, 64 GB는 70B급 모델이 겨우 들어가는 바로 그 경계선입니다. 더 긴 컨텍스트, 더 높은 비트의 양자화, 100B 이상 MoE급 모델을 원하는 순간 공간이 부족해지고, 96~128 GB를 갖춘 Mac Studio나 Strix Halo 박스를 알아봐야 합니다.

결론

Mac Mini M4 Pro 64 GB는 살 수 있는 가장 빠른 로컬 LLM 기기가 아닙니다. 근처에도 못 갑니다. 2026년 봄 기준으로 이 기기는, 전원을 꽂는 날부터 작동하는 소프트웨어와 함께 70B급 모델을 책상 위에서 돌릴 수 있는 가장 저렴한 기기이며, 팬 소음이 들리지 않는 채로 모니터 옆에 놓을 수 있는 크기로 이를 해냅니다. 실제 작업이 ‘CUDA 전용 의존성 없이 오픈 웨이트 모델을 매일 로컬로 돌리는 것’인 사람에게, $2,000 미만에서 이와 견줄 제품은 없습니다. 업그레이드 세금과 CUDA 공백은 실제 비용이며, 이 기기를 사려는 사람은 결제 전에 이를 이해해야 합니다. 하지만 종합적으로 보면, 이 절충안은 Apple Silicon이 로컬 AI 사용자에게 지금까지 제시한 것 중 가장 유리한 조건입니다.