Hay una conversación discreta en la comunidad de LLM locales que la prensa de mini PC mayormente pasó por alto: la máquina seria más barata para correr modelos de clase 70B en tu escritorio en 2026 no es un equipo Strix Halo de GMKtec, ni una pequeña mini PC con RTX 4070, ni una Mac Studio usada. Es la Apple Mac Mini con M4 Pro y 64 GB de memoria unificada, configurada por unos $2,000. Para la tarea específica de correr un Llama o un Qwen 70B cuantizado en local, con software maduro, en una máquina que consume menos energía que una lámpara de escritorio, nada más en ese rango de precio se le acerca.

Es una afirmación fuerte, y merece las advertencias de siempre. Así que esta es la versión aburrida y documentada.

Apple Mac Mini M4 Pro: qué es realmente el hardware

La opción M4 Pro de la Mac mini viene con una CPU de 12 o 14 núcleos, una GPU de 16 o 20 núcleos y un Neural Engine de 16 núcleos. Según la página de especificaciones de Apple, y como corrobora la entrada de Wikipedia del M4, el M4 Pro ofrece 273 GB/s de ancho de banda de memoria unificada y admite hasta 64 GB de memoria unificada, lo que significa que la CPU, la GPU y el Neural Engine leen del mismo conjunto de memoria, sin pasar por PCIe.

El anuncio de lanzamiento de octubre de 2024 de Apple sitúa la Mac mini M4 Pro de entrada en $1,399 (CPU de 12 núcleos, 24 GB de memoria unificada). La ampliación a 64 GB (que es lo que importa para trabajar con LLM locales) lleva la configuración a unos $2,000, según el almacenamiento. Aquí no hay RAM de terceros: la memoria está integrada en el encapsulado, y la eliges al comprar o te quedas con lo que tienes.

Para una caja de 5 pulgadas por lado que en reposo es casi silenciosa y consume menos de 100 W bajo carga, esa cifra de ancho de banda es el dato principal. La plataforma Strix Halo que impulsa equipos como la GMKtec EVO-X2 llega a unos 256 GB/s y ofrece más capacidad de memoria (hasta 128 GB). Una RTX 4090 dedicada, en cambio, ronda 1 TB/s. El ancho de banda de memoria es el número más importante para la velocidad de generación de tokens en un modelo transformer, porque la inferencia está limitada por el ancho de banda y no por el cómputo, algo que la comunidad de llama.cpp ha documentado en su largo hilo de benchmarks de la serie M desde la época del M1. El M4 Pro ocupa un punto intermedio extraño: más rápido que cualquier mini PC “AI PC”, mucho más lento que cualquier dGPU moderna, pero con muchísima más memoria utilizable que una mini PC con 4090 al mismo precio.

Cómo se ve el stack de software en 2026

La historia de los LLM locales en Apple Silicon solía ser “backend Metal de llama.cpp y cruzar los dedos”. Eso cambió. El framework MLX de Apple (una biblioteca de arrays al estilo NumPy optimizada para memoria unificada) ya tiene soporte de inferencia estable para las principales familias de pesos abiertos (Llama, Qwen, Mistral, Gemma) y es la base de la investigación publicada por Apple sobre cómo correr LLM de forma eficiente en GPU de la serie M. Herramientas como LM Studio, Ollama y llama.cpp incluyen backends Metal que funcionan de inmediato. No hay que pelear con drivers, ni fijar versiones de ROCm, ni armar una toolchain de XDNA.

Esa madurez es la parte de la comparación que no aparece en las fichas técnicas. También es la parte que se inclinó a favor de Apple en los últimos 18 meses.

Qué corre realmente con 64 GB, con cifras documentadas

El panorama honesto de tok/s para una M4 Pro de 64 GB se ve más o menos así, según reportes independientes:

  • Llama 3.3 70B a 4 bits (MLX, ~40 GB residentes): el desarrollador Bharani Manoharan, con una Mac mini M4 Pro de GPU de 20 núcleos y 64 GB, reportó ~5 tok/s y lo calificó de “admirable considerando que la máquina cabe en la palma de mi mano”. Simon Willison, al escribir sobre una configuración comparable de Llama 3.3 70B a 4 bits en una MacBook Pro M2 Max de 64 GB, documentó velocidades similares de un solo dígito y describió la experiencia como “clase GPT-4, en mi laptop”: útil para trabajos por lotes, justo para chat en vivo.
  • Modelos más pequeños de clase 30B: los benchmarks de la comunidad reunidos en el hilo de llama.cpp sobre Apple Silicon y otras pruebas de la comunidad sitúan a los modelos de 14B–32B en 11–25 tok/s en el M4 Pro, cómodamente interactivos.
  • Modelos de 7B–8B: muy por encima de 50 tok/s, a menudo en tres cifras, más rápido de lo que una persona puede leer.

Un modelo de 70B a 4 bits cabe en 64 GB, pero apenas. Un modelo de 70B con cuantización Q5 o Q6 no cabe, punto. Ese es el techo de esta máquina y vale la pena decirlo con claridad: 64 GB de memoria unificada son el piso de la clase 70B, no un hogar cómodo para ella.

La comparación honesta

Frente a un equipo GMKtec EVO-X2 / Strix Halo, la Mac mini M4 Pro cede en techo de memoria (64 GB frente a hasta 128 GB), pero gana con claridad en madurez del software a principios de 2026. ROCm y el stack de la NPU XDNA en Strix Halo están mejorando, pero todavía no están en la categoría de “lo instalas y funciona” en la que ya están MLX, Metal y Ollama en Apple Silicon. Si tu carga de trabajo es “quiero correr una cuantización de clase 70B esta noche”, la M4 Pro es la apuesta más segura. Si es “quiero margen para correr un modelo de clase 100B dentro de dos años”, gana el conjunto de memoria más grande de Strix Halo.

Frente a una mini PC con una RTX 4070 / 4070 Ti dedicada, la comparación se invierte según el tamaño del modelo. El equipo con dGPU gana en velocidad por token con modelos pequeños y medianos, y aplasta a la Mac en generación de imágenes y en cualquier código de investigación que solo use CUDA. La Mac gana con todo modelo que no quepa en 12–16 GB de VRAM, que es la mayor parte de lo que vale la pena correr en local en 2026.

Frente a una Mac Studio M2 Ultra más antigua, la Mac mini M4 Pro cuesta aproximadamente una cuarta parte con un ancho de banda de memoria similar, pero con un tope de 64 GB en lugar de 192 GB. Para la tarea de clase 70B, ofrece una relación calidad-precio muchísimo mejor. Para modelos MoE de más de 100B, la Studio sigue siendo la única máquina de Apple donde caben.

También vale la pena leer la reseña de AppleInsider sobre clústeres de Mac mini M4 antes de idealizar la idea de un clúster por Thunderbolt: conectar dos Mac mini M4 es un proyecto divertido, pero rara vez supera a una sola máquina con mejores especificaciones para inferencia, porque el ancho de banda entre nodos se convierte en el cuello de botella que la memoria unificada debía resolver.

Los límites, dichos con claridad

Tres desventajas honestas.

Primero, CUDA no es opcional para una parte importante del ecosistema de IA. vLLM, TensorRT-LLM, buena parte del código de investigación de nicho en GitHub y muchos pipelines de generación de imágenes y video asumen una tarjeta NVIDIA. Nada de eso corre en una Mac. Si tu trabajo requiere un proyecto específico que solo usa CUDA, este equipo es la respuesta equivocada sin importar qué tan bueno sea su ancho de banda.

Segundo, el precio de la ampliación de memoria es famosamente abusivo. Pasar de los 24 GB base a 64 GB cuesta unos $800, por una RAM que en una PC normal costaría una fracción. Pagas el impuesto de Apple por el privilegio de la memoria unificada, y no hay solución posterior.

Tercero, 64 GB es justo el límite en el que los modelos de clase 70B apenas caben. En cuanto quieras un contexto más largo, una cuantización más alta o un modelo de la clase MoE de más de 100B, te quedas sin espacio y terminas buscando una Mac Studio o un equipo Strix Halo con 96–128 GB.

La conclusión

La Mac Mini M4 Pro de 64 GB no es la máquina para LLM locales más rápida que puedes comprar. Ni de cerca. Lo que sí es, en la primavera de 2026, es la máquina más barata capaz de alojar un modelo de clase 70B en tu escritorio con software que funciona desde el día en que la conectas, y lo hace en un tamaño que cabe junto a un monitor sin un ventilador que se escuche. Para quienes su carga de trabajo real es “correr modelos de pesos abiertos en local, todos los días, sin dependencias exclusivas de CUDA”, nada más por debajo de $2,000 está en la misma conversación. El sobreprecio de la ampliación y la ausencia de CUDA son costos reales, y cualquiera que compre esta máquina debería entenderlos antes de pagar. Pero el balance, en general, es el más favorable que Apple Silicon le ha ofrecido jamás a la comunidad de IA local.