Apple Mac Mini M4 Pro für lokale LLMs: 64 GB und 70B-Modelle

In der Community rund um lokale LLMs läuft eine leise Diskussion, die die Mini-PC-Presse größtenteils verpasst hat: Die günstigste ernsthafte Maschine, um 2026 Modelle der 70B-Klasse auf dem eigenen Schreibtisch auszuführen, ist weder ein Strix-Halo-Gerät von GMKtec noch ein kleiner Mini-PC mit RTX 4070 noch ein gebrauchtes Mac Studio. Es ist der Apple Mac Mini mit M4 Pro und 64 GB Unified Memory, konfiguriert für rund 2.000 $. Für die konkrete Aufgabe, ein quantisiertes Llama oder Qwen 70B lokal auszuführen, mit ausgereifter Software, auf einer Maschine, die weniger Strom zieht als eine Schreibtischlampe, kommt in dieser Preisklasse nichts anderes auch nur annähernd heran.

Das ist eine starke Behauptung, und sie verdient die üblichen Vorbehalte. Deshalb hier die nüchterne, belegte Version.

Apple Mac Mini M4 Pro: was die Hardware tatsächlich ist

Die M4-Pro-Option des Mac mini gibt es mit einer CPU mit 12 oder 14 Kernen, einer GPU mit 16 oder 20 Kernen und einer Neural Engine mit 16 Kernen. Laut Apples eigener Datenseite, bestätigt durch den Wikipedia-Eintrag zum M4, bietet der M4 Pro 273 GB/s Speicherbandbreite und unterstützt bis zu 64 GB Unified Memory. CPU, GPU und Neural Engine lesen also alle aus demselben Speicherpool, ohne Umweg über PCIe.

Apples Ankündigung zum Marktstart im Oktober 2024 nennt für den Einstiegs-Mac-mini mit M4 Pro 1.399 $ (CPU mit 12 Kernen, 24 GB Unified Memory). Das Upgrade auf 64 GB (und genau darauf kommt es bei lokalen LLMs an) treibt den Preis je nach Speicherplatz auf rund 2.000 $. RAM von Drittanbietern gibt es hier nicht. Der Speicher sitzt im Chipgehäuse, Sie wählen beim Kauf oder leben damit.

Für ein Gerät mit 5 Zoll Kantenlänge, das im Leerlauf nahezu lautlos ist und unter Last weniger als 100 W zieht, ist diese Bandbreite die eigentliche Schlagzeile. Die Strix-Halo-Plattform, auf der Geräte wie der GMKtec EVO-X2 basieren, endet bei rund 256 GB/s und bietet mehr Speicherkapazität (bis zu 128 GB). Eine dedizierte RTX 4090 liegt dagegen bei fast 1 TB/s. Die Speicherbandbreite ist die wichtigste einzelne Kennzahl für den Durchsatz bei der Token-Generierung in einem Transformer-Modell, denn Inferenz ist durch die Bandbreite begrenzt und nicht durch die Rechenleistung. Die llama.cpp-Community dokumentiert das seit der M1-Ära in ihrem langjährigen Benchmark-Thread zur M-Serie. Der M4 Pro sitzt in einem seltsamen Mittelfeld: schneller als jeder „KI-PC“-Mini-PC, viel langsamer als jede moderne dGPU, aber mit weit mehr nutzbarem Speicher als ein Mini-PC mit 4090 zum selben Preis.

Wie der Software-Stack 2026 aussieht

Die Geschichte lokaler LLMs auf Apple Silicon lautete früher: „Metal-Backend von llama.cpp, und dann auf das Beste hoffen.“ Das hat sich geändert. Apples eigenes Framework MLX (eine Array-Bibliothek im Stil von NumPy, optimiert für Unified Memory) unterstützt inzwischen stabil die Inferenz der großen Open-Weight-Familien (Llama, Qwen, Mistral, Gemma) und bildet die Grundlage von Apples eigener veröffentlichter Forschung zur effizienten Ausführung von LLMs auf GPUs der M-Serie. Werkzeuge wie LM Studio, Ollama und llama.cpp liefern Metal-Backends, die sofort funktionieren. Kein Treiber-Gerangel, kein Festnageln von ROCm-Versionen, keine XDNA-Toolchain, die man zusammenbauen muss.

Diese Reife ist der Teil des Vergleichs, der in keinem Datenblatt auftaucht. Es ist auch der Teil, der sich in den vergangenen 18 Monaten zugunsten von Apple verschoben hat.

Was 64 GB tatsächlich ausführen, mit belegten Zahlen

Das ehrliche Bild der tok/s bei einem M4 Pro mit 64 GB sieht laut unabhängigen Berichten ungefähr so aus:

• Llama 3.3 70B in 4 Bit (MLX, ~40 GB im Speicher): Der Entwickler Bharani Manoharan, der einen Mac mini M4 Pro mit 20-Kern-GPU und 64 GB nutzt, berichtete von ~5 tok/s und nannte das „bewundernswert, wenn man bedenkt, dass die Maschine in meine Handfläche passt“. Simon Willison, der über ein vergleichbares Setup mit Llama 3.3 70B in 4 Bit auf einem MacBook Pro M2 Max mit 64 GB schrieb, dokumentierte ähnliche einstellige Token-Raten und beschrieb die Erfahrung als „GPT-4-Klasse auf meinem Laptop“: brauchbar für Batch-Jobs, grenzwertig für Live-Chat.
• Kleinere Modelle der 30B-Klasse: Community-Benchmarks, gesammelt im llama.cpp-Thread zu Apple Silicon, und weitere Community-Tests sehen Modelle im Bereich von 14B bis 32B auf dem M4 Pro bei 11 bis 25 tok/s, gut interaktiv nutzbar.
• Modelle mit 7B bis 8B: deutlich über 50 tok/s, oft im dreistelligen Bereich, schneller, als ein Mensch lesen kann.

Ein 70B-Modell in 4 Bit passt in 64 GB, aber nur knapp. Ein 70B-Modell in Q5- oder Q6-Quantisierung passt nicht, Punkt. Das ist die Obergrenze dieser Maschine, und man sollte sie klar benennen: 64 GB Unified Memory sind die Untergrenze der 70B-Klasse, kein komfortables Zuhause dafür.

Der ehrliche Vergleich

Gegenüber einem GMKtec EVO-X2 / Strix-Halo-Gerät verzichtet der Mac mini mit M4 Pro auf Speicherkapazität (64 GB gegenüber bis zu 128 GB), liegt Anfang 2026 aber bei der Software-Reife klar vorn. ROCm und der XDNA-NPU-Stack auf Strix Halo werden besser, sind aber noch nicht in der Kategorie „installieren und es läuft“ angekommen, in der MLX, Metal und Ollama auf Apple Silicon bereits sind. Lautet Ihre Aufgabe „Ich will heute Abend eine Quantisierung der 70B-Klasse laufen lassen“, ist der M4 Pro die sicherere Wahl. Lautet sie „Ich will Reserven, um in zwei Jahren ein Modell der 100B-Klasse auszuführen“, gewinnt der größere Speicherpool von Strix Halo.

Gegenüber einem Mini-PC mit dedizierter RTX 4070 / 4070 Ti kippt der Vergleich je nach Modellgröße. Das dGPU-Gerät gewinnt bei kleinen und mittleren Modellen in der Geschwindigkeit pro Token und deklassiert den Mac bei der Bildgenerierung und bei jedem CUDA-exklusiven Forschungscode. Der Mac gewinnt bei jedem Modell, das nicht in 12 bis 16 GB VRAM passt, und das betrifft 2026 die meisten Modelle, die sich lokal auszuführen lohnen.

Gegenüber einem älteren Mac Studio M2 Ultra kostet der Mac mini mit M4 Pro etwa ein Viertel bei ähnlicher Speicherbandbreite, ist aber auf 64 GB statt 192 GB begrenzt. Für die Aufgabe der 70B-Klasse ist er deutlich preiswerter. Für MoE-Modelle ab 100B ist das Studio weiterhin der einzige Apple-Rechner, in den sie passen.

Lesenswert ist auch AppleInsiders Test von Clustern aus M4-minis, bevor man die Idee eines Thunderbolt-Clusters romantisiert: Zwei M4 minis zu verbinden ist ein spaßiges Projekt, schlägt bei der Inferenz aber selten eine einzelne, besser ausgestattete Maschine, weil die Bandbreite zwischen den Knoten zum Engpass wird, den der gemeinsame Speicherpool eigentlich beseitigen sollte.

Die Grenzen, klar benannt

Drei ehrliche Minuspunkte.

Erstens: Für einen relevanten Teil des KI-Ökosystems ist CUDA nicht optional. vLLM, TensorRT-LLM, ein großer Teil des Forschungscodes auf GitHub und viele Pipelines zur Bild- und Videogenerierung setzen eine NVIDIA-Karte voraus. Nichts davon läuft auf einem Mac. Wenn Ihre Arbeit ein bestimmtes CUDA-exklusives Projekt erfordert, ist dieses Gerät die falsche Antwort, egal wie gut seine Bandbreite ist.

Zweitens: Die Preise für Speicher-Upgrades sind bekanntermaßen happig. Der Schritt von 24 GB in der Basis auf 64 GB kostet rund 800 $, für RAM, der in einem normalen PC nur einen Bruchteil kosten würde. Sie zahlen Apples Aufschlag für das Privileg des Unified Memory, und eine nachträgliche Lösung gibt es nicht.

Drittens: 64 GB sind genau die Grenze, an der Modelle der 70B-Klasse gerade noch passen. Sobald Sie längeren Kontext, eine höhere Quantisierung oder ein MoE-Modell ab 100B wollen, ist kein Platz mehr, und Sie schauen sich nach einem Mac Studio oder einem Strix-Halo-Gerät mit 96 bis 128 GB um.

Das Fazit

Der Mac Mini M4 Pro mit 64 GB ist nicht die schnellste Maschine für lokale LLMs, die man kaufen kann. Nicht einmal annähernd. Was er im Frühjahr 2026 ist: die günstigste Maschine, die ein Modell der 70B-Klasse auf Ihrem Schreibtisch betreiben kann, mit Software, die vom ersten Tag an funktioniert, und das auf einer Stellfläche, die neben einen Monitor passt, ohne einen hörbaren Lüfter. Für alle, deren tatsächliche Arbeit lautet „Open-Weight-Modelle lokal ausführen, jeden Tag, ohne CUDA-exklusive Abhängigkeiten“, spielt unter 2.000 $ nichts anderes in derselben Liga. Der Upgrade-Aufschlag und die CUDA-Lücke sind echte Kosten, und wer diese Maschine kauft, sollte sie vor dem Bezahlen verstehen. Unterm Strich ist dieser Kompromiss aber der günstigste, den Apple Silicon der Community für lokale KI je geboten hat.