GIGABYTE AI TOP ATOM im Test: der GB10-KI-Desktop

Was der GIGABYTE AI TOP ATOM ist

Der GIGABYTE AI TOP ATOM ist ein Desktop mit rund einem Liter Volumen, aufgebaut um NVIDIAs GB10 Grace Blackwell Superchip: dasselbe Silizium aus Grace-Arm-CPU und Blackwell-GPU, das auch NVIDIAs eigenen DGX Spark und den ASUS Ascent GX10 antreibt. Ein Mini-PC für alle Zwecke ist er nicht. Er ist eine persönliche KI-Workstation, die je nach SSD-Konfiguration für $3,499 bis $3,999 verkauft wird und eine Sache sehr gut können soll: große Sprachmodelle lokal auf Ihrem Schreibtisch ausführen und feintunen, ohne Cloud-GPUs zu mieten.

GIGABYTEs Beitrag ist das Gehäuse um den Chip. NVIDIA definiert die GB10-Plattform (Arm-CPU mit 20 Kernen, Blackwell-GPU, 128 GB LPDDR5x Unified Memory, NVIDIAs KI-Software-Stack), daher liefert jedes GB10-Gerät der „Spark-Klasse“ praktisch identische Rechenleistung. Unterscheiden können sich die Partner bei Kühlung, SSD-Generation, Netzwerk, Preis und Support. ServeTheHome, das mehrere dieser Geräte getestet hat, nannte den AI TOP ATOM „den bisher schnellsten Spark“, eine bemerkenswerte Anerkennung, wenn man bedenkt, wie wenig Spielraum die Hersteller haben.

Wofür er sich eignet (lokale KI / LLM-Entwicklung)

Die zentrale Zahl lautet 128 GB Unified Memory. Da sich Grace-CPU und Blackwell-GPU über NVLink-C2C einen gemeinsamen Speicherpool teilen, kann die GPU die vollen 128 GB adressieren. Das reicht, um ein Modell mit 200 Milliarden Parametern im Speicher zu halten, oder ein 405B-Modell, verteilt auf zwei per ConnectX-7 verbundene ATOMs. Darin liegt das ganze Versprechen: Ein Modell, das sonst mehrere dedizierte Rechenzentrums-GPUs bräuchte, passt in eine Box, die Sie unter dem Arm tragen können.

Konkret ist der AI TOP ATOM gebaut für:

• Lokale LLM-Inferenz und Prototyping: 70B-Modelle laufen komfortabel, und 100B–200B-Modelle, die auf einer Consumer-GPU mit 24–32 GB schlicht nicht laden, ebenfalls.
• Fine-Tuning und LoRA-Arbeit an mittelgroßen Modellen ohne Cloud-Egress oder stundenweise Abrechnung.
• KI-Entwicklung auf dem echten CUDA-Stack: dieselben Treiber, Container und Bibliotheken, die Sie auf einem DGX oder einer H100 in der Cloud einsetzen würden, sodass Ihr Code ohne Neuschreiben nach oben wandert.
• Kreativ- und Büroaufgaben als Nebenrolle: Arm-Linux-Desktop-Apps laufen problemlos, aber deswegen kauft man ihn nicht.

Wenn Sie vor allem 7B–13B-Modelle auf einem günstigeren, Windows-freundlichen Gerät ausführen möchten, ist ein Strix-Halo-Rechner wie der GMKtec EVO-X2 oder sogar ein Mac mini M4 Pro die vernünftigere Ausgabe. Seinen Preis rechtfertigt der ATOM nur, wenn Sie die 128 GB als Obergrenze wirklich brauchen. Unser Vergleich von NPU, iGPU und CPU zeigt, wo diese Grenze verläuft.

Der GB10-Superchip und Unified Memory

Der GB10 kombiniert eine Arm-CPU mit 20 Kernen (10× Cortex-X925 als Performance-Kerne + 10× Cortex-A725 als Effizienzkerne) mit einer Blackwell-GPU. Beide sind über NVLink-C2C verbunden, sodass zwischen ihnen kein PCIe-Flaschenhals entsteht. NVIDIA beziffert die Plattform auf 1 PetaFLOP (1.000 TOPS) FP4-Rechenleistung, also im dünnbesetzten Format mit niedriger Genauigkeit, auf das moderne Inferenz-Engines setzen.

Dieser FP4-Wert ist real, will aber richtig gelesen werden: Er beschreibt den maximalen Matrix-Durchsatz, nicht die Geschwindigkeit, mit der Tokens ausgegeben werden. Bei der Inferenz ist der begrenzende Faktor fast immer die Speicherbandbreite, und der widmen wir weiter unten einen eigenen Abschnitt.

Verarbeitung, Anschlüsse und Clustering

Das Gehäuse ist minimalistisch bis zur Strenge: ein schwarzer Block mit rund 1 Liter Volumen (etwa 150 × 150 × 51 mm, ca. 1,2 kg) ganz ohne Anschlüsse auf der Vorderseite (selbst der Einschaltknopf sitzt hinten) und mit einem sauberen Luftstrom von vorne nach hinten. Die Tester stellen übereinstimmend fest, dass der ATOM kühl und leise läuft. Das ist der Hauptgrund, warum ServeTheHome ihm das Prädikat „schnellster Spark“ verlieh: Bessere Kühlung bedeutet, dass der GB10 seine Taktraten unter Dauerlast länger hält.

Die Anschlüsse auf der Rückseite sind ganz auf Netzwerk ausgerichtet:

• Zweimal 200GbE ConnectX-7 (QSFP): das Vorzeigemerkmal, mit dem sich zwei ATOMs für den 405B-Modus mit zwei Systemen koppeln lassen.
• 10GbE über Kupfer für das normale LAN, dazu Wi-Fi 7 und Bluetooth 5.3.
• 4× USB-C (USB 3.2 Gen2x2, 20 Gbps, mit DisplayPort-Alt-Mode) und HDMI 2.1a für die Bildausgabe.

Ein Vorbehalt ist wissenswert: ServeTheHome wies darauf hin, dass die ConnectX-7-Netzwerkkarte über zwei PCIe-x4-Links statt eines einzelnen x8-Links am GB10 hängt. Die beiden 200GbE-Ports verhalten sich daher eher wie getrennte Schnittstellen als wie eine breite 400G-Leitung. Für die meisten Käufer eines einzelnen Geräts ist das akademisch. Wer ein eng gekoppeltes Cluster aus zwei Knoten plant, sollte es aber verstehen, bevor er seine Architektur darauf aufbaut.

Speicherbandbreite: die Grenze in der Praxis

Das ist die Zahl, die am meisten zählt und die das Marketing am liebsten versteckt. Die 128 GB LPDDR5x liefern rund 273 GB/s Bandbreite. Für ein Gerät mit einem Liter ist das hervorragend, aber nur ein Bruchteil dessen, was eine dedizierte GPU bietet. Eine RTX 5090 schafft deutlich über 1,7 TB/s.

Da die Token-Generierung durch die Bandbreite begrenzt ist, fällt der Durchsatz des ATOM bei großen Modellen in absoluten Zahlen moderat aus. Er lädt und betreibt ein 120B-Modell, das eine 5090 physisch nicht fassen kann, gibt die Tokens aber in gemächlicherem Tempo aus, als die Schlagzeile von 1 PetaFLOP FP4 vermuten lässt. Das richtige Denkmodell: Der GB10 tauscht reine Geschwindigkeit gegen Kapazität. Sie kaufen ihn, um Modelle auszuführen, die in dieser Größe und Preisklasse nirgendwo sonst hineinpassen, nicht um eine Gaming-GPU bei Tokens pro Sekunde für Modelle zu schlagen, die in 32 GB passen. Derselbe Tausch von Kapazität gegen Geschwindigkeit ist auch der Grund, warum Mini-PCs mit dedizierter GPU bei kleinen Modellen schneller bleiben, bei großen aber früh an ihre Grenzen stoßen.

Preise und Bezugsquellen

GIGABYTE verkauft den AI TOP ATOM in drei Konfigurationen, alle mit demselben GB10 und 128 GB Arbeitsspeicher. Nur die SSD unterscheidet sich:

• $3,499: 1 TB PCIe Gen4 NVMe
• $3,899: 4 TB PCIe Gen4 NVMe
• $3,999: 4 TB PCIe Gen5 NVMe

Er ist bei Amazon gelistet (die 4-TB-Konfiguration ist das verifizierte Angebot), der Affiliate-Link unten führt also zu einem aktiven US-Angebot. Zu diesen Preisen unterbietet der ATOM in der Regel NVIDIAs eigenen DGX Spark (der infolge schwankender DRAM-Preise auf ca. $3,999–$4,699 gestiegen ist), was GIGABYTEs Gerät zu einem der preiswerteren Vertreter der GB10-Reihe macht. Da sich die Hersteller kaum unterscheiden, zählt der Support: GIGABYTE arbeitet in den USA mit AVADirect für Vor-Ort-Reparaturen am nächsten Werktag zusammen. Passend dazu: Der MSI EdgeXpert MS-C931 und der Acer Veriton GN100 sind weitere GB10-Geräte derselben Reihe.

Was wir bemängeln

• Die Bandbreite, nicht die Rechenleistung, ist der Engpass. 273 GB/s bedeuten, dass der Durchsatz bei der Token-Generierung großer Modelle stetig, aber nicht rasant ist. Passen Sie Ihre Erwartungen entsprechend an.
• DGX OS ist eine Entwicklungsumgebung, kein Desktop. Es handelt sich um Arm Linux mit NVIDIAs Stack, hervorragend für KI-Arbeit, aber weder ein Windows-Rechner noch ein PC für allgemeine Produktivität.
• Alles verlötet. Die 128 GB Arbeitsspeicher sind fest, nur die SSD ist eine Konfigurationsoption, die beim Kauf gewählt wird. Einen späteren Aufrüstpfad gibt es nicht.
• Aufgeteilte ConnectX-7-Lanes. Die Netzwerkkarte mit zweimal 200GbE läuft als 2× x4, was ein sauberes Clustering mit zwei Knoten einschränkt.
• Bewusst eine Nische. Ab $3,499 ist er nur sinnvoll, wenn Sie gezielt die 128 GB Unified Memory als Obergrenze brauchen. Für 7B–13B-Modelle ist weit günstigere Hardware die bessere Wahl.

Fazit

Der GIGABYTE AI TOP ATOM ist ein gut umgesetztes GB10-Gerät, wohl das am besten gekühlte und am günstigsten bepreiste der aktuellen Spark-Klasse, und genau das spiegelt das Urteil „bisher schnellster Spark“ von ServeTheHome wider. Die eine Aufgabe, für die er existiert, erfüllt er ehrlich: Er bringt ein Modell mit 200 Milliarden Parametern lautlos auf Ihren Schreibtisch, für weniger als viertausend Dollar.

Kaufen Sie ihn nur aus dem richtigen Grund. Wenn Sie als KI-Entwickler oder Forscher Modelle ausführen, feintunen und weiterentwickeln müssen, die für jede Consumer-GPU zu groß sind, und Sie NVIDIAs echten CUDA-Stack statt einer Kompatibilitätsschicht wollen, ist der ATOM eine klare Empfehlung und die Preis-Leistungs-Wahl unter seinen GB10-Geschwistern. Wenn Sie überwiegend kleine Modelle nutzen oder einen schnellen Desktop für alle Zwecke suchen, ist er das falsche Werkzeug, und ein Strix-Halo-Mini-PC oder der Framework Desktop dient Ihnen günstiger besser.