Helios: AMDs Rack-Scale-System soll Nvidia alt aussehen lassen - Golem.de

AMD-CEO Lisa Su verspricht: Helios ist das leistungsfähigste und günstigste Rack-Scale-System auf dem Markt. Das steckt drin.

Lisa Su zeigt die in Helios verbauten Chips: Neben MI455X und Venice Salina DPU und Vulcano NIC. (Bild: AMD; Screenshot: Golem.de)

Lisa Su zeigt die in Helios verbauten Chips: Neben MI455X und Venice Salina DPU und Vulcano NIC. Bild: AMD; Screenshot: Golem.de

Im Rahmen seiner Veranstaltung Advancing AI hat AMD offiziell die nächste Generation seiner Hardware für KI-Rechenzentren gestartet. CEO Lisa Su gab im Rahmen ihrer Keynote dabei einen tieferen Einblick in den Aufbau des eigenen Rack-Scale-Systems Helios. Das kombiniert pro Blade vier MI455X mit einem speziell für Helios entwickelten Epyc mit 96 Kernen und einer Speicherbandbreite von 1,6 TByte/s.

Für die Vernetzung der MI455X nutzt AMD Ultra Accelerator Link (UAL), die Anbindung an die CPU erfolgt über Infinity Fabric. Damit verbindet AMD auch bei Mehrsockelsystemen die einzelnen CPUs. Für das Scale-up-Netzwerk, das die GPUs im Cluster vernetzt, tunnelt AMD UAL über Ultra Ethernet (UALoE). Die Netzwerkhardware dafür ist direkt auf den GPU-Packages integriert.

Die MI455X-GPUs sind individuell auf Platinen mit der erforderlichen Elektronik verbaut, was einen schnellen Tausch defekter Komponenten ermöglichen soll. Mit bis zu 40 Petaflops (FP4) und 432 GByte mit 23,3 TByte/s angebundenem HMB4 ist es laut Su der leistungsfähigste KI-Beschleuniger. AMD scheint hier die Rechenleistung ohne Sparsity (g+) zu meinen, mit Ausdünnung erreicht Nvidias Rubin-GPU 50 Petaflops.

Den mit Rubin neu eingeführten LPUs für höhere Inferenzleistung stellt Nvidia eine Partnerschaft mit Cerebras entgegen: Deren Wafer Scale Engine (WSE) soll insbesondere zusammen mit MI455X für niedrige Latenz sorgen.

Leistungsfähiger und günstiger als Nvidias Rubin

Besonders bei HBM-Kapazität und Bandbreite des Scale-out-Netzwerks liegt Helios deutlich vor Nvidias Oberon alias NVL72. Bei der Konkurrenz steht allerdings mit Kyber (g+) bereits ein noch dichter gepacktes Rack für Rubin Ultra an.

Die Blades von Helios sind modular aufgebaut, Lisa Su zeigt die Platinen mit MI455X-GPU, Epyc 9006-HF-CPU sowie die beiden Netzwerkkarten. (Bild: AMD; Screenshot: Golem.de)

Bild 1/3: Die Blades von Helios sind modular aufgebaut, Lisa Su zeigt die Platinen mit MI455X-GPU, Epyc 9006-HF-CPU sowie die beiden Netzwerkkarten. (Bild: AMD; Screenshot: Golem.de)

Im Vergleich zur Nvidias Rubin NVL72 liegt Helios in fast allen Aspekten vorn. (Bild: AMD; Screenshot: Golem.de)

Bild 2/3: Im Vergleich zur Nvidias Rubin NVL72 liegt Helios in fast allen Aspekten vorn. (Bild: AMD; Screenshot: Golem.de)

Lisa Su ist nicht die Größte, aber der Vergleich zeigt die immensen Ausmaße der Helios-Blades. (Bild: AMD; Screenshot: Golem.de)

Bild 3/3: Lisa Su ist nicht die Größte, aber der Vergleich zeigt die immensen Ausmaße der Helios-Blades. (Bild: AMD; Screenshot: Golem.de)

AMD verbaut in den Blades zudem zwei verschiedene Netzwerkchips: Neben der Data Processing Unit (DPU) namens Salina einen klassischen, Vulcano getauften Chip. Beide nutzen Ultra Ethernet. Salina wird für das Front-End-Netzwerk eingesetzt, das Daten liefert, und beschleunigt etwa Storage-Funktionen. Zwölf Vulcano-Chips pro Blade auf zwei Platinen werden für das Scale-out-Netzwerk genutzt, das die einzelnen Racks verbindet. Auch hier nutzt AMD UALoE. Bei den Switches setzt AMD auf Broadcoms Thor Ultra.

Helios setzt deutlich sichtbar nicht auf vollständige Wasserkühlung, kleinere Wärmequellen werden klassisch luftgekühlt. Dennoch wiegt jedes der 18 riesigen Blades über 72 kg.

Helios soll im Vergleich zu Systemen mit MI355X bei mittlerer bis hoher Auslastung die Kosten pro Token um den Faktor 18 senken – mehr Leistung und Speicher sowie ein schnelleres Netzwerk machen es möglich. Im Vergleich zu Rubin NVL72 verspricht Su bei gleichen Kosten 30 Prozent mehr Token. Die Produktion läuft, liefern will AMD Ende des dritten Quartals 2026. Die Nachfrage sei groß, sagt Su – allein Anthropic hat Helios-Systeme mit einer Gesamtleistung von zwei GW bestellt.

Wir öffnen unsere neue Community für weitere Mitglieder! Möchtest du in konstruktiver und respektvoller Atmosphäre mit anderen IT-Experten über deine Themen sprechen? Sei dabei und melde dich an!