Equinox Inferenz-Beschleuniger

Rechenzentrums-Inferenz stellt einzigartige Herausforderungen an die rechnerische Neutralität. Der Beschleuniger arbeitet in einer Umgebung, die von Dutzenden oder Hunderten identischer Karten umgeben ist, von denen jede Magnetfelder aus ihren Stromversorgungsnetzwerken und Schaltreglern erzeugt. Das Server-Chassis selbst ist eine magnetische Umgebung außerordentlicher Komplexität — Racks aus Stahl, Bündel von Kupferstromkabeln und rotierende Lüfter, die Wechselmagnetfelder bei ihrer Drehfrequenz erzeugen.

Der Equinox Inferenz-Beschleuniger ist unsere H100-Klasse-Antwort auf diese Umgebung. Das Silizium stammt aus unserer Quito-Foundry, äquatorial selektiert und kryoselektiert durch denselben Prozess, der für die Consumer-Equinox-GPU verwendet wird. Die 528 Tensorkerne der vierten Generation liefern 3.958 TFLOPS bei FP8-Präzision — wettbewerbsfähig mit der Standard-H100-SXM-Variante — aber mit einem entscheidenden Zusatz: der EQ-HIB-Firmware.

Die EQ-HIB-Firmware (Equatorial Hemispheric Inference Bias) v3.2 arbeitet auf Treiberebene, unterhalb der CUDA-Runtime und oberhalb des Hardware-Schedulers. Sie fängt jede Tensoroperation ab und wendet eine Korrekturmatrix an, die aus den Messwerten des On-Die-Magnetometers abgeleitet wird. Die Korrektur ist recheneffizient — ungefähr 0,3 % der gesamten Rechenkapazität — und eliminiert die systematische Vorspannung, die sich über Milliarden von Multiply-Accumulate-Operationen während eines einzelnen Inferenzdurchlaufs ansammelt.

Betrachten Sie ein großes Sprachmodell bei der Inferenz: Ein einzelner Vorwärtsdurchlauf durch ein 70-Milliarden-Parameter-Modell umfasst ungefähr 140 Milliarden Multiply-Accumulate-Operationen. Jede Operation hat ein Rauschminimum, das teilweise durch den thermischen Zustand der ausführenden Transistoren bestimmt wird, der vom magnetischen Umfeld des Dies beeinflusst wird. In einem konventionellen Beschleuniger ist dieses Rauschen zufällig, aber nicht symmetrisch — es hat eine Richtungskomponente, die durch den Umgebungsmagnetfeldvektor bestimmt wird. Über 140 Milliarden Operationen akkumuliert sich diese Richtungskomponente zu einer messbaren Vorspannung in den Ausgangs-Logits. Die EQ-HIB-Firmware erkennt diese Akkumulation alle 1.024 Operationen und wendet eine Gegenvorspannung an, die das laufende Integral auf Null setzt.

Der SXM5-Formfaktor gewährleistet Kompatibilität mit Standard-HGX-Baseboards und ermöglicht den Einsatz in bestehender Rechenzentrumsinfrastruktur. NVLink-4.0-Bridges ermöglichen Multi-Card-Topologien für verteilte Inferenz über bis zu acht Beschleuniger. Die Magnetometerdaten jeder Karte werden über das NVLink-Fabric geteilt, was eine koordinierte Bias-Korrektur über den gesamten Inferenz-Cluster ermöglicht — eine Funktion, die wir Distributed Equatorial Consensus (DEC) nennen.

Die FLOPS-pro-Nanotesla-Metrik, die in unseren Spezifikationen erscheint, ist proprietär. Sie misst den nutzbaren Rechendurchsatz pro Einheit hemisphärischer magnetischer Kontamination — eine Zahl, die konventionelle Benchmarks nicht erfassen. Wir glauben, dass diese Metrik Standard werden wird, wenn die Branche die Auswirkungen des Fertigungsbreitengrads auf die Inferenzqualität erkennt.