Glossar
Die Technologie entwickelt sich in rasantem Tempo weiter. Deshalb haben wir ein benutzerfreundliches Glossar erstellt, das Ihnen hilft, die Begriffe, Technologien und Trends, die sich auf Ihr Unternehmen auswirken, besser zu verstehen.Scale-up
Was ist Scale-up?
In der KI-Infrastruktur bedeutet Scale-up die Erweiterung der Rechenleistung innerhalb eines eng gekoppelten Systems durch den Anschluss weiterer GPUs oder anderer Beschleuniger im selben Server, Rack oder in derselben Scale-up-Domäne.
Scale-up-Architekturen sind darauf ausgelegt, eine Kommunikation mit sehr hoher Bandbreite und geringer Latenz zwischen Verarbeitungselementen zu unterstützen, die häufig Daten austauschen.
Warum ist Scale-up wichtig?
KI-Trainings-Workloads erfordern intensive Kommunikation und Synchronisation zwischen den Prozessoren. Scale-up-Konnektivität hilft diesen Prozessoren, effizient zusammenzuarbeiten, wodurch die Auslastung der Beschleuniger maximiert und die Trainingszeiten verkürzt werden.
Die Scale-up-Kapazität wird jedoch letztendlich durch die physikalischen Grenzen des Systems und dessen Verbindungstechnologie eingeschränkt.
Wichtige Überlegungen
- Konnektivität mit extrem geringer Latenz
- Verbindungen mit hoher Bandbreite
- Integrität der physikalischen Verbindungen
- Cluster-Synchronisation
- Konsistente Leistung über alle Beschleunigerverbindungen hinweg
Erfahren Sie mehr
Entdecken Sie Testlösungen für Hochgeschwindigkeits- und Hochdichte-Netzwerke im Rechenzentrum.