KAYTUS stellt KR1280V2 vor - ein 1U-Server mit 32 E1.S SSDs, der die I/O-Leistung für LLM-Training erhöht
27 Mayo 2024 - 2:05AM
Business Wire
Der KR1280V2, ein
1U-2-Sockel-High-Density-Server, ist ideal für rechenintensive
Anwendungen wie High-Performance-Computing und Hochfrequenzhandel.
Er erfüllt die Anforderungen von Rechenzentren an niedrige
PUE-Werte mit fortschrittlichen Kühll�sungen, einschließlich
EVAC-Kühlk�rper-Luftkühlung, Cold-Plate-Flüssigkeitskühlung und
Immersionskühlung.
KAYTUS, ein führender IT-Infrastrukturanbieter, stellte auf der
ISC High Performance 2024 seinen High-Density-Computing-Server
KR1280V2 vor. Er unterstützt 32 E1.S SSDs und erreicht damit eine
beeindruckende Flash-Speicherdichte von 512 TB in einem
1U-Formfaktor. Im Vergleich zur letzten Generation setzt der
KR1280V2 auf ein Speicher- und Netzwerkdesign mit geringer Latenz,
der die E/A-Leistung mit hoher Parallelität für
LLM-Trainingsszenarien verdoppelt und die Effizienz des
Modelltrainings verbessert.
Dieser 1U2S-Flaggschiff-Server wird von den neuesten Intel-,
AMD- oder ARM-Prozessoren angetrieben. Der KR1280V2 verfügt über
eine optimierte Kühlungsstrategie, um CPUs mit der h�chsten TDP
über alle Plattformen hinweg ohne Konfigurationseinschränkungen zu
unterstützen. Außerdem führt er eine neuartige
Front-I/O-Konfiguration ein, die die Skalierbarkeit mit 8 PCIe
5.0-Erweiterungskarten verbessert und die Wartungseffizienz in
Rechenzentren erh�ht. Der Laufwerkseinschub des Servers wurde
optimiert, um eine innovative Speicherkonfiguration mit 12
SFF-Laufwerken an der Vorderseite zu bieten, die die Speicherdichte
um 20 % erh�ht.
Unterstützt 32 E1.S SSDs ohne Leistungseinbußen und liefert
zig Millionen IOPS
Angetrieben von Intel® Xeon® Prozessoren der 5. Generation und
mit einer bemerkenswerten Rechendichte unterstützt der KR1280V2 bis
zu 32 All-Flash E1.S SSDs, die direkt mit CPUs in einem
1U-Formfaktor verbunden sind. Diese Konfiguration nutzt die volle
I/O-Rate von PCIe 5.0, maximiert den Durchsatz zwischen CPUs und
Speicher und erreicht einen Speicherdurchsatz von bis zu 160 GB/s.
Durch die Lastverteilung auf zwei OCP 3.0-Karten verdoppelt sich
die Netzwerkbandbreite, wodurch verschiedene Anforderungen an die
Datenspeicherung und -verarbeitung erfüllt und die Gesamtleistung
um 60 % gesteigert werden.
Mit ultimativer Flash-Speicherdichte verdoppelt der KR1280V2
effektiv die Leistung von LLMs mit hoher Parallelität
Der KR1280V2 erreicht in verteilten Speicherszenarien eine
Leistung von mehreren zehn Millionen IOPS, was eine bemerkenswerte
Verbesserung von 77 % bedeutet. Der Einsatz von KR1280V2-Servern
für groß angelegte LLM-Training gewährleistet eine Verdoppelung der
E/A-Leistung bei hoher Parallelität im Vergleich zur vorherigen
Generation. Mit der zunehmenden Anzahl von Grafikprozessoren und
einer steigenden Arbeitslast wird die Latenzkurve des KR1280V2
glatter und vorhersehbarer, so dass sich die Datenlatenz auch im
Vergleich zur vorherigen Generation um beachtliche 13 % verbessert.
Diese bedeutenden Fortschritte verbessern die Effizienz der
Datenaufbereitung, des Modelltrainings und der Datenverwaltung bei
gleichzeitiger Reduzierung des verschwendeten Speicherplatzes.
Folglich bietet sie robuste Speicherkapazität und Leistung für
innovative LLM-Anwendungen und unterstützt besser Java-basierte
Geschäftsszenarien, die große Datenmengen, geringe Latenz und hohe
Gleichzeitigkeit erfordern, wie z. B. im Finanzwesen, bei
Cloud-Services, in Unternehmen und anderen
Rechenzentrumsanwendungen.
Optimierte Kühltechnologien und außergew�hnliche
Geschäftszuverlässigkeit und Nachhaltigkeit
In Bezug auf die Wärmeabfuhr unterstützt der KR1280V2 mehrere
Kühlmethoden, darunter EVAC-Kühlk�rper-Luftkühlung,
Cold-Plate-Flüssigkeitskühlung und Immersionskühlung. Durch die
Regulierung der Lüfterpartition, die BIOS-Optimierung per Mausklick
und andere Techniken wird in 17 energieeffizienten Szenarien eine
Leistungsreduzierung von 8 bis 12 % erreicht. Darüber hinaus setzt
der KR1280V2 zahlreiche fortschrittliche Technologien ein, um die
Stabilität und Sicherheit zu verbessern. Er führt die
außergew�hnliche MUPR2.0-Speicherfehler-Früherkennungsfunktion ein,
die eine umfassendere Speicher-Scrubbing-Technik zur
Selbstüberprüfung und -behebung von Speicherfehlern einsetzt,
wodurch ein breiterer Bereich der Fehlerkorrektur und ein h�heres
Maß an Systemschutz erreicht wird. Infolgedessen ist die
Ausfallrate des Systems um 69 % niedriger als im
Branchendurchschnitt.
Um mehr über den KAYTUS KR1280V2 High-Density-Server zu
erfahren, besuchen Sie bitte unsere Website.
Über KAYTUS
KAYTUS ist ein führender Anbieter von IT-Infrastrukturl�sungen,
der eine breite Palette an innovativen, offenen und
umweltfreundlichen Produkten für Cloud, KI, Edge Computing und
andere neue Anwendungen anbietet. Mit einem kundenzentrierten
Ansatz ist KAYTUS agil und reagiert durch sein anpassungsfähiges
Geschäftsmodell auf die Bedürfnisse der Nutzer. Entdecken Sie mehr
unter KAYTUS.com
Die Ausgangssprache, in der der Originaltext ver�ffentlicht
wird, ist die offizielle und autorisierte Version. Übersetzungen
werden zur besseren Verständigung mitgeliefert. Nur die
Sprachversion, die im Original ver�ffentlicht wurde, ist
rechtsgültig. Gleichen Sie deshalb Übersetzungen mit der originalen
Sprachversion der Ver�ffentlichung ab.
Originalversion auf businesswire.com
ansehen: https://www.businesswire.com/news/home/20240521989713/de/
Medien media@kaytus.com