Bei flüssigkeitsgekühlten KI-Servern gibt es Engpässe

Sep 30, 2024

Eine Nachricht hinterlassen

 

 

 

Mit der Zunahme der Auslieferungen von Blackwell-Chips wird auch die Bereitschaft der Kunden zur Einführung einer Flüssigkeitskühlung steigen.

Brancheninsider berichten, dass die Versorgung mit universellen Schnelltrenngeräten (UQD) für Flüssigkeitskühlungslösungen knapp wird, was zu einem großen Engpass für das Wachstum der KI-Server-Flüssigkeitskühlung werden könnte.

 

Server-ODM-Hersteller geben an, dass die Blackwell AI-Chips von Nvidia, darunter B100 und B200, noch in diesem Jahr ausgeliefert werden, während die GB200-Lösung erst Ende 2024 oder 2025 in die Massenproduktion gehen wird. Die meisten Kunden von B100 und B200 verwenden immer noch Luftkühlungsdesigns , aber ODM-Hersteller berichten von einem anhaltenden Anstieg der Verbreitung von Flüssigkeitskühlungen und gehen davon aus, dass die Bereitschaft der Kunden, Flüssigkeitskühlungen einzuführen, mit der Zunahme der Lieferungen von Blackwell-Chips ebenfalls zunehmen wird.

 

Liquid-Cooled AI Servers

▲ Flüssigkeitsgekühlte KI-Server

 

 

I Erweiterung der Kapazität, um der steigenden Nachfrage nach Flüssigkeitskühlung gerecht zu werden

 

Relevante Unternehmen erweitern ihre Produktion, um die neue Ära der Flüssigkeitskühlung zu begrüßen. Der Wärmemodulhersteller Amlogic plant, seine monatliche Produktionskapazität für Wasserkühlplatten von 30,000 auf 300,{3}} Einheiten zu erhöhen.

 

Auras hat eine neue Fabrik in Thailand errichtet, um auf die geopolitischen Bedenken und Anforderungen der Kunden einzugehen. Diese Fabrik wird voraussichtlich im dritten Quartal mit der Massenproduktion beginnen. Neben der Erweiterung der lokalen Produktionskapazität für Kühlplatten plant Auras auch die lokale Produktion von Kühlverteilungseinheiten (CDU) und Kühlflüssigkeitsverteilern (CDM) mit einer geplanten monatlichen Kapazität von etwa 2,000-3,{{2 }} setzt.

 

Der Wärmemodulhersteller AVC gab in seiner jüngsten Gewinnmitteilung an, dass seine monatliche Produktionskapazität für Kühlplattenmodule in China und Vietnam etwa 115,000 Einheiten beträgt, was einer monatlichen Produktion von etwa 420,{3}} Einheiten entspricht berechnet durch Kühlplatten.

 

AVC plant, seine Kapazität bis Ende des Jahres um 50 % zu erweitern. AVC plant außerdem, seine monatliche Produktionskapazität für CDUs auf 1,000 Einheiten und für CDMs auf 30,000 Sets zu erhöhen. AVC betonte, dass diese geplante Kapazität flexibel an die Auftragsanforderungen der Kunden angepasst werden könne.

 

Das Thermotechnologieunternehmen Goli Thermal Processing erweitert seine Kapazität im Werk Zhongli in Taiwan aufgrund der gestiegenen Kundennachfrage nach Flüssigkeitskühlung. Bis zum Ende des dritten Quartals soll die monatliche Kapazität für CDMs von 1.000 Einheiten auf 2.000 Einheiten und bis zum Jahresende auf 4.{{5} steigen. } Einheiten, wobei die jährliche CDU-Produktion bis zum Jahresende voraussichtlich ebenfalls 2.000 Einheiten erreichen wird.

 

Diese Hersteller haben hohe Erwartungen an die Nachfrage nach Flüssigkeitskühlung, hauptsächlich aufgrund der Recheneffizienz und der PUE-Standards für Rechenzentren in China und der EU. Der wichtigste Faktor ist jedoch, dass Nvidia die selbst auferlegten Beschränkungen der thermischen Spezifikationen für Chiphersteller aufhebt.

 

 

II Das schnelle Wachstum der Flüssigkeitskühlung führt zu UQD-Engpässen

 

Da die Branche den Beginn des Zeitalters der Flüssigkeitskühlung mit Spannung erwartet, ist UQD zum größten Wachstumshindernis geworden. Hersteller von Thermomodulen haben darauf hingewiesen, dass das Angebot an UQDs in letzter Zeit knapp geworden sei. Obwohl der aktuelle Marktanteil der Flüssigkeitskühlung nur im einstelligen Bereich liegt, könnte es schwierig werden, UQDs zu erhalten, wenn er in Zukunft auf zweistellige Werte ansteigt.

 

UQD-Lieferanten kommen hauptsächlich aus Europa und den Vereinigten Staaten, darunter die großen amerikanischen Unternehmen Parker Hannifin und CPC, Staubli International aus der Schweiz, Danfoss aus Dänemark und Cejn aus Schweden. Auch der taiwanesische Steckverbinderkomponentenriese Lotes steigt aktiv in den Markt ein und hat mit Musterlieferungen begonnen.

 

Liang Zhijian, Vorsitzender von Anbo Technology, wies darauf hin, dass die UQD-Versorgung unter den Flüssigkeitskühlungskomponenten am stärksten eingeschränkt ist, da die Flüssigkeitskühlung in erster Linie darauf abzielt, Lecks zu vermeiden, und UQDs die Komponenten sind, die am anfälligsten für Lecks sind. Dies ist nicht nur ein technisches Problem; Relevante Hersteller verfügen ebenfalls über Patentschutz, und Anbo Technology sucht nach Möglichkeiten, diese Patentbarrieren zu durchbrechen.

 

Brancheninsider haben festgestellt, dass UQD-Hersteller zwar über Patentschutz verfügen, aber auch mehrere Validierungen durchlaufen müssen, darunter die OCP-Zertifizierung und Kundenvalidierungen, was zeit- und arbeitsintensiv ist. Darüber hinaus haben bestehende europäische und amerikanische Hersteller nicht die Absicht, ihre Kapazitäten zu erweitern, was zu einem großen Engpass für die schnelle Entwicklung der Flüssigkeitskühlung werden wird.

 

Supermicro ist einer der am schnellsten wachsenden Hersteller von Flüssigkeitskühlungen. Gründer und CEO Liang Jianhou wies darauf hin, dass die Flüssigkeitskühlung in den letzten 30 Jahren nur 1 % des Servermarktes ausmachte, er schätzt jedoch, dass die Durchdringungsrate bis 2025 auf 30 % ansteigen wird.

 

 

III Flüssigkeitskühlung als mögliche Lösung; Der KI-Boom setzt das Stromnetz unter Druck

 

Die rasante Entwicklung generativer künstlicher Intelligenz hat zu einer beispiellosen Expansion von Rechenzentren geführt und Anlass zur Sorge hinsichtlich ihrer Auswirkungen auf das Stromnetz gegeben. Diese energieintensiven Anlagen könnten zu Stromausfällen und erhöhten Energiekosten führen. Schätzungen des Electric Power Research Institute zufolge könnten Rechenzentren bis 2030 9 % des Stroms in den Vereinigten Staaten verbrauchen, was einer Verdoppelung des aktuellen Wertes entspricht. Der Stromverbrauch eines großen Rechenzentrums entspricht dem von Hunderttausenden Haushalten.

 

Besonders besorgniserregend ist der steigende Energiebedarf durch künstliche Intelligenz. Frühe KI-Modelle verbrauchten zehnmal so viel Energie wie eine Google-Suche, während neuere Chips noch mehr Energie benötigen. Experten warnen davor, dass die zukünftige Entwicklung der künstlichen Intelligenz durch unsere Fähigkeit, ausreichend Strom zu erzeugen, eingeschränkt werden könnte.

 

Einige Länder stehen vor großen Herausforderungen. Beispielsweise könnte Irland bis 2026 30 % seines Stroms für Rechenzentren verwenden. In den USA konzentriert sich der Stromverbrauch von Rechenzentren auf 15 Bundesstaaten, wobei Texas und Virginia am höchsten sind. Kalifornien befindet sich in einer kritischen Situation, da neue Rechenzentren voraussichtlich einen Strombedarf erzeugen werden, der den von Kernkraftwerken übersteigt.

 

 

IV-Rechenzentren: Riesiger Energieverbrauch und der Aufstieg der Flüssigkeitskühlung

 

Der Rechenaufwand der künstlichen Intelligenz treibt die Servertemperaturen und CO2-Emissionen in die Höhe, was zu einem erheblichen Anstieg der Nachfrage nach Kühlsystemen führt. Kühlsysteme machen 40 % des Gesamtstromverbrauchs eines Rechenzentrums aus und sind damit nach den Servern selbst die zweitgrößte Stromquelle. Der weltweite Markt für Serverkühlung wird voraussichtlich von 20 Milliarden US-Dollar im Jahr 2024 auf 90 Milliarden US-Dollar im Jahr 2027 wachsen. Der Markt für Flüssigkeitskühlsysteme in Rechenzentren wird voraussichtlich von 1 % auf 22 % wachsen, wobei der Marktwert voraussichtlich von 317 Millionen US-Dollar auf 317 Millionen US-Dollar wachsen wird 7,8 Milliarden US-Dollar in den nächsten drei Jahren.

 

Flüssigkeitskühllösungen, bei denen Wasser oder Kühlmittel zur Kühlung von Servern eingesetzt werden, erfreuen sich immer größerer Beliebtheit. Zu den neuen Technologien gehören Tauchkühlung (Eintauchen ganzer Server-Racks in nicht leitende Flüssigkeiten) und direkte Flüssigkeitskühlung (Zirkulieren von Wasser um Server herum). Obwohl Flüssigkeitskühlung derzeit teurer als Luftkühlungssysteme ist, kann sie den Stromverbrauch eines Rechenzentrums um 10 % oder mehr senken.

 

Das Forschungsunternehmen Global Market Insights prognostiziert, dass der weltweite Markt für Flüssigkeitskühlung für Rechenzentren von 2,1 Milliarden US-Dollar im Jahr 2022 auf 12,2 Milliarden US-Dollar im Jahr 2032 wachsen wird. Eine Umfrage des Uptime Institute ergab, dass 16 % der Rechenzentrumsmanager glauben, dass Flüssigkeitskühlung zur primären Kühlung werden wird Methode in 1-3 Jahren, während 41 % glauben, dass es 4-6 Jahre dauern wird. Daher ist es wahrscheinlicher, dass sich kurzfristig hybride Kühlmethoden entwickeln.

 

Upsite Technologies, ein führendes Unternehmen im Management von Luftkühlungssystemen für Rechenzentren, stellte fest, dass sich die Technologie zwar ständig weiterentwickelt, es jedoch kurzfristig unwahrscheinlich ist, dass Rechenzentren zu 100 % flüssigkeitsgekühlt werden, da Flüssigkeitskühlgeräte immer noch Luftkühlung zur Wärmeableitung benötigen . Obwohl die Flüssigkeitskühlung effizienter ist, ist die Implementierung in großem Maßstab eine Herausforderung und erfordert erhebliche Vorabinvestitionen. Luftkühlung ist kostengünstiger, aber auch weniger effizient. Daher werden Hybridkühlanlagen immer beliebter, um die Vorteile sowohl der Flüssigkeits- als auch der Luftkühlung zu maximieren.

 

 

V Die Energiekrise im Rechenzentrum erfordert dringendes Handeln

 

Aufgrund ihrer Auswirkungen auf die Umwelt geraten Rechenzentren zunehmend in den Blickpunkt. Regierungen auf der ganzen Welt führen Vorschriften ein, um ihren Energieverbrauch und ihren CO2-Fußabdruck zu kontrollieren. Chinas „Green Data Center“-Richtlinien und ähnliche Initiativen in Deutschland, Singapur und Japan veranschaulichen diesen Trend. Branchenexperten wie Schneider Electric betonen die Notwendigkeit umfassender Umweltkennzahlen zur Bewertung der Nachhaltigkeit von Rechenzentren, einschließlich Faktoren, die über den Energieverbrauch hinausgehen, wie z. B. Wasserressourcen und Abfallerzeugung.

 

Die US-Regierung drängt große Technologieunternehmen, in saubere Energie zu investieren und die erheblichen Auswirkungen des wachsenden Energiebedarfs künstlicher Intelligenz auf die Umwelt anzuerkennen.

 

 

VI Suche nach geeigneten Energiequellen: Herausforderungen für Rechenzentren und Energie

 

Rechenzentren benötigen einen diversifizierten Energiemix, um Zuverlässigkeit und Nachhaltigkeit in Einklang zu bringen und gleichzeitig den wachsenden Anforderungen gerecht zu werden. Erneuerbare Energiequellen wie Sonne und Wind sind aufgrund ihres geringen CO2-Fußabdrucks attraktiv. Ihre Abhängigkeit von den Wetterbedingungen kann jedoch zu einer instabilen Leistung führen, sodass sie als alleinige Energiequelle für Rechenzentren ungeeignet sind. Der Bau redundanter Anlagen zum Ausgleich dieser Inkonsistenz kann notwendig, aber kostspielig sein.

 

Als mögliche Lösung hat sich die Kernenergie herausgestellt. Herkömmliche Kernkraftwerke liefern zuverlässigen Grundlaststrom und erzeugen stabilen Strom, der für den Betrieb von Rechenzentren unerlässlich ist. Darüber hinaus wird erwartet, dass der globale Kernenergiemarkt im nächsten Jahrzehnt ein stetiges Wachstum verzeichnen wird.

 

Vielversprechendere Möglichkeiten bieten Innovationen im Nuklearbereich. Kleine modulare Reaktoren (SMR) werden als kleinere, sicherere und skalierbarere Alternativen zu herkömmlichen Kernkraftwerken entwickelt. Obwohl sie sich noch im Forschungs- und Entwicklungsstadium befinden, haben SMRs das Potenzial, direkt in Rechenzentren eingesetzt zu werden und gezielt saubere Energie bereitzustellen.

 

Global liquid cooling market (US$b)

▲ Globaler Markt für Flüssigkeitskühlung (Milliarden US-Dollar)

 

 

Allerdings stößt die weitverbreitete Einführung von SMRs auf erhebliche Hindernisse. Regulatorische und fertigungstechnische Herausforderungen könnten ihre kommerzielle Einführung um mehrere Jahre verzögern. Die US-Regierung sucht aktiv nach Lösungen, einschließlich Partnerschaften mit Technologiegiganten, um Kosten zu senken und Prozesse zu rationalisieren.

 

Eine weitere Möglichkeit, den Energiebedarf von Rechenzentren zu senken, besteht darin, die Arbeitslast der künstlichen Intelligenz zu optimieren. Durch die Verlagerung einiger KI-Aufgaben aus der Cloud auf lokale Geräte mit kleineren, weniger ressourcenintensiven KI-Modellen kann der Gesamtenergieverbrauch gesenkt werden.

 

Die zukünftige Entwicklung von Rechenzentren erfordert einen vielschichtigen Ansatz. Die Einführung eines diversifizierten Energiemixes, einschließlich zuverlässiger Energiequellen wie Kernenergie, bei gleichzeitiger aktiver Suche nach erneuerbaren und innovativen Lösungen wie SMRs ist von entscheidender Bedeutung. Darüber hinaus kann die Optimierung der KI-Workloads auf lokalen Geräten die Nachhaltigkeit von Rechenzentren weiter fördern.

 

 

 

Anfrage senden