Steigende Nachfrage löst eine Revolution bei der Rechenleistung aus, Flüssigkeitskühlung wird das Branchenwachstum stark vorantreiben!

 

Seit 2023 erfreut sich das KI-Chatbot-Modell von OpenAI, ChatGPT, großer Beliebtheit. Es nutzt große Mengen an Trainingsdaten, um menschliches Sprachverhalten zu simulieren, und generiert Text durch semantische Analyse, wodurch es auf natürliche und realistische Weise mit Benutzern interagieren kann, die oft nicht von menschlicher Interaktion zu unterscheiden ist.

 

In vielen Bereichen, wie etwa beim Verfassen von Gedichten und beim Schreiben von Drehbüchern, übertrifft sie sogar die menschlichen Fähigkeiten. Die Entwicklung künstlicher Intelligenz erfordert jedoch extrem leistungsstarke Rechenleistung, was zu einem erhöhten Stromverbrauch der Server, einer höheren Leistungsdichte pro Einheit in Rechenzentren und einem steigenden Energieverbrauch führt. Die herkömmliche Luftkühlungstechnologie kann den Kühlbedarf nicht mehr decken, sodass Flüssigkeitskühlung eine Notwendigkeit darstellt, die zweifellos das Branchenwachstum vorantreiben wird!

 

▲ Das KI-Chatbot-Modell von OpenAI, ChatGPT

 

 

Ⅰ Der explosive Erfolg von ChatGPT: Welche Rechenleistung ist dafür erforderlich?

 

Daten, Algorithmen und Rechenleistung sind die drei Kernelemente der künstlichen Intelligenz, wobei die Rechenleistung als „Motor“ oder „Motor“ der KI bezeichnet wird. Sowohl Daten als auch Algorithmen sind auf Rechenleistung angewiesen. Nach Schätzungen von OpenAI hat sich die Rechenleistung, die zum Trainieren der weltweit besten KI-Modelle erforderlich ist, seit 2012 ungefähr alle 3-4 Monate verdoppelt, wobei die jährliche Steigerung der Rechenleistung, die für die besten Trainingsmodelle erforderlich ist, bis zu zehnmal so hoch ist. Während der Trainingsphase verbrauchte ChatGPT insgesamt etwa 3640 PF-Tage (was bedeutet, dass es 3640 Tage lang mit einer Effizienz von 1 PetaFLOP/s lief). Dies unterstreicht, dass starke Rechenleistung der Schlüssel zur Unterstützung der weiteren Anwendung und Popularisierung von KI-generierten Inhalten (AIGC) in der Zukunft ist.

 

Nehmen wir ChatGPT als Beispiel: Es wird durch das GPT-3.5-Modell unterstützt, das drei Iterationen durchlaufen hat (GPT-1, GPT-2, GPT-3), wobei die Anzahl der Parameter von 117 Millionen auf 175 Milliarden und die Menge der vor dem Training gewonnenen Daten von 5 GB auf 45 TB anstieg (das entspricht dem 160-fachen der gesamten englischen Version von Wikipedia). Diese enorme Daten- und Berechnungsmenge erfordert eine höhere Rechenleistung, um ihren Betrieb zu unterstützen. Laut Daten von Similarweb hatte ChatGPT im Januar 2023 etwa 13 Millionen aktive Benutzer pro Tag, von denen jeder Fragen mit durchschnittlich etwa 1.000 Wörtern stellte.

 

Dies hat insgesamt etwa 13 Milliarden Wörter (17,33 Milliarden Token) generiert. Unter der Annahme, dass die Aufgaben gleichmäßig über 24 Stunden verteilt sind, beträgt die Anzahl der erforderlichen A100-GPUs 17,33 Milliarden * 2 * 300 Milliarden / (20 % * 24 Stunden * 3600 Sekunden)=601,75 PetaFLOP/S. Angesichts der vorhandenen Verkehrsspitzen und der Annahme, dass der Spitzenverkehr fünfmal so hoch ist wie der Tagesdurchschnitt, wären insgesamt 602 DGX A100-Server erforderlich, um den aktuellen Verkehrsbedarf zu decken, was die Anforderungen an die Rechenleistung extrem hoch macht.

 

Dies zeigt, dass effizientere Rechenleistung und mehr Rechenressourcen erforderlich sind, um noch bessere KI-Modelle zu trainieren und KI-Modelle wirklich branchenübergreifend anzuwenden. Rechenleistung ist zu einem kritischen Faktor geworden, der die Industrialisierung der KI einschränkt, und sie wird zwangsläufig eine neue Rechenleistungsrevolution auslösen! Mit dem rasanten Anstieg des Bedarfs an KI-Rechenleistung nimmt auch die Leistung der entsprechenden CPUs/GPUs zu, was stärkere und effektivere Kühllösungen erforderlich macht, damit die Geräte reibungslos laufen.

 

 

Ⅱ Umfangreiche Anwendungen der Rechenleistung

 

Im Zeitalter der digitalen Wirtschaft ist Rechenleistung nicht nur ein entscheidender Produktivitätsfaktor, sondern wird auch zu einem universellen Faktor. Mit dem Aufbau der Rechenleistungsinfrastruktur entstehen rasch neue Modelle und Geschäftsformen für Rechenleistungsanwendungen, die Rechenleistung in immer mehr Branchen wie Fertigung, Transport, Bildung, Luft- und Raumfahrt, Finanzen und Medien integrieren. Gleichzeitig werden Planung, Verwaltung und Handel von Rechenleistung zu Schwerpunkten der Branchenforschung. Rechenleistung entwickelt sich von einer „Ressource“ zu einem „Faktor“ und wird zu einem wesentlichen Bestandteil der Produktion und des Lebens der Menschen.

 

Die Entwicklung verschiedener Branchen hat zu einer explosionsartigen Nachfrage nach Rechenleistung geführt. Um die Prozessorleistung zu maximieren, ist eine höhere Kühlleistung erforderlich, und die herkömmliche Luftkühlungstechnologie kann den steigenden Anforderungen an die Rechenleistung nicht mehr gerecht werden. Server mit Flüssigkeitskühlung werden mit ihren Vorteilen einen erheblichen Marktanteil gewinnen und die Branchenentwicklung stark vorantreiben!

 

 

Ⅲ Deutlicher Anstieg der Nachfrage nach Flüssigkeitskühlung

 

Im Jahr 2022 lag der Stromverbrauch einzelner CPUs bei Intels Serverprozessoren der vierten Generation bei über 350 Watt, und der Stromverbrauch einzelner GPU-Chips von NVIDIA überstieg 700 Watt. Die Rechenleistungsdichte von KI-Clustern erreichte im Allgemeinen 50 kW pro Gehäuse, und die herkömmliche Luftkühlungstechnologie kann damit nicht mehr fertig werden! Um die Prozessorleistung zu maximieren, ist eine höhere Kühleffizienz erforderlich.

 

Aus politischer Sicht haben die Einführung des chinesischen Projekts „Eastern Data, Western Computing“ und die dualen Kohlenstoffziele dazu geführt, dass die Branche mehr Wert auf Energieeinsparung, Emissionsreduzierung und hochwertige Entwicklung legt. An die Power Usage Effectiveness (PUE) von Rechenzentren wurden strengere technische Anforderungen gestellt. Der durchschnittliche PUE-Wert neu gebauter großer und sehr großer Rechenzentren im ganzen Land soll auf unter 1,3 gesenkt werden. An nationalen Hub-Knotenpunkten soll er sogar auf unter 1,25 gesenkt werden.

 

Flüssigkeitskühlung erfüllt in vielen Aspekten die Anforderungen an Marktkosteneffizienz und politische Leitlinien, einschließlich Wirtschaftlichkeit und Kühlleistung, was sie sowohl äußerst wertvoll als auch wirtschaftlich vorteilhaft macht. Laut CCID Consulting wird erwartet, dass der chinesische Markt für flüssigkeitsgekühlte IDCs bis 2025 120 Milliarden Yuan überschreiten wird, mit einer Wachstumsrate von über 30 % und einer aktuellen Durchdringungsrate von etwa 20 %. Die Nachfrage nach Flüssigkeitskühlung steigt deutlich an und die Marktaussichten sind vielversprechend.

 

 

Ⅳ Die Industriekette für Flüssigkeitskühlungsserver

 

1. Das Panorama der Flüssigkeitskühlungsindustrie

Die Branche der flüssigkeitsgekühlten Server umfasst viel mehr als nur flüssigkeitsgekühlte Server. Die gesamte Industriekette ist lang, umfasst weitläufige Unterbereiche und zahlreiche beteiligte Akteure, was sie zu einer kapitalintensiven Branche macht.Die Technologie zur Flüssigkeitskühlung befindet sich derzeit in einer rasanten Entwicklungsphase und wenn die entsprechenden Akteure Vorteile bei der Finanzierung oder Kundenakquise haben, können sie gewisse Markteintrittsbarrieren aufbauen.

 

Unternehmen aus verschiedenen Teilbereichen dringen aufgrund ihrer Kernvorteile nach und nach in verwandte Bereiche ein und bauen ihre eigenen Ökosysteme auf. Entsprechend der Unterteilung von Infrastruktur zu Anwendungen kann die Branche der flüssigkeitsgekühlten Rechenzentren in drei große Teilbereiche unterteilt werden: Flüssigkeitskühlungsinfrastruktur, Midstream-Branche und Branchenanwendungen.

 

Der Sektor Flüssigkeitskühlungsinfrastruktur stellt die wesentlichen Geräte und Einrichtungen für den Bau flüssigkeitsgekühlter Rechenzentren bereit. Er ist in Unterbereiche wie Flüssigkeitskühlschränke, Kühlmittel, Kühlsysteme, Stromversorgungssysteme, Netzwerksysteme und Rechenzentrumsinfrastruktur-Managementsysteme unterteilt. Diese Unterbereiche liefern hauptsächlich Geräte, Softwaresysteme und Kühlmittel für den Serverbetrieb. Darüber hinaus umfasst der Infrastruktursektor Bauunternehmer, Netzbetreiber und Stromversorger. Bauunternehmer sind für den Bau und die Installation der oben genannten Geräte und Einrichtungen verantwortlich, Netzbetreiber stellen den grundlegenden Netzwerkzugang bereit und Stromversorger liefern den für den Gerätebetrieb erforderlichen Strom. Diese Bereiche bieten eine relativ einfache Peripherieumgebung für Rechenzentren.

 

Zur Midstream-Branche gehören Serverhersteller, Anbieter von Datencenter-Hosting und einige Neueinsteiger. Serverhersteller erforschen, entwickeln und produzieren Server, die für Flüssigkeitskühlungsumgebungen geeignet sind, oder produzieren direkt flüssigkeitsgekühlte Cold-Plate-Server. Anbieter von Datencenter-Hosting bauen und betreiben Datencenter und nutzen dabei ihre eigenen Vorteile, um Ressourcen aus dem Infrastruktursektor zu integrieren und Anwendungsbenutzern Server-Hosting-Dienste anzubieten. Da sich Datencenter schnell weiterentwickeln, drängen neue Unternehmen in den Bereich der flüssigkeitsgekühlten Datencenter.

 

Die Nutzer von Rechenzentrumsanwendungen lassen sich hauptsächlich in drei Unterbereiche unterteilen: Cloud Computing und Cloud-Rechenleistung, Internet und Blockchain sowie sonstige Nutzer. Sie sind die Hauptnutzer von Rechenzentren. Anbieter von Cloud Computing und Cloud-Rechenleistung generieren Einnahmen, indem sie ihren Kunden eine flexible Rechenleistungszuweisung und -planung durch Virtualisierung anbieten. Einige große Internet- und Blockchain-Unternehmen bauen Rechenzentren häufig direkt in Zusammenarbeit mit Rechenzentrumsbetreibern, während andere Nutzer Server- oder Rechenleistungsressourcen im Allgemeinen entweder direkt hosten oder von Rechenzentrumsbetreibern leasen.

 

2. Überblick über die Flüssigkeitskühlungsindustrie

Im Vergleich zur Luftkühlung bietet die Flüssigkeitskühlungstechnologie die Vorteile einer hohen Stabilität und Kühleffizienz. Aus einer umfassenden Anwendungsperspektive entfaltet die Flüssigkeitskühlung ihre wirtschaftlichen Vorteile allmählich, wenn die Leistungsdichte 15 kW pro Schrank übersteigt. Laut derUPS AnwendungJournal zufolge kann die CPU-Kerntemperatur von flüssigkeitsgekühlten Servern 20-30 Grad niedriger sein als die Maximaltemperatur in luftgekühlten Systemen, was die Zuverlässigkeit deutlich verbessert.

 

Intels Whitepaper,Umweltfreundliche Innovationspraktiken für Rechenzentren - Referenz zum Design von Kühlplatten-Flüssigkeitskühlsystemen, zeigt, dass luftgekühlte Rechenzentren typischerweise die Kühlung von Schränken mit einer Leistung von bis zu 12 kW bewältigen können. Bei Schränken über 15 kW haben die bestehenden luftgekühlten Rechenzentren die Obergrenze ihrer Luftkonvektionskühlkapazitäten erreicht. Flüssigkeitskühlungstechnologie, die stärkere Kühlkapazitäten bietet, kann höhere Leistungsdichten unterstützen.

 

Im Vergleich zu Luftkühlungslösungen wird der Trend zur Flüssigkeitskühlung, der von AIGC und den Initiativen „Eastern Data, Western Computing“ vorangetrieben wird, zwangsläufig zu einem Anstieg sowohl des Volumens als auch der Preise auf dem Markt für Temperaturregelung in Rechenzentren führen. Die flüssigkeitsgekühlte Serverbranche verfolgt drei technologische Wege: Kaltplatten-, Immersions- und Sprühkühlung.Bei der Cold Plate Liquid Cooling handelt es sich um eine Kühlmethode, bei der das Kühlmittel nicht direkt mit den wärmeerzeugenden Komponenten des Servers in Kontakt kommt.

 

▲ Kaltplattenkühlung

 

▲ Sprühflüssigkeitskühlsystem

 

▲ Einphasige Flüssigkeitsimmersionskühlung

 

▲ Zweiphasenkühlung

 

Stattdessen sind die wichtigsten wärmeerzeugenden Komponenten an einer Kühlplatte befestigt, wobei das Kühlmittel im internen Flüssigkeitskühlsystem der Kühlplatte zirkuliert, um Wärme abzuleiten. Um die Wärmeaustauschkapazität zu verbessern, muss die Wärmeaustauschfläche maximiert werden, was erfordert, dass die Kühlplatte so nah wie möglich an der Oberfläche der wärmeerzeugenden Komponenten des Servers angebracht wird. Unregelmäßig geformte wärmeerzeugende Komponenten lassen sich mit dieser Methode nur schwer kühlen. Nur relativ regelmäßig geformte Chips sind für die Kühlung mit einer Kühlplatte geeignet.

 

Dies stellt ein erhebliches Problem für Kaltplatten-Flüssigkeitskühlungslösungen dar: Etwa 30 % der Serverwärme, die von anderen Komponenten wie Speicher, Arbeitsspeicher und Netzteilen erzeugt wird, erfordert immer noch herkömmliche Luftkühlung. Dies führt dazu, dass in Kaltplatten-Flüssigkeitskühlungslösungen zwei Kühlsysteme gleichzeitig verwendet werden müssen, was sowohl die Kosten als auch den tatsächlichen PUE des Systems erhöht. Die aktuelle Kaltplattenlösung ist relativ ausgereift, verfügt über eine solide kommerzielle Grundlage und wurde bereits in zahlreichen kommerziellen Anwendungen eingesetzt.

 

▲ Kaltplatten-Flüssigkeitskühlungslösungen

 

Bei Immersionsflüssigkeitskühlung handelt es sich um das vollständige Eintauchen der Serverausrüstung in Kühlmittel, wobei die Kühlung durch direkten Kontakt zwischen dem Kühlmittel und den wärmeerzeugenden Komponenten erreicht wird. Bei dieser Methode werden die wärmeerzeugenden Komponenten des Servers vollständig in das Kühlmittel eingetaucht, wodurch ausreichend Kontakt mit dem Kühlmittel besteht, das die erzeugte Wärme kontinuierlich abführt und so den Server kühlt. Die Immersionskühlung bietet eine höhere Kühleffizienz und kann die Leistungsdichte pro Schrank um mehr als das Dreifache erhöhen. Es wird erwartet, dass sie bis 2025 mehr als 40 % des Marktes ausmachen wird, wobei vollständig flüssigkeitsgekühlte Server wahrscheinlich ein zukünftiger Technologietrend werden.

 

▲ Immersionsflüssigkeitskühlung

 

Das Sprühkühlungs-Flüssigkeitskühlsystem ist eine Direktkontakt-Flüssigkeitskühltechnologie, die Kühlmittel präzise auf die wärmeerzeugenden Komponenten von Servern sprüht. Das Kühlmittel wird entweder durch Schwerkraft oder Systemdruck direkt auf die wärmeerzeugenden Geräte oder die mit ihnen verbundenen festen wärmeleitenden Materialien aufgebracht. Dieser Prozess ermöglicht einen Wärmeaustausch zur Kühlung des Servers. Während des Wärmeaustauschs wird der Kühlmittelstand im Server unterhalb der wärmeerzeugenden Komponenten oder der mit ihnen verbundenen festen wärmeleitenden Materialien gehalten. Das System verwendet externe Wärmetauschereinheiten zum Kühlen und Recyceln des Kühlmittels.

 

 

3. Marktlandschaft für Flüssigkeitskühlung

Als fortschrittliche Technologie erstreckt sich die Flüssigkeitskühlung über mehrere Disziplinen und Bereiche und ist mit hohen technischen Hürden verbunden.

Derzeit ist die Nutzung der Flüssigkeitskühlungstechnologie bei nationalen und internationalen Herstellern von Rechenzentrumsinfrastruktur noch relativ gering, und nur wenige Unternehmen beherrschen diese Technologie.

 

Mehrere Unternehmen im In- und Ausland bieten ihren Kunden jedoch bereits maßgeschneiderte Lösungen zur Flüssigkeitskühlung an, und einige Technologieunternehmen bauen und implementieren nach und nach ihre eigenen flüssigkeitsgekühlten Rechenzentren. Trotzdem ist die Akzeptanz der Flüssigkeitskühlungstechnologie bei den Herstellern von Rechenzentrumsinfrastrukturen nach wie vor gering, und es gibt noch keine marktbeherrschenden Anbieter, sodass die Wettbewerbssituation weiterhin unsicher ist.

 

Auf dem chinesischen Markt haben einige Unternehmen durch jahrelange Anhäufung von Technologien und Erfahrung erhebliche technische und marktbezogene Vorteile bewiesen. Es wird erwartet, dass führende Unternehmen in Zukunft den Markt dominieren und ein Wettbewerbsumfeld bilden werden, in dem die großen Akteure über bedeutende Marktanteile verfügen.

 

4. Flüssigkeitskühlung auf Chip-Ebene

Die Verringerung des Abstands zwischen Flüssigkeitskühlgeräten und zentralen Wärmequellen wie Chips ist ein wichtiger Trend. In Zukunft wird die Kühlung voraussichtlich von der Raum-, Schrank- und Serverebene auf die Chipebene übergehen, wobei durch direkten Kontakt zwischen Kühlkomponenten und Chipoberfläche eine bessere Chipkühlung erreicht wird. Flüssigkeitskühler leiten Wärme ab, indem sie große Wärmemengen durch die Reibung zwischen dem Flüssigkeitsstrom und der Innenfläche des Kühlers abtransportieren. Im Vergleich zu herkömmlichen Luftkühlsystemen kann die Flüssigkeitskühlung die Kühleffizienz deutlich verbessern. Derzeit wird die Flüssigkeitskühlungstechnologie hauptsächlich in indirekte und direkte Typen unterteilt.

 

Nach den neuestenHalbjährliche Verfolgung des Marktes für Flüssigkeitskühlungsserver in China (zweite Hälfte 2022)Laut einem von der International Data Corporation (IDC) veröffentlichten Bericht erreichte der chinesische Markt für Server mit Flüssigkeitskühlung im Jahr 2022 1,01 Milliarden US-Dollar, was einem Wachstum von 189,9 % gegenüber dem Vorjahr entspricht. IDC prognostiziert, dass die durchschnittliche jährliche Wachstumsrate des chinesischen Marktes für Server mit Flüssigkeitskühlung von 2022 bis 2027 56,6 % erreichen wird, wobei die Marktgröße bis 2027 voraussichtlich 9,5 Milliarden US-Dollar erreichen wird, was auf eine glänzende Zukunft für die Branche der Flüssigkeitskühlung hindeutet!

 

 

▲ Die Prognose für den flüssigkeitsgekühlten Servermarkt in China von 2023 bis 2027