Technologie
Refroidissement par immersion des GPU IA : fonctionnement et enjeux
Comment fonctionne le refroidissement par immersion monophasique, pourquoi les GPU IA denses en ont besoin et ce qu’il change pour l’efficacité.
Technologie de refroidissement par immersion
Refroidissement par immersion monophasique, pensé pour les GPU IA.
Dans le BAYWAW AI Container, 624 GPU NVIDIA B300 fonctionnent entièrement immergés dans un liquide non conducteur. Résultat : un data center refroidi par immersion, avec un PUE de 1,05, à l’abri de la poussière et de l’humidité, qui concentre 1,2 MW dans un conteneur standard de 40 pieds.
- PUE
- 1,05
- Cuves (3 + 3)
- 6
- GPU par cuve
- 104
Boucles de refroidissement et CDU redondantes
01Le principe
Qu’est-ce que le refroidissement par immersion monophasique ?
Le refroidissement par immersion monophasique remplace l’air par un liquide. Les serveurs sont plongés dans un bain de fluide diélectrique, un liquide qui ne conduit pas l’électricité : chaque composant, du GPU à la mémoire en passant par l’étage d’alimentation, est en contact direct avec le fluide caloporteur.
« Monophasique » signifie que le fluide reste liquide du début à la fin. Il ne bout jamais : la chaleur est évacuée par circulation, à travers un échangeur thermique, puis le liquide refroidi retourne dans le bain.
Un liquide absorbe et transporte la chaleur bien plus efficacement que l’air. Les ventilateurs des serveurs disparaissent, tout comme les allées chaudes et froides et une grande partie du traitement d’air qui alourdit le bilan énergétique d’un data center conventionnel.
- Diélectrique
- Non conducteur et sans danger pour l’électronique : le matériel fonctionne entièrement immergé.
- Monophasique
- Ni ébullition ni évaporation. Le fluide reste liquide dans toute la boucle.
- Circulation
- Des pompes envoient le liquide chaud vers un échangeur thermique et le renvoient refroidi.
Anatomie d’une cuve d’immersion
Collecteur de distribution
Répartit uniformément le liquide refroidi en fond de cuve.
Lames serveurs
Posées sur des plaques refroidies par liquide et entièrement immergées, treize par cuve.
Bain de liquide diélectrique
Absorbe la chaleur directement au contact de chaque composant.
Collecteur de retour
Récupère le liquide réchauffé et le renvoie vers l’unité de distribution du liquide de refroidissement (CDU).
02Fonctionnement
Suivre la chaleur, de la puce jusqu’au ciel.
Deux boucles qui ne se mélangent jamais. Une boucle diélectrique transporte la chaleur des serveurs vers les unités de distribution (CDU) ; une boucle d’eau technique, distincte, l’achemine vers des aéroréfrigérants installés sur le toit, qui la rejettent dans l’air ambiant.
La chaleur passe dans le liquide
GPU, CPU, mémoire et composants d’alimentation cèdent leur chaleur directement au liquide diélectrique qui les entoure. Aucune lame d’air ne sépare le composant du fluide.
Le liquide chaud est collecté
Le collecteur de retour aspire le liquide réchauffé en haut du bain et l’envoie vers l’unité de distribution (CDU).
La CDU échange la chaleur
Dans la CDU, un échangeur thermique transfère la chaleur de la boucle diélectrique vers la boucle d’eau technique. Les deux fluides ne se touchent jamais.
Le liquide refroidi revient
Le liquide diélectrique refroidi repasse par le collecteur de distribution, qui le répartit uniformément sous les lames serveurs.
L’eau monte vers le toit
La boucle d’eau technique évacue la chaleur hors de la salle informatique, jusqu’aux unités de rejet thermique installées sur le toit du conteneur.
La chaleur rejoint l’air ambiant
Les aéroréfrigérants en toiture rejettent la chaleur dans l’air ambiant et renvoient l’eau refroidie vers les CDU, ce qui referme la boucle.
Redondant par conception
Les boucles de refroidissement et les CDU sont redondantes, et toute la chaîne thermique est supervisée 24 h/24 dans le cadre du service managé.
03Pourquoi l’IA en a besoin
Les GPU IA ont dépassé les limites de l’air.
Les GPU de classe Blackwell, comme le NVIDIA B300, concentrent bien plus de chaleur par puce et par baie que les générations précédentes. Le refroidissement liquide par immersion des GPU évacue cette chaleur à la source.
Le refroidissement par air suit mal cette courbe. Faire passer assez d’air dans un serveur GPU dense exige des dissipateurs plus grands, des ventilateurs plus rapides et un air soufflé plus froid. À l’échelle de la baie, le débit d’air et l’espace nécessaire pour l’acheminer deviennent la limite, bien avant la puissance de calcul.
Plongés dans un bain diélectrique, les serveurs à huit GPU s’alignent côte à côte dans une cuve et cèdent leur chaleur directement au liquide. C’est ainsi que le BAYWAW AI Container réunit 624 GPU dans l’empreinte d’un seul conteneur de 40 pieds.
Plus de chaleur par puce
Chaque génération d’accélérateurs concentre davantage de puissance dans un boîtier comparable, ce qui augmente le flux thermique à évacuer.
Plus de chaleur par baie
Les clusters IA rapprochent physiquement les GPU pour raccourcir les interconnexions, ce qui concentre la chaleur sur une faible surface.
L’air atteint ses limites
L’air transporte peu de chaleur par unité de volume. Au-delà d’une certaine densité, aucun débit d’air raisonnable ne suffit.
- GPU NVIDIA B300
- 624
- Serveurs 8 GPU
- 78
- GPU par cuve
- 104
- Puissance totale
- 1,2MW
04Avantages
Moins de pertes, plus de calcul, un matériel plus stable.
L’immersion ne se résume pas à l’efficacité énergétique. Elle change la densité atteignable, la stabilité du matériel et le choix des sites de déploiement.
Efficacité énergétique (PUE)
Plus la valeur est basse, mieux c’est
BAYWAW AI Container1,05
Moyenne du secteur≈ 1,5–1,6
Un PUE de 1,05
La quasi-totalité de l’énergie consommée par le site alimente le calcul. À titre de comparaison, le PUE moyen du secteur oscille entre 1,5 et 1,6 depuis des années.
624 GPU dans 40 pieds
Parce que le liquide évacue la chaleur à la source, six cuves accueillent 78 serveurs et 624 GPU NVIDIA B300 dans un seul conteneur ISO.
Aucun ventilateur serveur
Sans ventilateurs, les serveurs comptent moins de pièces mobiles susceptibles de tomber en panne, et le matériel fonctionne dans un environnement thermique plus silencieux et plus stable.
À l’abri de la poussière et de l’humidité
Les composants restent sous la surface du liquide, isolés de la poussière, du sable et de l’humidité qui usent le matériel refroidi par air.
Prêt pour les climats extrêmes
Conçu pour résister au transport et aux environnements difficiles, le conteneur maintient son électronique dans un bain liquide stable, du site désertique à la zone industrielle.
Chaîne de refroidissement redondante
Les boucles de refroidissement et les CDU sont redondantes : le refroidissement du calcul ne dépend pas d’une seule unité.
05Air ou immersion
Refroidissement par air et immersion, face à face.
Le refroidissement par air reste un choix éprouvé pour l’informatique généraliste. L’équilibre change à mesure que la densité augmente. Voici une comparaison objective pour les clusters de GPU IA denses.
Fluide caloporteur
- Refroidissement par air
- De l’air, brassé par les ventilateurs des serveurs et les centrales de traitement d’air.
- Immersion monophasique
- Un liquide diélectrique en contact direct avec chaque composant.
Densité de calcul
- Refroidissement par air
- Limitée par le volume d’air que l’on peut faire circuler dans chaque baie.
- Immersion monophasique
- Pensée pour des serveurs GPU denses : 104 GPU par cuve, 624 par conteneur.
Ventilateurs serveurs
- Refroidissement par air
- Indispensables dans chaque serveur, souvent à haut régime sous charge IA.
- Immersion monophasique
- Aucun. Les pompes des CDU assurent la circulation du liquide.
Surcoût énergétique
- Refroidissement par air
- Ventilateurs, groupes froids et traitement d’air pèsent lourd ; le PUE moyen du secteur se situe autour de 1,5 à 1,6.
- Immersion monophasique
- Minimal : PUE de 1,05 pour le BAYWAW AI Container.
Sensibilité à l’environnement
- Refroidissement par air
- Poussière, humidité et chaleur de la salle atteignent l’électronique ; filtration et climatisation sont indispensables.
- Immersion monophasique
- L’électronique est immergée dans un bain clos, à l’abri de la poussière et de l’humidité.
Bruit
- Refroidissement par air
- Élevé : ventilateurs à haut régime dans chaque serveur, en plus du refroidissement de la salle.
- Immersion monophasique
- Faible au niveau des cuves ; les principales pièces mobiles sont les pompes et les aéroréfrigérants en toiture.
Maintenance
- Refroidissement par air
- Procédures bien connues ; filtres et ventilateurs à entretenir et à remplacer.
- Immersion monophasique
- Les lames sont sorties du bain ; les procédures et la manipulation du fluide exigent des ingénieurs formés, mis à disposition par notre service managé.
| Critère | Refroidissement par air | Immersion monophasique |
|---|---|---|
| Fluide caloporteur | De l’air, brassé par les ventilateurs des serveurs et les centrales de traitement d’air. | Un liquide diélectrique en contact direct avec chaque composant. |
| Densité de calcul | Limitée par le volume d’air que l’on peut faire circuler dans chaque baie. | Pensée pour des serveurs GPU denses : 104 GPU par cuve, 624 par conteneur. |
| Ventilateurs serveurs | Indispensables dans chaque serveur, souvent à haut régime sous charge IA. | Aucun. Les pompes des CDU assurent la circulation du liquide. |
| Surcoût énergétique | Ventilateurs, groupes froids et traitement d’air pèsent lourd ; le PUE moyen du secteur se situe autour de 1,5 à 1,6. | Minimal : PUE de 1,05 pour le BAYWAW AI Container. |
| Sensibilité à l’environnement | Poussière, humidité et chaleur de la salle atteignent l’électronique ; filtration et climatisation sont indispensables. | L’électronique est immergée dans un bain clos, à l’abri de la poussière et de l’humidité. |
| Bruit | Élevé : ventilateurs à haut régime dans chaque serveur, en plus du refroidissement de la salle. | Faible au niveau des cuves ; les principales pièces mobiles sont les pompes et les aéroréfrigérants en toiture. |
| Maintenance | Procédures bien connues ; filtres et ventilateurs à entretenir et à remplacer. | Les lames sont sorties du bain ; les procédures et la manipulation du fluide exigent des ingénieurs formés, mis à disposition par notre service managé. |
Comparaison qualitative pour des déploiements denses de GPU IA. Les performances du refroidissement par air varient fortement selon la conception et le climat.
Étudier les conditions de votre site avec un ingénieur06Exploitation et maintenance
Conçu pour être entretenu sur place.
L’immersion change la routine de maintenance, pas son exigence. La disposition des cuves en 3 + 3 libère une allée de service centrale : chaque cuve est accessible depuis l’intérieur du conteneur.
Accès par l’allée
Les ingénieurs interviennent depuis l’allée de service centrale, chaque cuve à portée de main.
Sortie de la lame
La lame serveur est soulevée verticalement hors du bain et s’égoutte au-dessus de la cuve avant toute intervention.
Réparation ou remplacement
Les composants défaillants sont diagnostiqués et remplacés, puis la lame retrouve son emplacement et est vérifiée avant de rejoindre le cluster.
Un fluide confié à des spécialistes
Le liquide diélectrique est manipulé par des ingénieurs formés, dans le cadre du service managé : vos équipes n’ont pas à y toucher.
Couvert par le service managé
- Supervision et alertes 24 h/24, 7 j/7
- Diagnostic rapide et remplacement des composants
- Ingénieurs sur site pour la maintenance et les incidents
- Gestion des garanties et coordination avec les constructeurs
07Pour aller plus loin
Continuer à explorer la technologie.
Produit
À l’intérieur du BAYWAW AI Container
Six cuves d’immersion, 624 GPU NVIDIA B300, le réseau GPU à topologie en rails et l’architecture électrique, composant par composant.
08FAQ
L’immersion, en questions.
Des réponses claires aux questions que les équipes d’infrastructure nous posent le plus souvent sur le calcul IA refroidi par immersion.
Le liquide est-il sans danger pour l’électronique ?
Oui. Les serveurs sont plongés dans un liquide diélectrique, qui ne conduit pas l’électricité : les composants fonctionnent entièrement immergés, sans court-circuit. Le fluide est sélectionné pour sa compatibilité avec le matériel serveur et manipulé par des ingénieurs formés.
Comment se déroule la maintenance ?
Les ingénieurs interviennent depuis l’allée de service centrale. La lame serveur est soulevée verticalement hors de la cuve, égouttée, réparée ou remplacée, puis remise en place et vérifiée. La manipulation du fluide fait partie du service managé BAYWAW : vos équipes n’ont pas à toucher le liquide.
Le refroidissement par immersion consomme-t-il de l’eau ?
Aucune eau n’entre en contact avec les serveurs : ils sont refroidis par le liquide diélectrique. La chaleur quitte les CDU par une boucle d’eau technique distincte, jusqu’aux aéroréfrigérants en toiture qui la rejettent dans l’air ambiant. La configuration du rejet thermique, et les éventuels besoins en eau sur votre site, sont confirmés lors de l’ingénierie du projet.
L’immersion a-t-elle un impact sur les garanties matérielles ?
La garantie est gérée pour vous, de bout en bout. Notre service de gestion des garanties assure la coordination avec les constructeurs et traite les réclamations en votre nom. Les conditions de garantie applicables à votre configuration sont examinées avec vous dès l’étape de la proposition.
Le refroidissement par immersion est-il fiable ?
L’immersion supprime plusieurs causes de panne courantes des serveurs refroidis par air : il n’y a plus de ventilateurs, et les composants sont protégés de la poussière, de l’humidité et des variations de température. Les boucles de refroidissement et les CDU sont redondantes, et le système est supervisé 24 h/24, 7 j/7, avec alertes et remédiation automatisée lorsque c’est possible.
Un conteneur refroidi par immersion peut-il fonctionner en milieu désertique ?
Oui. L’électronique est immergée dans un bain clos, à l’abri du sable, de la poussière et de l’humidité, et le conteneur est conçu pour résister au transport et aux environnements difficiles. Nous étudions avec vous le climat de votre site afin d’adapter le rejet thermique aux conditions locales.
Briefing technique
Passez en revue la conception thermique avec nos ingénieurs.
Présentez-nous votre site, votre climat et vos charges de travail. Nous détaillons avec vos équipes la disposition des cuves, les boucles de refroidissement et le rejet thermique, et répondons à chacune de vos questions.