Bare Metal / 3AZ Paris
L'offre de Bare Metal dans la Region Paris de 3AZ plait pas mal et répond à des problématiques de la tres haute disponibilité. Les clients déploient Proxmox, Ceph, MinIO, VMware, sur 3, 6, 9 serveurs qui se situent dans 3 AZ (DC) espacés de 30-40km et connectés à 100Gbps (4x 25Gbps).
Pour fin mai, on vous prépare, la possibilité de commander / d'ajouter serveur par serveur, et choisir dans quelle AZ, au lieu d'un bundle de 3 serveurs dans la Region.
Pour mesurer l'impact CO2 de l'AI et donc lié au fonctionnement de GPUs dans un Datacenter, il faut prendre en compte tous les types d'émissions.
Il y en a 3 types, on les appelle 3 scopes:
- Scope 1: directe du Datacenter: les groupes électrogènes de secours qui tournent au fuel
- Scope 2: indirecte lié au type d'énergie utilisée par le Datacenter: nucléaire, éolien, charbon, gaz, ..
- Scope 3: indirecte lié à la construction du Datacenter, à la fabrication des GPUs, au transport de tous ces pièces vers le Datacenter, etc
C'est la définition qu'on retrouve dans le Greenhouse Protocol.
Le sujet d'emission CO2 est complexe et on peut lire très rapidement pas mal de bullshit. Par exemple: une voiture thermique émet environ 1kg de CO2 sur 5km. Oui mais c'est que le Scope 2, les emissions indirect liées à l'énergie, diesel, essence. Combien de CO2 sont émis sur le Scope 3, lors de la construction de cette voiture ? Il faut en suite amortir ce Scope 3 sur 100000km et les additionner avec le Scope 2, les 1kg pour 5km. Puis .. Une vraie prise de tête !
Chez OVHcloud, pour mesurer toutes nos émissions de manière exhaustive, on s'est pris la tête durant 2 ans et désormais nous certifions nos résultats par un organisme extérieure. Nous le mesurons en kg de CO2 émis par mois (kg CO2/mois) sur le Scope 1+2+3.
Nous avons ainsi pu comparer les émissions sur le Scope 1+2+3 entre tous nos Datacenters en Europe, en Amérique du Nord et l'Asie. D'abord les différences sont liées au mixte énergétique du pays. Par exemple en France nous avons beaucoup du nucléaire: 38kg CO2/mois, Quebec beaucoup d'hydro: 28kg CO2/mois, en Inde et Pologne du charbon: 318kg CO2/mois et 350kg CO2/mois (image 1)
En Europe et au Canada, en espace de 2 ans, OVHcloud a quand meme passé à l'énergie verte. Le résultat est qu'en France, nous avons réduit les emissions Scope 1+2+3 à 30kg CO2/mois et en Pologne à 20kg CO2/mois. Nous sommes en train de le faire aux USA (image 1).
Sur l'image 2, on voit l'impact CO2 sur le Scope 1+2+3 entre la plus petite machine virtuelle (VM) B3-8 et la plus grosse T2 avec le GPU H100 de NVidia. C'est lié bien sur à la consommation électrique, mais aussi au CO2 émis par nos fournisseurs lors de la fabrication de composants électroniques. Il faut forcement plus de CO2 pour construire une machine virtuelle avec GPU que sans le GPU.
En conclusion, il faut bien choisir dans quel pays, dans quel Datacenter faire fonctionner IA, les GPUs, quel type d'énergie utiliser entre le mix du pays ou l'énergie verte, quel type de refroidissement utiliser, air cooling ou watercooling. Tout ceci a un impact énorme sur les emissions CO2 de l'AI en entrainement et en inference. On peut imaginer choisir le bon endroit dans le monde pour entraîner les modèles LLM, par exemple la France ou le Quebec au Canada, mais chaque pays doit faire ses propres efforts pour réduire les impacts CO2 en Inference qui sera forcement la plus locale possible.
Ces derniers 6 mois, j'ai passé en review toute l'organisation CINO (IN comme Indus) chez OVHcloud qui s'occupe de la construction de Datacenters, la production de serveurs et les opérations 24/7 dans les Datacenters. J'ai aussi regardé notre network optique DWDM, le network IP avec ses POP, l'Anti-DDoS et les Fabrics dans nos DC. J'ai visité (presque) tous nos DCs en Europe (bientôt Canada, USA, Asie), j'ai passé >100 reunions avec les équipes pour évoluer nos process de production dans nos 2 usines, adapter nos outils.
Le but était de mettre en cohérence nos CAPEX (350Me en FY25) et les livraisons de services à nos clients. C'est pourquoi, nous avons totalement changé les processus de production de serveurs et de livraisons en DC. Ceci va nous permettre de livrer les services aux clients plus vite, tout en réduisant nos CAPEX. La magie n'existe pas, le bon sens, si. Nous avons aussi simplifié les roadmaps de DCs pour mettre nos CAPEX au bon endroit au bon moment. Franchement, nos équipes sont top et ca m'a fait un vrai plaisir de retravailler sur ces sujets :)
Mes calcules sur le coin de la table me disent que cela devrait nous permettre de réduire nos CAPEX de 5% et accélérer notre croissance de 0.5% des FY26. On verra .. En tout cas, dans les prochaines 2-3 semaines, on va livrer les derniers serveurs en retard puis en suite on doit savoir livrer tous les services en 120sec, les custo 24h, y compris HGR. Je garde l'oeil quotidien sur ces KPIs ..
Bref, CINO: done. Next step: CDMO (le marketing) et CCO (le support). En parallèle, on sort une grosse vague de new produits et du lean d'existant, y compris WebCloud, y compris VPS, y compris PCC, y compris .. w8 :)
En décembre, nous allons produire >6000 serveurs dans nos 2 usines (Croix,France et Beauharnois,Québec) en seulement 3 semaines. On veut monter encore la production en janvier et février pour sortir 2500-3000 serveurs par semaine !
On travaille dur pour réduire le temps de livraison sur toutes les références tout en réduisant le stock de composants. Ce n’est pas encore aussi bon qu’on voudrait mais on va y arriver: en janvier et en février, nous allons changer tout le flow de production pour réduire encore les stocks et les délais de livraisons sur plus de 500 références Bare Métal commandantes dans tous nos 43 DC. La nouvelle « secret sauve » nous permettra de livrer 120 sec les standard, 24h les customisations, 72h les commandes de 48/96/192 serveurs en 1 batch et éviter les livraisons en 10J ou 20J (une horreur !).
Merci pour vos commandes ! Ça nous pousse à innover et revoir « tout » pour faire mieux et plus vite. On adore ! Continuez ;)
Exemple des innovations: la production de Bare Metal ADV-1 Gen3 est (en partie) robotisée. Le serveur est propulsé par le CPU d’AMD Epyc 4000 avec une carte mère custom avec 2x25Gbps Broadcom. 96 serveurs par baie, avec N+2 sur le PSU et le watercooling. 7-8KW par baie. Une petite baie sympa pour les serveurs T3. Rien à avoir avec les monstres de T4 ou T5 ..
Rendez-vous sur @franceinter dans l'émission Interception pour plonger au cœur des coulisses d'Internet et des datacenters.
Grégory Lebourg, Global Environmental Director vous guide lors d’une visite dans un de nos datacenters à Roubaix.
https://t.co/ZzUhkQYF7z
@caaptusss C’est le cas de bcp de pays. L’après midi permet de faire de l’étude (voir du soutien) et du sport (on en fait pas assez)..
Le pétition edt bidon.. puis les gamins avec l’école qui fini tôt, qui s’en occupe quand les parents bossent 😬
Nos serveurs sont pensés pour être entièrement démontables. Ils sont dotés de composants dédiés, choisis pour être facilement ⚡réutilisés, ♻️ recyclés et 🔧réparés.
Nouveaux bureaux à Paris. On a doublé la surface, regroupé les mêmes équipes ensemble. Bravo aux équipes qui ont bossé sur le projet ! Et, on nous voit du perif :)
⚡ Le Power Usage Effectiveness est un indicateur de l’efficacité énergétique d’un datacentre.
Plus il se rapproche de 1 meilleure est l’efficacité énergétique.💡
Avec un PUE moyen de 1,28 OVHcloud se classe parmi les meilleurs acteurs du marché. 🏆
Cold Archive:
Où sont hébergés nos systèmes d’archivage sur tape ?
Dans 4 nouveaux miniDC comme ca, repartis dans 4 coins de la France. Dans chaque miniDC il y a 3 Libs robotisés qui manipulent les cassettes.
https://t.co/p0kLqKMutn
Vous avez loupé notre dernier #VeryTechTrip et toutes les annonces ? 🙁
Pas de panique ! 😎 Revivez l'évènement en replay sur notre chaine #Twitch !
Et cette fois-ci pensez à vous abonner pour ne manquer aucun RDV 🔔
🆕 « Eco » c’est :
✅Une nouvelle ligne de produits pour tous vos usages, actuels et futurs
✅ Une expérience client optimisée (site web et espace client)
✅ Un rapport performance-prix imbattable sur le marché.