Les demandes de ressources de ChatGPT deviennent incontrôlables

un serveur
Panumas Nikhomkhai / Pexels

Ce n'est un secret pour personne que la croissance de l'IA générative a nécessité des quantités toujours croissantes d'eau et d'électricité, mais une nouvelle étude du Washington Post et de chercheurs de l'Université de Californie à Riverside montre de combien de ressources le chatbot d'OpenAI a besoin pour fonctionner même au maximum. fonctions de base.

En termes de consommation d'eau, la quantité nécessaire à ChatGPT pour rédiger un e-mail de 100 mots dépend de l'état et de la proximité des utilisateurs avec le centre de données OpenAI le plus proche. Moins il y a d'eau dans une région donnée et moins l'électricité est chère, plus le centre de données est susceptible de recourir à des unités de climatisation électriques. Au Texas, par exemple, le chatbot ne consomme qu'environ 235 millilitres nécessaires pour générer un e-mail de 100 mots. En revanche, ce même e-mail rédigé à Washington nécessiterait 1 408 millilitres (près d’un litre et demi) par e-mail.

Les centres de données sont devenus plus grands et plus denses avec l’essor de la technologie d’IA générative, à tel point que les systèmes de refroidissement par air ont du mal à suivre le rythme. C'est pourquoi de nombreux centres de données d'IA sont passés à des systèmes de refroidissement liquide qui pompent d'énormes quantités d'eau au-delà des piles de serveurs pour en extraire l'énergie thermique, puis vers une tour de refroidissement où la chaleur collectée se dissipe.

Les exigences électriques de ChatGPT ne sont pas non plus à dédaigner. Selon le Washington Post, l'utilisation de ChatGPT pour écrire cet e-mail de 100 mots consomme suffisamment de courant pour faire fonctionner plus d'une douzaine d'ampoules LED pendant une heure. Si même un dixième des Américains utilisaient ChatGPT pour écrire cet e-mail une fois par semaine pendant un an, le processus utiliserait la même quantité d'énergie que chaque foyer de Washington, DC, en 20 jours. DC abrite environ 670 000 personnes.

Ce n’est pas un problème qui sera résolu de si tôt et qui risque de s’aggraver avant de s’améliorer. Meta, par exemple, avait besoin de 22 millions de litres d'eau pour entraîner ses derniers modèles Llama 3.1 . Selon les archives judiciaires, les centres de données de Google à The Dalles, dans l'Oregon, consomment près d'un quart de toute l'eau disponible dans la ville , tandis que le nouveau supercluster de Memphis de xAI nécessite déjà 150 MW d'électricité, soit suffisamment pour alimenter jusqu'à 30 000 foyers. – du service public local, Memphis Light, Gas and Water.