Cette vidéo confirme que 80 à 90% de l'impact CO2 des activités numériques en général viennent du terminal des utilisateurs (PC, tablette, téléphone).
Précision : en France (et tout pays avec une électricité relativement peu carbonée).
Cela néglige aussi les autres empreintes écologiques qui ne sont pas négligeables.
La mode est à reporter ces coûts sur l'IA, ça n'est plus Google mais l'IA qui détruit la planète. Mais en fait c'est assez faux, les data centers c'est comme les transports en commun, ils mutualisent les coûts environnementaux parce que c'est l'intérêt des multinationales que d'optimiser leur utilisation. Un bus consomme plus qu'une voiture, mais si dans le bus il y a 50 personnes, alors le bus est une solution bien plus sobre. Pour le numérique c'est pareil, un serveur dans un datacenter demande plus de ressources qu'un PC, mais comme des centaines ou des milliers de personnes mutualisent ce serveur, le coût écologique par utilisateur est négligeable.
L'IA a quand même quelques particularités par rapport aux autres services numériques classiques :
Le marché est loin d'être mature, l'usage peut exploser. D'ailleurs alors que tous les GAFAM projetaient une neutralité carbone et une baisse de consommation avant l'IA, ils sont tous revenus allègrement sur ces projets, montrant que cet effet est immédiat et à grande échelle ;
Les performances requises pour une requête d'un utilisateur font que c'est plus difficile de mutualiser le matériel, donc il faut plus de serveurs pour la même base d'utilisateurs. Serveurs qui sont eux même plus gourmands que pour un serveur classique car un GPU haute performance est requise ce qui n'est pas le cas pour les autres services. Et le besoin en CPU / RAM ne disparaît pas sur ces machines donc l'impact s'accumule. Cela nécessite aussi des systèmes de refroidissement plus conséquents ;
Comme les requêtes et le contexte sont très spécifiques, il y a très peu de systèmes de caches géographiques comme de calculs qui sont possibles pour améliorer le bilan en réduisant la pression sur le réseau ou les serveurs ;
De par le point précédent, ces IA doivent faire de nombreuses requêtes dans le Web pour indexer mais aussi tout simplement accéder aux données que l'utilisateur fourni donc ça s'accumule avec d'autres impacts existants ;
Les besoins en calculs pour les gros modèles sont tels que la durée de vie des serveurs semble très courte, ce qui nécessite de renouveler les équipements plus souvent côté infra ;
Les entreprises ne sont pas transparentes sur ces projets là, rendant une évaluation indépendante difficile alors qu'elle est nécessaire.
L'IA gourmande s'invite dans les terminaux pour des raisons de latence / vie privée, ce qui nécessite des terminaux plus performants (voir le cas de l'iPhone qui a du augmenter sa RAM disponible pour cet usage) ce qui accélère le taux de renouvellement.
Alors oui, la balance bénéfice risque pourrait être bénéfique même à plus longue échéance, la réalité est qu'on en sait rien à ce stade ce qui est gênant. Cela rejoint le message de la vidéo : oui l'impact du numérique d'un point de vue technique n'est pas le pire domaine du point de vue environnemental. Mais cela ne signifie pas qu'on doit laisser faire, il faut réduire ces impacts dans la mesure du possible.
[^] # Re: TLDR
Posté par Renault (site web personnel) . En réponse au lien L’impact climatique du numérique et, notamment, du streaming (et aussi les impacts indirects). Évalué à 10.
Précision : en France (et tout pays avec une électricité relativement peu carbonée).
Cela néglige aussi les autres empreintes écologiques qui ne sont pas négligeables.
L'IA a quand même quelques particularités par rapport aux autres services numériques classiques :
Alors oui, la balance bénéfice risque pourrait être bénéfique même à plus longue échéance, la réalité est qu'on en sait rien à ce stade ce qui est gênant. Cela rejoint le message de la vidéo : oui l'impact du numérique d'un point de vue technique n'est pas le pire domaine du point de vue environnemental. Mais cela ne signifie pas qu'on doit laisser faire, il faut réduire ces impacts dans la mesure du possible.