Je envie de te dire : on s'en fout. Mais je vais encore me faire moinser gratuitement.
Il y a une slide qui traine sur l'entrainement d'un gros modèle LLM de amazon qui a été raté et n'est pas sorti. Il est annoncé 12Gwh d'électricité(soit 12 000 000*.1= 1200 tonnes eq CO2). Pour information, un vol trans-atlanctique c'est 150 tonnes. Ou la pollution annuelle de 10 personnes pour un produit utile à la terre entière.
De plus, une requête chatgpt est annoncé à 3wh maximum soit 10 fois une requête google. On parle donc d'inférence. Le truc qui coute peu mais est utilisé souvent.
Imaginons 100 requêtes par jours pendant un an : 360*100*3 = 108 000wh, 108kwh, soit 10.8Kg de CO2 ou 108 km en voiture thermique.
Donc pour la planète, tu peux supprimer totalement ta consommation d'IA ou bien faire 100 km de voiture thermique en moins. Et encore, j'ai pris 100geqCO2/kwh alors que la France est plus à 40g.
[^] # Re: Too late
Posté par Nicolas Boulay (site web personnel) . En réponse au journal Sommet pour l’action sur l'IA, réaction à chaud. Évalué à 4.
Je envie de te dire : on s'en fout. Mais je vais encore me faire moinser gratuitement.
Il y a une slide qui traine sur l'entrainement d'un gros modèle LLM de amazon qui a été raté et n'est pas sorti. Il est annoncé 12Gwh d'électricité(soit 12 000 000*.1= 1200 tonnes eq CO2). Pour information, un vol trans-atlanctique c'est 150 tonnes. Ou la pollution annuelle de 10 personnes pour un produit utile à la terre entière.
De plus, une requête chatgpt est annoncé à 3wh maximum soit 10 fois une requête google. On parle donc d'inférence. Le truc qui coute peu mais est utilisé souvent.
Imaginons 100 requêtes par jours pendant un an : 360*100*3 = 108 000wh, 108kwh, soit 10.8Kg de CO2 ou 108 km en voiture thermique.
Donc pour la planète, tu peux supprimer totalement ta consommation d'IA ou bien faire 100 km de voiture thermique en moins. Et encore, j'ai pris 100geqCO2/kwh alors que la France est plus à 40g.
"La première sécurité est la liberté"