Sauf que le pire dans l’impact environnemental des LLMs c’est l’entraînement il me semble.
DeepSeek faisant office de mauvais élève, consommant 67 fois plus.
Cela m’étonne beaucoup, il me semblait que DeepSeek était largement plus économe en énergie à l’entraînement et à l’usage.
Les résultats que je trouve sur DuckDuckGo semblent le confirmer:
« Whereas ChatGPT-4 was trained using 25,000 NVIDIA GPUs and Meta’s Llama 3.1 used 16,000, DeepSeek used just 2,000 NVIDIA H800 chips. »
« Environmental impact is drastically reduced: 90% less energy consumption and 92% lower carbon footprint »
De plus les prix très bas de l’entraînement et des tokens laissent également à penser que la facture énergétique de DeepSeek est plus basse.
[^] # Re: comparaison avec un moteur de recherche
Posté par impromptux (site web personnel) . En réponse au lien Combien d’énergie consomme vraiment l’IA ? La réponse en infographies. Évalué à 6 (+6/-0).
Sauf que le pire dans l’impact environnemental des LLMs c’est l’entraînement il me semble.
Cela m’étonne beaucoup, il me semblait que DeepSeek était largement plus économe en énergie à l’entraînement et à l’usage.
Les résultats que je trouve sur DuckDuckGo semblent le confirmer:
« Whereas ChatGPT-4 was trained using 25,000 NVIDIA GPUs and Meta’s Llama 3.1 used 16,000, DeepSeek used just 2,000 NVIDIA H800 chips. »
« Environmental impact is drastically reduced: 90% less energy consumption and 92% lower carbon footprint »
De plus les prix très bas de l’entraînement et des tokens laissent également à penser que la facture énergétique de DeepSeek est plus basse.
Cependant ce n’est pas ce qu’indique le papier utilisé par Reporterre donc je ne sais pas.