je n'utilise pas de LLMs et autres joyeusetés de cet ordre, à cause principalement des aspects écologiques, concentrationnaires d'argent et de pouvoir, mais aussi parce que je préfère attendre sur le bord de la route voir comment ça va se consolider1, et apprendre éventuellement sur les technos qui resteront.
Toutefois, sur le rendement, je me dis que comme on est plutôt au début des LLMs2, et qu'il y a une marge de progression colossale, que peut-être que dans cinq à dix ans, le rendement sera bien meilleur. Peut-être pas, c'est de la spéculation. Mais si un jour donc le rendement devient bon, l'impact écologique sera peut-être plus... rationnel ou du moins acceptable? Ça ne règle pas les autres travers des gros acteurs du secteur, hein. C'est juste une question que je me pose comme ça.
Mais quand je vois l'évolution du rendement des calculateurs : passer de la lampe au transistor, rendre la gravure plus fine, découvrir de nouvelles méthodes de conception (unités en 3D par exemple)... Tout ceci a permis, pour un watt consommé, de calculer vachement plus. Ben donc, quand je vois ça, j'ai du mal à penser que "l'IA" ne peut pas améliorer son rendement à moyen et long terme.
[^] # Re: An Engineering Disaster
Posté par cg . En réponse au lien Linus Torvalds à propos de l'utilisation des LLM. Évalué à 4 (+2/-0).
Hello,
je n'utilise pas de LLMs et autres joyeusetés de cet ordre, à cause principalement des aspects écologiques, concentrationnaires d'argent et de pouvoir, mais aussi parce que je préfère attendre sur le bord de la route voir comment ça va se consolider1 , et apprendre éventuellement sur les technos qui resteront.
Toutefois, sur le rendement, je me dis que comme on est plutôt au début des LLMs2 , et qu'il y a une marge de progression colossale, que peut-être que dans cinq à dix ans, le rendement sera bien meilleur. Peut-être pas, c'est de la spéculation. Mais si un jour donc le rendement devient bon, l'impact écologique sera peut-être plus... rationnel ou du moins acceptable? Ça ne règle pas les autres travers des gros acteurs du secteur, hein. C'est juste une question que je me pose comme ça.
Mais quand je vois l'évolution du rendement des calculateurs : passer de la lampe au transistor, rendre la gravure plus fine, découvrir de nouvelles méthodes de conception (unités en 3D par exemple)... Tout ceci a permis, pour un watt consommé, de calculer vachement plus. Ben donc, quand je vois ça, j'ai du mal à penser que "l'IA" ne peut pas améliorer son rendement à moyen et long terme.
pop ! ↩
pas de l'IA ou du ML en général, qui sont là depuis longtemps ↩