Je n'y connais rien en GPU pour réseaux de neurones, mais une carte A100 coûte environ 30k€ à l'achat et consomme 400W, donc à 15cts du kWh ça fait ~ 500€/an d'électricité; il faut littéralement 60 ans pour qu'elle coûte en énergie ce qu'elle a coûté à l'achat. J'ai du mal à imaginer que les variations du prix de l'énergie puissent passer ton modèle de rentable à non-rentable quand tu investis des 100 de Mrds de $ en hardware qui s'amortit en quelques années...
Il faudrait aussi distinguer ce qui est lié à l'entrainement des modèles (coût fixe) et à leur utilisation (qui est proportionnelle au nombre de clients). Normalement, l'entrainement est beaucoup, beaucoup plus coûteux, donc au contraire, plus tu as de clients et plus tu rentabilises tes coûts fixes. Pour moi le plus probable c'est que tu aimerais avoir plus de bande passante, de serveurs, de GPU, et de datacenters, et d'énergie, mais que le monde physique t'en empêche. Ça n'est pas une question d'argent, c'est une question de physique et de logistique.
[^] # Re: Quand est-ce que ça casse
Posté par arnaudus . En réponse au lien La qualité de Claude Code baisse à cause du trop grand nombre d'utilisateurs. Évalué à 5.
Je n'y connais rien en GPU pour réseaux de neurones, mais une carte A100 coûte environ 30k€ à l'achat et consomme 400W, donc à 15cts du kWh ça fait ~ 500€/an d'électricité; il faut littéralement 60 ans pour qu'elle coûte en énergie ce qu'elle a coûté à l'achat. J'ai du mal à imaginer que les variations du prix de l'énergie puissent passer ton modèle de rentable à non-rentable quand tu investis des 100 de Mrds de $ en hardware qui s'amortit en quelques années...
Il faudrait aussi distinguer ce qui est lié à l'entrainement des modèles (coût fixe) et à leur utilisation (qui est proportionnelle au nombre de clients). Normalement, l'entrainement est beaucoup, beaucoup plus coûteux, donc au contraire, plus tu as de clients et plus tu rentabilises tes coûts fixes. Pour moi le plus probable c'est que tu aimerais avoir plus de bande passante, de serveurs, de GPU, et de datacenters, et d'énergie, mais que le monde physique t'en empêche. Ça n'est pas une question d'argent, c'est une question de physique et de logistique.