Comme te l'a dit passant·e, le problème vient surtout du fait que tu as juste parlé de ton utilisation des IA génératives, sans présenter le site lui-même, son approche, etc. Je t'encourage vivement à présenter le site lui-même dans un autre journal,
À titre personnel, je me suis aussi demandé si ton journal n'avait pas été traduit depuis un texte initialement en anglais, lorsque j'ai lu (par exemple) le titre de ta section 6 :
6. Conclusion – Une pratique sensible du web littéraire
Je suppose que lorsque tu emploies « sensible », tu veux dire « pragmatique » (ou quelque chose d'approchant) ?
Concernant ton approche en général, j'ai plusieurs remarques.
Parlons purement technique.
Je pense qu'ici, à part quelques personnes en très large minorité, personne ne te reprochera de ne pas savoir programmer. Il y a des contributeurs et contributrices à des projets libres qui ne produisent pas une ligne de code, mais aident à la traduction, à l'écriture de manuels et tutoriels pour l'utilisation d'outils libres, etc.
Si on ne considère que les aspects techniques, l'utilisation d'une IA générative n'est pas nécessairement mauvaise en soi, mais mon expérience (confirmée par beaucoup de gens autour de moi) est que, dans le cadre de la génération de code, sauf à vouloir faire générer des programmes extrêmement simples1, il y a souvent des problèmes dans le code généré, qui semble bien fonctionner pour quelqu'un-e qui ne connaît pas bien le domaine, mais qui peuvent poser problème de façon plus ou moins subtile, à court, moyen, et long terme (généralement sur le long terme, les comportements déviants ne sont plus subtils du tout).
Toujours sur le plan uniquement technique, utiliser un chatbot d'IAGen n'est pas choquant en soi : ça devient une sorte de « tuteur » qui permet, comme tu le dis, d'explorer les possibilités d'un langage appliqué à un domaine donné. Cependant, tu affirmes « rester maître de la logique », et je m'inscris en faux avec cette affirmation : par définition, puisque tu ne connais pas (bien) le langage utilisé (ici Python si j'ai bien compris), et puisque tu n'as pas de formation d'informaticien2, tu peux uniquement constater que le résultat semble correspondre à ce que tu veux, mais tu ne peux a priori pas le vérifier de façon formelle3.
Mais il y a des problèmes écologiques et éthiques qui se posent avec l'utilisation de l'IAGen. :-(
Comme en a déjà parlé Laurent Pointecouteau, il y a un prix écologique et éthique à utiliser des IA génératives.
Côté écologique
L'entraînement des IA est extrêmement coûteux en eau (pour refroidir le supercalculateur) et en énergie (qui est souvent très carbonée au sens large si on parle des US par exemple, mais pas que). Leur utilisation (la partie appelée « inférence ») aussi, indirectement : les prompts utilisés sont ensuite réutilisés pour un n-ième entraînement dans le futur. Et c'est bien le problème : ces modèles sont constamment ré-entraînés sur des jeux de données entiers contenant des dizaines ou des centaines de millions de paramètres, là où des approches plus étroites permettraient de limiter le temps et l'échelle de l'entraînement de ce genre de modèles — et du coup leur impact en termes écologiques.
Côté éthique
Du point de vue éthique, il y a d'autres problèmes. Premièrement, le fait qu'on exploite des populations, en très large majorité habitant dans des pays dits en voie de développement pour mettre des étiquettes sur tout un tas de contenu pour aider à l'entraînement.
Et deuxièmement, le fait que les IAGen « généralistes » aient aspiré illégalement le contenu entier de sites, sans se poser la question du droit d'auteur, des droits patrimoniaux, de la licence d'utilisation, etc. Tous ces fournisseurs de chatbot basés sur les LLM l'admettent du bout des lèvres, et c'est bien pour ça que les directeurs européennes sur l'IA les emmerdent (ces directives ne sont sans doute pas parfaites, mais elles sont bienvenues de mon point de vue).
Beaucoup de gens ici ont des problèmes techniques et éthiques (j'y inclus l'écologie) avec les chatbots basés sur les LLM. Notamment parce que GPT et ses potes consomment une quantité phénoménale d'énergie et d'eau, mais aussi parce que ces systèmes reposent sur l'exploitation des humains et des savoirs produits par d'autres, sans aucun égard à la volonté des personnes qui ont mis à disposition de l'humanité leurs production d'encadrer la façon dont on peut les exploiter, ce qui est leur droit. Et en plus, d'un point de vue technique, la génération de code via LLM est sujette à risque, si ce n'est dans le court-terme, potentiellement dans le moyen et le long terme, de façon souvent sournoise pour qui ne connaît pas grand chose à l'informatique.
Et même là, souvent la solution générée est plus complexe que si quelqu'un qui s'y connaît l'avait écrite. ↩
Note que ce n'est pas du tout un reproche ou un défaut ! ↩
Cependant, ne soyons pas dupes : tout un tas de gens, dont certains avec une formation en programmation, copiaient-collaient allègrement des bouts de codes venus de sites plus ou moins louches (newsgroups, sites persos, puis plus tard, StackOverflow et ses dérivés), sans forcément bien comprendre non plus les tenants et les aboutissants. C'est juste que les IAGen ont tendance à amplifier et faire « passer à l'échelle » ce phénomène de copier-coller-sans-comprendre-ce-que-ça-fait. ↩
[^] # Re: générer du texte ou du code avec l'IA, ce n'est pas bien
Posté par lasher . En réponse au journal Des boucles SPIP au vibe coding augmenté : 25 ans de médiation littéraire par le code. Évalué à 6.
Sommaire
Comme te l'a dit passant·e, le problème vient surtout du fait que tu as juste parlé de ton utilisation des IA génératives, sans présenter le site lui-même, son approche, etc. Je t'encourage vivement à présenter le site lui-même dans un autre journal,
À titre personnel, je me suis aussi demandé si ton journal n'avait pas été traduit depuis un texte initialement en anglais, lorsque j'ai lu (par exemple) le titre de ta section 6 :
Je suppose que lorsque tu emploies « sensible », tu veux dire « pragmatique » (ou quelque chose d'approchant) ?
Concernant ton approche en général, j'ai plusieurs remarques.
Parlons purement technique.
Je pense qu'ici, à part quelques personnes en très large minorité, personne ne te reprochera de ne pas savoir programmer. Il y a des contributeurs et contributrices à des projets libres qui ne produisent pas une ligne de code, mais aident à la traduction, à l'écriture de manuels et tutoriels pour l'utilisation d'outils libres, etc.
Si on ne considère que les aspects techniques, l'utilisation d'une IA générative n'est pas nécessairement mauvaise en soi, mais mon expérience (confirmée par beaucoup de gens autour de moi) est que, dans le cadre de la génération de code, sauf à vouloir faire générer des programmes extrêmement simples1 , il y a souvent des problèmes dans le code généré, qui semble bien fonctionner pour quelqu'un-e qui ne connaît pas bien le domaine, mais qui peuvent poser problème de façon plus ou moins subtile, à court, moyen, et long terme (généralement sur le long terme, les comportements déviants ne sont plus subtils du tout).
Toujours sur le plan uniquement technique, utiliser un chatbot d'IAGen n'est pas choquant en soi : ça devient une sorte de « tuteur » qui permet, comme tu le dis, d'explorer les possibilités d'un langage appliqué à un domaine donné. Cependant, tu affirmes « rester maître de la logique », et je m'inscris en faux avec cette affirmation : par définition, puisque tu ne connais pas (bien) le langage utilisé (ici Python si j'ai bien compris), et puisque tu n'as pas de formation d'informaticien2 , tu peux uniquement constater que le résultat semble correspondre à ce que tu veux, mais tu ne peux a priori pas le vérifier de façon formelle3 .
Mais il y a des problèmes écologiques et éthiques qui se posent avec l'utilisation de l'IAGen. :-(
Comme en a déjà parlé Laurent Pointecouteau, il y a un prix écologique et éthique à utiliser des IA génératives.
Côté écologique
L'entraînement des IA est extrêmement coûteux en eau (pour refroidir le supercalculateur) et en énergie (qui est souvent très carbonée au sens large si on parle des US par exemple, mais pas que). Leur utilisation (la partie appelée « inférence ») aussi, indirectement : les prompts utilisés sont ensuite réutilisés pour un n-ième entraînement dans le futur. Et c'est bien le problème : ces modèles sont constamment ré-entraînés sur des jeux de données entiers contenant des dizaines ou des centaines de millions de paramètres, là où des approches plus étroites permettraient de limiter le temps et l'échelle de l'entraînement de ce genre de modèles — et du coup leur impact en termes écologiques.
Côté éthique
Du point de vue éthique, il y a d'autres problèmes. Premièrement, le fait qu'on exploite des populations, en très large majorité habitant dans des pays dits en voie de développement pour mettre des étiquettes sur tout un tas de contenu pour aider à l'entraînement.
Et deuxièmement, le fait que les IAGen « généralistes » aient aspiré illégalement le contenu entier de sites, sans se poser la question du droit d'auteur, des droits patrimoniaux, de la licence d'utilisation, etc. Tous ces fournisseurs de chatbot basés sur les LLM l'admettent du bout des lèvres, et c'est bien pour ça que les directeurs européennes sur l'IA les emmerdent (ces directives ne sont sans doute pas parfaites, mais elles sont bienvenues de mon point de vue).
Je ne sais pas si le code source de ton site est libre ou non, mais par exemple, si jamais tu décidais de dire que le code publié est © bibliosurf, alors qu'une très large partie provient d'un générateur automatique, et dont tu ne connais pas bien le fonctionnement au final (juste par essai-erreur), ça me pose un problème.
Conclusion / TL;DR
Beaucoup de gens ici ont des problèmes techniques et éthiques (j'y inclus l'écologie) avec les chatbots basés sur les LLM. Notamment parce que GPT et ses potes consomment une quantité phénoménale d'énergie et d'eau, mais aussi parce que ces systèmes reposent sur l'exploitation des humains et des savoirs produits par d'autres, sans aucun égard à la volonté des personnes qui ont mis à disposition de l'humanité leurs production d'encadrer la façon dont on peut les exploiter, ce qui est leur droit. Et en plus, d'un point de vue technique, la génération de code via LLM est sujette à risque, si ce n'est dans le court-terme, potentiellement dans le moyen et le long terme, de façon souvent sournoise pour qui ne connaît pas grand chose à l'informatique.
Et même là, souvent la solution générée est plus complexe que si quelqu'un qui s'y connaît l'avait écrite. ↩
Note que ce n'est pas du tout un reproche ou un défaut ! ↩
Cependant, ne soyons pas dupes : tout un tas de gens, dont certains avec une formation en programmation, copiaient-collaient allègrement des bouts de codes venus de sites plus ou moins louches (newsgroups, sites persos, puis plus tard, StackOverflow et ses dérivés), sans forcément bien comprendre non plus les tenants et les aboutissants. C'est juste que les IAGen ont tendance à amplifier et faire « passer à l'échelle » ce phénomène de copier-coller-sans-comprendre-ce-que-ça-fait. ↩