Bon je veux pas être méchant mais en commençant à utiliser les LLMs, tu as toi-même donné le bâton pour te faire battre. Je fais partie de ces gens qui aiment beaucoup tes dépêches régulières sur le Frido, et je dois t'avouer avoir été extrêmement déçu dans les dernières versions, quand j'ai vu que tu as commencé à recourir aux LLMs. Pour moi, ton œuvre (magnifique, par ailleurs! J'oserais même dire extraordinaire! Parce que de la connaissance libre à ce niveau, c'est beau!) a perdu énormément de sa valeur d'un coup. 😔
Ensuite, ce que tu dis toi-même dans ton lien d'explication est complètement vrai. Taper un "prompt" 🙄 dans un LLM et copier-coller une réponse bidon, ça n'a aucune valeur si tu n'as pas relu, compris et validé "chaque virgule", et bien sûr fais le lien avec les autres énoncés du Frido. Ce pourquoi c'est d'après moi juste ridicule d'utiliser un LLM pour commencer, puisque ce sera souvent faux, ou pire: ce sera faux mais aura l'air d'être vrai si on n'est pas extrêmement attentif (bien plus attentif qu'on ne devrait l'être si on devait tout écrire soi-même); et dans tous les cas, on perdra énormément de temps à arriver à l'une ou l'autre des conclusions possibles. Quand je vois que les moteurs de recherche se mettent maintenant à faire des requêtes LLMs sans qu'on demande rien, et parfois je regarde. Très régulièrement, ce que le LLM sort est juste complètement faux (et souvent quand je clique sur le lien qui est indiqué comme étant la source du "résumé IA", ça dit l'inverse que ce que disait l'IA), mais ça le dit avec un tel aplomb! 🤦
La réponse du quidam à ton message est d'ailleurs assez symptomatique des gens qui utilisent ces outils (par paresse intellectuelle d'après moi). En gros, il commence avec une tournure de phrase pour te faire culpabiliser ("C'était pour te rendre service"). Puis il essaie de te faire passer pour un con, avec une fausse tournure "gentille", mais en fait plutôt insultante quand tu y regardes de près ("Mais si tu préfères avoir des points en suspens, imprécis ou faux, aucun souci!"). Genre qui préfère avoir des points faux? Personne. Ce qu'il te dit donc, c'est que t'es débile de refuser l'aide de la toute puissante IA qui a forcément raison et que c'est tant pis pour ta gueule si ton bouquin a des erreurs à cause de ta reluctance.
Enfin voilà, on va pas refaire la discussion que j'ai déjà eu 10 fois sur ce site, mais pour moi, ces LLMs, c'est la nouvelle apogée de la médiocrité.
On en a régulièrement des gens comme ça dans notre dépôt (pour GIMP). Parfois on a des artistes qui vont lire une connerie sur ChatGPT (ou autre LLMs) sur un algorithme ou un sujet dans la théorie des couleurs (qui est aussi un truc super complexe avec certains sujets où on doit se tordre le cerveau pour essayer de comprendre et visualiser certains trucs... enfin je vais pas t'apprendre ce qu'est un sujet difficile! Toi tu fais des maths à un niveau où j'essaie même pas!) et vont donc venir argumenter sans se poser la moindre question avec un contributeur hyper calé sur le sujet et qui étudie, recherche et expérimente au quotidien les théories relatives aux couleurs depuis 30 ans! Ces gens vont parfois soutenir mordicus des trucs faux, qu'on connaît par cœur, sur un sujet dont ils ne comprennent pas le début du commencement, parce que "ChatGPT me l'a dit".
Enfin voilà. Pour nous, c'est assez simple, puisqu'on a une politique stricte de refus de toutes contributions générées par ces systèmes de genAI. Que ce soit du code, comme du texte, des images ou autre chose, d'ailleurs! Donc dès qu'on a une telle contribution, maintenant on ne réfléchit même pas. On explique (calmement et poliment, mais succinctement, sans perdre plus de temps) que les contributions genAI ne sont pas acceptées, mais que s'ils veulent reproposer un patch qu'ils ont fait eux-même, avec leurs petites mimines et leurs propres méninges, on se fera un plaisir d'en faire la revue (spoiler: ça arrive presque jamais! Les gens qui font ce type de "contributions" semblent pour la plupart avoir abandonné l'usage de leur cerveau depuis longtemps et ne veulent plus que des contributions faciles pour remplir leur CV).
Ajoute à cela qu'on n'est pas sur Github, source de tant de maux, on a donc finalement relativement peu de contributions de paresseux qui font du copier-coller de LLMs (on en a quand même régulièrement — ne rêvons pas — mais quand je lis l'horreur que vivent les projets sur Github, il est évident qu'on est épargné et que la source principale de ces anti-contributions, c'est Github et son écosystème). Je rejoins donc pulkomandy plus haut quand il enjoint autrui à quitter Github, et aussi quand il conseille de ne pas faire l'erreur d'aller sur la nouvelle forge à la mode à un moment T. Il n'est pas forcément nécessaire de s'auto-héberger, mais rejoindre un groupe de projet avec des atomes crochus marche très bien!
Enfin voilà, perso ma suggestion est de ne pas tomber dans la facilité des LLMs qui sont simplement médiocres. Les utiliser toi-même (même, et surtout, sur des sujets autres qui ne sont pas ta spécialité! On lit trop souvent des argumentaires "c'est mauvais dans ma zone d'expertise mais j'utilise là où j'y connais rien" au sujet des LLMs, ce qui est un bel exemple d'œillères intellectuelles qu'on s'applique; tout en validant une technologie nocive, créant ainsi des problèmes pour les autres de cette zone d'expertise), tu as déjà fait le premier pas vers la facilité, et c'est vraiment dommage étant donné ton niveau d'implication, mais aussi ton niveau technique. Et puis c'est donner raison à leurs créateurs malgré tous les problèmes connus de ces technologies (qu'on ne va pas re-lister ici!).
À mes yeux, ton œuvre est très belle, et elle a bien plus de valeur sans jamais utiliser de LLMs. Il y a des manques ou des questionnements sur certains sujets ou théorèmes? Et alors! C'est pas comme si tu allais révolutionner les maths (et sûrement pas comme si le moindre LLM avait cette capacité d'ailleurs), et ce n'est pas ton objectif, il me semble. Tu fais clairement de la qualité, et c'est ça qui importe. L'imperfection et les erreurs (humaines) font partie du chemin.
Et une fois que tu auras décidé cela pour toi, il sera aussi très simple de couper court à ce genre de discussions que tu nous montres, et de leur dire juste "Les preuves données par de la genAI ne sont pas acceptées". Parce que perdre ton temps à argumenter avec ces faux contributeurs, c'est juste nul. Tu le dis toi-même dans tes commentaires: ce gars a passé 30 secondes selon ses dires, mais pour toi, ce serait un mois de travail (pour peut-être en arriver à la conclusion que ce n'est pas utilisable). Cela en vaut-il vraiment le coup? Coupe court et ne perd plus ton temps (ni ta patience et ta passion; car ce genre de contributeurs, ce sont des tueurs de passion).
Bon on pourra me rétorquer que je fais la même chose avec toi, à essayer d'argumenter alors que tu as clairement déjà décidé d'utiliser des LLMs de ton côté. Pour mon excuse, c'est que j'ai l'infime espoir de pouvoir te faire un peu réfléchir sur cette technologie car il est évident que tu réfléchis clairement plus que l'usager moyen de LLMs. Et aussi comme je disais, j'avais été extrêmement déçu de lire ton passage à la genAI car je tenais ton œuvre en grand respect. Donc bon... qui sait... peut-être y réfléchiras-tu un peu plus et changeras d'avis?... 😅
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
[^] # Re: J'ai eu un problème similaire avec le Frido (livre de math)
Posté par Jehan (site web personnel, Mastodon) . En réponse au journal Recrudescence de contributions générées par IA. Évalué à 10.
Bon je veux pas être méchant mais en commençant à utiliser les LLMs, tu as toi-même donné le bâton pour te faire battre. Je fais partie de ces gens qui aiment beaucoup tes dépêches régulières sur le Frido, et je dois t'avouer avoir été extrêmement déçu dans les dernières versions, quand j'ai vu que tu as commencé à recourir aux LLMs. Pour moi, ton œuvre (magnifique, par ailleurs! J'oserais même dire extraordinaire! Parce que de la connaissance libre à ce niveau, c'est beau!) a perdu énormément de sa valeur d'un coup. 😔
Ensuite, ce que tu dis toi-même dans ton lien d'explication est complètement vrai. Taper un "prompt" 🙄 dans un LLM et copier-coller une réponse bidon, ça n'a aucune valeur si tu n'as pas relu, compris et validé "chaque virgule", et bien sûr fais le lien avec les autres énoncés du Frido. Ce pourquoi c'est d'après moi juste ridicule d'utiliser un LLM pour commencer, puisque ce sera souvent faux, ou pire: ce sera faux mais aura l'air d'être vrai si on n'est pas extrêmement attentif (bien plus attentif qu'on ne devrait l'être si on devait tout écrire soi-même); et dans tous les cas, on perdra énormément de temps à arriver à l'une ou l'autre des conclusions possibles. Quand je vois que les moteurs de recherche se mettent maintenant à faire des requêtes LLMs sans qu'on demande rien, et parfois je regarde. Très régulièrement, ce que le LLM sort est juste complètement faux (et souvent quand je clique sur le lien qui est indiqué comme étant la source du "résumé IA", ça dit l'inverse que ce que disait l'IA), mais ça le dit avec un tel aplomb! 🤦
La réponse du quidam à ton message est d'ailleurs assez symptomatique des gens qui utilisent ces outils (par paresse intellectuelle d'après moi). En gros, il commence avec une tournure de phrase pour te faire culpabiliser ("C'était pour te rendre service"). Puis il essaie de te faire passer pour un con, avec une fausse tournure "gentille", mais en fait plutôt insultante quand tu y regardes de près ("Mais si tu préfères avoir des points en suspens, imprécis ou faux, aucun souci!"). Genre qui préfère avoir des points faux? Personne. Ce qu'il te dit donc, c'est que t'es débile de refuser l'aide de la toute puissante IA qui a forcément raison et que c'est tant pis pour ta gueule si ton bouquin a des erreurs à cause de ta reluctance.
Enfin voilà, on va pas refaire la discussion que j'ai déjà eu 10 fois sur ce site, mais pour moi, ces LLMs, c'est la nouvelle apogée de la médiocrité.
On en a régulièrement des gens comme ça dans notre dépôt (pour GIMP). Parfois on a des artistes qui vont lire une connerie sur ChatGPT (ou autre LLMs) sur un algorithme ou un sujet dans la théorie des couleurs (qui est aussi un truc super complexe avec certains sujets où on doit se tordre le cerveau pour essayer de comprendre et visualiser certains trucs... enfin je vais pas t'apprendre ce qu'est un sujet difficile! Toi tu fais des maths à un niveau où j'essaie même pas!) et vont donc venir argumenter sans se poser la moindre question avec un contributeur hyper calé sur le sujet et qui étudie, recherche et expérimente au quotidien les théories relatives aux couleurs depuis 30 ans! Ces gens vont parfois soutenir mordicus des trucs faux, qu'on connaît par cœur, sur un sujet dont ils ne comprennent pas le début du commencement, parce que "ChatGPT me l'a dit".
Enfin voilà. Pour nous, c'est assez simple, puisqu'on a une politique stricte de refus de toutes contributions générées par ces systèmes de genAI. Que ce soit du code, comme du texte, des images ou autre chose, d'ailleurs! Donc dès qu'on a une telle contribution, maintenant on ne réfléchit même pas. On explique (calmement et poliment, mais succinctement, sans perdre plus de temps) que les contributions genAI ne sont pas acceptées, mais que s'ils veulent reproposer un patch qu'ils ont fait eux-même, avec leurs petites mimines et leurs propres méninges, on se fera un plaisir d'en faire la revue (spoiler: ça arrive presque jamais! Les gens qui font ce type de "contributions" semblent pour la plupart avoir abandonné l'usage de leur cerveau depuis longtemps et ne veulent plus que des contributions faciles pour remplir leur CV).
Ajoute à cela qu'on n'est pas sur Github, source de tant de maux, on a donc finalement relativement peu de contributions de paresseux qui font du copier-coller de LLMs (on en a quand même régulièrement — ne rêvons pas — mais quand je lis l'horreur que vivent les projets sur Github, il est évident qu'on est épargné et que la source principale de ces anti-contributions, c'est Github et son écosystème). Je rejoins donc pulkomandy plus haut quand il enjoint autrui à quitter Github, et aussi quand il conseille de ne pas faire l'erreur d'aller sur la nouvelle forge à la mode à un moment T. Il n'est pas forcément nécessaire de s'auto-héberger, mais rejoindre un groupe de projet avec des atomes crochus marche très bien!
Enfin voilà, perso ma suggestion est de ne pas tomber dans la facilité des LLMs qui sont simplement médiocres. Les utiliser toi-même (même, et surtout, sur des sujets autres qui ne sont pas ta spécialité! On lit trop souvent des argumentaires "c'est mauvais dans ma zone d'expertise mais j'utilise là où j'y connais rien" au sujet des LLMs, ce qui est un bel exemple d'œillères intellectuelles qu'on s'applique; tout en validant une technologie nocive, créant ainsi des problèmes pour les autres de cette zone d'expertise), tu as déjà fait le premier pas vers la facilité, et c'est vraiment dommage étant donné ton niveau d'implication, mais aussi ton niveau technique. Et puis c'est donner raison à leurs créateurs malgré tous les problèmes connus de ces technologies (qu'on ne va pas re-lister ici!).
À mes yeux, ton œuvre est très belle, et elle a bien plus de valeur sans jamais utiliser de LLMs. Il y a des manques ou des questionnements sur certains sujets ou théorèmes? Et alors! C'est pas comme si tu allais révolutionner les maths (et sûrement pas comme si le moindre LLM avait cette capacité d'ailleurs), et ce n'est pas ton objectif, il me semble. Tu fais clairement de la qualité, et c'est ça qui importe. L'imperfection et les erreurs (humaines) font partie du chemin.
Et une fois que tu auras décidé cela pour toi, il sera aussi très simple de couper court à ce genre de discussions que tu nous montres, et de leur dire juste "Les preuves données par de la genAI ne sont pas acceptées". Parce que perdre ton temps à argumenter avec ces faux contributeurs, c'est juste nul. Tu le dis toi-même dans tes commentaires: ce gars a passé 30 secondes selon ses dires, mais pour toi, ce serait un mois de travail (pour peut-être en arriver à la conclusion que ce n'est pas utilisable). Cela en vaut-il vraiment le coup? Coupe court et ne perd plus ton temps (ni ta patience et ta passion; car ce genre de contributeurs, ce sont des tueurs de passion).
Bon on pourra me rétorquer que je fais la même chose avec toi, à essayer d'argumenter alors que tu as clairement déjà décidé d'utiliser des LLMs de ton côté. Pour mon excuse, c'est que j'ai l'infime espoir de pouvoir te faire un peu réfléchir sur cette technologie car il est évident que tu réfléchis clairement plus que l'usager moyen de LLMs. Et aussi comme je disais, j'avais été extrêmement déçu de lire ton passage à la genAI car je tenais ton œuvre en grand respect. Donc bon... qui sait... peut-être y réfléchiras-tu un peu plus et changeras d'avis?... 😅
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]