Non. Ce que je viens de démontrer, c'est surtout que tu parles de tout autre chose. Je parle d'une vraie évolution, de personnes qui passent de "petits débutants sans assurance" à "développeur qui réfléchit et set met à comprendre ce qui importe pour du code de qualité, devient aussi autonome et a une voix technique réelle" dans un intervalle de quelques mois, voire quelques semaines pour les plus doués.
Toi tu me parles de logiciels qui passent de "produisent du code "au hasard" (statistique) sans rien comprendre à ce qu'ils font, ni au logiciel cible, et utilisent des ressources (fonctions, etc.) qui n'existent pas", y a un an, à "maintenant le logiciel itère aléatoirement jusqu'à ce que ça compile... mais bon c'est toujours du code aléatoire et toujours sans rien y comprendre".
Si tu vois pas la différence...
Il y a passé deux nuits à envoyer des prompts et regarder le truc apparaître devant ses yeux, je trouve cool qu'il ait pu faire ça sans rien connaître au code.
Ton exemple est sympa. Mais on sait bien, autant l'un que l'autre, que ce n'est pas l'usage mis en avant par ces entreprises, que ce n'est pas le futur dont ils rêvent et qu'ils construisent. D'ailleurs quand les IAs sortiront de la bulle et que les prix seront au réel, ce genre d'usage n'existera probablement plus.
Ce genre d'exemple est anecdotique mais c'est toujours les exemples qu'on va te sortir car ça donne l'impression que c'est une technologie bonne pour l'évolution humaine, qui "libère" les gens de la technique (comme si c'était une bonne chose de les libérer entièrement de la technique, et par là de la connaissance et des compétences), que d'ailleurs ça va même aider "les vrais développeursTM" avec à la fin de l'histoire, le gars qui se met en recherche de développeurs pour aller plus loin, etc.
Dans la réalité, on sait que ce n'est pas ça qu'ils promeuvent (lire ce post en lien ainsi que de manière générale tous les posts et articles sur le sujet — que ce soit en positif ou négatif d'ailleurs). L'IA sert pour le produit fini, ils te sortent que ça remplace même les dévs juniors (on n'a pas les mêmes juniors 🙄) en beaucoup moins cher, sans se rendre compte en plus que ça se mord la queue (bientôt l'apprentissage se fera sur tout le code généré de merde). On se croirait dans le monde pré-Idiocracy.
Moi ce que j'ai vu dans la réalité, c'est donc des gens qui nous envoie du code nul fait par IA, qui ne marche même pas et qui ne peut absolument pas être intégré (même avec des développeurs qui essaieraient de regarder pour corriger/améliorer ensuite; la base et le concept du code sont juste inutilisables), puis ensuite qui nous insultent quand on ne l'intègre pas car ils auraient plus fait avancer le logiciel en un patch que nous en des dizaines d'années d'après eux (oui, ça sent le vécu, mais c'est parce que ça l'est; on a eu un "contributeur" comme ça y a pas longtemps et il a vraiment sorti ce type d'insultes à la fin).
J'ai aussi vu un voisin qui m'envoie les musiques qu'il a "composées" par IA. Et je peux t'assurer qu'il ne cherche pas des musiciens pour aller plus loin.
Quant à la génération d'images et les gens qui prétendent que ça va remplacer les vrais dessinateurs/peintres (et ils commencent déjà, les illustrations IA pullulent de nos jours dans les milieux pros), n'en parlons même pas. Quand vous avez vu de vrais artistes travailler, vous savez que ce que vous payez, ce n'est pas juste des pixels qui font jolis. L'art (que ce soit musique, ou graphique, ou textuelle, ou autre d'ailleurs), ce n'est pas juste un résultat. C'est tout ce qu'il y a derrière qu'on paie. Le travail, la technicité, les années d'entraînement, les heures ou semaines passés dessus déjà. Quand un artiste fait des lignes à main levée, si on trouve cela extraordinaire, c'est pas pour la ligne elle-même. C'est pour tout ce qu'il y a derrière, tout ce que ça implique. Sinon on pourrait juste se contenter de prendre une règle et un compas. Ou bien encore plus simple: imprimer en vectoriel. C'est techniquement exceptionnel. Quand vous avez vu un peintre s'entraîner à faire des lignes, des courbes, encore et encore, et encore, pendant des heures, des jours, vous comprendrez. De même que si vous avez entendu un musicien s'entraîner (ou si vous même êtes musicien, même amateur, vous savez cela), pour gagner en dextérité, mais aussi en finesse, travailler son son... Tout cela, c'est l'humain qui se surpasse. C'est magnifique.
Et puis il y a le sens de l'œuvre, la réflexion portée sur chaque petit détail. Quand l'artiste me dit "tu vois là ce petit objet caché dans un coin de l'œuvre, je l'ai mis pour cette raison" et soudainement t'as le cerveau qui fait boum 🤯, tu vois l'œuvre différemment. Tu te rends compte comment un artiste met son âme dans son art, il y a réfléchi, il peut te dire si c'est le matin ou l'après-midi, à quel endroit on est, si le soleil se lève ou se couche... Et à côté de ça, t'as ceux qui sortent une image en pose impossible à la "super-héros hollywoodien", tu te rends compte qu'y a 6 doigts à une main et que le coude est à l'envers, et qu'y a en fait rien à dire sur cette "œuvre". Et là on ose te dire "c'est la même chose, on remplace les artistes!" 🤦♂️
En fait, cette bulle est court-termiste à un point que cela me sidère quand les gens font fi de cela. C'est vraiment court-termiste à tous les niveaux:
écologiquement (mais bon ça les gens nous ont habitués à s'en foutre);
qualitativement et techniquement (la mauvaise qualité technique se paie toujours à un moment ou l'autre);
socialement (si vraiment ces "entrepreneurs" réussissent leur coup — ce que je ne crois pas — et que nos sociétés se mettaient réellement à considérer ces divers métiers comme redondants... alors qu'ils sont en réalité nécessaires comme base de ces technologies, on arriverait à une sorte d'incohérence sociale avec des métiers nécessaires mais qui auraient été tués par la technologie même qui les requièrent);
en perte de compétences (si les gens ne pratiquent plus et qu'on se met réellement à considérer ces IAs comme la norme qualitative du logiciel, texte, dessin, etc. je donne pas cher de nos futures générations);
en business model (on le sait, ils ont besoin de plus de financement qu'aucun autre projet numérique jusqu'alors et les prix réels des IAs seront exorbitants à terme; mais bon ça c'est l'effet "startup à l'américaine" et ils ont toujours été dans un modèle "succès immédiat ou crève, et réfléchis pas trop avant" — c'est un peu une variante du "sur un malentendu, ça peut marcher");
pour la survie de la technologie elle-même (elle aura besoin de plus d'œuvres pour aller plus loin sauf qu'elle noie les données d'entrée avec ses propres œuvres générées en sortie);
...
Le truc est une bulle qui ne peut soit qu'exploser ou bien finir en Idiocracy. C'en est ridicule à un point... Ou alors tout le monde est court-termiste car ils s'en foutent complètement de l'avenir, qu'ils sont de toutes façons en train de démolir pour ne laisser que des gravats aux générations futures (et ça c'est pas qu'avec l'IA, loin de là!).
Maintenant ça ne règle pas les problèmes environnementaux, je ne sais pas si on pourra faire mieux.
Ce que j'essayais de dire, c'est: n'est-ce pas suffisant en soi pour tout arrêter justement? Oublie mes longues tirades (avec lesquelles tu n'es clairement pas d'accord). Tu es d'accord pour dire que c'est un problème impardonnable. Alors pourquoi même aller plus loin?
Mais lui parler de ça ça serait l'équivalent de lui faire remarquer que son smartphone est fait avec le sang des congolais des mines de coltan. Je passerais juste pour un chieur devant un gars content d'avoir produit quelque chose.
Personne ne demande de faire ça. Tu crois que je m'amuse à faire chier les gens sur l'IA dès qu'on m'en parle (ou pire, si on m'en parle pas)? 😅 En général, je dis rien, et me contente de hocher la tête. À part si on me demande explicitement mon avis (et en outre si c'est quelqu'un que je connais un peu ou je sens que c'est quelqu'un qui pourrait accepter la discussion), auquel cas, je pourrais commencer à donner plus de pointeurs aux gens...
Ici on est sur un forum où on discute autour d'un lien précisément sur ce sujet. Alors bien sûr j'en parle. Et encore... même ici, j'essaie de me retenir (je fais pas de commentaire sur chaque lien au sujet de l'IA; on n'en finirait plus!).
Néanmoins ce que tu dis là soulève un autre vrai problème additionnel vraiment important de ces technologies: c'est dur d'expliquer aux gens car ils sont totalement trompés par la fausse facilité apparente du truc. Ils croient que c'est un boulot facile "regarde, moi aussi je peux le faire en super rapide" sans voir l'énorme différence entre l'horreur qu'ils ont produite (qui est une bombe à retardement si on tente de mettre en production) et l'œuvre de qualité que pourrait produire un bon développeur (en 100 fois plus de temps mais c'est un véritable investissement sur le long terme).
Tu le dis d'ailleurs:
il cherche maintenant des devs pour combler les trous
Sauf que, côté code au moins, il n'y a pas de "trous à combler". Il y a tout à refaire de zéro, en bien, avec des bases solides et les choix techniques faits par le développeur (qu'importe ces choix). Si quelqu'un pense qu'on peut partir du code produit par ces LLMs sans qu'il n'y ait un prix à payer tôt ou tard, alors ils se mettent le doigt dans l'œil. Et ça c'est très dur à expliquer, surtout quand on voit que maintenant même des professionnels s'y mettent (souvent avant d'y revenir, comme on a vu avec de nombreuses publications ces derniers temps de gens réalisant à quel point ce fut une erreur).
C'est pareil pour ton entrepreneur du BTP. S'il me sort ce genre de démo, possiblement en espérant éveiller mon intérêt de développeur, je sourirais et hocherais la tête mais absolument pas je ne lui proposerais de travailler sur ce projet. Bon éventuellement je pourrais lui dire qu'il faudrait tout refaire de zéro, que ça prendrait possiblement des mois, et voir sa réaction. Mais si ça semble lui poser un problème alors je ne voudrais pas même essayer un pas dedans car je sais que je m'embourberais dans les problèmes relationnels. S'il n'a pas compris la valeur du travail du développeur ni que ce qui fait la qualité du programme, c'est pas juste une UI-démo mais tout le travail pour arriver à un bon logiciel. De même que si je faisais construire une maison, j'emboîterais pas quelques placos ensemble qui auraient la forme d'une maison (mais essayez pas de marcher dedans! Ça s'effondrerait!) pour ensuite demander à son entreprise de BTP s'il peut partir de mon travail, histoire de gagner du temps et de l'argent. 🤣
Donc oui c'est effectivement dur d'expliquer cela aux gens, et moi-même ne le fais pas. Il ne faut pas croire que je suis un geek chieur qui explique aux gens à tout va qu'il faut utiliser du logiciel libre ou que l'IA c'est nul. La plupart des gens autour de moi savent à peine ce que je fais.
Et ce type de services/projets rendent justement cela d'autant plus dur à expliquer notre travail aux gens. Ils créent une illusion de nos travails (œuvres logicielles, graphiques, musicales, textuelles...) et cela pourrit d'autant plus la relation avec ceux avec qui on pourrait travailler. Maintenant on peut encore moins leur expliquer ce qu'on fait (j'en reviens au gars qui dans un rapport de bug nous envoie un patch inutilisable et qui au passage nous explique qu'il fait mieux que nous en beaucoup plus vite grâce à l'IA).
Et donc t'as raison, on ne va pas lui parler de cela au final car on sait qu'on aura l'air soit d'un chieur soit d'un incompétent qui s'est pas encore mis à l'IA. Et c'est bien dommage pour lui plus que pour nous car ça veut dire que cette personne ne pourra jamais avoir son logiciel dans une version réellement utilisable au final. Ça restera à jamais une démo qu'il montrera à ses clients ou à ses proches et tout le monde dira "ouaaaah! Trop cool! L'IA c'est vraiment bien, ça nous permet des trucs impossibles avant!", il aura son moment de fierté puis ça en restera là. Ou pire: peut-être qu'il trouvera un "dév" qui sera OK pour incrémenter sur son code généré, et qui lui-même utilisera des LLMs pour coder. Et ça fera du code nul sur du code nul. Et le mec va dépenser des sous (en se disant qu'il a économisé avec son premier jet!). Il se retrouvera avec un logiciel... avec quelques fonctionnalités mais inmaintenable, plein de bugs, qui perdra ses données...
Je suis pas sûr qu'il y aura gagné avec le fait qu'il soit dans une situation où personne n'ose lui dire que son truc, c'est de la merde, car on veut pas passer pour des chieurs ni s'embourber dans un projet pourri d'avance. Au final, il aurait mieux fait de faire juste quelques schéma et expliquer son projet à un vrai dév qui fera un vrai travail d'architecture logicielle, de design, et de vrais choix techniques. Non?
Enfin bon, je pense que je vais d'ailleurs me retenir pour faire une autre réponse (quel que soit la tienne)... je sais juste pas écrire court et ça me prend trop de temps à chaque fois! 😛
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
[^] # Re: Cet article est une ode à la médiocrité
Posté par Jehan (site web personnel, Mastodon) . En réponse au lien My AI Skeptic Friends Are All Nuts. Évalué à 8.
Non. Ce que je viens de démontrer, c'est surtout que tu parles de tout autre chose. Je parle d'une vraie évolution, de personnes qui passent de "petits débutants sans assurance" à "développeur qui réfléchit et set met à comprendre ce qui importe pour du code de qualité, devient aussi autonome et a une voix technique réelle" dans un intervalle de quelques mois, voire quelques semaines pour les plus doués.
Toi tu me parles de logiciels qui passent de "produisent du code "au hasard" (statistique) sans rien comprendre à ce qu'ils font, ni au logiciel cible, et utilisent des ressources (fonctions, etc.) qui n'existent pas", y a un an, à "maintenant le logiciel itère aléatoirement jusqu'à ce que ça compile... mais bon c'est toujours du code aléatoire et toujours sans rien y comprendre".
Si tu vois pas la différence...
Ton exemple est sympa. Mais on sait bien, autant l'un que l'autre, que ce n'est pas l'usage mis en avant par ces entreprises, que ce n'est pas le futur dont ils rêvent et qu'ils construisent. D'ailleurs quand les IAs sortiront de la bulle et que les prix seront au réel, ce genre d'usage n'existera probablement plus.
Ce genre d'exemple est anecdotique mais c'est toujours les exemples qu'on va te sortir car ça donne l'impression que c'est une technologie bonne pour l'évolution humaine, qui "libère" les gens de la technique (comme si c'était une bonne chose de les libérer entièrement de la technique, et par là de la connaissance et des compétences), que d'ailleurs ça va même aider "les vrais développeursTM" avec à la fin de l'histoire, le gars qui se met en recherche de développeurs pour aller plus loin, etc.
Dans la réalité, on sait que ce n'est pas ça qu'ils promeuvent (lire ce post en lien ainsi que de manière générale tous les posts et articles sur le sujet — que ce soit en positif ou négatif d'ailleurs). L'IA sert pour le produit fini, ils te sortent que ça remplace même les dévs juniors (on n'a pas les mêmes juniors 🙄) en beaucoup moins cher, sans se rendre compte en plus que ça se mord la queue (bientôt l'apprentissage se fera sur tout le code généré de merde). On se croirait dans le monde pré-Idiocracy.
Moi ce que j'ai vu dans la réalité, c'est donc des gens qui nous envoie du code nul fait par IA, qui ne marche même pas et qui ne peut absolument pas être intégré (même avec des développeurs qui essaieraient de regarder pour corriger/améliorer ensuite; la base et le concept du code sont juste inutilisables), puis ensuite qui nous insultent quand on ne l'intègre pas car ils auraient plus fait avancer le logiciel en un patch que nous en des dizaines d'années d'après eux (oui, ça sent le vécu, mais c'est parce que ça l'est; on a eu un "contributeur" comme ça y a pas longtemps et il a vraiment sorti ce type d'insultes à la fin).
J'ai aussi vu un voisin qui m'envoie les musiques qu'il a "composées" par IA. Et je peux t'assurer qu'il ne cherche pas des musiciens pour aller plus loin.
Quant à la génération d'images et les gens qui prétendent que ça va remplacer les vrais dessinateurs/peintres (et ils commencent déjà, les illustrations IA pullulent de nos jours dans les milieux pros), n'en parlons même pas. Quand vous avez vu de vrais artistes travailler, vous savez que ce que vous payez, ce n'est pas juste des pixels qui font jolis. L'art (que ce soit musique, ou graphique, ou textuelle, ou autre d'ailleurs), ce n'est pas juste un résultat. C'est tout ce qu'il y a derrière qu'on paie. Le travail, la technicité, les années d'entraînement, les heures ou semaines passés dessus déjà. Quand un artiste fait des lignes à main levée, si on trouve cela extraordinaire, c'est pas pour la ligne elle-même. C'est pour tout ce qu'il y a derrière, tout ce que ça implique. Sinon on pourrait juste se contenter de prendre une règle et un compas. Ou bien encore plus simple: imprimer en vectoriel. C'est techniquement exceptionnel. Quand vous avez vu un peintre s'entraîner à faire des lignes, des courbes, encore et encore, et encore, pendant des heures, des jours, vous comprendrez. De même que si vous avez entendu un musicien s'entraîner (ou si vous même êtes musicien, même amateur, vous savez cela), pour gagner en dextérité, mais aussi en finesse, travailler son son... Tout cela, c'est l'humain qui se surpasse. C'est magnifique.
Et puis il y a le sens de l'œuvre, la réflexion portée sur chaque petit détail. Quand l'artiste me dit "tu vois là ce petit objet caché dans un coin de l'œuvre, je l'ai mis pour cette raison" et soudainement t'as le cerveau qui fait boum 🤯, tu vois l'œuvre différemment. Tu te rends compte comment un artiste met son âme dans son art, il y a réfléchi, il peut te dire si c'est le matin ou l'après-midi, à quel endroit on est, si le soleil se lève ou se couche... Et à côté de ça, t'as ceux qui sortent une image en pose impossible à la "super-héros hollywoodien", tu te rends compte qu'y a 6 doigts à une main et que le coude est à l'envers, et qu'y a en fait rien à dire sur cette "œuvre". Et là on ose te dire "c'est la même chose, on remplace les artistes!" 🤦♂️
En fait, cette bulle est court-termiste à un point que cela me sidère quand les gens font fi de cela. C'est vraiment court-termiste à tous les niveaux:
Le truc est une bulle qui ne peut soit qu'exploser ou bien finir en Idiocracy. C'en est ridicule à un point... Ou alors tout le monde est court-termiste car ils s'en foutent complètement de l'avenir, qu'ils sont de toutes façons en train de démolir pour ne laisser que des gravats aux générations futures (et ça c'est pas qu'avec l'IA, loin de là!).
Ce que j'essayais de dire, c'est: n'est-ce pas suffisant en soi pour tout arrêter justement? Oublie mes longues tirades (avec lesquelles tu n'es clairement pas d'accord). Tu es d'accord pour dire que c'est un problème impardonnable. Alors pourquoi même aller plus loin?
Personne ne demande de faire ça. Tu crois que je m'amuse à faire chier les gens sur l'IA dès qu'on m'en parle (ou pire, si on m'en parle pas)? 😅 En général, je dis rien, et me contente de hocher la tête. À part si on me demande explicitement mon avis (et en outre si c'est quelqu'un que je connais un peu ou je sens que c'est quelqu'un qui pourrait accepter la discussion), auquel cas, je pourrais commencer à donner plus de pointeurs aux gens...
Ici on est sur un forum où on discute autour d'un lien précisément sur ce sujet. Alors bien sûr j'en parle. Et encore... même ici, j'essaie de me retenir (je fais pas de commentaire sur chaque lien au sujet de l'IA; on n'en finirait plus!).
Néanmoins ce que tu dis là soulève un autre vrai problème additionnel vraiment important de ces technologies: c'est dur d'expliquer aux gens car ils sont totalement trompés par la fausse facilité apparente du truc. Ils croient que c'est un boulot facile "regarde, moi aussi je peux le faire en super rapide" sans voir l'énorme différence entre l'horreur qu'ils ont produite (qui est une bombe à retardement si on tente de mettre en production) et l'œuvre de qualité que pourrait produire un bon développeur (en 100 fois plus de temps mais c'est un véritable investissement sur le long terme).
Tu le dis d'ailleurs:
Sauf que, côté code au moins, il n'y a pas de "trous à combler". Il y a tout à refaire de zéro, en bien, avec des bases solides et les choix techniques faits par le développeur (qu'importe ces choix). Si quelqu'un pense qu'on peut partir du code produit par ces LLMs sans qu'il n'y ait un prix à payer tôt ou tard, alors ils se mettent le doigt dans l'œil. Et ça c'est très dur à expliquer, surtout quand on voit que maintenant même des professionnels s'y mettent (souvent avant d'y revenir, comme on a vu avec de nombreuses publications ces derniers temps de gens réalisant à quel point ce fut une erreur).
C'est pareil pour ton entrepreneur du BTP. S'il me sort ce genre de démo, possiblement en espérant éveiller mon intérêt de développeur, je sourirais et hocherais la tête mais absolument pas je ne lui proposerais de travailler sur ce projet. Bon éventuellement je pourrais lui dire qu'il faudrait tout refaire de zéro, que ça prendrait possiblement des mois, et voir sa réaction. Mais si ça semble lui poser un problème alors je ne voudrais pas même essayer un pas dedans car je sais que je m'embourberais dans les problèmes relationnels. S'il n'a pas compris la valeur du travail du développeur ni que ce qui fait la qualité du programme, c'est pas juste une UI-démo mais tout le travail pour arriver à un bon logiciel. De même que si je faisais construire une maison, j'emboîterais pas quelques placos ensemble qui auraient la forme d'une maison (mais essayez pas de marcher dedans! Ça s'effondrerait!) pour ensuite demander à son entreprise de BTP s'il peut partir de mon travail, histoire de gagner du temps et de l'argent. 🤣
Donc oui c'est effectivement dur d'expliquer cela aux gens, et moi-même ne le fais pas. Il ne faut pas croire que je suis un geek chieur qui explique aux gens à tout va qu'il faut utiliser du logiciel libre ou que l'IA c'est nul. La plupart des gens autour de moi savent à peine ce que je fais.
Et ce type de services/projets rendent justement cela d'autant plus dur à expliquer notre travail aux gens. Ils créent une illusion de nos travails (œuvres logicielles, graphiques, musicales, textuelles...) et cela pourrit d'autant plus la relation avec ceux avec qui on pourrait travailler. Maintenant on peut encore moins leur expliquer ce qu'on fait (j'en reviens au gars qui dans un rapport de bug nous envoie un patch inutilisable et qui au passage nous explique qu'il fait mieux que nous en beaucoup plus vite grâce à l'IA).
Et donc t'as raison, on ne va pas lui parler de cela au final car on sait qu'on aura l'air soit d'un chieur soit d'un incompétent qui s'est pas encore mis à l'IA. Et c'est bien dommage pour lui plus que pour nous car ça veut dire que cette personne ne pourra jamais avoir son logiciel dans une version réellement utilisable au final. Ça restera à jamais une démo qu'il montrera à ses clients ou à ses proches et tout le monde dira "ouaaaah! Trop cool! L'IA c'est vraiment bien, ça nous permet des trucs impossibles avant!", il aura son moment de fierté puis ça en restera là. Ou pire: peut-être qu'il trouvera un "dév" qui sera OK pour incrémenter sur son code généré, et qui lui-même utilisera des LLMs pour coder. Et ça fera du code nul sur du code nul. Et le mec va dépenser des sous (en se disant qu'il a économisé avec son premier jet!). Il se retrouvera avec un logiciel... avec quelques fonctionnalités mais inmaintenable, plein de bugs, qui perdra ses données...
Je suis pas sûr qu'il y aura gagné avec le fait qu'il soit dans une situation où personne n'ose lui dire que son truc, c'est de la merde, car on veut pas passer pour des chieurs ni s'embourber dans un projet pourri d'avance. Au final, il aurait mieux fait de faire juste quelques schéma et expliquer son projet à un vrai dév qui fera un vrai travail d'architecture logicielle, de design, et de vrais choix techniques. Non?
Enfin bon, je pense que je vais d'ailleurs me retenir pour faire une autre réponse (quel que soit la tienne)... je sais juste pas écrire court et ça me prend trop de temps à chaque fois! 😛
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]