Le problème, c'est de ne pas voir le problème. En fait, si tout le monde comprenait vraiment ce qui se passait et agissait en conséquence, alors ce serait beaucoup plus acceptable parce qu'on serait capable d'utiliser ces technologies sans tomber dans les pièges de délitement social.
Ces IAs ne sont rien d'autre que les versions avancées des logiciels de clip-art (sauf qu'à l'époque, on payait les designers de ces clip-arts, donc c'était un business-model sain). Ici on crée des trucs de qualité merdique, qui en fait pioche massivement dans les œuvres de millions d'artistes (mais en ressortent des trucs de type "mashup" de qualité sub-optimale). Et les gens s'habituent à cela et semblent considérer que c'est tout à fait utilisable, parce qu'en fait ils veulent faire des économies et ne savent pas dessiner eux-même. Donc on est à la fois dans une course à la médiocrité qualitative et dans un problème social où il y a perte de considération des auteurs originelle des œuvres, ce qui est totalement absurde et irrationnel (et pourtant c'est ce qui se passe). Tout cela en nourrissant une startup qui se nourrit de ces problèmes et qui pourra devenir suffisamment grosse pour ensuite être une partie significative des maux de nos société.
Notamment cela est vrai aussi bien pour les œuvres graphiques (Stable Diffusion, Dall-E et consort) que les textes littéraires (ChatGPT...) ou le code (Copilot...).
Quand je lis plus bas des trucs comme:
Il y a 1 an on ne s'attendait pas à pouvoir se faire expliquer du code
Sérieusement, si quiconque se sert de ChatGPT pour se faire expliquer du code, vous courez droit au mur. ChatGPT ne comprend pas le code. Il arrive juste à produire du texte qui a l'air d'être raisonnable mais sans aucune garantie d'être juste. Il faut que les gens comprennent ça et arrêtent d'écouter ce bot comme une sorte de prophète qui comprend tout! Sur ChatGPT, y avait ce lien sur LinuxFr, y a quelques jours, avec des exemples du bot qui répond mal à des calculs mathématiques niveau primaire. Et on veut lui faire expliquer du code complexe?
Puis:
ou rédiger un article (insipide mais ce n'est pas la question) par un chatbot.
Ben si, c'est exactement la question! C'est une course à la médiocrité et les gens se mettent à utiliser cela massivement dans des vrais usages de tous les jours de nos sociétés. On répand donc de la médiocrité tout en évinçant les humains, souvent sous prétextes que ceux évincés sont justement des humains qui produisent déjà du "contenu" médiocre, ce qu'on va alors argumenter comme étant leur faute qu'ils se font remplacer par une IA s'ils sont même pas capable de faire aussi bien. Mais justement en faisant cela, on ne leur laisse pas le temps d'apprendre et d'évoluer (ce que l'IA ne fera pas réellement; moi je l'attend encore l'IA qui peut développer un logiciel comme je le fais et comme tous les développeurs autour de moi, même certains débutants doués, le font). C'est juste effrayant. Et ce n'est pas ma vision de la société idéale.
Dans le monde du code, c'est déjà pas jouasse quand on voit la qualité du code industriel dans la nature, parce que désormais de plus en plus dirigée par des règles essentiellement économiques. Avec les "aides IA", ça ne fait qu'empirer. Voir par exemple cet autre lien passé sur Linuxfr qui était un autre article de recherche sur la qualité du code décroissant avec l'usage de l'IA (et les compétences des développeurs aussi, puisque ceux qui utilisent croient faire de la qualité mais en fait font pire — cf. le papier de recherche — ce qui me paraît évident si on se repose sur un système médiocre pour comprendre, lire et écrire du code plutôt que faire marcher et travailler son cerveau pour apprendre et évoluer; mon niveau maintenant est bien meilleur qu'il y a 10 ans, mais cela n'aurait pas été le cas si j'avais laissé des IAs coder pour moi).
Pour moi, il y a de véritables problèmes sociaux sur le fait de se reposer ainsi sur des machines pour créer (un peu tout). En fait, je pense depuis au moins une décennie déjà qu'il y a de gros problèmes de notre société qui se repose de plus en plus sur l'informatique et la technologie, souvent de manière totalement absurde et kafkaïenne puisqu'on en vient à complexifier inutilement énormément de processus humains sous prétexte de les "simplifier" officiellement. Ce phénomène a même un nom, on appelle cela le "Solutionnisme technologique". Je pense que la technologie peut être très utile (je suis développeur! C'est bien parce que je crois en ce que je fais), mais dans énormément de cas dans laquelle on l'utilise de nos jours, elle devient au contraire contre-productive.
En plus, très souvent, cela amène de nouveaux problèmes sociaux encore, comme des formes de précarité, par exemple ici on voit bien que le but de toutes ces technologies est de progressivement faire considérer les auteurs de graphisme/texte/code comme des métiers inférieurs et donc à moins payer. Sauf que — et c'est là où c'est kafkaïen — ces systèmes technologiques reposent lourdement sur les œuvres de ces mêmes auteurs. Aucune de ces IAs ne peuvent rien être sans ces auteurs à la base, mais on utilise leurs œuvres, sans les payer ni même les considérer positivement, pour les rendre inutile (en apparence). Comment un cycle pourrait-il être plus vicieux?
Je suis sûr qu'on pourra lire des gens dire que si un métier n'est plus pertinent (comme les allumeurs de bougies, souvent cités, disparus avec l'électricité!), c'est normal qu'il disparaisse. Sauf que là ce n'est pas du tout le cas. On aura toujours besoin de graphistes, illustrateurs, développeurs, écrivains et chroniqueurs... Mais on essaie de faire croire artificiellement à une forme d'inutilité.
En fait si on veut rapprocher cela de phénomènes sociaux récents, c'est plus proche de l'ubérisation. Plutôt que d'admettre l'utilité des chauffeurs de taxi, des livreurs, etc. on rabaisse leur niveau social en les forçant dans des situations professionnelles difficilement tenables, précaires et sous-payées. Il y a de nombreux pays où des procès se font (et se gagnent) autour de ce problème mais cela avance trop lentement, notamment à cause de certains pays qui veulent tout miser sur les "startups" et autres "licornes" (en France, ils sont à fond "startup nation", soutenus à fond par les pouvoirs politiques, et on en arrive à ce type d'absurdité où on tue notre recherche publique pour des chiffres et des visions économiques super court-termiste) et donc seront de leurs côté (voir notamment le cas des "Uber files"). Les problèmes du système éducatif moderne en sont un autre bon exemple (et l'école 42 — c'est marrant tiens y a aussi eu un lien dessus sur linuxfr y a quelques jours — est aussi un très bon exemple du problème; le fait que ce type d'enseignement puisse exister légalement m'a toujours sidéré; d'ailleurs encore une fois sur le sujet du soutien des pouvoirs publics, y a même au moins une visite d'un président et je me souviens de cette photo qui avait fait scandale où le président marche tranquillement au milieu de matelas au sol avec des étudiants dormant en sac de couchage; comment nos administrations peuvent-elle soutenir ce genre d'évolution sociale de l'enseignement?).
Ben là tout ça c'est pareil. C'est dans la même veine et c'est la claire direction annoncée par ceux qui créent ces systèmes. Et ne pas le voir est donc le problème. Le pire, c'est que quand on voit les gens qui s'extasient, on sait que ça va marcher. Comme Uber a marché (malgré les nombreux problèmes sociaux créés, les gens en sont encore à te répondre "mais c'est moins cher!" ce qui non seulement est une réponse terrible socialement, mais en plus est super court-termiste encore une fois, même économiquement, puisque si Uber va là où il espère aller, au final on sait que ce sera plus cher, puisqu'ils fixent des tarifs à perte à l'heure actuelle pour tuer la concurrence), de même que les plateformes vidéos de nos jours, de même que les plateforme de livraisons, de même qu'Amazon avant tous ceux-là, etc. Toutes ces entreprises sont arrivées avec des systèmes innovants mais basés sur l'exploitation d'autrui, et à chaque fois les gens tombent dedans parce qu'"ils ne voient pas le problème" (de leur point de vue, y en a pas, c'est juste mieux: moins cher, plus rapide, plus simple car centralisé, etc.).
« Quand les nazis sont venus chercher les communistes, je n’ai rien dit, je n’étais pas communiste.
Quand ils ont enfermé les sociaux-démocrates, je n’ai rien dit, je n’étais pas social-démocrate.
Quand ils sont venus chercher les syndicalistes, je n’ai rien dit, je n’étais pas syndicaliste.
Quand ils sont venus me chercher, il ne restait plus personne pour protester. »
C'est juste une tendance générale de notre société où je vois qu'on s'exploite de plus en plus les uns et les autres (par l'intermédiaire de "startups") et personne n'y voit aucun problème. Et oui, le problème, c'est vraiment de ne pas le voir.
Et c'est super frustrant quand on voit clairement que c'est encore un énième de ces cas qu'on a vu des dizaines de fois dans les 2 décennies passés, qui va encore se reproduire et tout le monde saute dedans à pieds joints. Et dans quelques années, on aura encore des "affaires" et autres scandales dans les journaux, et tout le monde en parlera, y aura peut-être même des amendes, mais ces entreprises continueront à s'enrichir tranquillement et les gens à utiliser leurs systèmes (les mêmes gens qui s'indigneront en lisant les dits articles).
De faire sortir mon imagination sur l'écran est pour moi le plus important, même si cela viole un peux le droit d'auteur (je ne publie pas).
Notons que pour moi le droit d'auteur est même un problème secondaire, même si c'est souvent celui que je vais avancer en premier parce que c'est en général l'un des rares trucs qui font bouger les choses (notamment parce que c'est la loi!).
Ensuite "violer un peu le droit d'auteur", si pour toi, ça te va, ben déjà y a une partie du problème. Encore une fois, c'est le "Quand ils sont venus chercher...": les gens sont d'accord pour aller à l'encontre de la loi tant qu'ils ne sont pas victimes. Le jour où ce sera soi-même, on poussera des cris d'orfraie.
J'ai l'impression de créer (je ne sais pas dessiner et cela me frustre).
Perso y a plein de trucs que je sais pas faire, et quand je veux/peux pas le faire moi-même, j'engage effectivement quelqu'un. Moi aussi ça me frustre de ne pas savoir faire plein de trucs, mais je n'en viens pas à des logiques d'exploitation pour autant, juste parce que ça va dans mon sens.
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images...
Posté par Jehan (site web personnel, Mastodon) . En réponse au lien "Extracting Training Data from Diffusion Models" - Stable Diffusion (et autres "AI") et copyright. Évalué à 10. Dernière modification le 01 février 2023 à 19:49.
Le problème, c'est de ne pas voir le problème. En fait, si tout le monde comprenait vraiment ce qui se passait et agissait en conséquence, alors ce serait beaucoup plus acceptable parce qu'on serait capable d'utiliser ces technologies sans tomber dans les pièges de délitement social.
Ces IAs ne sont rien d'autre que les versions avancées des logiciels de clip-art (sauf qu'à l'époque, on payait les designers de ces clip-arts, donc c'était un business-model sain). Ici on crée des trucs de qualité merdique, qui en fait pioche massivement dans les œuvres de millions d'artistes (mais en ressortent des trucs de type "mashup" de qualité sub-optimale). Et les gens s'habituent à cela et semblent considérer que c'est tout à fait utilisable, parce qu'en fait ils veulent faire des économies et ne savent pas dessiner eux-même. Donc on est à la fois dans une course à la médiocrité qualitative et dans un problème social où il y a perte de considération des auteurs originelle des œuvres, ce qui est totalement absurde et irrationnel (et pourtant c'est ce qui se passe). Tout cela en nourrissant une startup qui se nourrit de ces problèmes et qui pourra devenir suffisamment grosse pour ensuite être une partie significative des maux de nos société.
Notamment cela est vrai aussi bien pour les œuvres graphiques (Stable Diffusion, Dall-E et consort) que les textes littéraires (ChatGPT...) ou le code (Copilot...).
Quand je lis plus bas des trucs comme:
Sérieusement, si quiconque se sert de ChatGPT pour se faire expliquer du code, vous courez droit au mur. ChatGPT ne comprend pas le code. Il arrive juste à produire du texte qui a l'air d'être raisonnable mais sans aucune garantie d'être juste. Il faut que les gens comprennent ça et arrêtent d'écouter ce bot comme une sorte de prophète qui comprend tout! Sur ChatGPT, y avait ce lien sur LinuxFr, y a quelques jours, avec des exemples du bot qui répond mal à des calculs mathématiques niveau primaire. Et on veut lui faire expliquer du code complexe?
Puis:
Ben si, c'est exactement la question! C'est une course à la médiocrité et les gens se mettent à utiliser cela massivement dans des vrais usages de tous les jours de nos sociétés. On répand donc de la médiocrité tout en évinçant les humains, souvent sous prétextes que ceux évincés sont justement des humains qui produisent déjà du "contenu" médiocre, ce qu'on va alors argumenter comme étant leur faute qu'ils se font remplacer par une IA s'ils sont même pas capable de faire aussi bien. Mais justement en faisant cela, on ne leur laisse pas le temps d'apprendre et d'évoluer (ce que l'IA ne fera pas réellement; moi je l'attend encore l'IA qui peut développer un logiciel comme je le fais et comme tous les développeurs autour de moi, même certains débutants doués, le font). C'est juste effrayant. Et ce n'est pas ma vision de la société idéale.
Dans le monde du code, c'est déjà pas jouasse quand on voit la qualité du code industriel dans la nature, parce que désormais de plus en plus dirigée par des règles essentiellement économiques. Avec les "aides IA", ça ne fait qu'empirer. Voir par exemple cet autre lien passé sur Linuxfr qui était un autre article de recherche sur la qualité du code décroissant avec l'usage de l'IA (et les compétences des développeurs aussi, puisque ceux qui utilisent croient faire de la qualité mais en fait font pire — cf. le papier de recherche — ce qui me paraît évident si on se repose sur un système médiocre pour comprendre, lire et écrire du code plutôt que faire marcher et travailler son cerveau pour apprendre et évoluer; mon niveau maintenant est bien meilleur qu'il y a 10 ans, mais cela n'aurait pas été le cas si j'avais laissé des IAs coder pour moi).
Pour moi, il y a de véritables problèmes sociaux sur le fait de se reposer ainsi sur des machines pour créer (un peu tout). En fait, je pense depuis au moins une décennie déjà qu'il y a de gros problèmes de notre société qui se repose de plus en plus sur l'informatique et la technologie, souvent de manière totalement absurde et kafkaïenne puisqu'on en vient à complexifier inutilement énormément de processus humains sous prétexte de les "simplifier" officiellement. Ce phénomène a même un nom, on appelle cela le "Solutionnisme technologique". Je pense que la technologie peut être très utile (je suis développeur! C'est bien parce que je crois en ce que je fais), mais dans énormément de cas dans laquelle on l'utilise de nos jours, elle devient au contraire contre-productive.
En plus, très souvent, cela amène de nouveaux problèmes sociaux encore, comme des formes de précarité, par exemple ici on voit bien que le but de toutes ces technologies est de progressivement faire considérer les auteurs de graphisme/texte/code comme des métiers inférieurs et donc à moins payer. Sauf que — et c'est là où c'est kafkaïen — ces systèmes technologiques reposent lourdement sur les œuvres de ces mêmes auteurs. Aucune de ces IAs ne peuvent rien être sans ces auteurs à la base, mais on utilise leurs œuvres, sans les payer ni même les considérer positivement, pour les rendre inutile (en apparence). Comment un cycle pourrait-il être plus vicieux?
Je suis sûr qu'on pourra lire des gens dire que si un métier n'est plus pertinent (comme les allumeurs de bougies, souvent cités, disparus avec l'électricité!), c'est normal qu'il disparaisse. Sauf que là ce n'est pas du tout le cas. On aura toujours besoin de graphistes, illustrateurs, développeurs, écrivains et chroniqueurs... Mais on essaie de faire croire artificiellement à une forme d'inutilité.
En fait si on veut rapprocher cela de phénomènes sociaux récents, c'est plus proche de l'ubérisation. Plutôt que d'admettre l'utilité des chauffeurs de taxi, des livreurs, etc. on rabaisse leur niveau social en les forçant dans des situations professionnelles difficilement tenables, précaires et sous-payées. Il y a de nombreux pays où des procès se font (et se gagnent) autour de ce problème mais cela avance trop lentement, notamment à cause de certains pays qui veulent tout miser sur les "startups" et autres "licornes" (en France, ils sont à fond "startup nation", soutenus à fond par les pouvoirs politiques, et on en arrive à ce type d'absurdité où on tue notre recherche publique pour des chiffres et des visions économiques super court-termiste) et donc seront de leurs côté (voir notamment le cas des "Uber files"). Les problèmes du système éducatif moderne en sont un autre bon exemple (et l'école 42 — c'est marrant tiens y a aussi eu un lien dessus sur linuxfr y a quelques jours — est aussi un très bon exemple du problème; le fait que ce type d'enseignement puisse exister légalement m'a toujours sidéré; d'ailleurs encore une fois sur le sujet du soutien des pouvoirs publics, y a même au moins une visite d'un président et je me souviens de cette photo qui avait fait scandale où le président marche tranquillement au milieu de matelas au sol avec des étudiants dormant en sac de couchage; comment nos administrations peuvent-elle soutenir ce genre d'évolution sociale de l'enseignement?).
Ben là tout ça c'est pareil. C'est dans la même veine et c'est la claire direction annoncée par ceux qui créent ces systèmes. Et ne pas le voir est donc le problème. Le pire, c'est que quand on voit les gens qui s'extasient, on sait que ça va marcher. Comme Uber a marché (malgré les nombreux problèmes sociaux créés, les gens en sont encore à te répondre "mais c'est moins cher!" ce qui non seulement est une réponse terrible socialement, mais en plus est super court-termiste encore une fois, même économiquement, puisque si Uber va là où il espère aller, au final on sait que ce sera plus cher, puisqu'ils fixent des tarifs à perte à l'heure actuelle pour tuer la concurrence), de même que les plateformes vidéos de nos jours, de même que les plateforme de livraisons, de même qu'Amazon avant tous ceux-là, etc. Toutes ces entreprises sont arrivées avec des systèmes innovants mais basés sur l'exploitation d'autrui, et à chaque fois les gens tombent dedans parce qu'"ils ne voient pas le problème" (de leur point de vue, y en a pas, c'est juste mieux: moins cher, plus rapide, plus simple car centralisé, etc.).
C'est une variante moderne et économique de "Quand ils sont venus chercher...":
C'est juste une tendance générale de notre société où je vois qu'on s'exploite de plus en plus les uns et les autres (par l'intermédiaire de "startups") et personne n'y voit aucun problème. Et oui, le problème, c'est vraiment de ne pas le voir.
Et c'est super frustrant quand on voit clairement que c'est encore un énième de ces cas qu'on a vu des dizaines de fois dans les 2 décennies passés, qui va encore se reproduire et tout le monde saute dedans à pieds joints. Et dans quelques années, on aura encore des "affaires" et autres scandales dans les journaux, et tout le monde en parlera, y aura peut-être même des amendes, mais ces entreprises continueront à s'enrichir tranquillement et les gens à utiliser leurs systèmes (les mêmes gens qui s'indigneront en lisant les dits articles).
Notons que pour moi le droit d'auteur est même un problème secondaire, même si c'est souvent celui que je vais avancer en premier parce que c'est en général l'un des rares trucs qui font bouger les choses (notamment parce que c'est la loi!).
Ensuite "violer un peu le droit d'auteur", si pour toi, ça te va, ben déjà y a une partie du problème. Encore une fois, c'est le "Quand ils sont venus chercher...": les gens sont d'accord pour aller à l'encontre de la loi tant qu'ils ne sont pas victimes. Le jour où ce sera soi-même, on poussera des cris d'orfraie.
Perso y a plein de trucs que je sais pas faire, et quand je veux/peux pas le faire moi-même, j'engage effectivement quelqu'un. Moi aussi ça me frustre de ne pas savoir faire plein de trucs, mais je n'en viens pas à des logiques d'exploitation pour autant, juste parce que ça va dans mon sens.
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]