Perso j'ai pas suivi en détail les évolutions des 20 dernières années, et c'est évident qu'il y en a eu. Mais cela reste juste des évolutions (pas des révolutions), ce qui est normal dans tout sujet en recherche active.
Le vrai problème, c'est pas l'IA, c'est même pas ces technologies particulières (réseaux de neurones et autres technologies par apprentissage), mais déjà, c'est ce qu'on en fait. Ces technologies sont bien pour des cas où on (les humains) n'arrivent pas à trouver un algorithme idéal juste par un exercice de la pensée. Typiquement c'est super intéressant pour l'étude de clichés médicaux où on s'est rendu compte que certaines IAs pouvaient déceler des maladies là où des docteurs expérimentés ne l'ont pas fait. Alors comme certains le notent, il ne faut pas que ça crée une réaction en chaîne où les docteurs se reposent alors entièrement sur le logiciel, ne cherchent plus à réfléchir, apprendre et surtout comprendre. Le logiciel peut aussi se tromper dans un sens (faux négatif: ne pas voir quelque chose que l'humain aurait vu) ou dans l'autre (faux positif: voir une maladie non-existante). Il faut une vérification et une analyse humaines pour validation.
Ensuite le gros problème de ces systèmes est que ça n'aide en rien à comprendre car ces technologies sont très opaques par conception. C'est d'ailleurs pour cela qu'on va les utiliser pour ce type de cas où l'humain est un peu limité. Or on a besoin aussi de comprendre ces problématiques: pourquoi on tombe malade? Comment déceler la maladie (pas juste avec un algorithme opaque)? Comment s'en prévenir? Etc. Certains notent que c'est un des gros problèmes du fait que beaucoup vont prendre l'IA moderne surtout comme une bonne excuse pour ne plus évoluer soi-même en tant qu'être humain. Néanmoins ce n'est pas une fatalité et je pense qu'on peut faire mieux.
D'autres cas très intéressants sont lorsqu'on veut un semblant d'imperfection ou bien de copie de comportement humain. Typiquement je me souviens d'articles de jeux vidéo de voitures qui expliquaient comment le jeu utilisait des réseaux de neurones pour calculer les trajectoires des voitures.
Quand on y pense, un jeu, on veut pouvoir moduler la difficulté, mais les algorithmes faits main peuvent parfois être chiants. Soit trop nuls, soit trop parfaits. C'est pas comme si mathématiquement, on savait pas créer des trajectoires parfaites (surtout si en plus, on contrôle la physique, ce qui est le cas dans un jeu). De même pour un jeu de tir, on veut pas que le joueur se prenne des headshots tout le temps. Avoir des algorithmes basés sur de l'apprentissage permet déjà d'avoir divers niveaux de difficultés, en plus avec un peu de semblant d'aléatoire (pour la même entrée, la sortie n'est pas toujours la même) et même en mode très dur, ce n'est pas non plus de la perfection mathématique. Cela peut rendre le jeu plus intéressant. Certains oublient en effet que l'IA, ce n'est pas seulement d'obtenir une sorte de "méta-intelligence" qui surpasserait l'humain (le genre de réflexion absurde qu'on lit régulièrement de nos jours, et même de la bouche de ceux qui sont à la tête de ces grosses compagnies; c'en est d'un triste...). C'était aussi simuler l'humain (notamment dans son imperfection) pour divers usages intéressants.
Et ainsi de suite.
Mais ce qui pose problème est que maintenant on fait des "agents génériques" qui sont censés apporter une solution à tout, et qu'on fait croire être réellement "intelligents". Or c'est bidon. Cette technologie ne permet pas cela. Mais comme les gens y croient et l'utilisent ainsi, ben ça va à la catastrophe.
De manière générale, les technologies que l'on nomme "IA" ces dernières années (oubliant que l'IA, c'est bien plus que ça en fait) ne sont pas bonnes dans les sujets où les humains "savent déjà faire". C'est le cas pour le dessin, l'écriture, le code... pour tous ces trucs, cela ne crée que des résultats médiocres, du nivellement par le bas. En fait, ce problème est même déjà étudié.
Quant aux textes, tout le monde (sauf ceux qui font ça) sont d'accord pour dire que la prolifération d'articles générés par IA sur internet est une horreur, cela crée des soupes de mots infâmes, sans saveur, et avec plein d'erreurs factuelles (que les gens reprennent ensuite pour argent comptant; on a eu un exemple il n'y a pas longtemps sur linuxfr d'un article dans la section lien qui était apparemment un article généré par IA, recopié ensuite ailleurs et qui a fini ensuite sur ce site; et bien sûr qui disait apparemment n'importe quoi).
Mais même sans aller aussi loin, beaucoup semblent aussi se mettre à l'IA pour "relire et corriger" leurs textes. Je lisais un commentaire sur le sondage IA justement de quelqu'un qui disait utiliser cela ainsi. Quand je lis l'exemple, je me demande vraiment d'autant plus pourquoi on ferait cela. Oui le langage de chacun n'est pas parfait, ni même lissé. Mais c'est bien là l'important! Les critiques littéraires discutent des heures des tocs de langage des auteurs. C'est notre signature aussi. Pourquoi vouloir à tout prix une sorte de neutre chiant dans le style des textes? Quand je regarde l'exemple en lien, la phrase qui a été le plus changée est:
Il me sert aussi bien de correcteur orthographique que de réflexion sur la syntaxe.
Cette phrase est parfaitement compréhensible et exprime très bien ce que veut dire l'auteur.
Elle fut changée en:
Il fait non seulement office de correcteur orthographique, mais aussi de conseiller en syntaxe.
Alors cette phrase n'est pas fausse ni mauvaise, mais la réécriture n'a eu aucun intérêt sinon perdre le style de l'auteur. Ceci dit, je ne suis pas sûr d'apprécier le changement en "conseiller en syntaxe". C'est un peu bizarre pour moi comme changement (un outil n'est pas un conseiller; là l'outil s'humanise de lui-même!) et ça n'exprime pas aussi bien le sens originel (servir pour réfléchir sur la syntaxe, donc on a bien plus une notion d'évolution, de travail sur soi; c'est bien plus intéressant et intelligent comme manière d'exprimer cet usage). Je ne dis pas que la phrase originelle est parfaite ni que ce changement est horrible, mais il est définitivement bof-bof et pas très intéressant. Franchement si le but était d'aider l'auteur à faire évoluer son style, c'est vraiment loupé et j'espère donc que cette personne s'en rendra compte sans prendre ces "conseils" pour argent comptant.
Il y a peu, quelqu'un avait écrit un journal intéressant. D'autres lui ont conseillé de le faire passer en dépêche, ce à quoi fut répondu que l'auteur aimait sa liberté d'écriture dans un style non lissé. Fort heureusement, les modos de LinuxFr, dans leur infinie sagesse 😉, ont promu le journal en dépêche. J'espère que ça continuera longtemps, parce que moi, c'est ça que je viens lire: des gens différents, dans leur style à eux, qui présentent les trucs intéressants qu'ils font. Pas une sorte de moyennage du style littéraire francophone sur des sujets générés et rempli d'erreurs factuelles.
Quant aux images, c'est pareil. Là aussi, on va vers un monde où la création graphique n'est plus considérée que comme une bouillie de pixels, et où le nivellement par le bas est encore si évident. Les images générées qu'on trouve sur internet sont tellement chiantes et juste des styles bateau. Alors le truc c'est qu'il y a aussi beaucoup d'humains qui dessinent avec ce genre de styles copiés (de même qu'il y avait déjà beaucoup de textes qui étaient aussi globalement des copié-collés vaguement retouchés dans l'industrie de l'écriture; le nivellement avait clairement commencé avant la vague IA de ces dernières années). C'est toutefois beaucoup plus acceptable car on peut voir cela comme une évolution, notamment dans la phase d'apprentissage. C'est comme tous ces jeunes qui vont dessiner en style X ou Y, et en gros vont surtout copier des personnes de leurs BDs favorites. Personne ne leur dira rien, et c'est même très bien de commencer ainsi. On apprend aussi en copiant. Mais on s'imagine bien qu'à un moment donné, si on veut devenir professionnel, on doit évoluer et trouver son propre style. Qui veut rester coincé dans le style d'un autre? (bon je dis ça, mais certains passent professionnels en restant coincé ainsi; chacun son truc, on dira) Ben avec les IAs, c'est un peu ce qu'on crée aussi... Le problème est surtout d'en faire une sorte de standard, un "étalon" de ce qu'est la création maintenant (du vite, et "mal copié").
Enfin bon, tout cela est d'un triste...
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
[^] # Re: Est-ce que je résume correctement ?
Posté par Jehan (site web personnel, Mastodon) . En réponse au journal Quoi penser de l'IA dans mon monde de linuxien .... Évalué à 7.
Perso j'ai pas suivi en détail les évolutions des 20 dernières années, et c'est évident qu'il y en a eu. Mais cela reste juste des évolutions (pas des révolutions), ce qui est normal dans tout sujet en recherche active.
Le vrai problème, c'est pas l'IA, c'est même pas ces technologies particulières (réseaux de neurones et autres technologies par apprentissage), mais déjà, c'est ce qu'on en fait. Ces technologies sont bien pour des cas où on (les humains) n'arrivent pas à trouver un algorithme idéal juste par un exercice de la pensée. Typiquement c'est super intéressant pour l'étude de clichés médicaux où on s'est rendu compte que certaines IAs pouvaient déceler des maladies là où des docteurs expérimentés ne l'ont pas fait. Alors comme certains le notent, il ne faut pas que ça crée une réaction en chaîne où les docteurs se reposent alors entièrement sur le logiciel, ne cherchent plus à réfléchir, apprendre et surtout comprendre. Le logiciel peut aussi se tromper dans un sens (faux négatif: ne pas voir quelque chose que l'humain aurait vu) ou dans l'autre (faux positif: voir une maladie non-existante). Il faut une vérification et une analyse humaines pour validation.
Ensuite le gros problème de ces systèmes est que ça n'aide en rien à comprendre car ces technologies sont très opaques par conception. C'est d'ailleurs pour cela qu'on va les utiliser pour ce type de cas où l'humain est un peu limité. Or on a besoin aussi de comprendre ces problématiques: pourquoi on tombe malade? Comment déceler la maladie (pas juste avec un algorithme opaque)? Comment s'en prévenir? Etc. Certains notent que c'est un des gros problèmes du fait que beaucoup vont prendre l'IA moderne surtout comme une bonne excuse pour ne plus évoluer soi-même en tant qu'être humain. Néanmoins ce n'est pas une fatalité et je pense qu'on peut faire mieux.
D'autres cas très intéressants sont lorsqu'on veut un semblant d'imperfection ou bien de copie de comportement humain. Typiquement je me souviens d'articles de jeux vidéo de voitures qui expliquaient comment le jeu utilisait des réseaux de neurones pour calculer les trajectoires des voitures.
Quand on y pense, un jeu, on veut pouvoir moduler la difficulté, mais les algorithmes faits main peuvent parfois être chiants. Soit trop nuls, soit trop parfaits. C'est pas comme si mathématiquement, on savait pas créer des trajectoires parfaites (surtout si en plus, on contrôle la physique, ce qui est le cas dans un jeu). De même pour un jeu de tir, on veut pas que le joueur se prenne des headshots tout le temps. Avoir des algorithmes basés sur de l'apprentissage permet déjà d'avoir divers niveaux de difficultés, en plus avec un peu de semblant d'aléatoire (pour la même entrée, la sortie n'est pas toujours la même) et même en mode très dur, ce n'est pas non plus de la perfection mathématique. Cela peut rendre le jeu plus intéressant. Certains oublient en effet que l'IA, ce n'est pas seulement d'obtenir une sorte de "méta-intelligence" qui surpasserait l'humain (le genre de réflexion absurde qu'on lit régulièrement de nos jours, et même de la bouche de ceux qui sont à la tête de ces grosses compagnies; c'en est d'un triste...). C'était aussi simuler l'humain (notamment dans son imperfection) pour divers usages intéressants.
Et ainsi de suite.
Mais ce qui pose problème est que maintenant on fait des "agents génériques" qui sont censés apporter une solution à tout, et qu'on fait croire être réellement "intelligents". Or c'est bidon. Cette technologie ne permet pas cela. Mais comme les gens y croient et l'utilisent ainsi, ben ça va à la catastrophe.
De manière générale, les technologies que l'on nomme "IA" ces dernières années (oubliant que l'IA, c'est bien plus que ça en fait) ne sont pas bonnes dans les sujets où les humains "savent déjà faire". C'est le cas pour le dessin, l'écriture, le code... pour tous ces trucs, cela ne crée que des résultats médiocres, du nivellement par le bas. En fait, ce problème est même déjà étudié.
Par exemple, une étude sur les développeurs qui utilisaient des aides au développement par IA avait déterminé que non seulement ceux qui utilisaient ces aides produisaient un code moins sécurisé, mais qu'en plus ceux-ci croyaient qu'ils produisaient un code plus sécurisé (est-ce une sorte de biais du type Dunning-Kruger?).
Quant aux textes, tout le monde (sauf ceux qui font ça) sont d'accord pour dire que la prolifération d'articles générés par IA sur internet est une horreur, cela crée des soupes de mots infâmes, sans saveur, et avec plein d'erreurs factuelles (que les gens reprennent ensuite pour argent comptant; on a eu un exemple il n'y a pas longtemps sur linuxfr d'un article dans la section lien qui était apparemment un article généré par IA, recopié ensuite ailleurs et qui a fini ensuite sur ce site; et bien sûr qui disait apparemment n'importe quoi).
Mais même sans aller aussi loin, beaucoup semblent aussi se mettre à l'IA pour "relire et corriger" leurs textes. Je lisais un commentaire sur le sondage IA justement de quelqu'un qui disait utiliser cela ainsi. Quand je lis l'exemple, je me demande vraiment d'autant plus pourquoi on ferait cela. Oui le langage de chacun n'est pas parfait, ni même lissé. Mais c'est bien là l'important! Les critiques littéraires discutent des heures des tocs de langage des auteurs. C'est notre signature aussi. Pourquoi vouloir à tout prix une sorte de neutre chiant dans le style des textes? Quand je regarde l'exemple en lien, la phrase qui a été le plus changée est:
Cette phrase est parfaitement compréhensible et exprime très bien ce que veut dire l'auteur.
Elle fut changée en:
Alors cette phrase n'est pas fausse ni mauvaise, mais la réécriture n'a eu aucun intérêt sinon perdre le style de l'auteur. Ceci dit, je ne suis pas sûr d'apprécier le changement en "conseiller en syntaxe". C'est un peu bizarre pour moi comme changement (un outil n'est pas un conseiller; là l'outil s'humanise de lui-même!) et ça n'exprime pas aussi bien le sens originel (servir pour réfléchir sur la syntaxe, donc on a bien plus une notion d'évolution, de travail sur soi; c'est bien plus intéressant et intelligent comme manière d'exprimer cet usage). Je ne dis pas que la phrase originelle est parfaite ni que ce changement est horrible, mais il est définitivement bof-bof et pas très intéressant. Franchement si le but était d'aider l'auteur à faire évoluer son style, c'est vraiment loupé et j'espère donc que cette personne s'en rendra compte sans prendre ces "conseils" pour argent comptant.
Il y a peu, quelqu'un avait écrit un journal intéressant. D'autres lui ont conseillé de le faire passer en dépêche, ce à quoi fut répondu que l'auteur aimait sa liberté d'écriture dans un style non lissé. Fort heureusement, les modos de LinuxFr, dans leur infinie sagesse 😉, ont promu le journal en dépêche. J'espère que ça continuera longtemps, parce que moi, c'est ça que je viens lire: des gens différents, dans leur style à eux, qui présentent les trucs intéressants qu'ils font. Pas une sorte de moyennage du style littéraire francophone sur des sujets générés et rempli d'erreurs factuelles.
Quant aux images, c'est pareil. Là aussi, on va vers un monde où la création graphique n'est plus considérée que comme une bouillie de pixels, et où le nivellement par le bas est encore si évident. Les images générées qu'on trouve sur internet sont tellement chiantes et juste des styles bateau. Alors le truc c'est qu'il y a aussi beaucoup d'humains qui dessinent avec ce genre de styles copiés (de même qu'il y avait déjà beaucoup de textes qui étaient aussi globalement des copié-collés vaguement retouchés dans l'industrie de l'écriture; le nivellement avait clairement commencé avant la vague IA de ces dernières années). C'est toutefois beaucoup plus acceptable car on peut voir cela comme une évolution, notamment dans la phase d'apprentissage. C'est comme tous ces jeunes qui vont dessiner en style X ou Y, et en gros vont surtout copier des personnes de leurs BDs favorites. Personne ne leur dira rien, et c'est même très bien de commencer ainsi. On apprend aussi en copiant. Mais on s'imagine bien qu'à un moment donné, si on veut devenir professionnel, on doit évoluer et trouver son propre style. Qui veut rester coincé dans le style d'un autre? (bon je dis ça, mais certains passent professionnels en restant coincé ainsi; chacun son truc, on dira) Ben avec les IAs, c'est un peu ce qu'on crée aussi... Le problème est surtout d'en faire une sorte de standard, un "étalon" de ce qu'est la création maintenant (du vite, et "mal copié").
Enfin bon, tout cela est d'un triste...
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]