Ce que je trouve frappant, c'est à quel point il est facile, après coup, de minimiser les progrès des systèmes automatiques qui miment l'esprit humain. Il y a 15 ans, il était évident pour tous que créer une image à partir d'une description textuelle était de manière évidente une preuve d'intelligence (il faut comprendre le texte, et il faut composer l'image dont le texte était une description). Or, il s'avère maintenant que c'est à la portée d'un réseau de neurones bien entrainé. Du coup, c'est "évident" que ça n'est pas une tâche aussi complexe que ça.
Pareil pour chatGPT. Écrire un texte de 40 lignes rempli de platitudes sur un sujet d'actualité, c'est largement à sa portée. Sauf que jusqu'à maintenant, c'était des humains qui faisaient ça. Des articles sur des sites d'actualité sans intérêt, des introductions de rapports de stage, des dissertations de philosophie...
Sauf que bon, non, ça aussi ça n'était pas du tout aussi évident. Quand je corrige un rapport d'un stagiaire, ça ressemble souvent à du ChatGPT en pire (avec des fautes d'orthographe, de syntaxe, de construction de raisonnement...). Ça n'est pas du tout évident de faire du ChatGPT à la main, ça demande de l'expertise, de l'entrainement, et du temps, beaucoup plus de temps que le système automatique. Bien sûr, ChatGPT ne produit que des documents de type "rapport à la va-vite" ou "news sur un site publicitaire", il ne produit pas encore de thèses ou d'articles d'opinion. En fait, de part son fonctionnement, il semble ne pas pouvoir produire de texte original. Mais bon, il faut quand même réaliser un truc, c'est que la très grande majorité de la production écrite de l'humanité n'est pas bien originale. Il va falloir sacrément relever le niveau pour mériter notre casse-croute à la fin du mois, et ça ne risque pas de s'améliorer pour nous.
Ce qui me fait grincer des dents, c'est par exemple à quel point les gens du XIXe siècle étaient profondément convaincus que l'excellence à un jeu comme les échecs démontrait irréfutablement la puissance de l'esprit humain. Et on peut d'ailleurs lire qu'il semblait totalement impossible qu'une machine puisse donner le change, et que l'humanité serait détruite le jour où une machine y arriverait, parce que le jeu d'échecs était l'exemple ultime de l'intelligence. Depuis, le moindre smartphone met 500 points ELO au champion du monde d'échecs. On a survécu, mais nos certitudes ont carrément explosé. À chaque étape, on se raconte une histoire sur le mode "oui bon OK, si on réfléchit en fait ça n'était pas une tâche si dure que ça, ça n'est pas vraiment un signe d'intelligence", etc. Mais bon, arrêtons de tourner autour du pot quand même, avec de tels raisonnements ChatGPT est plus intelligent qu'une grande partie de la population—si on se fie à la capacité à répondre à des questions écrites; il pulvérise la plupart des lycéens à n'importe quel contrôle de n'importe quelle matière, il aurait probablement le bac, peut-être même avec mention. Quand on minimise ce truc, on se ment quand même pas mal, et on espère que ça ne va pas progresser trop vite quand même...
# C'est évident... après coup
Posté par arnaudus . En réponse au journal Mon avis sur chatGPT. Évalué à 10.
Ce que je trouve frappant, c'est à quel point il est facile, après coup, de minimiser les progrès des systèmes automatiques qui miment l'esprit humain. Il y a 15 ans, il était évident pour tous que créer une image à partir d'une description textuelle était de manière évidente une preuve d'intelligence (il faut comprendre le texte, et il faut composer l'image dont le texte était une description). Or, il s'avère maintenant que c'est à la portée d'un réseau de neurones bien entrainé. Du coup, c'est "évident" que ça n'est pas une tâche aussi complexe que ça.
Pareil pour chatGPT. Écrire un texte de 40 lignes rempli de platitudes sur un sujet d'actualité, c'est largement à sa portée. Sauf que jusqu'à maintenant, c'était des humains qui faisaient ça. Des articles sur des sites d'actualité sans intérêt, des introductions de rapports de stage, des dissertations de philosophie...
Sauf que bon, non, ça aussi ça n'était pas du tout aussi évident. Quand je corrige un rapport d'un stagiaire, ça ressemble souvent à du ChatGPT en pire (avec des fautes d'orthographe, de syntaxe, de construction de raisonnement...). Ça n'est pas du tout évident de faire du ChatGPT à la main, ça demande de l'expertise, de l'entrainement, et du temps, beaucoup plus de temps que le système automatique. Bien sûr, ChatGPT ne produit que des documents de type "rapport à la va-vite" ou "news sur un site publicitaire", il ne produit pas encore de thèses ou d'articles d'opinion. En fait, de part son fonctionnement, il semble ne pas pouvoir produire de texte original. Mais bon, il faut quand même réaliser un truc, c'est que la très grande majorité de la production écrite de l'humanité n'est pas bien originale. Il va falloir sacrément relever le niveau pour mériter notre casse-croute à la fin du mois, et ça ne risque pas de s'améliorer pour nous.
Ce qui me fait grincer des dents, c'est par exemple à quel point les gens du XIXe siècle étaient profondément convaincus que l'excellence à un jeu comme les échecs démontrait irréfutablement la puissance de l'esprit humain. Et on peut d'ailleurs lire qu'il semblait totalement impossible qu'une machine puisse donner le change, et que l'humanité serait détruite le jour où une machine y arriverait, parce que le jeu d'échecs était l'exemple ultime de l'intelligence. Depuis, le moindre smartphone met 500 points ELO au champion du monde d'échecs. On a survécu, mais nos certitudes ont carrément explosé. À chaque étape, on se raconte une histoire sur le mode "oui bon OK, si on réfléchit en fait ça n'était pas une tâche si dure que ça, ça n'est pas vraiment un signe d'intelligence", etc. Mais bon, arrêtons de tourner autour du pot quand même, avec de tels raisonnements ChatGPT est plus intelligent qu'une grande partie de la population—si on se fie à la capacité à répondre à des questions écrites; il pulvérise la plupart des lycéens à n'importe quel contrôle de n'importe quelle matière, il aurait probablement le bac, peut-être même avec mention. Quand on minimise ce truc, on se ment quand même pas mal, et on espère que ça ne va pas progresser trop vite quand même...