Même si le ton est divertissant, il y a quand même plein de raccourcis et de "rassurisme", avec parfois aussi un côté "on n'a rien inventé c'est juste des buzzwords" qui frôle le manque de respect pour les millions d'heures de R&D passées sur ces problèmes.
Les trucs majeurs qui m'ont gêné:
* On redéfinit l'intelligence au fil de l'eau de manière à exclure l'IA de ce qu'est "intelligent". Au XVIe siècle, faire une addition était propre à l'intelligence humaine. Quand on a inventé une machine qui le faisait, alors on a décidé qu'en fait c'était bête. Au XIXe siècle, le jeu d'échecs était le summum de l'intelligence humaine. Quand on a inventé un ordinateur capable de battre les humains, on a décidé qu'en fait les échecs ça n'était que du calcul. C'est le même argument fallacieux que "Dieu est dans les trous": il y a 500 ans, on ne comprenait pas grand chose du monde et Dieu était l'explication à tout; maintenant il ne reste que quelques îlots d'ignorance (début de l'univers, apparition de la vie), et il a fallu sans cesse changer les définitions pour lui laisser une place. Bref, redéfinir l'intelligence au fur et à mesure pour exclure de l'intelligence les choses que les ordinateurs sont capables de faire est fallacieux, et c'est pourtant exactement le discours qui est tenu.
* Les IA sont bonnes à une tâche alors que les humains peuvent tout faire: déja ce n'est pas tout à fait vrai, parce que les humains ont besoin de formation et que certains humains ne seront jamais capables de faire certaines tâches indépendamment de la formation qu'ils reçoivent (devenir virtuose pour un instrument, ou sportif de haut niveau). Ensuite, en grande partie faux pour la série des "alpha" qui est pourtant utilisée comme exemple, puisque AlphaChess et AlphaGo sont (à peu près) le même algorithme, entrainé sur des jeux différents. C'est quand même très similaire à des humains entrainés à parler Allemand ou Cantonais. Enfin, l'argument ne fonctionne pas pour ChatGPT, puisque certes ChatGPT ne peut faire "que" de la conversation, mais il peut tenir cette conversation dans plusieurs langues, il peut fournir du code, créer de la musique, de la poésie, des oeuvres de fiction. Bref, c'est assez débile de dire qu'il est monotâche parce qu'il ne communique ses créations que par le biais de texte; un scénariste de série TV et un chercheur en physique quantique vont aussi communiquer par des textes alors que les tâches sous-jacentes représentent toute la diversité de la création humaine.
* Le "rassurisme" est basé sur la négation du concept d'émergence; c'est très pratique pour faire de la rhétorique bien sûr, parce que le discours passe très bien, mais c'est hyper-douteux épistémologiquement parlant. Il y a du carbone et de l'azote partout dans notre environnement; vous n'allez pas avoir peur d'une molécule composée d'un atome de carbone et d'un atome d'azote. La vie est constituée de molécules organiques dont on connait la composition et qui n'ont rien de particulier, aucune raison d'imaginer que le vivant ait des propriétés différente des autres objets du monde physique, etc. Bref, l'argument de "ce n'est qu'une histoire de degrés", c'est un argument hyper fragile, parce qu'on sait que c'est un argument faux dans de nombreuses situations, et le comportement d'un système complexe ne varie pas linéairement avec sa complexité.
* De nombreux arguments reposent sur un manque d'imagination. Par exemple, il est affirmé que jamais (en insistant sur "jamais") un système de conduite autonome serait capable de distinguer un vrai panneau STOP d'un mec qui porte un panneau STOP, alors que l'humain le fait trivialement. Outre le fait que c'est probablement faux pour l'humain (par exemple, la situation dans laquelle des ouvriers sont en train de poser un panneau STOP me semble insoluble pour un humain), il ne me semble pas du tout inconcevable qu'un algo puisse correctement trancher entre "il y a un stop" et "il n'y a pas de stop" dans cette situation. Il va intégrer des informations (absence ou présence de ligne de stop sur le sol, le panneau n'était pas là 3 secondes plus tôt, il semble associé au référentiel d'un piéton mais pas au référentiel du trottoir, etc), et du coup, l'idée de "jamais possible" dans un tel contexte me semble hyper-douteuse.
* Enfin, l'argumentation présuppose un rejet du fonctionnalisme, alors qu'à ma connaissance la majorité des gens qui travaillent dans ou sur l'IA sont fonctionnalistes (peut-être parce que c'est la seule option opérationnelle dans lequel le concept d'IA a un sens). Si on n'est pas fonctionnaliste, par définition, l'intelligence ou la conscience ne peut pas exister en dehors d'un cerveau. Donc, par définiton, l'IA ne peut pas exister. C'est une conclusion qui dépend des prémisses, il n'y a rien de bien transcendant.
Bon, bref, c'est distrayant, mais c'est quand même aussi beaucoup pas terrible et pas bien profond. La prémisse de la reflexion, c'est qu'il n'y a pas de problème, donc on peut accumuler des platitudes en changeant les définitions, en affirmant que telle ou telle tâche est absolument impossible à automatiser, etc., mais ça reste un procédé rhétorique, pas un moyen de comprendre la réalité et d'anticiper le potentiel (positif ou négatif) des systèmes qu'on appelle "IA".
# Vu, et pas complètement approuvé
Posté par arnaudus . En réponse au lien FUN : L’intelligence artificielle n’existe pas, par Luc Julia. Évalué à 10.
Même si le ton est divertissant, il y a quand même plein de raccourcis et de "rassurisme", avec parfois aussi un côté "on n'a rien inventé c'est juste des buzzwords" qui frôle le manque de respect pour les millions d'heures de R&D passées sur ces problèmes.
Les trucs majeurs qui m'ont gêné:
* On redéfinit l'intelligence au fil de l'eau de manière à exclure l'IA de ce qu'est "intelligent". Au XVIe siècle, faire une addition était propre à l'intelligence humaine. Quand on a inventé une machine qui le faisait, alors on a décidé qu'en fait c'était bête. Au XIXe siècle, le jeu d'échecs était le summum de l'intelligence humaine. Quand on a inventé un ordinateur capable de battre les humains, on a décidé qu'en fait les échecs ça n'était que du calcul. C'est le même argument fallacieux que "Dieu est dans les trous": il y a 500 ans, on ne comprenait pas grand chose du monde et Dieu était l'explication à tout; maintenant il ne reste que quelques îlots d'ignorance (début de l'univers, apparition de la vie), et il a fallu sans cesse changer les définitions pour lui laisser une place. Bref, redéfinir l'intelligence au fur et à mesure pour exclure de l'intelligence les choses que les ordinateurs sont capables de faire est fallacieux, et c'est pourtant exactement le discours qui est tenu.
* Les IA sont bonnes à une tâche alors que les humains peuvent tout faire: déja ce n'est pas tout à fait vrai, parce que les humains ont besoin de formation et que certains humains ne seront jamais capables de faire certaines tâches indépendamment de la formation qu'ils reçoivent (devenir virtuose pour un instrument, ou sportif de haut niveau). Ensuite, en grande partie faux pour la série des "alpha" qui est pourtant utilisée comme exemple, puisque AlphaChess et AlphaGo sont (à peu près) le même algorithme, entrainé sur des jeux différents. C'est quand même très similaire à des humains entrainés à parler Allemand ou Cantonais. Enfin, l'argument ne fonctionne pas pour ChatGPT, puisque certes ChatGPT ne peut faire "que" de la conversation, mais il peut tenir cette conversation dans plusieurs langues, il peut fournir du code, créer de la musique, de la poésie, des oeuvres de fiction. Bref, c'est assez débile de dire qu'il est monotâche parce qu'il ne communique ses créations que par le biais de texte; un scénariste de série TV et un chercheur en physique quantique vont aussi communiquer par des textes alors que les tâches sous-jacentes représentent toute la diversité de la création humaine.
* Le "rassurisme" est basé sur la négation du concept d'émergence; c'est très pratique pour faire de la rhétorique bien sûr, parce que le discours passe très bien, mais c'est hyper-douteux épistémologiquement parlant. Il y a du carbone et de l'azote partout dans notre environnement; vous n'allez pas avoir peur d'une molécule composée d'un atome de carbone et d'un atome d'azote. La vie est constituée de molécules organiques dont on connait la composition et qui n'ont rien de particulier, aucune raison d'imaginer que le vivant ait des propriétés différente des autres objets du monde physique, etc. Bref, l'argument de "ce n'est qu'une histoire de degrés", c'est un argument hyper fragile, parce qu'on sait que c'est un argument faux dans de nombreuses situations, et le comportement d'un système complexe ne varie pas linéairement avec sa complexité.
* De nombreux arguments reposent sur un manque d'imagination. Par exemple, il est affirmé que jamais (en insistant sur "jamais") un système de conduite autonome serait capable de distinguer un vrai panneau STOP d'un mec qui porte un panneau STOP, alors que l'humain le fait trivialement. Outre le fait que c'est probablement faux pour l'humain (par exemple, la situation dans laquelle des ouvriers sont en train de poser un panneau STOP me semble insoluble pour un humain), il ne me semble pas du tout inconcevable qu'un algo puisse correctement trancher entre "il y a un stop" et "il n'y a pas de stop" dans cette situation. Il va intégrer des informations (absence ou présence de ligne de stop sur le sol, le panneau n'était pas là 3 secondes plus tôt, il semble associé au référentiel d'un piéton mais pas au référentiel du trottoir, etc), et du coup, l'idée de "jamais possible" dans un tel contexte me semble hyper-douteuse.
* Enfin, l'argumentation présuppose un rejet du fonctionnalisme, alors qu'à ma connaissance la majorité des gens qui travaillent dans ou sur l'IA sont fonctionnalistes (peut-être parce que c'est la seule option opérationnelle dans lequel le concept d'IA a un sens). Si on n'est pas fonctionnaliste, par définition, l'intelligence ou la conscience ne peut pas exister en dehors d'un cerveau. Donc, par définiton, l'IA ne peut pas exister. C'est une conclusion qui dépend des prémisses, il n'y a rien de bien transcendant.
Bon, bref, c'est distrayant, mais c'est quand même aussi beaucoup pas terrible et pas bien profond. La prémisse de la reflexion, c'est qu'il n'y a pas de problème, donc on peut accumuler des platitudes en changeant les définitions, en affirmant que telle ou telle tâche est absolument impossible à automatiser, etc., mais ça reste un procédé rhétorique, pas un moyen de comprendre la réalité et d'anticiper le potentiel (positif ou négatif) des systèmes qu'on appelle "IA".