Un tel argumentaire ne peut que tourner en rond. Soit tu considères que l'intelligence, la conscience, ou l'intentionnalité sont des propriétés qui ne peuvent exister que dans un cerveau humain, auquel cas la question n'a pas lieu d'être, aucune machine, par définition, ne peut se prévaloir de telles caractéristiques. Soit tu considères que la seule manière d'attribuer ces propriétés est d'estimer que les interactions que tu as avec sont compatibles, auquel cas beaucoup de LLM actuels peuvent prétendre à un certain niveau d'intelligence ou de conscience.
Imagine qu'on arrive à échanger des messages radio avec une civilisation extra-terrestre, avec le même type d'interactions qu'avec chatGPT. Est-ce qu'on douterait une seule seconde de l'intelligence ou de l'intentionnalité des aliens? Absolument pas. Les LLM, parce qu'ils singent les humains à partir desquels ils ont appris à communiquer, montrent tous les signes d'une forme d'intelligence. Bien sûr, on peut parfois encore réussir à les coincer, mais c'est de plus en plus rare, et de toutes manières on peut aussi coincer les humains.
À mon avis, nier que les LLM montrent une forme d'intelligence, c'est un argument du type "vrai écossais". En 1950, on disait qu'une machine intelligente serait une machine qui saurait jouer aux échecs. En 1990, on disposait d'une telle machine, donc on a changé de critère, ça devrait être de passer le test de Turing. Pas de bol, en 2023, on a des machines qui passent le test de Turing les doigts dans le nez, donc on va aller chercher un autre critère, peut-être fonctionnel (du style "il faut forcément un corps"), ou structurel (il faut tant de milliards de neurones connectés d'une manière analogue à l'esprit humain), ou alors mimétique (du style "cette AI ne tombe pas dans les mêmes biais cognitifs qu'un humain, ça prouve qu'elle n'est pas consciente").
À mon avis, ce qui n'était pas du tout anticipé dans les tentatives de définir l'intelligence artificielle, c'est que les LLM sont conçus pour copier les comportements, et pas copier les raisonnements. C'est ça qui nous gêne, ils semblent intelligents, mais on sait bien qu'en fait, ils ne fonctionnent pas en interne comme un esprit humain (c'est l'argument de la "chambre chinoise"). Mais peut-être que ma voisine ou Donald Trump font aussi semblant, je n'ai aucune preuve qu'ils réfléchissent réellement comme moi, et j'ai même parfois des indices qu'ils sont assez buggués (surtout Donald Trump).
Qu'on fiche la paix aux LLM, ce sont des programmes informatiques ingénieux qui miment le comportement et l'intelligence humaine de manière relativement convainquante; ils peuvent tenir une conversation, raconter une histoire, exercer des tâches intellectuelles complexes, créer quelque chose à partir d'une description, passer le bac, bref, faire tout un tas de choses qu'on pensait réservées aux humains. Ils ne peuvent pas courir, ils ne peuvent pas boire des bières en regardant un match de foot, ils ne peuvent pas envahir le pays voisin et déplacer sa population, ils ne peuvent pas faire d'enfants, faire du feu, regarder les étoiles en fumant des pétards. Et surtout, leur fonctionnement les empêche d'aller plus loin que leurs données d'entrainement, ils ne peuvent pas inventer un nouveau style de musique, ils ne peuvent pas découvrir la relativité, ils ne peuvent pas inventer le logiciel libre, envoyer des bonhommes sur la lune. Donc même s'ils manifestent une certaine intelligence, ils sont loin d'être humains.
[^] # Re: pas mieux, je ne comprends ias l'emballement
Posté par arnaudus . En réponse au journal Je suis perdu et je pensais m'être renseigné.... Évalué à 8.
Un tel argumentaire ne peut que tourner en rond. Soit tu considères que l'intelligence, la conscience, ou l'intentionnalité sont des propriétés qui ne peuvent exister que dans un cerveau humain, auquel cas la question n'a pas lieu d'être, aucune machine, par définition, ne peut se prévaloir de telles caractéristiques. Soit tu considères que la seule manière d'attribuer ces propriétés est d'estimer que les interactions que tu as avec sont compatibles, auquel cas beaucoup de LLM actuels peuvent prétendre à un certain niveau d'intelligence ou de conscience.
Imagine qu'on arrive à échanger des messages radio avec une civilisation extra-terrestre, avec le même type d'interactions qu'avec chatGPT. Est-ce qu'on douterait une seule seconde de l'intelligence ou de l'intentionnalité des aliens? Absolument pas. Les LLM, parce qu'ils singent les humains à partir desquels ils ont appris à communiquer, montrent tous les signes d'une forme d'intelligence. Bien sûr, on peut parfois encore réussir à les coincer, mais c'est de plus en plus rare, et de toutes manières on peut aussi coincer les humains.
À mon avis, nier que les LLM montrent une forme d'intelligence, c'est un argument du type "vrai écossais". En 1950, on disait qu'une machine intelligente serait une machine qui saurait jouer aux échecs. En 1990, on disposait d'une telle machine, donc on a changé de critère, ça devrait être de passer le test de Turing. Pas de bol, en 2023, on a des machines qui passent le test de Turing les doigts dans le nez, donc on va aller chercher un autre critère, peut-être fonctionnel (du style "il faut forcément un corps"), ou structurel (il faut tant de milliards de neurones connectés d'une manière analogue à l'esprit humain), ou alors mimétique (du style "cette AI ne tombe pas dans les mêmes biais cognitifs qu'un humain, ça prouve qu'elle n'est pas consciente").
À mon avis, ce qui n'était pas du tout anticipé dans les tentatives de définir l'intelligence artificielle, c'est que les LLM sont conçus pour copier les comportements, et pas copier les raisonnements. C'est ça qui nous gêne, ils semblent intelligents, mais on sait bien qu'en fait, ils ne fonctionnent pas en interne comme un esprit humain (c'est l'argument de la "chambre chinoise"). Mais peut-être que ma voisine ou Donald Trump font aussi semblant, je n'ai aucune preuve qu'ils réfléchissent réellement comme moi, et j'ai même parfois des indices qu'ils sont assez buggués (surtout Donald Trump).
Qu'on fiche la paix aux LLM, ce sont des programmes informatiques ingénieux qui miment le comportement et l'intelligence humaine de manière relativement convainquante; ils peuvent tenir une conversation, raconter une histoire, exercer des tâches intellectuelles complexes, créer quelque chose à partir d'une description, passer le bac, bref, faire tout un tas de choses qu'on pensait réservées aux humains. Ils ne peuvent pas courir, ils ne peuvent pas boire des bières en regardant un match de foot, ils ne peuvent pas envahir le pays voisin et déplacer sa population, ils ne peuvent pas faire d'enfants, faire du feu, regarder les étoiles en fumant des pétards. Et surtout, leur fonctionnement les empêche d'aller plus loin que leurs données d'entrainement, ils ne peuvent pas inventer un nouveau style de musique, ils ne peuvent pas découvrir la relativité, ils ne peuvent pas inventer le logiciel libre, envoyer des bonhommes sur la lune. Donc même s'ils manifestent une certaine intelligence, ils sont loin d'être humains.