Tu as des travaux très intéressants en philosophie de l'esprit (bon, pas beaucoup en France, puisque la philosophie y est ancrée dans une dimension littéraire qui n'a pas beaucoup d'intérêt), qu'il faut distinguer du gloubiboulga médiatique actuel...
Il y a une position que j'ai du mal à comprendre, c'est que la conscience est une propriété émergente d'un cerveau, et que les IA n'ayant pas de cerveau, elles ne peuvent pas par définition avoir de conscience. Je veux dire, c'est cohérent d'une certaine manière, mais je trouve que ça n'a aucun intérêt (la réponse est dans la définition).
Quelque chose de spécialement gênant avec les LLMs, qui est quelque part complètement nouveau dans la reflexion, c'est que les LLMs ne génèrent pas de pensée par eux-mêmes : ils alignent des mots de manière cohérente avec un corpus de référence. Il est donc très tentant de dire qu'ils n'ont aucune intelligence, ils ne font que recopier des patterns qu'ils ont appris et intégrés sans "comprendre" quoi que ce soit (c'est l'argument de la "chambre chinoise"). C'est un argument intéressant, parce qu'il touche profondément à la définition d'intelligence. Quelque part, ça exclut la possibilité d'évaluer l'intelligence par l'étude de la manifestation de l'intelligence (par exemple, par des questions, ou par une observation du comportement). Ce que ça dit, c'est que si tu veux déterminer si quelque chose ou quelqu'un est "intelligent", il faut avoir accès à ses processus internes (IRM pour un cerveau, déboggage pour un algo, etc). C'est un peu bizarre, et c'est totalement contre-intuitif (on sait qu'Einstein était intelligent sans lui faire passer d'IRM).
C'est un truc que j'ai répété plusieurs fois donc je ne vais pas écrire une nouvelle tartine dessus, mais il faut faire attention à ne pas trop changer la définition d'intelligence en fonction des avancées techniques : c'est un raisonnement fallacieux ("la cible qui bouge"). Au XIXe siècle, le summum de l'intelligence c'était le jeu d'échecs; quand les ordinateurs ont commencé à gagner contre les meilleurs humains on a dit "ah oui mais non, en fait c'est que du calcul, donc ça n'a rien à voir avec l'intelligence. Par contre le go ça c'est de l'intelligence". Et puis le go a été maitrisé par les ordis, alors on a encore changé la définition, vers la maitrise du langage par exemple ("la traduction automatique est un processus impossible pour un ordinateur parce qu'il ne comprends pas le contexte", etc). Puis avec les LLMs, la maitrise du langage est quasiment parfaite, donc on va encore changer de cible ("ah oui mais non, le langage il l'a appris en lisant ce que des humains ont écrit [entre nous, j'aimerais bien rencontré la personne qui a appris le langage sans lire ou écouter d'autres humains], il faudrait montrer que les IA ont des capacités créatrices, etc"). Au passage, ça commence à mettre la barre au-delà de ce qu'un humain moyen est capable de faire, parce que certes, chatGPT ne sait probablement pas composer une fugue aussi bien que Bach, mais moi non plus, et aucun des ~ 10 milliards d'humains qui sont nés après Jean-Seb non plus, donc le critère est peut-être un chouilla exigeant...
En fait, les LLMs ont des capacités tout à fait comparables, voire largement supérieures, à ce que les gens du XXe siècle décrivaient quand ils parlaient d'intelligence artificielle. Je trouve qu'il faut pas mal de mauvaise foi pour prétendre qu'il ne s'agit pas de systèmes IA, imparfaits certes, mais qui simulent de manière très convaincante l'expression de l'intelligence par le langage. Ça ne veut évidemment pas dire qu'on va tous perdre notre boulot à cause de ça!
[^] # Re: Vraiment ?
Posté par arnaudus . En réponse au journal Entre imitation et biais systématiques : les supercheries de l’intelligence artificielle by chatgpt©. Évalué à 6.
Tu as des travaux très intéressants en philosophie de l'esprit (bon, pas beaucoup en France, puisque la philosophie y est ancrée dans une dimension littéraire qui n'a pas beaucoup d'intérêt), qu'il faut distinguer du gloubiboulga médiatique actuel...
Il y a une position que j'ai du mal à comprendre, c'est que la conscience est une propriété émergente d'un cerveau, et que les IA n'ayant pas de cerveau, elles ne peuvent pas par définition avoir de conscience. Je veux dire, c'est cohérent d'une certaine manière, mais je trouve que ça n'a aucun intérêt (la réponse est dans la définition).
Quelque chose de spécialement gênant avec les LLMs, qui est quelque part complètement nouveau dans la reflexion, c'est que les LLMs ne génèrent pas de pensée par eux-mêmes : ils alignent des mots de manière cohérente avec un corpus de référence. Il est donc très tentant de dire qu'ils n'ont aucune intelligence, ils ne font que recopier des patterns qu'ils ont appris et intégrés sans "comprendre" quoi que ce soit (c'est l'argument de la "chambre chinoise"). C'est un argument intéressant, parce qu'il touche profondément à la définition d'intelligence. Quelque part, ça exclut la possibilité d'évaluer l'intelligence par l'étude de la manifestation de l'intelligence (par exemple, par des questions, ou par une observation du comportement). Ce que ça dit, c'est que si tu veux déterminer si quelque chose ou quelqu'un est "intelligent", il faut avoir accès à ses processus internes (IRM pour un cerveau, déboggage pour un algo, etc). C'est un peu bizarre, et c'est totalement contre-intuitif (on sait qu'Einstein était intelligent sans lui faire passer d'IRM).
C'est un truc que j'ai répété plusieurs fois donc je ne vais pas écrire une nouvelle tartine dessus, mais il faut faire attention à ne pas trop changer la définition d'intelligence en fonction des avancées techniques : c'est un raisonnement fallacieux ("la cible qui bouge"). Au XIXe siècle, le summum de l'intelligence c'était le jeu d'échecs; quand les ordinateurs ont commencé à gagner contre les meilleurs humains on a dit "ah oui mais non, en fait c'est que du calcul, donc ça n'a rien à voir avec l'intelligence. Par contre le go ça c'est de l'intelligence". Et puis le go a été maitrisé par les ordis, alors on a encore changé la définition, vers la maitrise du langage par exemple ("la traduction automatique est un processus impossible pour un ordinateur parce qu'il ne comprends pas le contexte", etc). Puis avec les LLMs, la maitrise du langage est quasiment parfaite, donc on va encore changer de cible ("ah oui mais non, le langage il l'a appris en lisant ce que des humains ont écrit [entre nous, j'aimerais bien rencontré la personne qui a appris le langage sans lire ou écouter d'autres humains], il faudrait montrer que les IA ont des capacités créatrices, etc"). Au passage, ça commence à mettre la barre au-delà de ce qu'un humain moyen est capable de faire, parce que certes, chatGPT ne sait probablement pas composer une fugue aussi bien que Bach, mais moi non plus, et aucun des ~ 10 milliards d'humains qui sont nés après Jean-Seb non plus, donc le critère est peut-être un chouilla exigeant...
En fait, les LLMs ont des capacités tout à fait comparables, voire largement supérieures, à ce que les gens du XXe siècle décrivaient quand ils parlaient d'intelligence artificielle. Je trouve qu'il faut pas mal de mauvaise foi pour prétendre qu'il ne s'agit pas de systèmes IA, imparfaits certes, mais qui simulent de manière très convaincante l'expression de l'intelligence par le langage. Ça ne veut évidemment pas dire qu'on va tous perdre notre boulot à cause de ça!