Je peux parfaitement concevoir une IA qui pourrait dire "J'ai parcouru toute la littérature en physique et j'ai mis au point une nouvelle théorie de l'espace-temps qui résoud tous les problèmes que vous avez avec le paradigme actuel" sans pour autant avoir de conscience ou de sentiments.
C'est pour moi une drôle de posture pour quelqu'un qui défend la thèse fonctionnaliste et qui pense que l'intelligence peut être une propriété qui émerge peu importe que le support soit organique ou minéral.
On n'a pas de raisons de penser fondamentalement que cela soit différent pour ces autres notions.
Tout revient à si on accepte ou non d'adopter une posture fonctionnaliste. Si on accepte le fonctionnalisme, on accepte qu'il puisse exister des intelligences autres qu'humaines ou biologiques. Par conséquent, le seul moyen de définir l'intelligence est d'évaluer son comportement, et pas d'étudier son fonctionnement interne, qui est par essence différent du fonctionnement du cerveau. Une machine qui réagit comme si elle était intelligente est donc par définition intelligente, de la même manière qu'on peut conclure qu'un voisin est un être intelligent sans avoir étudié le fonctionnement de son cerveau.
Si on n'accepte pas la position fonctionnaliste, on restreint l'intelligence à un support biologique (le cerveau humain). Par conséquent, il n'y a rien à discuter, aucune machine ne peut être intelligente puisqu'une machine ne peut pas avoir de conscience, d'intention, etc.
Je suis plus pragmatique que ça : selon ma définition, une machine ne peut pas feindre l'intelligence.
Comme je l'ai expliqué et tenté de le montrer avec le cas des échecs plus bas, on pourrait feindre l'intelligence. Ce n'est pas parce que le résultat est bon que sa mise en oeuvre revêt d'une forme d'intelligence.
Même les humains savent feindre l'intelligence, quand tu triches ou copie ton voisin à un examen par exemple, tu feins aux yeux du professeur ton intelligence et tes connaissances et tes compétences vis à vis de ce sujet.
D'autant que même si les LLM savent faire des choses très bien, il y a des résultats quand même bizarres. Leur sensibilité à certaines conditions, malgré la littérature gigantesque qu'ils ont ingurgité (plus que tout être humain peut envisager ne serait-ce lister) et un processus poussé de développement ils font des erreurs assez élémentaires dont de raisonnement. Cela peut pointer des faiblesses et qu'il y a peut être quelque chose qu'il manque malgré des résultats spectaculaires par ailleurs.
Par contre, on peut feindre la conscience ou les sentiments, donc il n'est pas possible de définir ces notions par rapport au comportement. C'est l'argument du "zombie philosophique", imagine quelqu'un qui n'a aucun sentiment ni conscience, mais qui se comporte comme s'il en avait, comment ferais-tu pour le savoir? Bah tu ne peux pas, sauf peut-être à lui faire des IRM, et encore. Le mieux que tu puisses faire, c'est d'évaluer la conscience par un argument par parcimonie; tu sais que tu es conscient, et tu sais que cette conscience est liée à ton cerveau d'Homo sapiens, or ton voisin se comporte comme s'il était conscient et c'est un Homo sapiens, donc il est plus parcimonieux de conclure qu'il est conscient. Mais si c'est un robot par exemple, tu ne peux pas savoir, la question est assez indécidable.
Ah mais je sais bien que la question est difficile. Justement. :)
Mais devant cette indécidabilité, un peu comme pour l'intelligence par ailleurs, adopter le fonctionnalisme d'un côté et l'indécidabilité "absolue" de l'autre ne me semble pas être une position très cohérente alors que les processus en oeuvres derrière ont probablement des origines communes.
Et imaginons que l'IA ressent vraiment des choses et a conscience d'elle même, faute d'avoir décidé de la question on crée de la souffrance pour... rien. Et on le ferait pour toujours car "on ne peut pas le savoir" ? Alors que tu as été prompt à leur reconnaître une forme d'intelligence.
[^] # Re: Excellent, merci.
Posté par Renault (site web personnel) . En réponse au lien France culture: Intelligence artificielle et imitation. Évalué à 5.
C'est pour moi une drôle de posture pour quelqu'un qui défend la thèse fonctionnaliste et qui pense que l'intelligence peut être une propriété qui émerge peu importe que le support soit organique ou minéral.
On n'a pas de raisons de penser fondamentalement que cela soit différent pour ces autres notions.
Comme je l'ai expliqué et tenté de le montrer avec le cas des échecs plus bas, on pourrait feindre l'intelligence. Ce n'est pas parce que le résultat est bon que sa mise en oeuvre revêt d'une forme d'intelligence.
Même les humains savent feindre l'intelligence, quand tu triches ou copie ton voisin à un examen par exemple, tu feins aux yeux du professeur ton intelligence et tes connaissances et tes compétences vis à vis de ce sujet.
D'autant que même si les LLM savent faire des choses très bien, il y a des résultats quand même bizarres. Leur sensibilité à certaines conditions, malgré la littérature gigantesque qu'ils ont ingurgité (plus que tout être humain peut envisager ne serait-ce lister) et un processus poussé de développement ils font des erreurs assez élémentaires dont de raisonnement. Cela peut pointer des faiblesses et qu'il y a peut être quelque chose qu'il manque malgré des résultats spectaculaires par ailleurs.
Ah mais je sais bien que la question est difficile. Justement. :)
Mais devant cette indécidabilité, un peu comme pour l'intelligence par ailleurs, adopter le fonctionnalisme d'un côté et l'indécidabilité "absolue" de l'autre ne me semble pas être une position très cohérente alors que les processus en oeuvres derrière ont probablement des origines communes.
Et imaginons que l'IA ressent vraiment des choses et a conscience d'elle même, faute d'avoir décidé de la question on crée de la souffrance pour... rien. Et on le ferait pour toujours car "on ne peut pas le savoir" ? Alors que tu as été prompt à leur reconnaître une forme d'intelligence.
Je trouve cela bizarre oui.