c'est à mon sens bizarre de les considérer intelligentes et de ne pas réfléchir sur ces points
On peut probablement y réfléchir, mais je ne suis pas sûr dans quelle mesure c'est lié au problème de définition. On a l'intuition que chez les animaux, la conscience et l'intelligence sont liés, mais il n'y a pas tellement de raison que ça soit le cas pour une machine. Je peux parfaitement concevoir une IA qui pourrait dire "J'ai parcouru toute la littérature en physique et j'ai mis au point une nouvelle théorie de l'espace-temps qui résoud tous les problèmes que vous avez avec le paradigme actuel" sans pour autant avoir de conscience ou de sentiments.
Et si on se base sur une approche comportementale pour définir l'intelligence, on devrait faire de même pour ces points là, donc en théorie arnaudus devrait par exemple admettre ces trois points.
Je suis plus pragmatique que ça : selon ma définition, une machine ne peut pas feindre l'intelligence. C'est factuel, on lui file des séries de problèmes compliqués qui nécessitent une compréhension profonde pour les résoudre, si elle les résoud elle est intelligente. Par contre, on peut feindre la conscience ou les sentiments, donc il n'est pas possible de définir ces notions par rapport au comportement. C'est l'argument du "zombie philosophique", imagine quelqu'un qui n'a aucun sentiment ni conscience, mais qui se comporte comme s'il en avait, comment ferais-tu pour le savoir? Bah tu ne peux pas, sauf peut-être à lui faire des IRM, et encore. Le mieux que tu puisses faire, c'est d'évaluer la conscience par un argument par parcimonie; tu sais que tu es conscient, et tu sais que cette conscience est liée à ton cerveau d'Homo sapiens, or ton voisin se comporte comme s'il était conscient et c'est un Homo sapiens, donc il est plus parcimonieux de conclure qu'il est conscient. Mais si c'est un robot par exemple, tu ne peux pas savoir, la question est assez indécidable.
C'est peut-être un détail, mais de ce que je conçois du fonctionnement des LLMs par exemple, c'est qu'ils ne sont actifs que sur requête. Tu lui poses un problème et il fait tourner son algo, mais si personne ne lui demande rien il ne se passe rien du tout. Il ne "pense" pas par lui-même, il ne pense que lorsqu'il doit fournir une réponse. J'imagine qu'il ne dois pas être très difficile d'imaginer des algorithmes qui utilisent les CPU idle pour "penser", par exemple pour réorganiser des informations, oublier des choses, renforcer certaines connexions, optimiser certains sous-réseaux, etc. Auquel cas on se rapprocherait probablement plus des définitions usuelles de la "conscience".
[^] # Re: Excellent, merci.
Posté par arnaudus . En réponse au lien France culture: Intelligence artificielle et imitation. Évalué à 4.
On peut probablement y réfléchir, mais je ne suis pas sûr dans quelle mesure c'est lié au problème de définition. On a l'intuition que chez les animaux, la conscience et l'intelligence sont liés, mais il n'y a pas tellement de raison que ça soit le cas pour une machine. Je peux parfaitement concevoir une IA qui pourrait dire "J'ai parcouru toute la littérature en physique et j'ai mis au point une nouvelle théorie de l'espace-temps qui résoud tous les problèmes que vous avez avec le paradigme actuel" sans pour autant avoir de conscience ou de sentiments.
Je suis plus pragmatique que ça : selon ma définition, une machine ne peut pas feindre l'intelligence. C'est factuel, on lui file des séries de problèmes compliqués qui nécessitent une compréhension profonde pour les résoudre, si elle les résoud elle est intelligente. Par contre, on peut feindre la conscience ou les sentiments, donc il n'est pas possible de définir ces notions par rapport au comportement. C'est l'argument du "zombie philosophique", imagine quelqu'un qui n'a aucun sentiment ni conscience, mais qui se comporte comme s'il en avait, comment ferais-tu pour le savoir? Bah tu ne peux pas, sauf peut-être à lui faire des IRM, et encore. Le mieux que tu puisses faire, c'est d'évaluer la conscience par un argument par parcimonie; tu sais que tu es conscient, et tu sais que cette conscience est liée à ton cerveau d'Homo sapiens, or ton voisin se comporte comme s'il était conscient et c'est un Homo sapiens, donc il est plus parcimonieux de conclure qu'il est conscient. Mais si c'est un robot par exemple, tu ne peux pas savoir, la question est assez indécidable.
C'est peut-être un détail, mais de ce que je conçois du fonctionnement des LLMs par exemple, c'est qu'ils ne sont actifs que sur requête. Tu lui poses un problème et il fait tourner son algo, mais si personne ne lui demande rien il ne se passe rien du tout. Il ne "pense" pas par lui-même, il ne pense que lorsqu'il doit fournir une réponse. J'imagine qu'il ne dois pas être très difficile d'imaginer des algorithmes qui utilisent les CPU idle pour "penser", par exemple pour réorganiser des informations, oublier des choses, renforcer certaines connexions, optimiser certains sous-réseaux, etc. Auquel cas on se rapprocherait probablement plus des définitions usuelles de la "conscience".