La définition de la conscience est probablement un des problèmes les plus difficiles en philosophie; là en plus on a une contrainte supplémentaire, c'est qu'on doit discuter d'une définition opérationnelle, qui permet à partir de données réelles d'évaluer la conscience d'un système complexe.
Mon argument n'était pas qu'il était acquis que les LLM étaient conscients, fin de la discussion. Je voulais juste mettre en avant que la conscience n'était pas quelque chose de magiquement binaire (enfin, sauf dans les lignes de raisonnement dualistes où la conscience ou l'âme est quelque chose de "magique"), et que même un chatbot pouvait avoir des propriétés qui le rapprochaient de ce qu'on peut définir comme un niveau de conscience "basique". En tout cas, l'utiliation du langage par exemple appellent systématiquement à des niveaux de conscience bien supérieurs à ce qu'on attribue habituellement aux animaux, qui, pourtant, donc considérés comme des êtres sensibles et ont des droits associés à ce statut.
Pour le coup de l'introspection, j'ai peur que ça ne puisse pas aller très loin. S'il dit "je suis un bot" c'est qu'on l'a entrainé pour le dire, et s'il dit "je suis conscient" c'est qu'on l'a entrainé pour le dire. Si à toute observation la réponse est "on l'a entrainé pour le dire" est considérée comme un argument pertinent, alors la question de la conscience ne peut pas, opérationnellement, être déterminée par une interaction avec le chatbot.
Personnellement, j'aurais tendance à distinguer ce qui vient du prompt ("tu es un chatbot, tu dois répondre que tu n'es pas conscient quand on te pose la question", etc) et ce qui est inféré à partir du réseau de neurones entrainé. Autant le prompt c'est clairement ce qu'on lui a demandé de dire, autant le réseau et les poids, c'est la "personnalité" du chatbot.
[^] # Re: what ?
Posté par arnaudus . En réponse au journal Publication de contenus augmentés par l'IA. Évalué à 2 (+0/-1).
La définition de la conscience est probablement un des problèmes les plus difficiles en philosophie; là en plus on a une contrainte supplémentaire, c'est qu'on doit discuter d'une définition opérationnelle, qui permet à partir de données réelles d'évaluer la conscience d'un système complexe.
Mon argument n'était pas qu'il était acquis que les LLM étaient conscients, fin de la discussion. Je voulais juste mettre en avant que la conscience n'était pas quelque chose de magiquement binaire (enfin, sauf dans les lignes de raisonnement dualistes où la conscience ou l'âme est quelque chose de "magique"), et que même un chatbot pouvait avoir des propriétés qui le rapprochaient de ce qu'on peut définir comme un niveau de conscience "basique". En tout cas, l'utiliation du langage par exemple appellent systématiquement à des niveaux de conscience bien supérieurs à ce qu'on attribue habituellement aux animaux, qui, pourtant, donc considérés comme des êtres sensibles et ont des droits associés à ce statut.
Pour le coup de l'introspection, j'ai peur que ça ne puisse pas aller très loin. S'il dit "je suis un bot" c'est qu'on l'a entrainé pour le dire, et s'il dit "je suis conscient" c'est qu'on l'a entrainé pour le dire. Si à toute observation la réponse est "on l'a entrainé pour le dire" est considérée comme un argument pertinent, alors la question de la conscience ne peut pas, opérationnellement, être déterminée par une interaction avec le chatbot.
Personnellement, j'aurais tendance à distinguer ce qui vient du prompt ("tu es un chatbot, tu dois répondre que tu n'es pas conscient quand on te pose la question", etc) et ce qui est inféré à partir du réseau de neurones entrainé. Autant le prompt c'est clairement ce qu'on lui a demandé de dire, autant le réseau et les poids, c'est la "personnalité" du chatbot.