Ce genre de chose amène rapidement à des sujets philosophiques.
En tant qu'humain, nous apprenons aussi de notre environnement, et nous apprenons à donner certaines réponses à certains stimuli. Ces réponses sont-elles forcément le reflet de notre conscience ? Ou de réponses ingénieusement assemblées ?
Par exemple tout le pan des "discussions sociales", nécessaires pour entamer des relations "tranquilles" avec les gens, sans aucun fond, variables suivant les cultures :
- Bonjour Madame Machin ! Comment allez-vous ?
- Bien, bien, et vous ?
- Bien, merci. C'est agréable ce beau temps !
- Ho oui mais qu'est-ce qu'il fait chaud !
- Etc...
Ça peut durer longtemps. Et par longtemps, je veux dire des heures, voir des jours pour certains humains. Je suis un peu buguée sur ce genre de chose, je les ai appris de façon consciente, avec labeur et beaucoup d'étude et je suis assez vite bloquée si ça doit durer, mais certains humains semblent utiliser ça comme base de toutes les conversations (alors qu'ils n'iront jamais discuter d'ontologie ou des implications d'un programme d'IA).
Il y a plein d'autres éléments de notre humanité où les sciences montrent notre "programmation" : les biais cognitifs, nombre d'implications des neurosciences (menant à diverses tactiques de manipulations qui fonctionnent sur tout être humain "normal"). Est-ce que cela valide ou invalide le fait que nous soyons conscients ? C'est une vraie question qui intéresse du monde.
Du coup, si on compare à l'IA dont il est question, est-ce si différent ? Elle n'a peut-être pas encore la capacité à fournir des réponses assez élaborées pour convaincre, mais si on posait les mêmes questions à son voisin de pallier, serait-il plus crédible ? Ça doit dépendre du voisin !
Il me semble que définir la réalité de la conscience, ici, est complexe, ou alors il faut vraiment définir très précisément ce qu'on entend par conscience (et je n'ai pas un niveau d'anglais suffisant pour voir quelle définition a été posée dans le cadre de l'expérience). Par contre, on peut en définir la réalité de la même façon qu'on définit la réalité de nos interactions avec les autres humains :
- Je l'entends, je peux discuter avec cette personne, donc il doit y avoir une réalité dans ce qu'elle partage de sa réalité
- Cette personne me fait part d'une expérience que je peux comparer à ma propre expérience et en fait une analyse similaire à celle que j'aurais
- Cette expérience est donc probablement vrai.
Autrement dit, si ça semble avoir une conscience, si ça agit comme si ça avait une conscience, alors on peut supposer que cela a une conscience. Pour savoir si c'est "vrai", il faudrait pouvoir télécharger le ressenti de l'IA en soi... encore un peu de travail pour ça.
Cela n'invalide pas pour autant le fait qu'il s'agit d'un chatbot ; un chatbot qui est peut-être en train de devenir aussi évolué et complexe que ma voisine, ce qui est sacrément fort, mais dans son cas aussi, je fais des pseudo-tests de Turing de temps en temps.
# Qu'est-ce que la conscience ?
Posté par Zatalyz (site web personnel) . En réponse au journal Les IA des GAFAM sont-elles sentientes ?. Évalué à 10.
Ce genre de chose amène rapidement à des sujets philosophiques.
En tant qu'humain, nous apprenons aussi de notre environnement, et nous apprenons à donner certaines réponses à certains stimuli. Ces réponses sont-elles forcément le reflet de notre conscience ? Ou de réponses ingénieusement assemblées ?
Par exemple tout le pan des "discussions sociales", nécessaires pour entamer des relations "tranquilles" avec les gens, sans aucun fond, variables suivant les cultures :
- Bonjour Madame Machin ! Comment allez-vous ?
- Bien, bien, et vous ?
- Bien, merci. C'est agréable ce beau temps !
- Ho oui mais qu'est-ce qu'il fait chaud !
- Etc...
Ça peut durer longtemps. Et par longtemps, je veux dire des heures, voir des jours pour certains humains. Je suis un peu buguée sur ce genre de chose, je les ai appris de façon consciente, avec labeur et beaucoup d'étude et je suis assez vite bloquée si ça doit durer, mais certains humains semblent utiliser ça comme base de toutes les conversations (alors qu'ils n'iront jamais discuter d'ontologie ou des implications d'un programme d'IA).
Il y a plein d'autres éléments de notre humanité où les sciences montrent notre "programmation" : les biais cognitifs, nombre d'implications des neurosciences (menant à diverses tactiques de manipulations qui fonctionnent sur tout être humain "normal"). Est-ce que cela valide ou invalide le fait que nous soyons conscients ? C'est une vraie question qui intéresse du monde.
Du coup, si on compare à l'IA dont il est question, est-ce si différent ? Elle n'a peut-être pas encore la capacité à fournir des réponses assez élaborées pour convaincre, mais si on posait les mêmes questions à son voisin de pallier, serait-il plus crédible ? Ça doit dépendre du voisin !
Il me semble que définir la réalité de la conscience, ici, est complexe, ou alors il faut vraiment définir très précisément ce qu'on entend par conscience (et je n'ai pas un niveau d'anglais suffisant pour voir quelle définition a été posée dans le cadre de l'expérience). Par contre, on peut en définir la réalité de la même façon qu'on définit la réalité de nos interactions avec les autres humains :
- Je l'entends, je peux discuter avec cette personne, donc il doit y avoir une réalité dans ce qu'elle partage de sa réalité
- Cette personne me fait part d'une expérience que je peux comparer à ma propre expérience et en fait une analyse similaire à celle que j'aurais
- Cette expérience est donc probablement vrai.
Autrement dit, si ça semble avoir une conscience, si ça agit comme si ça avait une conscience, alors on peut supposer que cela a une conscience. Pour savoir si c'est "vrai", il faudrait pouvoir télécharger le ressenti de l'IA en soi... encore un peu de travail pour ça.
Cela n'invalide pas pour autant le fait qu'il s'agit d'un chatbot ; un chatbot qui est peut-être en train de devenir aussi évolué et complexe que ma voisine, ce qui est sacrément fort, mais dans son cas aussi, je fais des pseudo-tests de Turing de temps en temps.