Maintenant, si vous voulez faire dans l'immoral : programmez une IA pour un objectif, et obligez-là à subir uniquement revers sur revers, par pure amusement sadique. Chose amusante : comme ça ne va pas le sens de notre propre programmation, je pense que personne ne verra l'intérêt d'un tel exercice.
Et pourtant, cette approche a déjà fait l'objet d'une application très concrète par la STASI sur des êtres humains pour garder un semblant de stabilité politique en Allemagne de l'Est. J'avoue que je serais bien curieux de savoir à quoi peut ressembler une dépression nerveuse chez un chatbot "sentient".
Toutefois, si on tient à respecter quelques principes éthiques pour ne pas provoquer des dommages irréversibles sur une conscience artificielle, on peut chercher à démontrer que le sujet a une représentation mentale de son environnement et qu'il est capable d'une manifestation de surprise quand sa représentation se révèle être fausse (dans le sens où le sujet constate que son environnement présente des éléments inattendus).
Par exemple:
Les chats font le lien de la présence de leur maître avec le domicile. Pour prouver l'existence de cette représentation mentale, un moyen est de déplacer le chat dans un endroit où il n'a pas l'habitude de voir le maître et observer sa réaction quand il entend la voix enregistrée de son humain.
Les araignées sauteuses évaluent à distance la nature et la situation de leur proie avant de prendre la décision de la chasser. Une série d'expérimentation façon "tour d’illusionniste" sur le genre Portia (une sorte de prédateur d'araignées) démontre au moins deux manière de surprendre cet invertébré, ce qui se traduit par une réticence à attaquer: soit intervertir le type de proie, soit modifier le nombre de proie.
Dans ce cas, les implications concernant l'émergence d'une conscience artificielle sont plus graves... Si ça se trouve, nous ne saurons jamais si nous sommes bien maître de notre corps pour assister à l'arrivée de la singularité ou si nous servons d'accumulateurs bio à notre insu dans une grosse centrale depuis un moment.
[^] # Re: La conscience n'est probablement pas quelque-chose de binaire
Posté par volts (Mastodon) . En réponse au journal Les IA des GAFAM sont-elles sentientes ?. Évalué à 5.
Et pourtant, cette approche a déjà fait l'objet d'une application très concrète par la STASI sur des êtres humains pour garder un semblant de stabilité politique en Allemagne de l'Est. J'avoue que je serais bien curieux de savoir à quoi peut ressembler une dépression nerveuse chez un chatbot "sentient".
Toutefois, si on tient à respecter quelques principes éthiques pour ne pas provoquer des dommages irréversibles sur une conscience artificielle, on peut chercher à démontrer que le sujet a une représentation mentale de son environnement et qu'il est capable d'une manifestation de surprise quand sa représentation se révèle être fausse (dans le sens où le sujet constate que son environnement présente des éléments inattendus).
Par exemple:
En revanche... Parmi les autres signes mesurables de conscience, nous pouvons inclure la capacité à manipuler son entourage pour dissimuler ses propres véritables intentions. C'est le cas des chats qui font du mensonge par omission sur leur train de vie officieux, ou des araignées Portia qui n'ont aucune scrupule à appâter leurs proies en vibrant les toiles de leur victime de façon à faire croire à la présence de feuille morte, de moucheron, ou de la présence d'un mâle en rut selon l'espèce cible.
Dans ce cas, les implications concernant l'émergence d'une conscience artificielle sont plus graves... Si ça se trouve, nous ne saurons jamais si nous sommes bien maître de notre corps pour assister à l'arrivée de la singularité ou si nous servons d'accumulateurs bio à notre insu dans une grosse centrale depuis un moment.