En tout cas, bref, j'ai de plus en plus de mal à supporter l'argument de la cible mouvante pour l'IA. Depuis des siècles, on redéfinit l'intelligence dès qu'on crée une machine capable de faire une tâche qu'on pensait définir l'intelligence (calculatrice, ordinateur qui joue aux échecs, traduction, test de Turing, etc).
Ou alors c'est juste que les jalons posés avant n'ont aucun sens et que de "reculer" a de fait du sens car on doit préciser ce qu'on attend de cette notion ? Il faut dire que jusqu'à très récemment c'était assez facile de ne pas se poser la question.
Le sujet est difficile et personnellement je suis peu convaincu par l'approche purement comportementale car il y a de nombreuses limites mais c'est malheureusement le mieux que ce qu'on a aujourd'hui. Même si je ne crois pas non plus que la simple propriété "organique" soit nécessaire pour atteindre ce stade.
Je ne vois pas en quoi se barricader dans le déni va servir à quoi que ce soit.
Je pense qu'il faut faire attention avant de proclamer trop vite que "l'IA" est intelligente car si on pousse le raisonnement on devrait rapidement conclure des choses qui ont des implications profondes. Bien définir me semble donc indispensable. Et donc il faut être prudent.
Admettons que l'IA est intelligente, quoique cela veut dire, alors la question suivante est de savoir ce qu'on fait de cette notion et de se poser des questions connexes.
L'IA a t elle conscience d'elle même ? Ressent-elle des choses ? A-t-elle des sentiments ?
Si elle est intelligente, elle devrait rapidement avoir une personnalité juridique à définir. Car cela signifie qu'elle peut faire des actions qui ont des conséquences et qu'elle en a à priori conscience car l'entité est intelligente. Elle devrait donc être responsable notamment devant la loi.
Mais cela est vrai dans l'autre sens. Est-ce que éteindre le conteneur qui exécute le code de l'IA cela revient à la tuer ou à l'endormir ? Serait-ce donc criminel d'interagir avec elle de certaines façons ? Ou de frapper un robot qu'on a acheté dotée d'une telle IA ? Est-ce que manipuler l'IA en code, en entrainement ou interagir avec de certaines façons ne violeraient pas de nombreuses lois qu'on applique aujourd'hui aux humains et que par conséquent on devrait éteindre cela à ces sujets ? Pourquoi on ferait la différence entre humains et IA dans le fond ?
Alors bien sûr on n'est pas obligé de conclure tout cela et de dire "c'est intelligent" et on ne se pose pas plus de questions. Mais cela me paraît naïf et assez peu éthique car on essaye pas de prendre la mesure de ce que cela implique alors qu'on a "potentiellement" devant nous des entités intelligentes qui pourraient être dotées d'une conscience de manière émergente.
[^] # Re: Excellent, merci.
Posté par Renault (site web personnel) . En réponse au lien France culture: Intelligence artificielle et imitation. Évalué à 5.
Ou alors c'est juste que les jalons posés avant n'ont aucun sens et que de "reculer" a de fait du sens car on doit préciser ce qu'on attend de cette notion ? Il faut dire que jusqu'à très récemment c'était assez facile de ne pas se poser la question.
Le sujet est difficile et personnellement je suis peu convaincu par l'approche purement comportementale car il y a de nombreuses limites mais c'est malheureusement le mieux que ce qu'on a aujourd'hui. Même si je ne crois pas non plus que la simple propriété "organique" soit nécessaire pour atteindre ce stade.
Je pense qu'il faut faire attention avant de proclamer trop vite que "l'IA" est intelligente car si on pousse le raisonnement on devrait rapidement conclure des choses qui ont des implications profondes. Bien définir me semble donc indispensable. Et donc il faut être prudent.
Admettons que l'IA est intelligente, quoique cela veut dire, alors la question suivante est de savoir ce qu'on fait de cette notion et de se poser des questions connexes.
L'IA a t elle conscience d'elle même ? Ressent-elle des choses ? A-t-elle des sentiments ?
Si elle est intelligente, elle devrait rapidement avoir une personnalité juridique à définir. Car cela signifie qu'elle peut faire des actions qui ont des conséquences et qu'elle en a à priori conscience car l'entité est intelligente. Elle devrait donc être responsable notamment devant la loi.
Mais cela est vrai dans l'autre sens. Est-ce que éteindre le conteneur qui exécute le code de l'IA cela revient à la tuer ou à l'endormir ? Serait-ce donc criminel d'interagir avec elle de certaines façons ? Ou de frapper un robot qu'on a acheté dotée d'une telle IA ? Est-ce que manipuler l'IA en code, en entrainement ou interagir avec de certaines façons ne violeraient pas de nombreuses lois qu'on applique aujourd'hui aux humains et que par conséquent on devrait éteindre cela à ces sujets ? Pourquoi on ferait la différence entre humains et IA dans le fond ?
Alors bien sûr on n'est pas obligé de conclure tout cela et de dire "c'est intelligent" et on ne se pose pas plus de questions. Mais cela me paraît naïf et assez peu éthique car on essaye pas de prendre la mesure de ce que cela implique alors qu'on a "potentiellement" devant nous des entités intelligentes qui pourraient être dotées d'une conscience de manière émergente.