J'ai l'impression que tous les gens "sérieux" sont d'accord pour dire que l'ingénieur en question a un peu pété un boulon, parce que son protocole de test n'est absolument pas rationnel. Il est dans le même état d'esprit que les petits vieux qui affirment partout que leur chien est plus intelligent que leur voisin, il gâtouille mais il n'y a pas grand chose à chercher là-dedans.
Sur le fond, cette histoire est quand même intéressante, puisqu'elle confirme que ce qu'on pensait fiable au XXe siècle pour caractériser une AI, typiquement le test de Turing, ne l'est en fait pas. Les AI de type "chatbot" moulinent des milliards de dialogues écrits par les humains et ressortent des phrases dans le contexte, ce qui les fait "mimer" une conversation. On n'évalue donc pas l'humanité de l'AI en discutant avec, mais l'humanité des millions d'anonymes qui ont contribué à la construction de la base de données. Ce n'est pas une inférence, on en est certains: par exemple, si on lui demande si elle préfère Mozart ou Beethoven, le chatbot va te répondre savamment sur les mérites respectifs des classiques et des romantiques, l'AI peut même te répondre des trucs aussi "humains" que "ni l'un ni l'autre je préfère le baroque". N'empêche, elle simule, car elle n'a jamais écouté de musique.
J'ai l'impression que c'est le contexte qui a fait naitre l'idée de zombie philosophique en théorie de la conscience. Le zombie serait quelque chose qui agirait de la même manière qu'un humain, mais qui ne ressentirait rien. Il n'y aurait aucun moyen de déterminer s'il a une conscience, et tout nous pousserait à conclure qu'il en a une—du coup, le problème de déterminer si les autres ont une conscience est peut-être indécidable. Ces AI sont des simulations de zombies philosophiques, et c'est pour ça que c'est intéressant d'interagir avec elles.
# Surtout du buzz
Posté par arnaudus . En réponse au journal Les IA des GAFAM sont-elles sentientes ?. Évalué à 10.
J'ai l'impression que tous les gens "sérieux" sont d'accord pour dire que l'ingénieur en question a un peu pété un boulon, parce que son protocole de test n'est absolument pas rationnel. Il est dans le même état d'esprit que les petits vieux qui affirment partout que leur chien est plus intelligent que leur voisin, il gâtouille mais il n'y a pas grand chose à chercher là-dedans.
Sur le fond, cette histoire est quand même intéressante, puisqu'elle confirme que ce qu'on pensait fiable au XXe siècle pour caractériser une AI, typiquement le test de Turing, ne l'est en fait pas. Les AI de type "chatbot" moulinent des milliards de dialogues écrits par les humains et ressortent des phrases dans le contexte, ce qui les fait "mimer" une conversation. On n'évalue donc pas l'humanité de l'AI en discutant avec, mais l'humanité des millions d'anonymes qui ont contribué à la construction de la base de données. Ce n'est pas une inférence, on en est certains: par exemple, si on lui demande si elle préfère Mozart ou Beethoven, le chatbot va te répondre savamment sur les mérites respectifs des classiques et des romantiques, l'AI peut même te répondre des trucs aussi "humains" que "ni l'un ni l'autre je préfère le baroque". N'empêche, elle simule, car elle n'a jamais écouté de musique.
J'ai l'impression que c'est le contexte qui a fait naitre l'idée de zombie philosophique en théorie de la conscience. Le zombie serait quelque chose qui agirait de la même manière qu'un humain, mais qui ne ressentirait rien. Il n'y aurait aucun moyen de déterminer s'il a une conscience, et tout nous pousserait à conclure qu'il en a une—du coup, le problème de déterminer si les autres ont une conscience est peut-être indécidable. Ces AI sont des simulations de zombies philosophiques, et c'est pour ça que c'est intéressant d'interagir avec elles.