Et ben pour moi non, c'est pas du tout trivial que le raisonnement soit impossible. Parce qu'il est capable d'apprendre une certaine forme de généralisation.
J'ai par curiosité essayé de lui faire appliquer un syllogisme (trivial) avec des mots inventés pour être sur que c'est pas un syllogisme de son corpus, ben il y arrive parfaitement. Donc d'une certaine manière, il est capable de faire certaines formes de raisonnement élémentaire et d'en déduire des trucs.
Une fois que tu as fait ça, en principe, il pourrait déduire d'autres trucs à partir de ça, de manière parfaitement correcte. Si il est capable d'appliquer une règle de raisonnement une fois sur des valeurs arbitraire, il devrait être capable de le faire également une autre fois. Avec dans son contexte les conclusions qu'il a déjà eu, donc d'être capable de les reprendre.
Ce qui n'est pas surprenant dans un tel cadre c'est qu'il ne soit pas vraiment capable de revenir en arrière et de remettre en cause son "raisonnement" en cas de résultat absurde parce qu'il n'y a pas de notion de "backtracking" dans une telle boucle ou il complète juste ce qui est entamé.
On pourrait aussi s'interroger sur l'émergence possible d'une notion de "vérité" et d'erreur étant donné qu'il a une certaine capacité de généralisation et qu'il a plein d'exemples, on pourrait supposer que ce soit un truc qui soit utile pour prédire le mot suivant de manière plus efficace, qu'à force de voir des textes qui utilisent plus ou moins ces notions explicitement il finisse par les "encoder" dans son réseau. Il semblerait que pour l'instant ça ne soit pas arrivé et qu'on ne voie pas venir ça, et pour moi c'est pas totalement une évidence.
[^] # Re: Wow
Posté par thoasm . En réponse au lien Microsoft’s Copilot falsely accuses court reporter of crimes he covered - OSnews. Évalué à 2.
Et ben pour moi non, c'est pas du tout trivial que le raisonnement soit impossible. Parce qu'il est capable d'apprendre une certaine forme de généralisation.
J'ai par curiosité essayé de lui faire appliquer un syllogisme (trivial) avec des mots inventés pour être sur que c'est pas un syllogisme de son corpus, ben il y arrive parfaitement. Donc d'une certaine manière, il est capable de faire certaines formes de raisonnement élémentaire et d'en déduire des trucs.
Une fois que tu as fait ça, en principe, il pourrait déduire d'autres trucs à partir de ça, de manière parfaitement correcte. Si il est capable d'appliquer une règle de raisonnement une fois sur des valeurs arbitraire, il devrait être capable de le faire également une autre fois. Avec dans son contexte les conclusions qu'il a déjà eu, donc d'être capable de les reprendre.
Ce qui n'est pas surprenant dans un tel cadre c'est qu'il ne soit pas vraiment capable de revenir en arrière et de remettre en cause son "raisonnement" en cas de résultat absurde parce qu'il n'y a pas de notion de "backtracking" dans une telle boucle ou il complète juste ce qui est entamé.
On pourrait aussi s'interroger sur l'émergence possible d'une notion de "vérité" et d'erreur étant donné qu'il a une certaine capacité de généralisation et qu'il a plein d'exemples, on pourrait supposer que ce soit un truc qui soit utile pour prédire le mot suivant de manière plus efficace, qu'à force de voir des textes qui utilisent plus ou moins ces notions explicitement il finisse par les "encoder" dans son réseau. Il semblerait que pour l'instant ça ne soit pas arrivé et qu'on ne voie pas venir ça, et pour moi c'est pas totalement une évidence.