Les IA n'ont pas la conscience de savoir ou de ne pas savoir quelque chose. Du coup il n'y a pas de notion de "je ne sais pas". Elle va te donner quelque chose qui ressemble à la réponse que donnerait n'importe qui, avec les informations qu'il ou elle possède sans avoir aucune notion de la véracité et avec la plus grande confiance. Du coup ouais quand c'est faux ça ressemble à un mensonge et si tu la confrontes à ça en l'accusant, elle va tourner autour du pot parce qu'elle n'a pas d'autre mode de fonctionnement et qu'elle fonctionne selon son entrainement des interactions humaines. Les humains font souvent la même chose et admettent rarement leurs erreurs, du coup la majorité du contenu sur laquelle les IA est entrainé a ce genre de comportement. Regarde les trolls sur linuxfr, toute autre plateforme online voire la politique. Les gens ne changent rarement d'avis, s'obstinent et vont plutôt tourner vers la mauvaise foi que de dire " ah ouais c'est vrai ta raison". L'IA est un miroir.
Et après il y a des bricolage liés à la modération qui peuvent induire des comportements qui paraissent suspects.
Je n'ai pas suivi le lien instagram, donc c'est juste mon idée suite à ta description.
# Mentir?
Posté par Psychofox (Mastodon) . En réponse au journal Je suis perdu et je pensais m'être renseigné.... Évalué à 5. Dernière modification le 14 février 2025 à 11:01.
Les IA n'ont pas la conscience de savoir ou de ne pas savoir quelque chose. Du coup il n'y a pas de notion de "je ne sais pas". Elle va te donner quelque chose qui ressemble à la réponse que donnerait n'importe qui, avec les informations qu'il ou elle possède sans avoir aucune notion de la véracité et avec la plus grande confiance. Du coup ouais quand c'est faux ça ressemble à un mensonge et si tu la confrontes à ça en l'accusant, elle va tourner autour du pot parce qu'elle n'a pas d'autre mode de fonctionnement et qu'elle fonctionne selon son entrainement des interactions humaines. Les humains font souvent la même chose et admettent rarement leurs erreurs, du coup la majorité du contenu sur laquelle les IA est entrainé a ce genre de comportement. Regarde les trolls sur linuxfr, toute autre plateforme online voire la politique. Les gens ne changent rarement d'avis, s'obstinent et vont plutôt tourner vers la mauvaise foi que de dire " ah ouais c'est vrai ta raison". L'IA est un miroir.
Et après il y a des bricolage liés à la modération qui peuvent induire des comportements qui paraissent suspects.
Je n'ai pas suivi le lien instagram, donc c'est juste mon idée suite à ta description.