Je le répète en gras, parce que c’est un point critique : ChatGPT n’est pas un moteur de recherche.
En conséquence, ceci devient un problème :
Si c'est l'entreprise OpenAI qui a fait l'effort de mettre une information disponible pour moi, c'est elle que je cite. C'est bien l'entreprise OpenAI qui a la citation, pas chatGPT lui-même en tant que "personne". [...] Que OpenAI elle-même soit incapable de citer les sources sur lesquelles elle base sa réponse est — dans mon contexte — un non-problème.
Sauf que encore une fois, ChatGPT n’est pas un moteur de recherche. Il ne va pas te ressortir des informations telles qu’il les a ingurgitées, par conception.
La conséquence principale, c’est la présence de résultats plausibles mais complètement inventés, absents du corpus d’entrainement et donc des sources, un phénomène que l’on regroupe sous le terme d’« hallucination ».
Conséquence : une information qui n’existe que sur ChatGPT est peut-être vraie, ou peut-être de la pure invention. Et tu n’as aucun moyen de le savoir tant que tu n’as pas réussi à vérifier cette information, soit via des sources tierces, soit en re-démontrant ce qu’il y a à démontrer.
C’est à rapprocher avec ce que tu dis ici :
Au final, la communauté mathématique a échoué à mettre en ligne un énoncé et une démonstration correcte de «tout groupe de Lie C{\infty} est analytique».
Ensuite la communauté mathématique a échoué à répondre à une question sur stackexchange.
Au final c'est un échec retentissant pour l'ensemble de la communauté mathématique.
Si ChatGPT a réussi à retrouver quelque chose que « la communauté mathématique » a échoué à faire... il y a un vrai risque pour que l’information de ChatGPT soit une hallucination.
# Le cas particulier ChatGPT
Posté par SpaceFox (site web personnel, Mastodon) . En réponse à la dépêche Le Frido 2025. Évalué à 10.
ChatGPT n’est pas un moteur de recherche.
Je le répète en gras, parce que c’est un point critique : ChatGPT n’est pas un moteur de recherche.
En conséquence, ceci devient un problème :
Sauf que encore une fois, ChatGPT n’est pas un moteur de recherche. Il ne va pas te ressortir des informations telles qu’il les a ingurgitées, par conception.
La conséquence principale, c’est la présence de résultats plausibles mais complètement inventés, absents du corpus d’entrainement et donc des sources, un phénomène que l’on regroupe sous le terme d’« hallucination ».
Pire : malgré les stratégies mises en places par OpenAI pour s’en débarrasser, ces hallucinations sont mathématiquement inévitables, d’après OpenAI elle-même.
Conséquence : une information qui n’existe que sur ChatGPT est peut-être vraie, ou peut-être de la pure invention. Et tu n’as aucun moyen de le savoir tant que tu n’as pas réussi à vérifier cette information, soit via des sources tierces, soit en re-démontrant ce qu’il y a à démontrer.
C’est à rapprocher avec ce que tu dis ici :
Si ChatGPT a réussi à retrouver quelque chose que « la communauté mathématique » a échoué à faire... il y a un vrai risque pour que l’information de ChatGPT soit une hallucination.
La connaissance libre : https://zestedesavoir.com