Hallucination, triche... il existe différents mots pour dire qu'au final l'IA fait pas "tout à fait" ce qu'on voudrait, mais si, c'est commun à toutes les IAs (et c'est quasi inévitable en fait).
Non, le terme "hallucination" utilisé dans le cas des LLM n'a rien à voir avec "l'IA ne fait pas tout à fait ce qu'on voudrait". Avec ta définition, on dirait qu'un programme bugué hallucine,
AlphaGo joue incroyablement bien au Go mais si elle perd on ne dit pas qu'elle a halluciné. Si on demande à DeepFold de déplier une protéine et qu'elle n'y arrive que partiellement, on ne dit pas qu'elle a halluciné, on dit que c'est déjà mieux que ce qu'on arrivait à faire jusque-là.
Quand ChatGPT produit un texte qui déçoit par rapport à ce qu'on attendait (par exemple un code imparfait), on ne dit pas qu'il hallucine. C'est seulement s'il dit que linuxfr.org a été créé en 2005 par gUI qu'il y a hallucination.
NB. La triche n'est pas considérée comme une hallucination (elle résulte d'ailleurs en général d'un prompt qui la conduit à ça, voir une vidéo de Mr Phi sur ce sujet).
Après, libre à toi d'appeler les choses avec le vocabulaire qui te convient mais ce n'est pas le meilleur chemin vers une bonne communication.
[^] # Re: toutes les IA n'hallucinent pas
Posté par mahikeulbody . En réponse au lien À quand des drones tueurs qui hallucinent dans l'armée française ? Partenariat avec Mistral AI. Évalué à 6.
Non, le terme "hallucination" utilisé dans le cas des LLM n'a rien à voir avec "l'IA ne fait pas tout à fait ce qu'on voudrait". Avec ta définition, on dirait qu'un programme bugué hallucine,
AlphaGo joue incroyablement bien au Go mais si elle perd on ne dit pas qu'elle a halluciné. Si on demande à DeepFold de déplier une protéine et qu'elle n'y arrive que partiellement, on ne dit pas qu'elle a halluciné, on dit que c'est déjà mieux que ce qu'on arrivait à faire jusque-là.
Quand ChatGPT produit un texte qui déçoit par rapport à ce qu'on attendait (par exemple un code imparfait), on ne dit pas qu'il hallucine. C'est seulement s'il dit que linuxfr.org a été créé en 2005 par gUI qu'il y a hallucination.
NB. La triche n'est pas considérée comme une hallucination (elle résulte d'ailleurs en général d'un prompt qui la conduit à ça, voir une vidéo de Mr Phi sur ce sujet).
Après, libre à toi d'appeler les choses avec le vocabulaire qui te convient mais ce n'est pas le meilleur chemin vers une bonne communication.