Les LLM sont des IA génératives dont le but est de résoudre un problème précis : connaissant le début d'un texte quel est la suite. Donc de manière très schématique on leur montre suffisamment de textes pour qu'ils "devinent" la suite d'un nouveau texte. Quand un LLM joue aux échecs, on lui donne une représentation textuelle des coups et il continue le texte.
Mais une énorme par des IA font de la catégorisation. On l'entraîne pour par exemple lui donner une image et qu'elle nous dise s'il s'agit d'un chien ou d'un muffin aux myrtilles. Grosso modo l'entraînement dans ces cas là c'est on donne à l'IA une représentation qui nous arrange de la situation et il nous donne un résultat si c'est pertinent, on le valide et ça entraîne progressivement l'IA.
Ça n'empêche pas d'avoir de grosses erreurs, mais ce n'est pas des hallucinations
[^] # Re: toutes les IA n'hallucinent pas
Posté par barmic 🦦 . En réponse au lien À quand des drones tueurs qui hallucinent dans l'armée française ? Partenariat avec Mistral AI. Évalué à 3.
Les LLM sont des IA génératives dont le but est de résoudre un problème précis : connaissant le début d'un texte quel est la suite. Donc de manière très schématique on leur montre suffisamment de textes pour qu'ils "devinent" la suite d'un nouveau texte. Quand un LLM joue aux échecs, on lui donne une représentation textuelle des coups et il continue le texte.
Mais une énorme par des IA font de la catégorisation. On l'entraîne pour par exemple lui donner une image et qu'elle nous dise s'il s'agit d'un chien ou d'un muffin aux myrtilles. Grosso modo l'entraînement dans ces cas là c'est on donne à l'IA une représentation qui nous arrange de la situation et il nous donne un résultat si c'est pertinent, on le valide et ça entraîne progressivement l'IA.
Ça n'empêche pas d'avoir de grosses erreurs, mais ce n'est pas des hallucinations
https://linuxfr.org/users/barmic/journaux/y-en-a-marre-de-ce-gros-troll