comment un LLM peut te dire à quoi correspond l'erreur 27 sur une machine à laver si l'information n'existe pas par ailleurs et sans sortir une réponse complètement inventée et sans rapport avec la réalité?
Je vois bien que tu ne peux pas y croire parce que tu n'as pas eu les bonnes informations sur le fonctionnement de ces modèles, mais pourtant un LLM moderne peut tout à fait répondre de manière très convaincante à des questions dont les réponses ne sont pas dans ses données d'entrainement, parce qu'il procède par analogie et déduction. Si tu préfères, il répond au hasard, mais il se trompe rarement.
"De quelle couleur sont les licornes polaires?
Les licornes polaires n’existent pas vraiment, mais si on joue le jeu, on peut les imaginer blanches scintillantes, comme la neige."
C'est évidemment la bonne réponse, non? :-) Pourtant, c'est quasiment certain que ça ne figurait pas dans les données d'entrainement. Ça a été déduit par analogie.
Trouver des questions dont on connait la réponse mais dont on peut être certains qu'elle ne figure pas dans les données d'entrainement est difficile, mais il existe des benchmarks pour LLMs et les progrès sont très substantiels. Alors évidemment, on peut discourir longuement sur la différence entre "savoir" et "connaitre", mais du point de vue de l'utilisateur, ce qui compte c'est la pertinence de la réponse, et pas la manière dont le LLM l'a obtenue. Si ça te rassure, tu peux penser que c'est les téras de données ingurgitées qui permettent aux LLM de répondre au hasard sans se tromper, mais le résultat est là.
[^] # Re: Je me demande
Posté par arnaudus . En réponse au journal npm et badaboum. Évalué à 0.
Je vois bien que tu ne peux pas y croire parce que tu n'as pas eu les bonnes informations sur le fonctionnement de ces modèles, mais pourtant un LLM moderne peut tout à fait répondre de manière très convaincante à des questions dont les réponses ne sont pas dans ses données d'entrainement, parce qu'il procède par analogie et déduction. Si tu préfères, il répond au hasard, mais il se trompe rarement.
"De quelle couleur sont les licornes polaires?
C'est évidemment la bonne réponse, non? :-) Pourtant, c'est quasiment certain que ça ne figurait pas dans les données d'entrainement. Ça a été déduit par analogie.
Trouver des questions dont on connait la réponse mais dont on peut être certains qu'elle ne figure pas dans les données d'entrainement est difficile, mais il existe des benchmarks pour LLMs et les progrès sont très substantiels. Alors évidemment, on peut discourir longuement sur la différence entre "savoir" et "connaitre", mais du point de vue de l'utilisateur, ce qui compte c'est la pertinence de la réponse, et pas la manière dont le LLM l'a obtenue. Si ça te rassure, tu peux penser que c'est les téras de données ingurgitées qui permettent aux LLM de répondre au hasard sans se tromper, mais le résultat est là.