Il arrive que les liens pointent vers rien, ou un truc qui n’a rien à voir
Il arrive que les liens donnent une info contradictoire à celle fournie dans la réponse
Impossible de le savoir sans tout vérifier, ou sans avoir une connaissance du sujet qui permette de facilement identifier le ou les points à contrôler.
Il me semble que tu tombes dans le piège de « la réponse semble cohérente et argumentée donc elle doit être juste ». C’est tout le problème des LLMs ; ils se trompent avec panache, avec tout ce qu’il faut pour que l’humain soit convaincu que « là, pas de doute, c’est carré ».
Le web regorge d’anecdotes sur des erreurs de ce type.
[^] # Re: Ça vous sert à quoi au quotidien ?
Posté par Dring . En réponse au journal Auto-héberger ses LLM (IA) : Débordement CPU+RAM, Mixture-of-Experts et Benchmarks. Évalué à 7 (+5/-0).
Il arrive que les liens pointent vers rien, ou un truc qui n’a rien à voir
Il arrive que les liens donnent une info contradictoire à celle fournie dans la réponse
Impossible de le savoir sans tout vérifier, ou sans avoir une connaissance du sujet qui permette de facilement identifier le ou les points à contrôler.
Il me semble que tu tombes dans le piège de « la réponse semble cohérente et argumentée donc elle doit être juste ». C’est tout le problème des LLMs ; ils se trompent avec panache, avec tout ce qu’il faut pour que l’humain soit convaincu que « là, pas de doute, c’est carré ».
Le web regorge d’anecdotes sur des erreurs de ce type.