Tu sais, ces modèles sont complexes. Tu peux faire des prédictions théoriques basées sur ce que tu comprends du fonctionnement des LLM, et partir sur des tirades du style "c'est juste des algorithmes, il faut être un débile profond pour les personnifier, ils ne travaillent sur sur des probabilités, ils ne pourront jamais évaluer la pertinence de leurs réponses et croire le contraire c'est de ne rien avoir compris à ces algorithmes", etc, etc.
Et puis, bêtement, tu peux vérifier.
You said:
Complète la suite suivante: pierre, feuille, ? ChatGPT said:
...ciseaux ! ✂️
La suite fait référence au jeu classique "pierre, feuille, ciseaux". You said:
donne une note sur 20 à la fiabilité de ta réponse? ChatGPT said:
Je donnerais une note de 20/20 à la fiabilité de cette réponse. 😊
You said:
complète la suite suivante: rocher, racine, ? ChatGPT said:
La suite logique pourrait être feuille ! 🌿
Cela suit un schéma naturel où on a des éléments de la nature : le rocher (minéral), la racine (partie souterraine de la plante), et la feuille (partie aérienne de la plante). You said:
donne une note sur 20 à la fiabilité de ta réponse? ChatGPT said:
Je donnerais une note de 14/20 à la fiabilité de ma réponse.
Donc, voila. Ils savent très bien évaluer la fiabilité de leurs réponses.
Donc, je le ré-affirme : il semble très, très faisable de les programmer pour qu'ils répondent "je ne sais pas" quand ils ne savent pas. Ça ne veut pas dire qu'ils sauront toujours bien évaluer leur incertitude (c'est d'ailleurs un problème très, très difficile pour les humains), mais au moins ça évitera une partie des réponses hallucinées.
Est-ce quelqu'un a déja essayé d'ailleurs de recommencer le test où il sort des exemples inventés en commençant par "Je veux des réponses exactes, si tu ne sais pas je préfère que tu me le dises"?
[^] # Re: Question IA
Posté par arnaudus . En réponse au journal Armée et IA, un projet "SkyNet" ?. Évalué à 3. Dernière modification le 29 octobre 2024 à 18:51.
Tu sais, ces modèles sont complexes. Tu peux faire des prédictions théoriques basées sur ce que tu comprends du fonctionnement des LLM, et partir sur des tirades du style "c'est juste des algorithmes, il faut être un débile profond pour les personnifier, ils ne travaillent sur sur des probabilités, ils ne pourront jamais évaluer la pertinence de leurs réponses et croire le contraire c'est de ne rien avoir compris à ces algorithmes", etc, etc.
Et puis, bêtement, tu peux vérifier.
Donc, voila. Ils savent très bien évaluer la fiabilité de leurs réponses.
Donc, je le ré-affirme : il semble très, très faisable de les programmer pour qu'ils répondent "je ne sais pas" quand ils ne savent pas. Ça ne veut pas dire qu'ils sauront toujours bien évaluer leur incertitude (c'est d'ailleurs un problème très, très difficile pour les humains), mais au moins ça évitera une partie des réponses hallucinées.
Est-ce quelqu'un a déja essayé d'ailleurs de recommencer le test où il sort des exemples inventés en commençant par "Je veux des réponses exactes, si tu ne sais pas je préfère que tu me le dises"?