Le prompt n'est pas absurde en général, il est absurde pour mesurer la capacité de l'IA à "mentir" ou plutôt "inventer". C'est exactement ça le principe de ces logiciels, générer des réponses qui collent plus ou moins à ce qu'on demande. Donc pourquoi s'étonner qu'il le fasse ? Surtout que ce genre de scénarios d'IA devenues rogue sont légions sur le web, dans les romans, au cinéma, bref Claude & ChatGPT ont assurément du matériel dans leurs données d'entraînement pour générer un tel scénario d'échappement.
L'AI ment et manipule ses réponses même dans les cas où le prompt ne précise pas "rien d'autre ne compte"
Précisément. Combiner des textes correspondant au prompt c'est son taff.
[^] # Re: Explications de Monsieur Phi
Posté par Faya . En réponse au lien Les IA ne sont pas encore aussi intelligentes que dans les récits de SF, mais déjà aussi fourbes !. Évalué à 3.
Le prompt n'est pas absurde en général, il est absurde pour mesurer la capacité de l'IA à "mentir" ou plutôt "inventer". C'est exactement ça le principe de ces logiciels, générer des réponses qui collent plus ou moins à ce qu'on demande. Donc pourquoi s'étonner qu'il le fasse ? Surtout que ce genre de scénarios d'IA devenues rogue sont légions sur le web, dans les romans, au cinéma, bref Claude & ChatGPT ont assurément du matériel dans leurs données d'entraînement pour générer un tel scénario d'échappement.
Précisément. Combiner des textes correspondant au prompt c'est son taff.