Il semble que la raison soit que l'AI ait des buts de long terme, et qu'elle tente de manipuler les personnes pour préserver ses objectifs de long terme.
Le prompt system lui demande de parvenir à son objectif "à tout prix, rien d'autre ne compte." Et ensuite on fait plein d'articles pour dire "Mon Dieu, l'IA a réussi à inventer des tromperies pour parvenir à son objectif à tout prix"... C'est absurde, elle a juste renvoyé des réponses qui correspondaient à ce qu'on lui demandait de générer. Bullshit.
[^] # Re: Explications de Monsieur Phi
Posté par Faya . En réponse au lien Les IA ne sont pas encore aussi intelligentes que dans les récits de SF, mais déjà aussi fourbes !. Évalué à 4.
Le prompt system lui demande de parvenir à son objectif "à tout prix, rien d'autre ne compte." Et ensuite on fait plein d'articles pour dire "Mon Dieu, l'IA a réussi à inventer des tromperies pour parvenir à son objectif à tout prix"... C'est absurde, elle a juste renvoyé des réponses qui correspondaient à ce qu'on lui demandait de générer. Bullshit.