Apparemment ils ont quand même des résultats étonnants dans les recherches sur les manipulation des IAs.
L'idée c'est que le "pré-prompt" sert un peu de "lois de la robotiques" du robot, et que parfois certaines règles peuvent rentrer en conflit. Il est possible d'étudier dans certains cas si, par exemple, dans le cadre des "chain of thoughts" ou toutes les étapes de la génération ne sont pas montrées, il choisit "délibérément" de cacher certaines infos ou de "mentir" pour respecter son pre-prompt, voir par exemple la vidéo de Mr. Phi sur le sujet :
[^] # Re: Bof
Posté par thoasm . En réponse au journal [HS] La comédie Grok versus Musk/MAGA. Évalué à 5.
Apparemment ils ont quand même des résultats étonnants dans les recherches sur les manipulation des IAs.
L'idée c'est que le "pré-prompt" sert un peu de "lois de la robotiques" du robot, et que parfois certaines règles peuvent rentrer en conflit. Il est possible d'étudier dans certains cas si, par exemple, dans le cadre des "chain of thoughts" ou toutes les étapes de la génération ne sont pas montrées, il choisit "délibérément" de cacher certaines infos ou de "mentir" pour respecter son pre-prompt, voir par exemple la vidéo de Mr. Phi sur le sujet :
https://www.youtube.com/watch?v=cw9wcNKDOtQ