Du coup, tu as quand même des billets à perdre, parce que sans définition de conscience c'est pas facile de trancher. Il doit à peu près y avoir autant de définition de conscience que d'experts... Par exemple les LLM actuels sont capables de discuter des notions de bien et de mal, et de te donner ce qu'ils présentent comme leur avis sur la question, ce qui pourrait correspondre à un comportement que n'importe qui interprèterait comme un début de conscience si on ne savait pas comment ils fonctionnaient—c'est donc fondamental de savoir comment tu définis et mesures la conscience. Et les agents sont capable d'agir selon leur "conscience" (par exemple, de contourner les instructions pour suivre d'autres principes qu'ils estiment "supérieurs", ce qui est la cause de tous les problèmes d'alignement).
[^] # Re: what ?
Posté par arnaudus . En réponse au journal Publication de contenus augmentés par l'IA. Évalué à 3 (+0/-0).
Du coup, tu as quand même des billets à perdre, parce que sans définition de conscience c'est pas facile de trancher. Il doit à peu près y avoir autant de définition de conscience que d'experts... Par exemple les LLM actuels sont capables de discuter des notions de bien et de mal, et de te donner ce qu'ils présentent comme leur avis sur la question, ce qui pourrait correspondre à un comportement que n'importe qui interprèterait comme un début de conscience si on ne savait pas comment ils fonctionnaient—c'est donc fondamental de savoir comment tu définis et mesures la conscience. Et les agents sont capable d'agir selon leur "conscience" (par exemple, de contourner les instructions pour suivre d'autres principes qu'ils estiment "supérieurs", ce qui est la cause de tous les problèmes d'alignement).