En tous cas, le prompt ne doit jamais contenir de "surtout ne fait pas ça", on a bien compris que ça ne marche pas. Une fois ceci compris, faut faire avec.
Si si il peut mais ce n’est pas pour une raison de sécurité.
Encore une fois, le LLM ne fait que pisser du texte, il faut un "con" derrière pour l'exécuter. Si tu filtres pas, c'est un peu comme le sanitize d'une boîte de dialogue de site web : une fois que tu sais que l'injection SQL est facile, alors tu prends les devants.
C’est comme dire que les images bombes, zip bombes ou fichiers polyglottes ne sont pas des attaques.
[...] une fois que tu sais que l'injection SQL est facile, alors tu prends les devants.
Tu soulève un point que je trouve problématique avec ta représentation des choses. Il ne s’agit pas d’une classe de problèmes que tu peut corriger en appliquant une méthodes commune et invariable, mais d’une opposition active qui demande à s’approcher autant que possible de l’état de l’art à jour.
Et tu en a marre de valider des [...]
Il est bien là le soucis :) La facilité c'est de lui laisser les clés du camion.
Pourtant tu lui laisse la lecture ? Tu lui donne même des outils c’est aussi une facilité.
C’est une question de curseur tout ça. Tu pourrais juste discuter avec lui et lire toi même des fichiers etc pourtant tu lui donne accès à des commandes shells.
Ce n’est vraiment qu’une question de curseur entre une pression naturelle avec l’informatique à l’automatisation et la vision de la sécurité que tu peut en avoir.
[^] # Re: Gégé award
Posté par barmic 🦦 . En réponse au journal Auto-héberger ses LLM (IA) : Interfaces utilisateur. Évalué à 4 (+2/-0).
Si si il peut mais ce n’est pas pour une raison de sécurité.
C’est comme dire que les images bombes, zip bombes ou fichiers polyglottes ne sont pas des attaques.
Tu soulève un point que je trouve problématique avec ta représentation des choses. Il ne s’agit pas d’une classe de problèmes que tu peut corriger en appliquant une méthodes commune et invariable, mais d’une opposition active qui demande à s’approcher autant que possible de l’état de l’art à jour.
Pourtant tu lui laisse la lecture ? Tu lui donne même des outils c’est aussi une facilité.
C’est une question de curseur tout ça. Tu pourrais juste discuter avec lui et lire toi même des fichiers etc pourtant tu lui donne accès à des commandes shells.
Ce n’est vraiment qu’une question de curseur entre une pression naturelle avec l’informatique à l’automatisation et la vision de la sécurité que tu peut en avoir.
https://linuxfr.org/users/barmic/journaux/y-en-a-marre-de-ce-gros-troll