Tu dira encore que c’est un défaut de sécurisation ?
Yep, je maintiens, y compris dans la faille zero day, c'est bien un problème de l'outil qui a une faille.
En tous cas, le prompt ne doit jamais contenir de "surtout ne fait pas ça", on a bien compris que ça ne marche pas. Une fois ceci compris, faut faire avec. Encore une fois, le LLM ne fait que pisser du texte, il faut un "con" derrière pour l'exécuter. Si tu filtres pas, c'est un peu comme le sanitize d'une boîte de dialogue de site web : une fois que tu sais que l'injection SQL est facile, alors tu prends les devants.
Par exemple mon shell command est l'exemple parfait du truc à ne pas faire par exemple.
Et tu en a marre de valider des [...]
Il est bien là le soucis :) La facilité c'est de lui laisser les clés du camion.
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.
[^] # Re: Gégé award
Posté par gUI (Mastodon) . En réponse au journal Auto-héberger ses LLM (IA) : Interfaces utilisateur. Évalué à 3 (+0/-0). Dernière modification le 19 août 2026 à 19:45.
Yep, je maintiens, y compris dans la faille zero day, c'est bien un problème de l'outil qui a une faille.
En tous cas, le prompt ne doit jamais contenir de "surtout ne fait pas ça", on a bien compris que ça ne marche pas. Une fois ceci compris, faut faire avec. Encore une fois, le LLM ne fait que pisser du texte, il faut un "con" derrière pour l'exécuter. Si tu filtres pas, c'est un peu comme le sanitize d'une boîte de dialogue de site web : une fois que tu sais que l'injection SQL est facile, alors tu prends les devants.
Par exemple mon
shell commandest l'exemple parfait du truc à ne pas faire par exemple.Il est bien là le soucis :) La facilité c'est de lui laisser les clés du camion.
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.