La prochaine étape est d'entrer dans l'agentique : le script va pouvoir exécuter les commandes envoyées par le LLM (avec tout le danger qui va avec bien évidemment !). Mais du coup je pourrai bien voir comment marche un agent au moins pour la base.
Si tu veut quelque chose de plus sûr au lieu de lui faire générer des commandes shell, tu peut lui donner des outils.
Dans la requête de prompt, tu déclare des tools.
{"messages":[{"role":"user","content":"Coucou"}],"tools":[{"type":"function","function":{"name":"get_list_files","description":"Get the list of files of a folder","parameters":{"type":"object","properties":{"folder":{"type":"string","description":"The folder"}},"required":["folder"]}}}],"tool_choice":"auto"}
Et quand tu reçoit une réponse qui demande un tool call, tu peut exécuter et lui répondre. Il faut que ce soit supporté par le modèle par contre. C’est un peu contraignant, mais c’est le plus sûr.
Sinon tu peut utiliser un shell sécurisé comme lshell.
# Tools
Posté par barmic 🦦 . En réponse au journal 'gégé' : enfin de l'IA dans ton shell !. Évalué à 6 (+4/-0).
Si tu veut quelque chose de plus sûr au lieu de lui faire générer des commandes shell, tu peut lui donner des outils.
Dans la requête de prompt, tu déclare des tools.
Et quand tu reçoit une réponse qui demande un tool call, tu peut exécuter et lui répondre. Il faut que ce soit supporté par le modèle par contre. C’est un peu contraignant, mais c’est le plus sûr.
Sinon tu peut utiliser un shell sécurisé comme lshell.
https://linuxfr.org/users/barmic/journaux/y-en-a-marre-de-ce-gros-troll