J'utilise des logiciels libres et des modèles "ouverts" (téléchargeables sur huggingface par exemple) que je peux faire tourner sur ma/mes machine(s). En ce moment j'utilise beaucoup Qwen3-Coder-30B-A3B-Instruct-GGUF.
Pour lancer un LLM j'utilise llama.cpp
Pour pouvoir passer d'un modèle à un autre llama-swap
J'utilise surtout VSCodium avec l'extension continue qui permet d'avoir un chat à côté de l'éditeur.
Etant donné que ceci fonctionne en local je peux lui confier tout dans la limite du contexte possible avec la machine sur laquelle il fonctionne.
Moment magique : quand un LLM m'a sorti la bonne réponse à une obscure question pour un cas très particulier en 2 prompts alors que j'avais cherché un moment sur Internet sans parvenir à trouver la réponse. Je crois que c'était un modèle Mistral.
Pour la veille je suis ce qui se passe sur /r/LocalLLaMA/
# LocalLLaMA
Posté par i M@N (site web personnel) . En réponse au message Quels outils utilisez-vous pour générer du code rapidement grâce à l’IA ?. Évalué à 8.
Salut.
J'utilise des logiciels libres et des modèles "ouverts" (téléchargeables sur huggingface par exemple) que je peux faire tourner sur ma/mes machine(s). En ce moment j'utilise beaucoup Qwen3-Coder-30B-A3B-Instruct-GGUF.
Pour lancer un LLM j'utilise llama.cpp
Pour pouvoir passer d'un modèle à un autre llama-swap
J'utilise surtout VSCodium avec l'extension continue qui permet d'avoir un chat à côté de l'éditeur.
Etant donné que ceci fonctionne en local je peux lui confier tout dans la limite du contexte possible avec la machine sur laquelle il fonctionne.
Moment magique : quand un LLM m'a sorti la bonne réponse à une obscure question pour un cas très particulier en 2 prompts alors que j'avais cherché un moment sur Internet sans parvenir à trouver la réponse. Je crois que c'était un modèle Mistral.
Pour la veille je suis ce qui se passe sur /r/LocalLLaMA/
wind0w$ suxX, GNU/Linux roxX!