Avec un processeur Ryzen 5 8600G intégrant un Radeon 760M (183 € en 2025) + 64Go de DDR5 dont 16Go dédiés au GPU (180 euros avant la flambé des prix), je fais tourner sans problème des LLMs tels que GPT-OSS, Gemma3 ou Ministral3-14b en utilisant llama-server avec le backend Vulkan et llama-swap.
Je m'en sers régulièrement comme assistants de code pour des tâches simples ou pour m'aider dans l'administration système et, contrairement à ce que j'ai lu dans les commentaires, je trouve ces petits LLMs locaux assez efficaces.
Je suppose que toute personne possédant un processeur moderne (amd ou intel) intégrant un GPU et au moins 32G de DDR4 ou 5 pourrait en faire de même sans investir dans une CG onéreuse.
# Retour d'expérience sur une config bon marché.
Posté par ilhooq . En réponse au journal Auto-héberger ses IA. Évalué à 1 (+2/-1).
Avec un processeur Ryzen 5 8600G intégrant un Radeon 760M (183 € en 2025) + 64Go de DDR5 dont 16Go dédiés au GPU (180 euros avant la flambé des prix), je fais tourner sans problème des LLMs tels que GPT-OSS, Gemma3 ou Ministral3-14b en utilisant llama-server avec le backend Vulkan et llama-swap.
Je m'en sers régulièrement comme assistants de code pour des tâches simples ou pour m'aider dans l'administration système et, contrairement à ce que j'ai lu dans les commentaires, je trouve ces petits LLMs locaux assez efficaces.
Je suppose que toute personne possédant un processeur moderne (amd ou intel) intégrant un GPU et au moins 32G de DDR4 ou 5 pourrait en faire de même sans investir dans une CG onéreuse.