Sous Fedora 44, Framework, contribue au projet pour garantir la compatibilité du matériel. Même si tout n’est pas encore parfait, il est très appréciable de pouvoir faire tourner des modèles en local avec une consommation d’énergie bien moindre que celle d’un GPU.
J’utilise quotidiennement Qwen‐3.6 : 35 B et 27 B (en quantification Q8). GPT‐OSS‐120 fonctionne aussi parfaitement.
Ce compromis est intéressant, il permet d’exécuter un LLM local tout en conservant la capacité de virtualiser grâce aux 128 Go de RAM unifiée.
# Framework Desktop
Posté par seb . En réponse au message Retours d'expériences Hardware pour homelab LLM. Évalué à 3 (+2/-0).
Salut,
Je travaille depuis quelques mois avec une machine équipée d’un AMD Ryzen AI Max + 395 (https://frame.work/fr/en/products/desktop-diy-amd-aimax300/configuration/new)
Sous Fedora 44, Framework, contribue au projet pour garantir la compatibilité du matériel. Même si tout n’est pas encore parfait, il est très appréciable de pouvoir faire tourner des modèles en local avec une consommation d’énergie bien moindre que celle d’un GPU.
J’utilise quotidiennement Qwen‐3.6 : 35 B et 27 B (en quantification Q8). GPT‐OSS‐120 fonctionne aussi parfaitement.
Ce compromis est intéressant, il permet d’exécuter un LLM local tout en conservant la capacité de virtualiser grâce aux 128 Go de RAM unifiée.
Je le recommande sincèrement aujourd’hui.