Pour le coup je ne suis pas sur de pouvoir aider, j'ai une carte assez récente (rx6800xt), je suis sous archlinux et j'utilise le pilote opensource.
J'ai utiliser GPT4All pour tester ces modèles, et à part ça je n'ai pas installé grand chose d'autre.
Ça a juste marché dans mon cas.
[^] # Re: Choix GPU
Posté par Aldebaran (site web personnel) . En réponse au journal Introduction pratique aux grands modèles de langage / LLM. Évalué à 1.
Pour le coup je ne suis pas sur de pouvoir aider, j'ai une carte assez récente (rx6800xt), je suis sous archlinux et j'utilise le pilote opensource.
J'ai utiliser GPT4All pour tester ces modèles, et à part ça je n'ai pas installé grand chose d'autre.
Ça a juste marché dans mon cas.