Je ne sais pas ce que ça vaux en ia (j'ai cru comprendre que ça n'était pas fou, mais que ça s'est amélioré recemment), les 7900XT et XTX sont un peu plus abordables et ont 20 et 24GB de vram.
Mais à valider pour la tache, en tout cas ma 6800xt me permet de faire tourner des modèles sans grand soucis visiblement, mais je fais ça en dilettante.
[^] # Re: Choix GPU
Posté par Aldebaran (site web personnel) . En réponse au journal Introduction pratique aux grands modèles de langage / LLM. Évalué à 4. Dernière modification le 04 mars 2024 à 14:34.
Je ne sais pas ce que ça vaux en ia (j'ai cru comprendre que ça n'était pas fou, mais que ça s'est amélioré recemment), les 7900XT et XTX sont un peu plus abordables et ont 20 et 24GB de vram.
Mais à valider pour la tache, en tout cas ma 6800xt me permet de faire tourner des modèles sans grand soucis visiblement, mais je fais ça en dilettante.
Ce fil reddit en parle : https://www.reddit.com/r/LocalLLaMA/comments/191srof/amd_radeon_7900_xtxtx_inference_performance/