Les modèles spécifiques text 2 speach, speach 2 text, detection d'yeux rouge,... Donc beaucoup de classification qui travaillent avec peu de mémoire.
Photoshop peu beaucoup en profiter, je sais pas ce qu'en fait win mais si tu ouvre ton ordi sur de la reconnaissance de visage, s'ils veulent catégoriser tes fichiers.
Dis-toi que la première limite pour faire tourner des llm sur ta carte graphique c'est le volume mémoire. Donc une puce n'est pas livrée avec au minimum 8Gio de RAM (mais 16 ou 32 c'est mieux) elle n'est pas prévu pour les llm.
Si tu as un nombre d'opérations par seconde trop bas ton llm va ramer, si tu n'a pas assez de mémoire il ne se lancera pas
[^] # Re: NPU ?
Posté par barmic 🦦 . En réponse au journal IA : mon parcours initiatique. Évalué à 3 (+1/-0).
Les modèles spécifiques text 2 speach, speach 2 text, detection d'yeux rouge,... Donc beaucoup de classification qui travaillent avec peu de mémoire.
Photoshop peu beaucoup en profiter, je sais pas ce qu'en fait win mais si tu ouvre ton ordi sur de la reconnaissance de visage, s'ils veulent catégoriser tes fichiers.
Dis-toi que la première limite pour faire tourner des llm sur ta carte graphique c'est le volume mémoire. Donc une puce n'est pas livrée avec au minimum 8Gio de RAM (mais 16 ou 32 c'est mieux) elle n'est pas prévu pour les llm.
Si tu as un nombre d'opérations par seconde trop bas ton llm va ramer, si tu n'a pas assez de mémoire il ne se lancera pas
https://linuxfr.org/users/barmic/journaux/y-en-a-marre-de-ce-gros-troll