Tout dépend de ce que tu veux faire. Dans le cadre de ce journal comme du mien, on parle pas mal de générer du code. Là on est dans une utilisation complexe du LLM et oui faut du matos.
Mais sans matériel compliqué, et même en pur CPU, on peut déjà faire pas mal de chose comme résumer un texte, le corriger, le traduire... Idem pour la vision et l'OCR ça demande bcp moins de ressources.
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.
[^] # Re: Merci
Posté par gUI (Mastodon) . En réponse au journal Auto-héberger ses IA. Évalué à 7 (+4/-0).
Tout dépend de ce que tu veux faire. Dans le cadre de ce journal comme du mien, on parle pas mal de générer du code. Là on est dans une utilisation complexe du LLM et oui faut du matos.
Mais sans matériel compliqué, et même en pur CPU, on peut déjà faire pas mal de chose comme résumer un texte, le corriger, le traduire... Idem pour la vision et l'OCR ça demande bcp moins de ressources.
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.