Je suis peut-être hors sujet, mais j'aime, de temps en temps, tester les nouveaux modèles sur de très petites configs (J'ai une RTX 2070 8go et une Geforce 1050 2go).
Même si cela reste assez inutilisable, je suis assez impressionné par les progrès fait pas les petits modèles. Je ne comprends pas comment ils peuvent stocker autant d'informations dans 1Go.
Connais tu une communauté qui travaille sur le sujet ??
# Petite config
Posté par Cyprien (site web personnel) . En réponse au journal Auto-héberger ses IA : Matériel et optimisation de l'inférence. Évalué à 3 (+1/-0).
Je suis peut-être hors sujet, mais j'aime, de temps en temps, tester les nouveaux modèles sur de très petites configs (J'ai une RTX 2070 8go et une Geforce 1050 2go).
Même si cela reste assez inutilisable, je suis assez impressionné par les progrès fait pas les petits modèles. Je ne comprends pas comment ils peuvent stocker autant d'informations dans 1Go.
Connais tu une communauté qui travaille sur le sujet ??