Merci pour ces 2 articles. J'ai fait des tentatives d'auto hébergement pour monter en compétence mon HA, mais sans carte graphique à 800,ドル c'est trop lent, pas utilisable au quotidien.
J'ai utilisé Ollama, mais tu sembles dire que ce n'est plus une solution intéressante.
Utiliser de l'IA pour HA n'est pas aussi contraignant qu'un gros llm, et l'auto hébergement est intéressant (compatible avec l'utilisation de HA),et abordable, et pourrait intéresser pas mal de monde.
Est ce que tu peux nous parler de ce que tu as fait pour booster ton HA ?
# auto hebergement et HA
Posté par piratebab2 . En réponse au journal Auto-héberger ses IA : Matériel et optimisation de l'inférence. Évalué à 1 (+2/-1).
Merci pour ces 2 articles. J'ai fait des tentatives d'auto hébergement pour monter en compétence mon HA, mais sans carte graphique à 800,ドル c'est trop lent, pas utilisable au quotidien.
J'ai utilisé Ollama, mais tu sembles dire que ce n'est plus une solution intéressante.
Utiliser de l'IA pour HA n'est pas aussi contraignant qu'un gros llm, et l'auto hébergement est intéressant (compatible avec l'utilisation de HA),et abordable, et pourrait intéresser pas mal de monde.
Est ce que tu peux nous parler de ce que tu as fait pour booster ton HA ?