Merci pour ce journal! Je n’ai qu’un Mac mini m4 avec 24GB de ram mais de manière surprenante oss20b (q4) accompagné de Hermes Agent tourne correctement en prenant 20GB de RAM, ce qui semble cohérent avec votre règle.
Ma question est sur le confort d’utilisation. Le Mac mini n’a que 120gb de bande passante, mais le modèle tourne a une vitesse acceptable. Je me demande si vous avez une idée sur l’utilisation d’une APU comme Halo Strix avec environ 200gb de bande passante et l’avantage d’avoir 128gb de ram à un prix abordable? Moins rapide, plus cher à upgrader, mais plus simple, plus confortable et pas un gros four :)
Sinon j’utilise Hermes Agent, et je ne comprends pas bien à quelle partie de votre description il correspond? Ça permet de lier son chat à une messagerie (Signal pour moi) et d’avoir une mémoire dans l’ordinateur, par exemple je peux passer de Codex à Oss en conservant la même conversation. Et sans doute beaucoup d’autres choses.
# Complement d’information
Posté par BenTpe . En réponse au journal Auto-héberger ses IA. Évalué à 3 (+3/-0).
Merci pour ce journal! Je n’ai qu’un Mac mini m4 avec 24GB de ram mais de manière surprenante oss20b (q4) accompagné de Hermes Agent tourne correctement en prenant 20GB de RAM, ce qui semble cohérent avec votre règle.
Ma question est sur le confort d’utilisation. Le Mac mini n’a que 120gb de bande passante, mais le modèle tourne a une vitesse acceptable. Je me demande si vous avez une idée sur l’utilisation d’une APU comme Halo Strix avec environ 200gb de bande passante et l’avantage d’avoir 128gb de ram à un prix abordable? Moins rapide, plus cher à upgrader, mais plus simple, plus confortable et pas un gros four :)
Sinon j’utilise Hermes Agent, et je ne comprends pas bien à quelle partie de votre description il correspond? Ça permet de lier son chat à une messagerie (Signal pour moi) et d’avoir une mémoire dans l’ordinateur, par exemple je peux passer de Codex à Oss en conservant la même conversation. Et sans doute beaucoup d’autres choses.