Merci pour votre retour... mais il y a quand même pas mal de différence entre la HX370 et la Max 395, au niveau de la puce graphique 8060S est bien plus rapide, et il y a 2x plus de bande passante, le tout au détriment de la consommation.
La première est résolument une puce mobile, avec une conso bien maîtrisée et la deuxième a presque plus de sens pour un desktop comme le Framework, au moins sur le papier.
Vous faites un peu face au même problème que moi: sur le mini c'est la RAM qui coince, sur le votre la puissance graphique on dirait.
Sur du Strix Halo, Oss20b est annoncé à 40t/s, j'ai vraiment envie d'essayer haha parce que pour moi cette vitesse est acceptable. Et les gb en plus sont du luxe, mais ca permet peut-etre de faire tourner en q8 et d'avoir encore de la RAM, attractif sur le papier.
Le Framework desktop dans lequel je veux l'utiliser permet de remplacer l'APU, ça coûte un bras (le module est vendu au prix de l'ordi) mais au moins on peut garder les autres pièces et le chassis.
Je pense que je vais tester tout ça et faire un retour. Hermes Agent a la possibilité de faire des recherches sur internet, c'est ce qui me manquait jusqu'ici pour utiliser les modèles locaux pour autre chose que du code.
Quant à changer la manière de travailler c'est sûr! Mais je ne suis pas codeur, je vibe code mes modules au boulot parce que je n'aurais jamais le temps ni la capacité de faire autrement, et j'apprends le code en partant de rien dans mes loisirs parce que je trouve ça fascinant. Comme je le fais sérieusement ma fille de 9 ans commence à s'y intéresser aussi lol.
[^] # Re: Complement d’information
Posté par BenTpe . En réponse au journal Auto-héberger ses IA. Évalué à 1 (+1/-0).
Merci pour votre retour... mais il y a quand même pas mal de différence entre la HX370 et la Max 395, au niveau de la puce graphique 8060S est bien plus rapide, et il y a 2x plus de bande passante, le tout au détriment de la consommation.
La première est résolument une puce mobile, avec une conso bien maîtrisée et la deuxième a presque plus de sens pour un desktop comme le Framework, au moins sur le papier.
Vous faites un peu face au même problème que moi: sur le mini c'est la RAM qui coince, sur le votre la puissance graphique on dirait.
Sur du Strix Halo, Oss20b est annoncé à 40t/s, j'ai vraiment envie d'essayer haha parce que pour moi cette vitesse est acceptable. Et les gb en plus sont du luxe, mais ca permet peut-etre de faire tourner en q8 et d'avoir encore de la RAM, attractif sur le papier.
Le Framework desktop dans lequel je veux l'utiliser permet de remplacer l'APU, ça coûte un bras (le module est vendu au prix de l'ordi) mais au moins on peut garder les autres pièces et le chassis.
Je pense que je vais tester tout ça et faire un retour. Hermes Agent a la possibilité de faire des recherches sur internet, c'est ce qui me manquait jusqu'ici pour utiliser les modèles locaux pour autre chose que du code.
Quant à changer la manière de travailler c'est sûr! Mais je ne suis pas codeur, je vibe code mes modules au boulot parce que je n'aurais jamais le temps ni la capacité de faire autrement, et j'apprends le code en partant de rien dans mes loisirs parce que je trouve ça fascinant. Comme je le fais sérieusement ma fille de 9 ans commence à s'y intéresser aussi lol.