Merci beaucoup pour ta réponse. Ça répond très bien à mes interrogations. J'ai eu le même type de retour par mes collègues ce midi.
J'imaginais pas que c'était aussi touffu 😁
Et vu ton dernier passage, sur le nombre de paramètres par token, je comprends que ce soit quasi impossible d'avoir une comparaison valable hardware vs rapidité de résultats. Trop de paramètres différents rentre en compte. Je vais garder le nombre de token par seconde, comme valeur à suivre (piur ordre d'idées).
Le modèle utilisé est bien celui que tu dis, je suis plus attiré par le hardware que le software et l'IA ne m'attire pas plus que ça (jsuis pas un créatif de base). Mais c'est intéressant de se dire que potentiellement, du vieux matos est largement suffisant pour une IA local, et comme me l'a dit un collègue, tout dépend du temps que chacun est prêt a attendre pour avoir une réponse 🤣
J'imaginais l'IA "en général" en mode instantané (ou presque), d'où ma vision de comparaison comme des fps 😁😁😁
Pour revenir au sujet du forum, l'échange ici semble montrer que mettre le terme "rapidement" comme critère n'est pas une bonne idee. Trop de paramètres peuvent rentrer en compte. C'est plutôt du tâtonnements personnel qui peut permettre de dire que tel modèle sur tel machine répond le mieux a son besoin.
[^] # Re: Benchmark possible ? Valeur indicative de vitesse ?
Posté par xandercagexxx . En réponse au message Quels outils utilisez-vous pour générer du code rapidement grâce à l’IA ?. Évalué à 2.
Merci beaucoup pour ta réponse. Ça répond très bien à mes interrogations. J'ai eu le même type de retour par mes collègues ce midi.
J'imaginais pas que c'était aussi touffu 😁
Et vu ton dernier passage, sur le nombre de paramètres par token, je comprends que ce soit quasi impossible d'avoir une comparaison valable hardware vs rapidité de résultats. Trop de paramètres différents rentre en compte. Je vais garder le nombre de token par seconde, comme valeur à suivre (piur ordre d'idées).
Le modèle utilisé est bien celui que tu dis, je suis plus attiré par le hardware que le software et l'IA ne m'attire pas plus que ça (jsuis pas un créatif de base). Mais c'est intéressant de se dire que potentiellement, du vieux matos est largement suffisant pour une IA local, et comme me l'a dit un collègue, tout dépend du temps que chacun est prêt a attendre pour avoir une réponse 🤣
J'imaginais l'IA "en général" en mode instantané (ou presque), d'où ma vision de comparaison comme des fps 😁😁😁
Pour revenir au sujet du forum, l'échange ici semble montrer que mettre le terme "rapidement" comme critère n'est pas une bonne idee. Trop de paramètres peuvent rentrer en compte. C'est plutôt du tâtonnements personnel qui peut permettre de dire que tel modèle sur tel machine répond le mieux a son besoin.
Bon courage dans tes recherches cbum63 🤓