Pour un résumé, c'est comme pour une traductio, l'approche c'est de lui fournir le texte à résumé. Tu ne demandes pas à piocher les infos en allant à la pèche dans la mémoire du llm, tu lui fournis les infos et il n'a qu'a les manipuler, c'est beaucoup plus fiable.
Même si c'est plus fiable, il faut quand même vérifier qu'il n'a pas dit de conneries quand même.
Si tu n'as pas trop confiance dans ses capacités, le temps gagné est finalement vite perdu.
D'où le fait que pour l'instant les usages concrets sont plus limités que présentés et servent avant tout à des gens ayant une expertise pour pouvoir vérifier rapidement s'il y a des conneries ou pas.
Et ca s'explique bien, le prompting est un art, l'art de mettre le llm dans un état, lui donner du contexte, pour maximiser ses chances de donner la bonne réponse, d'aller la chevher quelque pary dans les enchainements de gazillions de paramètres, d'après les spécialiste.
Le soucis du prompt c'est que déjà ce n'est pas fixe dans le temps. Un prompt qui fonctionne bien pour ChatGPT ne fonctionnera pas pour Mistral (ou pas aussi bien, faudra formuler autrement pour avoir un meilleur résultat), et même entre deux versions d'un même modèle cela peut évoluer.
Par exemple le cas des échecs que tu cites de Mr Phi ne fonctionne que pour ChatGPT 3.5 turbo (il le dit lui même), avec les autres versions ou variantes cela ne fonctionne pas aussi bien avec ces prompts là.
C'est donc finalement assez fragile car on fait reposer la manipulation de ces outils aux capacités très variables sur des connaissances pour les manipuler qui évoluent assez rapidement. Rien ne dit que l'art de faire du prompt en 2023 aura un quelconque intérêt en 2025 et que les bonnes astuces d'une époque ne fonctionnent plus plus tard.
[^] # Re: enthousiasme
Posté par Renault (site web personnel) . En réponse au journal décrire une une image avec une iA locale. Évalué à 3.
Même si c'est plus fiable, il faut quand même vérifier qu'il n'a pas dit de conneries quand même.
Si tu n'as pas trop confiance dans ses capacités, le temps gagné est finalement vite perdu.
D'où le fait que pour l'instant les usages concrets sont plus limités que présentés et servent avant tout à des gens ayant une expertise pour pouvoir vérifier rapidement s'il y a des conneries ou pas.
Le soucis du prompt c'est que déjà ce n'est pas fixe dans le temps. Un prompt qui fonctionne bien pour ChatGPT ne fonctionnera pas pour Mistral (ou pas aussi bien, faudra formuler autrement pour avoir un meilleur résultat), et même entre deux versions d'un même modèle cela peut évoluer.
Par exemple le cas des échecs que tu cites de Mr Phi ne fonctionne que pour ChatGPT 3.5 turbo (il le dit lui même), avec les autres versions ou variantes cela ne fonctionne pas aussi bien avec ces prompts là.
C'est donc finalement assez fragile car on fait reposer la manipulation de ces outils aux capacités très variables sur des connaissances pour les manipuler qui évoluent assez rapidement. Rien ne dit que l'art de faire du prompt en 2023 aura un quelconque intérêt en 2025 et que les bonnes astuces d'une époque ne fonctionnent plus plus tard.