Mais jamais de leur propre chef, c'est conceptuellement impossible.
C'est de l'humour de parler de comprendre les LLMs puis de s'appuyer sur le concept de "leur propre chef" ? C'est quoi leur propre chef ? Ça veut dire quoi ici impossible ?
Parce qu'à la question que tu pose plus bas oui Claude répond facilement qu'il ne sait pas des choses sur un code. Ça ne veut pas dire qu'il ne se trompe pas non plus, mais qu'il arrive à déterminer quand il ne peut pas savoir certaines choses à partir de son contexte.
Après je ne sais pas ce que tu entends par connaître les LLM, mais ils n'ont pas existé en publique sans un ensemble d'outils autour qui l'aide par exemple à améliorer sa confiance et des outils divers et variés (le harness). Tu peux dissocier ces outils si tu veux mais elle rend caduque les assertions du type "Claude fait ci" car Claude c'est un LLM + son harness.
[^] # Re: Nouvelles failles ou pas
Posté par barmic 🦦 . En réponse au journal L'efficacité des LLMs pour la recherche de vulnérabilités, point de vue d'un mainteneur. Évalué à 3 (+1/-0).
C'est de l'humour de parler de comprendre les LLMs puis de s'appuyer sur le concept de "leur propre chef" ? C'est quoi leur propre chef ? Ça veut dire quoi ici impossible ?
Parce qu'à la question que tu pose plus bas oui Claude répond facilement qu'il ne sait pas des choses sur un code. Ça ne veut pas dire qu'il ne se trompe pas non plus, mais qu'il arrive à déterminer quand il ne peut pas savoir certaines choses à partir de son contexte.
Après je ne sais pas ce que tu entends par connaître les LLM, mais ils n'ont pas existé en publique sans un ensemble d'outils autour qui l'aide par exemple à améliorer sa confiance et des outils divers et variés (le harness). Tu peux dissocier ces outils si tu veux mais elle rend caduque les assertions du type "Claude fait ci" car Claude c'est un LLM + son harness.
https://linuxfr.org/users/barmic/journaux/y-en-a-marre-de-ce-gros-troll