Ils reçoivent très fréquemment des rapports très similaires presque en même temps : GKH l'interprète comme une conséquence du fait qu'une fois qu'un utilisateur a trouvé un bug à l'aide d'un LLM public, ce système de LLM partage ce résultat avec d'autres utilisateurs ayant des requêtes similaires. En conséquence, tout ce qu'on dit à un chatbot opéré par un tiers doit être considéré comme public.
L'autre alternative, c'est simplement que tout le monde utilise les mêmes 4/5 modèles avec les mêmes types de demande. Il y a sans doute plus que 4/5 personnes qui cherchent des bugs, mais le fonctionnement même d'un langage de modèle, c'est de donner un résultat "moyen". Il est possible que ça converge justement parce qu'il n'y a pas de diversité dans les outils.
# autre alternative
Posté par Misc (site web personnel) . En réponse au journal L'efficacité des LLMs pour la recherche de vulnérabilités, point de vue d'un mainteneur. Évalué à 5 (+2/-0).
L'autre alternative, c'est simplement que tout le monde utilise les mêmes 4/5 modèles avec les mêmes types de demande. Il y a sans doute plus que 4/5 personnes qui cherchent des bugs, mais le fonctionnement même d'un langage de modèle, c'est de donner un résultat "moyen". Il est possible que ça converge justement parce qu'il n'y a pas de diversité dans les outils.