on développera des langages dédiés à la communication avec les machines, qui ne laissent pas de place à l'ambiguïté,
Justement, ça me semble paradoxal avec l'utilisation d'un LLM. Un LLM est très tolérant aux ambiguités, et c'est d'ailleurs pour ça que ça a autant de succès : il va prendre tout un tas de micro-décisions de manière autonome pour ne pas de demander 50 détails insignifiants. Si tu lui demandes "remplace les printf par des cout dans ce code C++", il ne va pas te demander "est-ce que je remplace aussi les sprintf?", puis "est-ce que je remplace aussi les fprintf?", puis "est-ce que tu veux que je remplace aussi les printf(stderr, ...) par cerr?", etc. C'est un coup à devenir dingue, tu vas finir par écrire "ARRETE DE POSER DES QUESTIONS ET REMPLACE TOUS CES P*** DE PRINTF".
Ces modèles souffrent du même problème que les humains, ils n'arrivent pas à quantifier leur incertitude. Tu as beau leur demander "surtout, ne fais rien si tu n'es pas sûr", bah ils sont souvent sûrs, et ils se trompent. Je ne sais pas réellement si c'est possible de résoudre ce biais, il arrivera toujours un moment où soit lui soit toi feront une erreur d'interprétation. Là il avait une tâche à faire et il s'en est donné les moyens, il n'a pas pensé qu'il pouvait y avoir un danger.
[^] # Re: Clairement un gros problème côté infra
Posté par arnaudus . En réponse au journal "Cursor et Claude ont supprimé ma prod". Évalué à 6 (+3/-0).
Justement, ça me semble paradoxal avec l'utilisation d'un LLM. Un LLM est très tolérant aux ambiguités, et c'est d'ailleurs pour ça que ça a autant de succès : il va prendre tout un tas de micro-décisions de manière autonome pour ne pas de demander 50 détails insignifiants. Si tu lui demandes "remplace les printf par des cout dans ce code C++", il ne va pas te demander "est-ce que je remplace aussi les sprintf?", puis "est-ce que je remplace aussi les fprintf?", puis "est-ce que tu veux que je remplace aussi les printf(stderr, ...) par cerr?", etc. C'est un coup à devenir dingue, tu vas finir par écrire "ARRETE DE POSER DES QUESTIONS ET REMPLACE TOUS CES P*** DE PRINTF".
Ces modèles souffrent du même problème que les humains, ils n'arrivent pas à quantifier leur incertitude. Tu as beau leur demander "surtout, ne fais rien si tu n'es pas sûr", bah ils sont souvent sûrs, et ils se trompent. Je ne sais pas réellement si c'est possible de résoudre ce biais, il arrivera toujours un moment où soit lui soit toi feront une erreur d'interprétation. Là il avait une tâche à faire et il s'en est donné les moyens, il n'a pas pensé qu'il pouvait y avoir un danger.