Ce n'est pas consubstantiel au concept de classification exclusive? Si je te donne une image à classer en "chat" vs "non-chat", il y a forcément un moment où changer un seul pixel va te faire changer de catégorie.
En informatique, on aime bien la stabilité et la reproductibilité, non ?
Il faudrait faire une dissertation sur le concept de "bien aimer", mais j'ai l'impression qu'une gigantesque proportion d'algorithmes ne sont pas "reproductibles" selon tes critères. En fait, toutes les heuristiques basées sur des générateurs de nombres aléatoires sont dans cette situation (random forest, MCMC, simulated annealing, k-means...), et une foultitude d'heuristiques déterministes dépendent de l'ordre (arbitraire) des données. Donc en pratique, j'ai l'impression qu'au contraire, qu'on aime ou qu'on aime pas, les algorithmes qu'on utilise au quotidien ne sont ni plus stables, ni plus reproductibles que les sorties d'un LLM.
Au fond, on demande des choses paradoxales aux LLMs. On leur demande de reproduire (ou simuler) l'intelligence humaine, et d'être reproductibles. C'est juste impossible, un humain n'est pas reproductible du tout. Si l'argument, c'est de dire que de confier par exemple le standard téléphonique des impôts à un LLM c'est n'importe quoi parce que si tu poses plusieurs fois la même question tu n'auras pas exactement la même réponse, c'est que tu n'as jamais appelé un service où tu avais des humains au téléphone!
[^] # Re: Qu'en dit Donald Knuth ?
Posté par arnaudus . En réponse à la dépêche Une intelligence artificielle libre est-elle possible ?. Évalué à 3.
Ce n'est pas consubstantiel au concept de classification exclusive? Si je te donne une image à classer en "chat" vs "non-chat", il y a forcément un moment où changer un seul pixel va te faire changer de catégorie.
Il faudrait faire une dissertation sur le concept de "bien aimer", mais j'ai l'impression qu'une gigantesque proportion d'algorithmes ne sont pas "reproductibles" selon tes critères. En fait, toutes les heuristiques basées sur des générateurs de nombres aléatoires sont dans cette situation (random forest, MCMC, simulated annealing, k-means...), et une foultitude d'heuristiques déterministes dépendent de l'ordre (arbitraire) des données. Donc en pratique, j'ai l'impression qu'au contraire, qu'on aime ou qu'on aime pas, les algorithmes qu'on utilise au quotidien ne sont ni plus stables, ni plus reproductibles que les sorties d'un LLM.
Au fond, on demande des choses paradoxales aux LLMs. On leur demande de reproduire (ou simuler) l'intelligence humaine, et d'être reproductibles. C'est juste impossible, un humain n'est pas reproductible du tout. Si l'argument, c'est de dire que de confier par exemple le standard téléphonique des impôts à un LLM c'est n'importe quoi parce que si tu poses plusieurs fois la même question tu n'auras pas exactement la même réponse, c'est que tu n'as jamais appelé un service où tu avais des humains au téléphone!