J'ajouterai qu'il y a chez les humains des sentiments et ils se sentent en principe concernés par ce qu'ils font.
Si tu manipules des milliers de données clients et qu'une erreur serait une perte catastrophique pour toi et la boite tu te comporte différemment que le moment où tu va voir si il à encore du café en réserve.
Le IA ne hiérarchisent rien (à moins que l'on simule ce comportement, mais c'est pas systématique), elle ne sont pas spécialement concernés par ce qu'on leur demande.
Et une IA qui se plante pouvant tout autant être un problème d'alignement (instructions imprécises ou non suivies) qu'une hallucination aléatoire, oui les humains font des erreurs mais pas de la même façon.
Un llm qui a halluciné empoisonne son contexte et se met souvent à entretenir son "mensonge".
Ce qui rend à mon avis illusoire à court terme l'utilisation d'agents autonomes (ou en tout cas pas pour traiter des données sensible).
[^] # Re: Fiabilité ?
Posté par Florian.J . En réponse au lien Les entreprises françaises veulent adopter l’IA, mais voici pourquoi c’est « compliqué ». Évalué à 5. Dernière modification le 12 novembre 2025 à 18:18.
J'ajouterai qu'il y a chez les humains des sentiments et ils se sentent en principe concernés par ce qu'ils font.
Si tu manipules des milliers de données clients et qu'une erreur serait une perte catastrophique pour toi et la boite tu te comporte différemment que le moment où tu va voir si il à encore du café en réserve.
Le IA ne hiérarchisent rien (à moins que l'on simule ce comportement, mais c'est pas systématique), elle ne sont pas spécialement concernés par ce qu'on leur demande.
Et une IA qui se plante pouvant tout autant être un problème d'alignement (instructions imprécises ou non suivies) qu'une hallucination aléatoire, oui les humains font des erreurs mais pas de la même façon.
Un llm qui a halluciné empoisonne son contexte et se met souvent à entretenir son "mensonge".
Ce qui rend à mon avis illusoire à court terme l'utilisation d'agents autonomes (ou en tout cas pas pour traiter des données sensible).