C'est avant tout l'entreprise qui a fait l'erreur, ça ne change pas.
Et moi je pense que ça se discute et que ça change en fait tout.
Pourquoi ? Quand tu es une entreprise et que tu as des fournisseurs, ces fournisseurs partagent la responsabilité et elle peut même être totale. Par exemple le fournisseur te fourni un composant défectueux et tu dois faire une campagne de rappel et il y a eu des morts ? Le fournisseur peut être sollicité pour payer tous les frais dans cette affaire (genre affaire des airbags en automobile, quand le fournisseur n'a pas fait faillite). L'avion a un crash et c'est un défaut de conception de l'avionneur ? Cela incombe au constructeur et non à l'exploitant de payer, etc.
Ici il y a une relation fournisseur / client et ça change pas mal de choses par rapport à une entreprise qui aurait un employé qui fait la même tâche.
Mais là encore, le problème n'est pas spécifiquement ici en fait. Le soucis est que :
Si l'IA permet d'augmenter en productivité, les volumes traités sont plus élevés, même avec une erreur moindre en proportion, le nombre de problèmes peut être plus élevés ;
Les IA très performants sont peu nombreux et sont déployés à très grande échelle, pour gérer des tâches très variés, il y a un risque systémique. Une faille, une erreur mal gérée, etc. a des impacts bien plus élevés que la PME qui se goure dans la facturation. On en a eu un exemple quand certains véhicules autonomes par exemple avaient des comportement erratiques bizarres mais qui concernait plusieurs véhicules à la fois en même temps, l'impact est autre qu'avec des conducteurs très variés qu'on retrouve dans la nature malgré les défauts des humains, l'impact est totalement différent ;
Les éditeurs des IA vantent tout concernant leur modèle (avec du vrai et du fantasme dedans) mais ils n'ont aucun moyen de garantir de manière satisfaisante quoique ce soit. Les capacités exactes sont inconnues, les investigations internes pour s'assurer du bon comportement sont relativement légers face aux risques potentiels, toute mesure qu'ils produisent sont forcément biaisés (même en étant de bonne foi de leur part, ce qui pour certains me semble par ailleurs discutable), donc contractuellement c'est difficile comme question ;
Que penser des éditeurs qui disent que tu peux connecter l'IA à ton courrier électronique pour avoir un résumé de ce qu'il a reçu mais qu'un courriel pas si compliqué et malveillant permet d'exfiltrer des données confidentielles ou d'exécuter des actions à distance au mépris de toute sécurité ? L'erreur incombe à l'éditeur ou à l'utilisateur qui aurait du mettre des gardes fous ?
À mesure que ces IA sont exploités de plus en plus, et dans plus en plus de domaine et probablement avec de moins en moins de surveillance, ces risques augmentent et les problèmes qu'ils posent deviennent systémiques et n'ont absolument rien à voir par rapport à une armée d'humains qui font les mêmes tâches.
Donc je persiste, je ne suis pas d'accord de considérer que ce n'est pas un sujet et que remplacer un humain par une IA pour une tâche donnée ne change pas grand chose. Selon la tâche et la quantité de travail géré ainsi, cela change au contraire tout.
Ce n'est pas un hasard si l'UE par ailleurs a tenté un début de législation qui s'applique aux grands modèles de fondation, de la même façon qu'elle le fait pour les grandes plateformes du numérique tels que certains réseaux sociaux. Car la défaillance ou l'appât du gain peut ici avoir des conséquences bien plus grandes que pour la majorité des entreprises qui font pourtant des choses semblables.
Malheureusement l'UE reste timide et le reste du monde n'essaye même pas.
[^] # Re: Merci
Posté par Renault (site web personnel) . En réponse à la dépêche Nouvelles sur l’IA de février 2026. Évalué à 6.
Et moi je pense que ça se discute et que ça change en fait tout.
Pourquoi ? Quand tu es une entreprise et que tu as des fournisseurs, ces fournisseurs partagent la responsabilité et elle peut même être totale. Par exemple le fournisseur te fourni un composant défectueux et tu dois faire une campagne de rappel et il y a eu des morts ? Le fournisseur peut être sollicité pour payer tous les frais dans cette affaire (genre affaire des airbags en automobile, quand le fournisseur n'a pas fait faillite). L'avion a un crash et c'est un défaut de conception de l'avionneur ? Cela incombe au constructeur et non à l'exploitant de payer, etc.
Ici il y a une relation fournisseur / client et ça change pas mal de choses par rapport à une entreprise qui aurait un employé qui fait la même tâche.
Mais là encore, le problème n'est pas spécifiquement ici en fait. Le soucis est que :
À mesure que ces IA sont exploités de plus en plus, et dans plus en plus de domaine et probablement avec de moins en moins de surveillance, ces risques augmentent et les problèmes qu'ils posent deviennent systémiques et n'ont absolument rien à voir par rapport à une armée d'humains qui font les mêmes tâches.
Donc je persiste, je ne suis pas d'accord de considérer que ce n'est pas un sujet et que remplacer un humain par une IA pour une tâche donnée ne change pas grand chose. Selon la tâche et la quantité de travail géré ainsi, cela change au contraire tout.
Ce n'est pas un hasard si l'UE par ailleurs a tenté un début de législation qui s'applique aux grands modèles de fondation, de la même façon qu'elle le fait pour les grandes plateformes du numérique tels que certains réseaux sociaux. Car la défaillance ou l'appât du gain peut ici avoir des conséquences bien plus grandes que pour la majorité des entreprises qui font pourtant des choses semblables.
Malheureusement l'UE reste timide et le reste du monde n'essaye même pas.