Non, justement, l'IA prend des décisions indépendamment de ta responsabilité, et c'est ça qui fait une grosse différence. Un outil peut être défectueux, mais la défectuosité n'est pas son comportement normal, c'est un accident.
Une voiture autonome qui force à une intersection, ça n'est pas du tout pareil qu'une bagnole qui n'a plus de freins. Une voiture n'est jamais censée ne plus avoir de freins, c'est évidemment une défaillance. Par contre, si la voiture est conçue pour voler une priorité quand ça fait 30 secondes qu'elle n'arrive pas à passer, ça n'est pas une défaillance de l'IA : it's not a bug, it's a feature. Et le dilemme, il est là, est-ce que tu accepterais de monter dans une bagnole conduite par un robot créatif, qui prend ses décisions sur une base probabiliste? Genre "si je passe maintenant, il y a 999 chances sur 1000 qu'on ne se prenne pas le poids lourd dans la tronche"?
Personne n’achèterait une voiture qui conduit comme ça.
Mais est-ce quelqu'un achèterait une voiture qui cartonne les autres en forçant aux intersections? Je crois simplement qu'il ne faut pas que les voiture autonomes simulent les comportements humains. Il faut qu'elles restent "bêtes", dans une certaine mesure, et qu'elles soient prévisibles et précautionneuses. Sinon, elles vont foutre les jetons à tout le monde.
[^] # Re: Commentaire bookmark
Posté par arnaudus . En réponse au journal "Intelligence artificielle", vraiment?. Évalué à 3.
Non, justement, l'IA prend des décisions indépendamment de ta responsabilité, et c'est ça qui fait une grosse différence. Un outil peut être défectueux, mais la défectuosité n'est pas son comportement normal, c'est un accident.
Une voiture autonome qui force à une intersection, ça n'est pas du tout pareil qu'une bagnole qui n'a plus de freins. Une voiture n'est jamais censée ne plus avoir de freins, c'est évidemment une défaillance. Par contre, si la voiture est conçue pour voler une priorité quand ça fait 30 secondes qu'elle n'arrive pas à passer, ça n'est pas une défaillance de l'IA : it's not a bug, it's a feature. Et le dilemme, il est là, est-ce que tu accepterais de monter dans une bagnole conduite par un robot créatif, qui prend ses décisions sur une base probabiliste? Genre "si je passe maintenant, il y a 999 chances sur 1000 qu'on ne se prenne pas le poids lourd dans la tronche"?
Mais est-ce quelqu'un achèterait une voiture qui cartonne les autres en forçant aux intersections? Je crois simplement qu'il ne faut pas que les voiture autonomes simulent les comportements humains. Il faut qu'elles restent "bêtes", dans une certaine mesure, et qu'elles soient prévisibles et précautionneuses. Sinon, elles vont foutre les jetons à tout le monde.