C'est bien le problème justement. Si, déjà, nous ne sommes pas capables de savoir comment réagir dans certains cas, comment peut-on l'automatiser ?
En restant simple, rationnel, et pragmatique.
Y'a pas longtemps j'ai vu le remake de Robocop, où on reprochait à un robot d'avoir abattu un adolescent armé et évalué comme dangereux sans le moindre remord. Et j'ai pensé très fort "donc pour les adultes, c'est moins grave, et si l'ado tue 12 personnes, on le laisse faire parce que bon, tuer les ados c'est mal". Sans parler du fait que le robot fait ce pourquoi il est programmé, rien n'empêche de le programmer pour ne pas toucher aux mineurs.
Bref, la façon dont les choses étaient présentées est faite pour jouer sur l'émotionnel et surtout par le rationnel: oui, peut tout à fait très très mal utiliser un robot très très perfectionné.
Là on n'en est pas loin non plus!
Pourtant, au final, ça revient à ça. Dans le cas que j'ai exposé, tu ciblerait donc les motards (ou cyclistes/piétons...) : moins de masse, moins de risque pour les passagers. Ça se défend, mais c'est un peu dégueulasse quand même.
Dégueulasse pour qui?
Dans tous les cas, un accident est dégueulasse. Des gens vont être blessés ou mourir. Il n'y a pas de "bonne" réponse à ça.
Tu demandes à un humain ou une IA de choisir qui il est raisonnable de risquer le plus? Ça n'a rien à voir avec le fait d'avoir à faire à une IA, c'est une question philosophique!
-On tente d'estimer qui est responsable de l'accident et on lui fait courir tous les risques?
-On tente de minimiser les dégâts pour tout le monde?
-On tente de minimiser les dégâts pour le conducteur et ses passagers?
Et là on parle d'une voiture et d'une moto, mais on peut aller plus loin dans l'émotionnel: tu aperçois un enfant dans la voiture. Tu vas lui faire courir ce risque?
Ce que tu reprocherait à l'IA, c'est d'avoir appliqué ce que ses concepteurs pensent être le plus juste depuis leur labo.
Dans la vraie vie, la décision sera toujours mauvaise pour quelqu'un.
[^] # Re: Ça me met en colère !
Posté par Maclag . En réponse au journal Turing est battu. Évalué à 4.
En restant simple, rationnel, et pragmatique.
Y'a pas longtemps j'ai vu le remake de Robocop, où on reprochait à un robot d'avoir abattu un adolescent armé et évalué comme dangereux sans le moindre remord. Et j'ai pensé très fort "donc pour les adultes, c'est moins grave, et si l'ado tue 12 personnes, on le laisse faire parce que bon, tuer les ados c'est mal". Sans parler du fait que le robot fait ce pourquoi il est programmé, rien n'empêche de le programmer pour ne pas toucher aux mineurs.
Bref, la façon dont les choses étaient présentées est faite pour jouer sur l'émotionnel et surtout par le rationnel: oui, peut tout à fait très très mal utiliser un robot très très perfectionné.
Là on n'en est pas loin non plus!
Dégueulasse pour qui?
Dans tous les cas, un accident est dégueulasse. Des gens vont être blessés ou mourir. Il n'y a pas de "bonne" réponse à ça.
Tu demandes à un humain ou une IA de choisir qui il est raisonnable de risquer le plus? Ça n'a rien à voir avec le fait d'avoir à faire à une IA, c'est une question philosophique!
-On tente d'estimer qui est responsable de l'accident et on lui fait courir tous les risques?
-On tente de minimiser les dégâts pour tout le monde?
-On tente de minimiser les dégâts pour le conducteur et ses passagers?
Et là on parle d'une voiture et d'une moto, mais on peut aller plus loin dans l'émotionnel: tu aperçois un enfant dans la voiture. Tu vas lui faire courir ce risque?
Ce que tu reprocherait à l'IA, c'est d'avoir appliqué ce que ses concepteurs pensent être le plus juste depuis leur labo.
Dans la vraie vie, la décision sera toujours mauvaise pour quelqu'un.