On se la pose depuis un moment, les chercheurs "social" ont un temps d'avance sur la technologie. le sujet de S&V est pas du tout nouveau, j'ai déjà lu dessus il y a plusieurs années (https://en.wikipedia.org/wiki/Moral_Machine date de 2017, donc déjà mini 4 ans).
Il est intéressant d'avoir des réponses réfléchies sous le coude à ces questions, mais il ne faut pas non plus en faire un sorte d'alpha et oméga des réflexions autour des systèmes autonomes.
Par exemple pour la voiture autonome, on sort souvent cet exemple pour montrer qu'avant de commercialiser il faudrait trancher cette question. C'est bizarre car déjà l'être humain conducteur ne prendra lui aucune décision rationnelle en de telles circonstances, il n'a pas le temps de le faire, ni les données, ni la rigueur en cas de catastrophe de le faire bien.
Ensuite, il faudrait encore que cette situation soit réaliste. Des accidents où tu as le choix de faucher deux groupes distincts de personnes, en ayant aucune solution pour les épargner, tout en ayant le temps de choisir l'un ou l'autre groupe, est-ce que cela arrive dans la vraie vie ? Et avec un véhicule autonome qui à priori s'arrêtera automatiquement en cas de défaillance mécanique détectée et qui à priori aussi aura une vitesse adaptée à une situation donnée, est-ce que cela a vraiment une chance d'arriver de manière récurrente ? Et est-ce que même si cela arrivait, l'IA aurait assez de données, de temps et de capacité d'analyse pour faire la décision conforme au scénario souhaitée ? Personnellement j'ai un doute que cela arrive suffisamment fréquemment pour que cela ait un quelconque intérêt.
C'est bien que des chercheurs se penchent dessus car peut être qu'on aura un système où cette question sera pertinente. Mais à l'heure actuelle cela me semble bien théorique.
[^] # Re: Mon avis
Posté par Renault (site web personnel) . En réponse au lien Est-il moral de tuer une personne pour en sauver d'autres ?. Évalué à 6.
Il est intéressant d'avoir des réponses réfléchies sous le coude à ces questions, mais il ne faut pas non plus en faire un sorte d'alpha et oméga des réflexions autour des systèmes autonomes.
Par exemple pour la voiture autonome, on sort souvent cet exemple pour montrer qu'avant de commercialiser il faudrait trancher cette question. C'est bizarre car déjà l'être humain conducteur ne prendra lui aucune décision rationnelle en de telles circonstances, il n'a pas le temps de le faire, ni les données, ni la rigueur en cas de catastrophe de le faire bien.
Ensuite, il faudrait encore que cette situation soit réaliste. Des accidents où tu as le choix de faucher deux groupes distincts de personnes, en ayant aucune solution pour les épargner, tout en ayant le temps de choisir l'un ou l'autre groupe, est-ce que cela arrive dans la vraie vie ? Et avec un véhicule autonome qui à priori s'arrêtera automatiquement en cas de défaillance mécanique détectée et qui à priori aussi aura une vitesse adaptée à une situation donnée, est-ce que cela a vraiment une chance d'arriver de manière récurrente ? Et est-ce que même si cela arrivait, l'IA aurait assez de données, de temps et de capacité d'analyse pour faire la décision conforme au scénario souhaitée ? Personnellement j'ai un doute que cela arrive suffisamment fréquemment pour que cela ait un quelconque intérêt.
C'est bien que des chercheurs se penchent dessus car peut être qu'on aura un système où cette question sera pertinente. Mais à l'heure actuelle cela me semble bien théorique.