Sans oublier que pour "lutter" contre ça (faut vraiment avoir que ça a faire mais soit), il faut introduire des biais qui ne sont que le reflet de la subjectivité des auteurs mais certainement pas la réalité.
Ce n'est pas une question de réalité à aucun moment. On est pas dans le cadre de la représentation de la réalité, mais dans celui de l'aide à la décision. Il y a peut-être forcément des biais à ce genre d'application, mais le fait de les informatiser peu poser 2 problèmes :
l'utilisateur peu ne pas savoir qu'il y a des biais parce qu'il donne trop de confiance en la machine. Comme tu parle de réalité là où ça n'a pas de sens, il se dit que si ça vient de la machine ça n'est pas biaisé
si la prise de décision est automatique les recours sont très difficiles à obtenir
La question n'est pas de s'offusquer, mais de savoir que ça existe, de comprendre comment ça fonctionne et d'en parler. Le fonctionnement des réseaux de neurones est a ça d'humains qu'il tente d'aller au plus simple. Si ton jeu de données initial est mal construit, tu peux volontairement ou non créer des biais non souhaitables. L'IA peut avoir décrété qu'un homme ne peut pas devenir infirmier ou qu'il est strictement impossible qu'une femme soit dans l'armée.
Ce n'est pas une question de réalité, c'est une question de est-ce qu'on souhaite que cette IA ai ce genre de biais et, si oui communiquer dessus pour bien s'assurer que les utilisateurs en sont conscient
[^] # Re: Pas convaincu
Posté par barmic 🦦 . En réponse au lien « Aux femmes la cuisine, aux hommes l’informatique » : le sexisme des IA (encore) prouvé. Évalué à 2.
Ce n'est pas une question de réalité à aucun moment. On est pas dans le cadre de la représentation de la réalité, mais dans celui de l'aide à la décision. Il y a peut-être forcément des biais à ce genre d'application, mais le fait de les informatiser peu poser 2 problèmes :
La question n'est pas de s'offusquer, mais de savoir que ça existe, de comprendre comment ça fonctionne et d'en parler. Le fonctionnement des réseaux de neurones est a ça d'humains qu'il tente d'aller au plus simple. Si ton jeu de données initial est mal construit, tu peux volontairement ou non créer des biais non souhaitables. L'IA peut avoir décrété qu'un homme ne peut pas devenir infirmier ou qu'il est strictement impossible qu'une femme soit dans l'armée.
Ce n'est pas une question de réalité, c'est une question de est-ce qu'on souhaite que cette IA ai ce genre de biais et, si oui communiquer dessus pour bien s'assurer que les utilisateurs en sont conscient
https://linuxfr.org/users/barmic/journaux/y-en-a-marre-de-ce-gros-troll