Un algorithme ne peut pas avoir de biais, comme tu le dis clairement dans un autre message, un algorithme, c'est des maths. Le biais vient des données, de l'interprétation du résultat ou d'un autre élément subjectif. Les mathématiques sont objectifs.
les concepteurs vivent dans un contexte culturel où il est plus fréquent de trouver un certain type de visage
Ce n'est pas si simple. Il y a quelques années, j'avais (un petit peu) travaillé sur un logiciel de reconnaissance de visages dans un pays asiatique à destination de la population locale. Nous n'étions pas révolutionnaires, nous n'avons rien inventé et pour l'apprentissage nous utilisions les données les plus utilisées : des collections d'images de visages venant des États-Unis. La diversité ethnique aux États-Unis permettait d'avoir une certaine diversité mais n'était clairement pas représentative de la population locale. Nous connaissions le biais introduit par les données en entrées mais les images des visages de plusieurs centaines (milliers ?) de personnes, ça ne nous était pas possible. D'autant plus que ces lots d'images de visages étaient reconnus pour leur qualité puisque les visages avaient des orientations différentes. Pour la validation, le biais initial était toujours présent puisque la méthode consistait réaliser l'apprentissage avec 80-90% du lot de visages puis de valider en calculant les scores sur l'intégralité du lot. Dans l'idéal, nous devions avoir 80-90% reconnus et 10-20% de visages non reconnus.
[^] # Re: De la neutralité de l'informatique !
Posté par nico4nicolas . En réponse au journal GitHub remplace la branche master par main. Évalué à 4.
Un algorithme ne peut pas avoir de biais, comme tu le dis clairement dans un autre message, un algorithme, c'est des maths. Le biais vient des données, de l'interprétation du résultat ou d'un autre élément subjectif. Les mathématiques sont objectifs.
Ce n'est pas si simple. Il y a quelques années, j'avais (un petit peu) travaillé sur un logiciel de reconnaissance de visages dans un pays asiatique à destination de la population locale. Nous n'étions pas révolutionnaires, nous n'avons rien inventé et pour l'apprentissage nous utilisions les données les plus utilisées : des collections d'images de visages venant des États-Unis. La diversité ethnique aux États-Unis permettait d'avoir une certaine diversité mais n'était clairement pas représentative de la population locale. Nous connaissions le biais introduit par les données en entrées mais les images des visages de plusieurs centaines (milliers ?) de personnes, ça ne nous était pas possible. D'autant plus que ces lots d'images de visages étaient reconnus pour leur qualité puisque les visages avaient des orientations différentes. Pour la validation, le biais initial était toujours présent puisque la méthode consistait réaliser l'apprentissage avec 80-90% du lot de visages puis de valider en calculant les scores sur l'intégralité du lot. Dans l'idéal, nous devions avoir 80-90% reconnus et 10-20% de visages non reconnus.
Aurions-nous pu faire mieux ? Sans doute.