Les solutions IA sont utilisée mondialement, et son développement n’est pas près de s’arrêter.
Les personnes blanches sont minoritaires à l’échelle de la planète.
Pour ce dernier point c’est difficile de trouver des statistiques car c’est un sujet sensible, mais par exemple cette page indique environ 15%. C’est à double tranchant, cette minorité est une des raisons pour laquelle le biais « blanchissant » des filtres est problématique au détriment des personnes non-blanches, et cette minorité est une des raisons que la sur-représentation de cette minorité dans l’entraînement des IA en fait une population plus à même d’en subir les effets néfastes de mauvaise représentation (au détriment des personnes blanches, donc). Rien que le cas du filtre « blanchissant » est déjà à double tranchant puisque cela signifie que cette population est plus à même de souffrir de défaut de représentation fondé sur des représentations faussées de soi (la problématique basique du top-model, mais surmultiplié).
Je ne pense pas que les gens doutent du caractère systémique dans le cas du filtre « blanchissant », pourtant c’est exactement la même cause, avec le même biais d’entraînement. Entre le filtre blanchissant et les faux visages de sites générés par IA, la différence est dans le prompt, mais la donnée de base est la même. Avec la même donnée de base biaisée à l’entraînement, un prompt va tenter d’appliquer des canons de beauté occidentaux à des personnes non-blanches, et un autre prompt va de manière statistique produire plus de faux visages ressemblant à des blancs, entraînant les véritables humains eux à associer blanc et faux profil par exposition répétée.
De manière tout à fait indépendante de la question ethnique, on a d’ailleurs probablement là un cas de boucle rétroactive par humain interposée, car cet entraînement d’IA peut entraîner des humains qui peuvent entraîner des IA.
Quand tu dis :
les personnes blanches se rencontrent absolument partout
C’est là un fort biais de sélection.
ce commentaire est sous licence cc by 4 et précédentes
[^] # Re: Le surentraînement des IA sur des profils types peut nuire à ces profils types
Posté par Thomas Debesse (site web personnel, Mastodon) . En réponse au journal les visages générés par IA. Évalué à 2 (+2/-3).
Pour ce dernier point c’est difficile de trouver des statistiques car c’est un sujet sensible, mais par exemple cette page indique environ 15%. C’est à double tranchant, cette minorité est une des raisons pour laquelle le biais « blanchissant » des filtres est problématique au détriment des personnes non-blanches, et cette minorité est une des raisons que la sur-représentation de cette minorité dans l’entraînement des IA en fait une population plus à même d’en subir les effets néfastes de mauvaise représentation (au détriment des personnes blanches, donc). Rien que le cas du filtre « blanchissant » est déjà à double tranchant puisque cela signifie que cette population est plus à même de souffrir de défaut de représentation fondé sur des représentations faussées de soi (la problématique basique du top-model, mais surmultiplié).
Je ne pense pas que les gens doutent du caractère systémique dans le cas du filtre « blanchissant », pourtant c’est exactement la même cause, avec le même biais d’entraînement. Entre le filtre blanchissant et les faux visages de sites générés par IA, la différence est dans le prompt, mais la donnée de base est la même. Avec la même donnée de base biaisée à l’entraînement, un prompt va tenter d’appliquer des canons de beauté occidentaux à des personnes non-blanches, et un autre prompt va de manière statistique produire plus de faux visages ressemblant à des blancs, entraînant les véritables humains eux à associer blanc et faux profil par exposition répétée.
De manière tout à fait indépendante de la question ethnique, on a d’ailleurs probablement là un cas de boucle rétroactive par humain interposée, car cet entraînement d’IA peut entraîner des humains qui peuvent entraîner des IA.
Quand tu dis :
C’est là un fort biais de sélection.
ce commentaire est sous licence cc by 4 et précédentes