Vous voulez les critères ? Je vous les fait dans le désordre :
...
- personne blanche de 30-40 ans
Ce qui est intéressant ici c’est comment ce qui a pu être dénoncé comme l’effet d’un possible racisme systémique peut nourrir un autre racisme systémique.
Ici il y a le biais que certains phénotypes soient sur-représentés dans la génération de visages, avec le risque que les personnes réelles qui portent aussi ces traits soient alors inconsciemment associées à de la fabrication (faible crédibilité, risque de fraude, voire charlatan). Pour le coup cela pourrait nourrir une nouvelle forme de préjugé au faciès.
C’est un peu comme les gens qui suspectent immédiatement d’IA les gens qui utilisent des tirets quadratins, parce que précisément les IA utilisent des tirets cadratins car elles sont entraînés sur les textes de leurs pairs : des textes à haut niveau de rédaction, de relecture, et de typographie. Et pour le coup si on veut entraîner une IA sur de la connaissance à fort taux de relecture et de vérification, il est peut-être impossible d’éviter ce problème.
Il y a quelques années j’avais fait une expérience avec MidJourney et j’avais trouvé un moyen de faire un prompt entièrement neutre (c’est à dire, sémantiquement vide) et dans ce cas il générait systématiquement un visage de femme, et la même femme. Je rappelle que le prompt était neutre, il ne mentionnait donc ni visage ni femme ni même l’idée d’une personne, l’IA était tout aussi bien libre de produire un tournesol, une construction brutaliste où une scène de la surface de la lune.
De fait, je te remercie, tu me donnes envie d’écrire ce journal, j’ai maintenant trois axes principaux (j’aime bien avoir trois axes avant de traiter d’un sujet) : « La femme de MidJourney », « L’instagrameuse Final fantasy », et « La recruteuse Linkedin ».
ce commentaire est sous licence cc by 4 et précédentes
# Le surentraînement des IA sur des profils types peut nuire à ces profils types
Posté par Thomas Debesse (site web personnel, Mastodon) . En réponse au journal les visages générés par IA. Évalué à 7 (+6/-2).
Ce qui est intéressant ici c’est comment ce qui a pu être dénoncé comme l’effet d’un possible racisme systémique peut nourrir un autre racisme systémique.
Par exemple il avait été dénoncé il y a quelques années les « filtres d’influenceurs (Instagram et autres) conçus et entraînés sur des visages occidentaux (biais d’intention et biais de sélection). Par exemple les articles Miroir, mon beau miroir, qui est la plus blanche de toutes ? Les biais raciaux dans les filtres de beauté des réseaux sociaux (en), TikTok : aviez-vous remarqué que ce filtre fonctionne seulement sur peau blanche ? (attention acceptation de cookie requis). Mais il n’y a pas que le filtre de vénus européenne, il y a aussi le filtre asiatique d’inspiration jeu vidéo à la Final Fantasy ou certains manga...
Ici il y a le biais que certains phénotypes soient sur-représentés dans la génération de visages, avec le risque que les personnes réelles qui portent aussi ces traits soient alors inconsciemment associées à de la fabrication (faible crédibilité, risque de fraude, voire charlatan). Pour le coup cela pourrait nourrir une nouvelle forme de préjugé au faciès.
C’est un peu comme les gens qui suspectent immédiatement d’IA les gens qui utilisent des tirets quadratins, parce que précisément les IA utilisent des tirets cadratins car elles sont entraînés sur les textes de leurs pairs : des textes à haut niveau de rédaction, de relecture, et de typographie. Et pour le coup si on veut entraîner une IA sur de la connaissance à fort taux de relecture et de vérification, il est peut-être impossible d’éviter ce problème.
Il y a quelques années j’avais fait une expérience avec MidJourney et j’avais trouvé un moyen de faire un prompt entièrement neutre (c’est à dire, sémantiquement vide) et dans ce cas il générait systématiquement un visage de femme, et la même femme. Je rappelle que le prompt était neutre, il ne mentionnait donc ni visage ni femme ni même l’idée d’une personne, l’IA était tout aussi bien libre de produire un tournesol, une construction brutaliste où une scène de la surface de la lune.
De fait, je te remercie, tu me donnes envie d’écrire ce journal, j’ai maintenant trois axes principaux (j’aime bien avoir trois axes avant de traiter d’un sujet) : « La femme de MidJourney », « L’instagrameuse Final fantasy », et « La recruteuse Linkedin ».
ce commentaire est sous licence cc by 4 et précédentes