Encore un truc sans intérêt où il faut s’indigner du vent qui souffle.
Si un bot est stéréotypé, ça n'est pas parce qu'on lui a appris à l'être spécifiquement, c'est simplement que le corpus de données l'est car la société l'est.
Car bordel mais c'est simple à comprendre que nous correspondons tous à certains stéréotypes, hommes, femmes, européens, africains, asiatiques, etc...
Il n'y a rien donc rien d'étonnant que ça se retrouve sur une IA.
Maintenant où est le problème ? Est ce que cela empêche pour autant l'accès à l'emploi ?
Il ne s'agit à priori que d'un bot d'orientation, rien de plus.
Si une femme veut réellement bosser dans l'informatique, c'est quand même pas un bot d'orientation qui va l'empêcher non ?
Le sexisme dans l'absolu serait d’interdire l'accès à l'emploi des femmes sur certaines branches, hors ça n'est évidemment pas le cas ici.
J'ai bossé dans le bâtiment en étant gaucher.
Si j'avais dû être choqué à chaque fois que j'ai eu droit à une réflexion sur les gauchers et leur habileté manuelle, je pourrai avoir la même psyché que les féministes, c'est à dire dépressif et un besoin constant de fabriquer un contre modèle totalement hors sol.
La réalité c'est que 90% de la population est droitière c'est comme ça et il n'y a rien à y faire et c'est probablement bien comme ça, l'histoire a prouvé qu'il vaut mieux laisser faire la nature et que quand l'humain choisi par constructivisme d'aller contre la nature, ça se termine généralement mal.
Si un bot a un biais qui propose par défaut aux femmes d'être infirmière ou prof, c'est pas de la méchanceté, c'est simplement un reflet de la réalité (et encore une fois, ça n'est qu'une orientation par défaut, il n'y a pas une méchant blanc patriarcal qui va vous taper sur les doigts si vous cochez une autre case).
Sans oublier que pour "lutter" contre ça (faut vraiment avoir que ça a faire mais soit), il faut introduire des biais qui ne sont que le reflet de la subjectivité des auteurs mais certainement pas la réalité.
Si vous souhaitez réellement avoir des IA utiles, le mieux ne serait il pas qu'elle correspondent ce qu'est la société et non pas à ce que vous souhaiteriez qu'elle soit ?
# Pas convaincu
Posté par Florian.J . En réponse au lien « Aux femmes la cuisine, aux hommes l’informatique » : le sexisme des IA (encore) prouvé. Évalué à 3. Dernière modification le 27 janvier 2024 à 23:06.
Encore un truc sans intérêt où il faut s’indigner du vent qui souffle.
Si un bot est stéréotypé, ça n'est pas parce qu'on lui a appris à l'être spécifiquement, c'est simplement que le corpus de données l'est car la société l'est.
Car bordel mais c'est simple à comprendre que nous correspondons tous à certains stéréotypes, hommes, femmes, européens, africains, asiatiques, etc...
Il n'y a rien donc rien d'étonnant que ça se retrouve sur une IA.
Maintenant où est le problème ? Est ce que cela empêche pour autant l'accès à l'emploi ?
Il ne s'agit à priori que d'un bot d'orientation, rien de plus.
Si une femme veut réellement bosser dans l'informatique, c'est quand même pas un bot d'orientation qui va l'empêcher non ?
Le sexisme dans l'absolu serait d’interdire l'accès à l'emploi des femmes sur certaines branches, hors ça n'est évidemment pas le cas ici.
J'ai bossé dans le bâtiment en étant gaucher.
Si j'avais dû être choqué à chaque fois que j'ai eu droit à une réflexion sur les gauchers et leur habileté manuelle, je pourrai avoir la même psyché que les féministes, c'est à dire dépressif et un besoin constant de fabriquer un contre modèle totalement hors sol.
La réalité c'est que 90% de la population est droitière c'est comme ça et il n'y a rien à y faire et c'est probablement bien comme ça, l'histoire a prouvé qu'il vaut mieux laisser faire la nature et que quand l'humain choisi par constructivisme d'aller contre la nature, ça se termine généralement mal.
Si un bot a un biais qui propose par défaut aux femmes d'être infirmière ou prof, c'est pas de la méchanceté, c'est simplement un reflet de la réalité (et encore une fois, ça n'est qu'une orientation par défaut, il n'y a pas une méchant blanc patriarcal qui va vous taper sur les doigts si vous cochez une autre case).
Sans oublier que pour "lutter" contre ça (faut vraiment avoir que ça a faire mais soit), il faut introduire des biais qui ne sont que le reflet de la subjectivité des auteurs mais certainement pas la réalité.
Si vous souhaitez réellement avoir des IA utiles, le mieux ne serait il pas qu'elle correspondent ce qu'est la société et non pas à ce que vous souhaiteriez qu'elle soit ?