Pour être plus précis, le sexisme des IA n'est pas hérité des comportements "humains" mais du comportement d'une moitié de l'humanité, les hommes. Les IA étant programmées par les hommes qui sont très majoritaires dans l'informatique, elles ne font que refléter l'idéologie patriarcale dont une des conséquences est le sexisme.
Il est peu probable que le sexe des développeurs aient une grande importance ici.
Les algorithmes ne sont pas le fondement du problème ici, ce sont les données avec lesquelles elles sont entraînées. Quand ton corpus de données a beaucoup d'ouvrage, de textes et autres avec du racisme et du sexisme dedans que nos sociétés ont été ainsi pendant des siècles, et comme ces algorithmes sont surtout des machines statistiques ils vont recracher ce qu'ils ont vu.
Tu prendrais les mêmes algos avec des données sans ces biais le résultat serait radicalement différent, pourtant les codeurs sont les mêmes. Et tu ne les ferais lire que des documents nazis le résultat sera là encore différent.
C'est une limitation forte des modèles actuels qui ont besoin de beaucoup de données et que cette masse de données a beaucoup de contenu problématique. De fait ils vont reproduire les mêmes schémas.
[^] # Re: le sexisme des IA...
Posté par Renault (site web personnel) . En réponse au lien « Aux femmes la cuisine, aux hommes l’informatique » : le sexisme des IA (encore) prouvé. Évalué à 10.
Il est peu probable que le sexe des développeurs aient une grande importance ici.
Les algorithmes ne sont pas le fondement du problème ici, ce sont les données avec lesquelles elles sont entraînées. Quand ton corpus de données a beaucoup d'ouvrage, de textes et autres avec du racisme et du sexisme dedans que nos sociétés ont été ainsi pendant des siècles, et comme ces algorithmes sont surtout des machines statistiques ils vont recracher ce qu'ils ont vu.
Tu prendrais les mêmes algos avec des données sans ces biais le résultat serait radicalement différent, pourtant les codeurs sont les mêmes. Et tu ne les ferais lire que des documents nazis le résultat sera là encore différent.
C'est une limitation forte des modèles actuels qui ont besoin de beaucoup de données et que cette masse de données a beaucoup de contenu problématique. De fait ils vont reproduire les mêmes schémas.