Donc globalement les llms n'ont pas d'opinion propres, ils sont neutres et suivent plus ou moins bien les instructions qu'on leur donne.
Ils ne sont pas neutres car ils reposent sur des données qu'ils ne le sont pas (et des données neutres dans notre société cela n'existe pas vraiment, il y a forcément des biais suivant les pays, périodes considérées, la manière dont les données sont collectées, agrégées, etc.).
C'est impossible d'avoir ce genre de système étant neutre car c'est un but impossible à atteindre, c'est comme avoir un être humain neutre, ça n'a pas beaucoup de sens. On peut s'en approcher en filtrant les données trop biaisées ou en ajoutant dans l’apprentissage des contre mesures mais ça sera forcément incomplet et imparfait.
Si tu dis à un llm de suivre des instructions elle même générées dynamiquement depuis les informations tirées d'une base de donnée, il n'y a aucun biais
Si dans ta BDD il y a une corrélation forte entre femme et une profession car la société dans laquelle on baigne favorise cette corrélation, il y a donc bel et bien un biais si le LLM reproduit ce schéma ce qu'il fera très probablement. Pour supprimer le biais ici il faudrait supprimer le genre et les noms dans les questions et dans les données car on considère que ce n'est pas important (de même que pour la couleur de peau ou de la religion).
Mais cela peut malgré tout être subtil, du genre si j'aime faire le tricot on va me proposer un poste d'infirmier car il y a une facteur de confusion entre les deux même s'il n'y a aucun lien entre les deux d'un point de vue activité.
Puis honnêtement, en 2010 j'en ai croisé des conseiller d'orientation, les conseils étaient tous des ramassis de clichés sur les professions et hobbies. Non seulement ils avaient une vues limités des possibilités, mais ça pouvait être aussi absurde que "tu n'as pas 20/20 en maths ? Tu ne peux pas être informaticien ou ingénieur". Et j'imagine qu'ils ont aussi des biais sexistes suivant leur âge et culture.
Donc de là à dire que les BDD liés à l'emploi ou gérés par ce genre de personnes ne souffrent d'aucun biais, bof.
[^] # Re: Pas convaincu
Posté par Renault (site web personnel) . En réponse au lien « Aux femmes la cuisine, aux hommes l’informatique » : le sexisme des IA (encore) prouvé. Évalué à 5.
Ils ne sont pas neutres car ils reposent sur des données qu'ils ne le sont pas (et des données neutres dans notre société cela n'existe pas vraiment, il y a forcément des biais suivant les pays, périodes considérées, la manière dont les données sont collectées, agrégées, etc.).
C'est impossible d'avoir ce genre de système étant neutre car c'est un but impossible à atteindre, c'est comme avoir un être humain neutre, ça n'a pas beaucoup de sens. On peut s'en approcher en filtrant les données trop biaisées ou en ajoutant dans l’apprentissage des contre mesures mais ça sera forcément incomplet et imparfait.
Si dans ta BDD il y a une corrélation forte entre femme et une profession car la société dans laquelle on baigne favorise cette corrélation, il y a donc bel et bien un biais si le LLM reproduit ce schéma ce qu'il fera très probablement. Pour supprimer le biais ici il faudrait supprimer le genre et les noms dans les questions et dans les données car on considère que ce n'est pas important (de même que pour la couleur de peau ou de la religion).
Mais cela peut malgré tout être subtil, du genre si j'aime faire le tricot on va me proposer un poste d'infirmier car il y a une facteur de confusion entre les deux même s'il n'y a aucun lien entre les deux d'un point de vue activité.
Puis honnêtement, en 2010 j'en ai croisé des conseiller d'orientation, les conseils étaient tous des ramassis de clichés sur les professions et hobbies. Non seulement ils avaient une vues limités des possibilités, mais ça pouvait être aussi absurde que "tu n'as pas 20/20 en maths ? Tu ne peux pas être informaticien ou ingénieur". Et j'imagine qu'ils ont aussi des biais sexistes suivant leur âge et culture.
Donc de là à dire que les BDD liés à l'emploi ou gérés par ce genre de personnes ne souffrent d'aucun biais, bof.