Re: Pas convaincu

Ils ne sont pas neutres car ils reposent sur des données qu'ils ne le sont pas (et des données neutres dans notre société cela n'existe pas vraiment, il y a forcément des biais suivant les pays, périodes considérées, la manière dont les données sont collectées, agrégées, etc.).
C'est impossible d'avoir ce genre de système étant neutre car c'est un but impossible à atteindre, c'est comme avoir un être humain neutre, ça n'a pas beaucoup de sens. On peut s'en approcher en filtrant les données trop biaisées ou en ajoutant dans l’apprentissage des contre mesures mais ça sera forcément incomplet et imparfait.

Oulà on sent bien la prégnance idéologique de gauche, on est en pleine novlangue là.
La neutralité signifie que l'on ne prend pas parti, donc OSEF de l'orientation du corpus, on agrège tout ce qu'on trouve et on fait avec.
(ce qui est une très mauvais idée avec un llm, en particulier pour ses performances générales)
Ce que tu suggère s’appelle l'alignement et c'est tout sauf neutre, c'est précisément là où se trouve le biais qui conditionne l'orientation du llm.
Et de ce point de vu, les llms ne sont généralement clairement pas conservateurs !
L'alignement est nécessaire aux llms et est le principal élément de leur performances, mais quand je parlais de neutralité, je voulais dire que dans l'idée où cette IA serait probablement alimentée par un BDD et non pas par l'apprentissage d'un modèle spécifique, les données d'instructions viendrait de données statistiques.

Si dans ta BDD il y a une corrélation forte entre femme et une profession car la société dans laquelle on baigne favorise cette corrélation, il y a donc bel et bien un biais si le LLM reproduit ce schéma ce qu'il fera très probablement.

Donc on est d'accord, c'est simplement le miroir de ce qu'est la société d'après des données statistiques.
Donc on peut appeler ça comme on veut, mais c'est pas un biais, c'est la réalité (encore une fois la novlangue).

Par ailleurs d'un point de vu strictement pratique, les gens cherchent des boulots suivant leurs qualifications et envies, donc si on considère que de nombreux métiers soient genrés est un problème, il faut s'attaquer à toute la population, femmes comprises, qui semble préférer -entre autre- les métiers sociaux aux métiers manuels.
J'ai bossé dans le bâtiment et il y a bizarrement pas beaucoup de femmes sur les chantiers. Est ce du sexisme ?
On "lutte" comment contre ça, en envoi des secrétaires qui bossent bien au chaud dans des bureaux l'hiver et avec la clim l'été bosser sur des chantiers ?

Pour supprimer le biais ici il faudrait supprimer le genre et les noms dans les questions et dans les données car on considère que ce n'est pas important (de même que pour la couleur de peau ou de la religion).

Là dessus je suis totalement d'accord, ça couperait l'herbe sous le pied des féministes.
Maintenant je suppose que les employeurs ont besoin de ce genre d'information, mais on pourrait simplement ignorer certaines informations dans les instructions du llm et se concentrer sur les diplômes.
Encore une fois, ouvrir le code permettrait de couper court aux polémiques.

Puis honnêtement, en 2010 j'en ai croisé des conseiller d'orientation, les conseils étaient tous des ramassis de clichés sur les professions et hobbies. Non seulement ils avaient une vues limités des possibilités, mais ça pouvait être aussi absurde que "tu n'as pas 20/20 en maths ? Tu ne peux pas être informaticien ou ingénieur". Et j'imagine qu'ils ont aussi des biais sexistes suivant leur âge et culture.
Donc de là à dire que les BDD liés à l'emploi ou gérés par ce genre de personnes ne souffrent d'aucun biais, bof.

Je doute que les personne qui ont déployés cette IA aient un quelconque rapport avec des conseillers d'orientation, c'est plus probablement un sous-traitant.
Et je doute d'ailleurs qu'il y ait une volonté de nuire à quiconque.
Faut arrêter avec ces délires de persécution perpétuels.