si la prise de décision est automatique les recours sont très difficiles à obtenir
On a très peu de détails techniques mais l'article cite le ministère du travail Autrichien:
Il était le premier en Europe à avoir mis en place un agent conversationnel fondé sur l’intelligence artificielle (IA) générative pour orienter les étudiants et les demandeurs d’emploi
Autrement dit, c'est bien un bot d'orientation, il ne prend pas de décision (et encore heureux, les IA génératives sont encore trop aléatoires).
Et puis de toute manière je suppose que c'est bien la personne qui cherche un emploi qui rempli son dossier avec ses qualifications, le bot est simplement un assistant conversationnel.
Si ton jeu de données initial est mal construit, tu peux volontairement ou non créer des biais non souhaitables. L'IA peut avoir décrété qu'un homme ne peut pas devenir infirmier ou qu'il est strictement impossible qu'une femme soit dans l'armée.
Encore une fois peu de détails technique mais est probable que le bot soit plutôt un llm type GPT ou Mistral et qu'il utilise la méthode RAG.
Autrement dit de l'injection d'instructions en fonction du contexte d'après les informations tirées d'une base de donnée.
C'est beaucoup plus simple à mettre en place (pas besoin d’entraîner le modèle, un llm généraliste suffit), c'est beaucoup plus précis pour réaliser une tâche spécifique, c'est facilement modifiable (suffit de changer la façon dont on sélectionne les données à injecter) et ça utilise des données en temps réél sans avoir à mettre à jour le modèle tous les mois.
Du coup on peut supposer que si tu coche uniquement la case femme (et uniquement ça, car c'est pas précisé dans l'article mais je suppose que si vous ajoutez une qualification quelconque, les réponses changent radicalement), le modèle renvoi les choix de métiers les plus probables en fonction du peu de donnée qu'il a.
Donc je vois vraiment pas où est le problème, c'est juste le reflet de la réalité du terrain.
Le meilleur moyen de couper cours à toute polémique serait de le rendre libre, peut être même est ce le cas, mais ça n'est pas en pinaillant sur des broutilles avec ce genre d'article racoleur qu'on avancera.
[^] # Re: Pas convaincu
Posté par Florian.J . En réponse au lien « Aux femmes la cuisine, aux hommes l’informatique » : le sexisme des IA (encore) prouvé. Évalué à 1.
On a très peu de détails techniques mais l'article cite le ministère du travail Autrichien:
Autrement dit, c'est bien un bot d'orientation, il ne prend pas de décision (et encore heureux, les IA génératives sont encore trop aléatoires).
Et puis de toute manière je suppose que c'est bien la personne qui cherche un emploi qui rempli son dossier avec ses qualifications, le bot est simplement un assistant conversationnel.
Encore une fois peu de détails technique mais est probable que le bot soit plutôt un llm type GPT ou Mistral et qu'il utilise la méthode RAG.
Autrement dit de l'injection d'instructions en fonction du contexte d'après les informations tirées d'une base de donnée.
C'est beaucoup plus simple à mettre en place (pas besoin d’entraîner le modèle, un llm généraliste suffit), c'est beaucoup plus précis pour réaliser une tâche spécifique, c'est facilement modifiable (suffit de changer la façon dont on sélectionne les données à injecter) et ça utilise des données en temps réél sans avoir à mettre à jour le modèle tous les mois.
Du coup on peut supposer que si tu coche uniquement la case femme (et uniquement ça, car c'est pas précisé dans l'article mais je suppose que si vous ajoutez une qualification quelconque, les réponses changent radicalement), le modèle renvoi les choix de métiers les plus probables en fonction du peu de donnée qu'il a.
Donc je vois vraiment pas où est le problème, c'est juste le reflet de la réalité du terrain.
Le meilleur moyen de couper cours à toute polémique serait de le rendre libre, peut être même est ce le cas, mais ça n'est pas en pinaillant sur des broutilles avec ce genre d'article racoleur qu'on avancera.