Avec le même raisonnement pas de problème à rajouter Mein Kampf dans le corpus et risquer de voir l’IA insérer un laïus raciste dans un doc autogénéré lâché dans la nature sur le net.
Pourtant avant de les lâcher dans la nature il y a une phase pour tenter de faire en sorte que les modèles ne ressortent absolument pas n’importe quoi, des pre-prompt et de l’apprentissage par renforcement avec rétroaction humaine (en anglais)
Dans un monde idéal, tout le monde est éduqué, parfaitement rationnel, pas raciste et ouvert. Dans la réalité, il y a des niveaux d’éducation variable et l’humain est imparfait et influençable, et il y a des évidences que le simple fait de répéter une connerie suffisamment de fois la rend plus facilement digérée et "crédible".
[^] # Re: le sexisme des IA...
Posté par thoasm . En réponse au lien « Aux femmes la cuisine, aux hommes l’informatique » : le sexisme des IA (encore) prouvé. Évalué à 5. Dernière modification le 15 septembre 2024 à 10:43.
Avec le même raisonnement pas de problème à rajouter Mein Kampf dans le corpus et risquer de voir l’IA insérer un laïus raciste dans un doc autogénéré lâché dans la nature sur le net.
Pourtant avant de les lâcher dans la nature il y a une phase pour tenter de faire en sorte que les modèles ne ressortent absolument pas n’importe quoi, des pre-prompt et de l’apprentissage par renforcement avec rétroaction humaine (en anglais)
Dans un monde idéal, tout le monde est éduqué, parfaitement rationnel, pas raciste et ouvert. Dans la réalité, il y a des niveaux d’éducation variable et l’humain est imparfait et influençable, et il y a des évidences que le simple fait de répéter une connerie suffisamment de fois la rend plus facilement digérée et "crédible".