Les entreprises qui ont fait le choix d'inclure dans des données d'entrainement des textes/images érotiques,pornographiques voir pédoporn ont une responsabilité. Je ne crois pas que Lolita soit obligatoire à inclure dans le corpus pour qu'un LLM apprenne à faire des phrases qui sont syntaxiquement correcte
Ben ça dépend. Si tu utilises le LLM pour justement faire du filtrage, voir de générer des données synthétiques pour faire un benchmark d'un système de filtrage, tu as besoin de ça. Ensuite, on va pas se cacher, le texte est sans doute pas le plus problématique, mais c'est pareil sur les images. Le fonctionnement des générateurs d'images (genre Stable Diffusion), c'est de prendre un tas de pixels aléatoires et de faire de la reconnaissance d'objet dessus avec un score de confidence par rapport à ton prompt, puis de modifier un peu l'image pour améliorer les scores par rapport au prompt, et de recommencer jusqu'à avoir ce que tu voulais.
Fondamentalement, l'algo qui détecte une image de chaton est le même qui détecte un autre type de minou pour du porno, c'est juste des images différentes taguées de façon différente, cad un paramètre dans les données d’entraînement. Et ensuite, la différence entre la détection et la génération, c'est d'avoir une boucle qui optimise dans un cas, et un simple appel dans l'autre.
Mais dans tout les cas, dans ton jeu de données, il me semble normal d'avoir ce que tu ne veux pas générer si tu veux entraîner le système à ne pas le faire.
Or, on voit se monter un arsenal qui va frapper plus fort sur les gens comme ce père de famille, tout en laissant les vrais nuisibles (comme Grok) continuer sans grosses conséquences.
Certes, mais c'est pas vraiment comparable. Le père de famille a perdu son compte Google. C'est relou, j'en conviens, mais il est pas en tôle ni rien. Le probléme est également pas tant le fait que Google filtre que le fait que Google n'est pas de support et qu'il n'y a pas de recours sur la fermeture (aux états unis, parce qu'en Europe, je pense que tu peux faire jouer le RGPD pour récupérer tes données).
Pour Grok, il y a 11 régulateurs (au moins) qui tombent sur la boite d'une part, et il faut pas oublier non plus que les utilisateurs de Grok ont une responsabilité d'autre part. Loin de moi l'idée de défendre Musk qui a quand même également fait du bruit pour son mode "spicy" et qui a traîné les pieds pour raison idéologique, mais la plateforme n'agit pas de façon autonome, quelqu'un demande à dénuder des femmes. La société a fait le choix de tomber sur les plateformes et pas les utilisateurs pour des questions d'efficacité de la justice (et c'est important aussi), mais d'un point de vue purement intellectuel, c'est quand même pas terrible. Si quelqu'un fait de la merde avec un outil, ça me semblerais quand même logique que la personne soit condamné et pas uniquement le fabricant de l'outil. L’intentionnalité de l'utilisateur final ne devrait pas passer aussi facilement sous le tapis parce que la justice n'a pas de moyen.
Mais pour le coup, je ne suis pas certaine que cet AI Act vise cela ?
Non, ça tombe plus sous le coup du DSA de ce que j'ai compris. Le DSA vise les plateformes, l'AI Act vise les personnes qui mettent à dispo des systèmes d'IA, et dans les 2 cas, c'est avant tout des lois de régulation du marché. Le RGPD, c'est avant une unification des lois existantes, et c'est beaucoup liés aux droits fondamentaux (en l'occurence la vie privée).
[^] # Re: Le sens des priorités
Posté par Misc (site web personnel) . En réponse au lien UE : l'IA doit s'afficher. Évalué à 4 (+1/-0).
Ben ça dépend. Si tu utilises le LLM pour justement faire du filtrage, voir de générer des données synthétiques pour faire un benchmark d'un système de filtrage, tu as besoin de ça. Ensuite, on va pas se cacher, le texte est sans doute pas le plus problématique, mais c'est pareil sur les images. Le fonctionnement des générateurs d'images (genre Stable Diffusion), c'est de prendre un tas de pixels aléatoires et de faire de la reconnaissance d'objet dessus avec un score de confidence par rapport à ton prompt, puis de modifier un peu l'image pour améliorer les scores par rapport au prompt, et de recommencer jusqu'à avoir ce que tu voulais.
Fondamentalement, l'algo qui détecte une image de chaton est le même qui détecte un autre type de minou pour du porno, c'est juste des images différentes taguées de façon différente, cad un paramètre dans les données d’entraînement. Et ensuite, la différence entre la détection et la génération, c'est d'avoir une boucle qui optimise dans un cas, et un simple appel dans l'autre.
Mais dans tout les cas, dans ton jeu de données, il me semble normal d'avoir ce que tu ne veux pas générer si tu veux entraîner le système à ne pas le faire.
Certes, mais c'est pas vraiment comparable. Le père de famille a perdu son compte Google. C'est relou, j'en conviens, mais il est pas en tôle ni rien. Le probléme est également pas tant le fait que Google filtre que le fait que Google n'est pas de support et qu'il n'y a pas de recours sur la fermeture (aux états unis, parce qu'en Europe, je pense que tu peux faire jouer le RGPD pour récupérer tes données).
Pour Grok, il y a 11 régulateurs (au moins) qui tombent sur la boite d'une part, et il faut pas oublier non plus que les utilisateurs de Grok ont une responsabilité d'autre part. Loin de moi l'idée de défendre Musk qui a quand même également fait du bruit pour son mode "spicy" et qui a traîné les pieds pour raison idéologique, mais la plateforme n'agit pas de façon autonome, quelqu'un demande à dénuder des femmes. La société a fait le choix de tomber sur les plateformes et pas les utilisateurs pour des questions d'efficacité de la justice (et c'est important aussi), mais d'un point de vue purement intellectuel, c'est quand même pas terrible. Si quelqu'un fait de la merde avec un outil, ça me semblerais quand même logique que la personne soit condamné et pas uniquement le fabricant de l'outil. L’intentionnalité de l'utilisateur final ne devrait pas passer aussi facilement sous le tapis parce que la justice n'a pas de moyen.
Non, ça tombe plus sous le coup du DSA de ce que j'ai compris. Le DSA vise les plateformes, l'AI Act vise les personnes qui mettent à dispo des systèmes d'IA, et dans les 2 cas, c'est avant tout des lois de régulation du marché. Le RGPD, c'est avant une unification des lois existantes, et c'est beaucoup liés aux droits fondamentaux (en l'occurence la vie privée).