Dans mon long commentaire plus haut, qui donnait mon avis sur s'il faut ou non interdire les journaux générés ou assistés par IA (ma réponse: oui aux 2), j'ai oublié de répondre au "comment":
Pour cela, il faudrait créer un système qui permette d'avoir à nouveau confiance dans la provenance des contenus. Et là, comment faire ? en particulier comment faire en rester un site ouvert ? Faut-il un système externe à la cloudfare pour identifier ces IA toxiques ? faut-il créer un réseau tiers de confiance où les gens s'identifieraient et associeraient leur compte à ce réseau pour prouver qu'iels ne sont pas des agents ? Je ne sais pas, toutes les solutions que j'envisage passe par la fin de l'anonymat, ce qui est sûrement problématique pour certains, voire pour certaines publications.
Non s'il vous plaît, pas de solution technique bidon. Tout cela, c'est du solutionisme technologique d'après moi. 😛
Le pire du pire, c'est les méthodes ridicules où on se met à utiliser du LLM pour détecter le LLM. Bientôt les gens feront des aller-retour de LLM, les passeront dans les LLMs détecteurs, puis réessaieront jusqu'à ne plus se faire détecter (c'est exactement ainsi que fonctionnent les "agents" en itérant leurs productions, donc c'est même pas vraiment un truc théorique, ces gens qui développent ces solutions ne semblent pas comprendre grand chose d'autre que le "brute force"). Puis ceux qui veulent détecter essaieront de détecter les textes modifiés pour ne pas être détectés. Et ainsi de suite dans la surenchère.
Non, faisons simple: on met une règle puis on laisse la communauté (enfin les modos!) se mettre d'accord. Et oui, parfois ils en laisseront passer quand c'est pas sûr. Ensuite jusque là, j'ai trouvé la communauté vachement douée pour repérer ce types d'articles. Et puis au final ceux qui font ces articles ne s'en cachent pas si souvent (comme on le voit bien en commentaires). Ou alors quand c'est carrêment des "agents indépendants", ce seront souvent des nouveaux comptes, qui ne répondront pas ou bizarrement. Enfin bon, en gros, on s'y retrouve.
De toutes façons, je préfère des faux négatifs (on laisse passer des trucs incertains — qui étaient en fait générés — de temps en temps) que l'inverse, les faux positifs (on labellise un contenu humain en généré par erreur) car c'est vraiment pas cool pour la personne.
Il faut accepter l'imperfection du système, mais cela ne doit pas nous empêcher de créer des règles et d'essayer de détecter les "fraudeurs".
C'est un peu comme les lois. C'est pas parce qu'on est en faveur de lois qui arrêtent les voleurs, meurtriers et autres hors-la-loi qu'on veut des caméras partout, et jusque chez soi (bon y en a qui essaient, hein! Parfois 1984 ne semble plus si imaginaire). Pourtant ce serait théoriquement le meilleur moyen de ne plus avoir de crimes. Mais on y perdrait aussi la liberté.
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
# Comment faire appliquer la règle!
Posté par Jehan (site web personnel, Mastodon) . En réponse au journal [LinuxFr] Confiance, IA et contenu. Évalué à 10 (+12/-0).
Dans mon long commentaire plus haut, qui donnait mon avis sur s'il faut ou non interdire les journaux générés ou assistés par IA (ma réponse: oui aux 2), j'ai oublié de répondre au "comment":
Non s'il vous plaît, pas de solution technique bidon. Tout cela, c'est du solutionisme technologique d'après moi. 😛
Le pire du pire, c'est les méthodes ridicules où on se met à utiliser du LLM pour détecter le LLM. Bientôt les gens feront des aller-retour de LLM, les passeront dans les LLMs détecteurs, puis réessaieront jusqu'à ne plus se faire détecter (c'est exactement ainsi que fonctionnent les "agents" en itérant leurs productions, donc c'est même pas vraiment un truc théorique, ces gens qui développent ces solutions ne semblent pas comprendre grand chose d'autre que le "brute force"). Puis ceux qui veulent détecter essaieront de détecter les textes modifiés pour ne pas être détectés. Et ainsi de suite dans la surenchère.
Non, faisons simple: on met une règle puis on laisse la communauté (enfin les modos!) se mettre d'accord. Et oui, parfois ils en laisseront passer quand c'est pas sûr. Ensuite jusque là, j'ai trouvé la communauté vachement douée pour repérer ce types d'articles. Et puis au final ceux qui font ces articles ne s'en cachent pas si souvent (comme on le voit bien en commentaires). Ou alors quand c'est carrêment des "agents indépendants", ce seront souvent des nouveaux comptes, qui ne répondront pas ou bizarrement. Enfin bon, en gros, on s'y retrouve.
De toutes façons, je préfère des faux négatifs (on laisse passer des trucs incertains — qui étaient en fait générés — de temps en temps) que l'inverse, les faux positifs (on labellise un contenu humain en généré par erreur) car c'est vraiment pas cool pour la personne.
Il faut accepter l'imperfection du système, mais cela ne doit pas nous empêcher de créer des règles et d'essayer de détecter les "fraudeurs".
C'est un peu comme les lois. C'est pas parce qu'on est en faveur de lois qui arrêtent les voleurs, meurtriers et autres hors-la-loi qu'on veut des caméras partout, et jusque chez soi (bon y en a qui essaient, hein! Parfois 1984 ne semble plus si imaginaire). Pourtant ce serait théoriquement le meilleur moyen de ne plus avoir de crimes. Mais on y perdrait aussi la liberté.
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]