Tout simplement passionnant, mais aussi inquiétant. Et pas parce que les méchantes IA pourraient nous démasquer de force (ici, je parle en tant qu'auteur qui publie sous pseudonymes). Au contraire, je trouve ça essentiel et riche — au minimumparce que ça devrait nous pousser à réfléchir à la société que nous sommes en train de bâtir, je veux dire derrière les beaux discours dont on l'emballe et les nobles sentiements dont on se revendique.
Non, ce qui m'inquiète c'est lorsque que le questionneur leur demande si cet outil ne pourrait pas aussi être retourné pour faire de la contre-IA qui parasiterait le travail d'analyse du texte (en gros), un des chercheurs réponde ceci (je mets en gras et en italiques) :
(oui c'est possible.) Il y a même un champ qui existe qui est celui de la stylométrie adversariale dans lequel il y a beaucoup de contributions sur les meilleurs algorithmes pour brouiller le signal stylistique avec des substitution aléatoires de mots à partir d’un dictionnaire d’équivalence ou des méthodes plus sophistiquées. Ce champ peut parfois être légitime, notamment quand il s’agit d’empêcher un lanceur d’alerte d’être découvert.
Ce « champ » (càd, ici, tout faire protéger son anonymat y compris en utilisant de l'IA contre d'autres IA fouineuses, donc) est soit légitime, soit il ne l'est pas. Il ne l'est pas « parfois ».
Édicter des exceptions ou des situations où, au nom de certains principes ou de certaines valeurs, ce serait justifié de se protéger et donc, du moins comme je le lis, sous-entendre qu’il y aurait des cas où ce ne serait pas légitime est intenable. C'est soit stupide, soit hypocrite. Edit: du moins pas hors du cadre strict d'une législation mais dans tous les cas: si la loi peut punir le fautif, l'outil qu'il a employé pour fauter ne peut pas être à géométrie variable.
Pour faire un parallèle pas si excessif que ça, c'est un peu comme nos élu(e)s qui exigent une cryptographie qui soit inviolable sauf quand c'est pour punir les "méchants".
Mais peut-être j'ai mal lu ou mal compris sa réponse ?
# Passionnant, mais...
Posté par yal (Mastodon) . En réponse au lien Comment nous avons trouvé qui était derrière QAnon. Évalué à 4. Dernière modification le 19 mars 2022 à 10:06.
Tout simplement passionnant, mais aussi inquiétant. Et pas parce que les méchantes IA pourraient nous démasquer de force (ici, je parle en tant qu'auteur qui publie sous pseudonymes). Au contraire, je trouve ça essentiel et riche — au minimumparce que ça devrait nous pousser à réfléchir à la société que nous sommes en train de bâtir, je veux dire derrière les beaux discours dont on l'emballe et les nobles sentiements dont on se revendique.
Non, ce qui m'inquiète c'est lorsque que le questionneur leur demande si cet outil ne pourrait pas aussi être retourné pour faire de la contre-IA qui parasiterait le travail d'analyse du texte (en gros), un des chercheurs réponde ceci (je mets en gras et en italiques) :
Ce « champ » (càd, ici, tout faire protéger son anonymat y compris en utilisant de l'IA contre d'autres IA fouineuses, donc) est soit légitime, soit il ne l'est pas. Il ne l'est pas « parfois ».
Édicter des exceptions ou des situations où, au nom de certains principes ou de certaines valeurs, ce serait justifié de se protéger et donc, du moins comme je le lis, sous-entendre qu’il y aurait des cas où ce ne serait pas légitime est intenable. C'est soit stupide, soit hypocrite. Edit: du moins pas hors du cadre strict d'une législation mais dans tous les cas: si la loi peut punir le fautif, l'outil qu'il a employé pour fauter ne peut pas être à géométrie variable.
Pour faire un parallèle pas si excessif que ça, c'est un peu comme nos élu(e)s qui exigent une cryptographie qui soit inviolable sauf quand c'est pour punir les "méchants".
Mais peut-être j'ai mal lu ou mal compris sa réponse ?