Pour la partie s'assurer/évacuer (absolument), ça ressemble à comment éviter les fausses infos, les contrefaçons, les contournements de DRM, les mensonges et usurpations, les problèmes de sécurité, etc., etc. On ne sait pas faire et on se saura sans doute jamais faire ça avec certitude. Donc on fait ce qu'on peut et on vit avec le risque.
Pour la partie "limiter/détecter", ça dépend :
si l'IA sert à spammer à des fins publicitaires, on cherche à détecter les liens de pub, on utilise du nofollow,noindex (mais ça ne change rien) et on vire tout ce qui concerne un compte détecté, et on cherche les comptes similaires
si l'IA sert à traduire/corriger parce que la personne qui écrit maîtrise mal la langue source ou cible, ça ne me semble pas problématique
si l'IA sert à vendre de la soupe ou de la désinformation, il est facile de détecter le hors sujet, il est plus délicat de détecter ça sur des sujets dans le thème... il faut espérer que l'équipe de modération et le lectorat s'en rendent compte. Éventuellement des métriques de volumétrie mais on peut désinformer à bas volume.
si l'IA sert juste à nuire, c'est probablement le cas le plus pénible... c'est ciblé, personnalisé et mal intentionné, et l'attaquant cherchera à s'adapter... au bout d'un moment seules les autorités pourront aider, la réponse ne pouvant être que technique
# S'assurer ?
Posté par Benoît Sibaud (site web personnel) . En réponse au journal Commentaires IA. Évalué à 9.
Pour la partie s'assurer/évacuer (absolument), ça ressemble à comment éviter les fausses infos, les contrefaçons, les contournements de DRM, les mensonges et usurpations, les problèmes de sécurité, etc., etc. On ne sait pas faire et on se saura sans doute jamais faire ça avec certitude. Donc on fait ce qu'on peut et on vit avec le risque.
Pour la partie "limiter/détecter", ça dépend :