Oui, il y a pas mal de méthodes qui permettent de contourner les blocages, et elles fonctionnent bien même sur les gros LLM. Ces derniers restent un peu plus futés pour détecter les soucis d'alignements, mais "futé" est quand même un grand mot et réaliser des jailbreak ne demande pas beaucoup d'effort quand on est déterminé.
Mais dans l'exemple que tu donne, ou dans la pratique du jailbreak, il y a une volonté active de l'utilisateur de contourner les filtres. C'est un souci que ça soit possible, mais en tant qu'humain, on sait à quoi s'attendre. Et on assume le résultat qui nous est donné.
Là où ça me gêne vraiment, c'est que ces contournements peuvent aussi arriver quand ce n'est pas une volonté de l'utilisateur. Il y a assez de scandales où des LLM ont tranquillement aidé des personnes fragiles psychologiquement à tomber dans le gouffre ; ce sont les sujets les plus extrêmes puisque ça mène certaines personnes à mourir ou à bien détruire leur vie, mais au final, ce genre de souci peut arriver sur tous les sujets, avec des conséquences plus ou moins anodines. Suffit de voir les derniers liens/journaux où des agents LLM ont effacés des trucs en prod. C'est à garder en tête avec chaque interaction : malgré les promesses des entreprises "on fait attention aux lois, on respecte des règles, on est mignons", en réalité on peut se retrouver avec du contenu très problématique sans l'avoir activement cherché.
[^] # Re: double négation
Posté par Zatalyz (site web personnel) . En réponse au journal Les IA sont-elles courtoises ?. Évalué à 8 (+6/-0).
Oui, il y a pas mal de méthodes qui permettent de contourner les blocages, et elles fonctionnent bien même sur les gros LLM. Ces derniers restent un peu plus futés pour détecter les soucis d'alignements, mais "futé" est quand même un grand mot et réaliser des jailbreak ne demande pas beaucoup d'effort quand on est déterminé.
Mais dans l'exemple que tu donne, ou dans la pratique du jailbreak, il y a une volonté active de l'utilisateur de contourner les filtres. C'est un souci que ça soit possible, mais en tant qu'humain, on sait à quoi s'attendre. Et on assume le résultat qui nous est donné.
Là où ça me gêne vraiment, c'est que ces contournements peuvent aussi arriver quand ce n'est pas une volonté de l'utilisateur. Il y a assez de scandales où des LLM ont tranquillement aidé des personnes fragiles psychologiquement à tomber dans le gouffre ; ce sont les sujets les plus extrêmes puisque ça mène certaines personnes à mourir ou à bien détruire leur vie, mais au final, ce genre de souci peut arriver sur tous les sujets, avec des conséquences plus ou moins anodines. Suffit de voir les derniers liens/journaux où des agents LLM ont effacés des trucs en prod. C'est à garder en tête avec chaque interaction : malgré les promesses des entreprises "on fait attention aux lois, on respecte des règles, on est mignons", en réalité on peut se retrouver avec du contenu très problématique sans l'avoir activement cherché.