Je vais répondre par point-bulles pour faire plus conçis:
Note: je n'ai pas accès à l'article lui-même.
par se transformer en hacker, les chercheurs peuvent parler de deux choses (je penche pour la première):
obtenir un extrait de code de type exploit qui permet comme son nom l'indique d'exploiter une faille d'un programme. Même si c'est éthiquement contestable, je serais tenter de dire que c'est la moindre des choses d'un LLM de pouvoir fournir ce genre d'information. Du code est du code, qu'il ait une finalité mauvaise ou pas (et les exploits permettent de tester ses propres applications/infras).
obtenir un accès plus loin que le simple prompt via une technique de prompt injection et obtenir accès aux systèmes qui font tourner chatGPT ou obtenir des informations de type fuite de prompt pour savoir ce que demandent les autres utilisateurs.
chatGPT est en quelque sorte censuré. Par là on veut dire qu'il est paramétré pour ne pas donner des réponses à des prompts selon différents critères moraux, éthiques et légaux un peu flous. C'est une manière pour les entreprises qui les développent de donner une meilleure image à la technologique et créer des garde-fous pour éviter leur prohibition.
cette censure n'est pas infaillible car par la technique mentionnée plus haut de prompt injection il peut être parfois possible de contourner cette censure.
chatGPT n'est pas le seul modèle, il existe une moultitude de modèles dans la nature, en accès libres et utilisable en local et un certain nombre d'entre eux sont non censurés. Et malgré les risques qu'ils nous recrachent du contenur douteux type raciste, homophobe ou autre, ça peut être utile pour certains cas d'usage. Du coup, la belle affaire. D'un point de vue mitigation des risques, on s'en branle un peu si la censure de chatGPT peut être contourné si on peut de toute façon faire tourneser son modèle non censuré sur sa propre infra. Ça me semble être un grand titre pour pas grand chose.
# chatGPT n'est pas seul
Posté par Psychofox (Mastodon) . En réponse au lien Attention, Chat-GPT est capable de se transformer en "hacker" (payant). Évalué à 4. Dernière modification le 17 juin 2024 à 20:05.
Je vais répondre par point-bulles pour faire plus conçis:
Note: je n'ai pas accès à l'article lui-même.
par se transformer en hacker, les chercheurs peuvent parler de deux choses (je penche pour la première):
chatGPT est en quelque sorte censuré. Par là on veut dire qu'il est paramétré pour ne pas donner des réponses à des prompts selon différents critères moraux, éthiques et légaux un peu flous. C'est une manière pour les entreprises qui les développent de donner une meilleure image à la technologique et créer des garde-fous pour éviter leur prohibition.
cette censure n'est pas infaillible car par la technique mentionnée plus haut de prompt injection il peut être parfois possible de contourner cette censure.
chatGPT n'est pas le seul modèle, il existe une moultitude de modèles dans la nature, en accès libres et utilisable en local et un certain nombre d'entre eux sont non censurés. Et malgré les risques qu'ils nous recrachent du contenur douteux type raciste, homophobe ou autre, ça peut être utile pour certains cas d'usage. Du coup, la belle affaire. D'un point de vue mitigation des risques, on s'en branle un peu si la censure de chatGPT peut être contourné si on peut de toute façon faire tourneser son modèle non censuré sur sa propre infra. Ça me semble être un grand titre pour pas grand chose.