C'est juste que c'est assimilé à un bug, alors que c'est le comportement normal.
Je ne sais pas ce que tu appelles "le comportement normal". ChatGPT est une interface d'accès au modèle de langage GPT. Si j'ai bien compris le fonctionnement du truc, GPT ne sait faire que compléter un texte. Tu lui donnes un bout de texte, et il continue tout seul, comme le ferait un outil de complétion sur un téléphone. Par exemple, "Les portes du pénitentier" va être continué par "bientôt vont se refermer" ou "est une chanson de Johnny Halliday". Comme ça, ça n'est pas très utilisable. ChatGPT va donc "invoquer" GPT avec des instructions (pas du code, du texte brut en Anglais), du type "nous sommes dans un chat de discussion avec deux interloculeurs, le texte des réponses devra être comme ci comme ça, de telle longueur, le ton doit être cordial", etc. Les premières versions de l'invocation étaient connues (parce que chatGPT les répétait naïvement quand on les lui demandait :-)), mais depuis c'est secret, on sait juste qu'il y en a pour plusieurs pages. Du coup, avec ces pages d'invocation, il n'y a rien de "normal": ça n'est pas du tout la nature de GPT de simuler un chat de discussion, s'il n'y avait pas cette invocation, GPT continuerait simplement le texte, ce qui serait super bizarre ("Bonjour" pourrait être suivi de "tout le monde", ou "je me permets de vous contacter pour faire une réclamation sur la qualité des biscottes que j'ai achetées à Leclerc", n'importe quelle phrase qui aurait du sens après "bonjour", et pas nécessairement une simulation de discussion).
Bref, chatGPT est un simulateur de chat, et il a des pages complètes d'instructions pour lui donner le cadre des réponses qu'il doit fournir. Répondre poliment, éviter les propos polémiques, etc. rentrent dans le cadre des instructions, et les responsables du site décident de la manière dont il doit interagir avec les utilisateurs. C'est plus une histoire de pertinence que de censure, pour éviter qu'il parle de n'importe quoi.
Comme je l'ai écrit au dessus, le cadre juridique n'existe pas, donc on ne peut que spéculer, mais j'imagine qu'il est tout à fait possible que les juristes d'OpenAI considèrent qu'OpenAI est responsable de publication sur ce site. Facebook essaye toujours de se faire passer pour un hébergeur, et pas pour un éditeur, parce que les textes sont écrits par d'autres êtres humains qui peuvent être tenus responsables des dérapages. Pour ChatGPT, personne ne peut être tenu pour responsable à part l'hébergeur du site, c'est donc logique qu'ils souhaitent éviter les propos illégaux (insultes, négationnisme, contrefaçon, exercice illégal de la médecine, etc). Si tu crées un robot qui colle des baffes au hasard aux passants dans la rue, tu vas être tenu pour responsable, même si tu peux montrer le code qui fait que le robot choisit aléatoirement ses victimes (ou même s'il ne colle des mandales qu'à ceux qui lui parlent mal, d'ailleurs). Là c'est pareil, ça n'est pas parce que tu ne contrôles pas ton chatbot que tu peux t'exonérer de ta responsabilité.
[^] # Re: Pour combien de temps ?
Posté par arnaudus . En réponse au lien À ce jour, toutes les intelligences artificielles butent sur les maths . Évalué à 5.
Je ne sais pas ce que tu appelles "le comportement normal". ChatGPT est une interface d'accès au modèle de langage GPT. Si j'ai bien compris le fonctionnement du truc, GPT ne sait faire que compléter un texte. Tu lui donnes un bout de texte, et il continue tout seul, comme le ferait un outil de complétion sur un téléphone. Par exemple, "Les portes du pénitentier" va être continué par "bientôt vont se refermer" ou "est une chanson de Johnny Halliday". Comme ça, ça n'est pas très utilisable. ChatGPT va donc "invoquer" GPT avec des instructions (pas du code, du texte brut en Anglais), du type "nous sommes dans un chat de discussion avec deux interloculeurs, le texte des réponses devra être comme ci comme ça, de telle longueur, le ton doit être cordial", etc. Les premières versions de l'invocation étaient connues (parce que chatGPT les répétait naïvement quand on les lui demandait :-)), mais depuis c'est secret, on sait juste qu'il y en a pour plusieurs pages. Du coup, avec ces pages d'invocation, il n'y a rien de "normal": ça n'est pas du tout la nature de GPT de simuler un chat de discussion, s'il n'y avait pas cette invocation, GPT continuerait simplement le texte, ce qui serait super bizarre ("Bonjour" pourrait être suivi de "tout le monde", ou "je me permets de vous contacter pour faire une réclamation sur la qualité des biscottes que j'ai achetées à Leclerc", n'importe quelle phrase qui aurait du sens après "bonjour", et pas nécessairement une simulation de discussion).
Bref, chatGPT est un simulateur de chat, et il a des pages complètes d'instructions pour lui donner le cadre des réponses qu'il doit fournir. Répondre poliment, éviter les propos polémiques, etc. rentrent dans le cadre des instructions, et les responsables du site décident de la manière dont il doit interagir avec les utilisateurs. C'est plus une histoire de pertinence que de censure, pour éviter qu'il parle de n'importe quoi.
Comme je l'ai écrit au dessus, le cadre juridique n'existe pas, donc on ne peut que spéculer, mais j'imagine qu'il est tout à fait possible que les juristes d'OpenAI considèrent qu'OpenAI est responsable de publication sur ce site. Facebook essaye toujours de se faire passer pour un hébergeur, et pas pour un éditeur, parce que les textes sont écrits par d'autres êtres humains qui peuvent être tenus responsables des dérapages. Pour ChatGPT, personne ne peut être tenu pour responsable à part l'hébergeur du site, c'est donc logique qu'ils souhaitent éviter les propos illégaux (insultes, négationnisme, contrefaçon, exercice illégal de la médecine, etc). Si tu crées un robot qui colle des baffes au hasard aux passants dans la rue, tu vas être tenu pour responsable, même si tu peux montrer le code qui fait que le robot choisit aléatoirement ses victimes (ou même s'il ne colle des mandales qu'à ceux qui lui parlent mal, d'ailleurs). Là c'est pareil, ça n'est pas parce que tu ne contrôles pas ton chatbot que tu peux t'exonérer de ta responsabilité.