J'ai l'impression qu'il y aurait de bien meilleurs résultats en créant des modules indépendants (résolution de problèmes, créativité artistique, savoirs encyclopédiques, chat informel / test de Turing ...) chacun optimisé pour mieux répondre aux désirs de l'utilisateur, et d'avoir un système simple qui appelle le bon module.
C'est très probablement dans les plans pour la suite. Là, on a un module qui répond de façon "humaine", et c'est ce qui est testé. L'objectif est de faire un agent conversationnel, donc d'avoir quelqu'un qui répond comme le ferait un humain, et je trouve cela plutôt réussi ; j'ai eu des conversations avec des services de support qui étaient moins convaincantes sur "l'humanité" de mon interlocuteur (à une époque où ça restait moins cher de payer des humains à lire des scripts). ChatGPT ne passe pas un test de Turing sérieux, mais suffit déjà largement à converser de façon agréable, ce qui n'est pas rien.
Dans l'analyse des conversations par OpenaAi, il est plus que probable que ce soit la suite de questions qui soient étudié afin de voir comment on "converse" avec ChatGPT. Par la suite, associer ça à des modules garantissant des réponses justes est absolument envisageable. Il y a d'ailleurs déjà des domaines sur lesquels ChatGPT est entraîné à ne donner que des réponses spécifiques. Par exemple quand on lui pose des questions sur sa conscience, ce qu'il "sait", etc, la réponse est toujours "je suis une IA, je ne suis pas intelligent, conscient" (faudrait que je retrouve ses formules...). Pourtant d'un point de vue conversationnel, probabilité des mots etc, on pourrait s'attendre à ce que le texte prétende à une conscience (ce que d'autres IA font ; non pas qu'elles aient une conscience mais parce que ce dont on les a nourris appelle un "oui" à la question "as-tu une conscience ?"). Là dessus, comme sur d'autres domaines, les concepteurs de ChatGPT ont voulu éviter certaines dérives problématiques et ont donc contraint le modèle à ne pas sortir de certaines réponses. Du coup, sur ce type de questions, les réponses sont relativement fiables. Relativement parce que si on essaie de passer outre, on finit par trouver comment le déborder et lui faire dire n'importe quoi. Sur les sujets de la santé ou du réchauffement climatique par exemple, avec des questions basiques il ne sort pas de ce qui correspond à un certain consensus scientifique, on sent que le modèle a été briefé sur ces questions pour éviter les dérives et d'avoir un chatbot qui tient des discours antivax. Je ne pense pas qu'on puisse faire dire à ChatGPT "les vaccins sont dangereux" avec une question directe ; par contre, il est possible de lui faire dire ça "dans un certain contexte", mais ça demande de le piéger et au final ses réponses ne sont pas présentées comme une vérité mais bien une réponse dans le cadre d'un jeu de rôle ou d'une fiction.
Jusqu'ici les erreurs factuelles qu'il fait touchent à des sujets qui n'ont pas été revus (= pas de module de "vérité"), comme sur l'histoire, le monde animal ou la pop culture, où il dit facilement des âneries monumentales. En gros il serait très mauvais au trivial pursuit ! Sur les sujets polémiques qui ont déjà été pointés dans le fonctionnement des IA, il y a eu du travail et ça ne me semble pas être que la partie "agent conversationnel" qui décide de la réponse, il y a probablement une orientation des réponses possibles dans un angle restreint.
Je pense que c'est aussi l'enjeu de cette phase ouverte : voir comment les gens piègent ChatGPT pour lui faire dire que la terre est plate, et trouver comment faire qu'il donne toujours une réponse "correcte".
[^] # Re: la dernière de chatgpt
Posté par Zatalyz (site web personnel) . En réponse au journal Mon avis sur chatGPT. Évalué à 3.
C'est très probablement dans les plans pour la suite. Là, on a un module qui répond de façon "humaine", et c'est ce qui est testé. L'objectif est de faire un agent conversationnel, donc d'avoir quelqu'un qui répond comme le ferait un humain, et je trouve cela plutôt réussi ; j'ai eu des conversations avec des services de support qui étaient moins convaincantes sur "l'humanité" de mon interlocuteur (à une époque où ça restait moins cher de payer des humains à lire des scripts). ChatGPT ne passe pas un test de Turing sérieux, mais suffit déjà largement à converser de façon agréable, ce qui n'est pas rien.
Dans l'analyse des conversations par OpenaAi, il est plus que probable que ce soit la suite de questions qui soient étudié afin de voir comment on "converse" avec ChatGPT. Par la suite, associer ça à des modules garantissant des réponses justes est absolument envisageable. Il y a d'ailleurs déjà des domaines sur lesquels ChatGPT est entraîné à ne donner que des réponses spécifiques. Par exemple quand on lui pose des questions sur sa conscience, ce qu'il "sait", etc, la réponse est toujours "je suis une IA, je ne suis pas intelligent, conscient" (faudrait que je retrouve ses formules...). Pourtant d'un point de vue conversationnel, probabilité des mots etc, on pourrait s'attendre à ce que le texte prétende à une conscience (ce que d'autres IA font ; non pas qu'elles aient une conscience mais parce que ce dont on les a nourris appelle un "oui" à la question "as-tu une conscience ?"). Là dessus, comme sur d'autres domaines, les concepteurs de ChatGPT ont voulu éviter certaines dérives problématiques et ont donc contraint le modèle à ne pas sortir de certaines réponses. Du coup, sur ce type de questions, les réponses sont relativement fiables. Relativement parce que si on essaie de passer outre, on finit par trouver comment le déborder et lui faire dire n'importe quoi. Sur les sujets de la santé ou du réchauffement climatique par exemple, avec des questions basiques il ne sort pas de ce qui correspond à un certain consensus scientifique, on sent que le modèle a été briefé sur ces questions pour éviter les dérives et d'avoir un chatbot qui tient des discours antivax. Je ne pense pas qu'on puisse faire dire à ChatGPT "les vaccins sont dangereux" avec une question directe ; par contre, il est possible de lui faire dire ça "dans un certain contexte", mais ça demande de le piéger et au final ses réponses ne sont pas présentées comme une vérité mais bien une réponse dans le cadre d'un jeu de rôle ou d'une fiction.
Jusqu'ici les erreurs factuelles qu'il fait touchent à des sujets qui n'ont pas été revus (= pas de module de "vérité"), comme sur l'histoire, le monde animal ou la pop culture, où il dit facilement des âneries monumentales. En gros il serait très mauvais au trivial pursuit ! Sur les sujets polémiques qui ont déjà été pointés dans le fonctionnement des IA, il y a eu du travail et ça ne me semble pas être que la partie "agent conversationnel" qui décide de la réponse, il y a probablement une orientation des réponses possibles dans un angle restreint.
Je pense que c'est aussi l'enjeu de cette phase ouverte : voir comment les gens piègent ChatGPT pour lui faire dire que la terre est plate, et trouver comment faire qu'il donne toujours une réponse "correcte".