Posté par gUI (Mastodon) .
En réponse au journal Mon avis sur chatGPT.
Évalué à 4.
Dernière modification le 25 janvier 2023 à 10:18.
Mais si tu l'entraines pour qu'il ait un minimum d'esprit critique et croise les sources, en l'aidant un peu, je me demande si on est si loin de la singularité technologique, au moins en production de texte.
Ce travail est inévitable et a été largement fait en amont, par les équipes de OpenAI. Pour toute une liste de questions, on lui fait sortir 4 ou 5 propositions, et des humains lui donnent un classement. C'est comme ça par exemple qu'on lui donne les notions de bien ou de mal (et de politiquement correct surtout) de notre société.
Une possibilité très concrète pourrait être par exemple [...]
Oui évidemment, et je ne serais pas étonné que des produits comme ça soient déjà sur le marché. Mais la difficulté est très grande d'avoir une AI de qualité, la phase d'apprentissage et du "tuning" est longue et complexe, et vraiment l’apanage de spécialistes. Là ChatGPT est gentil, mais il bullshite à mort (ce qu'il pisse est vraiment creux), c'est un bel effet waouh, mais on est très loin d'avoir un truc dans lequel les réponses sont fiables. La différence n'est pas anodine du tout.
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.
[^] # Re: éduquer ChatGPT
Posté par gUI (Mastodon) . En réponse au journal Mon avis sur chatGPT. Évalué à 4. Dernière modification le 25 janvier 2023 à 10:18.
Ce travail est inévitable et a été largement fait en amont, par les équipes de OpenAI. Pour toute une liste de questions, on lui fait sortir 4 ou 5 propositions, et des humains lui donnent un classement. C'est comme ça par exemple qu'on lui donne les notions de bien ou de mal (et de politiquement correct surtout) de notre société.
Oui évidemment, et je ne serais pas étonné que des produits comme ça soient déjà sur le marché. Mais la difficulté est très grande d'avoir une AI de qualité, la phase d'apprentissage et du "tuning" est longue et complexe, et vraiment l’apanage de spécialistes. Là ChatGPT est gentil, mais il bullshite à mort (ce qu'il pisse est vraiment creux), c'est un bel effet waouh, mais on est très loin d'avoir un truc dans lequel les réponses sont fiables. La différence n'est pas anodine du tout.
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.