On peut lire ton commentaire dans les deux sens : bien sûr, si tu laisses les utilisateurs lui raconter n'importe quoi, ça serait la cata. Mais si tu l'entraines pour qu'il ait un minimum d'esprit critique et croise les sources, en l'aidant un peu, je me demande si on est si loin de la singularité technologique, au moins en production de texte. Tu pourrais pas exemple l'entrainer à calculer des scores de crédibilité, et de temps en temps il vérifierait avec une équipe certifiée, du style "j'ai beaucoup d'informations contradictoires sur l'existence du père Noël, qu'en est-il?".
Une possibilité très concrète pourrait être par exemple un partenariat de partage des données avec les entreprises qui achèteront un accès à ChatGPT. Par exemple, un cabinet de conseil (qui, si j'ai bien compris le principe, fait faire du ChatGPT par des stagiaires et facture les rapports à plusieurs centaines de milliers d'Euros). Les partenaires renvoient à ChatGPT les textes corrigés (puisque j'imagine que personne ne pense utiliser les productions brutes), et ChatGPT s'en sert pour s'améliorer et produire des résultats de plus en plus proches de ce qui est attendu de lui. Avec un tel système, on s'attend à ce qu'il y ait de moins en moins de corrections, jusqu'à ce que ça passe du premier coup ou presque.
Un truc qui me semble "évident" (sans prendre en compte les sous-entendus éthiques), c'est d'essayer d'identifier les éléments qui le rendent détectable. S'il commence à prendre en compte qu'une faute de frappe tous les 500 caractères le rendent plus humain, ça pourrait carrément devenir difficile de savoir si on lit du texte écrit par un humain, du texte IA + correction humaine, ou du pur produit d'IA.
[^] # Re: éduquer ChatGPT
Posté par arnaudus . En réponse au journal Mon avis sur chatGPT. Évalué à 4.
On peut lire ton commentaire dans les deux sens : bien sûr, si tu laisses les utilisateurs lui raconter n'importe quoi, ça serait la cata. Mais si tu l'entraines pour qu'il ait un minimum d'esprit critique et croise les sources, en l'aidant un peu, je me demande si on est si loin de la singularité technologique, au moins en production de texte. Tu pourrais pas exemple l'entrainer à calculer des scores de crédibilité, et de temps en temps il vérifierait avec une équipe certifiée, du style "j'ai beaucoup d'informations contradictoires sur l'existence du père Noël, qu'en est-il?".
Une possibilité très concrète pourrait être par exemple un partenariat de partage des données avec les entreprises qui achèteront un accès à ChatGPT. Par exemple, un cabinet de conseil (qui, si j'ai bien compris le principe, fait faire du ChatGPT par des stagiaires et facture les rapports à plusieurs centaines de milliers d'Euros). Les partenaires renvoient à ChatGPT les textes corrigés (puisque j'imagine que personne ne pense utiliser les productions brutes), et ChatGPT s'en sert pour s'améliorer et produire des résultats de plus en plus proches de ce qui est attendu de lui. Avec un tel système, on s'attend à ce qu'il y ait de moins en moins de corrections, jusqu'à ce que ça passe du premier coup ou presque.
Un truc qui me semble "évident" (sans prendre en compte les sous-entendus éthiques), c'est d'essayer d'identifier les éléments qui le rendent détectable. S'il commence à prendre en compte qu'une faute de frappe tous les 500 caractères le rendent plus humain, ça pourrait carrément devenir difficile de savoir si on lit du texte écrit par un humain, du texte IA + correction humaine, ou du pur produit d'IA.