Le cheval blanc d'Henri IV était en réalité gris [1][2]. C'est une légende qui dit [...]
Je ne sais pas si c'est vrai ou non, mais ce que je sais, c'est que (en imaginant qu'elle soit fausse parce que l'IA a mal interprété un ou des textes) par effet de résonance, de telles affirmations venues d'une machine finiront par se trouver référencées à outrance sur la toile et en deviendront vraies.
Les machines sont donc en passe de pouvoir fabriquer de la vérité, qui certes pourra ne pas résister à une étude scientifique sérieuse, mais qui sera admise comme vraie tant que cette analyse n'aura pas eu lieu (et n'aura pas été diffusée convenablement), c'est-à-dire dans la plupart des cas.
On me répondra que les infox partent du même principe, mais il y a une grande différence entre des pseudo-infos disséminées par des canaux douteux et des informations venant d'une entité reconnue (je pense aux IA de google et MS). On me répondra aussi que la presse aussi peut facilement désinformer, mais si elle le fait, elle doit le faire intelligemment, de manière vraisemblable et pour répondre à un but précis (je parle d'une presse cataloguée comme sérieuse).
Dans le cas de la machine, ça ne serait que par un algo mal construit, ou par compulsion de données douteuses, et on sait que par recherche d'efficacité, le choix a été fait de ne pas avoir la possibilité de contrôler (pour ce genre d'IA) le chemin logique qu'elle a suivi et les données qu'elle a utilisées pour obtenir cette affirmation.
[^] # Re: J'ai appris des choses
Posté par sebas . En réponse au lien Un concurrent de ChatGPT gratuit et sans inscription. Évalué à 7.
Je ne sais pas si c'est vrai ou non, mais ce que je sais, c'est que (en imaginant qu'elle soit fausse parce que l'IA a mal interprété un ou des textes) par effet de résonance, de telles affirmations venues d'une machine finiront par se trouver référencées à outrance sur la toile et en deviendront vraies.
Les machines sont donc en passe de pouvoir fabriquer de la vérité, qui certes pourra ne pas résister à une étude scientifique sérieuse, mais qui sera admise comme vraie tant que cette analyse n'aura pas eu lieu (et n'aura pas été diffusée convenablement), c'est-à-dire dans la plupart des cas.
On me répondra que les infox partent du même principe, mais il y a une grande différence entre des pseudo-infos disséminées par des canaux douteux et des informations venant d'une entité reconnue (je pense aux IA de google et MS). On me répondra aussi que la presse aussi peut facilement désinformer, mais si elle le fait, elle doit le faire intelligemment, de manière vraisemblable et pour répondre à un but précis (je parle d'une presse cataloguée comme sérieuse).
Dans le cas de la machine, ça ne serait que par un algo mal construit, ou par compulsion de données douteuses, et on sait que par recherche d'efficacité, le choix a été fait de ne pas avoir la possibilité de contrôler (pour ce genre d'IA) le chemin logique qu'elle a suivi et les données qu'elle a utilisées pour obtenir cette affirmation.