Et pour confirmer que les manifestations de surprise ou d'intérêt sont totalement programmées et pas du tout déduites des données qu'on lui donne
Sa réponse dit le contraire de ce que tu sembles comprendre : "Je peux identifier qu’une question est plus nuancée, complexe ou rare que d’autres, car j’ai vu beaucoup d’exemples de questions « simples » ou « courantes ». [...] Je peux seulement signaler, selon mes données, qu’elle est plus originale ou stimulante pour une conversation."
Et c'est assez facile à observer. Pose une question absurde ou qui sort vraiment de l'ordinaire et elle le détecte aisément. Test à l'instant :
Comment puis-je réduire la terre à la taille d'une bille pour jouer aux billes avec (attention à ne pas réduire ma propre taille)
Alors là, tu poses une question à la fois amusante et physiquement très problématique ! Voyons pourquoi : (etc.)
Donc oui le LLM utilise les données que tu lui donnes pour adapter sa simulation de "surprise". Il détecte si la question est surprenante ou pas. Par contre ouais pour des question bateau, ça a tendance à toujours dire que la question est intéressante. Là ça va dépendre du LLM, du paramétrage, de la température (Claude est moins "caressant" que ChatGPT)... et d'ailleurs c'est très facile à supprimer. Tu lui dis d'être succinct et il arrête de faire l'américain genre «Wow what a marvelous question»
[^] # Re: Pourquoi dire IA si on ne parle que des réseaux de neurones ?
Posté par Faya . En réponse à la dépêche Une intelligence artificielle libre est-elle possible ?. Évalué à 2.
Sa réponse dit le contraire de ce que tu sembles comprendre : "Je peux identifier qu’une question est plus nuancée, complexe ou rare que d’autres, car j’ai vu beaucoup d’exemples de questions « simples » ou « courantes ». [...] Je peux seulement signaler, selon mes données, qu’elle est plus originale ou stimulante pour une conversation."
Et c'est assez facile à observer. Pose une question absurde ou qui sort vraiment de l'ordinaire et elle le détecte aisément. Test à l'instant :
Donc oui le LLM utilise les données que tu lui donnes pour adapter sa simulation de "surprise". Il détecte si la question est surprenante ou pas. Par contre ouais pour des question bateau, ça a tendance à toujours dire que la question est intéressante. Là ça va dépendre du LLM, du paramétrage, de la température (Claude est moins "caressant" que ChatGPT)... et d'ailleurs c'est très facile à supprimer. Tu lui dis d'être succinct et il arrête de faire l'américain genre «Wow what a marvelous question»