Ce n'est pas qu'il sache ou pas la réponse. Dans tous les cas, il cherche à compléter le texte précédent de la manière la plus plausible (au sens qu'il est probable que ça soit dans l'esprit de ce qu'il a appris ailleurs) qui soit.
La phrase qui suit une question est généralement une affirmation qui reprend la question posée.
Le modèle complètera donc un texte composé d'une question par une affirmation qui reprend la question avec des éléments qui ressembleront à ce qu'il a vu par ailleurs (bref, une réponse).
Quand c'est bien fait, il est hautement probable que ça donne une réponse valable de la machine à une question de l'utilisateur.par
Le modèle ne sait pas qu'il a répondu à une question avec une affirmation, deux concepts qui n'ont pas de sens pour lui, il a simplement complété le texte initial en regardant des probabilités.
Si tu lui poses plein de questions d'un coup, il voudra peut-être compléter par d'autres questions, sans faire la différence entre lui et toi : la suite habituelle de plein de questions est plein d'autres questions.
Évidemment, les modèles actuels sont modifiés pour éviter les pièges les plus grossiers, mais le principe reste toujours celui-ci.
[^] # Re: Question IA
Posté par flan (site web personnel) . En réponse au journal Armée et IA, un projet "SkyNet" ?. Évalué à 3. Dernière modification le 28 octobre 2024 à 15:03.
Ce n'est pas qu'il sache ou pas la réponse. Dans tous les cas, il cherche à compléter le texte précédent de la manière la plus plausible (au sens qu'il est probable que ça soit dans l'esprit de ce qu'il a appris ailleurs) qui soit.
La phrase qui suit une question est généralement une affirmation qui reprend la question posée.
Le modèle complètera donc un texte composé d'une question par une affirmation qui reprend la question avec des éléments qui ressembleront à ce qu'il a vu par ailleurs (bref, une réponse).
Évidemment, les modèles actuels sont modifiés pour éviter les pièges les plus grossiers, mais le principe reste toujours celui-ci.