il y a déjà eu quantité de débats ici même sur le sujet. Voir les commentaires de ce post par exemple.
ça n'était pas le but de mon journal. Seulement de moquer Musk.
Donc "chaîne de Markov hyper sophistiquée" ou "perroquet stochastique" masquent l'avancée du bousin, je trouve. Fondamentalement, quand je te réponds là, je fais plus ou moins la même chose qu'un LLM : je puise dans mes données d'entraînement (tout ce que j'ai pu ingérer comme informations depuis ma naissance et dont je me souviens) pour construire une phrase, un mot après l'autre. La différence principale avec les "chaîne de Markov" c'est le principe de "l'attention". Les LLM ne font pas que deviner le mot qui vient après, ils puisent dans leur (immense) contexte pour générer une réponse globale. Même pour le critère de "vérité", certains LLM peuvent dire aujourd'hui qu'ils ignorent la réponse plutôt qu'inventer un truc vraisemblant. Ou te donner un intervalle de confiance dans leur réponse. Si il manque des informations, les nouveaux modèles avec chaine de pensée peuvent découper un problème en plusieurs étapes, demander des précisions, prévoir un plan de résolution,... Ils se sont beaucoup éloignés du simple perroquet ou de chercher le mot d'après à partir d'une fenêtre glissante de n mots (chaîne de Markov). Ils peuvent aussi compléter eux-même leur contexte sans qu'on le leur demande spécifiquement (ou alors dans le system prompt, celui qui sera sûrement manipulé par Musk pour qu'il cesse de le contredire). Exemple.
Par contre
"gloutonne en énergie" ça restera vrai. Je pense.
ça ne va pas régler le soucis des hallucinations qui leur sont intrinsèquement liés donc c'est toujours une mauvaise idée de parler à un LLM comme à un oracle qui saurait tout. Et ça on le voit beaucoup trop. Des gens qui demandent des conseils à un LLM sur tous les sujets de la vie, je trouve ça hallucinant (pun intended). Oui on peut aisément les tromper (mais quelqu'un qui cherche à me tromper y arrivera sûrement aussi) et même si ça évolue, ils font encore des affirmations totalement fausses avec beaucoup d'assurance (mais le président des USA, humour).
[^] # Re: bof
Posté par Faya . En réponse au journal [HS] La comédie Grok versus Musk/MAGA. Évalué à 6. Dernière modification le 19 juin 2025 à 19:01.
Rapidement, parce que
Donc "chaîne de Markov hyper sophistiquée" ou "perroquet stochastique" masquent l'avancée du bousin, je trouve. Fondamentalement, quand je te réponds là, je fais plus ou moins la même chose qu'un LLM : je puise dans mes données d'entraînement (tout ce que j'ai pu ingérer comme informations depuis ma naissance et dont je me souviens) pour construire une phrase, un mot après l'autre. La différence principale avec les "chaîne de Markov" c'est le principe de "l'attention". Les LLM ne font pas que deviner le mot qui vient après, ils puisent dans leur (immense) contexte pour générer une réponse globale. Même pour le critère de "vérité", certains LLM peuvent dire aujourd'hui qu'ils ignorent la réponse plutôt qu'inventer un truc vraisemblant. Ou te donner un intervalle de confiance dans leur réponse. Si il manque des informations, les nouveaux modèles avec chaine de pensée peuvent découper un problème en plusieurs étapes, demander des précisions, prévoir un plan de résolution,... Ils se sont beaucoup éloignés du simple perroquet ou de chercher le mot d'après à partir d'une fenêtre glissante de n mots (chaîne de Markov). Ils peuvent aussi compléter eux-même leur contexte sans qu'on le leur demande spécifiquement (ou alors dans le system prompt, celui qui sera sûrement manipulé par Musk pour qu'il cesse de le contredire). Exemple.
Par contre