Car typiquement il arrive qu'il y ait des raisonnements erronés (mauvais raisonnement -> bon résultat quand même, ou raisonnement correct -> mauvais résultat) ce qui peut être lié à la méthodologie derrière.
Comme chez les êtres humains tu veux dire ? :)
Je pense que tu ignores que c'est un sujet très discuté et loin d'être clos, comme la recherche publique et indépendante a toujours un train de retard ce n'est pas évident. Un peu de prudence épistémique ne ferait pas de mal.
Je met ma casquette activiste Pause IA pour un moment.
Je suis d’accord.
Tout comme la question de la transmission aérienne du COVID en février 2020 était un sujet discuté et loin d’être clos.
Il y a, fondamentalement, deux manières de réagir à une exponentielle : trop tôt ou trop tard. Se réfugier derrière l’incertitude pour justifier l’inaction, ce n’est pas de la prudence, c’est se forcer à l’alternative « trop tard ». Pour le COVID, nous avons choisi l’option « trop tard », pour exactement la même raison que nous sommes en train de choisir l’option « trop tard » pour l’IA. Par peur du ridicule de présenter aussi sérieusement un scénario aussi « étrange, hors de l’ordinaire ». Par mimétisme « personne ne semble inquiet, pourquoi devrais-je l’être ».
Proposition : Au rythme de progression actuel de l’IA, l’IA sera capable de réaliser rapidement et économiquement toute tâche intellectuelle réalisable par un être humain d’ici 7 ans. Ça inclut : toutes les activités économiques en col blanc, toutes les activités économiques en col bleu réalisables à travers un robot (industriel ou humanoïde), l’organisation d’une campagne politique en démocratie, la planification stratégique au sein d’un état-major d’une puissance mondiale, les débats et prise de décision au sein d’un gouvernement, des décision personnelles telles que « comment éduquer mon enfant », la recherche scientifique.
C’est l’extrapolation directe et brute (relisez ces deux mots, ils sont importants) de nos meilleures données QUE J’ESSAIE DEPUIS MAINTENANT UN AN DE FAIRE RENTRER DANS VOS CERVEAUX BORDEL DE MERDE (désolé, ça devait sortir). Ça ne signifie évidemment aucune certitude ; nos données peuvent être insuffisantes et ne pas capturer des dimensions nécessaires de l’intelligence ; la tendance peut peut-être s’arrêter brutalement sans raison claire. Dans l’autre sens : la tendance pourrait très bien s’accélérer maintenant que l’IA participe et accélère le développement de l’IA. Un meilleur paradigme peut apparaître à tout moment, et à nouveau accélérer les choses. L’incertitude ne va pas uniquement dans le sens de l’optimisme.
Mais la perspective de « d’ici 7 ans, l’être humain devient obsolète » mériterait peut être une autre réaction que « je ne sais pas, c’est pas clair, voyons bien ce qui arrive », qui est la stratégie actuelle ?
Au fond, en réalité, qu’est-ce qui me rend fou ?
Si vous lisez Zvi en entier et pas mes résumés, il y a quelques détails intéressants (que je met de côté sur mes dépêches, parce que ce sont des détails). Notamment : certains sénateurs aux US sont inquiets de cette perspective, mais n’osent pas élever la voix non pas de la peur des grand méchants lobbystes de l’IA, mais bien par la peur de paraître ridicule de croire à un « tels scénario de science fiction ». « Qu’est-ce que mes électeurs vont penser de moi, si je me ridiculise ainsi ? »
Autrement dit : chacun d’entre vous qui se moque de « oh, ces inquiétudes de nerds qui ont lu trop de science fiction » contribue activement à supprimer le discours autour de ce point de détail du futur. Chacun d’entre vous qui répète bêtement « perroquets stochastiques ! » vote de fait contre « il faudrait prendre au sérieux cette problématique ». De l’aveu même de ceux qui seraient en position de faire des lois sur ce sujet.
Je ne vous demande pas de devenir activiste, ou de contribuer à Pause IA.
J’essaie simplement d’éteindre cette conception fausse et néfaste du progrès de l’IA comme un truc un peu nébuleux au mieux, une arnaque marketing au pire. En espérant que ceux qui me lisent arrêtent de tourner au ridicule ces inquiétudes, sous couvert de « oh, c’est juste des gens qui ont avalé les couleuvres marketing des vendeurs d’IA » ou « soyons prudent, rien n’est certain, les chercheurs du domaine ne pensent qu’il y a que 5% de chances pour que l’IA fasse disparaître l’humanité, pas de quoi s’inquiéter ».
Vous avez maintenant la version longue de pourquoi j’écris ces dépêches.
Ce n’est pas grand chose, mais c’est un moins une action décente
Je ne suis pas convaincu qu'il y ait d'ailleurs un vrai consensus scientifique sur ce genre de questions
Non, il n’y en a pas. J’en profite pour partager mes bookmarks sur ce sujet, qui est à ma connaissance l’état de l’art sur la question. Qui vont prudemment dans le sens « indices (très) faibles dans le sens les modèles peuvent/sont conscients » :
Une résultat intéressant, plus récent, allant dans l’autre direction (mais évalué sur des LLMs de 2024, en 2026, ça fait un peu tâche, à voir ce qu’ils trouvent avec des LLMs de fin 2025/début 2026) :
[^] # Re: Inutile
Posté par Moonz . En réponse à la dépêche Nouvelles sur l’IA de février 2026. Évalué à 3.
Comme chez les êtres humains tu veux dire ? :)
Je met ma casquette activiste Pause IA pour un moment.
Je suis d’accord.
Tout comme la question de la transmission aérienne du COVID en février 2020 était un sujet discuté et loin d’être clos.
Il y a, fondamentalement, deux manières de réagir à une exponentielle : trop tôt ou trop tard. Se réfugier derrière l’incertitude pour justifier l’inaction, ce n’est pas de la prudence, c’est se forcer à l’alternative « trop tard ». Pour le COVID, nous avons choisi l’option « trop tard », pour exactement la même raison que nous sommes en train de choisir l’option « trop tard » pour l’IA. Par peur du ridicule de présenter aussi sérieusement un scénario aussi « étrange, hors de l’ordinaire ». Par mimétisme « personne ne semble inquiet, pourquoi devrais-je l’être ».
Proposition : Au rythme de progression actuel de l’IA, l’IA sera capable de réaliser rapidement et économiquement toute tâche intellectuelle réalisable par un être humain d’ici 7 ans. Ça inclut : toutes les activités économiques en col blanc, toutes les activités économiques en col bleu réalisables à travers un robot (industriel ou humanoïde), l’organisation d’une campagne politique en démocratie, la planification stratégique au sein d’un état-major d’une puissance mondiale, les débats et prise de décision au sein d’un gouvernement, des décision personnelles telles que « comment éduquer mon enfant », la recherche scientifique.
C’est l’extrapolation directe et brute (relisez ces deux mots, ils sont importants) de nos meilleures données QUE J’ESSAIE DEPUIS MAINTENANT UN AN DE FAIRE RENTRER DANS VOS CERVEAUX BORDEL DE MERDE (désolé, ça devait sortir). Ça ne signifie évidemment aucune certitude ; nos données peuvent être insuffisantes et ne pas capturer des dimensions nécessaires de l’intelligence ; la tendance peut peut-être s’arrêter brutalement sans raison claire. Dans l’autre sens : la tendance pourrait très bien s’accélérer maintenant que l’IA participe et accélère le développement de l’IA. Un meilleur paradigme peut apparaître à tout moment, et à nouveau accélérer les choses. L’incertitude ne va pas uniquement dans le sens de l’optimisme.
Mais la perspective de « d’ici 7 ans, l’être humain devient obsolète » mériterait peut être une autre réaction que « je ne sais pas, c’est pas clair, voyons bien ce qui arrive », qui est la stratégie actuelle ?
Au fond, en réalité, qu’est-ce qui me rend fou ?
Si vous lisez Zvi en entier et pas mes résumés, il y a quelques détails intéressants (que je met de côté sur mes dépêches, parce que ce sont des détails). Notamment : certains sénateurs aux US sont inquiets de cette perspective, mais n’osent pas élever la voix non pas de la peur des grand méchants lobbystes de l’IA, mais bien par la peur de paraître ridicule de croire à un « tels scénario de science fiction ». « Qu’est-ce que mes électeurs vont penser de moi, si je me ridiculise ainsi ? »
Autrement dit : chacun d’entre vous qui se moque de « oh, ces inquiétudes de nerds qui ont lu trop de science fiction » contribue activement à supprimer le discours autour de ce point de détail du futur. Chacun d’entre vous qui répète bêtement « perroquets stochastiques ! » vote de fait contre « il faudrait prendre au sérieux cette problématique ». De l’aveu même de ceux qui seraient en position de faire des lois sur ce sujet.
Je ne vous demande pas de devenir activiste, ou de contribuer à Pause IA.
J’essaie simplement d’éteindre cette conception fausse et néfaste du progrès de l’IA comme un truc un peu nébuleux au mieux, une arnaque marketing au pire. En espérant que ceux qui me lisent arrêtent de tourner au ridicule ces inquiétudes, sous couvert de « oh, c’est juste des gens qui ont avalé les couleuvres marketing des vendeurs d’IA » ou « soyons prudent, rien n’est certain, les chercheurs du domaine ne pensent qu’il y a que 5% de chances pour que l’IA fasse disparaître l’humanité, pas de quoi s’inquiéter ».
Vous avez maintenant la version longue de pourquoi j’écris ces dépêches.
Ce n’est pas grand chose, mais c’est un moins une action décente
Non, il n’y en a pas. J’en profite pour partager mes bookmarks sur ce sujet, qui est à ma connaissance l’état de l’art sur la question. Qui vont prudemment dans le sens « indices (très) faibles dans le sens les modèles peuvent/sont conscients » :
https://transformer-circuits.pub/2025/introspection/index.html
https://arxiv.org/abs/2510.24797
Une résultat intéressant, plus récent, allant dans l’autre direction (mais évalué sur des LLMs de 2024, en 2026, ça fait un peu tâche, à voir ce qu’ils trouvent avec des LLMs de fin 2025/début 2026) :
https://arxiv.org/abs/2601.17060