Mais donc si jamais ça partait en sucette, à quel point il serait compliqué d'éteindre des machines et puis faire un revert pour revenir à un état où la machine nous obéissait ?
Parce que tu t’imagines un scenario à la terminator/matrix où il y a une IA clairement et ouvertement hostile en conflit ouvert avec une humanité unie. Je ne pense pas qu’il y aie la moindre personne qui pense sérieusement qu’un tel scenario soit plausible.
J’aimerai te donner une réponse courte et simple mais il n’y en a pas, parce qu’il y a des tonnes de scenario différents, avec des hypothèses différentes, qui répondent différemment à cette question.
Dans le scenario le plus proche de ce que tu décris implicitement, où une IA devient suffisamment avancée en terme de capacités pour être une menace pour l’humanité, et devient hostile à l’humanité, la réponse est simple : une telle IA est suffisamment intelligente pour ne pas dévoiler son hostilité avant de devenir essentiellement autonome.
Un autre scenario possible : les choses accélèrent tellement vite que la boucle OODA des institutions humaines n’est pas capable d’être assez rapide pour observer et répondre au problème (termes derrière ce scenario : Intelligence Explosion / Recursive Self-Improvement / Hard takeoff)
Autre scenario possible, celui décrit par Gradual Disempowerment, où les choses avancent de manière presque imperceptible, à la manière de l’évolution naturelle ; une entreprise qui adopte un peu plus l’IA qui ses concurrents gagne des parts de marché ; un parti politique qui s’appuie un peu plus sur l’IA a plus de succès ; un pays qui intègre un peu plus l’IA dans ses structures de gouvernance obtient plus d’influence, de sorte qu’au bout de 10 ans, la totalité du système économique et politique est sous le contrôle de l’IA, sans qu’on puisse mettre le doigt sur le moment où l’humanité a abandonné le contrôle.
La réponse simple et courte : ce sera très compliqué d’« éteindre les machines » parce qu’il n’y aura jamais de moment clair où « on peut débrancher et il faut évidemment débrancher », ce qui avait déjà été explicitement expliqué en 2017.
[^] # Re: Inutile
Posté par Moonz . En réponse à la dépêche Nouvelles sur l’IA de février 2026. Évalué à 3. Dernière modification le 08 mars 2026 à 22:59.
Parce que tu t’imagines un scenario à la terminator/matrix où il y a une IA clairement et ouvertement hostile en conflit ouvert avec une humanité unie. Je ne pense pas qu’il y aie la moindre personne qui pense sérieusement qu’un tel scenario soit plausible.
(si tu veux rester dans la fiction, tu as de meilleures images dans cette courte histoire sur Twitter, ou la version narrée de AI 2027, ou cette histoire de Gwern, qui se rapprochent bien plus d’inquiétudes réelles.)
J’aimerai te donner une réponse courte et simple mais il n’y en a pas, parce qu’il y a des tonnes de scenario différents, avec des hypothèses différentes, qui répondent différemment à cette question.
Dans le scenario le plus proche de ce que tu décris implicitement, où une IA devient suffisamment avancée en terme de capacités pour être une menace pour l’humanité, et devient hostile à l’humanité, la réponse est simple : une telle IA est suffisamment intelligente pour ne pas dévoiler son hostilité avant de devenir essentiellement autonome.
Un autre scenario possible : les choses accélèrent tellement vite que la boucle OODA des institutions humaines n’est pas capable d’être assez rapide pour observer et répondre au problème (termes derrière ce scenario : Intelligence Explosion / Recursive Self-Improvement / Hard takeoff)
Autre scenario possible, celui décrit par Gradual Disempowerment, où les choses avancent de manière presque imperceptible, à la manière de l’évolution naturelle ; une entreprise qui adopte un peu plus l’IA qui ses concurrents gagne des parts de marché ; un parti politique qui s’appuie un peu plus sur l’IA a plus de succès ; un pays qui intègre un peu plus l’IA dans ses structures de gouvernance obtient plus d’influence, de sorte qu’au bout de 10 ans, la totalité du système économique et politique est sous le contrôle de l’IA, sans qu’on puisse mettre le doigt sur le moment où l’humanité a abandonné le contrôle.
La réponse simple et courte : ce sera très compliqué d’« éteindre les machines » parce qu’il n’y aura jamais de moment clair où « on peut débrancher et il faut évidemment débrancher », ce qui avait déjà été explicitement expliqué en 2017.