Mais pour suivre l’actualité, malheureusement, je ne vois rien de mieux que Zvi.
Et j'ai l'impression que ce raisonnement fonctionne pour tout un tas de trucs. Peut-être qu'on aurait dû arrêter l'IA dès ELIZA ?
Note que cet article, écrit en 2017, à l’époque d’un GPT-1 (Google, pas OpenAI, qui n’existait pas) très peu impressionnant, n’argue pas « il faut arrêter le développement de l’IA ». Il argue : « les choses peuvent progresser plus vite que beaucoup ne pensent, il s’agirait de se préparer sérieusement à cette éventualité » (et en 2017, « se préparer », ça signifie travailler sur l’alignement de l’IA, pas penser gouvernance et traités internationaux).
Concrètement, qu'est-ce que tu entends par "faire pression sur les US pour que eux régulent" ?
Je ne faisais que répondre à « Je suis convaincu que la démarche de l'UE d'essayer de réguler est la bonne ».
L’UE régulant l’IA résout certains problèmes de responsabilité vis à vis de la fiabilité (il se passe quoi s’il y a un mort suite à l’IA donnant un mauvais conseil) qui, pour être honnête, ne m’émeut pas vraiment.
L’UE régulant l’IA ne résout absolument aucun problème quant à la menace existentielle de l’IA. Si l’UE veut attaquer ce problème, la seule voie possible est diplomatique, demander plus ou moins poliment aux US de restreindre la course à l’IA des mastodontes qui sont installés là bas (oui, si ça arrive, il faudra se poser la question de Mistral... je ne pense pas que ce soit le point le plus problématique de la discussion). Comment ? Est-ce crédible ? Ai-je plus de détails en tête ? Pas vraiment, mon opinion personnelle est que l’UE va principalement jouer un rôle de spectateur, en tout cas initialement.
Et puis il ne faut pas oublier la Chine qui n'a pas l'air de vouloir réguler
Je suis certainement par trop désabusé mais j'ai dans l'idée qu'il va falloir attendre une catastrophe pour que ça arrive
Je ne serai pas si certain. Le grand public déteste profondément l’IA (parfois pour de mauvaises raisons). La principale barrière politique à une pause, à mon sens, est le phénomène décrit dans l’article dont on a discuté : c’est embarrassant pour un politicien de prendre tout ceci au sérieux. Ceci est sur le point de changer, et commence déjà à changer. Dans la sphère politique aussi, les choses peuvent basculer rapidement.
[^] # Re: Inutile
Posté par Moonz . En réponse à la dépêche Nouvelles sur l’IA de février 2026. Évalué à 2.
Disons charitablement que c’est un goût acquis.
(oui, son style est très décousu, lourd en références et sous-entendus)
Si tu veux des lectures moins décousues, plus en profondeur sur le sujet de « menaces de l’IA » :
https://www.thecompendium.ai/summary : reste mon introduction préférée, de loin, au sujet
https://en.wikipedia.org/wiki/If_Anyone_Builds_It,_Everyone_Dies : je ne l’ai pas lue, mais je suppose que le nom de l’auteur suffit à en faire une référence sur le sujet ?
Mais pour suivre l’actualité, malheureusement, je ne vois rien de mieux que Zvi.
Note que cet article, écrit en 2017, à l’époque d’un GPT-1 (Google, pas OpenAI, qui n’existait pas) très peu impressionnant, n’argue pas « il faut arrêter le développement de l’IA ». Il argue : « les choses peuvent progresser plus vite que beaucoup ne pensent, il s’agirait de se préparer sérieusement à cette éventualité » (et en 2017, « se préparer », ça signifie travailler sur l’alignement de l’IA, pas penser gouvernance et traités internationaux).
Je ne faisais que répondre à « Je suis convaincu que la démarche de l'UE d'essayer de réguler est la bonne ».
L’UE régulant l’IA résout certains problèmes de responsabilité vis à vis de la fiabilité (il se passe quoi s’il y a un mort suite à l’IA donnant un mauvais conseil) qui, pour être honnête, ne m’émeut pas vraiment.
L’UE régulant l’IA ne résout absolument aucun problème quant à la menace existentielle de l’IA. Si l’UE veut attaquer ce problème, la seule voie possible est diplomatique, demander plus ou moins poliment aux US de restreindre la course à l’IA des mastodontes qui sont installés là bas (oui, si ça arrive, il faudra se poser la question de Mistral... je ne pense pas que ce soit le point le plus problématique de la discussion). Comment ? Est-ce crédible ? Ai-je plus de détails en tête ? Pas vraiment, mon opinion personnelle est que l’UE va principalement jouer un rôle de spectateur, en tout cas initialement.
La Chine est entièrement ouverte à la régulation : https://carnegieendowment.org/research/2025/06/how-some-of-chinas-top-ai-thinkers-built-their-own-ai-safety-institute, https://carnegieendowment.org/research/2025/06/how-some-of-chinas-top-ai-thinkers-built-their-own-ai-safety-institute
Je ne serai pas si certain. Le grand public déteste profondément l’IA (parfois pour de mauvaises raisons). La principale barrière politique à une pause, à mon sens, est le phénomène décrit dans l’article dont on a discuté : c’est embarrassant pour un politicien de prendre tout ceci au sérieux. Ceci est sur le point de changer, et commence déjà à changer. Dans la sphère politique aussi, les choses peuvent basculer rapidement.