OK, merci pour la lecture. Et je comprends mieux l'inquiétude. C'est d'ailleurs plus facile à lire que les posts de zvi. Je suppose qu'il faut être particulièrement versé dans le milieu pour en tirer la substantifique moelle, moi je les trouve surtout... décousus. Sinon, je crois que je me reconnais tout à fait dans cet extrait de There’s No Fire Alarm for Artificial General Intelligence :
If you’re not at the global peak of knowledge of how to do the thing, and looped in on all the progress being made at what will turn out to be the leading project, you aren’t going to be able to see of your own knowledge at all that the big development is imminent.
Yes indeed, I'm not able. Et j'ai l'impression que ce raisonnement fonctionne pour tout un tas de trucs. Peut-être qu'on aurait dû arrêter l'IA dès ELIZA ? Ou couper internet dès les premiers vers qui ont circulé sur le réseau. Comme le démontre si bien l'article, «The two-year problem is hard and the ten-year problem is laughably hard. The future is hard to predict in general, our predictive grasp on a rapidly changing and advancing field of science and engineering is very weak indeed, and it doesn’t permit narrow credible intervals on what can’t be done.» Concrètement, qu'est-ce que tu entends par "faire pression sur les US pour que eux régulent" ? Et puis il ne faut pas oublier la Chine qui n'a pas l'air de vouloir réguler. PauseAI voudrait une agence similaire à l'AIEA mais bon cette dernière n'a été créée qu'après Hiroshima et Nagasaki. Je suis certainement par trop désabusé mais j'ai dans l'idée qu'il va falloir attendre une catastrophe pour que ça arrive. Et une catastrophe dans un pays occidental, parce que Claude qui aide à bombarder une école en Iran ça ne va pas suffire.
[^] # Re: Inutile
Posté par Faya . En réponse à la dépêche Nouvelles sur l’IA de février 2026. Évalué à 2. Dernière modification le 09 mars 2026 à 16:03.
OK, merci pour la lecture. Et je comprends mieux l'inquiétude. C'est d'ailleurs plus facile à lire que les posts de zvi. Je suppose qu'il faut être particulièrement versé dans le milieu pour en tirer la substantifique moelle, moi je les trouve surtout... décousus. Sinon, je crois que je me reconnais tout à fait dans cet extrait de There’s No Fire Alarm for Artificial General Intelligence :
Yes indeed, I'm not able. Et j'ai l'impression que ce raisonnement fonctionne pour tout un tas de trucs. Peut-être qu'on aurait dû arrêter l'IA dès ELIZA ? Ou couper internet dès les premiers vers qui ont circulé sur le réseau. Comme le démontre si bien l'article, «The two-year problem is hard and the ten-year problem is laughably hard. The future is hard to predict in general, our predictive grasp on a rapidly changing and advancing field of science and engineering is very weak indeed, and it doesn’t permit narrow credible intervals on what can’t be done.» Concrètement, qu'est-ce que tu entends par "faire pression sur les US pour que eux régulent" ? Et puis il ne faut pas oublier la Chine qui n'a pas l'air de vouloir réguler. PauseAI voudrait une agence similaire à l'AIEA mais bon cette dernière n'a été créée qu'après Hiroshima et Nagasaki. Je suis certainement par trop désabusé mais j'ai dans l'idée qu'il va falloir attendre une catastrophe pour que ça arrive. Et une catastrophe dans un pays occidental, parce que Claude qui aide à bombarder une école en Iran ça ne va pas suffire.