Mais donc si jamais ça partait en sucette, à quel point il serait compliqué d'éteindre des machines
1) Pour débrancher la machine il faut que ça soit TA machine. Tu penses que le gouvernement ou le voisin a le droit de venir débrancher ta machine sans une procédure qui prendrait 10 ans?
2) Les IA ne sont pas localisées sur une seule machine. Il faudrait donc débrancher toutes les prises du monde en même temps. Du coup, il faut téléphoner aux Chinois, aux Américains, à tout le monde, et les convaincre de débrancher leur machine en même temps que toi.
3) Si les Russes ou les Chinois ont la même machine que toi, tu ne vas peut-être pas débrancher la tienne avec autant d'entrain que tu prévois
4) Tu pars du principe que quand tu te rendras compte que la super-intelligence de ta machine est en train d'essayer de te la faire à l'envers, il est encore temps de la débrancher. Ça nécessite de sous-estimer quand même cette super-intelligence, parce qu'il y a fort à parier que si elle décide de te la faire à l'envers, tu ne te rendes compte de rien avant que tu ne puisses plus la débrancher.
Et puis, on a au moins un bon précédent. Actuellement, on est certains que le climat part en sucette principalement parce qu'on brûle les combustibles fossiles, et que les conséquences sont une menace pour notre survie et celle des générations suivantes. Je trouve qu'on est pas mal dans le scénario "on a compris que ça partait en sucette". D'après ton raisonnement, il suffirait donc d'arrêter les machines qui consomment des combustibles fossiles. On pourrait même rajouter que devant les menaces dont on parle, "on ne voit pas pourquoi ça serait compliqué". Bah sauf que c'est tellement compliqué qu'on n'arrive même pas à réduire nos importations de gaz en provenant de pays ennemis qui se servent des devises des pétrodollars pour faire la guerre contre nos alliés, donc même avec des raisons géopolitiques urgentes indéniables (oui, parce que "on va tous crever dans longtemps" n'est pas assez inquiétant apparemment), c'est très, très compliqué. Bref, moi je vois bien comment ça va être compliqué de se passer de ces machins qui savent faire mieux que nous 1000 fois plus vite que nous.
[^] # Re: Inutile
Posté par arnaudus . En réponse à la dépêche Nouvelles sur l’IA de février 2026. Évalué à 3.
1) Pour débrancher la machine il faut que ça soit TA machine. Tu penses que le gouvernement ou le voisin a le droit de venir débrancher ta machine sans une procédure qui prendrait 10 ans?
2) Les IA ne sont pas localisées sur une seule machine. Il faudrait donc débrancher toutes les prises du monde en même temps. Du coup, il faut téléphoner aux Chinois, aux Américains, à tout le monde, et les convaincre de débrancher leur machine en même temps que toi.
3) Si les Russes ou les Chinois ont la même machine que toi, tu ne vas peut-être pas débrancher la tienne avec autant d'entrain que tu prévois
4) Tu pars du principe que quand tu te rendras compte que la super-intelligence de ta machine est en train d'essayer de te la faire à l'envers, il est encore temps de la débrancher. Ça nécessite de sous-estimer quand même cette super-intelligence, parce qu'il y a fort à parier que si elle décide de te la faire à l'envers, tu ne te rendes compte de rien avant que tu ne puisses plus la débrancher.
Et puis, on a au moins un bon précédent. Actuellement, on est certains que le climat part en sucette principalement parce qu'on brûle les combustibles fossiles, et que les conséquences sont une menace pour notre survie et celle des générations suivantes. Je trouve qu'on est pas mal dans le scénario "on a compris que ça partait en sucette". D'après ton raisonnement, il suffirait donc d'arrêter les machines qui consomment des combustibles fossiles. On pourrait même rajouter que devant les menaces dont on parle, "on ne voit pas pourquoi ça serait compliqué". Bah sauf que c'est tellement compliqué qu'on n'arrive même pas à réduire nos importations de gaz en provenant de pays ennemis qui se servent des devises des pétrodollars pour faire la guerre contre nos alliés, donc même avec des raisons géopolitiques urgentes indéniables (oui, parce que "on va tous crever dans longtemps" n'est pas assez inquiétant apparemment), c'est très, très compliqué. Bref, moi je vois bien comment ça va être compliqué de se passer de ces machins qui savent faire mieux que nous 1000 fois plus vite que nous.