Ouais, enfin Eric Drexler disait déjà en 1986 dans « Les engins créateurs » que l'IA est plus dangereuse que les armes nucléaires. Il le disait en fait à la fois à propos de l'IA et des nanotechnologies.
Bien que ces 2 technologies ne soient qu'embryonnaires, voire seulement des extrapolations de découvertes récentes, il explique pourquoi il faut réfléchir dés le début aux moyens de les contrôler. Ces sont des technologies de les développements seront par nature exponentiels et non surveillables (qui peut empêcher une équipe dispersée sur tous les continents de développer une IA en secret ?) au contraire des armes nucléaires.
Par ailleurs, c'est quoi un risque qui ne serait pas futur ?
[^] # Re: La priorité n'est pas là
Posté par Jean-Baptiste Faure . En réponse au lien Experts ChatGPT: Il faut autant lutter contre les risques de l’IA que contre les guerres nucléaires. Évalué à 3.
Ouais, enfin Eric Drexler disait déjà en 1986 dans « Les engins créateurs » que l'IA est plus dangereuse que les armes nucléaires. Il le disait en fait à la fois à propos de l'IA et des nanotechnologies.
Bien que ces 2 technologies ne soient qu'embryonnaires, voire seulement des extrapolations de découvertes récentes, il explique pourquoi il faut réfléchir dés le début aux moyens de les contrôler. Ces sont des technologies de les développements seront par nature exponentiels et non surveillables (qui peut empêcher une équipe dispersée sur tous les continents de développer une IA en secret ?) au contraire des armes nucléaires.
Par ailleurs, c'est quoi un risque qui ne serait pas futur ?