Oui, mais ce qui me pose problème, perso, c'est cette idée ou ce concept d'IA forte, supérieure, etc .. C'est quoi une intelligence supérieure ? Comment ça se mesure ? Si il s'agit de la capacité à comprendre la grande question sur la vie, l'univers et le reste, l'humain a déjà fait pas mal de boulot depuis quelques centaines de milliers d'années, non ?
Alors, là, demain, l'IA forte se pointe, conçue par l'homme qui plus est, profite de tout ce boulot qu'on a déjà fait et paf, là, elle serait du coup plus intelligente ? Et paf, elle nous mettrai un grand coup de pied au cul simplement parce qu'on serait des boulets périmés tel des vieux iphones 4 ?
Et si comme tu le dit, ce ne serait, au final, qu'une question de math, cela voudrais dire qu'une implémentation logicielle de principes mathématiques nouveaux et révolutionnaire pourrait être plus "intelligente" que ses concepteurs, c'est à dire, au minimum donc, capable de produire un principe supérieur en intelligence qu'elle-même, puisque c'est le summum auquel est arrivé son concepteur humain. Et du coup, cette super intelligence serait capable de produire elle aussi une super super intelligence qui lui foutrait un coup de pied au cul et ainsi de suite, l'univers serait de facto détruit par une explosion exponentielle de super super super ... IA se mettant des coups de pieds au cul récursivement ?
Ou alors, on peut convenir que si l'IA forte est si forte qu'elle sera suffisamment intelligente pour ne pas concevoir une IA plus forte qu'elle qui la détruirait. Mais on est assez intelligent nous aussi pour comprendre ça, enfin, au moins Billou et Stephen Hawking en tout cas, puisque ça les inquiète.
Donc à mon avis, le concept d'intelligence supérieure est fondamentalement foireux. Ce qui ne veux pas dire que le concept d'intelligence artificielle l'est. Il est possible que l'on arrive a créer une forme d'intelligence artificielle, de là a ce qu'elle soit supérieure ou inférieure à quoi que ce soit ... à mon avis, c'est la que ça perd son sens toute cette affaire.
Faut pas gonfler Gérard Lambert quand il répare sa mobylette.
[^] # Re: Intelligence artificielle... warf...
Posté par Big Pete . En réponse au journal Bill Gates est « préoccupé par la superintelligence » artificielle. Évalué à 3.
Oui, mais ce qui me pose problème, perso, c'est cette idée ou ce concept d'IA forte, supérieure, etc .. C'est quoi une intelligence supérieure ? Comment ça se mesure ? Si il s'agit de la capacité à comprendre la grande question sur la vie, l'univers et le reste, l'humain a déjà fait pas mal de boulot depuis quelques centaines de milliers d'années, non ?
Alors, là, demain, l'IA forte se pointe, conçue par l'homme qui plus est, profite de tout ce boulot qu'on a déjà fait et paf, là, elle serait du coup plus intelligente ? Et paf, elle nous mettrai un grand coup de pied au cul simplement parce qu'on serait des boulets périmés tel des vieux iphones 4 ?
Et si comme tu le dit, ce ne serait, au final, qu'une question de math, cela voudrais dire qu'une implémentation logicielle de principes mathématiques nouveaux et révolutionnaire pourrait être plus "intelligente" que ses concepteurs, c'est à dire, au minimum donc, capable de produire un principe supérieur en intelligence qu'elle-même, puisque c'est le summum auquel est arrivé son concepteur humain. Et du coup, cette super intelligence serait capable de produire elle aussi une super super intelligence qui lui foutrait un coup de pied au cul et ainsi de suite, l'univers serait de facto détruit par une explosion exponentielle de super super super ... IA se mettant des coups de pieds au cul récursivement ?
Ou alors, on peut convenir que si l'IA forte est si forte qu'elle sera suffisamment intelligente pour ne pas concevoir une IA plus forte qu'elle qui la détruirait. Mais on est assez intelligent nous aussi pour comprendre ça, enfin, au moins Billou et Stephen Hawking en tout cas, puisque ça les inquiète.
Donc à mon avis, le concept d'intelligence supérieure est fondamentalement foireux. Ce qui ne veux pas dire que le concept d'intelligence artificielle l'est. Il est possible que l'on arrive a créer une forme d'intelligence artificielle, de là a ce qu'elle soit supérieure ou inférieure à quoi que ce soit ... à mon avis, c'est la que ça perd son sens toute cette affaire.
Faut pas gonfler Gérard Lambert quand il répare sa mobylette.