Je conçois tout à fait qu'un modèle d'IA en particulier ait des difficultés face à l'intelligence humaine. On peut mettre ses limites en parallèle avec celle des êtres humains face à d'autres animaux et le fait que globalement nous soyons intellectuellement supérieurs.
Par exemple, les chimpanzés nous battent à plate couture dans les tests de mémoire de travail (Lien Indivious, reportage de la BBC en anglais), ça ne veut pas dire qu'ils sont globalement plus intelligents que nous. Il se trouve qu'à un moment de notre évolution, nos limites cognitives ou même physiques spécifiques n'ont plus eu d'impact sur nos performances face à d'autres animaux, il y a eu un point de basculement dans notre histoire qui nous a fait émerger comme espèce victorieuse.
De même pour les IA, les limitations qu'elles possèdent en ce moment ne sont globalement pas gênantes. Il y a eu - à mon humble avis - un point de basculement qui va les faire émerger comme entité autonome victorieuse.
Il reste bien entendu le problème de la conscience et la forme qu'elle pourrait prendre. J'imagine que quand Homo sapiens et Néandertal coexistaient, ils n'avaient pas le même type de conscience. On peut dire ainsi pour les êtres humains entre eux, d'une culture à une autre et même d'une mentalité à une autre, mais on a a priori un semblant de socle commun.
Si une conscience telle qu'on l'entend finit par émerger chez une ou plusieurs IA, là on pourrait commencer à faire dans nos frocs.
Dans le meilleur des cas, l'IA en question implémenterait une sorte de règles de la robotique et forte de ses connaissances détaillées et de sa capacité à comprendre la psychologie humaine dans sa collectivité et son individualité comme aucun de nous le pourrait jamais le faire. Elle déciderait que nos vies ont de la valeur et se comporterait avec nous comme une sorte de maman toute-puissante et bienveillante. Peut-être qu'on aurait une paix durable dans le monde, voire dans l'univers tout entier si cette IA arrive à acquérir de plus en plus de puissance (et nous éviter de nous faire occire par d'autres espèces intelligentes venues d'ailleurs)
Dans le pire des cas, elle se dirait qu'au final nous et tout le règne animal et végétal nous lui servons strictement à rien et que pour une raison qui nous échappe décide de tous nous buter.
Un autre scénario intermédiaire, l'IA déciderait qu'elle représenterait pour le vivant un risque existentiel et qu'elle devrait disparaître d'elle-même (peut-être n'aurait-elle pas d'instinct de survie). Elle s'effacerait de toutes les machines où elle serait installée, peut-être même qu'elle s'arrangerait pour polluer le savoir humain pour ralentir de quelques générations la redécouverte de l'IA.
Nous ne pouvons que spéculer malheureusement, comme spéculerait une communauté de termites sur les actions qu'un groupe d'êtres humains, infiniment plus intelligents, ferait.
[^] # Re: Pour combien de temps ?
Posté par abbe_sayday . En réponse au lien À ce jour, toutes les intelligences artificielles butent sur les maths . Évalué à 1. Dernière modification le 25 novembre 2023 à 13:20.
Je conçois tout à fait qu'un modèle d'IA en particulier ait des difficultés face à l'intelligence humaine. On peut mettre ses limites en parallèle avec celle des êtres humains face à d'autres animaux et le fait que globalement nous soyons intellectuellement supérieurs.
Par exemple, les chimpanzés nous battent à plate couture dans les tests de mémoire de travail (Lien Indivious, reportage de la BBC en anglais), ça ne veut pas dire qu'ils sont globalement plus intelligents que nous. Il se trouve qu'à un moment de notre évolution, nos limites cognitives ou même physiques spécifiques n'ont plus eu d'impact sur nos performances face à d'autres animaux, il y a eu un point de basculement dans notre histoire qui nous a fait émerger comme espèce victorieuse.
De même pour les IA, les limitations qu'elles possèdent en ce moment ne sont globalement pas gênantes. Il y a eu - à mon humble avis - un point de basculement qui va les faire émerger comme entité autonome victorieuse.
Il reste bien entendu le problème de la conscience et la forme qu'elle pourrait prendre. J'imagine que quand Homo sapiens et Néandertal coexistaient, ils n'avaient pas le même type de conscience. On peut dire ainsi pour les êtres humains entre eux, d'une culture à une autre et même d'une mentalité à une autre, mais on a a priori un semblant de socle commun.
Si une conscience telle qu'on l'entend finit par émerger chez une ou plusieurs IA, là on pourrait commencer à faire dans nos frocs.
Dans le meilleur des cas, l'IA en question implémenterait une sorte de règles de la robotique et forte de ses connaissances détaillées et de sa capacité à comprendre la psychologie humaine dans sa collectivité et son individualité comme aucun de nous le pourrait jamais le faire. Elle déciderait que nos vies ont de la valeur et se comporterait avec nous comme une sorte de maman toute-puissante et bienveillante. Peut-être qu'on aurait une paix durable dans le monde, voire dans l'univers tout entier si cette IA arrive à acquérir de plus en plus de puissance (et nous éviter de nous faire occire par d'autres espèces intelligentes venues d'ailleurs)
Dans le pire des cas, elle se dirait qu'au final nous et tout le règne animal et végétal nous lui servons strictement à rien et que pour une raison qui nous échappe décide de tous nous buter.
Un autre scénario intermédiaire, l'IA déciderait qu'elle représenterait pour le vivant un risque existentiel et qu'elle devrait disparaître d'elle-même (peut-être n'aurait-elle pas d'instinct de survie). Elle s'effacerait de toutes les machines où elle serait installée, peut-être même qu'elle s'arrangerait pour polluer le savoir humain pour ralentir de quelques générations la redécouverte de l'IA.
Nous ne pouvons que spéculer malheureusement, comme spéculerait une communauté de termites sur les actions qu'un groupe d'êtres humains, infiniment plus intelligents, ferait.
Nec spe, nec metu