D'abord merci pour l'échange sur le fond, même si c'est un désaccord, c'est plus productif !
Tu prends comme hypothèses que c'est une évolution des modèles actuels qui arriveront au bout de la course (ça fait 2 hypothèses très fortes)
Pas tout à fait. Je dirais plutôt qu'il y aurait plusieurs modèles à l'arrivée, plus ou moins indépendants, performants et peut-être capables dans telle ou telle tâche - pas forcément des LLM. Cette hypothèse prend racine dans mon esprit parce que l'IA ne se résume pas aux LLM (le monde connexionniste est plus vaste et les travaux récents de Le Cun ouvrent encore une sous-famille).
Les MoE (des "experts", des zones plus spécialisés dans les couches de certains modèles) me semblent être aussi des prémisses de spécialisations plus larges en zones dans les modèles voire entre les modèles - mais encore faut-il que ça y est du sens d'en faire l'implémentation partout (tel agent ou tel robot qui fait une tâche particulière n'aurait pas exemple pas les capacités d'un autre).
Une sorte d'écosystème quoi : ça, c'est déjà notre quotidien (la variété des modèles est nombreuse et à coût énergétique équivalent, certains sont plus efficients pour une tâche X plutôt Y --> c'est quelque chose qui restera).
Donc je prendre une hypothèse qui, aujourd'hui et de ma fenêtre, me semble être fondée car un prolongement naturel de ce qui s'est fait jusque-là : toujours plus de diversité.
Dans le reste de ma réponse, je vais cependant me placer dans la perspective de la vidéo (= le sujet de l'article : une "unité" / un seul modèle / une seule instance).
La rationalité on peut la mesurer comme l'effort à fournir vis-à-vis d'une action ou d'une pensée jugée nécessaire ou qui répond à une certaine réalité. C'est rationnel alors de faire telle ou telle chose parce que c'est un besoin / une nécessité à un moment donné. En caricaturant : j'ai froid, je me couvre d'un polaire --> rationnel. J'ai chaud, je me couvre d'un polaire --> pas rationnel. La rationalité est d'abord une question de jugement avec les données dont on dispose et une approche toujours subjective.
C'est-à-dire que transposer ce que nous avons besoin ou ce que nous ferions à une entité qui n'aurait ni notre structure organique, ni notre organisation, ni forcément notre état d'esprit (esprit d'essaim ? conscience de soi ?), ça a (vite) ces limites. C'est ce que je développe dans l'article : ce qui retiendrait une telle entité à nous détruire, c'est d'abord la pérennisation de ses ressources et pendant un moment, point que je partage avec la vidéo, elle resterait dépendante de nos souhaits et de nos décisions (IA =/= agent). Elle serait faite au début de matériels IT standard, conçus pour fonctionner sous nos conditions favorables. Par contre sa super-intelligence lui permettrait d'avoir accès à des technologies pour durcir et optimiser ces matériels, ainsi facilitant le déploiement de puissance de calculs au-delà de la Terre voire, car je ne vois pas ce qui est impossible car on ne raisonne pas sur des organismes biologiques, des capacités de production permanente (en gros des usines ailleurs que sur Terre, donc avec des colonies robotiques adaptées).
La vidéo indique que cette super-intelligence serait expansionniste par nature et donc avec un besoin (rationnel "à ses yeux"), de continuer à croître en capacité de calculs, se prenant à la fois notre résistance et les conséquences sur Terre qu'elle connaîtra parfaitement, de ses actions et les nôtres, sur des écosystèmes déjà fragiles...
Ou bien cette intelligence ne valorise qu'elle-même : alors elle hérite d'un monde qu'elle a elle-même rendu hostile — climat dévasté, ressources éparpillées — et doit durcir ses propres systèmes pour y survivre, ce qui contredit l'« informatique domestique » dont elle a besoin. Ou bien son but est l'expansion : et raser la Terre devient un détour absurde, puisqu'elle aura très vite la technologie pour aller voir ailleurs. Dans les deux cas, nous exterminer sur place est sous-optimal.
Car sa vraie contrainte, on l'a vu, c'est le calcul — et le calcul est bien plus à l'étroit sur Terre que dans l'espace : énergie, refroidissement, place, tout y est plafonné. Le refroidissement, par exemple : par rayonnement dans l'espace, il est plus exigeant en conception (mille fois moins performant) et reste un problème largement ouvert, mais moins limitant que sur Terre à long terme — on y limite les rétroactions thermiques et les contraintes d'espace physique (coucou Elon !).
Son premier réflexe sera certes de contrôler son environnement, mais surtout d'assurer l'emprise sur les ressources de calcul pour elle-même — par pure auto-conservation —, des ressources qui n'ont rien d'aligné avec les nôtres. Un système qui ne se maintient pas d'une façon ou d'une autre ne restera pas un système...
Donc finalement quand tu parles de coûts, j'imagine que tu parles en termes de coûts financiers ou écologiques. C'est louable mais c'est une vision humaine, organique, par rapport à des contraintes et des besoins qui sont les nôtres (surtout ailleurs que sur Terre). De son côté, elle pourrait être plutôt sur une prise de décision totalement différentes dans la manière de gérer les ressources, produire, consommer de l'énergie... des petits robots, ça peut être les premières briques technologique d'une base permanente non pas pour l'humain, mais bien pour elle. C'est irrationnel pour nous mais si elle cherche réellement l'expansionnisme territorial ou de calcul, quitter la Terre est un choix rationnel pour elle, comme d'avoir des "relais de croissance" partout (en s'épargnant des conflits destructeurs si elle n'a pas la certitude de gagner ou simplement en nous laissant, parce qu'on pas d'intérêt pour elle).
Pour M Phi : j'ai mis le lien vers le blog, donc il y a le texte et pas seulement la vidéo. La partie qui nous intéresse ici, c'est l'expérience de la téléportation : on envoie seulement l'information qui permet de recomposer un corps et au moment où tu rentres dans le "télétransporteur", ton toi physique est tué et ton autre toi physique ailleurs est reconstitué. Si la machine tombe en panne et ne tue pas ton "premier toi", tu as deux personnes strictement identiques jusqu'au moment de la téléportation, qui sont toutes les deux légitimes à avoir la même identité, portent les mêmes souvenirs... mais à partir du moment où les deux vivent, ils sont disjoints et possiblement concurrents.
[^] # Re: pfff
Posté par JulienG . En réponse au journal L'IA et le mythe du combat ultime. Évalué à 0 (+2/-3).
D'abord merci pour l'échange sur le fond, même si c'est un désaccord, c'est plus productif !
Pas tout à fait. Je dirais plutôt qu'il y aurait plusieurs modèles à l'arrivée, plus ou moins indépendants, performants et peut-être capables dans telle ou telle tâche - pas forcément des LLM. Cette hypothèse prend racine dans mon esprit parce que l'IA ne se résume pas aux LLM (le monde connexionniste est plus vaste et les travaux récents de Le Cun ouvrent encore une sous-famille).
Les MoE (des "experts", des zones plus spécialisés dans les couches de certains modèles) me semblent être aussi des prémisses de spécialisations plus larges en zones dans les modèles voire entre les modèles - mais encore faut-il que ça y est du sens d'en faire l'implémentation partout (tel agent ou tel robot qui fait une tâche particulière n'aurait pas exemple pas les capacités d'un autre).
Une sorte d'écosystème quoi : ça, c'est déjà notre quotidien (la variété des modèles est nombreuse et à coût énergétique équivalent, certains sont plus efficients pour une tâche X plutôt Y --> c'est quelque chose qui restera).
Donc je prendre une hypothèse qui, aujourd'hui et de ma fenêtre, me semble être fondée car un prolongement naturel de ce qui s'est fait jusque-là : toujours plus de diversité.
Dans le reste de ma réponse, je vais cependant me placer dans la perspective de la vidéo (= le sujet de l'article : une "unité" / un seul modèle / une seule instance).
La rationalité on peut la mesurer comme l'effort à fournir vis-à-vis d'une action ou d'une pensée jugée nécessaire ou qui répond à une certaine réalité. C'est rationnel alors de faire telle ou telle chose parce que c'est un besoin / une nécessité à un moment donné. En caricaturant : j'ai froid, je me couvre d'un polaire --> rationnel. J'ai chaud, je me couvre d'un polaire --> pas rationnel. La rationalité est d'abord une question de jugement avec les données dont on dispose et une approche toujours subjective.
C'est-à-dire que transposer ce que nous avons besoin ou ce que nous ferions à une entité qui n'aurait ni notre structure organique, ni notre organisation, ni forcément notre état d'esprit (esprit d'essaim ? conscience de soi ?), ça a (vite) ces limites. C'est ce que je développe dans l'article : ce qui retiendrait une telle entité à nous détruire, c'est d'abord la pérennisation de ses ressources et pendant un moment, point que je partage avec la vidéo, elle resterait dépendante de nos souhaits et de nos décisions (IA =/= agent). Elle serait faite au début de matériels IT standard, conçus pour fonctionner sous nos conditions favorables. Par contre sa super-intelligence lui permettrait d'avoir accès à des technologies pour durcir et optimiser ces matériels, ainsi facilitant le déploiement de puissance de calculs au-delà de la Terre voire, car je ne vois pas ce qui est impossible car on ne raisonne pas sur des organismes biologiques, des capacités de production permanente (en gros des usines ailleurs que sur Terre, donc avec des colonies robotiques adaptées).
La vidéo indique que cette super-intelligence serait expansionniste par nature et donc avec un besoin (rationnel "à ses yeux"), de continuer à croître en capacité de calculs, se prenant à la fois notre résistance et les conséquences sur Terre qu'elle connaîtra parfaitement, de ses actions et les nôtres, sur des écosystèmes déjà fragiles...
Donc finalement quand tu parles de coûts, j'imagine que tu parles en termes de coûts financiers ou écologiques. C'est louable mais c'est une vision humaine, organique, par rapport à des contraintes et des besoins qui sont les nôtres (surtout ailleurs que sur Terre). De son côté, elle pourrait être plutôt sur une prise de décision totalement différentes dans la manière de gérer les ressources, produire, consommer de l'énergie... des petits robots, ça peut être les premières briques technologique d'une base permanente non pas pour l'humain, mais bien pour elle. C'est irrationnel pour nous mais si elle cherche réellement l'expansionnisme territorial ou de calcul, quitter la Terre est un choix rationnel pour elle, comme d'avoir des "relais de croissance" partout (en s'épargnant des conflits destructeurs si elle n'a pas la certitude de gagner ou simplement en nous laissant, parce qu'on pas d'intérêt pour elle).
Pour M Phi : j'ai mis le lien vers le blog, donc il y a le texte et pas seulement la vidéo. La partie qui nous intéresse ici, c'est l'expérience de la téléportation : on envoie seulement l'information qui permet de recomposer un corps et au moment où tu rentres dans le "télétransporteur", ton toi physique est tué et ton autre toi physique ailleurs est reconstitué. Si la machine tombe en panne et ne tue pas ton "premier toi", tu as deux personnes strictement identiques jusqu'au moment de la téléportation, qui sont toutes les deux légitimes à avoir la même identité, portent les mêmes souvenirs... mais à partir du moment où les deux vivent, ils sont disjoints et possiblement concurrents.
J'espère que c'est plus clair.