Évidemment, mais il y a des années lumières entre "niveau créatif c'est le néant" et "construire des nouveaux paradigmes dans les domaines scientifiques". En fait, là, on parle de *superintelligence artificielle", et à ma connaissance aucun des modèles existants prétend à la superintelligence.
La superintelligence c'est au delà de ça encore.
C'est le fait que l'IA surpasse l'Humanité et peut du coup aller bien plus loin, plus vite quitte à ce que l'Humanité ne suive plus.
Repousser un peu les limites ou améliorer la physique ou les maths ne signifie pas que ce soit le cas. Einstein a pu faire ça tout en restant humain (enfin, je crois ?).
Dans tous les cas, tu fais bien d'insister sur le fait qu'il ne faut pas confondre les versions des modèles utilisées pour les tests et les benchmarks, qui sont des versions de développement avec souvent beaucoup de ressources disponibles, et les versions gratuites grand public. Même si l'écart se compte parfois en mois ou en quelques années, donc ça n'est quand même pas comparer une navette spatiale et une twingo.
Je ne compare pas des modèles de tests et de production, je compare le fait que le benchmark ce n'est pas la vraie vie et vice versa.
C'est d'ailleurs pareil pour les humains. Tu peux être la brute de concours en prépa, être le major de ta promo et devenir un mathématicien médiocre et inversement.
C'est d'ailleurs un gros problèmes entre ce que les benchmarks disent des LLM et leur capacité à remplacer intégralement des employés, la transposition n'est pas immédiate.
Démontrer des théorèmes sans créer de nouvelles formes de maths c'est aussi le boulot des mathématiciens, et on en est là.
Des théorèmes non triviaux qui n'étaient pas encore démontrés y'en a eu beaucoup de trouvés avec ça ? Ce n'est pas l'impression que j'ai eu.
La réalité est qu'on n'en sait rien. Je ne vois rien en tout cas qui rendrait impossible l'atteinte d'une singularité technologique dans les années qui viennent.
Le fait qu'il y ait des faiblesses structurelles dans les raisonnements et la restitution des connaissances malgré la quantité de données qu'ils ont reçu à l'entrainement (plus que tout être humain peut ingurgiter dans une vie) est pour moi un signe que la marche est plus grande qu'il n'y paraît.
Je suis en vrai dubitatif que les modèles actuels soient la bonne voie pour cet objectif.
La singularité est d'ailleurs sujet à débat car il ne suffit pas d'avoir une AGI pour ça. Il faut aussi que l'IA puisse avoir les ressources pour travailler et faire ce qu'il y a à faire, que la limite en bande passante des progrès scientifiques soit les capacités cognitives humaines aujourd'hui (pour info y'a les matériaux, l'énergie et les lois de la physique qui sont aussi des limites à cela, et cela s'appliquera à une telle entité), qu'il y a en réalité matière à aller beaucoup plus loin dans le domaine des connaissances et à pouvoir les mettre en oeuvre, etc.
Alors peut être que cela arrivera, mais le scénario LLM => AGI => singularité le tout en quelques années est très ambitieux et il y a pas mal d'obstacles réels à ces scénarios. Ce n'est clairement pas garantie et la réalité est qu'aujourd'hui comme je le dis et tu sembles d'accord avec ça : on n'en sait rien, cela arrivera peut être, peut être pas, ou peut être dans vraiment longtemps.
[^] # Re: Inédit pour les métiers qualifiés
Posté par Renault (site web personnel) . En réponse au journal Coder avec l'IA : le déclin du plaisir. Évalué à 5.
La superintelligence c'est au delà de ça encore.
C'est le fait que l'IA surpasse l'Humanité et peut du coup aller bien plus loin, plus vite quitte à ce que l'Humanité ne suive plus.
Repousser un peu les limites ou améliorer la physique ou les maths ne signifie pas que ce soit le cas. Einstein a pu faire ça tout en restant humain (enfin, je crois ?).
Je ne compare pas des modèles de tests et de production, je compare le fait que le benchmark ce n'est pas la vraie vie et vice versa.
C'est d'ailleurs pareil pour les humains. Tu peux être la brute de concours en prépa, être le major de ta promo et devenir un mathématicien médiocre et inversement.
C'est d'ailleurs un gros problèmes entre ce que les benchmarks disent des LLM et leur capacité à remplacer intégralement des employés, la transposition n'est pas immédiate.
Des théorèmes non triviaux qui n'étaient pas encore démontrés y'en a eu beaucoup de trouvés avec ça ? Ce n'est pas l'impression que j'ai eu.
Le fait qu'il y ait des faiblesses structurelles dans les raisonnements et la restitution des connaissances malgré la quantité de données qu'ils ont reçu à l'entrainement (plus que tout être humain peut ingurgiter dans une vie) est pour moi un signe que la marche est plus grande qu'il n'y paraît.
Je suis en vrai dubitatif que les modèles actuels soient la bonne voie pour cet objectif.
La singularité est d'ailleurs sujet à débat car il ne suffit pas d'avoir une AGI pour ça. Il faut aussi que l'IA puisse avoir les ressources pour travailler et faire ce qu'il y a à faire, que la limite en bande passante des progrès scientifiques soit les capacités cognitives humaines aujourd'hui (pour info y'a les matériaux, l'énergie et les lois de la physique qui sont aussi des limites à cela, et cela s'appliquera à une telle entité), qu'il y a en réalité matière à aller beaucoup plus loin dans le domaine des connaissances et à pouvoir les mettre en oeuvre, etc.
Alors peut être que cela arrivera, mais le scénario LLM => AGI => singularité le tout en quelques années est très ambitieux et il y a pas mal d'obstacles réels à ces scénarios. Ce n'est clairement pas garantie et la réalité est qu'aujourd'hui comme je le dis et tu sembles d'accord avec ça : on n'en sait rien, cela arrivera peut être, peut être pas, ou peut être dans vraiment longtemps.