Et par exemple ça semble évident que si le modèle émet des hypothèses scientifiques et crée des expériences, à la manière d'un scientifique, il n'a pas la possibilité de les tester, il lui faudrait de vraies données pour réellement avancer
Il a totalement la possibilité de les tester, pour peu que le domaine s’y prête.
Mathématiques
Programmation (puis-je trouver un meilleur algorithme meilleur que tous ceux connus pour le problème X ?)
Trouver de nouvelles hypothèses, les vérifier sur des données existantes (je sais que l’image d’épinal du physicien c’est d’expliquer de nouvelles données avec de nouveaux domaines, mais dans la réalité, c’est beaucoup de « expliquer d’anciennes données avec de meilleurs modèles »)
Par exemple, un modèle actuel peut très bien se lancer une tâche : « puis-je créer un modèle spécialisé tenant en 1B de paramètres et qui serait à l’état de l’art pour un benchmark public choisi (par exemple FrontierMath) ». Besoin d’aucune nouvelle donnée, tout peut être fait localement.
Dernière chose, ce que le papier veut réfuter c'est un peu l'émergence d'une AGI simplement par réapprentissage et croissance exponentielle rapide des performances dans un cadre "on reste dans les datacenter en circuit fermé" je pense, là ou tu peux avoir des boucles rapides.
Tu as circuit fermé dans le sens « le modèle et ses propres sorties, sans aucune donnée auxiliaire/outils utilisables localement ». C’est le sens du papier, mais ce n’est pas le sens généralement entendu de « l'émergence d'une AGI simplement par réapprentissage et croissance exponentielle rapide des performances ».
Et tu as circuit fermé dans le sens « le modèle et son environnement comprenant des données auxiliaires (par exemple ses données brutes d’entraînement) et des outils locaux (Python, un compilateur C...). Le papier ne s’applique pas, et on est bien plus proche du sens généralement de « self-improvement » (et encore, self-improvement très souvent autorise le modèle à communiquer à l’extérieur).
[^] # Re: Fil mastodon qui discute le papier
Posté par Moonz . En réponse au lien AI Cannot Self Improve and Math behind PROVES IT!. Évalué à 2 (+0/-0).
Il a totalement la possibilité de les tester, pour peu que le domaine s’y prête.
Par exemple, un modèle actuel peut très bien se lancer une tâche : « puis-je créer un modèle spécialisé tenant en 1B de paramètres et qui serait à l’état de l’art pour un benchmark public choisi (par exemple FrontierMath) ». Besoin d’aucune nouvelle donnée, tout peut être fait localement.
Tu as circuit fermé dans le sens « le modèle et ses propres sorties, sans aucune donnée auxiliaire/outils utilisables localement ». C’est le sens du papier, mais ce n’est pas le sens généralement entendu de « l'émergence d'une AGI simplement par réapprentissage et croissance exponentielle rapide des performances ».
Et tu as circuit fermé dans le sens « le modèle et son environnement comprenant des données auxiliaires (par exemple ses données brutes d’entraînement) et des outils locaux (Python, un compilateur C...). Le papier ne s’applique pas, et on est bien plus proche du sens généralement de « self-improvement » (et encore, self-improvement très souvent autorise le modèle à communiquer à l’extérieur).