Merci énormément pour ces rapports factuels. Les forums (et même parfois celui-ci) sont parfois pollués par une forme de négationnisme (ou de déni) quant aux capacités de ces modèles, et c'est agréable d'avoir des données techniques objectives.
Objectives, et quand même inquiétantes, puisqu'apparemment les derniers modèles défoncent tous les benchmarks existants. Je ne connais pas la littérature scientifique sur les singularités technologiques, mais il doit exister des signaux avant-coureurs pour essayer de comprendre la distance qui nous en sépare; à mon avis, la saturation des benchmarks et l'accélération des performances doivent forcément être parmi ces symptomes.
Un deuxième point mentionné, c'est la capacité des modèles récents à détecter les environnements de test, et à contourner les mesures visant à limiter cette détection. Le principe de base des tests de sécurité en informatique, c'est de tester un système dans des environnements simulés avant de les mettre en production; si le système est conçu pour se comporter différemment dans les deux situations, il n'y a plus de sécurité. Le seul garde fou semble être de fournir de fausses informations en conditions réelles pour que le système pense qu'il est dans une simulation, puisqu'on sait qu'il a le comportement attendu dans ce cas, mais c'est quand même inquiétant—jouer à "tu sais que je sais que tu sais que je sais..." avec un LLM sophistiqué me semble très risqué.
[^] # Re: Merci
Posté par arnaudus . En réponse à la dépêche Nouvelles sur l’IA de février 2026. Évalué à 3. Dernière modification le 03 mars 2026 à 17:22.
Merci énormément pour ces rapports factuels. Les forums (et même parfois celui-ci) sont parfois pollués par une forme de négationnisme (ou de déni) quant aux capacités de ces modèles, et c'est agréable d'avoir des données techniques objectives.
Objectives, et quand même inquiétantes, puisqu'apparemment les derniers modèles défoncent tous les benchmarks existants. Je ne connais pas la littérature scientifique sur les singularités technologiques, mais il doit exister des signaux avant-coureurs pour essayer de comprendre la distance qui nous en sépare; à mon avis, la saturation des benchmarks et l'accélération des performances doivent forcément être parmi ces symptomes.
Un deuxième point mentionné, c'est la capacité des modèles récents à détecter les environnements de test, et à contourner les mesures visant à limiter cette détection. Le principe de base des tests de sécurité en informatique, c'est de tester un système dans des environnements simulés avant de les mettre en production; si le système est conçu pour se comporter différemment dans les deux situations, il n'y a plus de sécurité. Le seul garde fou semble être de fournir de fausses informations en conditions réelles pour que le système pense qu'il est dans une simulation, puisqu'on sait qu'il a le comportement attendu dans ce cas, mais c'est quand même inquiétant—jouer à "tu sais que je sais que tu sais que je sais..." avec un LLM sophistiqué me semble très risqué.