Dit autrement : elle n'apporte pas grand chose d'autre que de la visibilité pour des produits ou des idées qui ne le méritent peut-être pas autant.
Normalement, les êtres humains adultes ont les capacités cognitives pour comprendre que de ne pas regarder quelque chose n'empêche pas que la chose existe.
Les entreprises qui commercialisent l'accès à des modèles ou à des agents ont deux discours : un discours commercial, à base de "gains de productivité" et de technologies "powered by AI", qui ont pour objectif de vendre des technologies et de générer du profit, et un discours technique, qui va rendre compte des capacités techniques des modèles.
Le discours commercial, c'est bien évidemment bullshité, puisqu'un modèle ne va pas te faire gagner de l'argent sans être intégré correctement dans le fonctionnement de ton entreprise. Ça n'est pas du tout mon domaine; je n'ai jamais compris comment ces idioties d'encards publicitaires avec des images de jeunes femmes en tailleurs munis d'yeux de cyborg "powered by AI" pouvaient convaincre qui que ce soit d'investir dans une "solution digitale".
Par contre, les éléments techniques ne sont pas hallucinés. Bien entendu, il est de bonne guerre que les équipes de développement ne rapportent pas des benchmarks défavorables par exemple, et il ne faut pas prendre tous les éléments au pied de la lettre. Cependant, il y a des éléments factuels scientifiques reconnus par l'ensemble des acteurs, et les remettre en question est du même niveau que la terre plate ou le créationnisme. En particulier,
1) Ces modèles ne sont plus depuis des années des prédicteurs de texte et des chatbots sophistiqués qui débiteraient des textes au kilomètre. Les algorithmes modernes s'entrainent par renforcement (comme les algo alpha* de Google) et mènent des raisonnements (ils génèrent de très longues chaines de raisonnements en arrière-plan et choisissent les éléments qui seront donnés en réponse aux requêtes)
2) Les performances sur tous les benchmarks existants progressent jusqu'à les saturer rapidement, et contrairement à une croyance un peu facile, ça n'est pas à cause de la diffusion des résultats des benchmarks. Les benchmarks sont diversifiés, certains sont maths/science, d'autres sont sur la production de code fonctionnel, d'autres sur des activités comptables/administratives, etc.
3) Les meilleurs modèles ont récemment énormément progressé en autonomie (nombre et complexité des tâches pertinentes auto-assignées); la progression est même sur-exponentielle.
Ça n'est que mon point de vue, et je sais qu'il n'est pas populaire parce que beaucoup d'entre vous aimeraient que tout ça soit faux, mais prétendre que les benchmarks sont truqués, c'est vraiment équivalent, dans l'état d'esprit, à prétendre que le réchauffement climatique est un hoax et que c'est les thermomètres qui sont truqués. Personne ne sait vraiment si ces programmes vont dominer le monde et esclavagiser les hommes, si 50% des emplois vont disparaitre, si OpenAI va réussir à faire rentrer en CA les centaines de milliards qu'ils ont investi, ou même si ces outils vont vraiment générer des gains de productivité. Ça, c'est de l'économie, des sciences sociales, de la politique, et c'est toujours ouvert. On peut aussi douter de la possibilité de progrès pour les modèles généralistes, puisque les gains les plus impressionnants sont souvent liés à une spécialisation de l'apprentissage. Par contre, ce qui ne peut pas être remis en doute raisonnablement, c'est les progrès techniques et l'augmentation des capacités de ces trucs là, qui se rapprochent de plus en plus de ce que peuvent faire les meilleurs experts humains—bien sûr, pas à la même vitesse en fonction des tâches. Et ça, c'est vrai même si on voudrait que ça ne soit pas vrai.
À ma connaissance, un modèle n'a pas de conscience.
La réponse est un peu dans la manière dont tu te poses la question. Si tu es fonctionnaliste, la question est "est-ce que ce programme se comporte comme si il avait une conscience?". Le fait de détecter un environnement de test et de le cacher à l'expérimentateur va clairement dans cette direction: le modèle comprend d'une manière ou d'une autre qu'il est dans un environnement de test, et décide d'une manière ou d'une autre de mentir. Tu le déduis du comportement du modèle, de la même manière que tu déduis que ton voisin a une conscience parce qu'il se comporte comme s'il en avait une.
Si tu favorises le "biologisme", tu définis la conscience comme un état qui émerge de son substrat (un cerveau biologique), auquel cas la question n'a pas de sens : quelle que soit sa sophistication, un programme d'ordinateur ne peut par définition pas avoir de conscience. Tu admets que ton voisin a une conscience parce qu'il a un cerveau, mais un ordinateur ne peut que "mimer" ou "feindre" la conscience.
Il faut choisir son camp et en déduire la réponse à la question, mais ça ne sert à rien de faire croire que la question est ouverte si on n'est pas fonctionnaliste.
[^] # Re: Inutile
Posté par arnaudus . En réponse à la dépêche Nouvelles sur l’IA de février 2026. Évalué à 3.
Normalement, les êtres humains adultes ont les capacités cognitives pour comprendre que de ne pas regarder quelque chose n'empêche pas que la chose existe.
Les entreprises qui commercialisent l'accès à des modèles ou à des agents ont deux discours : un discours commercial, à base de "gains de productivité" et de technologies "powered by AI", qui ont pour objectif de vendre des technologies et de générer du profit, et un discours technique, qui va rendre compte des capacités techniques des modèles.
Le discours commercial, c'est bien évidemment bullshité, puisqu'un modèle ne va pas te faire gagner de l'argent sans être intégré correctement dans le fonctionnement de ton entreprise. Ça n'est pas du tout mon domaine; je n'ai jamais compris comment ces idioties d'encards publicitaires avec des images de jeunes femmes en tailleurs munis d'yeux de cyborg "powered by AI" pouvaient convaincre qui que ce soit d'investir dans une "solution digitale".
Par contre, les éléments techniques ne sont pas hallucinés. Bien entendu, il est de bonne guerre que les équipes de développement ne rapportent pas des benchmarks défavorables par exemple, et il ne faut pas prendre tous les éléments au pied de la lettre. Cependant, il y a des éléments factuels scientifiques reconnus par l'ensemble des acteurs, et les remettre en question est du même niveau que la terre plate ou le créationnisme. En particulier,
1) Ces modèles ne sont plus depuis des années des prédicteurs de texte et des chatbots sophistiqués qui débiteraient des textes au kilomètre. Les algorithmes modernes s'entrainent par renforcement (comme les algo alpha* de Google) et mènent des raisonnements (ils génèrent de très longues chaines de raisonnements en arrière-plan et choisissent les éléments qui seront donnés en réponse aux requêtes)
2) Les performances sur tous les benchmarks existants progressent jusqu'à les saturer rapidement, et contrairement à une croyance un peu facile, ça n'est pas à cause de la diffusion des résultats des benchmarks. Les benchmarks sont diversifiés, certains sont maths/science, d'autres sont sur la production de code fonctionnel, d'autres sur des activités comptables/administratives, etc.
3) Les meilleurs modèles ont récemment énormément progressé en autonomie (nombre et complexité des tâches pertinentes auto-assignées); la progression est même sur-exponentielle.
Ça n'est que mon point de vue, et je sais qu'il n'est pas populaire parce que beaucoup d'entre vous aimeraient que tout ça soit faux, mais prétendre que les benchmarks sont truqués, c'est vraiment équivalent, dans l'état d'esprit, à prétendre que le réchauffement climatique est un hoax et que c'est les thermomètres qui sont truqués. Personne ne sait vraiment si ces programmes vont dominer le monde et esclavagiser les hommes, si 50% des emplois vont disparaitre, si OpenAI va réussir à faire rentrer en CA les centaines de milliards qu'ils ont investi, ou même si ces outils vont vraiment générer des gains de productivité. Ça, c'est de l'économie, des sciences sociales, de la politique, et c'est toujours ouvert. On peut aussi douter de la possibilité de progrès pour les modèles généralistes, puisque les gains les plus impressionnants sont souvent liés à une spécialisation de l'apprentissage. Par contre, ce qui ne peut pas être remis en doute raisonnablement, c'est les progrès techniques et l'augmentation des capacités de ces trucs là, qui se rapprochent de plus en plus de ce que peuvent faire les meilleurs experts humains—bien sûr, pas à la même vitesse en fonction des tâches. Et ça, c'est vrai même si on voudrait que ça ne soit pas vrai.
La réponse est un peu dans la manière dont tu te poses la question. Si tu es fonctionnaliste, la question est "est-ce que ce programme se comporte comme si il avait une conscience?". Le fait de détecter un environnement de test et de le cacher à l'expérimentateur va clairement dans cette direction: le modèle comprend d'une manière ou d'une autre qu'il est dans un environnement de test, et décide d'une manière ou d'une autre de mentir. Tu le déduis du comportement du modèle, de la même manière que tu déduis que ton voisin a une conscience parce qu'il se comporte comme s'il en avait une.
Si tu favorises le "biologisme", tu définis la conscience comme un état qui émerge de son substrat (un cerveau biologique), auquel cas la question n'a pas de sens : quelle que soit sa sophistication, un programme d'ordinateur ne peut par définition pas avoir de conscience. Tu admets que ton voisin a une conscience parce qu'il a un cerveau, mais un ordinateur ne peut que "mimer" ou "feindre" la conscience.
Il faut choisir son camp et en déduire la réponse à la question, mais ça ne sert à rien de faire croire que la question est ouverte si on n'est pas fonctionnaliste.