Un peu de charité dans vos commentaires s'il vous plait, d'un côté comme de l'autre:
Je pourrais très bien répondre que le contexte de la dépêche était super clair, mais de toutes manières c'est un raisonnement fallacieux de la "cible qui bouge".
C'est une discussion avec plusieurs personnes qui interviennent et se posent différentes questions. Une première personne a questionné le "sur-exponentiel", probablement parce que le terme "exponentiel" est souvent dévoyé, en particulier depuis qu'il a été utilisé abondamment pendant le Covid.
La personne qui demande ensuite "sur quelle mesure" est une autre personne et la question est, là aussi, pertinente. En fait elle est même plus pertinente. C'est en gros un "t'as la source de ce que tu avances?". Et je suis content que cette question ait été posé, car le lien posté en réponse m'a intéressé.
Tu as été clair depuis le début, tu y crois à mort. C'est ton droit. Tu as l'air d'avoir du mal avec les gens qui sont plus sceptiques et ça se ressent dans la sécheresse de tes messages.
Là encore, ce n'est pas très charitable. C'est en gros accuser l'interlocuteur d'être dans le domaine de la croyance, dans une querelle de chapelle. On pourrait arguer que ça place aussi les gens qui "s'opposent" à lui dans le même sac, mais pas complètement à mon avis à cause de l'utilisation du "plus sceptiques" qui suggère que ce sont "les croyants" face aux "rationalistes".
Pour moi, d'un côté comme de l'autre, le problème est si il y a un manque d'humilité épistémique plus que sur la position elle-même. Celui qui assène une certitude sur ce que pourra[1] ou ne pourra pas faire l'IA d'ici X mois / années ne peut probablement pas se réclamer des rationalistes.
Pour ma part, si j'avais du parier sur ce que pourrait faire les IAs de l'année suivante depuis 2019, j'aurais systématiquement sous-estimé les résultats. Oui il y'a une hype répugnante autour de l'IA. Oui il y a des discours amoraux et ridicules de la part de beaucoup de patrons des grandes entreprises qui y touchent. Oui il y a une bulle financière qui va finir par nous péter à la figure. Et plein d'autres problèmes sociétaux / techniques qu'il va falloir gérer suite aux (més)usage de cette technologie en développement. Ça ne veut pas dire qu'il faut se voiler la face et se dire "ce ne sont que des perroquets stochastiques" ou "ça va disparaître bientôt".
Pour METR, est-ce raisonnable de penser que parce que l'autonomie des IA sur des taches assez précises est passé de quelques secondes à quelques minutes puis à plusieurs heures, celà se poursuivra pour atteindre des semaines, des mois voir des années? Probablement pas, mais c'est un peu hâtif de le balayer du revers de la main.
Est-ce raisonnable de penser qu'on peut quantifier l'autonomie de manière correcte quand les taches sont variables, l'ambiguité peut varier, le prompt a une influence énorme...? Non plus, mais essayer de quantifier quelque chose de manière imprécise reste préférable. C'est quelque chose qui se fait couramment en science (exemple: https://fr.wikipedia.org/wiki/Échelle_d'évaluation_de_la_douleur)
[1] sauf des choses qu'elle sait déjà faire bien sûr, ou quelque chose d'incrémental par rapport à ce qui se fait maintenant.
[^] # Re: Inutile
Posté par Colin Pitrat (site web personnel) . En réponse à la dépêche Nouvelles sur l’IA de février 2026. Évalué à 7.
Un peu de charité dans vos commentaires s'il vous plait, d'un côté comme de l'autre:
C'est une discussion avec plusieurs personnes qui interviennent et se posent différentes questions. Une première personne a questionné le "sur-exponentiel", probablement parce que le terme "exponentiel" est souvent dévoyé, en particulier depuis qu'il a été utilisé abondamment pendant le Covid.
La personne qui demande ensuite "sur quelle mesure" est une autre personne et la question est, là aussi, pertinente. En fait elle est même plus pertinente. C'est en gros un "t'as la source de ce que tu avances?". Et je suis content que cette question ait été posé, car le lien posté en réponse m'a intéressé.
Là encore, ce n'est pas très charitable. C'est en gros accuser l'interlocuteur d'être dans le domaine de la croyance, dans une querelle de chapelle. On pourrait arguer que ça place aussi les gens qui "s'opposent" à lui dans le même sac, mais pas complètement à mon avis à cause de l'utilisation du "plus sceptiques" qui suggère que ce sont "les croyants" face aux "rationalistes".
Pour moi, d'un côté comme de l'autre, le problème est si il y a un manque d'humilité épistémique plus que sur la position elle-même. Celui qui assène une certitude sur ce que pourra[1] ou ne pourra pas faire l'IA d'ici X mois / années ne peut probablement pas se réclamer des rationalistes.
Pour ma part, si j'avais du parier sur ce que pourrait faire les IAs de l'année suivante depuis 2019, j'aurais systématiquement sous-estimé les résultats. Oui il y'a une hype répugnante autour de l'IA. Oui il y a des discours amoraux et ridicules de la part de beaucoup de patrons des grandes entreprises qui y touchent. Oui il y a une bulle financière qui va finir par nous péter à la figure. Et plein d'autres problèmes sociétaux / techniques qu'il va falloir gérer suite aux (més)usage de cette technologie en développement. Ça ne veut pas dire qu'il faut se voiler la face et se dire "ce ne sont que des perroquets stochastiques" ou "ça va disparaître bientôt".
Pour METR, est-ce raisonnable de penser que parce que l'autonomie des IA sur des taches assez précises est passé de quelques secondes à quelques minutes puis à plusieurs heures, celà se poursuivra pour atteindre des semaines, des mois voir des années? Probablement pas, mais c'est un peu hâtif de le balayer du revers de la main.
Est-ce raisonnable de penser qu'on peut quantifier l'autonomie de manière correcte quand les taches sont variables, l'ambiguité peut varier, le prompt a une influence énorme...? Non plus, mais essayer de quantifier quelque chose de manière imprécise reste préférable. C'est quelque chose qui se fait couramment en science (exemple: https://fr.wikipedia.org/wiki/Échelle_d'évaluation_de_la_douleur)
[1] sauf des choses qu'elle sait déjà faire bien sûr, ou quelque chose d'incrémental par rapport à ce qui se fait maintenant.