Je ne dis pas que ça n'arrive pas, mais je pense que la comparaison brute humain / LLM a de toute façon des limites à cause de la différence de nature (pas les mêmes types d'erreurs, pas les mêmes forces et faiblesses).
Ce que je voulais surtout souligner c'est que la structure des LLM même avec une méthode par renforcement a aussi des limites qui restent encore à explorer de manière fine et qu'il y a peut être des limites qui ne seront pas solubles sans changer fondamentalement d'approche. Cela reste encore incertain, ce qui n'empêche dans le même temps que cette approche continue de montrer des progrès.
Tout comme la question de la transmission aérienne du COVID en février 2020 était un sujet discuté et loin d’être clos.
Il y a, fondamentalement, deux manières de réagir à une exponentielle : trop tôt ou trop tard. Se réfugier derrière l’incertitude pour justifier l’inaction, ce n’est pas de la prudence, c’est se forcer à l’alternative « trop tard ». Pour le COVID, nous avons choisi l’option « trop tard », pour exactement la même raison que nous sommes en train de choisir l’option « trop tard » pour l’IA. Par peur du ridicule de présenter aussi sérieusement un scénario aussi « étrange, hors de l’ordinaire ». Par mimétisme « personne ne semble inquiet, pourquoi devrais-je l’être ».
[...]
C’est l’extrapolation directe et brute (relisez ces deux mots, ils sont importants) de nos meilleures données QUE J’ESSAIE DEPUIS MAINTENANT UN AN DE FAIRE RENTRER DANS VOS CERVEAUX BORDEL DE MERDE (désolé, ça devait sortir). Ça ne signifie évidemment aucune certitude ; nos données peuvent être insuffisantes et ne pas capturer des dimensions nécessaires de l’intelligence ; la tendance peut peut-être s’arrêter brutalement sans raison claire. Dans l’autre sens : la tendance pourrait très bien s’accélérer maintenant que l’IA participe et accélère le développement de l’IA. Un meilleur paradigme peut apparaître à tout moment, et à nouveau accélérer les choses. L’incertitude ne va pas uniquement dans le sens de l’optimisme.
Si tu me lis bien, je ne dis pas le contraire en fait. Je suis personnellement inquiet, oui. D'ailleurs je suis tout aussi inquiet d'une catastrophe causée par une IA à qui on confie trop de tâches dont finalement les limites ont été mal estimées et cela mène à des dégâts considérables tout comme elle est finalement hyper intelligente et compétente, nous a berné et cela mène aussi à notre perte.
Je remets juste en cause le discours de arnaudus qui semble dire que ces questions sont tranchése, que les améliorations des benchmarks ne font que renforcer une seule hypothèse comme si les autres hypothèses n'avaient aucun sens et était une forme de dénie. je rappelle juste qu'il y a encore beaucoup de flous et d'hypothèses sur la table et que la question ne semble pas tranchée et qu'il faudra probablement du temps pour évaluer tout ça et améliorer les protocoles d'évaluation car la question est finalement très récente. D'autant plus que savoir mesurer exactement d'où viennent ces gains et ce que ça implique c'est important et ça a des implications fortes. Le sujet reste réellement complexe.
Est-ce que l'incertitude doit pousser à l'inaction ? Non, dans le doute, prenons l'hypothèse la plus pessimiste qui est plausible et essayons de voir ce qu'on peut faire en amont. Je suis convaincu que la démarche de l'UE d'essayer de réguler est la bonne même si elle est trop timide par exemple et qu'il y a d'autres choses à faire sur le sujet. Et je dénonce aussi le discours et méthodes des éditeurs (et des promoteurs) des IA qui sont pour moi assez hypocrites et irresponsables face à ces enjeux. Un peu comme ceux des groupes pétroliers qui vendent du confort mais aussi la mort de la civilisation en même temps.
[^] # Re: Inutile
Posté par Renault (site web personnel) . En réponse à la dépêche Nouvelles sur l’IA de février 2026. Évalué à 4.
Je ne dis pas que ça n'arrive pas, mais je pense que la comparaison brute humain / LLM a de toute façon des limites à cause de la différence de nature (pas les mêmes types d'erreurs, pas les mêmes forces et faiblesses).
Ce que je voulais surtout souligner c'est que la structure des LLM même avec une méthode par renforcement a aussi des limites qui restent encore à explorer de manière fine et qu'il y a peut être des limites qui ne seront pas solubles sans changer fondamentalement d'approche. Cela reste encore incertain, ce qui n'empêche dans le même temps que cette approche continue de montrer des progrès.
[...]
Si tu me lis bien, je ne dis pas le contraire en fait. Je suis personnellement inquiet, oui. D'ailleurs je suis tout aussi inquiet d'une catastrophe causée par une IA à qui on confie trop de tâches dont finalement les limites ont été mal estimées et cela mène à des dégâts considérables tout comme elle est finalement hyper intelligente et compétente, nous a berné et cela mène aussi à notre perte.
Je remets juste en cause le discours de arnaudus qui semble dire que ces questions sont tranchése, que les améliorations des benchmarks ne font que renforcer une seule hypothèse comme si les autres hypothèses n'avaient aucun sens et était une forme de dénie. je rappelle juste qu'il y a encore beaucoup de flous et d'hypothèses sur la table et que la question ne semble pas tranchée et qu'il faudra probablement du temps pour évaluer tout ça et améliorer les protocoles d'évaluation car la question est finalement très récente. D'autant plus que savoir mesurer exactement d'où viennent ces gains et ce que ça implique c'est important et ça a des implications fortes. Le sujet reste réellement complexe.
Est-ce que l'incertitude doit pousser à l'inaction ? Non, dans le doute, prenons l'hypothèse la plus pessimiste qui est plausible et essayons de voir ce qu'on peut faire en amont. Je suis convaincu que la démarche de l'UE d'essayer de réguler est la bonne même si elle est trop timide par exemple et qu'il y a d'autres choses à faire sur le sujet. Et je dénonce aussi le discours et méthodes des éditeurs (et des promoteurs) des IA qui sont pour moi assez hypocrites et irresponsables face à ces enjeux. Un peu comme ceux des groupes pétroliers qui vendent du confort mais aussi la mort de la civilisation en même temps.