Ça fait un peu genre les modèles ont "conscience que"
J’allais m’insurger en disant « même si j’ai écrit "ont conscience que", il faut savoir raison garder, il s’agit d’une image ; quand je dis "j’ai corrigé un bug sur l’application, ça marche", je ne dis pas que l’application a littéralement gagné des jambes et se met à faire les cent pas dans le bureau ».
Et ensuite j’ai vu que je n’ai pas utilisé ce terme, ce que tu admets toi même.
Du coup je ne comprend même pas la critique en fait. C’est parce que j’ai utilisé des termes que tu n’aimes pas mais qui n’ont pas d’alternative correcte claire ? Vraiment ?
Ça fait un peu genre les modèles ont "conscience que". On le lit régulièrement depuis des mois
Tu te fais des films dans ta tête, et ensuite tu t’insurges sur le comportement d’acteurs sortis de ton imagination.
J’essaie très fort justement de ne pas aborder ce sujet de "la conscience des modèles". Parce que j’essaie de me consacrer sur ce qui fait raisonnablement consensus. Par exemple : j’ai volontaire omis beaucoup de papiers potentiellement intéressant (dans un sens ou dans l’autre) qui ont fait du bruit, mais avec également beaucoup de critiques et contre-critiques et contre-contre-critiques valides. Parce que couvrir le papier honnêtement demande de couvrir la critique, la contre-critique, la contre-contre-critique, et que la dépêche est suffisamment longue même sans ça.
Et sur la conscience des modèles, ont est à peu près dans le même cas, sauf que tout le monde s’accorde à dire « on ne sait pas, et on est tellement perdus qu’on a pas la moindre idée de comment déterminer si un modèle est conscient ou pas — ou même de comment aborder la question. On a pas le début d’une piste ». Et au delà de cet accord sur, il y a des débats avec énormément d’opinions différentes, autour de « est-ce même possible, est-ce plausible, est-ce probable ? »
Si tu as connaissance que les modèles n’ont pas de conscience ? Tu es à des années lumière devant les esprits les plus brillants du domaine qui admettent n’avoir aucune certitude sur le sujet. Tu devrais songer à publier un papier. À noter que tu as contre toi Geoffrey Hinton qui pense (sans en avoir la certitude) que les IA sont déjà conscientes. Mais si tu as connaissance qu’ils n’en ont pas, tu ne devrais avoir aucune difficulté à nous en convaincre ?
Quant au discours faussement « on me le fait pas à moi, c’est juste une stratégie marketing », je note que tous les acteurs du secteur qui essaient de vendre des choses évitent scrupuleusement le sujet comme si c’était de la kryptonite, à l’exception d’Anthropic qui considère la question comme « sérieuse et importante, méritant considération, mais sans réponse claire » dans ses System Card.
Parce que, sous couvert de neutralité
Franchement, ceci continue à me rendre fou.
Je ne prétend pas à la neutralité. J’écris même explicitement le contraire dans le chapeau.
Cette dépêche est effectivement la moins neutre de la série, celle où j’ai considéré plus important de laisser transparaître mes opinions plutôt que d’édulcorer le langage.
Si après avoir lu cette dépêche, tu ne comprends pas que mon biais personnel est « qu’est-ce qu’on attend exactement pour lancer un Jihad butlérien », je ne sais pas ce qu’il faut de plus.
[^] # Re: Inutile
Posté par Moonz . En réponse à la dépêche Nouvelles sur l’IA de février 2026. Évalué à 5.
J’allais m’insurger en disant « même si j’ai écrit "ont conscience que", il faut savoir raison garder, il s’agit d’une image ; quand je dis "j’ai corrigé un bug sur l’application, ça marche", je ne dis pas que l’application a littéralement gagné des jambes et se met à faire les cent pas dans le bureau ».
Et ensuite j’ai vu que je n’ai pas utilisé ce terme, ce que tu admets toi même.
Du coup je ne comprend même pas la critique en fait. C’est parce que j’ai utilisé des termes que tu n’aimes pas mais qui n’ont pas d’alternative correcte claire ? Vraiment ?
Tu te fais des films dans ta tête, et ensuite tu t’insurges sur le comportement d’acteurs sortis de ton imagination.
J’essaie très fort justement de ne pas aborder ce sujet de "la conscience des modèles". Parce que j’essaie de me consacrer sur ce qui fait raisonnablement consensus. Par exemple : j’ai volontaire omis beaucoup de papiers potentiellement intéressant (dans un sens ou dans l’autre) qui ont fait du bruit, mais avec également beaucoup de critiques et contre-critiques et contre-contre-critiques valides. Parce que couvrir le papier honnêtement demande de couvrir la critique, la contre-critique, la contre-contre-critique, et que la dépêche est suffisamment longue même sans ça.
Et sur la conscience des modèles, ont est à peu près dans le même cas, sauf que tout le monde s’accorde à dire « on ne sait pas, et on est tellement perdus qu’on a pas la moindre idée de comment déterminer si un modèle est conscient ou pas — ou même de comment aborder la question. On a pas le début d’une piste ». Et au delà de cet accord sur, il y a des débats avec énormément d’opinions différentes, autour de « est-ce même possible, est-ce plausible, est-ce probable ? »
Si tu as connaissance que les modèles n’ont pas de conscience ? Tu es à des années lumière devant les esprits les plus brillants du domaine qui admettent n’avoir aucune certitude sur le sujet. Tu devrais songer à publier un papier. À noter que tu as contre toi Geoffrey Hinton qui pense (sans en avoir la certitude) que les IA sont déjà conscientes. Mais si tu as connaissance qu’ils n’en ont pas, tu ne devrais avoir aucune difficulté à nous en convaincre ?
Quant au discours faussement « on me le fait pas à moi, c’est juste une stratégie marketing », je note que tous les acteurs du secteur qui essaient de vendre des choses évitent scrupuleusement le sujet comme si c’était de la kryptonite, à l’exception d’Anthropic qui considère la question comme « sérieuse et importante, méritant considération, mais sans réponse claire » dans ses System Card.
Franchement, ceci continue à me rendre fou.
Je ne prétend pas à la neutralité. J’écris même explicitement le contraire dans le chapeau.
Cette dépêche est effectivement la moins neutre de la série, celle où j’ai considéré plus important de laisser transparaître mes opinions plutôt que d’édulcorer le langage.
Si après avoir lu cette dépêche, tu ne comprends pas que mon biais personnel est « qu’est-ce qu’on attend exactement pour lancer un Jihad butlérien », je ne sais pas ce qu’il faut de plus.