"Often, we see these models do impressive things and think they must have understood something about the world. I hope we can convince people that this is a question to think very carefully about, and we don’t have to rely on our own intuitions to answer it," says Rambachan.
Voilà pourquoi c'est des questions qui me semblent importantes. Dans l'article ils s'interrogent sur le fait qu'on ait l'impression que les machins aient "capturés" un bon modèle du problème, parce qu'ils donnent de bon résultats. On peut être tenté de le croire. Et que donc ils seront généralement fiables pour ce type de problèmes. Mais si ce n'est pas le cas ... Un pet de travers et il n'y a plus rien qui marche : ça ne généralisé pas bien. L'article montre que c'est parfois le cas. C'est donc au minimum important d'en avoir conscience, c'est pas parce qu'ils ont souvent bien marchés et qu'on aurait tendance a relâcher sa vigilance sur un type de problèmes qu'il faut le faire.
[^] # Re: Vraiment ?
Posté par thoasm . En réponse au journal Entre imitation et biais systématiques : les supercheries de l’intelligence artificielle by chatgpt©. Évalué à 3.
https://news.mit.edu/2024/generative-ai-lacks-coherent-world-understanding-1105
Voilà pourquoi c'est des questions qui me semblent importantes. Dans l'article ils s'interrogent sur le fait qu'on ait l'impression que les machins aient "capturés" un bon modèle du problème, parce qu'ils donnent de bon résultats. On peut être tenté de le croire. Et que donc ils seront généralement fiables pour ce type de problèmes. Mais si ce n'est pas le cas ... Un pet de travers et il n'y a plus rien qui marche : ça ne généralisé pas bien. L'article montre que c'est parfois le cas. C'est donc au minimum important d'en avoir conscience, c'est pas parce qu'ils ont souvent bien marchés et qu'on aurait tendance a relâcher sa vigilance sur un type de problèmes qu'il faut le faire.