Le truc étonnant c’est pas forcément la représentation en elle même, c’est que l’algo converge vers ça. Il y a une transition de phase qu’on observait pas jusqu’à présent et il n’y avait rien d’évident à ce qu’un réseau de neurone puisse généraliser à partir d’exemple, et qu’on puisse en tirer en l’analysant une représentation très proche de ce qu’on peut faire nous même comme schéma d’un groupe cyclique.
[^] # Re: ...
Posté par thoasm . En réponse au lien "Grokking" : les modèles d'IA sont-ils capables de piger ?. Évalué à 4.
Le truc étonnant c’est pas forcément la représentation en elle même, c’est que l’algo converge vers ça. Il y a une transition de phase qu’on observait pas jusqu’à présent et il n’y avait rien d’évident à ce qu’un réseau de neurone puisse généraliser à partir d’exemple, et qu’on puisse en tirer en l’analysant une représentation très proche de ce qu’on peut faire nous même comme schéma d’un groupe cyclique.