Oui, ça a tendance à créer des "boîtes noires" dans lesquelles on a du mal à comprendre comment ça fonctionne.
Ça ne veut pas dire que la techno est mauvaise, si cette boîte noire fonctionne mieux que les algorithmes connus, elle peut très bien s'utiliser, et ça a d'autres avantages (par exemple, être capable de s'adapter automatiquement et de continuer à s'entraîner avec de nouvelles données en entrées).
Mais j'avoue ne pas bien comprendre comment ça peut être utile pour modéliser quelque chose, si on ne comprend pas mieux le fonctionnement du modèle que celui de l'original. Ça n'empêche pas que ça pourrait servir à plein d'autres choses: dans ce cas précis, peut-être que ça pourrait servir à prédire seulement quelques images à l'avance, dans un jeu vidéo en ligne, en attendant de se resynchroniser avec le serveur? Est-ce que ça peut fonctionner plus vite qu'une latence réseau classique?
Cela dit, il est probable qu'on fasse du progrès sur la façon d'étudier un réseau de neurones pour comprendre ce qu'il fait. Les outils nous manquent pour l'instant mais ça se développe. On se souvient par exemple des premiers tests de génération d'images de Google DeepDream, qui avaient démarré comme une expérience pour comprendre comment leur algorithme de reconnaissance d'image fonctionnait, en essayant de visualiser et d'amplifier ce qui était reconnu dans une image. On peut aussi identiifer des "zones" (des ensemble de neurones interconnectés) qui s'activent dans certains cas, mais ça reste une vision à très haut niveau.
[^] # Re: Le jeu recréé?
Posté par pulkomandy (site web personnel, Mastodon) . En réponse au lien Le jeu Doom recréé par une IA après qu'elle y a joué plusieurs milliers de parties. Évalué à 2. Dernière modification le 02 septembre 2024 à 14:39.
Oui, ça a tendance à créer des "boîtes noires" dans lesquelles on a du mal à comprendre comment ça fonctionne.
Ça ne veut pas dire que la techno est mauvaise, si cette boîte noire fonctionne mieux que les algorithmes connus, elle peut très bien s'utiliser, et ça a d'autres avantages (par exemple, être capable de s'adapter automatiquement et de continuer à s'entraîner avec de nouvelles données en entrées).
Mais j'avoue ne pas bien comprendre comment ça peut être utile pour modéliser quelque chose, si on ne comprend pas mieux le fonctionnement du modèle que celui de l'original. Ça n'empêche pas que ça pourrait servir à plein d'autres choses: dans ce cas précis, peut-être que ça pourrait servir à prédire seulement quelques images à l'avance, dans un jeu vidéo en ligne, en attendant de se resynchroniser avec le serveur? Est-ce que ça peut fonctionner plus vite qu'une latence réseau classique?
Cela dit, il est probable qu'on fasse du progrès sur la façon d'étudier un réseau de neurones pour comprendre ce qu'il fait. Les outils nous manquent pour l'instant mais ça se développe. On se souvient par exemple des premiers tests de génération d'images de Google DeepDream, qui avaient démarré comme une expérience pour comprendre comment leur algorithme de reconnaissance d'image fonctionnait, en essayant de visualiser et d'amplifier ce qui était reconnu dans une image. On peut aussi identiifer des "zones" (des ensemble de neurones interconnectés) qui s'activent dans certains cas, mais ça reste une vision à très haut niveau.