J'étais tombé sur un bon documentaire sur ce sujet. C'est un gros soucis qu'on a actuellement avec l'IA, il y a même des chercheurs qui commencent à se pencher sur ce sujet : l'IA "triche".
Alors je mets entre guillemets parce que bien évidemment l'IA ne fait que ce qu'on lui laisse faire, mais on part de tous les possibles et ensuite on la restreint par des règles. Or il est extrêmement difficile d'énoncer par règle tout ce qu'on a en tête. On lui parle comme à un humain, mais il y a énormément de non-dits dans la conversation entre deux humains.
Un exemple tout con c'est un robot virtuel, une sorte d'araignée qui ne sait pas marcher, hop IA, mouvements erratiques au début puis... elle marche. Ensuite on essaie de la faire sauter. Pour ça on lui a demandé d'essayer de maximiser la position de son centre de gravité. Mouvements erratiques au début puis... elle fait la roue. Perdu !
Cet exemple est tout con, on aurait pu lui définir le concept de saut différemment, mais ça illustre exactement le problème.
C'est con une IA, très con, il faut tout lui dire, tout. Et c'est bien là la difficulté.
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.
# C'est bien LE problème actuel avec l'IA
Posté par gUI (Mastodon) . En réponse au lien Une intelligence artificielle vient de s'autopirater pour gagner une partie d'échecs. Évalué à 8. Dernière modification le 12 janvier 2025 à 09:03.
J'étais tombé sur un bon documentaire sur ce sujet. C'est un gros soucis qu'on a actuellement avec l'IA, il y a même des chercheurs qui commencent à se pencher sur ce sujet : l'IA "triche".
Alors je mets entre guillemets parce que bien évidemment l'IA ne fait que ce qu'on lui laisse faire, mais on part de tous les possibles et ensuite on la restreint par des règles. Or il est extrêmement difficile d'énoncer par règle tout ce qu'on a en tête. On lui parle comme à un humain, mais il y a énormément de non-dits dans la conversation entre deux humains.
Un exemple tout con c'est un robot virtuel, une sorte d'araignée qui ne sait pas marcher, hop IA, mouvements erratiques au début puis... elle marche. Ensuite on essaie de la faire sauter. Pour ça on lui a demandé d'essayer de maximiser la position de son centre de gravité. Mouvements erratiques au début puis... elle fait la roue. Perdu !
Cet exemple est tout con, on aurait pu lui définir le concept de saut différemment, mais ça illustre exactement le problème.
C'est con une IA, très con, il faut tout lui dire, tout. Et c'est bien là la difficulté.
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.