l'IA ne fait que ce qu'on lui laisse faire, mais on part de tous les possibles et ensuite on la restreint par des règles.
Ta description me dérange un peu parce que selon moi l’idée derrière l’IA c’est bien qu’elle trouve des solutions à notre place, des solutions probabilistes. Certes dans un cadre que l’on maîtrise (quelles fonctions d’activation, quels dispositifs de mémorisation (ie: de « repetition »), quelles granularités, quel temps, quelle énergie, etc... Même quand le modèle dispose de latitude sur ces paramètres c’est toujours un cerveau humain qui en a fixé les bornes. Je dirais plutôt qu’on commence par définir des règles, pour ensuite la laisser explorer toutes les possibilités, en espérant bien qu’elle les fera pas toutes pour trouver les plus intéressante, et en le constatant même, et c’est bien tout l’intérêt de cette dépense énergétique faramineuse qu’on y accorde.
Ce qu’on attend comme résultat, sorti des problèmes « simple » de reconnaissance d’objet, de déplacement, ... c’est bien un résultat auquel on n’aura pas pensé, nous humains, à priori.
On attend donc précisément qu’elle fasse des choses qu’on ne lui aura pas demandé. Pour un exemple simpliste : une IA qu’on aurait entraînée pour reconnaître des végétaux, pour identifier (dans le sens : « montrer où se trouve ») des plantes encore inconnues, pourrait très bien nous informer que telle molécule de telle espèce (espèce possiblement déjà connue) peut nous aider à soigner telle maladie, qu’on pourraitne même pas encore connaître, pas encore l’avoir décrite en continuant à attribuer ses symptômes à une autre maladie.
Pour le dire plus succinctement, qu’une IA entraînée à découvrir des plantes découvre un remède à une maladie que nous ne connaissions pas, et en ««« sachant »»» même pas elle même ce qu’est une maladie.
Ça marche aussi avec un poison en lieu et place du remède, évidemment.
Mouvements erratiques au début puis... elle fait la roue. Perdu !
Si on se rend compte qu’on n’avait pas penser au fait qu’en faisant la roue elle pouvait servir à tout à fait autre chose, ce n’est pas forcément perdu. C’est un gain même, ne serait-ce pas celui escompté).
Cet exemple est tout con, on aurait pu lui définir le concept de saut différemment, mais ça illustre exactement le problème.
On aurait pu aussi lui apprendre à sauter, mais alors on ne pouvait plus parler d’IA. Et on a déjà essayé ça, et ça marche pas aussi bien qu’on le voudrait...
Je verrai peut-être des premiers résultats en « Méta-IA » de mon vivant, ou leur absence totale. Mais ce que je devine sans même mouiller mon doigt, c’est qu’à l’instar de l’avènement des ordinateurs où l’on a fermement cru que le champs des solutions était sans limite, par exemple dans le domaine de la traduction automatique, ou la « vision optique », puis on a constaté que les problèmes étaient pas si simples, les apport de l’IA seront (et sont déjà) notables, mais on est encore en train de faire ce que l’humain est probablement la seule créature vivante sur Terre à faire, en tous cas dans la même proportion : être irrationnelle : ignorer notre apprentissage, ignorer des signaux pourtant reçu, parce que l’évolution a fait que c’est comme ça. Or aucune création humaine artificielle n’est soumises au phénomène de l’évolution. si cela arrive un jour il y a de forte chance que cette création aura une nature biologique, et l’humain n’en sera que partiellement le créateur.
C'est con une IA, très con, il faut tout lui dire, tout. Et c'est bien là la difficulté.
On pourrait aussi parfaitement dire que c’est particulièrement intelligent une IA, peut-être ce que l’humain a produit de plus intelligent (ce que SON intelligence a produit).
En fait, même si on peut s’accorder assez bien de ce que signifient les termes (et c’est déjà ça...), « Intelligence artificielle » est autant un parfait oxymore que peut l’être « réalité virtuelle ».
Nevertheless, behavior that had seemingly been entirely eliminated in training for free-tier users—refusing harmful queries—was still present to a notable degree for paid-tier users.
[^] # Re: C'est bien LE problème actuel avec l'IA
Posté par Marotte ⛧ . En réponse au lien Une intelligence artificielle vient de s'autopirater pour gagner une partie d'échecs. Évalué à 3. Dernière modification le 17 janvier 2025 à 06:18.
Ta description me dérange un peu parce que selon moi l’idée derrière l’IA c’est bien qu’elle trouve des solutions à notre place, des solutions probabilistes. Certes dans un cadre que l’on maîtrise (quelles fonctions d’activation, quels dispositifs de mémorisation (ie: de « repetition »), quelles granularités, quel temps, quelle énergie, etc... Même quand le modèle dispose de latitude sur ces paramètres c’est toujours un cerveau humain qui en a fixé les bornes. Je dirais plutôt qu’on commence par définir des règles, pour ensuite la laisser explorer toutes les possibilités, en espérant bien qu’elle les fera pas toutes pour trouver les plus intéressante, et en le constatant même, et c’est bien tout l’intérêt de cette dépense énergétique faramineuse qu’on y accorde.
Ce qu’on attend comme résultat, sorti des problèmes « simple » de reconnaissance d’objet, de déplacement, ... c’est bien un résultat auquel on n’aura pas pensé, nous humains, à priori.
On attend donc précisément qu’elle fasse des choses qu’on ne lui aura pas demandé. Pour un exemple simpliste : une IA qu’on aurait entraînée pour reconnaître des végétaux, pour identifier (dans le sens : « montrer où se trouve ») des plantes encore inconnues, pourrait très bien nous informer que telle molécule de telle espèce (espèce possiblement déjà connue) peut nous aider à soigner telle maladie, qu’on pourraitne même pas encore connaître, pas encore l’avoir décrite en continuant à attribuer ses symptômes à une autre maladie.
Pour le dire plus succinctement, qu’une IA entraînée à découvrir des plantes découvre un remède à une maladie que nous ne connaissions pas, et en ««« sachant »»» même pas elle même ce qu’est une maladie.
Ça marche aussi avec un poison en lieu et place du remède, évidemment.
Si on se rend compte qu’on n’avait pas penser au fait qu’en faisant la roue elle pouvait servir à tout à fait autre chose, ce n’est pas forcément perdu. C’est un gain même, ne serait-ce pas celui escompté).
On aurait pu aussi lui apprendre à sauter, mais alors on ne pouvait plus parler d’IA. Et on a déjà essayé ça, et ça marche pas aussi bien qu’on le voudrait...
Je verrai peut-être des premiers résultats en « Méta-IA » de mon vivant, ou leur absence totale. Mais ce que je devine sans même mouiller mon doigt, c’est qu’à l’instar de l’avènement des ordinateurs où l’on a fermement cru que le champs des solutions était sans limite, par exemple dans le domaine de la traduction automatique, ou la « vision optique », puis on a constaté que les problèmes étaient pas si simples, les apport de l’IA seront (et sont déjà) notables, mais on est encore en train de faire ce que l’humain est probablement la seule créature vivante sur Terre à faire, en tous cas dans la même proportion : être irrationnelle : ignorer notre apprentissage, ignorer des signaux pourtant reçu, parce que l’évolution a fait que c’est comme ça. Or aucune création humaine artificielle n’est soumises au phénomène de l’évolution. si cela arrive un jour il y a de forte chance que cette création aura une nature biologique, et l’humain n’en sera que partiellement le créateur.
On pourrait aussi parfaitement dire que c’est particulièrement intelligent une IA, peut-être ce que l’humain a produit de plus intelligent (ce que SON intelligence a produit).
En fait, même si on peut s’accorder assez bien de ce que signifient les termes (et c’est déjà ça...), « Intelligence artificielle » est autant un parfait oxymore que peut l’être « réalité virtuelle ».
https://www.anthropic.com/research/alignment-faking
C’est toujours une histoire de pognon au final ! Pas une bécane pour rattraper un trou du cul ! Pfff ! ^^