Faut arrêter à balancer du "manque de respect" dès qu'on appeler un chat, un chat.
Appelle ça "manque d'humilité" si tu préfères. Mais affirmer que le deep learning c'est la même chose qu'avant mais avec plus de données, ce n'est pas de la vulgarisation scientifique correcte. Prétendre qu'on pouvait prévoir qu'il serait impossible d'analyser le langage natural avec un système expert, c'est un manque d'humilité. Il confond ce qu'on peut comprendre maintenant qu'on sait, et ce qu'on pouvait prévoir quand on ne savait pas.
Par contre, il y a un point super-important qu'il n'a pas vraiment évoqué, c'est la sur-communication. Beaucoup d'algorithmes présentés comme des IA ne sont pas des IA, beaucoup d'algorithmes présentés comme du deep-learning ne sont pas du deep-learning, etc. Par ailleurs, entrainer un algorithme correctement nécessite beaucoup de compétence, parce que certains algorithmes sont peu autonomes pour l'apprentissage. Associer IA et autonomie d'apprentissage est d'ailleurs un peu douteux, mais c'est une question de définition. Pour moi, Dall-E est un vrai algo d'IA (il simule une intelligence complexe), mais il est incapable d'apprendre tout seul, il lui faut des données annotées. Par contre, AlphaChess apprend tout seul, mais je ne suis pas sûr que ça soit une IA.
Parce qu'on aura codé la chose, oui. Une IA réelle apprendrait par elle-même mais ce qu'il y a actuellement n'est pas foutu de se "corriger". Bon exemple pour montrer le manque d'intelligence en soit.
Trois choses qui n'ont rien à voir:
1) Coder vs Apprendre tout seul. C'est une fausse dichotomie. On va évidemment coder l'apprentissage autonome, mais un fois l'apprentissage autonome codé, ça va marcher tout seul.
2) Les AI actuelles ne savent pas apprendre. C'est largement faux, on a déja évoqué les "alphaChess" et collègues, qui sont totalement autonomes une fois qu'ils connaissent les règles; ChatGPT apprend très bien (quand il dit un truc faux, il suffit de lui expliquer pourquoi et il adapte sa réponse). Et de toutes manières, l'apprentissage et l'IA ne sont pas la même chose. Tous les algorithmes Bayesiens (style détecteurs de spam, ou joueurs "ordinateur" dans les jeux vidéos) sont capables d'apprendre, pourtant ce ne sont pas des IA (ou alors des IA très très basiques).
3) La question n'est pas de savoir si les systèmes de conduite autonomes ont des performances comparables à un conducteur humain, puisqu'il est évident que non sur de nombreux points, la question est sur le "jamais". Tu peux donner autant d'exemples que tu veux, ça ne fait que d'enfoncer des portes ouvertes (les algos ne peuvent pas faire la différence entre un sac plastique sur lequel on peut rouler et un animal qui traverse, etc). Tout le monde le sait, ça. La question, c'est d'être incapable d'imaginer un niveau d'autonomie supérieur, et là, ça ne me semble pas évident du tout (ou pire, ça me semble évident qu'assez rapidement les algos seront capables de faire la différence, et/ou qu'ils seront au moins capables de poser la question ("je viens d'éviter un objet que je ne connais pas, est-ce que j'ai bien fait: oui/non") pour adapter leur comportement.
On peut aussi noter que les logiciels de conduite autonome sont soumis à des contraintes éthiques et réglementaires très différentes des logiciels de chatbot, et que forcément ils ont un tropisme vers la prudence. C'est ce tropisme qu'on va considérer comme "idiot", mais c'est peut−être le goût du risque de certains humains qui est objectivement "idiot". Rouler sur un sac plastique, c'est peut-être possible, mais il y a peut-être un objet dans le sac, ou le sac peut aller se coincer quelque part et endommager le véhicule, etc. C'est peut-être une situation dans laquelle il vaut mieux freiner, et se comporter comme une IA prudente, plutôt que comme un humain débile trop sûr de lui.
[^] # Re: Vu, et pas complètement approuvé
Posté par arnaudus . En réponse au lien FUN : L’intelligence artificielle n’existe pas, par Luc Julia. Évalué à 9. Dernière modification le 12 juillet 2023 à 12:12.
Appelle ça "manque d'humilité" si tu préfères. Mais affirmer que le deep learning c'est la même chose qu'avant mais avec plus de données, ce n'est pas de la vulgarisation scientifique correcte. Prétendre qu'on pouvait prévoir qu'il serait impossible d'analyser le langage natural avec un système expert, c'est un manque d'humilité. Il confond ce qu'on peut comprendre maintenant qu'on sait, et ce qu'on pouvait prévoir quand on ne savait pas.
Par contre, il y a un point super-important qu'il n'a pas vraiment évoqué, c'est la sur-communication. Beaucoup d'algorithmes présentés comme des IA ne sont pas des IA, beaucoup d'algorithmes présentés comme du deep-learning ne sont pas du deep-learning, etc. Par ailleurs, entrainer un algorithme correctement nécessite beaucoup de compétence, parce que certains algorithmes sont peu autonomes pour l'apprentissage. Associer IA et autonomie d'apprentissage est d'ailleurs un peu douteux, mais c'est une question de définition. Pour moi, Dall-E est un vrai algo d'IA (il simule une intelligence complexe), mais il est incapable d'apprendre tout seul, il lui faut des données annotées. Par contre, AlphaChess apprend tout seul, mais je ne suis pas sûr que ça soit une IA.
Trois choses qui n'ont rien à voir:
1) Coder vs Apprendre tout seul. C'est une fausse dichotomie. On va évidemment coder l'apprentissage autonome, mais un fois l'apprentissage autonome codé, ça va marcher tout seul.
2) Les AI actuelles ne savent pas apprendre. C'est largement faux, on a déja évoqué les "alphaChess" et collègues, qui sont totalement autonomes une fois qu'ils connaissent les règles; ChatGPT apprend très bien (quand il dit un truc faux, il suffit de lui expliquer pourquoi et il adapte sa réponse). Et de toutes manières, l'apprentissage et l'IA ne sont pas la même chose. Tous les algorithmes Bayesiens (style détecteurs de spam, ou joueurs "ordinateur" dans les jeux vidéos) sont capables d'apprendre, pourtant ce ne sont pas des IA (ou alors des IA très très basiques).
3) La question n'est pas de savoir si les systèmes de conduite autonomes ont des performances comparables à un conducteur humain, puisqu'il est évident que non sur de nombreux points, la question est sur le "jamais". Tu peux donner autant d'exemples que tu veux, ça ne fait que d'enfoncer des portes ouvertes (les algos ne peuvent pas faire la différence entre un sac plastique sur lequel on peut rouler et un animal qui traverse, etc). Tout le monde le sait, ça. La question, c'est d'être incapable d'imaginer un niveau d'autonomie supérieur, et là, ça ne me semble pas évident du tout (ou pire, ça me semble évident qu'assez rapidement les algos seront capables de faire la différence, et/ou qu'ils seront au moins capables de poser la question ("je viens d'éviter un objet que je ne connais pas, est-ce que j'ai bien fait: oui/non") pour adapter leur comportement.
On peut aussi noter que les logiciels de conduite autonome sont soumis à des contraintes éthiques et réglementaires très différentes des logiciels de chatbot, et que forcément ils ont un tropisme vers la prudence. C'est ce tropisme qu'on va considérer comme "idiot", mais c'est peut−être le goût du risque de certains humains qui est objectivement "idiot". Rouler sur un sac plastique, c'est peut-être possible, mais il y a peut-être un objet dans le sac, ou le sac peut aller se coincer quelque part et endommager le véhicule, etc. C'est peut-être une situation dans laquelle il vaut mieux freiner, et se comporter comme une IA prudente, plutôt que comme un humain débile trop sûr de lui.