URL: https://linuxfr.org/users/krunch/journaux/les-ai-des-gafam-sont-elles-nefastes Title: Les AI des GAFAM sont-elles néfastes ? Authors: Krunch Date: 2022年06月19日T10:37:50+02:00 License: CC By-SA Tags: éthique, intelligence_artificielle, google, timnit_gebru et grands_modèles_de_langage Score: 14 Récemment, on a beaucoup discuté de si un certain modèle de langage était sentient. Ce qui a été beaucoup moins discuté c'est les biais que ce modèle contient, l'effet que ce modèle a ou peut avoir sur les individus qui interagissent avec lui et sur la société en général. Timnit Gebru et Margaret Mitchell examinent le problème depuis plusieurs années. En 2020, lorsqu'elles travaillaient chez Google, elles ont publié une étude sur le sujet (avec la professeure Emily M. Bender, ses étudiants et d'autres travailleurs de Google). Une de leurs conclusions est que les gens interagissant avec ce modèle risquent de l'anthropomorphiser et que, étant donné son jeu de données biaisé, cela risque de renforcer certaines discriminations. Elles en reparlent maintenant dans un [article du Washington Post](https://www.washingtonpost.com/opinions/2022/06/17/google-ai-ethics-sentient-lemoine-warning/) ([lien archive.is](https://archive.ph/6qSC0) pour éviter le paywall) que je vous invite à lire (en anglais mais j'ose espérer que la presse francophone relayera cela d'ici quelques jours/semaines). Dans ce contexte, les discussions sur la sentience sont une distraction et il serait sans doute plus utile d'examiner l'effet que ces modèles de langage ont sur la société. On pourrait par exemple imaginer en entrainer un avec un jeu de données promouvant des vues politiques spécifiques et lui donner accès à quelques milliers de comptes Facebook/Twitter/Linuxfr. Ou bien ou pourrait se focaliser sur l'utilisation de ces modèles pour résoudre des problèmes de société plutôt que de se monter le choux avec des « intelligence » artificielles qui donnent une bonne excuse à leurs créateurs pour se dédouaner de tout effet néfaste de ces modèles. Avertissement : Je travaille chez Google mais pas dans ce domaine. Mes messages sur ce site web n'engagent que moi.