En fait, des systèmes résultant d’apprentissage stochastique libres et qui ne crament pas la planète ça existe déjà (en tant que chercheureuse par exemple on peut s’amuser à entraîner un modèle de A à Z) ; évidemment c’est moins "puissant" qu’un truc du type ChatGPT mais la bonne question qu’il faut, je pense, se poser, c’est « puissant pour quoi faire ?".
A-t-on vraiment besoin de tels outils ? Pour quel usage ?
Ce sont les bonnes questions. Et ce qui m’ennuie, c’est que oui, il y a des usages où je vois l’intérêt. Le plus facile étant les traducteurs automatiques. L’apprentissage des langues demande un certain nombre de privilèges, la démocratisation de ces outils a permis d’accéder à des connaissances et des échanges qui étaient inenvisageables avant.
À titre personnel cela m’aura permis de me former sur des ressources qui n’existaient pas dans ma langue, de discuter avec des gens qui me seraient restés incompréhensibles sinon (et encore, il restait la distance culturelle à franchir) et mine de rien, à apprendre aussi d’autres langues. Faire tomber la montagne que cela représentait d’essayer de "comprendre" a rendu l’apprentissage possible. Certes, je ne paie pas de traductrices depuis que j’utilise Deepl. Mais de toute façon je n’ai jamais eu les moyens de le faire.
Et dans mes divers tests avec les LLM, il y a plein d’usages que je trouve douteux, où ils sont inutiles voire contre-productifs, mais il y a aussi plein de situations où cela m’a débloqué, là où aucun humain n’allait daigner m’aider. Par exemple, quitte à me fâcher avec les techbros (on est là pour ça non ? :P ) : les LLM sont d’une patience infinie pour rendre le fucking manuel plus digeste, là où les vraies puristes croient que lire le man suffit. Certes, si nous étions dans une société bienveillante où les débutantes seraient accompagnées avec patience, sans jugement et sans sous-entendu sexistes, c’est sûr que je n’aurais pas autant apprécié la reformulation offerte par les LLM et que j’aurais pu m’en passer.
J’aurais des tas de sujets sur lesquels j’ai trouvé que oui, certains outils répondaient à des besoins, exprimés depuis longtemps mais où je n’avais pas les "privilèges" pour y répondre... jusqu’à avoir accès à ces trucs. J’ai parfois eu la tentation de faire quelques journaux sur mes expériences "LLM" mais vu comme le débat est polarisé, je n’ai pas eu la foi de me confronter aux retours violents de certains... pourtant pouvoir échanger sur les qualités et limites des divers outils pourrait vraiment être cool, histoire de mieux comprendre les enjeux. Parce que chaque fois que je trouve un usage "utile", il vient forcément des questions sur ce que ça implique derrière. Déjà j’ose participer un peu dans la conversation ici, mais je stresse en postant mes commentaires. Alors, faire des journaux... je resterais sur des sujets plus consensuels.
Outre le côté éthique/écologique, peut-on encore qualifier de "Libre" un outil qui nécessiterait de posséder un data center (et les capacités énergétiques, les ressources en eau...) associées pour le créer / le faire tourner ? Peut-être dans un système où les data centers seraient un commun, mais dans notre système ?
L’entraînement des gros modèles demande des ressources qui me semblent difficiles à trouver dans les communs, mais tu dis que c’est possible, je te crois : je ne suis pas compétente, et je trouve la nouvelle rassurante !
Faire tourner les outils qui en découlent est possible "facilement" dans une optique mutualisée, sauf qu’on ne peut pas évacuer si facilement le côté éthique/écologique, et puis si le modèle n’est pas entraîné sur des données libres, de toute façon on ne peut pas prétendre que le produit final l’est. Je me suis tâtée à héberger un LLM "maison" pour ma bande d’amis, histoire qu’au moins les infos persos n’aillent pas nourrir les grosses entreprises. Je n’ai toujours pas tranché si c’est pertinent ou non ; je n’ai pas non plus la machine qui le permet bien qu’elle n’est pas « hors de portée ». Sauf qu’il y a ici pour moi aussi le questionnement écologique qui freine à mort : je suis plutôt à réemployer des vieux coucous qu’à acheter (et donc cautionner la création) de matériel neuf.
Je fais un petit détour sur la question du travail. Primo, le fait qu’une population a été exploitée pour construire les modèles de données. Oui, ça on ne va pas le nier. Mais l’esclavage moderne des populations les plus paupérisées fait partie du fonctionnement du capitalisme, et ce sont des groupes similaires qui vont faire nos habits (l’industrie textile est ignoble), trouver les matières premières qui font tout notre confort moderne (personne ne peut rêver de bosser dans une mine d’un pays pauvre, à moins d’avoir comme alternative de crever de faim), et autres jobs foireux. Je ne dis pas que cela est justifiable. Juste que c’est tout aussi peu éthique que la majorité des choses qu’on utilise au quotidien. Pourquoi cet argument devrais avoir plus de poids dans l’usage des IA que dans l’habillement ? Parce que je doute très fortement que les critiques de l’IA utilisent uniquement les vêtements transmis par leurs aïeuls ou ceux qu’ils ont eux-même tissés. Je précise bien qu’il ne s’agit pas de nier la pénibilité du travail accompli, juste que si on veut utiliser cet argument pour « ne pas utiliser l’IA », il faut être cohérent et ne pas utiliser de nombreuses autres choses, ce qui mène forcément à s’exclure de la société dans le monde occidental. Ou être conscient qu’on reste un esclavagiste, même si on n’aime pas ça et qu’on dit que c’est mal.
Secundo sur « automatiser des jobs auparavant épargnés, pour précariser encore un peu plus les travailleureuses ». Le problème, ce ne serait pas surtout d’avoir besoin d’un job aliénant pour survivre ? Peu importe qu’il soit sympa ou pas. Sans questions à se poser sur la survie, je pourrais faire de l’art, ou coder, ou tout autre travail utile ou non (si possible : pas nuisible !), et même avec ou sans IA : tout cela dépendrait uniquement de mes envies.
Pour préciser un peu d’où je parle : je viens plutôt de là où les jobs sont remplacés depuis longtemps, régulièrement, par des machines. Et ça m’agace très fortement d’entendre les bourgeois s’autocongratuler de supprimer les métiers "pénibles" mais qui permettaient de survivre, et commencer à pousser des hauts cris quand c’est à leur accès aux ressources qu’on touche. Oui, faire caissière en supermarché ou sur une autoroute, c’était un métier de merde : mais on pouvait le faire même sans avoir eu la chance d’accéder aux grandes études. Maintenant, supprimons toutes les situations de cumul des ressources, permettons à chacun de vivre dignement, et voyons si ça reste un souci que les IA « volent le travail ». Je dirais même : les IA vont permettre que des personnes sans accès aux formations puissent retrouver du job, en tant que baby-sitter, puisque hop, plus besoin de compétences. Non, ok, je trolle là, je sais que ça va juste continuer à enrichir une minorité toujours plus réduite, et augmenter toujours plus la quantité de population qui galère à juste survivre. Mais que la classe moyenne et CSP+ perde ses jobs, honnêtement je ne vois pas le problème : si ça les motivait à repartir couper des têtes, ce serait même bénéfique. Oui, oui, je sais, ça ne suffira pas, cette colère sera juste détournée pour taper encore plus sur les pauvres et les étrangers, mais ma propre colère ne m’aide pas à faire preuve de compassion sur ce point précis.
Par conséquent, pour moi, le "hack", ce serait déjà de ne pas se faire avoir quant à ce que sont réellement ces outils. Ce serait de documenter leurs failles. Étudier leurs biais. Faire un travail d’éducation critique auprès du grand public comme on a pu le faire concernant les outils des GAFAM : c’est en fait leur nouvel avatar.
Là, 1000 fois oui. Avec la précaution que « documenter les failles » demande d’être conscient de ses propres failles, ses propres biais. Y'a qu’à : D (et à ma modeste échelle, j’essaie d’aller dans cette voie).
Et qu’il ne s’agisse pas d’être uniquement dans une posture jugeante. De même qu’harceler les gens pour leur faire installer Linux et quitter Google est contre-productif : on sait qu’il faut avant tout écouter leurs besoins, voir où le Libre peut y répondre "mieux" (ou moins pire) que les GAFAM, accompagner en douceur vers l’émancipation. De même, au-delà de documenter tout ce qui ne va pas avec l’IA, il faut aussi écouter ce que le grand public va y chercher, pourquoi, et proposer des alternatives qui soient "souhaitables". Il y a des trucs qui demandent des sacrés changements dans la société, il ne suffira pas de refuser l’IA.
Un exemple sur un truc dont le traitement m’insupporte : les divers articles sur les dangers de l’IA sur « la santé mentale ». Qui se terminent invariablement par des poncifs du type « allez voir des professionnels, ne faites pas confiance aux IA ». Quels professionnels ? Je ne sais pas s’il y a des pays où ce n’est pas la misère, mais en France en tout cas, c’est sûr que pour trouver 1) un professionnel 2) compétent (on exclue... vraiment beaucoup de monde en fait, y compris parmi ceux qui ont un diplome, tant ce qui est enseigné en France est obsolète) 3) accessible sans revenus conséquents : il y a plus de chance de trouver un trèfle à 4 feuilles. Alors qu’est-ce qu’on fait quand on a des soucis psy ? On fait ce qu’on peut, voilà, c’est tout. Et on teste tout et n’importe quoi, avec dans le lot plein de trucs qui sont de mauvaises idées, et un certain nombre qui peuvent nous faire disjoncter méchamment (les solutions foireuses potentiellement explosives incluant les psychologues diplômés qui continuent à déblatérer sur Freud et à induire des souvenirs). À tout prendre, l’alcool est plus problématique que les IA dans la plupart des troubles mentaux. Le souci est essentiellement politique, mais le traitement reste sensationnaliste.
[^] # Re: Où placer la subversion ?
Posté par Zatalyz (site web personnel) . En réponse au journal Libre est Queer. Évalué à 10.
Ce sont les bonnes questions. Et ce qui m’ennuie, c’est que oui, il y a des usages où je vois l’intérêt. Le plus facile étant les traducteurs automatiques. L’apprentissage des langues demande un certain nombre de privilèges, la démocratisation de ces outils a permis d’accéder à des connaissances et des échanges qui étaient inenvisageables avant.
À titre personnel cela m’aura permis de me former sur des ressources qui n’existaient pas dans ma langue, de discuter avec des gens qui me seraient restés incompréhensibles sinon (et encore, il restait la distance culturelle à franchir) et mine de rien, à apprendre aussi d’autres langues. Faire tomber la montagne que cela représentait d’essayer de "comprendre" a rendu l’apprentissage possible. Certes, je ne paie pas de traductrices depuis que j’utilise Deepl. Mais de toute façon je n’ai jamais eu les moyens de le faire.
Et dans mes divers tests avec les LLM, il y a plein d’usages que je trouve douteux, où ils sont inutiles voire contre-productifs, mais il y a aussi plein de situations où cela m’a débloqué, là où aucun humain n’allait daigner m’aider. Par exemple, quitte à me fâcher avec les techbros (on est là pour ça non ? :P ) : les LLM sont d’une patience infinie pour rendre le fucking manuel plus digeste, là où les vraies puristes croient que lire le man suffit. Certes, si nous étions dans une société bienveillante où les débutantes seraient accompagnées avec patience, sans jugement et sans sous-entendu sexistes, c’est sûr que je n’aurais pas autant apprécié la reformulation offerte par les LLM et que j’aurais pu m’en passer.
J’aurais des tas de sujets sur lesquels j’ai trouvé que oui, certains outils répondaient à des besoins, exprimés depuis longtemps mais où je n’avais pas les "privilèges" pour y répondre... jusqu’à avoir accès à ces trucs. J’ai parfois eu la tentation de faire quelques journaux sur mes expériences "LLM" mais vu comme le débat est polarisé, je n’ai pas eu la foi de me confronter aux retours violents de certains... pourtant pouvoir échanger sur les qualités et limites des divers outils pourrait vraiment être cool, histoire de mieux comprendre les enjeux. Parce que chaque fois que je trouve un usage "utile", il vient forcément des questions sur ce que ça implique derrière. Déjà j’ose participer un peu dans la conversation ici, mais je stresse en postant mes commentaires. Alors, faire des journaux... je resterais sur des sujets plus consensuels.
L’entraînement des gros modèles demande des ressources qui me semblent difficiles à trouver dans les communs, mais tu dis que c’est possible, je te crois : je ne suis pas compétente, et je trouve la nouvelle rassurante !
Faire tourner les outils qui en découlent est possible "facilement" dans une optique mutualisée, sauf qu’on ne peut pas évacuer si facilement le côté éthique/écologique, et puis si le modèle n’est pas entraîné sur des données libres, de toute façon on ne peut pas prétendre que le produit final l’est. Je me suis tâtée à héberger un LLM "maison" pour ma bande d’amis, histoire qu’au moins les infos persos n’aillent pas nourrir les grosses entreprises. Je n’ai toujours pas tranché si c’est pertinent ou non ; je n’ai pas non plus la machine qui le permet bien qu’elle n’est pas « hors de portée ». Sauf qu’il y a ici pour moi aussi le questionnement écologique qui freine à mort : je suis plutôt à réemployer des vieux coucous qu’à acheter (et donc cautionner la création) de matériel neuf.
Je fais un petit détour sur la question du travail. Primo, le fait qu’une population a été exploitée pour construire les modèles de données. Oui, ça on ne va pas le nier. Mais l’esclavage moderne des populations les plus paupérisées fait partie du fonctionnement du capitalisme, et ce sont des groupes similaires qui vont faire nos habits (l’industrie textile est ignoble), trouver les matières premières qui font tout notre confort moderne (personne ne peut rêver de bosser dans une mine d’un pays pauvre, à moins d’avoir comme alternative de crever de faim), et autres jobs foireux. Je ne dis pas que cela est justifiable. Juste que c’est tout aussi peu éthique que la majorité des choses qu’on utilise au quotidien. Pourquoi cet argument devrais avoir plus de poids dans l’usage des IA que dans l’habillement ? Parce que je doute très fortement que les critiques de l’IA utilisent uniquement les vêtements transmis par leurs aïeuls ou ceux qu’ils ont eux-même tissés. Je précise bien qu’il ne s’agit pas de nier la pénibilité du travail accompli, juste que si on veut utiliser cet argument pour « ne pas utiliser l’IA », il faut être cohérent et ne pas utiliser de nombreuses autres choses, ce qui mène forcément à s’exclure de la société dans le monde occidental. Ou être conscient qu’on reste un esclavagiste, même si on n’aime pas ça et qu’on dit que c’est mal.
Secundo sur « automatiser des jobs auparavant épargnés, pour précariser encore un peu plus les travailleureuses ». Le problème, ce ne serait pas surtout d’avoir besoin d’un job aliénant pour survivre ? Peu importe qu’il soit sympa ou pas. Sans questions à se poser sur la survie, je pourrais faire de l’art, ou coder, ou tout autre travail utile ou non (si possible : pas nuisible !), et même avec ou sans IA : tout cela dépendrait uniquement de mes envies.
Pour préciser un peu d’où je parle : je viens plutôt de là où les jobs sont remplacés depuis longtemps, régulièrement, par des machines. Et ça m’agace très fortement d’entendre les bourgeois s’autocongratuler de supprimer les métiers "pénibles" mais qui permettaient de survivre, et commencer à pousser des hauts cris quand c’est à leur accès aux ressources qu’on touche. Oui, faire caissière en supermarché ou sur une autoroute, c’était un métier de merde : mais on pouvait le faire même sans avoir eu la chance d’accéder aux grandes études. Maintenant, supprimons toutes les situations de cumul des ressources, permettons à chacun de vivre dignement, et voyons si ça reste un souci que les IA « volent le travail ». Je dirais même : les IA vont permettre que des personnes sans accès aux formations puissent retrouver du job, en tant que baby-sitter, puisque hop, plus besoin de compétences. Non, ok, je trolle là, je sais que ça va juste continuer à enrichir une minorité toujours plus réduite, et augmenter toujours plus la quantité de population qui galère à juste survivre. Mais que la classe moyenne et CSP+ perde ses jobs, honnêtement je ne vois pas le problème : si ça les motivait à repartir couper des têtes, ce serait même bénéfique. Oui, oui, je sais, ça ne suffira pas, cette colère sera juste détournée pour taper encore plus sur les pauvres et les étrangers, mais ma propre colère ne m’aide pas à faire preuve de compassion sur ce point précis.
Là, 1000 fois oui. Avec la précaution que « documenter les failles » demande d’être conscient de ses propres failles, ses propres biais. Y'a qu’à : D (et à ma modeste échelle, j’essaie d’aller dans cette voie).
Et qu’il ne s’agisse pas d’être uniquement dans une posture jugeante. De même qu’harceler les gens pour leur faire installer Linux et quitter Google est contre-productif : on sait qu’il faut avant tout écouter leurs besoins, voir où le Libre peut y répondre "mieux" (ou moins pire) que les GAFAM, accompagner en douceur vers l’émancipation. De même, au-delà de documenter tout ce qui ne va pas avec l’IA, il faut aussi écouter ce que le grand public va y chercher, pourquoi, et proposer des alternatives qui soient "souhaitables". Il y a des trucs qui demandent des sacrés changements dans la société, il ne suffira pas de refuser l’IA.
Un exemple sur un truc dont le traitement m’insupporte : les divers articles sur les dangers de l’IA sur « la santé mentale ». Qui se terminent invariablement par des poncifs du type « allez voir des professionnels, ne faites pas confiance aux IA ». Quels professionnels ? Je ne sais pas s’il y a des pays où ce n’est pas la misère, mais en France en tout cas, c’est sûr que pour trouver 1) un professionnel 2) compétent (on exclue... vraiment beaucoup de monde en fait, y compris parmi ceux qui ont un diplome, tant ce qui est enseigné en France est obsolète) 3) accessible sans revenus conséquents : il y a plus de chance de trouver un trèfle à 4 feuilles. Alors qu’est-ce qu’on fait quand on a des soucis psy ? On fait ce qu’on peut, voilà, c’est tout. Et on teste tout et n’importe quoi, avec dans le lot plein de trucs qui sont de mauvaises idées, et un certain nombre qui peuvent nous faire disjoncter méchamment (les solutions foireuses potentiellement explosives incluant les psychologues diplômés qui continuent à déblatérer sur Freud et à induire des souvenirs). À tout prendre, l’alcool est plus problématique que les IA dans la plupart des troubles mentaux. Le souci est essentiellement politique, mais le traitement reste sensationnaliste.
J’arrête ma tartine ici :D