J'ai beaucoup aimé ta conférence sur l'IA aux JDLL. Merci de l'avoir retranscrite au passage, ce qui m'a permis d'y accéder.
Merci :-)
je comprends bien la détestation de l'IA en tant que projet politique, mais j'ai l'impression que tu ne l'applique pas forcément à tous les outils placés sous le nom "d'IA". S'il y a des modèles réellement libres qui émergent, c'est à dire avec des données acquises en respectant les licences, est-ce que tu considèrerais ça comme acceptable ?
En fait, des systèmes résultant d'apprentissage stochastique libres et qui ne crament pas la planète ça existe déjà (en tant que chercheureuse par exemple on peut s'amuser à entraîner un modèle de A à Z) ; évidemment c'est moins "puissant" qu'un truc du type ChatGPT mais la bonne question qu'il faut, je pense, se poser, c'est "puissant pour quoi faire ?".
A-t-on vraiment besoin de tels outils ? Pour quel usage ?
Outre le côté éthique/écologique, peut-on encore qualifier de "Libre" un outil qui nécessiterait de posséder un data center (et les capacités énergétiques, les ressources en eau...) associées pour le créer / le faire tourner ? Peut-être dans un système où les data centers seraient un commun, mais dans notre système ?
D'autant que ne l'oublions pas, il y a également beaucoup de travail humain (des humain·es sous-payées, souvent traumatisé·es par les contenus qu'ils et elles doivent traiter, classer, identifier) derrière ces SRAS. Il ne faudrait pas penser que ça se fait tout seul juste avec beaucoup de données, une grosse machine et quelques bons algos.
De même que le copyleft est effectivement basé sur le copyright pour le détourner de son objectif initial, est-ce que tu envisages que les outils et algorithmes associés à "l'IA" puissent être détournés pour un usage profitable ?
La question est : les détourner pour quoi faire ?
Il faut déjà avoir pleinement conscience de ce que cela peut, et ne peut pas, faire correctement. C'est juste une machine à recracher du texte (ou des images) en fonction de poids statistiques obtenus à force d'entraînement (et pas mal d'huile humaine aussi). Ça ne "pense" pas, ça ne "cherche" pas. Ça ressort du plausible, pas du correct. C'est en général très fortement biaisé envers les populations non dominantes (aka non mec blanc cis causant l'anglais).
Le vrai but des techbros qui poussent à l'adoption des gadgets d'IA actuels est profondément néolibéral : automatiser des jobs auparavant épargnés, pour précariser encore un peu plus les travailleureuses. Virer les artistes, les traducteurices, les développeureuses pour mettre des machines à leur place - quitte à garder quelques humain·es pour babysitter les machines (j'adore cette image, elle vient de The AI Con, il faut vraiment lire ce livre, il y a tout dedans pour comprendre).
Tout en nous faisant perdre nos repères par rapport à ce qui est un fait, et ce qui n'est qu'une invention de ces machines à produire du plausible.
Par conséquent, pour moi, le "hack", ce serait déjà de ne pas se faire avoir quant à ce que sont réellement ces outils. Ce serait de documenter leurs failles. Étudier leurs biais. Faire un travail d'éducation critique auprès du grand public comme on a pu le faire concernant les outils des GAFAM : c'est en fait leur nouvel avatar.
[^] # Re: Où placer la subversion ?
Posté par Khrys (site web personnel) . En réponse au journal Libre est Queer. Évalué à 5.
Merci :-)
En fait, des systèmes résultant d'apprentissage stochastique libres et qui ne crament pas la planète ça existe déjà (en tant que chercheureuse par exemple on peut s'amuser à entraîner un modèle de A à Z) ; évidemment c'est moins "puissant" qu'un truc du type ChatGPT mais la bonne question qu'il faut, je pense, se poser, c'est "puissant pour quoi faire ?".
A-t-on vraiment besoin de tels outils ? Pour quel usage ?
Outre le côté éthique/écologique, peut-on encore qualifier de "Libre" un outil qui nécessiterait de posséder un data center (et les capacités énergétiques, les ressources en eau...) associées pour le créer / le faire tourner ? Peut-être dans un système où les data centers seraient un commun, mais dans notre système ?
D'autant que ne l'oublions pas, il y a également beaucoup de travail humain (des humain·es sous-payées, souvent traumatisé·es par les contenus qu'ils et elles doivent traiter, classer, identifier) derrière ces SRAS. Il ne faudrait pas penser que ça se fait tout seul juste avec beaucoup de données, une grosse machine et quelques bons algos.
La question est : les détourner pour quoi faire ?
Il faut déjà avoir pleinement conscience de ce que cela peut, et ne peut pas, faire correctement. C'est juste une machine à recracher du texte (ou des images) en fonction de poids statistiques obtenus à force d'entraînement (et pas mal d'huile humaine aussi). Ça ne "pense" pas, ça ne "cherche" pas. Ça ressort du plausible, pas du correct. C'est en général très fortement biaisé envers les populations non dominantes (aka non mec blanc cis causant l'anglais).
Le vrai but des techbros qui poussent à l'adoption des gadgets d'IA actuels est profondément néolibéral : automatiser des jobs auparavant épargnés, pour précariser encore un peu plus les travailleureuses. Virer les artistes, les traducteurices, les développeureuses pour mettre des machines à leur place - quitte à garder quelques humain·es pour babysitter les machines (j'adore cette image, elle vient de The AI Con, il faut vraiment lire ce livre, il y a tout dedans pour comprendre).
Tout en nous faisant perdre nos repères par rapport à ce qui est un fait, et ce qui n'est qu'une invention de ces machines à produire du plausible.
Par conséquent, pour moi, le "hack", ce serait déjà de ne pas se faire avoir quant à ce que sont réellement ces outils. Ce serait de documenter leurs failles. Étudier leurs biais. Faire un travail d'éducation critique auprès du grand public comme on a pu le faire concernant les outils des GAFAM : c'est en fait leur nouvel avatar.