Je trouve le raccourci "IA == desinformation" du début, un peu facile et trompeur.
C'est pas tant l'IA le souci que le fait qu'on a donné l'accès pas cher pour communiquer avec le grand public, avec la possibilité pour le public de participer et rendre viral des contenus, avec la machinerie pour optimiser ça. Je ne dit pas que l'époque de l'ORTF était mieux, mais le cœur du problème, c'est aussi ça.
Et d'ailleurs, appeler ça IA, ça fait aussi appel à un imaginaire visant à tromper. Dans le cas des recherches sur le sujet, c'est faire croire que des algos de recommandation sont plus avancés qu'on le croit et qu'ils vont faire des miracles (donc obtenir des fonds pour la recherche ou pour sa boite). Et dans le cas des personnes contre l'IA, c'est aussi faire appel à un imaginaire bien spécifique (Skynet, HAL, Glados) visant à faire peur en personnifiant un système (ce qui quelque part reprends aussi des thèmes comme le procès de Kafka ou les horreurs de Lovecraft, ou des simples humains sont faces à des horreurs cosmiques ou une bureaucratie qui les dépassent).
La propagande n'a pas attendu les réseaux sociaux pour justifier des génocides, mais en permettant une communication plus facile et moins cher, une des promesses techno-libertaires de l'internet dans les années 90, on a aussi permis de faciliter la propagande.
C'est aussi ignoré les raisons sociales d'un génocide, et finalement, pointer les industries de la silicon valley, c'est aussi un moyen de trouver un méchant facile qui va absoudre les autres acteurs, et passer sous silence les raisons historiques et la politique locale. Y a un petit coté impérialisme culturel, dans le sens ou le méchant tout trouvé, c'est forcément l'Autre.
Ensuite, je ne dit pas que Google/FB ne sont pas responsable (surtout pour le manque de modération dans une langue locale pour FB), mais dire "alors, y a un article spécialisé, mais si il est lu par des gens qui connaissent pas le domaine, ils vont mal comprendre", c'est un chouia faible (minute 12, pour reference). Pareil, minute 26, il dit "mais les gens lisent pas les articles, juste le titre", sans remettre en cause ni le fait que 1) les papiers sont parfois abscons 2) les papiers sont souvent payant et cher 3) qu'il y a les mêmes mécanismes pour la presse en ligne que pour les journaux scientifiques (eg, faut un titre accrocheur).
Mais bon, vu le titre de la vidéo (avec quand même une accusation forte visant à susciter l'émotion et la viralité, vu que la vidéo arrive sur Linuxfr), je suppose qu'on est pas tant dans la communication impartial.
Ce qui me rappelle le livre du moment pour le club de lecture du boulot (Data Feminism), qui dit des choses vraies, qui pointe des vraies soucis et qui est intéressant, mais qui me fait assez hurlé de part sa structure.
Par exemple et pour le moment (vu qu'on lit 1 chapitre par semaine, j'ai lu que les 3 premiers), chaque chapitre commence par un exemple qui implique des trucs graves (ch 1: la mortalité des femmes noires à l'accouchement, ch 2: les endroits ou les gosses noires se font écraser à Détroit en 1971, ch 3: le massacre de Sandy Hook), avec le but de susciter une émotion, ce qui rentre pour moi dans la catégorie manipulation émotionnelle. Non pas qu'on ne doivent pas parler de ses exemples, mais quand c'est dans la structure du livre et que c'est pas exactement le cœur du sujet (qui est quand même sur les statistiques), ça me parait curieux (surtout quand le chapitre 3 dit clairement "il faut susciter de l'émotion", mais curieusement sans pointer sur les recherches de Facebook/Meta de 2014, et la réaction à la publication.
Le livre date d'avant la mort de Georges Floyd donc on peut excuser le fait de ne pas avoir garder ça en tête, mais je pense que les critiques des afro-féministes sur la commodification des morts de personnes noirs sont aussi à envisager sur ces débuts de chapitres (en plus de la question de la manipulation émotionnelle en général).
De même, ce qui me fait hurler, c'est à quel point le livre s'approche d'une autocritique du domaine, mais sans vraiment aller au fond des choses. Par exemple, chapitre 2, à aucun moment ça évoque l'idée même de régulation étatique, ou alors seulement dans le sens ou la régulation va créer plus de travail pour le domaine des data sciences (eg, des audits, des publications de données). Comme l'a fait remarqué Alex Stamos (je crois, je retrouve pas le lien), ç'est un peu un conflit d’intérêt.
L'exemple fin du chapitre 3 avec les nations autochtones, ç'est présenté comme une pratique nouvelle et progressiste, alors que c'est simplement le fonctionnement du copyright (mais ça sonne moins bien comme posture).
Point bonus ce bout du chapitre 3 viole sans doute sa propre licence (le livre est en CC-BY), mais je suppose que tout le monde s'en fout )
Donc je pense qu'il est bon de garder un sens critique y compris sur les gens qui poussent à la critique.
(et j'accuse pas El Titi, je me suis aussi fait avoir avec l'histoire de Xcheck/Meta/Facebook et The wire il n'y a pas longtemps, donc ça arrive clairement aux meilleurs)
# Mouais
Posté par Misc (site web personnel) . En réponse au lien Google a empoisonné la communauté scientifique, qui amplifie maintenant sa désinformation. Évalué à 5.
Je trouve le raccourci "IA == desinformation" du début, un peu facile et trompeur.
C'est pas tant l'IA le souci que le fait qu'on a donné l'accès pas cher pour communiquer avec le grand public, avec la possibilité pour le public de participer et rendre viral des contenus, avec la machinerie pour optimiser ça. Je ne dit pas que l'époque de l'ORTF était mieux, mais le cœur du problème, c'est aussi ça.
Et d'ailleurs, appeler ça IA, ça fait aussi appel à un imaginaire visant à tromper. Dans le cas des recherches sur le sujet, c'est faire croire que des algos de recommandation sont plus avancés qu'on le croit et qu'ils vont faire des miracles (donc obtenir des fonds pour la recherche ou pour sa boite). Et dans le cas des personnes contre l'IA, c'est aussi faire appel à un imaginaire bien spécifique (Skynet, HAL, Glados) visant à faire peur en personnifiant un système (ce qui quelque part reprends aussi des thèmes comme le procès de Kafka ou les horreurs de Lovecraft, ou des simples humains sont faces à des horreurs cosmiques ou une bureaucratie qui les dépassent).
La propagande n'a pas attendu les réseaux sociaux pour justifier des génocides, mais en permettant une communication plus facile et moins cher, une des promesses techno-libertaires de l'internet dans les années 90, on a aussi permis de faciliter la propagande.
C'est aussi ignoré les raisons sociales d'un génocide, et finalement, pointer les industries de la silicon valley, c'est aussi un moyen de trouver un méchant facile qui va absoudre les autres acteurs, et passer sous silence les raisons historiques et la politique locale. Y a un petit coté impérialisme culturel, dans le sens ou le méchant tout trouvé, c'est forcément l'Autre.
Ensuite, je ne dit pas que Google/FB ne sont pas responsable (surtout pour le manque de modération dans une langue locale pour FB), mais dire "alors, y a un article spécialisé, mais si il est lu par des gens qui connaissent pas le domaine, ils vont mal comprendre", c'est un chouia faible (minute 12, pour reference). Pareil, minute 26, il dit "mais les gens lisent pas les articles, juste le titre", sans remettre en cause ni le fait que 1) les papiers sont parfois abscons 2) les papiers sont souvent payant et cher 3) qu'il y a les mêmes mécanismes pour la presse en ligne que pour les journaux scientifiques (eg, faut un titre accrocheur).
Mais bon, vu le titre de la vidéo (avec quand même une accusation forte visant à susciter l'émotion et la viralité, vu que la vidéo arrive sur Linuxfr), je suppose qu'on est pas tant dans la communication impartial.
Ce qui me rappelle le livre du moment pour le club de lecture du boulot (Data Feminism), qui dit des choses vraies, qui pointe des vraies soucis et qui est intéressant, mais qui me fait assez hurlé de part sa structure.
Par exemple et pour le moment (vu qu'on lit 1 chapitre par semaine, j'ai lu que les 3 premiers), chaque chapitre commence par un exemple qui implique des trucs graves (ch 1: la mortalité des femmes noires à l'accouchement, ch 2: les endroits ou les gosses noires se font écraser à Détroit en 1971, ch 3: le massacre de Sandy Hook), avec le but de susciter une émotion, ce qui rentre pour moi dans la catégorie manipulation émotionnelle. Non pas qu'on ne doivent pas parler de ses exemples, mais quand c'est dans la structure du livre et que c'est pas exactement le cœur du sujet (qui est quand même sur les statistiques), ça me parait curieux (surtout quand le chapitre 3 dit clairement "il faut susciter de l'émotion", mais curieusement sans pointer sur les recherches de Facebook/Meta de 2014, et la réaction à la publication.
Le livre date d'avant la mort de Georges Floyd donc on peut excuser le fait de ne pas avoir garder ça en tête, mais je pense que les critiques des afro-féministes sur la commodification des morts de personnes noirs sont aussi à envisager sur ces débuts de chapitres (en plus de la question de la manipulation émotionnelle en général).
De même, ce qui me fait hurler, c'est à quel point le livre s'approche d'une autocritique du domaine, mais sans vraiment aller au fond des choses. Par exemple, chapitre 2, à aucun moment ça évoque l'idée même de régulation étatique, ou alors seulement dans le sens ou la régulation va créer plus de travail pour le domaine des data sciences (eg, des audits, des publications de données). Comme l'a fait remarqué Alex Stamos (je crois, je retrouve pas le lien), ç'est un peu un conflit d’intérêt.
L'exemple fin du chapitre 3 avec les nations autochtones, ç'est présenté comme une pratique nouvelle et progressiste, alors que c'est simplement le fonctionnement du copyright (mais ça sonne moins bien comme posture).
Point bonus ce bout du chapitre 3 viole sans doute sa propre licence (le livre est en CC-BY), mais je suppose que tout le monde s'en fout )
Donc je pense qu'il est bon de garder un sens critique y compris sur les gens qui poussent à la critique.
(et j'accuse pas El Titi, je me suis aussi fait avoir avec l'histoire de Xcheck/Meta/Facebook et The wire il n'y a pas longtemps, donc ça arrive clairement aux meilleurs)