Puisque je vous dis que c'est de la citation ! (l'article est long)

le travail de ChatGPT n’est pas de dire la vérité. C’est de générer une suite de mots qui est probablement une phrase, qui a probablement du sens, en se basant sur tous les mots qui ont formé des phrases qui avaient peut-être du sens, qu’il a ingurgité.

Les LLM ne mentent pas, pas plus qu’ils n’hallucinent ou ne se trompent. Si on omet tous les discours marketing (sur lesquels on aura l’occasion de revenir plus tard), un LLM peut éventuellement buguer, quand il est face à un comportement humain trop différent de ce sur quoi il a été entraîné

(...)

Il est intéressant de noter que les mêmes milliardaires qui pourraient employer leur immense fortune à endiguer la pauvreté mondiale, nous assurent que leur Intelligence Artificielle Générale va régler ladite pauvreté et « créer » un haut niveau de revenus « universel » – sans jamais expliquer comment.

(...)

Je pense qu’une partie des gens comme vous et moi qui placent beaucoup d’espoirs dans les IA (en général), le font par glissement, par projection, par identification – de la même manière que des tas de gens votent pour la droite ou l’extrême-droite, alors que ça va totalement à l’encontre de leurs propres intérêts. Et que l’effet est sensiblement le même. On se désengage du présent pour se sentir moins coupable de ne rien faire.

(...)

L’IA peut nous cueillir comme des pâquerettes, parce que depuis un moment, nous avons perdu toute confiance : en nous-mêmes en tant que puissances créatrices, en les autres, et en le concept même de réalité.

(...)

Le problème avec la créativité, c’est que, contrairement à ce qu’on nous rabâche et ce qui nous empêche, ça n’a pas grand-chose à voir avec l’art. Il faut de la créativité pour faire de l’art, mais il n’y a pas besoin d’être artiste pour utiliser sa créativité. C’est même tout le contraire : la créativité, à mon sens, c’est une composante absolument intrinsèque de ce qu’est être vivant·e.

(...)

si le travail de l’IA n’est pas de dire la vérité, ce n’est pas non plus d’innover. Le travail de l’IA générative, c’est de générer du consensus. C’est littéralement la seule chose dont elle est capable.

(...)

En inondant nos quotidiens d’outils IA, les grandes entreprises de la tech veulent nous faire croire qu’il n’y a pas d’alternative, comme Margaret Thatcher à son époque à propos du capitalisme : There Is No Alternative. (TINA)

(...)

Et même si, après plusieurs tentatives et plusieurs échecs, on réalise qu’en fait on n’aime pas du tout la sculpture sur bois, ou que cette personne n’est en fait pas compatible avec nos besoins relationnels, le fait est qu’avoir échoué encore et encore n’aura pas servi à rien. On n’aura pas « investi du temps ou de l’énergie » pour « repartir sans rien ». Savoir qu’on n’aime pas la sculpture sur bois, ou qu’on n’a pas envie de relationner sur certaines modalités, ce n’est pas rien : ce sont des morceaux de soi-même qu’on ne connaissait pas avant, et qu’on peut désormais identifier. Ce n’est jamais vain, de se connaître soi. Comment se fait-il qu’on soit sans cesse poussés à nous mettre en scène, à nous monétiser, à « devenir la meilleure version de nous-mêmes », mais qu’il soit si peu valorisé de se connaître intimement, tel·les qu’on est là, maintenant ?

(...)

À une échelle politique, une question pressante émerge : que peut-on imposer à une foule d’individus qui n’ont aucune conscience d’eux-mêmes ? Qui n’ont confiance en rien, ni en leur propre potentiel, ni en l’importance des autres dans leur vie, ni même à l’existence d’une réalité qui les rassemble ?

(...)

Je crois que très exactement aucun des problèmes de notre société n’a pour réponse optimale « les IA des milliardaires de la tech ». Il va sans dire que tous ces problèmes ont des solutions qu’il faudra trouver ensemble, et que ça va nous demander beaucoup d’imagination, pour aborder ces sujets complexes avec des points de vue inédits.