Car je constate en effet beaucoup de personnes se servent de ce genre d'outils pour le code comme autre choses mais sans se soucier de la question de la confidentialité (échanges sauvegardées par l'éditeur, potentiellement entrainement sur ces données qui peuvent fuiter plus tard), des droits d'auteurs / propriété intellectuelle qui sont encore incertains, etc.
La problématique de confidentialité me semble assez proche d’une pratique antérieur à l’IA : le crowd sourcing. J’entends par-là le recours à des sites tel que stackoverflow.com : il devrait être évident qu’exposer un problème aux yeux de milliers voir millions de ses pairs implique 1. Un effort de synthèse pour isoler le point précis sur lequel on attend que la « magie » opère, avec les éléments contextuels éventuels les plus signifiants, en ôtant les secondaires et suivants. 2. Une réflexion sur les informations potentiellement sensibles qu’on expose dans l’exercice, directes, mais aussi déductibles par interpolation.
Je trouve d’ailleurs particulièrement édifiant de constater que cette pratique, et notamment le point 1. aboutit parfois à ce que la solution nous apparaisse soudain avant même d’avoir publier quoi que ce soit. Alors que quelques temps auparavant, on admettait être incapable de sortir seul de cette impasse pour laquelle on s’était résolu à demander de l’aide.
La question qui me vient est donc : est-ce que faire appelle à une IA n’implique pas avec une évidence tout aussi clair qu’un travail et des précautions très semblables s’impose alors à nous ? En d’autres terme : s’en remettre à une IA génératrice/assistante est-il par essence fondamentalement différent que de s’en remettre à une foule nombreuse, protéiforme et surtout indéterminée ?
Ce que j’ai constaté sur stackoverflow.com et d’autres sites de la même veine, dits de "Q&A", c’est qu’il est apparu de manière absolument clair qu’il a fallu imposer une fermeté absolue et se positionner radicalement contre tout apport direct d’une IA dans la génération du contenu produit par l’approche crowdsourcing (et crowdmoderated, crowdadministrated, etc... "crowdpowered" me semble pas mal pour l’accroche commerciale ^^).
En effet, à des questions posées par des humains, d’autres humains soumettait la question sans autre forme de procès à une IA (ChatGPT, autant appeler un ChatGPT un ChatGPT !), et reportaient de manière toute aussi passive la réponse de l’IA comme leur réponse à la question originale. Sans spécialement tenter de cacher la source de ce qu’ils apportaient : « J’ai posé ta question à ChatGPT, voilà ce qu’il m’a répondu. ». Possiblement augmenté d’un commentaire sur la réponse potentiellement pertinent, mais souvent même pas.
Je ne suis pas du tout étonné que cela se soit passé ainsi : bonne volonté, envie d’aider, considérer que poser une question à ChatGPT, si en plus c’est sa version payante, c’est une faculté ayant une valeur qu’on peut vouloir partager, je ne vois aucune raison de condamner ces "ChatGPT evangelists". C’est vrai dans un sens. L’humain ayant posté la question à l’origine n’a peut-être pas pensé qu’il pouvait demander à ChatGPT, peut-être qu’il y a pensé et qu’il n’a pas osé franchir le cap. Peut-être il n’a pas les moyens de s’offrir la version payante.
Mais je suis en même temps soulagé de voir que « la foule » n’a pas hésité à affirmer, sinon sa supériorité, la valeur réelle qu’elle a, et qu’elle constitue. J’en arrive au sujet de l’IA générative, la « foule » n’est rien de moins que la garante de l’apport d’intelligence réelle (ie: humaine), Cette intelligence fondamentalement indispensable à une exploitation productive de l’intelligence dite faible (ie: ChatGPT et consors), qui sans cela, finirait par s’alimenter toujours davantage de ce qu’elle peut produire elle-même, et finirait donc, mécaniquement, mathématiquement, à une stricte nullité intellectuelle.
Bon, j’ai sûrement encore pondu un commentaire tarabiscoté, ampoulé et indigeste, peut-être, c’était pas le but et j’ai fait de mon mieux pour essayer de dire ce que me semble important à dire (serait-ce pour être contredit). Alors je finirai en signalant cette locution qui me semble être attribué à Jeff Bezos, à mon avis à la pointe de la réflexion sur ce qu’on peut àma appeler le « micro-tâcheronnage » :
"The human in the loop"
C’est potentiellement très inquiétant : the human !? Ne pourrait-ce qu’être un seul individu ? The loop ?! Quelle taille fait-elle ? Quand l’humain et la boucle entre en conflit, quelle entité asservie l’autre ?
Je pense pour ma part que ça ne peut être que l’humain qui conserve un avantage inatteignable pour la boucle, pour l’IA, quelle que puisse être sa puissance de calcul. Toute IA cesse par essence d’exister si l’humain disparaît.
Cette "hype" de l’IA, si elle se base sur des progrès technologique, algorithmique, mathématique indéniables, elle n’est qu’une énième répétition de ce que la plus vieille religion monothéiste qui a persisté jusqu’à nous a explicité voilà un certain nombre de millénaires, disons vraisemblablement entre deux et trois millénaires, par le "golem".
L’Histoire, en particulier celle du progrès technique, ne se répète pas, elle est davantage qu’une simple boucle, elle est spirale.
[^] # Re: Marre
Posté par Marotte ⛧ . En réponse au journal LLM (encore), effondrement et travail humain. Évalué à 4.
La problématique de confidentialité me semble assez proche d’une pratique antérieur à l’IA : le crowd sourcing. J’entends par-là le recours à des sites tel que stackoverflow.com : il devrait être évident qu’exposer un problème aux yeux de milliers voir millions de ses pairs implique 1. Un effort de synthèse pour isoler le point précis sur lequel on attend que la « magie » opère, avec les éléments contextuels éventuels les plus signifiants, en ôtant les secondaires et suivants. 2. Une réflexion sur les informations potentiellement sensibles qu’on expose dans l’exercice, directes, mais aussi déductibles par interpolation.
Je trouve d’ailleurs particulièrement édifiant de constater que cette pratique, et notamment le point 1. aboutit parfois à ce que la solution nous apparaisse soudain avant même d’avoir publier quoi que ce soit. Alors que quelques temps auparavant, on admettait être incapable de sortir seul de cette impasse pour laquelle on s’était résolu à demander de l’aide.
La question qui me vient est donc : est-ce que faire appelle à une IA n’implique pas avec une évidence tout aussi clair qu’un travail et des précautions très semblables s’impose alors à nous ? En d’autres terme : s’en remettre à une IA génératrice/assistante est-il par essence fondamentalement différent que de s’en remettre à une foule nombreuse, protéiforme et surtout indéterminée ?
Ce que j’ai constaté sur stackoverflow.com et d’autres sites de la même veine, dits de "Q&A", c’est qu’il est apparu de manière absolument clair qu’il a fallu imposer une fermeté absolue et se positionner radicalement contre tout apport direct d’une IA dans la génération du contenu produit par l’approche crowdsourcing (et crowdmoderated, crowdadministrated, etc... "crowdpowered" me semble pas mal pour l’accroche commerciale ^^).
En effet, à des questions posées par des humains, d’autres humains soumettait la question sans autre forme de procès à une IA (ChatGPT, autant appeler un ChatGPT un ChatGPT !), et reportaient de manière toute aussi passive la réponse de l’IA comme leur réponse à la question originale. Sans spécialement tenter de cacher la source de ce qu’ils apportaient : « J’ai posé ta question à ChatGPT, voilà ce qu’il m’a répondu. ». Possiblement augmenté d’un commentaire sur la réponse potentiellement pertinent, mais souvent même pas.
Je ne suis pas du tout étonné que cela se soit passé ainsi : bonne volonté, envie d’aider, considérer que poser une question à ChatGPT, si en plus c’est sa version payante, c’est une faculté ayant une valeur qu’on peut vouloir partager, je ne vois aucune raison de condamner ces "ChatGPT evangelists". C’est vrai dans un sens. L’humain ayant posté la question à l’origine n’a peut-être pas pensé qu’il pouvait demander à ChatGPT, peut-être qu’il y a pensé et qu’il n’a pas osé franchir le cap. Peut-être il n’a pas les moyens de s’offrir la version payante.
Mais je suis en même temps soulagé de voir que « la foule » n’a pas hésité à affirmer, sinon sa supériorité, la valeur réelle qu’elle a, et qu’elle constitue. J’en arrive au sujet de l’IA générative, la « foule » n’est rien de moins que la garante de l’apport d’intelligence réelle (ie: humaine), Cette intelligence fondamentalement indispensable à une exploitation productive de l’intelligence dite faible (ie: ChatGPT et consors), qui sans cela, finirait par s’alimenter toujours davantage de ce qu’elle peut produire elle-même, et finirait donc, mécaniquement, mathématiquement, à une stricte nullité intellectuelle.
Bon, j’ai sûrement encore pondu un commentaire tarabiscoté, ampoulé et indigeste, peut-être, c’était pas le but et j’ai fait de mon mieux pour essayer de dire ce que me semble important à dire (serait-ce pour être contredit). Alors je finirai en signalant cette locution qui me semble être attribué à Jeff Bezos, à mon avis à la pointe de la réflexion sur ce qu’on peut àma appeler le « micro-tâcheronnage » :
C’est potentiellement très inquiétant : the human !? Ne pourrait-ce qu’être un seul individu ? The loop ?! Quelle taille fait-elle ? Quand l’humain et la boucle entre en conflit, quelle entité asservie l’autre ?
Je pense pour ma part que ça ne peut être que l’humain qui conserve un avantage inatteignable pour la boucle, pour l’IA, quelle que puisse être sa puissance de calcul. Toute IA cesse par essence d’exister si l’humain disparaît.
Cette "hype" de l’IA, si elle se base sur des progrès technologique, algorithmique, mathématique indéniables, elle n’est qu’une énième répétition de ce que la plus vieille religion monothéiste qui a persisté jusqu’à nous a explicité voilà un certain nombre de millénaires, disons vraisemblablement entre deux et trois millénaires, par le "golem".
L’Histoire, en particulier celle du progrès technique, ne se répète pas, elle est davantage qu’une simple boucle, elle est spirale.