C'est pareil pour l'évaluation du bénéfice/risque d'une IA : il faut la faire même si on sait que le résultat de l'évaluation sera impacté par les externalités que tu cites.
Bah du coup, franchement, je ne vois pas. Ce n'est pas la météo que tu demandes, pour la météo, on a un modèle physique, et des exabytes de données mondiales sur des dizaines d'années d'archives pour calibrer les modèles. Là, il faut juste prédire le futur de l'humanité. Tu vas interroger des dizaines d'experts dans plein de domaines qui vont te raconter un peu ce qu'ils veulent, et après tu vas devoir intégrer ça.
Tu vas avoir au moins quatre cas, en fait. Un cas où l'IA ne fait qu'améliorer un algorithme existant. Typiquement, les prévisions météo. Dans ce cas, ce n'est pas très dur d'imaginer ce que serait un monde avec de meilleures prévisions météo, et ça ne fait pas très peur. Tu peux aussi avoir des moteurs de recherche encore plus performants, ça fait un peu peur mais pas tant que ça, et ça aurait très bien pu exister sans IA.
Le deuxième cas, c'est quand on ne voit pas quel est le bénéfice, sauf pour des activités illégales. Par exemple, un générateur de spam, ou une analyse de vidéo qui permet de reconstituer le code des CB à partir du mouvement des bras des gens qui tapent leur code. OK, donc ces IA sont à bannir, mais ces IA ne seront probablement jamais distribuées dans le cadre légal qui permettrait à l'État de les contrôler.
Le troisième cas, c'est une IA qui va remplacer le boulot d'un humain, dans le démarchage téléphonique, les hotlines, les cabinets de conseil, les administrations, etc. Là, il ne va pas y avoir trop d'effets directs, à part celui d'avoir un service plus fiable, plus reproductible, plus rapide, 24h/24, etc. Bien sûr, l'IA va aussi parfois faire des erreurs, mais probablement moins que les humains. Les externalités ne sont "que" sociales, et le dilemme est insoluble (on le sait, parce qu'on n'a jamais été capables de le résoudre pour les machines et les robots) : on décharge des gens d'une tâche répétitive, on améliore la rentabilité des entreprises et souvent la qualité du service, mais on prive des gens d'emploi; et gnagna chômage, et gnagna partage du temps de travail, et gnagna croissance, et gnagna néolibéralisme, et gnagna valeur travail, etc. Aucun consensus n'existera jamais sur ces questions; si on fait un moratoire le temps de décider qu'on n'arrivera jamais à se décider, les US ont pris 10 ans d'avance et + 50% de PIB par rapport à nous, le marché sera de toutes manières dominé par de nouveaux GAFAM, et on n'y aura rien gagné.
Le quatrième cas, c'est les nouveaux services, qui ne remplacent rien de ce qui existe. Alors là, boite noire totale, on ne peut rien prédire, il n'y a aucun cadre, aucun modèle, c'est tout du pifomètre. Par contre, ce qui est certain, c'est que les pays qui auront autorisé ces nouveaux marchés vont bénéficier d'un boom économique, et qu'ils domineront le monde sur les 50 prochaines années. Nous on n'aura peut-être pas accès à ces technologies, ou seulement sur le darknet, et on sera heureux, si on arrive collectivement à gérer le déclassement dans le bonheur.
Franchement, j'exagère à peine. Je pense qu'il est juste totalement impossible d'évaluer l'impact d'une technologie sur l'avenir. En essayant de faire ça, on va passer à côté des vrais problèmes, on va se faire doubler économiquement et technologiquement, ça ne nous amènera qu'à des débats stupides du style "technophile" vs "grand-mère à moustaches" sur lesquels on n'arrivera jamais à un consensus.
Par "vrai problème", j'entends par exemple une loi qui interdit à un système automatique d'interagir avec un humain sans clairement s'identifier comme un système automatique, et une autre loi qui interdit de diffuser un document sans clairement l'identifier comme généré par un système automatique (et de faire des délits de ces actions, au même niveau que la tromperie ou l'escroquerie). Mais ça, ça concerne tous les algorithmes, donc pas besoin de parler d'IA.
[^] # Re: pas si simple
Posté par arnaudus . En réponse au lien FUN : L’intelligence artificielle n’existe pas, par Luc Julia. Évalué à 3.
Bah du coup, franchement, je ne vois pas. Ce n'est pas la météo que tu demandes, pour la météo, on a un modèle physique, et des exabytes de données mondiales sur des dizaines d'années d'archives pour calibrer les modèles. Là, il faut juste prédire le futur de l'humanité. Tu vas interroger des dizaines d'experts dans plein de domaines qui vont te raconter un peu ce qu'ils veulent, et après tu vas devoir intégrer ça.
Tu vas avoir au moins quatre cas, en fait. Un cas où l'IA ne fait qu'améliorer un algorithme existant. Typiquement, les prévisions météo. Dans ce cas, ce n'est pas très dur d'imaginer ce que serait un monde avec de meilleures prévisions météo, et ça ne fait pas très peur. Tu peux aussi avoir des moteurs de recherche encore plus performants, ça fait un peu peur mais pas tant que ça, et ça aurait très bien pu exister sans IA.
Le deuxième cas, c'est quand on ne voit pas quel est le bénéfice, sauf pour des activités illégales. Par exemple, un générateur de spam, ou une analyse de vidéo qui permet de reconstituer le code des CB à partir du mouvement des bras des gens qui tapent leur code. OK, donc ces IA sont à bannir, mais ces IA ne seront probablement jamais distribuées dans le cadre légal qui permettrait à l'État de les contrôler.
Le troisième cas, c'est une IA qui va remplacer le boulot d'un humain, dans le démarchage téléphonique, les hotlines, les cabinets de conseil, les administrations, etc. Là, il ne va pas y avoir trop d'effets directs, à part celui d'avoir un service plus fiable, plus reproductible, plus rapide, 24h/24, etc. Bien sûr, l'IA va aussi parfois faire des erreurs, mais probablement moins que les humains. Les externalités ne sont "que" sociales, et le dilemme est insoluble (on le sait, parce qu'on n'a jamais été capables de le résoudre pour les machines et les robots) : on décharge des gens d'une tâche répétitive, on améliore la rentabilité des entreprises et souvent la qualité du service, mais on prive des gens d'emploi; et gnagna chômage, et gnagna partage du temps de travail, et gnagna croissance, et gnagna néolibéralisme, et gnagna valeur travail, etc. Aucun consensus n'existera jamais sur ces questions; si on fait un moratoire le temps de décider qu'on n'arrivera jamais à se décider, les US ont pris 10 ans d'avance et + 50% de PIB par rapport à nous, le marché sera de toutes manières dominé par de nouveaux GAFAM, et on n'y aura rien gagné.
Le quatrième cas, c'est les nouveaux services, qui ne remplacent rien de ce qui existe. Alors là, boite noire totale, on ne peut rien prédire, il n'y a aucun cadre, aucun modèle, c'est tout du pifomètre. Par contre, ce qui est certain, c'est que les pays qui auront autorisé ces nouveaux marchés vont bénéficier d'un boom économique, et qu'ils domineront le monde sur les 50 prochaines années. Nous on n'aura peut-être pas accès à ces technologies, ou seulement sur le darknet, et on sera heureux, si on arrive collectivement à gérer le déclassement dans le bonheur.
Franchement, j'exagère à peine. Je pense qu'il est juste totalement impossible d'évaluer l'impact d'une technologie sur l'avenir. En essayant de faire ça, on va passer à côté des vrais problèmes, on va se faire doubler économiquement et technologiquement, ça ne nous amènera qu'à des débats stupides du style "technophile" vs "grand-mère à moustaches" sur lesquels on n'arrivera jamais à un consensus.
Par "vrai problème", j'entends par exemple une loi qui interdit à un système automatique d'interagir avec un humain sans clairement s'identifier comme un système automatique, et une autre loi qui interdit de diffuser un document sans clairement l'identifier comme généré par un système automatique (et de faire des délits de ces actions, au même niveau que la tromperie ou l'escroquerie). Mais ça, ça concerne tous les algorithmes, donc pas besoin de parler d'IA.