Suis-je libre, en tant qu'utilisateur au sens strict du terme, dans l'utilisation d'un logiciel que je sais me dire le vrai et le faux mais dont je suis absolument incapable de déconstruire le cheminement logique?
Est-ce une vraie question? La licence concerne le code du logiciel, et c'est tout. De nombreux logiciels sont bien trop complexes pour que je comprenne leur code source, dans l'hypothèse douteuse où ça m'intéresserait. À commencer par Linux lui-même, les drivers des différents composants de mon ordinateur, les protocoles réseau, wifi, bref, à peu près tout ce dont j'ai besoin au quotidien repose sur des logiciels libres qui sont trop complexes pour que je puisse comprendre leur fonctionnement sans un énorme investissement technique et intellectuel. Rien à voir avec la licence.
quel contrôle vais-je avoir quand le système deviendra autonome et dépassera mes capacités cognitives?
C'est pas demain la veille, et en plus, ça ne va rien changer. Je ne comprends pas de quel genre de problème éthique on parle. Tout le monde utilise tous les jours des logiciels dont on comprend parfois vaguement la logique, mais pour lesquels on ne pourrait pas reproduire les résultats. C'est même le cas d'une simple calculatrice scientifique! Tu peux refaire laborieusement les divisions et les additions à la main, mais quand elle te sort 'log(42) = 3.73767', bon courage pour vérifier. Tu peux aller voir le code, tu auras certainement une vague approximation polynomiale à te mettre sous la dent. En gros, tu vas te comporter exactement comme si ton ordinateur était plus intelligent que toi, tu lui fais confiance et tu utilises sa réponse comme si elle était vraie. Je ne vois pas ce que ça change avec un système d'IA. Ton système te dira "ajoute un commutateur dans la salle B3241 parce que c'est probablement le goulot d'étranglement de ton réseau d'après les 7 milliards de logs que je viens d'analyser", et tu iras ajouter un commutateur, et ton réseau ira mieux.
Un problème similaire va se poser aux mathématiciens, confrontés à des propriétés qu'ils ne pourront pas eux-même démontrer.
Là encore, la preuve mathématique par l'utilisation d'algorithmes n'est pas nouvelle, et ne pose aucun problème tant qu'on ne fait pas intervenir un fumeux concept d'IA dans la question. Il y a des théorèmes qui ne peuvent être prouvés qu'en étudiant indépendemment des millions de cas particuliers, et bien ces cas sont étudiés par ordinateur, en utilisant des algorithmes prouvés, et les mathématiciens font confiance aux résultats parce qu'ils sont en mesure de prouver chaque élément de la châine, sans pour autant pouvoir réaliser la démonstration eux-mêmes.
d'autre part quelle est ma réaction quand mon miroir me dit que j'ai besoin de tel médicament.
Quelle est ta réacion quand ta télévision te dit : "mal à la gorge? Prenez les pastilles Machin!"? Je ne comprends pas ces non-problèmes; nous sommes abreuvés d'informations venant de toutes sortes de sources; des gens, des médias, des ordinateurs, des livres, des publicités... Bah voila, on va peut-être ajouter des informations supplémentaires venant d'une IA, sans même parfois le savoir. Dans la plupart des cas, ça ne change même absolument rien : quand la présentatrice de la météo te dit "demain il va pleuvoir et il fera 7°C", tu te doutes bien que ça vient d'un algorithme complexe, et c'est même pour ça que l'information est plus fiable que si ça venait du pifomètre de la greluche en question, et alors? Et même quand ton médecin te donne son diagnostic, tu peux le remettre en question, décider de ne pas prendre les granules homéopathiques qu'il ta refilées, ou aller voir un autre médecin pour confirmer. Par quel processus miraculeux est-ce que les gens perdraient absolument toute capacité à décider par eux-mêmes s'ils étaient entourés de ces fameuses IA? Ces informations, on va les traiter exactement comme les autres informations : on leur accordera l'importance qu'on veut bien leur apporter, et puis c'est tout.
[^] # Re: Puisque personne ne veut mettre les pieds dans le plat:
Posté par arnaudus . En réponse au lien Éric Sadin : l'asservissement par l'Intelligence Artificielle ?. Évalué à 6. Dernière modification le 20 novembre 2018 à 15:23.
Est-ce une vraie question? La licence concerne le code du logiciel, et c'est tout. De nombreux logiciels sont bien trop complexes pour que je comprenne leur code source, dans l'hypothèse douteuse où ça m'intéresserait. À commencer par Linux lui-même, les drivers des différents composants de mon ordinateur, les protocoles réseau, wifi, bref, à peu près tout ce dont j'ai besoin au quotidien repose sur des logiciels libres qui sont trop complexes pour que je puisse comprendre leur fonctionnement sans un énorme investissement technique et intellectuel. Rien à voir avec la licence.
C'est pas demain la veille, et en plus, ça ne va rien changer. Je ne comprends pas de quel genre de problème éthique on parle. Tout le monde utilise tous les jours des logiciels dont on comprend parfois vaguement la logique, mais pour lesquels on ne pourrait pas reproduire les résultats. C'est même le cas d'une simple calculatrice scientifique! Tu peux refaire laborieusement les divisions et les additions à la main, mais quand elle te sort 'log(42) = 3.73767', bon courage pour vérifier. Tu peux aller voir le code, tu auras certainement une vague approximation polynomiale à te mettre sous la dent. En gros, tu vas te comporter exactement comme si ton ordinateur était plus intelligent que toi, tu lui fais confiance et tu utilises sa réponse comme si elle était vraie. Je ne vois pas ce que ça change avec un système d'IA. Ton système te dira "ajoute un commutateur dans la salle B3241 parce que c'est probablement le goulot d'étranglement de ton réseau d'après les 7 milliards de logs que je viens d'analyser", et tu iras ajouter un commutateur, et ton réseau ira mieux.
Là encore, la preuve mathématique par l'utilisation d'algorithmes n'est pas nouvelle, et ne pose aucun problème tant qu'on ne fait pas intervenir un fumeux concept d'IA dans la question. Il y a des théorèmes qui ne peuvent être prouvés qu'en étudiant indépendemment des millions de cas particuliers, et bien ces cas sont étudiés par ordinateur, en utilisant des algorithmes prouvés, et les mathématiciens font confiance aux résultats parce qu'ils sont en mesure de prouver chaque élément de la châine, sans pour autant pouvoir réaliser la démonstration eux-mêmes.
Quelle est ta réacion quand ta télévision te dit : "mal à la gorge? Prenez les pastilles Machin!"? Je ne comprends pas ces non-problèmes; nous sommes abreuvés d'informations venant de toutes sortes de sources; des gens, des médias, des ordinateurs, des livres, des publicités... Bah voila, on va peut-être ajouter des informations supplémentaires venant d'une IA, sans même parfois le savoir. Dans la plupart des cas, ça ne change même absolument rien : quand la présentatrice de la météo te dit "demain il va pleuvoir et il fera 7°C", tu te doutes bien que ça vient d'un algorithme complexe, et c'est même pour ça que l'information est plus fiable que si ça venait du pifomètre de la greluche en question, et alors? Et même quand ton médecin te donne son diagnostic, tu peux le remettre en question, décider de ne pas prendre les granules homéopathiques qu'il ta refilées, ou aller voir un autre médecin pour confirmer. Par quel processus miraculeux est-ce que les gens perdraient absolument toute capacité à décider par eux-mêmes s'ils étaient entourés de ces fameuses IA? Ces informations, on va les traiter exactement comme les autres informations : on leur accordera l'importance qu'on veut bien leur apporter, et puis c'est tout.