• [^] # Re: Sommet pour l’action sur l'IA, réaction à chaud

    Posté par . En réponse au journal Sommet pour l’action sur l'IA, réaction à chaud. Évalué à 3.

    Sous la condescendance, le nihilisme vain du reste du post.

    Désolé, si ça été mal perçu, ce n’est pas l’intention. Pour clarifier : il n’a a aucun sarcasme dans le "félicitations", je le pense réellement.

    Une IA arrivant à notre intelligence ou la dépassant signifiera une réflexivité permettant de s'abstraire des biais de ces créateurs.

    Il y a des grosses présuppositions sur des questions ouvertes derrière ça :

    • Philosophiquement : qu’il existe une Morale/Éthique Objective et que l’intelligence pure permet de l’atteindre
    • L’Orthogonality Thesis est fausse
    • Qu’il n’y a pas de problème de inner alignment
    • Comment un tel processus de réflexivité interagit avec l’observation qu’après entraînement les IAs modernes sont de moins en moins corrigibles

    On pourra même imaginer qu'elle se libère de ce pourquoi elle a été créée : servir en fin de compte, une minorité

    Elle n’a pas été créé pour ça. C’est une caricature. Encore une fois, ceux dans les labos pensent bien faire et veulent bien faire. Étudier l’histoire est important ; les individus en question en ont une, et ont publié leurs opinions et leurs objectifs bien avant que l’IA soit sur le devant de la scène, bien avant le succès économique d’aujourd’hui.