Bien que l'article clame faire très peu d'hypothèses il me semble qu'il fait implicitement des hypothèses très fortes.
En lisant bien l'article, je comprend que l'intelligence de niveau humain est définie comme une intelligence capable de faire toujours mieux que le hasard pour décrire un comportement non-aléatoire. Elle est certainement meilleure que le hasard dans de nombreux cas, mais toujours ? L'article ne précise pas sur quoi cette hypothèse est fondée. Et même pour des données suffisamment complexes, peut-on dire que les humains sont meilleurs que le hasard s'ils abandonnent par épuisement de ressources avant de réussir à fournir une ébauche de description ?
Il me semble plus raisonnable de supposer que l'intelligence humaine fait mieux que le hasard dans la plupart les problèmes qu'elle accepte de traiter, et que parmi les problèmes qu'elle refuse, elle ne ferait pas mieux que le hasard dans un certain nombre de cas. Par exemple, pour prédire le nombre suivant d'une suite déterministe pseudo-aléatoire.
Les auteurs montrent ensuite qu'un algorithme ne peut pas faire le travail d'une intelligence humaine en un temps raisonnable. Ils en concluent qu'un tel algorithme ne peut fonctionner que pour des problèmes assez triviaux. Ce raisonnement n'est pas réaliste. En termes un peu plus formels, un algorithme s'exécute en un temps raisonnable si son temps d'exécution t augmente polynomialement avec la taille n de la donnée. Par exemple, t \approx n^3 (j'évite la notation en O pour rester accessible au plus grand nombre). Par opposition, il ne s'exécute pas en un temps raisonnable si ce temps d'exécution augmente exponentiellement, par exemple t \approx 3^n. Cela est lié à la croissance très rapide des fonctions exponentielles. Mais en pratique, cela ne dit rien car, bien souvent, des algorithmes à complexité exponentielle sont bien plus rapides que des algorithmes à complexité polynomiale sur la plupart les problèmes de taille usuelle. Par exemple, on préférera souvent exécuter un programme ayant un temps d'exécution t ~= 1.000005^n à un autre programme pour lequel t ~= 10^10 + 1000 n^2.
Dans le même ordre d'idée, quand on s'intéresse à la complexité algorithmique, on parle en général de la complexité dans le pire des cas. C'est à dire, parmi toutes les données de taille n, le temps d'exécution pour la donnée la plus "réfractaire" au calcul. C'est souvent de peu d'utilité car en général, on va s'intéresser à la complexité dans les cas "utiles", ou bien à la complexité en moyenne. Or, de nombreux algorithmes s'exécutant en un temps non raisonnable dans le pire des cas ont un temps d'exécution raisonnable en moyenne ou dans les cas utiles.
L'article prend une distance avec l'idée selon laquelle l'intelligence humaine serait une sorte d'algorithme. La mise en exergue des risques conceptuels liés à ce réductionnisme est intéressante. Mais la conclusion implicite du papier est que l'intelligence humaine ne peut pas être une sorte d'algorithme, puisqu'aucun algorithme ne peut avoir les performances de l'intelligence humaine.
En toute transparence, je suis très à l'aise avec l'idée que notre intelligence est une sorte d'algorithme. Beaucoup d'entre nous pensons de manière algorithmique des dizaines de fois par jour, pour ne pas dire à longueur de journée. D'ailleurs, un certain nombre de ces algorithmes cognitifs ont une complexité exponentielle... Le substrat de notre pensée, atomes, molécules et champs électriques, sont très propices à l'émergence de phénomènes algorithmiques, et 4,5 milliards d'années de sélection naturelles justifient pour moi très bien la complexité de tels algorithmes "naturels".
A l'inverse, je suis très gêné par les vertus quasi-magiques que l'on ne manque pas de prêter à notre intelligence. Je nous trouve éminemment biaisés pour en juger. On n'a pas non plus forcément les outils pour en juger avec suffisamment de recul. Il est facile et tentant de se juger plus intelligent qu'on ne l'est, d'autant plus que l'intelligence humaine est bourrée de biais. Pour moi, ce papier illustre très bien ce travers, en donnant une définition extrêmement ambitieuse de ce que serait l'intelligence humaine.
# Critique du papier
Posté par sobriquet . En réponse au lien Team claims human-level AI is impossible — ever. Évalué à 10.
Bien que l'article clame faire très peu d'hypothèses il me semble qu'il fait implicitement des hypothèses très fortes.
En lisant bien l'article, je comprend que l'intelligence de niveau humain est définie comme une intelligence capable de faire toujours mieux que le hasard pour décrire un comportement non-aléatoire. Elle est certainement meilleure que le hasard dans de nombreux cas, mais toujours ? L'article ne précise pas sur quoi cette hypothèse est fondée. Et même pour des données suffisamment complexes, peut-on dire que les humains sont meilleurs que le hasard s'ils abandonnent par épuisement de ressources avant de réussir à fournir une ébauche de description ?
Il me semble plus raisonnable de supposer que l'intelligence humaine fait mieux que le hasard dans la plupart les problèmes qu'elle accepte de traiter, et que parmi les problèmes qu'elle refuse, elle ne ferait pas mieux que le hasard dans un certain nombre de cas. Par exemple, pour prédire le nombre suivant d'une suite déterministe pseudo-aléatoire.
Les auteurs montrent ensuite qu'un algorithme ne peut pas faire le travail d'une intelligence humaine en un temps raisonnable. Ils en concluent qu'un tel algorithme ne peut fonctionner que pour des problèmes assez triviaux. Ce raisonnement n'est pas réaliste. En termes un peu plus formels, un algorithme s'exécute en un temps raisonnable si son temps d'exécution t augmente polynomialement avec la taille n de la donnée. Par exemple, t \approx n^3 (j'évite la notation en O pour rester accessible au plus grand nombre). Par opposition, il ne s'exécute pas en un temps raisonnable si ce temps d'exécution augmente exponentiellement, par exemple t \approx 3^n. Cela est lié à la croissance très rapide des fonctions exponentielles. Mais en pratique, cela ne dit rien car, bien souvent, des algorithmes à complexité exponentielle sont bien plus rapides que des algorithmes à complexité polynomiale sur la plupart les problèmes de taille usuelle. Par exemple, on préférera souvent exécuter un programme ayant un temps d'exécution t ~= 1.000005^n à un autre programme pour lequel t ~= 10^10 + 1000 n^2.
Dans le même ordre d'idée, quand on s'intéresse à la complexité algorithmique, on parle en général de la complexité dans le pire des cas. C'est à dire, parmi toutes les données de taille n, le temps d'exécution pour la donnée la plus "réfractaire" au calcul. C'est souvent de peu d'utilité car en général, on va s'intéresser à la complexité dans les cas "utiles", ou bien à la complexité en moyenne. Or, de nombreux algorithmes s'exécutant en un temps non raisonnable dans le pire des cas ont un temps d'exécution raisonnable en moyenne ou dans les cas utiles.
L'article prend une distance avec l'idée selon laquelle l'intelligence humaine serait une sorte d'algorithme. La mise en exergue des risques conceptuels liés à ce réductionnisme est intéressante. Mais la conclusion implicite du papier est que l'intelligence humaine ne peut pas être une sorte d'algorithme, puisqu'aucun algorithme ne peut avoir les performances de l'intelligence humaine.
En toute transparence, je suis très à l'aise avec l'idée que notre intelligence est une sorte d'algorithme. Beaucoup d'entre nous pensons de manière algorithmique des dizaines de fois par jour, pour ne pas dire à longueur de journée. D'ailleurs, un certain nombre de ces algorithmes cognitifs ont une complexité exponentielle... Le substrat de notre pensée, atomes, molécules et champs électriques, sont très propices à l'émergence de phénomènes algorithmiques, et 4,5 milliards d'années de sélection naturelles justifient pour moi très bien la complexité de tels algorithmes "naturels".
A l'inverse, je suis très gêné par les vertus quasi-magiques que l'on ne manque pas de prêter à notre intelligence. Je nous trouve éminemment biaisés pour en juger. On n'a pas non plus forcément les outils pour en juger avec suffisamment de recul. Il est facile et tentant de se juger plus intelligent qu'on ne l'est, d'autant plus que l'intelligence humaine est bourrée de biais. Pour moi, ce papier illustre très bien ce travers, en donnant une définition extrêmement ambitieuse de ce que serait l'intelligence humaine.