• # Que fait le « crawler » ?

    Posté par . En réponse au journal je découvre yacy, moteur de recherche p2p. Évalué à 2.

    Je sais que je vais relancer le cliché selon lequel internet est un refuge de crypto-communistes partouzeurs de droite qui veulent exterminer les mouches. Mais, je n'adhère pas trop à l'idée de faire tourner un démon (en Java qui plus est) qui va visiter des sites au hazard sans que le sache. Ça me donne autant envie que de faire trourner un nœud de sortie Tor.

    Sinon, je trouve l'idée excellente. Mais pourquoi ne pas indexer les pages que je visite (en gros, en gros mon « crawler » est un proxy HTTP et il attrape tout ce que je visite), si c'était le cas (et si c'était en C ou en Python) ça me botterai bien :) .

    (Oui, je vous vois déjà venir : « Oui maismles pages locales que je veux que personne d'autre que moi ne voit seront indexées, blablabla... Ouinnn... ». Bien sûr, il faudra aussi réfléchir à ses problématiques.)

    Knowing the syntax of Java does not make someone a software engineer.