• [^] # Re: trouver la langue d'un texte

    Posté par . En réponse au journal trouver la langue d'un texte. Évalué à 3.

    Peut-être parles-tu de l'excellent article de Jean-Paul Delahaye intitulé « Logique et calcul : Classer musiques, langues, images, textes et génomes » paru dans le magazine « pour la science », dans son numéro de Mars 2004 (317).

    Il explique comment les algorithmes de compressions sans pertes peuvent être utilisés pour calculer des distances entre les éléments (distance entre deux textes par exemple) et ainsi mettre au point des méthodes de classements automatiques.

    Le principe est simple.
    soit A et B deux textes. On calcule zip(A), zip(B) puis zip(A+B) où zip() est un algorithme de compression adapté à la nature de A et B.
    La distance de similarité entre A et B est donc d(A, B) = zip(A) + zip(B) - zip(A+B).

    Avec cette notion de distance, on peut alors classer l'ensemble des textes.
    Il est ainsi possible de classer les textes par langues et ainsi déterminer avec une marge d'erreur faible la langue des textes.

    Attention toutefois. Coment classer un texte en Français qui contient de larges citations en Anglais ?