• [^] # Re: toutes les IA n'hallucinent pas

    Posté par (site web personnel) . En réponse au lien À quand des drones tueurs qui hallucinent dans l'armée française ? Partenariat avec Mistral AI. Évalué à 5.

    Bah, disons que je suis pas sur de voir exactement ce qu'un LLM va faire dans un missile ou un tank en fait (car mistral.ai ne fait que des IAs génératives de ce que je comprends, et je compte aussi bien le texte que les images dans tout ça). Je peux à la rigueur voir un truc qui agrandirait des cartes ou qui fait des zooms, mais j'ai tendance à imaginer que des trucs imprécis vont pas être super utiles (surtout qu'on a déjà des outils d'interpolations genre DLSS).

    Du coup, il reste quoi, de la recherche dans les textes et co, de l'aide à la rédaction de rapport ? Rien de spécifique à l'armée.

    Et en fait, je pense que même ça, ça va être du gachis. Mais comme tout le monde tombe dans la hype, y compris les opposants (aussi bien les opposants au niveau des états que les opposants des LLMs), je suppose qu'il faut faire des effets d'annonces.

    Maintenant, si on parle d'IA au sens large (ce que Mistral ne propose pas, encore une fois), il y a beaucoup plus de choses, et on a pas attendu la hype.

    Les radars utilisent du machine learning, par exemple (et l'armée utilise des radars). Les radars des avions, au sol, mais sans doute aussi des missiles. La justice française (qui n'est pas l'armée) utilise du machine learning pour anonymiser les décisions de justice, donc je pourrait voir le même genre de techno pour anonymiser des rapports (et éviter des fuites, par exemple). J'imagine qu'il y a masse logs et que trouver des infos dedans (genr eun SIEM) utilisent un peu de ML.

    Le double discours de "les IAs (sous entendu les LLMs), ça sert à rien", mais en même temps "ça va servir à faire des armes super dangereuses" est quand même paradoxale. Faudrait savoir si c'est pourri ou pas en fait...