C'est un risque qu'on ne peut pas balayer d'un revers de la main
Certes, mais il n'est pas nouveau. C'est exactement le même problème que d'héberger tes données sur AWS ou tes mails chez Google ou Microsoft. Pourtant, de très nombreuses entreprises et organismes publics le font. On pourrait même penser d'ailleurs que les emails sont bien plus critiques que les prompts de LLM, puisque le rapport signal/bruit est bien plus faible avec les prompts: au mieux, les entrées et sorties des prompts vont te donner un accès très partiel, aléatoire, et pas à jour à des documents qui sont proprement rangés et identifiés dans le cloud.
Si tu devais classer les différentes pratiques d'hébergement de données en fonction du risque, je pense que l'utilisation de LLM via des abonnements pro arrive très, très loin. À mon avis, un risque beaucoup plus concret, c'est l'utilisation non contrôlée (sauvage) de LLM grand public à l'intérieur d'une organisation, puisque là il va y avoir de la diffusion de documents confidentiels dans un cadre où la réutilisation est possible. N'importe quel organisme devrait avoir l'obligation en 2026 de fournir un accès contrôlé à un LLM, puisqu'il est certain que les employés le feront de manière sauvage si cet accès contrôlé n'existe pas.
[^] # Re: Cohérence sur cette histoire de coût
Posté par arnaudus . En réponse au journal Auto-héberger ses IA. Évalué à 3 (+1/-1).
Certes, mais il n'est pas nouveau. C'est exactement le même problème que d'héberger tes données sur AWS ou tes mails chez Google ou Microsoft. Pourtant, de très nombreuses entreprises et organismes publics le font. On pourrait même penser d'ailleurs que les emails sont bien plus critiques que les prompts de LLM, puisque le rapport signal/bruit est bien plus faible avec les prompts: au mieux, les entrées et sorties des prompts vont te donner un accès très partiel, aléatoire, et pas à jour à des documents qui sont proprement rangés et identifiés dans le cloud.
Si tu devais classer les différentes pratiques d'hébergement de données en fonction du risque, je pense que l'utilisation de LLM via des abonnements pro arrive très, très loin. À mon avis, un risque beaucoup plus concret, c'est l'utilisation non contrôlée (sauvage) de LLM grand public à l'intérieur d'une organisation, puisque là il va y avoir de la diffusion de documents confidentiels dans un cadre où la réutilisation est possible. N'importe quel organisme devrait avoir l'obligation en 2026 de fournir un accès contrôlé à un LLM, puisqu'il est certain que les employés le feront de manière sauvage si cet accès contrôlé n'existe pas.