Merci pour les questions, je vais essayer de répondre à tout.
Sur les VMs et les fournisseurs :
Les CRNs (Compute Resource Nodes) d'Aleph Cloud sont des machines opérées par des opérateurs indépendants, pas un seul hébergeur. Certains sont sur du bare metal chez eux, d'autres louent chez Hetzner ou ailleurs, mais le point c'est qu'il n'y a pas un seul interlocuteur qui décide pour tout le réseau. Si un opérateur coupe ta VM, tu peux la redéployer sur un autre nœud. Le réseau est conçu pour ça.
C'est différent d'un VPS classique où si OVH te ferme le compte, c'est terminé, il faut recommencer de zéro ailleurs.
Sur la séparation agent / inférence :
Oui, ce sont deux choses distinctes. La VM de l'agent n'a pas besoin de GPU; c'est une VM avec un programme Python léger qui exécute des tâches (lire des fichiers, naviguer le web, exécuter des commandes). Quand l'agent a besoin de "réfléchir", il fait un appel API à LibertAI qui fait tourner les modèles sur des GPUs dédiés (partagés pour toutes les demandes des utilisateurs). L'avantage par rapport à OpenClaw sur ta machine, c'est que tu peux lancer plusieurs agents sans que ça consomme les ressources de ta machine (ou sur OpenClaw des API de gros providers comme OpenAI, etc.) et qu'ils sont bien isolés. Chaque agent a sa propre VM isolée, il n'a accès que à ce qu'il lui faut.
Imagine que tu as des travailleurs/assistants séparés, chacun a sa machine, il est root et peut installer ce qu'il veut sans détruire le travail des autres (ou le tien sur ta machine).
Sur LibertAI :
Oui, c'est un projet lié. LibertAI gère l'infrastructure GPU et expose les modèles ouverts via une API. Les modèles tournent sur des nœuds avec GPU, le trafic est chiffré en transit. Ce n'est pas du chiffrement de bout en bout au niveau de l'inférence elle-même (le nœud qui fait tourner le modèle voit forcément le prompt), mais les communications entre ton agent et l'API sont chiffrées. Sur l’inférence en TEE (trusted execution evironment) c'est un peu différent, la ram est chiffrée également, mais plus lent.
Sur la consommation d'énergie :
C'est une vraie question et je ne vais pas prétendre que c'est neutre. Faire tourner de l'inférence IA consomme de l'énergie, point. Ce qu'on peut dire, c'est que les modèles utilisés (Qwen3.5 35b par exemple) sont beaucoup plus légers que les gros modèles type GPT-4. Et un agent qui tourne 24/7 ne fait pas de l'inférence en continu: il attend la plupart du temps et ne consomme des tokens que quand il a une tâche à traiter. Mais oui, si on multiplie les agents par milliers, la question de l'empreinte se pose.
Sur une stack comme celle de LibertAI, en gros selon les modèles, au moment de l'inférence tu consomme entre 50 et 100w pour ta requête (il y a des pool et les GPU font plusieurs inférences en parallèle, avec un GPU seulement sur ces modèles)... si tu rapporte à 5 minutes d'inférence totale par jour en moyenne pour un agent tu arrives à 3kwh par an d'inférence ((100wh/(60min/5min))*365=3041wh), ce qui est assez raisonnable.
[^] # Re: Quelques questions
Posté par Jonathan Schemoul . En réponse au journal Vos agents IA dépendent d’entreprises américaines, et ça devrait vous poser problème. Évalué à 7.
Merci pour les questions, je vais essayer de répondre à tout.
Sur les VMs et les fournisseurs :
Les CRNs (Compute Resource Nodes) d'Aleph Cloud sont des machines opérées par des opérateurs indépendants, pas un seul hébergeur. Certains sont sur du bare metal chez eux, d'autres louent chez Hetzner ou ailleurs, mais le point c'est qu'il n'y a pas un seul interlocuteur qui décide pour tout le réseau. Si un opérateur coupe ta VM, tu peux la redéployer sur un autre nœud. Le réseau est conçu pour ça.
C'est différent d'un VPS classique où si OVH te ferme le compte, c'est terminé, il faut recommencer de zéro ailleurs.
Sur la séparation agent / inférence :
Oui, ce sont deux choses distinctes. La VM de l'agent n'a pas besoin de GPU; c'est une VM avec un programme Python léger qui exécute des tâches (lire des fichiers, naviguer le web, exécuter des commandes). Quand l'agent a besoin de "réfléchir", il fait un appel API à LibertAI qui fait tourner les modèles sur des GPUs dédiés (partagés pour toutes les demandes des utilisateurs). L'avantage par rapport à OpenClaw sur ta machine, c'est que tu peux lancer plusieurs agents sans que ça consomme les ressources de ta machine (ou sur OpenClaw des API de gros providers comme OpenAI, etc.) et qu'ils sont bien isolés. Chaque agent a sa propre VM isolée, il n'a accès que à ce qu'il lui faut.
Imagine que tu as des travailleurs/assistants séparés, chacun a sa machine, il est root et peut installer ce qu'il veut sans détruire le travail des autres (ou le tien sur ta machine).
Sur LibertAI :
Oui, c'est un projet lié. LibertAI gère l'infrastructure GPU et expose les modèles ouverts via une API. Les modèles tournent sur des nœuds avec GPU, le trafic est chiffré en transit. Ce n'est pas du chiffrement de bout en bout au niveau de l'inférence elle-même (le nœud qui fait tourner le modèle voit forcément le prompt), mais les communications entre ton agent et l'API sont chiffrées. Sur l’inférence en TEE (trusted execution evironment) c'est un peu différent, la ram est chiffrée également, mais plus lent.
Sur la consommation d'énergie :
C'est une vraie question et je ne vais pas prétendre que c'est neutre. Faire tourner de l'inférence IA consomme de l'énergie, point. Ce qu'on peut dire, c'est que les modèles utilisés (Qwen3.5 35b par exemple) sont beaucoup plus légers que les gros modèles type GPT-4. Et un agent qui tourne 24/7 ne fait pas de l'inférence en continu: il attend la plupart du temps et ne consomme des tokens que quand il a une tâche à traiter. Mais oui, si on multiplie les agents par milliers, la question de l'empreinte se pose.
Sur une stack comme celle de LibertAI, en gros selon les modèles, au moment de l'inférence tu consomme entre 50 et 100w pour ta requête (il y a des pool et les GPU font plusieurs inférences en parallèle, avec un GPU seulement sur ces modèles)... si tu rapporte à 5 minutes d'inférence totale par jour en moyenne pour un agent tu arrives à 3kwh par an d'inférence ((100wh/(60min/5min))*365=3041wh), ce qui est assez raisonnable.