Je découvre votre série d'articles, c'est passionnant
Depuis quelques jours je m'amuse à (essayer de) faire tourner quelques LLM via Ollama sur mon PC, une config quelque peu... datée (Core i7-4770 / 16Go RAM DD3 / pas de GPU!). Bon pas de miracle, à part Mistral 7b (qui tient dans la RAM), pas grand chose d'autre n'est exploitable.
Et bien que ce soit encore expérimental, ça fonctionne pas trop mal (sur un smartphone avec 8Go de RAM), on peut voir qu'il utilise plusieurs modèles (code source ici, "gemma-4-E2B-it.litertlm" pour le raisonnement et "siglip2" pour l'analyse d'images et transcription vocale > texte.
Tout ça pour dire qu'il y a aussi des choses à explorer sur Android.
# et sur Android?
Posté par AgentSteel (site web personnel) . En réponse au journal Auto-héberger ses IA. Évalué à 2.
Je découvre votre série d'articles, c'est passionnant
Depuis quelques jours je m'amuse à (essayer de) faire tourner quelques LLM via Ollama sur mon PC, une config quelque peu... datée (Core i7-4770 / 16Go RAM DD3 / pas de GPU!). Bon pas de miracle, à part Mistral 7b (qui tient dans la RAM), pas grand chose d'autre n'est exploitable.
Par contre, j'ai aussi découvert un assistant pour Android dispo sur F-Droid, MA Openassitant
https://f-droid.org/packages/com.vayunmathur.openassistant/
Et bien que ce soit encore expérimental, ça fonctionne pas trop mal (sur un smartphone avec 8Go de RAM), on peut voir qu'il utilise plusieurs modèles (code source ici, "gemma-4-E2B-it.litertlm" pour le raisonnement et "siglip2" pour l'analyse d'images et transcription vocale > texte.
Tout ça pour dire qu'il y a aussi des choses à explorer sur Android.