Retourner au contenu associé (journal : Corrigendum : Auto-héberger ses LLM (IA) : Débordement CPU+RAM, Mixture-of-Experts et Benchmarks)
Posté par Jérôme Flesch (site web personnel) le 28 août 2026 à 18:16. En réponse au journal Corrigendum : Auto-héberger ses LLM (IA) : Débordement CPU+RAM, Mixture-of-Experts et Benchmarks. Évalué à 5 (+3/-0). Dernière modification le 28 août 2026 à 18:20.
Touiller avec ces paramètres peut aider si vous avez beaucoup de sessions concurrente
Je voulais préciser « peut aider avec la vitesse de prédicition » ...
Mettez le nombre de cœur à l'option
Et ici, le « nombre de cœurs de votre CPU ».
Gentils modos, s'il vous plaît ? 🥺🙏
(en plus, je vous jure que je me relis encore et encore avant de poster ...)
AltStyle によって変換されたページ (->オリジナル) / アドレス: モード: デフォルト 音声ブラウザ ルビ付き 配色反転 文字拡大 モバイル
# Coquilles
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Corrigendum : Auto-héberger ses LLM (IA) : Débordement CPU+RAM, Mixture-of-Experts et Benchmarks. Évalué à 5 (+3/-0). Dernière modification le 28 août 2026 à 18:20.
Je voulais préciser « peut aider avec la vitesse de prédicition » ...
Et ici, le « nombre de cœurs de votre CPU ».
Gentils modos, s'il vous plaît ? 🥺🙏
(en plus, je vous jure que je me relis encore et encore avant de poster ...)