Article très intéressant est, à mes yeux, bien complets.
Une petite remarque : llama.cpp n'est pas un LLM. C'est un moteur d'inférence de LLM, à l'origine écrit par Georgi Gerganov pour faire tourner le LLM de Meta Llama en local, sur des machines "basiques".
# Juste une remarque à deux balles
Posté par Miguel Moquillon (site web personnel) . En réponse à la dépêche AMD mise tout sur RADV. Évalué à 3.
Article très intéressant est, à mes yeux, bien complets.
Une petite remarque : llama.cpp n'est pas un LLM. C'est un moteur d'inférence de LLM, à l'origine écrit par Georgi Gerganov pour faire tourner le LLM de Meta Llama en local, sur des machines "basiques".