Pour ce qui est de "infonuager" la puissance GPU, pas sûr de quoi on parle. Ce que je peux dire, c'est que Datafari peut aussi bien utiliser des modèles en local (que ce soit via notre AI agent ou avec du fait maison du moment que l'API est compatible), ou à distance, avec ou sans GPU. Mais nous n'avons pas de retex sur les tarifs au mois, c'est très variable selon les usages, les specs des machines, les modèles choisis, le nombre de tokens.
[^] # Re: AI ?
Posté par Datafarian00 . En réponse à la dépêche Sortie de Datafari 6.2, moteur de recherche open source pour entreprise avec de l'IA. Évalué à 3.
Bonjour,
L'IA utilisé dépend des utilisateurs. Pour la vectorisation (embedding) à l'indexation et au requêtage, c'est cette page qui explique comment procéder pour déclarer un modèle à utiliser:
https://datafari.atlassian.net/wiki/spaces/DATAFARI/pages/3920297985/Datafari+Vector+Search
Pour la phase de génération de réponse, il faut se réferer à cette partie de la doc: https://datafari.atlassian.net/wiki/spaces/DATAFARI/pages/3136552962/Datafari+RagAPI+-+RAG#Available-LlmServices
Comme c'est indiqué, de base ca fonctionnera avec tout llm compatible avec l'openAI API, et le reste peut être adapté avec de l'huile de coude en codant des modifications. Le reste de la config se fera de facon graphique depuis l'interface d'admin: https://datafari.atlassian.net/wiki/spaces/DATAFARI/pages/3136552962/Datafari+RagAPI+-+RAG#Via-the-Admin-UI
Pour les types de endpoint, cette page vous indique les endpoint REST et leur signature: https://datafari.atlassian.net/wiki/spaces/DATAFARI/pages/3619946497/AI+Powered+Datafari+API
Pour ce qui est de "infonuager" la puissance GPU, pas sûr de quoi on parle. Ce que je peux dire, c'est que Datafari peut aussi bien utiliser des modèles en local (que ce soit via notre AI agent ou avec du fait maison du moment que l'API est compatible), ou à distance, avec ou sans GPU. Mais nous n'avons pas de retex sur les tarifs au mois, c'est très variable selon les usages, les specs des machines, les modèles choisis, le nombre de tokens.