エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
ここにツイート内容が記載されます https://b.hatena.ne.jp/URLはspanで囲んでください
Twitterで共有ONにすると、次回以降このダイアログを飛ばしてTwitterに遷移します
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
3行サマリー 自社でゼロからLLMサービスのUIを運用するのは大変なのでLibreChatを調査してみます。 Libr... 3行サマリー 自社でゼロからLLMサービスのUIを運用するのは大変なのでLibreChatを調査してみます。 LibreChatをエンタープライズ利用に使えそうかを検証してみました。 LibreChat + Ollama (Gemma2)を使ってプライベートなLLMサービスを作ってみました。 LibreChatの特徴 一言でいうと、ChatGPTのOSSバージョンです。 カスタマイズ性が高く、ユーザーは自分のニーズに合わせて機能やプラグインを追加できます。 ライセンス MIT Licenseなので商用利用可能です。 ソフトウェアアーキテクチャ コンポーネント フロントエンド: ChatGPTに似たユーザーインターフェースを提供 バックエンド: 様々なAIモデルとの連携やデータ管理を担当 データベース: Mongo DB を使用してチャット履歴などのデータを保存 デプロイメントを以下に簡単に図