Pinned Loading

1. ChatGLM-web-stream-demo ChatGLM-web-stream-demo Public

   ChatGLM-6B HTTP流式解码API的Flask、FastAPI实现,以及开箱即用的Web页面。 a stream decoding demo of ChatGLM-6B using Flask or FastAPI, with web page out-of-the-box.

   Python 94 14

2. fastllm fastllm Public

   Forked from ztxz16/fastllm

   纯c++的全平台llm加速库,支持python调用,支持chatglm-6B, llama, baichuan, moss基座,x86 / ARM

   C++ 12