开源 企业版 高校版 私有云 模力方舟 AI 队友
代码拉取完成,页面将自动刷新
捐赠
捐赠前请先登录
扫描微信二维码支付
取消
支付完成
支付提示
将跳转至支付宝完成支付
确定
取消
1 Star 3 Fork 1

开发人工智能/AllInAI.Sharp.API

加入 Gitee
与超过 1400万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
已有帐号? 立即登录
文件
main
分支 (1)
标签 (5)
main
V1.2.1
V1.2.0
V1.1.7
V1.16
V1.1.5
main
分支 (1)
标签 (5)
main
V1.2.1
V1.2.0
V1.1.7
V1.16
V1.1.5
克隆/下载
克隆/下载
提示
下载代码请复制以下命令到终端执行
为确保你提交的代码身份被 Gitee 正确识别,请执行以下命令完成配置
初次使用 SSH 协议进行代码克隆、推送等操作时,需按下述提示完成 SSH 配置
1 生成 RSA 密钥
2 获取 RSA 公钥内容,并配置到 SSH公钥
在 Gitee 上使用 SVN,请访问 使用指南
使用 HTTPS 协议时,命令行会出现如下账号密码验证步骤。基于安全考虑,Gitee 建议 配置并使用私人令牌 替代登录密码进行克隆、推送等操作
Username for 'https://gitee.com': userName
Password for 'https://userName@gitee.com': # 私人令牌
main
分支 (1)
标签 (5)
main
V1.2.1
V1.2.0
V1.1.7
V1.16
V1.1.5
AllInAI.Sharp.API
/
Service
/
AliChatService.cs
AllInAI.Sharp.API
/
Service
/
AliChatService.cs
AliChatService.cs 4.42 KB
一键复制 编辑 原始数据 按行查看 历史
raokun 提交于 2023年12月27日 10:50 +08:00 . V1.2
using AllInAI.Sharp.API.Extensions;
using AllInAI.Sharp.API.IService;
using AllInAI.Sharp.API.Req;
using AllInAI.Sharp.API.Res;
using AllInAI.Sharp.API.Utils;
using System;
using System.Text.Json;
namespace AllInAI.Sharp.API.Service;
public class AliChatService: IChatService
{
public async Task<CompletionRes> Completion(HttpClient _httpClient,CompletionReq req, string? accesstoken = null, CancellationToken cancellationToken = default)
{
AliCompletionReq aliReq = new AliCompletionReq();
aliReq.Model=req.Model;
aliReq.Input.Messages = req.Messages;
aliReq.Parameters.TopP = req.TopP;
aliReq.Parameters.MaxTokens=req.MaxTokens;
string url = "/api/v1/services/aigc/text-generation/generation";
AliCompletionRes completionRes = await _httpClient.PostAndReadAsAsync<AliCompletionRes>(url, aliReq, cancellationToken);
CompletionRes res = GetCompletion(completionRes);
res.Model = req.Model;
return res;
}
public async IAsyncEnumerable<CompletionRes> CompletionStream(HttpClient _httpClient,CompletionReq req, string? accesstoken = null, CancellationToken cancellationToken = default)
{
AliCompletionReq aliReq = new AliCompletionReq();
aliReq.Model = req.Model;
aliReq.Input.Messages = req.Messages;
aliReq.Parameters.TopP = req.TopP;
aliReq.Parameters.MaxTokens = req.MaxTokens;
aliReq.Parameters.IncrementalOutput = true;
//aliReq.Parameters.ResultFormat = "text";
string url = "/api/v1/services/aigc/text-generation/generation";
using var response = _httpClient.PostAsStreamAsync(url, aliReq, cancellationToken);
await using var stream = await response.Content.ReadAsStreamAsync(cancellationToken);
using var reader = new StreamReader(stream);
while (!reader.EndOfStream) {
cancellationToken.ThrowIfCancellationRequested();
var line = await reader.ReadLineAsync();
// Skip empty lines
if (string.IsNullOrEmpty(line)) {
continue;
}
if(line.StartsWith("id:") || line.StartsWith("event:result") || line.StartsWith(":HTTP_STATUS/200")) {
continue;
}
line = line.RemoveIfStartWith("data:");
CompletionRes res;
try {
res = new CompletionRes();
// When the response is good, each line is a serializable CompletionCreateRequest
var completionRes = JsonSerializer.Deserialize<AliCompletionRes>(line);
// Exit the loop if the stream is done
// if (completionRes.Output.FinishReason == "stop" || completionRes.Output.Choices[0].FinishReason == "stop") {
// break;
// }
res = GetCompletion(completionRes);
res.Model = req.Model;
}
catch (Exception) {
// When the API returns an error, it does not come back as a block, it returns a single character of text ("{").
// In this instance, read through the rest of the response, which should be a complete object to parse.
line += await reader.ReadToEndAsync();
res = JsonSerializer.Deserialize<CompletionRes>(line);
}
if (null != res) {
yield return res;
}
}
}
public Task<EmbeddingRes> Embedding(HttpClient _httpClient, EmbeddingReq req, string? accesstoken = null, CancellationToken cancellationToken = default) {
throw new NotImplementedException();
}
private CompletionRes GetCompletion(AliCompletionRes completionRes) {
CompletionRes res = new CompletionRes();
if (completionRes != null) {
res.Error = completionRes.Error;
if (completionRes.Error != null) { return res; }
if (string.IsNullOrEmpty(completionRes.Output.Text)) {
res.Choices = completionRes.Output.Choices;
if (completionRes.Output.Choices != null)
res.Result = completionRes.Output.Choices[0].Message.Content;
}
else {
res.Result = completionRes.Output.Text;
}
res.Usage = new UsageRes();
res.Usage.PromptTokens = completionRes.Usage.InputTokens;
res.Usage.CompletionTokens = completionRes.Usage.OutputTokens;
}
return res;
}
}
Loading...
举报
举报成功
我们将于2个工作日内通过站内信反馈结果给你!
请认真填写举报原因,尽可能描述详细。
请选择举报类型
取消
发送
误判申诉

此处可能存在不合适展示的内容,页面不予展示。您可通过相关编辑功能自查并修改。

如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容,可点击提交进行申诉,我们将尽快为您处理。

取消
提交

简介

c#使用的AI模型调用SDK,整合OpenAI,chatGLM,文心千帆,stable-diffusion 等
取消

发行版

暂无发行版

贡献者

全部

语言

近期动态

不能加载更多了
编辑仓库简介
简介内容
主页
马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化
1
https://gitee.com/devai/AllInAI.Sharp.API.git
git@gitee.com:devai/AllInAI.Sharp.API.git
devai
AllInAI.Sharp.API
AllInAI.Sharp.API
main
点此查找更多帮助

搜索帮助

评论
仓库举报
回到顶部
登录提示
该操作需登录 Gitee 帐号,请先登录后再操作。
立即登录
没有帐号,去注册

AltStyle によって変換されたページ (->オリジナル) /