百度文心大模型系列(Qianfan调用)

支持版本:>=3.3.4.4

可用模型清单:https://cloud.baidu.com/doc/WENXINWORKSHOP/s/Nlks5zkzu

 importAgently
 agent = (
 Agently.create_agent()
 .set_settings("current_model", "Qianfan")\
 .set_settings("model.Qianfan.auth", {
 "access_key": "<Your-Qianfan-Access-Key>",
 "secret_key": "<Your-Qianfan-Secret-Key>"
 })
 # 如果需要切换模型,可参考模型清单: https://cloud.baidu.com/doc/WENXINWORKSHOP/s/Nlks5zkzu
 # 默认模型: ERNIE-Speed-8K
 .set_settings("model.Qianfan.options", { "model": "ERNIE-Speed-8K" })
 )

支持多种类型的模型调用

对话模型

默认使用ERNIE-Speed-8K

print(
 agent
 .input("给我输出3个单词和2个句子")
 .instruct("输出语言", "中文")
 .output({
 "单词": [("str", )], # 没有<desc>可省略
 "句子": ("list", ),
 })
 .start()
)

补全模型

默认使用Yi-34B-Chat

print(
 agent
 .input("给我输出3个单词和2个句子")
 .instruct("输出语言", "中文")
 .output({
 "单词": [("str", )], # 没有<desc>可省略
 "句子": ("list", ),
 })
 .start("completions")
)

Embedding模型

默认使用Embedding-V1

print(
 agent
 .input("给我输出3个单词和2个句子")
 .start("embedding")
)

Image模型(文生图)

默认使用Stable-Diffusion-XL

print(
 agent
 .input("一个可爱的猫娘")
 .start("image")
)

Rerank模型

默认使用bce-reranker-base_v1

print(
 agent
 .input({
 "query": "什么是AI",
 "documents": [
 "什么是人工智能",
 "什么是爱",
 "什么是A",
 ]
 })
 .start("rerank")
)