用户对话及API调用均会保存聊天记录进行查看
插件支持2种不同的形式介入,API插件和函数插件 API插件 API插件我们需要配置要调用接口的信息 参数等,这个配置好后再应用里勾选插件 即可在聊天时进行function call的自动调用。 函数插件 <
在应用种点击外部使用,我们支持2种方式,一个是使用应用的API进行对接,一个是使用页面嵌入 API对接 我们支持使用标准的openai接口,您可以使用自己的业务系统及其他的开源项目来对接AntSK 秘钥使用Bearer Token进行鉴权,也可以打开swagger进行测试 页面嵌入
在聊天页面我们可以选择创建好的应用进行聊天测试 例如这是一个知识库应用,右侧会显示向量匹配的相似度与结果。 也可以点击分享使用,将对话分享给其他人进行使用。
在应用列表我们可以创建应用,分为对话应用、知识库应用、知识图谱、制图应用等 会话应用可以配置默认提示词,主要用于聊天、文案撰写等。 注意:会话应用如果设置了向量模型,则支持基于文档的问答(聊天页面可以上传进行问答)。 知识库应用可以选择我们之前创建好的知识库,这里一个应用可
在知识库导入文档时有2种切片方式 直接切片
我们在知识库页面可以选择新建知识库 填写对于的信息点击创建 这里的段落切片数 如果是本地离线模型使用默认即可 如果使用在线模型,例如 openai的 text-embedding-ada-002 可以适当把数值调大为 1000 299 99 这样在做知识库检索时能避免 搜索词被切入不同片段 导致不精
本地模型-ollama 在模型管理里创建Ollama模型 首先需要下载Ollama 然后选择需要启动的模型后点击启动即可 注意:最好安装最新版本!!
在模型管理里创建Bge Rerank模型 windows填写python.dll路径 linux填写libpython.so路径 如果使用镜像可以使用 /opt/conda/pkgs/python-3.10.13-h955ad1f_0/lib/libpython3.10.so 配置好以后,在应用里