在模型管理里创建Bge Rerank模型 windows填写python.dll路径 linux填写libpython.so路径 如果使用镜像可以使用 /opt/conda/pkgs/python-3.10.13-h955ad1f_0/lib/libpython3.10.so 配置好以后,在应用里
在windows上需要设置python311.dll 如果是使用的容器,可以进入容器查询 find / -name "libpython*.so*" 例如入选这样的地址,在linux上选择so文件 /opt/conda/pkgs/python-3.10.13-h955ad1f_0/lib/libp
本地模型2 我们支持使用llamafactory来运行本地模型,这个方式比LLamaSharp可支持的模型种类更多,目前支持36种主流的离线模型 包括 baichuan、ChatGlm、Yi、yuan、Qwen等 我们在新建模时选择llamafactory,然后选择自己的模型 这里需要注意:如果是本
# 非 host 版本, 不使用本机代理 version: '3.8' services: aspire-dashboard: container_name: aspire-dashboard image: mcr.microsoft.com/dotnet/aspire-dash