System Info / 系統信息
docker
Running Xinference with Docker? / 是否使用 Docker 运行 Xinfernece?
Version info / 版本信息
0.15.2
The command used to start Xinference / 用以启动 xinference 的命令
分布式场景,正常启动 supervisor 和 worker
supervisor启动指定了supervisor-port
在worker上启动一个模型,如:bge-m3
Reproduction / 复现过程
重启supervisor,前端无法查看正在运行的模型 bge-m3;模型服务不可用;
Expected behavior / 期待表现
- supervisor重启后,已经运行的模型正常
- 模型服务正常