-
Notifications
You must be signed in to change notification settings - Fork 749
Open
Milestone
Description
System Info / 系統信息
如题,为什么,那我只有一张卡怎么部署多路副本
Running Xinference with Docker? / 是否使用 Docker 运行 Xinfernece?
- docker / docker
- pip install / 通过 pip install 安装
- installation from source / 从源码安装
Version info / 版本信息
1.9.0
The command used to start Xinference / 用以启动 xinference 的命令
XINFERENCE_HOME=./xinference xinference-local --host localhost --port 6006
Reproduction / 复现过程
XINFERENCE_HOME=./xinference xinference-local --host localhost --port 6006
Expected behavior / 期待表现
单卡能够部署多个replica
Metadata
Metadata
Assignees
Labels
No labels