Skip to content

单卡无法部署多个replica #4104

@Kenwwww

Description

@Kenwwww

System Info / 系統信息

如题,为什么,那我只有一张卡怎么部署多路副本

Running Xinference with Docker? / 是否使用 Docker 运行 Xinfernece?

  • docker / docker
  • pip install / 通过 pip install 安装
  • installation from source / 从源码安装

Version info / 版本信息

1.9.0

The command used to start Xinference / 用以启动 xinference 的命令

XINFERENCE_HOME=./xinference xinference-local --host localhost --port 6006

Reproduction / 复现过程

XINFERENCE_HOME=./xinference xinference-local --host localhost --port 6006

Expected behavior / 期待表现

单卡能够部署多个replica

Metadata

Metadata

Assignees

Labels

No labels
No labels

Type

No type

Projects

No projects

Relationships

None yet

Development

No branches or pull requests

Issue actions