sglang框架启动模型报错 no module :sql_kernel

[948024326]

System Info / 系統信息

python 3.10.0
ubuntu 20.04

Running Xinference with Docker? / 是否使用 Docker 运行 Xinfernece？

• docker / docker
• pip install / 通过 pip install 安装
• installation from source / 从源码安装

Version info / 版本信息

xinfer 1.1.1
sglang 0.4.1.post1

The command used to start Xinference / 用以启动 xinference 的命令

XINFERENCE_HOME=/ai/model/xinference XINFERENCE_MODEL_SRC=modelscope xinference-local --host 0.0.0.0 --port 9997

Reproduction / 复现过程

启动qwen2.5-72b-instruct模型报错， 但是在xinfer 0.16.1版本 sglang0.3.4 正常启动推理

Expected behavior / 期待表现

能正常挂载推理

[948024326]

已解决 下载模块即可