启动服务报错,没有api-key参数

用sh命令启动vllm-ascend服务时报错:api_server.py: error: unrecognized arguments: --api-key。但是我直接在命令行敲命令又可以:

sh脚本命令如下:

python命令如下:

根据你描述的问题和图片,出现 “api_server.py: error: unrecognized arguments: --api-key” 的原因是你用的 vllm-ascend 版本的 api_server.py 并不支持 --api-key 参数。vLLM 的 OpenAI 兼容 API server(如 vllm servepython -m vllm.entrypoints.openai.api_server)才支持 --api-key,而 demo server(如 api_server.py)不支持此参数。官方文档明确说明,生产环境请用 OpenAI 兼容 server,demo server参数有限【参见官方文档说明】(docs.vllm.ai)。

你直接在命令行用 python -m vllm.entrypoints.openai.api_server ... --api-key ... 是可以的,因为这是 OpenAI 兼容 server 的入口,支持 --api-key。而如果你用的是 python -m vllm.entrypoints.api_server 或 vllm-ascend 的 demo server,则会报错。建议统一用 OpenAI 兼容 server 启动服务,并参考官方参数说明

需要更详细的排查和参数说明吗?

Sources: