用sh命令启动vllm-ascend服务时报错:api_server.py: error: unrecognized arguments: --api-key。但是我直接在命令行敲命令又可以:
sh脚本命令如下:
python命令如下:
用sh命令启动vllm-ascend服务时报错:api_server.py: error: unrecognized arguments: --api-key。但是我直接在命令行敲命令又可以:
sh脚本命令如下:
python命令如下:
根据你描述的问题和图片,出现 “api_server.py: error: unrecognized arguments: --api-key” 的原因是你用的 vllm-ascend 版本的 api_server.py
并不支持 --api-key
参数。vLLM 的 OpenAI 兼容 API server(如 vllm serve
或 python -m vllm.entrypoints.openai.api_server
)才支持 --api-key
,而 demo server(如 api_server.py
)不支持此参数。官方文档明确说明,生产环境请用 OpenAI 兼容 server,demo server参数有限【参见官方文档说明】(docs.vllm.ai)。
你直接在命令行用 python -m vllm.entrypoints.openai.api_server ... --api-key ...
是可以的,因为这是 OpenAI 兼容 server 的入口,支持 --api-key
。而如果你用的是 python -m vllm.entrypoints.api_server
或 vllm-ascend 的 demo server,则会报错。建议统一用 OpenAI 兼容 server 启动服务,并参考官方参数说明。
需要更详细的排查和参数说明吗?
Sources: