Vllm-ascend是否支持mineru2.5

vllm-ascend是否支持mineru2.5

vllm-ascend(vLLM的Ascend NPU版本)目前未在官方文档或issue中明确列出对MinerU2.5模型的支持情况。vLLM主线支持HuggingFace Transformers兼容的模型,只要MinerU2.5模型结构与Transformers兼容且能导出为标准格式,理论上可尝试加载,但Ascend分支的兼容性需进一步验证。建议在vllm-ascend专用仓库提交issue咨询具体支持情况或测试兼容性。如遇到问题,官方建议在vllm-ascend仓库反馈,而不是主仓库。来源1 来源2

需要更详细的技术说明或操作步骤吗?

Sources:

Hint: Mention @RunLLM in the post for followups.

yes, it works. get more info from [Usage]: vllm-ascend是否支持mineru2.5 · Issue #4128 · vllm-project/vllm-ascend · GitHub