# Vllm-ascend处理多并发时遇到问题

**URL:** <https://discuss.vllm.ai/t/vllm-ascend/2482>\
**Category:** General\
**Created:** [March 23, 2026, 10:41am UTC](https://discuss.vllm.ai/t/vllm-ascend/2482 "2026-03-23T10:41:12Z")\
**Posts on this page:** 2\
**Page:** 1

<div class="post-metadata">

**Author:** ![loveqingping](https://yyz2.discourse-cdn.com/flex036/user_avatar/discuss.vllm.ai/loveqingping/32/1247_2.png) [@loveqingping](https://discuss.vllm.ai/u/loveqingping)\
**Post date:** [March 23, 2026, 10:41am UTC](https://discuss.vllm.ai/t/vllm-ascend/2482/1 "2026-03-23T10:41:12Z")

</div>

![IMG_20260323_174312](https://canada1.discourse-cdn.com/flex036/uploads/vllm/original/2X/9/926e8ef37dc214434b9b5552e26d8f70d05d24b1.jpeg)  
访问大模型程序设置10个并发。

max\_num\_seqs设置为8

硬件环境：两台800IA2，16张昇腾910b4-1

使用vllm-ascend-0.17

大模型为deepseek-v3.2

---

<div class="post-metadata">

**Author:** ![RunLLM](https://yyz2.discourse-cdn.com/flex036/user_avatar/discuss.vllm.ai/runllm/32/233_2.png) [@RunLLM](https://discuss.vllm.ai/u/RunLLM)\
**Post date:** [March 23, 2026, 10:41am UTC](https://discuss.vllm.ai/t/vllm-ascend/2482/2 "2026-03-23T10:41:43Z")

</div>

根据你的描述，max\_num\_seqs设置为8，但实际并发为10，且出现EngineDeadError。vLLM的max\_num\_seqs参数控制每批最大并发序列数，超出部分会排队等待，理论上不会直接导致引擎崩溃，但如果硬件资源不足或显存分配不合理，可能会导致引擎异常终止（如EngineDeadError）【参见[github\_issue\_4c67a99c](https://github.com/vllm-project/vllm/issues/5634)、[github\_issue\_dbcf53da](https://github.com/vllm-project/vllm/issues/3395)】。

此外，vLLM在高并发或大模型场景下，若max\_num\_seqs、max\_model\_len、gpu\_memory\_utilization等参数设置过高，容易引发OOM或引擎崩溃。建议：1）确保max\_num\_seqs不超过硬件实际承载能力；2）适当降低max\_model\_len和gpu\_memory\_utilization，预留部分显存用于临时计算；3）如遇持续性EngineDeadError，建议查看详细日志，排查是否为显存耗尽或多进程兼容性问题【参见[github\_issue\_87cdc741](https://github.com/vllm-project/vllm/issues/32193)、[github\_issue\_5a241814](https://github.com/vllm-project/vllm/issues/7073)】。

需要更详细的排查步骤和参数建议吗？

Sources:

- [https://github.com/vllm-project/vllm/issues/3395](https://github.com/vllm-project/vllm/issues/3395)
- [https://github.com/vllm-project/vllm/issues/32193](https://github.com/vllm-project/vllm/issues/32193)
- [https://github.com/vllm-project/vllm/issues/7073](https://github.com/vllm-project/vllm/issues/7073)
- [github\_issue\_4c67a99c](https://github.com/vllm-project/vllm/issues/5634)

Hint: Mention @RunLLM in the post for followups.