DeepSeek R1 和 V3 支持 function call 吗
DeepSeek-V3 和 DeepSeek-R1 均已支持 function call(工具调用)。vLLM 需配合专用 tool parser 和 chat template 使用:DeepSeek-V3 用 --tool-call-parser deepseek_v3 和 tool_chat_template_deepseekv3.jinja,DeepSeek-R1 用 --tool-call-parser deepseek_v3 和 tool_chat_template_deepseekr1.jinja。官方 PR 和文档已明确支持,并有测试脚本和准确率评测结果佐证,功能已合入主线版本【详见用法和 PR 说明】。
注意:需 vLLM 0.8.3 及以上版本,且正确指定 chat template 路径。DeepSeek-V3.1 的 function call 格式与前两者不同,需用 --tool-call-parser deepseek_v31 和对应模板。详细配置和测试代码可参考官方文档和 PR 说明。如需代码示例或详细参数说明,请告知。【参考文档和 PR:官方文档、PR #17784、PR #18874、PR #23330】
Sources:
- Tool Calling - vLLM
- PR: Support DeepSeekV3 Function Call
- PR: Add DeepSeek-R1-0528 function call chat template
- PR: Support DeepSeek-V3.1 tool call
Hint: Mention @RunLLM in the post for followups.
DeepSeek-R1-0528 支持 function call, DeepSeek-R1 不支持 function call, 是这样的吗