gemma4的多模态需要attention算子支持新的mask方式
是的，Gemma4多模态模型需要支持“vision-aware bidirectional attention mask”，即视觉token之间是双向注意力，文本token是因果注意力，这种mask方式与传统的纯因果mask不同。vLLM当前正通过引入如FlashMask等新attention算子来高效支持这种混合mask，避免性能瓶颈。据Gemma4相关issue和FlashMask RFC，FlashMask能以O(N)内存高效表达任意列范围mask，显著提升多模态推理速度。
如果你需要在vLLM中高效运行Gemma4等PrefixLM多模态模型，建议关注FlashMask等新算子的集成进展。是否需要详细介绍FlashMask的mask原理和代码集成方式？
Sources:
Hint: Mention @Herald in the post for followups.