计算开销直降75%！多模态AI推理效率迎重大突破，Dynamic—LLaVA成新标杆

华东师范大学与小红书联合研发的Dynamic—LLaVA框架，在多模态大模型推理效率上取得突破。该框架通过动态稀疏化技术，在预填充阶段计算开销降低75%，解码阶段计算和显存占用减少50%，且几乎不损失性能。其创新点在于对视觉与文本token的全阶段优化，解决了传统方法仅在预填充阶段加速的局限性，为多模态AI推理效率树立新标杆。