量子位mediumconfig v30
紫东太初团队提出GMC剪枝方法，大幅减少视觉Token仍保真多模态能力
摘要与判断
中国科学院自动化研究所紫东太初大模型团队提出无需训练的核心集剪枝方法GMC，旨在解决视觉语言模型中视觉Token冗余导致的显存开销大和推理慢等问题。该方法在减少超80%Token时仍能保留近满血的多模态能力，并可直接应用于Qwen、LLaVA等主流模型，为降低大模型部署成本提供了有效的新方案。
Topics
引用和原文
Trace
- Raw Item
- raw_3fddd46c074042e2
- Processed Item
- processed_4481612d5ffc485f
- Source
- source_wechat_liangziwei
- Cluster
- 查看所属簇
- LLM Logs
- llm_00ba9287348843ad, llm_039121e47f494be8, llm_694ee68fb3684954
- Coze Loop
- 9e8602fd49ffdce7ed2789f2a853cef1