创新技术是助力金融行业可持续性发展的关键一环。如今，在人工智能日益火爆的当下，多模态大模型等技术备受关注。度小满在大模型技术领域早有布局。近日，度小满还联合哈尔滨工业大学共同研发出一种创新的自适应剪枝算法——SmartTrim。该技术的核心是自适应剪枝能力，它通过精细化的剪枝策略，可对多模态大模型的冗余计算进行有效削减，大幅提升计算效率。

SmartTrim对冗余计算进行有效削减，实现显著的效率提升

在视觉语言大模型（VLM）的研究和应用中，高计算成本一直是制约其广泛部署的主要障碍。近日，哈尔滨工业大学联合度小满共同研发出一种创新的自适应剪枝算法——SmartTrim。该算法针对多模态大模型的冗余计算进行有效削减，实现了显著的效率提升，相关研究成果已被国际自然语言处理领域顶级会议COLING 24接收。　　

据介绍，SmartTrim技术的核心在于其自适应剪枝能力，通过分析模型中每层的token表示和attention head的冗余性，智能识别并剪除不必要的计算负担。这一过程中，SmartTrim不仅考虑了token在单一模态序列中的重要性，还特别强调了跨模态交互中的关键作用。通过这种精细化的剪枝策略，SmartTrim能够在保持模型性能的同时，大幅提升计算效率。

SmartTrim框架的实施涉及两个关键组件：跨模态感知的Token修剪器和模态自适应的注意力头修剪器。Token修剪器利用多层感知器（MLP）结构，智能地识别并去除那些对于当前层不重要的Token。这一过程不仅考虑了Token在文本或图像序列中的独立重要性，还综合了它们在跨模态交互中的贡献。注意力头修剪器则直接集成在模型的自注意力模块中，评估并修剪那些冗余的注意力头，从而优化了模型的计算效率。

SmartTrim 框架结构图

在训练SmartTrim模型时，研究人员采用了一种结合任务相关目标和计算开销目标的双重优化策略。通过重参数化技巧，解决了不可导二值mask的问题，实现了模型的端到端训练。此外，自蒸馏和课程学习策略的引入，进一步提高了剪枝后模型的性能，确保了训练过程的稳定性。

Token 的逐步裁剪修剪过程

在高加速比下，SmartTrim相比其他方法展现出显著优势

实验结果表明，SmartTrim在METER和BLIP两个VLM上实现了2-3倍的加速，同时将性能损失最小化。这一成果不仅在理论上具有创新性，也为实际应用中的模型优化提供了新的思路。特别是在1.5倍加速比下，SmartTrim的性能甚至超过了原始模型。在高加速比下，SmartTrim相比其他方法展现出显著优势。　　SmartTrim技术的推出，标志着多模态大模型研究的一个重要里程碑。度小满表示，SmartTrim技术将在未来整合到公司的轩辕大模型中，以推动大模型技术的发展。相关研究者可以通过访问https://github.com/Duxiaoman-DI/XuanYuan，了解更多关于SmartTrim的详细信息和研究成果。

随着人工智能不断融合到金融各大场景中，大模型未来仍将会是金融行业的主流技术之一。此次推出SmartTrim技术，是度小满在大模型领域的一次重要尝试。接下来，度小满将持续布局大模型，加快对大模型技术领域的探索，不断研发推出创新技术，提供诸多优质的技术方案，借助创新技术重塑金融行业发展格局。