一种基于多尺度Tsallis熵与低级视觉特征引导的ViT语义分割渐进式Token剪枝方法及系统
申请号:CN202511004362
申请日期:2025-07-21
公开号:CN120851110A
公开日期:2025-10-28
类型:发明专利
摘要
一种基于多尺度Tsallis熵与低级视觉特征引导的ViT语义分割渐进式Token剪枝方法及系统,方法包括:使用Patch Embedding块嵌入将输入图像分割成多个固定大小的Patch块,并将每个Patch块转换为一个固定维度的特征向量;使用Transformer堆叠层捕获Patch Embedding块嵌入输出的特征向量,并进行特征提取,以产生经特征提取的Token序列;在每两个相邻Transformer层之间对Token序列执行渐进式Token修剪,包括一级熵值聚类和二级边缘引导聚类;得到语义信息复杂的Token序列,继续向后传播;利用分割头对最后一层Transformer层的Token序列进行图像分割操作,输出最终的分割图像;系统包括:Patch Embedding块嵌入、Transformer堆叠层、渐进式Token修剪模块和分割头;本发明保证性能的基础上,加速模型推理,降低部署门槛。
技术关键词
剪枝方法
视觉特征
图像分割
多尺度
前馈神经网络
序列
堆叠层
语义
聚类
注意力机制
动态可调
矩阵
代表
上采样
因子
特征值
非线性
分辨率