摘要
本发明涉及知识蒸馏技术领域,公开一种基于迭代剪枝的教师‑学生模型自动匹配方法,包括:S1:获取预训练的教师模型;S2:对教师模型执行迭代剪枝过程,具体包括:对教师模型进行剪枝操作;对剪枝后的教师模型进行微调;将微调后的教师模型作为潜在的学生模型进行存储;判断是否满足预设的迭代终止条件,若否,则返回剪枝操作;S3:基于预设的评分标准,从存储的若干潜在的学生模型中选择最佳学生模型。通过引入基于迭代剪枝的策略,能够自动地从教师模型出发,生成不同规模和性能的学生模型,并利用预设的评分标准从中选择出与教师模型最匹配的学生模型;自动化生成和选择的方式,降低了手动设计的不确定性,并避免传统NAS方法的高计算开销。