一种融合图像掩码和混合专家的工业大模型异常检测方法

本发明公开了一种融合图像掩码和混合专家的工业大模型异常检测方法。该方法融合图像掩码技术与混合专家方法指导工业预训练模型，训练阶段使用掩码技术掩盖输入图像的部分像素块，通过训练使得模型能够依据可见的图像块，重建被掩码图像块的图像文本对齐的视觉特征，使得模型同时从中学习到低级的几何结构特征以及图像的高级语义信息，能够覆盖大部分下游任务所需的视觉信息。预训练大模型的编码器部分采用混合专家结构代替前向传播层，在处理数据时能够动态地激活少部分网络层，从而实现在保持模型参数量的同时，极大地加快模型训练和推理速度。