一种基于多模态监督学习的稽查审核大模型及智能化工单审核方法及系统
申请号:CN202511307938
申请日期:2025-09-15
公开号:CN120806883B
公开日期:2026-01-02
类型:发明专利
摘要
一种基于多模态监督学习的稽查审核大模型及智能化工单审核方法,其特征在于:对采集到的电力营销稽查数据进行数据清洗、数据标注,构成营销稽查领域指令数据集;利用多模态编码提取营销稽查领域指令数据集的序列特征,并将所提取的序列特征输入至以多层Transformer模型为架构的基座模型中进行深层特征提取,通过检索增强生成方法构建营销稽查大模型;对构建的营销稽查大模型进行预训练与指令微调,对不同类型数据进行统一建模、理解与生成任务,并采用基于异策略优化的PPO算法调整指令微调模型参数;基于改进的自适应低秩适配技术将模型部分层权重矩阵近似为低秩矩阵的乘积,提供API接口服务对输入的营销稽查行业工单数据进行异常检测。
技术关键词
电力营销稽查
审核方法
序列特征
业务支撑系统
模型预训练
深层特征提取
数据
指令
生成方法
化工
文本
解码结构
矩阵
多头注意力机制
重构
解码器
模块
编码
多模态特征