一种基于Transformer模型的多维度行为信息解析方法及系统
申请号:CN202510734100
申请日期:2025-06-04
公开号:CN120561307A
公开日期:2025-08-29
类型:发明专利
摘要
本发明涉及自然语言处理的文本理解与语义分析领域,具体涉及一种基于Transformer模型的多维度行为信息解析方法及系统,该方法包括数据准备、数据预处理、特征提取和分析预测四个步骤,通过OCR技术对行为数据产生的图像进行文字信息提取,并结合终端感知技术实时监测终端设备上的操作行为;对收集到的数据进行预处理,去除噪音、特殊符号等无关信息,确保数据质量和有效性;将处理后的数据输入到特征提取模型中,采用MiniRBT模型与图神经网络相结合的架构进行深度特征提取和融合处理;通过改进后的Transformer模型对融合特征进行分析和预测,实现多维度行为信息的智能解。
技术关键词
信息解析方法
数据
监测终端设备
特征提取模型
文本
动态更新
融合特征
特征提取模块
神经网络模型
高层次
增量学习方法
节点特征
动态变化特征
注意力机制
神经网络单元
语义特征
深度特征提取