一种Transformer模型演化方法及系统

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种Transformer模型演化方法及系统
申请号:CN202411648757
申请日期:2024-11-19
公开号:CN119167992B
公开日期:2025-02-28
类型:发明专利
摘要
本发明提供一种Transformer模型演化方法及系统,方法包括:采集变压器运行数据,并选定训练样本,划分得到历史数据集X0和待更新数据集X1;构建时序特征融合模块,将样本数据集X0和待更新数据集X1进行数据特征提取与融合得到高级融合特征Y1;构建数据特征处理模块,利用时序数据差分方法处理得到新特征融合结果Z;构建Transformer时序预测模型,对相似特征数据集Yin进行时序预测得到预测结果Zout,通过增量学习更新Transformer时序预测模型的权重参数。本发明解决了模型稳定性及灵活性较差、预测精度随时间降低以及特征信息丢失的技术问题。
技术关键词
模型演化方法 时序预测模型 融合特征 变压器运行数据 编码向量 时序特征 数据差分方法 数据特征提取 样本 深层特征提取 参数更新模块 GRU模型 特征信息处理 变量 速率 时间差
系统为您推荐了相关专利信息
水下声纳图像 图像上下文信息 注意力 卷积模块 机制
预报方法 站点 分支 反射率 雷达
语义先验 可见光图像 融合方法 融合特征 先验形状
变化检测方法 多尺度特征 频率 特征提取模块 多级特征融合
LSTM模型 煤炭 特征选择技术 价格预测方法 序列