一种基于频域表征学习的时序大模型构建方法及存储介质
申请号:CN202510266673
申请日期:2025-03-07
公开号:CN119760432A
公开日期:2025-04-04
类型:发明专利
摘要
本申请涉及大模型训练的技术领域,公开一种基于频域表征学习的时序大模型构建方法及存储介质,包括:对原始的时间序列数据转化为频域表示,从中提取出每个频率成分的振幅和相位,每一组振幅和相位对应一个基函数;使用大模型对基函数进行特征提取和表征学习,引入注意力机制,使大模型可自适应地聚焦对任务最为关键的频域成分;联合重构头和预测头进行优化,根据预设的纯频域损失函数,优化真实值与模型输出值在频域中的振幅和相位偏差;特征提取的频域特征通过学习基函数自身的特征及相互关系,构建时间序列的统一频域表征,纯频域损失函数增强对频域表征的学习效果,可灵活适配不同的下游任务。
技术关键词
模型构建方法
重构
引入注意力机制
Adam算法
时序
历史数据统计
协方差矩阵
偏差
频域特征
网络结构
序列
参数
场景
频率
阶段
误差
程序
关系