基于预训练大语言模型的多变量源荷数据预测方法及系统

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于预训练大语言模型的多变量源荷数据预测方法及系统
申请号:CN202411943114
申请日期:2024-12-27
公开号:CN119377397B
公开日期:2025-03-28
类型:发明专利
摘要
本发明公开了基于预训练大语言模型的多变量源荷数据预测方法及系统,将历史源荷时序序列进行文本化编码,混合使用低秩矩阵适配法与适配器法形成基于多专家的混合微调模块的预训练大语言模型,进而得到初步预测时序序列,最后进行滤波校准,其中,基于待预测变量与其余变量之间的互相关选出相关性更高的变量为超前变量;针对初步预测时序序列中超前变量与待预测变量数据进行滤波,进而进行整合得到对于初步预测时序序列的校准偏差,用于校准。本发明在大语言模型的基础上进行微调,能够在小样本、多变量条件下,完成不同类型的源荷时序序列预测任务,利用了变量间的超前滞后关系,对待预测变量进行提示和引导操作,提高源荷预测准确性和可靠性。
技术关键词
大语言模型 时序 变量 前馈神经网络 适配器 编码器结构 数据预测方法 路由器 注意力 线性 矩阵 校准 归一化模块 文本编码器 滤波 序列特征