基于预训练大语言模型的源荷小样本时序预测方法、系统、装置及存储介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于预训练大语言模型的源荷小样本时序预测方法、系统、装置及存储介质
申请号:CN202410960500
申请日期:2024-07-17
公开号:CN118839730A
公开日期:2024-10-25
类型:发明专利
摘要
本发明公开了一种基于预训练大语言模型的源荷小样本时序预测方法、系统、装置及存储介质,方法包括:将影响源荷时序序列输出的属性进行分词编码得到时间提示词编码;获取源荷时序数据并可逆实例归一化处理后再划分得到分块Patch;使用标记Token编码的向量查询表对分块Patch进行标记Token编码,对标记Token生成位置编码;将位置编码和标记Token编码相加后与时间提示词编码拼接,将拼接结果输入预训练大语言模型中并进行微调,截去预训练大语言模型输出向量中的时间提示词编码部分后经过输出层处理得到源荷时序预测序列;然后进行逆实例归一化处理得到最终预测结果。本发明满足了源荷预测任务小样本条件下的需求。
技术关键词
大语言模型 时序预测方法 时序预测装置 分词 标记 序列 变量 分块 样本 数据 编码模块 转换器 优化器 微调方法 参数 编码向量 可读存储介质