一种半监督预训练的电力系统对话生成方法

本申请属于电网技术领域，涉及本发明通过一种半监督预训练的电力系统对话生成方法，通过收集和标准化电力系统对话数据，并构建相关领域的知识图谱，采用BART模型对无标签数据进行无监督预训练，加入文本噪声以增强模型的鲁棒性；利用知识图谱嵌入技术，将知识图谱信息融入到BART模型的编码阶段，使模型能够在生成对话时参考领域知识；通过对部分数据进行人工标注并使用交叉熵损失函数进行监督微调；通过生成伪标签进一步扩展训练数据，在实际应用中，模型结合用户输入和知识图谱，动态生成逻辑性更强的回复。最终，使用BLEU指标评估对话质量，优化模型策略。该方法有效解决了电力系统对话生成中对标注数据依赖高、生成内容不准确和不连贯的问题。