摘要
本发明公开了多尺度上下文融合的文本增强系统、方法、设备及介质,涉及自然语言处理技术领域,方法包括:对待处理文本进行清洗处理、分词处理以及向量化处理,并得到初始向量;基于层次融合旋转位置编码机制对初始向量进行位置编码处理,得到带位置信息的特征向量;通过局部‑全局注意力融合层对带位置信息的特征向量进行融合处理得到多尺度特征图;基于记忆增强网络以及分层语义聚合网络对多尺度特征图进行处理得到增强后的上下文表示;基于增强后的上下文表示预测待处理文本对应的任务预测结果。本发明显著减少训练参数量与调优成本,整体实现端到端的高效、精准、泛化能力强的文本理解框架。