任务推理方法及其装置

本公开提供了一种任务推理方法及其装置。该方法包括：获得用户输入任务提示词；识别任务的属性标签，其中，属性标签表征任务的类别；以及将提示词输入目标模型中：在预填充阶段，基于目标模型的原始权重矩阵参数处理提示词，获得预填充输出；在推理阶段，基于目标模型的重构权重矩阵参数处理预填充输出，获得推理结果输出，其中重构权重矩阵参数与原始权重矩阵参数不同，重构权重矩阵参数是基于任务的属性标签确定的。