一种轻量化模型的更新方法、设备及介质

本公开涉及神经网络模型技术领域，特别是一种轻量化模型的更新方法、设备及介质，方法包括：对Transformer模型进行更新，出现错误输出时，判断该错误输出的错误类型是否存在对应的错误标记：若不存在，对该错误类型生成错误标记，并冻结Transformer模型的参数，在Transformer模型的最后一层前馈神经网络层设置错误类型对应的补丁；若存在，令Transformer模型的最后一层前馈神经网络层中的补丁生效；所述补丁生效时，对错误输出进行调整，使得输出正确。本公开在不重新训练整个模型的情况下，通过补丁改变模型输出，纠正模型中的错误信息或过时知识。保证模型只修正错误输入，对其他输入没有影响，最后结合延迟半径建立密码本，可以在模型运行过程不断扩充错误类型。