基于扩散模型的大语言模型推理方法、装置、终端及介质

本申请提供一种基于扩散模型的大语言模型推理方法、装置、终端及介质。本申请利用基于扩散模型框架的草稿模型生成草稿序列，再通过大语言模型对草稿序列进行验证。本申请利用了扩散模型天然支持并行处理的特点，使得草稿序列的长度显著增加，进而减少了大模型验证的次数，从而提高了大语言模型的推理效率，并提高了计算资源的利用效率。