摘要
本发明公开了一种用于多模态决策模型的输入重排与缓存复用方法,包括:将文本输入序列置于图像输入序列之前进行序列拼接,生成文本优先的拼接后输入序列;在初始推理时,利用多层Transformer编码器计算并缓存与文本输入序列对应的文本Key‑Value向量至静态缓存区;在后续推理时,对新输入的当前图像帧执行帧间语义一致性检测,并根据检测结果对图像部分的Key‑Value向量执行按需或局部的更新;将缓存的文本Key‑Value向量与更新后的图像Key‑Value向量进行拼接组装,以完成最终决策。本发明有效避免了对不变指令的冗余计算,实现了缓存的精细化、智能化复用,提升了多模态决策模型在动态任务中的推理速度与吞吐率。