用于多模态决策模型的输入重排与缓存复用方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
用于多模态决策模型的输入重排与缓存复用方法
申请号:CN202511014715
申请日期:2025-07-23
公开号:CN120524439B
公开日期:2025-09-23
类型:发明专利
摘要
本发明公开了一种用于多模态决策模型的输入重排与缓存复用方法,包括:将文本输入序列置于图像输入序列之前进行序列拼接,生成文本优先的拼接后输入序列;在初始推理时,利用多层Transformer编码器计算并缓存与文本输入序列对应的文本Key‑Value向量至静态缓存区;在后续推理时,对新输入的当前图像帧执行帧间语义一致性检测,并根据检测结果对图像部分的Key‑Value向量执行按需或局部的更新;将缓存的文本Key‑Value向量与更新后的图像Key‑Value向量进行拼接组装,以完成最终决策。本发明有效避免了对不变指令的冗余计算,实现了缓存的精细化、智能化复用,提升了多模态决策模型在动态任务中的推理速度与吞吐率。
技术关键词
文本 注意力 序列 图像 复用方法 重构 一致性检测 动态更新 决策 编码器 语义 多模态 生成代表 矩阵 信号 滑动窗口 参数 冗余 机制