摘要
本发明公开了一种多模型动态影像分析系统,涉及人工智能技术领域。系统采用异构计算架构,包含预处理模型、多模态分析模型、异向矫正模型、大语言模型、任务知识库嵌入模型及KV缓存管理系统。通过构建基于硬件异构的异向任务重构机制,嵌套大语言推理模型进行分析,并利用跨模型KV缓存优化技术实现计算资源高效复用。系统配置多显卡与双路NUMA,由多模态大语言模型进行系统的运行中对目标检测模型无监督或弱监督训练。系统通过动态负载调度策略,创新性地设计了一种满负荷使用处理器与内存增强显卡推理的机制,并实现了三段式的实时流式增强式输出。系统通过动态负载调度策略,创新性地设计了一种满负荷使用处理器与内存增强显卡推理的机制。