一种大小模型协同训练的方法及其系统

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种大小模型协同训练的方法及其系统
申请号:CN202510661635
申请日期:2025-05-22
公开号:CN120181162B
公开日期:2025-09-05
类型:发明专利
摘要
本发明涉及模型训练技术领域,具体公开了一种大小模型协同训练的方法及其系统。包括获取采集训练任务相关的多维度特性数据,并基于预设的模态分析策略对数据的模态构成信息按训练进程阶段进行剖析,根据多模态融合型数据模态类别获取其对应的大模型优势参数与小模型优势参数,根据大模型优先训练的预估耗时和小模型优先训练的预估耗时确定训练耗时比例系数,从而对小模型和大模型进行调配。本发明解决了传统方法中因缺乏系统性分析而盲目选择模型导致的资源不合理分配问题,避免了大模型处理小数据量或简单任务时的资源冗余,以及小模型处理复杂多模态大数据时的性能瓶颈。
技术关键词
模态分析 格式 总量 规模 多模态特征 多模态大数据 参数 模型训练技术 组织 模块 进程 阶段 周期 策略 处理器 计算机设备 可读存储介质