基于模型参数调整的任务处理方法、装置、设备及介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于模型参数调整的任务处理方法、装置、设备及介质
申请号:CN202510146011
申请日期:2025-02-10
公开号:CN120068970A
公开日期:2025-05-30
类型:发明专利
摘要
本发明涉及人工智能技术领域、医疗健康领域和金融科技领域,公开了一种基于模型参数调整的任务处理方法,包括:采集辅助基准数据集并提取原始权重矩阵,分解为多个奇异值特征量及对应的奇异向量,基于梯度信息筛选目标奇异值特征量及对应的目标奇异向量,构建旁路低秩矩阵。冻结待优化模型的原始权重矩阵,通过微调旁路低秩矩阵调整模型参数,生成优化后的目标模型,并利用优化后的目标模型处理任务,生成执行结果。本发明通过基于梯度信息筛选奇异值特征量及对应向量,构建与任务特性相关的低秩矩阵,减少低秩矩阵初始化的随机性对优化过程的影响;冻结原始权重矩阵,仅微调旁路低秩矩阵,降低计算开销,提高模型优化效率和泛化能力。
技术关键词
奇异值特征 矩阵 旁路 参数 基准 计算机设备 保留特征 压缩特征 人工智能技术 医疗健康 数据处理模块 处理器 分析模块 可读存储介质 存储器 元素 金融 强度