参数优化方法、设备及计算机可读介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
参数优化方法、设备及计算机可读介质
申请号:CN202510381468
申请日期:2025-03-28
公开号:CN120317293A
公开日期:2025-07-15
类型:发明专利
摘要
本申请实施例提供了参数优化方法、设备及计算机可读介质,该方案通过将低秩矩阵与稀疏性约束相结合的方式,在迭代更新过程中基于敏感度对低秩矩阵进行剪枝处理,从而实现矩阵的稀疏化,保留敏感度较高的重要参数,使得预训练权重矩阵中的参数更新有选择性和精细化,提升了训练的稳定性和效率,并且可以保证特定领域知识的完整性,有效避免知识冲突和遗忘,使得训练后的模型性能更好。
技术关键词
矩阵 计算机程序指令 参数优化方法 元素 梯度下降算法 存储计算机程序 处理器 定义 介质 动态 存储器 阶段 数据