参数优化方法、设备及计算机可读介质
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
AITNT公众号
AITNT APP
AITNT交流群
搜索
首页
AI资讯
AI技术研报
AI监管政策
AI产品测评
AI商业项目
AI产品热榜
AI专利库
寻求报道
参数优化方法、设备及计算机可读介质
申请号:
CN202510381468
申请日期:
2025-03-28
公开号:
CN120317293A
公开日期:
2025-07-15
类型:
发明专利
摘要
本申请实施例提供了参数优化方法、设备及计算机可读介质,该方案通过将低秩矩阵与稀疏性约束相结合的方式,在迭代更新过程中基于敏感度对低秩矩阵进行剪枝处理,从而实现矩阵的稀疏化,保留敏感度较高的重要参数,使得预训练权重矩阵中的参数更新有选择性和精细化,提升了训练的稳定性和效率,并且可以保证特定领域知识的完整性,有效避免知识冲突和遗忘,使得训练后的模型性能更好。
技术关键词
矩阵
计算机程序指令
参数优化方法
元素
梯度下降算法
存储计算机程序
处理器
定义
介质
动态
存储器
阶段
数据