摘要
本发明提供一种参数设置方法、文本生成方法、装置、设备、程序产品,涉及人工智能领域,包括:获取预训练语言模型和预设低秩转换参数;针对预训练语言模型中对应相同网络层种类的网络层,将预设低秩转换参数设置为顶层网络层的低秩转换参数,并确定相邻网络层之间的相似度;若相似度不小于预设阈值,则将相邻网络层中的上层网络层的低秩转换参数作为相邻网络层中的下层网络层的低秩转换参数;若相似度小于预设阈值,则根据相似度确定调整系数,并利用调整系数对相邻网络层中的上层网络层的低秩转换参数进行增大,得到相邻网络层中的下层网络层的低秩转换参数;可以自适应地为网络层设置低秩转换参数,以提升模型微调训练效果。