一种基于微调大模型的人机自主协作方法及装置

本发明提供一种基于微调大模型的人机自主协作方法及装置，其中，方法包括：获取零部件图像和目标人物动作图像；将零部件图像输入至预先训练的第一模型，得到零部件识别结果；将目标人物动作图像输入至预先训练的第二模型，得到动作分类结果；将零部件识别结果和动作分类结果融合形成当前作业状态信息，将当前作业状态信息输入至预先根据领域知识微调好的大语言模型，基于实时装配状态推理出下一步装配步骤，并解码为控制指令用于控制协作机械臂协助操作工执行下一步装配步骤。通过本方法使得人机自主协作时，只需要获取零部件图像和目标人物动作图像，就可以主动给出下一步操作提示，并且对人类状态的主动理解能力更强，提高了人机协作装配模式下机器的理解能力和自主性。