基于大模型的用户生成内容审核方法、装置、设备及介质

本申请公开了基于大模型的用户生成内容审核方法、装置、设备及介质，涉及信息安全技术领域，包括：通过终端SDK获取目标平台上目标实例的多模态数据，并通过边缘节点对多模态数据进行处理，以将得到的处理后数据传输至中心云；在中心云中，通过大模型基于处理后数据的目标特征确定三元组，并将违规置信度处于预设置信区间的处理后数据确定为目标样本；在中心云中，将三元组转化为资源描述框架图，若资源描述框架图与预设规则知识库中的规则相匹配，则生成相应的违规逻辑；在中心云中，通过预设多模态模型基于违规逻辑对目标样本进行审核。因此，本申请能够提高对用户生成内容进行审核操作的效率、准确率以及灵活性。