一种内容审核方法、系统、设备及介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种内容审核方法、系统、设备及介质
申请号:CN202411596874
申请日期:2024-11-11
公开号:CN119167933B
公开日期:2025-03-07
类型:发明专利
摘要
本申请公开了一种内容审核方法、系统、设备及介质,所述方法包括接收用户输入的被检测文档,并对被检测文档进行多级敏感词检测;若所述被检测文档的多级敏感词检测通过,将所述被检测文档输入经过训练的安全意图分类模型,通过所述安全意图分类模型输出所述被检测文档的意图类别;当所述意图类别为非敏感意图时,获取所述被检测文档对应的业务数据,并对所述业务数据进行多级敏感词检测;若所述业务数据的多级敏感词检测通过,判定为内容审核通过。本申请先通过多级敏感词检测对被检测文档进行敏感词检测,然后再通过安全意图分类模型对被检测文档进行意图检测,这样通过递增式检测可以提高内容审核的准确性,进而可以减少误判和漏判的问题。
技术关键词
内容审核方法 意图分类模型 意图类别 词语 内容审核系统 计算机可读程序 训练样本数据 可读存储介质 处理器 模块 分词 会话 队列 终端设备 存储器 标签