一种文本审核方法及相关装置

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种文本审核方法及相关装置
申请号:CN202411543319
申请日期:2024-10-31
公开号:CN119336913A
公开日期:2025-01-21
类型:发明专利
摘要
本申请公开了一种文本审核方法及相关装置,涉及自然语言处理技术领域,文本审核方法包括:获取第一目标文本,第一目标文本为大模型的输入文本;确定第一目标文本的风险类别;若第一目标文本的风险类别为有害,输出预设的兜底回复;若第一目标文本的风险类别为无害,将第一目标文本输入大模型;在第一目标文本的风险类别为无害的情况下,还可获取大模型针对第一目标文本回复的文本,作为第二目标文本;确定第二目标文本的风险类别;若第二目标文本的风险类别为有害,则输出预设的兜底回复;若第二目标文本的风险类别为无害,则输出第二目标文本。本申请公开的文本审核方法能够确保大模型输出无害的文本。
技术关键词
文本审核方法 类别预测模型 风险 样本 关键词 文本审核装置 计算机可读指令 电子设备 模块 三元组 计算机存储介质 存储计算机程序 计算机程序产品 自然语言 处理器 存储器 策略 编码 参数