一种结合因果知识和注意力的可解释性评估方法及装置

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种结合因果知识和注意力的可解释性评估方法及装置
申请号:CN202510051015
申请日期:2025-01-13
公开号:CN119886366B
公开日期:2025-10-28
类型:发明专利
摘要
本公开实施例中提供了一种结合因果知识和注意力的可解释性评估方法及装置,包括:将数据集划分为训练集和测试集;在训练集上构建事件数据的因果图,以得到事件论元之间的因果强度矩阵;结合所述因果图进行模型训练以获得训练后的模型;将测试数据输入训练后的模型中以获得预测结果和注意力权重;对注意力权重向量可视化以获得有向图;以及比对有向图与因果图之间的相似性大小,以确定可解释性。通过本公开的处理方案,实现了模型的可解释性。
技术关键词
注意力 协方差矩阵 样本 模型构建装置 度度量方法 数据 强度 正则化参数 评估装置 答案 分析方法 元素 关系 文本 理论