一种结合因果知识和注意力的可解释性评估方法及装置
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
AITNT公众号
AITNT APP
AITNT交流群
搜索
首页
AI资讯
AI技术研报
AI监管政策
AI产品测评
AI商业项目
AI产品热榜
AI专利库
寻求报道
一种结合因果知识和注意力的可解释性评估方法及装置
申请号:
CN202510051015
申请日期:
2025-01-13
公开号:
CN119886366B
公开日期:
2025-10-28
类型:
发明专利
摘要
本公开实施例中提供了一种结合因果知识和注意力的可解释性评估方法及装置,包括:将数据集划分为训练集和测试集;在训练集上构建事件数据的因果图,以得到事件论元之间的因果强度矩阵;结合所述因果图进行模型训练以获得训练后的模型;将测试数据输入训练后的模型中以获得预测结果和注意力权重;对注意力权重向量可视化以获得有向图;以及比对有向图与因果图之间的相似性大小,以确定可解释性。通过本公开的处理方案,实现了模型的可解释性。
技术关键词
注意力
协方差矩阵
样本
模型构建装置
度度量方法
数据
强度
正则化参数
评估装置
答案
分析方法
元素
关系
文本
理论