一种应用于文本模态缺失场景下的多模态情感识别方法和系统

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种应用于文本模态缺失场景下的多模态情感识别方法和系统
申请号:CN202410955253
申请日期:2024-07-17
公开号:CN118823645A
公开日期:2024-10-22
类型:发明专利
摘要
本发明公开了一种应用于文本模态缺失场景下的多模态情感识别方法,包括:获取待检测者的视频与音频,对获取的视频和音频分别进行预处理,以分别获取多个预处理后的人脸视频关键帧和多个梅尔频率倒谱系数MFCC特征,将预处理后的多个人脸视频关键帧和MFCC特征成对输入至预先训练好的情感识别模型中,以获取待检测者的多个情感类别,并对得到的多个情感类别进行One‑Hot编码,以获取多个向量作为最终的情感识别结果。本发明能够解决现有多模态情感识别方法由于文本模态数据在工业场景下难以获取,直接导致情感识别准确率降低的技术问题。
技术关键词
关键帧 情感识别模型 情感识别方法 注意力 跨模态 MFCC特征 人脸 情感类别 音频特征提取 文本 视频特征提取 场景 融合特征 模块 多任务卷积神经网络 MTCNN算法