基于注意力增强的端到端语音识别方法、程序产品和设备

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于注意力增强的端到端语音识别方法、程序产品和设备
申请号:CN202510327681
申请日期:2025-03-19
公开号:CN120183388A
公开日期:2025-06-20
类型:发明专利
摘要
本发明属于语音识别领域,具体涉及一种基于注意力增强的端到端语音识别方法、程序产品和设备。该方法基于改进Transformer构建包含编码器和解码器的语音识别网络,编码器包括下采样模块和多个特征提取单元,特征提取单元由1个RWKV层和2个E‑Branchformer层构成;RWKV层中包括cgMLP分支和GroupBiRWKV分支,二者用于提取输入特征的局部上下文声学信息和全局声学特征。解码器中包含多个循环设置的Transformer解码器层和RWKV解码器层;RWKV解码器层包括前馈模块、RWKV层和交叉注意力模块;编码器的输出作为两种解码器层中的交叉注意力模块的输入。采集真实的语音信号将其预处理用于对语音识别网络进行训练;并利用训练出的网络模型执行语音识别任务。本发明解决了现有方案的识别效率和精度不足的问题。
技术关键词
语音识别方法 注意力 语音识别网络 解码器 声学特征 特征提取单元 联合损失函数 编码器 执行语音识别 采样模块 序列 分支 通道 梯度下降法 混合模块 线性单元 标签 计算机程序产品