辽宁远场语音识别

时间:2024年03月16日 来源:

    3)上述两个问题的共性是目前的深度学习用到了语音信号各个频带的能量信息,而忽略了语音信号的相位信息,尤其是对于多通道而言,如何让深度学习更好的利用相位信息可能是未来的一个方向。(4)另外,在较少数据量的情况下,如何通过迁移学习得到一个好的声学模型也是研究的热点方向。例如方言识别,若有一个比较好的普通话声学模型,如何利用少量的方言数据得到一个好的方言声学模型,如果做到这点将极大扩展语音识别的应用范畴。这方面已经取得了一些进展,但更多的是一些训练技巧,距离目标还有一定差距。(5)语音识别的目的是让机器可以理解人类,因此转换成文字并不是终的目的。如何将语音识别和语义理解结合起来可能是未来更为重要的一个方向。语音识别里的LSTM已经考虑了语音的历史时刻信息,但语义理解需要更多的历史信息才能有帮助,因此如何将更多上下文会话信息传递给语音识别引擎是一个难题。(6)让机器听懂人类语言,靠声音信息还不够,“声光电热力磁”这些物理传感手段,下一步必然都要融合在一起,只有这样机器才能感知世界的真实信息,这是机器能够学习人类知识的前提条件。而且,机器必然要超越人类的五官,能够看到人类看不到的世界。

     远场语音识别已经随着智能音箱的兴起成为全球消费电子领域应用为成功的技术之一。辽宁远场语音识别

    特别是在Encoder层,将传统的RNN完全用Attention替代,从而在机器翻译任务上取得了更优的结果,引起了极大关注。随后,研究人员把Transformer应用到端到端语音识别系统中,也取得了非常明显的改进效果。另外,生成式对抗网络(GenerativeAdversarialNetwork,GAN)是近年来无监督学习方面具前景的一种新颖的深度学习模型,"GenerativeAdversarialNets",文中提出了一个通过对抗过程估计生成模型框架的全新方法。通过对抗学习,GAN可用于提升语音识别的噪声鲁棒性。GAN网络在无监督学习方面展现出了较大的研究潜质和较好的应用前景。从一个更高的角度来看待语音识别的研究历程,从HMM到GMM,到DNN,再到CTC和Attention,这个演进过程的主线是如何利用一个网络模型实现对声学模型层面更准的刻画。换言之,就是不断尝试更好的建模方式以取代基于统计的建模方式。在2010年以前,语音识别行业水平普遍还停留在80%的准确率以下。机器学习相关模型算法的应用和计算机性能的增强,带来了语音识别准确率的大幅提升。到2015年,识别准确率就达到了90%以上。谷歌公司在2013年时,识别准确率还只有77%,然而到2017年5月时,基于谷歌深度学习的英语语音识别错误率已经降低到。上海实时语音识别大规模的语音识别研究始于70年代,并在单个词的识别方面取得了实质性的进展。

    Hinton提出深度置信网络(DBN),促使了深度神经网络(DNN)研究的复苏。2009年,Hinton将DNN应用于语音的声学建模,在TIMIT上获得了当时好的结果。2011年底,微软研究院的俞栋、邓力又把DNN技术应用在了大词汇量连续语音识别任务上,降低了语音识别错误率。从此语音识别进入DNN-HMM时代。DNN-HMM主要是用DNN模型代替原来的GMM模型,对每一个状态进行建模,DNN带来的好处是不再需要对语音数据分布进行假设,将相邻的语音帧拼接又包含了语音的时序结构信息,使得对于状态的分类概率有了明显提升,同时DNN还具有强大环境学习能力,可以提升对噪声和口音的鲁棒性。简单来说,DNN就是给出输入的一串特征所对应的状态概率。由于语音信号是连续的,各个音素、音节以及词之间没有明显的边界,各个发音单位还会受到上下文的影响。虽然拼帧可以增加上下文信息,但对于语音来说还是不够。而递归神经网络(RNN)的出现可以记住更多历史信息,更有利于对语音信号的上下文信息进行建模。由于简单的RNN存在梯度炸和梯度消散问题,难以训练,无法直接应用于语音信号建模上,因此学者进一步探索,开发出了很多适合语音建模的RNN结构,其中有名的就是LSTM。

    DTW)技术基本成熟,特别提出了矢量量化(Vec⁃torQuantization,VQ)和隐马尔可夫模型(HiddenMar⁃kovModel,HMM)理论。20世纪80年代,语音识别任务开始从孤立词、连接词的识别转向大词汇量、非特定人、连续语音的识别,识别算法也从传统的基于标准模板匹配的方法转向基于统计模型的方法。在声学模型方面,由于HMM能够很好的描述语音时变性和平稳性,开始被应用于大词汇量连续语音识别(LargeVocabularyContinousSpeechRecognition,LVCSR)的声学建模;在语言模型方面,以N元文法的统计语言模型开始应用于语音识别系统。在这一阶段,基于HMM/VQ、HMM/高斯混合模型、HMM/人工神经网络的语音建模方法开始应用于LVCSR系统,语音识别技术取得新突破。20世纪90年代以后,伴随着语音识别系统走向实用化,语音识别在细化模型的设计、参数提取和优化、系统的自适应方面取得较大进展。同时,人们更多地关注话者自适应、听觉模型、快速搜索识别算法以及进一步的语言模型的研究等课题。此外,语音识别技术开始与其他领域相关技术进行结合,以提高识别的准确率,便于实现语音识别技术的产品化。怎么构建语音识别系统?语音识别系统构建总体包括两个部分:训练和识别。对于强噪声、超远场、强干扰、多语种、大词汇等场景下的语音识别还需要很大的提升。

    并能产生兴趣投身于这个行业。语音识别的技术历程现代语音识别可以追溯到1952年,Davis等人研制了能识别10个英文数字发音的实验系统,从此正式开启了语音识别的进程。语音识别发展已经有70多年,但从技术方向上可以大体分为三个阶段。从1993年到2017年在Switchboard上语音识别率的进展情况,从图中也可以看出1993年到2009年,语音识别一直处于GMM-HMM时代,语音识别率提升缓慢,尤其是2000年到2009年语音识别率基本处于停滞状态;2009年随着深度学习技术,特别是DNN的兴起,语音识别框架变为DNN-HMM,语音识别进入了DNN时代,语音识别准率得到了提升;2015年以后,由于“端到端”技术兴起,语音识别进入了百花齐放时代,语音界都在训练更深、更复杂的网络,同时利用端到端技术进一步大幅提升了语音识别的性能,直到2017年微软在Swichboard上达到词错误率,从而让语音识别的准确性超越了人类,当然这是在一定限定条件下的实验结果,还不具有普遍性。GMM-HMM时代70年代,语音识别主要集中在小词汇量、孤立词识别方面,使用的方法也主要是简单的模板匹配方法,即首先提取语音信号的特征构建参数模板,然后将测试语音与参考模板参数进行一一比较和匹配。在语音识别的漫长历史中,人工神经网络的浅层和深层(例如递归网络)。上海实时语音识别

更重要的是体现在世界范围内的各行各业在设计和部署语音识别系统时均采用了各种深度学习方法。辽宁远场语音识别

    feed-forwardsequentialmemorynetwork,FSMN),在DNN的隐层旁增加了一个“记忆模块”,这个记忆模块用来存储对判断当前语音帧有用的语音信号的历史信息和未来信息,并且只需等待有限长度的未来语音帧。随后,科大讯飞进一步提出了深度全序列卷积神经网络(DFCNN)。2018年,阿里巴巴改良并开源了语音识别模型DFSMN(DeepFSMN)。2018年,中科院自动化所率先把Transformer应用到语音识别任务,并进一步拓展到中文语音识别。不管是在研究成果还是在产品性能体验上,国内的语音行业整体水平已经达到甚至超越了国际水平。2016年10月,时任百度首席科学家的吴恩达在对微软的语音识别技术与人类水平持平的消息表示祝贺的同时声称,百度的汉语语音识别在2015年就已经超越了人类的平均水平,也就是说百度比微软提前一年实现了这一成绩。当前语音识别系统依然面临着不少应用挑战,其中包括以下主要问题:鲁棒性。目前语音识别准确率超过人类水平主要还是在受限的场景下,比如在安静环境的情况下,而一旦加入干扰信号,尤其是环境噪声和人声干扰,性能往往会明显下降。因此,如何在复杂场景(包括非平稳噪声、混响、远场)下,提高语音识别的鲁棒性,研发"能用=>好用"的语音识别产品。辽宁远场语音识别

信息来源于互联网 本站不为信息真实性负责