天津谷歌语音识别
一直推崇的是Chain模型。该模型是一种类似于CTC的技术,建模单元相比于传统的状态要更粗颗粒一些,只有两个状态,一个状态是CDPhone,另一个是CDPhone的空白,训练方法采用的是Lattice-FreeMMI训练。该模型结构可以采用低帧率的方式进行解码,解码帧率为传统神经网络声学模型的三分之一,而准确率相比于传统模型有非常的提升。远场语音识别技术主要解决真实场景下舒适距离内人机任务对话和服务的问题,是2015年以后开始兴起的技术。由于远场语音识别解决了复杂环境下的识别问题,在智能家居、智能汽车、智能会议、智能安防等实际场景中获得了广泛应用。目前国内远场语音识别的技术框架以前端信号处理和后端语音识别为主,前端利用麦克风阵列做去混响、波束形成等信号处理,以让语音更清晰,然后送入后端的语音识别引擎进行识别。语音识别另外两个技术部分:语言模型和解码器,目前来看并没有太大的技术变化。语言模型主流还是基于传统的N-Gram方法,虽然目前也有神经网络的语言模型的研究,但在实用中主要还是更多用于后处理纠错。解码器的指标是速度,业界大部分都是按照静态解码的方式进行,即将声学模型和语言模型构造成WFST网络。该网络包含了所有可能路径。
一个众所周知的应用是自动语音识别,以应对不同的说话速度。天津谷歌语音识别
即在解码端通过搜索技术寻找优词串的方法。连续语音识别中的搜索,就是寻找一个词模型序列以描述输入语音信号,从而得到词解码序列。搜索所依据的是对公式中的声学模型打分和语言模型打分。在实际使用中,往往要依据经验给语言模型加上一个高权重,并设置一个长词惩罚分数。语音识别本质上是一种模式识别的过程,未知语音的模式与已知语音的参考模式逐一进行比较,佳匹配的参考模式被作为识别结果。当今语音识别技术的主流算法,主要有基于动态时间规整(DTW)算法、基于非参数模型的矢量量化(VQ)方法、基于参数模型的隐马尔可夫模型(HMM)的方法、以及近年来基于深度学习和支持向量机等语音识别方法。站在巨人的肩膀上:开源框架目前开源世界里提供了多种不同的语音识别工具包,为开发者构建应用提供了很大帮助。但这些工具各有优劣,需要根据具体情况选择使用。下表为目前相对流行的工具包间的对比,大多基于传统的HMM和N-Gram语言模型的开源工具包。对于普通用户而言,大多数人都会知道Siri或Cortana这样的产品。而对于研发工程师来说,更灵活、更具专注性的解决方案更符合需求,很多公司都会研发自己的语音识别工具。(1)CMUSphinix是卡内基梅隆大学的研究成果。北京语音识别设置语音识别与键盘、鼠标或触摸屏等应是融合关系,而非替代关系。
DFCNN使用大量的卷积直接对整句语音信号进行建模,主要借鉴了图像识别的网络配置,每个卷积层使用小卷积核,并在多个卷积层之后再加上池化层,通过累积非常多卷积池化层对,从而可以看到更多的历史信息。2018年,阿里提出LFR-DFSMN(LowerFrameRate-DeepFeedforwardSequentialMemoryNetworks)。该模型将低帧率算法和DFSMN算法进行融合,语音识别错误率相比上一代技术降低20%,解码速度提升3倍。FSMN通过在FNN的隐层添加一些可学习的记忆模块,从而可以有效的对语音的长时相关性进行建模。而DFSMN是通过跳转避免深层网络的梯度消失问题,可以训练出更深层的网络结构。2019年,百度提出了流式多级的截断注意力模型SMLTA,该模型是在LSTM和CTC的基础上引入了注意力机制来获取更大范围和更有层次的上下文信息。其中流式表示可以直接对语音进行一个小片段一个小片段的增量解码;多级表示堆叠多层注意力模型;截断则表示利用CTC模型的尖峰信息,把语音切割成一个一个小片段,注意力模型和解码可以在这些小片段上展开。在线语音识别率上,该模型比百度上一代DeepPeak2模型提升相对15%的性能。开源语音识别Kaldi是业界语音识别框架的基石。
美国**部下属的一个名为美国**高级研究计划局(DefenseAdvancedResearchProjectsAgency,DARPA)的行政机构,在20世纪70年代介入语音领域,开始资助一项旨在支持语言理解系统的研究开发工作的10年战略计划。在该计划推动下,诞生了一系列不错的研究成果,如卡耐基梅隆大学推出了Harpy系统,其能识别1000多个单词且有不错的识别率。第二阶段:统计模型(GMM-HMM)到了20世纪80年代,更多的研究人员开始从对孤立词识别系统的研究转向对大词汇量连续语音识别系统的研究,并且大量的连续语音识别算法应运而生,例如分层构造(LevelBuilding)算法等。同时,20世纪80年代的语音识别研究相较于20世纪70年代,另一个变化是基于统计模型的技术逐渐替代了基于模板匹配的技术。统计模型两项很重要的成果是声学模型和语言模型,语言模型以n元语言模型(n-gram),声学模型以HMM。HMM的理论基础在1970年前后由Baum等人建立,随后由卡耐基梅隆大学(CMU)的Baker和IBM的Jelinek等人应用到语音识别中。在20世纪80年代中期,Bell实验室的.Rabiner等人对HMM进行了深入浅出的介绍。并出版了语音识别专著FundamentalsofSpeechRecognition,有力地推动了HMM在语音识别中的应用。信号处理和特征提取可以视作音频数据的预处理部分,一般来说,一段高保真、无噪声的语言是非常难得的。
亚马逊的Echo音箱刚开始推出的两三年,国内的智能音箱市场还不温不火,不为消费者所接受,因此销量非常有限。但自2017年以来,智能家居逐渐普及,音箱市场开始火热,为抢占语音入口,阿里巴巴、百度、小米、华为等大公司纷纷推出了各自的智能音箱。据Canalys报告,2019年第1季度中国市场智能音箱出货量全球占比51%,超过美国,成为全球*大的智能音箱市场。据奥维云网(AVC)数据显示,2019年上半年中国智能音箱市场销量为1556万台,同比增长233%。随着语音市场的扩大,国内涌现出一批具有强大竞争力的语音公司和研究团队,包括云知声、思必驰、出门问问、声智科技、北科瑞声、天聪智能等。他们推出的语音产品和解决方案主要针对特定场景,如车载导航、智能家居、医院的病历输入、智能客服、会议系统、证券柜台业务等,因为采用深度定制,识别效果和产品体验更佳。在市场上获得了不错的反响。针对智能硬件的离线识别,云知声和思必驰等公司还研发出专门的语音芯片,进一步降低功耗,提高产品的性价比。在国内语音应用突飞猛进的同时,各大公司和研究团队纷纷在国际学术会议和期刊上发表研究成果。2015年,张仕良等人提出了前馈型序列记忆网络。语音识别的许多方面已经被一种叫做长短期记忆 (LSTM)的深度学习方法所取代。天津谷歌语音识别
不使用训练的系统被称为“说话者无关”系统。天津谷歌语音识别
LSTM)的循环神经网络RNN,能够通过遗忘门和输出门忘记部分信息来解决梯度消失的问题。由LSTM也衍生出了许多变体,较为常用的是门控循环单元(GatedRecurrentUnit,GRU),在训练数据很大的情况下GRU相比LSTM参数更少,因此更容易收敛,从而能节省很多时间。LSTM及其变体使得识别效果再次得到提升,尤其是在近场的语音识别任务上达到了可以满足人们日常生活的标准。另外,时延神经网络(TimeDelayNeuralNetwork,TDNN)也获得了不错的识别效果,它可以适应语音的动态时域变化,能够学习到特征之间的时序依赖。深度学习技术在近十几年中,一直保持着飞速发展的状态,它也推动语音识别技术不断取得突破。尤其是近几年,基于端到端的语音识别方案逐渐成了行业中的关注重点,CTC(ConnectionistTemporalClassification)算法就是其中一个较为经典的算法。在LSTM-CTC的框架中,后一层往往会连接一个CTC模型,用它来替换HMM。CTC的作用是将Softmax层的输出向量直接输出成序列标签,这样就实现了输入语音和输出结果的直接映射,也实现了对整个语音的序列建模。2012年,Graves等人又提出了循环神经网络变换器RNNTransducer,它是CTC的一个扩展,能够整合声学模型与语言模型,同时进行优化。天津谷歌语音识别