广东语音识别系统

    语音识别自半个世纪前诞生以来，一直处于不温不火的状态，直到2009年深度学习技术的长足发展才使得语音识别的精度提高，虽然还无法进行无限制领域、无限制人群的应用，但也在大多数场景中提供了一种便利高效的沟通方式。本篇文章将从技术和产业两个角度来回顾一下语音识别发展的历程和现状，并分析一些未来趋势，希望能帮助更多年轻技术人员了解语音行业，并能产生兴趣投身于这个行业。语音识别，通常称为自动语音识别，英文是AutomaticSpeechRecognition，缩写为ASR，主要是将人类语音中的词汇内容转换为计算机可读的输入，一般都是可以理解的文本内容，也有可能是二进制编码或者字符序列。但是，我们一般理解的语音识别其实都是狭义的语音转文字的过程，简称语音转文本识别（SpeechToText,STT）更合适，这样就能与语音合成(TextToSpeech,TTS)对应起来。语音识别是一项融合多学科知识的前沿技术，覆盖了数学与统计学、声学与语言学、计算机与人工智能等基础学科和前沿学科，是人机自然交互技术中的关键环节。但是，语音识别自诞生以来的半个多世纪，一直没有在实际应用过程得到普遍认可，一方面这与语音识别的技术缺陷有关，其识别精度和速度都达不到实际应用的要求。

     语音识别应用包括语音用户界面，例如语音拨号、呼叫路由、多用户设备控制、搜索、简单的数据输入等。广东语音识别系统

    并能产生兴趣投身于这个行业。语音识别的技术历程现代语音识别可以追溯到1952年，Davis等人研制了能识别10个英文数字发音的实验系统，从此正式开启了语音识别的进程。语音识别发展已经有70多年，但从技术方向上可以大体分为三个阶段。从1993年到2017年在Switchboard上语音识别率的进展情况，从图中也可以看出1993年到2009年，语音识别一直处于GMM-HMM时代，语音识别率提升缓慢，尤其是2000年到2009年语音识别率基本处于停滞状态；2009年随着深度学习技术，特别是DNN的兴起，语音识别框架变为DNN-HMM，语音识别进入了DNN时代，语音识别准率得到了提升；2015年以后，由于“端到端”技术兴起，语音识别进入了百花齐放时代，语音界都在训练更深、更复杂的网络，同时利用端到端技术进一步大幅提升了语音识别的性能，直到2017年微软在Swichboard上达到词错误率，从而让语音识别的准确性超越了人类，当然这是在一定限定条件下的实验结果，还不具有普遍性。GMM-HMM时代70年代，语音识别主要集中在小词汇量、孤立词识别方面，使用的方法也主要是简单的模板匹配方法，即首先提取语音信号的特征构建参数模板，然后将测试语音与参考模板参数进行一一比较和匹配。新疆语音识别学习伴随着语音识别系统走向实用化，语音识别在细化模型的设计、参数提取和优化、系统的自适应方面取得进展。

    语音识别技术飞速发展，又取得了几个突破性的进展。1970年，来自前苏联的Velichko和Zagoruyko将模式识别的概念引入语音识别中。同年，Itakura提出了线性预测编码(LinearPredictiveCoding，LPC)技术，并将该技术应用于语音识别。1978年，日本人Sakoe和Chiba在前苏联科学家Vintsyuk的工作基础上，成功地使用动态规划算法将两段不同长度的语音在时间轴上进行了对齐，这就是我们现在经常提到的动态时间规整(DynamicTimeWarping，DTW)。该算法把时间规整和距离的计算有机地结合起来，解决了不同时长语音的匹配问题。在一些要求资源占用率低、识别人比较特定的环境下，DTW是一种很经典很常用的模板匹配算法。这些技术的提出完善了语音识别的理论研究，并且使得孤立词语音识别系统达到了一定的实用性。此后，以IBM公司和Bell实验室为的语音研究团队开始将研究重点放到大词汇量连续语音识别系统(LargeVocabularyContinuousSpeechRecognition，LVCSR)，因为这在当时看来是更有挑战性和更有价值的研究方向。20世纪70年代末，Linda的团队提出了矢量量化(VectorQuantization。VQ)的码本生成方法，该项工作对于语音编码技术具有重大意义。

    Sequence-to-Sequence方法原来主要应用于机器翻译领域。2017年，Google将其应用于语音识别领域，取得了非常好的效果，将词错误率降低至。Google提出新系统的框架由三个部分组成：Encoder编码器组件，它和标准的声学模型相似，输入的是语音信号的时频特征；经过一系列神经网络，映射成高级特征henc，然后传递给Attention组件，其使用henc特征学习输入x和预测子单元之间的对齐方式，子单元可以是一个音素或一个字。**后，attention模块的输出传递给Decoder，生成一系列假设词的概率分布，类似于传统的语言模型。端到端技术的突破，不再需要HMM来描述音素内部状态的变化，而是将语音识别的所有模块统一成神经网络模型，使语音识别朝着更简单、更高效、更准确的方向发展。语音识别的技术现状目前，主流语音识别框架还是由3个部分组成：声学模型、语言模型和解码器，有些框架也包括前端处理和后处理。随着各种深度神经网络以及端到端技术的兴起，声学模型是近几年非常热门的方向，业界都纷纷发布自己新的声学模型结构，刷新各个数据库的识别记录。由于中文语音识别的复杂性，国内在声学模型的研究进展相对更快一些。语音识别的许多方面已经被一种叫做长短期记忆 (LSTM)的深度学习方法所取代。

    美国**部下属的一个名为美国**高级研究计划局(DefenseAdvancedResearchProjectsAgency，DARPA)的行政机构，在20世纪70年代介入语音领域，开始资助一项旨在支持语言理解系统的研究开发工作的10年战略计划。在该计划推动下，诞生了一系列不错的研究成果，如卡耐基梅隆大学推出了Harpy系统，其能识别1000多个单词且有不错的识别率。第二阶段：统计模型(GMM-HMM)到了20世纪80年代，更多的研究人员开始从对孤立词识别系统的研究转向对大词汇量连续语音识别系统的研究，并且大量的连续语音识别算法应运而生，例如分层构造(LevelBuilding)算法等。同时，20世纪80年代的语音识别研究相较于20世纪70年代，另一个变化是基于统计模型的技术逐渐替代了基于模板匹配的技术。统计模型两项很重要的成果是声学模型和语言模型，语言模型以n元语言模型(n-gram)，声学模型以HMM。HMM的理论基础在1970年前后由Baum等人建立，随后由卡耐基梅隆大学(CMU)的Baker和IBM的Jelinek等人应用到语音识别中。在20世纪80年代中期，Bell实验室的.Rabiner等人对HMM进行了深入浅出的介绍。并出版了语音识别专著FundamentalsofSpeechRecognition，有力地推动了HMM在语音识别中的应用。声学模型和语言模型都是当今基于统计的语音识别算法的重要组成部分。湖南安卓语音识别

技术的发展，现在口音、方言、噪声等场景下的语音识别也达到了可用状态。广东语音识别系统

    取距离近的样本所对应的词标注为该语音信号的发音。该方法对解决孤立词识别是有效的，但对于大词汇量、非特定人连续语音识别就无能为力。因此，进入80年代后，研究思路发生了重大变化，从传统的基于模板匹配的技术思路开始转向基于统计模型（HMM）的技术思路。HMM的理论基础在1970年前后就已经由Baum等人建立起来，随后由CMU的Baker和IBM的Jelinek等人将其应用到语音识别当中。HMM模型假定一个音素含有3到5个状态，同一状态的发音相对稳定，不同状态间是可以按照一定概率进行跳转；某一状态的特征分布可以用概率模型来描述，使用的模型是GMM。因此GMM-HMM框架中，HMM描述的是语音的短时平稳的动态性，GMM用来描述HMM每一状态内部的发音特征。基于GMM-HMM框架，研究者提出各种改进方法，如结合上下文信息的动态贝叶斯方法、区分性训练方法、自适应训练方法、HMM/NN混合模型方法等。这些方法都对语音识别研究产生了深远影响，并为下一代语音识别技术的产生做好了准备。自上世纪90年代语音识别声学模型的区分性训练准则和模型自适应方法被提出以后，在很长一段内语音识别的发展比较缓慢，语音识别错误率那条线一直没有明显下降。DNN-HMM时代2006年，Hinton提出深度置信网络。

    广东语音识别系统