CNN本质上也可以看作是从语音信号中不断抽取特征的一个过程。CNN相比于传统的DNN模型,在相同性能情况下,前者的参数量更少。综上所述,对于建模能力来说,DNN适合特征映射到空间,LSTM具有长短时记忆能力,CNN擅长减少语音信号的多样性,因此一个好的语音识别系统是这些网络的组合。端到端时代语音识别的端到端方法主要是代价函数发生了变化,但神经网络的模型结构并没有太大变化。总体来说,端到端技术解决了输入序列的长度远大于输出序列长度的问题。端到端技术主要分成两类:一类是CTC方法,另一类是Sequence-to-Sequence方法。传统语音识别DNN-HMM架构里的声学模型,每一帧输入都对应一个标签类别,标签需要反复的迭代来确保对齐更准确。采用CTC作为损失函数的声学模型序列,不需要预先对数据对齐,只需要一个输入序列和一个输出序列就可以进行训练。CTC关心的是预测输出的序列是否和真实的序列相近,而不关心预测输出序列中每个结果在时间点上是否和输入的序列正好对齐。CTC建模单元是音素或者字,因此它引入了Blank。对于一段语音,CTC**后输出的是尖峰的序列,尖峰的位置对应建模单元的Label,其他位置都是Blank。语音识别模块被广泛应用在AI人工智能产品、智能家居遥控、智能玩具等多种领域上。深圳未来语音识别哪里买
数据化的“文字”更容易触发个人对信息的重视程度,有效避免信息的遗漏。会议纪要更准确。系统能够提供对与会人员发言内容的高保真记录,且可以通过文字定位并回听语音,达到声文对应,辅助记录人员更好的理解会议思想、提升纪要结论或纪要决议的准确度。数据安全性强。系统应用后能够降低对记录人员的要求,一名普通的人员在会后简单编辑即可出稿,不需要外聘速录人员,内部参与的员工也可控制到少,故只需做好设备的安全管控,就能有效保障会议信息安全。实现价值提高工作效率。系统的实时语音转写、历史语音转写等功能,能够辅助秘书及文员快速完成会议记录的整理、编制、校对、归档等工作,减少会议纪要的误差率,提升工作人员的工作质量和工作效率。会议安全性增强。系统采用本地化部署加语音转写引擎加密,确保会议数据安全,改变了传统会议模式的会议内容保密隐患问题。节约企业成本。系统的功能是实现语音实时转写、会议信息管理。可根据转写内容快速检索录音内容,提取会议纪要,实现便捷的会议录音管理,此技术可节约会议人力成本约50%。开启会议工作智能化。系统实现了会议管理与人工智能的接轨,为后续推动办公业务与人工智能、大数据的融合奠定了基础。广州语音识别服务标准语音识别另外两个技术部分:语言模型和解码器,目前来看并没有太大的技术变化。
LSTM)的循环神经网络RNN,能够通过遗忘门和输出门忘记部分信息来解决梯度消失的问题。由LSTM也衍生出了许多变体,较为常用的是门控循环单元(GatedRecurrentUnit,GRU),在训练数据很大的情况下GRU相比LSTM参数更少,因此更容易收敛,从而能节省很多时间。LSTM及其变体使得识别效果再次得到提升,尤其是在近场的语音识别任务上达到了可以满足人们日常生活的标准。另外,时延神经网络(TimeDelayNeuralNetwork,TDNN)也获得了不错的识别效果,它可以适应语音的动态时域变化,能够学习到特征之间的时序依赖。深度学习技术在近十几年中,一直保持着飞速发展的状态,它也推动语音识别技术不断取得突破。尤其是近几年,基于端到端的语音识别方案逐渐成了行业中的关注重点,CTC(ConnectionistTemporalClassification)算法就是其中一个较为经典的算法。在LSTM-CTC的框架中,后一层往往会连接一个CTC模型,用它来替换HMM。CTC的作用是将Softmax层的输出向量直接输出成序列标签,这样就实现了输入语音和输出结果的直接映射,也实现了对整个语音的序列建模。2012年,Graves等人又提出了循环神经网络变换器RNNTransducer,它是CTC的一个扩展,能够整合声学模型与语言模型,同时进行优化。
语音识别技术飞速发展,又取得了几个突破性的进展。1970年,来自前苏联的Velichko和Zagoruyko将模式识别的概念引入语音识别中。同年,Itakura提出了线性预测编码(LinearPredictiveCoding,LPC)技术,并将该技术应用于语音识别。1978年,日本人Sakoe和Chiba在前苏联科学家Vintsyuk的工作基础上,成功地使用动态规划算法将两段不同长度的语音在时间轴上进行了对齐,这就是我们现在经常提到的动态时间规整(DynamicTimeWarping,DTW)。该算法把时间规整和距离的计算有机地结合起来,解决了不同时长语音的匹配问题。在一些要求资源占用率低、识别人比较特定的环境下,DTW是一种很经典很常用的模板匹配算法。这些技术的提出完善了语音识别的理论研究,并且使得孤立词语音识别系统达到了一定的实用性。此后,以IBM公司和Bell实验室为的语音研究团队开始将研究重点放到大词汇量连续语音识别系统(LargeVocabularyContinuousSpeechRecognition,LVCSR),因为这在当时看来是更有挑战性和更有价值的研究方向。20世纪70年代末,Linda的团队提出了矢量量化(VectorQuantization。VQ)的码本生成方法,该项工作对于语音编码技术具有重大意义。实时语音识别适用于长句语音输入、音视频字幕、会议等场景。
DFCNN使用大量的卷积直接对整句语音信号进行建模,主要借鉴了图像识别的网络配置,每个卷积层使用小卷积核,并在多个卷积层之后再加上池化层,通过累积非常多卷积池化层对,从而可以看到更多的历史信息。2018年,阿里提出LFR-DFSMN(LowerFrameRate-DeepFeedforwardSequentialMemoryNetworks)。该模型将低帧率算法和DFSMN算法进行融合,语音识别错误率相比上一代技术降低20%,解码速度提升3倍。FSMN通过在FNN的隐层添加一些可学习的记忆模块,从而可以有效的对语音的长时相关性进行建模。而DFSMN是通过跳转避免深层网络的梯度消失问题,可以训练出更深层的网络结构。2019年,百度提出了流式多级的截断注意力模型SMLTA,该模型是在LSTM和CTC的基础上引入了注意力机制来获取更大范围和更有层次的上下文信息。其中流式表示可以直接对语音进行一个小片段一个小片段的增量解码;多级表示堆叠多层注意力模型;截断则表示利用CTC模型的尖峰信息,把语音切割成一个一个小片段,注意力模型和解码可以在这些小片段上展开。在线语音识别率上,该模型比百度上一代DeepPeak2模型提升相对15%的性能。开源语音识别Kaldi是业界语音识别框架的基石。
神经网络已经逐渐用于语音识别,例如音素分类,孤立单词识别,视听语音识别、视听说话者识别和说话者适应。广州语音识别
在语音识别中,丰富的样本数据是推动系统性能快速提升的重要前提。深圳未来语音识别哪里买
提升用户体验,仍然是要重点解决的问题。口语化。每个说话人的口音、语速和发声习惯都是不一样的,尤其是一些地区的口音(如南方口音、山东重口音),会导致准确率急剧下降。还有电话场景和会议场景的语音识别,其中包含很多口语化表达,如闲聊式的对话,在这种情况下的识别效果也很不理想。因此语音识别系统需要提升自适应能力,以便更好地匹配个性化、口语化表达,排除这些因素对识别结果的影响,达到准确稳定的识别效果。低资源。特定场景、方言识别还存在低资源问题。手机APP采集的是16kHz宽带语音。有大量的数据可以训练,因此识别效果很好,但特定场景如银行/证券柜台很多采用专门设备采集语音,保存的采样格式压缩比很高,跟一般的16kHz或8kHz语音不同,而相关的训练数据又很缺乏,因此识别效果会变得很差。低资源问题同样存在于方言识别,中国有七大方言区,包括官话方言(又称北方方言)、吴语、湘语、赣语、客家话、粤语、闽语(闽南语),还有晋语、湘语等分支,要搜集各地数据(包括文本语料)相当困难。因此如何从高资源的声学模型和语言模型迁移到低资源的场景,减少数据搜集的代价,是很值得研究的方向。语种混杂(code-switch)。在日常交流中。深圳未来语音识别哪里买