LSTM通过输入门、输出门和遗忘门可以更好的控制信息的流动和传递,具有长短时记忆能力。虽然LSTM的计算复杂度会比DNN增加,但其整体性能比DNN有相对20%左右稳定提升。BLSTM是在LSTM基础上做的进一步改进,不仅考虑语音信号的历史信息对当前帧的影响,还要考虑未来信息对当前帧的影响,因此其网络中沿时间轴存在正向和反向两个信息传递过程,这样该模型可以更充分考虑上下文对于当前语音帧的影响,能够极大提高语音状态分类的准确率。BLSTM考虑未来信息的代价是需要进行句子级更新,模型训练的收敛速度比较慢,同时也会带来解码的延迟,对于这些问题,业届都进行了工程优化与改进,即使现在仍然有很多大公司使用的都是该模型结构。图像识别中主流的模型就是CNN,而语音信号的时频图也可以看作是一幅图像,因此CNN也被引入到语音识别中。要想提高语音识别率,就需要克服语音信号所面临的多样性,包括说话人自身、说话人所处的环境、采集设备等,这些多样性都可以等价为各种滤波器与语音信号的卷积。而CNN相当于设计了一系列具有局部关注特性的滤波器,并通过训练学习得到滤波器的参数,从而从多样性的语音信号中抽取出不变的部分。
目前的主流语音识别系统多采用隐马尔可夫模型HMM进行声学模型建模。湖南语音识别教程
LSTM)的循环神经网络RNN,能够通过遗忘门和输出门忘记部分信息来解决梯度消失的问题。由LSTM也衍生出了许多变体,较为常用的是门控循环单元(GatedRecurrentUnit,GRU),在训练数据很大的情况下GRU相比LSTM参数更少,因此更容易收敛,从而能节省很多时间。LSTM及其变体使得识别效果再次得到提升,尤其是在近场的语音识别任务上达到了可以满足人们日常生活的标准。另外,时延神经网络(TimeDelayNeuralNetwork,TDNN)也获得了不错的识别效果,它可以适应语音的动态时域变化,能够学习到特征之间的时序依赖。深度学习技术在近十几年中,一直保持着飞速发展的状态,它也推动语音识别技术不断取得突破。尤其是近几年,基于端到端的语音识别方案逐渐成了行业中的关注重点,CTC(ConnectionistTemporalClassification)算法就是其中一个较为经典的算法。在LSTM-CTC的框架中,后一层往往会连接一个CTC模型,用它来替换HMM。CTC的作用是将Softmax层的输出向量直接输出成序列标签,这样就实现了输入语音和输出结果的直接映射,也实现了对整个语音的序列建模。2012年,Graves等人又提出了循环神经网络变换器RNNTransducer,它是CTC的一个扩展,能够整合声学模型与语言模型,同时进行优化。湖南语音识别教程随着技术的发展,现在口音、方言、噪声等场景下的语音识别也达到了可用状态。
先行者叮咚音箱的出师不利,更是加重了其它人的观望心态。真正让众多玩家从观望转为积极参与的转折点是逐步曝光的Echo销量,近千万的美国销量让整个世界震惊。这是智能设备从未达到过的高点,在Echo以前除了AppleWatch与手环,像恒温器、摄像头这样的产品突破百万销量已是惊人表现。这种销量以及智能音箱的AI属性促使下半年,国内各大巨头几乎是同时转度,积极打造自己的智能音箱。未来,回看整个发展历程,是一个明确的分界点。在此之前,全行业是突飞猛进,之后则开始进入对细节领域渗透和打磨的阶段,人们关注的焦点也不再是单纯的技术指标,而是回归到体验,回归到一种“新的交互方式到底能给我们带来什么价值”这样更为一般的、纯粹的商业视角。技术到产品再到是否需要与具体的形象进行交互结合,比如人物形象;流程自动化是否要与语音结合;酒店场景应该如何使用这种技术来提升体验,诸如此类终都会一一呈现在从业者面前。而此时行业的主角也会从原来的产品方过渡到平台提供方,AIoT纵深过大,没有任何一个公司可以全线打造所有的产品。语音识别的产业趋势当语音产业需求四处开花的同时。
MarkGales和SteveYoung在2007年对HMM在语音识别中的应用做了详细阐述。随着统计模型的成功应用,HMM开始了对语音识别数十年的统治,直到现今仍被看作是领域内的主流技术。在DARPA的语音研究计划的资助下,又诞生了一批的语音识别系统,其中包括李开复()在卡耐基梅隆大学攻读博士学位时开发的SPHINX系统。该系统也是基于统计模型的非特定说话人连续语音识别系统,其采用了如下技术:①用HMM对语音状态的转移概率建模;②用高斯混合模型(GaussianMixtureModel,GMM)对语音状态的观察值概率建模。这种把上述二者相结合的方法,称为高斯混合模型-隐马尔可夫模型(GaussianMixtureModel-HiddenMarkovModel,GMM-HMM)[9]。在深度学习热潮出现之前,GMM-HMM一直是语音识别主流的技术。值得注意的是,在20世纪80年代末,随着分布式知识表达和反向传播算法(Backpropagation,BP)的提出,解决了非线性学习问题,于是关于神经网络的研究兴起,人工神经网络(ArtificialNeuralNetwork,ANN)被应用到语音领域并且掀起了一定的热潮。这是具有里程碑意义的事件。它为若干年后深度学习在语音识别中的崛起奠定了一定的基础。但是由于人工神经网络其自身的缺陷还未得到完全解决。识别说话人简化为已经对特定人语音训练的系统中翻译语音的任务,作为安全过程的一部分来验证说话人的身份。
DFCNN使用大量的卷积直接对整句语音信号进行建模,主要借鉴了图像识别的网络配置,每个卷积层使用小卷积核,并在多个卷积层之后再加上池化层,通过累积非常多卷积池化层对,从而可以看到更多的历史信息。2018年,阿里提出LFR-DFSMN(LowerFrameRate-DeepFeedforwardSequentialMemoryNetworks)。该模型将低帧率算法和DFSMN算法进行融合,语音识别错误率相比上一代技术降低20%,解码速度提升3倍。FSMN通过在FNN的隐层添加一些可学习的记忆模块,从而可以有效的对语音的长时相关性进行建模。而DFSMN是通过跳转避免深层网络的梯度消失问题,可以训练出更深层的网络结构。2019年,百度提出了流式多级的截断注意力模型SMLTA,该模型是在LSTM和CTC的基础上引入了注意力机制来获取更大范围和更有层次的上下文信息。其中流式表示可以直接对语音进行一个小片段一个小片段的增量解码;多级表示堆叠多层注意力模型;截断则表示利用CTC模型的尖峰信息,把语音切割成一个一个小片段,注意力模型和解码可以在这些小片段上展开。在线语音识别率上,该模型比百度上一代DeepPeak2模型提升相对15%的性能。开源语音识别Kaldi是业界语音识别框架的基石。
远场语音识别已经随着智能音箱的兴起成为全球消费电子领域应用为成功的技术之一。河北语音识别代码
一些语音识别系统需要“训练”(也称为“注册”),其中个体说话者将文本或孤立的词汇读入系统。湖南语音识别教程
语音识别的原理❈语音识别是将语音转换为文本的技术,是自然语言处理的一个分支。前台主要步骤分为信号搜集、降噪和特征提取三步,提取的特征在后台由经过语音大数据训练得到的语音模型对其进行解码,终把语音转化为文本,实现达到让机器识别和理解语音的目的。根据公开资料显示,目前语音识别的技术成熟度较高,已达到95%的准确度。然而,需要指出的是,从95%到99%的准确度带来的改变才是质的飞跃,将使人们从偶尔使用语音变到常常使用。以下我们来举例,当我们说“jin天天气怎么样”时,机器是怎么进行语音识别的?❈2语义识别❈语义识别是人工智能的重要分支之一,解决的是“听得懂”的问题。其大的作用是改变人机交互模式,将人机交互由原始的鼠标、键盘交互转变为语音对话的方式。此外,我们认为目前的语义识别行业还未出现垄断者,新进入的创业公司仍具备一定机会。语义识别是自然语言处理(NLP)技术的重要组成部分。NLP在实际应用中大的困难还是语义的复杂性,此外,深度学习算法也不是语义识别领域的优算法。但随着整个AI行业发展进程加速,将为NLP带来长足的进步从1996年至今,国内至今仍在运营的人工智能公司接近400家。湖南语音识别教程