腾讯AI Lab 8篇论文入选，从0到1解读语音交互能力｜InterSpeech 2018

作者：admin 时间： 2025-04-15 212 人浏览

【深圳移动KTV爆火！网约车变"夜店"，乘客：这车我能坐一整夜】 “双瓷王”金霏陈曦，十年磨一剑，今朝试锋芒！

9月2到6日，Interspeech会议在印度海得拉巴举办，腾讯AILab首次参加，有8篇论文入选，位居国内企业前列。该年度会议由国际语音通信协会ISCA（InternationalSpeechCommunicationAssociation）组织，是全球最大的综合性语音信号处理领域的科技盛会。

腾讯AILab也在业界分享语音方面的研究成果，今年已在多个国际顶级会议和期刊上发表了系列研究成果，涵盖从语音前端处理到后端识别及合成等整个技术流程。比如今年4月举办的IEEE声学、语音与信号处理国际会议（ICASSP2018），是由IEEE主办、全球最大、最全面的信号处理及其应用方面的顶级学术会议，腾讯AILab也入选论文4篇，介绍了其在多说话人语音识别、神经网络语言模型建模和说话风格合成自适应方面的研究进展。

在研究方面，腾讯AILab提出了一些新的方法和改进，在语音增强、语音分离、语音识别、语音合成等技术方向都取得了一些不错的进展。在落地应用上，语音识别中心为多个腾讯产品提供技术支持，比如「腾讯听听音箱」、「腾讯极光电视盒子」，并融合内外部合作伙伴的先进技术，在语音控制、语义解析、语音合成（TTS）等方面都达到了业内领先水平。

本文将基于智能音箱的基本工作流程介绍腾讯AILab在语音方面的近期研究进展。

首先，我们先了解一下音箱语音交互技术链条。

智能音箱的最典型应用场景是家庭，在这种场景中用户与音箱设备的距离通常比用户在智能手机上使用语音应用的距离远很多，因此会引入较明显的室内混响、回声，音乐、电视等环境噪声，也会出现多说话人同时说话，有较强背景人声的问题。要在这样的场景中获取、增强、分离得到质量较好的语音信号并准确识别是智能音箱达到好的用户体验所要攻克的第一道难关。

麦克风阵列是这一步最常用的解决方案之一，比如腾讯听听就采用了由6个麦克风组成的环形阵列，能够很好地捕捉来自各个方位的声音。

麦克风采集到声音之后，就需要对这些声音进行处理，对多麦克风采集到的声音信号进行处理，得到清晰的人声以便进一步识别。这里涉及的技术包括语音端点检测、回声消除、声源定位和去混响、语音增强等。另外，对于通常处于待机状态的智能音箱，通常都会配备语音唤醒功能。为了保证用户体验，语音唤醒必须要足够灵敏和快速地做出响应，同时尽量减少非唤醒语音误触发引起的误唤醒。

经过麦克风阵列前端处理，接下来要做的是识别说话人的身份和理解说话内容，这方面涉及到声纹识别、语音识别和模型自适应等方面的问题。

之后，基于对说话内容的理解执行任务操作，并通过语音合成系统合成相应语音来进行回答响应。如何合成高质量、更自然、更有特色的语音也一直是语音领域的一大重点研究方向。

腾讯AILab的研究范围涵盖了上图中总结的音箱语音交互技术链条的所有5个步骤，接下来将依此链条介绍腾讯AILab近期的语音研究进展。

1）前端

采集到声音之后，首先需要做的是消除噪声和分离人声，并对唤醒词做出快速响应。

在拾音和噪声消除方面，腾讯AILab的VoiceProcessing（简称AIVP）解决方案集成了语音检测、声源测向、麦克风阵列波束形成、定向拾音、噪声抑制、混响消除、回声消除、自动增益等多种远场语音处理模块，能有效地为后续过程提供增强过的清晰语音。发表于Symmetry的论文《一种用于块稀疏系统的改进型集合-元素比例自适应算法（AnImprovedSet-membershipProportionateAdaptiveAlgorithmForABlock-sparseSystem）》是在回声消除方面的研究。

远场语音处理的各个模块

在语音唤醒方面，腾讯AILab的Interspeech2018研究《基于文本相关语音增强的小型高鲁棒性的关键词检测（Text-DepentSpeechEnhancementforSmall-FootprintRobustKeywordDetection）》针对语音唤醒的误唤醒、噪声环境中唤醒、快语速唤醒和儿童唤醒等问题提出了一种新的语音唤醒模型——使用LSTMRNN的文本相关语音增强（TDSE）技术，能显著提升关键词检测的质量，并且在有噪声环境下也表现突出，同时还能显著降低前端和关键词检测模块的功耗需求。

基于文本相关语音增强的关键词检测架构

2）声纹识别

声纹识别是指根据说话人的声波特性进行身份辨识。这种技术有非常广泛的应用范围，比如根据不同家庭用户的偏好定制个性化的应用组合。声纹系统还可用于判断新用户的性别和年龄信息，以便在之后的互动中根据用户属性进行相关推荐。

声纹识别也存在一些有待攻克的挑战。在技术上存在信道失配、环境噪声、短语音、远场等难题，在应用上还有录音冒认、兼容能力、交互设计等挑战。声纹模型还应当具备兼容确认和辨别功能，支持隐式更新和隐式注册，以便随用户使用时间的增长而逐步提升性能。

支持隐式注册的声纹模型的性能随用户使用时长增长而提升

腾讯AILab除了应用已实现的经典声纹识别算法外（GMM-UBM、GMM/Ivector、DNN/Ivector、GSV），也在探索和开发基于DNNembedding的新方法，且在短语音方面已经实现了优于主流方法的识别效果。腾讯AILab也在进行多系统融合的开发工作——通过合理布局全局框架，使具有较好互补性的声纹算法协同工作以实现更精准的识别。相关部分核心自研算法及系统性能已经在语音顶级期刊上发表。

其中，被Interspeech2018接收的论文《基于深度区分特征的变时长说话人确认（DeepDiscriminativeEmbeddingsforDurationRobustSpeakerVerification）》提出了一种基于Inception-ResNet的声纹识别系统框架，可学习更加鲁棒且更具有区分性的嵌入特征。

同样入选Interspeech2018的论文《从单通道混合语音中还原目标说话人的深度提取网络（DeepExtractorNetworkforTargetSpeakerRecoveryFromSingleChannelSpeechMixtures）》提出了一种深度提取网络（如下图所示），可在规范的高维嵌入空间中通过嵌入式特征计算为目标说话人创建一个锚点，并将对应于目标说话人的时间频率点提取出来。

实验结果表明，给定某一说话人一段非常短的语音，如给定该说话人的唤醒词语音（通常1S左右），所提出的模型就可以有效地从后续混合语音中高质量地分离恢复出该目标说话人的语音，其分离性能优于多种基线模型。同时，研究者还证明它可以很好地泛化到一个以上干扰说话人的情况。

深度提取网络示意图

3）语音识别

语音识别技术已经经历过长足的发展，现在已大体能应对人们的日常使用场景了，但在噪声环境、多说话人场景、「鸡尾酒会问题」、多语言混杂等方面仍还存在一些有待解决的难题。

腾讯AILab的语音识别解决方案是结合了说话人特征的个性化识别模型，能够为每位用户提取并保存自己个性化声学信息特征。随着用户数据积累，个性化特征会自动更新，用户识别准确率可获得显著提升。

另外，腾讯AILab还创新地提出了多类单元集合融合建模方案，这是一种实现了不同程度单元共享、参数共享、多任务的中英混合建模方案。这种方案能在基本不影响汉语识别准确度的情况下提升英语的识别水平。

腾讯AILab有多篇Interspeech2018论文都针对的是这个阶段的问题。

在论文《基于生成对抗网络置换不变训练的单通道语音分离（PermutationInvariantTrainingofGenerativeAdversarialNetworkforMonauralSpeechSeparation）》中，研究者提出使用生成对抗网络（GAN）来实现同时增强多个声源的语音分离，并且在训练生成网络时通过基于句子层级的PIT解决多个说话人在训练过程顺序置换问题。实验也证明了这种被称为SSGAN-PIT的方法的优越性，下面给出了其训练过程示意图：

SSGAN-PIT的训练过程示意图

论文《使用注意机制和门控卷积网络的单声道多说话人语音识别（MonauralMulti-TalkerSpeechRecognitionwithAttentionMechanismandGatedConvolutionalNetworks）》将注意机制和门控卷积网络（GCN）整合进了研究者之前开发的基于排列不变训练的多说话人语音识别系统（PIT-ASR）中，从而进一步降低了词错率。如下左图展示了用于多说话人语音识别的带有注意机制的PIT框架，而右图则为其中的注意机制：

在论文《提升基于注意机制的端到端英语会话语音识别（ImprovingAttentionBasedSequence-to-SequenceModelsfor-to-EnglishConversationalSpeechRecognition）》中，研究者提出了两项用于端到端语音识别系统的基于注意的序列到序列模型改进方法。第一项改进是使用一种输入馈送架构——其不仅会馈送语境向量，而且还会馈送之前解码器的隐藏状态信息，并将它们作为解码器的输入。第二项改进基于一种用于序列到序列模型的序列最小贝叶斯风险（MBR）训练的更好的假设集合生成方法，其中在MBR训练阶段为N-best生成引入了softmax平滑。实验表明这两项改进能为模型带来显著的增益。下表展示了实验结果，可以看到在不使用外部语言模型的条件下，新提出的系统达到了比其它使用外部模型的最新端到端系统显著低的字错误率。

论文《词为建模单元的端到端语音识别系统多阶段训练方法（AMultistageTrainingFrameworkForAcoustic-to-WordModel）》研究了如何利用更好的模型训练方法在只有300小时的Switchboard数据集上也能得到具有竞争力的语音识别性能。最终，研究者将Hierarchical-CTC、CurriculumTraining、JointCTC-CE这三种模型训练方法结合到了一起，在无需使用任何语言模型和解码器的情况下取得了优良的表现。

另外，在今年4月举办的IEEEICASSP2018上，腾讯AILab有3篇自动语音识别方面的论文和1篇语音合成方面的论文（随后将介绍）入选。

在语音合成方面，其中2篇都是在用于多说话人的置换不变训练方面的研究。

其中论文《用于单声道多说话人语音识别的使用辅助信息的自适应置换不变训练（AdaptivePermutationInvariantTrainingWithAuxiliaryInformationForMonauralMulti-talkerSpeechRecognition）》基于腾讯AILab之前在置换不变训练（PIT）方面的研究提出使用音高（pitch）和i-vector等辅助特征来适应PIT模型，以及使用联合优化语音识别和说话人对预测的多任务学习来利用性别信息。研究结果表明PIT技术能与其它先进技术结合起来提升多说话人语音识别的性能。

论文《用于单通道多说话人语音识别的置换不变训练中知识迁移（KnowledgeTransferInPermutationInvariantTrainingForSingle-channelMulti-talkerSpeechRecognition）》则将teacher-student训练和置换不变训练结合到了一起，可将单说话人模型中提取出的知识用于改进PIT框架中的多说话人模型。实验结果也证明了这种方法的优越性。下图展示了这种加上了知识提取架构的置换不变训练架构。

另外一篇语音识别方面的ICASSP2018论文《使用基于字母的特征和重要度采样的神经网络语言建模（NeuralNetworkLanguageModelingWithLetter-basedFeaturesAndImportanceSampling）》则提出了一种Kaldi语音识别工具套件的扩展Kaldi-RNNLM以支持神经语言建模，可用于自动语音识别等相关任务。

在语音识别方面最后值得一提的是，腾讯AILab还在《FrontiersofInformationTechnologyElectronicEngineering》（FITEE）上发表了一篇关于「鸡尾酒会问题」的综述论文《鸡尾酒会问题的过去回顾、当前进展和未来难题（PastReview,CurrentProgress,AndChallengesAheadOnTheCocktailPartyProblem）》，对针对这一问题的技术思路和方法做了全面的总结。

4）自然语言处理／理解

在智能音箱的工作流程中，自然语言处理是一个至关重要的阶段，这涉及到对用户意图的理解和响应。腾讯AILab在自然语言的处理和理解方面已有很多突破性的研究进展，融合腾讯公司多样化的应用场景和生态，能为腾讯的语音应用和听听音箱用户带来良好的用户体验和实用价值。

5）语音合成

对智能音箱而言，语音答复是用户对音箱能力的最直观感知。最好的合成语音必定要清晰、流畅、准确、自然，个性化的音色还能提供进一步的加成。

腾讯在语音合成方面有深厚的技术积累，开发了可实现端到端合成和重音语调合成的新技术，并且在不同风格的语音合成上也取得了亮眼的新进展。下面展示了一些不同风格的合成语音：

在Interspeech2018上，腾讯AILab的论文《面向表现力语音合成采用残差嵌入向量的快速风格自适应（RapidStyleAdaptationUsingResidualErrorEmbeddingforExpressiveSpeechSynthesis）》探索了利用残差作为条件属性来合成具有适当的韵律变化的表现力语音的方法。该方法有两大优势：1）能自动学习获得风格嵌入向量，不需要人工标注信息，从而能克服数据的不足和可靠性低的问题；2）对于训练集中没有出现的参考语音，风格嵌入向量可以快速生成，从而使得模型仅用一个语音片段就可以快速自适应到目标的风格上。下图展示了该论文提出的残差编码网络的架构（左图）以及其中残差编码器的结构（右图）。

腾讯AILab在ICASSP2018上也有一篇关于风格适应的论文《基于特征的说话风格合成适应（FeatureBasedAdaptationForSpeakingStyleSynthesis）》。这项研究对传统的基于模型的风格适应（如下左图）进行了改进，提出了基于特征的说话风格适应（如下右图）。实验结果证明了这种方法的有效性，并且表明这种方法能在保证合成语音质量的同时提升其疑问语气风格的表现力。