CN108255934B - 一种语音控制方法及装置 - Google Patents
一种语音控制方法及装置 Download PDFInfo
- Publication number
- CN108255934B CN108255934B CN201711288349.XA CN201711288349A CN108255934B CN 108255934 B CN108255934 B CN 108255934B CN 201711288349 A CN201711288349 A CN 201711288349A CN 108255934 B CN108255934 B CN 108255934B
- Authority
- CN
- China
- Prior art keywords
- unit
- task
- text
- behavior pattern
- voice
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/332—Query formulation
- G06F16/3329—Natural language query formulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L13/00—Speech synthesis; Text to speech systems
- G10L13/02—Methods for producing synthetic speech; Speech synthesisers
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/26—Speech to text systems
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Acoustics & Sound (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Machine Translation (AREA)
Abstract
本发明实施例提供了一种语音控制方法及装置,所述方法包括:接收用户输入的语音信息;将所述语音信息转换为文本;根据所述文本判断所述用户的意图是否为组合型任务;如果是组合型任务,则将所述组合型任务映射到多个子任务;提取每个子任务的要素信息;根据每个要素信息和对话上下文确定当前概率下最大的对话状态;根据所述对话状态,采用分层强化学习方法决策当前最佳的对话行为;根据所述对话行为生成对应的文本应答;将所述文本应答转换语音后输出。本发明实施例能够有效地利用人机交互过程产生的数据,对跨领域的复杂语音输入进行识别和理解,缩减搜索空间,更灵活地处理跨领域复杂任务。
Description
技术领域
本发明涉及计算机技术领域,特别是涉及一种语音控制方法及装置。
背景技术
随着语音技术的快速发展和成熟,语音作为一种新型人机交互方式,已经成为互联网和物联网未来可能的重要入口之一。比如:用户可以向安装语音助手的手机或音箱等硬件设备发出语音信息,与系统进行单轮对话,控制系统调用特定应用,以完成指定任务。
目前,语音控制技术通常通过下述方式来实现:一种是将用户输入的语音信息与语音信息库中预设的指令进行对比匹配,如果匹配成功,则按该指令操作产生对应的结果;另一种是将用户输入的语音进行语音识别,分析语音识别的结果,解析用户意图,然后按找解析用户意图对应的指令操作产生对应的结果。
由上述两种方式可知,无论是基于语音指令库中的预设指令进行对比,还是基于语音识别的结果解析用户意图,都只能处理指定范围内较为简单的单一指令任务,如:“打开蓝牙”,“关闭音乐”等。而对于一些复杂的跨领域跨主题任务,如:“规划旅行日程”,“国庆东南亚”等,现有的语音控制处理起来较为困难。
因此,如何对跨领域的复杂语音输入进行识别和理解,是目前本领域技术人员需要解决的技术问题。
发明内容
本发明实施例所要解决的技术问题是提供一种语音控制方法,以解决现有技术中不能对跨领域的复杂语音输入进行识别和理解的技术问题。
相应的,本发明实施例还提供了一种语音控制装置,用以保证上述方法的实现及应用。
为了解决上述问题,,本发明是通过如下技术方案实现的:
第一方面提供一种语音控制方法,所述方法包括:
接收用户输入的语音信息;
将所述语音信息转换为文本;
根据所述文本判断所述用户的意图是否为组合型任务;
如果是组合型任务,则将所述组合型任务映射到多个子任务;
提取每个子任务的要素信息;
根据每个要素信息及对话上下文确定当前概率下最大的对话状态;
根据所述对话状态,采用分层强化学习方法决策当前最佳的对话行为;
根据所述对话行为生成对应的文本应答;
将所述文本应答转换语音后输出。
可选的,所述根据所述文本判断所述用户的意图是否为组合型任务,包括:
对所述文本进行意图识别,将识别后的所述文本与频繁行为模式项集进行相似性匹配,如果相似性匹配成功,则确定所述用户的意图为组合型任务。
可选的,将识别后的所述文本与频繁行为模式项集进行相似性匹配,包括:
基于外部知识源对所述文本进行相关词和同义词扩展;
对于扩展后的所述文本和频繁行为模式项集,采用语义匹配模型进行相似性匹配计算,得到相似性匹配分值;
如果相似性匹配分值高于阈值,则确定所述用户的意图为组合型任务。
可选的,所述如果是组合型任务,则将所述组合型任务映射到多个子任务包括:
如果是组合型任务,则按照频繁行为模式项集将所述组合型任务映射到多个子任务。
可选的,所述如果是组合型任务,则按照频繁行为模式项集将所述组合型任务映射到多个子任务,包括:
如果是组合型任务,则取相似度最高的频繁行为模式项集,作为组合型任务对应的应用项,按照频繁行为模式项集将所述组合型任务映射到多个子任务,其中,所述频繁行为模式项集中的每一项对应着一个单一型子任务。
可选的,所述方法还包括:
采集用户日常频繁行为的记录;
按照交互时间合并所述记录,得到记录列表;
遍历所述记录列表,提取预设时间段内出现的各种交互记录对应的应用关键词语,作为候选上下文篮子;
根据所述候选上下文篮子确定频繁行为模式项集;
根据应用关键词为所述频繁行为模式项集生成对应的描述词集。
第二方面提供一种语音控制装置,所述装置包括:
接收单元,用于接收用户输入的语音信息;
第一转换单元,用于将所述语音信息转换为文本;
第一判断单元,用于根据所述文本判断所述用户的意图是否为组合型任务;
映射单元,用于在所述第一判断单元判断所述文本是组合型任务时,将所述组合型任务映射到多个子任务;
第一提取单元,用于提取每个子任务的要素信息;
第一确定单元,用于根据每个要素信息和对话上下文确定当前概率下最大的对话状态;
决策单元,用于根据所述对话状态,采用分层强化学习方法决策当前最佳的对话行为;
第一生成单元,用于根据所述对话行为生成对应的文本应答;
第二转换单元,用于将所述文本应答转换语音;
输出单元,用于输出第二转换单元转换的所述语音。
可选的,所述判断单元包括:
识别单元,用于对所述文本进行意图识别;
匹配单元,用于将识别后的所述文本与频繁行为模式项集进行相似性匹配;
第二确定单元,用于在所述匹配单元进行相似性匹配成功时,确定所述用户的意图为组合型任务。
可选的,所述匹配单元包括:
扩展单元,用于基于外部知识源对所述文本进行相关词和同义词扩展;
计算单元,用于对于扩展后的所述文本和频繁行为模式项集,采用语义匹配模型进行相似性匹配计算,得到相似性匹配分值;
第二判断单元,用于判断所述相似性匹配分值是否高于阈值;
所述第二确定单元,还用于在所述第二判断单元判断所述相似性匹配分值是否高于阈值时,确定所述用户的意图为组合型任务。
可选的,所述映射单元具体用于,在所述第二判断单元判断所述文本是组合型任务时,按照频繁行为模式项集将所述组合型任务映射到多个子任务。
可选的,所述映射单元包括:
第二提取单元,用于在所述第二判断单元判断所述文本是组合型任务时,取相似度最高的频繁行为模式项集;
设定单元,用于将所述频繁行为模式项集作为组合型任务对应的应用项,按照频繁行为模式项集将所述组合型任务映射到多个子任务,其中,所述频繁行为模式项集中的每一项对应着一个单一型子任务。
可选的,所述装置还包括:
采集单元,用于采集用户日常频繁行为的记录;
合并单元,用于按照交互时间合并所述记录,得到记录列表;
遍历单元,用于遍历所述记录列表;
第三提取单元,提取预设时间段内出现的各种交互记录对应的应用关键词语,作为候选上下文篮子;
第三确定单元,用于根据所述候选上下文篮子确定频繁行为模式项集;
第二生成单元,用于根据应用关键词为所述频繁行为模式项集生成对应的描述词集。
与现有技术相比,本发明实施例包括以下优点:
本发明实施例中,将接收到用户输入的语音转换成文本后,与频繁行为模式序列进行相似性匹配,从而识别出用户的输入意图是否为组合型任务,并在为组合型任务时,将该组合型任务映射到多个子任务。然后,提取每个子任务的要素信息,并根据每个要素信息和对话上下文,确定当前概率下最大的对话状态,基于分层强化学习方法确定对话状态对应的最佳的对话行为,最后将该对话行为转换为语音。本发明实施例能够有效地利用人机交互过程产生的数据,对跨领域的复杂语音输入进行识别和理解,缩减搜索空间,更灵活地处理跨领域复杂任务。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本申请。
附图说明
图1是本发明实施例提供的一种语音控制方法的流程图;
图2是本发明实施例提供的一种语音控制方法的另一流程图;
图3是本发明实施例提供的一种语音控制装置的结构示意图;
图4为本发明实施例提供的第一判断单元的结构示意图;
图5为本发明实施例提供的一种匹配单元的结构示意图;
图6为本发明实施例提供的一种映射单元的结构示意图;
图7为本发明实施例提供的一种语音控制装置的另一结构示意图。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
请参阅图1,是本发明实施例提供的一种语音控制方法的流程图;所述方法包括:
步骤101:接收用户输入的语音信息;
后台服务器接收用户输入的语音信息,所述语音信息可以是:规划旅行日程,或者国庆东南亚等等,也就是用户可以根据需要输入任何语音信息。
步骤102:将所述语音信息转换为文本;
其中,该步骤中的转换方式,后台服务器可以采用端到端的神经网络模型,如卷积神经网络(CNN,Convolutional Neural Networks)等。其具体的转换过程对于本领域技术人员来说,已是熟知技术,在此不再赘述。
步骤103:根据所述文本判断用户意图是否为组合型任务;
其具体的判断过程为后台服务器对所述文本进行意图识别,将所述文本与频繁行为模式项集进行相似性匹配,如果相似性匹配成功,则确定所述用户的意图为组合型任务。
其中,将识别后的所述文本与频繁行为模式项集进行相似性匹配的过程包括:
1)基于外部知识源对所述文本进行相关词和同义词扩展;
具体地,可以调用搜索引擎接口或语义词典接口,检索用户输入文本的关键词,抽取返回结果对应的关键字(keywords)集合,其中,抽取的算法可以采用textrank等,例如:用户输入:”国庆东南亚”,基于百度返回的结果,抽取的keywords包括:{旅行,airbnb,路线,价格,时间,酒店,机票}。类似地,对于每个频繁行为模式项集,类似地对集合中的每个词,进行同义词和相关词扩展,以丰富语义表达。
2)对于扩展后的所述文本和频繁行为模式项集,采用语义匹配模型进行相似性匹配计算,得到相似性匹配分值;
具体的,对于扩展后用户输入的文本和频繁行为模式项集,再采用语义匹配模型进行相似性匹配计算,得到相似性匹配分值。其中,语义匹配模型比如深度语义匹配模型(DSSM,Deep Structured Semantic Models)或卷积深度神经网络(CDSSM,ConvolutionalDeep Structured Semantic Model)等。
4)如果相似性匹配分值高于阈值,则确定所述用户的意图为组合型任务。
该步骤中,先判断该相似性匹配分值是否高于阈值,如果高于阈值,则确定用户输入的意图属于组合型任务;否则,确定用户输入的意图不属于组合型任务,继续判断所述用户的意图是否为预定义的单一型任务,如果是单一型任务,则可以现有的意图分类方法方式进行处理,即采用卷积神经网络CNN模型,或者支持向量机(SVM,Support VectorMachine)模型等。如:“打开老九门”对应的任务类别为:播放视频等。
步骤104:如果是组合型任务,则将所述组合型任务映射到多个子任务;
该步骤中,如果是组合型任务,则后台服务器按照频繁行为模式项集将所述组合型任务映射到多个子任务。
具体的,如用户输入意图为组合型任务,则取相似度最高的频繁模式项集,作为组合型任务对应的应用项,按照频繁行为模式项集将所述组合型任务映射到多个子任务。该项集中的每一项对应着一个单一型子任务。例如:用户输入:“播放音乐”,对应的相似度最高的频繁模式项集为:{“蓝牙”,“网易云音乐”}
其中,该实施例中,后台服务器可以调用口语对话控制系统将组合型任务映射到多个子任务,其中,口语对话控制系统可以是半马尔科夫决策过程(SMDP,Semi.Markovdecision process)。
步骤105:提取每个子任务的要素信息;
该实施例中,对已识别的每个单一型任务,提取要素信息,具体方法可以采用条件随机场CRF(Conditional Random Field)等。如:如果识别出的单一型任务为“东南亚旅行”,则提取的要素信息为location=“东南亚”等。
步骤106:根据每个要素信息及对话上下文确定当前概率下最大的对话状态;
该步骤中,就是对用户的对话状态进行跟踪,其跟踪的方式就是基于对话上下文的输入和输出,确定当前概率最大的对话状态,表示为<intent,slot_value>。比如:“东南亚旅行”对应的对话状态为<intent=“travel”,location_slot=“东南亚”>。当然,在该步骤中,具体可以使用生成式模型或判别式模型,基于规则进行求解,其具体利用生成式模型或判别式模型来确定对话状态的过程对于本领域技术人员已是熟知技术,在此不再赘述。
步骤107:根据所述对话状态,采用分层强化学习方法决策当前最佳的对话行为;
该步骤中,可以基于多层强化学习方法来确定对话状态对应的最佳对话行为。基于多层强化学习方法,后台服务器调用决策系统确地当前对话状态下的最佳对话行为。其中,多层强化学习方法的优势在于对较为复杂的任务,分解为子任务可以有效地缩减搜索空间。具体框架可以采用典型的分层强化学习算法,比如组件options算法、值函数分解MAXQ算法或者分层抽象机HAM算法等。下面以options算法和MAXQ算法为实施例为例进行说明。
1)采用options算法框架:先将组合型任务抽象为多个选项(options),每个options可以理解为完成某任务在某子空间上按一定策略执行的动作序列。其中,每个动作可以是一个基本动作,也可以是另一个option。框架分为两层,顶层对话策略模块选择当前状态下对应的子任务,也即option,如:“预定酒店”,“预定景点门票”,底层对话策略模块基于当前状态和顶层对话模块下选择的子任务,选择该子任务对应的行为,直到当前子任务达到终止状态为止。例如:子任务为“预定景点门票”,可能的行为为:request_time,request_location,request_ticket_number。模型训练可以采用深度Q学习算法如DQN算法等。训练时,采用用户模拟器进行对话模拟,为每段对话预先定义任务目标,模拟器判断当前对话是否成功或失败,并给出反馈信息,以可配置概率回答提问,或是提前退出对话。模拟器和agent的对话样本实时流入两层对话策略模块分别对应的experience replaypool,训练时每次随机从该池中采样指定数量的样本进行模型训练。模型冷启动时,以得到正反馈action为目标,以指定概率基于规则进行决策,帮助模型学习,同时运用epsilon-greedy算法,探测对应于各state的action,直到模型收敛。其具体的学习过程对于本领域已是熟知技术,在此不再赘述。
2)采用MAXQ框架:先将组合型任务分解为子任务集{M0,M1,……Mn},及将策略分解为{T0,……Tn},其中Ti是Mi的策略,每个子任务形成了分层结构,对应一个任务图。任务子节点在执行时依据其策略做出选择。假设agent按子任务M0的策略选择了子任务Ma1,然后递归地按子任务Ma1的策略选择Ma2,依此类推,直到子任务的策略选择了基本动作an执行。例如,agent先选择了子任务“旅行”,然后按子任务“旅行”的策略T0选择了子任务“机票”,然后递归地选择下一个子任务或者基本动作。则有:
Vπ(0,s)=Vπ(an,s)+...+Cπ(a1,s,a2)+Cπ(0,s,a1)
其中,V为在对话状态s完成子任务的期望回报值,P为转移概率,R为奖赏值,C为在当前状态下的完成函数。基于上式,使用MAXQ-Q学习方法进行求解,其求解的具体过程,对于本领域技术人员来说,已是熟知技术,在此不再赘述。
步骤108:根据所述对话行为生成对应的文本应答;
该步骤中,后天服务器调用相应服务,将对话行为生成对应的文本应答(或回应),其生成应答(或回应)的方式,可以采用基于模板或基于循环神经网络RNN模型的方法。该方法对于本领域技术人员来说,已是熟知技术,在此不再赘述。
步骤109:将所述文本应答转换语音后输出。
后台服务器调用对应的服务将文本转换为语音,然后输出该语音,其具体转换的算法可以采用隐马尔可夫模型等。其中该算法对于本领域技术人员来说,已是熟知技术,在此不再赘述。
本发明实施例中,将接收到用户输入的语音转换成文本后,与频繁行为模式序列进行相似性匹配,从而识别出用户的输入意图是否为组合型任务,并在为组合型任务时,将该组合型任务映射到多个子任务。然后,提取每个子任务的要素信息,并根据要素信息基于分层强化学习方法确定当前概率下最大的对话状态,以及对话状态对应的最佳的对话行为,最后将该对话行为转换为语音。本发明实施例能够有效地利用人机交互过程产生的数据,对跨领域的复杂语音输入进行识别和理解,缩减搜索空间,更灵活地处理跨领域复杂任务。
还请参阅图2,为本发明实施例提供的一种语音控制方法的另一流程图,所述方法与上述实施例不同的是基于用户历史行为轨迹挖掘关联的子任务,将组合型任务映射到多个相关的子任务。具体包括:
步骤201:采集用户日常频繁行为的记录;
该步骤中,后台服务器采集用户的交互记录,该交互记录,可以包括历史交互记录,也可以包括实时交互记录,其中,交互记录,可以包括但不限于:应用使用记录、短信和邮件记录、移动设备模式记录等
步骤202:按照交互时间合并所述记录,得到记录列表;
该步骤中,后台服务器,可以按时间顺序合并为记录列表。
步骤203:遍历所述记录列表,提取预设时间段内出现的各种交互记录对应的应用关键词语,作为候选上下文篮子;
后台服务器先按交互时间段历遍列表,提取在预设时间段(如:15分钟,1小时等,当然根据需要也可以设定他时间段,比如设定为10分至2小时内的任意时间段)内出现的各种交互记录对应的应用及关键短语(本文统称为应用关键词),作为候选上下文篮子。例如,{系统设置蓝牙网易云音乐},{华尔街见闻盈透证券文华期货},{旅行,去哪儿,携程,airbnb,booking,alipay}等。
步骤204:根据所述候选上下文篮子确定频繁行为模式项集;
该步骤中,后台服务器调用Apriori算法来挖掘频繁行为模式项集,算法输入项为所有候选的上下文篮子,其具体的计算过程中,将上下文篮子视为项集,上下文数据视为项,先生成大小为k(初始为1)的频繁项集,然后,开始重复计算生成大小为k+1的所有候选项集,候选项集的支持度可以考虑上下文的持续时间、出现频率,独立用户数目等,最后,计算所有候选项集的支持度,以生成频繁行为项集Fk+1。当Fk是空集时循环结束,输出频繁行为模式项集,如:{旅行,去哪儿,携程,airbnb,booking,alipay}。
步骤205:根据应用关键词为所述频繁行为模式项集生成对应的描述词集;
其中,后台服务器调用Apriori算法为每个频繁模式项集生成对应的描述词集。也就是说,基于应用关键词为每个频繁模式项集生成对应的描述词集,如:频繁行为模式项集{旅行,去哪儿,携程,airbnb,booking,alipay,calandar}对应的描述词集为:{旅行、机票、酒店,支付,日程,时间},每个频繁行为模式项集对应着多个相关应用。
步骤206:接收用户输入的语音信息;
步骤207:将所述语音信息转换为文本;
步骤208:对所述文本进行意图识别,将识别后的所述文本与频繁行为模式项集进行相似性匹配,如果相似性匹配成功,则确定所述用户的意图为组合型任务,执行步骤209;否则,即确定用户输入的意图不属于组合型任务,需要继续判断所述用户的意图是否为预定义的单一型任务,如果是单一型任务,则采用现有分类方法进行处理,即采用卷积神经网络CNN模型,或者支持向量机(SVM,Support Vector Machine)模型等。如:“打开老九门”对应的任务类别为:播放视频等;
步骤209:如果是组合型任务,则按照频繁行为模式项集将所述组合型任务映射到多个子任务;
步骤210:提取每个子任务的要素信息;
步骤211:根据每个要素信息及对话上下文确定当前概率下最大的对话状态;
步骤212:根据所述对话状态,采用分层强化学习方法决策当前最佳的对话行为;
步骤213:根据所述对话行为生成对应的文本应答;
步骤214:将所述文本应答转换语音后输出。
其中,步骤206至步骤214的具体实现过程,详见上述实施例中对应的实现过程,在此不再赘述。
本发明实施例中,先基于用户的历史行为轨迹挖掘关联的子任务,将组合型任务映射到多个相关的子任务,然后基于分层强化学习的对话策略学习框架,采用分而治之的方法,能够有效地利用人机交互过程产生的数据,缩减搜索空间,更灵活地处理跨领域复杂任务。
需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。
请参阅图3,为本发明实施例提供的一种语音控制装置的结构示意图,所述装置包括:接收单元31,第一转换单元32,第一判断单元33,映射单元34,第一提取单元35,第一确定单元36,决策单元37,第一生成单元38,第二转换单元38和输出单元40,其中,
接收单元31,用于接收用户输入的语音信息;
第一转换单元32,用于将所述语音信息转换为文本;
第一判断单元33,用于根据所述文本判断所述用户的意图是否为组合型任务;
映射单元34,用于在所述第一判断单元判断所述文本是组合型任务时,将所述组合型任务映射到多个子任务;
第一提取单元35,用于提取每个子任务的要素信息;
第一确定单元36,用于根据每个要素信息及对话上下文,确定当前概率下最大的对话状态;
决策单元37,用于根据所述对话状态,采用分层强化学习方法决策当前最佳的对话行为;
第一生成单元38,用于根据所述对话行为生成对应的文本应答;
第二转换单元39,用于将所述文本应答转换语音;
输出单元40,用于输出第二转换单元转换的所述语音。
可选的,在另一实施例中,该实施例在上述实施例的基础上,所述第一判断单元33包括:识别单元41,匹配单元42和第二确定单元43,其结构示意图如图4所示,图4为本发明实施例提供的第一判断单元的结构示意图,其中,
识别单元41,用于对所述文本进行意图识别;
匹配单元42,用于将识别后的所述文本与频繁行为模式项集进行相似性匹配;
第二确定单元43,用于在所述匹配单元42进行相似性匹配成功时,确定所述用户的意图为组合型任务。
可选的,在另一实施例中,该实施例在上述实施例的基础上,所述匹配单元42包括:扩展单元51,计算单元52和第二判断单元53,其结构示意图如图5所示,图5为本发明实施例提供的一种匹配单元的结构示意图,其中,
扩展单元51,用于基于外部知识源对所述文本进行相关词和同义词扩展;
计算单元52,用于对于扩展后的所述文本和频繁行为模式项集,采用语义匹配模型进行相似性匹配计算,得到相似性匹配分值;
第二判断单元53,用于判断所述相似性匹配分值是否高于阈值;
所述第二确定单元43,还用于在所述第二判断单元53判断所述相似性匹配分值是否高于阈值时,确定所述用户的意图为组合型任务。
可选的,在另一实施例中,该实施例在上述实施例的基础上,所述映射单元34具体用于,在所述第二判断单元判断所述文本是组合型任务时,按照频繁行为模式项集将所述组合型任务映射到多个子任务。
可选的,在另一实施例中,该实施例在上述实施例的基础上,所述映射单元34包括:第二提取单元61和设定单元62,其中,其结构示意图如图6所示,图6为本发明实施例提供的映射单元的结构示意图,其中,,
第二提取单元61,用于在所述第二判断单元53判断所述文本是组合型任务时,取相似度最高的频繁行为模式项集;
设定单元62,用于将所述频繁行为模式项集作为组合型任务对应的应用项,按照频繁行为模式项集将所述组合型任务映射到多个子任务,其中,所述频繁行为模式项集中的每一项对应着一个单一型子任务。
可选的,在另一实施例中,该实施例在上述实施例的基础上,所述装置还可以包括:采集单元71,合并单元72,遍历单元73,第三提取单元74,第三确定单元75、第二生成单元76、接收单元77,第一转换单元78,第一判断单元79,映射单元80,第一提取单元81,第一确定单元82,决策单元83,第一生成单元84,第二转换单元85和输出单元86,其结构示意图如图7所示,图7为本发明实施例提供的一种语音控制装置的另一结构示意图,其中,
采集单元71,用于采集用户日常频繁行为的记录;
合并单元72,用于按照交互时间合并所述记录,得到记录列表;
遍历单元73,用于遍历所述记录列表;
第三提取单元74,用于提取预设时间段内出现的各种交互记录对应的应用关键词语,作为候选上下文篮子;
第三确定单元75,用于根据所述候选上下文篮子确定频繁行为模式项集;
第二生成单元76,用于根据应用关键词为所述频繁行为模式项集生成对应的描述词集;
接收单元77,用于接收用户输入的语音信息;
第一转换单元78,用于将所述语音信息转换为文本;
第一判断单元79,用于根据所述文本判断所述用户的意图是否为组合型任务;
映射单元80,用于在所述第一判断单元判断所述文本是组合型任务时,将所述组合型任务映射到多个子任务;
第一提取单元81,用于提取每个子任务的要素信息;
第一确定单元82,用于根据每个要素信息及对话上下文确定当前概率下最大的对话状态;
决策单元83,用于根据所述对话状态,采用分层强化学习方法决策当前最佳的对话行为;
第一生成单元84,用于根据所述对话行为生成对应的文本应答;
第二转换单元85,用于将所述文本应答转换语音;
输出单元86,用于输出第二转换单元转换的所述语音。
所述装置中各个单元的功能和作用的实现过程详见上述方法中对应的过程,在此不再赘述。
本发明实施例中,将接收到用户输入的语音转换成文本后,与频繁行为模式序列进行相似性匹配,从而识别出用户的输入意图是否为组合型任务,并在为组合型任务时,将该组合型任务映射到多个子任务。然后,提取每个子任务的要素信息,并根据要素信息基于分层强化学习方法确定当前概率下最大的对话状态,以及对话状态对应的最佳的对话行为,最后将该对话行为转换为语音。本发明实施例能够有效地利用人机交互过程产生的数据,对跨领域的复杂语音输入进行识别和理解,缩减搜索空间,更灵活地处理跨领域复杂任务。
对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
本领域内的技术人员应明白,本发明实施例的实施例可提供为方法、装置、或计算机程序产品。因此,本发明实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明实施例是参照根据本发明实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上,使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明实施例的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
以上对本发明所提供的上述方法和装置,进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
Claims (12)
1.一种语音控制方法,其特征在于,包括:
接收用户输入的语音信息;
将所述语音信息转换为文本;
根据所述文本判断所述用户的意图是否为组合型任务;
如果是组合型任务,则将所述组合型任务映射到多个子任务;
提取每个子任务的要素信息;
根据每个要素信息及对话上下文确定当前概率下最大的对话状态;
根据所述对话状态,采用分层强化学习方法决策当前最佳的对话行为;
根据所述对话行为生成对应的文本应答;
将所述文本应答转换语音后输出。
2.根据权利要求1所述的方法,其特征在于,所述根据所述文本判断所述用户的意图是否为组合型任务,包括:
对所述文本进行意图识别,将识别后的所述文本与频繁行为模式项集进行相似性匹配,如果相似性匹配成功,则确定所述用户的意图为组合型任务。
3.根据权利要求2所述的方法,其特征在于,将识别后的所述文本与频繁行为模式项集进行相似性匹配,包括:
基于外部知识源对所述文本进行相关词和同义词扩展;
对于扩展后的所述文本和频繁行为模式项集,采用语义匹配模型进行相似性匹配计算,得到相似性匹配分值;
如果相似性匹配分值高于阈值,则确定所述用户的意图为组合型任务。
4.根据权利要求2所述的方法,其特征在于,所述如果是组合型任务,则将所述组合型任务映射到多个子任务包括:
如果是组合型任务,则按照频繁行为模式项集将所述组合型任务映射到多个子任务。
5.根据权利要求4所述的方法,其特征在于,所述如果是组合型任务,则按照频繁行为模式项集将所述组合型任务映射到多个子任务,包括:
如果是组合型任务,则取相似度最高的频繁行为模式项集,作为组合型任务对应的应用项,按照频繁行为模式项集将所述组合型任务映射到多个子任务,其中,所述频繁行为模式项集中的每一项对应着一个单一型子任务。
6.根据权利要求1至5任一项所述的方法,其特征在于,还包括:
采集用户日常频繁行为的记录;
按照交互时间合并所述记录,得到记录列表;
遍历所述记录列表,提取预设时间段内出现的各种交互记录对应的应用关键词语,作为候选上下文篮子;
根据所述候选上下文篮子确定频繁行为模式项集;
根据应用关键词为所述频繁行为模式项集生成对应的描述词集。
7.一种语音控制装置,其特征在于,包括:
接收单元,用于接收用户输入的语音信息;
第一转换单元,用于将所述语音信息转换为文本;
第一判断单元,用于根据所述文本判断所述用户的意图是否为组合型任务;
映射单元,用于在所述第一判断单元判断所述文本是组合型任务时,将所述组合型任务映射到多个子任务;
第一提取单元,用于提取每个子任务的要素信息;
第一确定单元,用于根据每个要素信息和对话上下文确定当前概率下最大的对话状态;
决策单元,用于根据所述对话状态,采用分层强化学习方法决策当前最佳的对话行为;
第一生成单元,用于根据所述对话行为生成对应的文本应答;
第二转换单元,用于将所述文本应答转换语音;
输出单元,用于输出第二转换单元转换的所述语音。
8.根据权利要求7所述的装置,其特征在于,所述判断单元包括:
识别单元,用于对所述文本进行意图识别;
匹配单元,用于将识别后的所述文本与频繁行为模式项集进行相似性匹配;
第二确定单元,用于在所述匹配单元进行相似性匹配成功时,确定所述用户的意图为组合型任务。
9.根据权利要求8所述的装置,其特征在于,所述匹配单元包括:
扩展单元,用于基于外部知识源对所述文本进行相关词和同义词扩展;
计算单元,用于对于扩展后的所述文本和频繁行为模式项集,采用语义匹配模型进行相似性匹配计算,得到相似性匹配分值;
第二判断单元,用于判断所述相似性匹配分值是否高于阈值;
所述第二确定单元,还用于在所述第二判断单元判断所述相似性匹配分值是否高于阈值时,确定所述用户的意图为组合型任务。
10.根据权利要求9所述的装置,其特征在于,
所述映射单元具体用于,在所述第二判断单元判断所述文本是组合型任务时,按照频繁行为模式项集将所述组合型任务映射到多个子任务。
11.根据权利要求10所述的装置,其特征在于,所述映射单元包括:
第二提取单元,用于在所述第二判断单元判断所述文本是组合型任务时,取相似度最高的频繁行为模式项集;
设定单元,用于将所述频繁行为模式项集作为组合型任务对应的应用项,按照频繁行为模式项集将所述组合型任务映射到多个子任务,其中,所述频繁行为模式项集中的每一项对应着一个单一型子任务。
12.根据权利要求7至11任一项所述的装置,其特征在于,还包括:
采集单元,用于采集用户日常频繁行为的记录;
合并单元,用于按照交互时间合并所述记录,得到记录列表;
遍历单元,用于遍历所述记录列表;
第三提取单元,提取预设时间段内出现的各种交互记录对应的应用关键词语,作为候选上下文篮子;
第三确定单元,用于根据所述候选上下文篮子确定频繁行为模式项集;
第二生成单元,用于根据应用关键词为所述频繁行为模式项集生成对应的描述词集。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711288349.XA CN108255934B (zh) | 2017-12-07 | 2017-12-07 | 一种语音控制方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711288349.XA CN108255934B (zh) | 2017-12-07 | 2017-12-07 | 一种语音控制方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108255934A CN108255934A (zh) | 2018-07-06 |
CN108255934B true CN108255934B (zh) | 2020-10-27 |
Family
ID=62722462
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711288349.XA Active CN108255934B (zh) | 2017-12-07 | 2017-12-07 | 一种语音控制方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108255934B (zh) |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109147775A (zh) * | 2018-10-18 | 2019-01-04 | 深圳供电局有限公司 | 一种基于神经网络的语音识别方法及装置 |
CN109493861A (zh) * | 2018-12-05 | 2019-03-19 | 百度在线网络技术(北京)有限公司 | 利用语音控制电器的方法、装置、设备和可读存储介质 |
CN109901896A (zh) | 2018-12-06 | 2019-06-18 | 华为技术有限公司 | 一种人机交互系统及人机交互系统中多任务处理方法 |
DE102018222156B4 (de) * | 2018-12-18 | 2025-01-30 | Volkswagen Aktiengesellschaft | Verfahren, Sprachdialogsystem und Verwendung eines Sprachdialogsystems zum Erzeugen einer Antwortausgabe in Reaktion auf eine Spracheingabeinformation |
CN109618202B (zh) * | 2018-12-24 | 2020-12-08 | 深圳创维-Rgb电子有限公司 | 控制外设的方法、电视及可读存储介质 |
CN110008332B (zh) * | 2019-02-13 | 2020-11-10 | 创新先进技术有限公司 | 通过强化学习提取主干词的方法及装置 |
CN109949827A (zh) * | 2019-03-15 | 2019-06-28 | 上海师范大学 | 一种基于深度学习与强化学习的室内声学行为识别方法 |
CN111739541B (zh) * | 2019-03-19 | 2021-11-05 | 上海云思智慧信息技术有限公司 | 一种基于语音的会议协助方法及系统、存储介质及终端 |
CN110164422A (zh) * | 2019-04-03 | 2019-08-23 | 苏州驰声信息科技有限公司 | 一种口语考试的多维度评估方法及装置 |
CN110111766A (zh) * | 2019-04-22 | 2019-08-09 | 南京硅基智能科技有限公司 | 一种多领域任务型对话系统和终端 |
CN110364152B (zh) * | 2019-07-25 | 2022-04-01 | 深圳智慧林网络科技有限公司 | 语音交互方法、设备及计算机可读存储介质 |
CN111061846A (zh) * | 2019-11-19 | 2020-04-24 | 国网辽宁省电力有限公司电力科学研究院 | 基于分层强化学习的电力新装增容对话客服系统及方法 |
CN111190715B (zh) * | 2019-12-31 | 2023-05-12 | 杭州涂鸦信息技术有限公司 | 产品服务的分发调度方法和系统、可读存储介质及计算机 |
CN111968636B (zh) * | 2020-08-10 | 2021-11-12 | 湖北亿咖通科技有限公司 | 语音请求文本的处理方法及计算机存储介质 |
CN112668774B (zh) * | 2020-12-25 | 2024-04-05 | 浙江大学 | 桥梁网络灾后修复过程中的资源动态优化配置方法 |
CN112905780B (zh) * | 2021-03-31 | 2022-04-29 | 闽江学院 | 人工智能对话装置 |
CN112905781B (zh) * | 2021-03-31 | 2022-05-03 | 闽江学院 | 人工智能对话方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8775160B1 (en) * | 2009-12-17 | 2014-07-08 | Shopzilla, Inc. | Usage based query response |
CN104571485A (zh) * | 2013-10-28 | 2015-04-29 | 中国科学院声学研究所 | 一种基于Java Map的人机语音交互系统及方法 |
CN106575503A (zh) * | 2014-06-18 | 2017-04-19 | 微软技术许可有限责任公司 | 用于对话理解系统的会话上下文建模 |
CN106844482A (zh) * | 2016-12-23 | 2017-06-13 | 北京奇虎科技有限公司 | 一种基于搜索引擎的检索信息匹配方法及装置 |
CN107291828A (zh) * | 2017-05-27 | 2017-10-24 | 北京百度网讯科技有限公司 | 基于人工智能的口语查询解析方法、装置及存储介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10685331B2 (en) * | 2015-12-08 | 2020-06-16 | TCL Research America Inc. | Personalized FUNC sequence scheduling method and system |
US20170344631A1 (en) * | 2016-05-26 | 2017-11-30 | Microsoft Technology Licensing, Llc. | Task completion using world knowledge |
-
2017
- 2017-12-07 CN CN201711288349.XA patent/CN108255934B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8775160B1 (en) * | 2009-12-17 | 2014-07-08 | Shopzilla, Inc. | Usage based query response |
CN104571485A (zh) * | 2013-10-28 | 2015-04-29 | 中国科学院声学研究所 | 一种基于Java Map的人机语音交互系统及方法 |
CN106575503A (zh) * | 2014-06-18 | 2017-04-19 | 微软技术许可有限责任公司 | 用于对话理解系统的会话上下文建模 |
CN106844482A (zh) * | 2016-12-23 | 2017-06-13 | 北京奇虎科技有限公司 | 一种基于搜索引擎的检索信息匹配方法及装置 |
CN107291828A (zh) * | 2017-05-27 | 2017-10-24 | 北京百度网讯科技有限公司 | 基于人工智能的口语查询解析方法、装置及存储介质 |
Non-Patent Citations (1)
Title |
---|
智能语音对话系统中基于规则和统计的语义识别;过冰;《中国优秀硕士学位论文全文数据库 信息科技辑》;20150415;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN108255934A (zh) | 2018-07-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108255934B (zh) | 一种语音控制方法及装置 | |
CN110457432B (zh) | 面试评分方法、装置、设备及存储介质 | |
US9818409B2 (en) | Context-dependent modeling of phonemes | |
CN108428446A (zh) | 语音识别方法和装置 | |
WO2021000403A1 (zh) | 智能对话系统的语音匹配方法、电子装置、计算机设备 | |
KR102120751B1 (ko) | 대화 이해 ai 시스템에 의하여, 머신러닝을 대화 관리 기술에 적용한 하이브리드 계층적 대화 흐름 모델을 기초로 답변을 제공하는 방법 및 컴퓨터 판독가능 기록 매체 | |
US11132994B1 (en) | Multi-domain dialog state tracking | |
CN107679082A (zh) | 问答搜索方法、装置以及电子设备 | |
CN113609264B (zh) | 电力系统节点的数据查询方法、装置 | |
US11354754B2 (en) | Generating self-support metrics based on paralinguistic information | |
US11615787B2 (en) | Dialogue system and method of controlling the same | |
US20240185846A1 (en) | Multi-session context | |
CN110717027A (zh) | 多轮智能问答方法、系统以及控制器和介质 | |
CN117132923A (zh) | 视频分类方法、装置、电子设备及存储介质 | |
Liu et al. | Learning salient features for speech emotion recognition using CNN | |
CN113988195A (zh) | 一种私域流量线索挖掘方法、装置、车辆、可读介质 | |
KR101801250B1 (ko) | 음악에 적합한 테마를 자동으로 태깅하는 방법 및 시스템 | |
CN118467780A (zh) | 一种基于大模型的影视搜索推荐方法、系统、设备及介质 | |
CN111680514B (zh) | 信息处理和模型训练方法、装置、设备及存储介质 | |
CN113468306A (zh) | 语音对话方法、装置、电子设备及存储介质 | |
CN114912457A (zh) | 跨段落文本语义表示向量的生成方法、装置及存储介质 | |
Khan et al. | Robust Feature Extraction Techniques in Speech Recognition: A Comparative Analysis | |
Godewithana et al. | Intelligent hybrid chatbot solution for archaeological sites tracking | |
Sardar et al. | Video key concept extraction using Convolution Neural Network | |
CN116775848B (zh) | 生成对话信息的控制方法、装置、计算设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |