CN106156010B - 翻译训练方法、装置、系统、以及在线翻译方法及装置 - Google Patents

Abstract

本申请公开了一种翻译训练方法、装置及系统。例如，应用于分布式系统中的分发服务器的翻译训练方法可以包括：将第一翻译训练任务以及待训练语料分发到映射计算服务器集群的各个映射计算服务器，以便各个映射计算服务器并行对接收到的待训练语料执行第一翻译训练任务，输出第一翻译训练结果；将第二翻译训练任务以及各个映射计算服务器输出的第一翻译训练结果分发到归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，以便各个归约计算服务器并行利用接收到的第一翻译训练结果执行第二翻译训练任务，输出第二翻译训练结果。另外，本申请还公开了一种在线翻译方法及装置。

Description

翻译训练方法、装置、系统、以及在线翻译方法及装置

技术领域

本申请涉及机器翻译领域，尤其涉及一种翻译训练方法、装置、系统、以及在线翻译方法及装置。

背景技术

机器翻译：又称为自动翻译，是利用计算机把一种自然源语言转变为另一种自然目标语言的过程，一般指自然语言之间句子和全文的翻译。

翻译系统的升级，往往伴随着对词汇翻译、短语抽取、语言模型三个核心阶段的多次翻译训练。由于翻译训练需要基于一定规模的语料进行训练，才能得出准确的训练结果，因此，业内的翻译训练往往都是在单机上进行。但是，由于大规模语料在单机上训练，效率较低，翻译训练已经成为了翻译系统升级的瓶颈。

而且，在单机上训练得到的翻译训练结果，通常会加载到单机的内存中，以便在线翻译时，到单机的内存中查询出需要的翻译训练结果进行解码。但是，将海量的翻译训练结果加载到单机的内存，查询速度较慢，机器运行压力大，翻译效率低下。

发明内容

有鉴于此，本申请的目的在于提供一种翻译训练方法、装置、系统，以实现提高翻译训练效率的目的，还提供一种在线翻译方法及装置，以实现提高在线翻译效率的目的。

在本申请实施例的第一个方面，提供了一种翻译训练方法，应用于分布式系统中的分发服务器，其中，所述分布式系统还包括映射计算服务器集群以及归约计算服务器集群，所述方法包括：将第一翻译训练任务以及待训练语料分发到所述映射计算服务器集群的各个映射计算服务器，以便所述各个映射计算服务器并行对接收到的待训练语料执行第一翻译训练任务，输出第一翻译训练结果；将第二翻译训练任务以及所述各个映射计算服务器输出的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，以便所述各个归约计算服务器并行利用接收到的第一翻译训练结果执行第二翻译训练任务，输出第二翻译训练结果。

在本申请实施例的第二个方面，提供了一种翻译训练装置，配置于分布式系统中的分发服务器，其中，所述分布式系统还包括映射计算服务器集群以及归约计算服务器集群，所述装置包括：分发单元，用于将第一翻译训练任务以及待训练语料分发到所述映射计算服务器集群的各个映射计算服务器，以便所述各个映射计算服务器并行对接收到的待训练语料执行第一翻译训练任务，输出第一翻译训练结果。归约单元，用于将第二翻译训练任务以及所述各个映射计算服务器输出的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，以便所述各个归约计算服务器并行利用接收到的第一翻译训练结果执行第二翻译训练任务，输出第二翻译训练结果。

在本申请实施例的第三个方面，提供了一种翻译训练方法，应用于分布式系统中的映射计算服务器集群中的映射计算服务器，所述分布式系统还包括分发服务器以及归约计算服务器集群，其中，所述分发服务器与映射计算服务器集群及归约计算服务器集群连接，所述方法包括：接收分发服务器分发的待训练语料以及第一翻译训练任务。与其他映射计算服务器并行地对接收到的待训练语料执行第一翻译训练任务。输出所述第一翻译训练结果，以便所述分发服务器将第二翻译训练任务以及所述各个映射计算服务器输出的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，以便所述各个归约计算服务器并行利用接收到的第一翻译训练结果执行第二翻译训练任务，输出第二翻译训练结果。

在本申请实施例的第四个方面，提供了一种翻译训练装置，配置于分布式系统中的映射计算服务器集群中的映射计算服务器，所述分布式系统还包括分发服务器以及归约计算服务器集群，其中，所述分发服务器与映射计算服务器集群及归约计算服务器集群连接，所述装置包括：映射接收单元，用于接收分发服务器分发的待训练语料以及第一翻译训练任务。第一任务执行单元，用于与其他映射计算服务器并行地对接收到的待训练语料执行第一翻译训练任务。映射输出单元，用于输出所述第一翻译训练结果，以便所述分发服务器将第二翻译训练任务以及所述各个映射计算服务器输出的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，以便所述各个归约计算服务器并行利用接收到的第一翻译训练结果执行第二翻译训练任务，输出第二翻译训练结果。

在本申请实施例的第五个方面，提供了一种翻译训练方法，应用于分布式系统中的归约计算服务器集群中的归约计算服务器，所述分布式系统还包括分发服务器以及映射计算服务器集群，其中，所述分发服务器与映射计算服务器集群及归约计算服务器集群连接，所述方法包括：接收分发服务器分发的第二翻译训练任务以及第一翻译训练结果，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，所述第一翻译训练结果具体由所述分发服务器将第一翻译训练任务以及待训练语料分发到所述映射计算服务器集群的各个映射计算服务器之后，由所述各个映射计算服务器并行对接收到的待训练语料执行第一翻译训练任务后输出。利用接收到的第一翻译训练结果执行第二翻译训练任务。输出第二翻译训练结果。

在本申请实施例的第六个方面，提供了一种翻译训练装置，配置于分布式系统中的归约计算服务器集群中的归约计算服务器，所述分布式系统还包括分发服务器以及映射计算服务器集群，其中，所述分发服务器与映射计算服务器集群及归约计算服务器集群连接，所述装置包括：归约接收单元，用于接收分发服务器分发的第二翻译训练任务以及第一翻译训练结果，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，所述第一翻译训练结果具体由所述分发服务器将第一翻译训练任务以及待训练语料分发到所述映射计算服务器集群的各个映射计算服务器之后，由所述各个映射计算服务器并行对接收到的待训练语料执行第一翻译训练任务后输出。第二任务执行单元，用于利用接收到的第一翻译训练结果执行第二翻译训练任务。归约输出单元，用于输出第二翻译训练结果。

在本申请实施例的第七个方面，提供了一种翻译训练系统。所述系统包括：分发服务器，配置用于将待训练语料分发到所述映射计算服务器集群的各个映射计算服务器，收集所述各个映射计算服务器输出的第一翻译训练结果，将收集到的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器。映射计算服务器集群的各个映射计算服务器，配置用于接收所述分发服务器分发的待训练语料，对接收到的待训练语料中的各个语言元素进行第一翻译训练，输出第一翻译训练结果。归约计算服务器集群的各个归约计算服务器，配置用于接收所述分发服务器分发的第一翻译训练结果，根据接收到的第一翻译训练结果，进行第二翻译训练，输出第二翻译训练结果。

在本申请实施例的第八个方面，提供了一种在线翻译方法，应用于服务器侧。其中，所述方法可以包括：接收用户侧发出的在线翻译请求，并行在数据库的各个分区中查询出所述在线翻译请求涉及的待翻译语料对应的第二翻译训练结果，利用所述第二翻译训练结果对所述待翻译语料进行解码，得到所述待翻译语料对应的翻译结果，向所述用户侧反馈所述翻译结果。其中，所述数据库的各个分区分别用于存储与之相连的归约计算服务器所输出的第二翻译训练结果，其中，所述归约计算服务器为分布式系统的归约计算服务器集群中的服务器，所述分布式系统还包括分发服务器，映射计算服务器集群。其中，所述分发服务器，配置用于将待训练语料分发到所述映射计算服务器集群的各个映射计算服务器，收集所述各个映射计算服务器输出的第一翻译训练结果，将收集到的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器。所述映射计算服务器集群的各个映射计算服务器，配置用于接收所述分发服务器分发的待训练语料，对接收到的待训练语料中的各个语言元素进行第一翻译训练，输出第一翻译训练结果。所述归约计算服务器集群的各个归约计算服务器，配置用于接收所述分发服务器分发的第一翻译训练结果，根据接收到的第一翻译训练结果，进行第二翻译训练，输出第二翻译训练结果。

在本申请实施例的第九个方面，提供了一种在线翻译装置，配置于服务器侧。其中，所述装置可以包括：在线翻译接收单元，可以用于接收在线翻译请求。查询单元，可以用于并行在数据库的各个分区中查询出所述在线翻译请求涉及的待翻译语料对应的第二翻译训练结果。解码单元，可以用于利用所述第二翻译训练结果对所述待翻译语料进行解码，得到所述待翻译语料对应的翻译结果。其中，所述数据库的各个分区分别用于存储与之相连的归约计算服务器所输出的第二翻译训练结果，其中，所述归约计算服务器为分布式系统的归约计算服务器集群中的服务器，所述分布式系统还包括分发服务器，映射计算服务器集群。其中，所述分发服务器，配置用于将待训练语料分发到所述映射计算服务器集群的各个映射计算服务器，收集所述各个映射计算服务器输出的第一翻译训练结果，将收集到的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器。所述映射计算服务器集群的各个映射计算服务器，配置用于接收所述分发服务器分发的待训练语料，对接收到的待训练语料中的各个语言元素进行第一翻译训练，输出第一翻译训练结果。所述归约计算服务器集群的各个归约计算服务器，配置用于接收所述分发服务器分发的第一翻译训练结果，根据接收到的第一翻译训练结果，进行第二翻译训练，输出第二翻译训练结果。

可见，本申请具有如下有益效果：

由于在本申请中，由分发服务器将第一翻译训练任务及待训练语料分发到所述映射计算服务器集群的各个映射计算服务器，由各个映射计算服务器并行对接收到的待训练语料执行第一翻译训练任务，输出第一翻译训练结果，由分发服务器将第二翻译训练任务以及各个映射计算服务器输出的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，由于相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，因此，保证了第二翻译训练任务所需要的数据规模，由各个归约计算服务器并行根据接收到的第一翻译训练结果，执行第二翻译训练任务，可以又快又准地得到第二翻译训练结果。因此，本申请在包括分发服务器、映射计算服务器集群、归约计算服务器集群的分布式系统架构上，可以针对词汇翻译、短语抽取、语言模型等任意一个或多个阶段进行并行计算的翻译训练，训练速度快，有效提高了翻译训练的效率；

另外，由于本申请实施例中的数据库各个分区分别用于存储与之相连的归约计算服务器所输出的第二翻译训练结果，因此，在接收到用户侧发出的在线翻译请求之后，可以并行在数据库的各个分区中查询出所述在线翻译请求涉及的待翻译语料对应的第二翻译训练结果，查询速度较快，从而可以尽快利用第二翻译训练结果对所述待翻译语料进行解码，得到所述待翻译语料对应的翻译结果，向用户侧反馈翻译结果，翻译效率较高。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本申请实施例提供的一种分布式系统的结构示意图；

图2为本申请一实施例提供的应用于分布式系统中的分发服务器的翻译训练方法流程示意图；

图3为本申请另一实施例提供的应用于分布式系统中的分发服务器的翻译训练方法流程示意图；

图4为本申请实施例提供的配置于分布式系统中的分发服务器的翻译训练装置结构示意图；

图5为本申请实施例提供的应用于分布式系统中的映射计算服务器的翻译训练方法流程示意图；

图6为本申请实施例提供的配置于分布式系统中的映射计算服务器的翻译训练装置结构示意图；

图7为本申请实施例提供的应用于分布式系统中的归约计算服务器的翻译训练方法流程示意图；

图8为本申请实施例提供的配置于分布式系统中的归约计算服务器的翻译训练装置结构示意图；

图9为本申请实施例提供的应用于服务器侧的在线翻译训练方法流程示意图；

图10为本申请实施例涉及的服务器侧的结构示意图；

图11为本申请实施例提供的配置于服务器侧的在线翻译训练装置结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本申请中的技术方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。

首先，对本申请实施例所涉及的分布式系统的架构进行介绍。

例如，如图1所示，本申请实施例所述分布式系统可以包括：分发服务器110、映射计算服务器集群120、归约计算服务器集群130。其中，分发服务器110，配置用于将待训练语料分发到映射计算服务器集群120的各个映射计算服务器，收集所述各个映射计算服务器输出的第一翻译训练结果，将收集到的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器。所述映射计算服务器集群120的各个映射计算服务器，可以配置用于接收所述分发服务器分发的待训练语料，对接收到的待训练语料中的各个语言元素进行第一翻译训练，输出第一翻译训练结果。所述归约计算服务器集群130的各个归约计算服务器，可以配置用于接收所述分发服务器分发的第一翻译训练结果，根据接收到的第一翻译训练结果，进行第二翻译训练，输出第二翻译训练结果。

一些可能的实施方式中，本申请实施例所述分布式系统可以基于MapReduce模型实现。所述映射计算服务器集群120可以为Map节点集群。所述归约计算服务器集群130可以为Reduce节点集群。在该实施方式中，所述分发服务器110根据实际需要可以由一个或多个服务器实现。例如，所述分发服务器110可以包括原始任务分发服务器集群1101、中间数据仓库1102、以及中控服务器1103。其中，所述原始任务分发服务器集群1101，可以用于负责切分待训练语料，将切分后的待训练语料及第一翻译训练任务分发给合适的Map节点以便Map节点执行第一翻译训练任务，以及，还可以用于将第二翻译训练任务及第一翻译训练结果分发给合适的Reduce节点以便Reduce节点利用第一翻译训练结果执行第二翻译训练任务。其中，所述中间数据仓库1102，可以用于收集各个Map节点输出的第一翻译训练结果，并将相同语言元素对应的第一翻译训练结果进行归并。其中，所述中控服务器1103，可以用于控制所述中间数据仓库1102将相同元素对应的第一翻译训练结果分发到相同的Reduce节点。

需要说明的是，图1所示的分布式系统架构仅为本申请实施例一种可能的实施方式。根据实际需要的不同，所述分布式系统的架构还可以有其他可能的实施方式，在此不再一一赘述。

下面，基于图1所示的分布式系统，对本申请实施例提供的应用于分发服务器的翻译训练方法进行详细介绍。

例如，参见图2，为本申请一实施例提供的一种翻译训练方法流程示意图。如图2所示，该方法可以包括：

S210、将第一翻译训练任务以及待训练语料分发到所述映射计算服务器集群的各个映射计算服务器，以便所述各个映射计算服务器并行对接收到的待训练语料执行第一翻译训练任务，输出第一翻译训练结果。

需要说明的是，本申请实施例所提供的翻译训练方法可以用于针对词汇翻译、短语抽取、语言模型三个阶段的任意阶段的翻译训练。因此，本申请实施例所述待训练语料可以是对词汇翻译、短语抽取、语言模型三个阶段的任意阶段进行翻译训练所需要的输入数据。本申请实施例所述第一翻译训练任务可以是对词汇翻译、短语抽取、语言模型三个阶段的任意阶段进行翻译训练所需要的翻译训练任务。

例如，分发服务器可以对所述待训练语料进行切分，将切分后的每一份分发给一个即将被分发第一翻译训练任务或已被分发第一翻译训练任务的映射计算服务器。

S220、将第二翻译训练任务以及所述各个映射计算服务器输出的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，以便所述各个归约计算服务器并行利用接收到的第一翻译训练结果执行第二翻译训练任务，输出第二翻译训练结果。

例如，分发服务器可以将第一翻译训练结果分发到即将被分发第二翻译训练任务或已被分发第二翻译训练任务的归约计算服务器。

可见，在本申请实施例中，由于分发服务器将第一翻译训练任务以及待训练语料分发到所述映射计算服务器集群的各个映射计算服务器，各个映射计算服务器并行执行第一翻译训练任务，输出第一翻译训练结果，且分发服务器将第二翻译训练任务以及所述各个映射计算服务器输出的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，由于相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，因此，保证了第二翻译训练任务所需要的数据规模，由各个归约计算服务器并行执行第二翻译训练任务，可以又快又准地得到第二翻译训练结果。因此，本申请在包括分发服务器、映射计算服务器集群、归约计算服务器集群的分布式系统架构上，可以针对词汇翻译、短语抽取、语言模型等任意一个或多个阶段进行并行计算的翻译训练，训练速度快，有效提高了翻译训练的效率。

一些可能的实施方式中，本申请实施例可以采取先正向翻译训练，再反向翻译训练的训练方式。但是，考虑到先正向翻译训练，再反向翻译训练，存在很多重复性计算，例如，可能存在对相同词汇或短语频次的重复统计等等，大大增加了计算资源和时间的消耗。因此，在另一些可能的实施方式中，本申请实施例采取了正/反向翻译同时训练的实施方式。

例如，参见图3，为本申请另一实施例提供的一种翻译训练方法流程示意图。如图3所示，所述方法可以包括：

S310、将从源语言元素翻译到目标语言元素的第一正向翻译训练任务、从目标语言元素翻译到源语言元素的第一反向翻译训练任务、以及、待训练双语句对语料，分发到所述映射计算服务器集群的各个映射计算服务器，以便所述各个映射计算服务器并行对接收到的待训练双语句对语料执行第一正向翻译训练任务，输出第一正向翻译训练任务对应的第一正向翻译训练结果，以及，并行对接收到的待训练双语句对语料执行第一反向翻译训练任务，输出第一反向翻译训练任务对应的第一反向翻译训练结果。

S320、将从源语言元素翻译到目标语言元素的第二正向翻译训练任务及各个映射计算服务器输出的第一正向翻译训练结果、及，从目标语言元素翻译到源语言元素的第二反向翻译训练任务及各个映射计算服务器输出的第一反向翻译训练结果，分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同源语言元素对应的第一正向翻译训练结果分发到相同归约计算服务器，相同目标语言元素对应的第一反向翻译训练结果分发到相同归约计算服务器，以便所述各个归约计算服务器并行利用接收到的第一正向翻译训练结果执行第二正向翻译训练任务，输出第二正向翻译训练结果，以及，并行利用接收到的第一反向翻译训练结果执行第二反向翻译训练任务，输出第二反向翻译训练结果。

通过上述正/反向翻译训练同时执行的实施方式，可以减少对相同语言元素的重复统计，缩短训练时间。

为了使本申请实施例更加易于理解，下面通过以下两个实施例对词汇翻译、短语抽取两个阶段正/反向翻译同时训练的具体实施方式分别进行详细说明。

(实施例一)词汇翻译阶段

例如，本申请实施例对词汇翻译阶段的正/向词汇翻译同时训练的具体实施方式中：

所述第一正向翻译训练任务以及第二正向翻译训练任务具体可以包括：计算源语言词汇翻译到目标语言词汇的正向翻译概率。

所述第一反向翻译训练任务以及第二反向翻译训练任务具体可以包括：计算目标语言词汇翻译到源语言词汇的反向翻译概率。

所述第一正向翻译训练结果及第二正向翻译训练结果具体可以为源语言词汇翻译到目标语言词汇的正向翻译概率。

所述第一反向翻译训练结果及第二反向翻译训练结果具体可以为目标语言词汇翻译到源语言词汇的反向翻译概率。

其中，所述源语言元素为源语言词汇，所述目标语言元素为目标语言词汇。

例如，本申请实施例对词汇翻译阶段的正/向词汇翻译同时训练的具体实施方式可以包括以下步骤：

(词汇翻译步骤一)将计算源语言词汇翻译到目标语言词汇的正向翻译概率的任务，计算目标语言词汇翻译到源语言词汇的反向翻译概率的任务、以及，待训练双语句对语料分发到所述映射计算服务器集群的各个映射计算服务器，以便所述各个映射计算服务器并行计算源语言词汇翻译到目标语言词汇的正向翻译概率，以及，并行计算目标语言词汇翻译到源语言词汇的反向翻译概率，输出源语言词汇翻译到目标语言词汇的正向翻译概率，以及，目标语言词汇翻译到源语言词汇的反向翻译概率。

在本申请实施例所述分布式系统基于MapReduce模型实现的实施方式中，为了便于进行翻译概率计算的迭代，该步骤可以使Map节点进行每一源语言词汇f_i对应到每一目标语言词汇e_j的正向翻译概率p(a_ij)的初始统计，其中，i、j为自然数。

例如，如下表所示的待训练双语句对语料。语料中包含源语言语句与目标语言语句对应互为译文的4个句对。这些待训练双语句对语料可以保存在任意格式的文件中。例如，可以保存在txt格式的文件中。分发服务器可以将该文件中保存的句对进行拆分，将拆分后的句对随机分发到不同的Map节点上。各个Map节点可以并行分别对接收到的句对进行源语言词汇对应到目标语言词汇的正向翻译概率的初始统计。例如，句对“我想买个苹果”“I want to buy an apple”与句对“我有一个苹果”“I have an apple”被分配到同一Map节点，则该Map节点根据“我”可能翻译成英文句子中7个英文单词中的任何一个词，输出的源语言词汇“我”对应7个目标语言词汇中的任何一个词的正向翻译概率的初始值都是1/7。

源语言语句	目标语言语句
		我想买个苹果	I want to buy an apple
我有一个苹果	I have an apple
		我有一本书	I have a book
我想买本书	I want to buy a book

例如，Map节点的输出可以包括以源语言词汇f_i为key，目标语言词汇e_j及对应的正向翻译概率为value的key-value对。如图1所示，以源语言词汇f_i为key，目标语言词汇e_j及对应的正向翻译概率为value的key-value对，可以收集在中间数据仓库1102中，并按照key排序的特性在中间数据仓库1102中归并。当然，Map节点的输出还可以包括以目标语言词汇e_j为key，源语言词汇f_i及对应的反向翻译概率为value的key-value对。

(词汇翻译步骤二)将计算源语言词汇翻译到目标语言词汇的正向翻译概率的任务及各个映射计算服务器输出的源语言词汇翻译到目标语言词汇的正向翻译概率、及，计算目标语言词汇翻译到源语言词汇的反向翻译概率的任务及各个映射计算服务器输出的目标语言词汇翻译到源语言词汇的反向翻译概率，分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同源语言元素对应的正向翻译概率分发到相同归约计算服务器，相同目标语言元素对应的反向翻译概率分发到相同归约计算服务器，以便所述各个归约计算服务器并行利用接收到的正向翻译概率执行对源语言词汇翻译到目标语言词汇的正向翻译概率的迭代，输出源语言词汇翻译到目标语言词汇的正向翻译概率，以及，并行利用接收到的反向翻译概率执行对目标语言词汇翻译到源语言词汇的反向翻译概率的迭代，输出目标语言词汇翻译到源语言词汇的反向翻译概率。

在本申请实施例所述分布式系统基于MapReduce模型实现的实施方式中，可以由中控服务器1103控制中间数据仓库1102将相同key的key-value对分发到相同的Reduce节点。该步骤可以使Reduce节点根据以下公式求出源语言词汇f_i对应到目标语言词汇e_j的正向翻译概率。各个Reduce节点的输出可以收集在中间数据仓库1102中。

其中，在Reduce节点计算目标语言词汇e_j对应到目标语言词汇f_i的反向翻译概率的公式的原理与上面公式类似，在此不再赘述。

例如，假设各个映射计算服务器输出的正向翻译概率分发到Reduce 1及Reduce2这两个Reduce节点中。其中：

分发到Reduce 1节点的正向翻译概率如下表所示：

源语言词汇	目标语言词汇和正向翻译概率
		我	I 0.5
我	Want 0.1

分发到Reduce 2节点的正向翻译概率如下表所示：

源语言词汇	目标语言词汇和正向翻译概率
		想	I 0.1
想	Want 0.5

则Reduce 1节点的输出可以如下表所示：

源语言词汇	目标语言词汇和正向翻译概率
		我	I 0.5/(0.5+0.1)＝5/6
我	Want 0.1/(0.5+0.1)＝1/6

则Reduce 2节点的输出可以如下表所示：

源语言词汇	目标语言词汇和正向翻译概率
		想	I 0.1/(0.5+0.1)＝1/6
想	Want 0.5/(0.5+0.1)＝5/6

一些可能的实施方式中，各个Reduce节点的输出可以合并到一个文件中，以便将该文件进行压缩后，提供给Map节点下一轮迭代时使用。

(词汇翻译步骤三)将各个归约计算服务器输出的正向翻译概率以及反向翻译概率，分发到所述映射计算服务器集群的各个映射计算服务器，以便所述各个映射计算服务器判断接收到的正向翻译概率以及反向翻译概率是否达到收敛状态，如果是，则根据接收到的正向翻译概率及反向翻译概率，输出目标语言词汇与其对齐的源语言词汇之间的对应关系，如果否，则利用接收到的正向翻译概率及反向翻译概率，对所述待训练双语句对语料执行第一翻译训练任务，输出第一翻译训练结果。

可以理解的是，其中，根据接收到的正向翻译概率及反向翻译概率，对所述待训练双语句对语料执行第一翻译训练任务，输出第一翻译训练结果可以包括：利用接收到的正向翻译概率执行对源语言词汇翻译到目标语言词汇的正向翻译概率的迭代，输出源语言词汇翻译到目标语言词汇的正向翻译概率，以及，利用接收到的反向翻译概率执行对目标语言词汇翻译到源语言词汇的反向翻译概率的迭代，输出目标语言词汇翻译到源语言词汇的反向翻译概率。

在本申请实施例所述分布式系统基于MapReduce模型实现的实施方式中，可以由中控服务器1103控制中间数据仓库1102将从Reduce节点收集到的正向翻译概率及反向翻译概率分发到Map节点集群的各个Map节点。

对于Map节点来说，Map节点接收到正向翻译概率及反向翻译概率之后，会查询正向翻译概率及反向翻译概率是否达到收敛状态，如果达到收敛状态，则可以不再计算翻译概率，而是直接输出目标语言词汇与其对齐的源语言词汇之间的对应关系。例如，目标语言词汇与其对齐的源语言词汇之间的对应关系可以保存在词对齐表中。例如，与源语言词汇f_i对齐的目标语言词汇a(f_i)可以根据确定。如果未达到收敛状态，则可以利用接收到的正向翻译概率再进行源语言词汇对应到目标语言词汇的正向翻译概率的迭代。例如，对于句对(f,e)来说，其中f＝(f₀,f₁,...,f_n)表示源语言句子，e＝(e₀,e₁,...,e_m)表示目标语句子，Map节点可以根据以下公式求出源语言词汇f_i对应到目标语言词汇e_j的正向翻译概率p(a_ij)，公式如下：

其中，在Map节点计算目标语言词汇e_j对应到目标语言词汇f_i的反向翻译概率的公式的原理与上面公式类似，在此不再赘述。

例如，假设一个Map节点接收到的正向翻译概率如下表所示，则Map节点可以根据上述公式计算出目标语言词汇“我”对应到“I”的正向翻译概率＝(5/7)/(5/7+1/7+1/7+1/7+1/7+1/7)＝0.5。

源语言词汇	目标语言词汇	正向翻译概率
			我	I	5/7
我	Want	1/7
			我	To	1/7

我	Buy	1/7
			我	An	1/7
我	Apple	1/7

(词汇翻译步骤四)由于在正向翻译概率及反向翻译概率未达到收敛状态时，各个映射计算服务器会利用接收到的正向翻译概率及反向翻译概率，对所述待训练双语句对语料执行第一翻译训练任务，输出第一翻译训练结果。因此，在各个映射计算服务器输出第一翻译训练结果之后，分发服务器需返回到所述将第二翻译训练任务以及所述各个映射计算服务器输出的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器的步骤。也即，返回到上述(词汇翻译步骤二)，从而使归约计算服务器继续进行正向翻译概率及反向翻译概率的迭代。

可以理解的是，该实施例介绍的是正/反向词汇翻译同时训练的实施方式。但是，本申请实施例也可以采取正/反向词汇翻译先后训练的实施方式。本申请对此并不进行限制。例如，本申请实施例可以先计算源语言词汇与目标语言词汇之间的正向翻译概率，根据正向翻译概率，得到一部分源语言词汇与其对齐的目标语言词汇之间的对应关系，再计算目标语言词汇与源语言词汇之间的反向翻译概率，据反向翻译概率，得到另一部分源语言词汇与其对齐的目标语言词汇之间的对应关系，从而将两部分得到的源语言词汇与其对齐的目标语言词汇之间的对应关系合并，得到最终的源语言词汇与其对齐的目标语言词汇之间的对应关系。

(实施例二)短语抽取阶段

一：词对齐

一些可能的实施方式中，为了准确抽取出在句对中对齐的源语言短语与目标语言短语。在抽取短语之前，可以先统计出在句对中对齐的源语言词汇与目标语言词汇之间的正向词对齐翻译概率以及反向词对齐翻译概率。

例如，本申请实施例在短语抽取阶段同时统计正向词对齐翻译概率以及反向词对齐翻译概率的具体实施方式中：

所述第一正向翻译训练任务具体可以包括：利用源语言词汇与其对齐的目标语言词汇之间的对应关系，将待训练双语句对语料的句对中源语言词汇与目标语言词汇对齐，得到在句对中对齐的源语言词汇翻译到目标语言词汇的正向对齐词对。

所述第一正向翻译训练结果具体可以为源语言词汇翻译到目标语言词汇的正向对齐词对。

所述第一反向翻译训练任务具体可以包括：利用源语言词汇与其对齐的目标语言词汇之间的对应关系，将待训练双语句对语料的句对，将待训练双语句对语料的句对中源语言词汇与目标语言词汇对齐，得到在句对中对齐的目标语言词汇翻译到源语言词汇的反向对齐词对。

所述第一反向翻译训练结果具体可以为在句对中对齐的目标语言词汇翻译到源语言词汇的反向对齐词对。

所述第二正向翻译训练任务具体可以包括：统计出在句对中对齐的源语言词汇翻译到目标语言词汇的正向对齐词对的正向词对齐翻译概率。

所述第二正向翻译训练结果具体可以为在句对中对齐的源语言词汇翻译到目标语言词汇的正向对齐词对的正向词对齐翻译概率。

所述第二反向翻译训练任务具体可以包括：统计出在句对中对齐的目标语言词汇翻译到源语言词汇的反向对齐词对的反向词对齐翻译概率。

所述第二反向翻译训练结果具体可以为在句对中对齐的目标语言词汇翻译到源语言词汇的反向对齐词对的反向词对齐翻译概率。其中，所述源语言元素为源语言词汇，所述目标语言元素为目标语言词汇。

例如，本申请实施例在短语抽取阶段同时统计正向词对齐翻译概率以及反向词对齐翻译概率的实施方式可以包括以下步骤：

(词对齐步骤一)将第一正向翻译训练任务、第一反向翻译训练任务、以及、源语言词汇与其对齐的目标语言词汇之间的对应关系、待训练双语句对语料，分发到所述映射计算服务器集群的各个映射计算服务器，以便所述各个映射计算服务器并行利用源语言词汇与其对齐的目标语言词汇之间的对应关系，将接收到的待训练双语句对语料的句对中源语言词汇与目标语言词汇正向对齐，将接收到的待训练双语句对语料的句对中源语言词汇与目标语言词汇反向对齐，输出在句对中对齐的源语言词汇翻译到目标语言词汇的正向对齐词对，以及，在句对中对齐的目标语言词汇翻译到源语言词汇的反向对齐词对。

在本申请实施例所述分布式系统基于MapReduce模型实现的实施方式中，该步骤可以使Map节点将待训练双语句对语料的句对中，对齐的源语言词汇与目标语言词汇成对输出。其中，Map节点的输出包括：以源语言词汇f_i为key，其在句对中对齐的目标语言词汇e_j为value的key-value对，以及，以目标语言词汇e_j为key，其在句对中对齐的源语言词汇f_i为value的key-value对。其中，key-value对可以收集在中间数据仓库1102中，并按照key排序的特性在中间数据仓库1102中归并。

例如，假设一个Map1节点接收到句对“我想买个苹果”“I want to buy anapple”。如果该Map1节点根据源语言词汇与其对齐的目标语言词汇之间的对应关系确定“我”与“I”对齐，“一个”与“an”对齐，“想”与“want to”对齐，“苹果”与“apple”对齐，则该Map1节点输出的正向对齐词对如下表所示：

源语言词汇	目标语言词汇
		我	I
一个	an
		想	Want to
苹果	Apple

假设另一个Map2节点中接收到句对“我想买本书”“I want to buy a book”。如果该Map2节点根据源语言词汇与其对齐的目标语言词汇之间的对应关系确定“我”与“I”对齐，“一个”与“a”对齐，“想”与“want to”对齐，“书”与“book”对齐，则该Map2节点输出的正向对齐词对如下表所示：

源语单词	目标语单词
		我	I
一个	a
		想	Want to
书	Book

(词对齐步骤二)将第二正向翻译训练任务及各个映射计算服务器输出的正向对齐词对、及，第二反向翻译训练任务及各个映射计算服务器输出的反向对齐词对，分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同源语言词汇对应的正向对齐词对分发到相同归约计算服务器，相同目标语言词对对应的反向对齐词对分发到相同归约计算服务器，以便所述各个归约计算服务器并行利用接收到的正向对齐词对，统计出在句对中对齐的源语言词汇翻译到目标语言词汇的正向对齐词对的正向词对齐翻译概率，输出正向词对齐翻译概率，以及，并行利用接收到的反向对齐词对，统计出在句对中对齐的目标语言词汇翻译到源语言词汇的反向对齐词对的反向词对齐翻译概率，输出反向词对齐翻译概率。

在本申请实施例所述分布式系统基于MapReduce模型实现的实施方式中，可以由中控服务器1103控制中间数据仓库1102将相同key的key-value对分发到相同的Reduce节点。该步骤可以使Reduce节点根据以下公式求出源语言词汇f_i对应到目标语言词汇e_j的正向词对齐翻译概率：

其中k为自然数。

例如，结合上面提到的两个Map节点的输出，一个Reduce节点会接收到“一个”这个源语言词汇对应的目标语言词汇“an”(来源于Map1节点)和“a”(来源于Map2节点)。从而，源语言词汇“一个”与“an”和“a”的正向词对齐翻译概率可以统计出来，都为0.5。同理，由于源语言词汇“我”只对应目标语言词汇“I”，源语言词汇“想”只对应目标语言词汇“want to”，所以，源语言词汇“我”与目标语言词汇“I”的正向词对齐翻译概率就是1，源语言词汇“想”与目标语言词汇“want to”的正向词对齐翻译概率也是1。

可以理解的是，在短语抽取阶段中词对齐翻译概率与词汇翻译阶段中翻译概率的区别在于，短语抽取阶段中词对齐翻译概率仅针对在句对中对齐的源语言词汇与目标语言词汇之间的翻译概率，而词汇翻译阶段中翻译概率针对的是每一源语言词汇与每一目标语言词汇之间的翻译概率。

二：短语抽取

一些可能的实施方式中，可以根据在句对中对齐的源语言词汇与目标语言词汇之间的正/反向词对齐翻译概率，准确抽取出在句对中对齐的源语言短语与目标语言短语，并计算出源语言短语翻译到目标语言短语的短语对的正向词联合翻译概率、源语言短语翻译到目标语言短语的短语对的正向短语翻译概率，目标语言短语翻译到源语言短语的短语对的反向词联合翻译概率、目标语言短语翻译到源语言短语的短语对的反向短语翻译概率这四个概率特征。

例如，本申请实施例在短语抽取阶段抽取源语言短语与目标语言短语，并计算四个概率特征的具体实施方式中：

所述第一正向翻译训练任务具体可以包括：利用在句对中对齐的源语言词汇翻译到目标语言词汇的正向对齐词对的正向词对齐翻译概率，抽取出在待训练双语句对语料的句对中对齐的源语言短语翻译到目标语言短语的正向短语对。

所述第一正向翻译训练结果具体可以为在句对中对齐的源语言短语翻译到目标语言短语的正向短语对。

所述第一反向翻译训练任务具体可以包括：利用在句对中对齐的目标语言词汇翻译到源语言词汇的反向对齐词对的反向词对齐翻译概率，抽取出在待训练双语句对语料的句对中对齐的目标语言短语翻译到源语言短语的反向短语对。

所述第一反向翻译训练结果具体为在句对中对齐的目标语言短语翻译到源语言短语的反向短语对。

所述第二正向翻译训练任务具体可以包括：计算出在句对中对齐的源语言短语翻译到目标语言短语的短语对的正向词联合翻译概率，以及，计算出在句对中对齐的源语言短语翻译到目标语言短语的短语对的正向短语翻译概率。

所述第二正向翻译训练结果具体可以为在句对中对齐的源语言短语翻译到目标语言短语的短语对的正向词联合翻译概率，以及，在句对中对齐的源语言短语翻译到目标语言短语的短语对的正向短语翻译概率。

所述第二反向翻译训练任务具体可以包括：计算出在句对中对齐的目标语言短语翻译到源语言短语的短语对的反向词联合翻译概率，以及，计算出在句对中对齐的目标语言短语翻译到源语言短语的短语对的反向短语翻译概率。

所述第二反向翻译训练结果具体可以为在句对中对齐的目标语言短语翻译到源语言短语的短语对的反向词联合翻译概，以及，在句对中对齐的目标语言短语翻译到源语言短语的短语对的反向短语翻译概率。

其中，所述源语言元素为源语言短语，所述目标语言元素为目标语言短语。

具体地，例如，本申请实施例在短语抽取阶段抽取源语言短语与目标语言短语，并计算四个概率特征的具体实施方式可以包括以下步骤：

(短语抽取步骤一)将第一正向翻译训练任务、第一反向翻译训练任务、待训练双语句对语料、在句对中对齐的源语言词汇翻译到目标语言词汇的正向对齐词对的正向词对齐翻译概率、在句对中对齐的目标语言词汇翻译到源语言词汇的反向对齐词对的反向词对齐翻译概率、分发到所述映射计算服务器集群的各个映射计算服务器，以便所述各个映射计算服务器并行利用在句对中对齐的源语言词汇翻译到目标语言词汇的正向对齐词对的正向词对齐翻译概率，抽取出在待训练双语句对语料的句对中对齐的源语言短语翻译到目标语言短语的正向短语对，输出在句对中对齐的源语言短语翻译到目标语言短语的正向短语对，以及，并行利用在句对中对齐的目标语言词汇翻译到源语言词汇的反向对齐词对的反向词对齐翻译概率，抽取出在待训练双语句对语料的句对中对齐的目标语言短语翻译到源语言短语的反向短语对，输出在句对中对齐的目标语言短语翻译到源语言短语的反向短语对。

在本申请实施例所述分布式系统基于MapReduce模型实现的实施方式中，Map节点的输出可以包括：以源语言短语为key，其对齐目标语言短语、及源语言短语在所述待训练双语句对语料中出现的句子数，其对齐目标语言短语在所述待训练双语句对语料中出现的句子数、源语言短语与其对齐目标语言短语共同在一个句对中出现的句子数为value的key-value对，以及，以目标语言短语为key，其对齐源语言短语、及目标语言短语在所述待训练双语句对语料中出现的句子数，其源目标语言短语在所述待训练双语句对语料中出现的句子数、目标语言短语与其对齐源语言短语共同在一个句对中出现的句子数为value的key-value对。如图1所示，key-value对可以收集在中间数据仓库1102中，并按照key排序的特性在中间数据仓库1102中归并。

例如，假设Map1节点接收到句对“我想买个苹果”“I want to buy an apple”，根据短语抽取规则，可以抽取出如下表所示对齐的源语言短语与目标语言短语：

源语言短语	目标语言短语
		我想	I want to
买一个	Buy an
		有一个	Have an
苹果	Apple

再例如，假设Map2节点接收到句对“我想买本书”“I want to buy a book”，根据短语抽取规则，可以抽取出如下表所示对齐的源语言短语与目标语言短语：

源语言短语	目标语言短语
		我想	I want to
买一个	Buy a
		有一个	Have a
书	Book

需要说明的是，本申请实施例对所述短语抽取规则的具体实施方式不限，可以按照现有技术一般的短语抽取规则实现。例如，可以根据在句对中对齐的源语言词汇与目标语言词汇之间的正向词对齐翻译概率，确定句对中对齐的词对，将词对进行一定方式的组合，得到合适的正向短语对。

(短语抽取步骤二)将第二正向翻译训练任务、各个映射计算服务器输出的在句对中对齐的源语言短语翻译到目标语言短语的正向短语对、及，第二反向翻译训练任务、各个映射计算服务器输出的在句对中对齐的目标语言短语翻译到源语言短语的反向短语对，分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同源语言短语对应的正向短语对分发到相同归约计算服务器，相同目标语言短语对应的反向短语对分发到相同归约计算服务器，以便所述各个归约计算服务器并行计算出在句对中对齐的源语言短语翻译到目标语言短语的短语对的正向词联合翻译概率，以及，计算出在句对中对齐的源语言短语翻译到目标语言短语的短语对的正向短语翻译概率，输出正向词联合翻译概率及正向短语翻译概率，以及，并行计算出在句对中对齐的目标语言短语翻译到源语言短语的短语对的反向词联合翻译概率，以及，计算出在句对中对齐的目标语言短语翻译到源语言短语的短语对的反向短语翻译概率，输出反向词联合翻译概率及反向短语翻译概率。

在本申请实施例分布式系统基于MapReduce模型实现的实施方式中，可以由中控服务器1103控制中间数据仓库1102将相同key的key-value对分发到相同的Reduce节点。

例如，源语言短语“买一个”作为key，与其对齐的目标语言短语“buy an”、“buy a”会被分发到一个Reduce节点上，由于“买一个”有2个候选翻译，则该Reduce节点可以计算出源语言短语“买一个”与目标语言短语“buy an”、“buy a”的正向短语翻译概率分别为0.5。

再例如，源语言短语与目标语言短语之间的正向词联合翻译概率，可以通过将其中单个词汇的正向词对齐翻译概率进行联合运算得到。反向词联合翻译概率同理，可以通过将其中单个词汇的反向词对齐翻译概率进行联合运算得到。其中，所述联合运算例如可以为相乘，也可以为其他运算方式，本申请对此并不进行限制。例如，可以将“买”与“Buy”之间的正向词对齐翻译概率与“一个”与“an”之间的正向词对齐翻译概率相乘，得到“买一个”与“Buy an”之间的正向词联合翻译概率。可以将“买”“Buy”之间的正向词对齐翻译概率与“一个”“a”之间的正向词对齐翻译概率相乘，得到“买一个”与“Buy a”之间的正向词联合翻译概率。

三：显著性计算

一些可能的实施方式中，考虑到在短语抽取过程中，可以对短语出现的句子数进行统计，因此，本申请实施例将以短语出现的句子数为计算因子的显著性计算融入到短语抽取的过程。具体地，在该实施方式中，所述第二翻译训练任务还可以包括：在所述第二正向翻译训练任务执行过程中，以及，在所述第二反向翻译训练任务执行过程中，对源语言短语与目标语言短语做显著性计算，根据显著性计算结果去除冗余的源语言短语与目标语言短语。例如，在短语抽取过程中，会对源语言短语在所述待训练双语句对语料中出现的句子数，其对齐目标语言短语在所述待训练双语句对语料中出现的句子数、源语言短语与其对齐目标语言短语共同在一个句对中出现的句子数、以及，对目标语言短语在所述待训练双语句对语料中出现的句子数，其对齐源语言短语在所述待训练双语句对语料中出现的句子数、目标语言短语与其对齐源语言短语共同在一个句对中出现的句子数进行统计。在该实施方式中，由于在计算短语规则特征的同时，做短语显著性的计算，从而可以预先过滤掉冗余和错误短语，减小短语规模。

下面，再通过以下实施例对语言模型阶段翻译训练的具体实施方式进行详细说明。

(实施例三)语言模型阶段

一般地，语言模型的训练过程，首先会对单语语句进行n元切分得到切分后的n-gram，再计算每个n-gram的回退概率、后验概率、最后通过平滑算法对每个n-gram进行概率平滑和剪枝，最后得到语言模型。其中，n为自然数。

一：短语切分

例如，在对短语进行n元切分的实施方式中，所述待训练语料为待训练单语语句。所述第一翻译训练任务包括：对所述待训练单语语句进行n元切分。所述第一翻译训练结果为所述切分后得到的各个n-gram。所述语言元素为n-gram。所述第二翻译训练任务包括：对n-gram对应的频次进行统计。所述第二翻译训练结果为所述统计后得到的各个n-gram对应的频次。

具体地，短语切分的实施方式可以包括以下步骤：

(短语切分步骤一)将对待训练单语语句进行n元短语切分的任务以及待训练单语语句分发到所述映射计算服务器集群的各个映射计算服务器，以便所述各个映射计算服务器并行对待训练单语语句进行n元切分，输出切分后得到的各个n-gram。

(短语切分步骤二)将对n-gram对应的频次进行统计的任务以及所述各个映射计算服务器输出的n-gram分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同n-gram分发到相同归约计算服务器，以便所述各个归约计算服务器并行对n-gram对应的频次进行统计，输出各个n-gram对应的频次。

在本申请实施例所述分布式系统基于MapReduce模型实现的实施方式中，Map节点会对输入的每句单语语句，进行n元切分，然后利用MapReduce框架Map输出时按照key排序的特性，相同的n-gram分发到同一个Reduce节点上，这样可以并行统计不同n-gram的词频从而输出每个n元短语及其词频

例如，Map节点对句子“我想买个苹果”进行n元切分后，得到的短语如下表所示：

相同短语被分发到一个Reduce节点上，例如“我想”这个短语，在所有训练语料中出现了2次，则其词频为2，Reduce节点的输出包括下表所示内容：

短语	词频
		我想	2
我有	2
		我	4

二：回退概率、后验概率

例如，在计算每个n-gram的回退概率、后验概率的实施方式中，所述待训练语料为对待训练单语语句进行n元切分后的各个n-gram。所述第一翻译训练任务包括：对每个n-gram进行前缀切分，得到n-gram的前缀词汇。所述第一翻译训练结果为前缀词汇对应的n-gram。所述语言元素为前缀词汇。所述第二翻译训练任务包括：计算n-gram的回退概率、后验概率。

具体地，计算n-gram的回退概率、后验概率的实施方式可以包括以下步骤：

(回退后验计算步骤一)将对每个n-gram进行前缀切分的任务以及对待训练单语语句进行n元切分后的各个n-gram分发到所述映射计算服务器集群的各个映射计算服务器，以便所述各个映射计算服务器并行对每个n-gram进行前缀切分，输出前缀词汇与对应的n-gram；

(回退后验计算步骤二)将计算n-gram的回退概率、后验概率的任务以及所述各个映射计算服务器输出的前缀词汇与对应的n-gram分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同前缀词汇对应的n-gram分发到相同归约计算服务器，以便所述各个归约计算服务器并行计算n-gram的回退概率、后验概率。

在本申请实施例所述分布式系统基于MapReduce模型实现的实施方式中，Map节点会对进行前缀切分，输出该短语的n-1元前缀和最后一个词，以及该短语的词频w_n，输出的key为n-1元前缀Map节点的输出会把相同n-1元前缀分发到同一个Reduce节点，Reduce节点会计算短语的后验概率和回退概率。例如，可以通过以下公式计算后验概率和回退概率：

三：平滑计算

接下来，再对平滑计算中概率平滑和剪枝的具体实施方式进行介绍：

例如，在该实施方式中，所述待训练语料为对待训练单语语句进行n元短语切分后的各个n-gram。所述第一翻译训练任务包括：对n-gram进行后缀切分，得到n-gram的后缀词汇。所述第一翻译训练结果为后缀词汇与对应的n-gram。所述语言元素为后缀词汇。所述第二翻译训练任务包括：对n-gram进行概率平滑和剪枝。

具体地，概率平滑和剪枝的实施方式可以包括以下步骤：

(平滑计算步骤一)将对n-gram进行后缀切分的任务以及对待训练单语语句进行n元切分后的各个n-gram分发到所述映射计算服务器集群的各个映射计算服务器，以便所述各个映射计算服务器并行对接收到的n-gram进行后缀切分，输出后缀词汇与对应的n-gram；

(平滑计算步骤二)将对n-gram进行概率平滑和剪枝的任务以及所述各个映射计算服务器输出的后缀词汇与对应的n-gram分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同后缀词汇对应的n-gram分发到相同归约计算服务器，以便所述各个归约计算服务器并行对n-gram进行概率平滑和剪枝。

在本申请实施例所述分布式系统基于MapReduce模型实现的实施方式中，短语切分成输出的key为后缀词汇w_n，这样相同后缀词汇w_n对应的所有短语会被分发到同一个Reduce节点。Reduce节点首先计算出2元短语概率，然后3元，直到计算出最高元短语概率得分。例如，可以通过以下公式进行概率平滑：

需要说明的是，也可以采用其他可能的概率平滑和剪枝的计算公式来计算，本申请对此并不进行限制。

一些可能的实施方式中，各个归约计算服务器输出的第二翻译训练结果，例如，短语翻译概率、语言模型等等，可以存储于与之相连的所述数据库分区中。

与上述应用于分布式系统中的分发服务器的翻译训练方法相对应地，本申请实施例还提供了一种翻译训练装置，配置于分布式系统中的分发服务器。

例如，参见图4，为本申请实施例提供的配置于分布式系统中的分发服务器的翻译训练装置结构示意图。如图4所示，该装置可以包括：

分发单元410，可以用于将第一翻译训练任务以及待训练语料分发到所述映射计算服务器集群的各个映射计算服务器，以便所述各个映射计算服务器并行对接收到的待训练语料执行第一翻译训练任务，输出第一翻译训练结果。

归约单元420，可以用于将第二翻译训练任务以及所述各个映射计算服务器输出的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，以便所述各个归约计算服务器并行利用接收到的第一翻译训练结果执行第二翻译训练任务，输出第二翻译训练结果。

根据本申请实施例提供的配置于分布式系统中的分发服务器的翻译训练装置，可以针对词汇翻译、短语抽取、语言模型等任意一个或多个阶段进行并行计算的翻译训练，训练速度快，有效提高了翻译训练的效率。

下面，再基于图1所示的分布式系统，对本申请实施例提供的应用于分布式系统中的映射计算服务器集群中的映射计算服务器的翻译训练方法进行详细介绍。

例如，参见图5，为本申请另一实施例提供的一种翻译训练方法流程示意图。如图5所示，该方法可以包括：

S510、接收分发服务器分发的待训练语料以及第一翻译训练任务。

S520、与其他映射计算服务器并行地对接收到的待训练语料执行第一翻译训练任务；

S530、输出所述第一翻译训练结果，以便所述分发服务器将第二翻译训练任务以及所述各个映射计算服务器输出的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，以便所述各个归约计算服务器并行利用接收到的第一翻译训练结果执行第二翻译训练任务，输出第二翻译训练结果。

需要说明的是，本申请实施例提供的应用于映射计算服务器的翻译训练方法的其他实施方式，与本申请实施例提供的应用于分发服务器的翻译训练方法的一些实施方式类似，相关之处参见应用于分发服务器的翻译训练方法的实施例的部分说明即可，本申请在此不再一一赘述。

一些可能的实施方式中，考虑到词汇翻译阶段每次迭代输出的正向翻译概率以及反向翻译概率的数据量会很大，而映射计算服务器在迭代过程中需要实时查询正向翻译概率以及反向翻译概率，内存会消耗很大，甚至超出内存上限。因此，本申请提出动态加载技术，设置内存缓冲区，每次查询时加载一定数据量大小的正向翻译概率以及反向翻译概率到内存中，当在缓存中无法命中时，会把所需正向翻译概率以及反向翻译概率从硬盘中加载到内存缓冲区，这样虽然查询速度会受到一定的影响，但解决了内存的限制，可以进行超大规模语料的训练。具体地，应用本申请实施例提供的方法的映射计算服务器还可以接收分发服务器分发的源语言词汇翻译到目标语言词汇的正向翻译概率，和/或者，目标语言词汇翻译到源语言词汇的正向翻译概率。将接收到的正向翻译概率和/或者反向翻译概率的一部分载入预先设置的内存缓冲区。当需要读取所述正向翻译概率和/或者反向翻译概率时，在所述内存缓冲区中查找需要读取的正向翻译概率和/或者反向翻译概率，如果未查找到，则在本地硬盘中查找需要读取的正向翻译概率和/或者反向翻译概率，并将查找到的正向翻译概率和/或者反向翻译概率加载到所述内存缓冲区。

与上述应用于分布式系统中的映射计算服务器的翻译训练方法相对应地，本申请实施例还提供了一种翻译训练装置，配置于分布式系统中的映射计算服务器。

例如，参见图6，为本申请实施例提供的配置于分布式系统中的映射计算服务器的翻译训练装置结构示意图。如图6所示，该装置可以包括：

映射接收单元610，可以用于接收分发服务器分发的待训练语料以及第一翻译训练任务。

第一任务执行单元620，可以用于与其他映射计算服务器并行地对接收到的待训练语料执行第一翻译训练任务。

映射输出单元630，可以用于输出所述第一翻译训练结果，以便所述分发服务器将第二翻译训练任务以及所述各个映射计算服务器输出的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，以便所述各个归约计算服务器并行利用接收到的第一翻译训练结果执行第二翻译训练任务，输出第二翻译训练结果。

根据本申请实施例提供的配置于分布式系统中的映射计算服务器的翻译训练装置，可以针对词汇翻译、短语抽取、语言模型等任意一个或多个阶段进行并行计算的翻译训练，训练速度快，有效提高了翻译训练的效率。

下面，再基于图1所示的分布式系统，对本申请实施例提供的应用于分布式系统中的归约计算服务器集群中的归约计算服务器的翻译训练方法进行详细介绍。

例如，参见图7，为本申请另一实施例提供的一种翻译训练方法流程示意图。如图7所示，该方法可以包括：

S710、接收分发服务器分发的第二翻译训练任务以及第一翻译训练结果，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，所述第一翻译训练结果具体由所述分发服务器将第一翻译训练任务以及待训练语料分发到所述映射计算服务器集群的各个映射计算服务器之后，由所述各个映射计算服务器并行对接收到的待训练语料执行第一翻译训练任务后输出；

S720、利用接收到的第一翻译训练结果执行第二翻译训练任务。

S730、输出第二翻译训练结果。

需要说明的是，本申请实施例提供的应用于归约计算服务器的翻译训练方法的其他实施方式，与本申请实施例提供的应用于分发服务器的翻译训练方法的一些实施方式类似，相关之处参见应用于分发服务器的翻译训练方法的实施例的部分说明即可，本申请在此不再一一赘述。

一些可能的实施方式中，考虑到归约计算服务器所输出的第二翻译训练结果数据量会比较大，不但会造成数据传输的困难，而且在词汇翻译阶段，映射计算服务器在迭代过程中需要实时查询正向翻译概率以及反向翻译概率，内存会消耗很大，因此，应用本申请实施例提供的方法的归约计算服务器在输出第二翻译训练结果之前，对所述第二翻译训练结果进行了以下任一种压缩方式或多种压缩方式压缩处理，包括：

压缩方式一：去除所述第二翻译训练结果的翻译概率中，位于小数点后预设位数后的字符。例如，假设第二翻译训练结果中一个源语言词汇翻译到一个目标语言词汇的正向翻译概率为“2.123456”，由于预设2位后的字符需要去除，因此，该源语言词汇翻译到该目标语言词汇的正向翻译概率将被改为“2.12”。

压缩方式二：去除所述第二翻译训练结果中，翻译概率低于预设概率下限的一对或多对语言元素。例如，假设第二翻译训练结果中一个源语言词汇翻译到一个目标语言词汇的正向翻译概率为“1”，由于翻译概率低于预设概率下限“1”，因此，将该源语言词汇翻译到该目标语言词汇的正向翻译概率的记录，从保存所有正向翻译概率的文件中删除。

压缩方式三：去除所述第二翻译训练结果中，属于预设特殊语言元素的一对或多对语言元素。例如，假设第二翻译训练结果中存在一个特殊字符如“！”翻译到一个目标语言词汇的正向翻译概率，由于“！”属于特殊语言元素，因此，将“！”与该目标语言词汇的正向翻译概率的记录，从保存所有正向翻译概率的文件中删除。

压缩方式四：将所述第二翻译训练结果中，若干个同一第一语言元素对应其他不同语言元素的矩阵结构，转换为由一个第一语言元素引导所述其他不同语言元素的字符串结构。例如，如下表所示的矩阵结构，可以被转换为如“我-I-5/7-Want-1/7-To-1/7-Buy-1/7-An-1/7-Apple-1/7”所示的字符串结构。

I

Want

To

Buy

An

Apple

我

5/7

我

1/7

我

1/7

我

1/7

我

1/7

我

1/7

通过以上压缩方式压缩处理，使得第二翻译训练结果的数据量大大缩小，不仅提高了数据传输效率，而且，在词汇翻译阶段，可以减少对映射计算服务器在迭代过程中的内存会消耗，提高了翻译训练的效率。

与上述应用于分布式系统中的归约计算服务器的翻译训练方法相对应地，本申请实施例还提供了一种翻译训练装置，配置于分布式系统中的归约计算服务器。

例如，参见图8，为本申请实施例提供的配置于分布式系统中的归约计算服务器的翻译训练装置结构示意图。如图8所示，该装置可以包括：

归约接收单元810，可以用于接收分发服务器分发的第二翻译训练任务以及第一翻译训练结果，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，所述第一翻译训练结果具体由所述分发服务器将第一翻译训练任务以及待训练语料分发到所述映射计算服务器集群的各个映射计算服务器之后，由所述各个映射计算服务器并行对接收到的待训练语料执行第一翻译训练任务后输出。

第二任务执行单元820，可以用于利用接收到的第一翻译训练结果执行第二翻译训练任务。

归约输出单元830，可以用于输出第二翻译训练结果。

根据本申请实施例提供的配置于分布式系统中的归约计算服务器的翻译训练装置，可以针对词汇翻译、短语抽取、语言模型等任意一个或多个阶段进行并行计算的翻译训练，训练速度快，有效提高了翻译训练的效率。

另外，根据本申请实施例并行计算的翻译训练得到的第二翻译训练结果，本申请实施例还提供了一种在线翻译训练方法，以并行的方式查询本申请实施例翻译训练得到的第二翻译训练结果，利用查询出的第二翻译训练结果对待翻译语料进行解码，提供在线翻译结果。

具体地，例如，参见图9，为本申请实施例提供的在线翻译方法的流程示意图。如图9所示，该在线翻译方法可以包括：

S910、接收用户侧发出的在线翻译请求。

S920、并行在数据库的各个分区中查询出所述在线翻译请求涉及的待翻译语料对应的第二翻译训练结果。

S930、利用所述第二翻译训练结果对所述待翻译语料进行解码，得到所述待翻译语料对应的翻译结果，向所述用户侧反馈所述翻译结果。

其中，所述数据库的各个分区分别用于存储与之相连的归约计算服务器所输出的第二翻译训练结果，其中，所述归约计算服务器为分布式系统的归约计算服务器集群中的服务器，所述分布式系统还包括分发服务器，映射计算服务器集群。

其中，所述分发服务器，配置用于将待训练语料分发到所述映射计算服务器集群的各个映射计算服务器，收集所述各个映射计算服务器输出的第一翻译训练结果，将收集到的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器。

所述映射计算服务器集群的各个映射计算服务器，配置用于接收所述分发服务器分发的待训练语料，对接收到的待训练语料中的各个语言元素进行第一翻译训练，输出第一翻译训练结果；

所述归约计算服务器集群的各个归约计算服务器，配置用于接收所述分发服务器分发的第一翻译训练结果，根据接收到的第一翻译训练结果，进行第二翻译训练，输出第二翻译训练结果。

一些可能的实施方式中，本申请实施例提供的在线翻译方法可以应用于如图10所示的分布式系统中的分发服务器110。分发服务器110将待翻译语料拆分为若干待翻译短语，将若干待翻译短语以及短语解析任务分发给分布式系统中的各个映射计算服务器120，以便映射计算服务器120将接收到的待翻译短语解析为以短语前缀为key，以短语为value的key-value对，并输出key-value对。分发服务器110将映射计算服务器120输出的key-value对中相同key对应的key-value对以及查询任务分发给相同归约计算服务器130，以便所述各个归约计算服务器130并行在与之相连的数据库的分区中查询出所接收到的key-value对中的待翻译短语对应的短语翻译概率以及语言模型，并输出查询出的短语翻译概率以及语言模型。分发服务器110将各个归约计算服务器130输出的短语翻译概率以及语言模型进行汇总，利用所有查询出的短语翻译概率以及语言模型对待翻译语料进行解码，得到所述待翻译语料对应的翻译结果，向所述用户侧反馈所述翻译结果。

由于本申请实施例中的数据库各个分区分别用于存储与之相连的归约计算服务器所输出的第二翻译训练结果，因此，在接收到用户侧发出的在线翻译请求之后，可以并行在数据库的各个分区中查询出所述在线翻译请求涉及的待翻译语料对应的第二翻译训练结果，查询速度较快，从而可以尽快利用第二翻译训练结果对所述待翻译语料进行解码，得到所述待翻译语料对应的翻译结果，向用户侧反馈翻译结果，翻译效率较高。

与上述在线翻译训练方法相应地，本申请实施例还提供了一种配置于服务器侧的在线翻译训练装置。

例如，参见图11，为本申请实施例提供的在线翻译装置的结构示意图。如图11所示，该在线翻译装置可以包括：

在线翻译接收单元1101，可以用于接收在线翻译请求。

查询单元1102，可以用于并行在数据库的各个分区中查询出所述在线翻译请求涉及的待翻译语料对应的第二翻译训练结果。

解码单元1103，可以用于利用所述第二翻译训练结果对所述待翻译语料进行解码，得到所述待翻译语料对应的翻译结果。

其中，所述数据库的各个分区分别用于存储与之相连的归约计算服务器所输出的第二翻译训练结果，其中，所述归约计算服务器为分布式系统的归约计算服务器集群中的服务器，所述分布式系统还包括分发服务器，映射计算服务器集群。

其中，所述分发服务器，配置用于将待训练语料分发到所述映射计算服务器集群的各个映射计算服务器，收集所述各个映射计算服务器输出的第一翻译训练结果，将收集到的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器。

所述映射计算服务器集群的各个映射计算服务器，配置用于接收所述分发服务器分发的待训练语料，对接收到的待训练语料中的各个语言元素进行第一翻译训练，输出第一翻译训练结果。

所述归约计算服务器集群的各个归约计算服务器，配置用于接收所述分发服务器分发的第一翻译训练结果，根据接收到的第一翻译训练结果，进行第二翻译训练，输出第二翻译训练结果。

为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。

通过以上的实施方式的描述可知，本领域的技术人员可以清楚地了解到本申请可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例或者实施例的某些部分所述的方法。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本申请可用于众多通用或专用的计算系统环境或配置中。例如：个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。

本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

以上所述仅为本申请的较佳实施例而已，并非用于限定本申请的保护范围。凡在本申请的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本申请的保护范围内。

Claims (20)

1.一种翻译训练方法，其特征在于，应用于分布式系统中的分发服务器，其中，所述分布式系统还包括映射计算服务器集群以及归约计算服务器集群，所述方法包括：

将第一翻译训练任务以及待训练语料分发到所述映射计算服务器集群的各个映射计算服务器，以便所述各个映射计算服务器并行对接收到的待训练语料执行第一翻译训练任务，输出第一翻译训练结果；

将第二翻译训练任务以及所述各个映射计算服务器输出的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，以便所述各个归约计算服务器并行利用接收到的第一翻译训练结果执行第二翻译训练任务，输出第二翻译训练结果。

2.根据权利要求1所述的方法，其特征在于，所述待训练语料为待训练双语句对语料；

所述第一翻译训练任务包括：从源语言元素翻译到目标语言元素的第一正向翻译训练任务，以及，从目标语言元素翻译到源语言元素的第一反向翻译训练任务；

所述第二翻译训练任务包括：从源语言元素翻译到目标语言元素的第二正向翻译训练任务，以及，从目标语言元素翻译到源语言元素的第二反向翻译训练任务；

其中，所述第一翻译训练结果包括：第一正向翻译训练任务对应的第一正向翻译训练结果，第一反向翻译训练任务对应的第一反向翻译训练结果；

其中，所述第二翻译训练结果包括：第二正向翻译训练任务对应的第二正向翻译训练结果，第二反向翻译训练任务对应的第二反向翻译训练结果；

其中，所述相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器包括：相同源语言元素对应的第一正向翻译训练结果分发到相同归约计算服务器，相同目标语言元素对应的第一反向翻译训练结果分发到相同归约计算服务器。

3.根据权利要求2所述的方法，其特征在于，所述第一正向翻译训练任务以及第二正向翻译训练任务具体包括：计算源语言词汇翻译到目标语言词汇的正向翻译概率；

所述第一反向翻译训练任务以及第二反向翻译训练任务具体包括：计算目标语言词汇翻译到源语言词汇的反向翻译概率；

所述第一正向翻译训练结果及第二正向翻译训练结果具体为源语言词汇翻译到目标语言词汇的正向翻译概率；

所述第一反向翻译训练结果及第二反向翻译训练结果具体为目标语言词汇翻译到源语言词汇的反向翻译概率；

其中，所述源语言元素为源语言词汇，所述目标语言元素为目标语言词汇；

且，还包括：

将各个归约计算服务器输出的正向翻译概率以及反向翻译概率，分发到所述映射计算服务器集群的各个映射计算服务器，以便所述各个映射计算服务器判断接收到的正向翻译概率以及反向翻译概率是否达到收敛状态，如果是，则根据接收到的正向翻译概率及反向翻译概率，输出目标语言词汇与其对齐的源语言词汇之间的对应关系，如果否，则利用接收到的正向翻译概率及反向翻译概率，对所述待训练双语句对语料执行第一翻译训练任务，输出第一翻译训练结果；

返回到所述将第二翻译训练任务以及所述各个映射计算服务器输出的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器的步骤。

4.根据权利要求2所述的方法，其特征在于，所述第一正向翻译训练任务具体包括：利用源语言词汇与其对齐的目标语言词汇之间的对应关系，将待训练双语句对语料的句对中源语言词汇与目标语言词汇正向对齐，得到在句对中对齐的源语言词汇翻译到目标语言词汇的正向对齐词对；

所述第一正向翻译训练结果具体为源语言词汇翻译到目标语言词汇的正向对齐词对；

所述第一反向翻译训练任务具体包括：利用源语言词汇与其对齐的目标语言词汇之间的对应关系，将待训练双语句对语料的句对，将待训练双语句对语料的句对中源语言词汇与目标语言词汇反向对齐，得到在句对中对齐的目标语言词汇翻译到源语言词汇的反向对齐词对；

所述第一反向翻译训练结果具体为在句对中对齐的目标语言词汇翻译到源语言词汇的反向对齐词对；

所述第二正向翻译训练任务具体包括：统计出在句对中对齐的源语言词汇翻译到目标语言词汇的正向对齐词对的正向词对齐翻译概率；

所述第二正向翻译训练结果具体为在句对中对齐的源语言词汇翻译到目标语言词汇的正向对齐词对的正向词对齐翻译概率；

所述第二反向翻译训练任务具体包括：统计出在句对中对齐的目标语言词汇翻译到源语言词汇的反向对齐词对的反向词对齐翻译概率；

所述第二反向翻译训练结果具体为在句对中对齐的目标语言词汇翻译到源语言词汇的反向对齐词对的反向词对齐翻译概率；

其中，所述源语言元素为源语言词汇，所述目标语言元素为目标语言词汇。

5.根据权利要求2所述的方法，其特征在于，所述第一正向翻译训练任务具体包括：利用在句对中对齐的源语言词汇翻译到目标语言词汇的正向对齐词对的正向词对齐翻译概率，抽取出在待训练双语句对语料的句对中对齐的源语言短语翻译到目标语言短语的正向短语对；

所述第一正向翻译训练结果具体为在句对中对齐的源语言短语翻译到目标语言短语的正向短语对；

所述第一反向翻译训练任务具体包括：利用在句对中对齐的目标语言词汇翻译到源语言词汇的反向对齐词对的反向词对齐翻译概率，抽取出在待训练双语句对语料的句对中对齐的目标语言短语翻译到源语言短语的反向短语对；

所述第一反向翻译训练结果具体为在句对中对齐的目标语言短语翻译到源语言短语的反向短语对；

所述第二正向翻译训练任务具体包括：计算出在句对中对齐的源语言短语翻译到目标语言短语的短语对的正向词联合翻译概率，以及，计算出在句对中对齐的源语言短语翻译到目标语言短语的短语对的正向短语翻译概率；

所述第二正向翻译训练结果具体为在句对中对齐的源语言短语翻译到目标语言短语的短语对的正向词联合翻译概率，以及，在句对中对齐的源语言短语翻译到目标语言短语的短语对的正向短语翻译概率；

所述第二反向翻译训练任务具体包括：计算出在句对中对齐的目标语言短语翻译到源语言短语的短语对的反向词联合翻译概率，以及，计算出在句对中对齐的目标语言短语翻译到源语言短语的短语对的反向短语翻译概率；

所述第二反向翻译训练结果具体为在句对中对齐的目标语言短语翻译到源语言短语的短语对的反向词联合翻译概，以及，在句对中对齐的目标语言短语翻译到源语言短语的短语对的反向短语翻译概率；

其中，所述源语言元素为源语言短语，所述目标语言元素为目标语言短语。

6.根据权利要求5所述的方法，其特征在于，所述第二翻译训练任务还包括：在所述第二正向翻译训练任务执行过程中，以及，在所述第二反向翻译训练任务执行过程中，对源语言短语与目标语言短语做显著性计算，根据显著性计算结果去除冗余的源语言短语与目标语言短语。

7.根据权利要求1所述的方法，其特征在于，所述待训练语料为待训练单语语句；

所述第一翻译训练任务包括：对所述待训练单语语句进行n元切分；

所述第一翻译训练结果为所述切分后得到的各个n-gram；

所述语言元素为n-gram；

所述第二翻译训练任务包括：对n-gram对应的频次进行统计；

所述第二翻译训练结果为所述统计后得到的各个n-gram对应的频次。

8.根据权利要求1所述的方法，其特征在于，所述待训练语料为对待训练单语语句进行n元切分后的各个n-gram；

所述第一翻译训练任务包括：对每个n-gram进行前缀切分，得到n-gram的前缀词汇；

所述第一翻译训练结果为前缀词汇与对应的n-gram；

所述语言元素为前缀词汇；

所述第二翻译训练任务包括：计算n-gram的回退概率、后验概率。

9.根据权利要求1所述的方法，其特征在于，所述待训练语料为对待训练单语语句进行n元短语切分后的各个n-gram；

所述第一翻译训练任务包括：对n-gram进行后缀切分，得到n-gram的后缀词汇；

所述第一翻译训练结果为后缀词汇与对应的n-gram；

所述语言元素为后缀词汇；

所述第二翻译训练任务包括：对n-gram进行概率平滑和剪枝。

10.一种翻译训练装置，其特征在于，配置于分布式系统中的分发服务器，其中，所述分布式系统还包括映射计算服务器集群以及归约计算服务器集群，所述装置包括：

分发单元，用于将第一翻译训练任务以及待训练语料分发到所述映射计算服务器集群的各个映射计算服务器，以便所述各个映射计算服务器并行对接收到的待训练语料执行第一翻译训练任务，输出第一翻译训练结果；

归约单元，用于将第二翻译训练任务以及所述各个映射计算服务器输出的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，以便所述各个归约计算服务器并行利用接收到的第一翻译训练结果执行第二翻译训练任务，输出第二翻译训练结果。

11.一种翻译训练方法，其特征在于，应用于分布式系统中的映射计算服务器集群中的映射计算服务器，所述分布式系统还包括分发服务器以及归约计算服务器集群，其中，所述分发服务器与映射计算服务器集群及归约计算服务器集群连接，所述方法包括：

接收分发服务器分发的待训练语料以及第一翻译训练任务；

与其他映射计算服务器并行地对接收到的待训练语料执行第一翻译训练任务；

输出所述第一翻译训练结果，以便所述分发服务器将第二翻译训练任务以及所述映射计算服务器集群的各个映射计算服务器输出的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，以便所述各个归约计算服务器并行利用接收到的第一翻译训练结果执行第二翻译训练任务，输出第二翻译训练结果。

12.根据权利要求11所述的方法，其特征在于，还包括：

接收分发服务器分发的源语言词汇翻译到目标语言词汇的正向翻译概率，和/或者，目标语言词汇翻译到源语言词汇的正向翻译概率；

将接收到的正向翻译概率和/或者反向翻译概率的一部分载入预先设置的内存缓冲区；

当需要读取所述正向翻译概率和/或者反向翻译概率时，在所述内存缓冲区中查找需要读取的正向翻译概率和/或者反向翻译概率，如果未查找到，则在本地硬盘中查找需要读取的正向翻译概率和/或者反向翻译概率，并将查找到的正向翻译概率和/或者反向翻译概率加载到所述内存缓冲区。

13.一种翻译训练装置，其特征在于，配置于分布式系统中的映射计算服务器集群中的映射计算服务器，所述分布式系统还包括分发服务器以及归约计算服务器集群，其中，所述分发服务器与映射计算服务器集群及归约计算服务器集群连接，所述装置包括：

映射接收单元，用于接收分发服务器分发的待训练语料以及第一翻译训练任务；

第一任务执行单元，用于与其他映射计算服务器并行地对接收到的待训练语料执行第一翻译训练任务；

映射输出单元，用于输出所述第一翻译训练结果，以便所述分发服务器将第二翻译训练任务以及所述映射计算服务器集群的各个映射计算服务器输出的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，以便所述各个归约计算服务器并行利用接收到的第一翻译训练结果执行第二翻译训练任务，输出第二翻译训练结果。

14.一种翻译训练方法，其特征在于，应用于分布式系统中的归约计算服务器集群中的归约计算服务器，所述分布式系统还包括分发服务器以及映射计算服务器集群，其中，所述分发服务器与映射计算服务器集群及归约计算服务器集群连接，所述方法包括：

接收分发服务器分发的第二翻译训练任务以及第一翻译训练结果，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，所述第一翻译训练结果具体由所述分发服务器将第一翻译训练任务以及待训练语料分发到所述映射计算服务器集群的各个映射计算服务器之后，由所述各个映射计算服务器并行对接收到的待训练语料执行第一翻译训练任务后输出；

利用接收到的第一翻译训练结果执行第二翻译训练任务；

输出第二翻译训练结果。

15.根据权利要求14所述的方法，其特征在于，在输出第二翻译训练结果之前，还包括：

对所述第二翻译训练结果进行以下任一种压缩方式或多种压缩方式压缩处理：

压缩方式一：去除所述第二翻译训练结果的翻译概率中，位于小数点后预设位数后的字符；

压缩方式二：去除所述第二翻译训练结果中，翻译概率低于预设概率下限的一对或多对语言元素；

压缩方式三：去除所述第二翻译训练结果中，属于预设特殊语言元素的一对或多对语言元素；

压缩方式四：将所述第二翻译训练结果中，若干个同一第一语言元素对应其他不同语言元素的矩阵结构，转换为由一个第一语言元素引导所述其他不同语言元素的字符串结构。

16.一种翻译训练装置，其特征在于，配置于分布式系统中的归约计算服务器集群中的归约计算服务器，所述分布式系统还包括分发服务器以及映射计算服务器集群，其中，所述分发服务器与映射计算服务器集群及归约计算服务器集群连接，所述装置包括：

归约接收单元，用于接收分发服务器分发的第二翻译训练任务以及第一翻译训练结果，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器，所述第一翻译训练结果具体由所述分发服务器将第一翻译训练任务以及待训练语料分发到所述映射计算服务器集群的各个映射计算服务器之后，由所述各个映射计算服务器并行对接收到的待训练语料执行第一翻译训练任务后输出；

第二任务执行单元，用于利用接收到的第一翻译训练结果执行第二翻译训练任务；

归约输出单元，用于输出第二翻译训练结果。

17.一种翻译训练系统，其特征在于，包括：

分发服务器，配置用于将待训练语料分发到映射计算服务器集群的各个映射计算服务器，收集所述各个映射计算服务器输出的第一翻译训练结果，将收集到的第一翻译训练结果分发到归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器；

映射计算服务器集群的各个映射计算服务器，配置用于接收所述分发服务器分发的待训练语料，对接收到的待训练语料中的各个语言元素进行第一翻译训练，输出第一翻译训练结果；

归约计算服务器集群的各个归约计算服务器，配置用于接收所述分发服务器分发的第一翻译训练结果，根据接收到的第一翻译训练结果，进行第二翻译训练，输出第二翻译训练结果。

18.根据权利要求17所述的翻译训练系统，其特征在于，所述映射计算服务器集群具体为基于MapReduce模型实现的Map节点集群，所述归约计算服务器集群具体为基于MapReduce模型实现的Reduce节点集群。

19.一种在线翻译方法，其特征在于，应用于服务器侧，包括：

接收用户侧发出的在线翻译请求；

并行在数据库的各个分区中查询出所述在线翻译请求涉及的待翻译语料对应的第二翻译训练结果；

利用所述第二翻译训练结果对所述待翻译语料进行解码，得到所述待翻译语料对应的翻译结果，向所述用户侧反馈所述翻译结果；

其中，所述数据库的各个分区分别用于存储与之相连的归约计算服务器所输出的第二翻译训练结果，其中，所述归约计算服务器为分布式系统的归约计算服务器集群中的服务器，所述分布式系统还包括分发服务器，映射计算服务器集群；

其中，所述分发服务器，配置用于将待训练语料分发到所述映射计算服务器集群的各个映射计算服务器，收集所述各个映射计算服务器输出的第一翻译训练结果，将收集到的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器；

所述映射计算服务器集群的各个映射计算服务器，配置用于接收所述分发服务器分发的待训练语料，对接收到的待训练语料中的各个语言元素进行第一翻译训练，输出第一翻译训练结果；

所述归约计算服务器集群的各个归约计算服务器，配置用于接收所述分发服务器分发的第一翻译训练结果，根据接收到的第一翻译训练结果，进行第二翻译训练，输出第二翻译训练结果。

20.一种在线翻译装置，其特征在于，配置于服务器侧，包括：

在线翻译接收单元，用于接收在线翻译请求；

查询单元，用于并行在数据库的各个分区中查询出所述在线翻译请求涉及的待翻译语料对应的第二翻译训练结果；

解码单元，用于利用所述第二翻译训练结果对所述待翻译语料进行解码，得到所述待翻译语料对应的翻译结果；

其中，所述数据库的各个分区分别用于存储与之相连的归约计算服务器所输出的第二翻译训练结果，其中，所述归约计算服务器为分布式系统的归约计算服务器集群中的服务器，所述分布式系统还包括分发服务器，映射计算服务器集群；

其中，所述分发服务器，配置用于将待训练语料分发到所述映射计算服务器集群的各个映射计算服务器，收集所述各个映射计算服务器输出的第一翻译训练结果，将收集到的第一翻译训练结果分发到所述归约计算服务器集群的各个归约计算服务器，其中，相同语言元素对应的第一翻译训练结果分发到相同归约计算服务器；

所述映射计算服务器集群的各个映射计算服务器，配置用于接收所述分发服务器分发的待训练语料，对接收到的待训练语料中的各个语言元素进行第一翻译训练，输出第一翻译训练结果；

所述归约计算服务器集群的各个归约计算服务器，配置用于接收所述分发服务器分发的第一翻译训练结果，根据接收到的第一翻译训练结果，进行第二翻译训练，输出第二翻译训练结果。