CN110032734B - 近义词扩展及生成对抗网络模型训练方法和装置 - Google Patents
近义词扩展及生成对抗网络模型训练方法和装置 Download PDFInfo
- Publication number
- CN110032734B CN110032734B CN201910204138.6A CN201910204138A CN110032734B CN 110032734 B CN110032734 B CN 110032734B CN 201910204138 A CN201910204138 A CN 201910204138A CN 110032734 B CN110032734 B CN 110032734B
- Authority
- CN
- China
- Prior art keywords
- word
- words
- keywords
- meaning
- generated
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012549 training Methods 0.000 title claims abstract description 60
- 238000000034 method Methods 0.000 title claims abstract description 39
- 238000013256 Gubra-Amylin NASH model Methods 0.000 claims abstract description 75
- 230000011218 segmentation Effects 0.000 claims description 23
- 238000003860 storage Methods 0.000 claims description 16
- 238000004590 computer program Methods 0.000 claims description 6
- 230000003042 antagnostic effect Effects 0.000 claims description 3
- 238000012545 processing Methods 0.000 abstract description 10
- 230000003287 optical effect Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 238000001914 filtration Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012216 screening Methods 0.000 description 3
- 238000006467 substitution reaction Methods 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 239000008852 wen-xin Substances 0.000 description 2
- 241000282414 Homo sapiens Species 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000004883 computer application Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000002068 genetic effect Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/237—Lexical tools
- G06F40/247—Thesauruses; Synonyms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了近义词扩展及生成对抗网络模型训练方法和装置，其中近义词扩展方法可包括：获取待处理的关键词；利用词向量工具从生成的备选词集中查找出该关键词的近义词；利用预先训练得到的GAN模型，分别生成该关键词以及查找出的近义词的近义词。应用本发明所述方案，可提升处理效率等。
Description
【技术领域】
本发明涉及计算机应用技术，特别涉及近义词扩展及生成对抗网络模型训练方法和装置。
【背景技术】
目前，大量的互联网应用允许用户发帖、回帖、评论等，这部分内容可统称为用户生成内容(UGC，User Generated Content)。
不同的应用对于UGC的内容通常都有着比较严格的规定，因此，需要对UGC的内容进行审核。
常见的审核方式是基于关键词进行过滤，关键词的丰富程度直接影响到过滤效果。目前通常采用人工总结归纳关键词的方式，但这种方式难以覆盖全部情况，很容易被绕过。
为避免被绕过，则需要对人工总结归纳的关键词进行扩展，尽可能多的扩展出这些关键词的近义词，但现有技术中主要依靠人工手动挖掘的方式，效率低下。
【发明内容】
有鉴于此，本发明提供了近义词扩展及生成对抗网络模型训练方法和装置。
具体技术方案如下：
一种近义词扩展方法，包括：
获取待处理的关键词；
利用词向量工具从生成的备选词集中查找出所述关键词的近义词；
利用预先训练得到的生成对抗网络GAN模型，分别生成所述关键词以及所述查找出的近义词的近义词。
根据本发明一优选实施例，所述利用词向量工具从生成的备选词集中查找出所述关键词的近义词包括：
将所述关键词输入给所述词向量工具，获取所述词向量工具分别计算各备选词的词向量表示与所述关键词的词向量表示之间的距离后，选出并返回的距离所述关键词最近的N个备选词，将所述返回的备选词作为所述关键词的近义词，N为正整数。
根据本发明一优选实施例，生成所述备选词集的方式包括：
收集用户生成内容UGC数据；
对所述UGC数据进行切词处理，将切词结果作为备选词。
根据本发明一优选实施例，所述利用预先训练得到的GAN模型，分别生成所述关键词以及所述查找出的近义词的近义词包括：
针对所述关键词以及所述查找出的近义词中的每个词，分别将所述词以及噪声输入所述GAN模型，得到所述GAN模型生成的所述词的近义词。
根据本发明一优选实施例，该方法进一步包括：针对同一个词，分别向所述GAN模型输入不同的噪声，得到所述GAN模型生成的所述词的不同近义词。
一种生成对抗网络GAN模型训练方法，包括：
获取训练样本，每个训练样本中包括：原始词以及所述原始词的近义词；
根据所述训练样本训练出所述GAN模型，以便在进行近义词扩展时，针对待处理的关键词，在利用词向量工具从生成的备选词集中查找出所述关键词的近义词后，利用所述GAN模型分别生成所述关键词以及所述查找出的近义词的近义词。
根据本发明一优选实施例，所述原始词的近义词为所述原始词的变形词，包括以下之一或组合：将所述原始词中的部分内容去除、将所述原始词中的部分或全部内容进行替换；
针对所述关键词以及所述查找出的近义词中的每个词，所述GAN模型生成的所述词的近义词为所述词的变形词，包括以下之一或组合：将所述词中的部分内容去除、将所述词中的部分或全部内容进行替换。
根据本发明一优选实施例，所述将所述词中的部分或全部内容进行替换包括以下之一或任意组合：将所述词中的至少一个字替换为拼音、将所述词中的至少一个字替换为拼音首字母、将所述词中的至少一个字替换为发音相近的其它字。
一种近义词扩展装置，包括：第一扩展单元以及第二扩展单元；
所述第一扩展单元，用于获取待处理的关键词，并利用词向量工具从生成的备选词集中查找出所述关键词的近义词；
所述第二扩展单元，用于利用预先训练得到的生成对抗网络GAN模型，分别生成所述关键词以及所述查找出的近义词的近义词。
根据本发明一优选实施例，所述第一扩展单元将所述关键词输入给所述词向量工具，获取所述词向量工具分别计算各备选词的词向量表示与所述关键词的词向量表示之间的距离后，选出并返回的距离所述关键词最近的N个备选词，将所述返回的备选词作为所述关键词的近义词，N为正整数。
根据本发明一优选实施例，所述第一扩展单元进一步用于，收集用户生成内容UGC数据，对所述UGC数据进行切词处理，将切词结果作为备选词。
根据本发明一优选实施例，所述第二扩展单元针对所述关键词以及所述查找出的近义词中的每个词，分别将所述词以及噪声输入所述GAN模型，得到所述GAN模型生成的所述词的近义词。
根据本发明一优选实施例，所述第二扩展单元进一步用于，针对同一个词，分别向所述GAN模型输入不同的噪声，得到所述GAN模型生成的所述词的不同近义词。
一种生成对抗网络GAN模型训练装置，包括：样本获取单元以及模型训练单元；
所述样本获取单元，用于获取训练样本，每个训练样本中包括：原始词以及所述原始词的近义词；
所述模型训练单元，用于根据所述训练样本训练出所述GAN模型，以便在进行近义词扩展时，针对待处理的关键词，在利用词向量工具从生成的备选词集中查找出所述关键词的近义词后，利用所述GAN模型分别生成所述关键词以及所述查找出的近义词的近义词。
根据本发明一优选实施例，所述原始词的近义词为所述原始词的变形词，包括以下之一或组合：将所述原始词中的部分内容去除、将所述原始词中的部分或全部内容进行替换；
针对所述关键词以及所述查找出的近义词中的每个词，所述GAN模型生成的所述词的近义词为所述词的变形词，包括以下之一或组合：将所述词中的部分内容去除、将所述词中的部分或全部内容进行替换。
根据本发明一优选实施例，所述将所述词中的部分或全部内容进行替换包括以下之一或任意组合：将所述词中的至少一个字替换为拼音、将所述词中的至少一个字替换为拼音首字母、将所述词中的至少一个字替换为发音相近的其它字。
一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序时实现如以上所述的方法。
一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现如以上所述的方法。
基于上述介绍可以看出，采用本发明所述方案，针对获取到的待处理的关键词，可首先利用词向量工具从生成的备选词集中查找出该关键词的近义词，进而可利用预先训练得到的GAN模型，分别生成该关键词以及查找出的近义词的近义词，从而自动扩展出了该关键词的多个近义词，提升了处理效率。
【附图说明】
图1为本发明所述近义词扩展方法实施例的流程图。
图2为本发明所述GAN模型训练方法实施例的流程图。
图3为本发明所述近义词扩展装置实施例的组成结构示意图。
图4为本发明所述GAN模型训练装置实施例的组成结构示意图。
图5示出了适于用来实现本发明实施方式的示例性计算机系统/服务器12的框图。
【具体实施方式】
为了使本发明的技术方案更加清楚、明白，以下参照附图并举实施例，对本发明所述方案进行进一步说明。
显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域技术人员在没有作出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。
另外，应理解，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
图1为本发明所述近义词扩展方法实施例的流程图。如图1所示，包括以下具体实现方式。
在101中，获取待处理的关键词。
在102中，利用词向量工具从生成的备选词集中查找出待处理的关键词的近义词。
在103中，利用预先训练得到的生成对抗网络(GAN，Generative AdversarialNetworks)模型，分别生成待处理的关键词以及查找出的近义词的近义词。
待处理的关键词可以是指人工总结归纳出的关键词。针对人工总结归纳出的每个关键词，可分别将其作为待处理的关键词按照图1所示方式进行处理。
针对待处理的关键词，可首先利用词向量工具从生成的备选词集中查找出该关键词的近义词。比如，可将该关键词输入给词向量工具，获取词向量工具分别计算各备选词的词向量表示与该关键词的词向量表示之间的距离后，选出并返回的距离该关键词最近的N个备选词，将返回的备选词作为该关键词的近义词，N为正整数，具体取值可根据实际需要而定。
为此，可预先收集UGC数据，并可对收集到的UGC数据进行切词处理，将切词结果作为备选词。比如，可收集贴吧、百家号、中文维基百科等典型UGC数据，并可对收集到的UGC数据按照现有切词方式进行切词处理，从而得到各切词结果，得到的各切词结果即可作为备选词，或者，也可以对各切换结果进行进一步筛选，筛选掉一些不符合预定要求的切词结果，将剩余的切词结果作为备选词等。
另外，可基于各切词结果训练词向量，从而可分别得到各备选词的词向量表示，词向量表示的具体维度可根据实际需要而定，如200维或300维等，如何训练词向量为现有技术。词向量表示可以较好的表达不同词之间的相似和类比关系。
本实施例中，针对待处理的关键词，可利用利用词向量工具从生成的备选词集中查找出该关键词的近义词。常见的词向量工具可包括Word2vec、GloV、fastText、Gensim、Indra和Deeplearning4j等。将待处理的关键词输入给词向量工具后，词向量工具可分别计算各备选词的词向量表示与该关键词的词向量表示之间的距离，如计算两者之间的欧几里得距离，然后返回与该关键词距离最近的topN备选词，作为查找出的该关键词的近义词。
对于查找出的该关键词的近义词，可进一步对其进行筛选，如通过人工筛选或基于规则筛选的方式，筛选掉有问题的词，如筛选掉明显不是该关键词的近义词的词。
之后，可利用预先训练得到的GAN模型，分别生成待处理的关键词以及查找出的近义词的近义词。
GAN模型是一种深度学习模型，是近年来复杂分布上无监督学习最具前景的方法之一，模型通过框架中两个模块的互相博弈学习产生相当好的输出，两个模块分别为生成模块(Generative Model)和判别模块(Discriminative Model)。原始GAN理论中，并不要求G(即生成模块)和D(即判别模块)均是神经网络，只要是能拟合相应生成和判别的函数即可，但实际应用中一般都使用深度神经网络作为G和D。
GAN启发自博弈论中的二人零和博弈(two-player game)，GAN模型中的两位博弈方分别由G和D充当。假设G是一个生成图片的网络，它接收随机的噪声z，通过噪声生成图片，记作G(z)，D是一个判别网络，判别一张图片是不是“真实的”，它的输入是x，x代表一张图片，输出D(x)表示x为真实图片的概率，如果为1，表示为真实的图片，如果为0，表示为不真实的图片，在训练过程中，G的目标就是尽量生成真实的图片去欺骗D，而D的目标就是尽量将G生成的图片和真实的图片区分开来，这样，G和D就构成一个动态的博弈过程，最后的博弈结果就是在最理想的状态下，G可以生成足以以假乱真的图片G(z)，而对于D来说，难以判别G生成的图片究竟是不是真实的，因此D(G(z))＝0.5，这样，训练目的就达成了，从而得到了一个G，可以用来生成图片。
具体到本实施例中，可获取训练样本，每个训练样本中可包括：原始词以及原始词的近义词，可根据训练样本训练出GAN模型，训练的过程即为让GAN模型学习如何从原始词得到原始词的近义词的过程。
利用训练得到的GAN模型，可分别生成待处理的关键词以及查找出的近义词的近义词。比如，针对待处理的关键词以及查找出的近义词中的每个词，可分别将该词以及噪声输入GAN模型，从而得到GAN模型生成的该词的近义词。针对同一个词，若分别向GAN模型输入不同的噪声，那么可得到GAN模型生成的该词的不同近义词。
GAN模型训练完成之后，只需要使用G，不需要使用D，由G利用输入的词及噪声生成输入的词的近义词。所述噪声可为高斯噪声，针对用一个词，输入的噪声不同，生成的近义词也会不同。针对每个词分别生成多少近义词可根据实际需要而定。
原始词的近义词可为原始词的变形词，包括但不限于以下之一或组合：将原始词中的部分内容去除、将原始词中的部分或全部内容进行替换等。相应地，针对待处理的关键词以及查找出的近义词中的每个词，GAN模型生成的该词的近义词也为该词的变形词，包括但不限于以下之一或组合：将该词中的部分内容去除、将该词中的部分或全部内容进行替换等。
将该词中的部分或全部内容进行替换可包括但不限于以下之一或任意组合：将该词中的至少一个字替换为拼音、将该词中的至少一个字替换为拼音首字母、将该词中的至少一个字替换为发音相近的其它字等。
现有的基于关键词进行过滤的方式中，假设想过滤掉UGC内容中的微信号广告，使用的关键字为“微信号”，那么很容易使用“weixin”、“wx”、“微信”、“微xin”等近义词绕过，其中，“weixin”和“微xin”即为将“微信号”中的至少一个字替换为拼音的情况，“wx”即为将“微信号”中的至少一个字替换为拼音首字母的情况，“微信”即为将“微信号”中部分内容去除的情况。假设想要过滤掉UGC内容中的政治人物名字，使用的关键字即为该政治人物的名字，那么可以采用将该名字中的至少一个字替换为发音相近的其它字的方式绕过。
而本实施例所述方案中，通过训练GAN模型，可让GAN模型学会如何基于原始词变形得到原始词的变形词，从而可以在后续利用GAN模型进行近义词扩展时，生成输入的词的变形词。
通过上述介绍可以看出，本实施例中，针对任一待处理的关键词，可依次通过两种方式来扩展出的该关键词的近义词，其中一种方式是利用词向量工具来扩展出比较常见的近义词，在此基础上，可采用另外一种方式即利用GAN模型，进一步分别生成该关键词以及查找出的近义词的近义词(如变形词)，假设利用词向量工具为该关键词扩展出了3个近义词，那么加上该关键词本身共得到4个词，针对这4个词中的每个词，可分别利用GAN模型进一步扩展出3个词，那么总共即可得到16个词，即扩展出了大量的近义词，从而大大提高了近义词的扩展能力及扩展效率等。
后续，可将扩展出的近义词与人工总结归纳的关键词均作为审核过滤的关键词，对用户上传的UGC内容进行审核过滤等。
图2为本发明所述GAN模型训练方法实施例的流程图。如图2所示，包括以下具体实现方式。
在201中，获取训练样本，每个训练样本中包括：原始词以及原始词的近义词。
在202中，根据训练样本训练出GAN模型，以便在进行近义词扩展时，针对待处理的关键词，在利用词向量工具从生成的备选词集中查找出该关键词的近义词后，利用GAN模型分别生成该关键词以及查找出的近义词的近义词。
其中，原始词的近义词可为原始词的变形词，可包括但不限于以下之一或组合：将原始词中的部分内容去除、将原始词中的部分或全部内容进行替换等。相应地，针对待处理的关键词以及查找出的近义词中的每个词，GAN模型生成的该词的近义词可为该词的变形词，可包括但不限于以下之一或组合：将该词中的部分内容去除、将该词中的部分或全部内容进行替换等。
将该词中的部分或全部内容进行替换可包括但不限于以下之一或任意组合：将该词中的至少一个字替换为拼音、将该词中的至少一个字替换为拼音首字母、将该词中的至少一个字替换为发音相近的其它字等。
比如，原始词为“微信”，可将“weixin”、“wx”、“微信”、“微xin”等作为该原始词的变形词，基于这种训练样本，训练出GAN模型，即让GAN模型学会如何基于原始词变形得到原始词的变形词，从而可以在后续利用GAN模型进行近义词扩展时，生成输入的词的变形词。
需要说明的是，对于前述的各方法实施例，为了简单描述，将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本发明并不受所描述的动作顺序的限制，因为依据本发明，某些步骤可以采用其它顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本发明所必须的。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其它实施例的相关描述。
总之，采用本发明方法实施例所述方案，可自动扩展出关键词的多个近义词，从而提升了处理效率等。
以上是关于方法实施例的介绍，以下通过装置实施例，对本发明所述方案进行进一步说明。
图3为本发明所述近义词扩展装置实施例的组成结构示意图。如图3所示，包括：第一扩展单元301以及第二扩展单元302。
第一扩展单元301，用于获取待处理的关键词，并利用词向量工具从生成的备选词集中查找出该关键词的近义词。
第二扩展单元302，用于利用预先训练得到的GAN模型，分别生成该关键词以及查找出的近义词的近义词。
待处理的关键词可以是指人工总结归纳出的关键词。针对人工总结归纳出的每个关键词，可分别将其作为待处理的关键词按照上述方式进行处理。
针对待处理的关键词，第一扩展单元301可首先利用词向量工具从生成的备选词集中查找出该关键词的近义词。比如，可将该关键词输入给词向量工具，获取词向量工具分别计算各备选词的词向量表示与该关键词的词向量表示之间的距离后，选出并返回的距离该关键词最近的N个备选词，将返回的备选词作为该关键词的近义词，N为正整数。
为此，第一扩展单元301可预先收集可预先收集UGC数据，并对收集到的UGC数据进行切词处理，将切词结果作为备选词。比如，可收集贴吧、百家号、中文维基百科等典型UGC数据，并可对收集到的UGC数据按照现有切词方式进行切词处理，从而得到各切词结果，得到的各切词结果即可作为备选词。
进一步地，第二扩展单元302可利用GAN模型，分别生成该关键词以及查找出的近义词的近义词。比如，第二扩展单元302可针对该关键词以及查找出的近义词中的每个词，分别将该词以及噪声输入GAN模型，从而得到GAN模型生成的该词的近义词。其中，针对同一个词，分别向GAN模型输入不同的噪声，可得到GAN模型生成的该词的不同近义词。
图4为本发明所述GAN模型训练装置实施例的组成结构示意图。如图4所示，包括：样本获取单元401以及模型训练单元402。
样本获取单元401，用于获取训练样本，每个训练样本中可包括：原始词以及原始词的近义词。
模型训练单元402，用于根据训练样本训练出GAN模型，以便在进行近义词扩展时，针对待处理的关键词，在利用词向量工具从生成的备选词集中查找出该关键词的近义词后，利用GAN模型分别生成该关键词以及查找出的近义词的近义词。
其中，原始词的近义词可为原始词的变形词，可包括但不限于以下之一或组合：将原始词中的部分内容去除、将原始词中的部分或全部内容进行替换等。相应地，针对该关键词以及查找出的近义词中的每个词，GAN模型生成的该词的近义词可为词的变形词，可包括但不限于以下之一或组合：将该词中的部分内容去除、将该词中的部分或全部内容进行替换等。
将该词中的部分或全部内容进行替换可包括但不限于以下之一或任意组合：将该词中的至少一个字替换为拼音、将该词中的至少一个字替换为拼音首字母、将该词中的至少一个字替换为发音相近的其它字等。
比如，原始词为“微信”，可将“weixin”、“wx”、“微信”、“微xin”等作为该原始词的变形词，基于这种训练样本，训练出GAN模型，即让GAN模型学会如何基于原始词变形得到原始词的变形词，从而可以在后续利用GAN模型进行近义词扩展时，生成输入的词的变形词。
图3和图4所示装置实施例的具体工作流程请参照前述方法实施例中的相关说明，不再赘述。在实际应用中，图3和图4所示装置可分别为独立的装置，也可合并为一个装置。
图5示出了适于用来实现本发明实施方式的示例性计算机系统/服务器12的框图。图5显示的计算机系统/服务器12仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示，计算机系统/服务器12以通用计算设备的形式表现。计算机系统/服务器12的组件可以包括但不限于：一个或者多个处理器(处理单元)16，存储器28，连接不同系统组件(包括存储器28和处理器16)的总线18。
总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
计算机系统/服务器12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机系统/服务器12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。
存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)30和/或高速缓存存储器32。计算机系统/服务器12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图5未显示，通常称为“硬盘驱动器”)。尽管图5中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如存储器28中，这样的程序模块42包括——但不限于——操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
计算机系统/服务器12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信，还可与一个或者多个使得用户能与该计算机系统/服务器12交互的设备通信，和/或与使得该计算机系统/服务器12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且，计算机系统/服务器12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图5所示，网络适配器20通过总线18与计算机系统/服务器12的其它模块通信。应当明白，尽管图中未示出，可以结合计算机系统/服务器12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理器16通过运行存储在存储器28中的程序，从而执行各种功能应用以及数据处理，例如实现图1或图2所示实施例中的方法。
本发明同时公开了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时将实现如图1或图2所示实施例中的方法。
可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于——无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
在本发明所提供的几个实施例中，应该理解到，所揭露的装置和方法等，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元，可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)或处理器(processor)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明保护的范围之内。
Claims (14)
1.一种近义词扩展方法，其特征在于，包括：
获取待处理的关键词；
利用词向量工具从生成的备选词集中查找出所述关键词的近义词；
利用预先训练得到的生成对抗网络GAN模型，分别生成所述关键词以及所述查找出的近义词的近义词，包括：针对所述关键词以及所述查找出的近义词中的每个词，分别将所述词以及噪声输入所述GAN模型，得到所述GAN模型生成的所述词的近义词；
该方法进一步包括：针对同一个词，分别向所述GAN模型输入不同的噪声，得到所述GAN模型生成的所述词的不同近义词。
2.根据权利要求1所述的方法，其特征在于，
所述利用词向量工具从生成的备选词集中查找出所述关键词的近义词包括：
将所述关键词输入给所述词向量工具，获取所述词向量工具分别计算各备选词的词向量表示与所述关键词的词向量表示之间的距离后，选出并返回的距离所述关键词最近的N个备选词，将所述返回的备选词作为所述关键词的近义词，N为正整数。
3.根据权利要求1所述的方法，其特征在于，
生成所述备选词集的方式包括：
收集用户生成内容UGC数据；
对所述UGC数据进行切词处理，将切词结果作为备选词。
4.一种生成对抗网络模型训练方法，其特征在于，包括：
获取训练样本，每个训练样本中包括：原始词以及所述原始词的近义词；
根据所述训练样本训练出生成对抗网络GAN模型，以便在进行近义词扩展时，针对待处理的关键词，在利用词向量工具从生成的备选词集中查找出所述关键词的近义词后，利用所述GAN模型分别生成所述关键词以及所述查找出的近义词的近义词。
5.根据权利要求4所述的方法，其特征在于，
所述原始词的近义词为所述原始词的变形词，包括以下之一或组合：将所述原始词中的部分内容去除、将所述原始词中的部分或全部内容进行替换；
针对所述关键词以及所述查找出的近义词中的每个词，所述GAN模型生成的所述词的近义词为所述词的变形词，包括以下之一或组合：将所述词中的部分内容去除、将所述词中的部分或全部内容进行替换。
6.根据权利要求5所述的方法，其特征在于，
所述将所述词中的部分或全部内容进行替换包括以下之一或任意组合：将所述词中的至少一个字替换为拼音、将所述词中的至少一个字替换为拼音首字母、将所述词中的至少一个字替换为发音相近的其它字。
7.一种近义词扩展装置，其特征在于，包括：第一扩展单元以及第二扩展单元；
所述第一扩展单元，用于获取待处理的关键词，并利用词向量工具从生成的备选词集中查找出所述关键词的近义词；
所述第二扩展单元，用于利用预先训练得到的生成对抗网络GAN模型，分别生成所述关键词以及所述查找出的近义词的近义词；
其中，所述第二扩展单元针对所述关键词以及所述查找出的近义词中的每个词，分别将所述词以及噪声输入所述GAN模型，得到所述GAN模型生成的所述词的近义词；
所述第二扩展单元进一步用于，针对同一个词，分别向所述GAN模型输入不同的噪声，得到所述GAN模型生成的所述词的不同近义词。
8.根据权利要求7所述的装置，其特征在于，
所述第一扩展单元将所述关键词输入给所述词向量工具，获取所述词向量工具分别计算各备选词的词向量表示与所述关键词的词向量表示之间的距离后，选出并返回的距离所述关键词最近的N个备选词，将所述返回的备选词作为所述关键词的近义词，N为正整数。
9.根据权利要求7所述的装置，其特征在于，
所述第一扩展单元进一步用于，收集用户生成内容UGC数据，对所述UGC数据进行切词处理，将切词结果作为备选词。
10.一种生成对抗网络模型训练装置，其特征在于，包括：样本获取单元以及模型训练单元；
所述样本获取单元，用于获取训练样本，每个训练样本中包括：原始词以及所述原始词的近义词；
所述模型训练单元，用于根据所述训练样本训练出生成对抗网络GAN模型，以便在进行近义词扩展时，针对待处理的关键词，在利用词向量工具从生成的备选词集中查找出所述关键词的近义词后，利用所述GAN模型分别生成所述关键词以及所述查找出的近义词的近义词。
11.根据权利要求10所述的装置，其特征在于，
所述原始词的近义词为所述原始词的变形词，包括以下之一或组合：将所述原始词中的部分内容去除、将所述原始词中的部分或全部内容进行替换；
针对所述关键词以及所述查找出的近义词中的每个词，所述GAN模型生成的所述词的近义词为所述词的变形词，包括以下之一或组合：将所述词中的部分内容去除、将所述词中的部分或全部内容进行替换。
12.根据权利要求11所述的装置，其特征在于，
所述将所述词中的部分或全部内容进行替换包括以下之一或任意组合：将所述词中的至少一个字替换为拼音、将所述词中的至少一个字替换为拼音首字母、将所述词中的至少一个字替换为发音相近的其它字。
13.一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1～6中任一项所述的方法。
14.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1～6中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910204138.6A CN110032734B (zh) | 2019-03-18 | 2019-03-18 | 近义词扩展及生成对抗网络模型训练方法和装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910204138.6A CN110032734B (zh) | 2019-03-18 | 2019-03-18 | 近义词扩展及生成对抗网络模型训练方法和装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN110032734A CN110032734A (zh) | 2019-07-19 |
| CN110032734B true CN110032734B (zh) | 2023-02-28 |
Family
ID=67236088
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910204138.6A Active CN110032734B (zh) | 2019-03-18 | 2019-03-18 | 近义词扩展及生成对抗网络模型训练方法和装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110032734B (zh) |
Families Citing this family (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111177351B (zh) * | 2019-12-20 | 2024-10-18 | 北京淇瑀信息科技有限公司 | 基于规则的自然语言表达意图获取方法、装置和系统 |
| CN111291563B (zh) * | 2020-01-20 | 2023-09-01 | 腾讯科技（深圳）有限公司 | 词向量对齐方法和词向量对齐模型训练方法 |
| CN113822039A (zh) * | 2021-06-17 | 2021-12-21 | 腾讯科技（深圳）有限公司 | 近义词挖掘方法及相关设备 |
| CN114116953A (zh) * | 2021-11-15 | 2022-03-01 | 交通银行股份有限公司 | 基于词向量的高效率语义拓展检索方法、装置及存储介质 |
| CN116010609B (zh) * | 2023-03-23 | 2023-06-09 | 山东中翰软件有限公司 | 一种物料数据归类方法、装置、电子设备及存储介质 |
| CN116340470B (zh) * | 2023-05-30 | 2023-09-15 | 环球数科集团有限公司 | 一种基于aigc的关键词关联检索系统 |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103744956A (zh) * | 2014-01-06 | 2014-04-23 | 同济大学 | 一种关键词的多样化拓展方法 |
| CN106294396A (zh) * | 2015-05-20 | 2017-01-04 | 北京大学 | 关键词扩展方法和关键词扩展系统 |
| CN107220232A (zh) * | 2017-04-06 | 2017-09-29 | 北京百度网讯科技有限公司 | 基于人工智能的关键词提取方法及装置、设备与可读介质 |
| CN107862015A (zh) * | 2017-10-30 | 2018-03-30 | 北京奇艺世纪科技有限公司 | 一种关键词关联扩展方法和装置 |
| CN107957990A (zh) * | 2017-11-20 | 2018-04-24 | 东软集团股份有限公司 | 一种触发词扩展方法、装置以及事件提取方法及系统 |
| CN108255985A (zh) * | 2017-12-28 | 2018-07-06 | 东软集团股份有限公司 | 数据索引构建方法、检索方法及装置、介质及电子设备 |
| CN108509474A (zh) * | 2017-09-15 | 2018-09-07 | 腾讯科技（深圳）有限公司 | 搜索信息的同义词扩展方法及装置 |
| CN108733647A (zh) * | 2018-04-13 | 2018-11-02 | 中山大学 | 一种基于高斯分布的词向量生成方法 |
| CN109299342A (zh) * | 2018-11-30 | 2019-02-01 | 武汉大学 | 一种基于循环生成式对抗网络的跨模态检索方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10839285B2 (en) * | 2017-04-10 | 2020-11-17 | International Business Machines Corporation | Local abbreviation expansion through context correlation |
-
2019
- 2019-03-18 CN CN201910204138.6A patent/CN110032734B/zh active Active
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103744956A (zh) * | 2014-01-06 | 2014-04-23 | 同济大学 | 一种关键词的多样化拓展方法 |
| CN106294396A (zh) * | 2015-05-20 | 2017-01-04 | 北京大学 | 关键词扩展方法和关键词扩展系统 |
| CN107220232A (zh) * | 2017-04-06 | 2017-09-29 | 北京百度网讯科技有限公司 | 基于人工智能的关键词提取方法及装置、设备与可读介质 |
| CN108509474A (zh) * | 2017-09-15 | 2018-09-07 | 腾讯科技（深圳）有限公司 | 搜索信息的同义词扩展方法及装置 |
| CN107862015A (zh) * | 2017-10-30 | 2018-03-30 | 北京奇艺世纪科技有限公司 | 一种关键词关联扩展方法和装置 |
| CN107957990A (zh) * | 2017-11-20 | 2018-04-24 | 东软集团股份有限公司 | 一种触发词扩展方法、装置以及事件提取方法及系统 |
| CN108255985A (zh) * | 2017-12-28 | 2018-07-06 | 东软集团股份有限公司 | 数据索引构建方法、检索方法及装置、介质及电子设备 |
| CN108733647A (zh) * | 2018-04-13 | 2018-11-02 | 中山大学 | 一种基于高斯分布的词向量生成方法 |
| CN109299342A (zh) * | 2018-11-30 | 2019-02-01 | 武汉大学 | 一种基于循环生成式对抗网络的跨模态检索方法 |
Non-Patent Citations (7)
| Title |
|---|
| Nasim Souly ; .Semi Supervised Semantic Segmentation Using Generative Adversarial Network.《2017 IEEE International Conference on Computer Vision (ICCV)》.2017, * |
| 基于主机与云分析结合的轻量级威胁感知系统;彭国军等;《华中科技大学学报(自然科学版)》;20160323(第03期);第22-26、32页 * |
| 基于生成对抗学习的知识图谱问答系统研究;李一夫;《中国优秀硕士学位论文全文数据库 (信息科技辑)》;20190115(第1期);I138-5571 * |
| 基于词或词组长度和频数的短中文文本关键词提取算法;陈伟鹤等;《计算机科学》;20161215(第12期);第57-64页 * |
| 生成式对抗网络:从生成数据到创造智能;王坤峰等;《自动化学报》;20180515(第05期);第4-9页 * |
| 生成式对抗网络研究进展;王万良等;《通信学报》;20180225(第02期);第139-152页 * |
| 面向微博短文本的社交与概念化语义扩展搜索方法;崔婉秋等;《计算机研究与发展》;20180815(第08期);第47-58页 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN110032734A (zh) | 2019-07-19 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110032734B (zh) | 近义词扩展及生成对抗网络模型训练方法和装置 | |
| CN106940788B (zh) | 智能评分方法及装置、计算机设备及计算机可读介质 | |
| US11372942B2 (en) | Method, apparatus, computer device and storage medium for verifying community question answer data | |
| CN107193973B (zh) | 语义解析信息的领域识别方法及装置、设备及可读介质 | |
| CN107220232B (zh) | 基于人工智能的关键词提取方法及装置、设备与可读介质 | |
| CN110276023B (zh) | Poi变迁事件发现方法、装置、计算设备和介质 | |
| CN111324771B (zh) | 视频标签的确定方法、装置、电子设备及存储介质 | |
| US9633008B1 (en) | Cognitive presentation advisor | |
| CN110569335B (zh) | 基于人工智能的三元组校验方法、装置及存储介质 | |
| CN109271542A (zh) | 封面确定方法、装置、设备及可读存储介质 | |
| CN110597978B (zh) | 物品摘要生成方法、系统、电子设备及可读存储介质 | |
| US20160117954A1 (en) | System and method for automated teaching of languages based on frequency of syntactic models | |
| CN107948730B (zh) | 基于图片生成视频的方法、装置、设备及存储介质 | |
| CN112183117B (zh) | 一种翻译评价的方法、装置、存储介质及电子设备 | |
| US11709872B2 (en) | Computer-readable recording medium storing response processing program, response processing method, and information processing apparatus | |
| CN107861948B (zh) | 一种标签提取方法、装置、设备和介质 | |
| CN110377750B (zh) | 评论生成及评论生成模型训练方法、装置及存储介质 | |
| CN116842168B (zh) | 跨领域问题处理方法、装置、电子设备及存储介质 | |
| CN116402166B (zh) | 一种预测模型的训练方法、装置、电子设备及存储介质 | |
| CN107844531B (zh) | 答案输出方法、装置和计算机设备 | |
| Wang et al. | Listen, decipher and sign: Toward unsupervised speech-to-sign language recognition | |
| CN110059180B (zh) | 文章作者身份识别及评估模型训练方法、装置及存储介质 | |
| CN112559711A (zh) | 一种同义文本提示方法、装置及电子设备 | |
| CN114842982B (zh) | 一种面向医疗信息系统的知识表达方法、装置及系统 | |
| CN110610001A (zh) | 短文本完整性识别方法、装置、存储介质及计算机设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |