JP2018055670A - 類似文生成方法、類似文生成プログラム、類似文生成装置及び類似文生成システム - Google Patents

Abstract

【課題】言語モデルのデータベースに対する探索コストを低減できるとともに、類似文の識別を高精度に行うことができる類似文生成方法を提供する。【解決手段】類似文生成方法は、第１文を入力し、第１文を構成する複数の語句のうち第１語句と同じ意味を持つ一以上の第２語句を第１データベースから抽出し、第２データベースに基づいて一以上の第２語句に対応する文脈依存値に基づいてＮ−ｇｒａｍ値を算出し、第１文において第１語句が一以上の第２語句に置き換えられた一以上の第２文において、Ｎ−ｇｒａｍ値に相当する数の第２語句を含んだ連続する一以上の第３語句を抽出し、一以上の第３語句について、第３データベースにおける出現頻度を算出し、算出された出現頻度が閾値以上であるか判定し、算出された出現頻度が閾値以上であると判定された場合は、一以上の第２文を第１文の類似文として採用し、外部の機器に出力する。【選択図】図５

Description

本開示は、原文から類似文を生成する類似文生成方法、類似文生成プログラム、類似文生成装置、及び該類似文生成装置を備える類似文生成システムに関する。

近年、第１言語の文を第１言語と異なる第２言語の文に翻訳する機械翻訳が研究及び開発されており、このような機械翻訳の性能向上には、翻訳に利用可能な多数の例文を収集した対訳コーパスが必要となる。このため、１個の原文から当該原文に類似する１又は複数の類似文（言い換え文）を生成することが行われている。

例えば、特許文献１には、所定のパターンで文を変形し、ふさわしい変形かどうかを判定するため、評価関数を用いて評価値を算出し、評価値の最も高い表現を選択する言語変換処理統一システムが開示されている。

また、特許文献２には、活性に係るポイントを形態素に設定して、そのポイントを増減させ、増減されたポイントに基づいてテキストから情報を抽出する自然言語処理方法が開示されている。

また、特許文献３には、ユーザによって指定された言い換え前用例及び言い換え後用例に基づいて新たな言い換え後用例を生成し、解析済み文に差分を適用することによって作成された言い換え文を出力する文書処理装置が開示されている。

特許第３９３２３５０号公報 特開２００５−３３９０４３号公報 特許第５０６０５３９号公報

しかしながら、機械翻訳の性能向上には、翻訳に利用可能な例文が多いほど好ましく、例文として使用可能な類似文の生成には、更なる改善が必要とされていた。

本開示は、上記従来の課題を解決するもので、言語モデルのデータベースに対する探索コストを低減できるとともに、類似文の識別を高精度に行うことができる類似文生成方法、類似文生成プログラム、類似文生成装置及び類似文生成システムを提供することを目的とする。

本開示の一様態による方法は、原文から類似文を生成する方法であって、第１文を入力し、前記第１文を構成する複数の語句のうち第１語句と同じ意味を持つ一以上の第２語句を第１データベースから抽出し、前記第１データベースは語句と前記第１データベースに含まれた語句の類義語とを対応づけ、第２データベースに基づいて得られた前記一以上の第２語句に対応する文脈依存値に基づいてＮ−ｇｒａｍ値を算出し、前記第２データベースは語句と前記第２データベースに含まれた語句に対応する前記文脈依存値とを対応づけ、前記文脈依存値は、前記第２データベースに含まれた語句が示す意味が文脈に依存する程度を示し、前記第１文において前記第１語句が前記一以上の第２語句に置き換えられた一以上の第２文において、前記Ｎ−ｇｒａｍ値に相当する数の前記第２語句を含んだ連続する一以上の第３語句を抽出し、前記一以上の第３語句について、第３データベースにおける出現頻度を算出し、前記第３データベースは語句と前記第３データベースに含まれる語句の前記第３データベースにおける出現頻度とを対応づけ、前記算出された出現頻度が閾値以上であるか判定し、前記算出された出現頻度が前記閾値以上であると判定された場合は、前記一以上の第２文を前記第１文の類似文として採用し、外部の機器に出力する。

本開示によれば、言語モデルのデータベースに対する探索コストを低減できるとともに、類似文の識別を高精度に行うことができる。

本開示の実施の形態１における類似文生成装置の構成の一例を示すブロック図である。 図１に示す置き換え候補辞書のデータ構成の一例を示す図である。 図１に示す文脈依存率辞書のデータ構成の一例を示す図である。 図１に示す言語モデルデータベースのデータ構成の一例を示す図である。 図１に示す類似文生成装置による類似文生成処理の一例を示すフローチャートである。 本開示の実施の形態２における類似文生成システムの構成の一例を示すブロック図である。 図６に示す類似文生成システムのフィードバックデータ更新処理を含む類似文生成処理の一例を示すフローチャートである。

（本開示の基礎となった知見）
上記のように、機械翻訳の性能向上には、翻訳に利用可能な例文が多いほど好ましく、文節置き換えを用いた類似文生成による、少量の対訳コーパスをベースとした文章量の自動拡大が要望されている。この文節置き換えを用いた類似文の生成の際、置き換え対象となる表現(語句)を含む類似候補文の取捨選択において、置き換えの良否が文脈に依存する場合が存在する。

このため、言語モデルに基づく置き換えルールの動的な取捨選択により、文脈依存性を考慮しつつ、事例の学習及び反映を可能にしたいが、効率良く類似候補文を取捨選択するには如何に類似候補文を取捨選択するかが重要となる。

例えば、置き換え(換言)による対訳コーパスの拡張及び類似候補文の生成を行う場合、換言ルールとして、「話せない」が（１）「話せません」、（２）「喋れない」、（３）「秘密です」のいずれかに置き換えられる場合、「英語は話せない」との文章に、上記の換言ルールを適用すると、「英語は話せません」、「英語は喋れない」、及び「英語は秘密です」の３つの類似候補文が生成される。

この場合、文脈から、「英語は話せません」及び「英語は喋れない」は、類似文として採用できるが、「英語は秘密です」は日本語として適切な表現ではないため、類似文として採用することはできず、棄却されることとなる。このように、同一の換言ルールを適用しても、文脈によって、類似候補文が類似文として採用できる場合とできない場合とが発生する。

類似文として採用できる採択文と採用できない棄却文とを識別する従来の方法としては、単語ベクトルや文ベクトルを用いた分散表現モデルでの類似性や言語モデル（例えば、Ｎ−ｇｒａｍ言語モデル）での出現頻度等を基準に判断することが行われていた。具体的には、言語モデルの識別対象領域（探索範囲）を大きくする（例えば、Ｎ−ｇｒａｍのＮを大きくする）ことにより、表現として存在しているかどうかを判断し、文脈に依存する換言ルール（置き換えルール）の採択及び棄却を決定していた。

また、言語モデルを用いて、文の流暢さをモデル化することによる評価も行われていた。例えば、言語モデルをＮ−ｇｒａｍ言語モデルとし、Ｎ−ｇｒａｍ言語モデルのデータベース内により多く含まれている表現を用いた訳文やフレーズのスコアを高くし、あまり含まれていないもののスコアを低くする、と言った手法などがある。この手法を応用することにより、類似候補文のスコアを算出し、閾値処理によって、「良い文」（類似文として採用できる採択文）又は「悪い文」（類似文として採用できない棄却文）を識別していた。

しかしながら、識別対象領域を大きくすると、データ量及び計算量が増加するとともに、データ分布が疎になるため、全ての置き換え候補を大きな識別対象領域から検索するためには、データ量及び計算量が増大する。例えば、２−ｇｒａｍでは約８，０００万エントリであるが、５−ｇｒａｍでは約８億エントリとなり、Ｎ−ｇｒａｍのＮを大きくすると、データ量及び計算量が飛躍的に増大するという課題がある。

上記の課題を解決するため、本開示では、例えば、置き換え候補文字列と、当該置き換え候補文字列が文脈に依存する程度を表す文脈依存値とを対応付けて複数記憶する文脈依存値記憶部を設け、文脈に依存して置き換え良否が変動する類似文において、文脈に依存して置き換えの良否が変動するか否かに応じて、置き換え候補文字列の前後の単語を含む言語モデルを参照するか否かを決定する。

すなわち、文脈依存値に応じて言語モデルのデータベースに対する探索範囲（識別対象領域）を決定し、決定した探索範囲を用いて言語モデルのデータベースを探索することにより、文脈依存値が高いとみなされる置き換え候補文字列のみ、より大きな探索領域で識別を行い、文脈依存値が低い置き換え候補文字列は、小さな探索領域で識別を行い、探索コストと識別精度とのバランスを図っている。

また、従来の類似文の生成方法では、分散表現や言語モデル内に含まれていない表現は、そもそも識別することができず、棄却されることとなる。例えば、訓練データ内に、「それは秘密です」というフレーズを含む文が無いと、「それは秘密です」を含む類似候補文の識別ができず、棄却されるという課題がある。

上記の課題を解決するため、本開示では、例えば、外部からの入力（例えば、ユーザ又は所定の装置等のフィードバック）により、文脈依存性の有る置き換え候補文字列が入力された場合に、言語モデルのデータベース及び文脈依存値記憶部等を更新する。また、新しい文表現が入力された場合に、その表現に応じて、文脈依存値記憶部内の当該単語の文脈依存値を変化させ、また、新しい文表現を含むＮ−ｇｒａｍ等を部分構築し、新しい文表現を言語モデルに反映する。このように、正しいデータを追加することにより、置き換え文字列の前後の単語を含む言語モデルの出現頻度等を加減するとともに、文脈依存値記憶部そのものも外部入力に応じて更新する。

上記のように、外部知識や新知識をフィードバックして、言語モデルのデータベース等を更新することにより、識別精度を向上させることができる。この結果、低コストで精度の良い類似候補文の識別を行い、更に、Ｎ−ｇｒａｍモデルのデータベース内に存在しない表現にも、更新して対応できる高効率で自律的な類似候補文の識別を行うことができる。

上記の知見に基づき、本願発明者らは、原文から類似文を如何にして生成すべきかについて鋭意検討を行った結果、本開示を完成したものである。

本開示の一態様に係る方法は、原文から類似文を生成する方法であって、第１文を入力し、前記第１文を構成する複数の語句のうち第１語句と同じ意味を持つ一以上の第２語句を第１データベースから抽出し、前記第１データベースは語句と前記第１データベースに含まれた語句の類義語とを対応づけ、第２データベースに基づいて得られた前記一以上の第２語句に対応する文脈依存値に基づいてＮ−ｇｒａｍ値を算出し、前記第２データベースは語句と前記第２データベースに含まれた語句に対応する前記文脈依存値とを対応づけ、前記文脈依存値は、前記第２データベースに含まれた語句が示す意味が文脈に依存する程度を示し、前記第１文において前記第１語句が前記一以上の第２語句に置き換えられた一以上の第２文において、前記Ｎ−ｇｒａｍ値に相当する数の前記第２語句を含んだ連続する一以上の第３語句を抽出し、前記一以上の第３語句について、第３データベースにおける出現頻度を算出し、前記第３データベースは語句と前記第３データベースに含まれる語句の前記第３データベースにおける出現頻度とを対応づけ、前記算出された出現頻度が閾値以上であるか判定し、前記算出された出現頻度が前記閾値以上であると判定された場合は、前記一以上の第２文を前記第１文の類似文として採用し、外部の機器に出力する。

このような構成により、第１文を入力し、第１文を構成する複数の語句のうち第１語句と同じ意味を持つ一以上の第２語句を第１データベースから抽出し、第１データベースは語句と第１データベースに含まれた語句の類義語とを対応づけ、第２データベースに基づいて得られた一以上の第２語句に対応する文脈依存値に基づいてＮ−ｇｒａｍ値を算出し、第２データベースは語句と第２データベースに含まれた語句に対応する文脈依存値とを対応づけ、文脈依存値は、第２データベースに含まれた語句が示す意味が文脈に依存する程度を示し、第１文において第１語句が一以上の第２語句に置き換えられた一以上の第２文において、Ｎ−ｇｒａｍ値に相当する数の第２語句を含んだ連続する一以上の第３語句を抽出し、一以上の第３語句について、第３データベースにおける出現頻度を算出し、第３データベースは語句と第３データベースに含まれる語句の第３データベースにおける出現頻度とを対応づけ、算出した出現頻度が閾値以上であるか判定し、算出した出現頻度が閾値以上であると判定された場合は、一以上の第２文を第１文の類似文として採用し、外部の機器に出力しているので、文脈依存値が高い第２語句のみ、大きな探索領域で識別を行い、文脈依存値が低い第２語句は、小さな探索領域で識別を行うことができ、言語モデルのデータベースである第３データベースに対する探索コストを低減できるとともに、類似文の識別を高精度に行うことができる。

前記第１文は第１言語で記述され、前記第１文は対訳コーパスに含まれ、前記対訳コーパスは第１言語で記述された文と第２言語で記述された対訳文との対を複数含み、前記算出された出現頻度が前記閾値以上であると判定された場合は、前記一以上の第２文を前記第１文の類似文として前記対訳コーパスに追加するようにしてもよい。

このような構成により、対訳コーパスに類似文を追加することができる。

前記第３データベースは、Ｎ−ｇｒａｍ言語モデルのデータベースを含み、前記文脈依存値に応じて、前記Ｎ−ｇｒａｍ言語モデルのＮをｉ（正の整数）に決定し、前記第３データベースを照合することにより、前記第２語句を含むｉ−ｇｒａｍの出現頻度を求め、前記第２語句を含むｉ−ｇｒａｍの出現頻度に基づいて、前記一以上の第２文を前記第１文の類似文として採用するか否かを判定するようにしてもよい。

このような構成により、文脈依存値に応じてＮ−ｇｒａｍ言語モデルのＮをｉ（正の整数）に決定し、Ｎ−ｇｒａｍ言語モデルのデータベースを照合することにより、第２語句を含むｉ−ｇｒａｍの出現頻度を求め、求めた出現頻度に基づいて、一以上の第２文を第１文の類似文として採用するか否かを判定しているので、文脈依存値が大きいほどｉを大きく、文脈依存値が小さいほどｉを小さく設定することにより、文脈依存性が高い第２語句に対して、広い識別対象領域を用いて、文脈依存値が大きい第２語句を含むｉ−ｇｒａｍの出現頻度を高精度に求めることができるとともに、文脈依存性が低い第２語句に対して、狭い識別対象領域を用いて、文脈依存値が小さい第２語句を含むｉ−ｇｒａｍの出現頻度を低コストで且つ高精度に求めることができ、類似文の識別を効率よく且つ高精度に行うことができる。

前記第１文の類似文として採用すると判定された前記一以上の第２文と、前記一以上の第２文を生成した前記第１文を第２言語で翻訳した翻訳文とを基に生成された翻訳モデルを用いて、所定の翻訳対象文を翻訳して翻訳結果文を作成し、前記翻訳結果文を評価し、前記翻訳結果文の評価結果に基づいて、前記翻訳対象文の言語及び／又は前記翻訳結果文の言語に関する言語情報と、前記言語情報に対する評価情報とを含むフィードバック情報を生成するようにしてもよい。

このような構成により、採用すると判定された一以上の第２文と、一以上の第２文を生成した第１文を第２言語で翻訳した翻訳文とを基に生成された翻訳モデルを用いて、所定の翻訳対象文を翻訳して翻訳結果文を作成し、作成した翻訳結果文を評価し、この翻訳結果文の評価結果に基づいて、翻訳対象文の言語及び／又は翻訳結果文の言語に関する言語情報と、この言語情報に対する評価情報とを含むフィードバック情報を生成しているので、文脈依存性を考慮した事例を学習及び反映するためのフィードバック情報を自律的に生成することができる。

前記第１データベース、前記第２データベース及び前記第３データベースのうち少なくとも一つを、前記フィードバック情報を用いて更新するようにしてもよい。

このような構成により、言語情報と評価情報とを含むフィードバック情報を用いて、第１データベース、第２データベース及び第３データベースのうち少なくとも一つを更新しているので、文脈依存性を考慮した事例を第１データベース、第２データベース及び第３データベースのうち少なくとも一つに反映することができ、更新前の第１データベース、第２データベース及び第３データベースに存在しない表現にも対応できる高効率で且つ自律的な類似文の識別を行うことができる。

前記フィードバック情報が文脈依存性を有する前記第２語句を含む場合、前記第２データベース及び前記第３データベースを更新するようにしてもよい。

このような構成により、フィードバック情報が文脈依存性を有する第２語句を含む場合、第２データベース及び第３データベースを更新しているので、文脈依存性を考慮した事例を第２データベース及び第３データベースに反映することができ、文脈依存性を考慮した高効率で且つ自律的な類似文の識別を行うことができる。

前記フィードバック情報が新しい文表現を含む場合、前記文表現に応じて前記第２データベースの文脈依存値を変化させるようにしてもよい。

このような構成により、フィードバック情報が新しい文表現を含む場合、新しい文表現に応じて第２データベースの文脈依存値を変化させているので、新しい文表現にも対応できる高効率で且つ自律的な類似文の識別を行うことができる。

前記フィードバック情報が新しい文表現を含む場合、前記文表現を含むように前記第３データベースを更新するようにしてもよい。

このような構成により、フィードバック情報が新しい文表現を含む場合、新しい文表現を含むように第３データベースを更新しているので、更新前の第３データベースに存在しない新しい文表現にも対応できる高効率で且つ自律的な類似文の識別を行うことができる。

また、本開示は、以上のような特徴的な処理を実行する類似文生成方法として実現することができるだけでなく、このような類似文生成方法に含まれる特徴的な処理をコンピュータに実行させるコンピュータプログラムとして実現することもできる。また、類似文生成方法により実行される特徴的な処理に対応する特徴的な構成を備える類似文生成装置などとして実現することもできる。したがって、以下の他の態様でも、上記の類似文生成方法と同様の効果を奏することができる。

本開示の他の態様に係るプログラムは、原文から類似文を生成する装置として、コンピュータを機能させるためのプログラムであって、前記コンピュータに、第１文を入力し、前記第１文を構成する複数の語句のうち第１語句と同じ意味を持つ一以上の第２語句を第１データベースから抽出し、前記第１データベースは語句と前記第１データベースに含まれた語句の類義語とを対応づけ、第２データベースに基づいて得られた前記一以上の第２語句に対応する文脈依存値に基づいてＮ−ｇｒａｍ値を算出し、前記第２データベースは語句と前記第２データベースに含まれた語句に対応する前記文脈依存値とを対応づけ、前記文脈依存値は、前記第２データベースに含まれた語句が示す意味が文脈に依存する程度を示し、前記第１文において前記第１語句が前記一以上の第２語句に置き換えられた一以上の第２文において、前記Ｎ−ｇｒａｍ値に相当する数の前記第２語句を含んだ連続する一以上の第３語句を抽出し、前記一以上の第３語句について、第３データベースにおける出現頻度を算出し、前記第３データベースは語句と前記第３データベースに含まれる語句の前記第３データベースにおける出現頻度とを対応づけ、前記算出された出現頻度が閾値以上であるか判定し、前記算出された出現頻度が前記閾値以上であると判定された場合は、前記一以上の第２文を前記第１文の類似文として採用し、外部の機器に出力する、処理を実行させる。

本開示の他の態様に係る装置は、原文から類似文を生成する装置であって、第１文を入力される入力部と、前記第１文を構成する複数の語句のうち第１語句と同じ意味を持つ一以上の第２語句を第１データベースから抽出する第２語句抽出部と、前記第１データベースは語句と前記第１データベースに含まれた語句の類義語とを対応づけ、第２データベースに基づいて得られた前記一以上の第２語句に対応する文脈依存値に基づいてＮ−ｇｒａｍ値を算出する算出部と、前記第２データベースは語句と前記第２データベースに含まれた語句に対応する前記文脈依存値とを対応づけ、前記文脈依存値は、前記第２データベースに含まれた語句が示す意味が文脈に依存する程度を示し、前記第１文において前記第１語句が前記一以上の第２語句に置き換えられた一以上の第２文において、前記Ｎ−ｇｒａｍ値に相当する数の前記第２語句を含んだ連続する一以上の第３語句を抽出する第３語句抽出部と、前記一以上の第３語句について、第３データベースにおける出現頻度を算出する算出部と、前記第３データベースは語句と前記第３データベースに含まれる語句の前記第３データベースにおける出現頻度とを対応づけ、前記算出された出現頻度が閾値以上であるか判定する判定部と、前記算出された出現頻度が前記閾値以上であると判定された場合は、前記一以上の第２文を前記第１文の類似文として採用し、外部の機器に出力する出力部とを備える。

本開示の他の態様に係るシステムは、原文から類似文を生成するシステムであって、上記の装置と、前記装置により前記第１文の類似文として採用すると判定された前記一以上の第２文と、前記一以上の第２文を生成した前記第１文を第２言語で翻訳した翻訳文とを基に生成された翻訳モデルを用いて、所定の翻訳対象文を翻訳して翻訳結果文を作成する翻訳部と、前記翻訳部により作成された前記翻訳結果文を評価する評価部と、前記評価部の評価結果に基づいて、前記翻訳対象文の言語及び／又は前記翻訳結果文の言語に関する言語情報と、前記言語情報に対する評価情報とを含むフィードバック情報を生成する生成部とを備える。

このような構成により、上記の類似文生成方法と同様の効果を奏することができるとともに、第１文の類似文として採用すると判定された一以上の第２文と、当該一以上の第２文を生成した第１文を第２言語で翻訳した翻訳文とを基に生成された翻訳モデルを用いて、所定の翻訳対象文を翻訳して翻訳結果文を作成し、作成された翻訳結果文を評価し、この評価結果に基づいて、翻訳対象文の言語及び／又は翻訳結果文の言語に関する言語情報と、言語情報に対する評価情報とを含むフィードバック情報を生成しているので、文脈依存性を考慮した事例を学習及び反映するためのフィードバック情報を自律的に生成し、文脈依存性を考慮した事例を自律的に学習及び反映することができる類似文生成システムを実現することができる。

そして、上記のようなコンピュータプログラムを、ＣＤ−ＲＯＭ等のコンピュータ読み取り可能な非一時的な記録媒体あるいはインターネット等の通信ネットワークを介して流通させることができるのは、言うまでもない。

また、本開示の一実施の形態に係る類似文生成装置又は類似文生成システムの構成要素の一部とそれ以外の構成要素とを複数のコンピュータに分散させたシステムとして構成してもよい。

なお、以下で説明する実施の形態は、いずれも本開示の一具体例を示すためのものである。以下の実施の形態で示される数値、形状、構成要素、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。また、全ての実施の形態において、各々の内容を組み合わせることもできる。

以下、本開示の各実施の形態について、図面を参照しながら説明する。

（実施の形態１）
図１は、本開示の実施の形態１における類似文生成装置の構成の一例を示すブロック図である。図１に示す類似文生成装置１は、置き換え対象文（原文）から類似文を生成する。類似文生成装置１は、置き換え対象文入力部１０、置き換え候補抽出部１１、文脈依存率照合部１２、文脈依存性判定部１３、言語モデル照合部１４、置き換え判定部１５、置き換え結果出力部１６、置き換え候補辞書２１、文脈依存率辞書２２、及び言語モデルデータベース２３を備える。

置き換え対象文入力部１０は、ユーザによる所定の操作入力を受け付け、ユーザが入力した置き換え対象文（第１文）を置き換え候補抽出部１１に出力する。例えば、「僕は英語が話せないので日本語でお願いします」との置き換え対象文が置き換え対象文入力部１０に入力される。なお、類似文生成装置１が生成する類似文の言語は、日本語に特に限定されず、英語、中国語、韓国語、フランス語、ドイツ語、イタリア語、ポルトガル語等の他の言語であってもよい。

置き換え候補辞書２１は、文節／単語／形態素等での置き換え事例を辞書として格納する置き換え候補記憶部であり、置き換え対象文から置き換えられる置き換え対象部分の置き換え候補となる一又は複数の置き換え候補文字列を予め記憶している。置き換え候補辞書２１は、語句と置き換え候補辞書２１に含まれた語句の類義語とを対応づけた第１データベースの一例である。

図２は、図１に示す置き換え候補辞書２１のデータ構成の一例を示す図である。図２に示すように、置き換え候補辞書２１には、置き換え対象部分（語句）と置き換え候補文字列（語句の類義語）とが対応付けて記憶されている。例えば、置き換え対象部分の「これだ」に対応付けて「これです」、「これでございます」等の置き換え候補文字列が記憶され、置き換え対象部分の「話せない」に対応付けて、「話せません」、「しゃべれない」、「秘密です」等の置き換え候補文字列が記憶されている。

置き換え候補抽出部１１は、置き換え対象文（第１文）を構成する複数の語句のうち置き換え対象部分（第１語句）と同じ意味を持つ置き換え候補文字列（一以上の第２語句）を置き換え候補辞書２１から抽出する。具体的には、置き換え候補抽出部１１は、置き換え対象文入力部１０から入力された置き換え対象文を文節／単語／形態素等の単位で分割し、分割された文節／単語／形態素等から置き換え対象部分を決定し、置き換え候補辞書２１から置き換え対象部分に対応付けて記憶されている置き換え可能な文字列対（置き換え候補文字列）を検索し、一又は複数の置き換え候補文字列を抽出して置き換え対象文とともに文脈依存率照合部１２に出力する。例えば、置き換え対象部分が「話せない」である場合、置き換え候補抽出部１１は、「話せません」、「しゃべれない」、及び「秘密です」等の置き換え候補文字列を置き換え候補辞書２１から抽出する。なお、置き換え対象文の分割方法は、上記の例に特に限定されず、種々の公知の手法を用いることができる。

文脈依存率辞書２２は、文節／単語／形態素等で置き換えた場合の適用可能性（文脈依存性）を示す文脈依存値を、文節／単語／形態素等と数値との対で辞書として格納する文脈依存値記憶部である。具体的には、文脈依存率辞書２２は、置き換え候補文字列と、当該置き換え候補文字列が文脈に依存する程度を表す文脈依存率ｐｃとを対応付けた複数のデータ対を予め記憶している。文脈依存率辞書２２は、語句と文脈依存率辞書２２に含まれた語句に対応する文脈依存値とを対応づけた第２データベースの一例であり、文脈依存値は、文脈依存率辞書２２に含まれた語句が示す意味が文脈に依存する程度を示す。

図３は、図１に示す文脈依存率辞書２２のデータ構成の一例を示す図である。図３に示すように、文脈依存率辞書２２には、例えば、置き換え候補文字列「です」に対してｐｃ＝０．３５、「ですが」に対してｐｃ＝０．０５、「話せません」に対してｐｃ＝０．２５、「しゃべれない」に対してｐｃ＝０．０１、「秘密です」に対してｐｃ＝０．７５等が文脈依存率辞書２２に予め記憶されている。

ここで、文脈依存率ｐｃは、例えば、置き換え候補文字列が文脈に依存することにより、置き換え候補文字列を用いた類似候補文が棄却される確率を０〜１の範囲で表した値である。なお、文脈依存値は、上記の文脈依存率ｐｃに特に限定されず、種々の変更が可能であり、置き換え候補文字列が文脈に依存する程度を表す他の数値を用いたり、置き換え候補文字列が文脈に依存する程度をクラス分け（例えば、文脈依存度を大、中、小等のクラスに分類）して、どのクラスに属するかを記憶したりしてもよい。

文脈依存率照合部１２は、置き換え候補文字列の文脈依存率ｐｃを文脈依存率辞書２２から検索して、置き換え候補文字列に対応付けて記憶されている文脈依存率ｐｃを抽出し、抽出した文脈依存率ｐｃを置き換え対象文とともに文脈依存性判定部１３に出力する。例えば、文脈依存率ｐｃとして、置き換え候補文字列が「話せません」の場合に０．２５、「しゃべれない」の場合に０．０１、「秘密です」の場合に０．７５が抽出される。

文脈依存性判定部１３は、文脈依存率辞書２２に基づいて得られた置き換え候補文字列（一以上の第２語句）に対応する文脈依存値に基づいてＮ−ｇｒａｍ値を算出する。具体的には、文脈依存性判定部１３は、文脈依存率ｐｃの値から、置き換え候補文字列を含む類似候補文の判定を行うために参照する言語モデルデータベース２３の識別対象領域を判定し、判定結果を置き換え対象文とともに言語モデル照合部１４に出力する。

ここで、本実施の形態では、言語モデルデータベース２３として、Ｎ−ｇｒａｍ言語モデルのデータベースを用いており、言語モデルデータベース２３には、言語情報とその出現頻度とが対応付けられたテーブル形式でデータが記憶されている。言語モデルデータベース２３は、語句と言語モデルデータベース２３に含まれる語句の言語モデルデータベース２３における出現頻度とを対応づけた第３データベースの一例である。

図４は、図１に示す言語モデルデータベース２３のデータ構成の一例を示す図である。図４に示すように、言語モデルデータベース２３には、例えば、言語情報及びその出現頻度として、「英語」に対して「２３４，５６７，８９０」が、「英語 は」に対して「１２，３４５，６７０」が、「英語 が」に対して「２２，２２２，２２０」が、「英語 が 好き」に対して「９９９，００１」がそれぞれ対応付けてテーブル形式で言語モデルデータベース２３に予め記憶されている。また、この出現頻度を基にして、例えば、出現確率を求めることができる。

なお、言語モデルデータベース２３に記憶される情報は、上記の例に特に限定されず、言語情報とその出現頻度等に応じた値とが対応付けられたテーブルであれば、任意の内容であってもよい。また、言語モデルデータベース２３の言語モデルも、上記のＮ−ｇｒａｍ言語モデルに特に限定されず、他の言語モデルを用いてもよい。

言語モデルデータベース２３がＮ−ｇｒａｍ言語モデルのデータベースである場合、文脈依存性判定部１３は、文脈依存率ｐｃに応じて、言語モデルデータベース２３のＮ−ｇｒａｍ言語モデルのＮ（Ｎ−ｇｒａｍ値）をｉ（正の整数）に決定する。具体的には、例えば、文脈依存性判定部１３は、文脈依存率ｐｃを４つのクラスに分類し、０≦ｐｃ≦０．２５をクラス１、０．２５＜ｐｃ≦０．５をクラス２、０．５＜ｐｃ≦０．７５をクラス３、０．７５＜ｐｃ≦１をクラス４とし、Ｎ−ｇｒａｍのＮ（正の整数）として、クラス１ではＮ＝４、クラス２ではＮ＝５、クラス３ではＮ＝６、クラス４ではＮ＝７をそれぞれ決定する。

例えば、置き換え候補文字列の「話せません」の場合、文脈依存率ｐｃが０．２５となり、クラス１に属し、文脈依存性判定部１３は、言語モデルデータベース２３の識別対象領域として、クラス１相当のＮ−ｇｒａｍすなわちＮ＝４を決定する。なお、識別対象領域の判定基準は、上記の例に特に限定されず、種々の変更が可能であり、文脈依存率ｐｃを用いて識別対象領域を直接数式化したりしてもよい。例えば、Ｎ＝ｆｌｏｏｒ（ｋ−ｌｏｇ２（ｐｃ））（ここで、ｋは定数）とし、置き換え候補文字列の「話せません」の場合、文脈依存率ｐｃが０．２５となり、定数ｋ＝６とする場合、Ｎ＝４となる。

また、言語モデルデータベース２３はＮ−ｇｒａｍ言語モデルに限らず、その他の言語資源に基づくデータベースであってもよい。例えば、実数値やベクトル等の分散表現で記述された言語モデルであってもよく、任意の既存手法や既存データを組合せて構築することができる。いずれの場合も、識別対象領域としてデータベースを検索する範囲を任意の変数で定義し、その任意の変数を文脈依存率ｐｃに応じて決定することができる。

言語モデル照合部１４は、置き換え対象文（第１文）において置き換え対象部分（第１語句）が置き換え候補文字列（一以上の第２語句）に置き換えられた置き換え文（一以上の第２文）において、Ｎ−ｇｒａｍ値に相当する数の置き換え候補文字列（第２語句）を含んだ連続するＮ−ｇｒａｍ（一以上の第３語句）を抽出し、Ｎ−ｇｒａｍ（一以上の第３語句）について、言語モデルデータベース２３を算出する。

すなわち、言語モデル照合部１４は、文脈依存性判定部１３で判定された識別対象領域に対応した識別対象データを言語モデルデータベース２３から検索して抽出することにより、置き換え候補文字列との照合を行い、置き換え候補文字列に関連した、文節／単語／形態素等からなる言語情報と、その言語情報の出現頻度又は出現確率に応じた値とのペアデータを生成し、置き換え対象文とともに置き換え判定部１５に出力する。

具体的には、言語モデル照合部１４は、文脈依存性判定部１３から参照する識別対象領域の大きさとして与えられたＮの値を用い、言語モデルデータベース２３からＮ−ｇｒａｍ（例えば、置き換え候補文字列がクラス１に属する場合、４−ｇｒａｍ）の出現頻度又は出現確率を取得し、照合した置き換え候補文字列と、取得した出現頻度又は出現確率とを置き換え判定部１５に出力する。

置き換え判定部１５は、言語モデル照合部１４から得た、文節／単語／形態素等からなる言語情報と、その言語情報の出現頻度又は出現確率に応じた値とのペアデータを用いて、該当する置き換え候補文字列を置き換え対象文に適用するか又は棄却するかを決定し、この置き換え結果を置き換え対象文とともに置き換え結果出力部１６に出力する。

上記の決定方法の一例として、置き換え判定部１５は、算出された出現頻度が閾値以上であるか判定する。具体的には、ｊ番目（ｊは任意の整数）の言語情報の出現頻度の値をｎｊとし、所定の閾値をＴｈとしたときに、置き換え判定部１５は、すべてのｊに対して、ｎｊ＞Ｔｈで有れば、置き換え候補文字列を置き換え対象文に適用すると決定し、それ以外の場合には棄却すると決定する。

例えば、Ｎ−ｇｒａｍとして４−ｇｒａｍを用い、置き換え候補文字列の「話せません」に対して、言語情報と、その言語情報の出現頻度として、「は 英語 が 話せません」に対して「５１，５５０」が、「英語 が 話せません ので」に対して「１，７２０」が、「が 話せません ので 日本」に対して「５３０」が、「話せません ので 日本 語」に対して「３，２２０」がそれぞれ取得され、Ｔｈ＝５００の場合、ｊ＝１〜４のすべてに対して、出現頻度は閾値Ｔｈ以上となり、置き換え候補文字列の「話せません」は適用と判定される。

なお、置き換え候補文字列の置き換え対象文への適用又は棄却の決定方法としては、上記の例に特に限定されず、種々の変更が可能であり、ｎｊの分布に応じて適用又は棄却を決定したり（例えば、４−ｇｒａｍの出現頻度の下位３％を棄却したり）、ｎｊ＝０となるｊが存在するか否かに応じて適用又は棄却を決定したり、又は、ｎｊを用いた任意の式から算出される値に応じて適用又は棄却を決定したりしてもよい。

置き換え結果出力部１６は、算出された出現頻度が閾値以上であると判定された場合は、適用と判定された置き換え候補文字列によって生成された置き換え文（一以上の第２文）を置き換え対象文（第１文）の類似文として採用し、外部の機器に出力する。具体的には、置き換え結果出力部１６は、置き換え結果に基づき、置き換え対象文の置き換え対象部分を置き換え判定部１５で適用と判定された置き換え候補文字列に置き換え、適用と判定された置き換え候補文字列によって生成された置き換え文（置き換え後の文）を類似文として採用し、生成した類似文を外部の機器（図示省略）等に出力する。

また、置き換え対象文（第１文）は第１言語（例えば、日本語）で記述され、置き換え対象文（第１文）は、対訳コーパスに含まれ、対訳コーパスは第１言語で記述された文と第２言語（例えば、英語）で記述された対訳文との対を複数含み、置き換え結果出力部１６は、算出された出現頻度が閾値以上であると判定された場合は、適用と判定された置き換え候補文字列によって生成された置き換え文（一以上の第２文）を置き換え対象文（第１文）の類似文として対訳コーパスに追加するようにしてもよい。

なお、類似文生成装置１の構成は、上記のように、機能ごとに専用のハードウエアで構成する例に特に限定されず、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）及び補助記憶装置等を備える１台又は複数台のコンピュータ又はサーバ（情報処理装置）が、上記の処理を実行するための類似文生成プログラムをインストールし、類似文生成装置として機能するように構成してもよい。また、置き換え候補辞書２１、文脈依存率辞書２２及び言語モデルデータベース２３は、類似文生成装置１の内部に設ける例に特に限定されず、外部のサーバ等に置き換え候補辞書２１、文脈依存率辞書２２及び言語モデルデータベース２３を設け、所定のネットワークを介して類似文生成装置１が必要な情報を取得するようにしてもよい。この点については、他の実施の形態も同様である。

次に、上記のように構成された類似文生成装置１による類似文生成処理について、詳細に説明する。図５は、図１に示す類似文生成装置１による類似文生成処理の一例を示すフローチャートである。なお、以下の処理では、出現頻度を用いて置き換え候補文字列の適用／棄却の判定を行っているが、この例に特に限定されず、例えば、出現確率等を用いてもよい。この点については、他の実施の形態も同様である。

まず、ステップＳ１１において、置き換え対象文入力部１０は、ユーザによる置き換え対象文（原文）の入力を受け付け、入力された置き換え対象文を置き換え候補抽出部１１に出力する。

次に、ステップＳ１２において、置き換え候補抽出部１１は、置き換え対象文を文節／単語／形態素等の単位で分割し、分割された文節／単語／形態素等から置き換え対象部分を決定し、置き換え候補辞書２１から置き換え対象部分に対応付けて記憶されている置き換え候補文字列を抽出して置き換え対象文とともに文脈依存率照合部１２に出力する。

次に、ステップＳ１３において、文脈依存率照合部１２は、文脈依存率辞書２２を照合して、置き換え候補文字列の文脈依存率ｐｃを抽出して置き換え対象文とともに文脈依存性判定部１３に出力する。

次に、ステップＳ１４において、文脈依存性判定部１３は、置き換え候補文字列の文脈依存率ｐｃの値から、言語モデルデータベース２３のＮ−ｇｒａｍのＮを決定することにより、文脈依存性から参照する言語モデル長を決定し、決定したＮの値を置き換え対象文とともに言語モデル照合部１４に出力する。

例えば、置き換え対象文が「僕は英語が話せないので日本語でお願いします」であり、置き換え候補文字列が「話せません」であり、置き換え候補文が「僕は英語が話せませんので日本語でお願いします」である場合、文脈依存性判定部１３は、言語モデルデータベース２３のＮ−ｇｒａｍのＮとして、Ｎ＝４を決定する。

次に、ステップＳ１５において、言語モデル照合部１４は、文脈依存性判定部１３から参照する識別対象領域の大きさとして与えられたＮの値を用い、言語モデルデータベース２３からＮ−ｇｒａｍの出現頻度を取得し、照合した置き換え候補文字列と、取得した出現頻度とを置き換え対象文とともに置き換え判定部１５に出力する。

例えば、上記の置き換え対象文の「話せない」を「話せません」に置き換える場合、言語モデル照合部１４は、置き換えを行った文節「話せません」を含む周囲４−ｇｒａｍ（例えば、「は 英語 が 話せません」、「英語 が 話せません ので」、「が 話せません ので 日本」、「話せません ので 日本 語」）を生成し、言語モデルデータベース２３と照合し、各４−ｇｒａｍの出現頻度（例えば、「は 英語 が 話せません」の５１，５５０、「英語 が 話せません ので」の１，７２０、「が 話せません ので 日本」の５３０、「話せません ので 日本 語」の３，２２０）を得る。

次に、ステップＳ１６において、置き換え判定部１５は、言語モデル照合部１４から置き換え候補文字列を含むＮ−ｇｒａｍと、その出現頻度とを取得し、置き換え候補文字列のスコアを算出する。

次に、ステップＳ１７において、置き換え判定部１５は、置き換え候補文字列のスコア（出現頻度）が所定の閾値Ｔｈ以上であるか否かを判定することにより、置き換え候補文字列を置き換え対象文に適用するか又は棄却するかを判定し、この判定結果を置き換え対象文とともに置き換え結果出力部１６に出力する。

ステップＳ１７において置き換え候補文字列のスコア（出現頻度）が所定の閾値Ｔｈ未満であると判定された場合、ステップＳ２０において、置き換え結果出力部１６は、置き換え候補文字列を棄却して処理を終了する。

一方、ステップＳ１７において置き換え候補文字列のスコア（出現頻度）が所定の閾値Ｔｈ以上であると判定された場合、ステップＳ１８において、置き換え結果出力部１６は、置き換え候補文字列を置き換え対象文の置き換え対象部分に適用し、置き換え対象文の置き換え対象部分を置き換え候補文字列に置き換えた置き換え文を作成する。

次に、ステップＳ１９において、置き換え結果出力部１６は、適用と判定された置き換え候補文字列によって生成された置き換え文を類似文として出力して処理を終了する。

上記の処理により、本実施の形態では、文脈依存率ｐｃに応じてＮ−ｇｒａｍ言語モデルのＮを決定し、文脈依存率ｐｃが大きいほどＮを大きく、文脈依存率ｐｃが小さいほどＮを小さく設定している。また、決定されたＮを用いて、言語モデルデータベース２３を照合することにより、置き換え候補文字列を含むＮ−ｇｒａｍの出現頻度を求め、求めた出現頻度に基づいて、置き換え候補文字列によって生成された置き換え文を類似文として採用するか否かを判定しているので、広い識別対象領域を用いて、文脈依存率ｐｃが大きい置き換え候補文字列を含むｉ−ｇｒａｍの出現頻度を高精度に求めることができるとともに、狭い識別対象領域を用いて、文脈依存率ｐｃが小さい置き換え候補文字列を含むＮ−ｇｒａｍの出現頻度を低コストで且つ高精度に求めることができる。この結果、言語モデルデータベース２３に対する探索コストを低減できるとともに、類似文の識別を高精度に行うことができる。

（実施の形態２）
図６は、本開示の実施の形態２における類似文生成システムの構成の一例を示すブロック図である。図６に示す類似文生成システムは、類似文生成装置１ａと、翻訳装置２とを備える。

類似文生成装置１ａは、置き換え対象文入力部１０ａ、置き換え候補抽出部１１、文脈依存率照合部１２、文脈依存性判定部１３、言語モデル照合部１４、置き換え判定部１５、置き換え結果出力部１６、データ更新部１７、置き換え候補辞書２１、文脈依存率辞書２２、及び言語モデルデータベース２３を備える。翻訳装置２は、対訳コーパス生成部３１、翻訳モデル生成部３２、被翻訳文入力部３３、機械翻訳部３４、翻訳結果文出力部３５、翻訳結果評価部３６、及びフィードバックデータ生成部３７を備える。

類似文生成装置１ａは、置き換え対象文（原文）から類似文を生成し、採用すると判定した類似文等を翻訳装置２に出力する。翻訳装置２は、類似文生成装置１ａにより採用すると判定された類似文と、当該類似文を生成した原文を所定の言語で翻訳した翻訳文とを基に生成された翻訳モデルを用いて、任意の翻訳対象文を翻訳して翻訳結果文を作成し、作成した翻訳結果文の評価結果に基づき、翻訳対象文の言語及び翻訳結果文の言語のうち少なくとも一方に関する言語情報と、この言語情報に対する評価情報とを含むフィードバック情報を生成して類似文生成装置１ａにフィードバックする。類似文生成装置１ａは、フィードバック情報に基づき、置き換え候補辞書２１、文脈依存率辞書２２及び言語モデルデータベース２３のうち少なくとも一つのデータを更新する。

ここで、図６に示す類似文生成装置１ａが図１に示す類似文生成装置１と異なる点は、置き換え候補辞書２１、文脈依存率辞書２２及び言語モデルデータベース２３のデータを更新するデータ更新部１７が追加され、置き換え対象文入力部１０ａが置き換え対象文の入力に加えて、入力された置き換え対象文（原文）の翻訳文を翻訳装置２に出力する点であり、その他の点は同様であるので、同一部分には同一符号を付して、詳細な説明は省略する。

置き換え対象文入力部１０ａは、ユーザによる所定の操作入力を受け付け、ユーザが入力した置き換え対象文を置き換え候補抽出部１１に出力し、その後の置き換え対象文に対する置き換え候補抽出部１１から置き換え結果出力部１６までの処理は、図１に示す置き換え候補抽出部１１から置き換え結果出力部１６までの処理と同様であり、置き換え結果出力部１６は、置き換え判定部１５で適用と判定された置き換え候補文字列によって生成された置き換え文（類似文）を対訳コーパス生成部３１に出力する。

また、置き換え対象文入力部１０ａは、ユーザによる所定の操作入力を受け付け、ユーザが入力した、置き換え文を生成した原文を所定の言語で翻訳した翻訳文、すなわち、置き換え対象文の翻訳文（原文に対応する対訳文）を対訳コーパス生成部３１に出力する。例えば、上記の置き換え文が日本語（原言語文）で作成され、翻訳装置２が日英翻訳を行う場合、上記の翻訳文は英語（目的言語文）で作成されている。なお、原言語文及び目的言語文は、上記の例に特に限定されず、類似文生成装置１ａが英語の類似文を生成する場合、英語を原言語文、日本語を目的言語文としてもよく、また、中国語、韓国語、フランス語、ドイツ語、イタリア語、ポルトガル語等の他の言語であってもよい。

対訳コーパス生成部３１は、置き換え結果出力部１６から出力された置き換え文と、置き換え対象文入力部１０ａから出力された置き換え対象文の翻訳文とを関連付け、新たな対訳コーパスを生成して翻訳モデル生成部３２に出力する。なお、対訳コーパスの生成方法としては、上記の例に特に限定されず、既に作成している対訳コーパスに新たな対訳コーパスを追加してもよく、公知の種々の方法を用いることができる。

翻訳モデル生成部３２は、対訳コーパス生成部３１で生成された新たな対訳コーパスを用いて、所定の学習により翻訳モデルを生成して機械翻訳部３４に出力する。なお、翻訳モデルの生成方法としては、公知の種々の方法を用いることができるので、詳細な説明は省略する。

被翻訳文入力部３３は、ユーザによる所定の操作入力を受け付け、ユーザが入力した翻訳対象文（原言語文）を機械翻訳部３４に出力する。機械翻訳部３４は、翻訳モデル生成部３２により生成された翻訳モデルを用いて、翻訳対象文を翻訳し、翻訳結果文（目的言語文）を翻訳対象文とともに翻訳結果文出力部３５に出力する。翻訳結果文出力部３５は、翻訳結果として、翻訳結果文を翻訳対象文とともに翻訳結果評価部３６に出力する。

翻訳結果評価部３６は、翻訳結果文出力部３５から出力された翻訳結果文（目的言語文）の翻訳精度及び品質に対して評価を行う。ここで、翻訳結果評価部３６の評価方法としては、機械的な数値指標によって評価を行ってもよく、また、人手による評価結果を翻訳結果評価部３６に入力するようにしてもよい。翻訳結果評価部３６は、評価結果として、評価値又は評価カテゴリなどの評価情報を翻訳結果文（目的言語文）及び／又は翻訳対象文（原言語文）と関連付けてフィードバックデータ生成部３７に出力する。

フィードバックデータ生成部３７は、翻訳結果評価部３６より出力された評価結果を基に、フィードバック情報として、類似文生成装置１ａにフィードバックするフィードバックデータを生成してデータ更新部１７に出力する。ここで、フィードバックデータは、原言語及び／又は目的言語側の任意の言語情報と、当該言語情報に関する値又は状態の評価情報とのペアデータである。このフィードバックデータとしては、種々のデータを用いることができ、以下のデータを用いることができる。

例えば、翻訳結果が悪かった場合に、ユーザ又は所定の翻訳結果文修正装置により翻訳結果文（目的言語文）を修正し、より良い翻訳文を入力することにより、入力された翻訳文と元の翻訳対象文（原言語文）とのペアの言語情報と、翻訳結果の状態（悪い）の評価情報とのペアデータをフィードバックデータとしてもよい。

また、ユーザ又は所定の翻訳対象文修正装置により翻訳対象文（原言語文）を修正し、同趣旨で異なる表現の翻訳対象文を入力することにより、より良い翻訳結果文を取得できた場合に、元の翻訳対象文（原言語文）と翻訳結果の良かった翻訳対象文（原言語文）とのペアの言語情報と、翻訳結果の状態（良い／悪いの２値）の評価情報とのペアデータをフィードバックデータとしてもよい。

また、対訳コーパスの中から翻訳対象文（原言語文）に近い文を一又は複数抽出し、ユーザ又は所定の翻訳文評価装置により原言語として破綻していないかどうかの評価値（例えば、良い／悪いの２値）を求め、抽出された原言語文に近い文に対して評価値を付与し、この評価値と、原言語文に近い文を示す言語情報とのペアデータをフィードバックデータとしてもよい。

また、機械翻訳部３４により複数の翻訳結果文を作成し、その中からより適切な翻訳結果文をユーザ又は所定の翻訳文評価装置により選択し、選択された翻訳結果文と、選択されなかった翻訳結果文とのペアの言語情報と、これらの翻訳結果文の選択結果を示す評価情報とのペアデータをフィードバックデータとしてもよい。

データ更新部１７は、フィードバックデータ生成部３７が生成したフィードバックデータ（言語情報と当該言語情報に関する値又は状態の評価情報とのペアデータ）に基づき、置き換え候補辞書２１、文脈依存率辞書２２及び言語モデルデータベース２３のうち少なくとも一つのデータベース内容を更新する。

また、データ更新部１７は、フィードバックデータが文脈依存性を有する置き換え候補文字列を含む場合、文脈依存率辞書２２及び言語モデルデータベース２３を更新する。また、データ更新部１７は、フィードバックデータが新しい文表現を含む場合、この文表現に応じて文脈依存率辞書２２の文脈依存率の値を変化させ、また、新しい文表現を含むように言語モデルデータベース２３のＮ−ｇｒａｍを部分構築し、言語モデルデータベース２３を更新する。

また、データ更新部１７は、言語情報に原言語側の情報が含まれており、当該の言語情報内に、置き換え候補辞書２１、文脈依存率辞書２２又は言語モデルデータベース２３に登録されている情報が含まれている場合、対応するフィードバックデータの値又は状態の評価情報に応じて、置き換え候補辞書２１、文脈依存率辞書２２又は言語モデルデータベース２３の対応する情報を更新したり、追加したり、削除したりする。

例えば、ｐｏｓｉｔｉｖｅな（肯定的な）値又は状態の評価情報を持つ原言語側の言語情報がフィードバックされた場合、データ更新部１７は、出現頻度に所定の重みを加えて出現頻度の値を増加させる等により、言語モデルデータベース２３の当該言語情報を含む値をｐｏｓｉｔｉｖｅ方向に変化させる。一方、ｎｅｇａｔｉｖｅな（否定的な）値又は状態の評価情報を持つ原言語側の言語情報がフィードバックされた場合、データ更新部１７は、文脈に依存する割合が高くなる方向に文脈依存率を更新する等により、文脈依存率辞書２２の当該言語情報を含む値をｎｅｇａｔｉｖｅ方向に変化させる。

また、翻訳結果の悪かった元の翻訳対象文（原言語文）及び翻訳結果の良かった翻訳対象文（原言語文）の言語情報と、それぞれの翻訳結果状態（悪い／良い）の評価情報とのペアデータをフィードバックされ、悪い状態の元の翻訳対象文に対する良い状態に対応する翻訳対象文の差分が置き換え候補辞書２１に登録されていない場合、データ更新部１７は、良い状態に対応する差分を置き換え候補辞書２１に登録する。

また、翻訳結果の悪かった翻訳対象文（原言語文）の言語情報と、翻訳結果状態（悪い）の評価情報とのペアデータをフィードバックされた場合、データ更新部１７は、翻訳結果の悪かった翻訳対象文の置き換え候補文字列を置き換え候補辞書２１から削除する。

なお、類似文生成装置１ａ及び翻訳装置２の構成は、上記のように、機能ごとに専用のハードウエアで構成する例に特に限定されず、ＣＰＵ、ＲＯＭ、ＲＡＭ及び補助記憶装置等を備える１台又は複数台のコンピュータ又はサーバ（情報処理装置）が、上記の処理を実行するためのプログラムをインストールし、類似文生成装置又は翻訳装置として機能するように構成してもよい。

次に、上記のように構成された類似文生成システムによるフィードバックデータ更新処理を含む類似文生成処理について、詳細に説明する。図７は、図６に示す類似文生成システムのフィードバックデータ更新処理を含む類似文生成処理の一例を示すフローチャートである。なお、図７に示す処理のうち、図５に示す処理と同一の処理には同一符号を付して、詳細な説明は省略する。

まず、類似文生成装置１ａによる類似文生成処理として、ステップＳ１１ａにおいて、置き換え対象文入力部１０ａは、ユーザによる原文に対応する対訳文及び置き換え対象文の入力を受け付け、対訳文を対訳コーパス生成部３１に出力し、置き換え対象文を置き換え候補抽出部１１に出力する。なお、対訳文を対訳コーパス生成部３１に出力するタイミングは、上記の例に特に限定されず、ステップＳ１７の処理時に、置き換え対象文入力部１０ａが対訳文を対訳コーパス生成部３１に出力するようにしてもよい。

次に、ステップＳ１２〜Ｓ１７において、図５に示すステップＳ１２〜Ｓ１７と同様の処理が実行され、ステップＳ１７において置き換え候補文字列のスコア（出現頻度）が所定の閾値Ｔｈ未満であると判定された場合、ステップＳ２０において、置き換え結果出力部１６は、置き換え候補文字列を棄却して処理を終了する。

一方、ステップＳ１７において置き換え候補文字列のスコア（出現頻度）が所定の閾値Ｔｈ以上であると判定された場合、ステップＳ１８において、図５に示すステップＳ１８と同様の処理が実行された後、ステップＳ１９において、置き換え結果出力部１６は、置き換え判定部１５で適用と判定された置き換え候補文字列によって生成された置き換え文（置き換わり文）を対訳コーパス生成部３１に出力し、類似文生成装置１ａによる類似文生成処理が終了する。

次に、翻訳装置２及び類似文生成装置１ａによるフィードバックデータ更新処理として、ステップＳ２１において、対訳コーパス生成部３１は、置き換え結果出力部１６から出力された置き換え文と、置き換え対象文入力部１０ａから出力された対訳文とを関連付け、新たな対訳コーパスを生成して翻訳モデル生成部３２に出力する。

次に、ステップＳ２２において、翻訳モデル生成部３２は、対訳コーパス生成部３１で生成された新たな対訳コーパスを用いて、翻訳モデルを学習により生成して機械翻訳部３４に出力する。

次に、ステップＳ２３において、被翻訳文入力部３３は、ユーザによる翻訳対象文の入力を受け付け、ユーザが翻訳を希望する任意の翻訳対象文を機械翻訳部３４に出力する。

次に、ステップＳ２４において、機械翻訳部３４は、翻訳モデル生成部３２が生成した翻訳モデルにより、翻訳対象文を翻訳結果文に翻訳し、翻訳結果文を翻訳対象文とともに翻訳結果文出力部３５に出力する。

次に、ステップＳ２５において、翻訳結果文出力部３５は、翻訳結果文を翻訳対象文とともに翻訳結果評価部３６に出力する。

次に、ステップＳ２６において、翻訳結果評価部３６は、翻訳結果文出力部３５から出力された翻訳結果文の翻訳精度及び品質に対して評価を行い、評価結果として、評価値又は評価カテゴリなどの情報を翻訳結果文と関連付けてフィードバックデータ生成部３７に出力する。

次に、ステップＳ２７において、フィードバックデータ生成部３７は、翻訳結果評価部３６より出力された評価結果からフィードバックデータを生成してデータ更新部１７に出力する。

最後に、ステップＳ２８において、データ更新部１７は、フィードバックデータ生成部３７が生成したフィードバックデータに基づき、置き換え候補辞書２１、文脈依存率辞書２２及び言語モデルデータベース２３のうち少なくとも一つのデータベース内容を更新し、フィードバックデータ更新処理を終了する。

上記の処理により、本実施の形態では、採用すると判定された置き換え文と、原文に対する対訳文とを基に生成された翻訳モデルを用いて、所定の翻訳対象文を翻訳した翻訳結果文を評価し、この評価結果に基づき、翻訳対象文の言語及び／又は翻訳結果文の言語に関する言語情報と、この言語情報に対する評価情報とを含むフィードバック情報を生成しているので、文脈依存性を考慮した事例を類似文生成装置１ａに学習及び反映するためのフィードバックデータを自律的に生成することができる。

また、本実施の形態では、言語情報と評価情報とを含むフィードバックデータを用いて、置き換え候補辞書２１、文脈依存率辞書２２及び言語モデルデータベース２３を更新しているので、文脈依存性を考慮した事例を置き換え候補辞書２１、文脈依存率辞書２２及び言語モデルデータベース２３に反映することができ、更新前の置き換え候補辞書２１、文脈依存率辞書２２及び言語モデルデータベース２３に存在しない新しい文表現にも対応できる高効率で且つ自律的な類似文の識別を行うことができる。

本開示は、言語モデルのデータベースに対する探索コストを低減できるとともに、類似文の識別を高精度に行うことができるので、原文から類似文を生成する類似文生成方法、類似文生成プログラム、類似文生成装置、及び該類似文生成装置を備える類似文生成システムに有用である。

１、１ａ 類似文生成装置
２ 翻訳装置
１０、１０ａ 置き換え対象文入力部
１１ 置き換え候補抽出部
１２ 文脈依存率照合部
１３ 文脈依存性判定部
１４ 言語モデル照合部
１５ 置き換え判定部
１６ 置き換え結果出力部
１７ データ更新部
２１ 置き換え候補辞書
２２ 文脈依存率辞書
２３ 言語モデルデータベース
３１ 対訳コーパス生成部
３２ 翻訳モデル生成部
３３ 被翻訳文入力部
３４ 機械翻訳部
３５ 翻訳結果文出力部
３６ 翻訳結果評価部
３７ フィードバックデータ生成部

Claims (11)

1. 原文から類似文を生成する方法であって、
   第１文を入力し、
   前記第１文を構成する複数の語句のうち第１語句と同じ意味を持つ一以上の第２語句を第１データベースから抽出し、前記第１データベースは語句と前記第１データベースに含まれた語句の類義語とを対応づけ、
   第２データベースに基づいて得られた前記一以上の第２語句に対応する文脈依存値に基づいてＮ−ｇｒａｍ値を算出し、前記第２データベースは語句と前記第２データベースに含まれた語句に対応する前記文脈依存値とを対応づけ、前記文脈依存値は、前記第２データベースに含まれた語句が示す意味が文脈に依存する程度を示し、
   前記第１文において前記第１語句が前記一以上の第２語句に置き換えられた一以上の第２文において、前記Ｎ−ｇｒａｍ値に相当する数の前記第２語句を含んだ連続する一以上の第３語句を抽出し、
   前記一以上の第３語句について、第３データベースにおける出現頻度を算出し、前記第３データベースは語句と前記第３データベースに含まれる語句の前記第３データベースにおける出現頻度とを対応づけ、
   前記算出された出現頻度が閾値以上であるか判定し、
   前記算出された出現頻度が前記閾値以上であると判定された場合は、前記一以上の第２文を前記第１文の類似文として採用し、外部の機器に出力する、
   方法。
2. 前記第１文は第１言語で記述され、
   前記第１文は対訳コーパスに含まれ、前記対訳コーパスは第１言語で記述された文と第２言語で記述された対訳文との対を複数含み、
   前記算出された出現頻度が前記閾値以上であると判定された場合は、前記一以上の第２文を前記第１文の類似文として前記対訳コーパスに追加する、
   請求項１記載の方法。
3. 前記第３データベースは、Ｎ−ｇｒａｍ言語モデルのデータベースを含み、
   前記文脈依存値に応じて、前記Ｎ−ｇｒａｍ言語モデルのＮをｉ（正の整数）に決定し、
   前記第３データベースを照合することにより、前記第２語句を含むｉ−ｇｒａｍの出現頻度を求め、
   前記第２語句を含むｉ−ｇｒａｍの出現頻度に基づいて、前記一以上の第２文を前記第１文の類似文として採用するか否かを判定する、
   請求項１又は２記載の方法。
4. 前記第１文の類似文として採用すると判定された前記一以上の第２文と、前記一以上の第２文を生成した前記第１文を第２言語で翻訳した翻訳文とを基に生成された翻訳モデルを用いて、所定の翻訳対象文を翻訳して翻訳結果文を作成し、
   前記翻訳結果文を評価し、
   前記翻訳結果文の評価結果に基づいて、前記翻訳対象文の言語及び／又は前記翻訳結果文の言語に関する言語情報と、前記言語情報に対する評価情報とを含むフィードバック情報を生成する、
   請求項１〜３のいずれかに記載の方法。
5. 前記第１データベース、前記第２データベース及び前記第３データベースのうち少なくとも一つを、前記フィードバック情報を用いて更新する、
   請求項４記載の方法。
6. 前記フィードバック情報が文脈依存性を有する前記第２語句を含む場合、前記第２データベース及び前記第３データベースを更新する、
   請求項４記載の方法。
7. 前記フィードバック情報が新しい文表現を含む場合、前記文表現に応じて前記第２データベースの文脈依存値を変化させる、
   請求項４記載の方法。
8. 前記フィードバック情報が新しい文表現を含む場合、前記文表現を含むように前記第３データベースを更新する、
   請求項４記載の方法。
9. 原文から類似文を生成する装置として、コンピュータを機能させるためのプログラムであって、
   前記コンピュータに、
   第１文を入力し、
   前記第１文を構成する複数の語句のうち第１語句と同じ意味を持つ一以上の第２語句を第１データベースから抽出し、前記第１データベースは語句と前記第１データベースに含まれた語句の類義語とを対応づけ、
   第２データベースに基づいて得られた前記一以上の第２語句に対応する文脈依存値に基づいてＮ−ｇｒａｍ値を算出し、前記第２データベースは語句と前記第２データベースに含まれた語句に対応する前記文脈依存値とを対応づけ、前記文脈依存値は、前記第２データベースに含まれた語句が示す意味が文脈に依存する程度を示し、
   前記第１文において前記第１語句が前記一以上の第２語句に置き換えられた一以上の第２文において、前記Ｎ−ｇｒａｍ値に相当する数の前記第２語句を含んだ連続する一以上の第３語句を抽出し、
   前記一以上の第３語句について、第３データベースにおける出現頻度を算出し、前記第３データベースは語句と前記第３データベースに含まれる語句の前記第３データベースにおける出現頻度とを対応づけ、
   前記算出された出現頻度が閾値以上であるか判定し、
   前記算出された出現頻度が前記閾値以上であると判定された場合は、前記一以上の第２文を前記第１文の類似文として採用し、外部の機器に出力する、
   処理を実行させるプログラム。
10. 原文から類似文を生成する装置であって、
    第１文を入力される入力部と、
    前記第１文を構成する複数の語句のうち第１語句と同じ意味を持つ一以上の第２語句を第１データベースから抽出する第２語句抽出部と、前記第１データベースは語句と前記第１データベースに含まれた語句の類義語とを対応づけ、
    第２データベースに基づいて得られた前記一以上の第２語句に対応する文脈依存値に基づいてＮ−ｇｒａｍ値を算出する算出部と、前記第２データベースは語句と前記第２データベースに含まれた語句に対応する前記文脈依存値とを対応づけ、前記文脈依存値は、前記第２データベースに含まれた語句が示す意味が文脈に依存する程度を示し、
    前記第１文において前記第１語句が前記一以上の第２語句に置き換えられた一以上の第２文において、前記Ｎ−ｇｒａｍ値に相当する数の前記第２語句を含んだ連続する一以上の第３語句を抽出する第３語句抽出部と、
    前記一以上の第３語句について、第３データベースにおける出現頻度を算出する算出部と、前記第３データベースは語句と前記第３データベースに含まれる語句の前記第３データベースにおける出現頻度とを対応づけ、
    前記算出された出現頻度が閾値以上であるか判定する判定部と、
    前記算出された出現頻度が前記閾値以上であると判定された場合は、前記一以上の第２文を前記第１文の類似文として採用し、外部の機器に出力する出力部とを備える、
    装置。
11. 原文から類似文を生成するシステムであって、
    請求項１０記載の装置と、
    前記装置により前記第１文の類似文として採用すると判定された前記一以上の第２文と、前記一以上の第２文を生成した前記第１文を第２言語で翻訳した翻訳文とを基に生成された翻訳モデルを用いて、所定の翻訳対象文を翻訳して翻訳結果文を作成する翻訳部と、
    前記翻訳部により作成された前記翻訳結果文を評価する評価部と、
    前記評価部の評価結果に基づいて、前記翻訳対象文の言語及び／又は前記翻訳結果文の言語に関する言語情報と、前記言語情報に対する評価情報とを含むフィードバック情報を生成する生成部とを備える、
    システム。

Images