JPH11203311A - 関連語抽出装置および関連語抽出方法および関連語抽出プログラムが記録されたコンピュータ読取可能な記録媒体 - Google Patents

Abstract

(57)【要約】 【課題】 関連語抽出装置において、相互情報量を用い
ることにより、形態素解析また構文解析の処理を施すこ
となく、利用者にとって分かり易く、かつ、精度を高く
して関連語を抽出する事ができるようにする。 【解決手段】 テキストデータ上において、指定された
単語の前に出現する前出現単語または指定された単語の
後に出現する後出現単語を抽出する前後出現単語抽出部
２１と、頻度を計算しうる頻度計算部２２と、出現確立
を計算しうる出現確立計算部２３と、共起確立を計算す
る共起確立計算部２４と、出現順序に依存する関連度を
計算する順序依存型単語関連度計算部２５と、順序依存
型単語関連度計算部からの関連度情報に基づいて出現順
序に依存しない関連度を計算する順序無依存型単語関連
度計算部２６と、順序無依存型単語関連度計算部にて計
算された関連度情報に基づいて、指定された単語に関連
する単語群をテキストデータから抽出する単語群抽出部
２７とをそなえるように構成する。

Description

【発明の詳細な説明】

【０００１】（目次） 発明の属する技術分野 従来の技術 発明が解決しようとする課題 課題を解決するための手段 発明の実施の形態（図１〜図３０） 発明の効果

【０００２】

【発明の属する技術分野】本発明は、大容量文書情報か
ら関連語の抽出に用いて好適な関連語抽出装置および関
連語抽出方法および関連語抽出プログラムが記録された
コンピュータ読取可能な記録媒体に関するものである。

【０００３】

【従来の技術】従来、文書情報から関連語を抽出するに
際して、最もよく行なわれていることとして、人手で、
文書情報から関連語と判断し得るものを抜粋して、関連
語のリストを作成する手法が行なわれる他、人手で作っ
たシソーラスを利用して関連語のリストを作成する手法
も行なわれている。

【０００４】一方、人手の作業とせずに、計算機を使っ
て自動で抽出する方法では、以下に述べる関連語のリス
トを作成する手法が案出されている。その一の手法は、
関連語としての二つの単語において、その二つの単語
が、共起する頻度、すなわち二つの単語が共に文書情報
の中で出現する頻度を基本として関連語のリストを作成
するものである。共起と見做す範囲には、数単語以内
や、数十単語以内，１分内，１段落内などさまざまなも
のがある。

【０００５】単純に共起する頻度を集計して、その頻度
が高いものから関連語と判断する以外にも、以下に述べ
る手法がとられている。事前にキーワードである単語の
集合（単語群）を決めておき、その単語群に属する単語
間において、共起する頻度を集計することにより、関連
語のリストを作成する技術が案出されている。

【０００６】関連語のリストを作成するドキュメント
（文書）に対して、形態素解析を行なうことで単語の品
詞を決め、機能語を取り除いたり或いは自立語のみにつ
いてだけ共起する頻度を集計することにより、関連語の
リストを作成する技術が案出されている。ドキュメント
中、指定する単語と共起する単語の頻度を基本として、
頻度の高い関連語と頻度の低い関連語のものを関連語の
リスト作成において除外することにより、関連語のリス
トを作成する技術が案出されている。

【０００７】構文解析等を行ない、重要な関係を持つ単
語間についてのみ共起する頻度を集計して、関連語のリ
ストを作成する技術が案出されている。共起する頻度を
そのまま関連語と判断する基準とする以外に、相互情報
量と呼ばれる値を使う技術（以下，「技術Ａ」と言
う。）も案出されている。ここで、相互情報量(mutual
information,伝達情報量, transferred information)と
は、事象ｘの生起を知ることにより伝えられる情報量
と、他の事象ｙが生起したという条件下で事象ｘの生起
を知ることにより伝えられる条件付き情報量との差を言
い，数学的には、xi，yiの入力通報がxi，出力通報がyi
である事象の組をいう。ここで、p(xi,yi)を事象xiとyi
の生起する結合確率，p(xi｜yi) を事象yiが生起したと
いう条件下で事象xiの生起する確率，p(yi｜xi) を事象
xiが生起したという条件下で事象yiの生起する確率，p
(xi) を事象xiの生起する確率，p(yi) を事象yiの生起
確率とするとき、事象の組xi,yi に対する相互情報量
（伝達情報量）T(xi｜yi) は、下記の数式（１）に示す
式で与えられる。

【０００８】

【数１】

【０００９】数式（１）により与えられる式を用いて相
互情報量T(xi｜yi) を算出することで、指定された単語
xiとそれに対するyiとの関連度を相互情報量により算出
し、その算出した値を用いて、関連語のリストを作成す
ることも考えられる。

【００１０】

【発明が解決しようとする課題】しかし、人手で、関連
語のリストを作成するものでは、手間がかかり作成コス
トが高いばかりでなく、新しい言葉に対応するためには
その都度作成しなければならないという課題がある。一
方、計算機を使う方法でも、事前にキーワードを決める
方法では事前にキーワードを決める作業が必要となると
いう課題がある。

【００１１】また、機能語を削除したり、自立語のみを
取り出す方法では、形態素解析などの技術を使って品詞
の情報等を得ることが必要であるという課題がある。高
頻度である関連語と低頻度である関連語を除く方法で
は、頻度がいくつ以上のものを除外するか、いくつ以下
のものを除外するかを決定するのが容易ではないとうい
う課題がある。

【００１２】構文解析を必要とするものは、構文解析を
行なうことによりその分だけ手間がかかるという課題が
ある。形態素解析や構文解析を前提とする場合には、そ
れらの性能も十分高くなくてはならず、また十分な性能
を得ようとすれば絶えず辞書や文法の整備が必要となる
という課題がある。

【００１３】前記した数式（１）に示すの相互情報量T
(xi｜ yi) の式を用いて関連語のリストを作成する技術
Ａでは、事前に関連語検索の対象となる事項を予め決め
ておくことや、形態素解析の処理は必ずしも必要ではな
いが、単語の出現順序に依存しているため、出現順序に
依存した関連語のリストを作成するに留まり、利用者が
この相互情報量を作成した関連語のリストを理解するに
も分かり難いという課題がある。

【００１４】本発明は、上記課題を解決するために創案
されたもので、相互情報量を用いることにより、形態素
解析また構文解析の処理を施すことなく、利用者にとっ
て分かり易く、かつ、精度を高くして関連語を抽出でき
るようにした、関連語抽出装置および関連語抽出方法並
びに関連度抽出方法および関連語抽出プログラムが記録
されたコンピュータ読取可能な記録媒体を提供すること
を目的とする。

【００１５】

【課題を解決するための手段】上記課題を解決する本発
明の関連語抽出装置は、テキストデータ上において、指
定された単語の前に出現する前出現単語または指定され
た単語の後に出現する後出現単語を抽出する前後出現単
語抽出部と、指定された単語がテキストデータ上で出現
する頻度，前出現単語または後出現単語がテキストデー
タ上で出現する頻度および前後出現単語抽出部にて抽出
された前出現単語および後出現単語の頻度を計算しうる
頻度計算部と、頻度計算部からの指定された単語の頻度
情報および前出現単語および後出現単語のテキストデー
タ上での出現頻度情報に基づいて、指定された単語の出
現確率とともに前出現単語および後出現単語それぞれの
出現確率を計算しうる出現確率計算部と、頻度計算部か
らの、前後出現単語抽出部にて抽出された前出現単語お
よび後出現単語の頻度情報に基づいて、前出現単語およ
び後出現単語のそれぞれが指定された単語と共起する共
起確率を計算する共起確率計算部と、出現確率計算部か
らの各出現確率情報と、共起確率計算部からの各共起確
率情報とに基づいて、指定された単語に対する前出現単
語および後出現単語の、出現順序に依存する関連度を計
算する順序依存型単語関連度計算部と、順序依存型単語
関連度計算部からの関連度情報に基づいて、指定された
単語に対する前出現単語および後出現単語の、出現順序
に依存しない関連度を計算する順序無依存型単語関連度
計算部と、順序無依存型単語関連度計算部にて計算され
た関連度情報に基づいて、指定された単語に関連する単
語群をテキストデータから抽出する単語群抽出部とをそ
なえて構成されたことを特徴としている（請求項１）。

【００１６】さらに、本発明の関連語抽出装置は、指定
された単語に関する各種計算結果および抽出結果のうち
の少なくとも一つを記憶しておく記憶部をそなえて構成
されたことを特徴としている（請求項２）。または、本
発明の関連語抽出装置は、テキストデータについて単語
または形態素の単位に分割する単語分割部をそなえ、単
語分割部にて分割された結果を用いることにより、前後
出現単語抽出部および頻度計算部における処理を行なう
ように構成されたことを特徴としている（請求項３）。

【００１７】また、本発明の関連語抽出装置は、単語群
抽出部から、指定された単語としての少なくとも２つの
単語それぞれに関連する単語群の抽出結果を用いること
により、少なくとも２つの単語間の類似度を計算する類
似度計算部をそなえて構成されたことを特徴としている
（請求項４）。あるいは、本発明の関連語抽出装置は、
単語群抽出部から、指定された単語としての少なくとも
２つの単語それぞれに関連する単語群の抽出結果を用い
ることにより、各単語の全てに関連する単語群を抽出す
る関連単語群抽出部をそなえて構成されたことを特徴と
している（請求項５）。

【００１８】若しくは、本発明の関連語抽出装置は、指
定された単語に対して同義と見做しうる単語を判定する
ための同義語辞書部をそなえ、同義語辞書部からの情報
に基づき指定された単語と同義と見做された単語につい
ては、指定された単語と一つにまとめるように構成され
たことを特徴としている（請求項６）。一方、上記の課
題を解決する本発明の関連語抽出方法は、ある単語に関
連する関連語としての単語群をテキストデータから抽出
する関連語抽出方法において、関連語を抽出すべき対象
となる単語を指定する対象単語指定ステップと、テキス
トデータ上において、指定された単語の前に出現する前
出現単語および後に出現する後出現単語を抽出する前後
出現単語抽出ステップと、前後出現単語抽出ステップに
て抽出された前出現単語および後出現単語のそれぞれ
が、対象単語指定ステップにて指定された単語と共起す
る共起確率を計算する共起確率計算ステップと、対象単
語指定ステップにて指定された単語の出現確率ととも
に、前後出現単語抽出ステップにて抽出された前出現単
語および後出現単語それぞれの出現確率を計算する出現
確率計算ステップと、共起確率計算ステップにて計算さ
れた各共起確率情報および出現確率計算ステップにて計
算された各出現確率情報に基づいて、指定された単語に
対する前出現単語および後出現単語の、出現順序に依存
する関連度を計算する順序依存型単語関連度計算ステッ
プと、順序依存型単語関連度計算ステップにて計算され
た関連度情報に基づいて、指定された単語に対する前出
現単語および後出現単語の、出現順序に依存しない関連
度を計算する順序無依存型単語関連度計算ステップと、
順序無依存型単語関連度計算ステップにて計算された関
連度情報に基づいて、指定された単語に関連する単語群
をテキストデータから抽出して出力する単語群抽出ステ
ップとをそなえて構成されたことを特徴としている（請
求項７）。

【００１９】更に、本発明の関連語抽出方法は、前後出
現単語抽出ステップにおける前出現単語および後出現単
語を抽出する前段または後段において、テキストデータ
について単語または形態素の単位に分割する単語分割ス
テップをそなえて構成されたことを特徴としている（請
求項８）。または、本発明の関連語抽出方法は、単語群
抽出ステップにて指定された単語としての少なくとも２
つの単語それぞれに関連する単語群を抽出した後に、抽
出された各単語に関連する単語群から、少なくとも２つ
の単語間の類似度を計算する類似度計算ステップをそな
えて構成されたことを特徴としている（請求項９）。

【００２０】もしくは、本発明の関連語抽出方法は、単
語群抽出ステップにて指定された単語としての少なくと
も２つの単語それぞれに関連する単語群を抽出した後
に、抽出された各単語に関連する単語群から、各単語全
てに関連する単語群を抽出する関連単語群抽出ステップ
をそなえて構成されたことを特徴としている（請求項１
０）。

【００２１】あるいは、本発明の関連語抽出方法は、対
象単語指定ステップにおいて指定された単語に対して同
義と見做しうる単語がある場合には、単語群抽出ステッ
プにおいて、同義と見做しうる単語に関連する単語群
と、指定された単語に関連する単語群とを一つにまとめ
て出力することを特徴としている（請求項１１）。他
方、上記課題を解決する本発明の関連語抽出プログラム
が記録されたコンピュータ読み取り可能な記録媒体は、
ある単語に関連する関連語としての単語群をテキストデ
ータから抽出すべく、コンピュータに、関連語を抽出す
べき対象となる単語を指定する対象単語指定機能と、テ
キストデータ上において、指定された単語の前に出現す
る前出現単語および後に出現する後出現単語を抽出する
前後出現単語抽出機能と、前後出現単語抽出機能にて抽
出された前出現単語および後出現単語のそれぞれが、対
象単語指定機能にて指定された単語と共起する共起確率
を計算する共起確率計算機能と、対象単語指定機能にて
指定された単語の出現確率とともに、前後出現単語抽出
機能にて抽出された前出現単語および後出現単語それぞ
れの出現確率を計算する出現確率計算機能と、共起確率
計算機能にて計算された各共起確率情報および出現確率
計算機能にて計算された各出現確率情報に基づいて、指
定された単語に対する前出現単語および後出現単語の、
出現順序に依存する関連度を計算する順序依存型単語関
連度計算機能と、順序無依存型単語関連度計算機能にて
計算された関連度情報に基づいて、指定された単語に対
する前出現単語および後出現単語の、出現順序に依存し
ない関連度を計算する順序無依存型単語関連度計算機能
と、順序無依存型単語関連度計算機能にて計算された関
連度情報に基づいて、指定された単語に関連する単語群
をテキストデータから抽出して出力する単語群抽出機能
とを実現させるための関連語抽出プログラムが記録され
たことを特徴としている（請求項１２）。

【００２２】

【発明の実施の形態】以下、図面を参照して発明の実施
の形態の説明をする。 （１）実施の形態の説明 （ａ）ハードウェア構成の説明 図１は、本発明の一実施形態としての関連語抽出装置が
適用されるシステムを示す図であり、この図１に示すよ
うに、本システム（例えば汎用のコンピュータシステ
ム）１は、ＣＰＵや所要のメモリ等を内蔵する本体装置
１ａ，ディスプレイ１ｂ，キーボード１ｃ等を兼ね備え
て構成される。

【００２３】本体装置１ａは、関連語抽出プログラムを
記録している媒体，例えば，ＣＤ−ＲＯＭや、光磁気デ
ィスク（以下、「ＭＯ」と言う。）やフロッピーディス
ク（以下、「ＦＤ」と言う。）等１ｆから関連語抽出プ
ログラムをハードディスク（図示しない）等に格納し、
関連語抽出プログラムを実行する際には、関連語抽出プ
ログラムをメモリ（図示しない）に展開してＣＰＵ（図
示しない）とともに、ディスプレイ１ｂ，キーボード１
ｃ等の接続機器に制御を施すようになっている。

【００２４】図２は、本発明の関連語抽出プログラムが
適用された汎用のコンピュータシステムの要部を示すブ
ロック図であり、この汎用のコンピュータシステム（以
下においては、単に汎用コンピュータあるいはコンピュ
ータと記す場合がある。）１は、ＣＰＵ１１，メモリ１
２，ハードディスク１３，入力装置１４，出力装置１５
を要部として構成される。

【００２５】ハードディスク１３は、ＣＤ−ＲＯＭドラ
イブ１ｄやＦＤドライブ１ｅ等から記録媒体に記録され
ている関連語抽出プログラムを保持するものである。入
力装置１４は、ＣＰＵ１１等にデータやプログラム等の
情報を入力するために用いる装置であり、キーボード１
ｃやマウス（図示しない）やＣＤ−ＲＯＭドライブ１
ｄ、ＦＤドライブ１ｅ等が該当する。

【００２６】出力装置１５は、ＣＰＵ１１からの画像表
示情報や検索情報等を外部へ出力するものであり、ディ
スプレイ１ｂ等が該当する。 （ｂ）一実施形態の説明 図３は、本発明の一実施形態にかかる関連語抽出装置が
適用されたシステム（汎用コンピュータ）１のブロック
図であり、この図３に示すようにコンピュータ１は前後
出現単語抽出部２１，頻度計算部２２，共起確率計算部
２４，出現確率計算部２３，順序依存型単語関連度計算
部２５，順序無依存型単語関連度計算部２６，単語抽出
部２７，単語分割部２８，記憶部（図示しない）をそな
えて構成される。

【００２７】前後出現単語抽出部２１は、テキストデー
タ上において、指定された単語の前に出現する前出現単
語または指定された単語の後に出現する後出現単語を抽
出するものである。ここで、指定された単語とは、テキ
ストデータ上の文書情報から関連語を抽出するときの基
になるキーワードである。なお、説明の便宜を考慮し
て、テキストデータに出現する単語の集合をＷ，テキス
トデータに含まれる全単語数をＮ，テキストデータに出
現する個々の単語をωｉ（ωｉ∈Ｗ，１≦ｉ≦ｗ），テ
キストデータに出現するすべての単語タイプ数ｗとす
る。

【００２８】なお、以下において、キーワードの前に出
現する単語をωfi、キーワードの後に出現する単語をω
biと言う場合がある。頻度計算部２２は、指定された単
語（以下、「キーワード」と言う。）がテキストデータ
上で出現する頻度，前出現単語または後出現単語がテキ
ストデータ上で出現する頻度および前後出現単語抽出部
２１にて抽出された前出現単語および後出現単語の頻度
を計算しうるものである。ここで、頻度は、所定量の文
字情報からキーワードがいくつあるかを示す指標であ
り、例えば、１０００単語から構成される英文にある英
単語ＸがＭ個（Ｍは自然数）あるなら数値Ｍが出現数を
示す指標となる。ここで、頻度の計算を行なう文書の範
囲は、装置の保守者や設計者等の設計や設定等に依存す
るようになっている。

【００２９】テキストデータ中での単語ωi の頻度f(ω
i)は、以下の数式（２）に示すような関係が成り立つ。

【００３０】

【数２】

【００３１】出現確率計算部２３は、頻度計算部２２か
らの指定された単語の頻度情報および前出現単語および
後出現単語のテキストデータ上での出現頻度情報に基づ
いて、指定された単語の出現確率とともに上記の前出現
単語および後出現単語それぞれの出現確率を計算しうる
ものである。テキストデータ中での単語ωi が出現する
確率P(ωi)は、以下の数式（３）に示すような関係が成
り立つ。

【００３２】

【数３】

【００３３】共起確率計算部２４は、頻度計算部２２か
らの、前後出現単語抽出部２１にて抽出された前出現単
語および後出現単語の頻度情報に基づいて、前出現単語
および後出現単語のそれぞれが指定された単語と共起す
る共起確率を計算するものである。なお、テキストデー
タ中で、単語ωi と単語ωj がこの順番で出現する確率
をP(ωi,ωj)と記す。

【００３４】この共起確率を求めるには、前後出現単語
抽出部２１にて抽出された単語それぞれについて頻度を
計算する。抜き出した単語の頻度情報をf(ωfi)=f(ωi,
ωk)，f(ωbi)=f(ωi,ωk)とするとP(ωi,ωk)＝f(ωi,
ωk)／Ｎ，P(ωi,ωk)＝f(ωi,ωk)／Ｎと定義すること
ができる。ここで、例として、前出現単語として抽出さ
れた単語のリスト中に含まれていいる頻度数をf(ωfi)
としており、換言すると単語ωi と単語ωk とがこの順
番で出現する頻度f(ωi,ωk)であることを意味する。

【００３５】順序依存型単語関連度計算部２５は、出現
確率計算部２３からの各出現確率情報と、共起確率計算
部２４からの各共起確率情報とに基づいて、指定された
単語に対する前出現単語および後出現単語の、出現順序
に依存する関連度を計算するものである。順序依存型単
語関連度は、以下の数式（４）に示す式で定義され、単
語ωi と単語ωj との単語関連率を次のように定義され
る。

【００３６】

【数４】

【００３７】P(ωi,ωj)は、コーパス（大量の文書デー
タ）中でこの順番で単語ωｉと単語ωｊが出現する確率
を表わす。以下、順序依存型単語関連度A(ωi,ωj)をAi
j と示す場合がある。順序無依存型単語関連度計算部２
６は、順序依存型単語関連度計算部２５からの関連度情
報に基づいて、指定された単語に対する前出現単語およ
び後出現単語の、出現順序に依存しない関連度を計算す
るものである。

【００３８】単語ωi と単語ωj の関連度r(ωi,ωj)
は、以下の数式（５）に示すように定義される。

【００３９】

【数５】

【００４０】単語群抽出部２７は、順序無依存型単語関
連度計算部２６にて計算された関連度情報に基づいて、
指定された単語に関連する単語群をテキストデータから
抽出するものである。単語抽出部２７は、関連度の高い
ものから上位の関連語を抜き出すようになっている。単
語分割部２８は、テキストデータについて単語または形
態素の単位に分割するものである。

【００４１】記憶部（図示しない）は、指定された単語
に関する各種計算結果および抽出結果のうちの少なくと
も一つを記憶しておくものである。記憶部は、頻度計算
部２２で計算した頻度情報，前後出現単語抽出部２１で
抜き出した単語の情報，共起確率計算部２４で計算され
た共起確率の情報，単語出現確率計算部２３にて計算さ
れた出現確率情報，順序依存型単語関連度計算部２６に
て計算された関連度情報，順序無依存型単語関連度情報
計算部２６にて計算された関連度情報，単語分割部２８
にて単語または形態素の単位に分割されたテキストデー
タの情報を記憶するようになっている。

【００４２】さらに、上記各部とＣＰＵ１１，メインメ
モリ１２，ＨＤＤ１３，等とを具体的に関連付けて説明
すると、以下のようになる。単語分割部２８としてのＣ
ＰＵ１１は、テキストデータに含まれている文書情報に
対して単語または形態素の単位に分割するものである。
ここで、テキストデータは、ＦＤやＣＤ−ＲＯＭ等の媒
体やハードディスク１３に格納されているようになって
いるが、さらに、スキャナーからテキストデータを読み
込むようにしてもよい。以下、テキストデータが、ハー
ドディスク１３に格納されている場合を前提にするが、
ＦＤやＣＤ−ＲＯＭ等の媒体にテキストデータが格納さ
れている場合も同様であることを意味する。

【００４３】ＣＰＵ１１は、テキストデータを形態素解
析の処理を施すに際して、テキストデータの文書情報を
メモリ１２に展開して単語または形態素の単位に分割す
るようになっており、形態素解析処理が行われて単語ま
たは形態素の単位に分割されたテキストデータの文書情
報は、記憶部としてのハードディスク１３やメモリ１２
に格納されるようになっている。

【００４４】例えば、単語分割部２８としてのＣＰＵ１
１は、図４に示すように文書内容のテキストデータを図
５に示すように単語あるいは形態素の単位に分割するよ
うになっている。以下、図４に示す新聞記事を文書内容
とするテキストデータを基に、説明する。前後出現単語
抽出部２１としてのＣＰＵ１１は、装置利用者によるキ
ーボード１ｃ等の操作からキーワード（以下、場合によ
りキーワードを記す表示としてωｋを記す場合があ
る。）ωk の情報を受け取ると、キーワードωk の前に
出現する前出現単語ωfiまたはキーワードωk の後に出
現する後出現単語ωbiを抽出するものである。

【００４５】ＣＰＵ１１は、キーワードωk に対する前
出現単語ωfi，後出現単語ωbiを抽出する際に、ハード
ディスク１３に格納されている文書情報（テキストデー
タ）をメモリ１２に展開して前出現単語ωfi, 後出現単
語ωbiを抽出するようになっている。この抽出した結果
は、メモリ１２或いはハードディスク１３に格納される
ようになっている。

【００４６】ここで、図６（ａ），（ｂ）は、図５に示
すような単語あるいは形態素の単位に分割された内容の
文書情報であるテキストデータに対してキーワードωk
を「日光」として、前出現単語ωfi, 後出現単語ωbiを
抽出した情報を示す図であり、図６（ａ）はキーワード
ωk （「日光」）の前に出現する単語を抽出した情報を
示す図であり、図６（ｂ）はキーワードωk （「日
光」）の後に出現する単語を抽出した情報を示す図であ
る。前後出現単語抽出部２１としてのＣＰＵ１１は、図
６（ａ），（ｂ）に示すような抽出した単語あるいは形
態素をメモリ１２上のテーブルに格納するようになって
いる。

【００４７】頻度計算部２２としてのＣＰＵ１１は、キ
ーワードをテキストデータ上で出現する頻度f(ωk)，前
出現単語または後出現単語のテキストデータの文書情報
中に出現する頻度f(ωi)、前後出現単語抽出部にて抽出
された前出現単語および後出現単語の頻度f(ωfi),f(ω
bi) を計算するものである。例えば、頻度計算部２２と
してのＣＰＵ１１は、前出現単語ωfiの頻度f(ωfi) を
計算するに際して、図６（ａ）に示すような前出現単語
として抽出された単語のリスト内に出現している数を基
に算出するようになっている。

【００４８】頻度計算部２２としてのＣＰＵ１１は、図
６に示すようなデータをメモリ１２上のテーブルで整列
する等の処理を施してその単語の頻度を数えるようにな
っている。ここで、図７は、図５に示すような単語ある
いは形態素に分割された内容の文書情報であるテキスト
データ中の単語について算出した頻度数の例を示す図で
ある。

【００４９】また、図８は、図５に示すような単語ある
いは形態素に分割された内容の文書情報であるテキスト
データ中の全単語について算出した頻度数を提示する図
であり、この図８に示すような頻度数の数値を基に共起
する割合を考察すると、関連語とは直接的に結びつかな
い言葉、例えば「の」，「は」，「。」等の助詞や句読
点が高頻度で共起するものになっている。

【００５０】ＣＰＵ１１は、計算した頻度f(ωk)，f(ω
fi),f(ωbi),f(ωi)のデータ情報を保持するようにメモ
リ１２やハードディスク１３を制御するようになってい
る。出現確率計算部２３としてのＣＰＵ１１は、頻度計
算部２２からの指定された単語の頻度情報f(ωk)および
前出現単語および後出現単語のテキストデータ上での出
現頻度情報f(ωi)に基づいて、キーワードの出現確率と
ともに前出現単語および後出現単語それぞれの出現確率
を計算しうるものである。

【００５１】ここで、ＣＰＵ１１は、出現確率の計算を
行なうに際して、頻度計算部２２で算出されたデータ情
報を利用するようになっている。それに対応する情報を
メモリに関連付けて処理作業を行なうようになってい
る。また、ＣＰＵ１１は、算出した出現確率の情報をメ
モリ１２やハードディスク１３に保持するようになって
いる。

【００５２】共起確率計算部２４としてのＣＰＵ１１
は、頻度計算部２２からの、前後出現単語抽出部にて抽
出された前出現単語および後出現単語の頻度情報に基づ
いて、前出現単語および後出現単語のそれぞれがキーワ
ードωk と共起する共起確率P(ωi,ωk)，P(ωk,ωi)を
計算するようになっている。順序依存型単語関連度計算
部２５としてのＣＰＵ１１は、出現確率計算部２３から
の各出現確率情報P(ωi)，P(ωk)と、共起確率計算部２
４からの各共起確率情報P(ωi,ωk)，P(ωk,ωi)とに基
づいて、上キーワードωk に対する前出現単語および後
出現単語の、出現順序に依存する関連度A(ωk,ωi)，A
(ωi,ωk)を計算するものである。

【００５３】ＣＰＵ１１は、出現順序に依存する関連度
A(ωk,ωi)，A(ωi,ωk)を算出するに際して、その計算
に用いる情報P(ωi)，P(ωk)，P(ωi,ωk)，P(ωk,ωi)
をハードディスク１３からメモリ１２に読みだすように
なっている。また、ＣＰＵ１１は、計算した関連度A(ω
k,ωi)，A(ωi,ωk)をハードディスク１３やメモリ１２
に保持するようになっている。

【００５４】ここで、図９は、キーワード「日光」の前
に出現する単語ωfiとの関連度A(ωi,ωk)を提示する図
であり、一方図１０は、キーワード「日光」の後に出現
する単語ωbiとの関連度A(ωk,ωi)を提示する図であ
る。これらの図９および図１０に示すような関連度の情
報がメモリ１２のテーブル上に言葉と数値とを対応して
格納すうようになっている。

【００５５】順序無依存型単語関連度計算部２６として
のＣＰＵ１１は、順序依存型単語関連度計算部２５から
の関連度情報A(ωk,ωi)，A(ωi,ωk)に基づいて、キー
ワードωk に対する前出現単語および後出現単語の、出
現順序に依存しない関連度r(ωi,ωk)を計算するもので
ある。ＣＰＵ１１は、関連度情報r(ωi,ωk)を算出する
に際して、計算に用いる情報A(ωk,ωi)，A(ωi,ωk)を
メモリ１１やハードディスク１３から読みだして、演算
処理を行なうようになっている。

【００５６】ここで、図１１は、順序無依存型単語関連
度計算部２６としてのＣＰＵ１１が、図９，図１０に提
示されているデータを基に、出現順序に依存しない関連
度r(ωi,ωk)を提示する図である。ＣＰＵ１１は、この
図１１に示すような関連度情報r(ωi,ωk)を言葉と数値
を対応付けてメモリ１２のテーブル上に格納するように
なっている。

【００５７】単語抽出部２７としてのＣＰＵ１１は、順
序無依存型単語関連度計算部２６にて計算された関連度
情報r(ωi,ωk)に基づいて、キーワードωk に関連する
単語群を上テキストデータから抽出する。ＣＰＵ１１
は、テキストデータからキーワードωk に関連する単語
群を抽出するに際して、順序依存型単語関連度計算部２
６にて計算された結果を用いるようになっている。

【００５８】例えば、関連度の高い単語群を抽出するよ
うなときは、ＣＰＵ１１は、順序依存型単語関連度計算
部２６にて計算された関連度情報r(ωi,ωk)を用いて、
この関連の度合いを示す数値により、数値の大きい単語
から順に出力するようになっている。具体的には、ＣＰ
Ｕ１１は、図１１に示すような順序に依存しない関連度
の中から上位５位までの出力する等行なうようになって
おり、ＣＰＵ１１が単語群を具体的に何語出力するかは
装置の設計者や保守者等による設計や操作に依存するよ
うなっている。以下、単語抽出部２７としてのＣＰＵ１
１が、順序に依存する関連度情報r(ωi,ωk)から数値の
大きい上位１０位までの単語或いは形態素を抽出して出
力することを前提に説明する。

【００５９】なお、単語抽出部２７としてのＣＰＵ１１
は、抽出した単語群をメモリ１２等にて保持するような
制御を行なうこともできるようになっており、以下、抽
出した単語のリストをメモリ１２等で保持することを前
提に説明する。ここで、ＣＰＵ１１は、装置の利用者か
ら単語「日光」の関連語のリストを求める信号を受けた
場合には、メモリ１２上のテーブル等に抽出された関連
語のリスト情報が存在するか否かを判断し、存在してい
る場合にはその情報を用いることで、関連語リストを出
力することができるようになっていることに対応する。

【００６０】また、ＣＰＵ１１は、抽出した単語群をデ
ィスプレイの画面に表示したり印字してプリントアウト
するような制御を行なうことができるものである。記憶
部としてのメモリ１２やハードディスク１３は、キーワ
ードωk に関する各種計算結果P(ωk)，P(ωi,ωk)，r
(ωi,ωk)等の計算結果や頻度情報f(ωk)，f(ωfi) 等
の抽出した結果を記憶しておくものである。なお、以
下、場合により、メモリ１２やハードディスク１３等の
データ情報を記憶しておくものを記憶装置と言う場合が
ある。

【００６１】上述の構成により、本発明の一実施形態の
関連語抽出装置が適用された汎用コンピュータ１では、
本体装置１ａ内へＣＤ−ＲＯＭ等のコンピュータ読み取
り可能な記録媒体から関連語抽出プログラムがコンピュ
ータ内にインストールされることで、動作し得る状態に
なる。ところで、関連語抽出プログラムは、汎用コンピ
ュータ１に、キーワードωkに関連する関連語としての
単語群をテキストデータから抽出すべく、対象単語指定
機能，頻度計算機能, 前後出現単語抽出機能，共起確率
計算機能，出現確率計算機能，順序依存型単語関連度計
算機能，順序無依存型単語関連度計算機能，単語群抽出
機能，単語分割機能を実行させるためのコンピュータ１
の処理に適した命令が順番付けられた列である。

【００６２】なお、対象単語指定機能はコンピュータ１
においてテキストデータ中から関連語を抽出すべき対象
となるキーワードを指定する機能であり、単語分割機能
はコンピュータ１においてテキストデータ中の文書情報
を単語または形態素の単位に分割する機能であり、前後
出現単語抽出機能はコンピュータ１においてテキストデ
ータ内のキーワードωk の前に出現する前出現単語ωfi
またはキーワードωkの後に出現する後出現単語ωbiを
抽出する機能であり、頻度計算機能はコンピュータ１に
おいて頻度f(ωi)，f(ωk)等を算出する機能である。

【００６３】出現確率計算機能はコンピュータ１におい
てキーワードωk の出現確率P(ωk)とともに前後出現単
語抽出機能にて抽出された前出現単語ωfiおよび後出現
単語ωbiそれぞれの出現確率P(ωfi),P(ωbi) を計算す
る機能であり、共起確率計算機能はコンピュータ１にお
いて前後出現単語抽出機能にて抽出された前出現単語ω
fiおよび後出現単語ωbiのそれぞれがキーワードωk と
共起する共起確率P(ωfi, ωk)，P(ωk,ωbi) を計算す
る機能であり、順序依存型単語関連度計算機能はコンピ
ュータ１において共起確率計算機能にて計算された各共
起確率情報P(ωfi, ωk)，P(ωk,ωbi) および出現確率
計算機能にて計算された各出現確率情報P(ωk),P( ωf
i),P(ωbi) に基づいて、キーワードωk に対する前出
現単語ωfiおよび後出現単語ωbiの出現順序に依存する
関連語度A(ωfi, ωk)，A(ωk,ωbi) を計算する機能で
ある。

【００６４】順序無依存型単語関連度計算機能はコンピ
ュータ１において順序依存型単語関連度計算機能にて計
算された関連度情報A(ωfi, ωk)，A(ωk,ωbi) に基づ
いて、キーワードに対する前出現単語ωfiおよび後出現
単語ωbiの出現順序に依存しない関連度r(ωi,ωk)を計
算する機能である。単語群抽出機能はコンピュータ１に
おいて順序無依存型単語関連度計算機能にて計算された
関連度情報r(ωi,ωk)に基づいて、キーワードωk に関
連する単語群をテキストデータから抽出して出力する機
能である。

【００６５】以下、上記各機能とＣＰＵ１１で実行され
る動作とを関連付けて具体的な動作手順を図１２〜１５
に示すフローチャートを基に説明する。図１２は、本発
明の一実施形態にかかる汎用コンピュータ１にて、ＣＰ
Ｕ１１が関連語抽出プログラムを実行するときの処理の
流れを示すフローチャートでああり、この図１２に示す
ように対象単語指定機能としてのＣＰＵ１１は、メモリ
１２に展開されている関連語抽出プログラムを実行する
ことで、先ず関連語を求めたい単語（キーワードωk)を
指定する（ステップＳ１）。

【００６６】ここで、ＣＰＵ１１は、キーワードωk を
指定する際にコンピュータ１の利用者がキーボード１ｃ
を操作すること等によりキーワードωk の情報信号を受
信し、キーワードωk を定める。例えば、図５に示すよ
うな単語あるいは形態素に分割された文書内容を含んだ
テキストデータから利用者にて単語「日光」の関連語を
抽出するに際は、装置の利用者がキーボード１ｃを操作
してＣＰＵ１１へ単語「日光」の情報を通知すると、Ｃ
ＰＵ１１は、キーワードを単語「日光」と定める。換言
すると、ＣＰＵ１１は、対象単語指定ステップとして、
関連語を抽出すべき対象となるキーワードを指定する。

【００６７】ＣＰＵ１１は、以前に単語「日光」に対す
る関連語抽出処理を実行した場合には関連語のデータが
記憶装置に格納されていることから単語「日光」の関連
語のデータが記憶装置に存在するか否かを判断する（ス
テップＳ２）。すなわち、ＣＰＵ１１は、メモリ１１や
ハードディスク１３に抽出を試みる単語「日光」に対す
る関連語のデータが格納されているか否かを判断するた
めに、メモリ１２上のテーブルに格納されているデータ
を展開して、該当するものか否かのデータ処理を行な
う。

【００６８】ここで、ＣＰＵ１１は、単語「日光」に対
する関連語のデータが記憶装置に存在する場合には、そ
の関連語のデータを出力する（ステップＳ９）。ＣＰＵ
１１は、関連度情報r(ωi,ωk)の値の大きいものから順
に出力し、例えば、ディスプレイ１ｂの画像に関連語の
リストを表示するための画像表示信号をディスプレイ１
ｂに送信したり、プリンタから印字したものを出力する
ような制御を施し得る（ステップＳ９）。

【００６９】ここで、ＣＰＵ１１は、前記した図１１に
示すような順序に依存しない関連度と単語を対応付けて
出力する。一方、ＣＰＵ１１は、記憶装置にキーワード
ωk の関連語のデータに存在しない場合には、単語「日
光」と共起する単語の関連率（関連度情報A(ωi,ωk)）
が記憶装置に存在するか否か判断する（ステップＳ
３）。

【００７０】記憶装置に単語「日光」と共起する単語の
関連率が存在しない場合、ＣＰＵ１１は、共起確率計算
部２４としてのＣＰＵ１１から共起する単語のリストと
共起する単語それぞれに関する共起確率P(ωfi, ωk)，
P(ωk,ωbi) を得る（ステップＳ４）とともに、共起す
る単語のリストを基に、それぞれの単語の出現確率P(ω
fi),P(ωbi) を出現確率計算部２３から受け取る（ステ
ップＳ５）。

【００７１】そして、順序依存型単語関連度計算機能と
してのＣＰＵ１１は、共起する単語のリストを基に、そ
れぞれの単語について単語関連率（関連度情報A(ωi,ω
k)，A(ωk,ωi)) を計算する（ステップＳ６）。ここ
で、ＣＰＵ１１は、前記した図９，図１０に示すような
関連度情報A(ωi,ωk)，A(ωk,ωi)を算出し、算出した
結果をメモリ１２のテーブル上に関連度と単語あるいは
形態素を対応づけて保持するような制御をメモリ１２に
行っている。

【００７２】換言すると、ＣＰＵ１１は、順序依存型単
語関連度計算ステップとして、共起確率情報および出現
確率情報に基づいて、キーワードに対する前出現言単語
および後出現単語の、出現順序に依存する関連度を計算
する。順序無依存型単語関連度計算機能としてのＣＰＵ
１１は、共起する単語のリストとそれぞれの単語の関連
度情報A(ωi,ωk)，A(ωk,ωi)から単語関連度r(ωi,ω
k)を計算する（ステップＳ７）。

【００７３】ここで、記憶装置に単語「日光」に対する
関連語の情報が格納されていない場合においても、順序
無依存型単語関連度計算機能としてのＣＰＵ１１が図１
０，図１１に示すような順序に依存する関連度情報A(ω
i,ωk)，A(ωk,ωi)から図１１に示すような単語関連度
r(ωi,ωk)を算出する。換言すると、ＣＰＵ１１は、順
序無依存型単語関連度計算ステップとして、順序依存型
単語関連度計算ステップにて計算された関連度情報A(ω
i,ωk)，A(ωk,ωi)に基づいて、キーワードに対する前
出現単語および後出現単語の、出現順序に依存しない関
連度r(ωi,ωk)を計算する。

【００７４】前後出現単語抽出機能としてのＣＰＵ１１
は、単語関連度r(ωi,ωk)を基に関連語を選択して出力
する（ステップＳ８）。ここで、ＣＰＵ１１は、図１１
に示すような算出された順序に依存しない関連度情報r
(ωi,ωk)から、上位１０の単語あるいは形態素を出力
する。換言すると、ＣＰＵ１１は、単語群抽出ステップ
として、順序無依存型単語関連度計算ステップにて計算
された関連度情報に基づいて、キーワードに関連する単
語群をテキストデータから抽出して出力する。

【００７５】一方、図１３は、共起確率計算機能として
のＣＰＵ１１のプログラムを実行することによる処理の
流れを示すフローチャートであり、この図１３に示すよ
うに共起確率計算機能としてのＣＰＵ１１は、単語「日
光」の共起確率P(ωi,ωk)，P(ωk,ωi)を得ようとする
に際して、先ず求める共起確率P(ωi,ωk)，P(ωk,ωi)
が記憶装置に存在するか否かを判断する（ステップＳ１
０）。

【００７６】共起確率計算機能としてのＣＰＵ１１は、
記憶装置に求める共起確率P(ωi,ωk)，P(ωk,ωi)が格
納されている場合には、その共起確率P(ωi,ωk)，P(ω
k,ωi)をその単語のリストと共に、順序依存型単語関連
度計算機能としてのＣＰＵ１１で計算できるように出力
する（ステップＳ１１）。ここで、順序依存型単語関連
度計算機能機能としてのＣＰＵ１１が、共起確率計算機
能としてのＣＰＵ１１が出力する（ステップＳ１１）共
起確率情報P(ωi,ωk)，P(ωk,ωi)を順序に依存する関
連度情報A(ωi,ωk)，A(ωk,ωi)を計算する際に用いる
（ステップＳ６）。

【００７７】一方、共起確率計算機能としてのＣＰＵ１
１は、記憶装置に求める共起確率P(ωi,ωk)，P(ωk,ω
i)が格納（存在）しない場合には、前後出現単語抽出部
２１から単語「日光」とともに出現する図６に示すよう
な前出現単語ωfi, 後出現単語ωbiのリストとその頻度
f(ωk)，f(ωfi),f(ωbi) のデータを受け取る（ステッ
プＳ１２）。

【００７８】そして、ＣＰＵ１１は前後出現単語抽出部
２１から得た関連語として抽出された単語ωfi, ωbiの
頻度情報f(ωfi),f(ωbi) 等を基に、共起確率P(ωi,ω
k)，P(ωk,ωi)を計算し、出力する（ステップＳ１３，
ステップＳ４）。換言すると、ＣＰＵ１１は、共起確率
計算ステップとして、前出現単語および後出現単語のそ
れぞれが、対象単語指定ステップにて指定されたキーワ
ードと共起する共起確率を計算する。

【００７９】ここで、順序依存型単語関連度計算機能と
してのＣＰＵ１１が、共起確率計算機能としてのＣＰＵ
１１が出力する（ステップＳ１３）共起確率情報P(ωi,
ωk)，P(ωk,ωi)を順序に依存する関連度情報A(ωi,ω
k)，A(ωk,ωi)を計算する際に用いる（ステップＳ
６）。他方、図１４は、前後出現単語抽出部２１として
のＣＰＵ１１が関連語抽出プログラムを実行する際の処
理の流れを示すフローチャートであり、この図１４に示
すように、前後出現単語抽出部２１としてのＣＰＵ１１
は、単語「日光」の前後に出現する図６（ａ），（ｂ）
に示すような単語ωfi, ωbiをテキストデータから抜き
出す（ステップＳ２０）。

【００８０】換言すると、ＣＰＵ１１は、前後出現単語
抽出ステップとして、テキストデータ上においてキーワ
ードの前に出現する前出現単語および後に出現する後出
現単語を抽出する。そして、ＣＰＵ１１は、テキストか
ら抽出した単語ωk,ωfi, ωbiのついての頻度情報f(ω
fi),f(ωbi) を頻度計算部２２から受け取り（ステップ
Ｓ２１）、キーワードωk の前後に出現する図６
（ａ），（ｂ）に示すような単語ωfi, ωbiのリストと
頻度計算部２２から受け取った頻度情報f(ωfi),f(ωb
i) を出力する（ステップＳ２２）。

【００８１】ここで、共起確率計算機能としてのＣＰＵ
１１は、前後出現単語抽出部２１が出力した単語ωfi,
ωbiのリストと頻度情報f(ωfi),f(ωbi) （ステップＳ
２２）を基に、共起確率P(ωi,ωk)，P(ωk,ωi)を計算
する（ステップＳ１３）。また、図１５は頻度計算部２
２としてのＣＰＵ１１が関連語抽出プログラムを実行す
る際の処理の流れを示すフローチャートであり、この図
１５に示すように、頻度計算機能としてのＣＰＵ１１
は、出現確率計算部２３からの指示か否かを判断し（ス
テップＳ３０）、出現確率計算部２３からの指示である
場合は、キーワードωk の頻度情報f(ωk)が記憶装置に
格納されているか否かを判断する（ステップＳ３１）。

【００８２】頻度情報f(ωk)が記憶装置に格納されてい
ない場合、頻度計算機能としてのＣＰＵ１１は、単語分
割機能としてのＣＰＵ１１にて単語あるいは形態素の多
単位に分割された情報を受け取り（ステップＳ３２）、
テキストデータ中にキーワードωk の出現頻度（回数）
f(ωk)を計算して（ステップＳ３３）、出力する（ステ
ップＳ３４）。

【００８３】なお、単語分割機能としてのＣＰＵ１１
は、図４に示すような単語或いは形態素に分かち書きに
より記載されていない文書を内容とするテキストデータ
を図５に示すように単語あるいは形態素の単位に分割す
る。換言すると、ＣＰＵ１１は、単語分割ステップとし
て、前後出現単語抽出ステップにおける前出現単語およ
び後出現単語を抽出する前において、テキストデータに
ついて単語または形態素の単位に分割する。

【００８４】他方、図１５には示していないが、頻度計
算機能としてのＣＰＵ１１は、前後出現単語抽出機能と
してのＣＰＵ１１にて抽出された前出現単語ωfi, 後出
現単語ωbiのテキストデータ中の出現頻度数をも算出す
る。換言すると、ＣＰＵ１１は、出現確率計算ステップ
として、対象単語指定ステップにて指定されたキーワー
ドの出現確率とともに、前後出現単語抽出ステップにて
抽出された前出現単語および後出現単語それぞれの出現
確率を計算する。

【００８５】ここで、ＣＰＵ１１は、出現確率計算機能
として、頻度計算機能としてのＣＰＵ１１が出力した頻
度情報f(ωk)，f(ωi)を基に、出現確率P(ωk)，P(ωi)
を計算する。出現確率計算部２３からの指示ではない場
合、頻度計算部２２としてのＣＰＵ１１は、前後出現単
語抽出部２１からの指示か否かを判断する（ステップＳ
３５）。

【００８６】ここで、前後出現単語抽出部２１からの指
示である場合、頻度計算部２２としてのＣＰＵ１１は、
前後出現単語抽出部２１から渡されたテキストデータを
単語分割機能としてのＣＰＵ１１を経由して、単語に分
割したデータを得て、その中に含まれる単語の頻度を数
えて（ステップＳ３６）、集計した単語の頻度を出現確
率計算部２３へ出力する（ステップＳ３７）。

【００８７】また、頻度計算部２２としてのＣＰＵ１１
が、前後出現単語抽出部２１からの指示ではないと判断
した場合には、その信号をエラーとする。ところで、出
現確率計算部２３としてのＣＰＵ１１の処理の流れ( 図
示しない) は、関連語抽出プログラムを実行することに
より、求める出現確率P(ωi)等の情報が記憶装置に格納
されているか否か判断し、記憶装置に格納されていない
場合には、頻度計算部２２からf(ωfi),f(ωbi),f(ωk)
等の単語の頻度情報をうけて出現確率P(bi),P(ωk)を計
算して、その計算結果P(bi),P(ωk)を出力する。

【００８８】一方、記憶装置に求める出現確率P(ωi)等
の確率情報P(bi),P(ωk)が格納されている場合は、出現
確率計算部２３としてのＣＰＵ１１は、共起確率計算部
２４へ出力する。別言すると、汎用コンピュータ１は、
対象単語指定ステップ，前後出現単語抽出ステップ，共
起確率計算ステップ，出現確率計算ステップ，順序依存
型単語関連度計算ステップ，順序無依存型単語関連度計
算ステップ，単語群抽出ステップ，単語分割ステップを
実行することで、テキストデータから関連語を抽出す
る。

【００８９】このように本発明の一実施形態にかかる関
連語抽出装置としての汎用コンピュータ１によれば、Ｃ
ＰＵ１１が前出現単語に対する順序に依存する単語関連
度A(ωi,ωk)を２乗した値と後出現単語に対する順序に
依存する単語関連度A(ωk,ωi)を２乗した値との和算し
た値を平方根する演算処理により算出された値を用い
て、キーワードの前出現／後出現に依存しない利用者に
とって分かり易く、かつ、精度を高くして関連語を抽出
できる。

【００９０】また、本発明の一実施形態にかかる関連語
抽出装置としての汎用コンピュータ１によれば、汎用コ
ンピュータ１が、単語分割部２８をそなえて構成されて
いることで、単語毎に区切られていないテキスト（例え
ば、日本語や中国語で書かれた文書）を単語あるいは形
態素毎に分けて処理する（単語抽出ステップ）ことがで
きるので、予め単語の品詞情報をそなえていなくとも日
本語等で記載された文書からの関連語抽出も容易に作成
することができる。

【００９１】さらに、本発明の一実施形態にかかる関連
語抽出装置としての汎用コンピュータ１によれば、汎用
コンピュータ１が、ハードディスク１３等の記憶部をそ
なえて構成されているので、頻度計算部２２，順序依存
型単語関連度計算部２５，等の各処理により算出された
情報が保持されることで、関連語抽出に伴う処理を早め
ると共に単語の出現順序に依存しない関連語のリストを
作成することができる。

【００９２】ならびに、本発明の一実施形態にかかる汎
用コンピュータ１によれば、関連語抽出プログラムとし
て、コンピュータ１に対象単語指定機能，前後出現単語
抽出機能，共起確率計算機能，出現確率計算機能，順序
依存型単語関連度計算機能，順序無依存型単語関連度計
算機能，単語群抽出機能を実行することにおいても、Ｃ
ＰＵ１１が前出現単語に対する順序に依存する単語関連
度A(ωi,ωk)を２乗した値と後出現単語に対する順序に
依存する単語関連度A(ωk,ωi)を２乗した値との和算し
た値を平方根する演算処理により算出された値を用いる
ことで、キーワードの前出現／後出現に依存しない利用
者にとって分かり易く、かつ、精度を高くして関連語を
抽出できる。

【００９３】さらに、本発明の一実施形態にかかる汎用
コンピュータ１によれば、関連語抽出プログラムとし
て、コンピュータ１に、単語分割機能を実行させること
でも、単語毎に区切られていないテキスト（例えば、日
本語や中国語で書かれた文書）を単語あるいは形態素毎
に分けて処理することができるので、日本語等で記載さ
れた文書からの関連語抽出も容易に作成することができ
る。

【００９４】（ｂ１）一実施形態の第１変形例の説明 図１６は、本発明の一実施形態の第１変形例にかかる関
連語抽出装置が適用された汎用コンピュータ１ｘのブロ
ック図であり、この図１６に示すように本発明の一実施
形態の第１変形例にかかるコンピュータ１ｘは、頻度計
算部２２，前後出現単語抽出部２１，共起確率計算部２
４，出現確率計算部２３，順序依存型単語関連度計算部
２５，順序無依存型単語関連度計算部２６，単語群抽出
部（図示しない），単語分割部（図示しない），記憶部
（図示しない），類似度計算度部２９をそなえて構成さ
れる。

【００９５】コンピュータ１ｘは、前述の図１あるいは
図２に示すコンピュータ１と同様のハードウェア構成を
有するものである。なお、（ｂ）において用いた符号と
同じものについては同様の動作を行なうため、その説明
は省略する。類似度計算部２９は、単語群抽出部にてキ
ーワードとしての少なくとも２つの単語それぞれに関連
する単語群の抽出結果を用いることにより、少なくとも
２つの単語間の類似度を計算するものである。

【００９６】以下、２つの単語間の類似度を計算する場
合を前提に説明をするが、以下の記載において３つ以上
の単語間の類似度を計算する場合も同様であることを意
味する。なお、前後出現単語抽出部２１はテキストデー
タ上において、指定された単語の前に出現する前出現単
語または指定された単語の後に出現する後出現単語を抽
出するものであり、出現確率計算部２３は頻度計算部２
２からの指定された単語の頻度情報および前出現単語お
よび後出現単語のテキストデータ上での出現頻度情報に
基づいて指定された単語の出現確率とともに上記の前出
現単語および後出現単語それぞれの出現確率を計算しう
るものである。

【００９７】共起確率計算部２４は頻度計算部２２から
の前後出現単語抽出部２１にて抽出された前出現単語お
よび後出現単語の頻度情報に基づいて、前出現単語およ
び後出現単語のそれぞれがキーワードと共起する共起確
率を計算するものであり、順序依存型単語関連度計算部
２５は出現確率計算部２３からの各出現確率情報と、共
起確率計算部２４からの各共起確率情報とに基づいて指
定された単語に対する前出現単語および後出現単語の出
現順序に依存する関連度を計算するものである。

【００９８】順序無依存型単語関連度計算部２６は、順
序依存型単語関連度計算部２５からの関連度情報に基づ
いて、指定された単語に対する前出現単語および後出現
単語の、出現順序に依存しない関連度を計算するもので
ある。単語群抽出部（図示しない）は、順序無依存型単
語関連度計算部２６にて計算された関連度情報に基づい
て、指定された単語に関連する単語群をテキストデータ
から抽出するものであり、記憶部（図示しない）は指定
された単語に関する各種計算結果および抽出結果のうち
の少なくとも一つを記憶しておくものであり、単語分割
部（図示しない）は、テキストデータについて単語また
は形態素の単位に分割するものである。

【００９９】さらに、上記各部とＣＰＵ１１，メインメ
モリ１２，ＨＤＤ１３等とを具体的に関連付けて説明す
ると、以下のようになる。類似度計算部２９としてのＣ
ＰＵ１１は、単語群抽出部から、２つのキーワードそれ
ぞれに関連する単語群の抽出結果を用いることにより、
単語間の類似度を計算するものである。

【０１００】ここで、類似度計算部２９としてのＣＰＵ
１１が、３つの単語「 自動車」 ，「車」 ，「 航空機」 に
ついて、それらの類似度を計算し、類似度の判定ができ
ることを基に説明する。なお、前記（ｂ）に述べたよう
に、ＣＰＵ１１は頻度計算部２２，前後出現単語抽出部
２１，共起確率計算部２４，出現確率計算部２３，順序
依存型単語関連度計算部２５，順序無依存型単語関連度
計算部２６，単語群抽出部，単語分割部として構成され
ているとともに、メモリ１２やハードディスク１３は記
憶部として構成されている。

【０１０１】ここで、図１７〜１９は、順序無依存型単
語関連度情報r(ωi,ωk)を基に単語群抽出部がテキスト
データから関連語を抜き出したリストを示す図であり、
図１７は単語「 自動車」 の関連語リストを示す図であ
り、図１８は単語「 車」 の関連語リストを示す図であ
り、図１９は単語「 航空機」 の関連語リストを示す図で
ある。

【０１０２】類似度計算部２９としてのＣＰＵ１１は、
図１７〜１９に示すような関連語のリストを用いること
により、単語「 自動車」 ，「 車」 ，「 航空機」 の類似度
を計算するようになっている。具体的には、類似度計算
部２９としてのＣＰＵ１１は、図１７〜１９に示すよう
にリストアップされた関連語の内積和の演算処理を行な
うようになっている。

【０１０３】例えば、類似度計算部２９としてのＣＰＵ
１１は、単語「 自動車」 ，「 車」 の類似度を算出するに
際して、図１７に示す単語「 自動車」 の関連語リスト中
の関連語「ＭＯＳＳ」と図１８に示す単語「 車」 の関連
語リスト中の関連語「はしご」の内積の演算処理を行な
うようになっている。すなわち、類似度計算部２９とし
てのＣＰＵ１１は、各関連語を関連度情報r(ωi,ωk)を
大きさとするベクトル(vector)と見做して、各関連語の
内積値を和算する演算処理を行なうようなっている。内
積値を和算した数値が、単語間の類似度を示すものであ
る。

【０１０４】ＣＰＵ１１は、同じ関連語同士の内積演算
処理に際しては、ベクトルの方向が同じ（θ＝０°）と
見做すとともに、異なる関連語同士の内積演算処理にに
際しては、ベクトルの方向が直交（θ＝９０°）と見做
して計算するようになっている。ＣＰＵ１１は、単語「
自動車」 の関連語リスト中の関連語「ＭＯＳＳ」と単語
「 車」 の関連語リスト中の関連語「はしご」とが互いに
異なる関連語であることから、内積値を０と計算するよ
うになっている。

【０１０５】従って、類似度計算部２９としてのＣＰＵ
１１は、単語「 自動車」 ，「 車」 の類似度を計算すると
きに図１７に示す単語「 自動車」 の関連度リストと図１
８に示す単語「 車」 の関連度リストとから共通の関連語
の関連度を用いて、例えば共通の関連語「 ＢＭＷ」 の関
連度「 １２．４」 と関連度「 １２．０」 とを用いて、そ
の二つの関連度を積算した値「 １４８．８」 と他の共通
の関連語の関連度の内積値との和算値により類似度を算
出するようになっている。

【０１０６】ここで、図２０は、単語「 自動車」 ，「
車」 の類似度と単語「 自動車」 ，「 航空機」 の類似度と
を示す図であり、この図２０に示すように単語「 自動
車」 と単語「 車」 との類似度「 ２８３９．４」 と単語「
自動車」 と単語「 航空機」 との類似度「 ８１４．４」 と
から、単語「 自動車」 は単語「 航空機」 より単語「 車」
に類似することがわかるようになっている。

【０１０７】上述の構成により、本発明の一実施形態の
第１変形例にかかる汎用コンピュータ１ｘでは、本体装
置１ａ内へＣＤ−ＲＯＭ等のコンピュータ読み取り可能
な記録媒体から関連語抽出プログラムがコンピュータ内
にインストールされることで、動作し得る状態になる。
ところで、関連語抽出プログラムは、汎用コンピュータ
１ｘに、キーワードに関連する関連語としての単語群を
テキストデータから抽出すべく、対象単語指定機能，頻
度計算機能, 前後出現単語抽出機能，共起確率計算機
能，出現確率計算機能，順序依存型単語関連度計算機
能，順序無依存型単語関連度計算機能，単語群抽出機
能，単語分割機能，類似度計算機能を実行させるための
コンピュータ１ｘの処理に適した命令が順番付けられた
列である。

【０１０８】類似度計算機能は、コンピュータ１ｘにお
いて単語群抽出機能から２つキーワードそれぞれに関連
する単語群の抽出結果を用いることにより、２つの単語
間の類似度を計算する機能である。なお、対象単語指定
機能はコンピュータ１ｘにおいてテキストデータ中から
関連語を抽出すべき対象となるキーワードを指定する機
能であり、単語分割機能はコンピュータ１ｘにおいてテ
キストデータ中の文書情報を単語または形態素の単位に
分割する機能であり、前後出現単語抽出機能はコンピュ
ータ１ｘにおいてテキストデータ内のキーワードωk の
前に出現する前出現単語ωfiまたはキーワードωk の後
に出現する後出現単語ωbiを抽出する機能であり、頻度
計算機能はコンピュータ１ｘにおいて頻度f(ωi),f( ω
k)等を算出する機能である。

【０１０９】出現確率計算機能はコンピュータ１ｘにお
いてキーワードωk の出現確率P(ωk)とともに前後出現
単語抽出機能にて抽出された前出現単語ωfi および後
出現単語ωbiそれぞれの出現確率P(ωfi),P(ωbi) を計
算する機能であり、共起確率計算機能はコンピュータ１
ｘにおいて前後出現単語抽出機能にて抽出された前出現
単語ωfiおよび後出現単語ωbiのそれぞれがキーワード
ωk と共起する共起確率P(ωfi, ωk)，P(ωk,ωbi) を
計算する機能であり、順序依存型単語関連度計算機能は
コンピュータ１ｘにおいて共起確率計算機能にて計算さ
れた各共起確率情報P(ωfi, ωk)，P(ωk,ωbi) および
出現確率計算機能にて計算された各出現確率情報P(ω
k)，P(ωfi),P(ωbi) に基づいて、キーワードωk に対
する前出現単語ωfiおよび後出現単語ωbiの出現順序に
依存する関連語度A(ωfi, ωk)，A(ωk,ωbi) を計算す
る機能である。

【０１１０】順序無依存型単語関連度計算機能はコンピ
ュータ１ｘにおいて順序依存型単語関連度計算機能にて
計算された関連度情報A(ωfi, ωk)，A(ωk,ωbi) に基
づいて、キーワードに対する前出現単語ωfiおよび後出
現単語ωbiの出現順序に依存しない関連度r(ωi,ωk)を
計算する機能である。単語群抽出機能はコンピュータ１
ｘにおいて順序無依存型単語関連度計算機能にて計算さ
れた関連度情報r(ωi,ωk)に基づいて、キーワードωk
に関連する単語群をテキストデータから抽出して出力す
る機能である。

【０１１１】ここで、上記各機能とＣＰＵ１１で実行さ
れる動作とを関連付けて具体的な動作手順を説明すると
類似度計算機能としてＣＰＵ１１は、図１７〜１９に示
すような順序無依存型単語関連度計算機能にて計算され
た単語「 自動車」 ，「 車」 ，「 航空機」 の関連度r(ωi,
ωk)を基に類似を計算する。具体的には、類似度計機能
としてＣＰＵ１１は、図１７〜１９に示すようにリスト
アップされた関連語の内積和の演算処理を行なう。

【０１１２】すなわち、類似度計算部２９としてのＣＰ
Ｕ１１は、各関連語を関連度情報r(ωi,ωk)を大きさと
するベクトル(vector)と見做して、各関連語の内積値を
和算する演算処理を行なう。ＣＰＵ１１は、同じ関連語
同士の内積演算処理に際しては、ベクトルの方向が同じ
（θ＝０°）と見做すとともに、異なる関連語同士の内
積演算処理にに際しては、ベクトルの方向が直交（θ＝
９０°）と見做して計算して、例えば、図１７に示す単
語「 自動車」 の関連語リスト中の関連語「ＭＯＳＳ」と
図１８に示す単語「 車」 の関連語リスト中の関連語「は
しご」とが互いに異なる関連語であることから、内積値
を０と計算するようになっている。

【０１１３】従って、類似度計算機能としてＣＰＵ１１
は、単語「 自動車」 ，「 車」 の類似度を計算するときに
図１７に示す単語「 自動車」 の関連度リストと図１８に
示す単語「 車」 の関連度リストとから共通の関連語の関
連度を用いて、例えば共通の関連語「 ＢＭＷ」 の関連度
「 １２．４」 と関連度「 １２．０」 とを用いて、その二
つの関連度を積算した値「 １４８．８」 と他の共通の関
連語の関連度の内積値との和算演算を行ない図２０に示
すように単語「 自動車」 と単語「 車」 との類似度「 ２８
３９．４」 と単語「 自動車」 と単語「 航空機」 との類似
度「 ８１４．４」 とを算出する。

【０１１４】ここで、換言すると、ＣＰＵ１１は、類似
度計算ステップとして、単語群抽出ステップにて指定さ
れたキーワードとしての３つの単語「 自動車」 ，「 車」
，「航空機」 それぞれに関連する単語群を抽出した後
に、抽出された各単語「 自動車」 ，「 車」 ，「 航空機」
に関連する単語群から、２つの単語「 自動車」 ，「 車」
間と単語「 自動車」 ，「 航空機」 間の類似度を計算す
る。

【０１１５】なお、ＣＰＵ１１は、対象単語指定機能，
頻度計算機能, 前後出現単語抽出機能，共起確率計算機
能，出現確率計算機能，順序依存型単語関連度計算機
能，順序無依存型単語関連度計算機能，単語群抽出機
能，単語分割機能として図１２〜１５に示すような動作
を行なう。上記を別言すると、汎用コンピュータ１ｘ
は、対象単語指定ステップ，前後出現単語抽出ステッ
プ，共起確率計算ステップ，出現確率計算ステップ，順
序依存型単語関連度計算ステップ，順序無依存型単語関
連度計算ステップ，単語群抽出ステップ，単語分割ステ
ップ，類似度計算ステップを実行することで、テキスト
データから関連語を抽出する。

【０１１６】このように本発明の一実施形態の第１変形
例にかかる関連語抽出装置が適用された汎用コンピュー
タ１ｘによれば、前記（ｂ）に述べたものの他に、ＣＰ
Ｕ１１が前出現単語に対する順序に依存する単語関連度
A(ωi,ωk)を２乗した値と後出現単語に対する順序に依
存する単語関連度A(ωk,ωi)を２乗した値との和算した
値を平方根する演算処理により算出された値を基に、単
語「 自動車」 ，「 車」，「 航空機」 の類似度をシソーラ
スや他の知識ベースを用いることなく、単語「自動車」
が単語「 航空機」 より単語「 車」 に類似することを判別
することができるとともに新たに用いられるようになっ
た単語等に対しても、類似度を算出することができる
（類似度計算ステップ）。

【０１１７】（ｂ２）一実施形態の第２変形例の説明 図２１は、本発明の一実施形態の第２変形例にかかる関
連語抽出装置が適用された汎用コンピュータ１ｙのブロ
ック図であり、この図２１に示すように本発明の一実施
形態の第２変形例にかかるコンピュータ１ｙは、頻度計
算部２２，前後出現単語抽出部２１，共起確率計算部２
４，出現確率計算部２３，順序依存型単語関連度計算部
２５，順序無依存型単語関連度計算部２６，単語群抽出
部（図示しない），単語分割部（図示しない），記憶部
（図示しない），関連単語群抽出部３０をそなえて構成
される。

【０１１８】コンピュータ１ｙは、前述の図１あるいは
図２に示すコンピュータ１と同様のハードウェア構成を
有するものである。なお、（ｂ）において用いた符号と
同じものについては同様の動作を行なうため、その説明
は省略する。関連単語群抽出部３０は、単語群抽出部か
らキーワードとしての少なくとも２つの単語それぞれに
関連する単語群の抽出結果を用いることにより、各単語
の全てに関連する単語群を抽出するものである。

【０１１９】以下、関連単語群抽出部３０が、２つの単
語の関連単語群を抽出する場合について説明するが、３
つ以上の単語の関連単語群を抽出する場合においても同
じであることを意味する。なお、前後出現単語抽出部２
１はテキストデータ上において、指定された単語の前に
出現する前出現単語または指定された単語の後に出現す
る後出現単語を抽出するものであり、出現確率計算部２
３は頻度計算部２２からの指定された単語の頻度情報お
よび前出現単語および後出現単語のテキストデータ上で
の出現頻度情報に基づいて指定された単語の出現確率と
ともに上記の前出現単語および後出現単語それぞれの出
現確率を計算しうるものである。

【０１２０】共起確率計算部２４は頻度計算部２２から
の前後出現単語抽出部２１にて抽出された前出現単語お
よび後出現単語の頻度情報に基づいて、前出現単語およ
び後出現単語のそれぞれがキーワードと共起する共起確
率を計算するものであり、順序依存型単語関連度計算部
２５は出現確率計算部２３からの各出現確率情報と、共
起確率計算部２４からの各共起確率情報とに基づいて指
定された単語に対する前出現単語および後出現単語の出
現順序に依存する関連度を計算するものである。

【０１２１】順序無依存型単語関連度計算部２６は、順
序依存型単語関連度計算部２５からの関連度情報に基づ
いて、指定された単語に対する前出現単語および後出現
単語の、出現順序に依存しない関連度を計算するもので
ある。単語群抽出部（図示しない）は、順序無依存型単
語関連度計算部２６にて計算された関連度情報に基づい
て、指定された単語に関連する単語群をテキストデータ
から抽出するものであり、記憶部（図示しない）は指定
された単語に関する各種計算結果および抽出結果のうち
の少なくとも一つを記憶しておくものであり、単語分割
部（図示しない）は、テキストデータについて単語また
は形態素の単位に分割するものである。

【０１２２】さらに、上記各部とＣＰＵ１１，メインメ
モリ１２，ＨＤＤ１３等とを具体的に関連付けて説明す
ると、以下のようになる。関連単語群抽出部３０として
のＣＰＵ１１は、単語群抽出部から、２つのキーワード
それぞれについて関連する単語群の抽出結果を用いるこ
とにより、２つの単語の全てについて関連する単語群を
抽出するものである。

【０１２３】ここで、関連単語群抽出部３０としてのＣ
ＰＵ１１が、単語「エジプト」と単語「大統領」との関
連単語群を抽出する場合を前提として説明をする。な
お、前記（ｂ）に述べたように、ＣＰＵ１１は頻度計算
部２２，前後出現単語抽出部２１，共起確率計算部２
４，出現確率計算部２３，順序依存型単語関連度計算部
２５，順序無依存型単語関連度計算部２６，単語群抽出
部，単語分割部として構成されているとともに、メモリ
１２やハードディスク１３は記憶部として構成されてい
る。

【０１２４】図２２，２３は、順序無依存型単語関連度
情報r(ωi,ωk)を基に単語群抽出部がテキストデータか
ら関連語を抜き出したリストを示す図であり、図２２は
単語「 エジプト」 の関連語リストを示す図であり、図２
３は単語「 大統領」 の関連語リストを示す図である。関
連単語群抽出部３０としてのＣＰＵ１１は、図２２，２
３に示すような各単語「 エジプト」 ，「 大統領」 の関連
語のリストを用いることにより、２つの単語「 エジプ
ト」 ，「 大統領」 に関連する単語群を抽出するようにな
っている。

【０１２５】具体的には、関連単語群抽出部３０として
のＣＰＵ１１は、図２２，２３に示すような各単語「 エ
ジプト」 ，「 大統領」 の関連語のリストから共通の単語
或いは形態素を抽出することにより、２つの単語「 エジ
プト」 ，「 大統領」 に関連する単語群を抽出するように
なっている。ここで、図２４は、２つの単語「 エジプ
ト」 ，「 大統領」 に関連する単語群のリストを示す図で
あり、この図２２に示すように単語「 エジプト」 の関連
語リストと図２３に示すように単語「 大統領」 の関連語
リストとから共通の関連語、例えば関連語「ムバラク」
等が抽出されて関連語のリストが作成されるようになっ
ている。

【０１２６】上述の構成により、本発明の一実施形態の
関連語抽出装置が適用された汎用コンピュータ１ｙで
は、本体装置１ａ内へＣＤ−ＲＯＭ等のコンピュータ読
み取り可能な記録媒体から関連語抽出プログラムがコン
ピュータ１ｙ内にインストールされることで、動作し得
る状態になる。ところで、関連語抽出プログラムは、汎
用コンピュータ１ｙに、キーワードに関連する関連語と
しての単語群をテキストデータから抽出すべく、対象単
語指定機能，頻度計算機能, 前後出現単語抽出機能，共
起確率計算機能，出現確率計算機能，順序依存型単語関
連度計算機能，順序無依存型単語関連度計算機能，単語
群抽出機能，単語分割機能，関連単語群抽出機能を実行
させるためのコンピュータ１ｙの処理に適した命令が順
番付けられた列である。

【０１２７】関連単語群抽出機能は、コンピュータ１ｙ
に単語群抽出機能からの２つの単語「 エジプト」 ，「 大
統領」 それぞれに関連する単語群の抽出結果を用いるこ
とにより、２つの単語「 エジプト」 ，「 大統領」 に関連
する単語群を抽出する機能である。なお、対象単語指定
機能はコンピュータ１ｙにおいてテキストデータ中から
関連語を抽出すべき対象となるキーワードを指定する機
能であり、単語分割機能はコンピュータ１ｙにおいてテ
キストデータ中の文書情報を単語または形態素の単位に
分割する機能であり、前後出現単語抽出機能はコンピュ
ータ１ｙにおいてテキストデータ内のキーワードωk の
前に出現する前出現単語ωfiまたはキーワードωk の後
に出現する後出現単語ωbiを抽出する機能であり、頻度
計算機能はコンピュータ１ｙにおいて頻度f(ωi)，f(ω
k)等を算出する機能である。

【０１２８】出現確率計算機能はコンピュータ１ｙにお
いてキーワードωk の出現確率P(ωk)とともに前後出現
単語抽出機能にて抽出された前出現単語ωfiおよび後出
現単語ωbiそれぞれの出現確率P(ωfi),P(ωbi) を計算
する機能であり、共起確率計算機能はコンピュータ１ｙ
において前後出現単語抽出機能にて抽出された前出現単
語ωfiおよび後出現単語ωbiのそれぞれがキーワードω
k と共起する共起確率P(ωfi, ωk)，P(ωk,ωbi) を計
算する機能であり、順序依存型単語関連度計算機能はコ
ンピュータ１ｙにおいて共起確率計算機能にて計算され
た各共起確率情報P(ωfi, ωk)，P(ωk,ωbi) および出
現確率計算機能にて計算された各出現確率情報P(ωk)，
P(ωfi),P(ωbi) に基づいて、キーワードωk に対する
前出現単語ωfiおよび後出現単語ωbiの出現順序に依存
する関連語度A(ωfi, ωk)，A(ωk,ωbi) を計算する機
能である。

【０１２９】順序無依存型単語関連度計算機能はコンピ
ュータ１ｙにおいて順序依存型単語関連度計算機能にて
計算された関連度情報A(ωfi, ωk)，A(ωk,ωbi) に基
づいて、キーワードに対する前出現単語ωfiおよび後出
現単語ωbiの出現順序に依存しない関連度r(ωi,ωk)を
計算する機能である。単語群抽出機能はコンピュータ１
ｙにおいて順序無依存型単語関連度計算機能にて計算さ
れた関連度情報r(ωi,ωk)に基づいて、キーワードωk
に関連する単語群をテキストデータから抽出して出力す
る機能である。

【０１３０】ここで、上記各機能とＣＰＵ１１で実行さ
れる動作とを関連付けて具体的な動作手順を説明すると
類似度計算機能として、ＣＰＵ１１は、図２２，２３に
示すような各単語「 エジプト」 ，「 大統領」 の関連語の
リストを用いることにより、２つの単語「 エジプト」 ，
「 大統領」 に関連する単語群を抽出する。具体的には、
関連単語群抽出部３０としてのＣＰＵ１１は、図２２，
２３に示すような各単語「 エジプト」 ，「 大統領」 の関
連語のリストから共通の単語或いは形態素を抽出するこ
とにより、２つの単語「 エジプト」 ，「 大統領」 に関連
する単語群、例えば関連語「ムバラク」を抽出して、図
２４に示すような２つの単語「 エジプト」 ，「 大統領」
に関連する単語群のリストを作成する。

【０１３１】ここで、ＣＰＵ１１は、関連単語群抽出ス
テップとして、単語群抽出ステップにて２つの単語「 エ
ジプト」 ，「 大統領」 それぞれに関連する単語群（図２
２，２３）から、２つの単語「 エジプト」 ，「 大統領」
に関連する単語群を抽出する。なお、ＣＰＵ１１は、対
象単語指定機能，頻度計算機能, 前後出現単語抽出機
能，共起確率計算機能，出現確率計算機能，順序依存型
単語関連度計算機能，順序無依存型単語関連度計算機
能，単語群抽出機能，単語分割機能として図１２〜１５
に示すような動作を行なう。

【０１３２】上記を別言すると、汎用コンピュータ１ｙ
は、対象単語指定ステップ，前後出現単語抽出ステッ
プ，共起確率計算ステップ，出現確率計算ステップ，順
序依存型単語関連度計算ステップ，順序無依存型単語関
連度計算ステップ，単語群抽出ステップ，単語分割ステ
ップ，関連単語群抽出ステップを実行することで、テキ
ストデータから関連語を抽出する。

【０１３３】このように本発明の一実施形態の第２変形
例にかかる関連語抽出装置が適用された汎用コンピュー
タ１ｙによれば、前記（ｂ）に述べたものの他に、ＣＰ
Ｕ１１が前出現単語に対する順序に依存する単語関連度
A(ωi,ωk)を２乗した値と後出現単語に対する順序に依
存する単語関連度A(ωk,ωi)を２乗した値との和算した
値を平方根する演算処理により算出された値を基に、単
語「 エジプト」 ，「 大統領」 それぞれに関連する単語群
（図２２，２３）のリストを作成することができる他、
具体的に文書の内容を見ずしてエジプトの大統領に関す
る情報を得ることができて、二つの単語「 エジプト」 ，
「 大統領」 に関連する単語を見ることで、その二つの単
語「 エジプト」 ，「 大統領」 の関係や付随する知識が分
かり易くなる。

【０１３４】（ｂ３）一実施形態の第３変形例の説明 図２５は、本発明の一実施形態の第３変形例にかかる関
連語抽出装置が適用された汎用コンピュータ１ｚのブロ
ック図であり、この図２５に示すように本発明の一実施
形態の第３変形例にかかるコンピュータ１ｚは、頻度計
算部２２，前後出現単語抽出部２１，共起確率計算部２
４，出現確率計算部２３，順序依存型単語関連度計算部
２５，順序無依存型単語関連度計算部２６，単語群抽出
部（図示しない），単語分割部（図示しない），記憶部
（図示しない），同義語辞書部３１をそなえて構成され
る。

【０１３５】コンピュータ１ｚは、前述の図１あるいは
図２に示すコンピュータ１と同様のハードウェア構成を
有するものである。なお、（ｂ）において用いた符号と
同じものについては同様の動作を行なうため、その説明
は省略する。同義語辞書部３１は、キーワードωk に対
して同義と見做しうる単語（以下同義語に記号ωksを記
す場合がある）ωksを判定するものである。

【０１３６】以下、同義語辞書部３１が、キーワードに
対して他の１つの単語を同義語とみなす場合について説
明するが、２つ以上の単語を同義語とみなす場合におい
ても同じであることを意味する。また、順序依存型単語
関連度計算部２５がキーワードωk に対する関連度A(ω
k,ωi)，A(ωi,ωk)を計算する他、キーワードωk の１
つの同義語の関連度A(ωks, ωi)，A(ωi,ωks) を計算
することにより、単語群抽出部２７にてキーワードωk
とキーワードωk の１つの同義語ωksとの２つの関連語
リストが作成される場合について説明する。

【０１３７】なお、前後出現単語抽出部２１はテキスト
データ上において、指定された単語の前に出現する前出
現単語または指定された単語の後に出現する後出現単語
を抽出するものであり、出現確率計算部２３は頻度計算
部２２からの指定された単語の頻度情報および前出現単
語および後出現単語のテキストデータ上での出現頻度情
報に基づいて指定された単語の出現確率とともに上記の
前出現単語および後出現単語それぞれの出現確率を計算
しうるものである。

【０１３８】共起確率計算部２４は頻度計算部２２から
の前後出現単語抽出部２１にて抽出された前出現単語お
よび後出現単語の頻度情報に基づいて、前出現単語およ
び後出現単語のそれぞれがキーワードと共起する共起確
率を計算するものであり、順序依存型単語関連度計算部
２５は出現確率計算部２３からの各出現確率情報と、共
起確率計算部２４からの各共起確率情報とに基づいて指
定された単語に対する前出現単語および後出現単語の出
現順序に依存する関連度を計算するものである。

【０１３９】順序無依存型単語関連度計算部２６は、順
序依存型単語関連度計算部２５からの関連度情報に基づ
いて、指定された単語に対する前出現単語および後出現
単語の、出現順序に依存しない関連度を計算するもので
ある。単語群抽出部（図示しない）は、順序無依存型単
語関連度計算部２６にて計算された関連度情報に基づい
て、指定された単語に関連する単語群をテキストデータ
から抽出するものであり、記憶部（図示しない）は指定
された単語等に関する各種計算結果および抽出結果のう
ちの少なくとも一つを記憶しておくものであり、単語分
割部（図示しない）は、テキストデータについて単語ま
たは形態素の単位に分割するものである。

【０１４０】ここで、上記各部は、指定された単語（キ
ーワードωk ）の同義語に対しても指定された単語（キ
ーワードωk ）と同じ処理を施すことができるようにな
っている。例えば、順序依存型単語関連度計算部２５は
キーワードωk の同義語ωksの関連度A(ωks, ωi),A(
ωi,ωks) 計算するようになっており、また、頻度計算
部２２は同義語ωksの出現頻度f(ωks) 等を算出するよ
うになっており、前後出現単語抽出部２１は同義語ωks
の前に出現する前出現単語や後に出現する後出現単語を
テキストデータから抽出するようになっており、単語群
抽出部２７は順序無依存型単語関連度計算部２６にて算
出された関連度r(ωi,ωks) を基に同義語ωksの関連語
をテキストデータから抽出するようになっている。

【０１４１】さらに、上記各部とＣＰＵ１１，メインメ
モリ１２，ＨＤＤ１３等とを具体的に関連付けて説明す
ると、以下のようになる。同義語辞書部３１としてのＣ
ＰＵ１１は、キーワードωk に対して同義と見做しうる
単語ωksを判定するものである。ＣＰＵ１１は、キーワ
ードωk に対して同義と見做しうる単語ωksを判定する
際に、ハードディスク１３等の記憶装置やＦＤ等の記録
媒体に格納されている同義語の辞書データを参照して同
義語を検出するようになっている。

【０１４２】ここで、同義語辞書部３１としてのＣＰＵ
１１が、キーワード「北朝鮮」に対して単語「朝鮮人民
民主主義共和国」を同義語とみなした場合を前提に以下
説明する。なお、前記（ｂ）に述べたように、ＣＰＵ１
１は頻度計算部２２，前後出現単語抽出部２１，共起確
率計算部２４，出現確率計算部２３，順序依存型単語関
連度計算部２５，順序無依存型単語関連度計算部２６，
単語群抽出部，単語分割部として構成されているととも
に、メモリ１２やハードディスク１３は記憶部として構
成されている。

【０１４３】図２６，２７は、順序無依存型単語関連度
情報r(ωi,ωk)を基に単語群抽出部がテキストデータか
ら関連語を抜き出したリストを示す図であり、図２６は
単語「 北朝鮮」 の関連語リストを示す図であり、図２７
は単語「 朝鮮人民民主主義共和国」 の関連語リストを示
す図である。ここで、単語群抽出部２７としてのＣＰＵ
１１は、図２６，２７に示すキーワード「 北朝鮮」 ，同
義語「 朝鮮人民民主主義共和国」 の関連語リストから順
序無依存型単語関連度計算部２６にて算出された関連度
の高い関連語を抽出して、図２８に示すようなキーワー
ド「 北朝鮮」 の関連語のリストを出力するようになって
いる。

【０１４４】具体的に言えば、単語群抽出部２７として
のＣＰＵ１１は、図２６，２７に示す関連語リスト情報
を用いて、キーワード「 北朝鮮」 の関連語リスト中に無
い関連語が同義語「 朝鮮人民民主主義共和国」 の関連語
のリストに有る場合は、その同義語の関連語リスト中の
関連語をキーワード「 北朝鮮」 の関連語として出力する
ようになっている。例えば、単語群抽出部２７としての
ＣＰＵ１１は、図２８に示すように、単語「国旗」は図
２６の関連語リストの上位には無いが図２７の関連語リ
ストの上位に有ることから、単語「国旗」をキーワード
「 北朝鮮」 の関連語として出力するようになっている。

【０１４５】上述の構成により、本発明の一実施形態の
第３変形例にかかる関連語抽出装置が適用された汎用コ
ンピュータ１ｚでは、本体装置１ａ内へＣＤ−ＲＯＭ等
のコンピュータ読み取り可能な記録媒体から関連語抽出
プログラムがコンピュータ１ｚ内にインストールされる
ことで、動作し得る状態になる。ところで、関連語抽出
プログラムは、汎用コンピュータ１ｚに、キーワードに
関連する関連語としての単語群をテキストデータから抽
出すべく、対象単語指定機能，頻度計算機能, 前後出現
単語抽出機能，共起確率計算機能，出現確率計算機能，
順序依存型単語関連度計算機能，順序無依存型単語関連
度計算機能，単語群抽出機能，単語分割機能，関連単語
群抽出機能，同義語辞書機能を実行させるためのコンピ
ュータ１ｚの処理に適した命令が順番付けられた列であ
る。

【０１４６】同義語辞書機能は、コンピュータ１ｚにお
いてキーワード「北朝鮮」に対して同義と見做しうる単
語を判定する機能である。なお、対象単語指定機能はコ
ンピュータ１ｚにおいてテキストデータ中から関連語を
抽出すべき対象となるキーワードを指定する機能であ
り、単語分割機能はコンピュータ１ｚにおいてテキスト
データ中の文書情報を単語または形態素の単位に分割す
る機能であり、前後出現単語抽出機能はコンピュータ１
ｚにおいてテキストデータ内のキーワードωk の前に出
現する前出現単語ωfiまたはキーワードωk の後に出現
する後出現単語ωbiを抽出する機能であり、頻度計算機
能はコンピュータ１ｚにおいて頻度f(ωi)，f(ωk)等を
算出する機能である。

【０１４７】出現確率計算機能はコンピュータ１ｚにお
いてキーワードωk の出現確率P(ωk)とともに前後出現
単語抽出機能にて抽出された前出現単語ωfiおよび後出
現単語ωbiそれぞれの出現確率P(ωfi),P(ωbi) を計算
する機能であり、共起確率計算機能はコンピュータ１ｚ
において前後出現単語抽出機能にて抽出された前出現単
語ωfiおよび後出現単語ωbiのそれぞれがキーワードω
k と共起する共起確率P(ωfi, ωk)，P(ωk,ωbi) を計
算する機能であり、順序依存型単語関連度計算機能はコ
ンピュータ１ｚにおいて共起確率計算機能にて計算され
た各共起確率情報P(ωfi, ωk)，P(ωk,ωbi) および出
現確率計算機能にて計算された各出現確率情報P(ωk)，
P(ωfi),P(ωbi) に基づいて、キーワードωk に対する
前出現単語ωfiおよび後出現単語ωbiの出現順序に依存
する関連語度A(ωfi, ωk)，A(ωk,ωbi) を計算する機
能である。

【０１４８】順序無依存型単語関連度計算機能はコンピ
ュータ１ｚにおいて順序依存型単語関連度計算機能にて
計算された関連度情報A(ωfi, ωk)，A(ωk,ωbi) に基
づいて、キーワードに対する前出現単語ωfiおよび後出
現単語ωbiの出現順序に依存しない関連度r(ωi,ωk)を
計算する機能である。単語群抽出機能はコンピュータ１
ｚにおいて順序無依存型単語関連度計算機能にて計算さ
れた関連度情報r(ωi,ωk)に基づいて、キーワードωk
に関連する単語群をテキストデータから抽出して出力す
る機能である。

【０１４９】ここで、上記各機能とＣＰＵ１１で実行さ
れる動作とを関連付けて具体的な動作手順を説明する
と、同義語辞書機能として、ＣＰＵ１１は、図２６，２
７に示すキーワード「 北朝鮮」 ，同義語「 朝鮮人民民主
主義共和国」 の関連語リストから順序無依存型単語関連
度計算部２６にて算出された関連度の高い関連語を抽出
して、図２８に示すようなキーワード「 北朝鮮」 の関連
語のリストを出力するようになっている。

【０１５０】具体的に言えば、単語群抽出機能としての
ＣＰＵ１１は、図２６，２７に示す関連語リスト情報を
用いて、キーワード「 北朝鮮」 の関連語リスト中に無い
関連語が同義語「 朝鮮人民民主主義共和国」 の関連語の
リストに有る場合は、その同義語の関連語リスト中の関
連語をキーワード「 北朝鮮」 の関連語として出力する。

【０１５１】例えば、単語群抽出機能としてのＣＰＵ１
１は、図２８に示すように、単語「国旗」は図２６の関
連語リストの上位には無いが図２７の関連語リストの上
位に有ることから、単語「国旗」をキーワード「 北朝
鮮」 の関連語として出力する。換言すると、ＣＰＵ１１
は、対象単語指定ステップにおいて、指定されたキーワ
ード「 北朝鮮」 に対して単語「 朝鮮人民民主主義共和
国」 を同義語と見做して、単語群抽出ステップにおいて
同義語「 朝鮮人民民主主義共和国」 に関連する単語群
と、キーワード「 北朝鮮」 に関連する単語群を一つにま
とめて出力する。

【０１５２】なお、ＣＰＵ１１は、対象単語指定機能，
頻度計算機能, 前後出現単語抽出機能，共起確率計算機
能，出現確率計算機能，順序依存型単語関連度計算機
能，順序無依存型単語関連度計算機能，単語群抽出機
能，単語分割機能として図１２〜１５に示すような動作
をキーワード「 北朝鮮」 と場合により同義語「 朝鮮人民
民主主義共和国」 にも行なう。

【０１５３】上記を別言すると、汎用コンピュータ１ｚ
は、対象単語指定ステップ，前後出現単語抽出ステッ
プ，共起確率計算ステップ，出現確率計算ステップ，順
序依存型単語関連度計算ステップ，順序無依存型単語関
連度計算ステップ，単語群抽出ステップ，単語分割ステ
ップ，同義語に関連する単語群とキーワードに関連する
単語群とを一つにまとめて出力することを実行すること
で、テキストデータから関連語を抽出する。

【０１５４】このように本発明の一実施形態の第３変形
例にかかる関連語抽出装置が適用された汎用コンピュー
タ１ｚによれば、前記（ｂ）に述べたものの他に、ＣＰ
Ｕ１１が前出現単語に対する順序に依存する単語関連度
A(ωi,ωk)を２乗した値と後出現単語に対する順序に依
存する単語関連度A(ωk,ωi)を２乗した値との和算した
値を平方根する演算処理により算出された値を基に、単
語「 北朝鮮」 ，「 朝鮮人民民主主義共和国」 それぞれに
関連する単語群（図２６，２７）のリストを作成しつ
つ、キーワード「 北朝鮮」 に関連する単語群を一つにま
とめた関連語のリストを出力することができるととも
に、関連語の自動抽出を行なうときに問題となる異表記
を含む同義語間の問題を解決することもできる。 （ｃ）その他 （ｃ１）他の一実施形態の説明 図２９は、本発明の他の一実施形態にかかる関連語抽出
装置が適用された汎用コンピュータ１−１のブロック図
であり、この図２９に示すようにコンピュータ１−１は
前後出現単語抽出部２１，頻度計算部２２，共起確率計
算部２４，出現確率計算部２３，順序依存型単語関連度
計算部２５，順序無依存型単語関連度計算部２６，単語
抽出部２７，記憶部（図示しない）をそなえて構成され
る。

【０１５５】コンピュータ１−１は、前述の図１あるい
は図２に示すコンピュータ１と同様のハードウェア構成
を有するものである。なお、本発明の他の一実施形態に
かかる関連語抽出装置が適用された汎用コンピュータ１
−１は、前記（ｂ）で述べた一実施形態にかかる汎用コ
ンピュータ１とは、単語分割部を備えて構成されていな
い点を異にする。

【０１５６】ここで、前後出現単語抽出部２１はテキス
トデータ上において、指定された単語の前に出現する前
出現単語または指定された単語の後に出現する後出現単
語を抽出するものであり、出現確率計算部２３は頻度計
算部２２からの指定された単語の頻度情報および前出現
単語および後出現単語のテキストデータ上での出現頻度
情報に基づいて指定された単語の出現確率とともに上記
の前出現単語および後出現単語それぞれの出現確率を計
算しうるものである。

【０１５７】共起確率計算部２４は頻度計算部２２から
の前後出現単語抽出部２１にて抽出された前出現単語お
よび後出現単語の頻度情報に基づいて、前出現単語およ
び後出現単語のそれぞれがキーワードと共起する共起確
率を計算するものであり、順序依存型単語関連度計算部
２５は出現確率計算部２３からの各出現確率情報と、共
起確率計算部２４からの各共起確率情報とに基づいて指
定された単語に対する前出現単語および後出現単語の出
現順序に依存する関連度を計算するものである。

【０１５８】順序無依存型単語関連度計算部２６は、順
序依存型単語関連度計算部２５からの関連度情報に基づ
いて、指定された単語に対する前出現単語および後出現
単語の、出現順序に依存しない関連度を計算するもので
ある。単語群抽出部（図示しない）は、順序無依存型単
語関連度計算部２６にて計算された関連度情報に基づい
て、指定された単語に関連する単語群をテキストデータ
から抽出するものであり、記憶部（図示しない）は、指
定された単語に関する各種計算結果および抽出結果のう
ちの少なくとも一つを記憶しておくものである。

【０１５９】さらに、上記各部とＣＰＵ１１，メインメ
モリ１２，ＨＤＤ１３等とを具体的に関連付けて説明す
ると、ＣＰＵ１１は頻度計算部２２，前後出現単語抽出
部２１，共起確率計算部２４，出現確率計算部２３，順
序依存型単語関連度計算部２５，順序無依存型単語関連
度計算部２６，単語群抽出部２７として構成されている
とともに、メモリ１２やハードディスク１３は記憶部と
して構成されている。

【０１６０】上述の構成により、本発明の他の一実施形
態の関連語抽出装置が適用された汎用コンピュータ１−
１では、本体装置１ａ内へＣＤ−ＲＯＭ等のコンピュー
タ読み取り可能な記録媒体から関連語抽出プログラムが
コンピュータ内にインストールされることで、動作し得
る状態になる。ところで、関連語抽出プログラムは、汎
用コンピュータ１−１に、キーワードに関連する関連語
としての単語群をテキストデータから抽出すべく、対象
単語指定機能，頻度計算機能, 前後出現単語抽出機能，
共起確率計算機能，出現確率計算機能，順序依存型単語
関連度計算機能，順序無依存型単語関連度計算機能，単
語群抽出機能，類似度計算機能を実行させるためのコン
ピュータ１−１の処理に適した命令が順番付けられた列
である。

【０１６１】なお、対象単語指定機能はコンピュータ１
−１においてテキストデータ中から関連語を抽出すべき
対象となるキーワードを指定する機能であり、前後出現
単語抽出機能はコンピュータ１−１においてテキストデ
ータ内のキーワードωk の前に出現する前出現単語ωfi
またはキーワードωk の後に出現する後出現単語ωbiを
抽出する機能であり、頻度計算機能はコンピュータ１−
１において頻度f(ωi)，f(ωk)等を算出する機能であ
る。

【０１６２】出現確率計算機能はコンピュータ１−１に
おいてキーワードωk の出現確率P(ωk)とともに前後出
現単語抽出機能にて抽出された前出現単語ωfiおよび後
出現単語ωbiそれぞれの出現確率P(ωfi),P(ωbi) を計
算する機能であり、共起確率計算機能はコンピュータ１
−１において前後出現単語抽出機能にて抽出された前出
現単語ωfiおよび後出現単語ωbiのそれぞれがキーワー
ドωk と共起する共起確率P(ωfi, ωk)，P(ωk,ωbi)
を計算する機能であり、順序依存型単語関連度計算機能
はコンピュータ１−１において共起確率計算機能にて計
算された各共起確率情報P(ωfi, ωk)，P(ωk,ωbi) お
よび出現確率計算機能にて計算された各出現確率情報P
(ωk)，P(ωfi),P(ωbi) に基づいて、キーワードωk
に対する前出現単語ωfiおよび後出現単語ωbiの出現順
序に依存する関連語度A(ωfi, ωk)，A(ωk,ωbi) を計
算する機能である。

【０１６３】順序無依存型単語関連度計算機能はコンピ
ュータ１−１において順序依存型単語関連度計算機能に
て計算された関連度情報A(ωfi, ωk)，A(ωk,ωbi) に
基づいて、キーワードに対する前出現単語ωfiおよび後
出現単語ωbiの出現順序に依存しない関連度r(ωi,ωk)
を計算する機能である。単語群抽出機能はコンピュータ
１−１において順序無依存型単語関連度計算機能にて計
算された関連度情報r(ωi,ωk)に基づいて、キーワード
ωk に関連する単語群をテキストデータから抽出して出
力する機能である。

【０１６４】そして、ＣＰＵ１１は、対象単語指定機
能，頻度計算機能, 前後出現単語抽出機能，共起確率計
算機能，出現確率計算機能，順序依存型単語関連度計算
機能，順序無依存型単語関連度計算機能，単語群抽出機
能として図１２〜１４，３０に示すような動作を行な
う。ここで、図３０は、頻度計算部２２としてのＣＰＵ
１１が関連語抽出プログラムを実行する際の処理の流れ
を示すフローチャートであり、この図３０に示すよう
に、頻度計算機能としてＣＰＵ１１は、出現確率計算部
２３からの指示か否かを判断し（ステップＳ４０）、出
現確率計算部２３からの指示である場合は、キーワード
ωk の頻度情報f(ωk)が記憶装置に格納されているか否
かを判断する（ステップＳ４１）。

【０１６５】頻度情報f(ωk)が記憶装置に格納されてい
ない場合、頻度計算機能としてのＣＰＵ１１は、テキス
トデータ中にキーワードωk の出現頻度（回数）f(ωk)
を計算して（ステップＳ４２）、出力する（ステップＳ
４３）。他方、図３０には示していないが、頻度計算機
能としてのＣＰＵ１１は、前後出現単語抽出機能として
のＣＰＵ１１にて抽出された前出現単語ωfi, 後出現単
語ωbiのテキストデータ中の出現頻度数をも算出する。

【０１６６】ここで、ＣＰＵ１１は、出現確率計算機能
として、頻度計算機能としてのＣＰＵ１１が出力した頻
度情報f(ωk)，f(ωi)を基に、出現確率P(ωk)，P(ωi)
を計算する。ところで、出現確率計算部２３からの指示
ではない場合、頻度計算部２２としてのＣＰＵ１１は、
前後出現単語抽出部２１からの指示か否かを判断する
（ステップＳ４４）。

【０１６７】ここで、前後出現単語抽出部２１からの指
示である場合、頻度計算部２２としてのＣＰＵ１１は、
前後出現単語抽出部２１から渡されたテキストデータを
用いて、その中に含まれる単語の頻度を数えて（ステッ
プＳ４５）、集計した単語の頻度を出現確率計算部２３
へ出力する（ステップＳ４６）。また、頻度計算部２２
としてのＣＰＵ１１が、前後出現単語抽出部２１からの
指示ではないと判断した場合には、その信号をエラーと
する。

【０１６８】ところで、出現確率計算部２３としてのＣ
ＰＵ１１の処理の流れ( 図示しない) は、関連語抽出プ
ログラムを実行することにより、求める出現確率P(ωi)
等の情報が記憶装置に格納されているか否か判断し、記
憶装置に格納されていない場合には、頻度計算部２２か
らf(ωfi),f(ωbi),f(ωk)等の単語の頻度情報をうけて
出現確率P(bi),P(ωk)を計算して、その計算結果P(bi),
P(ωk)を出力する。一方、記憶装置に求める出現確率P
(ωi)等の確率情報P(bi),P(ωk)が格納されている場合
は、出現確率計算部２３としてのＣＰＵ１１は、共起確
率計算部２４へ出力する。

【０１６９】別言すると、汎用コンピュータ１−１は、
対象単語指定ステップ，前後出現単語抽出ステップ，共
起確率計算ステップ，出現確率計算ステップ，順序依存
型単語関連度計算ステップ，順序無依存型単語関連度計
算ステップ，単語群抽出ステップを実行することで、テ
キストデータから関連語を抽出する。このように本発明
の他の一実施形態にかかる関連語抽出装置としての汎用
コンピュータ１−１によれば、ＣＰＵ１１が前出現単語
に対する順序に依存する単語関連度A(ωi,ωk)を２乗し
た値と後出現単語に対する順序に依存する単語関連度A
(ωk,ωi)を２乗した値との和算した値を平方根する演
算処理により算出された値を用いて、英語，独語，仏語
等により分かち書きされている文書情報に関して、キー
ワードの前出現／後出現に依存しない利用者にとって分
かり易く、かつ、精度を高くして関連語を抽出できる。

【０１７０】さらに、本発明の他の一実施形態にかかる
関連語抽出装置が適用された汎用コンピュータ１−１に
よれば、ハードディスク１３等の記憶部をそなえて構成
されているので、頻度計算部２２，順序依存型単語関連
度計算部２５等における各処理により算出された情報が
保持されることで、関連語抽出に伴う処理を早めると共
に単語の出現順序に依存しない関連語のリストを作成す
ることができる。

【０１７１】ならびに、本発明他の一実施形態にかかる
汎用コンピュータ１−１によれば、関連語抽出プログラ
ムを基にコンピュータ１−１が、対象単語指定機能，前
後出現単語抽出機能，共起確率計算機能，出現確率計算
機能，順序依存型単語関連度計算機能，順序無依存型単
語関連度計算機能，単語群抽出機能を実行することにお
いても、ＣＰＵ１１が前出現単語に対する順序に依存す
る単語関連度A(ωi,ωk)を２乗した値と後出現単語に対
する順序に依存する単語関連度A(ωk,ωi)を２乗した値
との和算した値を平方根する演算処理により算出された
値を用いて、英語，独語，仏語等により分かち書きされ
ている文書情報に関して、キーワードの前出現／後出現
に依存しない利用者にとって分かり易く、かつ、精度を
高くして関連語を抽出できる。 （ｃ２）その他のハードウェア構成の説明 上記（ｂ）〜（ｃ１）では、汎用コンピュータ１，１
ｘ，１ｙ，１ｚ，１−１のように装置が単体として構成
されている場合を前提として説明をしたが、二つ以上の
装置により大量の文書データから関連語を抽出すること
もできる。

【０１７２】たとえば、通信端末の利用者の汎用或いは
非汎用のコンピュータからキーワードを通信回線（イン
ターネット、パソコン通信等）を介して大型のホストコ
ンピュータへ送信し、大型のホストコンピュータがデー
タベース等に格納してある大量の文書データから関連語
を抽出して、抽出した関連語を通信回線を介してキーワ
ードを送信した汎用或いは非汎用のコンピュータに送る
ことによっても前記（ｂ）〜（ｃ１）と同じ動作や作用
を得ることができる。

【０１７３】一方、前記（ｃ３）では、同義語辞書部３
１が順序依存型単語関連度計算部２５にて利用される場
合について説明したが、他の頻度計算部２２，前後出現
単語抽出部２１等が参照することとしても、前記（ｃ
３）同様に一つにまとめて関連語のリストを抽出するこ
とができ得る。また、同義語辞書部３１の他、シソーラ
スや対訳辞書等を用いても前記同様のことが実現するこ
とができる。

【０１７４】他方、前記（ｂ）〜（ｃ１）において、類
似度計算部２９，関連単語群出部３０等が単語群抽出部
２７にて抽出された関連語リストを基に、類似度を算出
したり、二つ以上の単語の関連語のリストを作成するよ
うになっているが、類似度計算部２９，関連単語群出部
３０等が、順序依存型単語関連度計算部２６にて算出さ
れた関連度r(ωi,ωk)を基に、類似度を算出したり、二
つ以上の単語の関連語のリストを作成するような構成に
してもよく、この場合においても、前記と同様に、新語
に対しても類似度の判定を行なうことができ、また、二
つの単語に関連する単語を見ることで二つの単語の関係
や付随する知識を理解し易くなる。

【０１７５】並びに、上記詳述した他、本発明の数式
（５）を基にして順序に依存しない関連度r(ωi,ωk)を
算出して関連語を抽出する要旨を逸脱しない範囲で様々
な形態において実施を行なうことができ得る。 （ｄ）順序依存型単語関連度計算部 上記（ｂ）〜（ｃ２）とは異なり、単語群抽出部２７が
順序依存型単語関連度計算部２５にて算出された関連度
A(ωi,ωk)或いは関連度A(ωk,ωi)の情報を基に関連語
をテキストデータから抽出するように用いる場合には、
関連語抽出装置は、キーワードと関連語の出現順序に依
存するが関連語のリストを作成することができる。

【０１７６】なお、この場合においても、頻度計算部２
２等の各部は、前記上記（ｂ）〜（ｃ２）に述べたとこ
とと同様である。

【０１７７】

【発明の効果】以上詳述したように、本発明の関連語抽
出装置によれば（請求項１）、単語群抽出部が、順序無
依存型単語関連度計算部にて計算された情報r(ωi,ωk)
を用いることにより、形態素解析また構文解析の処理を
施すことなく、利用者にとって分かり易く、かつ、精度
を高くして関連語を抽出できる利点がある。

【０１７８】また、本発明の請求項２記載の関連語抽出
装置によれば、記憶部が、頻度計算部，順序依存型単語
関連度計算部等の各処理により算出された情報を保持す
ることで、関連語抽出に伴う処理を早めると共に単語の
出現順序に依存しない関連語のリストを作成することが
できる利点がある。さらに、本発明の請求項３記載の関
連語抽出装置によれば、単語分割部が、単語毎に区切ら
れていないテキスト（例えば、日本語や中国語で書かれ
た文書）を単語あるいは形態素毎に分ける処理を行なう
ので、予め単語品詞情報をそなえていなくとも日本語等
で記載された文書からの関連語抽出も容易に作成するこ
とができる利点がある。

【０１７９】一方、本発明の請求項４記載の関連語抽出
装置によれば、類似度計算部が、順序無依存型単語関連
度計算部にて計算された情報r(ωi,ωk)を基に、２つ以
上の単語の類似度を算出することができる利点があると
ともに、新語に対しても類似度を判定することができる
利点もある。または、本発明の請求項５記載の関連語抽
出装置によれば、関連単語群抽出部が、順序無依存型単
語関連度計算部にて計算された情報r(ωi,ωk)を基に、
少なくとも２つ以上の単語に関連する単語群を一つにま
とめて出力することができる利点があるとともに、少な
くとも２つ以上の単語に関連する単語を理解する際に、
少なくとも２つ以上の単語間の関係や、付随する知識が
分かり易くなる利点がある。

【０１８０】他方、本発明の請求項６記載の関連語抽出
装置によれば、同義語辞書部をそなえて構成されること
で、同義語辞書部からの情報に基づき指定された単語と
同義と見做された単語については、指定された単語と一
つにまとめて出力するので、関連語の出現する位置がキ
ーワードの前後に関わらず、大量の文書データから有益
の関連語データを抽出することができる利点があるとと
もに、関連語を自動抽出するときに問題となる異表記を
含む同義語の問題を解決することができ、例えば，単語
「富士通」「Fujitsu」のように異なる表記でテキスト
データ中に出現しても同一のものとして関連語を抽出し
たい場合に有益である利点がある。

【０１８１】または、本発明の関連語抽出方法（請求項
７）によれば、対象単語指定ステップ，前後出現単語抽
出ステップ，共起確率計算ステップ，出現確率計算ステ
ップ，順序依存型単語関連度計算ステップ，順序無依存
型単語関連度計算ステップ，単語群抽出ステップを実行
することで、単語群抽出ステップが、順序無依存型単語
関連度計算ステップにて計算された情報r(ωi,ωk)を用
いることにより、形態素解析また構文解析の処理を施す
ことなく、利用者にとって分かり易く、かつ、精度を高
くして関連語を抽出できる利点がある。

【０１８２】さらに、本発明の請求項８記載の関連語抽
出方法によれば、単語分割ステップが、単語毎に区切ら
れていないテキスト（例えば、日本語や中国語で書かれ
た文書）を単語あるいは形態素毎に分ける処理を行なう
ので、日本語等で記載された文書からの関連語抽出も容
易に作成することができる利点がある。または、本発明
の請求項９記載の関連語抽出方法によれば、類似度計算
ステップが、順序無依存型単語関連度計算ステップにて
計算された情報r(ωi,ωk)を基に作成した関連語のリス
トを用いて、少なくとも２つ以上の単語間の類似度を算
出するので、新語に対しても類似度を判定することがで
きる利点もある。

【０１８３】または、本発明の請求項１０記載の関連語
抽出方法によれば、関連単語群抽出ステップが、順序無
依存型単語関連度計算ステップにて計算された情報r(ω
i,ωk)を基に作成した関連語のリストを用いて、少なく
とも２つ以上の単語に関連する単語群を一つにまとめて
出力するので、少なくとも２つ以上の単語に関連する単
語を理解する際に、少なくとも２つ以上の単語間の関係
や、付随する知識が分かり易くなる利点がある。

【０１８４】他方、本発明の請求項１１記載の関連語抽
出方法によれば、対象単語指定ステップにおいて指定さ
れた単語に対して同義と見做しうる単語がある場合に
は、単語群抽出ステップにおいて、同義と見做しうる単
語に関連する単語群と、指定された単語に関連する単語
群を一つにまとめて出力することから、関連語の出現す
る位置がキーワードの前後に関わらず、大量の文書デー
タから有益の関連語データを抽出することができる利点
があるとともに、関連語を自動抽出するときに問題とな
る異表記を含む同義語の問題を解決することができ、例
えば，単語「富士通」「Fujitsu 」のように異なる表記
でテキストデータ中に出現しても同一のものとして関連
語を抽出したい場合に有益である利点がある。

【０１８５】並びに、本発明の関連語抽出プログラムが
記録されたコンピュータ読取可能な記録媒体（請求項１
２）によれば、コンピュータが、関連語語抽出プログラ
ムを基に、対象単語指定機能，前後出現単語抽出機能，
共起確率計算機能，出現確率計算機能，順序依存型単語
関連度計算機能，順序無依存型単語関連度計算機能，単
語群抽出機能を実行することにより、形態素解析また構
文解析の処理を施すことなく、利用者にとって分かり易
く、かつ、精度を高くして関連語を抽出できる利点があ
る。

【図面の簡単な説明】

【図１】本発明の実施の形態にかかる関連語抽出装置が
適用されるシステムを示す図である。

【図２】本発明の実施の形態にかかる関連語抽出装置が
適用されるシステムの要部を示すブロック図である。

【図３】本発明の一実施形態にかかる関連語抽出装置が
適用されたシステムのブロック図である。

【図４】本発明の一実施形態にかかる一テキストデータ
を示す図である。

【図５】本発明の一実施形態にかかる単語或いは形態素
の単位に分割された一テキストデータを示す図である。

【図６】（ａ），（ｂ）は、それぞれ本発明の一実施形
態にかかる前後出現単語抽出部にて抽出された単語の一
例を示す図である。

【図７】本発明の一実施形態にかかる頻度計算部にて算
出された頻度情報の一例を示す図である。

【図８】本発明の一実施形態にかかる頻度計算部にて算
出された頻度情報の一例を示す図である。

【図９】本発明の一実施形態にかかる順序依存型単語関
連度計算部にて計算された関連度情報の一例を示す図で
ある。

【図１０】本発明の一実施形態にかかる順序依存型単語
関連度計算部にて計算された関連度情報の一例を示す図
である。

【図１１】本発明の一実施形態にかかる順序無依存型単
語関連度計算部にて計算された関連度情報の一例を示す
図である。

【図１２】本発明の一実施形態にかかるコンピュータに
て、ＣＰＵが関連語抽出プログラムを実行するときの処
理の流れを示すフローチャートである。

【図１３】本発明の一実施形態にかかるコンピュータに
て、共起確率計算機能としてのＣＰＵが関連語抽出プロ
グラムを実行するときの処理の流れを示すフローチャー
トである。

【図１４】本発明の一実施形態にかかるコンピュータに
て、前後出現単語抽出部としてのＣＰＵが関連語抽出プ
ログラムを実行するときの処理の流れを示すフローチャ
ートである。

【図１５】本発明の一実施形態にかかるコンピュータに
て、頻度計算部としてＣＰＵが関連語抽出プログラムを
実行するときの処理の流れを示すフローチャートであ
る。

【図１６】本発明の一実施形態の第１変形例にかかる関
連語抽出装置が適用された汎用コンピュータのブロック
図である。

【図１７】本発明の一実施形態の第１変形例にかかる単
語群抽出部にて単語「自動車」に関して抽出された関連
語リストを示す図である。

【図１８】本発明の一実施形態の第１変形例にかかる単
語群抽出部にて単語「車」に関して抽出された関連語リ
ストを示す図である。

【図１９】本発明の一実施形態の第１変形例にかかる単
語群抽出部にて単語「航空機」に関して抽出された関連
語リストを示す図である。

【図２０】本発明の一実施形態の第１変形例にかかる類
似度計算部にて算出された単語「自動車」 ，「 車」 の類
似度と単語「 自動車」 ，「 航空機」 の類似度とを示す図
である。

【図２１】本発明の一実施形態の第２変形例にかかる関
連語抽出装置が適用された汎用コンピュータのブロック
図である。

【図２２】本発明の一実施形態の第２変形例にかかる単
語群抽出部にて単語「エジプト」に関して抽出された関
連語リストを示す図である。

【図２３】本発明の一実施形態の第２変形例にかかる単
語群抽出部にて単語「大統領」に関して抽出された関連
語リストを示す図である。

【図２４】本発明の一実施形態の第２変形例にかかる関
連単語群抽出部にて抽出された２つの単語「 エジプト」
，「 大統領」 に関連する単語群のリストを示す図であ
る。

【図２５】本発明の一実施形態の第３変形例にかかる関
連語抽出装置が適用された汎用コンピュータのブロック
図である。

【図２６】本発明の一実施形態の第３変形例にかかる単
語群抽出部にて単語「北朝鮮」に関して抽出された関連
語リストを示す図である。

【図２７】本発明の一実施形態の第３変形例にかかる単
語群抽出部にて単語「朝鮮人民民主主義共和国」に関し
て抽出された関連語リストを示す図である。

【図２８】本発明の一実施形態の第３変形例にかかる単
語群抽出部にて単語「北朝鮮」，「朝鮮人民民主主義共
和国」に関して抽出された関連語リストを示す図であ
る。

【図２９】本発明の他の一実施形態にかかる関連語抽出
装置が適用された汎用コンピュータのブロック図であ
る。

【図３０】本発明の他の一実施形態にかかる汎用コンピ
ュータにて、頻度計算部としてＣＰＵが関連語抽出プロ
グラムを実行するときの処理の流れを示すフローチャー
トである。

【符号の説明】

１，１ｘ，１ｙ，１ｚ，１−１ 汎用コンピュータ １ａ 本体装置 １ｂ ディスプレイ １ｃ キーボード １ｄ ＣＤ−ＲＯＭドライブ １１ ＣＰＵ １２ メモリ １３ ハードディスク（ＨＤＤ） １４ 入力装置 １５ 出力装置 ２１ 前後出現単語抽出部 ２２ 頻度計算部 ２３ 出現確率計算部 ２４ 共起確率計算部 ２５ 順序依存型単語関連度計算部 ２６ 順序無依存型単語関連度計算部 ２７ 単語群抽出部 ２８ 単語分割部 ２９ 類似度計算部 ３０ 関連単語群抽出部 ３１ 同義語辞書部

Claims (12)

【特許請求の範囲】
1. 【請求項１】 テキストデータ上において、指定された
   単語の前に出現する前出現単語または上記指定された単
   語の後に出現する後出現単語を抽出する前後出現単語抽
   出部と、 上記指定された単語がテキストデータ上で出現する頻
   度，上記の前出現単語または後出現単語がテキストデー
   タ上で出現する頻度および該前後出現単語抽出部にて抽
   出された上記の前出現単語および後出現単語の頻度を計
   算しうる頻度計算部と、 該頻度計算部からの上記指定された単語の頻度情報およ
   び上記の前出現単語および後出現単語のテキストデータ
   上での出現頻度情報に基づいて、上記指定された単語の
   出現確率とともに上記の前出現単語および後出現単語そ
   れぞれの出現確率を計算しうる出現確率計算部と、 該頻度計算部からの、該前後出現単語抽出部にて抽出さ
   れた上記の前出現単語および後出現単語の頻度情報に基
   づいて、上記の前出現単語および後出現単語のそれぞれ
   が上記指定された単語と共起する共起確率を計算する共
   起確率計算部と、 該出現確率計算部からの各出現確率情報と、該共起確率
   計算部からの各共起確率情報とに基づいて、上記の指定
   された単語に対する前出現単語および後出現単語の、出
   現順序に依存する関連度を計算する順序依存型単語関連
   度計算部と、 該順序依存型単語関連度計算部からの関連度情報に基づ
   いて、上記の指定された単語に対する前出現単語および
   後出現単語の、出現順序に依存しない関連度を計算する
   順序無依存型単語関連度計算部と、 該順序無依存型単語関連度計算部にて計算された関連度
   情報に基づいて、上記指定された単語に関連する単語群
   を上記テキストデータから抽出する単語群抽出部とをそ
   なえて構成されたことを特徴とする、関連語抽出装置。
2. 【請求項２】 上記指定された単語に関する各種計算結
   果および抽出結果のうちの少なくとも一つを記憶してお
   く記憶部をそなえて構成されたことを特徴とする、請求
   項１記載の関連語抽出装置。
3. 【請求項３】 上記テキストデータについて単語または
   形態素の単位に分割する単語分割部をそなえ、該単語分
   割部にて分割された結果を用いることにより、上記の前
   後出現単語抽出部および頻度計算部における処理を行な
   うように構成されたことを特徴とする、請求項１記載の
   関連語抽出装置。
4. 【請求項４】 該単語群抽出部から、上記指定された単
   語としての少なくとも２つの単語それぞれに関連する単
   語群の抽出結果を用いることにより、上記少なくとも２
   つの単語間の類似度を計算する類似度計算部をそなえて
   構成されたことを特徴とする、請求項１記載の関連語抽
   出装置。
5. 【請求項５】 該単語群抽出部から、上記指定された単
   語としての少なくとも２つの単語それぞれに関連する単
   語群の抽出結果を用いることにより、上記各単語の全て
   に関連する単語群を抽出する関連単語群抽出部をそなえ
   て構成されたことを特徴とする、請求項１記載の関連語
   抽出装置。
6. 【請求項６】 上記指定された単語に対して同義と見做
   しうる単語を判定するための同義語辞書部をそなえ、該
   同義語辞書部からの情報に基づき上記指定された単語と
   同義と見做された単語については、上記指定された単語
   と一つにまとめるように構成されたことを特徴とする、
   請求項１記載の関連語抽出装置。
7. 【請求項７】 ある単語に関連する関連語としての単語
   群をテキストデータから抽出する関連語抽出方法におい
   て、 上記関連語を抽出すべき対象となる単語を指定する対象
   単語指定ステップと、 テキストデータ上において、指定された単語の前に出現
   する前出現単語および後に出現する後出現単語を抽出す
   る前後出現単語抽出ステップと、 該前後出現単語抽出ステップにて抽出された前出現単語
   および後出現単語のそれぞれが、該対象単語指定ステッ
   プにて指定された単語と共起する共起確率を計算する共
   起確率計算ステップと、 該対象単語指定ステップにて指定された単語の出現確率
   とともに、該前後出現単語抽出ステップにて抽出された
   前出現単語および後出現単語それぞれの出現確率を計算
   する出現確率計算ステップと、 上記の共起確率計算ステップにて計算された各共起確率
   情報および出現確率計算ステップにて計算された各出現
   確率情報に基づいて、上記の指定された単語に対する前
   出現単語および後出現単語の、出現順序に依存する関連
   度を計算する順序依存型単語関連度計算ステップと、 該順序依存型単語関連度計算ステップにて計算された関
   連度情報に基づいて、上記の指定された単語に対する前
   出現単語および後出現単語の、出現順序に依存しない関
   連度を計算する順序無依存型単語関連度計算ステップ
   と、 該順序無依存型単語関連度計算ステップにて計算された
   関連度情報に基づいて、上記指定された単語に関連する
   単語群を上記テキストデータから抽出して出力する単語
   群抽出ステップとをそなえて構成されたことを特徴とす
   る、関連語抽出方法。
8. 【請求項８】 該前後出現単語抽出ステップにおける上
   記の前出現単語および後出現単語を抽出する前段または
   後段において、上記テキストデータについて単語または
   形態素の単位に分割する単語分割ステップをそなえて構
   成されたことを特徴とする、請求項７記載の関連語抽出
   方法。
9. 【請求項９】 該単語群抽出ステップにて上記指定され
   た単語としての少なくとも２つの単語それぞれに関連す
   る単語群を抽出した後に、抽出された上記各単語に関連
   する単語群から、上記少なくとも２つの単語間の類似度
   を計算する類似度計算ステップをそなえて構成されたこ
   とを特徴とする、請求項７記載の関連語抽出方法。
10. 【請求項１０】 該単語群抽出ステップにて上記指定さ
    れた単語としての少なくとも２つの単語それぞれに関連
    する単語群を抽出した後に、抽出された上記各単語に関
    連する単語群から、上記各単語全てに関連する単語群を
    抽出する関連単語群抽出ステップをそなえて構成された
    ことを特徴とする、請求項７記載の関連語抽出方法
11. 【請求項１１】 該対象単語指定ステップにおいて指定
    された単語に対して同義と見做しうる単語がある場合に
    は、該単語群抽出ステップにおいて、上記同義と見做し
    うる単語に関連する単語群と、上記指定された単語に関
    連する単語群とを一つにまとめて出力することを特徴と
    する、請求項７記載の関連語抽出方法。
12. 【請求項１２】 ある単語に関連する関連語としての単
    語群をテキストデータから抽出すべく、 コンピュータに、 上記関連語を抽出すべき対象となる単語を指定する対象
    単語指定機能と、 テキストデータ上において、指定された単語の前に出現
    する前出現単語および後に出現する後出現単語を抽出す
    る前後出現単語抽出機能と、 該前後出現単語抽出機能にて抽出された前出現単語およ
    び後出現単語のそれぞれが、該対象単語指定機能にて指
    定された単語と共起する共起確率を計算する共起確率計
    算機能と、 該対象単語指定機能にて指定された単語の出現確率とと
    もに、該前後出現単語抽出機能にて抽出された前出現単
    語および後出現単語それぞれの出現確率を計算する出現
    確率計算機能と、 上記の共起確率計算機能にて計算された各共起確率情報
    および出現確率計算機能にて計算された各出現確率情報
    に基づいて、上記の指定された単語に対する前出現単語
    および後出現単語の、出現順序に依存する関連度を計算
    する順序依存型単語関連度計算機能と、 該順序無依存型単語関連度計算機能にて計算された関連
    度情報に基づいて、上記指定された単語に対する前出現
    単語および後出現単語の、出現順序に依存しない関連度
    を計算する順序無依存型単語関連度計算機能と、 該順序無依存型単語関連度計算機能にて計算された関連
    度情報に基づいて、上記指定された単語に関連する単語
    群を上記テキストデータから抽出して出力する単語群抽
    出機能とを実現させるための関連語抽出プログラムが記
    録されたことを特徴とする、関連語抽出プログラムが記
    録されたコンピュータ読取可能な記録媒体。