JPH1185797A - 文書自動分類装置、学習装置、分類装置、文書自動分類方法、学習方法、分類方法および記憶媒体 - Google Patents

Abstract

(57)【要約】 【課題】 話題を正確に反映したベクトル空間を形成す
ることができ、分類を適正に行うことができる文書自動
分類装置を提供する。 【解決手段】 文書自動分類装置は、学習用文書から有
効語を選定し（有効語選定部１０３）、学習用文書と有
効語とを参照して各段落内に含まれている有効語の数を
求め（段落内有効語数計算部１０５）、段落内有効語数
を用いて各有効語の組の段落内共起頻度を求める（段落
内共起頻度計算部１０７）。この求められた段落内共起
頻度から各有効語の有効語ベクトルが求められ、学習用
文書と分類対象文書のそれぞれについて、有効語ベクト
ルを参照して文書ベクトルが求められる。この学習用文
書の文書ベクトルから求められた各カテゴリのフォルダ
ベクトルと分類対象文書の文書ベクトルとは比較され、
この比較結果に応じて分類対象文書が属するカテゴリが
決定される。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、分類対象文書をユ
ーザの意図に沿って分類する文書自動分類装置、それに
用いられる学習装置および分類装置と、文書自動分類方
法、それに用いられる学習方法および分類方法と、文書
自動分類装置を構築するための記憶媒体とに関する。

【０００２】

【従来の技術】分類対象文書をユーザの意図に沿って分
類する方法の一つとして、ベクトル空間モデルを利用し
た方法がある。このベクトル空間モデルでは、分類に有
用な語や文書、カテゴリをベクトルで表現し、ベクトル
の方向から文書が属するカテゴリを決定する。このベク
トル空間モデルを利用した文書自動分類処理は、学習フ
ェーズと分類フェーズとに分けられる。学習フェーズで
は、予め正しく分類された学習用文書から分類に有用な
語（以下、有効語という）を選出し、各有効語をベクト
ル表現する。このベクトルは有効語ベクトルと呼ばれ、
この有効語ベクトルの成分は、出現頻度や単語共起確率
などにより求められる。また、学習用文書をベクトル表
現して、各カテゴリの特徴を表すフォルダベクトルの算
出が行われる。分類フェーズでは、学習フェーズで得ら
れた有効語辞書を用いて分類対象文書をベクトルで表現
し（以下、文書ベクトルという）、この文書ベクトルと
フォルダベクトルとを比較し、該比較結果に応じて分類
対象文書が属するカテゴリを決定する。

【０００３】この方法を採用した文書自動分類装置の構
成について図７ないし図９を参照しながら説明する。図
７は従来の文書自動分類装置の構成を示すブロック図、
図８は図７の文書自動分類装置における学習フェーズの
処理手順を示すフローチャート、図９は図７の文書自動
分類装置における分類フェーズの処理手順を示すフロー
チャートである。

【０００４】文書自動分類装置は、図７に示すように、
学習用文書を保持する学習用文書保持部５０１と、分類
対象文書を保持する分類対象文書保持部５０２と、学習
用文書から有効語を選定する有効語選定部５０３と、選
定された有効語を保持する有効語保持部５０４と、学習
用文書と有効語とを参照して各文書に含まれている有効
語の数を求める文書内有効語数計算部５０５と、求めら
れた各文書内の有効語数を保持する文書内有効語数保持
部５０６とを備える。

【０００５】文書内有効語数保持部５０６に保持された
文書内の有効語数は文書内共起頻度計算部５０７に与え
られ、文書内共起頻度計算部５０７は文書内有効語数を
用いて各有効語の組の文書内共起頻度を求める。この求
められた文書内共起頻度は、文書内共起頻度保持部５０
８に保持された後に、有効語ベクトル計算部５０９に与
えられる。有効語ベクトル計算部５０９は、文書内共起
頻度を用いて各有効語の有効語ベクトルを求める。ここ
で、有効語Ｔi と有効語Ｔj の共起確率をｃi,j 、有効
語数をＮとすると、有効語Ｔi の有効語ベクトルＴi
は、次の（１）式により、 Ｔi ＝（ｃi,1 ，ｃi,2 ，…，ｃi,N ） …（１） となる。また、共起確率ｃi,j は次の（２）式により定
義される。

【０００６】 ｃi,j ＝（Ｔi とＴj の両方を含む文書数）／（Ｔi を含む文書数） …（２） 有効語ベクトル計算部５０９により求められた有効語ベ
クトルは、有効語ベクトル保持部５１０に保持された後
に文書ベクトル計算部５１１に与えられる。文書ベクト
ル計算部５１１は、学習用文書と分類対象文書のそれぞ
れについて、有効語ベクトルを参照して文書ベクトルを
求め、学習用文書と分類対象文書のそれぞれについて求
められた文書ベクトルは文書ベクトル保持部５１２に保
持される。文書ベクトル保持部５１２に保持された学習
用文書の文書ベクトルはフォルダベクトル計算部５１３
に与えられ、フォルダベクトル計算部５１３は学習用文
書の文書ベクトルを用いて各カテゴリのフォルダベクト
ルを求める。求められた各カテゴリのフォルダベクトル
は、フォルダベクトル保持部５１４に保持される。

【０００７】フォルダベクトル保持部５１４に保持され
た各カテゴリのフォルダベクトルは、文書ベクトル保持
部５１２に保持された分類対象文書の文書ベクトルとと
もに分類決定部５１５に与えられ、分類決定部５１５は
分類対象文書の文書ベクトルと各カテゴリのフォルダベ
クトルとを比較し、該比較結果に応じて分類対象文書が
属するカテゴリを決定する。この決定された分類対象文
書のカテゴリは分類結果保持部５１６に保持される。

【０００８】次に、文書自動分類装置における学習フェ
ーズの処理手順について図８を参照しながら説明する。

【０００９】まず、ステップＳ６０１において学習要文
書に含まれる語の中から、分類に有用な語を有効語とし
て選定し、続くステップＳ６０２で、各文書内に含まれ
ている選定した有効語の数を求める。

【００１０】次いで、ステップＳ６０３に進み、文書内
有効語数から各有効語の組の文書内共起頻度を求め、続
くステップＳ６０４で、文書内共起頻度から有効語ベク
トルを算出する。そして、ステップＳ６０５で、有効語
ベクトルを参照して学習用文書から有効語を取り出し、
続くステップＳ６０６で、取り出した有効語の有効語ベ
クトルの平均を取って学習用文書の文書ベクトルを求め
る。

【００１１】次いで、ステップＳ６０７に進み、学習用
文書における各カテゴリに属する文書の文書ベクトルの
平均を取り、該文書のベクトルの平均からフォルダベク
トルを求め、本処理を終了する。

【００１２】この学習フェーズが終了すると、分類フェ
ーズが開始される。この分類フェーズの処理手順につい
て図９を参照しながら説明する。

【００１３】分類フェーズでは、まずステップＳ７０１
において上記ステップＳ６０４で求めた有効語ベクトル
を参照して分類対象文書から有効語を取り出し、続くス
テップＳ７０２で取り出した有効語のベクトル（上記ス
テップＳ６０４で求めた有効語ベクトル）の平均を取
り、このベクトルの平均から分類対象文書の文書ベクト
ルを求める。

【００１４】次いで、ステップＳ７０３に進み、分類対
象文書の文書ベクトルと学習フェーズで求められたフォ
ルダベクトルとを比較し、該比較結果に応じて分類対象
文書が属するカテゴリを決定し、本処理を終了する。

【００１５】

【発明が解決しようとする課題】しかし、上述した従来
の文書自動分類装置では、学習用文書における有効語の
文書内共起頻度から有効語ベクトルを求めるから、異な
る話題について述べた２つの段落に出現する有効語同士
も共起していると判断されて話題を正確に反映したベク
トル空間が形成されないことがあり、ひいては分類を適
正に行うことができない。

【００１６】本発明の目的は、話題を正確に反映したベ
クトル空間を形成することができ、分類を適正に行うこ
とができる文書自動分類装置、文書自動分類方法および
記憶媒体を提供することにある。

【００１７】本発明の他の目的は、話題を正確に反映し
たベクトル空間を形成することができ、分類を適正に行
うことが可能な文書自動分類システムを実現することが
できる学習装置、分類装置、学習方法、分類方法および
記憶媒体を提供することにある。

【００１８】

【課題を解決するための手段】請求項１記載の発明は、
学習用文書と該学習用文書から選出された有効語を用い
て、分類対象文書をユーザの意図に沿って分類する文書
自動分類装置において、前記学習用文書について前記有
効語を参照して各文章単位毎にそれに含まれる各有効語
の数を求める文章単位内有効語数計算手段と、前記有効
語数を参照して各有効語の組の文章単位内共起頻度を求
める文章単位内共起頻度計算手段と、前記文章単位内共
起頻度を参照して前記各有効語の有効語ベクトルを求め
る有効語ベクトル計算手段と、前記学習用文書と前記分
類対象文書とのそれぞれについて、前記有効語ベクトル
を参照して文書ベクトルを求める文書ベクトル計算手段
と、前記学習用文書について求められた文書ベクトルを
用いて各カテゴリのフォルダベクトルを求めるフォルダ
ベクトル計算手段と、前記分類対象文書について求めら
れた文書ベクトルと前記各カテゴリのフォルダベクトル
とを比較し、該比較結果に応じて前記分類対象文書が属
するカテゴリを決定する分類決定手段とを備えることを
特徴とする。

【００１９】請求項２記載の発明は、分類対象文書をユ
ーザの意図に沿って分類する文書自動分類システムに用
いられる、前記分類対象文書が属するカテゴリを決定す
るための基準となる各カテゴリのフォルダベクトルを求
めるための学習装置において、学習用文書を保持する学
習用文書保持手段と、前記学習用文書から有効語を選定
する有効語選定手段と、前記学習用文書について前記有
効語を参照して各文章単位毎にそれに含まれる各有効語
の数を求める文章単位内有効語数計算手段と、前記有効
語数を参照して各有効語の組の文章単位内共起頻度を求
める文章単位内共起頻度計算手段と、前記文章単位内共
起頻度を参照して前記各有効語の有効語ベクトルを求め
る有効語ベクトル計算手段と、前記有効語ベクトルを参
照して文書ベクトルを求める文書ベクトル計算手段と、
前記文書ベクトルを用いて前記各カテゴリのフォルダベ
クトルを求めるフォルダベクトル計算手段とを備えるこ
とを特徴とする。

【００２０】請求項３記載の発明は、分類対象文書をユ
ーザの意図に沿って分類する文書自動分類システムに請
求項２記載の学習装置とともに用いられる、前記分類対
象文書が属するカテゴリを決定するための分類装置にお
いて、前記分類対象文書を保持する分類対象文書保持手
段と、前記分類対象文書について、前記学習装置で求め
られた有効語ベクトルを参照して文書ベクトルを求める
文書ベクトル計算手段と、前記分類対象文書について求
められた文書ベクトルと前記学習装置で求められた各カ
テゴリのフォルダベクトルとを比較し、該比較結果に応
じて前記分類対象文書が属するカテゴリを決定する分類
決定手段とを備えることを特徴とする。

【００２１】請求項４記載の発明は、学習用文書と該学
習用文書から選出された有効語を用いて、分類対象文書
をユーザの意図に沿って分類する文書自動分類方法にお
いて、前記学習用文書について前記有効語を参照して各
文章単位毎にそれに含まれる各有効語の数を求める工程
と、前記有効語数を参照して各有効語の組の文章単位内
共起頻度を求める工程と、前記文章単位内共起頻度を参
照して前記各有効語の有効語ベクトルを求める工程と、
前記学習用文書と前記分類対象文書とのそれぞれについ
て、前記有効語ベクトルを参照して文書ベクトルを求め
る工程と、前記学習用文書について求められた文書ベク
トルを用いて各カテゴリのフォルダベクトルを求める工
程と、前記分類対象文書について求められた文書ベクト
ルと前記各カテゴリのフォルダベクトルとを比較し、該
比較結果に応じて前記分類対象文書が属するカテゴリを
決定する工程とを備えることを特徴とする。

【００２２】請求項５記載の発明は、分類対象文書をユ
ーザの意図に沿って分類する文書自動分類システムに用
いられる、前記分類対象文書が属するカテゴリを決定す
るための基準となる各カテゴリのフォルダベクトルを求
めるための学習方法において、学習用文書を保持する工
程と、前記学習用文書から有効語を選定する工程と、前
記学習用文書について前記有効語を参照して各文章単位
毎にそれに含まれる各有効語の数を求める工程と、前記
有効語数を参照して各有効語の組の文章単位内共起頻度
を求める工程と、前記文章単位内共起頻度を参照して前
記各有効語の有効語ベクトルを求める工程と、前記有効
語ベクトルを参照して文書ベクトルを求める工程と、前
記文書ベクトルを用いて前記各カテゴリのフォルダベク
トルを求める工程とを備えることを特徴とする。

【００２３】請求項６記載の発明は、分類対象文書をユ
ーザの意図に沿って分類する文書自動分類システムに請
求項５記載の学習方法とともに用いられる、前記分類対
象文書が属するカテゴリを決定するための分類方法にお
いて、前記分類対象文書を保持する工程と、前記分類対
象文書について、前記学習方法で求められた有効語ベク
トルを参照して文書ベクトルを求める工程と、前記分類
対象文書について求められた文書ベクトルと前記学習方
法で求められた各カテゴリのフォルダベクトルとを比較
し、該比較結果に応じて前記分類対象文書が属するカテ
ゴリを決定する工程とを備えることを特徴とする。

【００２４】請求項７記載の発明は、学習用文書と該学
習用文書から選出された有効語を用いて、分類対象文書
をユーザの意図に沿って分類する文書自動分類装置を構
築するためのプログラムを格納した記憶媒体において、
前記プログラムは、前記学習用文書について前記有効語
を参照して各文章単位毎にそれに含まれる各有効語の数
を求める文章単位内有効語数計算モジュールと、前記有
効語数を参照して各有効語の組の文章単位内共起頻度を
求める文章単位内共起頻度計算モジュールと、前記文章
単位内共起頻度を参照して前記各有効語の有効語ベクト
ルを求める有効語ベクトル計算モジュールと、前記学習
用文書と前記分類対象文書とのそれぞれについて、前記
有効語ベクトルを参照して文書ベクトルを求める文書ベ
クトル計算モジュールと、前記学習用文書について求め
られた文書ベクトルを用いて各カテゴリのフォルダベク
トルを求めるフォルダベクトル計算モジュールと、前記
分類対象文書について求められた文書ベクトルと前記各
カテゴリのフォルダベクトルとを比較し、該比較結果に
応じて前記分類対象文書が属するカテゴリを決定する分
類決定モジュールとを備えることを特徴とする。

【００２５】請求項８記載の発明は、分類対象文書をユ
ーザの意図に沿って分類する文書自動分類システムに用
いられる、前記分類対象文書が属するカテゴリを決定す
るための基準となる各カテゴリのフォルダベクトルを求
めるための学習装置を構築するための学習プログラムを
格納した記憶媒体において、前記学習プログラムは、学
習用文書を保持する学習用文書保持モジュールと、前記
学習用文書から有効語を選定する有効語選定モジュール
と、前記学習用文書について前記有効語を参照して各文
章単位毎にそれに含まれる各有効語の数を求める文章単
位内有効語数計算モジュールと、前記有効語数を参照し
て各有効語の組の文章単位内共起頻度を求める文章単位
内共起頻度計算モジュールと、前記文章単位内共起頻度
を参照して前記各有効語の有効語ベクトルを求める有効
語ベクトル計算モジュールと、前記有効語ベクトルを参
照して文書ベクトルを求める文書ベクトル計算モジュー
ルと、前記文書ベクトルを用いて前記各カテゴリのフォ
ルダベクトルを求めるフォルダベクトルモジュールとを
備えることを特徴とする。

【００２６】請求項９記載の発明は、分類対象文書をユ
ーザの意図に沿って分類する文書自動分類システムに請
求項８記載の記憶媒体とともに用いられる、前記分類対
象文書が属するカテゴリを決定するための分類装置を構
築するための分類プログラムを格納した記憶媒体におい
て、前記分類プログラムは、前記分類対象文書を保持す
る分類対象文書保持モジュールと、前記分類対象文書に
ついて、前記請求項８記載の記憶媒体の学習プログラム
により求められた有効語ベクトルを参照して文書ベクト
ルを求める文書ベクトル計算モジュールと、前記分類対
象文書について求められた文書ベクトルと前記請求項８
記載の記憶媒体の学習プログラムにより求められた各カ
テゴリのフォルダベクトルとを比較し、該比較結果に応
じて前記分類対象文書が属するカテゴリを決定する分類
決定モジュールとを備えることを特徴とする。

【００２７】

【発明の実施の形態】以下に本発明の実施の形態につい
て図を参照しながら説明する。

【００２８】図１は本発明の文書自動分類装置の実施の
一形態の機能構成を示すブロック図、図２は図１の文書
自動分類装置のハードウェア構成を示すブロック図であ
る。

【００２９】文書自動分類装置は、図１に示すように、
学習用文書を保持する学習用文書保持部１０１と、分類
対象文書を保持する分類対象文書保持部１０２と、学習
用文書から有効語を選定する有効語選定部１０３と、選
定された有効語を保持する有効語保持部１０４と、学習
用文書と有効語とを参照して各段落内に含まれている有
効語の数を求める段落内有効語数計算部１０５と、求め
られた各段落内の有効語数を保持する段落内有効語数保
持部１０６とを備える。

【００３０】段落内有効語数保持部１０６に保持された
各段落内の有効語数は段落内共起頻度計算部１０７に与
えられ、段落内共起頻度計算部１０７は段落内有効語数
を用いて各有効語の組の段落内共起頻度を求める。この
求められた段落内共起頻度は、段落内共起頻度保持部１
０８に保持された後に、有効語ベクトル計算部１０９に
与えられる。有効語ベクトル計算部１０９は、段落内共
起頻度を用いて各有効語の有効語ベクトルを求める。こ
こで、有効語Ｔi と有効語Ｔjの共起確率をｃ'i,j、有
効語数をＮとすると、有効語Ｔi の有効語ベクトルＴ'i
は、次の（３）式により、 Ｔ'i＝（ｃ'i,1，ｃ'i,2，…，ｃ'i,N） …（３） となる。また、共起確率ｃi,j は次の（４）式により定
義される。

【００３１】 ｃ'i,j＝（Ｔi とＴj の両方を含む段落数）／（Ｔi を含む段落数） …（４） 有効語ベクトル計算部１０９により求められた有効語ベ
クトルは、有効語ベクトル保持部１１０に保持された後
に文書ベクトル計算部１１１に与えられる。文書ベクト
ル計算部１１１は、学習用文書と分類対象文書のそれぞ
れについて、有効語ベクトルを参照して文書ベクトルを
求め、学習用文書と分類対象文書のそれぞれについて求
められた文書ベクトルは文書ベクトル保持部１１２に保
持される。文書ベクトル保持部１１２に保持された学習
用文書の文書ベクトルはフォルダベクトル計算部１１３
に与えられ、フォルダベクトル計算部１１３は学習用文
書の文書ベクトルを用いて各カテゴリのフォルダベクト
ルを求める。求められた各カテゴリのフォルダベクトル
は、フォルダベクトル保持部１１４に保持される。

【００３２】フォルダベクトル保持部１１４に保持され
た各カテゴリのフォルダベクトルは、文書ベクトル保持
部１１２に保持された分類対象文書の文書ベクトルとと
もに分類決定部１１５に与えられ、分類決定部１１５は
分類対象文書の文書ベクトルと各カテゴリのフォルダベ
クトルとを比較し、該比較結果に応じて分類対象文書が
属するカテゴリを決定する。この決定された分類対象文
書のカテゴリは分類結果保持部１１６に保持される。

【００３３】この文書自動分類装置のハードウェア構成
においては、図２に示すように、ＲＯＭ２０１に格納さ
れている制御プログラムを実行して後述する制御（図３
および図４に示す制御）を行う中央処理装置２０３が設
けられている。中央処理装置２０３の演算処理の作業領
域としてはＲＡＭ２０２が用いられ、また、ＲＡＭ２０
２は、有効ご保持部１０４、段落内共起頻度保持部１０
８、文書ベクトル保持部１１２、分類結果保持部１１６
のための記憶領域を提供する。

【００３４】中央処理装置２０３には、ＲＯＭ２０１お
よびＲＡＭ２０２とともに、ハードディスク装置２０４
がバス２０５を介して接続され、ハードディスク装置２
０４は、学習用文書保持部１０１、分類対象文書保持部
１０２、有効語ベクトル保持部１１０およびフォルダベ
クトル保持部１１４を構成する。なお、ハードディスク
装置２０４に代えて、他の記憶媒体を用いて、学習用文
書保持部１０１、分類対象文書保持部１０２、有効語ベ
クトル保持部１１０およびフォルダベクトル保持部１１
４を構成することも可能である。

【００３５】次に、本文書自動分類装置が実行する処理
について図３および図４を参照しながら説明する。図３
は図１の文書自動分類装置における学習フェーズの処理
手順を示すフローチャート、図４は図１の文書自動分類
装置における分類フェーズの処理手順を示すフローチャ
ートである。

【００３６】本文書自動分類装置における処理は学習フ
ェーズと分類フェーズとに分けられ、最初に、学習フェ
ーズの処理手順について図３を参照しながら説明する。

【００３７】学習フェーズでは、図３に示すように、ま
ずステップＳ３０１において学習要文書に含まれる語の
中から、分類に有用な語を有効語として選定し、続くス
テップＳ３０２で、各段落内に含まれている選定した有
効語の数を求める。

【００３８】次いで、ステップＳ３０３に進み、各段落
内有効語数から各有効語の組の段落内共起頻度を求め、
続くステップＳ３０４で、段落内共起頻度から有効語ベ
クトルを算出する。そして、ステップＳ３０５で、有効
語ベクトルを参照して学習用文書から有効語を取り出
し、続くステップＳ３０６で、取り出した有効語の有効
語ベクトルの平均を取って学習用文書の文書ベクトルを
求める。

【００３９】次いで、ステップＳ３０７に進み、学習用
文書における各カテゴリに属する文書の文書ベクトルの
平均を取り、該文書のベクトルの平均からフォルダベク
トルを求め、本処理を終了する。

【００４０】この学習フェーズが終了すると、分類フェ
ーズが開始される。この分類フェーズの処理手順につい
て図４を参照しながら説明する。

【００４１】分類フェーズでは、図４に示すように、ま
ずステップＳ４０１において上記ステップＳ３０４で算
出した有効語ベクトルを参照して分類対象文書から有効
語を取り出し、続くステップＳ４０２で取り出した有効
語のベクトル（上記ステップＳ３０４で算出した有効語
ベクトル）の平均を取り、このベクトルの平均から分類
対象文書の文書ベクトルを求める。

【００４２】次いで、ステップＳ４０３に進み、分類対
象文書の文書ベクトルと学習フェーズで求められたフォ
ルダベクトルとを比較し、該比較結果に応じて分類対象
文書が属するカテゴリを決定し、本処理を終了する。

【００４３】以上より、本実施の形態では、文書中の内
容の変化に応じて設けられた段落構造を利用して段落内
共起頻度から有効語ベクトルを求めることにより、異な
る話題について述べた２つの段落に出現する有効語同士
が共起していると判断されることはなく、意味が単語共
起に基づく話題を正確に反映したベクトル空間を形成す
ることができ、分類を適正に行うことができる。

【００４４】なお、本実施の形態では、学習文書からの
有効語の選定が終了した後に、段落内有効語数を求める
ように設定しているが、有効語の候補を取り出す際に各
有効語の段落内の出現回数を算出してもよい。

【００４５】また、本実施の形態では、学習フェーズに
おいて、有効語の組に対する共起頻度を求めた後に、各
有効語の有効語ベクトルを求めるようにしているが、共
起頻度の算出と有効語ベクトルの算出とを平行して行う
ようにしてもよい。

【００４６】さらに、本実施の形態では、段落単位でそ
の段落内の共起頻度を求めているが、これに限定される
ものではなく、文や節など、他の文章単位で扱うことも
可能である。

【００４７】さらに、本実施の形態では、上述の処理
（各ブロックの機能）を実行するためのプログラムをＲ
ＯＭに格納した例を示したが、他の記憶媒体を用いて上
記プログラムを供給するように構成することも可能であ
る。また、各ブロックの機能をそれぞれ有する回路構成
により本装置を構成することも可能である。

【００４８】さらに、本装置をコンピュータなどの情報
処理装置上に構築することも可能である。この場合、上
述の処理（各ブロックの機能）を実行するためのプログ
ラムを格納した記憶媒体を準備し、ＣＰＵなどが該記憶
媒体から上記プログラムを読み出して実行することによ
り、文書自動分類装置が構成される。上記プログラムを
供給するための記憶媒体としては、フロッピーディス
ク、ハードディスク、光ディスク、光磁気ディスク、Ｃ
ＤＲＯＭ、ＣＤ−Ｒ、磁気テープ、不揮発性メモリカー
ド、ＲＯＭなどを用いることができる。なお、上記プロ
グラムの実行により文書自動分類装置を構成する場合に
は、コンピュータ上で稼働しているＯＳが上記プログラ
ムに含まれる処理の一部または全てを実行するように構
成されている場合も含まれる。また、記憶媒体から供給
されたプログラムがコンピュータに搭載された拡張機能
ボードまたは接続された周辺拡張ユニットに書き込まれ
た後に、拡張機能ボードまたは周辺拡張ユニットに設け
られたＣＰＵが書き込まれたプログラムを実行する場合
も含まれる。

【００４９】さらに、本発明の原理は、複数の機器から
なるシステム、ひとつの機器からなる装置のいずれにも
適用することが可能である。

【００５０】さらに、本実施の形態では、学習フェーズ
と分類フェーズとを一つの装置上で行う例を説明した
が、これに限定されるものではなく、例えば、学習フェ
ーズを行う装置と、分類フェーズを行う装置とを準備
し、それぞれの装置を用いて文書の分類を行うように構
成することもできる。この場合、学習フェーズを行う装
置により、有効語ベクトルを求めまたフォルダベクトル
を求め、この有効語ベクトルおよびフォルダベクトルを
可搬記憶媒体または通信により、分類フェーズを行う装
置に供給して分類を行う方法が用いられる。

【００５１】この学習フェーズを行う装置および分類フ
ェーズを行う装置について図５および図６を参照しなが
ら説明する。図５は本発明の学習装置の実施の一形態の
構成を示すブロック図、図６は本発明の分類装置の実施
の一形態の構成を示すブロック図である。

【００５２】学習フェーズを行う装置は、図５に示すよ
うに、学習用文書を保持する学習用文書保持部８０１
と、学習用文書から有効語を選定する有効語選定部８０
２と、選定された有効語を保持する有効語保持部８０３
と、学習用文書と有効語とを参照して各段落内に含まれ
ている有効語の数を求める段落内有効語数計算部８０４
と、求められた各段落内の有効語数を保持する段落内有
効語数保持部８０５とを備える。

【００５３】段落内有効語数保持部８０５に保持された
各段落内の有効語数は段落内共起頻度計算部８０６に与
えられ、段落内共起頻度計算部８０６は段落内有効語数
を用いて各有効語の組の段落内共起頻度を求める。この
求められた段落内共起頻度は、段落内共起頻度保持部８
０７に保持された後に、有効語ベクトル計算部８０８に
与えられる。有効語ベクトル計算部８０８は、段落内共
起頻度を用いて各有効語の有効語ベクトルを求める。

【００５４】有効語ベクトル計算部８０８により求めら
れた有効語ベクトルは、有効語ベクトル保持部８０９に
保持された後に文書ベクトル計算部８１０に与えられ
る。文書ベクトル計算部８１０は、学習用文書につい
て、有効語ベクトルを参照して文書ベクトルを求め、学
習用文書について求められた文書ベクトルは文書ベクト
ル保持部８１１に保持される。文書ベクトル保持部８１
１に保持された学習用文書の文書ベクトルはフォルダベ
クトル計算部８１２に与えられ、フォルダベクトル計算
部８１２は学習用文書の文書ベクトルを用いて各カテゴ
リのフォルダベクトルを求める。求められた各カテゴリ
のフォルダベクトルは、フォルダベクトル保持部８１３
に保持される。

【００５５】フォルダベクトル保持部８１３に保持され
た各カテゴリのフォルダベクトル、および有効語ベクト
ル保持部８０９に保持された有効語ベクトルは、可搬記
憶媒体に記憶されて分類フェーズを行う装置に供給さ
れ、または通信により分類フェーズを行う装置に供給さ
れる。

【００５６】分類フェーズを行う装置は、図６に示すよ
うに、分類対象文書を保持する分類対象文書保持部９０
１と、学習フェーズを行う装置から可搬記憶媒体または
通信を介して供給された有効語ベクトルを保持する有効
語ベクトル保持部９０２と、学習フェーズを行う装置か
ら可搬記憶媒体または通信を介して供給されたフォルダ
ベクトルを保持するフォルダベクトル保持部９０５と、
分類対象文書について、有効語ベクトルを参照して文書
ベクトルを求める文書ベクトル計算部９０３と、分類対
象文書について求められた文書ベクトルを保持する文書
ベクトル保持部９０４とを備える。

【００５７】文書ベクトル保持部９０４に保持された分
類対象文書の文書ベクトルは、フォルダベクトル保持部
９０５に保持された各カテゴリのフォルダベクトルとと
もに分類決定部９０６に与えられ、分類決定部９０６は
分類対象文書の文書ベクトルと各カテゴリのフォルダベ
クトルとを比較し、該比較結果に応じて分類対象文書が
属するカテゴリを決定する。この決定された分類対象文
書のカテゴリは分類結果保持部９０７に保持される。

【００５８】

【発明の効果】以上に説明したように、請求項１記載の
文書自動分類装置によれば、学習用文書について有効語
を参照して各文章単位毎にそれに含まれる各有効語の数
を求める文章単位内有効語数計算手段と、有効語数を参
照して各有効語の組の文章単位内共起頻度を求める文章
単位内共起頻度計算手段と、文章単位内共起頻度を参照
して各有効語の有効語ベクトルを求める有効語ベクトル
計算手段と、学習用文書と分類対象文書とのそれぞれに
ついて、有効語ベクトルを参照して文書ベクトルを求め
る文書ベクトル計算手段と、学習用文書について求めら
れた文書ベクトルを用いて各カテゴリのフォルダベクト
ルを求めるフォルダベクトル計算手段と、分類対象文書
について求められた文書ベクトルと各カテゴリのフォル
ダベクトルとを比較し、該比較結果に応じて分類対象文
書が属するカテゴリを決定する分類決定手段とを備える
から、話題を正確に反映したベクトル空間を形成するこ
とができ、分類を適正に行うことができる。

【００５９】請求項２記載の学習装置によれば、学習用
文書を保持する学習用文書保持手段と、学習用文書から
有効語を選定する有効語選定手段と、学習用文書につい
て有効語を参照して各文章単位毎にそれに含まれる各有
効語の数を求める文章単位内有効語数計算手段と、有効
語数を参照して各有効語の組の文章単位内共起頻度を求
める文章単位内共起頻度計算手段と、文章単位内共起頻
度を参照して各有効語の有効語ベクトルを求める有効語
ベクトル計算手段と、有効語ベクトルを参照して文書ベ
クトルを求める文書ベクトル計算手段と、文書ベクトル
を用いて各カテゴリのフォルダベクトルを求めるフォル
ダベクトル計算手段とを備えるから、話題を正確に反映
したベクトル空間を形成することができ、分類を適正に
行うことが可能な文書自動分類システムを実現すること
ができる。

【００６０】請求項３記載の分類装置によれば、分類対
象文書を保持する分類対象文書保持手段と、分類対象文
書について、学習装置で求められた有効語ベクトルを参
照して文書ベクトルを求める文書ベクトル計算手段と、
分類対象文書について求められた文書ベクトルと学習装
置で求められた各カテゴリのフォルダベクトルとを比較
し、該比較結果に応じて前記分類対象文書が属するカテ
ゴリを決定する分類決定手段とを備えるから、話題を正
確に反映したベクトル空間を形成することができ、分類
を適正に行うことが可能な文書自動分類システムを実現
することができる。

【００６１】請求項４記載の文書自動分類方法によれ
ば、学習用文書について有効語を参照して各文章単位毎
にそれに含まれる各有効語の数を求める工程と、有効語
数を参照して各有効語の組の文章単位内共起頻度を求め
る工程と、文章単位内共起頻度を参照して各有効語の有
効語ベクトルを求める工程と、学習用文書と分類対象文
書とのそれぞれについて、有効語ベクトルを参照して文
書ベクトルを求める工程と、学習用文書について求めら
れた文書ベクトルを用いて各カテゴリのフォルダベクト
ルを求める工程と、分類対象文書について求められた文
書ベクトルと各カテゴリのフォルダベクトルとを比較
し、該比較結果に応じて分類対象文書が属するカテゴリ
を決定する工程とを備えるから、話題を正確に反映した
ベクトル空間を形成することができ、分類を適正に行う
ことができる。

【００６２】請求項５記載の学習方法によれば、学習用
文書を保持する工程と、学習用文書について有効語を参
照して各文章単位毎にそれに含まれる各有効語の数を求
める工程と、学習用文書から有効語を選定する工程と、
有効語数を参照して各有効語の組の文章単位内共起頻度
を求める工程と、文章単位内共起頻度を参照して各有効
語の有効語ベクトルを求める工程と、有効語ベクトルを
参照して文書ベクトルを求める工程と、文書ベクトルを
用いて各カテゴリのフォルダベクトルを求める工程とを
備えるから、話題を正確に反映したベクトル空間を形成
することができ、分類を適正に行うことが可能な文書自
動分類システムを実現することができる。

【００６３】請求項６記載の分類方法によれば、分類対
象文書を保持する工程と、分類対象文書について、学習
方法で求められた有効語ベクトルを参照して文書ベクト
ルを求める工程と、分類対象文書について求められた文
書ベクトルと学習方法で求められた各カテゴリのフォル
ダベクトルとを比較し、該比較結果に応じて前記分類対
象文書が属するカテゴリを決定する工程とを備えるか
ら、話題を正確に反映したベクトル空間を形成すること
ができ、分類を適正に行うことが可能な文書自動分類シ
ステムを実現することができる。

【００６４】請求項７記載の記憶媒体によれば、プログ
ラムが、学習用文書について有効語を参照して各文章単
位毎にそれに含まれる各有効語の数を求める文章単位内
有効語数計算モジュールと、有効語数を参照して各有効
語の組の文章単位内共起頻度を求める文章単位内共起頻
度計算モジュールと、文章単位内共起頻度を参照して各
有効語の有効語ベクトルを求める有効語ベクトル計算モ
ジュールと、学習用文書と分類対象文書とのそれぞれに
ついて、有効語ベクトルを参照して文書ベクトルを求め
る文書ベクトル計算モジュールと、学習用文書について
求められた文書ベクトルを用いて各カテゴリのフォルダ
ベクトルを求めるフォルダベクトル計算モジュールと、
分類対象文書について求められた文書ベクトルと各カテ
ゴリのフォルダベクトルとを比較し、該比較結果に応じ
て分類対象文書が属するカテゴリを決定する分類決定モ
ジュールとを備えるから、話題を正確に反映したベクト
ル空間を形成することができ、分類を適正に行うことが
できる。

【００６５】請求項８記載の記憶媒体によれば、学習プ
ログラムが、学習用文書を保持する学習用文書保持モジ
ュールと、学習用文書から有効語を選定する有効語選定
モジュールと、学習用文書について有効語を参照して各
文章単位毎にそれに含まれる各有効語の数を求める文章
単位内有効語数計算モジュールと、有効語数を参照して
各有効語の組の文章単位内共起頻度を求める文章単位内
共起頻度計算モジュールと、文章単位内共起頻度を参照
して各有効語の有効語ベクトルを求める有効語ベクトル
計算モジュールと、有効語ベクトルを参照して文書ベク
トルを求める文書ベクトル計算モジュールと、文書ベク
トルを用いて各カテゴリのフォルダベクトルを求めるフ
ォルダベクトルモジュールとを備えるから、話題を正確
に反映したベクトル空間を形成することができ、分類を
適正に行うことが可能な文書自動分類システムを実現す
ることができる。

【００６６】請求項９記載の記憶媒体によれば、分類プ
ログラムが、分類対象文書を保持する分類対象文書保持
モジュールと、分類対象文書について、請求項８記載の
記憶媒体の学習プログラムにより求められた有効語ベク
トルを参照して文書ベクトルを求める文書ベクトル計算
モジュールと、分類対象文書について求められた文書ベ
クトルと請求項８記載の記憶媒体の学習プログラムによ
り求められた各カテゴリのフォルダベクトルとを比較
し、該比較結果に応じて分類対象文書が属するカテゴリ
を決定する分類決定モジュールとを備えるから、話題を
正確に反映したベクトル空間を形成することができ、分
類を適正に行うことが可能な文書自動分類システムを実
現することができる。

【図面の簡単な説明】

【図１】本発明の文書自動分類装置の実施の一形態の機
能構成を示すブロック図である。

【図２】図１の文書自動分類装置のハードウェア構成を
示すブロック図である。

【図３】図１の文書自動分類装置における学習フェーズ
の処理手順を示すフローチャートである。

【図４】図１の文書自動分類装置における分類フェーズ
の処理手順を示すフローチャートである。

【図５】本発明の学習装置の実施の一形態の構成を示す
ブロック図である。

【図６】本発明の分類装置の実施の一形態の構成を示す
ブロック図である。

【図７】従来の文書自動分類装置の構成を示すブロック
図である。

【図８】図７の文書自動分類装置における学習フェーズ
の処理手順を示すフローチャートである。

【図９】図７の文書自動分類装置における分類フェーズ
の処理手順を示すフローチャートである。

【符号の説明】

１０１，８０１ 学習用文書保持部 １０２，９０１ 分類対象文書保持部 １０３，８０２ 有効語選定部 １０４，８０３ 有効語保持部 １０５，８０４ 段落内有効語数計算部 １０６，８０５ 段落内有効語数保持部 １０７，８０６ 段落内共起頻度計算部 １０８，８０７ 段落内共起頻度保持部 １０９，８０８ 有効語ベクトル計算部 １１０，８０９，９０２ 有効語ベクトル保持部 １１１，８１０，９０３ 文書ベクトル計算部 １１２，８１１，９０４ 文書ベクトル保持部 １１３，８１２ フォルダベクトル計算部 １１４，８１３，９０５ フォルダベクトル保持部 １１５、９０６ 分類決定部 １１６、９０７ 分類結果保持部 ２０１ ＲＯＭ ２０２ ＲＡＭ ２０３ 中央処理装置 ２０４ ハードディスク装置

───────────────────────────────────────────────────── フロントページの続き (72)発明者 上田 隆也 東京都大田区下丸子３丁目30番２号 キヤ ノン株式会社内 (72)発明者 池田 裕治 東京都大田区下丸子３丁目30番２号 キヤ ノン株式会社内

Claims (9)

【特許請求の範囲】
1. 【請求項１】 学習用文書と該学習用文書から選出され
   た有効語を用いて、分類対象文書をユーザの意図に沿っ
   て分類する文書自動分類装置において、前記学習用文書
   について前記有効語を参照して各文章単位毎にそれに含
   まれる各有効語の数を求める文章単位内有効語数計算手
   段と、前記有効語数を参照して各有効語の組の文章単位
   内共起頻度を求める文章単位内共起頻度計算手段と、前
   記文章単位内共起頻度を参照して前記各有効語の有効語
   ベクトルを求める有効語ベクトル計算手段と、前記学習
   用文書と前記分類対象文書とのそれぞれについて、前記
   有効語ベクトルを参照して文書ベクトルを求める文書ベ
   クトル計算手段と、前記学習用文書について求められた
   文書ベクトルを用いて各カテゴリのフォルダベクトルを
   求めるフォルダベクトル計算手段と、前記分類対象文書
   について求められた文書ベクトルと前記各カテゴリのフ
   ォルダベクトルとを比較し、該比較結果に応じて前記分
   類対象文書が属するカテゴリを決定する分類決定手段と
   を備えることを特徴とする文書自動分類装置。
2. 【請求項２】 分類対象文書をユーザの意図に沿って分
   類する文書自動分類システムに用いられる、前記分類対
   象文書が属するカテゴリを決定するための基準となる各
   カテゴリのフォルダベクトルを求めるための学習装置に
   おいて、学習用文書を保持する学習用文書保持手段と、
   前記学習用文書から有効語を選定する有効語選定手段
   と、前記学習用文書について前記有効語を参照して各文
   章単位毎にそれに含まれる各有効語の数を求める文章単
   位内有効語数計算手段と、前記有効語数を参照して各有
   効語の組の文章単位内共起頻度を求める文章単位内共起
   頻度計算手段と、前記文章単位内共起頻度を参照して前
   記各有効語の有効語ベクトルを求める有効語ベクトル計
   算手段と、前記有効語ベクトルを参照して文書ベクトル
   を求める文書ベクトル計算手段と、前記文書ベクトルを
   用いて前記各カテゴリのフォルダベクトルを求めるフォ
   ルダベクトル計算手段とを備えることを特徴とする学習
   装置。
3. 【請求項３】 分類対象文書をユーザの意図に沿って分
   類する文書自動分類システムに請求項２記載の学習装置
   とともに用いられる、前記分類対象文書が属するカテゴ
   リを決定するための分類装置において、前記分類対象文
   書を保持する分類対象文書保持手段と、前記分類対象文
   書について、前記学習装置で求められた有効語ベクトル
   を参照して文書ベクトルを求める文書ベクトル計算手段
   と、前記分類対象文書について求められた文書ベクトル
   と前記学習装置で求められた各カテゴリのフォルダベク
   トルとを比較し、該比較結果に応じて前記分類対象文書
   が属するカテゴリを決定する分類決定手段とを備えるこ
   とを特徴とする分類装置。
4. 【請求項４】 学習用文書と該学習用文書から選出され
   た有効語を用いて、分類対象文書をユーザの意図に沿っ
   て分類する文書自動分類方法において、前記学習用文書
   について前記有効語を参照して各文章単位毎にそれに含
   まれる各有効語の数を求める工程と、前記有効語数を参
   照して各有効語の組の文章単位内共起頻度を求める工程
   と、前記文章単位内共起頻度を参照して前記各有効語の
   有効語ベクトルを求める工程と、前記学習用文書と前記
   分類対象文書とのそれぞれについて、前記有効語ベクト
   ルを参照して文書ベクトルを求める工程と、前記学習用
   文書について求められた文書ベクトルを用いて各カテゴ
   リのフォルダベクトルを求める工程と、前記分類対象文
   書について求められた文書ベクトルと前記各カテゴリの
   フォルダベクトルとを比較し、該比較結果に応じて前記
   分類対象文書が属するカテゴリを決定する工程とを備え
   ることを特徴とする文書自動分類方法。
5. 【請求項５】 分類対象文書をユーザの意図に沿って分
   類する文書自動分類システムに用いられる、前記分類対
   象文書が属するカテゴリを決定するための基準となる各
   カテゴリのフォルダベクトルを求めるための学習方法に
   おいて、学習用文書を保持する工程と、前記学習用文書
   から有効語を選定する工程と、前記学習用文書について
   前記有効語を参照して各文章単位毎にそれに含まれる各
   有効語の数を求める工程と、前記有効語数を参照して各
   有効語の組の文章単位内共起頻度を求める工程と、前記
   文章単位内共起頻度を参照して前記各有効語の有効語ベ
   クトルを求める工程と、前記有効語ベクトルを参照して
   文書ベクトルを求める工程と、前記文書ベクトルを用い
   て前記各カテゴリのフォルダベクトルを求める工程とを
   備えることを特徴とする学習方法。
6. 【請求項６】 分類対象文書をユーザの意図に沿って分
   類する文書自動分類システムに請求項５記載の学習方法
   とともに用いられる、前記分類対象文書が属するカテゴ
   リを決定するための分類方法において、前記分類対象文
   書を保持する工程と、前記分類対象文書について、前記
   学習方法で求められた有効語ベクトルを参照して文書ベ
   クトルを求める工程と、前記分類対象文書について求め
   られた文書ベクトルと前記学習方法で求められた各カテ
   ゴリのフォルダベクトルとを比較し、該比較結果に応じ
   て前記分類対象文書が属するカテゴリを決定する工程と
   を備えることを特徴とする分類方法。
7. 【請求項７】 学習用文書と該学習用文書から選出され
   た有効語を用いて、分類対象文書をユーザの意図に沿っ
   て分類する文書自動分類装置を構築するためのプログラ
   ムを格納した記憶媒体において、前記プログラムは、前
   記学習用文書について前記有効語を参照して各文章単位
   毎にそれに含まれる各有効語の数を求める文章単位内有
   効語数計算モジュールと、前記有効語数を参照して各有
   効語の組の文章単位内共起頻度を求める文章単位内共起
   頻度計算モジュールと、前記文章単位内共起頻度を参照
   して前記各有効語の有効語ベクトルを求める有効語ベク
   トル計算モジュールと、前記学習用文書と前記分類対象
   文書とのそれぞれについて、前記有効語ベクトルを参照
   して文書ベクトルを求める文書ベクトル計算モジュール
   と、前記学習用文書について求められた文書ベクトルを
   用いて各カテゴリのフォルダベクトルを求めるフォルダ
   ベクトル計算モジュールと、前記分類対象文書について
   求められた文書ベクトルと前記各カテゴリのフォルダベ
   クトルとを比較し、該比較結果に応じて前記分類対象文
   書が属するカテゴリを決定する分類決定モジュールとを
   備えることを特徴とする記憶媒体。
8. 【請求項８】 分類対象文書をユーザの意図に沿って分
   類する文書自動分類システムに用いられる、前記分類対
   象文書が属するカテゴリを決定するための基準となる各
   カテゴリのフォルダベクトルを求めるための学習装置を
   構築するための学習プログラムを格納した記憶媒体にお
   いて、前記学習プログラムは、学習用文書を保持する学
   習用文書保持モジュールと、前記学習用文書から有効語
   を選定する有効語選定モジュールと、前記学習用文書に
   ついて前記有効語を参照して各文章単位毎にそれに含ま
   れる各有効語の数を求める文章単位内有効語数計算モジ
   ュールと、前記有効語数を参照して各有効語の組の文章
   単位内共起頻度を求める文章単位内共起頻度計算モジュ
   ールと、前記文章単位内共起頻度を参照して前記各有効
   語の有効語ベクトルを求める有効語ベクトル計算モジュ
   ールと、前記有効語ベクトルを参照して文書ベクトルを
   求める文書ベクトル計算モジュールと、前記文書ベクト
   ルを用いて前記各カテゴリのフォルダベクトルを求める
   フォルダベクトルモジュールとを備えることを特徴とす
   る記憶媒体。
9. 【請求項９】 分類対象文書をユーザの意図に沿って分
   類する文書自動分類システムに請求項８記載の記憶媒体
   とともに用いられる、前記分類対象文書が属するカテゴ
   リを決定するための分類装置を構築するための分類プロ
   グラムを格納した記憶媒体において、前記分類プログラ
   ムは、前記分類対象文書を保持する分類対象文書保持モ
   ジュールと、前記分類対象文書について、前記請求項８
   記載の記憶媒体の学習プログラムにより求められた有効
   語ベクトルを参照して文書ベクトルを求める文書ベクト
   ル計算モジュールと、前記分類対象文書について求めら
   れた文書ベクトルと前記請求項８記載の記憶媒体の学習
   プログラムにより求められた各カテゴリのフォルダベク
   トルとを比較し、該比較結果に応じて前記分類対象文書
   が属するカテゴリを決定する分類決定モジュールとを備
   えることを特徴とする記憶媒体。