JP2001236339A

JP2001236339A - クラス分類装置

Info

Publication number: JP2001236339A
Application number: JP2000046341A
Authority: JP
Inventors: Mikihiko Terajima; 幹彦寺島
Original assignee: Olympus Optical Co Ltd
Current assignee: Olympus Corp
Priority date: 2000-02-23
Filing date: 2000-02-23
Publication date: 2001-08-31

Abstract

(57)【要約】【課題】ベクトルデータが散逸しクラスタをはっきり形
成しないためにクラス毎に分類しにくい場合、あるいは
ベクトルデータの特徴によらず（あるいは反して）意図
的にクラス分類したい場合にも、精度よくベクトルデー
タを複数個のクラスに分類することができるクラス分類
装置を提供する。【解決手段】クラス分類すべきベクトルデータを入力す
るベクトル入力部１と、入力ベクトルの各成分に対して
施すべき重み関数を設定する重み付け関数設定部２と、
この重み付け関数設定部２によって設定された重み付け
関数に基づいて、入力ベクトルを変換する入力ベクトル
変換部３と、変換後の入力ベクトルをクラス判定するク
ラス判定部４と、このクラス判定部４によって判定され
たクラスを出力するクラス出力部５とを具備する。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明はクラス分類装置に関
し、特に、入力ベクトルの各成分に対して重み関数を施
すことで入力ベクトルのクラス分類を行なうクラス分類
装置に関する。

【０００２】

【従来の技術】ベクトルデータを複数個にクラス分類す
る方法は、一般的には最隣接近傍法や、教師付きＮＮ
（神経回路網）であるＢＰ（Back Propagation）法、Ｌ
ＶＱ（Learning Vector Quantization）法などがある。
これらはすべて、入力されたベクトルデータを誤分類の
ないようにクラス分類する最適化方法である。

【０００３】上記した最隣接近傍法や、教師付きＮＮ
（神経回路網）であるＢＰ法、ＬＶＱ法などはベクトル
データの誤分類ができるだけ少なくなるように最適に分
類しようとする手法であるが、その分類結果は、入力ベ
クトルデータ群の性質により、ある程度性能が限られて
しまっている。すなわち、もともとの入力ベクトルデー
タ群が複数個のクラスに分けにくいデータであった場合
には、誤分類を少なくすることはできない。

【０００４】以下にこのことを簡単に説明する。クラス
分類装置を使って画像を領域分割することを考える。ク
ラス分類の手順は図１７（ａ）に示すようなフローチャ
ートで示される。まず画像を入力して（ステップＳ
１）、各画素においてさまざまな特徴量を抽出する（ス
テップＳ２）。次に、各画素において抽出された特徴量
をベクトルの成分として並べて、様々な特徴量を成分に
もつベクトル（特徴ベクトル）を作る（ステップＳ
３）。次に特徴ベクトルをクラス分類装置を用いてｎク
ラスにクラス分類する（ｎは例えば４）（ステップＳ
４）。次に各画素に対してクラス分類結果のラベル（ｎ
個）を付けることにより入力画像が領域ごとに分割され
る。図１７（ｂ）はクラス分類すべく入力されたベクト
ルを示し、図１７（ｃ）はクラス分類により領域分割さ
れた結果を示している。

【０００５】上記の方法により特徴ベクトルを抽出する
場合、画像中のいろいろな対象物を分割するために、一
般にはどのような特徴量が適しているかを一義的に知る
のは大変困難である。そのため、必要と考えられる特徴
量を非常に多く抽出するが、抽出したベクトルの成分に
は、クラス分類に適さない（効果のない）ものが存在す
ることがある。このような成分は分類に効果がなく、か
えって誤分類を増やすことになる（図１８）。

【０００６】このように上記の従来技術では入力ベクト
ルの性質により分類の性能が限られ、誤分類を少なくす
ることが出来ない。そこで、誤分類を少なくするため
に、特開平４−２３０８８号公報、特開平９−１０１９
７０号公報、特開平１１−３９３２５号公報では、ベク
トルの成分にある重みをつけ、分類に効果のある成分の
重みを大きくし、分類に効果のない成分の重みを小さく
する方法を開示している。

【０００７】

【発明が解決しようとする課題】上記した特開平４−２
３０８８号公報、特開平９−１０１９７０号公報、特開
平１１−３９３２５号公報に開示されたいずれの方法に
おいても重みの大きさを様々な方法で最適化している
が、結果としては、ある成分に単純に定数倍しているだ
けにすぎない。これでは、ベクトルデータがクラスタ
（データの房状の固まり）を形成し、きれいにクラス毎
に分離しやすくなっている場合には、ある程度誤分類を
小さくすることはできるが、ベクトルデータが散逸しク
ラスタ（データの房状の固まり）をはっきり形成せずク
ラス毎に分類しにくい場合や、ベクトルデータの特徴に
よらず（あるいは反して）意図的にクラス分類したい場
合に、誤分類を小さくすることができない。

【０００８】以下にこのことを簡単に説明する。図１９
（ａ）は二つのクラスからなる入力２次元ベクトル群
（Ｘ１，Ｘ２）を示す。このベクトル群は図中の点線に
従ってクラス分けすることができるが、それぞれの成分
に重み（Ｗ１，Ｗ２）（ここでＷ１＜Ｗ２である）を掛
け算してクラス分類した方が二つのクラスの距離が離
れ、より誤分類を少なくすることができる（図１９
（ｂ））。ただし、図１９（ａ）は理想的なケースであ
り、一般には図２０（ａ）のようにベクトルデータはク
ラスタとして集積せずかなり散逸していることが多い。
その場合は、それぞれの成分に重み（Ｗ１，Ｗ２）を乗
算しても図２０（ｂ）のように二つのクラスの距離があ
まり離れず、誤分類を少なくすることができない。

【０００９】また、図１９（ａ）のようなデータを意図
的に図２１（ａ）に示す点線に従ってクラス分類したい
場合、すなわちベクトルデータの特徴によらず（あるい
は反して）意図的にクラス分類したい場合も考えられる
が、この場合には図２１（ｂ）のように重み（Ｗ１，Ｗ
２）（ここでＷ１＞Ｗ２である）を乗算しても誤分類を
少なくすることができない。特に、画像検索を行うため
に画像をクラス分類しておくようなケースでは、画像を
いろいろな尺度で解析しておく必要があるので、ベクト
ルデータの特徴によらず（あるいは反して）意図的にク
ラス分類することが重要になっている。

【００１０】本発明はこのような課題に着目してなされ
たものであり、その目的とするところは、ベクトルデー
タが散逸しクラスタ（データの房状の固まり）をはっき
り形成しないためにクラス毎に分類しにくい場合、ある
いはベクトルデータの特徴によらず（あるいは反して）
意図的にクラス分類したい場合にも、精度よくベクトル
データを複数個のクラスに分類することができるクラス
分類装置を提供することにある。

【００１１】

【課題を解決するための手段】上記の目的を達成するた
めに、第１の発明はクラス分類装置であって、クラス分
類すべきベクトルデータを入力するベクトル入力部と、
入力ベクトルの各成分に対して施すべき重み関数を設定
する重み付け関数設定部と、この重み付け関数設定部に
よって設定された重み付け関数に基づいて、入力ベクト
ルを変換する入力ベクトル変換部と、変換後の入力ベク
トルをクラス判定するクラス判定部と、このクラス判定
部によって判定されたクラスを出力するクラス出力部と
を具備する。

【００１２】また、第２の発明は第１の発明におけるク
ラス分類装置であって、前記クラス判定部において判定
したクラスを評価する判定結果評価部を有し、前記重み
付け関数設定部は、この判定結果評価部での評価に基づ
いて、重み付け関数を再設定する。

【００１３】また、第３の発明は第１または第２の発明
におけるクラス分類装置であって、前記重み付け関数設
定部は、クラスの代表ベクトルを設定する代表ベクトル
設定部と、重みの大きさを設定する大きさ設定部と、前
記代表ベクトル設定部によって設定された代表ベクトル
と、前記大きさ設定部によって設定された重みの大きさ
とに基づき、重み付け関数を設定する関数設定部とを具
備する。

【００１４】

【発明の実施の形態】以下、図面を参照して本発明の実
施形態を詳細に説明する。

【００１５】（第１実施形態）図１は本発明の第１実施
形態の構成を示す図であり、クラス分類すべきベクトル
データを入力するベクトル入力部１と、入力ベクトルの
各成分に対して施すべき重み関数を設定する重み付け関
数設定部２と、この重み付け関数設定部２によって設定
された重み付け関数に基づいて、入力ベクトルを変換す
る入力ベクトル変換部３と、変換後の入力ベクトルをク
ラス判定するクラス判定部４と、このクラス判定部４に
よって判定されたクラスを出力するクラス出力部５とを
具備する。

【００１６】以下に第１実施形態の作用を説明する。ま
ず、ベクトル入力部１で、クラス分類すべきベクトルデ
ータａを入力する。続いて重み付け関数設定部２におい
て、ベクトルの各成分に対して施す重み関数ｂを設定す
る。入力ベクトル変換部３では、重み付け関数設定部２
によって設定された重み付け関数ｂにより、入力ベクト
ルａを変換し、変換後の入力ベクトルｃを作成する。ク
ラス判定部４では変換後のベクトルｃをクラス判定す
る。そしてクラス判定部４によって判定されたクラスｄ
をクラス出力部５から出力する。

【００１７】上記した第１実施形態によれば、ベクトル
の各成分を単純に定数するだけでなく、ベクトルの各成
分に対して重み関数を施すので、その変換後の出力を各
成分の値に依存させることができる。したがって、ベク
トルデータがクラスタ（データの房状の固まり）を形成
し、きれいにクラス毎に分離しやすくなっている場合だ
けでなく、ベクトルデータが散逸しクラスタ（データの
房状の固まり）をはっきり形成せずクラス毎に分離しに
くい場合や、ベクトルデータの特徴によらず（あるいは
反して）意図的にクラス分類したい場合にも、誤分類を
小さくすることができる。

【００１８】（第２実施形態）図２は本発明の第２実施
形態の構成を示す図であり、第１実施形態の構成に加え
て判定結果評価部６が追加されている。第２実施形態で
は、クラス判定部４において判定したクラス結果を判定
結果評価部６に入力して評価し、重み付け関数設定部２
において評価結果に基づき重み付け関数を再設定する。

【００１９】以下に第２実施形態の作用を説明する。ま
ず、ベクトル入力部１で、クラス分類すべきベクトルデ
ータａを入力する。続いて重み付け関数設定部２におい
て、ベクトルの各成分に対して施す重み付け関数ｂを設
定する。入力ベクトル変換部３では、重み付け関数設定
部２によって設定された重み付け関数ｂにより、入力ベ
クトルａを変換し、変換後の入力ベクトルｃを作成す
る。クラス判定部４では、変換後のベクトルｃをクラス
判定する。判定結果評価部６では、クラス判定部４によ
って判定されたクラスｄの結果を評価する。重み付け関
数設定部２は、判定結果評価部６で評価した結果に基づ
き重み付け関数を再設定する必要があるかどうかを判断
し、再設定の必要がある場合には再度重み付け関数ｂを
設定する。

【００２０】重み付け関数ｂは入力ベクトル変換部３に
入力されて入力ベクトルｃに変換された後、クラス判定
部４でクラス判定が行なわれ、判定結果評価部６で評価
する。重み付け関数を再設定する必要がなければ、その
ままクラス出力部５からクラスを出力する。

【００２１】ここで、ベクトルデータａを入力する毎に
判定結果評価部６で評価を行っても良いし、ベクトルデ
ータを複数個入力し、入力された複数のベクトルデータ
に対応したクラスを複数個出力したものを評価するよう
にしてもよい。

【００２２】上記した第２実施形態によれば、ベクトル
の各成分に対して施す重み関数をクラス判定結果によっ
て、再調整することが可能になるので、さらに誤分類を
小さくすることができる。

【００２３】（第３実施形態）本発明の第３実施形態は
図３に示すように、第１実施形態で説明した重み付け関
数設定部２を、クラスの代表ベクトルｅを設定する代表
ベクトル設定部２１と、重みの大きさｆを設定する大き
さ設定部２２と、代表ベクトル設定部２１によって設定
された代表ベクトルｅと、大きさ設定部２２によって設
定された重みの大きさｆの情報から重み付け関数ｂを設
定する関数設定部２０とで構成している。関数設定部２
０では、代表ベクトルｅと重みの大きさｆの情報を合成
し、誤分類が小さくなるように重み付け関数ｂを設定す
る。

【００２４】上記した第３実施形態によれば、クラスの
代表ベクトルと重みの大きさの情報を合成して重み付け
関数を設定するので、特にベクトルデータの特徴によら
ず（あるいは反して）意図的にクラス分類したい場合に
も、誤分類を更に小さくすることができる。

【００２５】（第４実施形態）本発明の第４実施形態で
は図４に示すように、第１実施形態で説明した重み付け
関数設定部２が、代表ベクトル近傍で関数の傾きが緩く
なるように重み付け関数を設定する。なお、図４は２ク
ラスに分類する場合を示しており、Ｘを入力ベクトルの
一つの成分、Ｗ（Ｘ）を重み付け関数、ａ１をクラス１
の代表ベクトルの一つの成分（Ｘに対応する成分）、ａ
２をクラス２の代表ベクトルの一つの成分（Ｘに対応す
る成分）とする。

【００２６】図４に示すように、代表ベクトル近傍で関
数の傾きが緩くなるように重み付け関数を設定すると、
例えば図５（ａ）のようなデータは図５（ｂ）のように
クラス代表ベクトル近傍に収縮する（図示しやすいよ
う、一次元密度で示してある）。したがって、クラス分
類が明確になり、誤分類を少なくすることができる。

【００２７】また、図５（ｃ）のようにデータが２つの
クラスに分かれていない場合にも、この重み付け関数を
施すと、意図的に代表ベクトルを中心として二つのクラ
スに分類することが可能になる。なお、上記した実施形
態では図示を容易にするために一次元の場合を示した
が、多次元でも同様である。

【００２８】上記した第４実施形態によれば、代表ベク
トル近傍で関数の傾きが緩くなるように重み付け関数を
設定するので、データをクラス代表ベクトル近傍に収縮
させることができ、誤分類を更に小さくすることができ
る。特に、ベクトルデータの特徴によらず（あるいは反
して）意図的にクラス分類したい場合にも、誤分類を更
に小さくすることができる。

【００２９】（第５実施形態）第５実施形態では、重み
付け関数設定部２が、大きさ設定部２２（図３）で設定
された重みの大きさがある一定の値より大きい時にの
み、代表ベクトル近傍で関数の傾きが緩くなるような重
み付け関数を設定する（図４）。ここで、ある一定の値
は、その値以上になると分類結果への効果が大きくなる
値として予め決めておいてもいいし、判定結果評価部６
（図２）での評価結果に基づいて設定してもよい。

【００３０】重みの大きさが大きい関数を施すベクトル
成分は相対的に分類に大きく寄与している成分であると
いえるので、図４のような重み付け関数を設定すれば、
分類に大きく寄与している成分を更に効果的に分類に寄
与させることができる。

【００３１】上記した第５実施形態によれば、重みの大
きさがある一定の値より大きい時にのみ、代表ベクトル
近傍で関数の傾きが緩くなるように重み付け関数を設定
するので、分類に大きく寄与している成分を、更に効果
的に分類に寄与させることが可能になり、これによって
誤分類を更に小さくすることができる。特に、ベクトル
データの特徴によらず（あるいは反して）意図的にクラ
ス分類したい場合にも、誤分類を更に小さくすることが
できる。

【００３２】（第６実施形態）本発明の第６実施形態で
は、重み付け関数設定部２が、代表ベクトル間で関数の
傾きが急峻になるように、図６（ａ）のような重み付け
関数を設定する。図６（ａ）のように、代表ベクトル間
で関数の傾きが急峻になるように重み付け関数を設定す
ると、クラス間の距離を相対的に大きくさせることがで
き、また境界付近のデータが散らばることになるのでよ
り精度のよい分類が可能になる。また、図６（ｂ）のよ
うに、同時に代表ベクトル近傍で関数の傾きが緩やかに
なるように設定してももちろんよい。

【００３３】上記した第６実施形態によれば、代表ベク
トル間で関数の傾きが急峻になるように重み付け関数を
設定するので、クラス間の距離を相対的に大きくさせる
ことができ、また境界付近のデータを拡散させることが
できるので、誤分類を更に小さくすることができる。特
に、ベクトルデータの特徴によらず（あるいは反して）
意図的にクラス分類したい場合にも、誤分類を更に小さ
くすることができる。

【００３４】（第７実施形態）第７実施形態では、重み
付け関数設定部２が、大きさ設定部２２で設定された重
みの大きさがある一定の値より大きい時にのみ、図６
（ａ）、（ｂ）のような代表ベクトル間で関数の傾きが
急峻になるような重み付け関数を設定する。ここで、あ
る一定の値は、その値以上になると分類結果への効果が
大きくなる値として予め決めておいてもいいし、判定結
果評価部６での評価結果に基づいて設定してもよい。

【００３５】重みの大きさが大きい関数を施すベクトル
成分は相対的に分類に大きく寄与している成分であると
いえるので、図６（ａ）、（ｂ）のような重み付け関数
を設定すれば、分類に大きく寄与している成分を更に効
果的に分類に寄与させることができる。

【００３６】上記した第７実施形態によれば、重みの大
きさがある一定の値より大きい時にのみ、代表ベクトル
間で関数の傾きが急峻になるように重み付け関数を設定
するので、分類に大きく寄与している成分を、更に効果
的に分類に寄与させることが可能になり、これによって
誤分類を更に小さくすることができる。特に、ベクトル
データの特徴によらず（あるいは反して）意図的にクラ
ス分類したい場合にも、誤分類を更に小さくすることが
できる。

【００３７】（第８実施形態）図７は本発明の第８実施
形態の構成を示す図であり、図１に示した各ブロックの
中身を具体化した実施形態となっている。ベクトル入力
部１は、入力ベクトルを記憶しておく記憶用メモリ１０
０からなる。記憶用メモリ１００は、フロッピーディス
クやＭＯディスク、あるいはコンピュータ内の内蔵メモ
リのようなものでもよい。

【００３８】次に重み付け関数設定部２で、入力ベクト
ルａに施すべき重み付け関数を設定するが、ここでの重
み付け関数設定部２は、関数を設定する演算を行う関数
設定演算器２００、関数を設定する操作を行う関数設定
操作器２０２、重み付け関数用メモリ２０１から構成さ
れる。

【００３９】関数設定操作器２０２によって、どのベク
トル成分を強調するか、どのベクトル成分をどのように
分類すれば良いかの情報を、関数を設定する演算を行う
関数設定演算器２００に送り、関数設定演算器２００で
その情報に基づき、良好な分類性能が得られるように重
み付け関数を作成し、重み付け関数用メモリ２０１に作
成した重み付け関数データを記録する。

【００４０】関数設定操作器２０２における、どのベク
トル成分を強調するか、そのベクトル成分をどのように
分類すれば良いのかの情報は、例えば前述の図１７で説
明した領域分割の例でいえば、形に注目するべきなの
で、形に注目するように、特徴量のうちの形に関連する
ベクトル成分を強調するようにし、かつ、そのうちの丸
と三角と四角を分類するような情報を設定することにな
る。なお、もし、この画像がカラー画像であり、色によ
って分類したい場合は、形に注目すると間違った分類を
してしまう。そこで色に注目するように、特徴量のうち
色に関連するベクトル成分を強調し、かつそのうちの該
当する色（例：赤、青、黄）を分類するような情報を設
定すれば良い。

【００４１】関数設定演算器２００は、専用のプロセッ
サを使用してもよいし、プログラムを読み込んだＣＰＵ
が計算するようにしてもよい。なお、以下で挙げる演算
器はすべてこのようなデバイスで実現できる。一方、関
数設定操作器２０２は、キーボード、マウス、切り替え
スイッチなどで実現し、重み付け関数用メモリ２０１は
例えばコンピュータの内蔵メモリを用いればよい。

【００４２】次に入力ベクトル変換部３において、入力
ベクトルａと重み付け関数ｂから、変換後の入力ベクト
ルｃを作成する。ここでの入力ベクトル変換部３は、デ
ータ変換演算を行うデータ変換演算器３００、変換済み
のベクトルデータを記録する変換済みベクトルデータ用
メモリ３０１からなる。データ変換演算器３００によっ
て、入力ベクトルａと重み付け関数ｂから変換後の入力
ベクトルｃが作成され、変換済みベクトルデータ用メモ
リ３０１に記録される。

【００４３】次にクラス判定部４において、変換後の入
力ベクトルｃの各ベクトルに対しクラスが判定される
が、ここでのクラス判定部４はクラス判定演算器４００
からなる。クラス判定演算器４００は、クラス判定がで
きる演算器なら何でもよい。最も一般的な方法には、ク
ラスの代表点を設定して、データからもっとも近い代表
点のクラスをそのデータのクラスにする最隣接近傍法が
ある。このプログラムを組み込んだＣＰＵや専用のプロ
セッサを用いれば良い。また、教師付きＮＮ（神経回路
網）であるＢＰ法、ＬＶＱ法などを用いて、このプログ
ラムを組み込んだＣＰＵや専用のプロセッサを用いても
よい。教師付きＮＮには、専用のニューロチップなども
開発されているのでそのような素子を用いてももちろん
よい。

【００４４】続いて、判定された各ベクトルのクラスは
クラス出力部５から出力される。ここでのクラス出力部
５はクラス出力器５００からなる。クラス出力器５００
は、このクラス分類装置をどのような用途に使うかによ
って様々な形態で実現される。例えば、ベクトルデータ
の解析用に用いるのであれば、クラス出力器５００には
フロッピーディスクやＭＯディスクなどを用いてデータ
を記録すれば良い。領域分割に用いるのであれば、クラ
ス出力器５００としてＣＲＴ画面を用いて、画面表示す
ればよい。クラスの情報を更に加工して、迅速に次の処
理を行うロボットビジョンなどに用いる場合は、クラス
出力器５００としてロボットの内蔵メモリを用いればよ
い。

【００４５】上記した第８実施形態によれば、ベクトル
の各成分を単純に定数倍するだけでなく、ベクトルの各
成分に対して重み関数を施すので、その変換後の出力を
各成分の値に依存させることができる。したがって、ベ
クトルデータがクラスタ（データの房状の固まり）を形
成し、きれいにクラス毎に分離しやすくなっている場合
だけでなく、ベクトルデータが散逸しクラスタ（データ
の房状の固まり）をはっきり形成せずクラス毎に分離し
にくい場合や、ベクトルデータの特徴によらず（あるい
は反して）意図的にクラス分類したい場合にも、誤分類
を小さくすることができる。

【００４６】（第９実施形態）図８は本発明の第９実施
形態の構成を示す図であり、図２に示した各ブロックの
中身を具体化した実施形態となっており、第８実施形態
においてクラス判定部４において判定したクラス結果を
判定結果評価部６に入力して評価し、重み付け関数設定
部２において評価結果に基づき重み付け関数を再設定す
る。

【００４７】ここでの判定結果評価部６は、クラス結果
を記録するクラス結果用メモリ６００、クラス結果を評
価する評価演算器６０１、その評価に基づき重み付け関
数を再設定するための操作を設定する再設定操作設定演
算器６０２からなる。評価演算器６０１において、クラ
スが予め分っているベクトルにつきクラス結果用メモリ
６００に記録されたクラスのデータと、予め分っている
クラスを比較し、誤分類率を評価演算器６０１で計算す
る。その結果に基づいて、再設定操作設定演算器６０２
では、誤分類率が高いデータを解析し、そのデータの誤
分類が少なくなるように重み付け関数を再設定するため
の操作を設定する。

【００４８】その操作情報を重み付け関数設定部２の関
数設定操作器２０２に送り、関数設定操作器２０２から
の入力により、関数設定演算器２００で、重み付け関数
ｂを計算する。なお、関数設定操作器２０２は第８実施
形態ではキーボードなどで実現されているが、ここでは
自動スイッチなどの自動設定回路により実現することに
より、重み付け関数ｂが自動的に設定されるようにして
もよい。

【００４９】上記した第９実施形態によれば、ベクトル
の各成分に対して施す重み関数をクラス判定結果によっ
て再調整することが可能になるので、誤分類を更に小さ
くすることができる。

【００５０】（第１０実施形態）図９は本発明の第１０
実施形態の構成を示す図であり、図３に示した関数設定
部２０、代表ベクトル設定部２１、大きさ設定部２２の
各ブロックの中身を具体化した実施形態となっている。
関数設定部２０は関数を作成する関数設定演算器２００
と、作成された関数を記憶する重み付け関数用メモリ２
０１からなり、代表ベクトル設定部２１は代表ベクトル
を設定する代表ベクトル設定演算器２１０と、設定され
た代表ベクトルを記憶する代表ベクトル用メモリ２１１
とからなる。また、大きさ設定部２２は大きさを設定す
る大きさ設定演算器２２０と、設定された大きさを記憶
する大きさ用メモリ２２１からなる。

【００５１】まず代表ベクトル設定部２１について説明
する。代表ベクトルの設定の方法はいろいろ考えられる
が、例えばベクトル記憶用メモリ１００から、あるクラ
スに属する入力ベクトルを適当に選択しても良いし、同
一クラス内の複数個のベクトルを選択し、その平均を求
め代表ベクトルとしても良い。また、標準パターンとし
て予め、本装置の外で求められたものを設定しても良
い。代表ベクトル設定演算器２１０で作成された代表ベ
クトルは代表ベクトル用メモリ２１１に記憶される。

【００５２】続いて大きさ設定部２２について説明す
る。重みの大きさの設定の方法はいろいろ考えられる
が、例えばベクトル記憶用メモリ１００から、各クラス
毎に入力ベクトルを抽出し、各成分毎にクラス内分散を
計算し、クラス内分散の小さいものを分類に効果のある
ものと推定して重みの大きさを大きく設定し、クラス内
分散の大きいものを分類に効果のないものと推定して重
みの大きさを小さく設定しても良い。また、各成分毎に
クラス間分散を計算し、クラス間分散の小さいものを分
類に効果のないものと推定して重みの大きさを小さく設
定し、クラス間分散の大きいものを分類に効果のあるも
のと推定して重みの大きさを大きく設定しても良い。も
ちろん両者を組み合わせ、クラス内分散とクラス外分散
の比をもとに設定しても良い。

【００５３】また、ベクトル記憶用メモリ１００の入力
ベクトルを用いずに、例えば色についての成分を強調し
たいという意図を反映させるため、図７で説明したキー
ボードなどの関数設定操作器２０２を大きさ設定部２２
内に設置して、その情報を元に大きさ設定演算器２２０
で大きさを設定しても良い。また、判定結果評価部６の
結果を受けて、代表ベクトルや重みの大きさを再設定し
てもよい。このように判定結果評価部６の情報をフィー
ドバックすれば、データを分類しながら更に分類能力が
あがるよう、学習効果を得ることが可能になる。設定さ
れた重みの大きさは大きさ用メモリ２２１に記憶され
る。

【００５４】関数を作成する関数設定演算器２００で
は、代表ベクトルの値と大きさの値をもとに分類結果が
最適になるように関数を設定・作成し、重み付け関数用
メモリ２０１に作成された関数を記憶する。なお、分類
結果が最適になるようにするには、例えば、ベクトルデ
ータが代表点付近に集まるように関数を設定してもよい
し、クラス境界付近での分離能力があがるように、境界
付近でデータが相対的に拡散するように関数を設定して
もよい。

【００５５】上記した第１０実施形態によれば、クラス
の代表ベクトルと重みの大きさの情報を合成して重み付
け関数を設定するので、ベクトルデータの特徴によらず
（あるいは反して）意図的にクラス分類したい場合に
も、誤分類を更に小さくすることができる。

【００５６】（第１１実施形態）図１０は本発明の第１
１実施形態の構成を示す図である。第１１実施形態は上
記した第１０実施形態において、重み付け関数設定部２
の関数設定部２０を、代表ベクトルの近傍値を設定する
代表ベクトル近傍値演算器２０２と、その値を記憶する
近傍値用メモリ２０３と、近傍値と代表ベクトルと重み
の大きさを用いて関数を設定する関数設定演算器２００
と、作成された重み付け関数を記憶する重み付け関数用
メモリ２０１とにより構成する。

【００５７】代表ベクトル近傍値演算器２０２では、図
４に示すような代表ベクトル付近での関数の傾きを緩や
かにすべき範囲を指定する。この近傍値が大きいと、代
表ベクトル付近の広く広がったデータを代表ベクトル付
近により強く収縮させる効果をもつことになる。また、
傾きを緩やかにするほど、データを代表ベクトル付近に
より強く収縮させる効果をもつ。

【００５８】なお、この重み付け関数は、図４のような
連続した関数をテーブルデータとして作成してもよい
し、例えば次のような簡単な数式を用いて作成してもよ
い。ｘを入力ベクトルの一つの成分、ｙを変換後の成
分、Ｗを重みの大きさ、ａ１，ａ２を第１，第２クラス
の代表ベクトルの対応成分、Ａを代表ベクトル近傍値と
する。また、＊は乗算を表す。

【００５９】ｘ＜ａ１−Ａ：ｙ＝Ｗ＊ｘａ１−Ａ≦ｘ≦ａ１＋Ａ：ｙ＝１／２＊Ｗ＊ｘ＋１／２
＊Ｗ＊ａ１ａ１＋Ａ＜ｘ＜ａ２−Ａ：ｙ＝Ｗ＊ｘａ２−Ａ≦ｘ≦ａ２＋Ａ：ｙ＝１／２＊Ｗ＊ｘ＋１／２
＊Ｗ＊ａ２ａ２＋Ａ＜ｘ：ｙ＝Ｗ＊ｘこの関数を図示すると、図１１のようになる。なお、こ
の例では代表ベクトル付近の傾きが半分になるよう設定
したが、傾きを緩やかにするように任意の値に設定して
よい。

【００６０】上記した第１１実施形態によれば、代表ベ
クトル近傍で関数の傾きが緩くなるように重み付け関数
を設定するので、データをクラス代表ベクトル近傍に収
縮させることができ、誤分類を更に小さくすることがで
きる。特に、ベクトルデータの特徴によらず（あるいは
反して）意図的にクラス分類したい場合にも、誤分類を
更に小さくすることができる。

【００６１】（第１２実施形態）図１２は本発明の第１
２実施形態の構成を示す図である。第１２実施形態で
は、上記した第１１実施形態において、大きさ設定部２
２が、前述の大きさ設定演算器２２０と大きさ用メモリ
２２１の他に、代表ベクトル近傍で傾きが緩やかになる
関数を乗算するかどうかのしきい値を設定するしきい値
設定演算器２２２と、そのしきい値を記憶するしきい値
用メモリ２２３と、大きさメモリ２２１内に記憶された
重みの大きさとしきい値により関数をどのように設定す
るかを判定する関数判定演算器２２４とを備えている。

【００６２】例えば、あるしきい値（Ｂとする）より重
みの大きさが大きいとき（Ｗ１＞＝Ｂ）は、その成分が
分類に大きく寄与していると判断して、さらにクラス分
類能力が上がるように重み付け関数を図１３（ａ）のよ
うに設定し、あるしきい値より重みの大きさが小さいと
き（Ｗ１＜Ｂ）は、その成分が分類にあまり寄与してい
ないと判断して重み付け関数を図１３（ｂ）のように設
定する。

【００６３】ここで、あるしきい値は予め設定しておい
てもよいし、判定結果評価部６の結果を受けて再設定し
てもよい。このように判定結果評価部６の情報をフィー
ドバックすれば、データを分類しながらさらに分類能力
があがるように学習効果を得ることが可能になる。

【００６４】上記した第１２実施形態によれば、重みの
大きさがある一定の値より大きい時にのみ、代表ベクト
ル近傍で関数の傾きが緩くなるように重み付け関数を設
定するので、分類に大きく寄与している成分を、更に効
果的に分類に寄与させることが可能になり、これによっ
て更に誤分類を小さくすることができる。特に、ベクト
ルデータの特徴によらず（あるいは反して）意図的にク
ラス分類したい場合にも、誤分類を更に小さくすること
ができる。

【００６５】（第１３実施形態）図１４は本発明の第１
３実施形態の構成を示す図であり、図６（ａ）、図６
（ｂ）に示すような重み付け関数を作成するものであ
る。第１３実施形態では、重み付け関数設定部２の関数
設定部２０が、代表ベクトル間の傾き値を設定する代表
ベクトル間傾き値演算器２０４と、その値を記憶する傾
き値用メモリ２０５と、傾き値と代表ベクトルと重みの
大きさを用いて重み付け関数を設定する関数設定演算器
２００と、設定された重み付け関数を記憶する重み付け
関数用メモリ２０１から構成される。

【００６６】代表ベクトル間傾き値演算器２０４では、
図６（ａ）、（ｂ）に示すような代表ベクトル間での傾
きの急峻の度合いを指定する。この急峻の度合いを相対
的に大きくすると、クラス間の距離を相対的に大きくさ
せることができ、また境界付近のデータを拡散させるこ
とができる。

【００６７】上記した第１３実施形態によれば、代表ベ
クトル間での関数の傾きが急峻になるように重み付け関
数を設定するので、クラス間の距離を相対的に大きくさ
せることができ、また境界付近のデータを拡散させるこ
とができるので、誤分類を更に小さくすることができ
る。特に、ベクトルデータの特徴によらず（あるいは反
して）意図的にクラス分類したい場合にも、誤分類を更
に小さくすることができる。

【００６８】（第１４実施形態）図１５は本発明の第１
４実施形態の構成を示す図である。第１４実施形態は第
１３の実施形態において大きさ設定部２２が、前述の大
きさ設定演算器２２０と大きさ用メモリ２２１の他に、
代表ベクトル間での関数の傾きが急峻になるような重み
付け関数をかけるかどうかのしきい値を設定するしきい
値設定演算器２２２と、そのしきい値を記憶するしきい
値用メモリ２２３と、大きさメモリ２２１内に記憶され
た重みの大きさとしきい値から関数をどのように設定す
るかを判定する関数判定演算器２２４とを備えている。

【００６９】例えば、あるしきい値（Ｂとする）より重
みの大きさが大きいとき（Ｗ１≧Ｂ）は、その成分が分
類に大きく寄与していると判断して、さらにクラス分類
能力が上がるように重み付け関数を図１６（ａ）のよう
に設定し、あるしきい値より重みの大きさが小さいとき
（Ｗ１＜Ｂ）は、その成分が分類にあまり寄与していな
いと判断して重み付け関数を図１６（ｂ）のように設定
する。

【００７０】ここで、あるしきい値は予め設定しておい
てもよいし、判定結果評価部６の結果を受けて再設定し
てもよい。このように判定結果評価部６の情報をフィー
ドバックすれば、データを分類しながらさらに分類能力
があがるよう、学習効果を得ることが可能になる。

【００７１】上記した第１４実施形態によれば、重みの
大きさがある一定の値より大きい時にのみ、代表ベクト
ル間での関数の傾きが急峻になるような重み付け関数を
設定するので、分類に大きく寄与している成分を、更に
効果的に分類に寄与させることが可能になり、これによ
って誤分類を更に小さくすることができる。特に、ベク
トルデータの特徴によらず（あるいは反して）意図的に
クラス分類したい場合にも、誤分類を更に小さくするこ
とができる。

【００７２】なお、これまで述べた各実施形態の構成に
ついては、当然、各種の変形、変更が可能である。例え
ば、上述の実施形態では重み関数としてＷ（Ｘ）とい
う、入力ベクトルの一つの成分からなるものを用いた
が、複数個の成分からなるもの、すなわち、Ｗ（Ｘ1、
Ｘ2、…、Ｘm）：Ｘ1、Ｘ2、…、Ｘmは入力ベクトルの
各成分、としても構わない。

【００７３】また、本実施形態の応用例は画像認識、画
像の領域分割、画像検索などの画像関連に限られるもの
ではなく、音声認識、音声検索、文字認識、文字検索、
匂いセンサー解析、圧力センサー解析など、特徴量を扱
うものであればどのような分野にも応用することが可能
である。

【００７４】（付記）上記した具体的実施形態から以下
のような構成の発明が抽出される。

【００７５】１．クラス分類すべきベクトルデータを入
力するベクトル入力部と、入力ベクトルの各成分に対し
て施すべき重み関数を設定する重み付け関数設定部と、
この重み付け関数設定部によって設定された重み付け関
数に基づいて、入力ベクトルを変換する入力ベクトル変
換部と、変換後の入力ベクトルをクラス判定するクラス
判定部と、このクラス判定部によって判定されたクラス
を出力するクラス出力部とを具備することを特徴とする
クラス分類装置。

【００７６】２．前記クラス判定部において判定したク
ラスを評価する判定結果評価部を有し、前記重み付け関
数設定部は、この判定結果評価部での評価に基づいて、
重み付け関数を再設定することを特徴とする１．に記載
のクラス分類装置。

【００７７】３．前記重み付け関数設定部は、クラスの
代表ベクトルを設定する代表ベクトル設定部と、重みの
大きさを設定する大きさ設定部と、前記代表ベクトル設
定部によって設定された代表ベクトルと、前記大きさ設
定部によって設定された重みの大きさとに基づき、重み
付け関数を設定する関数設定部とを具備することを特徴
とする１．または２．に記載のクラス分類装置。

【００７８】４．前記重み付け関数設定部は、代表ベ
クトル近傍で関数の傾きが緩くなるように重み付け関数
を設定することを特徴とする３．に記載のクラス分類装
置。

【００７９】５．前記重み付け関数設定部は、前記大
きさ設定部で設定された重みの大きさがある一定の値よ
り大きい時にのみ、代表ベクトル近傍で関数の傾きが緩
くなるように重み付け関数を設定することを特徴とする
４．に記載のクラス分類装置。

【００８０】６．前記重み付け関数設定部は、代表ベ
クトル間で関数の傾きが急峻になるように重み付け関数
を設定することを特徴とする３．に記載のクラス分類装
置。

【００８１】７．前記重み付け関数設定部は、前記大
きさ設定部で設定された重みの大きさがある一定の値よ
り大きい時にのみ、代表ベクトル間で関数の傾きが急峻
になるように重み付け関数を設定することを特徴とする
６．に記載のクラス分類装置。

【００８２】

【発明の効果】本発明によれば、ベクトルデータが散逸
しクラスタ（データの房状の固まり）をはっきり形成し
ないためクラス毎に分離しにくい場合、あるいはベクト
ルデータの特徴によらず（あるいは反して）意図的にク
ラス分類したい場合にも、精度よくベクトルデータを複
数個のクラスにクラス分類できる。

【図面の簡単な説明】

【図１】本発明の第１実施形態の構成を示す図である。

【図２】本発明の第２実施形態の構成を示す図である。

【図３】本発明の第３実施形態の構成を示す図である。

【図４】本発明の第３実施形態における重み付け関数の
設定方法を説明するための図である。

【図５】本発明の第４実施形態の効果について説明する
ための図である。

【図６】本発明の第６実施形態を説明するための図であ
る。

【図７】本発明の第８実施形態の構成を示す図である。

【図８】本発明の第９実施形態の構成を示す図である。

【図９】本発明の第１０実施形態の構成を示す図であ
る。

【図１０】本発明の第１１実施形態の構成を示す図であ
る。

【図１１】本発明の第１１実施形態の重み付け関数を図
示した図である。

【図１２】本発明の第１２実施形態の構成を示す図であ
る。

【図１３】本発明の第１２実施形態の作用を説明するた
めの図である。

【図１４】本発明の第１３実施形態の構成を示す図であ
る。

【図１５】本発明の第１４実施形態の構成を示す図であ
る。

【図１６】本発明の第１４実施形態の作用を説明するた
めの図である。

【図１７】従来のクラス分類の手順を説明するためのフ
ローチャートである。

【図１８】従来のクラス分類方法の欠点を示す図であ
る。

【図１９】誤分類を少なくする従来の一クラス分類方法
を説明するための図である。

【図２０】従来のクラス分類方法では誤分類を少なくで
きない理由について説明するための図である。

【図２１】従来のクラス分類方法では誤分類を少なくで
きない他の理由について説明するための図である。

【符号の説明】

１ベクトル入力部２重み付け関数設定部３入力ベクトル４クラス判定部５クラス出力部６判定結果評価部２０関数設定部２１代表ベクトル設定部２２大きさ設定部

Claims

【特許請求の範囲】

【請求項１】クラス分類すべきベクトルデータを入力
するベクトル入力部と、入力ベクトルの各成分に対して施すべき重み関数を設定
する重み付け関数設定部と、この重み付け関数設定部によって設定された重み付け関
数に基づいて、入力ベクトルを変換する入力ベクトル変
換部と、変換後の入力ベクトルをクラス判定するクラス判定部
と、このクラス判定部によって判定されたクラスを出力する
クラス出力部とを具備することを特徴とするクラス分類
装置。
【請求項２】前記クラス判定部において判定したクラ
スを評価する判定結果評価部を有し、前記重み付け関数
設定部は、この判定結果評価部での評価に基づいて、重
み付け関数を再設定することを特徴とする請求項１記載
のクラス分類装置。
【請求項３】前記重み付け関数設定部は、クラスの代
表ベクトルを設定する代表ベクトル設定部と、重みの大
きさを設定する大きさ設定部と、前記代表ベクトル設定
部によって設定された代表ベクトルと、前記大きさ設定
部によって設定された重みの大きさとに基づき、重み付
け関数を設定する関数設定部とを具備することを特徴と
する請求項１または２記載のクラス分類装置。