[go: up one dir, main page]

JPH07311846A - Pattern recognition dictionary preparation device - Google Patents

Pattern recognition dictionary preparation device

Info

Publication number
JPH07311846A
JPH07311846A JP6102881A JP10288194A JPH07311846A JP H07311846 A JPH07311846 A JP H07311846A JP 6102881 A JP6102881 A JP 6102881A JP 10288194 A JP10288194 A JP 10288194A JP H07311846 A JPH07311846 A JP H07311846A
Authority
JP
Japan
Prior art keywords
category
recognition
pattern
subspace
learning pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP6102881A
Other languages
Japanese (ja)
Inventor
Nobuo Miyamoto
信夫 宮本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP6102881A priority Critical patent/JPH07311846A/en
Publication of JPH07311846A publication Critical patent/JPH07311846A/en
Pending legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)

Abstract

PURPOSE:To provide a pattern recognition dictionary preparation device which and eliminates a need of the processing of affine part spaces of categories contending with a noticed category while taking the erroneous recognition rate as the evaluation reference and is easily applied to a multi-category pattern recognition dictionary. CONSTITUTION:A standard feature vector update part 13 refers to a category limiting learning pattern recognition result storage part 11 to count the number of erroneously recognized patterns and takes out these patterns one by one to generate standard feature vectors, which are moved so as to extend the distances between erroneously recognized patterns and erroneous recognition destination categories, or partial space base vectors, which are moved so as to reduce the distances between erroneously recognized patterns and their correct answer categories, and transfers these vectors to a category limiting learning pattern recognition part 10. The part 10 uses transferred standard feature vectors instead of standard feature vectors stored in a standard feature vector storage part 3 to execute the category limiting recognition of the noticed category and categories contending with it.

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【産業上の利用分野】本発明は、学習パタンから抽出さ
れた特徴ベクトルの集合を用いて、パタン認識装置で使
用する認識辞書、すなわち認識対象カテゴリ毎の代表的
な形状を表現する数量の組を作成するパタン認識辞書作
成装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention uses a set of feature vectors extracted from a learning pattern to recognize a recognition dictionary used by a pattern recognition device, that is, a set of quantities representing a typical shape for each recognition target category. The present invention relates to a pattern recognition dictionary creating device for creating a pattern.

【0002】[0002]

【従来の技術】パタン認識辞書作成装置は、学習パタン
から抽出された特徴ベクトルの集合に各種の統計処理を
行って認識辞書を出力する装置である。パタン認識装置
においては、識別関数を用いて、未知パタンと認識辞書
に格納されている各カテゴリとの距離あるいは類似度を
算出し、未知パタンを認識する。認識辞書の構成は、使
用する識別関数によって異なる。
2. Description of the Related Art A pattern recognition dictionary creating device is a device for performing various statistical processes on a set of feature vectors extracted from a learning pattern and outputting a recognition dictionary. The pattern recognition device recognizes the unknown pattern by calculating the distance or similarity between the unknown pattern and each category stored in the recognition dictionary using the discriminant function. The structure of the recognition dictionary depends on the discriminant function used.

【0003】識別関数がユークリッド距離の場合には、
認識辞書として各カテゴリを代表する標準特徴ベクトル
を使用する。すなわち、未知パタンと着目カテゴリとの
距離Deは
When the discriminant function is the Euclidean distance,
A standard feature vector representing each category is used as a recognition dictionary. That is, the distance De between the unknown pattern and the category of interest is

【0004】[0004]

【数1】 で与えられる。ここで、xは未知パタンの特徴ベクト
ル、μは着目カテゴリの標準特徴ベクトル、‖‖はユー
クリッドノルムを表す。一般に、標準特徴ベクトルμと
しては、着目カテゴリの学習パタンの特徴ベクトルの平
均ベクトル:
[Equation 1] Given in. Here, x is a feature vector of an unknown pattern, μ is a standard feature vector of the target category, and ‖‖ is a Euclidean norm. Generally, as the standard feature vector μ, the average vector of the feature vectors of the learning patterns of the target category:

【0005】[0005]

【数2】 が使用される。ここで、xn は着目カテゴリの第n番目
の学習パタンの特徴ベクトル、Nは着目カテゴリの学習
パタン数を表す。
[Equation 2] Is used. Here, x n represents the feature vector of the n-th learning pattern in the target category, and N represents the number of learning patterns in the target category.

【0006】通常、特徴ベクトルの成分の間には相関が
存在する。そのため、同一カテゴリのパタン集合であっ
ても、特徴空間内でパタン分布の広がる方向が特徴軸と
平行でない場合も少なくない。ユークリッド距離を使用
する場合、このような相関のある分布を、標準特徴ベク
トルという特徴空間内の1点で表現しているので、その
識別能力には限界がある。
Usually, there is a correlation between the components of the feature vector. Therefore, even in the case of pattern sets of the same category, there are many cases in which the direction in which the pattern distribution spreads in the feature space is not parallel to the feature axis. When the Euclidean distance is used, such a correlated distribution is represented by one point in the feature space called the standard feature vector, and therefore its discriminating ability has a limit.

【0007】そこで、各カテゴリの“点”による表現
を、直線や平面などのアフィン部分空間による表現に拡
張し、未知パタンと各カテゴリとの距離を、未知パタン
の特徴ベクトルと各カテゴリのアフィン部分空間との最
短距離で定義する方法が提案されている(池田、田中、
元岡:「手書き文字認識における投影距離法」、情報処
理学会論文誌、Vol.24,No.1,pp.106
−112,1983−01)。
Therefore, the expression by "points" of each category is expanded to the expression by an affine subspace such as a straight line or a plane, and the distance between the unknown pattern and each category is calculated by using the feature vector of the unknown pattern and the affine part of each category. A method of defining the shortest distance from the space has been proposed (Ikeda, Tanaka,
Motooka: “Projection distance method in handwritten character recognition”, Journal of Information Processing Society of Japan, Vol. 24, No. 1, pp. 106
-112, 1983-01).

【0008】すなわち、図6に示すように、基底ベクト
ルΨ1 ,Ψ2 ,…,Ψp (p:部分空間次元数)で指定
される部分空間Lと、標準特徴ベクトルμとで構成され
るアフィン部分空間:
That is, as shown in FIG. 6, it is composed of a subspace L designated by basis vectors Ψ 1 , Ψ 2 , ..., Ψ p (p: dimensionality of subspace) and a standard feature vector μ. Affine subspace:

【0009】[0009]

【数3】 を用いて各カテゴリの分布を表現する。未知パタンと各
カテゴリとの距離Drを、未知パタンの特徴ベクトルx
と各カテゴリのアフィン部分空間Sとの最短距離
[Equation 3] Is used to express the distribution of each category. The distance Dr between the unknown pattern and each category is defined as the feature vector x of the unknown pattern.
And the shortest distance between each affine subspace S of each category

【0010】[0010]

【数4】 で定義する。‖x−y‖が最小となるのは、ベクトルx
−yとアフィン部分空間Sとが直交する場合であるか
ら、Drは次式のように表現することができる。
[Equation 4] Define in. The minimum of ‖x−y‖ is the vector x
Since -y and the affine subspace S are orthogonal to each other, Dr can be expressed by the following equation.

【0011】[0011]

【数5】 投影距離法においては、μとしては、平均ベクトル[Equation 5] In the projection distance method, μ is the average vector

【0012】[0012]

【外1】 を用いる。また、基底ベクトルΨ1 ,Ψ2 ,…,Ψp
主成分分析を用いて決定する。すなわち、カテゴリ毎に
共分散行列A:
[Outer 1] To use. Further, the basis vectors Ψ 1 , Ψ 2 , ..., Ψ p are determined using principal component analysis. That is, the covariance matrix A for each category:

【0013】[0013]

【数6】 を求め、その固有値問題: AΨ=λΨ を解いて得られる固有ベクトルΨ1 ,Ψ2 ,…,ΨK
(K:特徴ベクトル次元数)のうち、対応する固有値λ
j の大きなものから順に選ばれたp個を着目カテゴリの
部分空間基底ベクトルとする。
[Equation 6] Eigenvalue problem: eigenvectors Ψ 1 , Ψ 2 ,…, Ψ K obtained by solving A Ψ = λΨ
(K: number of feature vector dimensions), corresponding eigenvalue λ
Let p selected in descending order of j be the subspace basis vectors of the target category.

【0014】投影距離は、ユークリッド距離に比べると
優れた識別関数ではあるが、主成分分析を用いるため
に、本来誤認識されにくいにもかかわらず出現頻度の高
い平均ベクトル付近の学習パタンの分布に強い影響を受
けてアフィン部分空間が決定される。そのため、認識精
度を大きく左右する。他のカテゴリとの境界付近に存在
する学習パタンの情報が反映されにくいという問題点が
ある。
The projection distance is an excellent discriminant function as compared with the Euclidean distance, but since the principal component analysis is used, the projection distance is distributed in the learning pattern near the average vector which is high in the appearance frequency although it is not likely to be misrecognized. Affin subspace is strongly influenced. Therefore, the recognition accuracy is greatly affected. There is a problem that the learning pattern information existing near the boundary with other categories is difficult to be reflected.

【0015】この問題点を解決する1つの方法として、
Kohonenらにより提案された学習部分空間法があ
る(エルッキ・オヤ著小川英光、佐藤誠訳;“パタン認
識と部分空間法”,産業図書,1986,pp.91−
118)。これは、主成分分析を用いて決定された部分
空間を初期部分空間として学習パタンを認識し、誤認識
された各パタンについて、正解カテゴリとの距離が小さ
くなるように、また、誤認識先カテゴリとの距離が遠く
なるように、正解カテゴリと誤認識先カテゴリの部分空
間を回転させる部分空間最適化法である。
As one method for solving this problem,
There is a learning subspace method proposed by Kohonen et al. (Translated by Erki Oya, Hidemitsu Ogawa, Makoto Sato; “Pattern Recognition and Subspace Method”, Sangyo Tosho, 1986, pp. 91-
118). This is because the learning pattern is recognized with the subspace determined using the principal component analysis as the initial subspace, and for each misrecognized pattern, the distance from the correct category becomes small, and the misrecognized destination category This is a subspace optimization method in which the subspaces of the correct category and the misrecognized category are rotated so that the distance between and becomes larger.

【0016】Kohonenらの学習部分空間法は、ア
フィン部分空間Sのかわりに単なる部分空間L、すなわ
ち原点を含むアフィン部分空間を使用し、部分空間との
距離のかわりに部分空間への射影長:
The learning subspace method of Kohonen et al. Uses a simple subspace L instead of the affine subspace S, that is, an affine subspace including the origin, and the projection length to the subspace instead of the distance to the subspace:

【0017】[0017]

【数7】 を使用している点で上述の投影距離法とは若干形式は異
なるが、同じ考え方は容易に投影距離法にも適用でき、
手順は以下のようになる。
[Equation 7] Although the format is slightly different from the projection distance method described above, the same idea can be easily applied to the projection distance method.
The procedure is as follows.

【0018】図7に示すように、着目カテゴリの標準特
徴ベクトルをμ、基底ベクトルをΨ 1 ,Ψ2 ,…,Ψ
p 、学習に使用する誤認識パタンの特徴ベクトルをxと
するとき、以下の手順にしたがって、アフィン部分空間
を標準特徴ベクトルμを中心に回転させる。 (1)ベクトルxの着目カテゴリのアフィン部分空間へ
の射影yを次式により求める。
As shown in FIG. 7, the standard features of the target category are
The characteristic vector is μ and the basis vector is Ψ 1 , Ψ2 ,…, Ψ
p , X is the feature vector of the misrecognition pattern used for learning
When doing, follow the steps below to perform affine subspace
Is rotated around the standard feature vector μ. (1) To the affine subspace of the target category of vector x
The projection y of is calculated by the following equation.

【0019】[0019]

【数8】 (2)ベクトルy−μと、部分空間基底ベクトルの一
つ、例えばΨ1 とを置換後、 y−μ,Ψ2 ,…,Ψp に対し、Gram−Schmidtの直交化法を使用し
て正規直交基底ベクトル
[Equation 8] (2) After replacing the vector y-μ with one of the subspace basis vectors, for example, Ψ 1 , using the Gram-Schmidt orthogonalization method for y-μ, Ψ 2 , ..., Ψ p. Orthonormal basis vector

【0020】[0020]

【数9】 を作成する。 (3)回転後の新しい基底ベクトルΦ1,Φ2 ,…,Φp
を次式で求める。
[Equation 9] To create. (3) New basis vectors Φ 1 , Φ 2 , ..., Φ p after rotation
Is calculated by the following formula.

【0021】[0021]

【数10】 ここで、[Equation 10] here,

【0022】[0022]

【数11】 は回転角に相当するパラメータである。xとアフィン部
分空間の距離は、θ=∞のとき最小値0に、
[Equation 11] Is a parameter corresponding to the rotation angle. The distance between x and the affine subspace has a minimum value of 0 when θ = ∞,

【0023】[0023]

【数12】 のとき最大値[Equation 12] Is the maximum

【0024】[0024]

【数13】 になる。特に、[Equation 13] become. In particular,

【0025】[0025]

【数14】 のとき、学習パタンxは正認識が保証される。ここで、
Drは、xと着目カテゴリのアフィン部分空間との距
離:
[Equation 14] In this case, correct recognition of the learning pattern x is guaranteed. here,
Dr is the distance between x and the affine subspace of the target category:

【0026】[0026]

【数15】 Deはxと着目カテゴリの標準特徴ベクトルとの距離:[Equation 15] De is the distance between x and the standard feature vector of the target category:

【0027】[0027]

【数16】 を表す。また、Dr′は、xが他のカテゴリに誤認識さ
れた着目カテゴリのパタンのときは誤認識先カテゴリの
アフィン部分空間との距離、xが着目カテゴリに誤認識
された他カテゴリのパタンのときは正解カテゴリのアフ
ィン部分空間との距離:
[Equation 16] Represents Also, Dr ′ is the distance from the affine subspace of the misrecognized category when x is the pattern of the target category that is erroneously recognized by another category, and x is the pattern of another category that is erroneously recognized by the target category. Is the distance to the affine subspace of the correct category:

【0028】[0028]

【数17】 を表す。μ′は他カテゴリの標準特徴ベクトル、y’は
xの他カテゴリのアフィン部分空間への射影である。
[Equation 17] Represents μ ′ is a standard feature vector of another category, and y ′ is a projection of another category of x onto an affine subspace.

【0029】θは角度そのものではないが、角度と1対
1の対応がつくので、以後は便宜上“回転角”と呼び、
またθ°を回転角基準値と呼ぶことにする。θとして回
転角基準値θ°を使用すると、着目学習パタンxは正読
されても他の学習パタンが誤認識され、全体としては、
かえって誤認識パタンが増加する場合も少なくない。そ
れを避けるために、Kohonenらは、θ°を正解カ
テゴリと誤認識先カテゴリの両方に等しく分配し、両ア
フィン部分空間を同時に回転させる方法を提案してい
る。この方法を用いれば、各カテゴリの回転量は小さく
なり、他の学習パタンの誤認識は少なくなるはずであ
る。
Although θ is not the angle itself, it has a one-to-one correspondence with the angle, and henceforth, it will be called "rotation angle" for convenience.
Further, θ ° will be referred to as a rotation angle reference value. When the rotation angle reference value θ ° is used as θ, other learning patterns are erroneously recognized even if the focused learning pattern x is correctly read, and as a whole,
On the contrary, it often happens that the misrecognition pattern increases. To avoid this, Kohonen et al. Have proposed a method in which θ ° is equally distributed to both the correct category and the misrecognized category, and both affine subspaces are rotated simultaneously. If this method is used, the amount of rotation of each category should be small, and false recognition of other learning patterns should be small.

【0030】[0030]

【発明が解決しようとする課題】しかしながら、Koh
onenらの方法のように回転角を正解カテゴリと誤認
識先カテゴリの両方で分担するようにしても、他の学習
パタンの誤認識が発生しないという保証はない。特徴空
間内のパタンの分布によっては、アフィン部分空間のわ
ずかな回転が多数の誤認識を発生させる可能性は残って
いるからである。反対に、回転角基準値θ°よりも大き
な回転を行っても、他の学習パタンの誤認識を伴うこと
なく正認識化が可能な場合にも、Kohonenらの方
法では十分な効果は得られない。
[Problems to be Solved by the Invention] However, Koh
Even if the rotation angle is shared by both the correct answer category and the erroneous recognition destination category as in the method of onen et al., there is no guarantee that erroneous recognition of other learning patterns does not occur. This is because, depending on the distribution of patterns in the feature space, it is still possible that a slight rotation of the affine subspace will cause a large number of false recognitions. On the other hand, even if a rotation larger than the rotation angle reference value θ ° is performed and the correct recognition is possible without causing misrecognition of other learning patterns, the method of Kohonen et al. Absent.

【0031】誤認識を確実に減少させる方法は、回転角
基準値を目安に微小回転を繰り返し、回転角を更新する
毎に学習パタンの認識を行って、誤認識パタン数が減少
から増加に転じたらアフィン部分空間の回転を打ち切る
方法である。この方法は、誤認識率を評価基準とする点
で好ましいアフィン部分空間最適化法ではあるが、学習
パタンの認識を繰り返すので処理量が多い。そのため、
カテゴリ数が多い場合には、誤認識パタン数の評価は、
着目カテゴリと、その着目カテゴリとの間で誤認識の起
こりやすいカテゴリ(以後競合カテゴリと呼ぶことにす
る)に限定して行わざるを得ない。
A method for surely reducing the false recognition is to repeat a minute rotation with the rotation angle reference value as a guide, recognize the learning pattern every time the rotation angle is updated, and change the number of false recognition patterns from a decrease to an increase. It is a method of stopping the rotation of the affine subspace. This method is a preferable affine subspace optimization method in terms of using the false recognition rate as an evaluation criterion, but it requires a large amount of processing because recognition of learning patterns is repeated. for that reason,
When the number of categories is large, the evaluation of the number of false recognition patterns is
There is no choice but to limit the attention category to a category (hereinafter, referred to as a competition category) in which misrecognition easily occurs between the attention category.

【0032】この場合、Kohonenらの方法に従っ
て競合カテゴリのアフィン部分空間の回転を実行しよう
とすると、その競合カテゴリに対する競合カテゴリの学
習パタンと認識辞書も誤認識パタン数の評価に用いる必
要がある。そのため、1つのカテゴリに対する競合カテ
ゴリが例えば10カテゴリであるとしても、1着目カテ
ゴリ当たり最大100カテゴリも考慮に入れて部分空間
最適化を行わなければならず、多大な処理量を要する。
そのため、この方法の多カテゴリのパタン認識への適用
は限界があった。
In this case, when trying to execute the rotation of the affine subspace of the competitive category according to the method of Kohonen et al., It is necessary to use the learning pattern of the competitive category and the recognition dictionary for the competitive category to evaluate the number of misrecognized patterns. Therefore, even if there are 10 competing categories with respect to one category, the subspace optimization must be performed in consideration of the maximum 100 categories per focused category, which requires a large amount of processing.
Therefore, the application of this method to multi-category pattern recognition is limited.

【0033】そこで、アフィン部分空間の回転を着目カ
テゴリの回転だけに限定すると、着目カテゴリに誤認識
されたパタンの中には、正読化できないパタンも現れ
る。具体的には、 De<Dr′ すなわち、着目パタンの特徴ベクトルと、着目カテゴリ
である、その誤認識先カテゴリの標準特徴ベクトルとの
ユークリッド距離Deが、着目パタンの特徴ベクトルと
その正解カテゴリのアフィン部分空間との距離Dr′よ
り小さいパタンである。これは、誤認識先カテゴリのア
フィン部分空間をどのように回転しても、着目パタンの
特徴ベクトルと誤認識カテゴリのアフィン部分空間との
距離DrがDeより大きくなることはないこと: Dr<De から、常に Dr<Dr′ が成立するためである。そのため、このようなパタンの
正認識化は、その正解カテゴリを着目カテゴリとする最
適化処理に期待するしかない。
Therefore, if the rotation of the affine subspace is limited to the rotation of the target category, some patterns that are erroneously recognized as the target category may not be correctly read. Specifically, De <Dr ', that is, the Euclidean distance De between the feature vector of the pattern of interest and the standard feature vector of the misrecognized category which is the category of interest is the feature vector of the pattern of interest and the affine of the correct category. The pattern is smaller than the distance Dr 'from the subspace. This means that no matter how the affine subspace of the misrecognized category is rotated, the distance Dr between the feature vector of the pattern of interest and the affine subspace of the misrecognized category does not become larger than De: Dr <De Therefore, Dr <Dr 'always holds. Therefore, the correct recognition of such patterns can only be expected from the optimization process in which the correct category is set as the focused category.

【0034】本発明の目的は、誤認識率を評価基準とし
ながら着目カテゴリの競合カテゴリのアフィン部分空間
に対する処理が不要で、多カテゴリのパタン認識辞書へ
の適用が容易なパタン認識辞書作成装置を提供すること
にある。
An object of the present invention is to provide a pattern recognition dictionary creating apparatus which does not need to process an affine subspace of a competing category of a target category while using an erroneous recognition rate as an evaluation criterion and which can be easily applied to a multi-category pattern recognition dictionary. To provide.

【0035】[0035]

【課題を解決するための手段】本発明のパタン認識辞書
作成装置は、学習パタンの特徴ベクトルとカテゴリ毎の
アフィン部分空間との学習パタンから抽出された特徴ベ
クトルの集合を用いて、カテゴリ毎のアフィン部分空間
を決定するパタン認識辞書作成装置において、学習パタ
ンの特徴ベクトルとカテゴリ毎のアフィン部分空間との
間の距離を用いて前記学習パタンを認識する学習パタン
認識手段と、前記学習パタン認識手段を用いて認識され
た前記学習パタン集合の認識結果をもとに、誤認識頻度
の高いカテゴリの集合を着目カテゴリ毎に決定する競合
カテゴリ集合決定手段と、認識に使用するアフィン部分
空間のカテゴリと、認識対象とする学習パタンのカテゴ
リとを、着目カテゴリと該着目カテゴリに対する前記競
合カテゴリ集合とに限定して認識するカテゴリ限定学習
パタン認識手段と、前記カテゴリ限定学習パタン認識手
段によって着目カテゴリに誤認識された競合カテゴリの
学習パタンについては、該学習パタンの特徴ベクトルと
着目カテゴリのアフィン部分空間との間の距離が大きく
なる方向にアフィン部分空間を回転させ、前記カテゴリ
限定学習パタン認識手段によって競合カテゴリに誤認識
された着目カテゴリの学習パタンについては、該学習パ
タンの特徴ベクトルと着目カテゴリのアフィン部分空間
との間の距離が小さくなる方向にアフィン部分空間を回
転させるアフィン部分空間回転手段と、前記カテゴリ限
定学習パタン認識手段によって着目カテゴリに誤認識さ
れた競合カテゴリの学習パタンについては、該学習パタ
ンの特徴ベクトルと着目カテゴリのアフィン部分空間と
の間の距離が大きくなる方向にアフィン部分空間を平行
移動させ、前記カテゴリ限定学習パタン認識手段によっ
て競合カテゴリに誤認識された着目カテゴリの学習パタ
ンについては、該学習パタンの特徴ベクトルと着目カテ
ゴリのアフィン部分空間との間の距離が小さくなる方向
にアフィン部分空間を平行移動させるアフィン部分空間
平行移動手段とを有する。
A pattern recognition dictionary creating apparatus of the present invention uses a set of feature vectors extracted from a learning pattern of a learning pattern feature vector and an affine subspace for each category, In a pattern recognition dictionary creating apparatus for determining an affine subspace, a learning pattern recognition means for recognizing the learning pattern using a distance between a feature vector of the learning pattern and the affine subspace for each category, and the learning pattern recognition means. Based on the recognition result of the learning pattern set recognized by using, a competing category set determining means for determining a set of categories with high misrecognition frequency for each target category, and a category of the affine subspace used for recognition , The category of the learning pattern to be recognized, the target category, and the competing category set for the target category With respect to the limited category recognition pattern recognition means and the learning pattern of the competing category that is erroneously recognized by the category limitation learning pattern recognition means as the focused category, the feature vector of the learned pattern and the affine subspace of the focused category The affine subspace is rotated in the direction in which the distance between the two becomes larger, and the learning pattern of the target category erroneously recognized as a competitive category by the category-limited learning pattern recognizing means is the affine of the feature vector of the learning pattern and the target category. Regarding the affine subspace rotating means for rotating the affine subspace in the direction in which the distance to the subspace becomes smaller, and the learning pattern of the competitive category erroneously recognized as the focused category by the category limited learning pattern recognition means, Of the pattern feature vector and the target category For the learning pattern of the target category that is erroneously recognized as a competitive category by the category-limited learning pattern recognition means, the feature vector of the learning pattern is translated by parallel moving the affine subspace in the direction in which the distance to the fin subspace increases. And affine subspace translation means for translating the affine subspace in a direction in which the distance between the affine subspace and the affine subspace of the target category becomes smaller.

【0036】[0036]

【作用】本発明は、アフィン部分空間を回転させる手段
に加え、平行移動させる手段を有することを最も主要な
特徴とする。すなわち、ベクトルx−μのアフィン部分
空間への射影ベクトルをy−μとするとき、図5に示す
ように、標準特徴ベクトルμをベクトルx−yの方向へ
移動させることにより、学習パタンの特徴ベクトルxと
着目カテゴリのアフィン部分空間との距離を増減させ
る。移動後の標準特徴ベクトルνは、次式で表される。
The present invention is most characterized in that it has a means for moving the affine subspace in addition to a means for rotating the affine subspace. That is, when the projection vector of the vector x-μ onto the affine subspace is y-μ, the standard feature vector μ is moved in the vector xy direction as shown in FIG. The distance between the vector x and the affine subspace of the target category is increased or decreased. The standard feature vector v after movement is represented by the following equation.

【0037】[0037]

【数18】 τ(−∞<τ<∞)は標準特徴ベクトルの移動量を表す
パラメータで、xとアフィン部分空間との距離は、
[Equation 18] τ (−∞ <τ <∞) is a parameter representing the amount of movement of the standard feature vector, and the distance between x and the affine subspace is

【0038】[0038]

【数19】 のとき最小値0をとる。特に、[Formula 19] Takes a minimum value of 0. In particular,

【0039】[0039]

【数20】 のとき、学習パタンxは正認識が保証される。ここで、
Drは、xと着目カテゴリのアフィン部分空間との距
離、Dr′は、xが他のカテゴリに誤認識された着目カ
テゴリのパタンの特徴ベクトルのときは誤認識先カテゴ
リのアフィン部分空間との距離、xが着目カテゴリに誤
認識された他カテゴリのパタンの特徴ベクトルのときは
正解カテゴリのアフィン部分空間との距離を表す。以後
このτ°を移動量基準値と呼ぶことにする。
[Equation 20] In this case, correct recognition of the learning pattern x is guaranteed. here,
Dr is the distance between x and the affine subspace of the target category, and Dr ′ is the distance between the affine subspace of the misrecognized category when x is the feature vector of the pattern of the target category that is erroneously recognized by another category. , X is a feature vector of a pattern of another category that is erroneously recognized as the focused category, it represents the distance from the affine subspace of the correct category. Hereinafter, this τ ° will be referred to as a movement amount reference value.

【0040】τは、θと同様に、τ°を目安に0から少
しずつ大きくする。τに伴って標準特徴ベクトルが更新
される毎に学習パタンの認識を行い、誤認識パタン数が
減少から増加に転じたらアフィン部分空間の平行移動を
打ち切る。
Like τ, τ is gradually increased from 0 with τ ° as a guide. The learning pattern is recognized every time the standard feature vector is updated with τ, and the parallel movement of the affine subspace is terminated when the number of erroneous recognition patterns changes from decreasing to increasing.

【0041】回転角θとは異なり、移動量τには値域の
制限がないため、どのような誤認識パタンも他学習パタ
ンの誤認識が増大しない限り着目カテゴリについての処
理だけで正認識化することができる。したがって、誤認
識率を評価基準としながら着目カテゴリの競合カテゴリ
のアフィン部分空間に対する処理が不要となり、多カテ
ゴリのパタン認識辞書への適用が容易なパタン認識辞書
作成装置を提供することができる。
Unlike the rotation angle θ, there is no limit on the range of the movement amount τ, so that any erroneous recognition pattern is correctly recognized only by processing the target category unless the erroneous recognition of other learning patterns increases. be able to. Therefore, it is not necessary to process the affine subspace of the competing category of the target category while using the recognition error rate as an evaluation criterion, and it is possible to provide a pattern recognition dictionary creating apparatus that can be easily applied to a pattern recognition dictionary of multiple categories.

【0042】[0042]

【実施例】次に、本発明の実施例について図面を参照し
て説明する。
Embodiments of the present invention will now be described with reference to the drawings.

【0043】図1は本発明の一実施例のパタン認識辞書
作成装置のブロック図である。
FIG. 1 is a block diagram of a pattern recognition dictionary creating apparatus according to an embodiment of the present invention.

【0044】本実施例のパタン認識辞書作成装置は、学
習パタン特徴ベクトル格納部1と初期標準特徴ベクトル
作成部2と標準特徴ベクトル格納部3と初期部分空間基
底ベクトル作成部4と部分空間基底ベクトル格納部5と
学習パタン認識部6と学習パタン認識結果格納部7と競
合カテゴリ集合決定部8と競合カテゴリ集合格納部9と
カテゴリ限定学習パタン認識部10とカテゴリ限定学習
パタン認識結果格納部11と部分空間基底ベクトル更新
部12と標準特徴ベクトル更新部13で構成されてい
る。図1において、破線で囲んだ部分が本発明で追加し
た部分である。
The pattern recognition dictionary creating apparatus of the present embodiment includes a learning pattern feature vector storage unit 1, an initial standard feature vector creation unit 2, a standard feature vector storage unit 3, an initial subspace basis vector creation unit 4, and a subspace basis vector. A storage unit 5, a learning pattern recognition unit 6, a learning pattern recognition result storage unit 7, a competitive category set determination unit 8, a competitive category set storage unit 9, a category limited learning pattern recognition unit 10, a category limited learning pattern recognition result storage unit 11, It is composed of a subspace basis vector updating unit 12 and a standard feature vector updating unit 13. In FIG. 1, a portion surrounded by a broken line is a portion added by the present invention.

【0045】認識辞書作成に使用される学習用パタンの
特徴ベクトルは、学習パタン特徴ベクトル格納部1に格
納されている。初期標準特徴ベクトル作成部2は、学習
パタン特徴ベクトル格納部1に格納されている特徴ベク
トルをカテゴリ毎に読み出し、平均演算により標準特徴
ベクトルを作成し、標準特徴ベクトル格納部3に格納す
る。初期部分空間基底ベクトル作成部4は、学習パタン
特徴ベクトル格納部1に格納されている特徴ベクトルを
カテゴリ毎に読み出し、主成分分析により固有ベクトル
を算出し、部分空間基底ベクトル格納部5に格納する。
学習パタン認識部6は、標準特徴ベクトル格納部3に格
納されている標準特徴ベクトルと、部分空間基底ベクト
ル格納部5に格納されている部分空間基底ベクトルとを
用いて学習パタン特徴ベクトル格納部1に格納されてい
る特徴ベクトルの認識を行い、その結果を学習パタン認
識結果格納部7に格納する。競合カテゴリ集合決定部8
は、学習パタン認識結果格納部7に格納されている認識
結果からカテゴリ間の誤認識頻度を算出し、カテゴリ毎
の競合カテゴリ集合を決定して、競合カテゴリ集合格納
部9に格納する。
The feature vector of the learning pattern used for creating the recognition dictionary is stored in the learning pattern feature vector storage unit 1. The initial standard feature vector creation unit 2 reads the feature vector stored in the learning pattern feature vector storage unit 1 for each category, creates a standard feature vector by averaging, and stores it in the standard feature vector storage unit 3. The initial subspace basis vector creation unit 4 reads the feature vector stored in the learning pattern feature vector storage unit 1 for each category, calculates the eigenvector by principal component analysis, and stores it in the subspace basis vector storage unit 5.
The learning pattern recognition unit 6 uses the standard feature vector stored in the standard feature vector storage unit 3 and the subspace basis vector stored in the subspace basis vector storage unit 5 to learn pattern feature vector storage unit 1 The feature vector stored in is recognized, and the result is stored in the learning pattern recognition result storage unit 7. Competitive category set determination unit 8
Calculates the erroneous recognition frequency between categories from the recognition result stored in the learning pattern recognition result storage unit 7, determines the competitive category set for each category, and stores it in the competitive category set storage unit 9.

【0046】部分空間基底ベクトル更新部12は、着目
カテゴリ毎に、着目カテゴリとその競合カテゴリについ
てのカテゴリ限定認識(認識対象カテゴリをいくつかの
カテゴリに限定して認識すること)をカテゴリ限定学習
パタン認識部10に依頼する。カテゴリ限定学習パタン
認識部10は、競合カテゴリ集合格納部9から着目カテ
ゴリに対する競合カテゴリ集合を読み込み、着目カテゴ
リとその競合カテゴリの学習パタン特徴ベクトル、標準
特徴ベクトル、部分空間基底ベクトルを、それぞれ学習
パタン特徴ベクトル格納部1、標準特徴ベクトル格納部
3、部分空間基底ベクトル格納部5から読み込んでカテ
ゴリ限定認識を実行し、カテゴリ限定学習パタン認識結
果格納部11に認識結果を格納する。
The subspace basis vector updating unit 12 carries out, for each focused category, limited category recognition of the focused category and its competing category (recognizing the recognized category by limiting it to some categories). Request the recognition unit 10. The category-limited learning pattern recognition unit 10 reads the competitive category set for the focused category from the competitive category set storage unit 9, and learns the learned pattern feature vector, the standard feature vector, and the subspace basis vector of the focused category and the competitive category, respectively. It reads from the feature vector storage unit 1, the standard feature vector storage unit 3, and the subspace basis vector storage unit 5 to perform category limited recognition, and stores the recognition result in the category limited learning pattern recognition result storage unit 11.

【0047】カテゴリ限定認識が終了すると、部分空間
基底ベクトル更新部12は、カテゴリ限定学習パタン認
識結果格納部11に格納されている各学習パタンの認識
結果を読み込み、誤認識パタン数を計数後、誤認識パタ
ンを1つずつ取り出し、誤認識パタンと誤認識先カテゴ
リとの距離が大きくなるように回転させた部分空間基底
ベクトル、あるいは誤認識パタンとその正解カテゴリと
の距離が小さくなるように回転させた部分空間基底ベク
トルを作成し、カテゴリ限定学習パタン認識部10に転
送する。カテゴリ限定学習パタン認識部10は、部分空
間基底ベクトル格納部5に格納されている部分空間基底
ベクトルのかわりに、転送された部分空間基底ベクトル
を使用して、着目カテゴリとその競合カテゴリについて
のカテゴリ限定認識を実行し、カテゴリ限定学習パタン
認識結果格納部11に認識結果を格納する。
When the category limited recognition is completed, the subspace basis vector updating unit 12 reads the recognition result of each learning pattern stored in the category limited learning pattern recognition result storage unit 11, counts the number of misrecognized patterns, The misrecognition patterns are taken out one by one and rotated so that the distance between the misrecognition pattern and the misrecognition destination category becomes large, or rotated so that the distance between the misrecognition pattern and the correct answer category becomes small. The generated subspace basis vector is created and transferred to the category limited learning pattern recognition unit 10. The category-limited learning pattern recognition unit 10 uses the transferred subspace basis vector instead of the subspace basis vector stored in the subspace basis vector storage unit 5, and uses the transferred subspace basis vector to classify the category of interest and its competition category. Limited recognition is performed, and the recognition result is stored in the category limited learning pattern recognition result storage unit 11.

【0048】部分空間基底ベクトル更新部12は、カテ
ゴリ限定学習パタン認識結果格納部11に格納されてい
る各学習パタンの認識結果を読み込み、誤認識パタン数
を計数し、誤認識パタン数が減少し続ける限り、着目カ
テゴリの部分空間基底ベクトルの回転と、カテゴリ限定
認識を繰り返す。誤認識パタン数が増加に転じたら、次
の誤認識パタンについて上記処理を繰り返す。着目カテ
ゴリについて所定の学習誤認識パタン数に達したら、着
目カテゴリの部分空間基底ベクトルを部分空間基底ベク
トル格納部5に格納する。
The subspace basis vector updating unit 12 reads the recognition result of each learning pattern stored in the category limited learning pattern recognition result storage unit 11, counts the number of erroneous recognition patterns, and reduces the number of erroneous recognition patterns. As long as it continues, the rotation of the subspace basis vector of the focused category and the category limited recognition are repeated. When the number of false recognition patterns starts to increase, the above process is repeated for the next false recognition pattern. When the predetermined learning misrecognition pattern number is reached for the focused category, the subspace basis vector of the focused category is stored in the subspace basis vector storage unit 5.

【0049】標準特徴ベクトル更新部13は、着目カテ
ゴリ毎に、着目カテゴリとその競合カテゴリについての
カテゴリ限定認識をカテゴリ限定学習パタン認識部10
に依頼する。カテゴリ限定学習パタン認識部10は、競
合カテゴリ集合格納部9を参照して、着目カテゴリとそ
の競合カテゴリの学習パタン特徴ベクトル、標準特徴ベ
クトル、部分空間基底ベクトルを、それぞれ学習パタン
特徴ベクトル格納部1、標準特徴ベクトル格納部3、部
分空間基底ベクトル格納部5から読み込んでカテゴリ限
定認識を実行し、カテゴリ限定学習パタン認識結果格納
部11に認識結果を格納する。
The standard feature vector updating unit 13 recognizes the category-limited recognition of the category of interest and its competing category for each category of interest.
Ask. The category-limited learning pattern recognition unit 10 refers to the competition category set storage unit 9 to acquire the learning pattern feature vector, the standard feature vector, and the subspace basis vector of the focused category and the competition category, respectively. , Category characteristic recognition is performed by reading from the standard feature vector storage unit 3 and the subspace basis vector storage unit 5, and the category limited learning pattern recognition result storage unit 11 stores the recognition result.

【0050】カテゴリ限定認識が終了すると、標準特徴
ベクトル更新部13は、カテゴリ限定学習パタン認識結
果格納部11に格納されている各学習パタンの認識結果
を読み込み、誤認識パタン数を計数後、誤認識パタンを
1つずつ取り出し、誤認識パタンと誤認識先カテゴリと
の距離が大きくなるように移動させた標準特徴ベクト
ル、あるいは誤認識パタンとその正解カテゴリとの距離
が小さくなるように移動させた部分空間基底ベクトルを
作成し、カテゴリ限定学習パタン認識部10に転送す
る。カテゴリ限定学習パタン認識部10は、標準特徴ベ
クトル格納部3に格納されている標準特徴ベクトルのか
わりに、転送された標準特徴ベクトルを使用して、着目
カテゴリとその競合カテゴリについてのカテゴリ限定認
識を実行し、カテゴリ限定学習パタン認識結果格納部1
1に認識結果を格納する。
When the category limited recognition is completed, the standard feature vector updating unit 13 reads the recognition result of each learning pattern stored in the category limited learning pattern recognition result storage unit 11, counts the number of misrecognized patterns, and then The recognition patterns were taken out one by one and moved so that the distance between the misrecognized pattern and the misrecognized destination category was increased, or the distance between the misrecognized pattern and the correct answer category was decreased. A subspace basis vector is created and transferred to the category limited learning pattern recognition unit 10. The category-limited learning pattern recognition unit 10 uses the transferred standard feature vector instead of the standard feature vector stored in the standard feature vector storage unit 3 to perform category-limited recognition of the focused category and its competitive category. Execution, category limited learning pattern recognition result storage unit 1
The recognition result is stored in 1.

【0051】標準特徴ベクトル更新部13は、カテゴリ
限定学習パタン認識結果格納部11に格納されている各
学習パタンの認識結果を読み込み、誤認識パタン数を計
数し、誤認識パタン数が減少し続ける限り、着目カテゴ
リの標準特徴ベクトルの移動と、カテゴリ限定認識を繰
り返す。誤認識パタン数が増加に転じたら、次の誤認識
パタンについて上記処理を繰り返す。着目カテゴリにつ
いて所定の学習誤認識パタン数に達したら、着目カテゴ
リの標準特徴ベクトルを標準特徴ベクトル格納部3に格
納する。
The standard feature vector updating unit 13 reads the recognition result of each learning pattern stored in the category limited learning pattern recognition result storage unit 11, counts the number of erroneous recognition patterns, and the number of erroneous recognition patterns continues to decrease. As long as the movement of the standard feature vector of the target category and the category-limited recognition are repeated. When the number of false recognition patterns starts to increase, the above process is repeated for the next false recognition pattern. When the number of learning misrecognition patterns of the target category is reached, the standard feature vector of the target category is stored in the standard feature vector storage unit 3.

【0052】図2〜4は、図1に示した認識辞書作成装
置の動作を示すフローチャートである。最初に、全学習
パタンの特徴ベクトルを読込み(ステップ21)、初期
認識辞書、すなわち全カテゴリCn(n=1,2,…,
N)の初期標準特徴ベクトルμnと初期部分空間Ln≡
{Ψ1 ,Ψ2 ,…,Ψp }(Ψj:第j基底ベクトル)
とを作成する(ステップ22,23)。ステップ22,
23で作成された初期認識辞書を用いて全学習パタンデ
ータの認識処理を行い、その認識結果をもとにカテゴリ
間の誤認識の頻度を調べ(ステップ24)、各カテゴリ
Cnの競合カテゴリ集合:Cn1,Cn2,…,Cns
(s:カテゴリCnについての登録競合カテゴリ数)を
決定する(ステップ25)。そして、着目カテゴリ番号
のカウンタnを0とし(ステップ26)、ステップ27
以降のカテゴリ毎の処理を開始する。
2 to 4 are flow charts showing the operation of the recognition dictionary creating apparatus shown in FIG. First, the feature vectors of all learning patterns are read (step 21), and the initial recognition dictionary, that is, all categories Cn (n = 1, 2, ...,).
N) initial standard feature vector μn and initial subspace Ln≡
1 , Ψ 2 , ..., Ψ p } (Ψ j: j-th basis vector)
And are created (steps 22 and 23). Step 22,
Recognition processing of all learning pattern data is performed using the initial recognition dictionary created in 23, and the frequency of misrecognition between categories is checked based on the recognition result (step 24), and the competitive category set of each category Cn: Cn 1 , Cn 2 , ..., Cns
(S: number of registered competition categories for category Cn) is determined (step 25). Then, the counter n of the category number of interest is set to 0 (step 26), and step 27
The subsequent processing for each category is started.

【0053】まず、nに1を加算する(ステップ2
7)。次に、学習パタンと認識辞書のカテゴリを着目カ
テゴリCnとその競合カテゴリCn1,Cn2,…,Cn
sに限定して認識処理を行い(ステップ28)、変数E
1に誤認識パタン数を格納する(ステップ29)。続い
て、学習回数カウンタkを0とおき(ステップ30)、
部分空間の回転による誤認識パタンの学習を実行する
(ステップ31〜43)。
First, 1 is added to n (step 2
7). Next, the categories of the learning pattern and the recognition dictionary are set to the focused category Cn and the competition categories Cn 1 , Cn 2 , ..., Cn.
The recognition process is limited to s (step 28), and the variable E
The number of misrecognized patterns is stored in 1 (step 29). Then, the learning number counter k is set to 0 (step 30),
Learning of misrecognition patterns due to rotation of the subspace is executed (steps 31 to 43).

【0054】ステップ28の認識処理で、着目カテゴリ
に誤認識された競合カテゴリに属するパタン、および競
合カテゴリに誤認識された着目カテゴリに属するパタン
の中から任意の1パタンを学習用誤認識パタンとして選
択する(ステップ31)。次に、回転角基準値θ°を計
算し(ステップ32)、反復回数カウンタmに0をセッ
トした上で(ステップ33)、ステップ34から40ま
での、選択された誤認識パタンを用いた反復学習を実行
する mに1を加算後(ステップ34)、回転角θ: θ←θ°*m/M (M:定数) を計算し(ステップ35)、着目カテゴリの部分空間L
nをθだけ回転させたRn(m)を作成する(ステップ
36)。標準特徴ベクトルμn,μn1,μn2,…,μ
nsと、部分空間Rn(m),Ln1,Ln2,…,Ln
sを用いて着目カテゴリとその競合カテゴリの学習パタ
ンの認識処理を行い(ステップ37)、変数E2に誤認
識パタン数を格納する(ステップ38)。部分空間回転
前後の誤認識パタン数E1,E2を比較し(ステップ3
9)、E2≦E1ならば、誤認識が減少または横ばいな
のでさらに大きな回転角を試すため、E1をE2で置換
後(ステップ40)、ステップ34へ戻る。E2>E1
ならば、誤認識が増加に転じたので、着目誤認識パタン
を用いた学習を終了する。すなわち、着目カテゴリの部
分空間を前回の部分空間Rn(m−1)で置換し(ステ
ップ41)、学習回数カウンタkに1加算後(ステップ
42)、kが所定の学習回数に達したか否かを判定し
(ステップ43)、達していない場合には、ステップ3
1へ戻る。達している場合には、ステップ44からステ
ップ59での標準特徴ベクトルの移動による誤認識パタ
ンの学習へ進む。
In the recognition processing of step 28, an arbitrary one pattern is selected as a learning misrecognition pattern from the patterns belonging to the competitive category misrecognized by the focused category and the patterns belonging to the focused category misrecognized by the competitive category. Select (step 31). Next, the rotation angle reference value θ ° is calculated (step 32), the iteration counter m is set to 0 (step 33), and the steps 34 to 40 are repeated using the selected misrecognition pattern. Learning is executed After adding 1 to m (step 34), the rotation angle θ: θ ← θ ° * m / M (M: constant) is calculated (step 35), and the subspace L of the target category is calculated.
Rn (m) is created by rotating n by θ (step 36). Standard feature vector μn, μn 1 , μn 2 , ..., μ
ns and subspaces Rn (m), Ln 1 , Ln 2 , ..., Ln
The learning pattern of the focused category and its competing category is recognized using s (step 37), and the number of misrecognized patterns is stored in the variable E2 (step 38). The number of erroneous recognition patterns E1 and E2 before and after the subspace rotation is compared (step 3
9) If E2 ≦ E1, false recognition is reduced or leveled, so that a larger rotation angle is tried, so E1 is replaced with E2 (step 40) and the process returns to step 34. E2> E1
If so, since the misrecognition has started to increase, the learning using the misrecognized pattern of interest is terminated. That is, the subspace of the focused category is replaced with the previous subspace Rn (m-1) (step 41), and 1 is added to the learning number counter k (step 42), and whether or not k reaches a predetermined learning number. (Step 43), and if not, step 3
Return to 1. If it has, the process proceeds to step 44 to step 59 to learn the misrecognition pattern by moving the standard feature vector.

【0055】まず、初期標準特徴ベクトルμn,μ
1,μn2,…,μnsと、回転による学習を終えた部
分空間Ln,Ln1,Ln2,…,Lnsを用いて着目カ
テゴリとその競合カテゴリの学習パタンの確認処理を行
い(ステップ44)、変数E1に誤認識パタン数を格納
する(ステップ45)。続いて、学習回数カウンタkを
0とおき(ステップ46)、ステップ47から59まで
の標準特徴ベクトルの移動による誤認識パタンの学習を
実行する。
First, the initial standard feature vector μn, μ
n 1, μn 2, ..., and μns, subspace Ln which has finished learning by rotation, Ln 1, Ln 2, ... , performs the confirmation process of learning the pattern of the competition category as the target category using a Lns (step 44 ), The number of misrecognized patterns is stored in the variable E1 (step 45). Subsequently, the learning number counter k is set to 0 (step 46), and the misrecognition pattern is learned by moving the standard feature vector from steps 47 to 59.

【0056】着目カテゴリCnに誤認識されたパタンお
よび他のカテゴリに誤認識された着目カテゴリCnに属
するパタンを選択する(ステップ47)。次に、移動量
基準値τ°を計算し(ステップ48)、反復回数カウン
タmに0をセットした上で(ステップ49)、ステップ
50から56までの、選択された誤認識パタンを用いた
反復学習を実行する。
A pattern erroneously recognized as the focused category Cn and a pattern belonging to the focused category Cn erroneously recognized as another category are selected (step 47). Next, the movement amount reference value τ ° is calculated (step 48), the iteration number counter m is set to 0 (step 49), and the iterations of steps 50 to 56 using the selected misrecognition pattern are repeated. Perform learning.

【0057】mに1を加算後(ステップ50)、移動量
τ: τ←τ°*m/M′ (M′:定数) を計算し(ステップ51)、着目カテゴリの標準特徴ベ
クトルμnをτだけ移動させたνn(m)を作成する
(ステップ52)。そして、標準特徴ベクトルνn
(m),μn1,μn2,…,μnsと、部分空間Ln,
Ln1,Ln2,…,Lnsを用いて着用カテゴリとその
競合カテゴリの学習パタンの認識処理を行い(ステップ
53)、変数E2に誤認識パタン数を格納する(ステッ
チ54)。
After adding 1 to m (step 50), the movement amount τ: τ ← τ ° * m / M '(M': constant) is calculated (step 51), and the standard feature vector μn of the target category is τ. Then, νn (m) that has been moved is created (step 52). Then, the standard feature vector νn
(M), μn 1 , μn 2 , ..., μns and subspace Ln,
Ln 1 , Ln 2 , ..., Lns are used to recognize the learning patterns of the wearing category and its competing categories (step 53), and the number of misrecognized patterns is stored in the variable E 2 (stitch 54).

【0058】部分空間回転前後の誤認識パタン数E1,
E2を比較し(ステップ155)、E2≦E1ならば、
さらに大きな移動量を試すため、E1をE2で置換後
(ステップ56)、ステップ50へ戻る。E2>E1な
らば、誤認識が増加に転じたので、着目誤認識パタンを
用いた学習を終了する。すなわち、着目カテゴリの標準
特徴ベクトルを前回の標準特徴ベクトルνn(m−1)
で置換し(ステップ57)、学習回数カウンタkに1加
算後(ステップ58)、kが所定の学習回数に等しいか
否かを判定し(ステップ59)、等しくない場合には、
ステップ47へ戻る。等しい場合には、続いて着目カテ
ゴリ番号nがカテゴリ数Nに等しいか否かを判定し(ス
テップ60)、等しい場合には処理を終了する。等しく
ないときは次のカテゴリの学習を実行するため、ステッ
プ27へ戻る。
Number of erroneous recognition patterns E1, before and after the subspace rotation
E2 is compared (step 155), and if E2 ≦ E1,
In order to try a larger movement amount, E1 is replaced with E2 (step 56), and the process returns to step 50. If E2> E1, the misrecognition has started to increase, so the learning using the misrecognized pattern of interest is terminated. That is, the standard feature vector of the focused category is set to the previous standard feature vector νn (m-1).
(Step 57), after adding 1 to the learning number counter k (step 58), it is determined whether k is equal to a predetermined learning number (step 59).
Return to step 47. If they are equal, then it is determined whether or not the focused category number n is equal to the number of categories N (step 60), and if they are equal, the process is terminated. If they are not equal, the learning of the next category is executed, and the process returns to step 27.

【0059】[0059]

【発明の効果】以上説明したように、本発明は、着目カ
テゴリのアフィン部分空間の平行移動を導入することに
より、着目カテゴリのアフィン部分空間の回転では対応
できない誤認識パタンの正読化も可能になるので、着目
カテゴリに対する競合カテゴリのアフィン部分空間の回
転は不要となり、処理量が削減される。その結果、着目
カテゴリのアフィン部分空間の回転・平行移動と、学習
パタン認識による誤認識パタン数評価の繰り返しによる
アフィン部分空間最適化が可能となり、多カテゴリのパ
タン認識辞書への適用も容易なパタン認識辞書作成装置
が実現できる。
As described above, according to the present invention, by introducing the parallel movement of the affine subspace of the target category, it is possible to correct the misrecognition pattern which cannot be handled by the rotation of the affine subspace of the target category. Therefore, it is not necessary to rotate the affine subspace of the competitive category with respect to the target category, and the processing amount is reduced. As a result, it is possible to optimize the affine subspace by rotating and translating the affine subspace of the target category and repeating the evaluation of the number of erroneous recognition patterns by learning pattern recognition, and to easily apply it to a pattern recognition dictionary of multiple categories. A recognition dictionary creation device can be realized.

【図面の簡単な説明】[Brief description of drawings]

【図1】本発明の一実施例のパタン認識辞書作成装置の
ブロック図である。
FIG. 1 is a block diagram of a pattern recognition dictionary creating apparatus according to an embodiment of the present invention.

【図2】図1のパタン認識辞書作成装置の動作を示すフ
ローチャートである。
FIG. 2 is a flowchart showing an operation of the pattern recognition dictionary creating device of FIG.

【図3】図1のパタン認識辞書作成装置の動作を示すフ
ローチャートである。
FIG. 3 is a flowchart showing an operation of the pattern recognition dictionary creating device of FIG.

【図4】図1のパタン認識辞書作成装置の動作を示すフ
ローチャートである。
FIG. 4 is a flowchart showing an operation of the pattern recognition dictionary creating device of FIG.

【図5】本発明の説明図である。FIG. 5 is an explanatory diagram of the present invention.

【図6】投影距離法の説明図である。FIG. 6 is an explanatory diagram of a projection distance method.

【図7】学習部分空間法の説明図である。FIG. 7 is an explanatory diagram of a learning subspace method.

【符号の説明】[Explanation of symbols]

1 学習パタン特徴ベクトル格納部 2 初期標準特徴ベクトル作成部 3 標準特徴ベクトル格納部 4 初期部分空間基底ベクトル作成部 5 部分空間基底ベクトル格納部 6 学習パタン認識部 7 学習パタン認識結果格納部 8 競合カテゴリ集合決定部 9 競合カテゴリ集合格納部 10 カテゴリ限定学習パタン認識部 11 カテゴリ限定学習パタン認識結果格納部 12 部分空間基底ベクトル更新部 13 標準特徴ベクトル更新部 21〜60 ステップ 1 learning pattern feature vector storage unit 2 initial standard feature vector creation unit 3 standard feature vector storage unit 4 initial subspace basis vector creation unit 5 subspace basis vector storage unit 6 learning pattern recognition unit 7 learning pattern recognition result storage unit 8 competition category Set determination unit 9 Competitive category set storage unit 10 Category limited learning pattern recognition unit 11 Category limited learning pattern recognition result storage unit 12 Subspace basis vector updating unit 13 Standard feature vector updating unit 21 to 60 steps

Claims (4)

【特許請求の範囲】[Claims] 【請求項1】 学習パタンから抽出された特徴ベクトル
の集合を用いて、カテゴリ毎のアフィン部分空間を決定
するパタン認識辞書作成装置において、 学習パタンの特徴ベクトルとカテゴリ毎のアフィン部分
空間との間の距離を用いて前記学習パタンを認識する学
習パタン認識手段と、 前記学習パタン認識手段を用いて認識された前記学習パ
タン集合の認識結果をもとに、誤認識頻度の高いカテゴ
リの集合を着目カテゴリ毎に決定する競合カテゴリ集合
決定手段と、 認識に使用するアフィン部分空間のカテゴリと、認識対
象とする学習パタンのカテゴリとを、着目カテゴリと該
着目カテゴリに対する前記競合カテゴリ集合とに限定し
て認識するカテゴリ限定学習パタン認識手段と、 前記カテゴリ限定学習パタン認識手段によって着目カテ
ゴリに誤認識された競合カテゴリの学習パタンについて
は、該学習パタンの特徴ベクトルと着目カテゴリのアフ
ィン部分空間との間の距離が大きくなる方向にアフィン
部分空間を回転させ、前記カテゴリ限定学習パタン認識
手段によって競合カテゴリに誤認識された着目カテゴリ
の学習パタンについては、該学習パタンの特徴ベクトル
と着目カテゴリのアフィン部分空間との間の距離が小さ
くなる方向にアフィン部分空間を回転させるアフィン部
分空間回転手段と、 前記カテゴリ限定学習パタン認識手段によって着目カテ
ゴリに誤認識された競合カテゴリの学習パタンについて
は、該学習パタンの特徴ベクトルと着目カテゴリのアフ
ィン部分空間との間の距離が大きくなる方向にアフィン
部分空間を平行移動させ、前記カテゴリ限定学習パタン
認識手段によって競合カテゴリに誤認識された着目カテ
ゴリの学習パタンについては、該学習パタンの特徴ベク
トルと着目カテゴリのアフィン部分空間との間の距離が
小さくなる方向にアフィン部分空間を平行移動させるア
フィン部分空間平行移動手段とを有することを特徴とす
るパタン認識辞書作成装置。
1. A pattern recognition dictionary creating apparatus for determining an affine subspace for each category using a set of feature vectors extracted from a learning pattern, wherein the feature vector of the learning pattern and the affine subspace for each category are Based on the learning pattern recognition means for recognizing the learning pattern by using the distance and the recognition result of the learning pattern set recognized by the learning pattern recognition means, a set of categories with high misrecognition frequency is focused. The competitive category set determining means for determining each category, the category of the affine subspace used for recognition, and the category of the learning pattern to be recognized are limited to the focused category and the competitive category set for the focused category. The category-limited learning pattern recognition means for recognizing, and the category For the learning pattern of the competitive category that has been erroneously recognized as above, the affine subspace is rotated in the direction in which the distance between the feature vector of the learning pattern and the affine subspace of the target category increases, and the category-limited learning pattern recognition means With respect to the learning pattern of the target category that is erroneously recognized as a competitive category by the affine subspace rotating means for rotating the affine subspace in the direction in which the distance between the feature vector of the learning pattern and the affine subspace of the target category becomes smaller. And, regarding the learning pattern of the competitive category that is erroneously recognized as the focused category by the category-limited learning pattern recognition means, the affine part in the direction in which the distance between the feature vector of the learning pattern and the affine subspace of the focused category increases. The space is translated, and the category-specific learning pattern For the learning pattern of the target category that is erroneously recognized as a competitive category by the recognition means, an affine part that translates the affine subspace in a direction in which the distance between the feature vector of the learning pattern and the affine subspace of the target category decreases. A pattern recognition dictionary creating apparatus comprising: a space parallel moving means.
【請求項2】 前記カテゴリ限定学習パタン認識手段
は、前記アフィン部分空間回転手段によって回転させら
れたアフィン部分空間を使用して、着目カテゴリとその
競合カテゴリについてのカテゴリ限定認識を実行し、ま
た前記アフィン部分空間平行移動手段によって平行移動
させられたアフィン部分空間を使用して、着目カテゴリ
とその競合カテゴリについてのカテゴリ限定認識を実行
する、請求項1記載のパタン認識辞書作成装置。
2. The category limited learning pattern recognition means executes the category limited recognition on the focused category and its competing category by using the affine subspace rotated by the affine subspace rotating means, and 2. The pattern recognition dictionary creating apparatus according to claim 1, wherein the affine subspace translated by the affine subspace translation means is used to perform category-limited recognition of the target category and its competitive category.
【請求項3】 誤認識パタン数が減少し続ける限り、前
記アフィン部分空間回転手段による、着目カテゴリのア
フィン部分空間の回転と、前記カテゴリ限定学習パタン
認識手段によるカテゴリ限定認識を繰り返し、誤認識パ
タン数が増加に転じたら、次の誤認識パタンについて前
記アフィン部分空間の回転と前記カテゴリ限定認識を繰
り返す、請求項1または2記載のパタン認識辞書作成装
置。
3. As long as the number of erroneous recognition patterns continues to decrease, the rotation of the affine subspace of the target category by the affine subspace rotating means and the category limited recognition by the category limited learning pattern recognizing means are repeated to obtain the erroneous recognition pattern. 3. The pattern recognition dictionary creating device according to claim 1, wherein when the number starts to increase, the rotation of the affine subspace and the category limited recognition are repeated for the next erroneous recognition pattern.
【請求項4】 誤認識パタン数が減少し続ける限り、前
記アフィン部分空間平行移動手段による、着目カテゴリ
のアフィン部分空間の平行移動と、前記カテゴリ限定学
習パタン認識手段によるカテゴリ限定認識を繰り返し、
誤認識パタン数が増加に転じたら、次の誤認識パタンに
ついて前記アフィン部分空間の平行移動と前記カテゴリ
限定認識を繰り返す、請求項1または2記載のパタン認
識辞書作成装置。
4. As long as the number of erroneous recognition patterns continues to decrease, the parallel movement of the affine subspace of the target category by the affine subspace parallel movement means and the category limited recognition by the category limited learning pattern recognition means are repeated,
3. The pattern recognition dictionary creating apparatus according to claim 1, wherein when the number of misrecognized patterns starts to increase, the parallel movement of the affine subspace and the category limited recognition are repeated for the next misrecognized pattern.
JP6102881A 1994-05-17 1994-05-17 Pattern recognition dictionary preparation device Pending JPH07311846A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP6102881A JPH07311846A (en) 1994-05-17 1994-05-17 Pattern recognition dictionary preparation device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP6102881A JPH07311846A (en) 1994-05-17 1994-05-17 Pattern recognition dictionary preparation device

Publications (1)

Publication Number Publication Date
JPH07311846A true JPH07311846A (en) 1995-11-28

Family

ID=14339219

Family Applications (1)

Application Number Title Priority Date Filing Date
JP6102881A Pending JPH07311846A (en) 1994-05-17 1994-05-17 Pattern recognition dictionary preparation device

Country Status (1)

Country Link
JP (1) JPH07311846A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6778701B1 (en) 1999-10-04 2004-08-17 Nec Corporation Feature extracting device for pattern recognition

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6778701B1 (en) 1999-10-04 2004-08-17 Nec Corporation Feature extracting device for pattern recognition

Similar Documents

Publication Publication Date Title
JP2815045B2 (en) Image feature extraction device, image feature analysis device, and image matching system
JP2669583B2 (en) Computer-based method and system for handwriting recognition
Wilson et al. Parametric hidden markov models for gesture recognition
US7095878B1 (en) Object class identification, verification of object image synthesis
US7593566B2 (en) Data recognition device
US11670078B2 (en) Method and system for visual based inspection of rotating objects
CN109190443A (en) It is a kind of accidentally to know gestures detection and error correction method
CN112381047A (en) Method for enhancing and identifying facial expression image
CN110717385A (en) Dynamic gesture recognition method
CN111429481A (en) A kind of target tracking method, device and terminal based on adaptive expression
JP2005084765A (en) Character recognition apparatus and method and program thereof
CN111027609B (en) A method and system for weighted classification of image data
JPH07311846A (en) Pattern recognition dictionary preparation device
JP3264242B2 (en) Recognition dictionary learning method and apparatus, and machine-readable recording medium recording program
JPH09245125A (en) Pattern recognition device and dictionary correcting method in the device
Huang et al. Gesture recognition using the multi-PDM method and hidden Markov model
Breuel Character recognition by adaptive statistical similarity
JP4625948B2 (en) PATTERN DETECTION DEVICE, PATTERN DETECTION METHOD, PATTERN DETECTION PROGRAM, COMPUTER-READABLE RECORDING MEDIUM, AND RECORDED DEVICE
Seguí et al. Weighted bagging for graph based one-class classifiers
CN116959009A (en) Method and device for identifying hand-drawn graph, electronic equipment and readable storage medium
Wang et al. Importance sampling based discriminative learning for large scale offline handwritten Chinese character recognition
CN112949625A (en) Target identification method and system based on centroid contour distance
KR101989434B1 (en) Method for merging line segment using batch in automatic driving system and recording medium thereof
JP3945971B2 (en) PATTERN RECOGNIZING DEVICE, PATTERN RECOGNIZING METHOD, AND COMPUTER-READABLE RECORDING MEDIUM CONTAINING PROGRAM FOR CAUSING COMPUTER TO EXECUTE THE METHOD
JP5030235B2 (en) Pattern recognition apparatus and pattern recognition method