[go: up one dir, main page]

JP2010071826A - Teacher data preparation method, and image sorting method and image sorter - Google Patents

Teacher data preparation method, and image sorting method and image sorter Download PDF

Info

Publication number
JP2010071826A
JP2010071826A JP2008240146A JP2008240146A JP2010071826A JP 2010071826 A JP2010071826 A JP 2010071826A JP 2008240146 A JP2008240146 A JP 2008240146A JP 2008240146 A JP2008240146 A JP 2008240146A JP 2010071826 A JP2010071826 A JP 2010071826A
Authority
JP
Japan
Prior art keywords
image
category
defect
feature amount
teacher data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008240146A
Other languages
Japanese (ja)
Other versions
JP5075070B2 (en
Inventor
Akira Matsumura
明 松村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dainippon Screen Manufacturing Co Ltd
Original Assignee
Dainippon Screen Manufacturing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dainippon Screen Manufacturing Co Ltd filed Critical Dainippon Screen Manufacturing Co Ltd
Priority to JP2008240146A priority Critical patent/JP5075070B2/en
Publication of JP2010071826A publication Critical patent/JP2010071826A/en
Application granted granted Critical
Publication of JP5075070B2 publication Critical patent/JP5075070B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Testing Or Measuring Of Semiconductors Or The Like (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To speedily and appropriately determine the category of a defective image utilized for teacher data when creating the teacher data used for learning of a sorter for sorting defects on a substrate. <P>SOLUTION: One kind of feature amount U<SB>x</SB>is acquired from a target defective image 7 having an undetermined category, and one kind of feature amount, namely T<SB>x11</SB>, T<SB>x12</SB>, T<SB>x21</SB>, is acquired from typical images 811, 812, 821 indicating typical defects of two categories 81, 82. Then, three feature amount differences between the feature amount U<SB>x</SB>and the feature amount T<SB>x11</SB>, T<SB>x12</SB>, T<SB>x21</SB>is obtained, and one vote is casted for the category 81 to which the typical image 811 having the smallest feature amount difference belongs. The similar processing is performed to the remaining types of feature amount, and the category 81 having the largest number of votes obtained in the categories 81, 82 is determined to be a category to which the target defective image 7 belongs. In this manner, by casting votes by obtaining the feature amount difference for each type of feature amount, the category of the target defective image is determined speedily and appropriately. <P>COPYRIGHT: (C)2010,JPO&INPIT

Description

本発明は、分類器の学習に使用される教師データを作成する教師データ作成方法、並びに、教師データの作成を伴う画像分類方法および画像分類装置に関する。   The present invention relates to a teacher data creation method for creating teacher data used for learning of a classifier, and an image classification method and an image classification apparatus that involve creation of teacher data.

半導体基板、ガラス基板、プリント基板等の製造では、異物や傷、エッチング不良等の欠陥を検査するために光学顕微鏡や走査電子顕微鏡等を用いて外観検査が行われる。従来より、このような検査工程において検出された欠陥に対して、さらに詳細な解析を行うことによりその欠陥の発生原因を特定し、欠陥に対する対策が行われてきた。   In manufacturing a semiconductor substrate, a glass substrate, a printed circuit board, and the like, an appearance inspection is performed using an optical microscope, a scanning electron microscope, or the like in order to inspect defects such as foreign matters, scratches, and etching defects. Conventionally, the cause of the defect has been identified by performing further detailed analysis on the defect detected in such an inspection process, and countermeasures against the defect have been taken.

近年では、基板上のパターンの複雑化および微細化に伴い、検出される欠陥の種類および数量が増加する傾向にあり、検査工程で検出された欠陥を自動的に分類する自動分類が提案されている。自動分類により欠陥の解析を迅速かつ効率的に行うことが実現され、発生頻度の高い欠陥の種類に注目して優先的に対策を施すことが可能となる。   In recent years, as the pattern on the substrate becomes more complex and finer, the types and quantities of detected defects tend to increase, and automatic classification has been proposed to automatically classify defects detected in the inspection process. Yes. It is possible to quickly and efficiently analyze defects by automatic classification, and it is possible to preferentially take measures by paying attention to the types of defects that occur frequently.

自動分類では、欠陥を分類する際にニューラルネットワークや決定木、判別分析等を利用した分類器が用いられる。分類器に自動分類を行わせるには、欠陥画像およびそのカテゴリ(すなわち、欠陥画像の種類)を示す信号を含む教師データを用意して分類器を学習させる必要がある。特許文献1では、オペレータがモニタに表示された教示用欠陥画像を観察し、欠陥のカテゴリの一覧表から該当するものを教示用欠陥画像に付与することにより教師データの作成が行われる。
特開2000−57349号公報
In automatic classification, a classifier using a neural network, a decision tree, discriminant analysis, or the like is used when classifying defects. In order for the classifier to perform automatic classification, it is necessary to prepare the teacher data including a signal indicating the defect image and its category (that is, the type of the defect image) to learn the classifier. In Patent Document 1, the operator observes the teaching defect image displayed on the monitor, and creates the teacher data by adding the corresponding one from the defect category list to the teaching defect image.
JP 2000-57349 A

ところで、自動分類の性能は、分類器を学習させる教師データの質に大きく依存する。質が高い教師データを用意するには、操作者による大量かつ正確な教示作業が求められ、多大な労力が必要となる。特許文献1では、教示用欠陥画像に対するカテゴリの付与をオペレータが行う必要があり、教師データの作成を迅速に行うことができない。なお、操作者による教示作業では、操作者の曖昧な判断によるカテゴリの付与により、誤ったカテゴリが付与された欠陥画像を含む教師データが作成されて自動分類の性能が低下するおそれもある。   By the way, the performance of the automatic classification largely depends on the quality of the teacher data for learning the classifier. In order to prepare high-quality teacher data, a large amount of accurate teaching work by an operator is required, and a great deal of labor is required. In Patent Document 1, it is necessary for an operator to assign a category to a teaching defect image, and teacher data cannot be created quickly. In addition, in the teaching work by the operator, there is a possibility that teacher data including a defect image to which an incorrect category is assigned is created due to the category assignment by the operator's ambiguous judgment and the performance of the automatic classification is lowered.

本発明は上記課題に鑑みなされたものであり、教師データに利用される欠陥画像のカテゴリの決定を高速に行うことを目的としている。   The present invention has been made in view of the above problems, and an object of the present invention is to determine a category of a defect image used for teacher data at high speed.

請求項1に記載の発明は、基板上の欠陥を示す欠陥画像を分類する分類器の学習に使用される教師データを作成する教師データ作成方法であって、前記分類器により欠陥画像が分類される複数のカテゴリのそれぞれにおいて、予め典型的な欠陥を示す少なくとも1つの典型画像が指定されており、前記教師データ作成方法が、a)未分類の欠陥画像である対象欠陥画像から一の種類の特徴量を取得する工程と、b)全ての典型画像の前記一の種類の特徴量と前記対象欠陥画像の前記一の種類の特徴量との差である複数の特徴量差を求める工程と、c)前記複数の特徴量差のうち最も値の小さいものに対応する典型画像が属するカテゴリに投票を行う工程と、d)前記対象欠陥画像の特徴量の各種類について前記a)ないしc)工程を行う工程と、e)前記複数のカテゴリのうち得票数が最も多いカテゴリを前記対象欠陥画像が属するカテゴリとして決定する工程とを備える。   The invention according to claim 1 is a teacher data creation method for creating teacher data used for learning of a classifier that classifies a defect image indicating a defect on a substrate, wherein the defect image is classified by the classifier. In each of the plurality of categories, at least one typical image indicating a typical defect is designated in advance, and the teacher data creation method is configured to: a) select one type from the target defect image that is an unclassified defect image; Obtaining a feature quantity; b) obtaining a plurality of feature quantity differences that are differences between the one kind of feature quantity of all typical images and the one kind of feature quantity of the target defect image; c) voting to a category to which a typical image corresponding to the smallest value among the plurality of feature quantity differences belongs, and d) processes a) to c) for each type of feature quantity of the target defect image. Process , And a step of determining e) number of votes of the plurality of categories is the largest category as the category to which the target defect image belongs.

請求項2に記載の発明は、請求項1に記載の教師データ作成方法であって、f)前記e)工程において決定されたカテゴリの典型画像に前記対象欠陥画像を加える工程をさらに備える。   The invention according to claim 2 is the teacher data creation method according to claim 1, further comprising the step of f) adding the target defect image to the typical image of the category determined in the step e).

請求項3に記載の発明は、請求項1または2に記載の教師データ作成方法であって、前記e)工程において、得票数が最も多いカテゴリと得票数が2番目に多いカテゴリとの得票数の差が所定値以下である場合に、前記対象欠陥画像が未分類のままとされる。   The invention according to claim 3 is the teacher data creation method according to claim 1 or 2, wherein in the step e), the number of votes of the category having the largest number of votes and the category having the second largest number of votes If the difference is less than or equal to a predetermined value, the target defect image is left unclassified.

請求項4に記載の発明は、基板上の欠陥を示す欠陥画像を分類する画像分類方法であって、請求項1ないし3のいずれかに記載の教師データ作成方法により作成された教師データを用いて分類器を学習させる工程と、前記分類器により欠陥画像を前記複数のカテゴリのいずれかに分類する工程とを備える。   The invention described in claim 4 is an image classification method for classifying a defect image indicating a defect on a substrate, wherein the teacher data created by the teacher data creation method according to any one of claims 1 to 3 is used. Learning the classifier, and classifying the defect image into any of the plurality of categories by the classifier.

請求項5に記載の発明は、基板上の欠陥を示す欠陥画像を分類する画像分類装置であって、欠陥画像を分類する分類器の学習に使用される教師データを作成する教師データ作成部と、欠陥画像を分類する分類器とを備え、前記分類器により欠陥画像が分類される複数のカテゴリのそれぞれにおいて、予め典型的な欠陥を示す少なくとも1つの典型画像が指定されており、前記教師データ作成部が、a)未分類の欠陥画像である対象欠陥画像から一の種類の特徴量を取得する工程と、b)全ての典型画像の前記一の種類の特徴量と前記対象欠陥画像の前記一の種類の特徴量との差である複数の特徴量差を求める工程と、c)前記複数の特徴量差のうち最も値の小さいものに対応する典型画像が属するカテゴリに投票を行う工程と、d)前記対象欠陥画像の特徴量の各種類について前記a)ないしc)工程を行う工程と、e)前記複数のカテゴリのうち得票数が最も多いカテゴリを前記対象欠陥画像が属するカテゴリとして決定する工程とを実行する。   The invention according to claim 5 is an image classification device for classifying a defect image indicating a defect on a substrate, wherein the teacher data generation unit generates teacher data used for learning of a classifier that classifies the defect image; A classifier for classifying defect images, and at least one typical image showing a typical defect is designated in advance in each of a plurality of categories into which the defect images are classified by the classifier, and the teacher data A) a step of a) acquiring one type of feature quantity from a target defect image that is an unclassified defect image; and b) the one type of feature quantity of all typical images and the target defect image. Obtaining a plurality of feature quantity differences that are differences from one type of feature quantity; and c) voting to a category to which a typical image corresponding to the smallest value among the plurality of feature quantity differences belongs. D) the subject Performing steps a) to c) for each type of feature amount of the fallen image; and e) determining a category having the largest number of votes among the plurality of categories as a category to which the target defect image belongs. To do.

本発明によれば、典型画像と対象欠陥画像との種類毎の特徴量の差を互いに関連させることなく複数種類の特徴量に関する相違を求め、さらにカテゴリへの投票を利用することにより、教師データに利用される欠陥画像のカテゴリの決定を高速かつ適切に行うことができる。   According to the present invention, teacher data is obtained by obtaining a difference related to a plurality of types of feature amounts without correlating the types of feature amounts of the typical image and the target defect image with each other, and further using voting for categories. It is possible to determine the category of the defect image used in the process at high speed and appropriately.

請求項2の発明では、未分類の対象欠陥画像をより適切なカテゴリに分類することが可能とされ、請求項3の発明では、教師データの質の低下が防止される。   In the invention of claim 2, it is possible to classify unclassified target defect images into a more appropriate category, and in the invention of claim 3, deterioration of the quality of teacher data is prevented.

図1は本発明の一の実施の形態に係る画像分類装置1の概略構成を示す図であり、画像分類装置1により半導体基板9(以下、単に「基板9」という。)上の欠陥を示す欠陥画像の分類が行われる。画像分類装置1は基板9上の検査対象領域を撮像する撮像装置2、撮像装置2からの画像データに基づいて欠陥検査を行って欠陥が検出された場合に欠陥が属すべきカテゴリへと欠陥を自動分類する検査・分類装置4、並びに、画像分類装置1の全体動作を制御するとともに検査・分類装置4にて欠陥の分類に利用される分類器421を生成するホストコンピュータ5を有する。基板9上に存在する欠陥の種類は、例えば、欠け、突起、断線、ショート、異物であり、これらが欠陥のカテゴリとされる。また、撮像装置2は基板9の製造ラインに組み込まれ、画像分類装置1はいわゆるインライン型のシステムとなっている。   FIG. 1 is a diagram showing a schematic configuration of an image classification apparatus 1 according to an embodiment of the present invention. The image classification apparatus 1 shows defects on a semiconductor substrate 9 (hereinafter simply referred to as “substrate 9”). Classification of defect images is performed. The image classification device 1 picks up a defect into a category to which the defect should belong when the defect is detected based on the image data from the image pickup device 2 and the image pickup device 2 that picks up the inspection target area on the substrate 9. The inspection / classification device 4 for automatic classification and the host computer 5 for controlling the overall operation of the image classification device 1 and generating the classifier 421 used for defect classification in the inspection / classification device 4 are provided. The types of defects present on the substrate 9 are, for example, chipping, protrusion, disconnection, short circuit, and foreign matter, and these are defined as defect categories. In addition, the imaging device 2 is incorporated in the production line of the substrate 9, and the image classification device 1 is a so-called inline system.

撮像装置2は、基板9上の検査対象領域を撮像して画像データを取得する撮像部21、基板9を保持するステージ22、および、撮像部21に対してステージ22を相対的に移動するステージ駆動部23を有し、撮像部21は、照明光を出射する照明部211、基板9に照明光を導くとともに基板9からの光が入射する光学系212、および、光学系212により結像された基板9の像を電気信号に変換する撮像デバイス213を有する。ステージ駆動部23はボールねじ、ガイドレール、モータ等により構成され、ホストコンピュータ5がステージ駆動部23および撮像部21を制御することにより、基板9上の検査対象領域が撮像される。   The imaging device 2 captures an inspection target region on the substrate 9 to acquire image data, a stage 22 that holds the substrate 9, and a stage that moves the stage 22 relative to the imaging unit 21. The imaging unit 21 has a drive unit 23 and is imaged by an illumination unit 211 that emits illumination light, an optical system 212 that guides the illumination light to the substrate 9 and receives light from the substrate 9, and an optical system 212. The imaging device 213 converts an image of the substrate 9 into an electrical signal. The stage driving unit 23 includes a ball screw, a guide rail, a motor, and the like, and the inspection area on the substrate 9 is imaged by the host computer 5 controlling the stage driving unit 23 and the imaging unit 21.

検査・分類装置4は、検査対象領域の画像データを処理しつつ欠陥を検出する欠陥検出部41、および、欠陥画像を分類する欠陥自動分類部42を有する。欠陥検出部41は検査対象領域の画像データを高速に処理する専用の電気的回路を有し、撮像された画像と欠陥が存在しない参照画像との比較や画像処理により検査対象領域の欠陥検査を行う。欠陥自動分類部42は各種演算処理を行うCPUや各種情報を記憶するメモリ等により構成され、ニューラルネットワーク、決定木、判別分析等を利用する分類器421を用いて欠陥の分類(すなわち、欠陥画像の分類)を実行する。   The inspection / classification device 4 includes a defect detection unit 41 that detects a defect while processing image data of an inspection target region, and a defect automatic classification unit 42 that classifies a defect image. The defect detection unit 41 has a dedicated electric circuit for processing image data of the inspection target area at high speed, and performs defect inspection of the inspection target area by comparing the captured image with a reference image having no defect or by image processing. Do. The automatic defect classification unit 42 includes a CPU that performs various arithmetic processes, a memory that stores various types of information, and the like, and classifies defects (that is, defect images) using a classifier 421 that uses a neural network, a decision tree, discriminant analysis, and the like. Classification).

図2は画像分類装置1による欠陥画像の分類の流れを示す図である。まず、図1に示す撮像装置2が基板9を撮像することにより検査・分類装置4の欠陥検出部41が画像データを取得する(ステップS11)。次に、欠陥検出部41が検査対象領域の欠陥検査を行い、欠陥が検出されると(ステップS12)、欠陥部分の画像(すなわち、欠陥画像)のデータが欠陥自動分類部42へと送信される。欠陥自動分類部42は欠陥画像の複数種類の特徴量を算出し(ステップS13)、欠陥画像の特徴量が欠陥自動分類部42の分類器421に入力されて分類結果が出力される。すなわち、分類器421により欠陥画像が複数のカテゴリのいずれかに分類される(ステップS14)。画像分類装置1では、欠陥検出部41にて欠陥が検出される毎に特徴量の算出がリアルタイムにて行われ、多数の欠陥画像の自動分類が高速に行われる。   FIG. 2 is a diagram showing a flow of defect image classification by the image classification apparatus 1. First, when the imaging device 2 shown in FIG. 1 images the substrate 9, the defect detection unit 41 of the inspection / classification device 4 acquires image data (step S11). Next, when the defect detection unit 41 performs the defect inspection of the inspection target region and a defect is detected (step S12), the image of the defective portion (that is, the defect image) is transmitted to the automatic defect classification unit 42. The The automatic defect classification unit 42 calculates a plurality of types of feature values of the defect image (step S13), and the feature values of the defect image are input to the classifier 421 of the automatic defect classification unit 42 and the classification result is output. That is, the defect image is classified into one of a plurality of categories by the classifier 421 (step S14). In the image classification device 1, the feature amount is calculated in real time every time a defect is detected by the defect detection unit 41, and automatic classification of a large number of defect images is performed at high speed.

次に、ホストコンピュータ5による分類器の学習について説明する。図3はホストコンピュータ5の構成を示す図である。ホストコンピュータ5は各種演算処理を行うCPU51、基本プログラムを記憶するROM52および各種情報を記憶するRAM53をバスラインに接続した一般的なコンピュータシステムの構成となっている。バスラインにはさらに、情報記憶を行う固定ディスク54、画像等の各種情報の表示を行うディスプレイ55、操作者からの入力を受け付けるキーボード56aおよびマウス56b(以下、「入力部56」と総称する。)、光ディスク、磁気ディスク、光磁気ディスク等のコンピュータ読み取り可能な記録媒体8から情報の読み取りを行う読取装置57、並びに、画像分類装置1の他の構成との間で信号を送受信する通信部58が、適宜、インターフェイス(I/F)を介する等して接続される。   Next, classifier learning by the host computer 5 will be described. FIG. 3 is a diagram showing the configuration of the host computer 5. The host computer 5 has a general computer system configuration in which a CPU 51 that performs various arithmetic processes, a ROM 52 that stores basic programs, and a RAM 53 that stores various information are connected to a bus line. The bus line further includes a fixed disk 54 for storing information, a display 55 for displaying various information such as images, a keyboard 56a and a mouse 56b (hereinafter referred to as “input unit 56”) for receiving input from the operator. ), A reading device 57 that reads information from a computer-readable recording medium 8 such as an optical disk, a magnetic disk, or a magneto-optical disk, and a communication unit 58 that transmits and receives signals to and from other components of the image classification device 1. Are appropriately connected through an interface (I / F) or the like.

ホストコンピュータ5には、事前に読取装置57を介して記録媒体8からプログラム80が読み出されて固定ディスク54に記憶され、さらに、プログラム80はRAM53にコピーされるとともにCPU51によりRAM53内のプログラムに従って演算処理が実行される。   In the host computer 5, the program 80 is read in advance from the recording medium 8 via the reading device 57 and stored in the fixed disk 54. Further, the program 80 is copied to the RAM 53 and the CPU 51 follows the program in the RAM 53. Arithmetic processing is executed.

図4はホストコンピュータ5のCPU51、ROM52、RAM53、固定ディスク54等により実現される分類器を学習させるための機能構成を示すブロック図であり、検査・分類装置4も示している。ホストコンピュータ5は分類器の学習に使用される教師データを作成する教師データ作成部61および教師データを用いて分類器を学習させる学習部62を有する。なお、これらの機能は専用の電気回路により構築されてもよく、部分的に専用の電気回路が利用されてもよい。   FIG. 4 is a block diagram showing a functional configuration for learning a classifier realized by the CPU 51, ROM 52, RAM 53, fixed disk 54 and the like of the host computer 5, and also shows the inspection / classification device 4. The host computer 5 includes a teacher data creation unit 61 that creates teacher data used for learning the classifier and a learning unit 62 that learns the classifier using the teacher data. In addition, these functions may be constructed by a dedicated electric circuit, or a dedicated electric circuit may be partially used.

教師データは欠陥画像のデータ、欠陥画像の特徴量および欠陥のカテゴリを示す情報である教示信号を含み、欠陥画像の特徴量として、例えば、欠陥の面積、明度平均、周囲長、扁平度、欠陥を楕円に近似した場合の長軸の傾き等が採用される。学習部62では、教師データから読み出された欠陥画像の特徴量がホストコンピュータ5内の分類器(図示省略)に入力され、分類器の出力が欠陥のカテゴリを示す教示信号と同じとなるように学習が行われ、学習結果、すなわち、学習後の分類器421(正確には、分類器421の構造や変数の値を示す情報)が欠陥自動分類部42へと転送される。   The teacher data includes defect image data, a feature signal of the defect image, and a teaching signal which is information indicating the category of the defect. As the feature amount of the defect image, for example, the defect area, brightness average, perimeter length, flatness, defect The inclination of the major axis when approximating to an ellipse is adopted. In the learning unit 62, the feature amount of the defect image read from the teacher data is input to a classifier (not shown) in the host computer 5, and the output of the classifier is the same as the teaching signal indicating the defect category. Learning is performed, and the learning result, that is, the learned classifier 421 (more precisely, information indicating the structure of the classifier 421 and the value of the variable) is transferred to the automatic defect classification unit 42.

図5はホストコンピュータ5の教師データ作成部61の機能構成を示すブロック図であり、ディスプレイ55、入力部56および学習部62も示している。教師データ作成部61は、欠陥画像のデータおよび欠陥画像に関する各種情報を記憶する記憶部611、欠陥画像の特徴量を算出する特徴量算出部612、および、欠陥画像が属すべきカテゴリを決定するカテゴリ決定部613を有する。   FIG. 5 is a block diagram showing a functional configuration of the teacher data creation unit 61 of the host computer 5, and also shows a display 55, an input unit 56, and a learning unit 62. The teacher data creation unit 61 includes a storage unit 611 that stores defect image data and various types of information related to the defect image, a feature amount calculation unit 612 that calculates a feature amount of the defect image, and a category that determines a category to which the defect image should belong. A determination unit 613 is included.

記憶部611は、予め準備された多数の欠陥画像を記憶し、これらの欠陥画像の一部は後述するように操作者により各カテゴリに属する典型的な欠陥を示す欠陥画像(以下、「典型画像」という。)に指定されている。なお、欠陥画像は図1に示す撮像装置2および欠陥検出部41を利用して取得されてもよいし、別途用意されてもよい。カテゴリ決定部613は、未分類の欠陥画像(以下、「未教示画像」という。)のカテゴリを典型画像に基づいて自動的に決定し、特徴量算出部612は、典型画像および未教示画像の全種類の特徴量を算出する。   The storage unit 611 stores a large number of defect images prepared in advance, and some of these defect images are defect images (hereinafter referred to as “typical images”) indicating typical defects belonging to each category by an operator as will be described later. ")"). The defect image may be acquired using the imaging device 2 and the defect detection unit 41 illustrated in FIG. 1 or may be separately prepared. The category determination unit 613 automatically determines the category of an unclassified defect image (hereinafter referred to as “untaught image”) based on the typical image, and the feature amount calculation unit 612 determines the typical image and the untaught image. Calculate all types of features.

図6は記憶部611内に記憶されている情報の構造の一部を示す図である。記憶部611では、図5に示す特徴量算出部612にて算出される欠陥画像の特徴量がその種類と共に欠陥画像のデータに関連付けられて記憶される。また、欠陥画像に対してカテゴリが決定されると当該カテゴリを示すカテゴリ番号が欠陥画像のデータに関連付けられたカテゴリ変数に記憶され、欠陥画像が典型画像に指定されると欠陥画像のデータに関連付けられた典型画像識別変数に1が記憶される。なお、初期状態ではカテゴリ変数および典型画像識別変数には0が記憶されている。   FIG. 6 is a diagram showing a part of the structure of information stored in the storage unit 611. In the storage unit 611, the feature amount of the defect image calculated by the feature amount calculation unit 612 shown in FIG. 5 is stored in association with the defect image data together with its type. When a category is determined for a defect image, a category number indicating the category is stored in a categorical variable associated with the defect image data, and when a defect image is designated as a typical image, the category number is associated with the defect image data. 1 is stored in the set typical image identification variable. In the initial state, 0 is stored in the categorical variable and the typical image identification variable.

図7および図8はホストコンピュータ5により教師データが作成されて分類器を学習させる流れを示す図である。まず、多数の欠陥画像のデータが図5に示す教師データ作成部61の記憶部611に準備され、特徴量算出部612により全ての欠陥画像の全種類の特徴量が算出される(ステップS21)。算出された特徴量は記憶部611に記憶される。次に、欠陥画像のデータに従って欠陥画像がディスプレイ上55に表示され、操作者が各カテゴリにおいて少なくとも1つの典型画像を指定し、典型画像のカテゴリを示す教示信号が入力部56を介して教師データ作成部61に入力される(ステップS22)。これにより、典型画像に指定された欠陥画像のデータの図6に示すカテゴリ変数にカテゴリ番号が記憶されるとともに典型画像識別変数に1が記憶される。   7 and 8 are diagrams showing a flow in which teacher data is created by the host computer 5 and the classifier is learned. First, a large number of defect image data are prepared in the storage unit 611 of the teacher data creation unit 61 shown in FIG. 5, and the feature amount calculation unit 612 calculates all types of feature amounts of all defect images (step S21). . The calculated feature value is stored in the storage unit 611. Next, the defect image is displayed on the display 55 according to the defect image data, the operator designates at least one typical image in each category, and a teaching signal indicating the category of the typical image is transmitted to the teacher data via the input unit 56. The data is input to the creation unit 61 (step S22). As a result, the category number is stored in the category variable shown in FIG. 6 of the defect image data designated as the typical image, and 1 is stored in the typical image identification variable.

典型画像が指定されると、図5に示すカテゴリ決定部613が、1つの未教示画像を対象欠陥画像として決定し(ステップS23)、記憶部611から当該対象欠陥画像の全種類の特徴量および全ての典型画像の全種類の特徴量を取得する。さらに、対象欠陥画像および全ての典型画像の特徴量の一の種類が選択される(以下、選択された種類の特徴量を「選択特徴量」という。)(ステップS24)。   When the typical image is designated, the category determining unit 613 shown in FIG. 5 determines one untaught image as the target defect image (step S23), and all types of feature amounts of the target defect image and the target defect image are stored in the storage unit 611. All types of feature values of all typical images are acquired. Further, one type of feature amount of the target defect image and all typical images is selected (hereinafter, the selected type of feature amount is referred to as “selected feature amount”) (step S24).

そして、全ての典型画像の選択特徴量と対象欠陥画像の選択特徴量との差である複数の特徴量差が求められ(各特徴量差は1つの典型画像の選択特徴量と対象欠陥画像の選択特徴量との差である。)(ステップS25)、複数の特徴量差のうち最も値の小さいものが特定されてこれに対応する典型画像が属するカテゴリに1票が投票される(ステップS26)。すなわち、カテゴリ決定部613では、予めカテゴリ毎に投票用の変数が割り当てられており当該変数に1が加算される。なお、変数は初期化の際に0とされている。   Then, a plurality of feature quantity differences, which are the differences between the selected feature quantities of all the typical images and the selected feature quantities of the target defect image, are obtained (each feature quantity difference is the selected feature quantity of one typical image and the target defect image. (Step S25), the smallest feature value among the plurality of feature value differences is identified, and one vote is voted for the category to which the corresponding typical image belongs (Step S26). ). That is, in the category determination unit 613, a voting variable is assigned in advance for each category, and 1 is added to the variable. The variable is set to 0 at initialization.

図9はカテゴリへの投票の具体例を説明する図であり、特徴量を座標値とする特徴量空間における複数の典型画像の位置および対象欠陥画像の位置を例示している。図9では説明の便宜上、特徴量の種類の数およびカテゴリの数をそれぞれ2としているが、実際には、特徴量空間は多数の特徴量の種類により定められ、多数のカテゴリが設定される。また、図9における左側のカテゴリ81に2つの典型画像811,812が指定され、右側のカテゴリ82に1つの典型画像821が指定されているものとする。   FIG. 9 is a diagram for explaining a specific example of voting for a category, and illustrates the positions of a plurality of typical images and the positions of target defect images in a feature amount space having feature amounts as coordinate values. In FIG. 9, for convenience of explanation, the number of types of feature quantities and the number of categories are two, but in practice, the feature quantity space is determined by a number of types of feature quantities, and a large number of categories are set. Further, it is assumed that two typical images 811 and 812 are designated in the left category 81 in FIG. 9 and one typical image 821 is designated in the right category 82.

図9において横軸上の特徴量が選択特徴量として選択されると(ステップS24)、対象欠陥画像7の特徴量Uとカテゴリ81の典型画像811の特徴量Tx11との特徴量差である絶対値|U−Tx11|、特徴量Uとカテゴリ81の典型画像812の特徴量Tx12との特徴量差である絶対値|U−Tx12|、および、特徴量Uとカテゴリ82の典型画像821の特徴量Tx21との特徴量差である絶対値|U−Tx21|が求められる(ステップS25)。これらの特徴量差のうち|U−Tx11|が最も小さいため、典型画像811が属するカテゴリ81に1票が投票される(ステップS26)。 In FIG. 9, when the feature amount on the horizontal axis is selected as the selected feature amount (step S24), the feature amount difference between the feature amount U x of the target defect image 7 and the feature amount T x11 of the typical image 811 of the category 81 is calculated. A certain absolute value | U x −T x11 |, an absolute value | U x −T x12 | that is a feature amount difference between the feature amount U x and the feature amount T x12 of the typical image 812 in the category 81, and the feature amount U x And an absolute value | U x −T x21 | which is a feature amount difference between the feature amount T x21 of the typical image 821 and the category 82 is obtained (step S25). Among these feature quantity differences, | U x −T x11 | is the smallest, so one vote is voted for the category 81 to which the typical image 811 belongs (step S26).

1回の投票が完了すると、次に、選択特徴量の種類が変更され(ステップS27,S24)、全ての典型画像の選択特徴量と対象欠陥画像の選択特徴量との複数の特徴量差が求められ、最も小さい特徴量差に対応する典型画像のカテゴリに1票が投票される(ステップS25,S26)。図9の場合、縦軸が示す特徴量が選択特徴量として選択され(ステップS24)、縦軸上の対象欠陥画像7の特徴量Uとカテゴリ81の典型画像811,812の特徴量Ty11,Ty12、および、カテゴリ82の典型画像821の特徴量Ty21との特徴量差である絶対値|U−Ty11|、|U−Ty12|、|U−Ty21|が求められ、これらのうち最も小さい|U−Ty12|に対応する典型画像812が属するカテゴリ81に1票が投票される。以上の投票の結果、図10に示すようにカテゴリ81の得票数が2となり、カテゴリ82の得票数が0となる。 When one vote is completed, the type of the selected feature amount is then changed (steps S27 and S24), and a plurality of feature amount differences between the selected feature amount of all the typical images and the selected feature amount of the target defect image are obtained. One vote is voted for the category of the typical image that is found and corresponds to the smallest feature amount difference (steps S25 and S26). In the case of FIG. 9, the feature quantity indicated by the vertical axis is selected as the selected feature quantity (step S24), the feature quantity U y of the target defect image 7 on the vertical axis and the feature quantity T y11 of the category 81 typical images 811 and 812. , T y12 , and absolute values | U y −T y11 |, | U y −T y12 |, | U y −T y21 | which are feature amount differences from the feature amount T y21 of the typical image 821 of the category 82. One vote is obtained for the category 81 to which the typical image 812 corresponding to the smallest | U y −T y12 | As a result of the above voting, the number of votes for category 81 is 2 and the number of votes for category 82 is 0, as shown in FIG.

特徴量の種類の数がpである特徴量空間にq個のカテゴリが設定されている場合、カテゴリへの投票では、まず、対象欠陥画像の特徴量ベクトルU=(U、U、…、U)の一の種類の特徴量U(kは1〜pの任意の整数)とカテゴリCの典型画像jの特徴量ベクトルTij=(Tij1、Tij2、…、Tijp)の一の種類の特徴量Tijkとの特徴量差である絶対値|U−Tijk|が計算される。ただし、iは1〜qの任意の整数であり、jはカテゴリCに含まれる典型画像の総数をrとして1〜rの任意の整数である。そして、複数の特徴量差のうち最も小さい特徴量差に対応する典型画像のカテゴリに1票が投票される(ステップS24〜S26)。 When q categories are set in the feature amount space where the number of types of feature amounts is p, the feature amount vector U = (U 1 , U 2 ,. , U p ) of one kind of feature quantity U k (k is an arbitrary integer from 1 to p ) and a feature quantity vector T ij of a typical image j of category C i = (T ij1 , T ij2 ,..., T ijp ) Is calculated as an absolute value | U k −T ijk | which is a feature amount difference from one type of feature amount T ijk . However, i is an arbitrary integer of 1 to q, and j is an arbitrary integer of 1 to r, where r is the total number of typical images included in the category C i . Then, one vote is voted for the category of the typical image corresponding to the smallest feature amount difference among the plurality of feature amount differences (steps S24 to S26).

さらに、対象欠陥画像の特徴量の全種類について投票が行われたか否かが確認され(ステップS27)、投票が行われていない特徴量の種類が存在する場合には、当該種類についてステップS24〜S26が行われる。特徴量の全種類について投票が行われると、カテゴリ毎の得票数を示す投票結果(1つのカテゴリが最大p票を獲得する。)が得られる。   Further, it is confirmed whether or not voting has been performed for all types of feature amounts of the target defect image (step S27). If there are types of feature amounts for which voting has not been performed, steps S24 to S24 are performed for the types. S26 is performed. When voting is performed for all types of feature quantities, a voting result indicating the number of votes obtained for each category (one category obtains the maximum p votes) is obtained.

投票結果が取得されると、次に、カテゴリ決定部613(図5参照)では投票結果に基づいて対象欠陥画像のカテゴリを決定するか否かが判定される(図8:ステップS31)。得票数が最も多いカテゴリと2番目に多いカテゴリとの得票数の差が所定値、例えば、総投票数の10%より大きい場合には、複数のカテゴリのうち得票数が最も多いカテゴリが対象欠陥画像が属するカテゴリとして決定される(ステップS32)。これにより、図6に示すように記憶部611の対象欠陥画像に割り当てられたカテゴリ変数に得票数の最も多いカテゴリを示すカテゴリ番号が記憶される。以下、上記処理により未教示画像のうちカテゴリが決定されたものを「教示済画像」という。なお、決定されたカテゴリは操作者により確認された上で最終的に確定されることが好ましい。   When the voting result is acquired, next, the category determining unit 613 (see FIG. 5) determines whether or not to determine the category of the target defect image based on the voting result (FIG. 8: Step S31). If the difference in the number of votes between the category with the largest number of votes and the category with the second largest number is greater than a predetermined value, for example, 10% of the total number of votes, the category with the largest number of votes among a plurality of categories is the target defect. The category to which the image belongs is determined (step S32). As a result, as shown in FIG. 6, the category number indicating the category with the largest number of votes is stored in the category variable assigned to the target defect image in the storage unit 611. Hereinafter, an untaught image whose category has been determined by the above processing is referred to as a “taught image”. It is preferable that the determined category is finally confirmed after being confirmed by the operator.

一方、得票数が最も多いカテゴリと得票数が2番目に多いカテゴリとの得票数の差が所定値以下である場合、対象欠陥画像のカテゴリの決定は行われない(すなわち、対象欠陥画像は未分類のままとされる。)。得票数が最も多いカテゴリが2以上存在する場合も対象欠陥画像は未分類のままとされる。   On the other hand, if the difference in the number of votes between the category with the largest number of votes and the category with the second largest number of votes is equal to or less than a predetermined value, the category of the target defect image is not determined (that is, the target defect image is not yet determined). It is left as a classification.) Even when there are two or more categories having the largest number of votes, the target defect image is left unclassified.

その後、画像分類装置1では、投票処理が行われていない未教示画像が存在するか否かが確認され(ステップS33)、存在する場合には、図5に示す教師データ作成部61により、次の対象欠陥画像の決定(ステップS23)および既述のステップS24〜S27,S31が実行されて次の対象欠陥画像に対してカテゴリの決定が適宜行われる(ステップS32)。   Thereafter, the image classification device 1 confirms whether or not there is an untaught image that has not been voted (step S33), and if present, the teacher data creation unit 61 shown in FIG. The target defect image is determined (step S23) and the above-described steps S24 to S27 and S31 are executed, and the category is appropriately determined for the next target defect image (step S32).

全ての未教示画像について投票処理が行われると、教師データ作成部61の記憶部611内に保存される典型画像のデータおよび教示済画像のデータ、並びに、これらの特徴量およびカテゴリの情報が教師データとして学習部62に転送され、学習部62にて教師データを用いて分類器の学習が行われる(ステップS34)。すなわち、分類器(図4参照)を構成する変数の値が決定されたり、構造が決定されて分類器が生成される。   When the voting process is performed for all the untaught images, the data of the typical image and the data of the taught image stored in the storage unit 611 of the teacher data creation unit 61, and the information on the feature amount and the category are stored in the teacher. The data is transferred to the learning unit 62, and the learning unit 62 learns the classifier using the teacher data (step S34). That is, the values of variables constituting the classifier (see FIG. 4) are determined, and the structure is determined to generate a classifier.

以上、画像分類装置1の構成および動作について説明したが、画像分類装置1では、未教示画像である対象欠陥画像のカテゴリの決定の際に、典型画像と対象欠陥画像との種類毎の特徴量の差を互いに関連させることなく複数種類の特徴量に関する相違を求めることにより、仮に当該相違が特徴量空間における典型画像の位置と対象欠陥画像の位置とを結ぶユークリッド距離(全種類の特徴量差を2乗したものの和の平方根)として求められる場合に比べて計算が簡素化される。これにより、未教示画像の分類(すなわち、属するカテゴリの決定)が高速に行われる。また、特徴量の各種類についてカテゴリへの投票を行うことにより、投票が行われなかったカテゴリにはその種類の特徴量の影響が全く及ばず、特徴量の種類毎に独立して計算が行われることとなるため、ユークリッド距離を求めてカテゴリが決定される場合に比べて、特徴量の種類毎の数値範囲のばらつきや特定の種類の特徴量の影響を防止するために全種類の特徴量差のそれぞれを正規化する処理や、分散分析(いわゆる、ANOVA(analysis of variance))等による不必要な特徴量の種類を排除する処理が不要となる。これにより、未教示画像の分類を高速かつ適切に行うことが実現される。   Although the configuration and operation of the image classification device 1 have been described above, the image classification device 1 determines the feature amount for each type of the typical image and the target defect image when determining the category of the target defect image that is an untaught image. By calculating differences between multiple types of feature quantities without correlating them with each other, it is assumed that the difference is the Euclidean distance (the difference between all types of feature quantities) connecting the position of the typical image and the position of the target defect image in the feature quantity space. The calculation is simplified as compared with the case where it is obtained as the square root of the sum of the squares. As a result, classification of unteached images (that is, determination of categories to which the images belong) is performed at high speed. In addition, by voting to the category for each type of feature value, the category that has not been voted is not affected by the feature value of that type at all, and calculation is performed independently for each type of feature value. Compared to the case where the category is determined by obtaining the Euclidean distance, all types of feature quantities are used to prevent the variation of the numerical range for each feature quantity type and the influence of a particular type of feature quantity. A process for normalizing each difference and a process for eliminating unnecessary types of feature amounts by analysis of variance (so-called ANOVA (analysis of variance)) or the like become unnecessary. As a result, it is possible to classify untaught images at high speed and appropriately.

画像分類装置1では、操作者により複数のカテゴリのそれぞれにおいて予め指定された典型画像に基づいて未教示画像のカテゴリの決定(すなわち、未教示画像の分類)が自動的に行われることから、操作者による教師データ作成作業の負担が軽減される。   In the image classification device 1, since the operator automatically determines the category of the untaught image (that is, classifies the untaught image) based on the typical image previously designated in each of the plurality of categories, The burden of teacher data creation work by the person is reduced.

さらに、未教示画像である対象欠陥画像のカテゴリを決定するか否かが判定される際に、得票数が最も多いカテゴリと2番目に多いカテゴリとの得票数の差が所定値以下であると対象欠陥画像が未分類のままとされてこの対象欠陥画像が教師データとして利用されないため、教師データの質の低下が防止される。また、画像分類装置1では、操作者が欠陥画像にカテゴリを付与する場合に比べて、誤ったカテゴリに属する欠陥画像の存在が低減されることから、各カテゴリにおいて複数の教示済画像が典型画像を中心としてばらつきの少ない状態で分布し、これにより、分類器の学習を早く終了させることができる。   Furthermore, when determining whether or not to determine the category of the target defect image that is an untaught image, the difference in the number of votes between the category with the largest number of votes and the category with the second largest number is less than or equal to a predetermined value. Since the target defect image is left unclassified and this target defect image is not used as teacher data, deterioration of the quality of the teacher data is prevented. Further, in the image classification device 1, since the presence of a defect image belonging to the wrong category is reduced as compared with the case where the operator assigns a category to the defect image, a plurality of taught images in each category are representative images. Is distributed in a state with little variation, so that the learning of the classifier can be finished quickly.

図11は画像分類装置1による未教示画像のカテゴリを決定する他の動作の流れの一部を示す図である。図11に示す動作では、未教示画像である対象欠陥画像に対してカテゴリが決定された後、操作者により当該対象欠陥画像を典型画像に追加するか否かが確認される。カテゴリの決定における他の処理は図7および図8に示す流れと同様である。   FIG. 11 is a diagram showing a part of the flow of another operation for determining the category of the untaught image by the image classification apparatus 1. In the operation shown in FIG. 11, after the category is determined for the target defect image that is an untaught image, the operator confirms whether or not to add the target defect image to the typical image. Other processes in determining the category are the same as those shown in FIGS.

図11に示すステップS32において対象欠陥画像のカテゴリが決定されると(すなわち、対象欠陥画像が教示済画像とされると)、図5に示す記憶部611から教示済画像のデータおよびそのカテゴリを示すカテゴリ番号が読み出されてディスプレイ55上に表示される。そして、決定されたカテゴリの典型画像に教示済画像を加えるか否かが操作者により判断され(ステップS41)、加える指示が入力部56を介して操作者により行われた場合には、教示済画像に割り当てられた典型画像識別変数(図6参照)に1が記憶される(ステップS42)。その後、他の未教示画像のカテゴリの決定処理へと移行する(ステップS33)。   When the category of the target defect image is determined in step S32 shown in FIG. 11 (that is, when the target defect image is a taught image), the data of the taught image and its category are stored from the storage unit 611 shown in FIG. The category number shown is read and displayed on the display 55. Then, the operator determines whether or not to add the taught image to the typical image of the determined category (step S41), and if the instruction to add is given by the operator via the input unit 56, the taught 1 is stored in the typical image identification variable (see FIG. 6) assigned to the image (step S42). Thereafter, the process proceeds to a process for determining the category of another untaught image (step S33).

なお、教示済画像が典型画像に追加されない場合は典型画像識別変数は0のままとされる。また、既述のように、ステップS31において得票数が最も多いカテゴリと得票数が2番目に多いカテゴリの得票数との差が所定値以下である場合に、対象欠陥画像が未分類のままとされ、ステップS41,S42は行われない。   When the taught image is not added to the typical image, the typical image identification variable is left as 0. Further, as described above, if the difference between the category with the largest number of votes and the number of votes with the category with the second largest number of votes is equal to or less than a predetermined value in step S31, the target defect image remains unclassified. Steps S41 and S42 are not performed.

画像分類装置1では、教示済画像(のうち適切なもの)が典型画像に加えられることにより、他の未教示画像をより適切なカテゴリに分類することが可能とされる。また、一旦カテゴリが決定されなかった未教示画像に対して、他の教示済画像が典型画像に加えられた後に再度カテゴリの決定処理が行われてよく、さらに、カテゴリの決定処理は、カテゴリが決定可能な欠陥画像がなくなる、すなわち、全てが教示済画像とされたり、最終的に未分類のままとされる未教示画像が残るまで繰り返し行われてもよい。教示済画像を典型画像に加えることなく全ての未教示画像のカテゴリの決定(または未分類の維持の決定)を行った後、教示済画像を典型画像に加えて未教示画像として残っているものに対してカテゴリの決定が再度行われてもよい。   In the image classification device 1, the taught images (appropriate ones) are added to the typical image, so that other untaught images can be classified into a more appropriate category. Further, a category determination process may be performed again on an untaught image for which a category has not been determined once, after another taught image is added to the typical image. The determination may be repeated until there is no determinable defect image, that is, all the images are taught images, or there are finally untaught images left unclassified. After determining the category of all unteached images (or determining to keep unclassified) without adding the taught image to the typical image, add the taught image to the typical image and remain as an unteached image The category may be determined again.

以上、本発明の実施の形態について説明したが、本発明は上記実施の形態に限定されるものではなく、様々な変更が可能である。例えば、上記実施の形態では、教師データに利用される多数の欠陥画像の特徴量が検査・分類装置4にて算出され、ホストコンピュータ5が検査・分類装置4から特徴量を取得してもよい。   Although the embodiment of the present invention has been described above, the present invention is not limited to the above embodiment, and various modifications can be made. For example, in the above embodiment, the feature amount of a large number of defect images used for teacher data may be calculated by the inspection / classification device 4, and the host computer 5 may acquire the feature amount from the inspection / classification device 4. .

上記実施の形態では、予めカテゴリ決定部613が記憶部611から全種類の特徴量を取得しておき、ステップS24において選択特徴量が選択されるが、投票毎に記憶部611から選択特徴量のみが取得されてもよい。さらに、演算対象となる特徴量の種類が選択された段階で、典型画像や対象欠陥画像の選択特徴量が演算により求められてもよい。このように、カテゴリ決定部613では、特徴量の一の種類における投票毎に典型画像および対象欠陥画像から選択特徴量を取得する動作と同等であれば、特徴量の算出や準備はどのように行われてもよい。   In the above embodiment, the category determining unit 613 acquires all types of feature amounts from the storage unit 611 in advance, and the selected feature amounts are selected in step S24, but only the selected feature amounts are stored from the storage unit 611 for each vote. May be acquired. Furthermore, the selected feature value of the typical image or the target defect image may be obtained by calculation at the stage where the type of feature value to be calculated is selected. As described above, in the category determination unit 613, how to calculate and prepare the feature amount is the same as the operation of acquiring the selected feature amount from the typical image and the target defect image for each vote in one type of feature amount. It may be done.

さらに、教師データからは欠陥画像のデータが省略されてもよく、この場合、欠陥画像を特定する変数が教師データに設けられる。また、教師データから特徴量が省略され、学習部62において教師データの欠陥画像のデータに基づいて特徴量が求められてもよい。   Further, the defect image data may be omitted from the teacher data. In this case, a variable for specifying the defect image is provided in the teacher data. The feature amount may be omitted from the teacher data, and the learning unit 62 may obtain the feature amount based on the defect image data of the teacher data.

上記実施の形態では、半導体基板に代えてガラス基板、プリント配線基板あるいは基板の露光に使用するマスク基板等の検査が行われてもよい。   In the above embodiment, a glass substrate, a printed wiring board, or a mask substrate used for exposure of the substrate may be inspected instead of the semiconductor substrate.

画像分類装置の構成を示す図である。It is a figure which shows the structure of an image classification device. 欠陥画像の分類の流れを示す図である。It is a figure which shows the flow of a classification | category of a defect image. ホストコンピュータの構成を示す図である。It is a figure which shows the structure of a host computer. ホストコンピュータの機能構成を示す図である。It is a figure which shows the function structure of a host computer. 教師データ作成部の機能構成を示す図である。It is a figure which shows the function structure of a teacher data creation part. 教師データ作成部の記憶部内に記憶される情報の構造を示す図である。It is a figure which shows the structure of the information memorize | stored in the memory | storage part of a teacher data creation part. 教師データを作成して分類器を学習させる流れを示す図である。It is a figure which shows the flow which produces teacher data and learns a classifier. 教師データを作成して分類器を学習させる流れを示す図である。It is a figure which shows the flow which produces teacher data and learns a classifier. 特徴量空間における典型画像の位置および対象欠陥画像の位置を例示する図である。It is a figure which illustrates the position of the typical image in the feature-value space, and the position of a target defect image. カテゴリへの投票の結果を示す図である。It is a figure which shows the result of the vote to a category. 対象欠陥画像のカテゴリを決定する他の動作の流れの一部を示す図である。It is a figure which shows a part of flow of the other operation | movement which determines the category of an object defect image.

符号の説明Explanation of symbols

1 画像分類装置
7 対象欠陥画像
9 基板
61 教師データ作成部
81,82 (欠陥画像の)カテゴリ
421 分類器
811,812,821 典型画像
S11〜S14,S21〜S27,S31〜S34,S41,S42 ステップ
DESCRIPTION OF SYMBOLS 1 Image classification device 7 Target defect image 9 Board | substrate 61 Teacher data preparation part 81,82 (defect image) category 421 Classifier 811,812,821 Typical image S11-S14, S21-S27, S31-S34, S41, S42 Step

Claims (5)

基板上の欠陥を示す欠陥画像を分類する分類器の学習に使用される教師データを作成する教師データ作成方法であって、
前記分類器により欠陥画像が分類される複数のカテゴリのそれぞれにおいて、予め典型的な欠陥を示す少なくとも1つの典型画像が指定されており、
前記教師データ作成方法が、
a)未分類の欠陥画像である対象欠陥画像から一の種類の特徴量を取得する工程と、
b)全ての典型画像の前記一の種類の特徴量と前記対象欠陥画像の前記一の種類の特徴量との差である複数の特徴量差を求める工程と、
c)前記複数の特徴量差のうち最も値の小さいものに対応する典型画像が属するカテゴリに投票を行う工程と、
d)前記対象欠陥画像の特徴量の各種類について前記a)ないしc)工程を行う工程と、
e)前記複数のカテゴリのうち得票数が最も多いカテゴリを前記対象欠陥画像が属するカテゴリとして決定する工程と、
を備えることを特徴とする教師データ作成方法。
A teacher data creation method for creating teacher data used for learning a classifier that classifies defect images indicating defects on a substrate,
In each of a plurality of categories into which defect images are classified by the classifier, at least one typical image indicating a typical defect is specified in advance.
The teacher data creation method includes:
a) acquiring one type of feature amount from a target defect image which is an unclassified defect image;
b) obtaining a plurality of feature amount differences that are differences between the one type of feature amount of all the typical images and the one type of feature amount of the target defect image;
c) voting on a category to which a typical image corresponding to the smallest value among the plurality of feature amount differences belongs;
d) performing the steps a) to c) for each type of feature quantity of the target defect image;
e) determining a category having the largest number of votes among the plurality of categories as a category to which the target defect image belongs;
A method for creating teacher data, comprising:
請求項1に記載の教師データ作成方法であって、
f)前記e)工程において決定されたカテゴリの典型画像に前記対象欠陥画像を加える工程をさらに備えることを特徴とする教師データ作成方法。
The teacher data creation method according to claim 1,
f) A teacher data creation method further comprising the step of adding the target defect image to the typical image of the category determined in the step e).
請求項1または2に記載の教師データ作成方法であって、
前記e)工程において、得票数が最も多いカテゴリと得票数が2番目に多いカテゴリとの得票数の差が所定値以下である場合に、前記対象欠陥画像が未分類のままとされることを特徴とする教師データ作成方法。
The teacher data creation method according to claim 1 or 2,
In the step e), when the difference in the number of votes between the category with the largest number of votes and the category with the second largest number of votes is equal to or less than a predetermined value, the target defect image is left unclassified. Characteristic teacher data creation method.
基板上の欠陥を示す欠陥画像を分類する画像分類方法であって、
請求項1ないし3のいずれかに記載の教師データ作成方法により作成された教師データを用いて分類器を学習させる工程と、
前記分類器により欠陥画像を前記複数のカテゴリのいずれかに分類する工程と、
を備えることを特徴とする画像分類方法。
An image classification method for classifying defect images indicating defects on a substrate,
Learning a classifier using the teacher data created by the teacher data creation method according to any one of claims 1 to 3,
Classifying the defect image into any of the plurality of categories by the classifier;
An image classification method comprising:
基板上の欠陥を示す欠陥画像を分類する画像分類装置であって、
欠陥画像を分類する分類器の学習に使用される教師データを作成する教師データ作成部と、
欠陥画像を分類する分類器と、
を備え、
前記分類器により欠陥画像が分類される複数のカテゴリのそれぞれにおいて、予め典型的な欠陥を示す少なくとも1つの典型画像が指定されており、
前記教師データ作成部が、
a)未分類の欠陥画像である対象欠陥画像から一の種類の特徴量を取得する工程と、
b)全ての典型画像の前記一の種類の特徴量と前記対象欠陥画像の前記一の種類の特徴量との差である複数の特徴量差を求める工程と、
c)前記複数の特徴量差のうち最も値の小さいものに対応する典型画像が属するカテゴリに投票を行う工程と、
d)前記対象欠陥画像の特徴量の各種類について前記a)ないしc)工程を行う工程と、
e)前記複数のカテゴリのうち得票数が最も多いカテゴリを前記対象欠陥画像が属するカテゴリとして決定する工程と、
を実行することを特徴とする画像分類装置。
An image classification device for classifying defect images indicating defects on a substrate,
A teacher data creation unit for creating teacher data used for learning a classifier for classifying defect images;
A classifier for classifying defect images;
With
In each of a plurality of categories into which defect images are classified by the classifier, at least one typical image indicating a typical defect is specified in advance.
The teacher data creation unit
a) acquiring one type of feature amount from a target defect image which is an unclassified defect image;
b) obtaining a plurality of feature amount differences that are differences between the one type of feature amount of all the typical images and the one type of feature amount of the target defect image;
c) voting on a category to which a typical image corresponding to the smallest value among the plurality of feature amount differences belongs;
d) performing the steps a) to c) for each type of feature quantity of the target defect image;
e) determining a category having the largest number of votes among the plurality of categories as a category to which the target defect image belongs;
An image classification device characterized by executing
JP2008240146A 2008-09-19 2008-09-19 Teacher data creation method, image classification method, and image classification apparatus Active JP5075070B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008240146A JP5075070B2 (en) 2008-09-19 2008-09-19 Teacher data creation method, image classification method, and image classification apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008240146A JP5075070B2 (en) 2008-09-19 2008-09-19 Teacher data creation method, image classification method, and image classification apparatus

Publications (2)

Publication Number Publication Date
JP2010071826A true JP2010071826A (en) 2010-04-02
JP5075070B2 JP5075070B2 (en) 2012-11-14

Family

ID=42203752

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008240146A Active JP5075070B2 (en) 2008-09-19 2008-09-19 Teacher data creation method, image classification method, and image classification apparatus

Country Status (1)

Country Link
JP (1) JP5075070B2 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010091401A (en) * 2008-10-08 2010-04-22 Dainippon Screen Mfg Co Ltd Method for assisting data preparation for teacher, and method and device for classifying image
JP2013167545A (en) * 2012-02-16 2013-08-29 Dainippon Screen Mfg Co Ltd Teacher data preparation method, and image classification method and image classification device
WO2019069618A1 (en) * 2017-10-05 2019-04-11 富士フイルム株式会社 Medical image processing device and machine learning device
WO2019230356A1 (en) * 2018-05-31 2019-12-05 パナソニックIpマネジメント株式会社 Learning device, inspection device, learning method, and inspection method
CN111125422A (en) * 2019-12-13 2020-05-08 北京达佳互联信息技术有限公司 Image classification method and device, electronic equipment and storage medium
JPWO2019059011A1 (en) * 2017-09-19 2020-11-05 富士フイルム株式会社 Teacher data creation method and equipment and defect inspection method and equipment

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108765391A (en) * 2018-05-19 2018-11-06 科立视材料科技有限公司 A method for image analysis of flat glass foreign matter based on deep learning

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11344450A (en) * 1998-06-03 1999-12-14 Hitachi Ltd Teaching data creation method, defect classification method and device therefor
JP2001188906A (en) * 1999-12-28 2001-07-10 Hitachi Ltd Automatic image classification method and automatic image classification device
JP2005293264A (en) * 2004-03-31 2005-10-20 Olympus Corp Learning type sorting apparatus and learning type sorting method
JP2008082821A (en) * 2006-09-27 2008-04-10 Hitachi High-Technologies Corp Defect classification method and apparatus, and defect inspection apparatus

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11344450A (en) * 1998-06-03 1999-12-14 Hitachi Ltd Teaching data creation method, defect classification method and device therefor
JP2001188906A (en) * 1999-12-28 2001-07-10 Hitachi Ltd Automatic image classification method and automatic image classification device
JP2005293264A (en) * 2004-03-31 2005-10-20 Olympus Corp Learning type sorting apparatus and learning type sorting method
JP2008082821A (en) * 2006-09-27 2008-04-10 Hitachi High-Technologies Corp Defect classification method and apparatus, and defect inspection apparatus

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010091401A (en) * 2008-10-08 2010-04-22 Dainippon Screen Mfg Co Ltd Method for assisting data preparation for teacher, and method and device for classifying image
JP2013167545A (en) * 2012-02-16 2013-08-29 Dainippon Screen Mfg Co Ltd Teacher data preparation method, and image classification method and image classification device
JPWO2019059011A1 (en) * 2017-09-19 2020-11-05 富士フイルム株式会社 Teacher data creation method and equipment and defect inspection method and equipment
WO2019069618A1 (en) * 2017-10-05 2019-04-11 富士フイルム株式会社 Medical image processing device and machine learning device
JPWO2019069618A1 (en) * 2017-10-05 2020-10-15 富士フイルム株式会社 Medical image processing equipment and machine learning equipment
WO2019230356A1 (en) * 2018-05-31 2019-12-05 パナソニックIpマネジメント株式会社 Learning device, inspection device, learning method, and inspection method
JPWO2019230356A1 (en) * 2018-05-31 2021-06-24 パナソニックIpマネジメント株式会社 Learning device, inspection device, learning method and inspection method
JP7320704B2 (en) 2018-05-31 2023-08-04 パナソニックIpマネジメント株式会社 LEARNING DEVICE, INSPECTION DEVICE, LEARNING METHOD AND INSPECTION METHOD
US11977033B2 (en) 2018-05-31 2024-05-07 Panasonic Intellectual Property Management Co., Ltd. Learning device, inspection device, learning method, and inspection method
CN111125422A (en) * 2019-12-13 2020-05-08 北京达佳互联信息技术有限公司 Image classification method and device, electronic equipment and storage medium
CN111125422B (en) * 2019-12-13 2024-04-02 北京达佳互联信息技术有限公司 Image classification method, device, electronic equipment and storage medium

Also Published As

Publication number Publication date
JP5075070B2 (en) 2012-11-14

Similar Documents

Publication Publication Date Title
US7409081B2 (en) Apparatus and computer-readable medium for assisting image classification
US10885618B2 (en) Inspection apparatus, data generation apparatus, data generation method, and data generation program
JP6924413B2 (en) Data generator, data generation method and data generation program
JP3834041B2 (en) Learning type classification apparatus and learning type classification method
JP6059486B2 (en) Teacher data verification device, teacher data creation device, image classification device, teacher data verification method, teacher data creation method, and image classification method
JP5075070B2 (en) Teacher data creation method, image classification method, and image classification apparatus
JP6113024B2 (en) Classifier acquisition method, defect classification method, defect classification device, and program
JP5543872B2 (en) Pattern inspection method and pattern inspection apparatus
US7266232B2 (en) Apparatus and method for inspecting pattern
JP2011158373A (en) Method for creation of teacher data for use in automatic defect classification, and method and apparatus for automatic defect classification
CN114627089B (en) Defect identification method, defect identification device, computer equipment and computer readable storage medium
KR100868884B1 (en) Glass Substrate Glass Defect Information System and Classification Method
CN112561852B (en) Image determination device and image determination method
US10726535B2 (en) Automatically generating image datasets for use in image recognition and detection
JP5075083B2 (en) Teacher data creation support method, image classification method, and image classification apparatus
WO2014103617A1 (en) Alignment device, defect inspection device, alignment method, and control program
JP2014137284A (en) Teacher data creation support device, teacher data creation device, image classification device, teacher data creation support method, teacher data creation method and image classification method
JP6425468B2 (en) Teacher data creation support method, image classification method, teacher data creation support device and image classification device
CN118505708B (en) Product repair system based on image reconstruction technology
JP2013205320A (en) Inspection condition determination method, inspection method, and inspection device
CN117495846B (en) Image detection method, device, electronic equipment and storage medium
JP3788586B2 (en) Pattern inspection apparatus and method
CN116993654B (en) Camera module defect detection method, device, equipment, storage medium and product
JP7658119B2 (en) Support device and method
JP5858817B2 (en) Teacher data creation method, image classification method, and image classification apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110606

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120730

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120731

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120824

R150 Certificate of patent or registration of utility model

Ref document number: 5075070

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150831

Year of fee payment: 3

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250