JP2023043178A - カラーチャンネルを利用するワーク検査及び欠陥検出システム - Google Patents
カラーチャンネルを利用するワーク検査及び欠陥検出システム Download PDFInfo
- Publication number
- JP2023043178A JP2023043178A JP2022145171A JP2022145171A JP2023043178A JP 2023043178 A JP2023043178 A JP 2023043178A JP 2022145171 A JP2022145171 A JP 2022145171A JP 2022145171 A JP2022145171 A JP 2022145171A JP 2023043178 A JP2023043178 A JP 2023043178A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- color channel
- workpiece
- images
- training mode
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000007547 defect Effects 0.000 title claims abstract description 412
- 238000007689 inspection Methods 0.000 title claims abstract description 116
- 238000001514 detection method Methods 0.000 title claims abstract description 115
- 238000012549 training Methods 0.000 claims abstract description 195
- 239000000463 material Substances 0.000 claims abstract description 88
- 238000003384 imaging method Methods 0.000 claims abstract description 29
- 238000004458 analytical method Methods 0.000 claims abstract description 23
- 239000002131 composite material Substances 0.000 claims description 84
- 230000002950 deficient Effects 0.000 claims description 72
- 238000000034 method Methods 0.000 claims description 64
- 230000003287 optical effect Effects 0.000 claims description 15
- 230000008859 change Effects 0.000 abstract description 5
- XAGFODPZIPBFFR-UHFFFAOYSA-N aluminium Chemical compound [Al] XAGFODPZIPBFFR-UHFFFAOYSA-N 0.000 description 59
- 229910052782 aluminium Inorganic materials 0.000 description 59
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 50
- 229910052802 copper Inorganic materials 0.000 description 50
- 239000010949 copper Substances 0.000 description 50
- 230000008569 process Effects 0.000 description 37
- 238000005259 measurement Methods 0.000 description 14
- 238000005286 illumination Methods 0.000 description 11
- 238000002310 reflectometry Methods 0.000 description 9
- 238000001228 spectrum Methods 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 8
- 238000012545 processing Methods 0.000 description 8
- 239000000758 substrate Substances 0.000 description 8
- 230000003595 spectral effect Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 238000003754 machining Methods 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 238000001914 filtration Methods 0.000 description 4
- 239000003973 paint Substances 0.000 description 4
- 238000013145 classification model Methods 0.000 description 3
- 239000011248 coating agent Substances 0.000 description 3
- 238000000576 coating method Methods 0.000 description 3
- 239000003086 colorant Substances 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 238000012634 optical imaging Methods 0.000 description 3
- 230000035945 sensitivity Effects 0.000 description 3
- 229910052709 silver Inorganic materials 0.000 description 3
- 239000004332 silver Substances 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- BQCADISMDOOEFD-UHFFFAOYSA-N Silver Chemical compound [Ag] BQCADISMDOOEFD-UHFFFAOYSA-N 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000005553 drilling Methods 0.000 description 2
- 238000005530 etching Methods 0.000 description 2
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 description 2
- 229910052737 gold Inorganic materials 0.000 description 2
- 239000010931 gold Substances 0.000 description 2
- 230000000877 morphologic effect Effects 0.000 description 2
- 238000010137 moulding (plastic) Methods 0.000 description 2
- 238000003860 storage Methods 0.000 description 2
- 229910000975 Carbon steel Inorganic materials 0.000 description 1
- 239000004411 aluminium Substances 0.000 description 1
- 230000002547 anomalous effect Effects 0.000 description 1
- 238000000149 argon plasma sintering Methods 0.000 description 1
- 239000005441 aurora Substances 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000010962 carbon steel Substances 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000011017 operating method Methods 0.000 description 1
- 238000000985 reflectance spectrum Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/001—Industrial image inspection using an image reference approach
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/74—Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10141—Special mode during image acquisition
- G06T2207/10152—Varying illumination
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30164—Workpiece; Machine component
Landscapes
- Engineering & Computer Science (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Image Analysis (AREA)
Abstract
【課題】ワークの検査において様々な種類の課題に直面する(例えば、検査対象のワークの材料の種類及び/又は表面の変化、検査条件の変更などに起因する)。特定の種類の検査操作のこのような問題を改善する。【解決手段】ワークの検査及び欠陥検出システムは、光源構成、レンズ構成、及びワークを撮像するカメラ構成を含む。システムは、トレーニング及びランモードワーク画像を取得して、トレーニング及びランモードワーク画像データの対応するセットを取得する。画像データの各セットは、少なくとも、第1及び第2のカラーチャンネルに対応する第1及び第2のカラーチャンネルワーク画像データを含む。欠陥検出部は、画像データに少なくとも部分的に基づいてトレーニングされ、且つ解析を実行するために利用されて、欠陥のあるワークを含む欠陥あり画像を決定する。【選択図】図2
Description
本開示は、ワーク検査システムに関し、特にワークを検査し、欠陥を検出するための精密計測システムに関する。
マシンビジョン検査システム(又は、略して「ビジョンシステム」)などの特定の精密計測システムを利用して、検査対象のワークの画像を取得することができる。このようなシステムは、様々な種類の用途(例えば、一般的なワーク検査、ワークの正確な寸法測定値を決定するための計測用途など)に利用することができる。このようなシステムには、一般にコンピュータ、カメラ、及び光学システムが含まれているものがある。特定の構成では、ワークの走査(traversal)及び検査を可能とするために移動する移動メカニズム(例えば、精密ステージ、コンベヤなど)が含まれている場合がある。例示的な先行技術のマシンビジョン検査システムの1つは、イリノイ州オーロラにあるMitutoyo America Corporation(MAC)から入手可能であるQUICK VISION(登録商標)シリーズのPCベースのビジョンシステム及びQVPAK(登録商標)ソフトウェアである。QUICK VISION(登録商標)シリーズのビジョンシステム及びQVPAK(登録商標)ソフトウェアの特徴及び操作については、概ね、例えば2003年1月に発表された「QVPAK 3D CNC Vision Measuring Machine User’s Guide」に記載されている。これは参照によりその全体が本明細書に組み込まれる。この種類のシステムは、顕微鏡型の光学系を使用し、ステージを移動させてワークの検査画像を提供する。
このような計測システムは、通常、ワークの検査において様々な種類の課題に直面する(例えば、検査対象のワークの材料の種類及び/又は表面の変化、検査条件の変更などに起因する)。特定の種類の検査操作のこのような問題を(例えば、ワーク欠陥検出及び/又は欠陥検出の精度の向上などのために)改善できるシステムが望ましい。
この概要は、以下の「発明を実施するための形態」でさらに説明する概念の精選を簡略化された形式で紹介するために提供されるものである。この概要は、請求項に係る主題の重要な特徴を特定することを目的としたものでも、請求項に係る主題の範囲を決定するための補助として使用されることを目的としたものでもない。
光源構成、レンズ構成、ワーク画像を提供するために撮像光路に沿って伝送された撮像光を受け取るカメラ構成、1つ以上のプロセッサ、及びメモリを含むワーク検査及び欠陥検出システムが提供される。光源構成は、複数のカラーチャンネルを提供するように構成されており、各カラーチャンネルは異なるカラーに対応している。レンズ構成は、光源構成によって照明されたワークの表面から生じる撮像光を入力し、且つ撮像光を撮像光路に沿って伝送する。カメラ構成は、ワーク画像を提供するために撮像光路に沿って伝送された撮像光を受け取る。
メモリは、1つ以上のプロセッサに結合され、且つプログラム命令を保存している。プログラム命令は、1つ以上のプロセッサによって実行されると、1つ以上のプロセッサに、少なくとも、第1のカラーチャンネルに対応する第1のカラーチャンネルトレーニングモードワーク画像データと、第2のカラーチャンネルに対応する第2のカラーチャンネルトレーニングモードワーク画像データと、を各セットが含む、トレーニングモードワーク画像データの複数のセットを取得するためのトレーニングモードワーク画像を取得することと、トレーニングモードワーク画像データの複数のセットに少なくとも部分的に基づいて、欠陥検出部をトレーニングすることと、第1のカラーチャンネルに対応する第1のカラーチャンネルランモードワーク画像データと、第2のカラーチャンネルに対応する第2のカラーチャンネルランモードワーク画像データと、を各セットが含む、ランモードワーク画像データの複数のセットを取得するためのランモードワーク画像を取得することと、トレーニングされた欠陥検出部を利用して、ランモードワーク画像データの複数のセットに少なくとも部分的に基づく解析を実行して、欠陥のあるワークを含む欠陥あり画像を決定することと、を行わせる。
様々な実装形態では、トレーニングモードワーク画像データの複数のセットに少なくとも部分的に基づいて欠陥検出部をトレーニングすることは、トレーニングモードワーク画像データの各セットについて、対応する第1及び第2のカラーチャンネルトレーニングモードワーク画像データを利用して、欠陥検出部をトレーニングするために利用される対応するトレーニングモード合成画像データを生成することを含み、トレーニングされた欠陥検出部を利用して、ランモードワーク画像データの複数のセットに少なくとも部分的に基づく解析を実行して、欠陥のあるワークを含む欠陥あり画像を決定することは、ランモードワーク画像データの各セットについて、対応する第1及び第2のカラーチャンネルランモードワーク画像データを利用して、トレーニングされた欠陥検出部によって解析される対応するランモード合成画像データを生成することを含む。
様々な実装形態では、トレーニングモードワーク画像データの各セットについて、対応する第1及び第2のカラーチャンネルトレーニングモードワーク画像データ間の複数の比率が決定され、ランモードワーク画像データの各セットについて、対応する第1及び第2のカラーチャンネルランモードワーク画像データ間の複数の比率が決定される。様々な実装形態では、本明細書で説明する各画像の画像データは、複数のピクセル値を含む。各ピクセル値(例えば輝度値を含む)は画像のピクセルに対応している。同じ位置のピクセル、又は異なる画像内のワーク上の同じ表面点の撮像は、対応するピクセル値が異なる画像間の対応するピクセルとして指定することができる(例えば、異なる対応するピクセル値は、各画像のワークを照明するために利用される異なるカラー光に由来し得る)。様々な実装形態では、対応する第1及び第2のカラーチャンネルトレーニングモードワーク画像データ間の複数の比率を決定することは、対応する第1のカラーチャンネルトレーニングモードワーク画像データの各ピクセル値について、そのピクセル値と、対応する第2のカラーチャンネルトレーニングモードワーク画像データの対応するピクセル値との比率を決定することを含み、対応する第1及び第2のカラーチャンネルランモードワーク画像データ間の複数の比率を決定することは、対応する第1のカラーチャンネルランモードワーク画像データの各ピクセル値について、そのピクセル値と、対応する第2のカラーチャンネルランモードワーク画像データの対応するピクセル値との比率を決定することを含む。様々な実装形態では、トレーニングモードワーク画像データの複数のセットに少なくとも部分的に基づいて欠陥検出部をトレーニングすることは、トレーニングモードワーク画像データの各セットについて、対応する第1及び第2のカラーチャンネルトレーニングモードワーク画像データのピクセル値の比率を利用して、欠陥検出部をトレーニングするために利用される対応するトレーニングモード合成画像データの対応するピクセル値を決定することを含み、トレーニングされた欠陥検出部を利用して、ランモードワーク画像データの複数のセットに少なくとも部分的に基づく解析を実行して、欠陥のあるワークを含む欠陥あり画像を決定することは、ランモードワーク画像データの各セットについて、対応する第1及び第2のカラーチャンネルランモードワーク画像データのピクセル値の比率を利用して、トレーニングされた欠陥検出部によって解析される対応するランモード合成画像データの対応するピクセル値を決定することを含む。
様々な実装形態では、光源構成は、第1のカラーチャンネルの第1のカラー光を提供する第1の光源と、第2のカラーチャンネルの第2のカラー光を提供する第2の光源と、を備え、第1及び第2のカラー光は、光の異なる波長に対応している。様々な実装形態では、第1の光源は、第1の発光ダイオードであり、第2の光源は、第2の発光ダイオードである。
様々な実装形態では、検査されるワークの少なくとも一部には、第1及び第2の材料が含まれており、画像内の露出した第2の材料の存在が、トレーニングされた欠陥検出部によって検出可能である欠陥に相当する。
様々な実装形態では、検査されるワークの少なくとも一部には、第1及び第2の材料が含まれており、第1及び第2の材料は、第1のカラーチャンネルに対応する第1のカラー光について、第1の材料の反射率が第2の材料の反射率よりも大きく、第2のカラーチャンネルに対応する第2のカラー光について、第2の材料の反射率が第1の材料の反射率よりも大きいか又は等しいように、第1及び第2の反射率プロファイルを有している。光源構成のコンポーネントは、第1及び第2の材料の反射率プロファイルに少なくとも部分的に基づいて、第1及び第2のカラー光の波長を提供するように選択され得る。様々な実装形態では、光源構成は、第1及び第2のカラー光を提供するように構成され、且つ第3のカラーチャンネルの第3のカラー光も提供するように構成されている。第1及び第2の材料の反射率プロファイルに基づいて、第1及び第2の材料を有するワークを検査するために、第1及び第2のカラー光は利用されるように選択され、第3のカラー光は利用されるようには選択されない。様々な実装形態では、第3のカラー光は、第1及び第2の反射率プロファイルとは異なる第3の材料の反射率プロファイルに基づいて、第3の材料を有するワークを検査するために利用されるように選択される。
様々な実装形態では、トレーニングモードワーク画像データの各セットについて、対応する第1及び第2のカラーチャンネルトレーニングモードワーク画像データは、それぞれの第1及び第2のカメラ画像プレーンによって生成され、ランモードワーク画像データの各セットについて、対応する第1及び第2のカラーチャンネルランモードワーク画像データは、それぞれの第1及び第2のカメラ画像プレーンによって生成される。
様々な実装形態では、プログラム命令は、1つ以上のプロセッサによって実行されると、1つ以上のプロセッサに、1つ以上の欠陥あり画像を使用して1つ以上の計測操作を実行することをさらに行わせる。
様々な実装形態では、ワーク検査及び欠陥検出システムを操作する方法(例えば、実行可能命令で構成されている1つ以上のコンピューティングシステムの制御下で操作されるコンピュータ実装方法)が提供され得る。この方法は、第1のカラーチャンネルに対応する第1のカラーチャンネルトレーニングモードワーク画像データと、第2のカラーチャンネルに対応する第2のカラーチャンネルトレーニングモードワーク画像データと、を各セットが含む、トレーニングモードワーク画像データの複数のセットを取得するためのトレーニングモードワーク画像を取得することと、トレーニングモードワーク画像データの複数のセットに少なくとも部分的に基づいて欠陥検出部をトレーニングすることと、第1のカラーチャンネルに対応する第1のカラーチャンネルランモードワーク画像データと、第2のカラーチャンネルに対応する第2のカラーチャンネルランモードワーク画像データと、を各セットが含む、ランモードワーク画像データの複数のセットを取得するためのランモードワーク画像を取得することと、トレーニングされた欠陥検出部を利用して、ランモードワーク画像データの複数のセットに少なくとも部分的に基づく解析を実行して、欠陥のあるワークを含む欠陥あり画像を決定することと、を含む。
様々な実装形態では、第1のカラーチャンネルに対応する第1のカラーチャンネルトレーニングモードワーク画像データと、第2のカラーチャンネルに対応する第2のカラーチャンネルトレーニングモードワーク画像データと、を各セットが含む、トレーニングモードワーク画像データの複数のセットを取得するためのトレーニングモードワーク画像を取得することと、トレーニングモードワーク画像データの複数のセットに少なくとも部分的に基づいて欠陥検出部をトレーニングすることと、第1のカラーチャンネルに対応する第1のカラーチャンネルランモードワーク画像データと、第2のカラーチャンネルに対応する第2のカラーチャンネルランモードワーク画像データと、を各セットが含む、ランモードワーク画像データの複数のセットを取得するためのランモードワーク画像を取得して、取得することと、トレーニングされた欠陥検出部を利用して、ランモードワーク画像データの複数のセットに少なくとも部分的に基づく解析を実行して、欠陥のあるワークを含む欠陥あり画像を決定することと、を行うように構成されているワーク検査及び欠陥検出システムが提供され得る。
本発明の上記の態様及び付随する利点の多くは、添付の図面と併せて解釈されるときに、以下の詳細な説明を参照することでよりよく理解されることによって、より容易に理解されるであろう。
図1は、例示的なワーク検査及び欠陥検出システム10のブロック図である。図1の例では、ワーク検査及び欠陥検出システム10は、マシンビジョン検査システムが含まれていても、その一部であってもよく、又は場合によっては、代わりにマシンビジョン検査システムとして参照されてもよい。ワーク検査及び欠陥検出システム10には、制御コンピュータシステム14とデータ及び制御信号を交換するために動作可能に接続されたビジョン検査マシン12が含まれている。制御コンピュータシステム14はさらに、モニタ又はディスプレイ16、プリンタ18、ジョイスティック22、キーボード24、及びマウス26とデータ及び制御信号を交換するために動作可能に接続されている。モニタ又はディスプレイ16には、ワーク検査及び欠陥検出システム10の操作の制御及び/又はプログラミングに適したユーザインターフェースが表示され得る。様々な例示的な実装形態では、タッチスクリーンタブレット及び/又は同様のデバイスなどが、要素14、16、22、24、及び26のうちのいずれか又はすべての機能の代わりとなったり、冗長性を提供したりすることができることが理解されるであろう。
当業者であれば、本明細書に説明する制御コンピュータシステム14及び/又は他の制御システムは、一般に、分散コンピューティング環境又はネットワークコンピューティング環境など、任意の適切なコンピューティングシステム又はデバイスを使用して実装され得ることを理解するであろう。このようなコンピューティングシステム又はデバイスには、本明細書に説明する機能を行うためにソフトウェアを実行する1つ以上の汎用又は特殊用途のプロセッサ(例えば、非カスタムデバイス又はカスタムデバイス)が含まれていてもよい。ソフトウェアは、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、フラッシュメモリなどのメモリ、又はそのようなコンポーネントの組み合わせに保存され得る。ソフトウェアはまた、光学ベースのディスク、フラッシュメモリデバイス、又はデータを保存するための任意の他の種類の不揮発性ストレージ媒体など、1つ以上のストレージデバイスに保存され得る。ソフトウェアには、特定のタスクを実行する又は特定の抽象データ型を実装するルーチン、プログラム、オブジェクト、コンポーネント、データ構造などを含む1つ以上のプログラムモジュールが含まれていてもよい。分散コンピューティング環境では、プログラムモジュールの機能を組み合わせても、複数のコンピューティングシステム又はデバイスに分散して、有線又はワイヤレスのいずれかの構成でサービスコールを介してアクセスしてもよい。
ビジョン検査マシン12には、可動式ワークステージ32と、ズームレンズ又は交換可能な対物レンズが含まれ得るレンズ構成を有する光学式撮像システム34とが含まれている。ズームレンズ又は交換可能な対物レンズは一般に、光学式撮像システム34によって提供される画像に様々な倍率を提供する。ビジョン検査マシン12の様々な例示的な実装形態はまた、米国特許第7,454,053号、第7,324,682号、第8,111,905号、及び第8,111,938号に記載されている。これらの特許の各々は参照によりその全体が本明細書に組み込まれる。
可能なシステムコンポーネントのいくつかの例として、ワーク検査及び欠陥検出システム10の光学式撮像システム34のカメラ構成に、モノクロカメラが含まれている場合があり、当該システムでは、異なるカラーチャンネルに対しそれぞれ異なる色の発光ダイオード(LED)が利用される。他の実装態様では、異なる波長の画像を区別/生成できる赤・緑・青(RGB)カメラ、又は2若しくは3センサカメラを利用してもよい。このような場合、異なるLEDを用いて異なる時間にワークを照明するのではなく、白色光源を(例えば、ビームスプリッタ及び狭帯域カラーフィルタとともに)利用して、異なるカラーチャンネルを実装することができる。いくつかの実装形態では、画像をより迅速に生成することが望ましい場合がある。これには(例えば、異なる時間に各カラー画像を撮影するよりも)複数の画像センサ付きカメラなどが有利であり得る。様々な実装形態では、ワーク検査及び欠陥検出システムは、(例えば、ワーク検査及び欠陥検出システムの一部としての、単一のビジョン検査マシン若しくは複数のビジョン検査マシン若しくはそのコンポーネント及び/又はコンピュータシステムなどの一部として)本明細書に説明される複数のカメラ構成及び/又は他のコンポーネントからのデータを含み、該データを利用し、及び/又は該データを受信する場合がある。
図2は、図1のワーク検査及び欠陥検出システムと同様であり、本明細書に開示する特定の特徴を含むワーク検査及び欠陥検出システム100の制御システム部120及びビジョンコンポーネント部200のブロック図である。以下でより詳細に説明するように、制御システム部120を利用して、ビジョンコンポーネント部200を制御する。制御システム部120は、ビジョンコンポーネント部200とデータ及び制御信号を交換するように配置され得る。ビジョンコンポーネント部200には、光学アセンブリ部205、光源220、230、240、300、及びワークステージ210が含まれており、ワークステージ210には透明な中央部分212がある。ワークステージ210は、ワーク20を配置できるステージの表面にほぼ平行な平面内にあるx軸及びy軸に沿って制御可能に移動可能である。
光学アセンブリ部205には、カメラ構成260(例えば、1つ以上のカメラ及び/又は様々なカメラコンポーネントを含む)と、交換可能な対物レンズ250を備えたレンズ構成とが含まれている。いくつかの実装形態では、光学アセンブリ部205のレンズ構成には、可変焦点距離(VFL)レンズ(例えば、米国特許第9,143,674号に開示されているような可変音響式屈折率分布型(TAG))を任意選択で含めることができる。該米国特許は参照によりその全体が本明細書に組み込まれる。
様々な例示的な実装形態では、光学アセンブリ部205のレンズ構成にはさらに、レンズ286及び288を有するターレットレンズアセンブリ280が含まれていてもよい。ターレットレンズアセンブリの代わりに、様々な例示的な実装形態では、固定又は手動で交換可能な倍率変更レンズ、又はズームレンズ構成などが含まれていてもよい。様々な例示的な実装形態では、可変倍率レンズ部の一部として含まれる固定倍率対物レンズのセット(例えば、0.5倍、1倍、2倍若しくは2.5倍、5倍、10倍、20倍若しくは25倍、50倍、100倍などの倍率に対応する対物レンズのセット)から交換可能な対物レンズ250を選択することができる。
光学アセンブリ部205は、制御可能なモータ294を使用することによって、x軸及びy軸にほぼ直交するz軸に沿って制御可能に移動可能である。制御可能なモータ294は、アクチュエータを駆動して光学アセンブリ部205をz軸に沿って移動してワーク20の画像の焦点を変更する。制御可能なモータ294は、信号線296を介して入出力インターフェース130に接続されて、特定の範囲で画像の焦点を変更する。ワーク20はワークステージ210上に配置することができる。ワークステージ210は、交換可能な対物レンズ250の視野がワーク20上の位置間及び/又は複数のワーク20間を移動するように、光学アセンブリ部205に対して移動するように制御され得る。
ステージ光源220、同軸光源230、及び面光源240(例えば、リングライト)のうちの1つ以上が、それぞれ光源光222、232、及び/又は242を放射して、1つ以上のワーク20を照明することができる。例えば、画像露出中に、同軸光源230がビームスプリッタ290(例えば、部分ミラー)を含む経路に沿って光源光232を放射し得る。光源光232は、ワーク光255として反射又は透過され、撮像に使用されるワーク光は、交換可能な対物レンズ250及びターレットレンズアセンブリ280を通過し、カメラ構成260(例えば、カメラを含む)によって集められる。ワーク20の画像を含むワーク画像露出は、カメラ構成260によって撮影され、制御システム部120へと信号線262に出力される。
様々な実装形態では、光源220、230、240、又は300のうちの1つ以上に(例えば、光源構成の一部として)複数の光源が含まれる場合がある。例えば、1つの実装形態では、光源230に2つ又は3つの光源(例えば、赤色、緑色、及び/又は青色LEDといった2つ又は3つのLEDなど)が含まれていてもよく、この場合、光源光232には現在点灯している光源のいずれかからの光が含まれ得る。以下により詳細に説明するように、このような光源構成の一部として、例えば、第1の光源が第1のカラーチャンネルに対応し(例えば、青色LEDが青のカラーチャンネルに対応し)、第2の光源が第2のカラーチャンネルに対応している(例えば、赤色LEDが赤のカラーチャンネルに対応している)場合がある。異なるカラーチャンネルを利用して、異なるカラーチャンネル画像データなどを生成することができる。
様々な光源(例えば、光源220、230、240、300)は、関連する信号線(例えば、それぞれバス221、231、241、331)を介して制御システム部120の照明制御インターフェース133に接続することができる。制御システム部120は、ターレットレンズアセンブリ280を軸284に沿って回転するように制御して、信号線又はバス281を介してターレットレンズを選択して、画像倍率を変更することができる。
図2に示すように、様々な例示的な実装形態では、制御システム部120にはコントローラ125、入出力インターフェース130、メモリ140、ワークプログラム生成器及び実行器170、並びに電源部190が含まれている。これらのコンポーネント及び以下に説明する追加コンポーネントの各々は、1つ以上のデータ/制御バス及び/若しくはアプリケーションプログラミングインターフェースによって、又は様々な要素間の直接接続によって相互接続することができる。入出力インターフェース130には、撮像制御インターフェース131、モーション制御インターフェース132、照明制御インターフェース133、及びレンズ制御インターフェース134が含まれている。
照明制御インターフェース133には、例えば、ワーク検査及び欠陥検出システム100の様々な対応する光源の選択、電源、及び/又はオン/オフスイッチを制御する照明制御要素133a~133nが含まれ得る。照明制御インターフェース133には、図示する実施形態では、画像取得時に構造化された照明を提供するために、構造化された照明パターン(SIP:Structured Illumination Pattern)生成部300と連動して機能し得る照明制御要素133sipも含まれている。様々な実装形態では、SIP生成部300からビームスプリッタ290に入力されるように予測パターンを出力することができ、これは、対物レンズ250を通る同軸光として方向付けられてSIP構造化された光232’を提供して、視野を照明し、SIP構造化された光232’はワーク20からワーク光255’として反射される。
メモリ140には、画像ファイルメモリ部141、欠陥検出部140dp、ワークプログラムメモリ部142(1つ以上のパートプログラムなどを含み得る)、及びビデオツール部143が含まれ得る。ビデオツール部143には、対応するビデオツールの各々のGUI、画像処理操作などを決定するビデオツール部143a及び他のビデオツール部(例えば143n)と、ビデオツール部143に含まれている様々なビデオツールにおいて操作可能である様々なROIを定義する自動、半自動、及び/又は手動操作をサポートする関心領域(ROI)生成器143roiとが含まれている。このようなエッジ特徴の位置特定や他のワーク特徴検査操作の実行のためのビデオツールの操作例については、以前に組み込まれた参照文献のうちの一部と、米国特許第7,627,162号により詳細に記載されている。該米国特許は参照によりその全体が本明細書に組み込まれる。
また、ビデオツール部143には、フォーカス高さ測定操作のためのGUI、画像処理操作などを決定するオートフォーカスビデオツール143afも含まれている。様々な例示的な実装形態では、オートフォーカスビデオツール143afにはさらに、米国特許第9,143,674号により詳細に記載されているように、ハードウェアを使用してフォーカス高さを高速で測定するために利用できる高速フォーカス高さツールが含まれていてもよい。該米国特許は参照によりその全体が本明細書に組み込まれる。様々な例示的な実装形態では、高速フォーカス高さツールは、それ他の点はオートフォーカスビデオツールの従来の方法に従って動作するオートフォーカスビデオツール143afの特別なモードであり得る。或いは、オートフォーカスビデオツール143afの動作には、高速フォーカス高さツールの動作しか含まれていなくてもよい。画像領域又は関心領域の高速オートフォーカス及び/又はフォーカス位置決定は、既知の方法に従って画像を解析し、様々な領域に対応する定量的コントラストメトリックを決定することに基づいていてもよい。例えば、このような方法は、米国特許第8,111,905号、第7,570,795号、及び第7,030,351号に開示されている。これらは各々、参照によりその全体が本明細書に組み込まれる。
本開示の文脈において、また、当業者によって知られるように、「ビデオツール」という用語は、通常、比較的単純なユーザインターフェースを介してマシンビジョンユーザが実装することができる、比較的複雑な自動操作又はプログラム操作のセットを指す。例えば、ビデオツールには、操作及び計算を左右するいくつかの変数又はパラメータを調整することによって、特定のインスタンスで適用及びカスタマイズされる複雑な事前プログラムされた画像処理操作及び計算のセットが含まれる場合がある。ビデオツールは、基礎となる操作及び計算に加えて、ユーザがビデオツールの特定のインスタンスに対してこれらのパラメータを調整することを可能にするユーザインターフェースを備えている。なお、可視のユーザインターフェース特徴がビデオツールと呼ばれることもあるが、基礎となっている操作は黙示的に含まれている。
1つ以上のディスプレイデバイス136(例えば、図1のディスプレイ16)及び1つ以上の入力デバイス138(例えば、図1のジョイスティック22、キーボード24、及びマウス26)を入出力インターフェース130に接続することができる。ディスプレイデバイス136及び入力デバイス138は、ユーザインターフェースを表示するために使用され得る。このユーザインターフェースには、検査操作を実行する、及び/若しくはパートプログラムを作成及び/若しくは修正する、カメラ構成260によって撮影された画像を見る、並びに/又はビジョンコンポーネント部200を直接制御するために使用可能である様々なグラフィカルユーザインターフェース(GUI)特徴が含まれ得る。
様々な例示的な実装形態では、ユーザがワーク検査及び欠陥検出システム100を利用してワーク20のパートプログラムを作成するときに、ユーザは、トレーニングモードでワーク検査及び欠陥検出システム100を操作して、所望の画像取得トレーニングシーケンスを提供することによって、パートプログラム命令を生成する。例えば、トレーニングシーケンスは、代表的なワークの特定のワーク特徴を視野(FOV)に配置すること、光レベルを設定すること、焦点を合わせるか又はオートフォーカスすること、画像を取得すること、及び(例えば、該ワーク特徴上のビデオツールのうちの1つのインスタンスを使用して)画像に適用される検査トレーニングシーケンスを提供することを含み得る。トレーニングモードは、シーケンスが撮影又は記録され、対応するパートプログラム命令に変換されるように動作する。パートプログラムが実行されると、これらの命令によって、ワーク検査及び欠陥検出システムがトレーニングされた画像取得を再現し、検査操作によって、パートプログラムを作成するときに使用された代表的なワークと一致する、ランモードのワーク上の特定のワーク特徴(即ち、対応する位置にある対応する特徴)が自動的に検査される。様々な例示的な実装形態では、特定の種類のトレーニングモードをさらに使用することも、代わりに使用することもできる(例えば、欠陥を検出するための欠陥検出部をトレーニングするためのトレーニングモード、欠陥検出プロセスに許容可能ではない異常画像を検出するために異常検出器部分をトレーニングするためのトレーニングモードなど)。様々な実装形態では、トレーニングモードを学習モードとしてさらに参照しても、代わりに参照してもよい。
ビデオツール部143には、Z高さ測定ツール部143zも含まれている。Z高さ測定ツール部143zは、Z高さ測定操作に関連する様々な操作及び特徴を提供する。一実装形態では、Z高さ測定ツール部143zにはZ高さツール143ztが含まれる場合がある。Z高さツール143ztには、例えば、オートフォーカスツール143af、及びマルチポイントオートフォーカスツール143mafが含まれる場合がある。Z高さツール143ztは、最適なフォーカス高さ及び/又はZ高さの測定値を決定するモードで構成されたZ高さツールと併せて、画像スタック取得及び関連する照明操作の特定の側面を左右することができる。一般に、Z高さ測定ツール部143zは、トレーニングモード及び/又はランモード若しくは他のモードでの操作を実行して、焦点曲線の全体又は一部を生成し、そのピークを最適な焦点位置として見つけるなど、既知のZ高さ測定ツールと同様に、少なくともいくつかの操作を実行することができる。例えば、Z高さ測定ツールの特定の既知の操作については、米国特許第10,520,301号に記載されている。該特許は参照によりその全体が本明細書に組み込まれる。
欠陥検出部140dpは、以下でより詳細に説明するように、様々な欠陥検出操作を実行する。様々な実装形態では、欠陥検出部140dpは、トレーニングデータ(例えば、トレーニング画像)を必要とするモデルを利用する。例えば、規定の撮像、照明、及びワーク条件を使用して撮影されたトレーニング画像のセットを使用して、欠陥検出部140dpをトレーニングすることができる。様々な例示的な実装形態では、モデルは教師付きモデル(例えば、人工知能(AI)など)であってもよい。欠陥検出部140dpは、ラベル付けされた欠陥画像(例えば、ユーザ及び/又は自動プロセスによってラベル付けされる)に対応する画像データを処理して、分類モデルをトレーニングする。該分類モデルは、様々な実装形態ではAI分類モデルであってもよい。
様々な実装形態では、欠陥検出部140dpは、計測プロセスとともに実行される欠陥検出プロセスを実装することができる。様々な実装形態では、欠陥検出部140dpを、計測プロセスを実行するように構成されている、図1のワーク検査及び欠陥検出システム100と同様のワーク検査及び欠陥検出システムに含めることが望ましい場合がある。これは、システムが欠陥検出部140dpによって実装される欠陥検出プロセスに入力される画像データを生成することができるためである。したがって、単一のマシンが計測プロセスと欠陥検出プロセスの両方を実行するように構成されており、従来の計測システムに勝る利点を提供することができる。例えば、欠陥検出プロセスの実行中にワークに欠陥が検出された場合、該ワークに計測プロセスを実行する理由がないため、時間を節約できる。より具体的には、欠陥検出プロセスの実行中にワークに欠陥が検出された場合、明らかに欠陥のあるパーツを測定する必要はない。したがって、計測プロセスを開始する前に欠陥検出プロセスを実行することが有利になり得る。
また、いくつかの欠陥によって、追加の欠陥パラメータを決定するためにさらなる計測又は検査が必要となる場合がある。例えば、2D画像は、推定欠陥がすぐに認識され、該欠陥のXY位置及び該欠陥の近似XY領域がすばやく確認されることを可能にする。潜在的な欠陥の3D特性が重要である場合、欠陥検出部140dpは、潜在的な欠陥が実際の欠陥であるかどうかを決定するために、追加の処理(例えば計測操作)を実行することができる。例えば、ワークの表面のスクラッチが欠陥と見なされるためには特定の閾値よりも深くなければならない場合、欠陥検出部140dpは、影響を受けている領域のより時間のかかる3D点群を取得させて(例えば、Z高さ測定ツール部143zを使用して)、スクラッチの深さがパーツを不合格品とするのに十分かどうかを学習する。様々な実装形態では、(1)標準的な計測プロセスを継続する、(2)欠陥検出プロセスを停止又は一時停止し、潜在的な欠陥のより有益な尺度を含む計測プロセス(例えば、3D、異なる照明、表面粗さなどのタッチプローブ測定結果など)を実行する、(3)ワークをスクラップに送る(例えば、ワークを廃棄又はリサイクルする)、(4)追加の人間による検査のためにワークを送る、(5)機械又はプロセスに問題があることを示すフィードバックを生産ラインに提供するなど、最初の欠陥分類の結果として、(例えば、自動的に生じるようにプログラムされ得る)異なる動作が実行され得る。
様々な例示的な実装形態では、メモリ140の欠陥検出部140dpは、様々な種類の欠陥がワークの画像に存在するかどうか(即ち、画像に含まれているワーク表面の一部分に欠陥があることを示す)を推測するために使用できる、欠陥検出システムの様々なツール及びアルゴリズムのモデルデータ及びプログラム命令を保存する。ワーク検査及び欠陥検出システムがトレーニングモード又は学習モードで操作されている間、欠陥検出システムは、欠陥あり画像及び欠陥なし画像を含むトレーニング画像のセットからの画像データを使用して、欠陥検出部140dpをトレーニングする。トレーニング画像のセットは、規定の撮像、照明、及びワーク条件を使用して撮影される。欠陥検出部140dpの初期トレーニング後、欠陥検出部140dpは、(例えば、同じ規定の撮像、照明、及びワーク条件を利用して)ランモードで操作されて、新しい、以前に見られていないワーク画像に欠陥に含まれているかどうかを推測し、これに応じて各ワーク画像を欠陥あり画像又は欠陥なし画像として分類する。
以下により詳細に説明するように、図3A~図3F、図4A~図4E、図5A~図5D、図7A~図7E、及び図8A~図8Fは、ワーク検査及び欠陥検出システム100によって取得され得るいくつかのワーク画像の例を示し、いくつかの実装形態では、トレーニングモード中に画像データを(例えば、トレーニング画像及び/又はテスト画像として)利用して、欠陥検出部140dpがトレーニングされ得る(及び/又は画像のうちのいくつかは、後にランモード中にワーク検査及び欠陥検出システム100によって取得され、トレーニングされた欠陥検出部140dpによって解析され得るワーク画像の例であり得る)。
特に、図3A~図3F及び図4A~図4Eのワーク画像の例は、機械加工されたアルミニウムプレート上の異なるセクション(つまり、異なるXY位置にある)のものである。以下により詳細に説明するように、図3A~図3Fは欠陥なし画像の例を示し、図4A~図4Eは欠陥あり画像の例を示す(例えば、トレーニング画像のセットには通常、多数の欠陥ありワーク画像及び欠陥なしワーク画像の両方が含まれている)。画像間の差は、欠陥検出部140dpのトレーニングに多数のトレーニング画像を利用することが望ましい理由の一部を説明するのに役立つ。より具体的には、ワークの種類を検査するために取得され得る異なるワーク画像の異なる可能な特性に部分的に起因して(例えば、機械加工されたアルミニウムプレートの種類を検査するために図3A~図3F及び図4A~図4Eのワーク画像間の差によって示されているように)、欠陥検出部140dpの欠陥を検出する精度は、トレーニングに様々なワーク画像を利用することによって向上され得る。これらのワーク画像は、後でランモード中に取得され得る及び/又はこのような画像内の欠陥を検出し易くすることができる様々な画像と同様であり得る。例えば、特に図3A~図3F、図4A~図4E、及び図5A~図5Dの具体的な例に関して、このようなトレーニングは、欠陥検出部140dpが欠陥(例えば、図に示す例では、様々な種類のスクラッチ欠陥などが含まれている)と正常なワーク表面の特徴(例えば、図に示す例では、通常は表面全体にわたって変化するハッシュテクスチャとして現れるプレート表面上に形成される様々な種類の機械加工マークが含まれている)とを区別するのに役立ち得る。
上記のように、図3A~図3F及び図4A~図4Fは、比較的「平坦」な機械加工されたアルミニウムプレートであるワークのセクションのワーク画像の例である。各画像は、同じ角度の視点(例えば、プレートに対して90度の角度で直接頭上)から撮られるが、各々、プレート上の異なるXY位置にある。各画像は、プレートの表面の約2.5ミリメートル×1.9ミリメートル(XY)のビューを示している。したがって、各画像はプレートの表面の一部分の拡大図を示している。プレート表面上に形成された機械加工マークは、通常は表面全体にわたって変化するハッシュテクスチャをもたらす。画像では、このように拡大されたスケールでは、比較的平坦なプレートが平坦に見えない場合がある。現在の例では、いくつかの機械加工マークのハッシュリッジの高さは約5マイクロメートル以下であり得る。
図3A~図3Fに示す機械加工されたアルミニウムプレートのセクションには、欠陥は含まれていない。つまり、図3A~図3Fは、「欠陥なし」の機械加工されたアルミニウムプレートのセクションの画像の例を示している。対照的に、図4A~図4Eは、欠陥を含むワークのセクションの画像の例を示している。図4A~図4Eに示す画像は、図3A~図3Fに示す画像と同様であるが、図4A~図4Eには、機械加工されたアルミニウムプレートの表面に形成された欠陥が含まれている。これらの例における欠陥は、機械加工されたアルミニウムプレートの表面に形成されたスクラッチである。より具体的には、図4Aはスクラッチ欠陥402A1と402A2を示し、図4Bはスクラッチ欠陥402B1と402B2を示し、図4Cはスクラッチ欠陥402C1と402C2を示し、図4Dはスクラッチ欠陥402Dを示し、図4Eはスクラッチ欠陥402E1と402E2を示している。上記のように、図3A~図3F及び図4A~図4Eに示す欠陥及びワーク表面の様々な特性は、欠陥検出部140dpのトレーニングに多数のトレーニング画像を利用することが望ましい理由の一部を説明するのに役立つ(例えば、トレーニング画像のセットには通常、多数の欠陥ありワーク画像及び欠陥なしワーク画像が含まれている)。
図5A~図5Dは、図1のワーク検査及び欠陥検出システムと同様のワーク検査及び欠陥検出システムを使用して取得され得る、欠陥がある又は欠陥のないワークの同様の部分の画像の例である。図5Aは、「欠陥なし」と分類され得るプレートのセクションの例を示している。図5B~図5Dは、「欠陥あり」と分類され得る同様のプレートの同様のセクションの画像の例を示している。各画像には、スクラッチ欠陥(例えば、それぞれのスクラッチ欠陥502B、502C、及び502D)が含まれている。図5A~図5Dの例では、画像はワークの同様の部分のものである(例えば、部分の表面に形成された機械加工マークの種類が各画像で同様であるか又は公称的に同じであり、画像間の主な差は、それぞれのスクラッチ欠陥502B、502C、及び502Dの特性である)。1つの例示的な実装形態では、図5A~図5Cの画像は欠陥検出部140dpをトレーニングするための画像のトレーニングセットの一部として含まれている場合がある。
図5Dの画像は、ランモード画像の一例であり得、これは、欠陥検出部140dpによって解析されて、欠陥あり画像又は欠陥なし画像に分類するべきかどうかを決定することができる。様々な実装形態では、欠陥検出部140dpは、図5Dの画像を欠陥のある画像として適切に分類できるように十分にトレーニングされている場合がある(例えば、ワークの同様の部分と、スクラッチ欠陥502Dと特定の同様の特性を有するスクラッチ欠陥502B及び502Cとを含む図5A~図5Cのトレーニング画像によってトレーニングされている)。様々な実装形態では、例示のスクラッチ欠陥502Dに関して、特定の追加プロセスを実行してもよい。例えば、1つ以上の計測プロセスを欠陥検出プロセスと併せて実行してもよい。このプロセスでは、図6に関して以下により詳細に説明するように、例示のスクラッチ欠陥502Dの様々な寸法又は他の特性を決定することができる。
図6は、(例えば、欠陥の寸法などを決定するために)欠陥を含むワークの画像に計測操作を実行するための1つ以上のビデオツールの利用を示す図である。図示するように、スクラッチ欠陥602(例えば、スクラッチ欠陥502Dと同様又は同じであり得る)を含む画像601(例えば、図5Dの画像と同様又は同じであり得る)の場合、ビデオボックスツール606には、スクラッチ欠陥602のエッジの位置、寸法、及び/又は他の側面を決定するために利用されるスキャンライン608(例えば、これは、ビデオポイントツールなどをさらに又は代わりに表す場合もある)が含まれている。様々な例示的な実装形態では、ビデオボックスツール606は、当該ボックスツール606が関心領域(例えば、ボックスツール606内の領域)を示す又は定義するまで、サイズ設定、配置、及び回転を行うことができ、図6に示す矢印(例えば、スキャンライン、ポイントツールを表す)を利用して、スクラッチ欠陥602のエッジを決定することができる。様々な例示的な実施形態では、ビデオボックスツール606では、通常、関心領域内の欠陥602のエッジに沿って1つ以上の従来のエッジ勾配を使用することができ、欠陥602のエッジは、様々なスキャンライン608に沿ったエッジ勾配の局所的な大きさなどに基づいて決定することができる。
様々な例示的な実装形態では、このような計測操作には、特定の形態学的フィルタリング又は他のフィルタリングを実行することが含まれていてもよい(例えば、ワークの機械加工パターンからスクラッチのエッジを区別するために。特定の種類のフィルタリングについては米国特許第7,522,763号に記載されている。該特許は参照によりその全体が本明細書に組み込まれる)。図6に示すように、画像に含まれている表示領域では、スキャンライン608を有するボックスツール606を利用して、スクラッチ欠陥602のエッジ位置(例えば、外側エッジ又は外周)を決定する。このような決定に基づいて、ビデオツール及び/又は他の計測操作には、スクラッチ欠陥の寸法D1(例えば、スクラッチ欠陥602の長さ及び/又は他の寸法に対応している)を決定することが含まれている場合がある。様々な例示的な実装形態では、ボックスツール606、スキャンライン608、並びに/又は他のビデオツール及び/若しくは計測操作を利用して、スクラッチの欠陥602の他の寸法(例えば、幅、深さなど)を決定することができる。例えば、前述のように、ビデオツール部143にはZ高さ測定ツール部143zが含まれている場合があり、対応するビデオツール又は操作を利用して、スクラッチ欠陥のZ高さ寸法を決定することができる(例えば、ワーク表面の他の部分又は特徴に対するスクラッチの深さを決定することなどが含まれる)。
欠陥検出部の一般的な操作の一部として、検出されたいくつかの欠陥によって、追加の欠陥パラメータを決定するためにさらなる計測又は検査が必要となる場合がある。例えば、上記のように、スクラッチ欠陥602を含む、欠陥のある画像の様々な種類の解析及び/又は処理により、欠陥602のXY位置及び近似XY領域、及び/又は他の寸法を(例えば、ビデオツール及び/又は上記の他の操作を利用して)決定することができる。潜在的な欠陥の3D特性が重要である場合(例えば、スクラッチが欠陥と見なされるためには何らかの値よりも深くなければならない場合)、欠陥検出部140dpは、(例えばZ高さ測定ツール部143zの)Z高さ測定ツールを利用するためのプロセス、又は(例えば、影響を受けている領域の3D点群を取得してスクラッチの深さを決定するなどのための)他の3D感知プロセスを開始することができる。
様々な実装形態では、本明細書で説明する各画像の画像データは、複数のピクセル値(例えば、各ピクセル値は画像のピクセルに対応している)を含む。欠陥検出部140dpのトレーニングに画像(例えば、トレーニングモード画像)を利用することの本明細書における説明は、対応する画像データ(例えば、トレーニングモード画像に対応するトレーニングモード画像データなど)がトレーニングに提供され、利用されることを示している(例えば、また、反対に、トレーニングに画像データを利用することの本明細書における説明は、対応する画像がトレーニングに使用されることを示している)。同様に、欠陥検出部140dpが画像を解析する(例えば、ランモード画像に対して行って欠陥のあるワークを含む欠陥のある画像を決定する)ことの本明細書における説明は、対応する画像データ(例えば、ランモード画像に対応するランモード画像データ)が解析の実行のために提供され、利用されることを示している(例えば、また、反対に、ランモード中に解析に画像データを利用することの本明細書における説明は、対応する画像が解析に使用されることを示している)。以下により詳細に説明するように、トレーニング又は解析のためのいくつかの実装形態では、画像データ(例えば、カメラ部から取得した生の画像データ)を利用して、トレーニング又は解析に利用できる合成画像データ(例えば、合成画像に対応する)を決定することができる。
様々な実装形態では、欠陥検出部140dpは、異なる材料から形成された複数の層を含むワークの欠陥を検出するように構成されている。各欠陥は、第1の材料の撮像に対応しており、第2の材料のみが撮像されることが予想され得る。例えば、アルミニウム基板を含み、該アルミニウム基板の上に銅の層が形成されているワークに、誤って銅を除去し過ぎる可能性のある様々な種類の処理(例えば、ドリル加工、エッチング)が施されるか、及び/又は他の問題(例えば、図3A~図3F、図4A~図4E、及び図5B~図5Dなどに示すようなスクラッチ)が発生し、これにより、アルミニウム基板が露出する。これは欠陥に相当する。つまり、欠陥検出部140dpが、露出した銅のみが含まれると予想されるワークの領域に露出したアルミニウムが存在する/撮像されていると決定した場合、欠陥検出部140dpは、その領域に欠陥があると決定することができる。別の例として、ワークには、ペイント又はコーティングが施されている1つ以上の部分が含まれている場合がある。この場合、ペイント又はコーティングの欠け若しくはスクラッチ、又は塗装若しくはコーティングの問題によって、下層の材料が露出する場合があり、このような露出が欠陥と見なされ得る。一般的に、欠陥検出部140dpが、第1の材料(例えば、塗装、コーティング、上層など)のみが含まれると予想されるワークの領域に第2の材料が存在する/撮像されていると決定した場合、欠陥検出部140dpは、その領域に欠陥があると決定することができる。
様々な実装形態では、欠陥検出部140dpは、ワークに含まれる異なる材料の複数の異なる反射率プロファイルに少なくとも部分的に依存するプロセスに基づいて、ワークに欠陥が存在していることを決定するように構成することができる。異なる材料(例えば、銅、アルミニウム、金、銀など)は、異なる反射率プロファイル(例えば、反射率対波長曲線)を有していることが知られており、各材料の反射率は、材料に向けられた光の対応する波長に従って変化する。例えば、異なる材料(例えば、銀、銅、アルミニウム、及び炭素鋼)のスペクトル反射率プロファイルを単一のグラフに含めることで、スペクトル反射率プロファイルの比較を容易にすることができ、特定の波長での各材料の反射率を見ることができる(例えば、比較のためにいくつかのスペクトル反射率プロファイルを含むグラフの1つの具体例として、https://www.researchgate.net/figure/Spectral-reflectance-of-aluminum-and-various-other-metals-O-Elsevier-Reprinted-with_fig1_283437763のグラフを参照されたい)。
例として、1つの特定の実装形態では、(例えば、青色LEDから出力される)約450ナノメートルの波長を有する青色光で照明される場合、特定のテスト評価基準に従って、銅は約50%の反射率を有する一方で、アルミニウムは約95%の反射率を有し得る。(例えば、緑色LEDから出力される)約570ナノメートルの波長を有する緑色光で照明される場合、銅は約65%の反射率を有する一方で、アルミニウムは約92%の反射率を有し得る。(例えば、赤色LEDから出力される)約700ナノメートルの波長を有する赤色光で照明される場合、銅は約96%の反射率を有する一方で、アルミニウムは約90%の反射率を有し得る。他の材料(例えば金、銀など)には、対応する反射率対波長曲線によって示され得る異なる反射率特性がある。
本開示の様々な実施形態による欠陥検出システムは、解析対象のワークに含まれる2つ以上の異なる材料に対して、異なる反射率プロファイルを有利に利用することができる。例えば、異なるカラーチャンネル画像データが取得される間に、2つの異なる材料を含むワークを照明するために、2つの波長(即ち、色)の光が選択され得る。この2つの波長は、波長のうちの少なくとも一方に対する2つの異なる材料の反射率曲線の値の差が比較的大きい(例えば、システムの実用的な限界内で最大差に近づく)ように、及び/又は、2つの波長の差の比率が比較的大きいように選択される。例えば、上記のテスト評価基準に従って、(例えば、青色LEDから出力される)約450ナノメートルの波長を有する青色光が選択されて利用され得る。これに対し、銅は約50%の反射率を有し、アルミニウムは約95%の反射率を有し得る。この場合、50%と95%との差は比較的大きく、(例えば、システムの実用的な制限範囲内で使用できる波長及びその他の成分の)反射率曲線の最大差に近づく可能性がある。このような例では、第2の波長には、(例えば、赤色LEDから出力される)約700ナノメートルの波長を有する赤色光が選択されて利用され得る。これに対し、銅は約96%の反射率を有し、アルミニウムは約90%の反射率を有し得る。この場合、青/赤の比率は、銅の反射率では約50%/96%=0.52であり、アルミニウムの反射率では約95%/90%=1.05であり得(例えば、銅の比率は1をはるかに下回り、アルミニウムの比率は1に近いか又は1を上回る)、これは比較的大きな比率差である。以下により詳細に説明するように、このような異なるカラーチャンネル画像データを欠陥検出部140dpに入力することにより、欠陥を検出する能力が向上され得る。一実装形態では、異なるカラーチャンネル画像データ間の比率を決定することで、例えば、図8Fに関して以下に示すように、欠陥が検出されることを可能にするための特に有利な特性を提供することができる。
様々な実装形態では、モノクロカメラが、(例えば、べイヤー(Bayer)フィルタが利用される場合など、各カラー画像には、当該カラーに指定されているカメラのピクセルの一部しか含まれていないカラーカメラと比較して)最も高いXY解像度を提供することができる。いくつかの実装形態では、赤色、緑色、及び/又は青色LEDを使用して、ワークのモノクロ画像を撮影する(例えば、LEDは上記のように特定の所望の波長に応じて選択され得る)。具体例としては、430ナノメートルに対応する波長、440ナノメートルに対応する別の波長、及び450ナノメートルに対応する別の波長など、青色光の範囲内の異なる青色波長を提供する異なる青色LEDが利用可能であり得る。上記の例に従って、450ナノメートルに対応する青色LEDがシステムで利用するために選択され、450ナノメートルでの銅とアルミニウムの反射率プロファイル値(例えば、銅とアルミニウムの反射率のより小さい相対的差に対応し得る430ナノメートル又は440ナノメートルとは対照的に、反射率曲線の最大差に近づくか及び/又はほぼ対応している)に従って、システムの所望の比率及び/又は他の特性などを達成することができる。同様に、650ナノメートルに対応する波長、675ナノメートルに対応する別の波長、及び700ナノメートルに対応する別の波長など、赤色光の範囲内の異なる赤色波長を提供する異なる赤色LEDが利用可能であり得る。上記の例に従って、700ナノメートルに対応する赤色LEDがシステムで利用するために選択され、所望の比率などを達成することができる。
このような例については、いくつかの実装形態では、LED及び/又は他の光源は単一の波長によって特徴付けられ得るが、対応するスペクトル帯域幅(例えば、場合によっては、60ナノメートル未満などの)でスペクトルを出力し得ることが理解されるであろう。例えば、特定のLEDは、ほぼガウス形状のスペクトルを出力する比較的狭帯域のエミッタであり得る。様々な実装形態では、このような光源を特徴付けるために使用される単一の波長は、対応するスペクトルのピーク波長、対応するスペクトルの中心波長、対応するスペクトルの重心波長、又は対応するスペクトルの主波長などの特徴化波長に基づいていてよい。このような場合、光源は特徴化波長を有する光を出力し、且つ対応する周囲スペクトルの他の波長を有する光も出力することが理解されるであろう。
動作中に、赤色、緑色、又は青色LEDのうちの1つが光を出力している間に、各モノクロ画像が撮影され得る。このようなモノクロ画像を使用して、ワークの合成RGB画像を生成することができる。合成RGB画像の画像データには、ワークが赤色LEDだけで照明されている間に撮影されたモノクロ画像に対応する複数の赤のピクセル値と、ワークが緑色LEDだけで照明されている間に撮影されたモノクロ画像に対応する複数の緑のピクセル値と、ワークが青色LEDだけで照明されている間に撮影されたモノクロ画像に対応する複数の青のピクセル値が含まれている。いくつかの実装形態では、青色LED及び赤色LEDのみを使用してモノクロ画像を撮影して、ワークの合成モノクロ画像を生成する。この場合、合成モノクロ画像の画像データは、ワークが青色LEDだけで照明されている間に撮影されたモノクロ画像のピクセル値と、ワークが赤色LEDだけで照明されている間に撮影されたモノクロ画像のピクセル値との比率に基づいた値を有する複数のピクセルに対応し得る。様々な実装形態では、欠陥検出部140dpのトレーニングのための欠陥を特定するために、(例えば、合成画像上の)欠陥マスクの画像が描画されるか又は他の方法で決定され得る。
1つ以上の実装形態では、ワーク検査及び欠陥検出システム100のビジョンコンポーネント部200の光源230には、複数のカラーチャンネルに対応する複数の異なる色(即ち、波長)を有する光をそれぞれ出力する複数のLEDが含まれている。各カラーチャンネルは異なる色に対応している。様々な実装形態では、各LEDは、25ナノメートルよりも大きいが60ナノメートル未満であるの波長範囲(例えば、50ナノメートルの波長範囲など)を有し得る。例えば、光源230は、第1のカラー光を提供する第1のLEDと、第2のカラー光を提供する第2のLEDと、第3のカラー光を提供する第3のLEDを含む光源構成を含み得る。光源230は、第1のカラー光源、第2のカラー光、及び第3のカラー光を提供するように構成されているが、ワークに含まれる材料の反射率プロファイル(例えば、スペクトル反射率曲線)に基づいて、これらのサブセットを選択することができる。例えば、第1及び第2の材料の反射率プロファイルに基づいて、第1及び第2の材料を有するワークを検査するために、第1のカラー光及び第2のカラー光は利用されるように選択され、第3のカラー光は利用されるようには選択されない場合がある。第1のカラー光及び第2のカラー光に対する異なる材料の値及び/又は比率間に比較的大きな差を得ることができるように、第1のカラー光及び第2のカラー光を選択することができる。この点に関して、上記のように、検査対象のワークに含まれる特定の材料についての反射率対波長のデータに関して、異なる材料を含むワークの照明に利用される光の波長を選択して、第1のカラー光及び第2のカラー光に対する異なる材料の値及び/又は比率間に所望の大きな差を提供する2つの色(即ち、波長)を選択することが望ましい場合がある。さらに、第3のカラー光は、第1及び第2の反射率プロファイルとは異なる第3の材料の反射率プロファイルに基づいて第3の材料を有するワークを検査するために利用されるように選択され得る。例えば、第1の材料及び第2の材料を含むワークに対して第1のカラー光及び第2のカラー光を選択し、第1の材料及び第3の材料を含むワークに対して第1のカラー光及び第3のカラー光を選択することができる。
前述のように、多層ワークには複数の材料が含まれ得る。各材料は異なるスペクトル反射率プロファイルを有し得る。したがって、各材料は、材料を照明する光の波長(即ち、色)によって光を異なように反射し得る。したがって、アルミニウムが比較的高い反射率を有し、銅が比較的低い反射率を有する波長を有する光で照明されている間に、例えば、銅の層で覆われたアルミニウム基板を含む多層ワークが撮像される場合、結果として得られる画像は、(存在する場合は)アルミニウムが露出している各領域に比較的高い値のピクセルを有し得る。例えば、アルミニウムと銅が450~495ナノメートルの波長を有する青色光で照明される場合、特定のテスト評価基準に従って、アルミニウムは約80%の相対反射率を有し、銅は40%未満の相対反射率を有し得る(例えば、アルミニウムは銅の約2倍の反射率を有し得る)。以下により詳細に説明するように、様々な実装形態では、青の画像データ及び赤の画像データを含むカラー画像データが撮影される場合、青の画像データと赤の画像データの比率は、カラー画像データ自体よりも欠陥の存在により敏感な場合がある。
いくつかの実装形態では、カメラを含むカメラ構成を、マルチカラー画像を生成するための異なるカラープレーンとともに利用することができる。本明細書で定義されているように、カメラのこのような異なるカラープレーンの各々は、対応する異なるカラーチャネル画像データを有する異なるカラー画像に対応し得る。より具体的には、青のカラープレーン、緑のカラープレーン、及び赤のカラープレーンを生成するカメラを、対応するカラーチャンネル画像データを各々有する青のカラー画像、緑のカラー画像、及び赤のカラー画像を生成するものとして本明細書で定義され得る。いくつかの実装形態では、異なるカラープレーンの各々は、画像プレーンとして説明されるか又は定義され得る。本明細書では、各画像プレーンは、生成された対応するカラーチャネル画像データを有する異なるカラー画像に対応するものと見なされる。したがって、トレーニングモードワーク画像データの複数のセットの各々について、対応する第1のカラーチャンネルトレーニングモードワーク画像データ(例えば、図8Aに示す画像と同様の画像に対応する)と、対応する第2のカラーチャンネルトレーニングモードワーク画像データ(例えば、図8Cに示す画像と同様の画像に対応する)が、それぞれの第1及び第2のカメラ画像プレーンによって生成され得る。さらに、ランモードワーク画像データの複数のセットの各々について、対応する第1のカラーチャンネルランモードワーク画像データ(例えば、図8Aに示す画像と同様の画像に対応する)と、対応する第2のカラーチャンネルランモードワーク画像データ(例えば、図8Cに示す画像と同様の画像に対応する)が、それぞれの第1及び第2のカメラ画像プレーンによって生成され得る。
様々な実装形態では、赤の画像データ、緑の画像データ、及び青の画像データ(即ち、RGB画像データ)を生成するRGBカラーカメラを使用してワークを撮像することができる。例えば、RGBカメラは、ワークが青色LEDから出力される青色光で照明されている間に、ワークの第1の画像を撮影し、次にワークが赤色LEDから出力される赤色光で照明されている間に、ワークの第2の画像を撮影することができる。上記のように、使用される特定の青色LED及び赤色LEDは、青色LEDから出力される光と赤色LEDから出力される光がシステムの所望の比率及び/又は他の特性を達成するように選択することができる。このような実装形態では、光の可視波長における銅とアルミニウムの反射率スペクトルを考慮する。いくつかの実装形態では、青色LEDから出力される光と赤色LEDから出力される光は、それぞれ、RGBカメラの感度が許容する範囲で短く且つ長い。
様々な実装形態では、欠陥検出部140dpの感度は、銅とアルミニウムの反射率がほぼ同じである点(即ち、等吸収点)を中心とした特徴化波長を有する赤色光を出力する赤色LEDを選択することによって最適化することができる。また、(例えば、RGBべイヤーフィルタマシンビジョンカメラの青色フィルタで通過した波長の範囲内及び/又はシステムの実用的な限界/制限範囲内にとどまりながら)銅とアルミニウムの反射率の差を最大化する特徴化波長を有する青色光を出力する青色LEDを選択することもできる。
様々な実装形態では、2つのカラーチャンネル(例えば、青のカラーチャンネルと赤のカラーチャンネル)の間で最大又は所望の比率若しくは他の特性を生成する波長に従って、複数の異なるカラーチャンネルの各々に対応するカラー光を選択し、これにより、2つの材料(例えば、銅とアルミニウム)をランモード画像で最適に互いから区別できるようにすることで、欠陥検出部140dpが最適にトレーニングされ、また、(例えば、色比率を得るために同様の青の画像及び赤の画像が生成される)ランモードプロセスの一部として欠陥を特定するための最良の能力を備えることを可能にすることが望ましい。所望の/最適な比率を提供する2つの異なる色の波長が決定されると、異なるカラーチャンネルについて異なるカラー波長を有するシステムを実現するために、異なる構成を利用することができる。本明細書で定義されるカラーチャンネルに関して、これらは異なるカラー光源(例えば、各カラーに別個のLED)、又は異なるフィルタ、又は本明細書に説明する原理に従って異なるカラーチャンネルのために利用され得るものといった異なるカラー光を生成又はフィルタリングするために利用される得る任意の他の既知の技法を利用することによって生成され得る。
例えば、製造プロセスの一部として、画像の所望の比率に対して所望の波長を生成するLED又は他の光源を選択して含めることができる。別の例として、対応するカラーチャンネルの所望の波長を通過する異なるカラーフィルタを選択することもできる。場合によっては、このようなフィルタは、所望の波長を達成するために同調可能又は調整可能であり得る。いくつかの実装形態では、入手可能な異なるフィルタを、所望の波長を選択するために、回転させたり、システムに挿入したりすることができる。例えば、いくつかの実装形態では、各カラーフィルタは、それぞれのカラーチャンネルの波長を決定するために、40ナノメートル未満、又は20ナノメートル未満などのスペクトル帯域幅を通過させることがある。
様々な実装形態では、モノクロ画像データを生成するモノクロカメラを使用してワークを撮像することができる。例えば、ステップ・アンド・リピート手順を使用して、カメラをある位置に進め(ステップさせ)、その位置に固定し、ワークが(例えば、赤色LEDからの)赤色光で照明されている間の第1の画像と、ワークが(例えば、青色LEDからの)青色光で照明されている間の第2の画像とを含む2つの画像を撮影して、この手順を繰り返す。次に、欠陥検出部140dpは、トレーニング及び/又はランモード解析(例えば、2つの画像の画像データの比率が決定され得るなど)のために画像を利用する。モノクロ画像を利用したこのような実装形態では、べイヤーフィルタを使用した実装形態と比較して空間分解能がより優れているという利点を有し得る。また、べイヤーフィルタを使用した実装形態と比較して、より多くの光を集めることができるが、この効果は、十分べイヤーフィルタの通過波長内である2つの狭帯域LEDとともにべイヤーフィルタを使用する実装形態と比較して、比較的小さい可能性がある。べイヤーフィルタを使用しない実装形態は、カメラの感度によって制約される場合があるが、べイヤーフィルタの通過波長によっては制約されない。これは、(例えば、ワーク材料の反射率プロファイルなどに従って)所望の波長を選択する自由を有利に最大化する。ただし、このような実装形態では、2つのカラーチャンネルの2つの異なる画像を取得するために各位置での追加の時間が必要になるため、画像取得時間が遅くなる場合がある(例えば、場合によっては約2倍遅くなる可能性がある)。
画像取得時間を短縮するために、様々な実装形態では、2つの画像センサを含むモノクロカメラを使用してワークを撮像することができる。例えば、モノクロカメラは、マルチセンサプリズムベースのマルチスペクトルエリアスキャンカメラ(例えば、JAI Corporationから市販されているようなものなど)であり得る。これには、可視及び近赤外(NIR)波長帯の事前定義された構成、又は2つ若しくは3つのカスタム波長帯を使用した用途要件に合わせた構成が含まれている場合がある。様々な実装形態では、このようなモノクロカメラの利用は、フル解像度を実現し、カスタムのカラーパス波長が選択されることを可能にし得る。さらに、このようなモノクロカメラを使用すると、ワークが第1のカラー光(例えば、赤色LEDからの赤色光)で照明されている間の第1の画像と、ワークが第2のカラー光(例えば、青色LEDからの青色光)で照明されている間の第2の画像とを含む2つの画像(例えば、2つのカラーチャンネルの)が互いに時間的にすぐ近くで撮影され得る高速画像取得を可能にし得る。このような実装形態(例えば、又は異なるカメラ構成を利用する他の実装形態)では、2つの画像の取得時間間にワークがシステムに相対的に移動した場合(例えば、ワークがシステムに対し相対的にコンベヤ上を移動した場合など)、欠陥検出部140dpは、各画像のXYZ位置に基づいてピクセルデータが重なるように画像をオフセットするように構成することができる(例えば、重なるデータのない画像の領域は無視され、重なるデータは画像間の共通の視野に対応していると見なされ得る)。
様々な実装形態では、RGB画像が撮影され(例えば、赤、緑、及び青のピクセルの画像データは、それぞれの赤、緑、及び青のカラーチャンネル画像に対応していると見なされ得る)、欠陥検出部140dpは、(例えば、以下により詳細に説明するように)RGB画像の画像データを使用して、同じ解像度又は高さと幅の寸法が半分の合成画像を作成するように構成することができる。また、欠陥検出部140dpは、各RGBピクセル値をモノクロピクセル値の比率に変換するように構成することができる。さらに、欠陥検出部140dpは、(例えば、以下により詳細に説明するように)各RGBGクアッドピクセルを単一の比率のモノピクセルに変換するように構成することができる。
欠陥検出部140dpは、合成画像を生成するために様々なカーネルを適用するように構成することができる。次の表1に、4つのRGBGクアッドピクセルを含む生画像データの例を示す。より具体的には、生画像データには、ピクセルR1、G1、B1、G1を有する第1のRGBGクアッドピクセル、ピクセルR2、G2、B2、G2を有する第2のRGBGクアッドピクセル、ピクセルR3、G3、B3、G3を有する第3のRGBGクアッドピクセル、及びピクセルR4、G4、B4、G4を有する第4のRGBGクアッドピクセルが含まれている。様々な実装形態では、赤のピクセルR1、R2、R3、及びR4は赤のカラーチャンネル画像に対応していると見なされ、緑のピクセルG1、G2、G3、及びG4は緑のカラーチャンネル画像に対応していると見なされ、青のピクセルB1、B2、B3、及びB4は、青のカラーチャンネル画像に対応していると見なされ得る。
次の表2に、表1に示す生画像データに基づいて生成される4つのピクセル値を有する粗い解像度の合成比データの例を示す。より具体的には、粗い解像度の合成比データには、B1/R1に基づく値を有する第1のピクセル、B2/R2に基づく値を有する第2のピクセル、B3/R3に基づく値を有する第3のピクセル、及びB4/R4に基づく値を有する第4のピクセルが含まれている。様々な実装形態では、合成比データについて、各ピクセルの実際の値は、より詳細に説明するように、B1/R1などのそれぞれの比率を利用するさらなる計算に基づいている場合がある(例えば、0~255の範囲内の値を得るためにスケーリング係数を適用すること及び/又は他のプロセスなど)。
次の表3に、表1に示す生データに基づいて生成される4つのピクセル値を有する細かい解像度の合成比データの例を示す。より具体的には、細かい解像度の合成比データには、(B1+B2+B3+B4)/(4*R1)に基づく値を有する第1のピクセル、(B2+B4)/(R2+R1)に基づく値を有する第2のピクセル、(B3+B4)/(R1+R3)に基づく値を有する第3のピクセル、及び4*B4/(R1+R2+R3+R4)に基づく値を有する第4のピクセルが含まれている。様々な実装形態では、合成比データについて、各ピクセルの実際の値は、より詳細に説明するように、(B1+B2+B3+B4)/(4*R1)などのそれぞれの比率を利用するさらなる計算に基づいている場合がある(例えば、0~255の範囲内の値を得るためにスケーリング係数を適用すること及び/又は他のプロセスなど)。
様々な実装形態では、ワークの照明時に合成白色照明(SWI:Synthetic White Illumination)を作成して使用することができる。SWIは、所望のカラーバランスを有する白色光を作成することを目的とした赤、緑、及び青色LEDの照明値の組み合わせである。さらに、ワークの照明時にカスタマイズされたSWIを作成して使用することができる。カスタマイズされたSWIは、カラーカメラ(例えば、カラーマシンビジョンカメラ)を使用して撮像されている間にワークを照明するための赤及び青色LEDのみの照明値の組み合わせであり、赤及び青の照明の波長及び/又は比率は、本明細書に開示する原理に従って選択される。同様に、ワークの照明時に合成赤色青色照明(SRBI:Synthetic Red Blue Illumination)を作成して使用することができる。いくつかの実装形態では、ある光源構成で(例えば、光源230を利用してなど)ワークを照明するために、上記のカラーオプション及び/又は他のカラーオプションのいずれかを選択するために、ユーザはグラフィカルユーザインターフェースを利用することができる。
図7A~図7Cは、図1のワーク検査及び欠陥検出システムと同様のワーク検査及び欠陥検出システムを使用して取得され得る、欠陥を含むワークの一部分の画像の例である。図7A~図7Cに示すワークは、アルミニウム基板を有し、該アルミニウム基板の上に銅の層が形成されている。図7A~図7Cに示すワークには、説明のために丸で囲まれた欠陥702、704、706、及び708が含まれている。一例では、欠陥702、704、706、及び708の各々は、ワーク表面の対応する画像の露出したアルミニウムに対応している場合がある。より具体的には、特定の実装形態では、様々な種類の処理(例えば、ドリル加工、エッチング)が覆っている銅を誤って除去し過ぎるか、及び/又は他の問題(例えば、スクラッチなど)が発生する可能性があり、これにより、アルミニウム基板が露出する可能性があり、これは欠陥に相当すると見なされ得る。
図7A~図7Cに示す画像は、異なる照明条件下で得られ、同じ視野に対応するワークのモノクロ画像のセットである。より具体的には、図7Aは、ワークが例えば青色LEDから放射された青色光で照明されている間に、モノクロカメラによって撮影されたワークの一部分のモノクロ画像である。図7Bは、ワークが例えば緑色LEDから放射された緑色光で照明されている間に、モノクロカメラによって撮影されたワークの一部分のモノクロ画像である。図7Cは、ワークが例えば赤色LEDから放射された赤色光で照明されている間に、モノクロカメラによって撮影されたワークの一部分のモノクロ画像である。
図7A、図7B、及び図7Cの画像を比較するとわかるように、各画像内の特定の特徴は、より明るく又は暗く見える場合がある(例えば、各画像のワークを照明するために利用される光の色に応じて各画像内の銅、アルミニウムなどの反射性が異なる)。様々な実装形態では、本明細書で説明する各画像の画像データは、複数のピクセル値を含む。各ピクセル値(例えば輝度値を含む)は画像のピクセルに対応している。同じ位置のピクセル、又は異なる画像内のワーク上の同じ表面点の撮像は、対応するピクセル値が異なる画像間の対応するピクセルとして指定することができる(例えば、異なる対応するピクセル値は、各画像のワークを照明するために利用される異なるカラー光に由来し得る)。
図7Dは、(例えば、図7A~図7Cの画像の画像データに基づいて生成された)合成画像の一例である。より具体的には、図7Dは、赤、緑、及び青のカラー情報(例えば、赤のカラー情報は図7Cに示すモノクロ画像に対応し、緑のカラー情報は図7Bに示すモノクロ画像に対応し、青のカラー情報は図7Aに示すモノクロ画像に対応し得る)を含む画像データに基づく合成カラー画像である。図7Dに示す合成カラー画像などの合成カラー画像は、例えば、ワークの部分の観察及び/又は検査などに役立ち、ユーザにとって有用であり得る。
図7Eは、図7Dの合成画像に基づき得る(例えば、及び/又は図7A~図7Cの画像のうちの1つ以上などに基づいていてもよい)欠陥マスクの画像の一例である。様々な実装形態では、欠陥マスクは、欠陥を特定するために、(例えば、以下により詳細に説明するように)手書きされても、及び/又はユーザによって他の手段で提供されても、自動プロセスによって提供されてもよい。図7Eに示す画像は、ワークに欠陥が含まれているかどうかを決定するために欠陥検出部140dpによって利用されるモデルをトレーニングするために使用され得る画像データを含む複数の画像うちの1つの一例である。様々な実装形態では、モデルをトレーニングするために、ユーザは、トレーニング画像のセットに含まれる各トレーニング画像を、欠陥なし又は欠陥ありとして分類し得る。したがって、図7A~図7Dに示す画像はいずれも欠陥ありとして分類され得る(例えば、画像内のワーク表面に1つ以上の欠陥が含まれている)。
手書きプロセスの一部として、ユーザは(例えば、ユーザインターフェースのセレクタを使用して)画像内の各欠陥に対応するピクセルをマークすることができる(例えば、ペイントのようなツールを使用して元の画像に重ねられた透明レイヤーのピクセルをマークして、図7Eの例に示されているように、そのカラーピクセルが元の画像内の一致する欠陥ピクセルに対応する画像を作成する)。例えば、画像データの一部として、ユーザは、図7Eに示す画像内の欠陥702、704、706、及び708の各々に含まれているピクセルの値を所定値(例えば255)に設定して、各欠陥に対応するピクセルをマークする。次に、ユーザは、例えば、グラフィックユーザインターフェースを使用して1つ以上のセレクションをマークすることによって、欠陥検出部140dpをトレーニングするためにトレーニングモードにおいてトレーニング画像(例えば任意の欠陥マスクを含む)の各々に対応する画像データを欠陥検出部140dpに利用させる。欠陥検出部140dpが(例えば、図7Eに示す画像を含む)トレーニング画像のセットからの画像データを使用してトレーニングされた後、ユーザは欠陥検出部140dpをランモードで操作して、欠陥検出部140dpのトレーニングに使用されたトレーニングモード画像のセットと同様の条件(例えば、同じ照明条件及び/又は合成画像生成プロセスなど)下で生成されたランモード画像のセットに含まれている欠陥を検出することができる。
図7A~図7Eに示す画像は、トレーニングモード画像とランモード画像の両方の例と見なされ得る。1つの例示的な実装形態では、図7A~図7Eに示す画像のうちの一部又はすべての画像データは、欠陥検出部140dpをトレーニングするためのトレーニングモード画像データのセットの一部として含まれる場合がある(例えば、画像データのセットは、ワークの同じ視野に対応する画像からの画像データなどを含む場合がある)。また、図7A~図7Dの画像のうちの一部又はすべては、ランモード画像の例と見なされてもよく、これらは、欠陥検出部140dpによって解析されて、各画像を欠陥あり画像又は欠陥なし画像に分類するべきかどうか決定することができる。
図8A~図8Cは、図1のワーク検査及び欠陥検出システムと同様のワーク検査及び欠陥検出システムを使用して取得され得る、欠陥を含むワークの部分の画像の例である。図8A~図8Cに示すワークは、アルミニウム基板を有し、該アルミニウム基板の上に銅の層が形成されている。図8A~図8Cに示すワークには、説明のために丸で囲んだ欠陥802、804、及び806が含まれている(例えば、図7A~図7Cの例と同様に、各欠陥は露出したアルミニウムに対応している場合がある)。
図8A~図8Cに示す画像は、異なる照明条件下で得られ、同じ視野に対応するワークのモノクロ画像のセットである。より具体的には、図8Aは、ワークが例えば青色LEDから放射された青色光で照明されている間に、モノクロカメラによって撮影されたワークの一部分のモノクロ画像である。図8Bは、ワークが例えば緑色LEDから放射された緑色光で照明されている間に、モノクロカメラによって撮影されたワークの一部分のモノクロ画像である。図8Cは、ワークが例えば赤色LEDから放射された赤色光で照明されている間に、モノクロカメラによって撮影されたワークの一部分のモノクロ画像である。
一例では、図7A~図7Cに示す画像では、ワークの第1の部分に欠陥があり、図8A~図8Cに示す画像では、ワークの第2の部分に欠陥がある。別の例では、図7A~図7Cに示す画像では、第1のワークの一部分に欠陥があり、図8A~図8Cに示す画像では、第2のワークの一部分に欠陥がある。上記のように、様々な実装形態では、本明細書で説明する各画像の画像データは、複数のピクセル値(例えば、各ピクセル値は画像のピクセルに対応しており、また、同じ位置のピクセル、又は異なる画像内のワーク上の同じ表面点の撮像は、対応するピクセル値が異なる画像間の対応するピクセルとして指定することができる)を含む。
図8Dは、(例えば、図8A~図8Cの画像の画像データに基づいて生成された)合成画像の一例である)。より具体的には、図8Dは、赤のカラー情報、緑のカラー情報、及び青のカラー情報(例えば、赤のカラー情報は図8Cに示すモノクロ画像に対応し、緑のカラー情報は図8Bに示すモノクロ画像に対応し、青のカラー情報は図8Aに示すモノクロ画像に対応し得る)を含む画像データに基づく合成カラー画像である。図8Dに示すカラー画像などのカラー画像は、例えば、ワークの部分の観察及び/又は検査などに役立ち、ユーザにとって有用であり得る。
図8Eは、図8Dに示す合成画像又は図8Fに示す合成画像に基づく(例えば、及び/又は、図7Eの欠陥マスクと同様に、図8A~図8Cの画像のうちの1つ以上などに基づいていてもよい)欠陥マスクの画像の一例である。図8Eに示す画像は、ワークに欠陥が含まれているかどうかを決定するために欠陥検出部140dpによって利用されるモデルをトレーニングするために使用され得る画像データを含む多くの画像のうちの1つの一例である。モデルをトレーニングするために、ユーザは、複数のトレーニング画像のうちの各画像を、欠陥なし又は欠陥ありとして分類し得る。したがって、図8A~図8Dに示す画像はいずれも欠陥ありとして分類され得る(例えば、画像内のワーク表面に1つ以上の欠陥が含まれている)。次に、ユーザは、各欠陥あり画像内の各欠陥に対応するピクセルをマークすることができる(例えば、ペイントのようなツールを使用して元の画像に重ねられた透明レイヤーのピクセルをマークして、そのカラーピクセルが元の画像内の一致する欠陥ピクセルに対応する画像を作成する)。例えば、画像データの一部として、ユーザは、図8Eに示す画像内の欠陥802、804、及び806の各々に含まれているピクセルの値を所定値(例えば255)に設定して、各欠陥に対応するピクセルをマークすることができる。
欠陥検出部140dpが(例えば、図8Eに示す画像を含む)トレーニング画像のセットからの画像データを使用してトレーニングされた後、ユーザは欠陥検出部140dpをランモードで操作して、欠陥検出部140dpのトレーニングに使用されたトレーニングモード画像のセットと同様の条件(例えば、同じ照明条件及び/又は合成画像生成プロセスなど)下で生成されたランモード画像のセットに含まれている欠陥を検出することができる。様々な実装形態では、図7E及び図8Eのような欠陥マスク(ユーザによって手書きされていても、欠陥検出部140dpが欠陥の特性を学習するのに役立つように他の方法で生成されていてもよい)は、ランモード画像の一部として含まれない場合があることに留意されたい。これは、ランモードの間は、欠陥検出部140dpは、ユーザ又は別のプロセスが手書きの欠陥マスクを作成することなく、欠陥を検出するからである。より具体的には、様々な実装形態では、このような欠陥マスクは、ランモード画像ではなく、トレーニング及びトレーニング画像に主に使用され得る。
図8Fは、以下により詳細に説明するように、図8A及び図8Cの画像に基づいて生成された合成画像(例えばモノクロ画像)の一例である。図8Fに示す画像は、トレーニング画像(その画像データはワークピースに欠陥が含まれているかどうかを決定するために欠陥検出部140dpによって利用されるモデルをトレーニングするために使用され得る)、又は、ワークに欠陥が含まれているかどうかを決定するために欠陥検出部140dpによって解析されるランモード画像として使用できる複数の画像のうちの1つの別の例である。モデルをトレーニングするために、ユーザは、図8Fに示す画像を欠陥あり画像として分類し得る。欠陥検出部140dpが(例えば、図8Fに示す画像を含む)トレーニング画像のセットからの画像データを使用してトレーニングされた後、ユーザは欠陥検出部140dpをランモードで操作して、欠陥検出部140dpのトレーニングに使用されたトレーニングモード画像のセットと同様の条件(例えば、同じ照明条件及び/又は合成画像生成プロセスなど)下で生成されたランモード画像のセットに含まれている欠陥を検出することができる。
図8Fに示す合成画像は、複数のピクセル値を含む画像データに基づいている。上で説明したように、各ピクセル値は、スケーリング係数と、それぞれワークが青色光及び赤色光で照明される間に取得された図8A及び図8Cに示す画像の画像データに含まれる対応するピクセル値の比率とを使用して生成される。以下に、図8Fに示す合成画像(例えばモノクロ画像)に対応する画像データに含まれるピクセル値を計算又は決定する方法の例を示す。図8Fの説明を簡単にするために、露出したアルミニウムの欠陥802、804、及び806は、周囲の銅表面部分と明確に区別されているように示されている(例えば、図8Eの欠陥マスクとある程度類似している)。以下に説明する図8Fを形成するためのプロセスは、(例えば、図8A~図8Dと比較して)露出したアルミニウムの欠陥を銅表面部分と区別し易くすることを目的としており、また、対応して形成される合成画像における特徴間の結果として得られるコントラストは、通常、様々な要因(例えば、画像内のワーク表面特徴の特性など)に依存し得る。
1つの具体例では、図8Aに示す画像の第1のピクセル(例えば、青色光で照明され、銅の表面部分及び/又はワークの表面の点に対応する)は、100の値(例えば、輝度値)を有し得、図8Cに示す画像の対応する第1のピクセル(例えば、赤色光で照明され、同じ銅の表面部分及び/又はワークの表面の点に対応する)は、200の値(例えば、輝度値)を有し得る。様々な実装形態且つ特定の条件下では、100/200の比率は、青色光下の銅の反射性が赤色光下の銅の反射性の約0.5倍であることを示し得る(例えば、以下により詳細に説明するように、ピクセル値によって示される反射性と輝度はほぼ直線的に関連していると仮定する)。欠陥検出部140dpは、100を200で除算して青と赤の中間比率値(即ち、100/200=0.5)を計算するように構成することができる。欠陥検出部140dpは、スケーリング係数を使用して青と赤の中間比率をスケーリングして、0~255の範囲の値を取得するように構成することができる。この範囲は、(例えば、モノクロ画像、RGB画像、又は他の画像の)1バイトの輝度値に含まれ得る値の範囲に相当する。最大比率値が値1.5に定義され、最小比率値が値0.1に定義されているとすると、欠陥検出部140dpは、1.5から0.1を減算して比率スケール値(即ち、1.5-0.1=1.4)を計算するように構成することができる。また、欠陥検出部140dpは、最初に青と赤の中間比率値から最小比率値を減算し(即ち、0.5-0.1=0.4)、次に、その値に、最大バイト値から1を減算したものを比率スケール値で徐算した比率を乗算し(即ち、0.4*(255-1)/1.4=72)、その結果に1を加算する(72+1=73)ことによって、スケーリング係数を使用して青と赤の中間比率値をスケーリングするように構成することができる。したがって、欠陥検出部140dpは、合成画像の対応する第1のピクセルは、73の値(即ち、合成画像の画像データの一部として)を有することを決定するように構成することができる。
別の例では、図8Aに示す画像の第2のピクセル(例えば、青色光で照明され、上記例に従って欠陥に相当し得る、露出したアルミニウムの表面部分及び/又はワークの表面の点に対応する)は、190の値を有し得、図8Cに示す画像の対応する第2のピクセル(例えば、赤色光で照明され、同じ露出したアルミニウムの表面部分及び/又はワークの表面の点に対応する)は、180の値を有し得る。様々な実装形態且つ特定の条件下では、190/180の比率は、青色光下のアルミニウムの反射性が赤色光下のアルミニウムの反射性の約1.055555倍であることを示し得る(例えば、以下により詳細に説明するように、ピクセル値によって示される反射性と輝度はほぼ直線的に関連していると仮定する)。欠陥検出部140dpは、190を180で除算して青と赤の中間比率値(即ち、190/180=1.055555)を計算するように構成することができる。欠陥検出部140dpは、スケーリング係数を使用して青と赤の中間比率をスケーリングして、0~255の範囲の値を取得するように構成することができる。この範囲は、(例えば、モノクロ画像、RGB画像、又は他の画像の)1バイトの輝度値に含まれ得る値の範囲に相当する。第1のピクセルについて前述したプロセスと同様に、最大比率値が値1.5に定義され、最小比率値が値0.1に定義されているとすると、欠陥検出部140dpは、1.5から0.1を減算して比率スケール値(即ち、1.5-0.1=1.4)を計算するように構成することができる。また、欠陥検出部140dpは、最初に青と赤の中間比率値から最小比率値を減算し(即ち、1.055555-0.1=0.9555555)、次に、その値に、最大バイト値から1を減算したものを比率スケール値で徐算した比率を乗算し(即ち、0.9555555*(255-1)/1.4=173)、その結果に1を加算する(173+1=174)ことによって、スケーリング係数を使用して青と赤の中間比率値をスケーリングするように構成することができる。したがって、欠陥検出部140dpは、合成画像の対応する第2のピクセルは、174の値(即ち、合成画像の画像データの一部として)を有することを決定するように構成することができる。
様々な実装形態では、合成画像(例えば、図8Fの画像など)の画像データの一部としてピクセルの残りの値を決定するために、同様の計算を実行することができる。上記の表2及び表3の例の合成画像など、他の種類の合成画像の画像データの一部としてピクセル値を決定するためにも、同様のプロセスを利用することができる。より具体的には、表2及び表3の各比率(例えば、B1/R1、(B1+B2+B3+B4)/(4*R1)、(B2+B4)/(R2+R1)など)について、スケーリング計算(スケーリング係数及び/又は他の計算を利用する)を各比率に適用して、合成画像のそれぞれのピクセルの値を決定することができる。
上記のように、場合によっては、反射性と輝度(例えば、ピクセル値で示される)はほぼ直線的に関連している場合がある。より具体的には、様々な実装形態では、一次的には、反射性と輝度はほぼ直線的に関連している場合がある(例えば、高い相関度を有する)。二次的には(例えば、ワーク表面が光学的に粗い場合)、光の散乱がある場合があり、この場合、反射性と輝度の関係にある程度の分散があり得る。(例えば、欠陥は、銅が想定されるワーク表面に露出したアルミニウムが存在することと定義されている)上記の例について説明したような用途では、(例えば、図8Fの合成画像の生成のために)赤と青の比率ではなく青と赤の比率を使用することがより好ましい。これは、比率の除数が欠陥位置の近くでは比較的大きい数(例えば、除数について銅の200の輝度値)であることが望ましい点で好ましい場合があり、これは、カメラノイズが比率値(例えば、また、図8Fのような対応する比率の合成画像)に与える影響を最小限に抑える。例えば、青と赤の比率が利用され、赤のチャネルの銅パッドの輝度が200である(+/-1のノイズを有する)場合、青のチャネル値と赤のチャネル値の比率は(青のチャネル値/199)、(青のチャネル値/200)、又は(青のチャネル値/201)であり得、ノイズの影響は比較的小さい。逆に、赤と青の比率が利用され、銅上の青のチャネルの平均輝度が100である(+/-1のノイズを有する)場合、比率は、(赤のチャンネル値/99)又は(赤のチャンネル値/100)又は(赤のチャンネル値/101)であり得、ノイズの影響はほぼ2倍大きく、望ましくない。
図8Fのような画像(例えば、比率合成画像)の生成された合成画像データ(例えば、比率合成画像データ)は、欠陥検出部140dpが欠陥をより正確に検出することを可能にし得ることが理解されるであろう。より具体的には、上記の例に従って、銅とアルミニウムの青と赤の比率例の差(例えば、銅の青と赤の比率は0.5であり、アルミニウムの青と赤の比率は1.055555である)と、73の銅の比率ピクセル値例及び174のアルミニウムの比率ピクセル値例(例えば、大きな値の差及び大きなパーセンテージ差があることが示されている)は、欠陥検出部140dpが、(例えば、対応するトレーニング画像及び/又は対応するランモード画像において)アルミニウムと銅を区別し易くなることを支援し得る。露出したアルミニウムが欠陥に相当する実装形態では、そのようなプロセス及び合成画像は、欠陥検出部140dpが欠陥を検出し易くすることを対応して可能にし得る。
様々な実装形態では、上記の合成画像生成プロセスを使用して、欠陥検出部140dpのトレーニングに使用されるトレーニングモード画像と、欠陥検出部140dpで解析されるランモード画像の両方を生成することができる。より具体的には、第1のカラーチャンネルトレーニングモードワーク画像データ(例えば、図8Aに示す画像の画像データと同様)及び第2のカラーチャンネルトレーニングモードワーク画像データ(例えば、図8Cに示す画像の画像データと同様)を含む、トレーニングモードワーク画像データの複数のセットの各々について、欠陥検出部140dpは、第1のカラーチャンネルトレーニングモードワーク画像データの各ピクセル値について、そのピクセル値と、対応する第2のカラーチャンネルトレーニングモードワーク画像データの対応するピクセル値との比率を決定する。さらに、第1のカラーチャンネルのランモードワーク画像データ(例えば、図8Aに示す画像の画像データと同様)及び第2のカラーチャンネルのランモードワーク画像データ(例えば、図8Cに示す画像の画像データと同様)を含む、ランモードワーク画像データの複数のセットの各々について、欠陥検出部140dpは、対応する第1のカラーチャンネルのランモードワーク画像データの各ピクセル値について、そのピクセル値と、対応する第2のカラーチャンネルのランモードワーク画像データの対応するピクセル値との比率を決定する。したがって、欠陥検出部140dpは、トレーニングモードワーク画像データの各セットに、対応する第1及び第2のカラーチャンネルのトレーニングモードワーク画像データのピクセルの比率を利用して、欠陥検出部のトレーニングに利用される対応するトレーニングモード合成画像データの対応するピクセル値を決定する。また、欠陥検出部140dpは、ランモードワーク画像データの各セットに、対応する第1及び第2のカラーチャンネルのランモードワーク画像データのピクセルの比率を利用して、(例えば、トレーニングされた欠陥検出部が解析して欠陥のあるワークを含む欠陥あり画像を決定する対象である)対応するランモード合成画像データの対応するピクセル値を決定する。
様々な実装形態では、画像内の欠陥を検出するために図8A~図8Dに示すような画像の画像データを利用するよりも、図8Fに示すような画像の比率合成モノクロ画像データを利用する方が好ましい場合がある。場合によっては、青のピクセル値と赤のピクセル値の比率を用いて合成モノクロ画像の画像データを作成する(例えば、図8Fに関連して前述したように)ことは、結果として生じる合成モノクロ画像データが、欠陥検出部140dpの異なる材料を区別する能力を向上させ、欠陥検出を向上させ得る点で有益であり得る。例えば、欠陥802、804、及び806は、図8A~図8Dに示す画像の画像データにおけるよりも、図8Fに示す画像の合成モノクロ画像データにおいて検出し易い場合がある。
図8Fの例のワークは、少なくとも2つの異なる材料(例えば、銅とアルミニウム)を含むものとして説明されており、また、上記のピクセル値の比率に基づいて合成モノクロ画像の画像データを生成することは、3つ以上の材料を確実に区別することにも役立ち得る。例えば、ピクセル値の比率に基づいて合成モノクロ画像の画像データを生成することは、ワークに含まれる可能性のある黒色プラスチック成形物、又は他の表面特徴(例えば、ディボットなど)によって明るい又は暗い領域などの他の側面の検出にも役立ち得る。このような追加材料及び/又は側面に関して、第1及び第2の材料(例えば、銅やアルミニウム)を互いに区別し、これらの材料を、画像に含まれる可能性のある追加材料及び/又は特徴(例えば、黒色プラスチック成形物、ディボットなど)と区別できるようにすることも望ましい場合がある。欠陥検出部140dpが(例えば、追加材料の反射率プロファイルと、青及び赤の波長での対応する反射率などに部分的に起因して)追加材料をアルミニウム及び/又は銅と区別し易くするのに役立ち得るので、銅及びアルミニウムと同様に、追加材料にも、大きな値の差と大きなパーセンテージ差を有する比率が決定され得る。
前述のように、様々な実装形態では、ユーザは、図8A及び図8Cにそれぞれ示す画像の画像データの青と赤のピクセル値の比率に基づいて生成される、例えば、図8Fに示す合成モノクロ画像である合成モノクロ画像の観察及びマーキングに基づいて、手書きの欠陥マスクを作成することができる。また、様々な実装形態では、ユーザは、例えば、図8Dに示す合成RGB画像の赤、緑、及び青のピクセル値である、合成RGB画像の観察及びマーキングに基づいて、手書きの欠陥マスクを作成することができる。さらに、ユーザは、例えば、図8A、図8B、又は図8Cに示す画像である他の画像の観察及びマーキングに基づいて、手書きの欠陥マスクを作成することができる。
上記のように、様々な実装形態では、図8A~図8Fに示す画像は、トレーニングモード画像とランモード画像の両方の例と見なされ得る。1つの例示的な実装形態では、図8A~図8Fの画像のうちの一部又はすべての画像データは、欠陥検出部140dpをトレーニングするためのトレーニングモード画像データのセットの一部として含まれる画像データの例であり得る(例えば、画像データのセットは、同じ視野に対応する画像からの画像データなどを含む場合がある)。また、図8A~図8D及び/又は図8Fの画像は、ランモード画像の例であり得、その画像データは、欠陥検出部140dpによって解析されて、対応する画像が欠陥あり画像又は欠陥なし画像に分類するべきかどうか決定することができる。図7A~図7E及び図8A~図8Fの画像は、本明細書では、トレーニングモード画像とランモード画像の両方の可能な例として説明されているが、トレーニングモード及びランモードでは、一般に異なる画像が利用され得ることが理解されるであろう。より具体的には、トレーニングモード中に、欠陥検出部140dpをトレーニングするためのトレーニングモード画像(即ち、対応するトレーニングモード画像データを有する)が取得され、その後、ランモード中(例えばワークを生産するための製造操作中)に、異なるランモード画像(即ち、対応するランモード画像データを有する)が取得されて、欠陥検出部140dpによって解析され及び/又は解析の一部として利用されて、欠陥のあるワークを含む欠陥あり画像を決定することができる。一般に、トレーニングモード画像は、規定の撮像、照明、及びワーク条件を使用して撮影され、ランモード画像は、同様の(例えば、ほぼ同等の)規定の撮像、照明、及びワーク条件を利用して取得され得る(例えば、同じ又は同様の光源構成、レンズ構成、及び/又はカメラ構成など、同じ又は類似の機器及び/又はコンポーネントなどを利用して撮影され得る)。
様々な実装形態では、ユーザインターフェースが提供される場合がある。ユーザインターフェースでは、ユーザは、様々な画像を観察するために、及び/又は欠陥検出部140dpをトレーニング若しくは利用するために、本明細書に説明したように様々なカラー画像及び/又は比率を利用するための選択又はオプションが提供され得る。例えば、ユーザは、(例えば、図8Fに示す合成画像などの青/赤の画像データを有する)合成画像を生成及び/又は観察すための選択又はオプションを有するユーザインターフェースが提供され得る。
トレーニングモード中の欠陥検出部140dpのトレーニングのために、及び/又はランモード中の解析のために合成画像(例えば、合成モノクロ画像)の画像データのみを利用する又は画像データを主に利用することの1つの利点は、完全な青及び赤の画像データセットを利用することと比較して、含まれるデータセットが小さいという点である(例えば、より高速な処理などが実現され得る)。いくつかの実装形態では、取得/生成された画像のうちの一部又はすべての画像データ(例えば、図8A~図8Fのいずれかの画像データ)が、トレーニングのために欠陥検出部140dpに提供される場合がある。各画像には、少なくともトレーニングを向上させるための何らかの固有のデータが含まれている場合がある。
図9は、(例えば、欠陥の寸法などを決定するために)欠陥を含むワークの画像に計測操作を実行するための1つ以上のビデオツールの利用を示す図である。図示するように、欠陥904(例えば、図8E又は図8Fに示す欠陥806と同様又は同じであり得る)を含む画像902(例えば、図8E又は図8Fの画像と同様又は同じであり得る)の場合、ビデオボックスツール906には、欠陥904のエッジの位置、寸法、及び/又は他の側面を決定するために利用されるスキャンライン908(例えば、これは、ビデオポイントツールなどをさらに又は代わりに表す場合もある)が含まれている。様々な例示的な実装形態では、ビデオボックスツール906は、当該ボックスツール906が関心領域(例えば、ボックスツール906内の領域)を示す又は定義するまで、サイズ設定、配置、及び回転を行うことができ、図9に示す矢印(例えば、スキャンライン、ポイントツールなどを表す)を利用して、欠陥904のエッジを決定することができる。様々な例示的な実施形態では、ビデオボックスツール906では、通常、関心領域内の欠陥904のエッジに沿って1つ以上の従来のエッジ勾配を使用することができ、欠陥904のエッジは、様々なスキャンライン908に沿ったエッジ勾配の局所的な大きさなどに基づいて決定することができる。
様々な例示的な実装形態では、このような計測操作には、特定の形態学的フィルタリング又は他のフィルタリングを実行することが含まれていてもよい(例えば、ワークの他の特徴から欠陥のエッジを区別するために。特定の種類のフィルタリングについては米国特許第7,522,763号に記載されている。該特許は参照によりその全体が本明細書に組み込まれる)。また又は或いは、(例えば、計測操作を実行できる、図8Eのような欠陥マスクワーク画像を形成するために)閾値処理及び/又は二値画像の作成など、他の様々なプロセスを実行することもできる。図9に示すように、画像に含まれている表示領域では、スキャンライン908を有するボックスツール906を利用して、欠陥904のエッジ位置(例えば、外側エッジ又は外周)を決定する。このような決定に基づいて、ビデオツール及び/又は他の計測操作には、欠陥の寸法D2(例えば、欠陥904の長さ及び/又は他の寸法に対応している)を決定することが含まれている場合がある。様々な例示的な実装形態では、ボックスツール906、スキャンライン908、並びに/又は他のビデオツール及び/若しくは計測操作を利用して、欠陥904の他の寸法(例えば、幅、深さなど)を決定することができる。例えば、前述のように、ビデオツール部143にはZ高さ測定ツール部143zが含まれている場合があり、対応するビデオツール又は操作を利用して、欠陥904のZ高さ寸法を決定することができる(例えば、ワーク表面の他の部分又は特徴に対するスクラッチの深さを決定することなどが含まれる)。
図10は、図1のワーク検査及び欠陥検出システムと同様のワーク検査及び欠陥検出システムを操作するための方法1000のフロー図を示している。操作中、ワーク検査及び欠陥検出システムは、複数のワークを検査する。検査されるワークの少なくとも一部には、第1及び第2の材料が含まれ得る。第1及び第2の材料は、(例えば、第1のカラーチャンネルに対応する第1のカラー光について、第1の材料の反射率が、第2の材料の反射率よりも大きく、第2のカラーチャンネルに対応する第2のカラー光について、第2の材料の反射率が、第1の材料の反射率よりも大きいか又は等しいように)第1及び第2の反射率プロファイルを有している。例えば、検査されるワークの少なくとも一部には、アルミニウムと銅が含まれ得る。これらは、青のチャンネルに対応する青色光について、アルミニウムの反射率が、銅の反射率よりも大きく、赤のカラーチャンネルに対応する赤色光について、銅の反射率がアルミニウムの反射率よりも大きいか又は等しい場合があるように反射率プロファイルを有している。
方法1000は1010から始まる。1010において、ワーク検査及び欠陥検出システムはトレーニングモードワーク画像を取得して、トレーニングモードワーク画像データの複数のセットを取得する。トレーニングモードワーク画像データの各セットは、第1のカラーチャンネルに対応する第1のカラーチャンネルトレーニングモードワーク画像データと、第2のカラーチャンネルに対応する第2のカラーチャンネルトレーニングモードワーク画像データとを含む。例えば、ワーク検査及び欠陥検出システム100の光源230、対物レンズ250、及びカメラ構成260を利用して、図7A及び図7Cに示す画像と同様の画像を含むトレーニングモードワーク画像の第1のセット(例えば、カメラ構成260及びワークが互いに対して同じ位置にあるなど、各画像は同じ視野に対応している)を取得して、トレーニングモードワーク画像データの対応する第1のセットを取得することができる。同様に、ワーク検査及び欠陥検出システム100の光源230、対物レンズ250、及びカメラ構成260を利用して、図8A及び図8Cに示す画像と同様のトレーニングモードワーク画像の第2のセット(例えば、各画像は同じ視野に対応している)を取得して、トレーニングモードワーク画像データの対応する第2のセットを取得することができる。次に、方法1000は1020に進む。
1020において、1010において取得されたトレーニングモードワーク画像データの複数のセットに少なくとも部分的に基づいて、欠陥検出部がトレーニングされる。例えば、欠陥検出部140dpは、図7A、図7C、図8A、及び図8Cに示す画像と同様の画像に対応する画像データ、及び/又はこれらの画像に基づいて生成された合成画像(例えば、図8Fの画像)に対応する画像データを入力し、この画像データを使用して、欠陥検出部140dpによって実装されているモデルをトレーニングすることができる。次に、方法1000は1030に進む。
様々な実装形態では、1020において、トレーニングモードワーク画像データの複数のセットに少なくとも部分的に基づく欠陥検出部のトレーニングは、トレーニングモードワーク画像データの各セットについて、対応する第1及び第2のカラーチャンネルトレーニングモードワーク画像データを利用して、欠陥検出部のトレーニングに利用される対応するトレーニングモード合成画像データを生成することを含む。例えば、図8A及び図8Cに示す画像に対応するトレーニングモードワーク画像データのセットについて、欠陥検出部140dpは、図8Fに示す合成画像に対応するトレーニングモード合成画像データを生成することができ、これは、欠陥検出部140dpのトレーニングに利用される。
様々な実装形態では、1020において、トレーニングモードワーク画像データの各セットについて、対応する第1及び第2のカラーチャンネルトレーニングモードワーク画像データ間の複数の比率が決定される。様々な実装形態では、対応する第1及び第2のカラーチャンネルトレーニングモードワーク画像データ間の複数の比率の決定は、対応する第1のカラーチャンネルトレーニングモードワーク画像データの各ピクセル値について、そのピクセル値と、対応する第2のカラーチャンネルトレーニングモードワーク画像データの対応するピクセル値との比率を決定することを含む。様々な実装形態では、トレーニングモードワーク画像データの複数のセットに少なくとも部分的に基づく欠陥検出部のトレーニングは、トレーニングモードワーク画像データの各セットについて、対応する第1及び第2のカラーチャンネルトレーニングモードワーク画像データのピクセル値の比率を利用して、欠陥検出部のトレーニングに利用される対応するトレーニングモード合成画像データの対応するピクセル値を決定することを含む。例えば、図8A及び図8Cに示す画像に対応するトレーニングモードワーク画像データのセットについて、欠陥検出部140dpは、図8Aに示す画像に対応する青のカラーチャンネル画像データと、図8Cに示す画像に対応する赤のカラーチャンネル画像データとの間のピクセル値の比率を決定して、欠陥検出部140dpのトレーニングに利用されるトレーニングモード合成画像データ(例えば、図8Fに示す合成画像に対応する)の対応するピクセル値を決定することができる。
1030において、ワーク検査及び欠陥検出システムはランモードワーク画像を取得して、ランモードワーク画像データの複数のセットを取得する。ランモードワーク画像データの各セットは、第1のカラーチャンネルに対応する第1のカラーチャンネルランモードワーク画像データと、第2のカラーチャンネルに対応する第2のカラーチャンネルランモードワーク画像データとを含む。例えば、ワーク検査及び欠陥検出システム100の光源230、対物レンズ250、及びカメラ構成260(例えば、又は、ビジョン検査マシン12及び/又はビジョンコンポーネント部200の一部など、システムの一部と同様の操作手順/条件を有する同様のコンポーネント、又は、システムの一部と同様のビジョン検査マシン及び/又はビジョンコンポーネント部)を利用して、図7A及び図7Cに示す画像と同様の画像を含む、ランモードワーク画像の第1のセット(例えば、各画像は同じ視野に対応している)を取得して、ランモードワーク画像データの対応する第1のセットを取得することができる。同様に、ワーク検査及び欠陥検出システム100の光源230、対物レンズ250、及びカメラ構成260(例えば、又は、システムの一部と同様の操作手順/条件を有する同様のコンポーネント)を利用して、図8A及び図8Cに示す画像と同様のランモードワーク画像の第2のセット(例えば、各画像は同じ視野に対応している)を取得して、ランモードワーク画像データの対応する第2のセットを取得することができる。次に、方法1000は1040に進む。
1040において、1020においてトレーニングされた欠陥検出部を利用して、1030において取得されたランモードワーク画像データの複数のセットに少なくとも部分的に基づく解析を実行して、欠陥のあるワークを含む欠陥あり画像を決定する。例えば、欠陥検出部140dpは、図8Fに示す画像と同様の画像が、欠陥のあるワークを含む欠陥あり画像であると決定することができる。次に、方法1000が終了する。
様々な実装形態では、1040において、ランモードワーク画像データの複数のセットに少なくとも部分的に基づく解析を実行して、欠陥のあるワークを含む欠陥あり画像を決定するためのトレーニングされた欠陥検出部の利用は、ランモードワーク画像データの各セットについて、対応する第1及び第2のカラーチャンネルランモードワーク画像データを利用して、トレーニングされた欠陥検出部によって解析される対応するランモード合成画像データを生成することを含む。例えば、図8A及び図8Cに示す画像に対応するランモードワーク画像データのセットについて、欠陥検出部140dpは、図8Fに示す合成画像に対応するランモード合成画像データを生成することができ、これは、トレーニングされた後、欠陥検出部140dpによって解析される。
様々な実装形態では、1040において、ランモードワーク画像データの各セットについて、対応する第1及び第2のカラーチャンネルランモードワーク画像データ間の複数の比率が決定される。様々な実装形態では、対応する第1及び第2のカラーチャンネルランモードワーク画像データ間の複数の比率の決定は、対応する第1のカラーチャンネルランモードワーク画像データの各ピクセル値について、そのピクセル値と、対応する第2のカラーチャンネルランモードワーク画像データの対応するピクセル値との比率を決定することを含む。様々な実装形態では、ランモードワーク画像データの複数のセットに少なくとも部分的に基づく解析を実行して、欠陥のあるワークを含む欠陥あり画像を決定するためのトレーニングされた欠陥検出部の利用は、ランモードワーク画像データの各セットについて、対応する第1及び第2のカラーチャンネルランモードワーク画像データのピクセル値の比率を利用して、トレーニングされた欠陥検出部によって解析される対応するランモード合成画像データの対応するピクセル値を決定することを含む。例えば、図8A及び図8Cに示す画像に対応するランモードワーク画像データのセットについて、欠陥検出部140dpは、図8Aに示す画像に対応する青のカラーチャンネル画像データと、図8Cに示す画像に対応する赤のカラーチャンネル画像データとの間のピクセル値の比率を決定して、欠陥検出部140dpの分析対象であるランモード合成画像データ(例えば、図8Fに示す合成画像に対応する)の対応するピクセル値を決定することができる。
様々な実装形態では、方法1000には、第1及び第2の材料の反射率プロファイルに少なくとも部分的に基づいて、第1及び第2のカラー光の波長を提供するために光源構成のコンポーネントを選択することも含まれる。例えば、アルミニウムと銅の反射率プロファイルを比較することで、アルミニウムの反射率と銅の反射率との差がほぼ最大化される及び/又は第1の閾値よりも大きくなる(例えば、システムの実用的な制限範囲内にある)、第1の波長(例えば青色光の波長に対応する)を決定することができる。アルミニウムの反射率と銅の反射率との差がほぼ最小限化される及び/又は第2の閾値よりも小さくなる(例えば、システムの実用的な制限範囲内にある)、第2の波長(例えば、赤色光の波長に対応する)を決定することができる。第1のLED(例えば、青色LED)を、(例えば、第1のLEDによって出力されるスペクトルの特徴化波長として)第1の波長を有する光を出力するシステム内に設置される又は他の方法で利用されるように選択することができ、第2のLED(例えば、赤色LED)を、(例えば、第2のLEDによって出力されるスペクトルの特徴化波長として)第2の波長を有する光を出力するシステム内に設置される又は他の方法で利用されるように選択することができる。
様々な実装形態では、方法1000には、1つ以上の欠陥あり画像(例えば、欠陥のあるワークを含む)を使用して1つ以上の計測操作を実行することも含まれる。例えば、欠陥検出部140dpは、図8A及び図8Cの画像に対応するランモード画像データを利用して、図9に示す合成画像902に対応するランモード合成画像データを生成することができ、また、図9に関連して前述したように、1つ以上のビデオツールを利用して、欠陥904の寸法D2が決定される計測操作を実行することができる。
本開示の好ましい実装形態を例示且つ説明したが、本開示に基づいて、当業者には、例示且つ説明した特徴の配置や操作の順序における多数の変更が明らかであろう。本明細書に開示している原理を実装するために、様々な代替形態を使用することができる。
例えば、欠陥検出を強化するために異なるカラーチャンネルを利用することについては、図7A~図7E及び図8A~図8Fに示す画像に関連して上記で説明しているが、本開示に従って、異なるカラーチャンネルは、図3A~図3F、図4A~図4E、及び図5A~図5Dに示す画像に関連して欠陥検出を強化するために使用することもできる。図3A~図3F、図4A~図4E、及び図5B~図5Dに示す欠陥は、1つの具体例では、銅で覆われたアルミニウム基板であり得るテクスチャード加工されたプレート上のスクラッチである。各スクラッチは、銅の下にあるアルミニウム基板を露出する場合があり、これが欠陥に相当し、異なるカラー画像、特に上記で説明したように、青のピクセル値と赤のピクセル値との比率を使用して生成される合成画像に現れる。より具体的には、ワークが青色光で照明されている間に撮影された第1のモノクロ画像と、ワークが赤色光で照明されている間に撮影された第2のモノクロ画像とを含む、図3A~図3F、図4A~図4E、及び図5B~図5Dに示す各サンプル画像について2つの画像が撮影される。対応する画像データを使用して、第1のモノクロ画像及び第2のモノクロ画像に含まれている対応するピクセルの値の比率に基づいて計算された値を有するピクセルを有する対応する合成モノクロ画像の合成モノクロ画像データを生成することができる。このような合成モノクロ画像データは、欠陥検出部140dpのトレーニングモード及びランモードに対応して使用される。
本明細書で言及されている米国特許及び米国特許出願はすべて、参照によりその全体が本明細書に組み込まれる。実装形態の態様は、必要に応じて、様々な特許及び出願の概念を採用して、さらなる実装形態を提供するために修正することができる。これらの変更及び他の変更は、上記の詳細な説明を踏まえて実装形態に加えることができる。一般的に、次の特許請求の範囲では、使用される用語は、特許請求の範囲を明細書及び特許請求の範囲に開示された特定の実装形態に限定するように解釈されるべきではなく、特許請求の範囲に与えられる均等物の完全な範囲とともにあらゆる可能な実装形態を含むと解釈されるべきである。
Claims (20)
- ワーク検査及び欠陥検出システムであって、
複数のカラーチャンネルを提供するように構成された光源構成であって、各カラーチャンネルは異なるカラーに対応している、光源構成と、
前記光源構成によって照明されたワークの表面から生じる撮像光を入力し、且つ前記撮像光を撮像光路に沿って伝送するレンズ構成と、
ワーク画像を提供するために、前記撮像光路に沿って伝送された撮像光を受け取るカメラ構成と、
1つ以上のプロセッサと、
前記1つ以上のプロセッサに結合され、且つプログラム命令を保存しているメモリと、
を備え、
前記プログラム命令は、前記1つ以上のプロセッサによって実行されると、前記1つ以上のプロセッサに、少なくとも、
第1のカラーチャンネルに対応する第1のカラーチャンネルトレーニングモードワーク画像データと、第2のカラーチャンネルに対応する第2のカラーチャンネルトレーニングモードワーク画像データと、を各セットが含む、トレーニングモードワーク画像データの複数のセットを取得するためのトレーニングモードワーク画像を取得することと、
トレーニングモードワーク画像データの前記複数のセットに少なくとも部分的に基づいて欠陥検出部をトレーニングすることと、
前記第1のカラーチャンネルに対応する第1のカラーチャンネルランモードワーク画像データと、前記第2のカラーチャンネルに対応する第2のカラーチャンネルランモードワーク画像データと、を各セットが含む、ランモードワーク画像データの複数のセットを取得するためのランモードワーク画像を取得することと、
前記トレーニングされた欠陥検出部を利用して、ランモードワーク画像データの前記複数のセットに少なくとも部分的に基づく解析を実行して、欠陥のあるワークを含む欠陥あり画像を決定することと、
を行わせる、システム。 - トレーニングモードワーク画像データの前記複数のセットに少なくとも部分的に基づいて前記欠陥検出部をトレーニングすることは、トレーニングモードワーク画像データの各セットについて、前記対応する第1及び第2のカラーチャンネルトレーニングモードワーク画像データを利用して、前記欠陥検出部をトレーニングするために利用される対応するトレーニングモード合成画像データを生成することを含み、
前記トレーニングされた欠陥検出部を利用して、ランモードワーク画像データの前記複数のセットに少なくとも部分的に基づく解析を実行して、欠陥のあるワークを含む欠陥あり画像を決定することは、ランモードワーク画像データの各セットについて、前記対応する第1及び第2のカラーチャンネルランモードワーク画像データを利用して、前記トレーニングされた欠陥検出部によって解析される対応するランモード合成画像データを生成することを含む、請求項1に記載のシステム。 - トレーニングモードワーク画像データの各セットについて、前記対応する第1及び第2のカラーチャンネルトレーニングモードワーク画像データ間の複数の比率が決定され、
ランモードワーク画像データの各セットについて、前記対応する第1及び第2のカラーチャンネルランモードワーク画像データ間の複数の比率が決定される、請求項1に記載のシステム。 - 前記対応する第1及び第2のカラーチャンネルトレーニングモードワーク画像データ間の前記複数の比率を決定することは、前記対応する第1のカラーチャンネルトレーニングモードワーク画像データの各ピクセル値について、そのピクセル値と、前記対応する第2のカラーチャンネルトレーニングモードワーク画像データの対応するピクセル値との比率を決定することを含み、
前記対応する第1及び第2のカラーチャンネルランモードワーク画像データ間の前記複数の比率を決定することは、前記対応する第1のカラーチャンネルランモードワーク画像データの各ピクセル値について、そのピクセル値と、前記対応する第2のカラーチャンネルランモードワーク画像データの対応するピクセル値との比率を決定することを含む、請求項3に記載のシステム。 - トレーニングモードワーク画像データの前記複数のセットに少なくとも部分的に基づいて前記欠陥検出部をトレーニングすることは、トレーニングモードワーク画像データの各セットについて、前記対応する第1及び第2のカラーチャンネルトレーニングモードワーク画像データの前記ピクセル値の前記比率を利用して、前記欠陥検出部をトレーニングするために利用される対応するトレーニングモード合成画像データの対応するピクセル値を決定することを含み、
前記トレーニングされた欠陥検出部を利用して、ランモードワーク画像データの前記複数のセットに少なくとも部分的に基づく解析を実行して、欠陥のあるワークを含む欠陥あり画像を決定することは、ランモードワーク画像データの各セットについて、前記対応する第1及び第2のカラーチャンネルランモードワーク画像データの前記ピクセル値の前記比率を利用して、前記トレーニングされた欠陥検出部によって解析される対応するランモード合成画像データの対応するピクセル値を決定することを含む、請求項4に記載のシステム。 - 前記光源構成は、前記第1のカラーチャンネルの第1のカラー光を提供する第1の光源と、前記第2のカラーチャンネルの第2のカラー光を提供する第2の光源と、を備え、前記第1及び第2のカラー光は、光の異なる波長に対応している、請求項1に記載のシステム。
- 前記第1の光源は、第1の発光ダイオードであり、前記第2の光源は、第2の発光ダイオードである、請求項6に記載のシステム。
- 検査されるワークの少なくとも一部には、第1及び第2の材料が含まれており、画像内の露出した第2の材料の存在が、前記トレーニングされた欠陥検出部によって検出可能である欠陥に相当する、請求項1に記載のシステム。
- 検査されるワークの少なくとも一部には、第1及び第2の材料が含まれており、前記第1及び第2の材料は、前記第1のカラーチャンネルに対応する第1のカラー光について、前記第1の材料の反射率が前記第2の材料の反射率よりも大きく、前記第2のカラーチャンネルに対応する第2のカラー光について、前記第2の材料の前記反射率が前記第1の材料の前記反射率よりも大きいか又は等しいように、第1及び第2の反射率プロファイルを有している、請求項1に記載のシステム。
- 前記光源構成のコンポーネントは、前記第1及び第2の材料の前記反射率プロファイルに少なくとも部分的に基づいて、前記第1及び第2のカラー光の波長を提供するように選択される、請求項9に記載のシステム。
- 前記光源構成は、前記第1及び第2のカラー光を提供するように構成され、且つ第3のカラーチャンネルの第3のカラー光も提供するように構成されており、
前記第1及び第2の材料の前記反射率プロファイルに基づいて、前記第1及び第2の材料を有するワークを検査するために、前記第1及び第2のカラー光は利用されるように選択され、前記第3のカラー光は利用されるようには選択されない、請求項9に記載のシステム。 - 前記第3のカラー光は、前記第1及び第2の反射率プロファイルとは異なる第3の材料の反射率プロファイルに基づいて、前記第3の材料を有するワークを検査するために利用されるように選択される、請求項11に記載のシステム。
- トレーニングモードワーク画像データの各セットについて、前記対応する第1及び第2のカラーチャンネルトレーニングモードワーク画像データは、それぞれの第1及び第2のカメラ画像プレーンによって生成され、
ランモードワーク画像データの各セットについて、前記対応する第1及び第2のカラーチャンネルランモードワーク画像データは、それぞれの第1及び第2のカメラ画像プレーンによって生成される、請求項1に記載のシステム。 - 前記プログラム命令は、前記1つ以上のプロセッサによって実行されると、前記1つ以上のプロセッサに、1つ以上の欠陥あり画像を使用して1つ以上の計測操作を実行することをさらに行わせる、請求項1に記載のシステム。
- ワーク検査及び欠陥検出システムを操作する方法であって、
第1のカラーチャンネルに対応する第1のカラーチャンネルトレーニングモードワーク画像データと、第2のカラーチャンネルに対応する第2のカラーチャンネルトレーニングモードワーク画像データと、を各セットが含む、トレーニングモードワーク画像データの複数のセットを取得するためのトレーニングモードワーク画像を取得することと、
トレーニングモードワーク画像データの前記複数のセットに少なくとも部分的に基づいて欠陥検出部をトレーニングすることと、
前記第1のカラーチャンネルに対応する第1のカラーチャンネルランモードワーク画像データと、前記第2のカラーチャンネルに対応する第2のカラーチャンネルランモードワーク画像データと、を各セットが含む、ランモードワーク画像データの複数のセットを取得するためのランモードワーク画像を取得することと、
前記トレーニングされた欠陥検出部を利用して、ランモードワーク画像データの前記複数のセットに少なくとも部分的に基づく解析を実行して、欠陥のあるワークを含む欠陥あり画像を決定することと、
を含む、方法。 - トレーニングモードワーク画像データの前記複数のセットに少なくとも部分的に基づいて前記欠陥検出部をトレーニングすることは、トレーニングモードワーク画像データの各セットについて、前記対応する第1及び第2のカラーチャンネルトレーニングモードワーク画像データを利用して、前記欠陥検出部をトレーニングするために利用される対応するトレーニングモード合成画像データを生成することを含み、
前記トレーニングされた欠陥検出部を利用して、ランモードワーク画像データの前記複数のセットに少なくとも部分的に基づく解析を実行して、欠陥のあるワークを含む欠陥あり画像を決定することは、ランモードワーク画像データの各セットについて、前記対応する第1及び第2のカラーチャンネルランモードワーク画像データを利用して、前記トレーニングされた欠陥検出部によって解析される対応するランモード合成画像データを生成することを含む、請求項15に記載の方法。 - トレーニングモードワーク画像データの各セットについて、前記対応する第1及び第2のカラーチャンネルトレーニングモードワーク画像データ間の複数の比率が決定され、
ランモードワーク画像データの各セットについて、前記対応する第1及び第2のカラーチャンネルランモードワーク画像データ間の複数の比率が決定される、請求項15に記載の方法。 - 検査されるワークの少なくとも一部には、第1及び第2の材料が含まれており、前記第1及び第2の材料は、前記第1のカラーチャンネルに対応する第1のカラー光について、前記第1の材料の反射率が前記第2の材料の反射率よりも大きく、前記第2のカラーチャンネルに対応する第2のカラー光について、前記第2の材料の前記反射率が前記第1の材料の前記反射率よりも大きいか又は等しいように、第1及び第2の反射率プロファイルを有しており、
前記方法は、前記第1及び第2の材料の前記反射率プロファイルに少なくとも部分的に基づいて、前記第1及び第2のカラー光の波長を提供するように光源構成のコンポーネントを選択することをさらに含む、請求項15に記載の方法。 - 1つ以上の欠陥あり画像を使用して1つ以上の計測操作を実行することをさらに含む、請求項15に記載の方法。
- ワーク検査及び欠陥検出システムであって、
複数のカラーチャンネルを提供するように構成された光源構成であって、各カラーチャンネルは異なるカラーに対応している、光源構成と、
前記光源構成によって照明されたワークの表面から生じる撮像光を入力し、且つ前記撮像光を撮像光路に沿って伝送するレンズ構成と、
ワーク画像を提供するために、前記撮像光路に沿って伝送された撮像光を受け取るカメラ構成と、
を備え、
第1のカラーチャンネルに対応する第1のカラーチャンネルトレーニングモードワーク画像データと、第2のカラーチャンネルに対応する第2のカラーチャンネルトレーニングモードワーク画像データと、を各セットが含む、トレーニングモードワーク画像データの複数のセットを取得するためのトレーニングモードワーク画像を取得することと、
トレーニングモードワーク画像データの前記複数のセットに少なくとも部分的に基づいて欠陥検出部をトレーニングすることと、
前記第1のカラーチャンネルに対応する第1のカラーチャンネルランモードワーク画像データと、前記第2のカラーチャンネルに対応する第2のカラーチャンネルランモードワーク画像データと、を各セットが含む、ランモードワーク画像データの複数のセットを取得するためのランモードワーク画像を取得することと、
前記トレーニングされた欠陥検出部を利用して、ランモードワーク画像データの前記複数のセットに少なくとも部分的に基づく解析を実行して、欠陥のあるワークを含む欠陥あり画像を決定することと、を行うように構成されている、システム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US17/476,378 | 2021-09-15 | ||
US17/476,378 US11756186B2 (en) | 2021-09-15 | 2021-09-15 | Workpiece inspection and defect detection system utilizing color channels |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023043178A true JP2023043178A (ja) | 2023-03-28 |
Family
ID=85284781
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022145171A Pending JP2023043178A (ja) | 2021-09-15 | 2022-09-13 | カラーチャンネルを利用するワーク検査及び欠陥検出システム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11756186B2 (ja) |
JP (1) | JP2023043178A (ja) |
CN (1) | CN115809984A (ja) |
DE (1) | DE102022123355A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117250200B (zh) * | 2023-11-07 | 2024-02-02 | 山东恒业金属制品有限公司 | 一种基于机器视觉的方管生产质量检测系统 |
Family Cites Families (72)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5982920A (en) | 1997-01-08 | 1999-11-09 | Lockheed Martin Energy Research Corp. Oak Ridge National Laboratory | Automated defect spatial signature analysis for semiconductor manufacturing process |
US6885977B2 (en) | 2002-12-20 | 2005-04-26 | Applied Materials, Inc. | System to identify a wafer manufacturing problem and method therefor |
US6718526B1 (en) | 2003-02-07 | 2004-04-06 | Kla-Tencor Corporation | Spatial signature analysis |
US7359544B2 (en) | 2003-02-12 | 2008-04-15 | Kla-Tencor Technologies Corporation | Automatic supervised classifier setup tool for semiconductor defects |
US7602962B2 (en) | 2003-02-25 | 2009-10-13 | Hitachi High-Technologies Corporation | Method of classifying defects using multiple inspection machines |
WO2005006002A2 (de) * | 2003-07-12 | 2005-01-20 | Leica Microsystems Semiconductor Gmbh | Verfahren zum einlernen einer wissensbasierten datenbasis für die automatische fehlerklassifikation |
US7030351B2 (en) | 2003-11-24 | 2006-04-18 | Mitutoyo Corporation | Systems and methods for rapidly automatically focusing a machine vision inspection system |
US7324682B2 (en) | 2004-03-25 | 2008-01-29 | Mitutoyo Corporation | System and method for excluding extraneous features from inspection operations performed by a machine vision inspection system |
US7522763B2 (en) | 2004-07-30 | 2009-04-21 | Mitutoyo Corporation | Method of measuring occluded features for high precision machine vision metrology |
US7454053B2 (en) | 2004-10-29 | 2008-11-18 | Mitutoyo Corporation | System and method for automatically recovering video tools in a vision system |
US7627162B2 (en) | 2005-01-31 | 2009-12-01 | Mitutoyo Corporation | Enhanced video metrology tool |
US7676077B2 (en) | 2005-11-18 | 2010-03-09 | Kla-Tencor Technologies Corp. | Methods and systems for utilizing design data in combination with inspection data |
US8041103B2 (en) | 2005-11-18 | 2011-10-18 | Kla-Tencor Technologies Corp. | Methods and systems for determining a position of inspection data in design data space |
US7570796B2 (en) | 2005-11-18 | 2009-08-04 | Kla-Tencor Technologies Corp. | Methods and systems for utilizing design data in combination with inspection data |
JP4644613B2 (ja) | 2006-02-27 | 2011-03-02 | 株式会社日立ハイテクノロジーズ | 欠陥観察方法及びその装置 |
US7570795B2 (en) | 2006-07-18 | 2009-08-04 | Mitutoyo Corporation | Multi-region autofocus tool and mode |
JP4908995B2 (ja) | 2006-09-27 | 2012-04-04 | 株式会社日立ハイテクノロジーズ | 欠陥分類方法及びその装置並びに欠陥検査装置 |
US8126255B2 (en) | 2007-09-20 | 2012-02-28 | Kla-Tencor Corp. | Systems and methods for creating persistent data for a wafer and for using persistent data for inspection-related functions |
US8135204B1 (en) | 2007-09-21 | 2012-03-13 | Kla-Tencor Technologies Corp. | Computer-implemented methods, carrier media, and systems for creating a defect sample for use in selecting one or more parameters of an inspection recipe |
US8254661B2 (en) | 2008-06-02 | 2012-08-28 | Applied Materials Israel, Ltd. | System and method for generating spatial signatures |
US8165837B1 (en) | 2008-06-09 | 2012-04-24 | Kla-Tencor Corporation | Multi-scale classification of defects |
US8255172B2 (en) | 2008-09-24 | 2012-08-28 | Applied Materials Israel, Ltd. | Wafer defect detection system and method |
US8111938B2 (en) | 2008-12-23 | 2012-02-07 | Mitutoyo Corporation | System and method for fast approximate focus |
US8111905B2 (en) | 2009-10-29 | 2012-02-07 | Mitutoyo Corporation | Autofocus video tool and method for precise dimensional inspection |
US8581162B2 (en) | 2009-12-08 | 2013-11-12 | Mitutoyo Corporation | Weighting surface fit points based on focus peak uncertainty |
US8315453B2 (en) | 2010-07-27 | 2012-11-20 | Applied Materials Israel, Ltd. | Defect classification with optimized purity |
US8773526B2 (en) | 2010-12-17 | 2014-07-08 | Mitutoyo Corporation | Edge detection using structured illumination |
US9167215B2 (en) | 2011-11-15 | 2015-10-20 | Mitutoyo Corporation | Machine vision system editing environment for a part program in which a continuous stream of image acquisition operations are performed during a run mode |
US9013574B2 (en) | 2011-11-15 | 2015-04-21 | Mitutoyo Corporation | Machine vision system program editing environment including synchronized user interface features |
US9715723B2 (en) | 2012-04-19 | 2017-07-25 | Applied Materials Israel Ltd | Optimization of unknown defect rejection for automatic defect classification |
US10043264B2 (en) | 2012-04-19 | 2018-08-07 | Applied Materials Israel Ltd. | Integration of automatic and manual defect classification |
US9607233B2 (en) | 2012-04-20 | 2017-03-28 | Applied Materials Israel Ltd. | Classifier readiness and maintenance in automatic defect classification |
US9430824B2 (en) | 2013-05-14 | 2016-08-30 | Kla-Tencor Corporation | Machine learning method and apparatus for inspecting reticles |
US9143674B2 (en) | 2013-06-13 | 2015-09-22 | Mitutoyo Corporation | Machine vision inspection system and method for performing high-speed focus height measurement operations |
US9639083B2 (en) | 2013-12-18 | 2017-05-02 | Mitutoyo Corporation | System and method for programming workpiece feature inspection operations for a coordinate measuring machine |
US9430743B2 (en) | 2014-03-06 | 2016-08-30 | Kla-Tencor Corp. | Composite defect classifier |
US9613411B2 (en) | 2014-03-17 | 2017-04-04 | Kla-Tencor Corp. | Creating defect classifiers and nuisance filters |
US20160189055A1 (en) | 2014-12-31 | 2016-06-30 | Applied Materials Israel Ltd. | Tuning of parameters for automatic classification |
US9613255B2 (en) | 2015-03-30 | 2017-04-04 | Applied Materials Israel Ltd. | Systems, methods and computer program products for signature detection |
US9952586B2 (en) | 2015-04-09 | 2018-04-24 | Mitutoyo Corporation | Inspection program editing environment with simulation status and control continually responsive to selection operations |
US9646425B2 (en) | 2015-04-09 | 2017-05-09 | Mitutoyo Corporation | Inspection program editing environment with editing environment automatically globally responsive to editing operations in any of its portions |
US9898811B2 (en) | 2015-05-08 | 2018-02-20 | Kla-Tencor Corporation | Method and system for defect classification |
US9830694B2 (en) | 2015-08-31 | 2017-11-28 | Mitutoyo Corporation | Multi-level image focus using a tunable lens in a machine vision inspection system |
US9774765B2 (en) * | 2015-09-15 | 2017-09-26 | Mitutoyo Corporation | Chromatic aberration correction in imaging system including variable focal length lens |
US10436720B2 (en) | 2015-09-18 | 2019-10-08 | KLA-Tenfor Corp. | Adaptive automatic defect classification |
US9961253B2 (en) | 2016-05-03 | 2018-05-01 | Mitutoyo Corporation | Autofocus system for a high speed periodically modulated variable focal length lens |
US10860879B2 (en) | 2016-05-16 | 2020-12-08 | Raytheon Technologies Corporation | Deep convolutional neural networks for crack detection from image data |
US11580398B2 (en) * | 2016-10-14 | 2023-02-14 | KLA-Tenor Corp. | Diagnostic systems and methods for deep learning models configured for semiconductor applications |
US10395358B2 (en) | 2016-11-10 | 2019-08-27 | Kla-Tencor Corp. | High sensitivity repeater defect detection |
US10101572B2 (en) | 2016-11-23 | 2018-10-16 | Mitutoyo Corporation | Variable focal length lens system with multi-level extended depth of field image processing |
US11237119B2 (en) | 2017-01-10 | 2022-02-01 | Kla-Tencor Corporation | Diagnostic methods for the classifiers and the defects captured by optical tools |
US10964013B2 (en) | 2017-01-10 | 2021-03-30 | Kla-Tencor Corporation | System, method for training and applying defect classifiers in wafers having deeply stacked layers |
US10502695B2 (en) | 2017-08-16 | 2019-12-10 | The Boeing Company | Automated inspection of foreign materials, cracks and other surface anomalies |
US10699926B2 (en) * | 2017-08-30 | 2020-06-30 | Kla-Tencor Corp. | Identifying nuisances and defects of interest in defects detected on a wafer |
US10713534B2 (en) | 2017-09-01 | 2020-07-14 | Kla-Tencor Corp. | Training a learning based defect classifier |
US10341646B2 (en) | 2017-09-29 | 2019-07-02 | Mitutoyo Corporation | Variable focal length lens system with optical power monitoring |
JP7054436B2 (ja) | 2017-12-14 | 2022-04-14 | オムロン株式会社 | 検出システム、情報処理装置、評価方法及びプログラム |
CN111263879A (zh) | 2017-12-29 | 2020-06-09 | 株式会社三丰 | 具有用于被遮挡工件特征的自动透明操作的检查程序编辑环境 |
US10664966B2 (en) * | 2018-01-25 | 2020-05-26 | International Business Machines Corporation | Anomaly detection using image-based physical characterization |
US10748271B2 (en) | 2018-04-25 | 2020-08-18 | Applied Materials Israel Ltd. | Method of defect classification and system thereof |
EP3576050A1 (en) * | 2018-05-29 | 2019-12-04 | Koninklijke Philips N.V. | Deep anomaly detection |
US10520301B1 (en) | 2018-12-31 | 2019-12-31 | Mitutoyo Corporation | Method for measuring Z height values of a workpiece surface with a machine vision inspection system |
US11379967B2 (en) | 2019-01-18 | 2022-07-05 | Kla Corporation | Methods and systems for inspection of semiconductor structures with automatically generated defect features |
CN114271031B (zh) | 2019-08-30 | 2024-06-18 | 株式会社三丰 | 用于高速计量成像的快速高功率脉冲式光源系统 |
US11270110B2 (en) | 2019-09-17 | 2022-03-08 | Boston Polarimetrics, Inc. | Systems and methods for surface modeling using polarization cues |
JP7261984B2 (ja) | 2019-09-18 | 2023-04-21 | パナソニックIpマネジメント株式会社 | 打ち抜き装置 |
DE202019105838U1 (de) | 2019-10-21 | 2019-12-04 | Carl Zeiss Industrielle Messtechnik Gmbh | Anordnung mit einem Koordinatenmessgerät oder Mikroskop |
WO2021126531A1 (en) * | 2019-12-19 | 2021-06-24 | Qeexo, Co. | Automated machine vision-based defect detection |
US10880468B1 (en) | 2019-12-19 | 2020-12-29 | Mitutoyo Corporation | Metrology system with transparent workpiece surface mode |
US11119382B2 (en) | 2019-12-20 | 2021-09-14 | Mitutoyo Corporation | Tunable acoustic gradient lens system with amplitude adjustment corresponding to z-height as indicated by calibration data |
US11150200B1 (en) | 2020-06-15 | 2021-10-19 | Mitutoyo Corporation | Workpiece inspection and defect detection system indicating number of defect images for training |
CN113032919B (zh) * | 2021-03-12 | 2022-03-04 | 奥特斯科技(重庆)有限公司 | 部件承载件制造方法、处理系统、计算机程序和系统架构 |
-
2021
- 2021-09-15 US US17/476,378 patent/US11756186B2/en active Active
-
2022
- 2022-09-05 CN CN202211076909.6A patent/CN115809984A/zh active Pending
- 2022-09-13 JP JP2022145171A patent/JP2023043178A/ja active Pending
- 2022-09-13 DE DE102022123355.3A patent/DE102022123355A1/de active Pending
Also Published As
Publication number | Publication date |
---|---|
CN115809984A (zh) | 2023-03-17 |
US20230082268A1 (en) | 2023-03-16 |
DE102022123355A1 (de) | 2023-03-16 |
US11756186B2 (en) | 2023-09-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10876975B2 (en) | System and method for inspecting a wafer | |
JP6945245B2 (ja) | 外観検査装置 | |
EP2387796B1 (en) | System and method for inspecting a wafer | |
KR101338576B1 (ko) | 화상 해석에 의해서 결함 검사를 실시하는 결함검사장치 | |
TWI558996B (zh) | 捕捉從多重方向反射之光線的系統與方法 | |
JP7664767B2 (ja) | ワークピース画像の監視を含むワークピース検査及び欠陥検出システム | |
KR20190101857A (ko) | 외관 검사 장치, 및 외관 검사 장치의 조명 조건 설정 방법 | |
JP2014102207A (ja) | 外観検査装置、および外観検査方法 | |
JP2017122614A (ja) | 画像生成方法及び検査装置 | |
JP2023043178A (ja) | カラーチャンネルを利用するワーク検査及び欠陥検出システム | |
HK40006797A (en) | System and method for inspecting a wafer | |
HK40006797B (en) | System and method for inspecting a wafer | |
HK1243176B (en) | System and method for capturing illumination reflected in multiple directions | |
HK1189941A (en) | System and method for inspecting a wafer | |
HK1146332A (en) | System and method for inspecting a wafer | |
HK1189941B (en) | System and method for inspecting a wafer | |
HK1146332B (en) | System and method for inspecting a wafer | |
HK1149367B (en) | System and method for inspecting a wafer | |
HK1201982B (en) | System and method for inspecting a wafer | |
SG185301A1 (en) | System and method for inspecting a wafer | |
HK1201982A1 (en) | System and method for inspecting a wafer | |
HK1149632B (en) | System and method for inspecting a wafer |