[go: up one dir, main page]

JP6745173B2 - 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器 - Google Patents

画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器 Download PDF

Info

Publication number
JP6745173B2
JP6745173B2 JP2016174092A JP2016174092A JP6745173B2 JP 6745173 B2 JP6745173 B2 JP 6745173B2 JP 2016174092 A JP2016174092 A JP 2016174092A JP 2016174092 A JP2016174092 A JP 2016174092A JP 6745173 B2 JP6745173 B2 JP 6745173B2
Authority
JP
Japan
Prior art keywords
image
inspection
parameter
unit
processed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016174092A
Other languages
English (en)
Other versions
JP2018040649A (ja
Inventor
健太 今古賀
健太 今古賀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Keyence Corp
Original Assignee
Keyence Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Keyence Corp filed Critical Keyence Corp
Priority to JP2016174092A priority Critical patent/JP6745173B2/ja
Priority to US15/663,170 priority patent/US10169857B2/en
Publication of JP2018040649A publication Critical patent/JP2018040649A/ja
Application granted granted Critical
Publication of JP6745173B2 publication Critical patent/JP6745173B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/0008Industrial image inspection checking presence/absence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/0006Industrial image inspection using a design-rule based approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/586Depth or shape recovery from multiple images from multiple light sources, e.g. photometric stereo
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04847Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/08Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、フォトメトリックステレオ法や傷検査等の画像検査を用いた画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体又は記録した機器に関する。
ワーク(検査対象物や被写体)の表面の傷の有無や外観形状の適否、印字された文字の読み取りといった検査を行う画像検査装置が利用されている。このような画像検査装置は、ワークに対して必要な照明を照射して画像を撮像し、得られた画像データに対してエッジ検出等の画像処理を行い、その結果に基づいて良否判定等の判断を行っていた。特に、立体形状を三次元的に捉えた高さ画像を取得可能な画像検査装置は、従来の二次元の光学画像に基づいた画像検査では困難な立体的な外観検査を安定的に行うことができ、有用性が高い。
しかしながら、このような画像検査装置では、ワークの種類によっては照明の種類や当てる方向によって見え易さが変わるケースがあった。このため、このようなワークに対して適切な検査を行うためには、ユーザ側に十分な知識や経験が求められる。いいかえると、操作に詳しくないユーザには敷居が高い。
また、従来の画像検査装置では、照明条件や設置条件等が少し変わっただけでも誤検出が起きやすくなる等、画像検査を安定的に行うことが容易でないという問題もあった。さらに、ワークの外観検査においては、傷、縁等のワークの形状に関する情報、言い換えると立体的な情報と、印字、シミ等の平面的な情報の両方が検査の対象になるところ、お互いが関連したり干渉し合う結果、上手く検出できないことがあるといった問題もあった。
このような問題を解決するための技術として、フォトメトリックステレオ法を用いて高さ等の三次元形状の情報を取得する画像検査装置が知られている(例えば、特許文献1を参照。)。ここでフォトメトリックステレオ法(photometric stereo)とは、照度差ステレオ法とも呼ばれ、異なる複数の照明方向から照明された画像を撮像して、その陰影情報からワークの法線ベクトルを求める三次元計測の手法の一つである。このようなフォトメトリックステレオ法を用いた画像検査装置は、法線ベクトル(傾き画像に相当)からX軸やY軸の成分を輝度値に置き換えた画像や、反射率画像(アルベド画像に相当)を作成して、画像検査に応用している。ここでは、フォトメトリックステレオ法で三次元計測を精度よく行うために、主として、照明機器の設置方法や照明光の照射方法に関する検討がなされている。
特開2007−206797号公報
このような画像処理装置を用いて、検査対象物に対する様々な検査、例えば傷の検査、ワークの有無の判定、OCRなどが行われている。このような検査を行う場合には、検査用途に応じて画像処理のパラメータを適切に設定する必要がある。パラメータを設定するためには、設定画面で各パラメータに数値を入力したり、チェックボックスやドロップダウンメニューで選択肢から選択させることが一般的に行われている。
しかしながら、従来の画像処理装置のパラメータ設定方法では、ユーザが自らパラメータを変化させて生成される画像を逐一確認しながら、検査に適したパラメータ設定になっているか否かを確認する必要があるため、各パラメータの画像処理における意味合いをユーザが把握する必要があり難易度が高いという問題があった。
一方で、パラメータの値を変化させて画像を解析し、最適なパラメータ設定を自動的に導出する画像処理装置も知られている(例えば、特許文献1参照)。しかしながら、どのような処理後画像が得られれば画像処理パラメータが最適に設定されているか否かは、ユーザの求める検査用途に依存するため、このような装置を用いて画像処理パラメータを自動設定できるケースは、特定の用途や装置に限られてしまう。
本発明は、このような背景に鑑みてなされたものであり、その目的の一は、画像処理を用いた検査に際してパラメータの設定作業を容易に行えるようにした画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体又は記録した機器を提供することにある。
課題を解決するための手段及び発明の効果
本発明の第1の形態に係る画像検査装置によれば、検査対象物の外観検査を行うための画像検査装置であって、検査対象物を示す検査対象画像の入力を受け付けるための画像入力部と、検査対象物の異なる種類の外観検査の対象を示す候補として予め複数用意された検査種別の中から、所望の検査種別の選択を受け付けるための検査種別選択部と、前記検査対象画像に対して行う画像処理に関する複数の画像処理パラメータの内、に設定するためのパラメータ設定部と、該第一パラメータとは異なる第二パラメータの値を複数の候補値に変化させて、該変化させた各第二パラメータ候補値毎に前記検査対象画像に対してそれぞれ画像処理を行うことにより、複数の処理後画像を生成するための画像生成部と、前記画像生成部で生成される前記複数の処理後画像を並べて表示させた第二パラメータ候補一覧画像群を表示させるための表示部と、前記表示部に表示された第二パラメータ候補一覧画像群に含まれる複数の処理後画像の内、いずれかの処理後画像の選択を受け付けるための画像選択部と、前記画像選択部で選択された処理後画像に対応する第二パラメータ候補値を、前記パラメータ設定部で第二パラメータとして設定し、前記画像生成部で生成された処理後画像に対して、所定の画像処理を行い、その処理結果に基づいて外観検査の判定結果を出力するための判定部とを備えることができる。上記構成により、複数の異なる第二パラメータ候補値に基づいて得られた処理後画像を一覧表示させることで、ユーザは一覧表示された処理後画像の内から、所望の画像を選択することで、選択された処理後画像に設定された第二パラメータ候補値を用いた画像処理を行うことが可能となり、第二パラメータの詳細な意味を理解していなくとも、得られる処理後画像に基づいて所望の画像処理が得られるような第二パラメータへの設定を容易に行える利点が得られる。
また、第2の形態に係る画像検査装置によれば、検査対象物の外観検査を行うための画像検査装置であって、検査対象物を示す検査対象画像の入力を受け付けるための画像入力部と、検査対象物の外観検査の候補として予め複数用意された検査種別の中から、所望の検査種別の選択を受け付けるための検査種別選択部と、前記検査対象画像に対して行う画像処理に関する複数の画像処理パラメータの内、第一パラメータの値を、前記検査種別選択部で選択された検査種別に応じて自動的に設定するためのパラメータ設定部と、該第一パラメータとは異なる第二パラメータの値を複数の候補値に変化させて、該変化させた各第二パラメータ候補値毎に前記検査対象画像に対してそれぞれ画像処理を行うことにより、複数の処理後画像を生成するための画像生成部と、前記画像生成部で生成される前記複数の処理後画像を並べて表示させた第二パラメータ候補一覧画像群を表示させるための表示部と、前記表示部に表示された第二パラメータ候補一覧画像群に含まれる複数の処理後画像の内、いずれかの処理後画像の選択を受け付けるための画像選択部と、前記画像選択部で選択された処理後画像に対応する第二パラメータ候補値を、前記パラメータ設定部で第二パラメータとして設定し、前記画像生成部で生成された処理後画像に対して、所定の画像処理を行い、その処理結果に基づいて外観検査の判定結果を出力するための判定部と、検査対象物を互いに異なる照明方向から照明するための三以上の照明部と、前記三以上の照明部を一ずつ所定の点灯順に点灯させるための照明制御部と、前記照明制御部により各照明部を点灯させる照明タイミングにて、検査対象物を一定の方向から撮像することにより、複数の部分照明画像を撮像するための撮像部とを備え、前記撮像部により撮像された複数の部分照明画像が前記画像入力部に入力され、該複数の部分照明画像に基づいて、フォトメトリックステレオ法の原理に基づいて、形状に応じた画素値を有する形状画像が生成され、前記第一パラメータは、前記形状画像内における基準面の階調値を規定するパラメータであり、前記第二パラメータを、前記形状画像内における検出対象物のサイズを規定するパラメータとできる。
さらに、第3の形態に係る画像検査装置によれば、上記構成に加えて、前記基準面を、前記形状画像内に凹凸が存在しない面に基づいて特定された面とすることができる。
さらにまた、第4の形態に係る画像検査装置によれば、上記構成に加えて、前記検査種別選択部で選択される検査種別が、検査対象物の傷の検査、検査対象物の有無の判定、検査対象物上に表示された文字列の光学式読み取り、検査対象物に含まれる汚れの有無、検査対象物に含まれる打痕の有無、検査対象物に含まれる線傷の有無の少なくとも何れかを含むことができる。
さらにまた、第5の形態に係る画像検査装置によれば、上記構成に加えて、前記第一パラメータを、前記検査種別選択部で検査種別として検査対象物の傷の検査が選択されたことに応じて、前記基準面の階調値を中央値に設定することができる。
さらにまた、第6の形態に係る画像検査装置によれば、上記構成に加えて、前記第一パラメータを、前記検査種別選択部で検査種別として検査対象物の有無検査が選択されたことに応じて、前記基準面の階調値をゼロに設定することができる。
さらにまた、第7の形態に係る画像検査装置によれば、上記構成に加えて、前記第一パラメータを、前記検査種別選択部で検査種別として検査対象物上に凸状に表示された文字列の光学式読み取りが選択されたことに応じて、前記基準面の階調値を最小値に設定することができる。
さらにまた、第8の形態に係る画像検査装置によれば、上記構成に加えて、前記第一パラメータを、前記検査種別選択部で検査種別として検査対象物上に凹状に表示された文字列の光学式読み取りが選択されたことに応じて、前記基準面の階調値を最大値に設定することができる。
さらにまた、第9の形態に係る画像検査装置によれば、上記構成に加えて、前記検査種別選択部が、検査種別として、形状に関する情報を有する形状画像に対する検査対象物の傷の検査を選択可能とできる。
さらにまた、第10の形態に係る画像検査装置によれば、上記構成に加えて、前記第一パラメータを、検出対象物の傷の検出方向とできる。
さらにまた、第11の形態に係る画像検査装置によれば、上記いずれかの構成に加えて、前記第二パラメータを、検査対象物の特徴サイズ又はセグメントサイズとできる。
あるいは、第12の形態に係る画像検査装置によれば、上記いずれかの構成に加えて、前記第二パラメータを、検出対象物の傷のサイズとすることができる。
さらにまた、第13の形態に係る画像検査装置によれば、検査対象物の外観検査を行うための画像検査装置であって、検査対象物を示す検査対象画像の入力を受け付けるための画像入力部と、検査対象物の外観検査の候補として予め複数用意された検査種別の中から、所望の検査種別の選択を受け付けるための検査種別選択部と、前記検査対象画像に対して行う画像処理に関する複数の画像処理パラメータの内、第一パラメータの値を、前記検査種別選択部で選択された検査種別に応じて自動的に設定するためのパラメータ設定部と、該第一パラメータとは異なる第二パラメータの値を複数の候補値に変化させて、該変化させた各第二パラメータ候補値毎に前記検査対象画像に対してそれぞれ画像処理を行うことにより、複数の処理後画像を生成するための画像生成部と、前記画像生成部で生成される前記複数の処理後画像を並べて表示させた第二パラメータ候補一覧画像群を表示させるための表示部と、前記表示部に表示された第二パラメータ候補一覧画像群に含まれる複数の処理後画像の内、いずれかの処理後画像の選択を受け付けるための画像選択部と、前記画像選択部で選択された処理後画像に対応する第二パラメータ候補値を、前記パラメータ設定部で第二パラメータとして設定し、前記画像生成部で生成された処理後画像に対して、所定の画像処理を行い、その処理結果に基づいて外観検査の判定結果を出力するための判定部とを備え、前記画像生成部を、前記複数の処理後画像の生成に際して、前記第二パラメータを変化させる幅又はピッチを変化させるよう構成することができる。
さらにまた、第14の形態に係る画像検査装置によれば、検査対象物の外観検査を行うための画像検査装置であって、検査対象物を示す検査対象画像の入力を受け付けるための画像入力部と、検査対象物の外観検査の候補として予め複数用意された検査種別の中から、所望の検査種別の選択を受け付けるための検査種別選択部と、前記検査対象画像に対して行う画像処理に関する複数の画像処理パラメータの内、第一パラメータの値を、前記検査種別選択部で選択された検査種別に応じて自動的に設定するためのパラメータ設定部と、該第一パラメータとは異なる第二パラメータの値を複数の候補値に変化させて、該変化させた各第二パラメータ候補値毎に前記検査対象画像に対してそれぞれ画像処理を行うことにより、複数の処理後画像を生成するための画像生成部と、前記画像生成部で生成される前記複数の処理後画像を並べて表示させた第二パラメータ候補一覧画像群を表示させるための表示部と、前記表示部に表示された第二パラメータ候補一覧画像群に含まれる複数の処理後画像の内、いずれかの処理後画像の選択を受け付けるための画像選択部と、前記画像選択部で選択された処理後画像に対応する第二パラメータ候補値を、前記パラメータ設定部で第二パラメータとして設定し、前記画像生成部で生成された処理後画像に対して、所定の画像処理を行い、その処理結果に基づいて外観検査の判定結果を出力するための判定部とを備え、前記画像生成部は、前記第二パラメータとして、前記検査対象像のコントラストを変化させる際、変化幅を、前記検査種別選択部で選択された検査種別に基づいて変化させるよう構成できる。
さらにまた、第15の形態に係る画像検査装置によれば、上記いずれかの構成に加えて、前記パラメータ設定部で、前記画像選択部で選択された処理後画像に対応する第二パラメータの値を設定した状態で、該設定された第二パラメータの値を前記表示部上に表示可能に構成できる。
さらにまた、第16の形態に係る画像検査装置によれば、上記構成に加えて、さらに、前記パラメータ設定部で設定された第二パラメータの値を、手動で調整するためのパラメータ微調整部を備えることができる。
さらにまた、第17の形態に係る画像検査装置によれば、上記いずれかの構成に加えて、前記パラメータ微調整部で調整された第二パラメータに基づいて、前記表示部で一覧表示される第二パラメータ候補一覧画像群を更新して再度表示させることができる。
さらにまた、第18の形態に係る画像検査装置によれば、検査対象物の外観検査を行うための画像検査装置であって、検査対象物を示す検査対象画像の入力を受け付けるための画像入力部と、検査対象物の外観検査の候補として予め複数用意された検査種別の中から、所望の検査種別の選択を受け付けるための検査種別選択部と、前記検査対象画像に対して行う画像処理に関する複数の画像処理パラメータの内、第一パラメータの値を、前記検査種別選択部で選択された検査種別に応じて自動的に設定するためのパラメータ設定部と、該第一パラメータとは異なる第二パラメータの値を複数の候補値に変化させて、該変化させた各第二パラメータ候補値毎に前記検査対象画像に対してそれぞれ画像処理を行うことにより、複数の処理後画像を生成するための画像生成部と、前記画像生成部で生成される前記複数の処理後画像を並べて表示させた第二パラメータ候補一覧画像群を表示させるための表示部と、前記表示部に表示された第二パラメータ候補一覧画像群に含まれる複数の処理後画像の内、いずれかの処理後画像の選択を受け付けるための画像選択部と、前記画像選択部で選択された処理後画像に対応する第二パラメータ候補値を、前記パラメータ設定部で第二パラメータとして設定し、前記画像生成部で生成された処理後画像に対して、所定の画像処理を行い、その処理結果に基づいて外観検査の判定結果を出力するための判定部と、前記表示部の第二パラメータ候補一覧画像群で表示される各処理後画像に対して所定の評価値を演算して、該評価値に基づいて選択すべき画像を推奨する画像推奨部を備えることができる。
さらにまた、第19の形態に係る画像検査装置によれば、上記構成に加えて、前記画像推奨部が演算した評価値を、前記表示部上に表示可能とできる。
さらにまた、第20の形態に係る画像検査装置によれば、上記いずれかの構成に加えて、前記パラメータ設定部が、第一パラメータ及び第二パラメータを設定した上で、該第一パラメータ及び第二パラメータと異なる画像処理のパラメータである第三パラメータを変化させた複数の処理後画像を生成させ、第三パラメータ候補一覧画像群として前記表示部上に一覧表示させるよう構成できる。
さらにまた、第21の形態に係る画像検査装置によれば、上記構成に加えて、前記第三パラメータを検出対象の強調処理のパラメータとできる。
さらにまた、第22の形態に係る画像検査方法によれば、検査対象物の外観検査を行う画像検査方法であって、検査対象物の異なる種類の外観検査の対象を示す候補として予め複数用意された検査種別の中から、所望の検査種別の選択を受け付ける工程と、検査対象物を示す検査対象画像の入力を受け、該検査対象画像に対して行う画像処理に関する複数のパラメータの内、第一パラメータの値を、前選択された検査種別に応じて自動的に設定する一方、該第一パラメータとは異なる第二パラメータの値を変化させて、該変化させた各第二パラメータ値毎に前記検査対象画像に対して画像処理を行うことにより、複数の処理後画像を生成して、該生成された複数の処理後画像を、表示部上に一覧表示させて、該表示された複数の処理後画像の内、いずれかの処理後画像の選択を受け付ける工程と、前選択された処理後画像に対応する第二パラメータの値を、パラメータ設定部が設定する工程とを含むことができる。これにより、ユーザは一覧表示された複数の異なる第二パラメータに基づいて得られた処理後画像の内から、所望の画像を選択することで、選択された処理後画像に設定された第二パラメータの値を用いた画像処理を行うことが可能となり、第二パラメータの詳細な意味を理解していなくとも、得られる処理後画像に基づいて所望の画像処理が得られるような第二パラメータへの設定を容易に行える利点が得られる。
さらにまた、第23の形態に係る画像検査プログラムによれば、検査対象物の外観検査を行う画像検査プログラムであって、検査対象物の異なる種類の外観検査の対象を示す候補として予め複数用意された検査種別の中から、所望の検査種別の選択を受け付ける機能と、検査対象物を示す検査対象画像の入力を受け付ける機能と、該検査対象画像に対して行う画像処理に関する複数のパラメータの内、第一パラメータの値を、前記所望の検査種別の選択を受け付ける機能で選択された検査種別に応じて自動的に設定する機能と、該第一パラメータとは異なる第二パラメータの値を変化させて、該変化させた各第二パラメータ値毎に前記検査対象画像に対して画像処理を行うことにより、複数の処理後画像を生成する機能と、該生成された複数の処理後画像を、表示部上に一覧表示させて、該表示された複数の処理後画像の内、いずれかの処理後画像の選択を受け付ける機能と、前記いずれかの処理後画像の選択を受け付ける機能で選択された処理後画像に対応する第二パラメータの値を、パラメータ設定部が設定する機能とをコンピュータに実現させることができる。上記構成により、ユーザは一覧表示された複数の異なる第二パラメータに基づいて得られた処理後画像の内から、所望の画像を選択することで、選択された処理後画像に設定された第二パラメータの値を用いた画像処理を行うことが可能となり、第二パラメータの詳細な意味を理解していなくとも、得られる処理後画像に基づいて所望の画像処理が得られるような第二パラメータへの設定を容易に行える利点が得られる。
また本発明の第27の形態に係るコンピュータで読み取り可能な記録媒体または記憶した機器は、上記画像検査プログラムを格納するものである。記録媒体には、CD−ROM、CD−R、CD−RWやフレキシブルディスク、磁気テープ、MO、DVD−ROM、DVD−RAM、DVD−R、DVD+R、DVD−RW、DVD+RW、Blu−ray(商品名)、HD DVD(AOD)等の磁気ディスク、光ディスク、光磁気ディスク、半導体メモリその他のプログラムを格納可能な媒体が含まれる。またプログラムには、上記記録媒体に格納されて配布されるものの他、インターネット等のネットワーク回線を通じてダウンロードによって配布される形態のものも含まれる。さらに記憶した機器には、上記プログラムがソフトウェアやファームウェア等の形態で実行可能な状態に実装された汎用もしくは専用機器を含む。さらにまたプログラムに含まれる各処理や機能は、コンピュータで実行可能なプログラムソフトウエアにより実行してもよいし、各部の処理を所定のゲートアレイ(FPGA、ASIC)等のハードウエア、又はプログラムソフトウエアとハードウェアの一部の要素を実現する部分的ハードウエアモジュールとが混在する形式で実現してもよい。
本発明の一実施形態に係る画像検査装置を示すブロック図である。 図1の画像検査装置の画像処理部を示すブロック図である。 画像処理部の機能ブロック図である。 フォトメトリックステレオ方式で画像検査を行う際のパラメータ設定を手動で行うためのユーザインターフェース画面を示すイメージ図である。 傷検査を行う際のパラメータ設定を手動で行うためのユーザインターフェース画面を示すイメージ図である。 画像検査方法の手順を示すフローチャートである。 検査用途を選択する画面を示すイメージ図である。 画像選択画面の一例を示すイメージ図である。 画像選択画面の他の例を示すイメージ図である。 フォトメトリックステレオ方式で画像検査を行う画像検査装置を示すブロック図である。 図10の画像検査装置の撮像部と照明部の位置関係を示す模式平面図である。 図10の画像検査装置の撮像部と照明部の位置関係を示す模式側面図である。 図13Aは、フォトメトリックステレオ法の基本原理を説明するための、拡散反射面Sと照明との位置関係を示す図、図13BはL1から光を照射した状態を示す図、図13CはL2から光を照射した状態を示す図、図13Dは照射方向と反射光の明るさの組み合わせから、表面の向きを推定することを説明するための図である。 図14Aは輪郭抽出画像の生成方法を説明するための、垂直方向に微分した傾き画像の一例を示す図、図14Bは水平方向に微分した傾き画像の一例を示す図、図14Cは輪郭抽出画像の一例を示す図である。 図15Aは、δ2s/δx2及びδ2s/δy2の計算方法を説明するための、表面情報を示す図、図15Bは傾き画像を示す図、図15Cは前進差分を示す図、図15Dは中央差分を示す図である。 図16Aはテクスチャ抽出画像の生成方法を説明するための、ソース画像を示す図、図16Bは平均法による処理を行った画像を示す図、図16Cはハレーション除去法による処理を行った画像を示す図である。 傷検査を行う画像検査装置の画像処理部を示す機能ブロック図である。
以下、本発明の実施の形態を図面に基づいて説明する。ただし、以下に示す実施の形態は、本発明の技術思想を具体化するための例示であって、本発明は以下のものに特定されない。また、本明細書は特許請求の範囲に示される部材を、実施の形態の部材に特定するものでは決してない。特に実施の形態に記載されている構成部品の寸法、材質、形状、その相対的配置等は特に特定的な記載がない限りは、本発明の範囲をそれのみに限定する趣旨ではなく、単なる説明例にすぎない。なお、各図面が示す部材の大きさや位置関係等は、説明を明確にするため誇張していることがある。さらに以下の説明において、同一の名称、符号については同一もしくは同質の部材を示しており、詳細説明を適宜省略する。さらに、本発明を構成する各要素は、複数の要素を同一の部材で構成して一の部材で複数の要素を兼用する態様としてもよいし、逆に一の部材の機能を複数の部材で分担して実現することもできる。
図1に本発明の一実施形態に係る画像検査装置100を示す。画像検査装置100は、検査対象のワークWKを撮像して、撮像された画像に対して所定の画像処理を行い、所定の検査、例えばワークWK表面の傷の有無や形状判定、表面に形成された文字列のOCR等を行う。この図に示す画像検査装置100は、撮像部11と、照明部20と、画像処理部41と、操作部61と、表示部51と、外部制御機器81とを備える。
照明部20は、照明光をワークWKに与えるための部材である。撮像部11は、ワークWKの画像を撮像するための撮像素子を備える。撮像部11が撮像する画像は、画像処理の方式に応じて選択され、傷検査やOCRなど所望の検査に用いる光学画像の他、フォトメトリックステレオ法による画像生成に必要な部分照明画像や、三角測距での高さ画像生成に必要な縞投影画像などの撮影を行う。これら撮像部11と照明部20の動作は、画像処理部41によって制御される。画像処理部41は、照明制御部26を備えており、照明部20による照明光を投光するタイミングと、撮像部11による撮像のタイミングを同期させる。
画像処理部41は、撮像部11で撮像された画像に対して、所定の画像処理を行い、さらに画像検査を行った結果を出力するための部材である。この画像処理部41は、専用のハードウェアで構成する他、汎用の機器にソフトウェアをインストールしたもの、例えば汎用もしくは専用のコンピュータに画像検査プログラムをインストールした構成としてもよい。以下の例では、グラフィックボードなどのハードウェアを画像検査処理に特化させた専用のコンピュータに、画像検査プログラムをインストールした構成を例にして説明する。
表示部51は、撮像部11で撮像された画像を表示させたり、ユーザが各種設定を確認し、必要に応じて設定作業を行うための部材である。例えばLCDやCRT、有機ELパネル等のディスプレイが利用できる。
操作部61は、各種の設定作業や入力を行うための部材であり、キーボードやマウス、コンソール等が利用できる。またタッチパネルを利用することで、表示部51と操作部61を兼用することもできる。
外部制御機器81は、画像処理部41の結果を受けて所定の出力や処理を実行するための部材であり、例えばシーケンサのような外部の被制御機器、あるいはこのような外部被制御機器をコントロールするPLC(Programable Logic Controller)やコンピュータ等が該当する。
図2に、画像処理部41のハードウェア構成の一例を示す。この図に示す画像処理部41は、撮像部11、照明部20、表示部51と接続されている。表示部51は、画像生成部で生成される複数の処理後画像を並べて表示させたパラメータ候補一覧画像群(詳細は後述)を表示させるための部材である。
画像処理部41は、画像入力部28と、照明制御部26と、制御回路43と、RAM44と、入力手段46と、出力手段47と、通信手段49と、記憶手段45と、補助記憶手段48を備える。画像入力部28は、撮像部11と接続されて、撮像部11で撮像された画像の入力を受け付けるための部材である。照明制御部26は、照明部20と接続されて、照明方向や点灯タイミング等を制御するための部材である。なお図2の例では、撮像部11と照明部20を別体に構成して、各々を個別のケーブルで画像処理部41と接続しているが、撮像部と照明部を一体的に構成して、単一のケーブルで画像処理部41と接続してもよい。
制御回路43は、各部材を制御するための部材であり、CPUやMPU等で構成される。記憶手段45は、各種のデータを保持するための記憶素子であり、ハードディスクや半導体メモリが利用できる。RAM44は、記憶手段45から必要なデータを読み込んで一時的な作業を行うメモリ領域である。入力手段46は、外部からデータを入力するための部材であり、例えばI/Oポートやシリアル、パラレルポート等、規格化されたあるいは専用の入力インターフェースが利用できる。また、マウスやキーボードなどのユーザが入力するための部材とししてもよい。出力手段47は、各種の演算結果や画像検査の判定結果、あるいは撮像された画像や設定などのデータを外部に出力するための出力インターフェースであり、入力手段46と兼用してもよい。通信手段49は、画像処理部41と接続された外部機器、例えば外部制御機器81との間でデータ通信を行うための部材である。
補助記憶手段48は、可搬メディアを挿抜可能なインターフェースであり、例えばコンピュータプログラムや設定データを格納した記録媒体(USB(商品名)メモリやSDカード(商品名)等)を補助記憶手段48に接続して、このようなデータを記憶手段45にコピーする。あるいは、設定データや主力データ等を記録媒体に書き出すこともできる。なお、コンピュータプログラムや設定データは、必ずしも記録媒体から記憶手段45にコピーする必要はなく、記録媒体に保持されたまま補助記憶手段48を介して読み出して実行等してもよい。
なお図2の例では、照明部20で照明したワークWKの画像を撮像部11で撮像し、画像入力部28から入力する構成を示しているが、この構成に限らず、別の部材で取得された画像や、既に撮像され、保存された画像を転送されて画像処理部に入力する態様としてもよい。
(画像処理部41)
次に画像処理部41の機能ブロック図を図3に示す。この図に示す画像処理部41は、検査種別選択部31と、パラメータ設定部32と、パラメータ微調整部33と、画像生成部34と、画像推奨部35と、画像選択部36と、判定部37とを備える。
検査種別選択部31は、ワークの外観検査の候補として予め複数用意された検査種別の中から、所望の検査種別の選択を受け付けるための部材である。なお検査種別とは、目的となる外観検査の対象であり、後述する通り、ワークの傷の検査、ワークの有無の判定、ワーク上に表示された文字列の光学式読み取り(OCR)、ワークに含まれるしみ等の汚れの有無、ワークに含まれる打痕の有無、ワークに含まれる線傷の有無等が挙げられる。特に本明細書においては、外観検査の検査種別にOCRも含む。OCRで読取対象となる文字列には、数字や記号も含む。
パラメータ設定部32は、検査対象画像に対して行う画像処理に関する複数の画像処理パラメータの値を、検査種別選択部31で選択された検査種別に応じて自動的に設定するための部材である。この例では、共通のパラメータ設定部32でもって、画像処理パラメータとして第一パラメータ、第二パラメータ、第三パラメータ等の複数のパラメータを設定するよう構成しているが、本発明はこの構成に限らず、各画像処理パラメータを設定する部材を個別に設けてもよいことはいうまでもない。
パラメータ微調整部33は、パラメータ設定部32で設定された画像処理パラメータの値を、手動で調整するための部材である。これにより、画像選択部36で選択することにより自動設定された画像処理パラメータの値を、ユーザがさらに設定可能とすることで、画像処理パラメータの意味等を理解していなくとも、比較的容易により望ましい画像への微調整を行える利点が得られる。このパラメータ微調整部33で調整された画像処理パラメータに基づいて、表示部51で一覧表示されるパラメータ候補一覧画像群を更新して再度表示させることができる。これにより、微調整された第二パラメータでもって再度、候補画像群を更新して表示させることができ、ユーザは自ら行った微調整後の画像の変化を視覚的に確認でき、所望の画像をさらに選択し易くなる。
画像選択部36は、表示部51に表示された第二パラメータ候補一覧画像群に含まれる複数の処理後画像の内、いずれかの処理後画像の選択を受け付けるための部材である。
画像推奨部35は、表示部51のパラメータ候補一覧画像群で表示される各処理後画像に対して、所定の評価値を演算し、この評価値に基づいて選択すべき画像を推奨するための部材である。画像の解析結果に基づき、選択すべき画像を推奨することで、ユーザの選択に際してガイダンスを与えることができる。このような評価値としては、例えば画像のコントラスト値などが挙げられる。また画像推奨部35が演算した評価値を、表示部51上に表示可能とすることもできる。このように画像の選択を補助するスコアを表示させることで、ユーザの選択に資することができる。
(判定部37)
判定部37は、処理結果に基づいて、ワークWK表面の傷の有無を判定する。すなわち、画像選択部36で選択された処理後画像に対応するパラメータ候補値を、パラメータ設定部32でパラメータとして設定し、画像生成部34で生成された処理後画像に対して、画像検査を行う。判定部37の機能は、画像処理部により実現される。判定部37は、得られたテクスチャ抽出画像又は高さ画像に基づいて、傷の有無や大きさの検査を行う。例えば所定の閾値以上の場合に傷であると判定する。また、判定部37は必要に応じて輪郭抽出画像に基づいてOCRを行い、認識された文字列を出力することもできる。
(画像生成部34)
画像生成部34は、異なる画像処理の値を複数の候補値に変化させて、変化させた各パラメータ候補値毎に検査対象画像に対してそれぞれ画像処理を行うことにより、複数の処理後画像を生成するための部材である。得られた複数の処理後画像を候補として、この中からユーザに所望の処理後画像を選択させることで、画像処理パラメータを決定して、決定された画像処理パラメータに基づき、画像検査の対象となる画像が生成される。画像検査の対象となる画像は、例えば形状に関する情報を有する形状画像が利用できる。
画像生成部34は、種々のアルゴリズムで画像を生成する。例えば、フォトメトリックステレオ法で生成した画像、例えば形状に応じた画素値を有する輪郭抽出画像等の形状画像とテクスチャ抽出画像(アルベド)を利用して、画像検査処理、例えばOCR等を行わせる。あるいは、光学画像に対して、傷検査を行うこともできる。ここでは、まず実施形態1として、フォトメトリックステレオ法に従い形状画像を生成して画像検査を行う例について説明する。
(実施形態1:フォトメトリックステレオ法に基づく画像検査)
フォトメトリックステレオ法は、ワークの立体形状を得るために、ワークの未知の面に対して、様々な方向から光を当てて、ワークの反射光の違いを利用してワークの形を推定しようとするものである。ワークの反射光は、照明の入射角度、照明の距離等を反映し、入射角度が90°になるところが最も明るくなり、照明との距離が離れれば離れるほど暗くなる性質がある。この性質を利用して、明るさと位置が既知である照明を複数個用意して、照明の点灯を順に切り替えていき、それぞれの点において、各方向の照明から照射されたときの反射光の明るさの違いを利用して表面がどちらを向いているかを推定する。具体的には、傾き画像のX成分Y成分を、X成分の輝度に置き換えたX成分画像やY成分の輝度に置き換えたY成分画像を作成して検査に応用するものである。
フォトメトリックステレオ法で画像検査を行う画像検査装置を示すブロック図を、図10に示す。この図に示す画像検査装置100Bは、ワークWKを一定の方向から撮像する撮像部11と、ワークWKを異なる三以上の照明方向から照明するための照明部20と、各照明部を一ずつ点灯順に点灯させるための照明制御部26と、照明制御部26と撮像部11と接続されてこれらを制御する画像処理部41Bを備えている。画像処理部41Bと撮像部11とは、撮像ケーブル12を介して、また画像処理部41Bと照明制御部26とは照明ケーブル27を介して、それぞれ接続されている。また画像処理部41Bは、表示部51と操作部61を接続している。さらに画像処理部41Bには、必要に応じて外部機器であるPLC(Programable Logic Controller)やコンピュータ等と接続することもできる。
撮像部11は、照明制御部26により各照明部を点灯させる照明タイミングにて、ワークWKを一定の方向から撮像することにより、照明方向の異なる複数の部分照明画像を撮像する。
画像処理部41Bは、撮像部11によって撮像された複数の部分照明画像同士で、対応関係にある画素毎の画素値を用いて、フォトメトリックステレオ法に基づき、照明方向を仮定した仮定照明方向におけるワークWKの表面のソース画像を、複数の異なる仮定照明方向毎に生成するソース画像生成手段として機能する。ソース画像生成手段は、具体的には、法線ベクトル算出部41aと、輪郭画像生成部41bと、テクスチャ抽出画像生成部41cと、検査領域特定部41dと、画像処理手段演算部41eと、判定部37と、照明方向推定部41gの機能を実現する。法線ベクトル算出部41aは、撮像部11によって撮像された複数の部分照明画像同士で、対応関係にある画素毎の画素値を用いて、各画素のワークWKの表面に対する法線ベクトルnを算出する。輪郭画像生成部41bは、算出された各画素の法線ベクトルnに対して、X方向及びY方向に微分処理を施し、ワークWK表面の傾きの輪郭を示す輪郭画像を生成する。テクスチャ抽出画像生成部41cは、照明部による照明する回数個ある、算出された各画素の法線ベクトルnから、各画素のアルベドを算出し、アルベドから、ワークWKの表面の傾きの影響を除去した模様を示すテクスチャ抽出画像を生成する。検査領域特定部41dは、生成された輪郭画像に対して検査対象となる検査領域の位置を特定する。画像処理手段演算部41eは、特定された検査領域内の傷を検出するための画像処理を施す。判定部37は、処理結果に基づいて、ワークWK表面の傷の有無を判定する。照明方向推定部41gは、ソース画像生成手段によって生成された複数の画像を基にする複数のソース画像SP(後述)から、照明部における実際の照明方向と最も整合する照明方向を検出する。
撮像部11と照明部20とは、別個の部材として配置可能としている。これによって自由度の高いレイアウトが可能となる。一例として、図11の模式平面図及び図12の模式側面図に示すように、ステージSG上に載置されたワークWKの真上に、光軸を鉛直方向に向けた撮像部11を配置する。また撮像部11の周囲の東西南北の方位に、4個の照明部、すなわち第一照明部21、第二照明部22、第三照明部23、第四照明部24を、同一の高さに配置する。配置された撮像部11と各照明部の位置関係は、画像検査装置100B側で記録される。照明制御部26により所定の照明タイミングで各照明部を順次点灯させて、共通の撮像部11でもって、ワークWKを一定の方向から撮像して部分照明画像を取得する。
なお、撮像部11と照明部とは、別個の部材とする構成に限らず、これらをアーム等を介して一体に構成してもよい。この場合は、予め撮像部と照明部の位置関係が固定されているため、光軸を一致させるといった調整作業を不要とできる。ただし、自由度が失われる。
(撮像部11)
撮像部11は、例えば、CCD(Charge Coupled Device)カメラやCMOS(Complementary Metal Oxide Semiconductor)イメージャ等の撮像素子が利用できる。撮像素子で被写体の画像を光電変換して画像信号を出力し、出力された画像信号を信号処理ブロックが輝度信号と色差信号とに変換して、撮像ケーブル12で接続された画像処理部41Bに出力する。
(照明部)
照明部20を構成する照明要素である第一照明部21、第二照明部22、第三照明部23、第四照明部24は、ワークWKに対して、異なる照明方向から照明光を照射できるよう、図11の模式平面図に示すようにワークWKの周囲をとり囲むように配置される。また図12の模式側面図に示すように、各照明部は、光軸を斜め下方に向けて設置される。各照明部で照明されたワークWKを、共通の撮像部で撮像できるよう、撮像部の光軸と、照明部を設けた平面(仮想回転面)の中心軸とを一致させることが好ましい。また、照明部同士の間隔(中心軸からの方位角)は、360°を照明部の数で均等に分割して配置することが好ましい。さらに天頂角は、すべての照明部で一定とすることが好ましい。さらにまた、各照明部とワークWKとの距離も、一定とすること好ましい。このようにすることで、フォトメトリックステレオ処理の演算に必要な方位角や天頂角情報の入力を簡易化できる。また後述の通り、全灯画像MCを撮像する際はすべての照明部を点灯した全灯状態で撮像するため、上記状態にすれば、全照明の強さを均等に弱めるだけで、ムラの少ない照明状態で撮像できる。
図10の例では、照明部20を構成する第一照明部21、第二照明部22、第三照明部23、第四照明部24の4つで構成される。各照明部は、白熱球や蛍光灯等が利用できる。特に、発光ダイオード(Light Emitting Diode:LED)等の半導体発光素子は、消費電力が少なく長寿命で応答性にも優れ、好ましい。各照明部は、図10に示すように、それぞれに対応するケーブル71、72、73、74を介して、照明分岐ユニット75に接続され、さらにケーブル76を介して、照明制御部26に接続されている。照明分岐ユニットは、各照明部を照明制御部26と接続するためのインターフェースである。具体的には、照明部から延長された照明ケーブル27を接続するための照明接続コネクタを設けている。各照明部の照明メーブルを、照明分岐ユニットの照明接続コネクタに正しく接続することで、照明制御部26でもって正しい順序で正しい方向から照明部を点灯でき、さらに各照明タイミングと同期させて撮像部を動作させることで、部分照明画像を撮像できる。なお、照明分岐ユニットは、図10の例では照明制御部26と別体に設けられているが、この構成に限られず、例えば照明制御部に照明分岐ユニットを組み込んでもよい。
照明部21、22、23、24の照明色は、ワークWKのタイプに応じて変更することもできる。例えば、細かい傷を検査したい場合には、波長が短い青色が好適である。また、着色されたワークを検査するときは、照明の色が邪魔にならないように、白色の照明を使うのが好ましい。さらに、ワークに油が付いているときには、その影響を防ぐために、赤色の照明を採用するとよい。
また照明部は、上述した図10〜図12の例では4個としているが、異なる三以上の照明方向からワークWKを照明できるよう、少なくとも3個あれば足りる。照明部の数を増やすと、より多くの照明方向から部分照明画像が得られるため、画像検査の精度を向上できる。例えば、北東、北西、南東、南西の方位を加えて全部で8個配置してもよい。また、照明部同士の間隔(中心軸からの方位角)は、360°を照明部の数で均等に分割して配置することが好ましい。さらに天頂角は、すべての照明部で一定とすることが好ましい。なお、処理すべき画像の枚数が増えることで処理量が増え、処理時間が遅くなる。本実施の形態においては、処理速度と演算処理のし易さ、精度等のバランスを考慮して、上述の通り照明部の数を4個としている。
また、照明部を、環状に配置された複数個の発光素子で構成することもできる。例えば環状に配置された発光素子を4つの照明ブロックに分割したリング照明としてもよい。この場合、照明制御部が、第一照明ブロックを第一照明部、第二照明ブロックを第二照明部、第三照明ブロックを第三照明部、第四照明ブロックを第四照明部として、それぞれの照明ブロックの照明タイミングを異ならせることで、4つの別個の照明部が存在するのと同様に制御できる。
なお、本実施例においては各照明部による部分照明光が撮像範囲内で並行光であるとの前提で処理している。部分照明光が平行光である限り、照明光の方向(例えば東西南北のいずれか)だけが問題となり、その詳細な位置、例えば照明部の光源の座標位置等は考慮する必要はない。
(照明制御部26)
照明制御部26は、三以上の照明部を一ずつ点灯順に点灯させると共に、各照明部を点灯させる照明タイミングにて、ワークWKを撮像部11で一定の方向から撮像するよう、各照明部と撮像部11を同期させるように制御する。いいかえると照明制御部26は、照明部による照明タイミングと、撮像部11による撮像タイミングとを同期させる。また照明制御部26が各照明部を点灯させる点灯順は、ワークの周囲を取り囲むように配置された照明部を、時計回り、反時計回りといった順で点灯させる他、離散的な順序、例えば一つおきや交差するような順としてもよい。どのような順であっても、各照明タイミングで撮像された部分照明画像が、どの照明方向の照明にて撮像されたものであるかを把握できれば、フォトメトリックステレオ法に基づいて法線ベクトル画像を構築できる。
なお図10の実施形態1では、照明制御部26は、画像処理部41Bと別体として設けられているが、この構成に限られない。例えば、画像処理部と一体化されていてもよいし、あるいは照明部に内蔵されていてもよい。
(画像処理部41B)
画像処理部41Bは、撮像部11及び照明部21、22、23、24の動作を制御するとともに、撮像部11から入力された4つの部分照明画像の画像信号Q1〜Q4を用いて、各画素における面の法線ベクトル画像(以下、「傾き画像」という。)を生成し、傾き画像のX方向及びY方向の第2次の傾き画像(以下、「輪郭抽出画像」という。)や、アルベド(albedo、反射率を意味する。)画像(以下、「テクスチャ抽出画像」ともいう。)を作成し、それらの画像を用いて、傷の検査や文字の検出等を行うための処理をする。なお、傷の検査や文字の検出等を行うための処理は、画像処理部41Bで処理する構成に限らず、例えばPLC81等の外部部機器側で実行させることもできる。
(フォトメトリックステレオ法の基本原理)
ここで、図13A〜図13Dを参照しながら、フォトメトリックステレオ法の基本原理について説明する。まず、図13Aに示すように、未知の拡散反射面S、及び明るさと位置が既知の複数の照明(この例では第一照明部L1と第二照明部L2の2個)がある場合を想定する。例えば図13Bに示すように、第一照明部L1から光を照射すると、拡散反射面Sの表面における拡散反射光は、(1)照明の明るさ(既知)、(2)照明の向き(既知)、(3)ワークWKの表面の向き(法線ベクトルn)、(4)ワークWKの表面のアルベドのパラメータのみで決定される。
そこで、図13B及び図13Cに示すように、複数の異なる照明方向、具体的には三以上の照明方向から照明光が投光されたときの拡散反射光からなる部分照明画像を、それぞれ撮像部で撮影する。そして図13Dに示すように、3以上の部分照明画像を入力画像とすることで、未知である(3)ワークWK表面の向き(法線ベクトルn)、(4)ワークWK表面のアルベドを、以下の関係式に基づいて算出できる。
I=ρLSn
上式において、
ρ:アルベド
L:照明の明るさ
S:照明方向行列
n:表面の法線ベクトル
I:画像の階調値
上式から、照明部が3つの場合、次式で表すことができる。
また照明部が4つの場合は、次式で表すことができる。
(法線ベクトルn)
上式より、法線ベクトルnは、次式で表現できる。
n=1/ρL・S+
上式において、
+:正方行列であれば、普通の逆行列
+:縦長行列の逆行列は以下の式で表現されるムーアペンローズの擬似逆行列
+=(StS)-1t
で求める。
(アルベド)
さらにアルベドρは、次式で表現できる。
ρ=|I|/|LSn|
(2−2.輪郭抽出画像)
次に、フォトメトリックステレオ法で傾き画像を生成すると共に、得られた傾き画像から傷や輪郭等のワークの表面情報を得る方法について説明する。
(傾き画像)
まず、傾き画像の生成方法について説明する。ワークの曲面をSとするとき、傾き画像は次式で与えられる。
x方向:δs/δx、y方向:δs/δy
ここで傾き画像の例として、ワークとして一円玉を用いた例を図14A、図14Bに示す。図14Aは、法線方向のY座標成分画像、図14Bは法線方向のX座標成分画像である。ここでは、4つの照明方向から撮像した部分照明画像を用いて、Y方向(図において垂直方向)に微分することで図14Aに示す傾き画像を、またX方向(図において水平方向)に微分することで図14Bに示す傾き画像を図14Bを、それぞれ得ている。
ここで、傷や輪郭等はワーク表面の傾きが変化する箇所なので、傾き画像をそれぞれの方向に微分する。第2次の傾き画像は、次式で与えられる。
x方向:δ2s/δx2、y方向:δ2s/δy2
(輪郭抽出画像)
以上から、x方向、y方向の傾き画像の部分δ2s/δx2、δ2s/δy2を合成して、ワークの輪郭や傷情報を含む輪郭抽出画像を生成する。輪郭抽出画像Eは、次式で与えられる。
E=δ2s/δx2+δ2s/δy2
上式において、Eは輪郭情報、Sはワークの曲面をそれぞれ示している。図14A、図14Bから演算された輪郭抽出画像の例を、図14Cに示す。輪郭抽出画像は、高い部分が白色、低い部分が黒色となるように、画像の濃淡(輝度)で高さを表現している。
(微分合成方法)
以上のような輪郭抽出画像の生成に際して行われる微分合成方法としては、(1)単純加算、(2)多重解像度、(3)二乗和等が挙げられる。
(1:単純加算)
ここで(1)の単純加算は、各画素におけるX,Y傾き画像の微分の和である。
(2:多重解像度)
また(2)の多重解像度は、傾き画像を異なる縮小率で縮小した縮小傾き画像を複数作成し、それぞれの縮小傾き画像において、(1)の方法で輪郭の強さを求める。縮小率は、例えば1/1、1/2、1/4、1/8、1/16、1/32等とする。このようにして得られた複数の縮小輪郭画像に対して、所定の重み付けを行い、拡大処理を行い、拡大された縮小輪郭画像をすべて足し合わせたものを輪郭抽出画像とする。ここで重み付けを変更すれば、任意の太さの傷や輪郭等を抽出することが可能となる。
(3:二乗和)
さらに(3)の二乗和では、X,Y傾き画像の微分の二乗の和を輪郭の強さとする輪郭抽出画像を作成する。なお、本実施形態においては、(2)の多重解像度を採用している。
如何なる大きさを傷として判断するかは、ユーザの用途によって異なる。例えば、10ピクセルに跨がったものを傷として判断する場合もあれば、100ピクセルに跨がっている凹んだものを傷として判断する場合もある。また、急峻なエッジだけをエッジとして抽出したい場合もある。
傾き画像の画素数が大きいと処理上は大きな傷となるため、大きな傷を抽出したければ、傾き画像を縮小してから(1)の方法で輪郭の強さを求めてから拡大する。一方、小さな傷を抽出したければ、重み付けをせずに(1)の方法で微分合成をすればよい。
すなわち、重み付けは、合成するときに予め決められた重みのセットを用意しておき、縮小傾き画像を上記の全種類作成し、大きい傷を見たければ、より縮小した画像からの結果を重くし、小さい傷を見たければ、縮小を弱めた画像からの結果を重くする。
ここで、拡大された縮小輪郭画像をすべて足し合わせたものを輪郭抽出画像とするのは、傷は、通常、複数の周波数に跨がって検出されるため、例えば一つの周波数に限定すると、その限定した周波数で検出される傷だけを抽出してしまい、全体的にぼやけてしまうからである。
(特徴サイズ)
前述した重みのセットは、例えば、特徴サイズというパラメータを設けて、この値が1のときに一番細かい傷が検出でき、この値を上げていくと大きな傷が検出できるようにする。特徴サイズは各検査種別に応じた検出対象の傷や文字のサイズを設定するためのパラメータである。特徴サイズを大きくしていき、より大きな傷が検出し易い状態になったとき、ワーク表面の凸凹がより明瞭となる。そこで、特徴サイズに所定の閾値を設けて、その閾値以上になった場合を凹凸モードとして、輪郭抽出画像の特徴サイズによって、輪郭抽出モードと使い分けるようにしてもよい。
次に、δ2s/δx2及びδ2s/δy2の計算方法について説明する。この計算方法としては、(1)前進差分や、(2)中央差分等が挙げられる。
(1:前進差分)
前進差分においては、水平方向の傾き画像Gh、垂直方向の傾き画像Gvを入力として、輪郭画像Eの座標(x、y)における画素G(x,y)を、次式で計算する。
E(x,y)=Gh(x−1,y)−Gh(x,y)+Gv(x,y−1)−Gv(x,y)
ここで、輪郭画像に表れる傷の情報を、模式的なプロファイルとして図15A〜図15Dに示す。これらの図において、図15Aはワークの表面情報、図15Bは傾き画像、図15Cは前身差分による輪郭画像、図15Dは中央差分による輪郭画像のプロファイルを、それぞれ示している。(1)の前進差分では、図15A、図15Cに示すように、1ピクセル単位の傷が明瞭に見えるというメリットがある。一方で、元画像に対して0.5ピクセルずれた画像が得られてしまうというデメリットもある。
(2:中央差分)
次に中央差分によるδ2s/δx2及びδ2s/δy2の計算方法について説明する。水平方向の傾き画像Gh、垂直方向の傾き画像Gvを入力として、輪郭画像Eの座標(x、y)における画素G(x,y)を、次式で計算する。
E(x,y)=Gh(x−1,y)−Gh(x+1,y)+Gv(x,y−1)−Gv(x,y+1)
(2)の中央差分は、図15A、図15Dに示すように、座標が元画像とずれないメリットがある一方で、結果が少しぼけてしまうというデメリットもある。
(2−3.テクスチャ抽出画像)
次に、フォトメトリックステレオ法で得られた傾き画像から、ワークの表面状態を除去して、文字の検出等に好適なテクスチャ抽出画像を得る方法について説明する。まず、テクスチャ情報は、ワークの表面のアルベドρから計算する。アルベドρは、次式で与えられる。
ρ=|I|/|LSn|
上式において、
ρ:アルベド
L:照明の明るさ
S:照明方向行列
n:表面の法線ベクトル
I:画像の階調値
なお上記ρ=|I|/|LSn|の式でテクスチャ抽出画像(アルベド)を1枚求めることができるが、この式で得られた法線ベクトルとN枚の入力画像(部分照明画像)から、テクスチャ抽出画像(アルベド)をN枚求めてこれを合成し、一枚のテクスチャ抽出画像(アルベド)を求めることもできる。具体的な合成の方法としては平均法、ハレーション除去法等が挙げられる。
図16A〜図16Cに、テクスチャ抽出画像の例を示す。これらの図において、図16Aは入力画像である4枚のテクスチャ抽出画像を示しており、図16Bはこれらに対して平均法を適用したテクスチャ抽出画像、図16Cはハレーション除去法を適用したテクスチャ抽出画像を、それぞれ示している。
(1:平均法)
平均法は、画素毎にN個のρの平均値をその画素における画素値とするものである。図16Bに示すように、全体の陰影は消えているものの、入力画像中でハレーションが生じている部分は、フォトメトリックステレオ法で消せないため、ハレーションの影響が残った画像となる。すなわち図16Aの4つの入力画像(部分照明画像)の内、白くなっている箇所がハレーションを起こしている箇所であり、平均法によって平均化すると、図16Bに示すように、ある程度凸凹が取れて、読み易くはなるものの、若干下地に凸凹が残ってしまう。
(2:ハレーション除去法)
撮像部であるカメラのダイナミックレンジの制限やワーク表面の反射性の多様性のため、上記ρ=|I|/|LSn|の式そのものがその適応範囲を超えているため、ρに誤差が含まれる。この誤差を補正するために、ハレーション除去法が利用できる。
ハレーションが起きる箇所は照明の位置で決まるため、基本的には、4つの部分照明画像において、同じ箇所ではハレーションは起きないと考えられる。厳密にいえば、2つの方向の間ではハレーションが2カ所に跨がってしまうことがあるものの、基本的には、2つの照明でしか同じ箇所ではハレーションは生じないと言える。
ハレーション除去法では、N枚の部分照明画像から計算した照明方向別テクスチャ抽出画像を合成する際に、各画素において一番画素値が高い部分照明画像、又は一番目〜N番目に画素値が高い部分照明画像はハレーションが多いと考えて、それらを除去した上で合成を行う。
具体的には、本実施形態において4つの照明方向別テクスチャ抽出画像の各画素について、3番目に大きい画素値(例えばアルベドの値や輝度)を採用して合成すると、図16Cの画像のようになり、ハレーションの影響を除去することができる。なお4番目に大きい画素値を採用すると、影の影響が生じるため若干暗い画像となる。逆に2番目に大きい画素値を採用すると、ハレーションの影響が若干残ってしまう。
また照明部が8方向の場合は、5番目以降の画素値にはハレーションの影響は発生しないと仮定して、上から5番目の画素値を採用している。実際、発明者が行った試験によれば、5番目の画素値を採用すると、画像が最も良くなることが確認された。また6番目以降の画素値を採用すると影の影響が出てくることも判明した。
なお、合成の方法や平均の取り方は、これらに限定されず、種々の方法が利用できる。例えば、上述したハレーション除去法と平均法とを組み合わせて、アルベドの値をソートして、上から特定の順番の値を採用し、例えば3番目と4番目とを平均化してもよい。
次に、設定の詳細について説明する。上述の通り、輪郭抽出画像を作成する際に、特徴サイズを設定できる。輪郭抽出画像は、特徴サイズを所定値以上にすることで、OCRに適した画像とできる。
(3−2.ゲイン)
輪郭抽出画像やテクスチャ抽出画像を作成する際には、これらの画像の生成過程において元の画像の画素値に対してゲインを乗算することができる。
輪郭抽出画像を作成するときのゲインは、計算処理で算出された画素値を、0〜255の濃淡に分散させるときの定数をいう。例えば、傷や輪郭等が浅すぎて、傷や輪郭等を把握し難いときにこのゲインの値を上げることによって、画素値の濃淡変化が大きくなるため、傷や輪郭等が把握し易くなる。
また、計算処理で算出された画素値が、0〜255の範囲を超えていれば、その間に収まるようにし、小さければ、0〜255の範囲に広げるように調節することで、傷や輪郭等が把握し易くなる。
上述したハレーション除去法では、アルベドの値をソートして上から例えば3番目を採用するため、生成した画像の明るさが予測できない。このため、正反射が取り除かれた結果、予測に反して暗くなることがある。そこで、明るさを調節するために、テクスチャ抽出画像を作成する際には所定のゲインを、画素値に掛ける。
なお、傾き画像の計算に際しても、画素値が0〜255の範囲に収まるように、同様にゲインで調節することもできる。
(3−3.ノイズ除去フィルタ)
傾き画像の作成等に際しては、複数枚の画像を使って連立方程式で計算するところ、実際には差分的な計算をすることになる。この際、撮像部で撮像した画像データは、生データの時点でノイズが存在しているため、傾き画像を作成する際に、ノイズ成分が強調され、輪郭がざらざらすることがある。このようなノイズを軽減するために、ガイデットフィルタ(Guided Filter)等のノイズ除去フィルタを利用する。一般的なローパスフィルタでは、ノイズのみならず傷の情報もなまったり消えたりしてしまうことがあるが、ガイデットフィルタであれば、傾き画像を求める際にガイデッドフィルタを適用することで、エッジを維持したままノイズを除去でき、好適である。
画像処理部41Bは、撮像部11によって撮像された複数の部分照明画像同士で、対応関係にある画素毎の画素値を用いて、フォトメトリックステレオ法に基づき、照明方向を仮定した仮定照明方向におけるワークWKの表面のソース画像を、複数の異なる仮定照明方向毎に生成するソース画像生成手段として機能する。ソース画像生成手段は、具体的には、法線ベクトル算出部41aと、輪郭画像生成部41bと、テクスチャ抽出画像生成部41cと、検査領域特定部41dと、画像処理手段演算部41eと、判定部37と、照明方向推定部41gの機能を実現する。法線ベクトル算出部41aは、撮像部11によって撮像された複数の部分照明画像同士で、対応関係にある画素毎の画素値を用いて、各画素のワークWKの表面に対する法線ベクトルnを算出する。輪郭画像生成部41bは、算出された各画素の法線ベクトルnに対して、X方向及びY方向に微分処理を施し、ワークWK表面の傾きの輪郭を示す輪郭画像を生成する。テクスチャ抽出画像生成部41cは、照明部による照明する回数個ある、算出された各画素の法線ベクトルnから、各画素のアルベドを算出し、アルベドから、ワークWKの表面の傾きの影響を除去した模様を示すテクスチャ抽出画像を生成する。検査領域特定部41dは、生成された輪郭画像に対して検査対象となる検査領域の位置を特定する。画像処理手段演算部41eは、特定された検査領域内の傷を検出するための画像処理を施す。判定部37は、処理結果に基づいて、ワークWK表面の傷の有無を判定する。照明方向推定部41gは、ソース画像生成手段によって生成された複数の画像を基にする複数のソース画像SPから、照明部における実際の照明方向と最も整合する照明方向を検出する。
撮像部11と照明部とは、別個の部材として配置可能としている。これによって自由度の高いレイアウトが可能となる。一例として、ステージSG上に載置されたワークWKの真上に、光軸を鉛直方向に向けた撮像部11を配置する。また撮像部11の周囲の東西南北の方位に、4個の照明部、すなわち第一照明部21、第二照明部22、第三照明部23、第四照明部24を、同一の高さに配置する。配置された撮像部11と各照明部の位置関係は、画像検査装置100B側で記録される。照明制御部26により所定の照明タイミングで各照明部を順次点灯させて、共通の撮像部でもって、ワークWKを一定の方向から撮像して部分照明画像を取得する。
なお、撮像部11と照明部とは、別個の部材とする構成に限らず、これらをアーム等を介して一体に構成してもよい。この場合は、予め撮像部11と照明部の位置関係が固定されているため、光軸を一致させるといった調整作業を不要とできる。ただし、自由度が失われる。
(撮像部11)
撮像部11は、例えば、CCD(Charge Coupled Device)カメラやCMOS(Complementary Metal Oxide Semiconductor)イメージャ等の撮像素子が利用できる。撮像素子で被写体の画像を光電変換して画像信号を出力し、出力された画像信号を信号処理ブロックが輝度信号と色差信号とに変換して、撮像ケーブル12で接続された画像処理部41Bに出力する。
(照明部)
照明部21、22、23、24は、ワークWKに対して、異なる照明方向から照明光を照射できるよう、図1に示すようにワークWKの周囲をとり囲むように配置される。また各照明部は、光軸を斜め下方に向けて設置される。各照明部で照明されたワークを、共通の撮像部11で撮像できるよう、撮像部11の光軸と、照明部を設けた平面(仮想回転面)の中心軸とを一致させることが好ましい。また、照明部同士の間隔(中心軸からの方位角)は、360°を照明部の数で均等に分割して配置することが好ましい。さらに天頂角は、すべての照明部で一定とすることが好ましい。さらにまた、各照明部とワークとの距離も、一定とすること好ましい。このようにすることで、フォトメトリックステレオ処理の演算に必要な方位角や天頂角情報の入力を簡易化できる。また後述の通り、全灯画像MCを撮像する際はすべての照明部を点灯した全灯状態で撮像するため、上記状態にすれば、全照明の強さを均等に弱めるだけで、ムラの少ない照明状態で撮像できる。
図1の例では、第一照明部21、第二照明部22、第三照明部23、第四照明部24の4つで構成される。各照明部は、白熱球や蛍光灯等が利用できる。特に、発光ダイオード(Light Emitting Diode:LED)等の半導体発光素子は、消費電力が少なく長寿命で応答性にも優れ、好ましい。
照明部21、22、23、24の照明色は、ワークWKのタイプに応じて変更することもできる。例えば、細かい傷を検査したい場合には、波長が短い青色が好適である。また、着色されたワークを検査するときは、照明の色が邪魔にならないように、白色の照明を使うのが好ましい。さらに、ワークに油が付いているときには、その影響を防ぐために、赤色の照明を採用するとよい。
また照明部は、異なる三以上の照明方向からワークWKを照明できるよう、少なくとも3個あれば足りる。照明部の数を増やすと、より多くの照明方向から部分照明画像が得られるため、画像検査の精度を向上できる。例えば、北東、北西、南東、南西の方位を加えて全部で8個配置してもよい。また、照明部同士の間隔(中心軸からの方位角)は、360°を照明部の数で均等に分割して配置することが好ましい。さらに天頂角は、すべての照明部で一定とすることが好ましい。なお、処理すべき画像の枚数が増えることで処理量が増え、処理時間が遅くなる。本実施の形態においては、処理速度と演算処理のし易さ、精度等のバランスを考慮して、上述の通り照明部の数を4個としている。また、照明部を、環状に配置された複数個の発光素子で構成することもできる。さらに照明部は、円環状に配置する他、バー状に構成された照明部を矩形状に配置したり、多角形状に配置することもできる。あるいは、照明部を円や多角形の環状に配置する他、平面状に配置することもできる。例えば、多数の発光素子を平面状に配置し、点灯する照明ブロックを変化させることで、異なる照明方向を実現することもできる。このように本発明において照明部や照明方向とは、必ずしも物理的に離間された照明に限られず、一の照明部を複数に分割した照明ブロックでもって、照明を行う構成も含む意味で使用する。
(フォトメトリックステレオ法のパラメータ設定部)
このようなフォトメトリックステレオ法では、画像処理パラメータとして、特徴サイズ、特徴サイズ余裕度、コントラスト、レベル、ノイズ除去等を設定する必要がある。このような画像処理パラメータの設定は、パラメータ設定部32にて行う。図4に、パラメータ設定部32の一例として、画像処理プログラムで画像処理パラメータをユーザが手動で設定するためのユーザインターフェース画面(パラメータ設定画面32B)を示す。この図に示すパラメータ設定画面32Bは、特徴サイズ設定欄32B1、特徴サイズ余裕度設定欄32B2、コントラスト設定欄32B3、レベル設定欄32B4、ノイズ除去設定欄32B5を備える。
ここで特徴サイズとは、ワークの凹凸の大きさを規定するパラメータであり、例えばワークの細かい傷を検出したい場合は小さい値を、大きい傷を強調したい場合は大きい値を設定することで、指定されたサイズの傷が強調されて凸傷は明るく、凹み傷は暗く表示される。
また特徴サイズ余裕度とは、特徴サイズで規定された凹凸とは異なるサイズの凹凸も含めるためのパラメータである。
さらにコントラストは、検出された凹凸を強調するためのパラメータである。
さらにまたレベルは、凹凸のない部分を規定するパラメータである。レベルで指定された高さが基準面となり、レベルを基準に凹凸の明るさが規定される。この例では、0〜255の8ビットで表現している。例えばOCR等で凸部を検査したい場合はレベルを0に設定することで、凸状に形成された部分のみを抽出できる。逆に凹部を検査したい場合は、レベルを255に設定することで、窪んだ部分のみを抽出できる。
最後にノイズ除去は、微小な凹凸を除去するためのパラメータである。検出された凹凸の内、ここで指定された大きさよりも小さい凹凸をノイズとして除去することで、見易さを向上させる。
(実施形態2:形状画像に対する傷検査)
以上、画像検査の対象となる画像の一例として、フォトメトリックステレオ法を用いて生成した形状画像、輪郭抽出画像、テクスチャ抽出画像を得る方法を説明した。上述の通り本発明は、画像検査を行う対象となる画像を、フォトメトリックステレオ法に基づく画像に限定せず、他の画像を利用することもできる。ここでは実施形態2として、形状画像に基づいて傷の有無を検査する例を説明する。形状画像は、ワークの立体形状に関する情報を有する画像であり、フォトメトリックステレオ法や他の方法に基づいて、撮像部でワークを撮像した画像から、三次元の高さ情報を取得する。傷検査とは、単純な二値化処理によって得られた白黒画像での面積判定ではなく、周辺の濃淡レベルと比較しながら傷や汚れなどの欠陥を探す外観検査アルゴリズムである。
傷検査の検出原理を以下に説明する。ここでは、傷の検出方向としてX方向を指定した場合を例に取って説明する。
(1)まず、検査領域内で任意サイズの小領域(セグメント)を、所定量だけ移動させながら平均濃度計測を行う。移動させる量は、セグメントのサイズを基準に決定でき、例えばセグメントサイズの1/4とする。
(2)次に、注目セグメントを含む検出方向の所定の距離(ここではX方向に4セグメント)内での最大濃度と最小濃度の差を計測する。この値が、注目セグメントの「傷レベル」となる。
(3)傷レベルが、予め設定されたしきい値を超えている場合、その注目セグメントは傷としてカウントされる。このカウント値は「傷量」と呼ばれる検査結果となる。
以後、領域内で注目セグメントを移動量分ずらして上記(1)〜(3)の工程を繰り返す。
以上は、傷の検出方向としてX方向を指定した場合を説明した。傷の検出方向は、Y方向やXY方向で指定することもできる。ここで、傷の検出方向をXYの2次元方向に指定した場合の処理方法について説明する。XY方向を指定した場合は、注目セグメントを含むXY方向それぞれ4セグメント、計16セグメント内での最大濃度と最小濃度の差を計測する。
傷検査によれば、ワークの形状や照明ムラなどの影響を受けず、検出すべき欠陥のみを検出できる。このような傷検査を行う画像検査装置のハードウェア構成は、上述した実施形態1とほぼ同様の構成が利用できる。また傷検査を行う画像検査装置100Cの画像処理部41Cを示す機能ブロック図を図17に示す。なお、図10と共通の部材については、同じ符号を付して詳細説明を適宜省略する。この図に示す画像処理部41Cは、画像処理演算部41eと、検査領域特定部41dと、判定部37を備える。検査領域特定部41dは、画像に対して検査対象となる検査領域の位置を特定するための部材である。
画像処理演算部41eは、平均濃度計測部41e1と、傷レベル計測部41e2を備える。平均濃度計測部41e1は、検査領域特定部41dで特定された検査領域内で、任意のサイズのセグメントを所定量移動させながら平均濃度計測を行うための部材である。傷レベル計測部41e2は、検出方向における一定距離内に含まれる各位置(注目セグメント)で、平均濃度計測部41e1で計測された平均濃度の最大濃度と最小濃度の差を傷レベルとして計測する。
判定部37は、所定の画像処理を行い、その処理結果に基づいて外観検査の判定結果を出力するための部材である。ここでは、傷レベル計測部41e2で計測された傷レベルが、予め設定されたしきい値を超えている場合、その注目セグメントは傷としてカウントされ、カウント値が「傷量」として出力される。
(傷検査のパラメータ設定部)
このような傷検査を行う場合に設定すべき画像処理パラメータとしては、検出方向、方向別設定、高速モードのON/OFF、傷レベル、設定方向、セグメントサイズ、比較間隔設定、移動量、比較セグメント間隔等が挙げられる。このような画像処理パラメータの設定は、同様にパラメータ設定部32にて行われる。パラメータ設定部32の一例として、画像処理プログラムで画像処理パラメータをユーザが手動で設定するためのユーザインターフェース画面(パラメータ設定画面32C)を図5に示す。この図に示すパラメータ設定画面32Cは、検出方向設定欄32C1、方向別設定設定欄32C2、高速モードのON/OFF設定欄32C3、傷レベル設定欄32C4、設定方向設定欄32C5、セグメントサイズ設定欄32C6、比較間隔設定設定欄32C7、移動量設定欄32C8、比較セグメント間隔設定欄32C9を備える。
検出方向は、傷がどの方向に伸びているかを示すパラメータである。ここでは、ドロップダウンリストからXY、X、Yの何れかを選択する。例えば縦方向に傷が伸びている場合は、X方向を選択することで、横方向に差分を取って傷を検出できるようになる。
方向別設定は、画像処理パラメータをX方向やY方向で異なる値に設定したい場合に指定する。
高速モードは、処理の高速化のON/OFFを切り替えるためのパラメータである。高速モードをONとした場合は、画像処理パラメータとして選択できる値が限られるものの(例えば4の倍数など)、内部処理の高速化が図られる。
傷レベルは、傷として判定する周囲画素の平均濃度との差を規定するパラメータであり、例えば図5のように10を指定すると、周囲画素の平均濃度との差が10未満の画素は傷として判定されず、10以上の画素は傷として判定される。
設定方向は、方向別設定と連動し、方向別設定がOFFの場合は、検出方向で設定された方向に共通で(図5の例ではXY共通)以下の画像処理パラメータが設定される。方向別設定がONの場合は、方向毎に以下の画像処理パラメータを個別に設定することになる。
セグメントサイズは、傷の大きさに応じて規定するパラメータである。例えば図5の例ではセグメントサイズとして16を指定しており、検査対象の形状画像のある部位の周囲で16×16の領域を取り、これを4分割して領域毎の差分を取り、傷の量を決定する。このようにセグメントサイズは、傷を検出する領域の大きさを規定するパラメータであり、フォトメトリックステレオ法における特徴サイズと同様、ワークのサイズに関するパラメータを成す。
比較間隔設定は、マニュアル又は自動を選択する。
移動量は、比較間隔を指定した画素(ここでは4ピクセル)毎に移動させる。
比較セグメント間隔は、濃度差を比較するセグメントの間隔を規定する。(画像処理パラメータの設定方法)
以上のような画像検査を行うには、従来より、画像処理のパラメータを検査内容に応じて適切に設定する必要がある。ここで、例えばフォトメトリックステレオ法に基づく画像処理を利用する場合は、図4のイメージ図に示すように、多くの画像処理パラメータが存在する上、各画像処理パラメータの名称のみからでは、どのようなパラメータであって、これを調整することで画像のどの部分がどのように変化するのかといったことを具体的に予想することが容易でなかった。すなわち図4の例では、画像処理パラメータとして、特徴サイズ、特徴サイズ余裕度、コントラスト、レベル、ノイズ除去が挙げられており、各パラメータに対して、ユーザに数値を入力させたり、チェックボックスやドロップダウンメニューで選択肢から選択させることが一般に行われている。しかしながら、このような多数列挙された画像処理パラメータのいずれを、どのように設定すれば所望の画像検査結果が得られるかを知ることは容易でない。例えば初心者ユーザであれば、特徴サイズや特徴サイズ余裕度について、直ちに習熟することは容易でない。
同様に、傷検査を利用する場合の傷検出条件設定パラメータとしては、図5のイメージ図に示すような項目が挙げられる。ここでは、検出方向、方向別設定、高速モードのON/OFF、傷レベル、設定方向、セグメントサイズ、比較間隔設定、移動量、比較セグメント間隔等が挙げられる。このように多数のパラメータを、従来よりユーザは図5のようなパラメータ設定画面32Cから、一つづつ設定を行っている。この作業は極めて煩雑であり、各パラメータの意味や他のパラメータとの関係を十分に理解していないと、所望の画像処理結果を得ることは容易でない。
このように従来の画像処理パラメータの設定方法では、ユーザが自ら各画像処理パラメータを変化させ、検査に適した値かどうかを逐一確認する必要があるため、検査に適した画像処理パラメータの導出を煩雑化させる要因になっていた。また、各画像処理パラメータの画像処理における意味や、処理後画像に対する影響、検査用途毎の画像処理パラメータの設定ノウハウなどを知っているか否かで、設定導出の難易度が変わるため、検査に適した設定を導出する難易度が、設定を行うユーザの知識や技術、経験に依存してしまう。
そこで本実施の形態においては、画像処理のパラメータを設定する際に、検査用途を選択させ、さらにパラメータを変化させた複数枚画像から検査に適した画像を選択させる手順を繰り返すことで、検査に適した設定パラメータの導出を容易に行うことができる。この様子を、図6のフローチャート及び図7、図8、図9のユーザインターフェース画面に基づいて説明する。ここでは、ある画像処理を実行するための画像処理パラメータとして第一パラメータa、第二パラメータbを設定する場合を考える。第一パラメータaとしては、画像処理の方向に関するパラメータが挙げられる。また第二パラメータbとしては、ワークのサイズに関するパラメータが挙げられる。
ここで、ワークのサイズに関するパラメータとは、検出対象となる傷などの大きさを規定するパラメータであって、ここで設定されたパラメータと対応する大きさの対象が検出されるように、いかえると画像処理が行われた処理後画像において、企図した外観検査に際して必要となる形状や高さ等の情報が損なわれないように、画像処理パラメータが設定される。例えば、大きな傷を検出したい場合は、フォトメトリックステレオ法に基づき生成される形状画像の有する形状情報等が、大きな傷を抽出できる特徴量乃至情報を維持していること、逆にいえば小さな傷に関しては情報が不要となるので、これらに関する特徴量が失われるように、形状情報等の精度が調整される。また、小さい傷を検出したい場合は逆に、処理後画像が小さい傷に関して特徴量や情報を保持しつつ、大きな傷に関しては無視するように、画像処理パラメータが調整される。
まず図6のフローチャート中、ステップS61において、検査対象の画像を取得する。例えば、検査対象のワークに対して照明部でもって照明光を照射し、撮像部11で多値画像を取得する。
次にステップS62において、ユーザに実施したい検査用途を選択させる。ここでは、検査種別選択部31を用いる。検査種別選択部31の一形態として、検査種別選択画面31Bのユーザインターフェースの一例を図7に示す。このように検査種別選択画面31Bにおいて、画像処理の代表的な検査用途を複数提示して、この内からユーザが行いたい検査を選択させる。ここでは、選択可能な検査用途として、傷検査31B1、有無検査31B2、OCR(凹文字)31B3、OCR(凸文字)31B4、「その他」31B5の何れかを選択可能としている。
次にステップS63において、画像処理パラメータの値を検査用途に適した値に決定する。ここでは、選択された検査種別に応じて、第一パラメータaがパラメータ設定部32により設定される。例えば第一パラメータaとして、検出対象のワークの内で高さ判定の基準となる基準面の階調値(レベル)を、0〜255のいずれか設定することを考える。この場合において、図7の検査種別選択画面31BにおいてOCR(凸文字)31B4が選択されると、パラメータ設定部32はレベルを0に設定する。またOCR(凹文字)31B3が選択された場合は、レベルを255に設定する。また傷検査の場合はレベルを128に、有無検査31B2の場合はレベルを0に、それぞれ設定する。なお、「その他」31B5が選択された場合については、後述する。
次にステップS64において、未決定の画像処理パラメータを変化させ、画像処理を適用した処理後画像を複数枚、パラメータ候補一覧画像群として表示させる。ここでは、パラメータ設定部32が、第二パラメータbを複数の異なる候補値に変化させて画像処理を適用した処理後画像を画像生成部34で生成し、表示部51に表示させる。第二パラメータbの種別や変化幅は、予め設定しておく。各第二パラメータb毎に生成された処理後画像は、表示部51上に並べて、第二パラメータ候補一覧画像群として一覧表示される。このような第二パラメータ候補一覧画像群52の例を図8に示す。ここでは、第二パラメータとして特徴サイズを変化させた処理後画像TIを3行×3列の計9枚、表示させている。この例では、「特徴サイズ」以外の画像処理パラメータをデフォルト値に固定し、「特徴サイズ」を2、4、8、12、16、24、32、64、128に変化させて処理後画像TIを生成する。ここで各処理後画像TI同士は、ワークを撮像した同じ領域を常に表示することになる。また、必要に応じて画像の拡大、縮小やスクロールを可能としてもよい。この場合、各処理後画像TI同士が比較し易くなるよう、画像表示範囲の拡大・縮小・スクロール操作はすべての画像に対して共通して適用されることが好ましい。
なお第二パラメータとしては、ワークのサイズに関するパラメータとして、特徴サイズの他、セグメントサイズを変化させてもよい。あるいは第二パラメータとして、検出対象の傷(文字)のサイズやゲインの変化幅を変化させてもよい。さらにこのような第二パラメータを変化させる際に、検査種別選択部31で選択された検査種別に基づいて変化させるよう構成することもできる。さらにパラメータ設定部32が画像処理パラメータを変化させる際には、画像処理パラメータの幅やピッチを変化させるよう構成できる。この例では、第二パラメータを変化させる際、画像のコントラストを、検査種別選択部31で選択された検査種別に基づいて変化させている。
この状態で、ステップS65において、処理後画像TI中から検査に適したものをユーザに選択させる。ここでは、ユーザが画像選択部36を用いて、表示部上に表示された第二パラメータ候補一覧画像群52から、所望の処理後画像TIを選択することができる。画像選択部36は、ユーザによる操作を受け付ける部材であり、例えばタッチパネルやマウス、キーボード、コンソール等を操作して、所望の処理後画像TIを指定する。ここで、現在ユーザにより選択されている処理後画像TIがどの画像であるかを判別しやすいようなインジケータを付加することが好ましい。図8の例では、選択された処理後画像TIを枠53で囲むように表示させている。
選択が終了すると、図8の画面の右下に設けられた「次へ」ボタン54を押下する。これによりステップS66において、第二パラメータの値が決定される。ここでは、ユーザに選択された処理後画像TIに設定された第二パラメータの候補値が特定されて、パラメータ設定部32がこの候補値を第二パラメータとして設定する。
さらにステップS67において、全ての画像処理パラメータの値が決定されかを判定し、未だの場合はステップS64に戻り、上記処理を繰り返す。例えば第一パラメータaと第二パラメータbの2つのみを設定する場合は、処理を終了する。
(第三パラメータ)
一方、これに加えて第三パラメータcも設定する場合は、ステップS67からステップS64に戻り、未決定の画像処理パラメータ、ここでは第三パラメータcの値を複数の異なる候補値に変化させ、画像処理を適用した処理後画像を複数枚表示させる。ここでは、既に第一パラメータaと第二パラメータbは決定されているため、第三パラメータcのみをパラメータ設定部32で複数の異なる候補値に変化させて処理後画像を画像生成部34で生成し、表示部上に第三パラメータ候補一覧画像群として表示させる。例えば図8の画面において「次へ」ボタン54を押下すると、図9の第三パラメータ候補一覧画像群55が表示される。このように、「次へ」ボタン54は、第二パラメータの選択実行と、第三パラメータの選択画面への切り替えを同時に実行する機能を奏している。
第三パラメータとしては、例えば検出対象を強調処理するための画像処理パラメータが挙げられる。例えばコントラスト、ノイズ除去のような、検出対象のワークを強調して、見たい部分を浮き立たせて、見たくない対象を低減したり弱めるようなパラメータが好適に選択される。ここでは、第三パラメータcとしてコントラストを設定する。第三パラメータ(コントラスト)の値は、検査種別選択部31で選択された検査種別に基づいて変化させる。例えば、検査用途として傷検査が選択された場合、コントラストを1、2、4に変化させる。一方、有無検査31B2が選択された場合は、コントラストを2、4、6に変化させる。またOCR(凹文字)31B3が選択された場合、コントラストを2、4、6に変化させる。さらにOCR(凸文字)31B4が選択された場合、コントラストを2、4、6に変化させる。
加えて、図9の例では第四パラメータとしてノイズ除去も変化させている。ここでは、コントラストを3種類に変化させた各画像に対して、ノイズ除去を0、5、10、15、20の5種類に変化させて、計15枚の処理後画像を生成している。図9の表示例では、処理後画像TIの表示は、一画面で3行×3列の9枚を表示させており、表示されていない処理後画像TIは、画面の左右に設けられたスクロールボタン56を押下することで表示させることが可能となる。
以下同様に、ステップS65において、処理後画像TI中から検査に適したものをユーザに選択させ、「完了」ボタン57を押下すると、ステップS66に進み、選択された処理後画像TIに設定された第三パラメータの候補値を第三パラメータとして決定する。さらにステップS67において、全ての画像処理パラメータの値が決定されかを判定し、未決定の画像処理パラメータが存在する場合はステップS64に戻って上記処理を繰り返す。このように本発明は、設定可能な画像処理パラメータの数を2に限定せず、3以上とすることもできる。
なお、第一パラメータa、第二パラメータb、第三パラメータcを設定する場合は、上述した初回のステップS64において、第二パラメータbを複数の異なる候補値に変化させて処理後画像を生成する際、第三パラメータcをデフォルト値に固定しておく。
以上のようにして全ての画像処理パラメータの値が決定されると、処理を終了する。この方式であれば、既に得られた画像のイメージをユーザが視覚的に把握できるため、検査用途に応じた画像を結果から選択できる。
なお、以上の方式では、複数の画像処理パラメータの内、いずれか一を変化させて処理後画像を生成し一覧表示させている。これに限らず、複数の画像処理パラメータを同時に変化させて、処理後画像を一覧表示させてもよい。この場合、画像処理パラメータの候補値の数を同じにする場合は、処理後画像の数が多くなる。このため、同じ表示部でパラメータ候補一覧画像群を表示させる場合は、一枚あたりの処理後画像の大きさを小さくする。この場合、視認性が低下するため、例えばカーソルを任意の処理後画像に重ねると、該当部分が拡大されて表示されるようにしてもよい。例えば拡大鏡のサブウィンドウ内に拡大された処理後画像が表示されようにする。またタッチパネルの場合は、ユーザが指を任意の処理後画像上になぞることで、同様に部分的に拡大された画像を表示させるようにしてもよい。あるいは、パラメータ候補一覧画像群の画面をスクロールさせて全体を表示させたり、画面自体を切り替えるようにしてもよい。または、画像処理パラメータの候補値の数を少なくすることで、パラメータ候補一覧画像群に含まれる処理後画像の数が増えることを抑制してもよい。
ここで、複数のパラメータを同時に変化させてパラメータ候補一覧画像群を表示させる例を、図7の検査種別選択画面31Bで「その他」31B5が選択された場合で説明する。ここでは、第一パラメータとしてレベル、第二パラメータとして特徴サイズ、第三パラメータとしてコントラストを設定するものとし、この内の第一パラメータ(レベル)と第三パラメータ(コントラスト)を同時に変化させる。まず第二パラメータ(特徴サイズ)を既定値、例えば既にステップS66で決定されている場合はその値に固定しつつ、一方で第一パラメータ(レベル)を0、128、255に変化させた3枚の処理後画像を表示させる。さらに、第一パラメータ(レベル)毎に第三パラメータ(コントラスト)も変化させる。例えば、第一パラメータ(レベル)が128の場合は、第三パラメータ(コントラスト)を1、2、4に変化させる。また第一パラメータ(レベル)が0、255の場合は、第三パラメータ(コントラスト)を2、4、6に変化させる。このようにして、計9種類の画像を生成し、第一及び第三パラメータ候補一覧画像群を表示させ、この中から検査に適した処理後画像をユーザに選択させる。これにより、選択された処理後画像の第一パラメータ(レベル)及び第三パラメータ(コントラスト)が、それぞれ決定される。
(傷検査パラメータの設定例)
以上は、フォトメトリックステレオ方式による画像検査における画像処理パラメータを設定する方法について説明した。次に、傷検査による画像処理パラメータを設定する方法について、説明する。ここでは、傷検査における画像処理パラメータとして、第一パラメータ「検出方向」、第二パラメータ「セグメントサイズ」、第三パラメータ「傷レベル」を、それぞれ決定する手順を説明する。
まず、検査内容を選択させる。ここでは、「しみ、汚れ検出」、「打痕検出」、「線傷検出」の中から、ユーザが実施したい検査を選択させる。ここでユーザにより選択された検査種別に応じて、画像処理パラメータと、画像処理パラメータの変化幅を決定する。例えば、「しみ、汚れ検出」が選択された場合は、第一パラメータ「検出方向」をXY方向に決定し、また第二パラメータ「セグメントサイズ」の候補値として、12、16、20、24、28、32、36、40、44に変化させる。
一方、検査種別として「打痕検出」が選択された場合は、第一パラメータ「検出方向」をXY方向に決定し、さらに第二パラメータ「セグメントサイズ」の候補値として、4、8、12、16、20、24、28、32、36に変化させる。
また、検査種別として「線傷検出」が選択された場合のみ、さらに「画像選択(検出方向)」の選択を受け付ける工程を追加する。ここでは、「検出方向」として、X方向、Y方向、XY方向、円周方向、半径方向に変化させた5枚の処理後画像を表示させて、検査に適した画像をユーザに選択させる。この選択によって、選ばれた処理後画像に設定された「検出方向」の候補値に決定される。さらに、第二パラメータ「セグメントサイズ」の候補値を、4、8、12、16、20、24、28、32、36に変化させる。
次に、第一パラメータ「検出方向」を決定された値に固定しつつ、第二パラメータ「セグメントサイズ」を、上記で決定された候補値に変化させた9枚の処理後画像を表示させ、検査に適した処理後画像をユーザに選択させる。選択された処理後画像に設定された候補値が、第二パラメータ「セグメントサイズ」として決定される。
このようにして、第一パラメータ「検出方向」と第二パラメータ「セグメントサイズ」を決定された値にパラメータ設定部32で固定し、第三パラメータ「傷レベル」の候補値を、5、10、15、20、25、30、35、40、45に変化させた処理後画像を、パラメータ候補一覧画像群として表示させ、この内から検査に適した処理後画像をユーザに選択させる。これによって、第三パラメータ「傷レベル」が選択された処理後画像に応じて決定される。このようにして、傷検査の画像処理パラメータも同様に、画像処理パラメータを変化させて得られた処理後画像という結果から選択できるので、ユーザが所望する画像イメージに沿った値に画像処理パラメータを設定でき、従来面倒であった画像処理パラメータの設定作業を簡素化できる。
すなわち従来の設定方法では、ユーザが自ら各画像処理パラメータを変化させる必要があり、設定導出が煩雑という問題があった。これに対し本実施形態に係る画像検査方法によれば、画像処理パラメータを変化させた処理後画像をユーザが選択していくことで、各画像処理パラメータを順次決定していくため、ユーザが自ら画像処理パラメータを変化させる必要はなく、簡単に設定を導出できる。すなわち従来の方法では、各パラメータの画像処理における意味や、検査用途毎の画像処理パラメータの設定ノウハウをユーザが知っているか否かで、設定難易度が変わるという問題があったところ、本実施形態によれば、表示された画像を選択するだけで設定できるため、ユーザは各パラメータの意味を意識することなく設定を行うことができる。いわば、得られた処理後画像という結果から設定を行わせることで、所望の画像を得る条件を簡単に設定できるという優れた特長を実現したものである。また本実施形態によれば、まず検査用途を選択させた上で、検査用途に適したパラメータ設定を自動で行うため、ユーザの知識や経験、技術に依存せず、誰でも検査に適した設定を導出することができる。
本発明の画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体又は記録した機器は、フォトメトリックステレオを用いた検査装置やデジタイザに好適に利用できる。
100、100B、100C…画像検査装置
11…撮像部
12…撮像ケーブル
20…照明部
21…第一照明部;22…第二照明部;23…第三照明部;24…第四照明部
26…照明制御部
27…照明ケーブル
28…画像入力部
31…検査種別選択部;31B…検査種別選択画面;31B1…傷検査;31B2…有無検査;31B3…OCR(凹文字);31B4…OCR(凸文字);31B5…その他;
32…パラメータ設定部;32B、32C…パラメータ設定画面
32B1…特徴サイズ設定欄;32B2…特徴サイズ余裕度設定欄;32B3…コントラスト設定欄;32B4…レベル設定欄;32B5…ノイズ除去設定欄
32C1…検出方向設定欄;32C2…方向別設定設定欄;32C3…高速モードのON/OFF設定欄;32C4…傷レベル設定欄;32C5…設定方向設定欄;32C6…セグメントサイズ設定欄;32C7…比較間隔設定設定欄;32C8…移動量設定欄;32C9…比較セグメント間隔設定欄
33…パラメータ微調整部
34…画像生成部
35…画像推奨部
36…画像選択部
37…判定部
41、41B、41C…画像処理部;41a…法線ベクトル算出部;41b…輪郭画像生成部
41c…テクスチャ抽出画像生成部;41d…検査領域特定部
41e…画像処理演算部;
41e1…平均濃度計測部;41e2…傷レベル計測部;41g…照明方向推定部
43…制御回路
44…RAM
45…記憶手段
46…入力手段
47…出力手段
48…補助記憶手段
49…通信手段
51…表示部
61…操作部
52…第二パラメータ候補一覧画像群
53…枠
54…「次へ」ボタン
55…第三パラメータ候補一覧画像群
56…スクロールボタン
57…「完了」ボタン
71、72、73、74、76…ケーブル
81…外部制御機器
WK…ワーク
SG…ステージ
L1…第一照明部;L2…第二照明部
S…拡散反射面
TI…処理後画像

Claims (24)

  1. 検査対象物の外観検査を行うための画像検査装置であって、
    検査対象物を示す検査対象画像の入力を受け付けるための画像入力部と、
    検査対象物の異なる種類の外観検査の対象を示す候補として予め複数用意された検査種別の中から、所望の検査種別の選択を受け付けるための検査種別選択部と、
    前記検査対象画像に対して行う画像処理に関する複数の画像処理パラメータの内、第一パラメータの値を、前記検査種別選択部で選択された検査種別に応じて自動的に設定するためのパラメータ設定部と、
    該第一パラメータとは異なる第二パラメータの値を複数の候補値に変化させて、該変化させた各第二パラメータ候補値毎に前記検査対象画像に対してそれぞれ画像処理を行うことにより、複数の処理後画像を生成するための画像生成部と、
    前記画像生成部で生成される前記複数の処理後画像を並べて表示させた第二パラメータ候補一覧画像群を表示させるための表示部と、
    前記表示部に表示された第二パラメータ候補一覧画像群に含まれる複数の処理後画像の内、いずれかの処理後画像の選択を受け付けるための画像選択部と、
    前記画像選択部で選択された処理後画像に対応する第二パラメータ候補値を、前記パラメータ設定部で第二パラメータとして設定し、前記画像生成部で生成された処理後画像に対して、所定の画像処理を行い、その処理結果に基づいて外観検査の判定結果を出力するための判定部と、
    を備える画像検査装置。
  2. 検査対象物の外観検査を行うための画像検査装置であって、
    検査対象物を示す検査対象画像の入力を受け付けるための画像入力部と、
    検査対象物の外観検査の候補として予め複数用意された検査種別の中から、所望の検査種別の選択を受け付けるための検査種別選択部と、
    前記検査対象画像に対して行う画像処理に関する複数の画像処理パラメータの内、第一パラメータの値を、前記検査種別選択部で選択された検査種別に応じて自動的に設定するためのパラメータ設定部と、
    該第一パラメータとは異なる第二パラメータの値を複数の候補値に変化させて、該変化させた各第二パラメータ候補値毎に前記検査対象画像に対してそれぞれ画像処理を行うことにより、複数の処理後画像を生成するための画像生成部と、
    前記画像生成部で生成される前記複数の処理後画像を並べて表示させた第二パラメータ候補一覧画像群を表示させるための表示部と、
    前記表示部に表示された第二パラメータ候補一覧画像群に含まれる複数の処理後画像の内、いずれかの処理後画像の選択を受け付けるための画像選択部と、
    前記画像選択部で選択された処理後画像に対応する第二パラメータ候補値を、前記パラメータ設定部で第二パラメータとして設定し、前記画像生成部で生成された処理後画像に対して、所定の画像処理を行い、その処理結果に基づいて外観検査の判定結果を出力するための判定部と、
    検査対象物を互いに異なる照明方向から照明するための三以上の照明部と、
    前記三以上の照明部を一ずつ所定の点灯順に点灯させるための照明制御部と、
    前記照明制御部により各照明部を点灯させる照明タイミングにて、検査対象物を一定の方向から撮像することにより、複数の部分照明画像を撮像するための撮像部と
    を備え、
    前記撮像部により撮像された複数の部分照明画像が前記画像入力部に入力され、該複数の部分照明画像に基づいて、フォトメトリックステレオ法の原理に基づいて、形状に応じた画素値を有する形状画像が生成され、
    前記第一パラメータは、前記形状画像内における基準面の階調値を規定するパラメータであり、
    前記第二パラメータは、前記形状画像内における検出対象物のサイズを規定するパラメータである画像検査装置。
  3. 請求項2に記載の画像検査装置であって、
    前記基準面は、前記形状画像内に凹凸が存在しない面に基づいて特定された面である画像検査装置。
  4. 請求項3に記載の画像検査装置であって、
    前記検査種別選択部で選択される検査種別が、検査対象物の傷の検査、検査対象物の有無の判定、検査対象物上に表示された文字列の光学式読み取り、検査対象物に含まれる汚れの有無、検査対象物に含まれる打痕の有無、検査対象物に含まれる線傷の有無の少なくとも何れかを含む画像検査装置。
  5. 請求項4に記載の画像検査装置であって、
    前記第一パラメータは、前記検査種別選択部で検査種別として検査対象物の傷の検査が選択されたことに応じて、前記基準面の階調値を中央値に設定されてなる画像検査装置。
  6. 請求項4に記載の画像検査装置であって、
    前記第一パラメータは、前記検査種別選択部で検査種別として検査対象物の有無検査が選択されたことに応じて、前記基準面の階調値をゼロに設定されてなる画像検査装置。
  7. 請求項4に記載の画像検査装置であって、
    前記第一パラメータは、前記検査種別選択部で検査種別として検査対象物上に凸状に表示された文字列の光学式読み取りが選択されたことに応じて、前記基準面の階調値を最小値に設定されてなる画像検査装置。
  8. 請求項4に記載の画像検査装置であって、
    前記第一パラメータは、前記検査種別選択部で検査種別として検査対象物上に凹状に表示された文字列の光学式読み取りが選択されたことに応じて、前記基準面の階調値を最大値に設定されてなる画像検査装置。
  9. 請求項1に記載の画像検査装置であって、
    前記検査種別選択部が、検査種別として、形状に関する情報を有する形状画像に対する検査対象物の傷の検査を選択可能としてなる画像検査装置。
  10. 請求項9に記載の画像検査装置であって、
    前記第一パラメータが、検出対象物の傷の検出方向である画像検査装置。
  11. 請求項1〜10のいずれか一項に記載の画像検査装置であって、
    前記第二パラメータが、検査対象物の特徴サイズ又はセグメントサイズである画像検査装置。
  12. 請求項9又は10に記載の画像検査装置であって、
    前記第二パラメータが、検出対象物の傷のサイズである画像検査装置。
  13. 検査対象物の外観検査を行うための画像検査装置であって、
    検査対象物を示す検査対象画像の入力を受け付けるための画像入力部と、
    検査対象物の外観検査の候補として予め複数用意された検査種別の中から、所望の検査種別の選択を受け付けるための検査種別選択部と、
    前記検査対象画像に対して行う画像処理に関する複数の画像処理パラメータの内、第一パラメータの値を、前記検査種別選択部で選択された検査種別に応じて自動的に設定するためのパラメータ設定部と、
    該第一パラメータとは異なる第二パラメータの値を複数の候補値に変化させて、該変化させた各第二パラメータ候補値毎に前記検査対象画像に対してそれぞれ画像処理を行うことにより、複数の処理後画像を生成するための画像生成部と、
    前記画像生成部で生成される前記複数の処理後画像を並べて表示させた第二パラメータ候補一覧画像群を表示させるための表示部と、
    前記表示部に表示された第二パラメータ候補一覧画像群に含まれる複数の処理後画像の内、いずれかの処理後画像の選択を受け付けるための画像選択部と、
    前記画像選択部で選択された処理後画像に対応する第二パラメータ候補値を、前記パラメータ設定部で第二パラメータとして設定し、前記画像生成部で生成された処理後画像に対して、所定の画像処理を行い、その処理結果に基づいて外観検査の判定結果を出力するための判定部と、
    を備え、
    前記画像生成部が、前記複数の処理後画像の生成に際して、前記第二パラメータを変化させる幅又はピッチを変化させるよう構成してなる画像検査装置。
  14. 検査対象物の外観検査を行うための画像検査装置であって、
    検査対象物を示す検査対象画像の入力を受け付けるための画像入力部と、
    検査対象物の外観検査の候補として予め複数用意された検査種別の中から、所望の検査種別の選択を受け付けるための検査種別選択部と、
    前記検査対象画像に対して行う画像処理に関する複数の画像処理パラメータの内、第一パラメータの値を、前記検査種別選択部で選択された検査種別に応じて自動的に設定するためのパラメータ設定部と、
    該第一パラメータとは異なる第二パラメータの値を複数の候補値に変化させて、該変化させた各第二パラメータ候補値毎に前記検査対象画像に対してそれぞれ画像処理を行うことにより、複数の処理後画像を生成するための画像生成部と、
    前記画像生成部で生成される前記複数の処理後画像を並べて表示させた第二パラメータ候補一覧画像群を表示させるための表示部と、
    前記表示部に表示された第二パラメータ候補一覧画像群に含まれる複数の処理後画像の内、いずれかの処理後画像の選択を受け付けるための画像選択部と、
    前記画像選択部で選択された処理後画像に対応する第二パラメータ候補値を、前記パラメータ設定部で第二パラメータとして設定し、前記画像生成部で生成された処理後画像に対して、所定の画像処理を行い、その処理結果に基づいて外観検査の判定結果を出力するための判定部と、
    を備え、
    前記画像生成部は、前記第二パラメータとして、前記検査対象像のコントラストを変化させる際、変化幅を、前記検査種別選択部で選択された検査種別に基づいて変化させるよう構成してなる画像検査装置。
  15. 請求項1〜14のいずれか一項に記載の画像検査装置であって、
    前記パラメータ設定部で、前記画像選択部で選択された処理後画像に対応する第二パラメータの値を設定した状態で、該設定された第二パラメータの値を前記表示部上に表示可能に構成してなる画像検査装置。
  16. 請求項15に記載の画像検査装置であって、さらに、
    前記パラメータ設定部で設定された第二パラメータの値を、手動で調整するためのパラメータ微調整部を備える画像検査装置。
  17. 請求項16に記載の画像検査装置であって、
    前記パラメータ微調整部で調整された第二パラメータに基づいて、前記表示部で一覧表示される第二パラメータ候補一覧画像群を更新して再度表示させてなる画像検査装置。
  18. 検査対象物の外観検査を行うための画像検査装置であって、
    検査対象物を示す検査対象画像の入力を受け付けるための画像入力部と、
    検査対象物の外観検査の候補として予め複数用意された検査種別の中から、所望の検査種別の選択を受け付けるための検査種別選択部と、
    前記検査対象画像に対して行う画像処理に関する複数の画像処理パラメータの内、第一パラメータの値を、前記検査種別選択部で選択された検査種別に応じて自動的に設定するためのパラメータ設定部と、
    該第一パラメータとは異なる第二パラメータの値を複数の候補値に変化させて、該変化させた各第二パラメータ候補値毎に前記検査対象画像に対してそれぞれ画像処理を行うことにより、複数の処理後画像を生成するための画像生成部と、
    前記画像生成部で生成される前記複数の処理後画像を並べて表示させた第二パラメータ候補一覧画像群を表示させるための表示部と、
    前記表示部に表示された第二パラメータ候補一覧画像群に含まれる複数の処理後画像の内、いずれかの処理後画像の選択を受け付けるための画像選択部と、
    前記画像選択部で選択された処理後画像に対応する第二パラメータ候補値を、前記パラメータ設定部で第二パラメータとして設定し、前記画像生成部で生成された処理後画像に対して、所定の画像処理を行い、その処理結果に基づいて外観検査の判定結果を出力するための判定部と、
    前記表示部の第二パラメータ候補一覧画像群で表示される各処理後画像に対して所定の評価値を演算して、該評価値に基づいて選択すべき画像を推奨する画像推奨部と、
    を備える画像検査装置。
  19. 請求項18に記載の画像検査装置であって、
    前記画像推奨部が演算した評価値を、前記表示部上に表示可能としてなる画像検査装置。
  20. 請求項1〜19のいずれか一項に記載の画像検査装置であって、
    前記パラメータ設定部が、第一パラメータ及び第二パラメータを設定した上で、該第一パラメータ及び第二パラメータと異なる画像処理のパラメータである第三パラメータを変化させた複数の処理後画像を生成させ、第三パラメータ候補一覧画像群として前記表示部上に一覧表示させるよう構成してなる画像検査装置。
  21. 請求項20に記載の画像検査装置であって、
    前記第三パラメータが検出対象の強調処理のパラメータである画像検査装置。
  22. 検査対象物の外観検査を行う画像検査方法であって、
    検査対象物の異なる種類の外観検査の対象を示す候補として予め複数用意された検査種別の中から、所望の検査種別の選択を受け付ける工程と、
    検査対象物を示す検査対象画像の入力を受け、該検査対象画像に対して行う画像処理に関する複数のパラメータの内、第一パラメータの値を、前選択された検査種別に応じて自動的に設定する一方、該第一パラメータとは異なる第二パラメータの値を変化させて、該変化させた各第二パラメータ値毎に前記検査対象画像に対して画像処理を行うことにより、複数の処理後画像を生成して、該生成された複数の処理後画像を、表示部上に一覧表示させて、該表示された複数の処理後画像の内、いずれかの処理後画像の選択を受け付ける工程と、
    選択された処理後画像に対応する第二パラメータの値を、パラメータ設定部が設定する工程と、
    を含む画像検査方法。
  23. 検査対象物の外観検査を行う画像検査プログラムであって、
    検査対象物の異なる種類の外観検査の対象を示す候補として予め複数用意された検査種別の中から、所望の検査種別の選択を受け付ける機能と、
    検査対象物を示す検査対象画像の入力を受け付ける機能と、
    該検査対象画像に対して行う画像処理に関する複数のパラメータの内、第一パラメータの値を、前記所望の検査種別の選択を受け付ける機能で選択された検査種別に応じて自動的に設定する機能と、
    該第一パラメータとは異なる第二パラメータの値を変化させて、該変化させた各第二パラメータ値毎に前記検査対象画像に対して画像処理を行うことにより、複数の処理後画像を生成する機能と、
    該生成された複数の処理後画像を、表示部上に一覧表示させて、該表示された複数の処理後画像の内、いずれかの処理後画像の選択を受け付ける機能と、
    前記いずれかの処理後画像の選択を受け付ける機能で選択された処理後画像に対応する第二パラメータの値を、パラメータ設定部が設定する機能と、
    をコンピュータに実現させる画像検査プログラム。
  24. 請求項23に記載の画像検査プログラムを記録したコンピュータで読み取り可能な記録媒体又は記録した機器。
JP2016174092A 2016-09-06 2016-09-06 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器 Active JP6745173B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016174092A JP6745173B2 (ja) 2016-09-06 2016-09-06 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
US15/663,170 US10169857B2 (en) 2016-09-06 2017-07-28 Image inspection apparatus, image inspection method, image inspection program, and computer-readable recording medium and recording device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016174092A JP6745173B2 (ja) 2016-09-06 2016-09-06 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器

Publications (2)

Publication Number Publication Date
JP2018040649A JP2018040649A (ja) 2018-03-15
JP6745173B2 true JP6745173B2 (ja) 2020-08-26

Family

ID=61281334

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016174092A Active JP6745173B2 (ja) 2016-09-06 2016-09-06 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器

Country Status (2)

Country Link
US (1) US10169857B2 (ja)
JP (1) JP6745173B2 (ja)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6470506B2 (ja) * 2014-06-09 2019-02-13 株式会社キーエンス 検査装置
US10053236B1 (en) 2016-03-28 2018-08-21 Amazon Technologies, Inc. Automated aerial vehicle inspections
JP6273339B1 (ja) * 2016-12-08 2018-01-31 Ckd株式会社 検査装置及びptp包装機
JP6938680B2 (ja) 2017-09-13 2021-09-22 グーグル エルエルシーGoogle LLC 関連コンテンツを使用した画像の効率的な増強
US10810501B1 (en) 2017-10-20 2020-10-20 Amazon Technologies, Inc. Automated pre-flight and in-flight testing of aerial vehicles by machine learning
US10346969B1 (en) 2018-01-02 2019-07-09 Amazon Technologies, Inc. Detecting surface flaws using computer vision
JP6973205B2 (ja) * 2018-03-15 2021-11-24 オムロン株式会社 画像処理システム、画像処理装置、画像処理プログラム
JP7137346B2 (ja) * 2018-04-20 2022-09-14 株式会社キーエンス 画像観察装置、画像観察方法及び画像観察プログラム並びにコンピュータで読み取り可能な記録媒体
JP7137345B2 (ja) * 2018-04-20 2022-09-14 株式会社キーエンス 形状測定装置、形状測定方法、形状測定プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
WO2019229913A1 (ja) * 2018-05-30 2019-12-05 株式会社ニコン 情報処理装置、情報処理方法、情報処理プログラム、及び顕微鏡
JP7091974B2 (ja) * 2018-09-26 2022-06-28 オムロン株式会社 画像処理システム、画像処理装置、画像処理方法、および画像処理プログラム
JP7259308B2 (ja) * 2018-12-14 2023-04-18 セイコーエプソン株式会社 部品の形状検査方法
WO2020129617A1 (ja) * 2018-12-19 2020-06-25 パナソニックIpマネジメント株式会社 外観検査装置及びそれを用いた溶接箇所の形状不良の有無及び種類の判定精度の向上方法、溶接システム及びそれを用いたワークの溶接方法
JP7349827B2 (ja) * 2019-02-08 2023-09-25 株式会社キーエンス 検査装置
US10611497B1 (en) 2019-02-18 2020-04-07 Amazon Technologies, Inc. Determining vehicle integrity using vibrometric signatures
US10861164B1 (en) 2019-03-28 2020-12-08 Amazon Technologies, Inc. Visually determining vibrometric behavior of aerial vehicles
JP7281942B2 (ja) * 2019-03-29 2023-05-26 Juki株式会社 検査装置及び検査方法
JP7398884B2 (ja) * 2019-05-14 2023-12-15 キヤノン株式会社 撮像装置、発光制御装置、撮像方法、発光制御方法、及びプログラム
US11079303B1 (en) 2019-06-11 2021-08-03 Amazon Technologies, Inc. Evaluating joints using vibrometric signatures
JP7306930B2 (ja) * 2019-09-17 2023-07-11 株式会社キーエンス 光学式情報読取装置
US11794222B1 (en) 2019-11-27 2023-10-24 Amazon Technologies, Inc. Passive brushes for cleaning surfaces in the presence of acoustic excitation
KR102258670B1 (ko) * 2020-02-14 2021-05-31 주식회사 골프존 골프공에 대한 크랙 판별장치 및 방법
US20220100433A1 (en) * 2020-09-30 2022-03-31 Ricoh Company, Ltd. Image forming device, information processing device, computer-readable medium, and image forming method
JP7613996B2 (ja) * 2021-04-16 2025-01-15 株式会社キーエンス 画像検査装置、画像検査装置用制御ユニット、画像検査方法、画像検査プログラム及びコンピュータで読取可能な記録媒体並びに記録した機器
CN118196085B (zh) * 2024-05-15 2024-08-02 沈阳欧施盾新材料科技有限公司 一种高压气瓶的凹坑缺陷检测方法、设备及介质

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040184653A1 (en) * 2003-03-20 2004-09-23 Baer Richard L. Optical inspection system, illumination apparatus and method for use in imaging specular objects based on illumination gradients
US7019826B2 (en) * 2003-03-20 2006-03-28 Agilent Technologies, Inc. Optical inspection system, apparatus and method for reconstructing three-dimensional images for printed circuit board and electronics manufacturing inspection
JP2007206797A (ja) 2006-01-31 2007-08-16 Omron Corp 画像処理方法および画像処理装置
JP4958114B2 (ja) * 2007-12-28 2012-06-20 キヤノンItソリューションズ株式会社 情報処理装置、情報処理方法、コンピュータプログラム
JP5251678B2 (ja) * 2009-03-31 2013-07-31 ソニー株式会社 外観検査用照明装置および外観検査装置
JP5956814B2 (ja) * 2012-04-20 2016-07-27 株式会社キーエンス 外観検査装置、外観検査方法及びコンピュータプログラム
EP2930494B1 (de) * 2012-11-06 2021-08-04 X-Rite Switzerland GmbH Handmessgerät zur erfassung des visuellen eindrucks eines messobjekts
JP6506914B2 (ja) * 2013-07-16 2019-04-24 株式会社キーエンス 三次元画像処理装置、三次元画像処理方法及び三次元画像処理プログラム並びにコンピュータで読み取り可能な記録媒体及び記録した機器
JP6470506B2 (ja) 2014-06-09 2019-02-13 株式会社キーエンス 検査装置
JP6290720B2 (ja) 2014-06-09 2018-03-07 株式会社キーエンス 検査装置、検査方法およびプログラム
JP6403445B2 (ja) * 2014-06-09 2018-10-10 株式会社キーエンス 検査装置、検査方法およびプログラム

Also Published As

Publication number Publication date
JP2018040649A (ja) 2018-03-15
US20180068433A1 (en) 2018-03-08
US10169857B2 (en) 2019-01-01

Similar Documents

Publication Publication Date Title
JP6745173B2 (ja) 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6408259B2 (ja) 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6913705B2 (ja) 三次元画像処理装置、三次元画像処理方法及び三次元画像処理プログラム並びにコンピュータで読み取り可能な記録媒体及び記録した機器
JP6424020B2 (ja) 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6403446B2 (ja) 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6395456B2 (ja) 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6270361B2 (ja) 三次元画像処理装置、三次元画像処理方法及び三次元画像処理プログラム並びにコンピュータで読み取り可能な記録媒体及び記録した機器
JP6242098B2 (ja) 三次元画像処理装置、三次元画像処理方法及び三次元画像処理プログラム並びにコンピュータで読み取り可能な記録媒体及び記録した機器
JP6650986B2 (ja) 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP3185559B2 (ja) 表面欠陥検査装置
JP6568991B2 (ja) 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6246513B2 (ja) 三次元画像処理装置、三次元画像処理方法及び三次元画像処理プログラム並びにコンピュータで読み取り可能な記録媒体及び記録した機器
JP2015021759A (ja) 三次元画像処理装置、三次元画像処理装置用ヘッド部及び三次元画像処理方法
JP6045429B2 (ja) 撮像装置、画像処理装置及び画像処理方法
JP7342616B2 (ja) 画像処理システム、設定方法およびプログラム
JP6308880B2 (ja) 画像検査装置
JP2015021763A (ja) 三次元画像処理装置、三次元画像処理方法及び三次元画像処理プログラム並びにコンピュータで読み取り可能な記録媒体
JP6207270B2 (ja) 三次元画像処理装置、三次元画像処理方法及び三次元画像処理プログラム並びにコンピュータで読み取り可能な記録媒体及び記録した機器
JP5934516B2 (ja) 検査領域表示装置及び検査領域表示方法
JP6266243B2 (ja) 三次元画像処理装置、三次元画像処理方法及び三次元画像処理プログラム並びにコンピュータで読み取り可能な記録媒体及び記録した機器
JP6334861B2 (ja) 外観検査装置、外観検査方法及び外観検査プログラム並びにコンピュータで読み取り可能な記録媒体
JP5374225B2 (ja) ウェハ検査条件決定方法、ウェハ検査条件決定システム及びウェハ検査システム
JP2007033126A (ja) 基板検査装置並びにそのパラメータ調整方法およびパラメータ調整装置
JP6266244B2 (ja) 三次元画像処理装置、三次元画像処理方法及び三次元画像処理プログラム並びにコンピュータで読み取り可能な記録媒体及び記録した機器
JP2020187020A (ja) 表面検査方法とその装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190314

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200714

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200803

R150 Certificate of patent or registration of utility model

Ref document number: 6745173

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250