[go: up one dir, main page]

JP5900037B2 - 画像処理装置およびその制御方法 - Google Patents

画像処理装置およびその制御方法 Download PDF

Info

Publication number
JP5900037B2
JP5900037B2 JP2012051962A JP2012051962A JP5900037B2 JP 5900037 B2 JP5900037 B2 JP 5900037B2 JP 2012051962 A JP2012051962 A JP 2012051962A JP 2012051962 A JP2012051962 A JP 2012051962A JP 5900037 B2 JP5900037 B2 JP 5900037B2
Authority
JP
Japan
Prior art keywords
illumination
image
emission intensity
pattern
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012051962A
Other languages
English (en)
Other versions
JP2013185994A (ja
Inventor
岳史 小島
岳史 小島
泰元 森
泰元 森
康裕 大西
康裕 大西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2012051962A priority Critical patent/JP5900037B2/ja
Priority to DE112013002321.0T priority patent/DE112013002321B4/de
Priority to CN201380013148.2A priority patent/CN104160242B/zh
Priority to PCT/JP2013/051589 priority patent/WO2013132913A1/ja
Publication of JP2013185994A publication Critical patent/JP2013185994A/ja
Priority to US14/475,603 priority patent/US9752994B2/en
Application granted granted Critical
Publication of JP5900037B2 publication Critical patent/JP5900037B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/956Inspecting patterns on the surface of objects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/254Projection of a pattern, viewing through a pattern, e.g. moiré
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/47Scattering, i.e. diffuse reflection
    • G01N21/4738Diffuse reflection, e.g. also for testing fluids, fibrous materials
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/55Specular reflectivity
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8803Visual inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/956Inspecting patterns on the surface of objects
    • G01N21/95684Patterns showing highly reflecting parts, e.g. metallic elements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/55Specular reflectivity
    • G01N2021/557Detecting specular reflective parts on sample
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/956Inspecting patterns on the surface of objects
    • G01N2021/95638Inspecting patterns on the surface of objects for PCB's
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/956Inspecting patterns on the surface of objects
    • G01N2021/95638Inspecting patterns on the surface of objects for PCB's
    • G01N2021/95646Soldering
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/956Inspecting patterns on the surface of objects
    • G01N2021/95638Inspecting patterns on the surface of objects for PCB's
    • G01N2021/95661Inspecting patterns on the surface of objects for PCB's for leads, e.g. position, curvature
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/956Inspecting patterns on the surface of objects
    • G01N2021/95638Inspecting patterns on the surface of objects for PCB's
    • G01N2021/95661Inspecting patterns on the surface of objects for PCB's for leads, e.g. position, curvature
    • G01N2021/95669Inspecting patterns on the surface of objects for PCB's for leads, e.g. position, curvature for solder coating, coverage
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N2201/00Features of devices classified in G01N21/00
    • G01N2201/06Illumination; Optics
    • G01N2201/062LED's
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N2201/00Features of devices classified in G01N21/00
    • G01N2201/12Circuits of general importance; Signal processing

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Description

本発明は、計測対象物の画像を鏡面物体の領域と拡散物体の領域に分離するための技術に関する。
計測対象物をカメラで撮影し、得られた画像を解析することによって、計測対象物の各種検査を行う外観検査装置が知られている。この種の検査装置では、計測対象物表面の反射特性が鏡面反射であるか拡散反射であるかで、処理のアルゴリズムを変える必要が生じる場合がある。鏡面反射の物体(鏡面物体と呼ぶ)では正反射方向からの光の反射光が主に観測されるのに対し、拡散反射の物体(拡散物体と呼ぶ)では様々な方向からの入射光が混じり合うため、鏡面物体と拡散物体とで、得られる画像情報が全く異なるものとなるからである。したがって、プリント基板のように拡散物体(基板表面、部品本体、レジストなど)と鏡面物体(はんだ、ランド、部品電極、プリント配線、金属部品など)が混在したものを計測対象物とする場合には、検査処理に先立ち、計測対象物の画像を鏡面物体の領域と拡散物体の領域に切り分けるための前処理が行われる。
画像から鏡面物体の領域を認識する手法としては、特許文献1のものが知られている。特許文献1の手法では、3つのリング状照明からR,G,Bの光を異なる入射角で基板に照射し物体表面の色を観測することで物体表面の勾配(法線の向き)を推定する、いわゆるカラーハイライト方式の基板外観検査装置において、R,G,Bの順で照明を配列した場合の画像と、B,G,Rの順で照明を配列した場合の画像を取得し、これらの画像間の色差が大きい領域を鏡面物体として認識している。
特開2009−128345号公報
上述した特許文献1の手法は、完全鏡面に近い反射特性をもつ鏡面物体の場合は精度良く認識することができる。しかしながら、例えば鉛フリーはんだのように物体の表面が粗い場合には、認識の精度が低下してしまうという課題がある。その理由を図12に示す。
図12(A)のように、完全鏡面の物体の場合は、入射光は正反射方向にのみ反射され、反射光は鋭く狭い光となる(これを鏡面スパイクと呼ぶ)。この場合にカメラで観測される光は、カメラの光軸の正反射方向から入射した光の反射光だけになるので、画像にはR,G,又はBの純色が現れる。そのため、R,G,Bの配列を入れ替えると画像の色が大きく変化することとなり、鏡面物体を比較的容易に識別することができる。
これに対し、完全鏡面でない鏡面物体の場合は、図12(B)のように、反射光が、鏡面スパイクと、正反射方向から若干ずれた方向へのぼんやりと広がった光(これを鏡面ローブと呼ぶ)とから構成されるようになる。鏡面ローブとは、物体表面の微小凹凸(マイクロファセット)によって引き起こされる反射光の広がりであり、表面が粗くなるほど(すなわちマイクロファセットの向きがばらつくほど)鏡面ローブは広がり、逆に表面が滑らかになるほど鏡面ローブが狭くなり完全鏡面の状態に近づく。この場合にカメラで観測される光は、カメラの光軸の正反射方向から入射した光の鏡面スパイク成分に、正反射方向から若干ずれた方向から入射した光の鏡面ローブ成分が混ざったものとなる。したがっ
て、表面の粗い鏡面物体はR,G,Bの混色(例えばグレー)の画像となる。それゆえ、R,G,Bの配列を入れ替えても色の変化があまり大きく出ず、鏡面物体かどうかの識別が難しいのである。
本発明は上記課題を解決するためになされたものであって、鏡面物体の反射特性によらず、計測対象物の画像を鏡面物体の領域と拡散物体の領域に精度良く分離することのできる技術を提供することを目的とする。
上記目的を達成するために、本発明は、反射光に含まれる鏡面ローブ成分がキャンセルされるように発光強度分布を工夫した2種類の照明パタンで計測対象物を撮像し、得られた2枚の画像の比較結果に基づいて計測対象物上の鏡面物体の領域を認識することを要旨とする。
具体的には、本発明に係る画像処理装置は、鏡面物体と拡散物体を含む計測対象物に対し所定の照明パタンの光を照射する面光源からなる照明手段と、前記照明手段の照明パタンを制御する照明制御手段と、前記計測対象物を撮像する撮像手段と、前記撮像手段で得られた画像を解析することにより、前記計測対象物上の鏡面物体の領域を認識する領域認識手段と、を有し、前記領域認識手段は、前記照明手段から第1照明パタンの光を照射した状態で前記計測対象物を撮像することにより得られた第1画像と、前記照明手段から第2照明パタンの光を照射した状態で前記計測対象物を撮像することにより得られた第2画像とを比較し、その比較結果に基づいて前記計測対象物上の鏡面物体の領域を認識するものである。前記第1画像と前記第2画像は同じ複数のチャンネルから構成される画像である。ここで、前記第1照明パタンは、前記複数のチャンネルのそれぞれに対応し、且つ、互いに異なる発光強度分布を有する複数の第1照明サブパタンから構成され、前記複数の第1照明サブパタンのうちの1つの第1照明サブパタンは、発光強度が面内一様である発光強度分布を有し他の第1照明サブパタンは、前記撮像手段の光軸を含むある断面で考えたときに前記計測対象物に対する光の入射角に応じて発光強度が線形に変化する発光強度分布を有するものであり、前記第2照明パタンは、前記複数のチャンネルのそれぞれに対応し、且つ、互いに異なる発光強度分布を有する複数の第2照明サブパタンから構成され、前記複数の第2照明サブパタンは、いずれも、前記撮像手段の光軸を含むある断面で考えたときに前記計測対象物に対する光の入射角に応じて発光強度が線形に変化する発光強度分布を有するものであり、同じチャンネルに対応する第1照明サブパタンと第2照明サブパタンは、互いに異なる発光強度分布を有し、前記領域認識手段は、前記第1の画像及び前記第2の画像の全てのチャンネルの値を、前記第1の画像における発光強度が面内一様である発光強度分布を有する第1照明サブパタンに対応するチャンネルの値で除した
値を用いて、前記第1の画像と前記第2の画像の間の差分を表す特徴量を求めることを特徴とする。
鏡面物体の場合は、基本的に、撮像手段からみて正反射方向に位置する光源上の点の発光強度に対応した輝度が観測される。つまり、鏡面物体の画像は、照明の発光強度分布に依存した画素値をとる。それゆえ、チャンネル毎に発光強度分布を異ならせた2種類のパタンを用いて撮像を行うことで、鏡面物体の領域の画素値が相違する2枚の画像を得ることができる。一方、拡散物体の場合は、様々な方向から入射した光の成分が混ざり合うため、発光強度分布を変えたとしても画素値はあまり変化しない。したがって、2枚の画像の画素値を比較することで、鏡面物体の領域と拡散物体の領域とを区別することが可能となる。
さらに、本発明では、照明サブパタンの発光強度分布を、「発光強度が面内一様である」か、または、「前記撮像手段の光軸を含むある断面で考えたときに前記計測対象物に対する光の入射角に応じて発光強度が線形に変化する」ように設定している。このような発光強度分布は、反射光に含まれる鏡面ローブ成分をキャンセルする効果がある(以下、「ローブキャンセル効果」と呼ぶ)。したがって、鏡面物体の表面が粗い場合であっても、完全鏡面の場合と同じように、撮像手段からみて正反射方向に位置する光源上の点の発光強度に対応した輝度(つまり鏡面スパイク成分)のみが観測されるようになる。よって、
本発明によれば、鏡面物体の反射特性によらず、計測対象物の画像を鏡面物体の領域と拡散物体の領域に精度良く分離することが可能となる。なお、照明サブパタンの発光強度分布を「発光強度が線形に変化する」ように設定するのが理想であるが、構造上もしくは設計上の理由などから厳密な線形性を実現することが困難な場合もある。そのような場合には実質的に線形性が実現されていればよい。これでも実用上十分なローブキャンセル効果が得られるからである。すなわち、本発明において「発光強度が線形に変化する」とは「発光強度が実質的に線形に変化する」を含む概念である。
前記第1照明パタンを構成する前記複数の第1照明サブパタンの間の面内の総光量の比が、前記第2照明パタンを構成する前記複数の第2照明サブパタンの間の面内の総光量の比と等しいことが好ましい。また、同じチャンネルに対応する第1照明サブパタンと第2照明サブパタンとの間で、面内の総光量が等しくなるように設定するとなおよい。このように総光量の比もしくは総光量自体を合わせることで、第1画像と第2画像の間で拡散物体の部分の比較を精度良く行えるようになる。
前記照明手段の面光源上の点をq、チャンネルをi(i=1,…,n;nは2以上の整数)、チャンネルiに対応する第1照明サブパタンの点qにおける発光強度をL1i(q)、チャンネルiに対応する第2照明サブパタンの点qにおける発光強度をL2i(q)、
としたときに、
全ての点qに関して、
{L11(q),…,L1n(q)}≠{L21(q),…,L2n(q)}
を満たすように、各第1照明サブパタンの発光強度分布及び各第2照明サブパタンの発光強度分布が設定されていることが好ましい。これにより、鏡面物体の法線の向きがいかなる方向であっても、第1画像と第2画像との間で画素値に相違が生じるので、鏡面物体の領域を精度良く認識することができるようになる。
また、前記照明手段の面光源上の点をq、チャンネルをi(i=1,…,n;nは2以上の整数)、チャンネルiに対応する第1照明サブパタンの点qにおける発光強度をL1i(q)、チャンネルiに対応する第2照明サブパタンの点qにおける発光強度をL2i(q)、チャンネルiごとに予め定められた関数をfi、としたときに、
全ての点qに関して、
f1(L11(q)−L21(q))+…+fn(L1n(q)−L2n(q))
が同じ値をとるように、各第1照明サブパタンの発光強度分布及び各第2照明サブパタンの発光強度分布が設定されていることが好ましい。これにより、鏡面物体の法線の向きがいかなる方向であっても、第1画像と第2画像との間の画素値の相違の程度が同じになるので、鏡面物体と拡散物体とを分離する際の閾値の設定が容易になる。
上記のような発光強度分布設定を用いた場合は、前記計測対象物上の点をp、第1画像における点pに対応する画素のチャンネルiの値をV1i(p)、第2画像における点pに対応する画素のチャンネルiの値をV2i(p)、としたときに、
前記領域認識手段は、
f1(V11(p)−V21(p))+…+fn(V1n(p)−V2n(p))
により得られる値を用いて、点pに関する第1画像と第2画像の差分を表す特徴量を求め、前記特徴量が閾値より大きい場合に点pの部分が鏡面物体であると判定することが好ましい。このように特徴量を定義することで、鏡面物体の法線の向きがいかなる方向であっても、特徴量が同じ値をとるので、一つの閾値で鏡面物体か拡散物体かの判別をすることができ、処理が非常に簡単になる。
さらに、チャンネルk(1≦k≦n)に対応する第1照明サブパタンを面内一様な発光
強度分布に設定し、前記領域認識手段は、
f1(V11(p)−V21(p))+…+fn(V1n(p)−V2n(p))
により得られる値を、
V1k(p)
の値で除したものを、前記特徴量とすることが好ましい。V1k(p)で正規化することで鏡面ローブの発生による輝度の低下をキャンセルできるので、表面の粗さに依存しない特徴量を得ることができ、鏡面物体の認識精度を向上することが可能となる。
前記撮像手段で得られた画像を解析することにより、前記計測対象物上の鏡面物体の表面の法線の向きを算出し、その算出結果から前記鏡面物体の表面の3次元形状を算出する3次元計測処理手段をさらに有しており、前記第1画像が、前記3次元計測処理手段による3次元形状の算出にも利用されることが好ましい。このように鏡面物体認識処理と3次元計測処理の両方で同じ画像を利用することで、撮像回数を減らすことができるので、外観検査のスループット向上を図ることができる。
なお、本発明は、上記手段の少なくとも一部を含む画像処理装置として特定することもできるし、この画像処理装置を備える検査システムとして特定することもできる。また、上記処理の少なくとも一部を含む画像処理装置もしくは検査システムの制御方法として特定することもできるし、その方法を画像処理装置もしくは検査システムに実行させるプログラムや、そのプログラムを記録したコンピュータ読取可能な記憶媒体として特定することもできる。上記処理や手段の各々は、技術的な矛盾が生じない限りにおいて、自由に組み合わせることが可能である。
本発明によれば、鏡面物体の反射特性によらず、計測対象物の画像を鏡面物体の領域と拡散物体の領域に精度良く分離することができる。
外観検査装置のハードウェア構成を模式的に示す図。 3次元計測処理用の照明パタンの例を示す図。 Rの発光強度分布における等色線(等発光強度線)を模式的に示す斜視図。 計測対象物の法線の向きと面光源上の発光領域の対応を説明する図。 入射光と反射光を説明するための図。 ローブキャンセル効果を説明するための図。 鏡面物体認識処理用の照明パタンの例を示す図。 鏡面物体認識処理のフローチャート。 計測対象物及びその画像の一例を模式的に示す図。 平面形状の照明装置を備える外観検査装置の構成を示す図。 平面形状の照明装置における照明パタンを説明するための図。 鏡面物体の反射特性を説明するための図。
以下、図面を参照して本発明の好適な実施形態について説明する。本実施形態の画像処理装置は、計測対象物の画像を解析することで鏡面物体の領域を認識(鏡面物体の領域と拡散物体の領域とを分離)するものである。この装置は、各種の自動計測装置、自動検査装置、ロボットビジョンなどにおける物体認識やセグメンテーションに適用可能である。以下、はんだ付けの良否検査や基板上の部品やはんだの3次元形状計測などを行う外観検査装置(AOIシステム)を例に挙げて説明を行う。
<外観検査装置の全体構成>
図1を参照して、外観検査装置の全体構成について説明する。図1は外観検査装置のハードウェア構成を模式的に示す図である。
外観検査装置は、概略、計測ステージ5、検査ヘッドH、および、情報処理装置6を備えて構成される。検査ヘッドHには、計測ステージ5上に配置されたプリント基板などの計測対象物4に測定光を照射するための照明装置3と、鉛直上方から計測対象物4を撮影するカメラ(イメージセンサ)1とが取り付けられている。情報処理装置6は、CPU(中央演算処理装置)60、メモリ61、記憶装置62、検査ヘッド制御部63、画像入力部64、照明装置制御部66、ステージ制御部67、ユーザI/F68、表示部69などを備えている。検査ヘッド制御部63は検査ヘッドHのZ方向(計測ステージ5に垂直な方向)の移動を制御する機能であり、ステージ制御部67は計測ステージ5のXY方向の移動を制御する機能である。照明装置制御部66は照明装置3の点灯および消灯(必要に応じて照明パタンの切り替え)を制御する機能である。画像入力部64はカメラ1からデジタル画像を取り込む機能である。ユーザI/F68はユーザにより操作される入力装置であり、例えばポインティングデバイス、タッチパネル、キーボードなどが該当する。表示部69は計測結果などが画面表示される部分であり、例えば液晶ディスプレイなどで構成される。
照明装置3は、ドーム形状をした面光源であり、このドーム形状の全てが発光領域である。なお、照明装置3の天頂部分にはカメラ1のための開口が設けられている。このような照明装置3は、例えば、ドーム形状の拡散板と、拡散板の背面側に配列した複数のLEDチップとから構成することができる。また、液晶ディスプレイや有機ELディスプレイなどをドーム形状にして、照明装置3を構成することもできる。
照明装置3の発光領域の形状は、計測対象物4の全方位から光を照射できるように半球状のドーム形状であることが好ましい。こうすることにより、計測対象物の表面がいずれの方向を向いていても計測することが可能となる。ただし、計測対象物の表面の向きがある範囲に限定されているのであれば、面光源の形状はどのようなものであってもよい。例えば、表面の法線の向きがほぼ鉛直方向に限られるのであれば、水平方向(角度の浅い方向から)は光を照射する必要がない。
計測時には、検査ヘッドHと計測ステージ5が相対的に移動し、計測対象物4が所定の計測位置(図1の例では、照明装置3の中央(カメラ1の光軸と計測ステージ5の交点))に位置決めされる。そして、照明装置3から所定の照明パタンの測定光を照射した状態で計測対象物4が撮影され、画像データが画像入力部64を介して情報処理装置6に取り込まれる。このとき、照明パタンを切り替えて複数回撮影を行うことで、1つの計測対象物4につき複数の画像データが取得される。
本実施形態の外観検査装置は、基板上の部品配置の良否やはんだ付けの良否などの検査を高精度に行うために、画像解析によって基板上の鏡面物体(はんだ、部品電極、金属部品など)の3次元形状を計測する3次元計測処理機能を有している。この機能は、後述するように、鏡面物体の反射特性を利用したものであるため、拡散物体(例えば、基板表面、部品本体、レジストなど)の3次元形状の計測には適用できない。そのため本装置では、3次元形状を算出する処理を行うのに先立ち、計測対象物4の画像から鏡面物体の領域を認識・抽出するための前処理(鏡面物体認識処理)を行う。
以下、実際の処理の順番とは逆になるが、本装置の照明パタンとローブキャンセル効果についての理解のため最初に3次元計測処理の原理について説明し、その後で鏡面物体認識処理について説明を行う。
<3次元計測処理>
3次元計測処理では、予め決められた3次元計測用の照明パタンを用いて計測対象物4の撮影を行う。
図2に、3次元計測処理用の照明パタンの例を示す。図2は、面光源である照明装置3の2次元的な発光強度分布を模式的に表しており、横軸がX方向の経度(0からπ)、縦軸がY方向の経度(0からπ)を示す。ここでは、発光強度が0から255の値をとるものとし、発光強度0(最も暗い)を黒色、発光強度255(最も明るい)を白色、その間の発光強度をグレーで表している。
本実施形態の照明パタンは、図2に示すように、互いに発光強度分布の異なる3つの照明サブパタンから構成され、各照明サブパタンは画像のそれぞれのチャンネルに対応している。つまり、1番目の照明サブパタンを照射したときの反射光の観測値が画像の1番目のチャンネルのデータとなり、2番目の照明サブパタンの反射光の観測値が2番目のチャンネルのデータ、3番目の照明サブパタンの反射光の観測値が3番目のチャンネルのデータとなる。
各照明サブパタンの光の色(スペクトル分布)は互いに異なっていてもよいし、同じでもよい。R,G,Bのように異なる色の光を用いる場合には、それらの照明サブパタンを合成した光を照射し、カメラ側のカラーフィルタで各色に分解する構成により、1回の照明および撮像で3次元計測用の画像を取得できるという利点がある。一方、同じ色の光を用いる場合は、照明サブパタンを切り替えながら複数回撮像を行う必要があるため、処理時間は若干長くなるが、同じ光源を用いることで照明の光量が安定するので計測精度を向上できるという利点がある。本実施形態では、R,G,Bの3色の照明サブパタンを用いる例を説明する。この場合、3次元計測用の画像は、R,G,Bの3つのチャンネルから構成されるRGBカラー画像となる。
図2に示すように、Rの照明サブパタンは、X方向の経度(0→π)に応じて発光強度が50→250と線形に増加するように設定される。これに対し、Gの照明サブパタンは、発光強度が面内の全域で150となるように設定されている。また、Bの照明サブパタンは、Y方向の経度(0→π)に応じて発光強度が250→50と線形に減少するように設定されている。
図3を用いて、Rの照明サブパタンの発光強度分布を詳しく説明する。図3はRの発光強度分布における等色線(等発光強度線)を模式的に示す斜視図である。ここで、X方向の経度は、計測ステージ5上の計測対象物4が配置される点Oを原点としたときに、Y軸周りの角度θで表される。経度θの経線上の点は同じ発光強度L(θ)に設定される。図2の例では、L(θ)=50+(250−50)×(θ/π)となる。ここで、経度θは、カメラ1の光軸(Z軸)とX軸を含む断面(XZ断面)で考えたときに、計測対象物4に対する光の入射角に対応するものであるから、Rの発光強度分布は、XZ断面において、光の入射角に応じて発光強度が線形に変化するように設定されている、ということができる。図示しないが、同じように考えれば、Bの発光強度分布は、YZ断面において、光の入射角に応じて発光強度分布が線形に変化するように設定されているということができる。
このように設定された照明パタンを用いた場合、面光源上の位置ごとに異なる色(R,G,Bの発光強度の組み合わせ)の発光が行われることとなる。例えば、(X方向経度,Y方向経度)=(0,0)の位置では(R,G,B)=(50,150,250)と青味が強くなり、(X方向経度,Y方向経度)=(π/2,π/2)の位置(つまり天頂部分)では(R,G,B)=(150,150,150)とグレーとなる。
このような照明パタンを利用することで、1枚の画像のみから計測対象物の表面形状(法線の向き)を計測することができる。このことを図4を参照して説明する。計測対象物4の表面上のある点における法線の向きが矢印Nの向きであり、天頂角がθ、方位角がφであるとする。計測対象物4が鏡面物体の場合、カメラ1によって撮影される物体上の点の色は、面光源(照明装置3)の位置Rで発光し計測対象物4へ入射する光の反射光となる。このように、表面の法線の向き(θ、φ)と、入射光の方向(面光源上の位置R)は1対1に対応する。そして、異なる方向から入射される光は異なる色をもつ(R,G,Bの発光強度の組み合わせが異なる)ことから、画素の色特徴(各チャンネルの値の組み合わせ)を調べることで、その点における法線の向きを天頂角および方位角の両方について、特定することができる。なお、画素の色特徴と法線の向きとの対応関係は予めテーブルとしてもっておけばよい。画像の各点(各画素)について法線の向きを算出できたら、各点の法線を勾配に変換し、それらをつなぎ合わせることで、鏡面物体の3次元形状を復元することができる。
(ローブキャンセル効果)
上記のように、本装置では、RとBの発光強度分布は、入射角に応じて発光強度が線形に変化するように設定され、Gの発光強度分布は、面内一様な強度となるように設定されている。このような発光強度分布は、反射光に含まれる鏡面ローブ成分をキャンセルする効果(ローブキャンセル効果)があるので、鉛フリーはんだのように表面の粗い鏡面物体であっても、完全鏡面の場合と同じような色特徴を観測できるようになる。以下、このローブキャンセル効果について説明する。
図12(B)に示したように、完全鏡面でない鏡面物体の場合は、正反射(鏡面スパイク)以外に鏡面ローブが発生する。そのため、カメラ1で観測される光は、カメラ1の光軸の正反射方向から入射した光の鏡面スパイク成分に、正反射方向から若干ずれた方向から入射した光の鏡面ローブ成分が混ざったものとなる。したがって、完全鏡面の場合に比べて色特徴が変化してしまう。
このとき、正反射方向以外から入射した光の成分がちょうどキャンセルして完全鏡面の場合と同様の色特徴が保たれるような照明を行うことができれば、表面が粗い物体や反射特性が均一でない物体でも、あたかも完全鏡面の物体と同じように計測することができる。これを実現するためには、理論的には、照明装置3の発光強度分布を次のように設定すればよい。
すなわち、図5に示すように、入射角(θi,φi)の方向から計測点pに入射する光源分布をLi(p,θi,φi)としたときに、点pにおける任意の法線ベクトルおよび発光領域上の任意の点対称領域Ωについて、以下の式が成り立てばよい。
Figure 0005900037
ここで、pは物体表面上の計測点、(θi,φi)は光の入射方向(θは天頂角成分、φは方位角成分。以下同じ。)、(θr,φr)は光の反射方向(カメラ方向)、(θis,φis)は(θr,φr)に対する正反射方向、fは点pの反射特性、Ωは(θis,φis)を中心とする点対称領域、である。
本実施形態で用いた照明パタン(照明サブパタン)の発光強度分布は、いずれも上記式
の近似解の一つである。
このような照明パタンを利用することで鏡面ローブの影響を相殺できることを、図6を参照して別の観点から説明する。図6は、本実施形態における照明パタンのローブキャンセル効果を説明するために、理想に近い光が得られる輝度変化方向の1次元方向を示した図である。ここでは、図6に示すように、角度a(正反射方向)、角度a+α、角度a−αの3点からの光についてのみ考える。角度a+α、a−αの位置からの光のローブ係数は、互いに等しくσであるとする。また、照明装置3の発光強度は、角度に比例するものとして、角度a−α、a、a+αのそれぞれの位置において、(a−α)L、aL、(a+α)Lであるとする。すると、この3点からの反射光の合成は、σ(a−α)L+aL+σ(a+α)L=(1+2σ)aLとなり、周囲からの光の鏡面ローブ成分による影響が相殺されることが分かる。なお、ここではa±αの2点のみを考えているが、周囲からの光の鏡面ローブ成分の影響は全て相殺されることは容易に分かる。このことは、RGBそれぞれの光について成立し、したがって、RGBの各色の発光強度の比によって表される色特徴は、完全鏡面反射の場合と同一の値となる。よって、表面が粗い物体や反射特性が均一でない物体の場合であっても、完全鏡面反射の場合と同様の色特徴を得ることができる。
なお、上記の説明は最も理想的な効果が得られる方向についての説明である。その他の方向については、上記のような線形性が崩れてしまい厳密には鏡面ローブ成分の影響を相殺することはできないが、実用上問題ない範囲で鏡面ローブ成分の影響を除去することが可能である。
<鏡面物体認識処理>
上述した3次元計測処理は鏡面物体の反射特性を利用したものであるため、拡散物体の3次元計測には適用できない。それゆえ本装置では、画像の色特徴から3次元形状を復元する処理を実行する前に、画像中の鏡面物体の領域を特定する処理を行う。その基本的なアルゴリズムは、鏡面物体の色特徴のみが変わるように設定した2種類の照明パタンを使って計測対象物を撮影し、得られた2枚の画像を比較して、色特徴が大きく変化しているかどうかで鏡面物体か拡散物体かを識別する、というものである。
(照明パタンの設定条件)
以下、2種類の照明パタンの設定条件を説明する。なお、1つ目の照明パタンを「第1照明パタン」、第1照明パタンを構成するそれぞれの照明サブパタンを「第1照明サブパタン」と呼び、2つ目の照明パタンを「第2照明パタン」、第2照明パタンを構成するそれぞれの照明サブパタンを「第2照明サブパタン」と呼ぶ。また、第1照明パタンを用いて得られた画像を「第1画像」、第2照明パタンを用いて得られた画像を「第2画像」と呼ぶ。
(条件1)同じチャンネルに対応する第1照明サブパタンと第2照明サブパタンが、互いに異なる発光強度分布を有する。
鏡面物体の場合は、基本的に、カメラ1からみて正反射方向に位置する光源上の点の発光強度に対応した輝度が観測される。つまり、鏡面物体の画像は、照明の発光強度分布に依存した画素値をとる。一方、拡散物体の場合は、様々な方向から入射した光の成分が混ざり合うため、発光強度分布を変えたとしても画素値はあまり変化しない。それゆえ、条件1を満たす2種類の照明パタンを用いて撮像を行うことで、鏡面物体の領域のみ画素値が相違する2枚の画像を得ることができる。
(条件2)第1照明パタン、第2照明パタンのそれぞれに、ローブキャンセル効果を有
する発光強度分布のパタンを用いる。すなわち、第1照明パタン(第1照明サブパタンのそれぞれ)と第2照明パタン(第2照明サブパタンのそれぞれ)がいずれも上記の式(数1)の解または近似解となるような発光強度分布をもつ。
ローブキャンセル効果により、鏡面物体の表面が粗い場合であっても、完全鏡面の場合と同じように、カメラ1からみて正反射方向に位置する光源上の点の発光強度に対応した輝度(つまり鏡面スパイク成分)のみが観測されるようになる。よって、条件2を満たす照明パタンを用いることにより、鏡面物体の反射特性によらず、鏡面物体の領域と拡散物体の領域の分離を精度良く行うことが可能となる。
必須の条件は上記の2つであるが、さらに以下の条件を満たすように設定することが好ましい。
(条件3)第1照明サブパタンの間の面内の総光量の比が、第2照明サブパタンの間の面内の総光量の比と等しい。
拡散物体での反射光には様々な方向から入射した光の成分が混ざり合うため、拡散物体の画像は、照明の総光量(発光強度の面内積分)に依存した画素値をとる。すなわち、複数の照明サブパタンの間の面内の総光量の比は、拡散物体の画像のカラーバランス(色相)を決定する。上記のように第1照明パタンの比と第2照明パタンの比を等しくすれば、第1画像と第2画像の間で拡散物体の部分のカラーバランスが同じになるので、画像の比較を精度良く行うことができる。なお、比が同じでも、第1照明パタンと第2照明パタンとで総光量の値が異なる(明るさが異なる)場合は画素の値自体は相違するので、その場合は画像の比較を行う前に両画像の値を合わせるようなレベル調整を行えばよい。
ところで、画像の各チャンネルがR,G,Bのようなカラーチャンネルである場合はその画像はカラー画像となるが、画像の各チャンネルが(色とは関係の無い)輝度を表すチャンネルである場合は、その画像は厳密にはカラー画像ではないので、「カラー」バランスや「色」相という用語は適切でないかもしれない。しかし、後者の場合でも、チャンネルが複数ある場合には画像処理上はカラー画像と同じに扱うことができる(あるいは、各チャンネルに疑似的に色を割り当てることで疑似カラー画像として扱うこともできる)ので、本明細書では両者を特に区別しない。
(条件4)同じチャンネルに対応する第1照明サブパタンと第2照明サブパタンとの間で、面内の総光量が等しい。
総光量自体を一致させれば、拡散物体の部分の画素値がほぼ一致する。したがって、同じチャンネル同士の値をそのまま(レベル調整等をすることなく)比較することができるので、例えば単純に値を引き算するだけで差分画像を計算することができる。
(条件5)照明装置3の面光源上の全ての点qに関して、
{L11(q),…,L1n(q)}≠{L21(q),…,L2n(q)}
が成立する。ここで、iはチャンネル(i=1,…,n;nは2以上の整数)、L1i(q)はチャンネルiに対応する第1照明サブパタンの点qにおける発光強度、L2i(q)はチャンネルiに対応する第2照明サブパタンの点qにおける発光強度である。
この条件5は、第1照明パタンと第2照明パタンの間で面光源上の同じ点qに同じ色が出ないように各照明パタンの発光強度分布を設定する、というものである。条件5を満たすことで、鏡面物体の法線の向きがいかなる方向であっても、第1画像と第2画像との間で画素値に相違が生じるので、鏡面物体の領域を精度良く認識することができるようにな
る。
(条件6)照明装置3の面光源上の全ての点qに関して、
f1(L11(q)−L21(q))+…+fn(L1n(q)−L2n(q))
が同じ値をとる。ここで、fiは、チャンネルiごとに予め定められた関数であり、各チャンネル間の発光強度の差分のバランスを調整するためのものである。例えば、絶対値を得る関数(abs)、定数を乗じる関数、正規化する関数など、任意の関数を用いることができる。なお、関数fiには、定数1を乗じる関数(つまり、何も操作しない関数)も含まれるものとする。
この条件6は、上記式を用いて第1照明パタンと第2照明パタンの発光強度の差分を評価した場合に、その評価値が面光源上のいずれの点qにおいても同じ値をとる、というものである。したがって条件6を満たすように照明パタンを設定することで、鏡面物体の法線の向きがいかなる方向であっても、第1画像と第2画像との間の画素値の相違の程度が同じになるので、鏡面物体と拡散物体とを分離する際の閾値の設定が容易になる。
(差分特徴量)
なお、条件6を満たすように照明パタンを設定した場合には、照明パタンの設定に用いたものと同じ関数fiを用いて、第1画像と第2画像の間の差分を表す特徴量Fを、下記式のように求めるとよい。
F=f1(V11(p)−V21(p))+…+fn(V1n(p)−V2n(p))
ここで、pは計測対象物上の点であり、V1i(p)は第1画像における点pに対応する画素のチャンネルiの値であり、をV2i(p)は第2画像における点pに対応する画素のチャンネルiの値である。
このように特徴量を定義することで、鏡面物体の法線の向きがいかなる方向であっても、特徴量Fが同じ値をとるので、一つの閾値で鏡面物体か拡散物体かの判別をすることができ、処理が非常に簡単になる。
さらに、チャンネルk(1≦k≦n)に対応する第1照明サブパタンを面内一様な発光強度分布に設定した上で、上記式で得られる値Fを第1画像における点pに対応する画素のチャンネルkの値(V1k(p))で除したもの(F/V1k(p))を特徴量として定義するとなおよい。
表面の粗い鏡面物体の場合、鏡面ローブの発生により反射光の強度が若干低下するが、その低下度合いは表面の粗さによって違ってくるので、予測することは難しい。面内一様な発光強度分布のパタンを用いて得られた値V1k(p)は、表面の粗さに依存した強度低下を含んだ値をとる。よって、この値V1k(p)で全てのチャンネルの値を除することは、表面の粗さに依存した強度低下をキャンセルすることと等価であり、これにより、表面の粗さに依存しない特徴量を得ることができ、鏡面物体の認識精度を向上することが可能となる。
(実施例)
上述した照明パタンの設定条件を満たすように作成した第1照明パタンと第2照明パタンの一例を図7に示す。図7の上段が第1照明パタンを構成する3つの第1照明サブパタンを示し、下段が第2照明パタンを構成する3つの第2照明サブパタンを示している。
本実施例では、第1照明パタンとして、3次元計測用の照明パタンと同じものを用いる。3次元計測用に取得した画像を鏡面物体認識処理にも流用できるからである。そして、
第1照明パタンと組み合わせたときに上記各設定条件を満たすように設計したものが図7の第2照明パタンである。
具体的には、Rチャンネルの第2照明サブパタンは、第1照明サブパタンをX方向に反転したものであり、X方向の経度(0→π)に応じて発光強度が250→50と線形に減少するように設定される。またBチャンネルの第2照明サブパタンは、第1照明サブパタンをY方向に反転したものであり、Y方向の経度(0→π)に応じて発光強度が50→250と線形に増加するように設定される。そして、Gチャンネルの第2照明サブパタンについては、上記の条件6を満足するように、下記式の値が面光源上の全ての点で同じ値cnstをとるように設定する。
abs(R2−R1)/2+(G2−G1)+abs(B2−B1)/2=cnst
ここで、R1,G1,B1は第1照明サブパタンの発光強度であり、R2,G2,B2は第2照明サブパタンの発光強度である。すなわち本実施例では、条件6の式において、f1,f3として「差分の絶対値に1/2を乗じる」という関数を採用し、f2として「1を乗じる(なにも操作しない)」という関数を採用している。
G1は全ての点で150であり、条件3と条件4が成立するのはcnstが100のときであるから、結局、Gチャンネルの第2照明サブパタンの発光強度は下記式のとおり求まる。
G2=250−abs(R2−R1)/2−abs(B2−B1)/2
このパタンは、(X方向経度,Y方向経度)=(π/2,π/2)のときに発光強度が最大値250をとり、(X方向経度,Y方向経度)=(0,0),(π,0),(0,π),(π,π)の点に向かって発光強度が線形に減少するような分布となる。発光強度の最小値は50である。この発光強度分布も、カメラの光軸(Z軸)を含みX軸と角度π/2(または−π/2)をなす断面で考えたときに、光の入射角に応じて発光強度が線形に変化する。よって、このパタンもローブキャンセル効果を有するものといえる。
以上のように設定された第1照明パタンと第2照明パタンは、条件1と条件2を満足している。さらに、第1照明サブパタンの総光量は、R:G:B=(250+50)/2:150:(250+50)/2=1:1:1であり、第2照明サブパタンの総光量も、R:G:B=(250+50)/2:150:(250+50)=1:1:1であるから、条件3と条件4も満足する。また、図7より条件5を満足することも明らかであり、上記のようにG2を決定したことから条件6も満足する。
次に、図1、図8、図9を参照しながら、鏡面物体認識処理のフローを説明する。図8は鏡面物体認識処理のフローチャートであり、図9は計測対象物及びその画像の一例を模式的に示す図である。ここでは図9(A)に示すように、基板100の上に部品110が実装されたものを計測対象物とする。基板100の表面および部品110の本体111は樹脂の拡散物体であり、部品110の両端の電極112は金属の鏡面物体である。また電極112は鉛フリーはんだによってはんだ付けされており、このはんだ部分113は表面の粗い鏡面物体である。
ステップS1において、照明装置制御部66が照明パタンを第1照明パタン(図7の上段)に切り替える。そして、ステップS2では、照明装置3から第1照明パタンの測定光を照射した状態で計測対象物4の撮影を行い、第1画像のデータを取得する。図示しないが、ここで得られた第1画像のデータは鏡面物体の3次元計測処理にも利用される。
次にステップS3において、照明装置制御部66が照明パタンを第2照明パタン(図7の下段)に切り替える。そして、ステップS4では、照明装置3から第2照明パタンの測
定光を照射した状態で計測対象物4の撮影を行い、第2画像のデータを取得する。なお、照明サブパタン毎に撮影を行う場合には、ステップS1とS2の処理、およびステップS3とS4の処理がそれぞれ3回ずつ繰り返される。
図9(B)、(C)に示すように、第1画像及び第2画像においては、拡散物体である基板100や部品本体111ではその物体自体の色が現れている。これに対し、鏡面物体である電極112やはんだ部分113では、物体自体の色(金属の色)ではなく、物体表面の法線の向きに応じた照明の色が現れており、また第1画像と第2画像の間でその色特徴が相違していることが分かる。
続いてステップS5では、CPU60が、第1画像と第2画像の各画素について、下記式により差分特徴量Fを計算する。
F={abs(r2−r1)/2+(g2−g1)+abs(b2−b1)/2}/g1
ここで、r1,g1,b1は第1画像の各チャンネルの値であり、r2,g2,b2は第2画像の各チャンネルの値である。
鏡面物体の場合、r1,g1,b1,r2,g2,b2の値は照明の発光強度R1,G1,B1,R2,G2,B2に概ね比例すること、及び、
abs(R2−R1)/2+(G2−G1)+abs(B2−B1)/2=100
G1=150
であることから、鏡面物体の領域での差分特徴量Fの値は、概ね0.67(=100/150)となる。一方、拡散物体の場合、r1,g1,b1,r2,g2,b2の値は照明の総光量に概ね比例すること、及び、条件3と条件4を満たすように照明が設定されていることから、拡散物体の領域での差分特徴量Fの値は、概ね0となる。したがって、鏡面物体の領域と拡散物体の領域の間で、差分特徴量Fの値が有意に分離する。図9(D)は差分特徴量Fの画像(差分画像)を示している。
ステップS6では、CPU60が、差分画像を所定の閾値で二値化する。閾値については、予め決めた値(鏡面物体の差分特徴量Fは約0.67、拡散物体の差分特徴量Fは約0となるから、閾値としてはその間の値、例えば0.5など)を用いてもよいし、大津の判別分析法などを利用して動的に閾値を求めてもよい。図9(E)は二値化した画像の例であり、白い部分が鏡面物体の領域、黒い部分が拡散物体の領域を示している。このように、鏡面物体の領域と拡散物体の領域を精度良く分離することができる。
<実施形態の利点>
本実施形態の外観検査装置によれば、計測対象物を撮影して得られた2枚の画像を比較するという簡単な処理で、計測対象物の画像を鏡面物体の領域と拡散物体の領域に分離することができる。また、反射光に含まれる鏡面ローブ成分がキャンセルされるように照明パタンの発光強度分布を工夫したので、表面の粗い鏡面物体や反射特性が不均一な鏡面物体であっても、その領域を精度良く認識することができる。さらに、鏡面物体認識処理と3次元計測処理の両方で同じ画像を利用するようにしたので、撮像回数を減らすことができ、外観検査のスループット向上を図ることができる。
なお上記実施形態は本発明の一具体例を示したものにすぎず、本発明の範囲をそれらの構成のみに限定するものではない。本発明はその技術思想の範囲内で種々の実施形態を取り得る。例えば、上記実施形態では鏡面物体認識処理と3次元計測処理で同じ画像を利用したが、これは必須ではなく、それぞれの処理に適した照明パタンを用いて別の画像を撮影してもよい。また鏡面物体認識処理用の照明パタンは、上記設定条件の条件1と条件2を少なくとも満たすものであればどのようなパタンを用いてもよい。また上記実施形態では3つの照明サブパタンにより3チャンネルの画像を生成したが、照明サブパタン及びチ
ャンネルの数は3でなくてもよい。
また照明装置3の形状はドーム状(半球状)に限られず、図10に示すような平板形状でもよい。また平板を弧状に湾曲させた形状でもよい。このような形状の照明装置3においても、上記設定条件を満たすように照明パタンを設定すれば、鏡面物体の領域と拡散物体の領域との切り分けが可能となる。平面状の照明装置3を用いた場合、図11に示すように、各パタンにおいて、発光強度を角度θに対して線形に変化させることで、鏡面ローブの影響をほぼ相殺することができる。ここで、θは、点P(計測対象物が配置される点)を通り計測ステージ5に平行な直線周りの角度である。あるいは、θは、照明装置3の発光領域上の等発光強度線(等色線)と点Pを通る平面と、計測ステージ5に平行な平面とのなす角と表現することもできる。
1:カメラ、3:照明装置、4:計測対象物、5:計測ステージ、6:情報処理装置、H:検査ヘッド

Claims (10)

  1. 鏡面物体と拡散物体を含む計測対象物に対し所定の照明パタンの光を照射する面光源からなる照明手段と、
    前記照明手段の照明パタンを制御する照明制御手段と、
    前記計測対象物を撮像する撮像手段と、
    前記撮像手段で得られた画像を解析することにより、前記計測対象物上の鏡面物体の領域を認識する領域認識手段と、
    を有し、
    前記領域認識手段は、前記照明手段から第1照明パタンの光を照射した状態で前記計測対象物を撮像することにより得られた第1画像と、前記照明手段から第2照明パタンの光を照射した状態で前記計測対象物を撮像することにより得られた第2画像とを比較し、その比較結果に基づいて前記計測対象物上の鏡面物体の領域を認識するものであり、
    前記第1画像と前記第2画像は同じ複数のチャンネルから構成される画像であり、
    前記第1照明パタンは、前記複数のチャンネルのそれぞれに対応し、且つ、互いに異なる発光強度分布を有する複数の第1照明サブパタンから構成され、
    前記複数の第1照明サブパタンのうちの1つの第1照明サブパタンは、発光強度が面内一様である発光強度分布を有し他の第1照明サブパタンは、前記撮像手段の光軸を含むある断面で考えたときに前記計測対象物に対する光の入射角に応じて発光強度が線形に変化する発光強度分布を有するものであり、
    前記第2照明パタンは、前記複数のチャンネルのそれぞれに対応し、且つ、互いに異なる発光強度分布を有する複数の第2照明サブパタンから構成され、
    前記複数の第2照明サブパタンは、いずれも、前記撮像手段の光軸を含むある断面で考えたときに前記計測対象物に対する光の入射角に応じて発光強度が線形に変化する発光強度分布を有するものであり、
    同じチャンネルに対応する第1照明サブパタンと第2照明サブパタンは、互いに異なる発光強度分布を有し
    前記領域認識手段は、前記第1の画像及び前記第2の画像の全てのチャンネルの値を、前記第1の画像における発光強度が面内一様である発光強度分布を有する第1照明サブパタンに対応するチャンネルの値で除した値を用いて、前記第1の画像と前記第2の画像の
    間の差分を表す特徴量を求める
    ことを特徴とする画像処理装置。
  2. 前記第1照明パタンを構成する前記複数の第1照明サブパタンの間の面内の総光量の比が、前記第2照明パタンを構成する前記複数の第2照明サブパタンの間の面内の総光量の比と等しい
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 同じチャンネルに対応する第1照明サブパタンと第2照明サブパタンは、面内の総光量が互いに等しい
    ことを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記照明手段の面光源上の点をq、
    チャンネルをi(i=1,…,n;nは2以上の整数)、
    チャンネルiに対応する第1照明サブパタンの点qにおける発光強度をL1i(q)、
    チャンネルiに対応する第2照明サブパタンの点qにおける発光強度をL2i(q)、としたときに、
    全ての点qに関して、
    {L11(q),…,L1n(q)}≠{L21(q),…,L2n(q)}
    を満たすように、各第1照明サブパタンの発光強度分布及び各第2照明サブパタンの発光強度分布が設定されている
    ことを特徴とする請求項1〜3のうちいずれか1項に記載の画像処理装置。
  5. 前記照明手段の面光源上の点をq、
    チャンネルをi(i=1,…,n;nは2以上の整数)、
    チャンネルiに対応する第1照明サブパタンの点qにおける発光強度をL1i(q)、
    チャンネルiに対応する第2照明サブパタンの点qにおける発光強度をL2i(q)、
    チャンネルiごとに予め定められた関数をfi、
    としたときに、
    全ての点qに関して、
    f1(L11(q)−L21(q))+…+fn(L1n(q)−L2n(q))
    が同じ値をとるように、各第1照明サブパタンの発光強度分布及び各第2照明サブパタンの発光強度分布が設定されている
    ことを特徴とする請求項1〜4のうちいずれか1項に記載の画像処理装置。
  6. チャンネルk(1≦k≦n)に対応する第1照明サブパタンは、発光強度が面内一様であり、
    前記計測対象物上の点をp、
    第1画像における点pに対応する画素のチャンネルiの値をV1i(p)、
    第2画像における点pに対応する画素のチャンネルiの値をV2i(p)、
    としたときに、
    前記領域認識手段は、
    f1(V11(p)−V21(p))+…+fn(V1n(p)−V2n(p))
    により得られる値を
    V1k(p)
    の値で除した値用いて、点pに関する第1画像と第2画像の差分を表す特徴量を求め、
    前記特徴量が閾値より大きい場合に点pの部分が鏡面物体であると判定する
    ことを特徴とする請求項5に記載の画像処理装置。
  7. 前記撮像手段で得られた画像を解析することにより、前記計測対象物上の鏡面物体の表
    面の法線の向きを算出し、その算出結果から前記鏡面物体の表面の3次元形状を算出する3次元計測処理手段をさらに有しており、
    前記第1画像が、前記3次元計測処理手段による3次元形状の算出にも利用される
    ことを特徴とする請求項1〜のうちいずれか1項に記載の画像処理装置。
  8. 鏡面物体と拡散物体を含む計測対象物に対し所定の照明パタンの光を照射する面光源からなる照明手段と、前記照明手段の照明パタンを制御する照明制御手段と、前記計測対象物を撮像する撮像手段と、前記撮像手段で得られた画像を解析することにより、前記計測対象物上の鏡面物体の領域を認識する領域認識手段と、を有する画像処理装置の制御方法であって、
    前記照明手段から第1照明パタンの光を照射した状態で、前記撮像手段により前記計測対象物を撮像することにより、第1画像を取得するステップと、
    前記照明手段から第2照明パタンの光を照射した状態で、前記撮像手段により前記計測対象物を撮像することにより、第2画像を取得するステップと、
    前記領域認識手段が前記第1画像と前記第2画像との比較結果に基づいて前記計測対象物上の鏡面物体の領域を認識するステップと、を含み、
    前記第1画像と前記第2画像は同じ複数のチャンネルから構成される画像であり、
    前記第1照明パタンは、前記複数のチャンネルのそれぞれに対応し、且つ、互いに異なる発光強度分布を有する複数の第1照明サブパタンから構成され、
    前記複数の第1照明サブパタンのうちの1つの第1照明サブパタンは、発光強度が面内一様である発光強度分布を有し他の第1照明サブパタンは、前記撮像手段の光軸を含むある断面で考えたときに前記計測対象物に対する光の入射角に応じて発光強度が線形に変化する発光強度分布を有するものであり、
    前記第2照明パタンは、前記複数のチャンネルのそれぞれに対応し、且つ、互いに異なる発光強度分布を有する複数の第2照明サブパタンから構成され、
    前記複数の第2照明サブパタンは、いずれも、前記撮像手段の光軸を含むある断面で考えたときに前記計測対象物に対する光の入射角に応じて発光強度が線形に変化する発光強度分布を有するものであり、
    同じチャンネルに対応する第1照明サブパタンと第2照明サブパタンは、互いに異なる発光強度分布を有し
    前記領域認識手段は、前記第1の画像及び前記第2の画像の全てのチャンネルの値を、前記第1の画像における発光強度が面内一様である発光強度分布を有する第1照明サブパタンに対応するチャンネルの値で除した値を用いて、前記第1の画像と前記第2の画像の間の差分を表す特徴量を求める
    ことを特徴とする画像処理装置の制御方法。
  9. 請求項に記載の画像処理装置の制御方法の各ステップを画像処理装置に実行させることを特徴とするプログラム。
  10. 鏡面物体と拡散物体を含む計測対象物に対し所定の照明パタンの光を照射する面光源からなる照明手段と、
    前記照明手段の照明パタンを制御する照明制御手段と、
    前記計測対象物を撮像する撮像手段と、
    前記撮像手段で得られた画像を解析することにより、前記計測対象物上の鏡面物体の領域を認識する領域認識手段と、
    前記撮像手段で得られた画像から前記鏡面物体の領域の画像を抽出して検査を行う検査手段と、
    を有し、
    前記領域認識手段は、前記照明手段から第1照明パタンの光を照射した状態で前記計測対象物を撮像することにより得られた第1画像と、前記照明手段から第2照明パタンの光
    を照射した状態で前記計測対象物を撮像することにより得られた第2画像とを比較し、その比較結果に基づいて前記計測対象物上の鏡面物体の領域を認識するものであり、
    前記第1画像と前記第2画像は同じ複数のチャンネルから構成される画像であり、
    前記第1照明パタンは、前記複数のチャンネルのそれぞれに対応し、且つ、互いに異なる発光強度分布を有する複数の第1照明サブパタンから構成され、
    前記複数の第1照明サブパタンのうちの1つの第1照明サブパタンは、発光強度が面内一様である発光強度分布を有し他の第1照明サブパタンは、前記撮像手段の光軸を含むある断面で考えたときに前記計測対象物に対する光の入射角に応じて発光強度が線形に変化する発光強度分布を有するものであり、
    前記第2照明パタンは、前記複数のチャンネルのそれぞれに対応し、且つ、互いに異なる発光強度分布を有する複数の第2照明サブパタンから構成され、
    前記複数の第2照明サブパタンは、いずれも、前記撮像手段の光軸を含むある断面で考えたときに前記計測対象物に対する光の入射角に応じて発光強度が線形に変化する発光強度分布を有するものであり、
    同じチャンネルに対応する第1照明サブパタンと第2照明サブパタンは、互いに異なる発光強度分布を有し
    前記領域認識手段は、前記第1の画像及び前記第2の画像の全てのチャンネルの値を、前記第1の画像における発光強度が面内一様である発光強度分布を有する第1照明サブパタンに対応するチャンネルの値で除した値を用いて、前記第1の画像と前記第2の画像の間の差分を表す特徴量を求める
    ことを特徴とする検査システム。
JP2012051962A 2012-03-08 2012-03-08 画像処理装置およびその制御方法 Active JP5900037B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2012051962A JP5900037B2 (ja) 2012-03-08 2012-03-08 画像処理装置およびその制御方法
DE112013002321.0T DE112013002321B4 (de) 2012-03-08 2013-01-25 Bildverarbeitungsvorrichtung, Verfahren zum Steuern derselben, Programm und Prüfsystem
CN201380013148.2A CN104160242B (zh) 2012-03-08 2013-01-25 图像处理装置、其控制方法以及检查系统
PCT/JP2013/051589 WO2013132913A1 (ja) 2012-03-08 2013-01-25 画像処理装置、その制御方法、プログラム、および検査システム
US14/475,603 US9752994B2 (en) 2012-03-08 2014-09-03 Image processing device, method for controlling same, program, and inspection system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012051962A JP5900037B2 (ja) 2012-03-08 2012-03-08 画像処理装置およびその制御方法

Publications (2)

Publication Number Publication Date
JP2013185994A JP2013185994A (ja) 2013-09-19
JP5900037B2 true JP5900037B2 (ja) 2016-04-06

Family

ID=49116400

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012051962A Active JP5900037B2 (ja) 2012-03-08 2012-03-08 画像処理装置およびその制御方法

Country Status (5)

Country Link
US (1) US9752994B2 (ja)
JP (1) JP5900037B2 (ja)
CN (1) CN104160242B (ja)
DE (1) DE112013002321B4 (ja)
WO (1) WO2013132913A1 (ja)

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102010030883B4 (de) * 2009-07-03 2018-11-08 Koh Young Technology Inc. Vorrichtung zur Prüfung einer Platte und Verfahren dazu
JP6420530B2 (ja) * 2013-06-26 2018-11-07 キヤノン株式会社 情報処理装置、計測システム、制御システム、光量決定方法、プログラム及び記憶媒体
EP3264363B1 (en) * 2015-02-27 2023-08-23 Nec Corporation Comparison system, device, method and program
US9734433B1 (en) * 2015-03-25 2017-08-15 Amazon Technologies, Inc. Estimating photometric properties using a camera and a display screen
JP2017026565A (ja) * 2015-07-28 2017-02-02 株式会社島津製作所 検査装置及び検査方法
JP2017067633A (ja) * 2015-09-30 2017-04-06 キヤノン株式会社 検査装置および物品製造方法
US9958259B2 (en) * 2016-01-12 2018-05-01 Canon Kabushiki Kaisha Depth value measurement
JP6716295B2 (ja) 2016-03-10 2020-07-01 キヤノン株式会社 処理装置、撮像装置、処理方法、プログラム、および記録媒体
DE102017207071A1 (de) 2017-04-27 2018-10-31 Robert Bosch Gmbh Prüfvorrichtung zur optischen Prüfung eines Objekts und Objektprüfungsanordnung
US11158041B2 (en) * 2017-05-26 2021-10-26 Sintokogio, Ltd. Inspection device and casting system
JP7027807B2 (ja) * 2017-10-30 2022-03-02 富士フイルムビジネスイノベーション株式会社 表示装置、スキャナ、表示システム及びプログラム
CN111433574B (zh) * 2017-12-08 2023-07-25 松下知识产权经营株式会社 检查系统、检查方法、程序和存储介质
US10527557B2 (en) * 2017-12-29 2020-01-07 Radiant Vision Systems, LLC Adaptive diffuse illumination systems and methods
JP6859962B2 (ja) * 2018-01-10 2021-04-14 オムロン株式会社 画像検査装置および照明装置
JP7187782B2 (ja) * 2018-03-08 2022-12-13 オムロン株式会社 画像検査装置
JP6835020B2 (ja) * 2018-03-15 2021-02-24 オムロン株式会社 画像処理システム、画像処理装置、画像処理プログラム
JP6973205B2 (ja) * 2018-03-15 2021-11-24 オムロン株式会社 画像処理システム、画像処理装置、画像処理プログラム
JP6482710B1 (ja) * 2018-09-06 2019-03-13 五洋商事株式会社 外観検査装置及び検査システム
JP2021089159A (ja) * 2019-12-02 2021-06-10 Juki株式会社 検査装置及び検査方法
CN115066605A (zh) * 2020-02-20 2022-09-16 昕诺飞控股有限公司 用于在照明设备的组装过程期间检查照明设备的检查系统及其方法
US11215564B2 (en) * 2020-04-30 2022-01-04 Renesas Electronics Corporation Visual inspections device, method of manufacturing and program the same
JP7392582B2 (ja) * 2020-06-12 2023-12-06 オムロン株式会社 検査システムおよび検査方法
WO2023191791A1 (en) * 2022-03-31 2023-10-05 Hewlett-Packard Development Company, L.P. Three-dimensional topographical surface capture device
CN118549466B (zh) * 2024-07-26 2024-11-15 江苏雷博微电子设备有限公司 一种用于增粘单元的光刻胶均匀性评估方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000113215A (ja) * 1998-10-08 2000-04-21 Dainippon Screen Mfg Co Ltd 画像処理装置およびその処理を実行するためのプログラムを記録した記録媒体
US7019826B2 (en) * 2003-03-20 2006-03-28 Agilent Technologies, Inc. Optical inspection system, apparatus and method for reconstructing three-dimensional images for printed circuit board and electronics manufacturing inspection
EP1882895A4 (en) * 2005-05-12 2012-06-27 Techno Dream 21 Co Ltd MEASURING METHOD FOR THREE-DIMENSIONAL SHAPING AND EQUIPMENT THEREFOR
JP4324238B2 (ja) * 2007-02-13 2009-09-02 パナソニック株式会社 画像処理システム、方法及び装置
JP5239314B2 (ja) * 2007-11-28 2013-07-17 オムロン株式会社 物体認識方法およびこの方法を用いた基板外観検査装置
JP2010071844A (ja) * 2008-09-19 2010-04-02 Omron Corp 基板外観検査装置、およびはんだフィレットの高さ計測方法
US20100259746A1 (en) * 2009-04-10 2010-10-14 Omron Corporation Profilometer
DE102010029091B4 (de) * 2009-05-21 2015-08-20 Koh Young Technology Inc. Formmessgerät und -verfahren
DE102010030883B4 (de) * 2009-07-03 2018-11-08 Koh Young Technology Inc. Vorrichtung zur Prüfung einer Platte und Verfahren dazu
JP2011153893A (ja) * 2010-01-27 2011-08-11 Yamatake Corp 半田付け部位外観検査装置及び半田付け部位外観検査方法
JP5170154B2 (ja) * 2010-04-26 2013-03-27 オムロン株式会社 形状計測装置およびキャリブレーション方法
US8334985B2 (en) * 2010-10-08 2012-12-18 Omron Corporation Shape measuring apparatus and shape measuring method
JP6287360B2 (ja) * 2014-03-06 2018-03-07 オムロン株式会社 検査装置

Also Published As

Publication number Publication date
DE112013002321T9 (de) 2015-03-12
WO2013132913A1 (ja) 2013-09-12
DE112013002321B4 (de) 2017-04-13
US20140372075A1 (en) 2014-12-18
JP2013185994A (ja) 2013-09-19
DE112013002321T5 (de) 2015-01-15
CN104160242A (zh) 2014-11-19
US9752994B2 (en) 2017-09-05
CN104160242B (zh) 2017-03-29

Similar Documents

Publication Publication Date Title
JP5900037B2 (ja) 画像処理装置およびその制御方法
JP5648749B2 (ja) 形状計測装置および形状計測方法
US8363929B2 (en) Shape measurement apparatus and calibration method
US8724883B2 (en) Method for inspecting measurement object
JP5652537B2 (ja) 観察装置
JP6791631B2 (ja) 画像生成方法及び検査装置
JP6519265B2 (ja) 画像処理方法
JP6211114B2 (ja) オブジェクト領域とグラウンド領域とを区別する方法及び3次元形状測定方法。
KR20110115752A (ko) 3차원 형상 측정 방법
KR101892099B1 (ko) 기판 상에 형성된 부품의 터미널 검사방법 및 기판 검사장치
JP2022177166A (ja) 検査方法、プログラム、及び、検査システム
JP2019109071A (ja) 画像処理システム、画像処理プログラム、および画像処理方法
JP5867123B2 (ja) 3次元形状計測装置およびキャリブレーション方法
KR101684244B1 (ko) 기판 검사방법
WO2020124460A1 (zh) 图像获取方法及系统
JP7459525B2 (ja) 三次元形状計測装置、三次元形状計測方法及びプログラム
JP2004264276A (ja) 表面検査装置および表面検査方法
CN114390269A (zh) 三维图像生成系统、三维图像生成方法、三维图像生成程序以及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140905

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150714

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150909

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160222

R150 Certificate of patent or registration of utility model

Ref document number: 5900037

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150