[go: up one dir, main page]

JP7171313B2 - 撮影装置の制御方法、撮影装置、制御プログラム、記録媒体、および部品の製造方法 - Google Patents

撮影装置の制御方法、撮影装置、制御プログラム、記録媒体、および部品の製造方法 Download PDF

Info

Publication number
JP7171313B2
JP7171313B2 JP2018159226A JP2018159226A JP7171313B2 JP 7171313 B2 JP7171313 B2 JP 7171313B2 JP 2018159226 A JP2018159226 A JP 2018159226A JP 2018159226 A JP2018159226 A JP 2018159226A JP 7171313 B2 JP7171313 B2 JP 7171313B2
Authority
JP
Japan
Prior art keywords
image
image sensor
moving body
moving
moving object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018159226A
Other languages
English (en)
Other versions
JP2020035052A (ja
Inventor
健吉 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018159226A priority Critical patent/JP7171313B2/ja
Publication of JP2020035052A publication Critical patent/JP2020035052A/ja
Application granted granted Critical
Publication of JP7171313B2 publication Critical patent/JP7171313B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Manipulator (AREA)
  • Image Input (AREA)

Description

本発明は、移動体を所定サイズの画像を撮像可能な画像センサにより撮像し、出力画像データを前記画像センサから出力させる撮影装置の制御方法、撮影装置、および、それを用いる生産方法に関する。
製品の自動組立では、ロボットなど、部品把持機構を持つ搬送装置が、供給された部品を把持し、把持した部品をワークに組付ける、といった作業が繰返し行われる。ここで、供給された部品が厳密に位置決めされていない場合には、搬送装置が把持した部品の位置姿勢が定まらないため、カメラにより部品の位置姿勢計測が行われる場合がある。
具体的には、搬送装置が部品を把持した後に、一旦部品をカメラの視野内まで搬送して搬送装置を停止させ、カメラで部品を撮影し、得られた画像を演算処理することにより搬送装置に対する部品の位置姿勢を認識する。この認識結果に基づき、搬送装置の姿勢を変えたり部品を持ち替えたりすることで、部品の位置姿勢をワークに組付けられるように変更してから、組付動作を行う。
このような製品の自動組立を更に高速化したい場合、撮影時に生じる、搬送装置の減速、停止、始動、加速による搬送時間の増分を出来る限り削減することが考えられている。例えば、動体撮影、即ち、ワークの位置姿勢を制御するための撮影を行う時、カメラの前で部品の搬送を停止させることなく、高速に移動する部品をそのまま撮影する技術が提案されている(例えば下記の特許文献1)。
特許文献1の装置は、カメラの前を搬送される部品に対して、カメラ内部で発生させる一定間隔の撮影トリガにより、低画素数で高速かつ連続的に画像を撮影する第1の撮影モードを備えている。第1の撮影モードで撮像された画像は、カメラ内の演算処理により部品が通過したか否かを判定し、部品が通過した場合には、その瞬間に第2の撮影モードによる撮影のための撮影トリガを発行する。特許文献1の装置はさらに、部品が通過した場合に発行される撮影トリガを受信して高画素数の画像を撮影する第2の撮影モードを備えており、カメラの前を通過する瞬間の部品の画像を高画素数で撮影することを可能としている。
特許文献1の装置では、部品が通過したか否かを判定するため、搬送装置にマーカを設置している。そして、カメラの前で部品を通過させたときに、撮影したい位置やタイミングで搬送装置上のマーカが通過する狭小な画像領域を予め調べておき、第1の撮影モードにおける狭小な撮影領域を設定しておく。その上で、実際の動体撮影を行う際には、予め設定した狭小な画像領域内において、部品が通過したか否かを極めて高速なフレームレートで監視される。このような構成によると、部品の通過判定を極めて高速に行え、生産ラインにおいて繰返し動体撮影を行っても、常に同じ位置で再現性よく部品を撮影できる。また、撮影された画像を使った部品の位置姿勢計算は比較的単純なアルゴリズムでよくなり、自動組立動作を全体として高速に行うことが可能となる。この撮影再現性を支える部品通過判定の高速性は、マーカ監視領域が狭小、すなわち極めて低画素数であることで担保されている。
特開2017-76169号公報
特許文献1に記載の従来技術による動体撮影を実施する場合、搬送装置上のマーカなどの特徴領域が通過する極めて狭小な画像領域を予め調べておき、動体撮影に先立ち、第1の撮影モードにおける撮影領域を決定する事前作業が必要である。具体的には、搬送装置の特徴領域が撮影したい位置を通過するよう搬送装置をティーチングし、静止させ、静止状態の画像を撮影する。次に、その画像から特徴領域を検出し、特徴領域に対して過不足の無い撮影領域を決定し、カメラ内に撮影領域設定値として保存する。このような作業は、所望の撮影タイミングにおける撮影したい特徴領域の画面内の位置を指定するような手動作業が必要であり、煩雑で時間がかかり、また作業者の習熟も要求される。
カメラの撮影領域を設定する場合、搬送装置が静止しているときの特徴領域位置と、実際に動体撮影する場合の搬送装置が動作しているときの特徴領域位置は、必ずしも同一ではない可能性がある。例えば、この種の動態撮影により撮影される搬送装置は、単軸ロボット、もしくは多軸直交ロボット、多軸水平多関節ロボット、多軸垂直多関節ロボット、多軸パラレルリンクロボットなどであり、これらは種々の異なる動作特性を有している。例えば、多軸ロボットの場合は各軸動作の同期ずれの誤差が存在する他、静止時か、動作時か、あるいは動作速度の違いにより、動作軌道が変動する可能性がある。そのため、特許文献1に記載の従来技術によると、第1の撮影モードの撮影領域の決定時の静止状態と、実際の動作状態で対象物の位置姿勢が異なっていた場合には、動体撮影に失敗する可能性がある。
本発明の課題は、上記の問題点に鑑み、高速移動する対象物を動体撮影する撮影装置において、動体検出を行う画像の領域を容易に決定できるようにすることにある。また、対象物を搬送する搬送装置が、静止状態と動作状態で搬送軌道が変動するような動作特性を有している場合でも動体撮影を確実かつ再現性よく実行できるようにすることにある。
上記課題を解決するため、本発明の一つの態様においては、移動体を所定サイズの画像を撮像可能な画像センサにより撮像し、出力画像データを前記画像センサから出力させる撮影装置の制御方法において、制御装置が、前記画像センサを、前記所定サイズよりも画像サイズが小さい切り出し領域の画像データを出力するように設定した状態で、前記画像センサから出力させた画像データから前記移動体の位置が所定の位置に到達したか否かを検出する移動体検出工程と、前記制御装置が、前記移動体検出工程で前記移動体の位置が前記所定の位置に到達したことを検出した場合、前記画像センサを前記所定サイズの出力画像データを出力するように設定して画像データを前記画像センサから出力させる動体撮影工程と、前記制御装置が、前記画像センサに連続的に画像を撮影させ、撮影された画像の中に移動体を検出した場合には、前記画像センサに視野全体を撮影させて高画素数の画像データを取得し、前記高画素数の画像データに基づいて前記切り出し領域を設定する設定工程と、を備え撮影装置の制御方法を採用した。
あるいはさらに、前記設定工程において、前記制御装置は、前記画像センサの撮像範囲に、前記動体撮影工程と同じ態様で移動する前記移動体の画像が移動する方向と交差するよう配置された検出領域を設定し、前記移動体の画像が前記検出領域を通過した場合に、前記高画素数の画像データから前記移動体の特徴部位を検出し、検出した前記特徴部位を含む前記画像センサの撮像範囲中の部分領域を前記切り出し領域として決定する構成を採用した。
上記構成により、本発明によれば、高速移動する対象物を動体撮影する撮影装置において、動体検出を行う画像の領域を容易に決定することができる。また、対象物を搬送する搬送装置が、静止状態と動作状態で搬送軌道が変動するような動作特性を有している場合でも、動体撮影を確実かつ再現性よく実行することができる。
本発明の実施形態に係る動体撮影システムの全体構成を示した説明図である。 本発明の実施形態に係る動体撮影システムで撮像される画像上で用いられる撮像座標系の説明図である。 本発明の実施形態に係る動体撮影システムで撮像画面に配置される部分切り出し領域の設定例を示した説明図である。 本発明の実施形態に係る動体撮影システムで撮像される画像を経時的に示した説明図である。 図4と同じ画像を2値化した結果を示した説明図である。 本発明の実施形態に係る動体撮影システムで撮像画面に配置される切り出し領域(ROI)の設定例を示した説明図である。 本発明の実施形態に係る動体撮影システムの画像処理装置の具体的な構成例を示したブロック図である。 本発明の実施形態に係る動体撮影システムを用いた生産システムの制御手順を示したフローチャート図である。
以下、添付図面を参照して本発明を実施するための形態につき説明する。なお、以下に示す構成はあくまでも一例であり、例えば細部の構成については本発明の趣旨を逸脱しない範囲において当業者が適宜変更することができる。また、本実施形態で取り上げる数値は、参考数値であって、本発明を限定するものではない。
<動体撮影システムの構成>
図1に本実施形態に係る撮影装置として、動体撮影システムの構成を示す。図1の動体撮影装置は、所定サイズの画像を撮像可能な画像センサとしての撮像素子101、レンズ102、制御装置103から成るカメラ104と、画像処理装置107で構成される。
図1の動体撮影システムは、部品105を把持した搬送装置106を動体撮影する。動体撮影に用いられるカメラ104の制御装置103は、コントローラ108、画像入力インタフェース109、画像出力インタフェース110、および部品通過判定部111から構成されている。
<設定処理>
この動体撮影装置は、実際に動体撮影を行う処理の他に、動体撮影の事前準備としての、部品通過判定のための特徴領域を設定する設定処理を行う。部品通過判定のための特徴領域を設定する設定処理は、次のように行う。
撮像素子101は、動画撮影モードに設定された状態では、部品105が目標撮影位置付近に至るまでの間、レンズ102を介し、連続的に画像を撮影し続ける。この時、撮影領域は、部品105が必ず通過することが期待される、好ましくは撮像素子101の撮像範囲の全体よりも狭小な領域を検出領域(ROI)として設定するとともに、出力フレームレートは高フレームレートに設定しておく(第1の出力モード)。
搬送装置106は、部品105を、カメラ104の視野内を通過するように搬送する。撮像素子101が撮像した出力画像データは、順次、画像入力インタフェース109へ出力される。画像入力インタフェース109は、連続的に入力される画像データを、順次パラレル信号の画像データに変換し、部品通過判定部111へ出力する。
部品通過判定部111は、入力した画像データに対して部品105が通過したか否かを判定する。この判定処理は、部品105がカメラ104の視野内に収まるかどうかといった大まかな精度で判定すればよく、撮影される部品105の位置などの再現性は必要としない。
判定の結果として、部品通過のない場合は、引続き連続的に入力される画像データに対して判定処理をし続ける。一方、部品通過と判定した場合は、コントローラ108を介して撮像素子101を、視野全体を高画素数で撮影する設定に切替えて撮影し、撮影した静止画の画像信号を画像出力インタフェース110に出力する。
画像出力インタフェース110は、この画像信号をカメラ104から画像処理装置107に出力する。画像処理装置107は、入力される画像データを処理し、動体撮影のトリガとして使用する画像の特徴部位を検出するための過不足の無い、撮像素子101の撮像サイズより画像サイズが小さい部分領域として特定する。そして、その部分領域の位置および大きさの情報を、切り出し領域(ROI)、即ちセンサからの部分読み出し領域として、コントローラ108を介して撮像素子101に対して設定する。
<動体撮影>
上記のようにして、設定した切り出し領域(ROI)を用いて、実際の動体撮影は次のように行う。
動体撮影モード(動体撮影工程)においても、撮像素子101は、初期設定により動画撮影モードに設定されており、部品105が目標撮影位置付近に至るまでの間、レンズ102を介し、連続的に画像を撮影し続ける。このとき、上記の設定処理で決定された切り出し領域(ROI)が撮影領域に設定されている。
搬送装置106は、部品105を、停止させることなく、上記の設定処理と同じ軌道設定、同じ速度で搬送する。撮像素子101が撮影した画像は順次画像入力インタフェース109へ出力される。画像入力インタフェース109は、連続的に入力される画像データを、順次パラレル信号の画像データに変換し、部品通過判定部111へ出力する。部品通過判定部111は、入力した画像データに対して部品105が通過したか否かを判定する(移動体検出工程)。
部品通過判定部111による判定処理は、極めて狭小な画像領域に対して搬送装置106上の目的の画像特徴が通過したか否かを判定する。本実施形態の部品通過判定部111による判定処理では、再現性よく、常にほぼ同じ位置で撮影された部品105の画像が通過判定される。
部品通過判定部111が部品通過を検出すると、コントローラ108を介して撮像素子101を視野全体を高画素数で撮影する設定に切替えて撮影し、撮影した静止画の画像を画像出力インタフェース110に出力する。画像出力インタフェース110は、画像信号をカメラ104から画像処理装置107に出力する。画像処理装置107は、生産工程で必要な任意の画像検査や画像計測といった画像処理を行う。
また、画像処理装置107の画像処理の結果は、例えば、搬送装置106を構成し、部品105を把持するロボットアーム(106)の位置、姿勢の制御に用いることができる。また、画像処理装置107の画像処理の結果は、部品105の組み付け位置の修正などの生産処理、部品105の検査処理などに利用することができる。
<設定処理の詳細>
本実施形態の部品通過判定を行うための画像領域の設定処理では、部品105が静止している状態ではなく、部品105が動作した状態の画像を使用して特徴領域の設定を行う。そのため、特徴領域の設定時と実際の動体撮影時との搬送装置106の位置ズレが生じず、失敗することなく動体撮影を実行することができる。
本実施形態では、図2に示すような座標系を用いて撮影画像の画像処理を行う。この座標系は、カメラ104の撮像素子101で撮影可能な全画面、2048×2048画素の画像エリア上に設定される。ここでは、便宜上、画像エリアの水平方向の右向きをx方向、垂直方向の下向きをy方向と定義する。この座標系の原点(x=1、y=1)は、画像エリアの左上の画素である。また、この画像エリアの右上の画素は(x=2048、y=1)、左下の画素は(x=1、y=2048)、右下の画素は(x=2048、y=2048)の各座標値を有する。
ここで、部品105は、例えば50mm×50mm以内の大きさの物体であるものとする。また、部品105は、例えばパレットの上に厳密な位置決めされることなく載置されており、搬送装置106によりピックアップされ、製品組立のためワークの位置まで搬送されるものとする。部品105は、搬送装置106にピックアップされた状態ではどのような姿勢をとっているか不明である。そのため、本実施形態の動体撮影装置により部品105の画像を撮影し、画像処理により姿勢を計測して、搬送装置106により姿勢を修正した上で、ワークへの組付けを行う。
そして、本実施形態の動体撮影により撮影した撮影画像に対して画像処理を行って得た位置姿勢に基づき、搬送装置106を制御し、位置姿勢を修正した上で、他の部品に組付ける動作を行う。部品105は、特徴部を検出するための切り出し領域(ROI)の設定でも、実際の動体撮影でも、同一のサイズ、形状のものが用いられるものとする。
<搬送装置>
搬送装置106は、例えば2本の指を備えるハンド1063(把持装置)によって部品105を把持し、500mm×500mm程度の広さの作業領域を、予め教示した軌道に沿って搬送できる6軸垂直多関節ロボットアームである。搬送装置106がこのようなロボットアームである場合、ハンド1063(把持装置)は、複数(6軸)の関節1062で連結されたリンク1061で構成されたアームの先端部に設けられる。
本実施形態では、例えば搬送装置106は、部品105を最大で毎秒2000mmの程度の速度で搬送可能であるものとする。なお、本実施形態では搬送装置106を垂直多関節ロボットであるものとして説明するが、搬送装置106は、単軸ロボット、多軸直交ロボット、水平多関節ロボット、パラレルリンクロボットなどであってもよい。
搬送装置106が上記のようなロボットアームである場合、搬送装置106の動作はロボット制御装置121により制御される。その場合、ロボット制御装置121は画像処理装置107の画像処理結果を利用することができる。例えば、画像処理装置107で、部品105を把持した搬送装置106をカメラ104で動体撮影して取得した画像から部品105の位置姿勢を検出する。そして、画像処理装置107が検出した部品105の位置姿勢に基づき、ロボット制御装置121は、搬送装置106の位置姿勢を制御し、部品105に係る製造工程、例えば部品105の組み付けや加工を制御することができる。
部品105を把持した搬送装置106は、カメラ104の撮影画角内を毎秒2000mmの、好ましくは一定の移動速度で移動するように予め教示しておく。このとき、部品105はカメラ104の視野中心付近を通り、移動方向は撮影される画像エリアでx方向に近い方向となるように教示する。もちろん、この撮影画角の設定は、実際の生産工程において、同じ撮影画角を得られるよう、カメラ104の設置位置を調整することによって行ってもよい。
上記のような部品105の搬送によると、搬送装置106によって把持された部品105の画像は、例えば、カメラ104の撮影画角(画像エリア)の左端(x=1)から現れて、x方向へ移動し、画像エリアの右端(x=2048)へ消失する。ここで、搬送装置106の軌道は必ずしも直線軌道でなくてよく、カメラ104から見て円弧を描いて移動してもよい。なお、本実施形態では画像内でのx方向の中心を目標撮影位置とするが、撮影環境等の都合に応じて、任意のx座標を目標撮影位置としてもよいし、x方向ではなくy方向の座標を目標撮影位置としてもよい。
搬送装置106は、切り出し領域の設定処理においても、また、実際の動体撮影においても、同一のものを使用するとともに、搬送動作の教示点や設定、動作速度も同一とする。本実施形態では、搬送装置106に、動体撮影のトリガとしての移動体検出を行うための画像特徴として、マーカ112を3点設ける。
本実施形態においては、マーカ112として白色の円形マーカを設置する。なお、マーカ112は設置せずに搬送装置106表面のテクスチャを画像特徴として用いてもよい。また、マーカ112として再帰反射材を用いる場合には、カメラ104のレンズ102の近傍にマーカ検出用の照明装置118を設置する。また、マーカ112として再帰反射材を用いない場合などにおいては、適当な位置に撮影領域を向けて配置した照明装置117を用いる。照明装置117、118は、両者を併用するような構成であってもよい。また、本実施形態ではマーカ112の点数を3点としたが、1点以上の任意の数のマーカ112を設置する構成でよい。
<カメラの構成>
次に、カメラ104の撮像素子101、レンズ102、制御装置103の構成例につき説明する。
撮像素子101は、約4メガピクセル(2048×2048画素)の空間解像度を持ち、各画素は8bitの輝度ないし濃度の量子化幅を持ち、10対のLVDS信号により画像を出力する。4メガピクセルを出力する場合のフレームレートは例えば160fps程度であるものとする。
撮像素子101とレンズ102を組合わせた撮像光学系は、100mm×100mmの撮影視野を持ち、画素分解能は、約50μm×50μmである。撮像素子101は、SPI規格などに基づく通信を介して撮像素子101に内蔵するレジスタへ設定値を書込んだ上で、約4メガピクセル(2048×2048画素)の画像を読出すことができる。また、撮像素子101は、一定のフレームレートで連続的に画像を撮影する動画撮影モードを備えるとともに、指定した撮影領域のみを高速に撮影し読出すことができる、部分切り出し機能を備える。また、撮像素子101は、通信を介して撮像領域やフレームレートや静止画/動画の切替え指令を受信して設定を切替えることができる。
また、撮像素子101は、素子内部あるいは外部で発生した撮影トリガに基づき、静止画像や動画像の撮影を行うことができる。撮像素子101は、各撮影フレームで、信号伝送中は垂直同期信号がHighとなる。
本実施形態においては、初期設定として撮像素子101を動画撮影モードとして機能させる設定値、および、部分切り出しを行うための読出し領域の位置及び読出しサイズの値を、コントローラ108を介して撮像素子101に内蔵するレジスタへ書込んでおく。また、撮像素子101を動画撮影モードに設定する。このような設定により、部分切り出し機能を使って高速かつ連続的な撮影を行うことができる。撮像素子101が撮影した画像は、後述する画像入力インタフェース109へ逐次、出力される。
ここで、動体撮影のトリガとして使用する画像領域の設定における撮影画素数およびフレームレートについて説明する。本実施形態の動体撮影のトリガとして用いる画像領域の設定では、図3に示すように、y座標が1600の位置を通る少なくとも幅が1画素以上のライン状の領域(2048×1画素以上)を部分切り出し領域1042として設定する。また、この1ラインの部分切り出し領域1042を読み出すフレームレートは2000fpsに設定する。
なお、本実施形態では、部分切り出し領域1042のライン幅は1画素に取っているが、ライン幅は複数画素の幅であってもよく、また、連続しない異なるy座標値の複数ラインを切り出し領域としてもよい。また、本実施形態ではy座標を1600と設定するが、y座標値は搬送装置106に設置するマーカ等の画像特徴の位置や、部品105の位置関係によって任意に決定すればよい。また、本実施形態では撮影画角の端から端までを切り出し領域とするが、任意の座標を開始座標、終了座標としてもよい。さらに、本実施形態では、部分切り出し領域1042はx方向に長いライン領域を設定している。しかしながら、y方向に長いライン領域を切り出し領域としてもよい。その場合、撮像素子101には、y方向に長いライン領域を設定しても高速に画像を読出せるデバイスを用いるのが好ましい。また、x方向やy方向に間引きやビニングをする設定としてもよい。
カメラ104の制御装置103は、コントローラ108、画像入力インタフェース109、部品通過判定部111、画像出力インタフェース110を搭載する電子回路基板である。なお、コントローラ108、部品通過判定部111は、例えば電子回路基板上に実装されるFPGAデバイスの中の演算ブロックとして実装される。演算ブロックは、例えばHDL(Hardware Description Language)言語によってハードウェア記述を基にした合成回路と、FPGAが備えるマクロ回路により実装することができる。また、回路面積、コスト、性能のバランスを考慮した上で、画像入力インタフェース109、画像出力インタフェース110をFPGA(Field Programable Gate Array:機能変更可能な集積回路)内に実装してもよい。また、FPGAではなく、CPUのような制御装置を用いてもよい。
画像入力インタフェース109は、撮像素子101から入力したLVDS(Low Voltage Differential Signal:定電圧差動信号)信号を、電子回路内で扱いやすいパラレル信号に変換する周知のデシリアライザICを用いる。もしくは、LVDS信号の入力が可能な周知のFPGAデバイスに入力し、パラレル信号に変換してもよい。デシリアライザICとしては、例えばLVDS信号の差動ペアを10対、入力できるものを用いる。また、デシリアライザICとして、差動ペアの入力数が不足するものを複数個並列で用いてもよい。ここでは、画像入力インタフェース109の出力は、80bit(8bit×10TAP)のパラレル信号、画素クロック信号、水平同期信号、垂直同期信号とし、部品通過判定部111へ出力する。
部品通過判定部111は、電子回路基板上に実装されるFPGAデバイスの中に実装される演算ブロックである。部品通過判定部111は、画像入力インタフェース109から入力した80bitのパラレル信号、画素クロック信号、水平同期信号、垂直同期信号からなる画像信号に対して、部品105が通過したか否かの判定演算を行う。部品通過判定部111における判定演算の手順について詳しく説明する。
まず、画像信号の2値化処理を行う。本実施形態では、搬送装置106の撮影背景は黒色であるものとする。図4は、撮影時刻T=t1~t8において、撮像素子101が撮影し、部品通過判定部111に入力された撮影画像1041を8フレーム分、示している。また、撮影画像1041中には、部分切り出し領域1042の1ライン分の領域も図示してある。図4では、搬送装置106と、それにより把持されている部品105、搬送装置106に付与されたマーカ112の輪郭を図示してある。これらの被写体の背景の暗い部分の着色は、理解を容易にするため、省略してある。
上述のように、搬送装置106に付与するマーカ112を再帰反射材であるものとすれば、マーカ112の画像は輝度が大きくなり、それ以外の画素は輝度が小さくなる。部品通過判定部111では、入力された部分切り出し領域1042のパラレル画像信号に対し、1画素を意味する8bit毎に、2値化処理を行い、2値画像を得る。この2値化処理は、予め定めた閾値(例えば128)を超えればHIGH(1)、閾値以下ならばLOW(0)とすることなどにより行う。
この2値画像のイメージを図5に示す。ここでは、理解を容易にするため、図4の撮影時刻T=t1~t8におけるものと同じ被写体の位置で撮影画像1041の全体を2値化した2値画像を図示している。
なお、本実施形態の部品通過判定部111では、後述するように2値化処理は画素レベルでパイプライン処理してもよく、部品通過判定部111の処理において必ずしも図5のようにまとまった2値画像が保存されたり出力されたりする必要はない。
また、部品通過判定部111では、2値化された部分切り出し領域1042の画像信号のみを処理対象とすればよい。ここでは、部品通過判定部111では、2値化された部分切り出し領域1042の画像データにおいて、HIGH(1)となった画素数の総和を計算する。なお、画像信号の総和計算は、画像信号の2値化結果を出力した後に行うのではなく、2値化処理をすると同時に演算してもよい。
そして、部品通過判定部111では、部分切り出し領域1042のHIGH(1)となった総和値が、予め定めた閾値を超えるか超えないかにより部品105が通過したか否かを判定する。本実施形態では、部品通過と判定するための閾値を20(画素)とする。即ち、部品通過判定部111は、部分切り出し領域1042のうち20画素以上にマーカ112が撮像されれば部品105が通過したと判定する。また、部分切り出し領域1042のうちマーカ112が撮像された画素数が20画素未満であれば部品105が通過していないと判定する。
コントローラ108は、電子回路基板上に実装されるFPGAデバイスの中に実装される演算ブロックである。コントローラ108は、予め撮像素子101に対しSPIインタフェースを介して、連続撮影設定を指令して動画撮影モードにする。また、同じく撮像素子101に対して前述した部分切り出し領域の設定値を指令し、ライン上の切り出し領域を設定する。
また、コントローラ108は、前述の部品通過判定において部品105が通過したと判定されると、撮像素子101に対して静止画撮影設定を指令して静止画撮影モードに設定する。また、予め定めた動体撮影のための画素数設定値を指令し、動体撮影のための撮影設定を行う。本実施形態では、動体撮影のための画素数設定値は、撮像素子101の撮影領域の全体(1041)に相当する2048×2048画素とする。また、撮像素子101に対する撮影設定を指令した直後に、撮像素子101に対して撮影トリガを発行し、撮像素子101に上記の2048×2048画素の静止画を撮影させる。
画像出力インタフェース110は、入力インタフェースから入力した80bitのパラレル信号、画素クロック信号、水平同期信号、垂直同期信号を、カメラリンク等のLVDS映像信号に変換する周知のシリアライザICなどにより構成する。あるいは、画像出力インタフェース110にLVDS信号の出力が可能なFPGAデバイスを用い、FPGA内でパラレル信号をシリアル信号に変換してもよい。画像出力インタフェース110は、前述した2048×2048画素の静止画像を入力し、画像処理装置107へ画像信号を出力する。画像処理装置107は、カメラリンクグラバボードなどを介して画像出力インタフェース110からLVDS信号を受信する。
<画像処理装置の構成>
画像処理装置107は、例えばCPUを搭載したPCハードウェアなどにより構成することができる。なお、画像処理装置107のハードウェア構成は、必ずしもPC(パーソナルコンピュータ)フォームである必要はない。例えば、画像処理装置107の制御回路には、CPUのみならずDSP、マイクロコンピュータ、FPGA、ASICなど、他の基本的な画像処理演算が可能な演算装置を用いることができる。
ここで、図7に、図1の画像処理装置の構成の一例を示す。図7の制御系は、主制御手段としてのCPU601、記憶装置としてのROM602、およびRAM603を備えたPCハードウェアなどによって構成することができる。ROM602には、後述する製造手順を実現するためのCPU601の制御プログラムや定数情報などを格納しておくことができる。また、RAM603は、その制御手順を実行する時にCPU601のワークエリアなどとして使用される。また、図7の制御系には、外部記憶装置606が接続されている。外部記憶装置606は、HDDやSSD、ネットワークマウントされた他のシステムの外部記憶装置などから構成される。
本実施形態の制御手順(例えば図8)を実現するためのCPU601の制御プログラムは、HDDやSSDなどから成る外部記憶装置606や、ROM602の(例えばEEPROM領域)のような記憶部に格納しておくことができる。その場合、後述の制御手順を実現するためのCPU601の制御プログラムは、ネットワークインターフェース607を介して、上記の各記憶部に供給し、また新しい(別の)プログラムに更新することができる。あるいは、後述の制御手順を実現するためのCPU601の制御プログラムは、各種の磁気ディスクや光ディスク、フラッシュメモリなどの記憶手段と、そのためのドライブ装置を経由して、上記の各記憶部に供給し、またその内容を更新することができる。上述の制御手順を実現するためのCPU601の制御プログラムを格納した状態における各種の記憶手段、記憶部、ないし記憶デバイスは、本発明の制御手順を格納したコンピュータ読み取り可能な記録媒体を構成することになる。
CPU601には、図1のカメラ104、および搬送装置106を制御するロボット制御装置121がネットワークインターフェース607、ネットワーク608を介して接続される。ネットワークインターフェース607は、例えばIEEE 802.3のような有線通信、IEEE 802.11、802.15のような無線通信による通信規格を用いて構成することができる。ネットワークインターフェース607は、例えば搬送装置106の他、搬送装置106が設置された生産システムに生産制御、管理のために配置されたPLCやシーケンサのような統轄制御装置や、管理サーバなどとの間の通信にも用いることができる。
図7の監視装置では、UI装置(ユーザーインターフェース装置)として、操作部604、および表示装置605が接続されている。操作部604は、ハンディターミナルのような端末、あるいはキーボード、ジョグダイアル、ポインティングデバイスなどのデバイス(あるいはそれらを備えたから成る制御端末)によって構成することができる。表示装置605には、例えば液晶方式の他、後述するデータ表示、あるいはそれに類似の表示画面を表示出力できるものであれば任意の方式のディスプレイ装置を用いることができる。
<移動体検出とそれに基づく動体撮影>
切り出し領域(ROI)の設定処理において、画像処理装置107は、画像出力インタフェース110から入力した画像から、3点のマーカ112が存在する領域を検出し、動体撮影を行う際に部品通過判定に用いる画像領域を決定する。画像からマーカ領域を検出する方法としては、ラベリング処理、画像モーメント計算、パタンマッチング、形状マッチング等の、周知の画像処理アルゴリズムを用いることができる。なお、マーカ112でなく搬送装置106表面のテクスチャなどを特徴として使用する場合においても同様に、パタンマッチング等の周知の画像処理アルゴリズムを用いればよい。画像処理装置107は、撮影画像中で3点のマーカ領域を検出すると、検出した各々のマーカに対応する矩形状の切り出し領域を計算する。
例えば、図6(a)に示すように、マーカ1302について最も撮像される面積が大きなy座標を検出し、検出したy座標に対してマーカ112が存在する範囲1301を切り出し領域とする。あるいは、図6(b)に示すように、マーカ1302が画成する円形の領域に外接する矩形1303を計算して切り出し領域としてもよい。また、図6(c)に示すように、マーカ1302が画成する領域に内接する矩形1304を計算して切り出し領域としてもよい。また、搬送装置106の軌道ズレ等に起因するバラツキを考慮して、計算結果の画像領域よりも大きな、あるいは小さな切り出し領域を設定してもよい。画像処理装置107は、上記のように計算された3つの画像領域を、動体撮影を行うトリガとして用いる切り出し領域の設定値として、撮像素子101に指令し、撮像素子101は指令された設定値をレジスタに保存する。
上記のようにして設定した切り出し領域をトリガとして用いて、実際の動体撮影は、以下のように行われる。
部品通過判定部111は、前述した部品通過判定のための特徴領域設定の処理と同じく、部品105が通過したか否かの判定演算を行う。部品通過判定部111における判定演算の手順について詳しく説明する。
まず、それぞれの領域について画像信号の2値化処理を行う。実際の動体撮影でも、搬送装置106およびその撮影背景を暗色とし、照明は、マーカ検出用の照明装置118のみを点灯させる。マーカ112に再帰反射材を用いる。
部品105の搬送条件は実際の動体撮影でも同一であるため、部品105の移動に伴ない、撮像素子101から部品通過判定部111に入力される画像信号は、図4のような画像となる。この撮影画像では、搬送装置106に備えるマーカ112が撮像された画素は輝度が大きくなり、そうでない画素は輝度が小さくなる。
部品通過判定部111では、入力されたパラレル画像信号に対し、1画素を意味する8bit毎に、2値化処理を行い、2値画像を得る。2値化処理は、予め定めた閾値(例えば128)を超えればHIGH(1)、閾値以下ならばLOW(0)とすることで実行する。この2値化処理により得られた2値画像のイメージを図5に示す。ただし、本実施形態では後述するように2値化処理は画素レベルでパイプライン処理してもよく、図5のようにまとまった2値画像が保存されたり出力されたりするとは限らない。
次に、それぞれの領域について2値化された画像信号に対し、HIGH(1)となった画素数の総和を計算する。画像信号の総和計算は、画像信号の2値化結果を出力した後に行うのではなく、2値化処理をすると同時に演算してもよい。
最後に、それぞれの領域について計算された総和値が、予め定めた閾値を超えるか超えないかにより部品105が通過したか否かを判定する。本実施形態では、部品通過判定の閾値を20とし、部分切り出し領域のうち20画素以上にマーカ112が撮像されれば部品105が通過したと判定する。また、部分切り出し領域のうちマーカ112が撮像された画素数が20画素未満であれば部品105が通過していないと判定する。なお、閾値による部品通過判定では、それぞれの領域のx座標の始点と終点がHIGH(1)となっていることを条件とした上で閾値判定をしてもよい。このような判定方法をとることにより、部分切り出し領域の中央付近が照明条件やマーカ112の状態により一部が暗く撮像される場合でも、精度よく移動体検出を行うことができる。
部品通過判定部111では、部品通過を3つのマーカ(特徴部)について判定するが、その判定処理の細部は以下のように任意である。例えば、部品通過判定部111における最終的な通過判定は、3つのマーカ全てが通過判定となることを条件としてもよいし、3つのうち1つ以上のマーカが通過判定となることを条件としてもよい。あるいは、3つのうち2つ以上のマーカが通過判定となることを条件としてもよいし、特定の1つまたは2つのマーカが通過判定となることを条件としてもよいし、それ以外に3マーカを論理値と見立てた場合のあらゆる3入力論理演算を条件としてもよい。また、部品通過判定部111における判定演算と同様に、マーカ112を使用せずに表面テクスチャ等の画像特徴の合致度を周知のパタンマッチング等で計算し、その計算結果のスコア値を閾値処理したものを条件としてもよい。
コントローラ108は、電子回路基板上に実装されるFPGAデバイスの中に実装される演算ブロックである。コントローラ108は、予め撮像素子101に対しSPIインタフェースを介して、連続撮影設定を指令して動画撮影モードにする。また、同じく撮像素子101に対して前述した切り出し領域(ROI)の設定処理で計算された部分切り出し領域の設定値を指令し、切り出し領域を設定しておく。
また、コントローラ108は、前述の部品通過判定において部品105が通過したと判定されたことを入力した瞬間に、撮像素子101に対して静止画撮影設定を指令して静止画撮影モードに設定する。また、同時に、撮像素子101に対して予め定めた動体撮影のための画素数設定値を指令する。本実施形態では、この動体撮影のための画素数設定を撮像素子101全体である2048×2048画素とする。また、撮像素子101に対する撮影設定を指令した直後に、撮像素子101に対して撮影トリガを発行し、撮像素子101に2048×2048画素の静止画を撮影させる。
<設定処理、移動体検出、動体撮影を利用した部品生産>
図8は、図1に示すような動体撮影システムを用いて、部品の製造処理を行う場合の制御手順を示している。図示のステップは、画像処理装置107に係るものが中心であるが、一部にロボット制御装置121で制御されるもの、また、作業者の操作に係るものも含まれている。
図8のステップS101では、製造工程を実行する搬送装置106(ロボットアーム)に部品105を操作する動作を教示する。この教示は、例えばロボット制御装置121の操作部604として接続されたティーチングペンダントなどを用いて行う。あるいは、この教示は不図示の他の制御端末でロボットプログラムを編集することによって行ってもよい。
図8のステップS102~S115は、上述の切り出し領域(ROI)の設定処理に相当する。この切り出し領域(ROI)の設定処理は、ステップS116~S124の、動体撮影結果に基づき制御される生産工程に先立って行われる。ステップS102~S115の切り出し領域(ROI)の設定処理は、繰り返し実行されるステップS116~S124の生産工程に変更がなければ、生産工程に先立って、少なくとも1度だけ実行すればよい。
ステップS102では、カメラ104と照明装置(117、118)を搬送装置106の搬送領域を撮影できるように設置する。続いて、ステップS103で搬送装置106(ロボットアーム)を試運転する。この「試運転」は、ステップS104が作業者が操作部604に設けたボタンなどによって大まかにマーカ待受け領域を指定するために行うもので、部品105の搬送経路としては、本番の生産工程と同じ搬送経路を用いる。搬送速度については、作業者が作業のしやすい搬送速度であればよく、必ずしも本番の生産工程と同じ搬送速度で搬送装置106(ロボットアーム)に搬送動作を行わせなくても構わない。
ステップS104で、部品105がカメラ104の前方を通過したことを認識すると、ステップS105で作業者が操作部604に設けたボタンなどによってそのタイミングを指示する。これに応じて、ステップS106で、例えば図4で説明したように部品105の移動する方向に交差するように撮像素子101の撮像画面中に配置した1ライン程度の狭小な検出領域を設定する。この設定は、当該の検出領域を撮像素子101に対して切り出し領域として指定する出力モード設定によって行う。即ち、本番の動体撮影において撮像素子101に対して設定する切り出し領域の設定工程では、検出領域(設定工程におけるROI:切り出し領域)は、本番の動体撮影よりもごく狭小な(1ライン程度)領域に設定する。この検出領域(設定工程におけるROI:切り出し領域)は、カメラ104のコントローラ108のレジスタなどに書き込むことによって設定する。
そして、ステップS107で搬送装置106に本番の生産工程と同じ搬送速度、搬送経路で搬送動作を行わせる。この時、照明は、マーカ検出用の照明装置118のみを点灯させる。そして、部品通過判定部111により、設定した検出領域(設定工程におけるROI)中で、上述のように特徴部として例えばマーカ112の画像を検出させる。部品通過判定部111は、設定した検出領域から画像を読み出し(S108:撮像)、検出領域中の明(High)画素数をカウント(S109)する。さらに、ステップS110で、そのカウントした明(High)画素数が閾値(例えば上述の20画素)以上かどうかを判定する。
このステップS110が肯定された場合には、マーカ112の1つが1ラインの検出領域(設定工程におけるROI)に対応する位置に到達した、ということが示されるので、処理はステップS111に移行する。
ステップS111では、撮像素子101を第2の出力モード(フル解像度出力)に切り換え、ステップS112において、この第2の出力モード(フル解像度出力)で撮像を行わせる。この時、照明は、(フル画面撮影用の)照明装置117を点灯させる。ステップS113、S114では、第2の出力モード(フル解像度出力)で撮像された画像データに対して、画像処理装置107がノイズ除去、ラベリング、重心計算などを行い、例えば3つ配置されたマーカ112の中心位置を特定する演算を行う。
ステップS115では、本番の生産工程の動体撮影で用いる切り出し領域(ROI)を決定する。この時、図6(a)~(c)で示したような手法によって、特徴部としてのマーカ112を含む矩形領域を選択し、本番の生産工程の動体撮影で用いる切り出し領域(ROI)として決定する。この生産工程の動体撮影で用いる切り出し領域(ROI)は、カメラ104のコントローラ108のレジスタなどに書き込むことによって設定する。
ステップS116では、本番の生産工程を起動する。ステップS117では、カメラ104の生産工程の動体撮影で用いる切り出し領域(ROI)が、ステップS115でレジスタに設定した位置に設定される。また、照明は、マーカ検出用の照明装置118を点灯させる。
その後、ステップS118~S124のループ制御によって、本番の生産工程が進行する。ここでは、カメラ104の部品通過判定部111が、コントローラ108のレジスタに設定された切り出し領域(ROI)を撮像(S118)する。そして、切り出し領域(ROI)内の明(High)画素数をカウント(S119)し、さらにステップS120で、その画素数が閾値以上かどうかを判定する。
このステップS120が肯定された場合には、マーカ112が切り出し領域(ROI:切り出し領域)に対応する位置に到達した、ということが示されるので、処理はステップS121に移行する。
ステップS121では、撮像素子101を第2の出力モード(フル解像度出力)に切り換える。ステップS122では、撮像素子101に、この第2の出力モード(フル解像度出力)で撮像を行わせる。この時、照明は、(フル画面撮影用の)照明装置117を点灯させる。そして、撮像された画像データはステップS123で画像処理装置107に転送される。
画像処理装置107では、部品105を把持した搬送装置106をカメラ104で動体撮影して取得した画像から部品105の位置姿勢を検出する。そして、画像処理装置107が検出した部品105の位置姿勢に基づき、ロボット制御装置121は、搬送装置106の位置姿勢を制御し、部品105に係る製造工程、例えば部品105の組み付けや加工を制御することができる。ステップS118~S123の生産制御は、ステップS124で、生産工程を終了させる所定の条件が検出されるまで繰り返し実行される。
上記のように、本実施形態は、動画撮影のトリガとなる移動体検出を行う切り出し領域を設定する設定処理工程を備えている。この設定処理では、実際の動体撮影と同じ態様で移動する移動体の画像が移動する方向と交差するよう配置された検出領域を設定する。そして、移動体の画像が検出領域を通過した場合に、画像センサから出力させた画像データから移動体の特徴部位を検出する。さらに、検出した特徴部位を含む撮像範囲中の部分領域を切り出し領域として決定する。この切り出し領域の設定処理の場合、作業者は、大まかなタイミング指定を行うだけで、面倒な領域指定操作などを必要とせず、極めて容易に実施できる。また、この切り出し領域の設定処理は、1ライン幅程度の検出領域を設定して、極めて高速に実行でき、従来のように、移動体を静止させて撮影を行う必要がない。また、この切り出し領域の設定処理では、移動体は、実際の動体撮影と同じ搬送条件で移動させて構わない。
このように、本実施形態では、移動体(部品105)を停止させることなく、動体撮影時と同じ搬送状態において、特徴部を検出するための切り出し領域(ROI)の設定処理を面倒な設定操作を必要とせず、極めて容易に実施できる。また、切り出し領域(ROI)の設定処理は、静止画撮影ではなく、動体撮影時と同じ搬送状態において実行できるため、例えば、特徴領域の設定時と実際の動体撮影時との搬送装置106の位置ズレが生じず、精度よく、また確実に動体撮影を行うことができる。
本発明は、上述の実施例の1以上の機能を実現するプログラムネットワーク又は記憶媒体を介してシステムまたは装置に供給し、そのシステムまたは装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
101…撮像素子、102…レンズ、103…制御装置、104…カメラ、105…部品、106…搬送装置、107…画像処理装置、108…コントローラ、109…画像入力インタフェース、110…画像出力インタフェース、111…部品通過判定部、112…マーカ、121…ロボット制御装置。

Claims (15)

  1. 移動体を所定サイズの画像を撮像可能な画像センサにより撮像し、出力画像データを前記画像センサから出力させる撮影装置の制御方法において、
    制御装置が、前記画像センサを、前記所定サイズよりも画像サイズが小さい切り出し領域の画像データを出力するように設定した状態で、前記画像センサから出力させた画像データから前記移動体の位置が所定の位置に到達したか否かを検出する移動体検出工程と、
    前記制御装置が、前記移動体検出工程で前記移動体の位置が前記所定の位置に到達したことを検出した場合、前記画像センサを前記所定サイズの出力画像データを出力するように設定して画像データを前記画像センサから出力させる動体撮影工程と、
    前記制御装置が、前記画像センサに連続的に画像を撮影させ、撮影された画像の中に移動体を検出した場合には、前記画像センサに視野全体を撮影させて高画素数の画像データを取得し、前記高画素数の画像データに基づいて前記切り出し領域を設定する設定工程と、を備え撮影装置の制御方法。
  2. 請求項1に記載の撮影装置の制御方法において、前記設定工程において、前記制御装置は、前記画像センサの撮像範囲に、前記動体撮影工程と同じ態様で移動する前記移動体の画像が移動する方向と交差するよう配置された検出領域を設定し、前記移動体の画像が前記検出領域を通過した場合に、前記高画素数の画像データから前記移動体の特徴部位を検出し、検出した前記特徴部位を含む前記画像センサの前記撮像範囲中の部分領域を前記切り出し領域として決定する撮影装置の制御方法。
  3. 請求項2に記載の撮影装置の制御方法において、前記検出領域は、前記撮像範囲を通過する前記移動体の画像の移動方向と交差する方向に延びる、幅が1画素以上のライン状の領域である撮影装置の制御方法。
  4. 請求項2に記載の撮影装置の制御方法において、前記検出領域は、前記移動体の画像が通過する矩形状の領域である撮影装置の制御方法。
  5. 請求項2から4のいずれか1項に記載の撮影装置の制御方法において、前記設定工程において、前記画像センサは、前記検出領域の画像データを間引き出力する撮影装置の制御方法。
  6. 請求項1から5のいずれか1項に記載の撮影装置の制御方法において、前記移動体の特徴部位が、前記移動体、または前記移動体を移動させる搬送装置に付与された再帰反射材である撮影装置の制御方法。
  7. 移動体を所定サイズの画像を撮像可能な画像センサにより撮像し、出力画像データを前記画像センサから出力させる撮影装置の制御方法において、
    制御装置が、前記画像センサを、前記所定サイズよりも画像サイズが小さい切り出し領域の画像データを出力するように設定した状態で、前記画像センサから出力させた画像データから前記移動体の位置が所定の位置に到達したか否かを検出する移動体検出工程と、
    前記制御装置が、前記移動体検出工程で前記移動体の位置が前記所定の位置に到達したことを検出した場合、前記画像センサを前記所定サイズの出力画像データを出力するように設定して画像データを前記画像センサから出力させる動体撮影工程と、
    前記制御装置が、前記動体撮影工程と同じ態様で移動する前記移動体が前記所定の位置にある時に、前記画像センサから出力させた画像データから前記移動体の特徴部位を検出し、検出した前記特徴部位を含む前記画像センサの撮像範囲中の部分領域を前記切り出し領域として決定する設定工程と、を備え、
    前記移動体の特徴部位が、前記移動体、または前記移動体を移動させる搬送装置に付与された再帰反射材であり、
    記再帰反射材が前記移動体または前記移動体を移動させる搬送装置の異なる位置に複数、付与され、前記設定工程において、複数の前記再帰反射材の画像が含まれる前記画像センサの撮像範囲を前記切り出し領域として決定する撮影装置の制御方法。
  8. 請求項7に記載の撮影装置の制御方法において、前記設定工程において、前記画像センサの撮像範囲で前記再帰反射材の画像が画成する領域に内接、あるいは外接する矩形状の部分領域を前記切り出し領域として決定する撮影装置の制御方法。
  9. 移動体を所定サイズの画像を撮像可能な画像センサにより撮像し、出力画像データを前記画像センサから出力させる撮影装置の制御方法において、
    制御装置が、前記画像センサを、前記所定サイズよりも画像サイズが小さい切り出し領域の画像データを出力するように設定した状態で、前記画像センサから出力させた画像データから前記移動体の位置が所定の位置に到達したか否かを検出する移動体検出工程と、
    前記制御装置が、前記移動体検出工程で前記移動体の位置が前記所定の位置に到達したことを検出した場合、前記画像センサを前記所定サイズの出力画像データを出力するように設定して画像データを前記画像センサから出力させる動体撮影工程と、
    前記制御装置が、前記動体撮影工程と同じ態様で移動する前記移動体が前記所定の位置にある時に、前記画像センサから出力させた画像データから前記移動体の特徴部位を検出し、検出した前記特徴部位を含む前記画像センサの撮像範囲中の部分領域を前記切り出し領域として決定する設定工程と、を備え
    前記設定工程において、前記制御装置は、前記画像センサの撮像範囲に、前記動体撮影工程と同じ態様で移動する前記移動体の画像が移動する方向と交差するよう配置された検出領域を設定し、前記検出領域で前記移動体が撮像されている画素の数の総和が閾値を超えた場合に前記検出領域の内部を前記移動体の画像が通過したと判定し、前記画像センサから出力させた画像データから前記移動体の特徴部位を検出し、検出した前記特徴部位を含む前記画像センサの前記撮像範囲中の部分領域を前記切り出し領域として決定する撮影装置の制御方法。
  10. 請求項9に記載の撮影装置の制御方法において、前記設定工程において、さらに、前記検出領域の端部の画素で前記移動体が通過したと判定されたことを条件として、前記検出領域の内部を前記移動体の画像が通過したと判定する撮影装置の制御方法。
  11. 請求項1から10のいずれか1項に記載の各工程を前記制御装置に実行させるための制御プログラム。
  12. 請求項11に記載の制御プログラムを格納したコンピュータ読み取り可能な記録媒体。
  13. 請求項1から10のいずれか1項に記載の撮影装置の制御方法によって、生産システムが備える撮影装置を制御して前記移動体として搬送される部品を撮像し、前記動体撮影工程によって前記画像センサより出力される画像データに対する画像処理に基づき、前記部品に対して生産処理または検査処理を行う工程を備えたことを特徴とする部品の製造方法。
  14. 移動体を所定サイズの画像を撮像可能な画像センサにより撮像し、出力画像データを前記画像センサから出力させる制御装置を備えた撮影装置において、
    前記制御装置は、
    前記画像センサを、前記所定サイズよりも画像サイズが小さい切り出し領域の画像データを出力するように設定した状態で、前記画像センサから出力させた画像データから前記移動体の位置が所定の位置に到達したか否かを検出する移動体検出工程と、
    前記制御装置が、前記移動体検出工程で前記移動体の位置が前記所定の位置に到達したことを検出した場合、前記画像センサを前記所定サイズの出力画像データを出力するように設定して画像データを前記画像センサから出力させる動体撮影工程と、
    前記制御装置が、前記画像センサに連続的に画像を撮影させ、撮影された画像の中に移動体を検出した場合には、前記画像センサに視野全体を撮影させて高画素数の画像データを取得し、前記高画素数の画像データに基づいて前記切り出し領域を設定する設定工程と、
    を実行可能である撮影装置。
  15. 請求項14に記載の撮影装置において、前記設定工程において、前記制御装置は、前記画像センサの撮像範囲に、前記動体撮影工程と同じ態様で移動する前記移動体の画像が移動する方向と交差するよう配置された検出領域を設定し、前記移動体の画像が前記検出領域を通過した場合に、前記画像センサから出力させた画像データから前記移動体の特徴部位を検出し、検出した前記特徴部位を含む前記撮像範囲中の部分領域を前記切り出し領域として決定する撮影装置。
JP2018159226A 2018-08-28 2018-08-28 撮影装置の制御方法、撮影装置、制御プログラム、記録媒体、および部品の製造方法 Active JP7171313B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018159226A JP7171313B2 (ja) 2018-08-28 2018-08-28 撮影装置の制御方法、撮影装置、制御プログラム、記録媒体、および部品の製造方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018159226A JP7171313B2 (ja) 2018-08-28 2018-08-28 撮影装置の制御方法、撮影装置、制御プログラム、記録媒体、および部品の製造方法

Publications (2)

Publication Number Publication Date
JP2020035052A JP2020035052A (ja) 2020-03-05
JP7171313B2 true JP7171313B2 (ja) 2022-11-15

Family

ID=69668121

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018159226A Active JP7171313B2 (ja) 2018-08-28 2018-08-28 撮影装置の制御方法、撮影装置、制御プログラム、記録媒体、および部品の製造方法

Country Status (1)

Country Link
JP (1) JP7171313B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116112785B (zh) * 2023-02-27 2023-08-22 之江实验室 一种基于fpga的图像传感器帧率控制系统及控制方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005064586A (ja) 2003-08-13 2005-03-10 Jai Corporation 撮像タイミング自動検知機能を備えた検査・選別機用撮像装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2966694B2 (ja) * 1993-07-08 1999-10-25 三菱電機株式会社 画像処理装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005064586A (ja) 2003-08-13 2005-03-10 Jai Corporation 撮像タイミング自動検知機能を備えた検査・選別機用撮像装置

Also Published As

Publication number Publication date
JP2020035052A (ja) 2020-03-05

Similar Documents

Publication Publication Date Title
JP5947169B2 (ja) 外観検査装置、外観検査法およびプログラム
JP6630545B2 (ja) 位置決め方法、位置決め装置、プログラムおよびコンピュータ可読記録媒体
EP3640584A1 (en) Inspection device
CN110779928B (zh) 缺陷检测装置及方法
KR101627185B1 (ko) 영상촬영장치의 제어방법
JP6537332B2 (ja) 画像処理方法および撮影装置
CN109940662A (zh) 具备拍摄工件的视觉传感器的摄像装置
JP6245886B2 (ja) 画像撮像方法及び画像撮像装置
US10596707B2 (en) Article transfer device
JP2015216482A (ja) 撮像制御方法、および撮像装置
JP2016055389A (ja) 物品搬送システム
JP2017162133A (ja) 撮像システム、計測システム、生産システム、撮像方法、プログラム、記録媒体および計測方法
JP2017076169A (ja) 撮像装置、生産システム、撮像方法、プログラム及び記録媒体
JP7151873B2 (ja) 検査装置
US10607337B2 (en) Object inspection system and object inspection method
JP7171313B2 (ja) 撮影装置の制御方法、撮影装置、制御プログラム、記録媒体、および部品の製造方法
JP2017203744A (ja) 航空機パネル外観検査方法
JP2021026599A (ja) 画像処理システム
JP2003315020A (ja) 隙間および段差の測定装置および測定方法ならびに測定プログラム
WO2020100522A1 (ja) マーク検出システム、信号処理回路、コンピュータプログラムおよび方法
JP6412372B2 (ja) 情報処理装置、情報処理システム、情報処理装置の制御方法およびプログラム
JP2003302345A (ja) ロボットを用いた検査方法及び検査システム
JP2020040193A (ja) 情報処理装置及びピッキングシステム
JP4860452B2 (ja) テンプレートマッチングを用いたマーク位置決め方法及び装置
JP2001175866A (ja) 画像処理検査装置および画像処理検査方法

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20200206

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20200207

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210824

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220715

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220726

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220922

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221102

R151 Written notification of patent or utility model registration

Ref document number: 7171313

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151