JP2002005659A - ステレオ画像の測定装置 - Google Patents
ステレオ画像の測定装置Info
- Publication number
- JP2002005659A JP2002005659A JP2000191121A JP2000191121A JP2002005659A JP 2002005659 A JP2002005659 A JP 2002005659A JP 2000191121 A JP2000191121 A JP 2000191121A JP 2000191121 A JP2000191121 A JP 2000191121A JP 2002005659 A JP2002005659 A JP 2002005659A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- area
- stereo image
- determined
- corresponding area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000005259 measurement Methods 0.000 claims abstract description 54
- 238000012790 confirmation Methods 0.000 claims abstract description 20
- 238000012937 correction Methods 0.000 claims description 64
- 238000000034 method Methods 0.000 claims description 39
- 230000007704 transition Effects 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 15
- 238000012545 processing Methods 0.000 description 10
- 239000011521 glass Substances 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 238000010998 test method Methods 0.000 description 2
- 102100029777 Eukaryotic translation initiation factor 3 subunit M Human genes 0.000 description 1
- 101001012700 Homo sapiens Eukaryotic translation initiation factor 3 subunit M Proteins 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
- G01C11/04—Interpretation of pictures
- G01C11/06—Interpretation of pictures by comparison of two or more pictures of the same area
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/97—Determining parameters from multiple pictures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
- Image Analysis (AREA)
- Eye Examination Apparatus (AREA)
Abstract
易に判断可能とすることとする。 【解決手段】 通常のモニタからなる第1表示部1、立
体視可能なステレオモニタからなる第2表示部2、マウ
スカーソルを表示させるマーク形成部3、XYZ方向を
指示する指示部40、基準領域に対して対応領域を捜索
する対応領域捜索部6、捜索された領域と基準領域の位
置が一致しているかどうか確認する対応領域位置確認部
7、捜索された対応領域を対応領域と決定する対応領域
決定部11、対応位置確認部7による確認結果や基準領
域及び対応領域並びに対応領域決定部で決定された決定
対応領域を記憶する記憶部10、決定対応領域を修正す
る決定対応領域修正部12、デジタル化されたステレオ
画像を記憶する画像記憶部8、画像を表示させる表示用
メモリ9を備える。指示部40は、マウスにより基準領
域の平面(X,Y)方向の指示を行なわせる平面方向指
示部4、三次元計測の際に奥行き(Z)方向の指示を行
なうZ方向指示部5を有する。
Description
三次元計測・図化するステレオ画像の測定装置に係り、
特に、人と機器とが相互(対話的)に操作しながら自動
的又はマニュアルで三次元計測及び図化を行う(リアル
タイム相関確認モード)ステレオ画像の測定装置に関す
る。
測量機とポータブルコンピュータとの組み合わせによ
り、計測現場の線画図面が作成されていた。このような
従来の電子平板では、トータルステーションやGPSな
どの測量機を利用してポータブルコンピュータ上で、線
画を描画することで図化を行っていた。そして、計測現
場の図化を行う際、現地にて現況を見ながら図化した
り、別途写真撮影して、それらを見ながらオフィスにて
図化を行っていた。また、航空写真などでは、ステレオ
撮影していた画像から、解析図化機等を用いて図化を行
っていた。
計測・図化する場合、解析図化機を用いていた。また、
近年ではデジタル写真測量を利用した機器を使って行な
っている。
機器は、立体ディスプレイあるいは立体鏡のようなもの
を覗いて、ハンドルやフットスイッチ等を使って計測・
図化作業を行なわなければならなかった。立体視をしな
がら同時に計測・図化作業を行なうのにはかなりの熟練
が必要であり、一般の人にはそれら作業が行なえなかっ
た。また、ハンドルやフットスイッチのかわりに3次元
マウス等を使って計測・図化するデジタル写真測量機器
もあるが、これらも同様に立体視をしながらでないと作
業が行なえず、操作が困難で熟練を要していた。逆に、
立体ディスプレイを用いず計測する機器もあるが、これ
ら機器は計測結果が正しかったどうかを確認するのが困
難であり、計測結果が正しく信頼性のあるものかどうか
わからなかった。
の対応点計測の結果の良否を容易に判断可能とすること
を目的とする。また、本発明は、これら計測・図化作業
を熟練を要せず誰でも簡単に行なえる機器を提供するこ
とを目的とする。
によると、一対のステレオ画像を表示する表示部と、操
作者の操作により、表示された一対のステレオ画像中の
一方に基準領域を指示する指示部と、一対のステレオ画
像中の他方において、ステレオ画像中の一方で指示され
た基準領域に対応する領域を求める対応領域捜索部と、
一対のステレオ画像上のそれぞれに上記指示部により指
示された基準領域を示すマークと、上記対応領域捜索部
により捜索された対応点を示すマークを形成するマーク
形成部と、上記対応領域捜索部が捜索した捜索対応領域
を対応領域と決定する対応領域決定部と、上記対応領域
決定部で決定された決定対応領域を記憶する記憶部と、
決定対応領域を修正する決定対応領域修正部と、上記対
応領域捜索部が捜索した捜索対応領域が、指示部により
指示された基準領域に対応するか否かを判断する対応領
域位置確認部と、を備えたステレオ画像の測定装置を提
供する。
ステレオ画像を表示する表示部と、操作者の操作によ
り、表示された一対のステレオ画像中の一方に基準領域
を指示する指示部と、一対のステレオ画像中の他方にお
いて、ステレオ画像中の一方で指示された基準領域に対
応する領域を求める対応領域捜索部と、一対のステレオ
画像上のそれぞれに上記指示部により指示された基準領
域を示すマークと、上記対応領域捜索部により捜索され
た対応点を示すマークを形成するマーク形成部と、上記
対応領域捜索部が捜索した捜索対応領域を対応領域と決
定する対応領域決定部と、上記対応領域決定部で決定さ
れた決定対応領域を記憶する記憶部と、決定対応領域を
修正する決定対応領域修正部と、上記対応領域捜索部が
捜索した捜索対応領域が、指示部により指示された基準
領域に対応するか否かを判断する対応領域位置確認部と
を備え、上記表示部は、上記対応領域位置確認部が確認
した判断結果を識別可能に表示し、上記指示部の指示位
置に応じて、捜索モードを中断し、修正モードに移行す
るように構成したステレオ画像の測定装置を提供する。
の構成図を示す。本装置は、通常のモニタ(CRT、液
晶等)からなる第1表示部1、立体視可能なステレオモ
ニタから構成される第2表示部2、表示部上にマウスカ
ーソルを表示させるマーク形成部3、XYZ方向を指示
する指示部40、基準領域に対して対応領域を捜索する
(逆もある)対応領域捜索部6、捜索された領域と基準
領域の位置が一致しているかどうか確認する対応領域位
置確認部7、捜索された対応領域を対応領域と決定する
対応領域決定部11、対応位置確認部7による確認結果
や基準領域及び対応領域並びに対応領域決定部で決定さ
れた決定対応領域(計測データを図化データとして)を
記憶する記憶部10、決定対応領域を修正する決定対応
領域修正部12、デジタル化されたステレオ画像を記憶
する画像記憶部8、画像を表示させる表示用メモリ9を
備える。マーク形成部3は、基準領域の位置や対応領域
の位置をマークとして表示するだけでなく、基準領域を
対応領域捜索部6にて捜索、対応位置確認部7にて確認
した結果を識別可能にして表示を行う機能も有する。
面(X,Y)方向の指示を行なわせる平面方向指示部
4、三次元計測の際に奥行き(Z)方向の指示をダイヤ
ル等で行なうZ方向指示部5を有する。指示部40の平
面(X,Y)方向指示部4とZ方向指示部5は、一体化
していても別々でも良い。例えば、これらが一体化して
いる場合は、平面(X,Y)方向制御用マウスと奥行き
(Z)方向制御用ダイヤルからなった3Dマウス構成と
することができる。さらにボタンがいくつか設けること
により、それらを計測データ確定用や対応領域決定部1
1や決定対応領域修正部12に利用してもよい。平面と
奥行き方向制御が別々の場合は、平面(X,Y)方向指
示部4として、パソコン用マウス等が利用でき、その場
合、マウスのボタンを利用できる。Z方向指示部5は、
Z方向制御用ダイヤルとボタン等から構成される。これ
らボタンをデータ確定用としたり、対応領域決定部11
や決定対応領域修正部12に利用してもよい。本発明で
は、説明の便宜状、一例として、指示部40は、平面方
向指示部4をパソコン用マウス、Z方向指示部5にZ方
向調節用ダイヤルがついているものとし、データ確定
は、マウスの左ボタンを押すことにより行うこととす
る。
た位置は、マーク形成部3によりマークを作成し、第1
表示部1又は第2表示部2にてその位置を表示する。自
動捜索モードにおいては、常に指示部40の指示位置に
対応する位置を対応領域捜索部6にて捜索、対応領域位
置確認部7にて確認、マーク形成部3にてその良否を識
別可能に表示することが可能である。また、その位置を
図化データとして確定する場合は、指示部40のボタン
により対応領域決定部11にて位置確定を行ない、その
三次元座標データを記憶部10に記憶させ、表示用メモ
リ9を経て表示部に表示させることにより行われる(プ
ロット)。また、自動捜索モードにてマーク形成部3で
識別可能な表示を行なわずとも、指示部40の指示位置
に対応する対応領域捜索部6にて捜索、対応領域位置確
認部7にて確認した結果やそれら基準領域や対応領域の
位置を記憶部10に記憶してもよい。
取込ませることをプロット、それら全体の動作を図化と
呼ぶことにする。図化データは基本は点の集合である
が、線や多角形など各種描画図形全体を指すデータであ
る。また、計測・図化とは結果的に三次元計測を行って
いることと同じである。
0からの信号が、決定対応領域修正部12を操作してモ
ードを移行させ、マニュアル図化や修正を行なわせる。
特に、記憶部10にすでに記憶されている(プロットさ
れている)データの修正に際しては、決定対応領域修正
部12の指示により、記憶部10の修正すべき点を対応
領域決定部11により決定し、修正を行なう。
す。第1表示部1は、図2に示されるように、左右画像
を一つのディスプレイ上に分割して表示する。第2表示
部2は、例えば、3D眼鏡をかけて立体視可能とするよ
うな立体ディスプレイであり、方式は、左右画像を2枚
のディスプレイにそれぞれ表示させ、偏光フィルタによ
って合成、偏光眼鏡によって観察するデュアルディスプ
レイ方式や、1枚の画面に左右画像を交互に表示させ、
それら画像を液晶眼鏡や偏光眼鏡によって観察する液晶
シャッター方式等がある。
は、ステレオ法の原理により計測が可能となる。以下
に、ステレオ法の原理を示す。図3に、ステレオ法の説
明図を示す。ここでは、簡単のために、同じカメラを2
台使用し、それぞれの光軸は平行でカメラレンズの主点
からCCD面までの距離aが等しく、CCDは光軸に直
角に置かれているものとして、ステレオ法の原理につい
て説明する。
物体上の点P1(x1、y1)、P 2(x2、y2)の
座標の間には、以下のような関係がある。 x1=ax/z −−−(1) y1=y2=ay/z −−−(2) x2−x1=a×L/z −−−(3) 但し、全体の座標系(x、y、z)の原点をカメラ1の
レンズ主点にとるものとする。(3)式よりzを求め、
これを用いて(1)式、(2)式よりx、yが求められ
る。
像測定の第1のフローチャートを示す。ステップS0で
は、デジタル画像を本装置の画像記憶部8に読み込む。
ステレオ画像は、一般のフィルムカメラや、計測用カメ
ラ、航空写真等をスキャナでスキャンニングしてデジタ
ル化して読み取るか、デジタルカメラによって直接取得
される。これら取得されたステレオ(左右)画像は、本
装置の画像記憶部8に読み込んで記憶する。ステップS
5では、画像記憶部8に取込まれた画像を表示用メモリ
9に転送、表示部にて表示を行なう。
ステレオ計測が可能となるように、相互標定という操作
及び処理を行なう。この作業は、計測したカメラの位置
と傾きを計算し、立体視可能となる画像を作成する処理
である。立体視可能となった状態で、先に説明したステ
レオ法の原理により立体計測が可能となる。相互標定作
業は、第1表示部1又は第2表示部2に表示されている
基準点もしくは、特徴点を6個所以上、左右画像上で計
測することにより、計算処理によって各種パラメータを
算出し、立体視可能な画像を作成する。なお、相互標定
に関しては、本発明の主題ではないので、詳細な説明は
行なわない。相互標定が正常に終了すれば、立体視可能
となるように偏位修正された画像が第1表示部1に左右
に分割され表示される。第2表示部2では、眼鏡をかけ
れば立体視可能な状態となって表示される。
このモードの最初は、第1表示部1又は第2表示部2に
計測対象の全体、あるいは広範囲にわたった領域を表示
する。これにより、表示をみながらマウス操作によりマ
ニュアル図化作業が可能となる。第1表示部1による作
業であれば、左右上の対応点を眼で確認しながら左右画
像上にマウスを移動してプロットしていくことが可能と
なる。第2表示部2であれば、3D眼鏡をかけながらマ
ウスにより平面方向を指示(平面方向指示部4)、高さ
方向Z方向指示部5により、高さ方向を制御すること
で、図化が可能となる。
る。このモードに入るとインタラクティブな自動捜索が
可能となる。ステップS20のマニュアル図化によるプ
ロットも可能であるが、こちらのモードにすれば、より
誰でも簡単な図化が可能となる。ステップS40では、
まず最初に、第1表示部1又は第2表示部2をみながら
マウスで図化したい個所を指示する。ステップS50で
は、指示されたエリアについて画像を切り出し拡大表示
する。拡大の倍率は適宜に設定しておく。画像をクリッ
クすることで、拡大を行なえるようにしてもよい。この
場合は、例えば計測しやすい画像となるまで、数回マウ
スのボタンをクリックすることにより行なう。このよう
にして所望の大きさに画像を調整する。ステップS60
では、所望の大きさに画像が切り出されたら、図化した
い点をマウスにより指示する。
明図を示す。マウスにより指示する点は、例えば図5の
基準画像a中の基準領域a’の中心である。基準画像a
は左画像、右画像どちらとしてもよい。ステップS70
では、マウスで指示された点を中心に基準領域a’を設
定、テンプレート画像(後述の画像相関処理で詳細を説
明)とする。基準領域a’の大きさはあらかじめパラメ
ータとして設定しておく。計測対象物によって可変とし
て良い。
する対応領域b’を対応画像bから捜索する。捜索は、
対応画像b上の基準画像aと同じエピポーララインc上
を捜索する。なお、基準画像aと対応画像bのエピポー
ララインcは対応がとれて、一致している。この場合ス
テップS10の相互標定により偏位修正された画像は、
図5に示すとおり縦視差が除去され、左右画像のオーバ
ーラップ部分には、左右画像の同一ライン上に基準領域
a’に対する対応領域b’が必ず存在するように画像が
修正されている。対応画像bの捜索領域dは、基準画像
a上でマウスで指示した基準領域a’の中心と同じ位置
を対応画像b上の捜索領域dの中心として捜索する。こ
の場合、捜索領域幅は、例えば、パラメータ等により適
宜決めておく、あるいは対象物により可変としておく。
対応点捜索処理は、対応領域捜索部6により演算され
る。対応点捜索には例えば画像相関処理(後述)を利用
する。
計算された相関値の一番高い領域を、対応領域b’とす
る。そして、対応領域b’を逆にテンプレートに設定す
る。ステップS100では、対応領域b’に対応する領
域を基準画像a上で探索する。
(2)を示す。この場合、同一エピポーララインc上を
テンプレートをもとに、基準領域a’を中心として捜索
領域d’を探索する。この場合も対応領域捜索部6によ
り、後述の画像相関処理によって探索する。ステップS
110では、基準画像上の対応領域を決定する。この場
合相関値の一番高い領域を基準領域a”とし、対応領域
とする。ステップS120では、求まった対応領域の位
置と最初に指示した基本領域の位置は一致するか対応領
域位置確認部7により判定する。すなわち、基準領域
a’と求まった基準領域a”が一致するかを確認する。
S120で求められた対応画像b上の対応領域b’の中
心位置へ、マーク形成部3により形成されたOKマーク
を表示する。ステップS140では、NG(Not Good)な
ら(OKでなければ)、ステップS120で求められた対
応画像b上の対応領域b’の中心位置へマーク形成部3
により形成されたNGマークを表示する。マーク形成部
3では、対応領域位置確認部7によって確認された判定
に応じて、対応画像b上のマークの色を変える、形状を
変える等、識別できるようにする。例えばOKマークで
あれば緑色のマークを表示、NGであれば赤色表示等と
し、一目でわかるようにする。また、ステップS13
0、S140では、同時に奥行き(Z)を計算、表示し
ても良く、さらに相関値等も表示してよい。
示部5のZ制御用ダイヤルがまわされれば、ステップS
160のマニュアル図化へと移る。すなわちステップS
130又はS140の表示判定が適当でなければ、Z方
向指示部5を操作して、Z方向をマニュアルで計測しな
がら図化を行なうこととなる。これは、対応画像領域の
マーク表示がNGで自動捜索モードでは計測が行なえな
いが図化したい場合や、マーク表示がNGでなくとも信
頼性が低かったり間違っていたりしたときに正確に図化
したい時等に行なう。Z方向の指示がされていなければ
(ダイヤルがまわされなければ)、ステップS170へ
いく。
ば、ステップS180へ、したくなければステップS1
90へ行く。ステップS180では、プロットする。す
なわち、マウスのボタンにより計測データの確定を行う
と(対応領域捜索部6の対応領域が対応領域決定部11
に決定され)、そのときの計測データが記憶部10に書
きこまれる。プロットが確定された点は、色表示を変え
ることなどにより識別させる。点で計測したい場合は、
OK表示の個所を順次クリックしていくことにより複数
点を計測することができる。図7に、複数点を計測する
場合の説明図を示す。境界線、輪郭線を描く時など、線
や図形で図化したい場合は、マークがOK表示となって
いる開始値地点と終点位置をクリックすることでプロッ
トする。さらに線計測を続けたいときは、クリックを続
ければ、その点を確定点として線をつなげていくように
すればよい。図8に、線計測をする場合の説明図を示
す。
修正したくなった場合、修正モードへ行く(後述、図1
1、12、13のステップS200、ステップS30
0、ステップS400参照)。修正しなければ、次のス
テップS195へうつる。ステップS195では、測定
を続行させるのであれば、ステップS40へ戻ってこれ
ら処理を繰り返す。
に基準画像a上のマウスの位置に対する対応画像b上の
対応位置判定表示が行なえるので簡単な図化が可能とな
る。
明図を示す。画像相関処理には、残差逐次検定法(SS
DA法)や相互相関係数法などがある。ここでは、相互
相関係数法を説明する。
うにN1×N1画素のテンプレート画像を、それより大
きいM1×M1画素の入力画像内の探索範囲(M1−N
1+1)2上で動かし、下式のCOR(a,b)が最大
になるようなテンプレート画像の左上位置を求めて、テ
ンプレート画像に対し探索されたとみなす。
COR(a,b)の一番大きい点が対応領域b’として
検出されることとなる。対応領域捜索部6の処理とし
て、相互相関処理法を説明したが、ここは残差逐次検定
法や他の対応点探索法を利用してもよい。
プS160で示したマニュアル図化について説明する。
図10に、マニュアル図化の詳細を示す詳細フローを示
す。ステップS161では、Z方向指示部5のダイヤル
がまわされたら(ステップS150)、自動的に自動捜
索モードオフとなり、マニュアル図化モードへ移行す
る。ステップS162では、Z方向(高さ)を計測す
る。システム構成が図1の第1表示部1のみの場合は、
図5に示されるように、左右画像上の計測したい点が同
一エピポーララインc上に必ずあることにより、第1表
示部1の左右画像を比較しながら計測する。この場合、
平面方向指示部4の位置を基準にして、Z方向指示部5
のダイヤルを動かすことによりZ方向を制御して、対応
画像上の対応領域上のマークを移動することができるの
で、これにより正しい位置へとマークを移動させる。こ
の場合、基準画像、対応画像を逆として、対応画像を基
準として、基準画像上のマークを動かしても良い。第2
表示部2の立体モニタがあるシステム構成の場合は、さ
らに詳細な計測が可能となる。この場合、計測したい点
の計測が間違っていれば、ステレオモニタ上で、本来あ
る位置よりも浮いたり、沈んだりして計測点が見えるの
で、第1表示部1より明確に計測できる。計測は、立体
モニタを見ながら、Z方向指示部5によりZ方向を制御
し、正確な高さ位置へとマークを合わせればよい。
ロットする。OKであれば、マウスのボタンにより計測
データの確定を行い、記憶部10に計測データを書きこ
む。ステップS166では、このままマニュアル図化を
続けたければステップS167へ、マニュアル図化を終
了するのであればステップS168へ行く。ステップS
167では、次の計測したい個所へマウスを移動させ
る。そしてステップS162へ行き計測作業を繰り返
す。ステップS168では、マニュアル図化作業を終了
し、自動捜索モードをオンにして、図4のステップS1
90へ行く。
ディスプレイで確認後、修正したい場合について説明す
る。修正モードは、例えば、以下に説明するように3通
りある。図11に、第1の修正モードのフローチャート
を示す。ステップS200では、修正したい点の近くに
マウスを移動する。ステップS210では、修正位置確
定を行なう。すなわち、修正したい点の近くでマウスの
ボタンを押すと決定対応領域修正部12が指示を出力
し、記憶部10に記憶されているマウスのX,Y位置と
一番近い修正点の位置を対応領域決定部11により自動
選択し表示する。この作業により、記憶部10の修正プ
ロット点を確定する。ステップS220では、ステップ
S210と同時に自動捜索モードがオフ、修正モードオ
ンとなる。
う。修正作業は、以下の通りである。システム構成が図
1の表示部1のみの場合は、図5に示されるように、左
右画像上のプロットした点が同一エピポーララインc上
に必ずあることにより、表示部1の左右画像を比較しな
がら修正する。この場合、平面方向指示部4の位置を基
準にして、Z方向指示部5のダイヤルを動かすことによ
りZ方向を制御して、対応画像上の対応領域上のマーク
を移動することができるので、これにより正しい位置へ
とマークを移動させる。この場合、基準画像a、対応画
像bを逆として、対応画像bを基準として、基準画像a
上のマークを動かしても良い。第2表示部2の立体モニ
タがあるシステム構成の場合は、さらに詳細な確認、修
正が可能となる。この場合、プロットした点が間違って
いれば、ステレオモニタ上で、本来ある位置よりも浮い
たり、沈んだりしてプロット点が見えるので表示部1よ
り明確に確認できる。修正は、立体モニタを見ながら、
Z方向指示部5によりZ方向を制御し、正確な高さ位置
へとダイヤルを回しながらマークを合わせれば修正がで
きる。
ば再プロットする。すなわち、マウスのボタンをクリッ
クすることにより、決定対応領域修正部12は、修正点
が計測されたと解釈し、対応領域決定部11上に指示部
40から出力されているX,Y,Z座標値を確定、記憶
部10に再記憶させるよう命令する。この作業により、
記憶部10に修正された計測値が書き込まれる。ステッ
プS250では、更に修正するのであれば、ステップS
200へ戻って修正作業を続ける。ステップS260で
は、修正モード終了であれば、自動捜索モードオンと
し、ステップS195へ移る。
ローチャートを示す。このフローチャートに従い、自動
修正モード切替えについて説明する。この場合は、例え
ば自動捜索モードにて、図化を行なっている最中に間違
えてプロットしてしまった点を修正する場合である。
傍にマウスを移動させる。ステップS310では、Z方
向指示を行なう。これにより、自動的に修正点を選択す
る。Z方向指示部5のダイヤルを修正のためにまわす。
この作業がトリガとなって、指示部で指示されている点
から一番近い修正プロット点を自動的に確定、記憶部1
0上の修正点を選択する。ステップS320では、自動
的に自動捜索モードがオフとなり、修正モードに入る。
ステップS330では、そこで、表示部をみながら、Z
方向指示部5のダイヤルを修正のためにまわし修正す
る。修正処理は図11のステップS230と同様であ
る。ステップS340では、修正がOKであれば確定さ
せ、再プロットする。ステップS350では、更に修正
するのであれば、ステップS300へ戻って修正作業を
続ける。ステップS360では、修正モード終了であれ
ば、自動捜索モードオンとし、ステップS195へ移
る。
ーチャートを示す。自動捜索モードでマーク表示がNG
であるにもかかわらず、間違ってプロット(計測)した
点の自動修正モード切替えについてこのフローチャート
に従って説明する。
傍にマウスを移動する。ステップS410では、対応画
像上のマーク表示NGとなり、自動的に一番近いNGの
プロット点が選択される。ステップS420では、自動
捜索モードがオフとなり修正モードに入る。ステップS
430では、修正を行なう。修正処理は図11のステッ
プS230と同様である。ステップS440では、修正
がOKであれば確定させ、再プロットする。ステップS
450では、更に修正するのであれば、ステップS40
0へ戻って修正作業を続ける。ステップS460では、
修正モード終了であれば、自動捜索モードオンとし、ス
テップS195へ移る。
ず行なえるようになる。このようにすることで、マニュ
アル計測したい個所で自動的にマニュアル図化モードに
切替え、図化が終わればまた自動捜索モードにもどるの
で、操作が簡単かつ容易となる。このような判定処理と
することで、誰でも簡単に図化が行え、かつ信頼性の高
い位置検出が可能となる。
ム処理が可能であり、記憶部10にいちいち記憶せずと
も図4の動作を行なえるが、更に記憶することで以下の
ことが可能となる。
定の第2のフローチャートを示す。このフローチャート
は、図4と大部分同様であり、相違点は、図4のステッ
プS130、ステップS140で表示するかわりにステ
ップS500の記憶部に記憶、となったところである。
すなわち、指示部40にて指示された基本領域について
対応領域捜索部6にて捜索、対応領域確認部7にて確認
した結果を記憶部10に順次記憶していく。この場合、
対応領域位置確認部の判定がNGだけを、あるいはOK
だけを、あるいはOKかNGかを同時に記憶してもよ
い。それらを行なうと、次のようなことが可能となる。
0にNGデータを記憶してあるので、表示を行なわなく
とも、修正モードの処理(図11〜13)は同様に行な
える。すなわち、NGである近傍にマウスを移動するだ
けで修正モードとなって修正すべき点が自動的に選択・
修正が可能となる。
のマウスにてマウスを動かした良い点だけが記憶部10
に取込まれることになるので、連続的に基準領域をマウ
スにより指示、移動させることにより、対応領域の対応
点でOKの個所を連続的にプロットしていくことができ
る。このようにすると、いちいち確定させずともマウス
をなぞるだけで、短時間に大量の点を計測・図化するこ
とが可能となる。さらにこのようにして取得した点は、
対象物の形状を表現する為にこれら点を接続して三角網
を貼ったり、自動DTM計測をするときなどに有効に利
用される。それら詳細は、特願2000−93398、
特願2000−93886のこと。OKとNGの場合で
は、上述した二つのことが行なえるようになる。
が、立体視に頼らなくとも、コンピュータの自動計算処
理により良否判断をくだせるので、熟練が必要なくなり
誰でも簡単にこれら作業が行えるようになる。さらに、
本発明によると、複雑な個所を詳細に計測したい場合
や、間違って計測した場合、信頼性の低い計測部分を修
正したい場合等も、図化、確認、修正が簡単にでき、大
幅な省力化が可能となる、という卓越した効果がある。
また、本発明によると、これら取得された三次元データ
は三角網作成や、DTM自動計測等に活かすことで高速
かつ、信頼性の高い三次元計測システムを構築すること
が可能となる。
ーチャート。
ローチャート。
Claims (14)
- 【請求項1】一対のステレオ画像を表示する表示部と、 操作者の操作により、表示された一対のステレオ画像中
の一方に基準領域を指示する指示部と、 一対のステレオ画像中の他方において、ステレオ画像中
の一方で指示された基準領域に対応する領域を求める対
応領域捜索部と、 一対のステレオ画像上のそれぞれに上記指示部により指
示された基準領域を示すマークと、上記対応領域捜索部
により捜索された対応点を示すマークを形成するマーク
形成部と、 上記対応領域捜索部が捜索した捜索対応領域を対応領域
と決定する対応領域決定部と、 上記対応領域決定部で決定された決定対応領域を記憶す
る記憶部と、 決定対応領域を修正する決定対応領域修正部と、 上記対応領域捜索部が捜索した捜索対応領域が、指示部
により指示された基準領域に対応するか否かを判断する
対応領域位置確認部と、 を備えたステレオ画像の測定装置。 - 【請求項2】請求項1記載のステレオ画像の測定装置に
おいて、 上記マーク形成部は、一対のステレオ画像上に上記指示
部により指示された基準領域を示すマークと、上記対応
領域捜索部により決定された対応点を示すマークを、上
記対応領域位置確認部の判断結果が識別可能に形成する
ように構成されていることを特徴とするステレオ画像の
測定装置。 - 【請求項3】請求項2記載のステレオ画像の測定装置に
おいて、 さらに、上記対応領域位置確認部による確認結果、基準
領域及び対応領域並びに上記対応領域決定部で決定され
た決定対応領域を記憶する記憶部と、を有することを特
徴とするステレオ画像の測定装置。 - 【請求項4】請求項1乃至3記載のステレオ画像の測定
装置において、 上記マーク形成部は、ステレオ画像のそれぞれを並列し
て表示する表示部にマークを表示するように構成されて
いることを特徴とするステレオ画像の測定装置。 - 【請求項5】請求項4記載のステレオ画像の測定装置に
おいて、 上記マーク形成部は、さらに、ステレオ画像を立体視可
能に構成した第2表示部にマークを表示するように構成
されていることを特徴とするステレオ画像の測定装置。 - 【請求項6】請求項1乃至3記載のステレオ画像の測定
装置において、 上記対応領域捜索部は、相関処理により対応点を求める
ように構成され、 上記対応領域位置確認部は、上記対応領域捜索部と同じ
方式又はこれとは異なる方式で対応基準領域を求め、こ
の対応基準領域と基準領域の位置に基づき確認するよう
に構成されていることを特徴とするステレオ画像の測定
装置。 - 【請求項7】請求項1乃至3記載のステレオ画像の測定
装置において、 上記対応領域捜索部は、相関処理により対応点を求める
ように構成され、 上記対応領域位置確認部は、対応点の位置に基づき確認
するように構成されていることを特徴とするステレオ画
像の測定装置。 - 【請求項8】請求項1乃至3記載のステレオ画像の測定
装置において、 上記指示部により指示される基準領域は、上記記憶で記
憶された上記対応領域位置確認部による確認結果、基準
領域及び対応領域のいずれかに応じて設定されるように
構成されていることを特徴とするステレオ画像の測定装
置。 - 【請求項9】一対のステレオ画像を表示する表示部と、 操作者の操作により、表示された一対のステレオ画像中
の一方に基準領域を指示する指示部と、 一対のステレオ画像中の他方において、ステレオ画像中
の一方で指示された基準領域に対応する領域を求める対
応領域捜索部と、 一対のステレオ画像上のそれぞれに上記指示部により指
示された基準領域を示すマークと、上記対応領域捜索部
により捜索された対応点を示すマークを形成するマーク
形成部と、 上記対応領域捜索部が捜索した捜索対応領域を対応領域
と決定する対応領域決定部と、 上記対応領域決定部で決定された決定対応領域を記憶す
る記憶部と、 決定対応領域を修正する決定対応領域修正部と、 上記対応領域捜索部が捜索した捜索対応領域が、指示部
により指示された基準領域に対応するか否かを判断する
対応領域位置確認部とを備え、 上記表示部は、上記対応領域位置確認部が確認した判断
結果を識別可能に表示し、 上記指示部の指示位置に応じて、捜索モードを中断し、
修正モードに移行するように構成したステレオ画像の測
定装置。 - 【請求項10】請求項9記載のステレオ画像の測定装置
において、 上記指示部の指示位置が、上記対応領域位置確認部が少
なくとも対応不良と判断した領域近傍となった際に、捜
索モードを中断し、修正モードに移行するように構成し
たことを特徴とするステレオ画像の測定装置。 - 【請求項11】請求項9記載のステレオ画像の測定装置
において、 上記指示部の指示位置が、上記対応領域位置確認部が少
なくとも対応不良と判断した領域近傍となり、かつ、上
記決定対応領域修正部が操作された際に、捜索モードを
中断し、修正モードに移行するように構成したことを特
徴とするステレオ画像の測定装置。 - 【請求項12】請求項9記載のステレオ画像の測定装置
において、 上記指示部の基準領域の指示に応じて、上記対応領域捜
索部が対応領域を求める捜索モードが形成され、その自
動捜索モード中に、上記指示部の指示が位置するように
された上記対応領域が既に対応領域決定部で決定された
基準領域の近傍となった際に、上記決定対応領域修正部
が操作された場合に、自動捜索モードを中断し、上記決
定対応領域修正部の指示に応じて上記対応領域決定部が
対応領域を決定するマニュアル図化モードに移行するよ
うに構成したことを特徴とするステレオ画像の測定装
置。 - 【請求項13】請求項9記載のステレオ画像の測定装置
において、 上記指示部の基準領域の指示に応じて、上記対応領域捜
索部が対応領域を求める捜索モードが形成され、その自
動捜索モード中に、上記指示部の指示が位置するように
された対応領域が既に上記対応領域決定部で決定された
基準領域の近傍となった際に、上記決定対応領域修正部
が操作された場合に、自動捜索モードを中断し、上記決
定対応領域修正部の指示に応じて上記対応領域決定部が
対応領域を決定する修正モードに移行するように構成し
たことを特徴とするステレオ画像の測定装置。 - 【請求項14】請求項1又は9記載のステレオ画像の測
定装置において、 上記指示部の基準領域の指示に応じて、上記対応領域捜
索部が対応領域を求める捜索モードが形成され、その自
動捜索モード中に、上記決定対応領域修正部により修正
操作がなされた場合に、自動捜索モードを中断し、上記
決定対応領域修正部の指示に応じて上記対応領域決定部
が対応領域を決定するように構成したことを特徴とする
ステレオ画像の測定装置。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000191121A JP4593730B2 (ja) | 2000-06-26 | 2000-06-26 | ステレオ画像の測定装置 |
DE60142726T DE60142726D1 (de) | 2000-06-26 | 2001-06-25 | Stereobildmessvorrichtung |
EP01305507A EP1168246B1 (en) | 2000-06-26 | 2001-06-25 | Stereo image measuring device |
US09/887,268 US6810142B2 (en) | 2000-06-26 | 2001-06-25 | Stereo image measuring device |
AT01305507T ATE476721T1 (de) | 2000-06-26 | 2001-06-25 | Stereobildmessvorrichtung |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000191121A JP4593730B2 (ja) | 2000-06-26 | 2000-06-26 | ステレオ画像の測定装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002005659A true JP2002005659A (ja) | 2002-01-09 |
JP4593730B2 JP4593730B2 (ja) | 2010-12-08 |
Family
ID=18690473
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000191121A Expired - Fee Related JP4593730B2 (ja) | 2000-06-26 | 2000-06-26 | ステレオ画像の測定装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US6810142B2 (ja) |
EP (1) | EP1168246B1 (ja) |
JP (1) | JP4593730B2 (ja) |
AT (1) | ATE476721T1 (ja) |
DE (1) | DE60142726D1 (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008089314A (ja) * | 2006-09-29 | 2008-04-17 | Topcon Corp | 位置測定装置及びその方法 |
KR100942055B1 (ko) | 2002-03-15 | 2010-02-11 | 소니 주식회사 | 영상 처리 장치와 방법, 인쇄물 제조장치와 방법 및 인쇄물 제조 시스템 |
KR101026628B1 (ko) | 2005-08-01 | 2011-04-04 | 가부시키가이샤 토프콘 | 삼차원 계측시스템, 삼차원 계측방법 및 컬러코드 부착표식 |
WO2017209153A1 (ja) * | 2016-05-30 | 2017-12-07 | シャープ株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3864150B2 (ja) * | 2003-06-18 | 2006-12-27 | オリンパス株式会社 | 情報呈示装置及び情報呈示方法 |
US20060066624A1 (en) * | 2004-09-30 | 2006-03-30 | Microsoft Corporation | Method and system for generating per-pixel error bounds for a rendered image |
US7660458B1 (en) * | 2004-12-14 | 2010-02-09 | Google Inc. | Three-dimensional model construction using unstructured pattern |
US8971597B2 (en) * | 2005-05-16 | 2015-03-03 | Intuitive Surgical Operations, Inc. | Efficient vision and kinematic data fusion for robotic surgical instruments and other applications |
US9492240B2 (en) | 2009-06-16 | 2016-11-15 | Intuitive Surgical Operations, Inc. | Virtual measurement tool for minimally invasive surgery |
US7907166B2 (en) * | 2005-12-30 | 2011-03-15 | Intuitive Surgical Operations, Inc. | Stereo telestration for robotic surgery |
IL181889A (en) | 2007-03-13 | 2010-11-30 | Israel Aerospace Ind Ltd | Method and system for providing a known reference point for an airborne imaging platform |
TW200907764A (en) * | 2007-08-01 | 2009-02-16 | Unique Instr Co Ltd | Three-dimensional virtual input and simulation apparatus |
JP5150234B2 (ja) * | 2007-12-14 | 2013-02-20 | 株式会社トプコン | 測量装置 |
US8184880B2 (en) | 2008-12-31 | 2012-05-22 | Intuitive Surgical Operations, Inc. | Robust sparse image matching for robotic surgery |
US8830224B2 (en) | 2008-12-31 | 2014-09-09 | Intuitive Surgical Operations, Inc. | Efficient 3-D telestration for local robotic proctoring |
US9155592B2 (en) | 2009-06-16 | 2015-10-13 | Intuitive Surgical Operations, Inc. | Virtual measurement tool for minimally invasive surgery |
JP5709579B2 (ja) * | 2010-03-02 | 2015-04-30 | 株式会社半導体エネルギー研究所 | 微結晶半導体膜の作製方法 |
JP6135972B2 (ja) * | 2012-10-29 | 2017-05-31 | 国際航業株式会社 | 標定方法、標定プログラム、及び標定装置 |
US9375844B2 (en) | 2013-03-15 | 2016-06-28 | Intuitive Surgical Operations, Inc. | Geometrically appropriate tool selection assistance for determined work site dimensions |
US9860510B2 (en) | 2013-03-15 | 2018-01-02 | Intuitive Surgical Operations, Inc. | Depth based modification of captured images |
GB2572755B (en) | 2018-04-05 | 2020-06-10 | Imagination Tech Ltd | Matching local image feature descriptors |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6266113A (ja) * | 1985-09-19 | 1987-03-25 | Tokyo Optical Co Ltd | 座標測定方法及びその装置 |
JPH0250274A (ja) * | 1988-08-12 | 1990-02-20 | Oki Electric Ind Co Ltd | ステレオ画像対応付け装置 |
JPH03167678A (ja) * | 1989-11-28 | 1991-07-19 | Asia Kosoku Kk | ステレオ画像データから3次元数値データを求める方法 |
JPH10246629A (ja) * | 1997-03-05 | 1998-09-14 | Kumagai Gumi Co Ltd | 写真撮影管理方法 |
JPH10318715A (ja) * | 1997-05-22 | 1998-12-04 | Topcon Corp | 画像測定装置 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0726828B2 (ja) * | 1986-04-18 | 1995-03-29 | 株式会社トプコン | 形状測定装置 |
DE3802219A1 (de) * | 1988-01-26 | 1989-08-03 | Deutsche Forsch Luft Raumfahrt | Verfahren und einrichtung zur fernerkundung der erde |
US5519485A (en) * | 1992-07-31 | 1996-05-21 | Kabushiki Kaisha Topcon | Stereo image measuring apparatus |
US5550937A (en) * | 1992-11-23 | 1996-08-27 | Harris Corporation | Mechanism for registering digital images obtained from multiple sensors having diverse image collection geometries |
US6041140A (en) * | 1994-10-04 | 2000-03-21 | Synthonics, Incorporated | Apparatus for interactive image correlation for three dimensional image production |
JP3990002B2 (ja) * | 1997-05-22 | 2007-10-10 | 株式会社トプコン | 画像測定装置 |
DE69829091T2 (de) * | 1997-05-22 | 2006-02-09 | Kabushiki Kaisha Topcon | Messungsgerät |
US6442293B1 (en) * | 1998-06-11 | 2002-08-27 | Kabushiki Kaisha Topcon | Image forming apparatus, image forming method and computer-readable storage medium having an image forming program |
-
2000
- 2000-06-26 JP JP2000191121A patent/JP4593730B2/ja not_active Expired - Fee Related
-
2001
- 2001-06-25 US US09/887,268 patent/US6810142B2/en not_active Expired - Lifetime
- 2001-06-25 EP EP01305507A patent/EP1168246B1/en not_active Expired - Lifetime
- 2001-06-25 AT AT01305507T patent/ATE476721T1/de active
- 2001-06-25 DE DE60142726T patent/DE60142726D1/de not_active Expired - Lifetime
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6266113A (ja) * | 1985-09-19 | 1987-03-25 | Tokyo Optical Co Ltd | 座標測定方法及びその装置 |
JPH0250274A (ja) * | 1988-08-12 | 1990-02-20 | Oki Electric Ind Co Ltd | ステレオ画像対応付け装置 |
JPH03167678A (ja) * | 1989-11-28 | 1991-07-19 | Asia Kosoku Kk | ステレオ画像データから3次元数値データを求める方法 |
JPH10246629A (ja) * | 1997-03-05 | 1998-09-14 | Kumagai Gumi Co Ltd | 写真撮影管理方法 |
JPH10318715A (ja) * | 1997-05-22 | 1998-12-04 | Topcon Corp | 画像測定装置 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100942055B1 (ko) | 2002-03-15 | 2010-02-11 | 소니 주식회사 | 영상 처리 장치와 방법, 인쇄물 제조장치와 방법 및 인쇄물 제조 시스템 |
KR101026628B1 (ko) | 2005-08-01 | 2011-04-04 | 가부시키가이샤 토프콘 | 삼차원 계측시스템, 삼차원 계측방법 및 컬러코드 부착표식 |
JP2008089314A (ja) * | 2006-09-29 | 2008-04-17 | Topcon Corp | 位置測定装置及びその方法 |
WO2017209153A1 (ja) * | 2016-05-30 | 2017-12-07 | シャープ株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
US10922841B2 (en) | 2016-05-30 | 2021-02-16 | Sharp Kabushiki Kaisha | Image processing device, image processing method, and image processing program |
Also Published As
Publication number | Publication date |
---|---|
US6810142B2 (en) | 2004-10-26 |
US20020012460A1 (en) | 2002-01-31 |
EP1168246B1 (en) | 2010-08-04 |
DE60142726D1 (de) | 2010-09-16 |
EP1168246A2 (en) | 2002-01-02 |
JP4593730B2 (ja) | 2010-12-08 |
EP1168246A3 (en) | 2006-02-01 |
ATE476721T1 (de) | 2010-08-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4593730B2 (ja) | ステレオ画像の測定装置 | |
US7193626B2 (en) | Device and method for displaying stereo image | |
US7746377B2 (en) | Three-dimensional image display apparatus and method | |
JP2001075019A (ja) | 内視鏡装置 | |
JP2005077385A (ja) | 画像対応付け方法ならびに測量方法およびそれらを利用する計測システム | |
US20040075813A1 (en) | Unit for obtaining and displaying fundus image | |
US11385053B2 (en) | Distance measuring camera | |
US10922841B2 (en) | Image processing device, image processing method, and image processing program | |
JP4166993B2 (ja) | 立体画像表示装置及び方法 | |
JP2003070719A (ja) | 計測内視鏡装置 | |
JP4359083B2 (ja) | 測量システム | |
JPH09210649A (ja) | 三次元計測装置 | |
JP2006329684A (ja) | 画像計測装置及び方法 | |
JP7535412B2 (ja) | 3次元計測装置、3次元計測システムおよび3次元計測方法 | |
JP4167509B2 (ja) | 測量システム | |
JP4153322B2 (ja) | 写真測量における計測点の対応付け方法及び装置 | |
JP4319476B2 (ja) | 測量システム | |
JP4409924B2 (ja) | 三次元画像表示装置及び方法 | |
JP4427305B2 (ja) | 三次元画像表示装置及び方法 | |
JPH0820251B2 (ja) | 座標測定装置 | |
JP6730029B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、および撮像装置 | |
JP2006017633A (ja) | ステレオ写真解析機 | |
JP3587585B2 (ja) | 写真測量装置 | |
JP3851483B2 (ja) | 像点対応付け装置、像点対応付け方法、および像点対応付けプログラムを格納した記録媒体 | |
JP2009243885A (ja) | カーナビゲーション装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070411 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20091001 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091020 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091217 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100413 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100528 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100914 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100916 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130924 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |