JP3991040B2 - Three-dimensional measuring apparatus and three-dimensional measuring method - Google Patents
Three-dimensional measuring apparatus and three-dimensional measuring method Download PDFInfo
- Publication number
- JP3991040B2 JP3991040B2 JP2004158554A JP2004158554A JP3991040B2 JP 3991040 B2 JP3991040 B2 JP 3991040B2 JP 2004158554 A JP2004158554 A JP 2004158554A JP 2004158554 A JP2004158554 A JP 2004158554A JP 3991040 B2 JP3991040 B2 JP 3991040B2
- Authority
- JP
- Japan
- Prior art keywords
- dimensional
- light
- imaging
- sensor
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Length Measuring Devices With Unspecified Measuring Means (AREA)
- Measurement Of Length, Angles, Or The Like Using Electric Or Magnetic Means (AREA)
- Length Measuring Devices By Optical Means (AREA)
Description
本発明は、三次元計測装置に関し、さらに詳しくは、被測定対象物の測定死角を減少すると共に、流体の流動現象を計測する三次元計測装置と三次元計測方法に関するものである。 The present invention relates to a three-dimensional measurement apparatus, and more particularly to a three-dimensional measurement apparatus and a three-dimensional measurement method for measuring a fluid flow phenomenon while reducing a measurement blind spot of an object to be measured.
近年、コンピュータビジョンに関する研究が活発化し、撮像装置を用いた物体の三次元情報入力システムが身近なものになりつつある。この種の技術の中で、撮像装置としてテレビカメラを用い物体の三次元形状を入力する手法として、光切断法が広く知られている。これはスリット光を被測定対象物に照射し、その反射光をテレビカメラで撮像して、三角測量の原理から被測定対象物の三次元位置を求めるものである。
また近年、魚介類の養殖業における養魚介類生産技術を確立させるために高機能飼育水槽システムが開発され、水槽内の飼育環境の最適化を図る事業が実施されている。このような事業で重要なことは、目に見えない水の動きをどのように計測して管理するかである。即ち、水槽内での水の流れを計測する手法の確立が望まれている。
空気や水の流れなど目で見ることのできない現象を観察できるようにする技術は可視化と呼ばれる。可視化技術は、デジタル画像処理の技術を用いて解析を行うことで、流れの定性的な観察のみならず、速度分布などの定量計測にも使うことが可能となっている。また可視化する方法はそれぞれの目的に応じ多くの手法があるが、その中に、PIV(粒子画像流速測定法)と呼ばれるものがある。それは、可視化された画像を解析し、粒子群像の時間的変位から、二次元面内の速度を多点同時計測する技術である。PIVでは高精度な計測ができ、複雑な流れにも対応できる。
In recent years, research on computer vision has become active, and three-dimensional information input systems for objects using imaging devices are becoming familiar. Among these types of techniques, a light cutting method is widely known as a method for inputting a three-dimensional shape of an object using a television camera as an imaging device. In this method, slit light is irradiated onto a measurement object, and the reflected light is captured by a television camera, and the three-dimensional position of the measurement object is obtained from the principle of triangulation.
In recent years, a high-function breeding aquarium system has been developed in order to establish a technique for producing fishery products in the aquaculture industry, and a project for optimizing the breeding environment in the aquarium has been carried out. What is important in such a business is how to measure and manage invisible water movements. That is, establishment of a method for measuring the flow of water in the water tank is desired.
A technique that enables observation of phenomena that cannot be seen with the eyes, such as the flow of air or water, is called visualization. Visualization technology can be used not only for qualitative observation of flow, but also for quantitative measurement of velocity distribution, etc., by performing analysis using digital image processing technology. There are many visualization methods depending on the purpose. Among them, there is a method called PIV (Particle Image Velocity Measurement Method). It is a technology that analyzes a visualized image and simultaneously measures the velocity in a two-dimensional plane based on the temporal displacement of the particle group image. PIV can measure with high accuracy and can handle complicated flows.
また、従来の三次元画像情報入力装置として特開平9−210646号公報には、被写体に対してスリット光を走査する走査手段と、前記スリット光の位置を測定する位置測定手段と、被写体を光検出手段を用いて撮像する撮像手段と、カラー画像を撮影するカラー画像撮影手段とを備えた三次元画像情報入力装置について開示されている。
また米国ポヒマス社(Polhemus Inc.)は、非接触三次元形状入力装置として、ハンドヘルド・レーザスキャナFastSCAN(商品名)を製品化している。この製品は図24(a)に示すように、レーザダイオード50と、カメラ53と、図示しない磁気センサが一体化された本体52と、被測定対象物56の近傍に置かれ所定のエリアに磁界ベクトルを形成するトランスミッタ54とを備えて構成されている。そして、トランスミッタ54と本体52はケーブル55により接続され、図示しないPC等にケーブル53を介して接続されている。また、図24(b)に示す他の製品は、レーザダイオード61と、カメラ60a、60bと、図示しない磁気センサが一体化された本体62と、被測定対象物66の近傍に置かれ所定のエリアに磁界ベクトルを形成するトランスミッタ64と、被測定対象物66の所定の部分に取り付けられた磁気センサ63とを備えて構成されている。以上の製品は、三次元磁気センサを組合わせることにより、スキャナのカメラと被測定対象物との相対位置を特定できるため、大きな固定台やターンテーブルを必要とせず、三次元形状を素早く簡単に入力することができる、とされている。そして、この製品の原理について、[Hand-held Laser Scanning In Practice]としてBruce McCallum、Mark Nixon、Brent Price and Rick Fright等により詳細が報告されている。
In addition, Polhemus Inc. of the United States has commercialized a handheld laser scanner FastSCAN (trade name) as a non-contact three-dimensional shape input device. As shown in FIG. 24A, this product is placed in the vicinity of a
しかしながら、PIV計測では、一般的にスリットレーザを用いて、流れに混入したトレーサ粒子を可視化し、トレーサ粒子の動きを計測することで間接的に流体の速度分布を求め、計測したい位置にレーザ平面を照射させ、レーザ平面上の速度ベクトルを算出する。しかし、計測が三角測量に基づくため、レーザ平面の位置や傾き、もしくはCCDカメラの位置や姿勢が変わるとキャリブレーションのやり直しが必要になり、計測としては操作性が悪いといった問題がある。
また特許文献1に開示されている従来技術は、一般的に三角測量の原理上、レーザ投光器やテレビカメラの配置を被測定対象物の大きさに合わせて予め決定し、固定しなければならない。そのため、被測定対象物背面や被測定対象物の形状、凹凸等が複雑な場合においては、死角が生じるといった問題がある。
また、非特許文献1により報告されている製品は、レーザダイオードとカメラが一体化されているため、レーザが照射されている個所がカメラに映らない場合があり、被測定対象物のくぼみ等が死角となる問題がある。これを改善するためにカメラを2台備えて異なる角度から撮像する製品(図24(b))もあるが、カメラが2台必要となるためコストが高くなるという問題がある。
本発明は、かかる課題に鑑み、テレビカメラとレーザ投光器に三次元位置と方向を検出できる三次元磁気センサ(例えば、3SPACE FASTRACK,Polhemus Inc.)を取り付け、テレビカメラとレーザ投光器をそれぞれ独立して動作させながら被測定対象物全体を計測することにより、死角を減少させると共に、流体の流動現象を計測することが可能な三次元計測装置を提供することを目的とする。
However, in PIV measurement, generally, a slit laser is used to visualize the tracer particles mixed in the flow, and the movement of the tracer particles is indirectly measured to obtain the velocity distribution of the fluid. And the velocity vector on the laser plane is calculated. However, since the measurement is based on triangulation, if the position or tilt of the laser plane or the position or orientation of the CCD camera is changed, calibration needs to be performed again.
The prior art disclosed in
In addition, since the laser diode and the camera are integrated in the product reported by Non-Patent
In view of such a problem, the present invention attaches a three-dimensional magnetic sensor (for example, 3SPACE FASTRACK, Polhemus Inc.) capable of detecting a three-dimensional position and direction to a television camera and a laser projector, and the television camera and the laser projector are independently provided. An object of the present invention is to provide a three-dimensional measurement apparatus capable of reducing the blind spot and measuring the fluid flow phenomenon by measuring the entire object to be measured while operating.
本発明はかかる課題を解決するために、請求項1は、物体の三次元情報を入力して前記物体の三次元形状を計測する三次元計測装置において、前記物体に光を照射する投光手段と、該投光手段により前記物体表面に照射された光を撮像する撮像手段と、前記投光手段に備えられ該投光手段の三次元位置情報及び姿勢情報を生成する第1のセンサと、前記撮像手段に備えられ該撮像手段の三次元位置情報及び姿勢情報を生成する第2のセンサと、前記物体に照射された光の平面方程式を算出する方程式算出手段と、を備え、前記投光手段と撮像手段がそれぞれ独立に動作することにより前記第1のセンサ及び第2のセンサより得られる三次元位置情報及び姿勢情報に基づいて、前記方程式算出手段が前記物体に照射された光の平面方程式を算出し、該算出結果から前記物体の三次元形状を計測することを特徴とする。
従来の三次元計測装置は、投光手段と撮像手段が所定の角度で一体的に構成されていた。従って、投光手段により物体に光を照射した場合、その狭い範囲を撮像手段が撮像するため、くぼみ等が死角となる場合が多かった。そこで本発明では、投光手段と撮像手段を独立に動作するようにして、それぞれに三次元位置情報及び姿勢情報を生成するセンサを備え、それぞれが独立に動作することにより得られた三次元位置情報及び姿勢情報を基に平面方程式を算出するものである。これにより、くぼみ等の死角部分に対して撮像手段を自由に移動できるので、測定個所の死角を減少することができ、複雑な物体の三次元計測を迅速に且つ正確に行うことができる。
In order to solve the above-described problems, the present invention provides a light projecting unit for irradiating light on the object in a three-dimensional measurement apparatus that inputs the three-dimensional information of the object and measures the three-dimensional shape of the object. Imaging means for imaging the light irradiated on the object surface by the light projecting means; a first sensor provided in the light projecting means for generating three-dimensional position information and posture information of the light projecting means; A second sensor that is provided in the imaging unit and generates three-dimensional position information and posture information of the imaging unit; and an equation calculation unit that calculates a plane equation of light irradiated on the object, A plane of light irradiated on the object by the equation calculation unit based on the three-dimensional position information and the posture information obtained from the first sensor and the second sensor by independently operating the imaging unit and the imaging unit. Calculate equation , Characterized by measuring the three-dimensional shape of the object from the result output the calculated.
In the conventional three-dimensional measuring apparatus, the light projecting means and the imaging means are integrally configured at a predetermined angle. Therefore, when the object is irradiated with light by the light projecting means, the imaging means picks up an image of the narrow range, so that a depression or the like often becomes a blind spot. Therefore, in the present invention, the light projecting means and the imaging means are operated independently, and each is provided with a sensor that generates three-dimensional position information and posture information, and the three-dimensional position obtained by operating each independently. The plane equation is calculated based on the information and the posture information. As a result, the imaging means can be freely moved with respect to a blind spot such as a depression, so that the blind spot at the measurement location can be reduced, and a three-dimensional measurement of a complex object can be performed quickly and accurately.
請求項2は、所定のエリアに磁界ベクトルを形成するトランスミッタを備え、前記第1のセンサ及び第2のセンサは前記磁界ベクトルを受信することにより、当該センサの前記三次元位置情報及びロール角、ピッチ角、及びヨー角の前記姿勢情報を取得することを特徴とする。
投光手段と撮像手段の位置情報と姿勢情報を得るには、各種の方法が考えられるが、光の光路を邪魔せず、且つ視界を妨げない方法が必要条件である。その点では磁界による方法が最適である。本発明では半球状の磁界を発生するトランスミッタを備え、その磁界の磁力線に対するベクトルを計算することにより三次元位置情報及び姿勢情報を取得するものである。従って、物体と投光手段及び撮像手段の距離はこの磁界のエリア内に限定される。
The second aspect includes a transmitter that forms a magnetic field vector in a predetermined area, and the first sensor and the second sensor receive the magnetic field vector, whereby the three-dimensional position information and the roll angle of the sensor, The attitude information of the pitch angle and the yaw angle is acquired.
Various methods are conceivable for obtaining the position information and the posture information of the light projecting means and the imaging means, but a method that does not disturb the optical path of light and does not disturb the field of view is a necessary condition. In that respect, the method using a magnetic field is optimal. The present invention includes a transmitter that generates a hemispherical magnetic field, and obtains three-dimensional position information and posture information by calculating a vector with respect to the magnetic field lines of the magnetic field. Accordingly, the distance between the object, the light projecting means, and the imaging means is limited to the area of the magnetic field.
請求項3は、前記物体が流体である場合には、当該流体の動きを可視化する可視化手段を更に備え、前記投光手段と撮像手段がそれぞれ独立に動作することにより前記第1のセンサ及び第2のセンサより得られる三次元位置情報及び姿勢情報に基づいて、前記方程式算出手段が前記可視化手段により可視化された流体に照 射された光の平面方程式を算出し、該算出結果から前記流体の流動現象を計測することを特徴とする。
物体が固形物で固定されているとは限らない。例えば、水や空気のような流体もある。しかし、これらの流体は目に見えないので何らかの方法で可視化する必要 がある。そこで本発明では、流体を可視化する手段をさらに備え、その可視化手段にレーザ光を照射することにより、平面方程式を算出して流体の流動現象を計測するものである。
請求項4は、前記可視化手段は、所定の反射率を有する粒子状の物体であることを特徴とする。
可視化手段としては、例えば流体が水の場合は、その水の中に光を反射するトレーサ粒子等を混入するのが最も簡単で確実である。
According to a third aspect of the present invention, when the object is a fluid, a visualizing unit that visualizes the movement of the fluid is further provided, and the light projecting unit and the imaging unit operate independently, whereby the first sensor and the first sensor On the basis of the three-dimensional position information and posture information obtained from the
An object is not necessarily fixed with a solid substance. For example, there are fluids such as water and air. However, these fluids are invisible and need to be visualized in some way. Therefore, in the present invention, a fluid visualization means is further provided, and the fluid flow phenomenon is measured by calculating a plane equation by irradiating the visualization means with laser light.
According to a fourth aspect of the present invention, the visualization means is a particulate object having a predetermined reflectance.
As the visualization means, for example, when the fluid is water, it is the simplest and surest to mix tracer particles that reflect light into the water.
請求項5は、物体の三次元情報を入力して前記物体の三次元形状を計測する三次元計測方法において、前記物体にスリット光を照射する動作と該照射されたスリット光を撮像する動作を独立に行い、夫々の動作の三次元位置情報及び姿勢情報に基づいて前記物体に照射された光の平面方程式を算出し、該算出結果から前記物体の三次元形状を計測することを特徴とする。本発明は請求項1と同様の作用を奏する。請求項6は、前記物体の形状が滑らかな場合には、前記物体に照射されたスリット光の光軸と該スリット光を撮像する光軸との角度を大きくして撮像し、前記物体の形状が複雑な場合には、前記物体に照射されたスリット光の光軸と該スリット光を撮像する光軸との角度を小さくして撮像することを特徴とする。請求項7は、前記物体が流体である場合には、当該流体の動きを可視化し、前記流体にスリット光を照射する動作と該照射されたスリット光を撮像する動作を独立に行い、夫々の動作により得られた三次元位置情報及び姿勢情報に基づいて可視化された流体に照射された光の平面方程式を算出し、該算出結果から前記流体の流動現象を計測することを特徴とする。
本発明は請求項3と同様の作用を奏する。
The present invention has the same effect as that of the third aspect .
請求項1、5の発明によれば、投光手段と撮像手段を独立に動作するようにして夫々に三次元位置情報及び姿勢情報を生成するセンサを備えたので、物体の測定個所の死角を減少することができ、複雑な物体の三次元計測を迅速に且つ正確に行うことができる。
また請求項2では、所定のエリアに磁界ベクトルを形成するトランスミッタを備えたので、各センサが磁界ベクトルを計算することにより、位置情報及び姿勢情報を正確に取得することができる。
According to the first and fifth aspects of the present invention, the sensors for generating the three-dimensional position information and the posture information are provided so that the light projecting means and the image pickup means operate independently, so that the blind spot at the measurement point of the object can be obtained. It is possible to reduce the volume of the object, and the three-dimensional measurement of the complex object can be performed quickly and accurately.
According to the second aspect of the present invention, since a transmitter for forming a magnetic field vector is provided in a predetermined area, each sensor can accurately acquire position information and posture information by calculating the magnetic field vector.
また請求項6では、物体の形状に応じてスリット光の光軸と撮像手段の光軸との成す角度を変化させるので、物体の形状に応じて処理時間の短縮と死角の減少を両立させることができる。また請求項3、7では、流体の動きを可視化する可視化手段を更に備えたので、目に見えない流体でも流体の流動現象を測定することができる。また請求項4では、可視化手段が所定の反射率を有する粒子状の物体であるので、流体に簡単に混入することができる。 According to the sixth aspect of the invention , since the angle formed by the optical axis of the slit light and the optical axis of the imaging unit is changed according to the shape of the object, both the reduction of the processing time and the reduction of the blind spot are achieved according to the shape of the object. Can do. Further, in the third and seventh aspects, since the visualization means for visualizing the movement of the fluid is further provided, the fluid flow phenomenon can be measured even with an invisible fluid. According to a fourth aspect of the present invention , since the visualization means is a particulate object having a predetermined reflectance, it can be easily mixed into the fluid.
以下、本発明を図に示した実施形態を用いて詳細に説明する。但し、この実施形態に記載される構成要素、種類、組み合わせ、形状、その相対配置などは特定的な記載がない限り、この発明の範囲をそれのみに限定する主旨ではなく単なる説明例に過ぎない。図1は 本発明の第1の実施形態に係る三次元計測装置を使用して対象物を計測している斜視図である。この三次元計測装置100は、対象物1にレーザスリット光を照射するレーザ投光器20と、このレーザ投光器20により対象物1の表面に照射された光を撮像する撮像装置30と、所定のエリアに磁界ベクトルを形成するトランスミッタ40と、図示しないパーソナルコンピュータ(PC)を備えて構成される。そして、レーザ投光器20はT字型の架台2と、スリット状のレーザ光を出射するレーザ光源3と、レーザ投光器20の位置情報と姿勢情報を生成する磁気センサ4とを備えて構成され、レーザ光源3への電源と磁気センサ4の情報はケーブル5によりPCに伝えられる。また、撮像装置30はT字型の架台6と、対象物1に照射されたレーザスリット光を撮像するCCDカメラ7と、撮像装置30の位置情報と姿勢情報を生成する磁気センサ8とを備えて構成され、CCDカメラ7の信号と磁気センサ8の情報はケーブル9によりPCに伝えられる。尚、架台2、6は磁界の影響をレシーバに与えないために、木製、プラスチック、ゴム等の材質により形成される(詳細は後述する)。また、光源としてレーザ光を使用したが、LED或いは他の可視光を使用しても構わない。また、本実施形態ではレーザ投光器20と撮像装置30の位置情報と姿勢情報を生成する手段として、トランスミッタ40からの磁界ベクトルを受信するために磁気センサを使用したが、他の手段により生成しても構わない。ここで、投光手段は主としてレーザ投光器20により構成され、撮像手段は主として撮像装置30により構成され、第1のセンサは主として磁気センサ4により構成され、第2のセンサは主として磁気センサ8により構成され、方程式算出手段は主としてPCにより構成される。
Hereinafter, the present invention will be described in detail with reference to embodiments shown in the drawings. However, the components, types, combinations, shapes, relative arrangements, and the like described in this embodiment are merely illustrative examples and not intended to limit the scope of the present invention only unless otherwise specified. . FIG. 1 is a perspective view of measuring an object using the three-dimensional measuring apparatus according to the first embodiment of the present invention. The three-
次に本実施形態の三次元計測装置100の概略動作について説明する。まず、トランスミッタ40を対象物1の近傍に配置し、電源を投入してトランスミッタ40の磁界をレーザ投光器20及び撮像装置30が検出できるように対象物1との位置関係を設定する。これは図示しないPCの画面を見ながら調整を行う。例えば、市販のトランスミッタの場合は半径90cmの半円球の範囲に磁界が形成される。そしてレーザ投光器20と撮像装置30を手に持ち、PCの画面を見ながらCCDカメラ7が対象物1の全体画像を捉えられるように配置する。そしてレーザ光源3の電源を投入して、スリット光が対象物1の走査開始位置に来るようにしてPCに格納されたプログラムを開始する。そして、レーザ投光器20を対象物1の走査開始位置から順次上から下(或いは下から上)に移動し、対象物1の全体(背面を含む)の走査が完了するまで行う。これらの走査の過程でCCDカメラ7から読み込まれたスリット光の平面方程式がリアルタイムに計算される。また、走査の過程でレーザ投光器20及び撮像装置30を移動しても、磁気センサ4、磁気センサ8から位置情報とロール角、ピッチ角、ヨー角の姿勢情報がPCに取り込まれリアルタイムに処理されて対象物1の平面方程式に反映される。即ち、例えば対象物1に照射したスリット光がくぼみ等で死角となった場合、投光器20を移動して死角とならないようにスリット光を照射するか、或いは撮像装置30を移動して死角を防ぐようにすることが可能となる。
そして対象物1の走査が完了するとPCに取り込まれたデータに基づいて、対象物1の三次元画像を再生する。この三次元画像はあらゆる角度からのデータにより構成されているので、対象物を回転して任意の角度から観察することも可能となる。
Next, a schematic operation of the three-
When the scanning of the
図2は図1の斜視図に基づいて本実施形態の三次元計測装置100の全体構成を表す模式図である。同じ構成要素には同じ参照番号が付されているので、重複する説明は省略する。ここで、CCDカメラ7の信号はケーブル9によりイメージプロセッサ17に接続され、磁気センサ8の信号はケーブル9によりレーザ位置検出回路11に接続され、磁気センサ4はケーブル5によりレーザ位置検出回路11に接続され、トランスミッタ40はケーブル41によりレーザ位置検出回路11に接続されている。またレーザ位置検出回路11の出力及びイメージプロセッサ17の出力信号はPC12に入力され、PC12を制御するプログラムはROM(Read Only Memory)13に格納されている。またPC12からは処理された三次元画像を表示するモニタ18が接続されている。尚、イメージプロセッサ17はCCDカメラ7により撮像された画像データをPC12が処理し易いように変換する機能があり、CCDカメラ7からの画像信号からレーザ輝線の座標をリアルタイムに演算するために回路をFPGA(Field Programmable Gate Array)により構成している。またレーザ位置検出回路11は磁気センサ4、磁気センサ8の信号から三次元位置情報及び姿勢情報を検出回路である。
また説明の都合上CCDカメラ7の光軸15とレーザ光源3の光軸16のなす角度をαとする。また対象物1の表面形状はさまざまなものが存在する。例えば、ヤカンのように表面が比較的滑らかで変化がない物もあれば、人物のブロンズ像のように表面の形状が複雑で凹凸が多い物もある。本実施形態ではこれらの対象物1の形状に応じてスリット光10の光軸16とCCDカメラ7の光軸15との成す角度αを変化させることにより、より迅速に且つ確実に死角を減少させることができる。即ち、対象物1の表面が滑らかな場合は、角度αを大きくして一度に広い範囲の情報を取得して処理し、対象物1の形状が複雑な場合は、角度αを狭くして狭い範囲を確実に走査して死角を減少させるようにするものである。これにより、対象物1の形状に応じて処理時間の短縮を図ると共に、対象物1の死角を減少させることもできる。
FIG. 2 is a schematic diagram showing the overall configuration of the three-
For convenience of explanation, the angle formed by the optical axis 15 of the
図3は投光器20と撮像装置30の一例を示す図である(単位はmmとする)。同じ構成要素には同じ参照番号を付して説明する。図3(a)は撮像装置30の斜視図であり、この撮像装置30は、CCDカメラ7と、CCDカメラを支持する架台6と、架台6から起立した部位6aに取り付けた磁気センサ8により構成されている。図3(b)は投光器20の斜視図であり、投光器20は、レーザ光源3と、レーザ光源3を支持する架台2と、架台2から起立した部位2aに取り付けた磁気センサ4により構成されている。また架台6、2は金属による磁気センサへの影響を無くすために木製とするのが好ましい。なお、磁気センサ8は検知部の中心がCCDカメラ7の光軸上になるように取り付けてあり、磁気センサ4は検知部の中心をレーザの光軸上に設置する。図4はトランスミッタ40の一例を示す外形図である(単位はmmとする)。図4(a)は上面図であり、図4(b)は側面図である。そしてP点は電気的な中心を表している。図5は磁気センサ8、4の一例を示す外形図である(単位はmmとする)。図5(a)は上面図であり、図5(b)は側面図である。そしてQ点は電気的な中心を表している。図6は本発明の磁気センサ4、8が位置情報と姿勢情報を生成する原理を説明する図である。図6(a)は磁界ベクトルと各レシーバの位置関係を表す図であり、トランスミッタ40から放射された磁界ベクトル42が半球状に形成され、その磁界ベクトル42上に例えば磁気センサ4、8が存在し、対象物1が磁界ベクトル42の内側に含まれるものとする。図6(b)は磁界ベクトルを説明する模式図である。例えば磁気センサ4ではトランスミッタ40の位置における磁界の強さおよび方向をAとし、磁界の強さおよび方向AのX軸方向磁界の強さ、Y軸方向磁界の強さ、Z軸方向磁界の強さをそれぞれAx、Ay、Azとし、cosα、cosβ、cosγを磁界の強さおよび方向Aの方向余波とすれば、Ax=Acosα、Ay=Acosβ、Az=Acosγであり、磁気センサ4のX軸方向の磁界検出コイルからはAxの出力が、Y軸方向の磁界検出コイルからはAyの出力が、Z軸方向の磁界検出コイルからはAzの出力が送出される。そして磁界の強さおよび方向Aは、A=(Ax2+Ay2+Az2)1/2で与えられる。同じく磁気センサ8の磁界の強さおよび方向Bは、B=(Bx2+By2+Bz2)1/2で与えられる。
FIG. 3 is a diagram illustrating an example of the
次にレーザ平面方程式の算出方法について説明する。
図7は各座標系の位置関係を表す図である。カメラ座標(画像モニタ上の座標u,v)50、CCDカメラ7に取り付けられた磁気センサ8のレシーバ座標51、レーザ光源3に取り付けられた磁気センサ4のレシーバ座標54、トランスミッタ40の中心を基準とした実座標であるワールド座標53をそれぞれ設定する。レーザ平面52の位置や傾きを自由に設定することを可能にするために、レーザ光源3に取り付けられた磁気センサ4が検知した情報(投光器20の位置と姿勢)を用いて、随時、レーザ平面52の方程式を算出することを行う。また、図7のように受像面55上にある計測点の位置Pとカメラの焦点Fを結ぶ直線lが磁気センサ8が検知した情報、(撮像装置30の位置と姿勢)を基に決定される。また、直線lとレーザ平面52の方程式の交点を求めることで、計測点のワールド座標53(X,Y,Z)を算出する。
Next, a method for calculating the laser plane equation will be described.
FIG. 7 is a diagram showing the positional relationship of each coordinate system. The camera coordinates (coordinates u, v on the image monitor) 50, the receiver coordinates 51 of the
図8はレシーバ座標54とレーザ平面52の関係を表す図である。
即ち、レーザ投光器20と撮像装置30取り付けられた磁気センサ4、8を用いてレーザ平面方程式をリアルタイムに算出することでレーザスリット平面の独立走査が可能となる。三次元磁気センサからはセンサ自体の位置(xow,yow,zow)と姿勢(φ,θ,ψ)のデータが得られる。三次元磁気センサのレシーバ座標に原点を置いたレシーバ座標上の点(xr,yr,zr)は、出力された三次元磁気センサのデータを基に(1)式によって、トランスミッタ40を原点としたワールド座標に変換される。
ここで
C:Cos、S:Sinとする。
レシーバ座標上でレーザ平面上の任意の3点の座標(x r ,y r ,z r )を式(1)に代入し、ワールド座標に変換することでレーザ平面の方程式を得ることができる。つまり、
が得られるレーザ平面の方程式である。
FIG. 8 is a diagram illustrating the relationship between the receiver coordinates 54 and the
That is, the laser slit plane can be independently scanned by calculating the laser plane equation in real time using the
here
C: Cos, S: Sin.
The equations of the laser plane can be obtained by substituting the coordinates (x r , y r , z r ) of any three points on the laser plane on the receiver coordinates into the equation (1) and converting them into world coordinates. That means
Is the equation of the laser plane from which is obtained.
図9はカメラ座標とレシーバ座標の関係を示す図である。また、図10に二次元化したカメラ焦点と受像面及び計測点の関係を示す。カメラの焦点20から受像面までの距離をfと置くと、受像面上の座標(カメラ座標50)はカメラの焦点20を原点とした座標系において、
となる。
z=λとおき、線形化すると、
と表される。
ここで、式(6)を三次元磁気センサのレシーバを原点とした座標系(レシーバ座標54)で表すために、回転・平行移動を考慮して、以下のような行列で表すことができる。
ここでk11〜k33のパラメータにはCCDカメラ7の位置や姿勢などをはじめとする計測対象と、CCDカメラ7の位置を表すデータが全て含まれている。従って、式(7)がレシーバ座標(x,y,z)54とカメラ位置(u,v)の関係式になる。
式(7)を展開し、整理すると次式のように表せる。
尚、11個の未知数k11〜k33は、既知のワールド座標の基凖点(x,y,z)と、それに対応するカメラ座標21の点(u,v)の組み合わせを式(8)に代入し、連立方程式を解くことで求めることができる。
また式(8)の2平面の交線で表される直線はカメラの焦点から計測点に向かう直線で以下のような媒介変数で表せる。
式(9)はレシーバ座標54であるので、式(1)と同様にワールド座標53に変換する。
ここで、(wx,wy,wz)はトランスミッタ40を原点とした磁気センサ8のワールド座標である。
カメラの焦点から計測点に向かう直線である式(10)とレーザ平面上の方程式である式(4)を連立させ計測点21のワールド座標(X,Y,Z)を求めることができる。
FIG. 9 is a diagram showing the relationship between camera coordinates and receiver coordinates. FIG. 10 shows the relationship between the two-dimensional camera focus, the image receiving surface, and the measurement points. When the distance from the camera
It becomes.
When z = λ and linearized,
It is expressed.
Here, since Expression (6) is expressed by a coordinate system (receiver coordinates 54) with the receiver of the three-dimensional magnetic sensor as the origin, it can be expressed by the following matrix in consideration of rotation and translation.
Here, the parameters k 11 to k 33 include all the measurement objects including the position and orientation of the
When formula (7) is expanded and arranged, it can be expressed as the following formula.
The eleven unknowns k 11 to k 33 are obtained by combining the known world coordinate base point (x, y, z) and the corresponding point (u, v) of the camera coordinate 21 with the formula (8). It can be obtained by substituting into and solving simultaneous equations.
Further, the straight line represented by the intersection of the two planes in the equation (8) is a straight line from the focal point of the camera to the measurement point and can be represented by the following parameter.
Since the equation (9) is the receiver coordinate 54, it is converted into the world coordinate 53 as in the equation (1).
Here, (wx, wy, wz) is the world coordinates of the
The world coordinates (X, Y, Z) of the
図11はキャリブレーションの構成を示す図である。50mmおきに目盛りが書かれたキャリブレーションボード70、71をレシーバ72のXY平面と平行になるように設置し撮影する。そして、画面上での座標(u,v)をクリックし読み取る。また、対応するキャリブレーションボード上の座標(x,y,z)も読み取る。同じz軸方向距離で4点の座標を読み取り、それをz軸方向に50mm移動しながら複数回(6回以上)繰り返す。
式(8)に画面上での座標(u,v)と対応するキャリブレーションボード上の座標(x,y,z)の組み合わせを代入し、以下の連立方程式を組み立てる.
ここで
この行列式を解き係数
が求まると、カメラ座標とレシーバ座標の関係式(7)が決定される。
FIG. 11 is a diagram showing a calibration configuration.
Substituting a combination of coordinates (u, v) on the screen and corresponding coordinates (x, y, z) on the calibration board into equation (8), the following simultaneous equations are assembled.
here
Solve this determinant with coefficients
Is obtained, the relational expression (7) between the camera coordinates and the receiver coordinates is determined.
(実施例)
また、本発明の三次元計測装置の計測性能を検証するために、形状が既知である物体を計測した。計測は数回行い、任意の10回分の結果を選択し誤差を算出した。その結果、本発明の三次元計測装置におけるRMS誤差は約1mmであった。また、本実施例による手法では三角測量の原理を用いているため、磁気センサ4と磁気センサ8の角度差と奥行き方向についての精度を算出した。図12は計測対象1をCCDカメラ7から奥行き方向276mmのところに設置して距離を計測したときのRMS誤差を示した図である。横軸にCCDカメラ7の光軸15とレーザ光源3の光軸16のなす角度を表し、縦軸に誤差の値を表している。この図から明らかなように、角度が30度以上あれば誤差が1mm以下となり、角度が30度より小さくなると急激に誤差が大きくなることが解る。この結果から、CCDカメラ7の光軸15とレーザ光源3の光軸16のなす角度αは少なくとも30度以上確保することが必要である。以上の通り、CCDカメラ7とスリット光の分離走査を行うことで、計測対象1に凸凹が部分的にあるなど、計測対象が複雑な部分と滑らかな部分が含まれる対象全域についても効率良く計測することが可能となった。本発明の三次元計測装置における誤差は約1mmであり、計測対象1の全域を一度で計測できる精度としては十分であるといえる。また、本発明の三次元計測装置は人体、骨、歯型などの医療分野や骨董品、化石、出土品などの美術・考古学分野などの計測として様々な分野への応用が考えられる。図13は本発明の第2の実施形態に係る三次元計測装置を使用して対象物を計測している斜視図である。同じ構成要素には同じ参照番号を付して説明する。この三次元計測装置200は、トレーサ粒子86を混入した水81を貯水する水槽80と、水81に気泡を注入するエアストーン85と、水槽80を保持する水槽台82と、エアストーン85にホース83を介して空気を送り込むポンプ84とを備えて構成される。そしてアングルで作成した水槽台82に対し鉛直方向に水槽80を立て、ポンプ84により空気を送り込み、水槽80の下部のエアストーン85から気泡を作り出す。そこにトレーサ粒子86を入れ周囲を暗くした状態で水槽80の側面からスリットレーザ光87を当てるとトレーサ粒子86は光り、水槽80内の流れを可視化することができる。それを水槽80の正面からCCDカメラ7により撮影し、イメージプロセッサ17とPC12により画像処理を行い、レーザ平面上での流動現象を計測する。レーザ光源3に取り付けた三次元磁気センサ4からのデータを監視することで、レーザの位置と傾きを任意に変更しながら計測を行うことができる。また、CCDカメラ7にも同様に磁気センサ8を取り付けることで、CCDカメラ7の移動を監視する。
(Example)
Further, in order to verify the measurement performance of the three-dimensional measurement apparatus of the present invention, an object having a known shape was measured. The measurement was performed several times, and an error was calculated by selecting an arbitrary 10 results. As a result, the RMS error in the three-dimensional measuring apparatus of the present invention was about 1 mm. Moreover, since the method according to the present embodiment uses the principle of triangulation, the angle difference between the magnetic sensor 4 and the
以上の手続きにより、異なる時刻に撮影された画像間で、流体と共に運動するトレーサ粒子86の位置を算出することで、速度ベクトルを算出することができる。即ち、CCDの画素に対し比較的粒子の径が大きい場合は、それぞれの粒子が簡単に認識され、受像面上に撮影された粒子の座標(u,v)、レーザ平面の方程式などにより前述した方法により、トレーサ粒子のワールド座標が算出され、それぞれの粒子を追跡することで流体の状態を定量的に把握することができる。
しかしながら粒子がCCDの画素に対し過小であるために、一つ一つの粒子が認識されない場合がある。その場合は、一個一個の粒子の位置に着目するのではなく、複数の粒子で構成されるパターンを追跡することにより、流れの状態を把握することを行うこの手法は、画像相関を用いることで実現できる。
相互相関法とは、2枚の画像を比べて、粒子群(輝度値)が最も近似している場所を探し、その位置関係から速度ベクトルを求める方法である。粒子一個一個に着目するのでは無く、画像を碁盤の目のように細かく分割し、それぞれの微小領域を計測点とする。即ち、ある時刻に撮影された画像のある微小領域Aの位置を計測点(u1,v1)とし、異なる時刻に撮影された画像内から、微小領域Aに最も近いパターンをもつ位置(u2,v2)を探し出す処理を行う。(u1,v1)および(u2,v2)が決定されたら前述した処理により、これらの座標をワールド座標に変換し、速度ベクトルを三次元的に求めることができる。そして分割した全ての領域に対して行えば、多点同時計測を行うことができる。図14、図15に異なる時刻に撮影された二枚の画像例を示す。
The velocity vector can be calculated by calculating the position of the
However, each particle may not be recognized because the particle is too small for the CCD pixel. In this case, instead of paying attention to the position of each individual particle, this method of grasping the flow state by tracking a pattern composed of a plurality of particles uses image correlation. realizable.
The cross-correlation method is a method for comparing two images, searching for a place where the particle group (luminance value) is closest, and obtaining a velocity vector from the positional relationship. Instead of paying attention to each individual particle, the image is finely divided like a grid, and each minute region is used as a measurement point. That is, the position of a certain minute area A of an image photographed at a certain time is set as a measurement point (u1, v1), and the position (u2, v2) having a pattern closest to the minute area A from images photographed at different times. ) To find out. When (u1, v1) and (u2, v2) are determined, these coordinates are converted into world coordinates and the velocity vector can be obtained three-dimensionally by the processing described above. And if it carries out with respect to all the area | regions divided | segmented, multipoint simultaneous measurement can be performed. 14 and 15 show examples of two images taken at different times.
次にこれらの画像に相互相関を適用する例を説明する。フレーム画像全体を小さな領域に分割し、その領域の中心を計測点とする。例えば、図16のようなフレーム画像全体90を図示しない小さな領域に分割し、例えば拡大図91の中心92を計測点とする。
さらに詳細に説明するために、図17を参照して説明する。一枚目の画像のある微小領域をA1とする(図17(a))。画像にそれぞれの画素において輝度データが存在する(数字が大きい方が輝度が明るい)。この輝度データをもとに相関処理を行う。例えば、A1領域が微小時間後にどこに移動したかを知るために、図17(b)の画像において、計測点近傍の領域A2から同じ輝度データを探す。しかし、完全に一致することはないので、最も近似している領域を探す。つまり図18(a)のようなA1領域に最も近似している領域を探すと、図18(b)のようにA2領域が図のようにあると仮定すると、検索した結果、右下方向(符号93)で類似度が最大になることがわかる。その結果、図18(c)のように計測点94に対するベクトル方向は矢印95の方向であることが解る。
図19は水槽内流れを定量計測する実験装置の構成図である。この実験装置は、図13と同様の装置を使用して、レーザ位置87を撮像装置30に近い壁面から水槽中心まで20mm間隔で奥行き方向にレーザ投光器20をシフトしていき、各奥行き距離での水槽内流れを定量計測する実験を行った。
図20は実際に2枚の画像から相互相関法によりベクトル表示した画像である。そしてCCDカメラ7の焦点と図20のベクトルの始点座標、終点座標のそれぞれを通る二本の直線とレーザ平面の方程式を算出することで、速度ベクトルを三次元的に求めることができる。
次に計測性能評価について説明する。図21は水槽の奥行き方向のRMS誤差と距離の関係を表し、図22は水槽の水平方向のRMS誤差と距離の関係を表し、図23は水槽の高さ方向のRMS誤差と距離の関係を表している。これらの図から明らかなように、トランスミッタ40からの距離が離れるにつれて各方向ともRMS誤差が大きくなっているのが解る。従って、トランスミッタ40は可能な限り水槽に近づけて使用する方が誤差が少ないことがわかる。
Next, an example in which cross correlation is applied to these images will be described. The entire frame image is divided into small areas, and the center of the area is set as a measurement point. For example, the
In order to explain in more detail, it demonstrates with reference to FIG. A minute area having the first image is defined as A1 (FIG. 17A). Luminance data exists for each pixel in the image (the larger the number, the brighter the luminance). Correlation processing is performed based on this luminance data. For example, in order to know where the A1 area has moved after a minute time, the same luminance data is searched from the area A2 near the measurement point in the image of FIG. However, since there is no perfect match, the closest area is searched. In other words, when searching for an area closest to the A1 area as shown in FIG. 18A, assuming that the A2 area is as shown in the figure as shown in FIG. 18B, the search results in a lower right direction ( It can be seen that the similarity is maximized by reference numeral 93). As a result, it is understood that the vector direction with respect to the
FIG. 19 is a configuration diagram of an experimental apparatus for quantitatively measuring the flow in the water tank. In this experimental apparatus, the
FIG. 20 is an image that is actually displayed as a vector from two images by the cross-correlation method. The velocity vector can be obtained three-dimensionally by calculating equations of two straight lines and the laser plane passing through the focal point of the
Next, measurement performance evaluation will be described. 21 shows the relationship between the RMS error and distance in the depth direction of the aquarium, FIG. 22 shows the relationship between the RMS error and distance in the horizontal direction of the aquarium, and FIG. 23 shows the relationship between the RMS error and distance in the height direction of the aquarium. Represents. As can be seen from these figures, the RMS error increases in each direction as the distance from the
1 対象物、2、6 架台、3 レーザ光源、4、8 磁気センサ、7 CCDカメラ、11 レーザ位置検出回路、12 PC、13 ROM、17 イメージプロセッサ、18 モニタ、20 レーザ投光器、30 撮像装置、40 トランスミッタ
DESCRIPTION OF
Claims (7)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004158554A JP3991040B2 (en) | 2003-08-20 | 2004-05-28 | Three-dimensional measuring apparatus and three-dimensional measuring method |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003296705 | 2003-08-20 | ||
JP2004158554A JP3991040B2 (en) | 2003-08-20 | 2004-05-28 | Three-dimensional measuring apparatus and three-dimensional measuring method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005098978A JP2005098978A (en) | 2005-04-14 |
JP3991040B2 true JP3991040B2 (en) | 2007-10-17 |
Family
ID=34467005
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004158554A Expired - Fee Related JP3991040B2 (en) | 2003-08-20 | 2004-05-28 | Three-dimensional measuring apparatus and three-dimensional measuring method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3991040B2 (en) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4916280B2 (en) * | 2006-08-17 | 2012-04-11 | 国立大学法人 宮崎大学 | Automatic calibration apparatus and calibration method |
JP5307549B2 (en) * | 2006-11-08 | 2013-10-02 | 有限会社テクノドリーム二十一 | Three-dimensional shape measuring method and apparatus |
JP5522630B2 (en) * | 2009-05-08 | 2014-06-18 | 国立大学法人 宮崎大学 | 3D system |
FR2954199B1 (en) * | 2009-12-22 | 2013-07-26 | Commissariat Energie Atomique | METHOD FOR ABLATION OF A THREE-DIMENSIONAL SURFACE USING A LASER ABLATION DEVICE, AND DEVICE FOR CARRYING OUT THE METHOD |
KR101658576B1 (en) * | 2010-01-15 | 2016-09-22 | 삼성전자주식회사 | Apparatus and method for measuring distance using image data |
CN103196374B (en) * | 2013-04-01 | 2016-07-06 | 哈尔滨工业大学 | Satellite air floating platform two dimensional motion attitude parameter measurement apparatus |
CN104034263B (en) * | 2014-07-02 | 2016-12-07 | 北京理工大学 | A kind of non-contact measurement method of forging's block dimension |
CN105222724B (en) * | 2015-09-10 | 2018-09-18 | 北京天远三维科技股份有限公司 | Multi-thread array laser 3 D scanning system and multi-thread array laser 3-D scanning method |
CN112386209B (en) * | 2020-10-08 | 2022-12-06 | 哈尔滨工业大学 | A positioning accuracy improvement method based on a mobile magnetic gradiometer |
CN113295209B (en) * | 2021-05-21 | 2022-11-18 | 中国航空工业集团公司北京长城计量测试技术研究所 | Design method of self-adaptive high-precision digital test system and test system |
CN114749391B (en) * | 2022-04-13 | 2024-01-09 | 安徽龙磁金属科技有限公司 | Soft magnetic metal processing and manufacturing method |
CN118225321B (en) * | 2024-05-22 | 2024-09-20 | 西北工业大学宁波研究院 | Measuring device and measuring method based on dynamic balance of bionic robot fish |
-
2004
- 2004-05-28 JP JP2004158554A patent/JP3991040B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2005098978A (en) | 2005-04-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2839238B1 (en) | 3d scanner using merged partial images | |
US20170160077A1 (en) | Method of inspecting an object with a vision probe | |
JP5480914B2 (en) | Point cloud data processing device, point cloud data processing method, and point cloud data processing program | |
US9279662B2 (en) | Laser scanner | |
WO2012020696A1 (en) | Device for processing point group position data, system for processing point group position data, method for processing point group position data and program for processing point group position data | |
JP4492654B2 (en) | 3D measuring method and 3D measuring apparatus | |
RU2762619C2 (en) | Graphic overlay for measuring the size of elements using a video monitoring apparatus | |
JP3991040B2 (en) | Three-dimensional measuring apparatus and three-dimensional measuring method | |
CN107025663A (en) | It is used for clutter points-scoring system and method that 3D point cloud is matched in vision system | |
JP2011516849A (en) | 3D imaging system | |
JP2003130621A5 (en) | ||
US10670390B2 (en) | System and method for verifying projection accuracy | |
JP5522630B2 (en) | 3D system | |
JP2021193400A (en) | Method for measuring artefact | |
US11727635B2 (en) | Hybrid photogrammetry | |
CN106908453A (en) | The detection method and detection means of a kind of printed substrate | |
JP2007508557A (en) | Device for scanning three-dimensional objects | |
JP2008014882A (en) | 3D measuring device | |
JP2015072197A (en) | Shape measurement device, structure manufacturing system, shape measurement method, structure manufacturing method, and shape measurement program | |
JP2014202567A (en) | Position attitude measurement device, control method thereof, and program | |
US12079978B2 (en) | System and method for determining 3D surface features and irregularities on an object | |
JP6934811B2 (en) | Three-dimensional measuring device | |
Palka et al. | 3D object digitization devices in manufacturing engineering applications and services | |
EP4379316A1 (en) | Measuring system providing shape from shading | |
Payandeh et al. | Application of imaging to the laproscopic surgery |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060104 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060529 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060721 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060821 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061019 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20061121 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070115 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070515 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070620 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070717 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070723 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100727 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110727 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110727 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120727 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120727 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130727 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |