[go: up one dir, main page]

JP6626552B1 - Multi-image projector and electronic device having multi-image projector - Google Patents

Multi-image projector and electronic device having multi-image projector Download PDF

Info

Publication number
JP6626552B1
JP6626552B1 JP2018189897A JP2018189897A JP6626552B1 JP 6626552 B1 JP6626552 B1 JP 6626552B1 JP 2018189897 A JP2018189897 A JP 2018189897A JP 2018189897 A JP2018189897 A JP 2018189897A JP 6626552 B1 JP6626552 B1 JP 6626552B1
Authority
JP
Japan
Prior art keywords
image
generate
laser
lens
laser beam
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018189897A
Other languages
Japanese (ja)
Other versions
JP2020060377A (en
Inventor
炳昇 ▲呉▼
炳昇 ▲呉▼
漢▲いー▼ 郭
漢▲いー▼ 郭
柏翰 呂
柏翰 呂
引棟 呂
引棟 呂
冠銘 陳
冠銘 陳
孟珂 蔡
孟珂 蔡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Himax Technologies Ltd
Original Assignee
Himax Technologies Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Himax Technologies Ltd filed Critical Himax Technologies Ltd
Priority to JP2018189897A priority Critical patent/JP6626552B1/en
Application granted granted Critical
Publication of JP6626552B1 publication Critical patent/JP6626552B1/en
Publication of JP2020060377A publication Critical patent/JP2020060377A/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of Optical Distance (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Abstract

【課題】パターンの解像度が劣化しないマルチ画像プロジェクタ及びマルチ画像プロジェクタを有する電子デバイスを提供する。【解決手段】レーザー・モジュールとレンズ・モジュールとを含むプロジェクタ110で、レンズ・モジュールは複数のレンズと複数の回折光学要素とを含む。レーザー・モジュールは少なくとも1つのレーザー・ビームを生成するように構成されており;各レンズは、コリメートされたレーザー・ビームを生成するために、少なくとも1つのレーザー・ビームのうちの何れかを受けるように構成され;回折光学要素はそれぞれレンズに対応し、各々の回折光学要素は、画像を生成するために、対応するレンズから、コリメートされたレーザー・ビームを受けるように構成される。回折光学要素により生成される画像は、プロジェクタの投影画像を形成する。【選択図】図1Provided is a multi-image projector in which the resolution of a pattern does not deteriorate, and an electronic device having the multi-image projector. In a projector including a laser module and a lens module, the lens module includes a plurality of lenses and a plurality of diffractive optical elements. The laser module is configured to generate at least one laser beam; each lens receives one of the at least one laser beam to generate a collimated laser beam. Each diffractive optical element corresponds to a lens, and each diffractive optical element is configured to receive a collimated laser beam from a corresponding lens to generate an image. The image generated by the diffractive optical element forms the projected image of the projector. [Selection diagram] Fig. 1

Description

1.発明の技術分野
本発明はプロジェクタに関連し、特に、3Dセンシング・システムに適用されるマルチ画像プロジェクタに関連する。
1. TECHNICAL FIELD OF THE INVENTION The present invention relates to projectors, and more particularly to a multi-image projector applied to a 3D sensing system.

2.従来技術の説明
3D画像を取得するために、電子デバイスは、プロジェクタを利用して特定のパターンを周辺領域に投影し、カメラを利用して特定のパターンを有する画像をキャプチャーしてもよく、キャプチャーされた画像は、画像の深度情報を取得するためにプロセッサにより分析される。従来のプロジェクタは固定された焦点距離及び固定された視野(a fixed field of view:FOV)を有し、従って、プロジェクタから遠く離れた又はプロジェクタに近すぎるオブジェクトに、特定のパターンが投影される場合、特定のパターンの解像度は劣化し、深度情報は正確には決定されないかもしれない。
2. Description of the prior art
In order to obtain a 3D image, the electronic device may project a specific pattern into a surrounding area using a projector and capture an image having the specific pattern using a camera, and the captured image may be , Is analyzed by a processor to obtain depth information of the image. Conventional projectors have a fixed focal length and a fixed field of view (FOV), so when a particular pattern is projected on an object that is far away or too close to the projector , The resolution of a particular pattern may be degraded and depth information may not be accurately determined.

従って、本発明の課題は、上記の問題を解決するために、プロジェクタのワーキング距離(the working distance)に基づいて、周辺領域に対する適切な投影画像を生成することが可能なプロジェクタを提供することである。   Accordingly, an object of the present invention is to provide a projector capable of generating an appropriate projection image for a peripheral area based on a working distance of the projector in order to solve the above-described problem. is there.

本発明の一実施形態によれば、レーザー・モジュールとレンズ・モジュールとを含むプロジェクタが提供され、その場合において、レンズ・モジュールは複数のレンズと複数の回折光学要素(a plurality of diffractive optical elements)とを含む。プロジェクタのオペレーションにおいて、レーザー・モジュールは少なくとも1つのレーザー・ビームを生成するように構成されており;各レンズは、コリメートされたレーザー・ビーム(a collimated laser beam)を生成するために、少なくとも1つのレーザー・ビームのうちの何れかを受けるように構成され;回折光学要素はそれぞれレンズに対応し、各々の回折光学要素は、画像を生成するために、対応するレンズから、コリメートされたレーザー・ビームを受けるように構成されている。   According to one embodiment of the present invention, there is provided a projector including a laser module and a lens module, wherein the lens module comprises a plurality of lenses and a plurality of diffractive optical elements. And In operation of the projector, the laser module is configured to generate at least one laser beam; each lens has at least one laser beam to generate a collimated laser beam. Each of the diffractive optical elements corresponds to a lens, and each diffractive optical element is configured to receive a collimated laser beam from a corresponding lens to produce an image. It is configured to receive.

本発明の別の実施形態によれば、電子デバイスが提供され、その場合において、電子デバイスは、プロジェクタと、カメラ・モジュールと、プロセッサとを含む。電子デバイスのオペレーションにおいて、プロジェクタは、周辺環境(a surrounding environment)に対する投影画像を生成するように構成され、カメラ・モジュールは、画像データを生成するために周辺環境の領域をキャプチャーするように構成され、プロセッサは、画像データの深度情報を取得するために画像データを分析するように構成される。一実施形態において、プロジェクタはレーザー・モジュールとレンズ・モジュールとを含み、その場合において、レンズ・モジュールは複数のレンズと複数の回折光学要素とを含む。プロジェクタのオペレーションにおいて、レンズ・モジュールは少なくとも1つのレーザー・ビームを生成するように構成され;各々のレンズは、コリメートされたレーザー・ビームを生成するために、少なくとも1つのレーザー・ビームのうちの何れかを受けるように構成され;回折光学要素はレンズにそれぞれ対応し、各々の回折光学要素は、画像を生成するために、対応するレンズから、コリメートされたレーザー・ビームを受けるように構成される。回折光学要素により生成される画像は、プロジェクタの投影画像を形成する。   According to another embodiment of the present invention, there is provided an electronic device, wherein the electronic device includes a projector, a camera module, and a processor. In operation of the electronic device, the projector is configured to generate a projected image for a surrounding environment, and the camera module is configured to capture an area of the surrounding environment to generate image data. , The processor is configured to analyze the image data to obtain depth information of the image data. In one embodiment, a projector includes a laser module and a lens module, where the lens module includes a plurality of lenses and a plurality of diffractive optical elements. In projector operation, the lens module is configured to generate at least one laser beam; each lens is configured to generate any one of the at least one laser beam to generate a collimated laser beam. Each diffractive optical element is adapted to receive a collimated laser beam from a corresponding lens to generate an image. . The image generated by the diffractive optical element forms the projected image of the projector.

本発明のこれら及び他の課題は、様々な図形及び図面に示される好ましい実施形態についての以下の詳細な説明を参照した当業者にとって紛れもなく明らかになるであろう。   These and other objects of the present invention will be readily apparent to those skilled in the art with reference to the following detailed description of the preferred embodiments, which are illustrated in various figures and drawings.

図1は本発明の一実施形態による電子デバイスを示す図である。FIG. 1 is a view showing an electronic device according to an embodiment of the present invention.

図2は本発明の一実施形態によるプロジェクタを示す図である。FIG. 2 is a diagram showing a projector according to one embodiment of the present invention.

図3は本発明の実施形態によるレーザー・モジュールを示す。FIG. 3 shows a laser module according to an embodiment of the present invention.

図4は本発明の別の実施形態によるレーザー・モジュールを示す。FIG. 4 shows a laser module according to another embodiment of the present invention.

図5は本発明の一実施形態により投影画像を生成する様子を示す。FIG. 5 shows how a projection image is generated according to an embodiment of the present invention.

図6は、本発明の一実施形態に従って、異なる焦点距離を有するように複数のレンズが設計される場合にプロジェクタを利用する様子を示す。FIG. 6 illustrates the use of a projector when multiple lenses are designed to have different focal lengths, according to one embodiment of the present invention.

図7は本発明の別の実施形態によるレーザー・モジュール及びレンズ・モジュールを示す。FIG. 7 shows a laser module and a lens module according to another embodiment of the present invention.

図8は本発明の一実施形態による図7に示されるレーザー・モジュールを示す。FIG. 8 shows the laser module shown in FIG. 7 according to one embodiment of the present invention.

図1は本発明の一実施形態による電子デバイス100を示す図である。図1に示されるように、電子デバイス100は、プロジェクタ110と、カメラ・モジュール120と、プロセッサ130と、コントローラ140とを有する。この実施形態において、電子デバイス100は、スマート・フォン又はパッドであってもよく、或いは3D画像を生成することが可能な他の任意の携帯デバイスであってもよい。   FIG. 1 is a diagram showing an electronic device 100 according to one embodiment of the present invention. As shown in FIG. 1, the electronic device 100 includes a projector 110, a camera module 120, a processor 130, and a controller 140. In this embodiment, electronic device 100 may be a smart phone or pad, or any other portable device capable of generating a 3D image.

電子デバイス100の動作の際に、電子デバイス100がオブジェクト102の3D画像をキャプチャーする準備を行う場合、先ず、プロセッサ130はコントローラ140に通知を行い、コントローラ140は、オブジェクト102への投影画像104を生成するようにプロジェクタ110を制御する。その後、カメラ・モジュール120は、画像データを生成するために、オブジェクト102とともに投影画像104をキャプチャーする。プロセッサ130は、画像データの深度情報を取得して3D画像を生成するために画像データを分析する。発明の背景で言及したように、オブジェクト102がプロジェクタ110から遠く離れている場合、或いはオブジェクト102がプロジェクタに近すぎる場合、投影される画像104の解像度は劣化してしまうかもしれない。そこで、本発明の実施形態は、オブジェクト102に投影される画像104がより良い解像度又はFOVを有するようなプロジェクタ110のデザインをいくつか提供する。   During operation of the electronic device 100, when the electronic device 100 prepares to capture a 3D image of the object 102, first, the processor 130 notifies the controller 140, and the controller 140 transmits the projection image 104 to the object 102. The projector 110 is controlled to generate the image. Thereafter, the camera module 120 captures the projected image 104 along with the object 102 to generate image data. The processor 130 obtains depth information of the image data and analyzes the image data to generate a 3D image. As noted in the background of the invention, if the object 102 is far away from the projector 110, or if the object 102 is too close to the projector, the resolution of the projected image 104 may be degraded. Thus, embodiments of the present invention provide some designs of projector 110 such that image 104 projected onto object 102 has a better resolution or FOV.

図2は本発明の一実施形態によるプロジェクタ110を示す図である。図2に示されるように、プロジェクタ110はレーザー・モジュール210とレンズ・モジュール220とを有し、レンズ・モジュール220は、基板221と、基板221の表面に刻印された2つのレンズ221_1及び222_2と、基板225と、基板225の表面に刻印された2つの回折光学要素(two diffractive optical elements:DOE)224_1及び224_2と、スペーサ223とを有する。この実施形態では、レーザー・モジュール210は、1つ又は2つの赤外レーザー・ビームを放出する少なくとも1つの赤外レーザー・ダイオードを有するパッケージであってもよく(図2は、2つのレーザー・ビームを示しているが、本発明の限定ではない)、一方のレーザー・ビームは、基板221と、レンズ222_1と、DOE224_1と、基板225とを経由して、DOE224_1のパターンを有する第1画像を形成し、及び他方のレーザー・ビームは、基板221と、レンズ222_2と、DOE224_2と、基板225とを経由して、DOE224_2のパターンを有する第2画像を形成する。設計者の考えに応じて、第1画像や第2画像は同時に或いは順々に生成されることが可能であり、或いは第1画像及び第2画像のうち一方のみが生成されてもよいことに、留意を要する。例えば、第1画像及び第2画像が同時に或いは順々に生成される場合に、第1画像及び第2画像はプロジェクタ110の投影画像104を形成する。   FIG. 2 is a diagram showing a projector 110 according to one embodiment of the present invention. As shown in FIG. 2, the projector 110 includes a laser module 210 and a lens module 220. The lens module 220 includes a substrate 221 and two lenses 221_1 and 222_2 stamped on the surface of the substrate 221. , A substrate 225, two diffractive optical elements (DOEs) 224_1 and 224_2 imprinted on the surface of the substrate 225, and a spacer 223. In this embodiment, the laser module 210 may be a package having at least one infrared laser diode that emits one or two infrared laser beams (FIG. However, the laser beam forms a first image having a pattern of the DOE 224_1 via the substrate 221, the lens 222_1, the DOE 224_1, and the substrate 225. Then, the other laser beam passes through the substrate 221, the lens 222_2, the DOE 224_2, and the substrate 225 to form a second image having a pattern of the DOE 224_2. According to the designer's idea, the first image and the second image can be generated simultaneously or sequentially, or only one of the first image and the second image may be generated. Need attention. For example, when the first image and the second image are generated simultaneously or sequentially, the first image and the second image form the projection image 104 of the projector 110.

一実施形態において、赤外レーザー・ダイオードは、縦型空洞面発光レーザー(a vertical-cavity surface-emitting laser:VCSEL)のような面発光型、プラズマ・レーザー・ダイオード、端面放出型であってもよい。更に、レンズ222_1及び222_2は、同一の焦点距離又は異なる焦点距離を有していてもよい。   In one embodiment, the infrared laser diode may be surface emitting, such as a vertical-cavity surface-emitting laser (VCSEL), plasma laser diode, or edge emitting. Good. Further, lenses 222_1 and 222_2 may have the same focal length or different focal lengths.

図2に示される層の配置は例示目的でしかなく、レンズ・モジュール220が第1画像及び第2画像を生成することが可能である限り、レンズ・モジュール220は異なるデザインを有し得る。例えば、レンズ222_1又は222_2は両凸レンズであってもよく、或いは他のレンズがレンズ222_1又は222_2の上に配置されていてもよく、或いはDOEs224_及び224_2が基板225の上位表面に刻み付けられていてもよい。更に、基板225は単層DOEを有していてもよく、DOE224_1がDOE層の左側部分であり、DOE224_2がDOE層の右側部分であってもよい。代替的なデザインは本発明の範囲内に属する。   The arrangement of layers shown in FIG. 2 is for illustrative purposes only, and lens module 220 may have different designs, as long as lens module 220 is capable of generating the first and second images. For example, lens 222_1 or 222_2 may be a biconvex lens, or another lens may be disposed on lens 222_1 or 222_2, or DOEs 224_ and 224_2 are engraved on the upper surface of substrate 225. You may. Further, the substrate 225 may have a single layer DOE, where the DOE 224_1 may be on the left side of the DOE layer and the DOE 224_2 may be on the right side of the DOE layer. Alternative designs are within the scope of the present invention.

図3は本発明の実施形態によるレーザー・モジュール210を示す。図3(a)に示されるように、レーザー・モジュール210は、サブマウント(a submount)310と、2つのレーザー・ダイオード312及び314とを有し、この場合において、レーザー・ダイオード312及び314はサブマウント310の同じ側の面に結合されている。この実施形態では、レーザー・ダイオード312により生成されるレーザー・ビームは、レンズ・モジュール220のDOE224_1を通過して第1画像を生成し、及びレーザー・ダイオード314により生成されるレーザー・ビームは、レンズ・モジュール220のDOE224_2を通過して第2画像を生成する。図3(b)に示される実施形態では、レーザー・モジュール210はサブマウント320と、2つのレーザー・ダイオード322及び324とを有し、この場合において、レーザー・ダイオード322及び324はサブマウント320の異なる側の面に結合されている。レーザー・ダイオード322により生成されるレーザー・ビームは、レンズ・モジュール220のDOE224_1を通過して第1画像を生成し、及びレーザー・ダイオード324により生成されるレーザー・ビームは、レンズ・モジュール220のDOE224_2を通過して第2画像を生成する。図3に示される実施形態では、第1画像及び第2画像は、それらがオブジェクト102に投影される場合にオーバーラップさせられる。   FIG. 3 shows a laser module 210 according to an embodiment of the present invention. As shown in FIG. 3A, the laser module 210 has a submount 310 and two laser diodes 312 and 314, in which case the laser diodes 312 and 314 The submount 310 is coupled to the same side surface. In this embodiment, the laser beam generated by laser diode 312 passes through DOE 224_1 of lens module 220 to generate a first image, and the laser beam generated by laser diode 314 Passing through the DOE 224_2 of the module 220 to generate a second image; In the embodiment shown in FIG. 3 (b), the laser module 210 has a submount 320 and two laser diodes 322 and 324, where the laser diodes 322 and 324 are of the submount 320. Bonded to different side surfaces. The laser beam generated by laser diode 322 passes through DOE 224_1 of lens module 220 to generate a first image, and the laser beam generated by laser diode 324 generates DOE 224_2 of lens module 220. To generate a second image. In the embodiment shown in FIG. 3, the first image and the second image are overlapped when they are projected onto the object 102.

図4は本発明の別の実施形態によるレーザー・モジュール210を示す。図4(a)に示されるように、レーザー・モジュール210は、サブマウント410と、レーザー・ダイオード412と、2つのプリズム414及び416とを有し、この場合において、レーザー・ダイオード412により生成されるレーザー・ビームの一部分はプリズム414により反射され、レーザー・ビームのうち別の部分はプリズム414を通過し、プリズム416により反射される。プリズム416により反射されるレーザー・ビームは、レンズ・モジュール220のDOE224_1を通過して第1画像を生成し、及びプリズム414により反射されるレーザー・ビームは、レンズ・モジュール220のDOE224_2を通過して第2画像を生成する。図4(b)に示される実施形態では、レーザー・モジュール210は、サブマウント420と、レーザー・ダイオード422と、2つのプリズム424及び426と、レンズ428とを有し、この場合において、レーザー・ダイオード422により生成されるレーザー・ビームの一部分は、レンズ428を通過してプリズム424により反射され、レーザー・ビームのうちの別の部分は、レンズ428及びプリズム424を通過してプリズム426により反射される。プリズム426により反射されるレーザー・ビームは、レンズ・モジュール220のDOE224_1を通過して第1画像を生成し、及びプリズム424により反射されるレーザー・ビームは、レンズ・モジュール220のDOE224_2を通過して第2画像を生成する。図4に示される実施形態では、第1画像及び第2画像は、それらがオブジェクト102に投影される場合にオーバーラップさせられる。   FIG. 4 shows a laser module 210 according to another embodiment of the present invention. As shown in FIG. 4 (a), the laser module 210 has a submount 410, a laser diode 412, and two prisms 414 and 416, in this case generated by the laser diode 412. One portion of the laser beam is reflected by prism 414 and another portion of the laser beam passes through prism 414 and is reflected by prism 416. The laser beam reflected by prism 416 passes through DOE 224_1 of lens module 220 to produce a first image, and the laser beam reflected by prism 414 passes through DOE 224_2 of lens module 220. Generate a second image. In the embodiment shown in FIG. 4 (b), the laser module 210 has a submount 420, a laser diode 422, two prisms 424 and 426, and a lens 428, where the laser A portion of the laser beam generated by diode 422 passes through lens 428 and is reflected by prism 424, and another portion of the laser beam passes through lens 428 and prism 424 and is reflected by prism 426. You. The laser beam reflected by prism 426 passes through DOE 224_1 of lens module 220 to produce a first image, and the laser beam reflected by prism 424 passes through DOE 224_2 of lens module 220. Generate a second image. In the embodiment shown in FIG. 4, the first image and the second image are overlapped when they are projected onto the object 102.

図5は本発明の一実施形態により投影画像104を生成する様子を示す。図5に示されるように、一方のレーザー・ビームはレンズ・モジュール220のDOE224_1を通過してオブジェクト102に対する第1画像502を生成し、及び他方のレーザー・ビームはレンズ・モジュール220のDOE224_2を通過してオブジェクト102に対する第2画像502を生成し、この場合において、第1画像502及び第2画像504の各々は複数のライト・スポット(又は光点)を有する。第1画像502及び第2画像504の位置は、図5に示されるように、第1画像502及び第2画像504を含む投影画像104がより高いライト・スポット密度(即ち、高い解像度)を有するように、注意深くデザインされることが可能である。   FIG. 5 shows how a projection image 104 is generated according to an embodiment of the present invention. As shown in FIG. 5, one laser beam passes through the DOE 224_1 of the lens module 220 to generate a first image 502 for the object 102, and the other laser beam passes through the DOE 224_2 of the lens module 220. To generate a second image 502 for the object 102, where each of the first image 502 and the second image 504 has a plurality of light spots (or light spots). The position of the first image 502 and the second image 504 is such that the projected image 104 including the first image 502 and the second image 504 has a higher light spot density (i.e., higher resolution), as shown in FIG. As such, it can be carefully designed.

図5に示されるパターンは例示目的でしかなく、それらは本発明の限定ではないことに留意を要する。例えば、第1画像502及び第2画像504のパターン(即ち、DOE224_1及び224_2のパターン)は同一であってもよいし或いは異なっていてもよく、第1画像502及び第2画像504の密度/解像度は同一であってもよいし或いは異なっていてもよい。更に、図5に示される実施形態では、第1画像502及び第2画像504の領域全体がほぼオーバーラップしている様子を示しているが、第1画像502及び第2画像504のオーバーラップの比率は、エンジニアの考えに応じて設定されてよい。例えば、第1画像502の左側部分及び第2画像504の右側部分のみがオーバーラップさせられるように、プロジェクタ110はデザインされることが可能である。これらの代替的なデザインは本発明の範囲内に属する。   It should be noted that the patterns shown in FIG. 5 are for illustrative purposes only and are not a limitation of the present invention. For example, the pattern of the first image 502 and the second image 504 (i.e., the pattern of the DOEs 224_1 and 224_2) may be the same or different, and the density / resolution of the first image 502 and the second image 504 may be different. May be the same or different. Further, in the embodiment shown in FIG. 5, although the entire region of the first image 502 and the second image 504 almost overlap each other, the overlap of the first image 502 and the second image 504 is shown. The ratio may be set according to an engineer's idea. For example, the projector 110 can be designed such that only the left portion of the first image 502 and the right portion of the second image 504 overlap. These alternative designs fall within the scope of the present invention.

図6は、本発明の一実施形態に従って、異なる焦点距離を有するように複数のレンズ222_1及び222_2が設計される場合にプロジェクタ110を利用する様子を示す。図6に示されるように、レンズ222_1は焦点距離f1を有し、レンズ222_2は焦点距離f2を有し、例えばf1は0.2メートルである一方、f2は0.5メートルに等しくてもよい。この実施形態では、オブジェクト102がプロジェクタ110に近い場合(例えば、0.15メートルの位置にある場合)、DOE224_1により出力される第1画像が鮮明であり、オブジェクト102がプロジェクタ110から遠い場合(例えば、0.75メートルの位置にある場合)、DOE224_1により出力される第1画像は不鮮明であるかもしれない。一方、オブジェクト102がプロジェクタ110に近い場合、DOE224_2により出力される第2画像は不鮮明であり、オブジェクト102がプロジェクタ110から遠い場合、DOE224_2により出力される第2画像は鮮明であるかもしれない。レンズ222_1及び222_2の各々は各自の対応する実用距離(working distance)を有するので、電子デバイス100は、第1画像及び第2画像のうち鮮明なパターンを有するものを選択し、選択したものを分析して投影画像104の深度情報を取得することが可能である。   FIG. 6 illustrates utilizing projector 110 when multiple lenses 222_1 and 222_2 are designed to have different focal lengths, according to one embodiment of the present invention. As shown in FIG. 6, lens 222_1 has a focal length f1, and lens 222_2 has a focal length f2, for example, f1 may be 0.2 meters while f2 may be equal to 0.5 meters. In this embodiment, when the object 102 is close to the projector 110 (for example, at a position of 0.15 m), the first image output by the DOE 224_1 is sharp, and when the object 102 is far from the projector 110 (for example, 0.75 (In meters), the first image output by DOE224_1 may be unclear. On the other hand, when the object 102 is close to the projector 110, the second image output by the DOE224_2 may be unclear, and when the object 102 is far from the projector 110, the second image output by the DOE224_2 may be clear. Since each of the lenses 222_1 and 222_2 has its own corresponding working distance (working distance), the electronic device 100 selects a first image and a second image having a sharp pattern and analyzes the selected one. Thus, the depth information of the projection image 104 can be obtained.

図6に示されるプロジェクタの制御に関し、第1画像及び第2画像はオブジェクト102に対して順々に生成されてもよく、カメラ・モジュール120は第1画像及び第2画像にそれぞれ対応する画像データをキャプチャーし、プロセッサ130は第1画像及び第2画像のうち何れがより鮮明であるかを判断し、プロセッサ130は、鮮明な方を選択し、投影画像の深度情報を取得する。別の実施形態において、電子デバイス100は、電子デバイス100とオブジェクト102との間の距離を測定することが可能な他のエレメント又は方法を利用してもよく、コントローラ140は、レンズの焦点距離が測定された距離に近い方のレンズに対応する画像を生成するように、プロジェクタ110を制御する。図3(a)及び図6を例に取ると、電子デバイス100とオブジェクト102との間の距離は短いと電子デバイス100が判断した場合、コントローラ140は、レーザー・ダイオード312をターン・オンし、レンズ222_1及びDOE224_1へレーザー・ビームを生成して第1画像を生成し、その間レーザー・ダイオード314はターン・オフされるように、プロジェクタ110を制御してもよい。電子デバイス100とオブジェクト102との間の距離は長いと電子デバイス100が判断した場合、コントローラ140は、レーザー・ダイオード314をターン・オンし、レンズ222_2及びDOE224_2へレーザー・ビームを生成して第2画像を生成し、その間レーザー・ダイオード312はターン・オフされるように、プロジェクタ110を制御してもよい。   With respect to the control of the projector shown in FIG. 6, the first image and the second image may be sequentially generated for the object 102, and the camera module 120 may generate image data corresponding to the first image and the second image, respectively. And the processor 130 determines which of the first image and the second image is sharper, the processor 130 selects the sharper one, and obtains depth information of the projection image. In another embodiment, the electronic device 100 may utilize other elements or methods that can measure the distance between the electronic device 100 and the object 102, and the controller 140 may use the The projector 110 is controlled so as to generate an image corresponding to the lens closer to the measured distance. 3A and 6 as an example, if the electronic device 100 determines that the distance between the electronic device 100 and the object 102 is short, the controller 140 turns on the laser diode 312, The projector 110 may be controlled such that a laser beam is generated to the lens 222_1 and the DOE 224_1 to generate a first image while the laser diode 314 is turned off. If the electronic device 100 determines that the distance between the electronic device 100 and the object 102 is long, the controller 140 turns on the laser diode 314 and generates a laser beam to the lens 222_2 and the DOE 224_2 to generate a second laser beam. The projector 110 may be controlled to generate an image while the laser diode 312 is turned off.

図2-6に示される実施形態110は2つのレンズ222_1,222_2及び2つのDOEs224_1,224_2のみを示しているが、レンズ及びDOEsの個数は2より多くてもよい(例えば、1×Nのアレイ、M×1のアレイ、M×Nのアレイが存在してよい。ここで、M及びNは適切な任意の整数である)。図7は、4つのレーザー・ダイオード712,714,716,718が取り付けられているサブマウント710と、4つのDOEs724_1-724_4を有するレンズ・モジュールとを有するレーザー・モジュールを示す。図7に示される実施形態では、レーザー・ダイオード712は第1画像を生成するようにDOE724_1へレーザー・ビームを生成するように構成され、レーザー・ダイオード714は第2画像を生成するようにDOE724_2へレーザー・ビームを生成するように構成され、レーザー・ダイオード716は第3画像を生成するようにDOE724_3へレーザー・ビームを生成するように構成され、レーザー・ダイオード718は第1画像を生成するようにDOE724_4へレーザー・ビームを生成するように構成される。図7に示される実施形態では、レーザー・ダイオード712,714,716,718は同時にターン・オンされることが可能であり或いは順々にターン・オンされることも可能であり、或いはワーキング距離に応じて、レーザー・ダイオード712,714,716,718のうちの一部分のみがターン・オンされてもよい。上記の実施形態を理解した後では、当業者は図7に示される実施形態のオペレーション及びアプリケーションを理解するはずであるので、ここでの更なる説明は省略される。   Although the embodiment 110 shown in FIG. 2-6 shows only two lenses 222_1, 222_2 and two DOEs 224_1, 224_2, the number of lenses and DOEs may be more than two (eg, a 1 × N array). , M × 1 array, M × N array, where M and N are any suitable integers). FIG. 7 shows a laser module having a submount 710 on which four laser diodes 712, 714, 716, 718 are mounted, and a lens module having four DOEs 724_1-724_4. In the embodiment shown in FIG. 7, a laser diode 712 is configured to generate a laser beam to DOE 724_1 to generate a first image, and a laser diode 714 is configured to generate a laser beam to DOE 724_2 to generate a second image. The laser diode 716 is configured to generate a laser beam, the laser diode 716 is configured to generate a laser beam to the DOE724_3 to generate a third image, and the laser diode 718 is configured to generate a first image. It is configured to generate a laser beam to DOE724_4. In the embodiment shown in FIG. 7, the laser diodes 712, 714, 716, 718 can be turned on at the same time, can be turned on sequentially, or have a working distance. Accordingly, only a portion of the laser diodes 712, 714, 716, 718 may be turned on. After understanding the above embodiments, those skilled in the art will understand the operations and applications of the embodiments shown in FIG. 7, and will not be further described herein.

図8は本発明の一実施形態による図7に示されるレーザー・モジュールを示す。図8(a)に示されるように、レーザー・モジュールは、サブマウント810と、2つのレーザー・ダイオード812,814と、2つのプリズム816,818とを有し、この場合において、レーザー・ダイオード812により生成されるレーザー・ビームの一部分はプリズム816により反射され、レーザー・ビームのうち別の部分はプリズム816を通過し、プリズム818により反射される;レーザー・ダイオード814により生成されるレーザー・ビームの一部分はプリズム816により反射され、レーザー・ビームのうち別の部分はプリズム816を通過し、プリズム818により反射される。レーザー・ダイオード812により生成され、プリズム816により反射されるレーザー・ビームは、レンズ・モジュールのDOE824_1を通過して第1画像を生成し、レーザー・ダイオード814により生成され、プリズム816により反射されるレーザー・ビームは、レンズ・モジュールのDOE824_2を通過して第2画像を生成し、レーザー・ダイオード812により生成され、プリズム818により反射されるレーザー・ビームは、レンズ・モジュールのDOE824_3を通過して第3画像を生成し、レーザー・ダイオード814により生成され、プリズム818により反射されるレーザー・ビームは、レンズ・モジュールのDOE824_4を通過して第4画像を生成する。図8(b)に示される実施形態では、レーザー・モジュールは、サブマウント830と、2つのレーザー・ダイオード832,834と、2つのプリズム836,838と、2つのレンズ839_1,839_2とを有し、この場合において、レーザー・ダイオード832により生成されるレーザー・ビームの一部分はレンズ839_1を通過し、プリズム836により反射され、レーザー・ビームのうち別の部分はレンズ839_1及びプリズム836を通過し、プリズム838により反射される;レーザー・ダイオード834により生成されるレーザー・ビームの一部分はレンズ839_2を通過し、プリズム836により反射され、レーザー・ビームのうち別の部分はレンズ839_2及びプリズム836を通過し、プリズム838により反射される。レーザー・ダイオード832により生成され、プリズム836により反射されるレーザー・ビームは、レンズ・モジュールのDOE824_1を通過して第1画像を生成し、レーザー・ダイオード834により生成され、プリズム836により反射されるレーザー・ビームは、レンズ・モジュールのDOE824_2を通過して第2画像を生成し、レーザー・ダイオード832により生成され、プリズム838により反射されるレーザー・ビームは、レンズ・モジュールのDOE824_3を通過して第3画像を生成し、及びレーザー・ダイオード834により生成され、プリズム838により反射されるレーザー・ビームは、レンズ・モジュールのDOE824_4を通過して第4画像を生成する。     FIG. 8 shows the laser module shown in FIG. 7 according to one embodiment of the present invention. As shown in FIG. 8 (a), the laser module has a submount 810, two laser diodes 812, 814, and two prisms 816, 818. In this case, the laser diode 812 A portion of the laser beam generated by the laser beam is reflected by prism 816 and another portion of the laser beam passes through prism 816 and is reflected by prism 818; One portion is reflected by prism 816 and another portion of the laser beam passes through prism 816 and is reflected by prism 818. The laser beam generated by laser diode 812 and reflected by prism 816 passes through DOE824_1 of the lens module to generate a first image, and the laser beam generated by laser diode 814 and reflected by prism 816 The beam passes through the DOE824_2 of the lens module to generate a second image, and the laser beam generated by the laser diode 812 and reflected by the prism 818 passes through the DOE824_3 of the lens module to generate a third image. An image is generated, and the laser beam generated by laser diode 814 and reflected by prism 818 passes through lens module DOE 824_4 to generate a fourth image. In the embodiment shown in FIG. 8 (b), the laser module has a submount 830, two laser diodes 832, 834, two prisms 836, 838, and two lenses 839_1, 839_2. In this case, a portion of the laser beam generated by laser diode 832 passes through lens 839_1 and is reflected by prism 836, another portion of the laser beam passes through lens 839_1 and prism 836, Reflected by 838; a portion of the laser beam generated by laser diode 834 passes through lens 839_2 and is reflected by prism 836, another portion of the laser beam passes through lens 839_2 and prism 836; The light is reflected by the prism 838. The laser beam generated by the laser diode 832 and reflected by the prism 836 passes through the lens module DOE824_1 to generate a first image, and the laser beam generated by the laser diode 834 and reflected by the prism 836 The beam passes through the DOE824_2 of the lens module to generate a second image, and the laser beam generated by the laser diode 832 and reflected by the prism 838 passes through the DOE824_3 of the lens module to generate a third image. The image is generated and the laser beam generated by laser diode 834 and reflected by prism 838 passes through DOE824_4 of the lens module to generate a fourth image.

要するに、本発明のプロジェクタにおいては、プロジェクタは複数の画像を生成することが可能であり、それら複数の画像はより高い密度/解像度及び/又はFOVを有する投影画像を取得するように、同時に又は順々に生成されてもよく、或いはより鮮明な投影画像を取得するために、プロジェクタ及びオブジェクト間の距離に基づいて、複数の画像のうちの一部分のみが生成されてもよい。   In short, in the projector of the present invention, the projector is capable of generating a plurality of images, the plurality of images being simultaneously or sequentially, so as to obtain a projected image having a higher density / resolution and / or FOV. Only a portion of the plurality of images may be generated based on the distance between the projector and the object to obtain a sharper projected image.

当業者は、デバイス及び方法についての多くの修正及び代替が本発明の教示を維持しながら行われ得ることに容易に気付くであろう。従って、上記の開示は、添付の特許請求の範囲による境界及び限界によってのみ制限されるように解釈されるべきである。   Those skilled in the art will readily observe that numerous modifications and alterations of the devices and methods may be made while maintaining the teachings of the invention. Accordingly, the above disclosure should be construed as limited only by the metes and bounds of the appended claims.

Claims (16)

少なくとも1つのレーザー・ビームを生成するレーザー・モジュール;及び
レンズ・モジュール;
を有するプロジェクタであって、前記レンズ・モジュールは:
複数のレンズであって、各レンズは、コリメートされたレーザー・ビームを生成するために、前記少なくとも1つのレーザー・ビームのうちの何れかを受けるように構成され、前記複数のレンズのうちの少なくとも2つは異なる焦点距離を有する、複数のレンズ;及び
前記複数のレンズにそれぞれ対応する複数の回折光学要素であって、各々の回折光学要素は、画像を生成するために、対応するレンズから、コリメートされたレーザー・ビームを受けるように構成され、生成される複数の画像は少なくとも部分的にオーバーラップしている、複数の回折光学要素;
を有、プロジェクタ。
A laser module for producing at least one laser beam; and a lens module;
Wherein the lens module comprises:
A plurality of lenses, each lens configured to receive any of the at least one laser beam to generate a collimated laser beam, wherein at least one of the plurality of lenses is configured to receive at least one of the at least one laser beam. A plurality of lenses, each having a different focal length ; and a plurality of diffractive optical elements, each corresponding to the plurality of lenses, wherein each diffractive optical element is configured to generate an image from a corresponding lens: A plurality of diffractive optical elements configured to receive the collimated laser beam, wherein the plurality of generated images at least partially overlap ;
Has a projector.
前記レーザー・モジュールは、前記複数のレンズへの複数のレーザー・ビームをそれぞれが生成するように構成される複数のレーザー・ダイオードを含む、請求項1に記載のプロジェクタ。   The projector according to claim 1, wherein the laser module includes a plurality of laser diodes, each configured to generate a plurality of laser beams to the plurality of lenses. 前記レーザー・ダイオードの個数、レンズの個数、及び前記回折光学要素の個数は同じである、請求項2に記載のプロジェクタ。   3. The projector according to claim 2, wherein the number of laser diodes, the number of lenses, and the number of diffractive optical elements are the same. 前記レーザー・ダイオードは、前記画像を生成するために、前記レンズ及び前記回折光学要素への前記レーザー・ビームを生成するように同時に又は順々にターン・オンされ、請求項2に記載のプロジェクタ。 The laser diode, to generate the image, the lens and the being turned on at the same time or one after the other to generate the laser beam to the diffractive optical element, according to Motomeko 2 projector. 前記複数の画像の各々は複数のライト・スポットを含み、前記画像は前記プロジェクタの投影画像を形成し、前記投影画像のライト・スポット密度は、複数の画像の各々についてのものより高い、請求項4に記載のプロジェクタ。   7. The image of claim 2, wherein each of the plurality of images includes a plurality of light spots, wherein the images form a projection image of the projector, wherein a light spot density of the projection images is higher than for each of the plurality of images. 4. The projector according to 4. 前記画像を生成するために、対応するレンズ及び回折光学要素への前記レーザー・ビームを生成するように、唯1つのレーザー・ダイオードがターン・オンされる、請求項2に記載のプロジェクタ。   The projector according to claim 2, wherein only one laser diode is turned on to generate the laser beam to a corresponding lens and diffractive optical element to generate the image. 前記複数の回折光学要素のうちの少なくとも2つは異なるパターンを有する、請求項に記載のプロジェクタ。 The projector according to claim 6 , wherein at least two of the plurality of diffractive optical elements have different patterns. 前記レーザー・モジュールは少なくとも1つのレーザー・ダイオードを有し、前記少なくとも1つのレーザー・ダイオードは、前記レンズへの複数のレーザー・ビームを生成するように構成される、請求項1に記載のプロジェクタ。   The projector of claim 1, wherein the laser module has at least one laser diode, wherein the at least one laser diode is configured to generate a plurality of laser beams to the lens. 前記レーザー・ダイオードの個数は、レンズの個数又は前記回折光学要素の個数より少ない、請求項に記載のプロジェクタ。 9. The projector according to claim 8 , wherein the number of the laser diodes is smaller than the number of lenses or the number of the diffractive optical elements. 前記少なくとも1つのレーザー・ダイオードは、少なくとも1つのプリズムを利用することにより、前記レンズへの前記レーザー・ビームを生成するように構成される、請求項に記載のプロジェクタ。 The projector according to claim 8 , wherein the at least one laser diode is configured to generate the laser beam to the lens by utilizing at least one prism. プロジェクタと、カメラ・モジュールと、プロセッサとを有する電子デバイスであって、前記プロジェクタは、少なくとも1つのレーザー・ビームを生成するレーザー・モジュールと、レンズ・モジュールとを有し、前記レンズ・モジュールは:
複数のレンズであって、各レンズは、コリメートされたレーザー・ビームを生成するために、前記少なくとも1つのレーザー・ビームのうちの何れかを受けるように構成され、前記複数のレンズのうちの少なくとも2つは異なる焦点距離を有する、複数のレンズ;及び
前記複数のレンズにそれぞれ対応する複数の回折光学要素であって、各々の回折光学要素は、周辺環境への画像を生成するために、対応するレンズから、コリメートされたレーザー・ビームを受けるように構成され、生成される複数の画像は少なくとも部分的にオーバーラップしている、複数の回折光学要素;
を有し、前記カメラ・モジュールは、画像データを生成するために前記周辺環境の領域をキャプチャーし;
前記プロセッサは、前記画像データの深度情報を取得するために前記画像データを分析する、電子デバイス。
An electronic device having a projector, a camera module, and a processor, wherein the projector has a laser module that generates at least one laser beam, and a lens module, wherein the lens module includes:
A plurality of lenses, each lens configured to receive any of the at least one laser beam to generate a collimated laser beam, wherein at least one of the plurality of lenses is configured to receive at least one of the at least one laser beam. A plurality of lenses, each having a different focal length ; and a plurality of diffractive optical elements respectively corresponding to the plurality of lenses, each diffractive optical element corresponding to generating an image to a surrounding environment. A plurality of diffractive optical elements configured to receive the collimated laser beam from the lens, wherein the plurality of images generated are at least partially overlapped ;
Wherein the camera module captures an area of the surrounding environment to generate image data;
The electronic device, wherein the processor analyzes the image data to obtain depth information of the image data.
前記レーザー・モジュールは、前記複数のレンズへの複数のレーザー・ビームをそれぞれが生成するように構成される複数のレーザー・ダイオードを含む、請求項11に記載の電子デバイス。 The electronic device of claim 11 , wherein the laser module includes a plurality of laser diodes, each configured to generate a plurality of laser beams to the plurality of lenses. 前記レーザー・ダイオードは、前記画像を生成するために、前記レンズ及び前記回折光学要素への前記レーザー・ビームを生成するように同時に又は順々にターン・オンされる、請求項12に記載の電子デバイス。 The laser diode, to generate the image, the lens and the Ru is turned on at the same time or one after the other to generate a laser beam to the diffractive optical element according to Motomeko 12 Electronic device. 前記複数の画像の各々は複数のライト・スポットを含み、前記画像は前記プロジェクタの投影画像を形成し、前記投影画像のライト・スポット密度は、前記複数の画像の各々についてのものより高い、請求項13に記載の電子デバイス。 Each of the plurality of images includes a plurality of light spots, wherein the images form a projected image of the projector, wherein a light spot density of the projected images is higher than for each of the plurality of images. Item 14. The electronic device according to item 13 . 前記画像を生成するために、対応するレンズ及び回折光学要素への前記レーザー・ビームを生成するように、唯1つのレーザー・ダイオードがターン・オンされる、請求項12に記載の電子デバイス。 13. The electronic device of claim 12 , wherein only one laser diode is turned on to generate the laser beam to a corresponding lens and diffractive optical element to generate the image. 前記プロセッサは、別のレーザー・ダイオード、対応するレンズ及び回折光学要素を利用することにより、前記周辺環境への別の画像を生成するように前記レーザー・ダイオードを切り替えるか否かを判断するために、前記画像データを分析し;前記レーザー・ダイオードが切り替えられ、前記プロジェクタが前記別の画像を生成する場合、前記カメラ・モジュールは前記別の画像の画像データを生成するために前記周辺環境のうちの領域をキャプチャーし、前記プロセッサは、前記画像データの深度情報を取得するために、前記別の画像の画像データを分析する、請求項15に記載の電子デバイス。 The processor determines whether to switch the laser diode to generate another image to the surrounding environment by utilizing another laser diode, a corresponding lens and a diffractive optical element. Analyzing the image data; if the laser diode is switched and the projector generates the another image, the camera module outputs the image data of the other image from the surrounding environment to generate image data of the another image. The electronic device of claim 15 , wherein the processor analyzes the image data of the another image to capture a region of the another image to obtain depth information of the image data.
JP2018189897A 2018-10-05 2018-10-05 Multi-image projector and electronic device having multi-image projector Active JP6626552B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018189897A JP6626552B1 (en) 2018-10-05 2018-10-05 Multi-image projector and electronic device having multi-image projector

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018189897A JP6626552B1 (en) 2018-10-05 2018-10-05 Multi-image projector and electronic device having multi-image projector

Publications (2)

Publication Number Publication Date
JP6626552B1 true JP6626552B1 (en) 2019-12-25
JP2020060377A JP2020060377A (en) 2020-04-16

Family

ID=69101049

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018189897A Active JP6626552B1 (en) 2018-10-05 2018-10-05 Multi-image projector and electronic device having multi-image projector

Country Status (1)

Country Link
JP (1) JP6626552B1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220412729A1 (en) * 2021-06-25 2022-12-29 Himax Technologies Limited Dot pattern projector for use in three-dimensional distance measurement system

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013029795A (en) * 2011-06-20 2013-02-07 Panasonic Corp Light irradiation device
DE102012112321B4 (en) * 2012-12-14 2015-03-05 Faro Technologies, Inc. Device for optically scanning and measuring an environment
JP6237107B2 (en) * 2013-10-21 2017-11-29 セイコーエプソン株式会社 projector
JP6484071B2 (en) * 2015-03-10 2019-03-13 アルプスアルパイン株式会社 Object detection device
US20160377414A1 (en) * 2015-06-23 2016-12-29 Hand Held Products, Inc. Optical pattern projector
JP6784295B2 (en) * 2016-09-21 2020-11-11 日本電気株式会社 Distance measurement system, distance measurement method and program

Also Published As

Publication number Publication date
JP2020060377A (en) 2020-04-16

Similar Documents

Publication Publication Date Title
US20210297651A1 (en) Three dimensional depth mapping using dynamic structured light
US10809056B2 (en) Structured light projector
CN108779905B (en) Multimode Lighting Module and Related Methods
JP6386194B2 (en) Depth mapping on a head-mounted display using stereo camera and structured light
US9797708B2 (en) Apparatus and method for profiling a depth of a surface of a target object
US10001583B2 (en) Structured light projection using a compound patterned mask
JP4973009B2 (en) Projector and image projection method
JP2013513179A (en) Detection based on distance
KR102472217B1 (en) Light transmission apparatus and tof module using the same
CN110068984A (en) Optical projector, the method for optical projection and electronic device
US20200041809A1 (en) Structured light projector and three-dimensional image sensing module
JP6626552B1 (en) Multi-image projector and electronic device having multi-image projector
US11575875B2 (en) Multi-image projector and electronic device having multi-image projector
CN111610534B (en) Imaging device and imaging method
TWI691736B (en) Light emitting device and image capture device using same
US10942362B2 (en) Projector, electronic device having projector, and method for obtaining depth information of image data
KR102103919B1 (en) Multi-image projector and electronic device having multi-image projector
JP2004053532A (en) Optical shape measuring device
US20140111619A1 (en) Device and method for acquiring image
EP3637044A1 (en) Multi-image projector and electronic device having multi-image projector
US20210264625A1 (en) Structured light code overlay
KR20230021704A (en) Diffuse and multimode lighting devices
CN115102036B (en) Lattice laser emission structure, lattice laser system and depth calculation method
TWI742473B (en) Structure light emitting module and image collecting device
CN118209961A (en) Light emission module, depth camera and electronic equipment

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181005

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190809

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190820

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190924

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191129

R150 Certificate of patent or registration of utility model

Ref document number: 6626552

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250