[go: up one dir, main page]

JP2021067592A - Inspection system - Google Patents

Inspection system Download PDF

Info

Publication number
JP2021067592A
JP2021067592A JP2019194125A JP2019194125A JP2021067592A JP 2021067592 A JP2021067592 A JP 2021067592A JP 2019194125 A JP2019194125 A JP 2019194125A JP 2019194125 A JP2019194125 A JP 2019194125A JP 2021067592 A JP2021067592 A JP 2021067592A
Authority
JP
Japan
Prior art keywords
camera
inspection system
inspected
viewpoint
drive mechanism
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019194125A
Other languages
Japanese (ja)
Other versions
JP7364882B2 (en
Inventor
康佑 相原
Kosuke Aihara
康佑 相原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyoraku Co Ltd
Original Assignee
Kyoraku Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyoraku Co Ltd filed Critical Kyoraku Co Ltd
Priority to JP2019194125A priority Critical patent/JP7364882B2/en
Publication of JP2021067592A publication Critical patent/JP2021067592A/en
Application granted granted Critical
Publication of JP7364882B2 publication Critical patent/JP7364882B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Abstract

To provide an inspection system that can inspect an inspection target object without missing any spot, with a spacial restriction taken in consideration.SOLUTION: According to an embodiment of the present invention, the inspection system for inspecting an inspection target object includes an imaging apparatus and a rotary table, the imaging apparatus including a camera and a driving mechanism, the camera being in the driving mechanism to be movable by the driving mechanism so that the camera can take images of the inspection target object from different points of view and from different lines of vision, and the rotary table being rotatable with the inspection target object on the table.SELECTED DRAWING: Figure 1

Description

本発明は、検査システムに関する。 The present invention relates to an inspection system.

生産現場では、被検査物の外観検査を人による目視に代わって、カメラを含む検査システムが用いられることがある。特許文献1には被検査物を検査する検査システムの従来技術が開示されている。 At the production site, an inspection system including a camera may be used instead of visual inspection by a person to inspect the appearance of the object to be inspected. Patent Document 1 discloses a prior art of an inspection system for inspecting an object to be inspected.

特開2016−85137号公報Japanese Unexamined Patent Publication No. 2016-85137

ところで、被検査物を細部まで漏れなく検査するために、検査システムに用いられるカメラを短焦点のものとし、その視点及び視線を動的に変化させることがある。しかし漏れのない検査のためには、カメラの可動範囲を大きくする必要があり、検査システムを設けるための空間的な制約が生じてしまう問題がある。図10は、従来技術に係る検査システム9の一例を示している。この図では、駆動機構及びその先端に位置するカメラが1つで、その可動範囲を模式的に示している。この従来技術では、検査システム9は、撮像装置91及び固定装置92を備えているが、撮像装置91が大型化してスペースをとることが問題である。 By the way, in order to inspect the object to be inspected without omission in detail, the camera used in the inspection system may have a short focus, and its viewpoint and line of sight may be dynamically changed. However, for a leak-free inspection, it is necessary to increase the movable range of the camera, and there is a problem that a spatial restriction for providing an inspection system occurs. FIG. 10 shows an example of the inspection system 9 according to the prior art. In this figure, there is one drive mechanism and one camera located at the tip thereof, and the movable range thereof is schematically shown. In this conventional technique, the inspection system 9 includes an image pickup device 91 and a fixing device 92, but there is a problem that the image pickup device 91 becomes large and takes up space.

本発明は、かかる事情を鑑みてなされたものであり、空間的制約を考慮した上で、漏れなく被検査物を検査可能な検査システムを提供することを目的とする。 The present invention has been made in view of such circumstances, and an object of the present invention is to provide an inspection system capable of inspecting an inspected object without omission in consideration of spatial restrictions.

本発明の一態様によれば、被検査物を検査する検査システムであって、撮像装置と、回転テーブルとを備え、前記撮像装置は、カメラと、駆動機構とを備え、前記カメラは、前記駆動機構に設けられ、前記被検査物を異なる視点及び視線で撮影するように前記駆動機構によって移動可能に構成され、前記回転テーブルは、前記被検査物を載置して回転可能に構成されるものが提供される。 According to one aspect of the present invention, it is an inspection system for inspecting an object to be inspected, which includes an image pickup device and a rotary table, the image pickup device includes a camera and a drive mechanism, and the camera includes the camera. The drive mechanism is provided so as to be movable by the drive mechanism so as to photograph the object to be inspected from different viewpoints and lines of sight, and the rotary table is configured to be rotatable on which the object to be inspected is placed. Things are provided.

このような検査システムによれば、空間的制約の影響を抑えつつ、漏れなく被検査物を検査することができる。以上のような有利な効果を奏する。 According to such an inspection system, the inspected object can be inspected without omission while suppressing the influence of spatial constraints. It has the above-mentioned advantageous effects.

検査システム1の外観を示す平面図である。It is a top view which shows the appearance of inspection system 1. 検査システム1の外観を示す正面図である。It is a front view which shows the appearance of inspection system 1. 検査システム1のハードウェア構成を示すブロック図である。It is a block diagram which shows the hardware structure of inspection system 1. カメラ21の視線及び視点を示す概念図である。It is a conceptual diagram which shows the line-of-sight and a viewpoint of a camera 21. 情報処理装置4のハードウェア構成を示すブロック図である。It is a block diagram which shows the hardware structure of an information processing apparatus 4. 情報処理装置4における制御部43が担う機能を示す機能ブロック図である。It is a functional block diagram which shows the function which the control part 43 in an information processing apparatus 4 has. 成形体Mの判定結果で欠陥無しと判定された場合の一例を示している。An example is shown in the case where it is determined that there is no defect in the determination result of the molded body M. 成形体Mの判定結果で欠陥有りと判定された場合の一例を示している。An example is shown in the case where it is determined that there is a defect in the determination result of the molded body M. 実施形態に係る検査システム1のアクティビティ図である。It is an activity diagram of the inspection system 1 which concerns on embodiment. 従来技術に係る検査システム9の一例を示している。An example of the inspection system 9 according to the prior art is shown.

以下、図面を用いて本発明の実施形態について説明する。以下に示す実施形態中で示した各種特徴事項は、互いに組み合わせ可能である。特に、本明細書において「部」とは、例えば、広義の回路によって実施されるハードウェア資源と、これらのハードウェア資源によって具体的に実現されうるソフトウェアの情報処理とを合わせたものも含みうる。また、本実施形態においては様々な情報を取り扱うが、これら情報は、0又は1で構成される2進数のビット集合体として信号値の高低によって表され、広義の回路上で通信・演算が実行されうる。 Hereinafter, embodiments of the present invention will be described with reference to the drawings. The various features shown in the embodiments shown below can be combined with each other. In particular, in the present specification, the "part" may include, for example, a combination of hardware resources implemented by circuits in a broad sense and information processing of software that can be concretely realized by these hardware resources. .. Further, in this embodiment, various information is handled, and these information are represented by high and low signal values as a bit set of binary numbers composed of 0 or 1, and communication / calculation is executed on a circuit in a broad sense. Can be done.

また、広義の回路とは、回路(Circuit)、回路類(Circuitry)、プロセッサ(Processor)、及びメモリ(Memory)等を少なくとも適当に組み合わせることによって実現される回路である。すなわち、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CLPD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等を含むものである。 A circuit in a broad sense is a circuit realized by at least appropriately combining a circuit, a circuit, a processor, a memory, and the like. That is, an integrated circuit for a specific application (Application Special Integrated Circuit: ASIC), a programmable logic device (for example, a simple programmable logic device (Simple Programmable Logical Device: SPLD), a composite programmable logic device (Complex Program)) It includes a programmable gate array (Field Programmable Gate Array: FPGA) and the like.

1.ハードウェア構成
1−1.検査システム1
第1節では、本実施形態に係る検査システム1のハードウェア構成を説明する。図1は、検査システム1の外観を示す平面図である。この図では、駆動機構21a及びその先端に位置するカメラ21が1つで、その可動範囲を模式的に示している。図2は、検査システム1の外観を示す正面図である。図3は、検査システム1のハードウェア構成を示すブロック図である。被検査物を検査する検査システム1は、撮像装置2と、固定装置3(回転テーブル31)とを備える。また、検査システム1は、情報処理装置4をさらに備える。
1. 1. Hardware configuration 1-1. Inspection system 1
Section 1 describes the hardware configuration of the inspection system 1 according to the present embodiment. FIG. 1 is a plan view showing the appearance of the inspection system 1. In this figure, there is one drive mechanism 21a and one camera 21 located at the tip thereof, and the movable range thereof is schematically shown. FIG. 2 is a front view showing the appearance of the inspection system 1. FIG. 3 is a block diagram showing a hardware configuration of the inspection system 1. The inspection system 1 for inspecting an object to be inspected includes an image pickup device 2 and a fixing device 3 (rotary table 31). Further, the inspection system 1 further includes an information processing device 4.

なお、本実施形態において、検査システム1が対象とする被検査物は、溶着箇所を有する成形体Mであり、溶着箇所を検査可能に構成されるものとして説明する。このような成形体Mは、非対称な形状を有する。なお、あくまでも一例でありこの限りではない。以下各構成要素についてさらに詳述する。 In the present embodiment, the object to be inspected targeted by the inspection system 1 is a molded product M having a welded portion, and the welded portion will be described as being inspectable. Such a molded product M has an asymmetrical shape. It should be noted that this is just an example and is not limited to this. Each component will be described in more detail below.

1−2.撮像装置2
撮像装置2は、カメラ21と、駆動機構21aとを備える。また、駆動機構21aは、ロッド22と、ジョイント23aと、ジョイント23bと、土台24とを備える。以下詳細を説明する。
1-2. Imaging device 2
The image pickup device 2 includes a camera 21 and a drive mechanism 21a. Further, the drive mechanism 21a includes a rod 22, a joint 23a, a joint 23b, and a base 24. Details will be described below.

<カメラ21>
カメラ21は、駆動機構21aに設けられる。カメラ21は、成形体Mを異なる視点及び視線で撮影するように駆動機構21aによって移動可能に構成される。より具体的には、カメラ21は、回転テーブル31上に位置する成形体Mを含む複数の検査画像IM1を撮像するように構成される。検査画像IM1は静止画でもよいし動画でもよい。ここで複数の検査画像IM1とは、成形体Mを漏れなく画像化するように、駆動機構21aを駆動させ、それぞれ異なる視点及び視線で撮像されたものである。なお、カメラ21の上方には、照明27が設けられる。照明27は、撮影の度に必要な明るさを担保するように照明光を成形体Mに照射するように構成される。
<Camera 21>
The camera 21 is provided in the drive mechanism 21a. The camera 21 is configured to be movable by a drive mechanism 21a so as to photograph the molded body M from different viewpoints and lines of sight. More specifically, the camera 21 is configured to capture a plurality of inspection images IM1 including the molded body M located on the rotary table 31. The inspection image IM1 may be a still image or a moving image. Here, the plurality of inspection images IM1 are images taken from different viewpoints and lines of sight by driving the drive mechanism 21a so as to image the molded body M without omission. A lighting 27 is provided above the camera 21. The illumination 27 is configured to irradiate the molded body M with illumination light so as to ensure the brightness required for each shooting.

カメラ21は、溶着箇所にやや上方向を仰ぎ見るように傾斜を有して撮影するように構成される。このような傾斜によって、奥行き方向のズレに対する検出精度を向上させることができる。水平に対する傾斜角をθとすると、θは、具体的には例えば、1,1.1,1.2,1.3,1.4,1.5,1.6,1.7,1.8,1.9,2,2.1,2.2,2.3,2.4,2.5,2.6,2.7,2.8,2.9,3,3.1,3.2,3.3,3.4,3.5,3.6,3.7,3.8,3.9,4,4.1,4.2,4.3,4.4,4.5,4.6,4.7,4.8,4.9,5,5.1,5.2,5.3,5.4,5.5,5.6,5.7,5.8,5.9,6,6.1,6.2,6.3,6.4,6.5,6.6,6.7,6.8,6.9,7,7.1,7.2,7.3,7.4,7.5,7.6,7.7,7.8,7.9,8,8.1,8.2,8.3,8.4,8.5,8.6,8.7,8.8,8.9,9,9.1,9.2,9.3,9.4,9.5,9.6,9.7,9.8,9.9,10度であり、ここで例示した数値の何れか2つの間の範囲内であってもよい。 The camera 21 is configured to take a picture with an inclination so as to look up at the welded portion slightly upward. With such an inclination, it is possible to improve the detection accuracy for the deviation in the depth direction. Assuming that the inclination angle with respect to the horizontal is θ, for example, θ is 1,1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1. 8,1.9,2,2.1,2.2,2.3,2.4,2.5,2.6,2.7,2.8,2.9,3,3.1 3.2, 3.3, 3.4, 3.5, 3.6, 3.7, 3.8, 3.9, 4, 4.1, 4.2, 4.3, 4.4 4.5, 4.6, 4.7, 4.8, 4.9, 5, 5.1, 5.2, 5.3, 5.4, 5.5, 5.6, 5.7, 5.8, 5.9, 6, 6.1, 6.2, 6.3, 6.4, 6.5, 6.6, 6.7, 6.8, 6.9, 7, 7. 1,7.2,7.3,7.4,7.5,7.6,7.7,7.8,7.9,8,8.1,8.2,8.3,8. 4,8.5,8.6,8.7,8.8,8.9,9,9.1,9.2,9.3,9.4,9.5,9.6,9. It is 7, 9.8, 9.9, 10 degrees, and may be within the range between any two of the numerical values exemplified here.

カメラ21は、駆動可能な駆動機構21aの先端に設けられ、視点及び視線を可変に構成される。なお、細部に関して漏れなく検査画像IM1を得るためには、カメラ21に設けるレンズは短焦点のものが好ましい。しかし、短焦点レンズは被写界深度が浅いため、少しの位置ずれであってもフォーカスが合わなくなってしまう。本実施形態では、駆動機構21aは、カメラ21における視点から成形体Mにおける撮像箇所までの距離を調節可能に構成される。また、単焦点レンズを用いた画像は画角が小さいため、撮像箇所を変化させて検査画像IM1を撮像する必要がある。したがって、駆動機構21aは、画角方向の2軸の自由度を少なくとも有するものが採用されうる。好ましくは、駆動機構21aは、4軸の自由度を有するスカラロボットが採用されうる。駆動機構21aを構成する主たる部品については次に説明する。 The camera 21 is provided at the tip of a driveable drive mechanism 21a, and has a variable viewpoint and line of sight. In order to obtain the inspection image IM1 without omission in detail, the lens provided in the camera 21 is preferably a short focus lens. However, since the short focus lens has a shallow depth of field, even a slight misalignment causes the lens to be out of focus. In the present embodiment, the drive mechanism 21a is configured so that the distance from the viewpoint on the camera 21 to the image pickup position on the molded body M can be adjusted. Further, since the image using the single focus lens has a small angle of view, it is necessary to capture the inspection image IM1 by changing the imaging location. Therefore, as the drive mechanism 21a, a mechanism having at least two degrees of freedom in the angle of view direction can be adopted. Preferably, as the drive mechanism 21a, a SCARA robot having four degrees of freedom can be adopted. The main parts constituting the drive mechanism 21a will be described below.

<ロッド22>
ロッド22は、部品25に設けられて鉛直下方向に延在し、その長さを可変に構成される。これにより、カメラ21の視点位置を上下に変化させることができる。
<Rod 22>
The rod 22 is provided on the component 25 and extends vertically downward, and its length is variably configured. As a result, the viewpoint position of the camera 21 can be changed up and down.

<ジョイント23a>
ジョイント23aは、関節部であって部品25を部品26(アーム)に対して回転可能にしている。これにより、カメラ21の視線を左右に振ることができる。
<Joint 23a>
The joint 23a is a joint portion and makes the component 25 rotatable with respect to the component 26 (arm). As a result, the line of sight of the camera 21 can be swung left and right.

<ジョイント23b>
ジョイント23bは、関節部であって部品26(アーム)を土台24に対して回転可能にしている。これにより、カメラ21の視点位置を左右に変化させることができる。
<Joint 23b>
The joint 23b is a joint portion and makes the component 26 (arm) rotatable with respect to the base 24. As a result, the viewpoint position of the camera 21 can be changed to the left or right.

<土台24>
土台24は、検査システム1を載置する床面等に固設されている。したがって、撮像装置2は検査に際して原則的に固定して使用されることとなる。
<Base 24>
The base 24 is fixed to the floor surface or the like on which the inspection system 1 is placed. Therefore, the image pickup apparatus 2 is basically fixed and used at the time of inspection.

1−3.固定装置3
固定装置3は、回転テーブル31と、固定部材32とを備える。以下詳細を説明する。
1-3. Fixing device 3
The fixing device 3 includes a rotary table 31 and a fixing member 32. Details will be described below.

<回転テーブル31>
回転テーブル31は、成形体Mを載置して回転可能に構成される。これにより、カメラ21に撮像される成形体Mの向きを変化させることができる。成形体Mを回転テーブル31に載置する作業は、人の手で行ってもよいし、不図示の作業ロボットが行ってもよい。
<Rotary table 31>
The rotary table 31 is configured to be rotatable on which the molded body M is placed. As a result, the orientation of the molded body M imaged by the camera 21 can be changed. The work of placing the molded body M on the rotary table 31 may be performed manually or by a work robot (not shown).

なお、撮像装置2において、カメラ21の視線及び視点は柔軟に変化させることができるが、本実施形態に係る検査システム1では、設置スペースの制約を考慮して、従来技術に係る検査システム9(図10参照)よりも駆動機構21aの大きさが小さいことに留意されたい。したがって、検査システム1のカメラ21の撮像範囲は、検査システム9の同撮像範囲よりも狭くなる。 In the image pickup apparatus 2, the line of sight and the viewpoint of the camera 21 can be flexibly changed, but in the inspection system 1 according to the present embodiment, the inspection system 9 according to the prior art (in the inspection system 1 according to the present embodiment) in consideration of the limitation of the installation space. Note that the size of the drive mechanism 21a is smaller than that (see FIG. 10). Therefore, the imaging range of the camera 21 of the inspection system 1 is narrower than the imaging range of the inspection system 9.

図4は、カメラ21の視線及び視点を示す概念図である。図4に示されるように、カメラ21は、成形体Mを異なる視点及び視線で撮影するように第1の視点P1から第2の視点P2まで移動するように構成される。そして、第1の視点P1から成形体Mに向かう第1の視線ベクトルv_1及び第2の視点P2から成形体Mに向かう第2の視線ベクトルv_2が成す角をαとし、回転テーブル31が回転可能な角をβ(不図示)とすると、α+β≧360度を満たすことに留意されたい。つまり、カメラ21の撮像範囲が制限されていても、回転テーブル31が成形体Mを回転させることで、成形体Mを漏れなく検査することが可能となっている。特に、駆動機構21aの小型化を考慮すると、α≦180度を満たすことが好ましい。 FIG. 4 is a conceptual diagram showing the line of sight and the viewpoint of the camera 21. As shown in FIG. 4, the camera 21 is configured to move from the first viewpoint P1 to the second viewpoint P2 so as to photograph the molded body M from different viewpoints and lines of sight. Then, the angle formed by the first line-of-sight vector v_1 from the first viewpoint P1 toward the molded body M and the second line-of-sight vector v_1 from the second viewpoint P2 toward the molded body M is α, and the rotary table 31 can rotate. It should be noted that if the angle is β (not shown), α + β ≧ 360 degrees is satisfied. That is, even if the imaging range of the camera 21 is limited, the rotary table 31 rotates the molded body M, so that the molded body M can be inspected without omission. In particular, considering the miniaturization of the drive mechanism 21a, it is preferable to satisfy α ≦ 180 degrees.

<固定部材32>
固定部材32は、回転テーブル31に載置された成形体Mを上から押し付けるようにして固定するように構成される。固定部材32によって、回転テーブル31が回転しても、成形体Mが移動したり落下したりすることが抑制されうる。
<Fixing member 32>
The fixing member 32 is configured to fix the molded body M placed on the rotary table 31 by pressing it from above. The fixing member 32 can prevent the molded body M from moving or falling even if the rotary table 31 rotates.

1−4.情報処理装置4
図5は、情報処理装置4のハードウェア構成を示すブロック図である。情報処理装置4は、通信部41と、記憶部42と、制御部43(画像処理部432、判定部433)とを有し、これらの構成要素が情報処理装置4の内部において通信バス40を介して電気的に接続されている。以下、各構成要素についてさらに説明する。
1-4. Information processing device 4
FIG. 5 is a block diagram showing a hardware configuration of the information processing device 4. The information processing device 4 has a communication unit 41, a storage unit 42, and a control unit 43 (image processing unit 432, determination unit 433), and these components provide a communication bus 40 inside the information processing device 4. It is electrically connected via. Hereinafter, each component will be further described.

<通信部41>
通信部41は、USB、IEEE1394、Thunderbolt、有線LANネットワーク通信等といった有線型の通信手段が好ましいものの、無線LANネットワーク通信、LTE/3G等のモバイル通信、Bluetooth(登録商標)通信等を必要に応じて含めてもよい。すなわち、これら複数の通信手段の集合として実施することがより好ましい。特に、カメラ21とは、所定の通信規格において通信可能に構成されることが好ましい。
<Communication unit 41>
Although wired communication means such as USB, IEEE1394, Thunderbolt, and wired LAN network communication are preferable, the communication unit 41 can perform wireless LAN network communication, mobile communication such as LTE / 3G, Bluetooth (registered trademark) communication, and the like as necessary. May be included. That is, it is more preferable to carry out as a set of these plurality of communication means. In particular, it is preferable that the camera 21 is configured to be communicable according to a predetermined communication standard.

通信部41は、カメラ21が複数の検査画像IM1を撮像するとこれらを受信するように構成される。また、通信部41は、駆動機構21aの各関節角度を逆運動学に基づいて所望の角度に制御するための情報を送信可能に構成される。また、現在の関節角度が情報として取得可能(エンコーダ)に構成されるとさらに好ましい。このような構成により、駆動機構21aの先端に設けられたカメラ21を、空間座標中の所望の位置及び向きに変位させるような制御が可能となる。 The communication unit 41 is configured to receive the plurality of inspection images IM1 when the camera 21 captures them. Further, the communication unit 41 is configured to be able to transmit information for controlling each joint angle of the drive mechanism 21a to a desired angle based on inverse kinematics. Further, it is more preferable that the current joint angle can be acquired as information (encoder). With such a configuration, it is possible to control the camera 21 provided at the tip of the drive mechanism 21a so as to be displaced to a desired position and direction in spatial coordinates.

<記憶部42>
記憶部42は、前述の記載により定義される様々な情報を記憶する。これは、例えばソリッドステートドライブ(Solid State Drive:SSD)等のストレージデバイスとして、あるいは、プログラムの演算に係る一時的に必要な情報(引数、配列等)を記憶するランダムアクセスメモリ(Random Access Memory:RAM)等のメモリとして実施されうる。また、これらの組合せであってもよい。
<Memory unit 42>
The storage unit 42 stores various information defined by the above description. This is, for example, as a storage device such as a solid state drive (SSD), or a random access memory (Random Access Memory:) that stores temporarily necessary information (arguments, arrays, etc.) related to program operations. It can be implemented as a memory such as RAM). Moreover, these combinations may be used.

特に、記憶部42は、カメラ21によって撮像され、且つ通信部41が受信した検査画像IM1を記憶する。検査画像IM1は、例えばRGB各8ビットのピクセル情報を具備する配列情報である。また、記憶部42は、動作制御プログラム、取得プログラム、画像処理プログラム、判定プログラムを記憶する。また、記憶部42は、これ以外にも制御部43によって実行される情報処理装置4に係る種々のプログラム等を記憶している。 In particular, the storage unit 42 stores the inspection image IM1 imaged by the camera 21 and received by the communication unit 41. The inspection image IM1 is, for example, array information including pixel information of 8 bits for each of RGB. Further, the storage unit 42 stores the operation control program, the acquisition program, the image processing program, and the determination program. In addition to this, the storage unit 42 stores various programs related to the information processing device 4 executed by the control unit 43.

<制御部43>
制御部43は、情報処理装置4に関連する全体動作の処理・制御を行う。制御部43は、例えば不図示の中央処理装置(Central Processing Unit:CPU)である。制御部43は、記憶部42に記憶された所定のプログラムを読み出すことによって、情報処理装置4に係る種々の機能を実現する。具体的には動作制御機能、取得機能、画像処理機能、及び判定機能が該当する。すなわち、ソフトウェア(記憶部42に記憶されている)による情報処理がハードウェア(制御部43)によって具体的に実現されることで、動作制御部430、取得部431、画像処理部432、判定部433として実行されうる。
<Control unit 43>
The control unit 43 processes and controls the entire operation related to the information processing device 4. The control unit 43 is, for example, a central processing unit (CPU) (not shown). The control unit 43 realizes various functions related to the information processing device 4 by reading a predetermined program stored in the storage unit 42. Specifically, the operation control function, the acquisition function, the image processing function, and the determination function are applicable. That is, the information processing by the software (stored in the storage unit 42) is specifically realized by the hardware (control unit 43), so that the operation control unit 430, the acquisition unit 431, the image processing unit 432, and the determination unit It can be run as 433.

なお、図5においては、単一の制御部43として表記されているが、実際はこれに限るものではなく、機能ごとに複数の制御部43を有するように実施してもよい。またそれらの組合せであってもよい。動作制御部430、取得部431、画像処理部432、判定部433については、第2節でさらに詳述する。 Although it is described as a single control unit 43 in FIG. 5, it is not limited to this, and it may be implemented so as to have a plurality of control units 43 for each function. Moreover, it may be a combination thereof. The operation control unit 430, the acquisition unit 431, the image processing unit 432, and the determination unit 433 will be described in more detail in Section 2.

2.機能構成
第2節では、検査システム1の情報処理装置4(制御部43)の機能構成について説明する。図6は、情報処理装置4における制御部43が担う機能を示す機能ブロック図である。以下、各構成要素についてさらに説明する。
2. Functional configuration Section 2 describes the functional configuration of the information processing device 4 (control unit 43) of the inspection system 1. FIG. 6 is a functional block diagram showing a function played by the control unit 43 in the information processing device 4. Hereinafter, each component will be further described.

[動作制御部430]
動作制御部430は、ソフトウェア(記憶部42に記憶されている)による情報処理がハードウェア(制御部43)によって具体的に実現されているものである。動作制御部430は、通信部41を介して接続された駆動機構21aや回転テーブル31を制御する。つまり、動作制御部430が指示する情報を含む電気信号が駆動機構21aに送信され、カメラ21が所望の視点及び視線を有するように駆動機構21aが駆動する。動作制御部430が指示する情報を含む電気信号が回転テーブル31の駆動系に送信され、成形体Mが所望の向きになるように回転テーブル31が回転する。
[Operation control unit 430]
In the operation control unit 430, information processing by software (stored in the storage unit 42) is specifically realized by hardware (control unit 43). The operation control unit 430 controls the drive mechanism 21a and the rotary table 31 connected via the communication unit 41. That is, an electric signal including information instructed by the motion control unit 430 is transmitted to the drive mechanism 21a, and the drive mechanism 21a is driven so that the camera 21 has a desired viewpoint and line of sight. An electric signal including information instructed by the operation control unit 430 is transmitted to the drive system of the rotary table 31, and the rotary table 31 rotates so that the molded body M has a desired orientation.

[取得部431]
取得部431は、ソフトウェア(記憶部42に記憶されている)による情報処理がハードウェア(制御部43)によって具体的に実現されているものである。取得部431は、カメラ21によって撮像された検査画像IM1を、通信部41を介して取得するように構成されている。
[Acquisition unit 431]
In the acquisition unit 431, information processing by software (stored in the storage unit 42) is specifically realized by hardware (control unit 43). The acquisition unit 431 is configured to acquire the inspection image IM1 captured by the camera 21 via the communication unit 41.

[画像処理部432]
画像処理部432は、ソフトウェア(記憶部42に記憶されている)による情報処理がハードウェア(制御部43)によって具体的に実現されているものである。画像処理部432は、カメラ21から送信され且つ通信部41によって受信された検査画像IM1に対して、所定の画像処理を実行し、処理後画像IM2を生成する。より具体的には、検査画像IM1の明度に対して所定の閾値を定めてバイナリ画像(処理後画像IM2の一例)に変換処理する。
[Image processing unit 432]
In the image processing unit 432, information processing by software (stored in the storage unit 42) is specifically realized by hardware (control unit 43). The image processing unit 432 executes predetermined image processing on the inspection image IM1 transmitted from the camera 21 and received by the communication unit 41, and generates the processed image IM2. More specifically, a predetermined threshold value is set for the brightness of the inspection image IM1 and converted into a binary image (an example of the processed image IM2).

[判定部433]
判定部433は、ソフトウェア(記憶部42に記憶されている)による情報処理がハードウェア(制御部43)によって具体的に実現されているものである。判定部433は、カメラ21によって撮像された複数の検査画像IM1に基づいて、成形体Mの欠陥の有無を判定するように構成される。具体的には、判定部433は、検査画像IM1から作成した処理後画像IM2に基づいて、成形体Mの溶着箇所に欠陥がないかを判定するように構成される。
[Judgment unit 433]
In the determination unit 433, information processing by software (stored in the storage unit 42) is specifically realized by hardware (control unit 43). The determination unit 433 is configured to determine the presence or absence of defects in the molded body M based on the plurality of inspection images IM1 captured by the camera 21. Specifically, the determination unit 433 is configured to determine whether or not there is a defect in the welded portion of the molded body M based on the processed image IM2 created from the inspection image IM1.

特に判定部433は、欠陥と思われる箇所の位置及び面積の少なくとも1つに基づいて、欠陥に該当するかどうかを判定する。なお、カメラ21のノイズ、画像処理での計算上の誤差、又は品質上問題のない微小な不具合は、欠陥ではないと判定してもよい。また、ライン工程を鑑みると、判定部433は、通信部41が受信した複数の検査画像IM1に基づいて、次の成形体Mが搬送されるまでに検査中の成形体Mの欠陥有無を判定するように構成されるとよい。 In particular, the determination unit 433 determines whether or not the defect is applicable based on at least one of the positions and areas of the locations that are considered to be defects. It should be noted that noise of the camera 21, calculation error in image processing, or a minute defect that does not cause a quality problem may be determined not to be a defect. Further, in view of the line process, the determination unit 433 determines whether or not there is a defect in the molded product M being inspected by the time the next molded product M is conveyed, based on the plurality of inspection images IM1 received by the communication unit 41. It should be configured to do so.

また、判定の結果を不図示の表示装置等に表示させて、人間がその結果を確認できるようにしてもよい。特に、生産現場での品質状況をリアルタイムで表示することとなるため、問題点を迅速に把握、特定すること、及び素早い対策等に役立てられる。図7は、成形体Mの判定結果で欠陥無しと判定された場合の一例を示している。図8は、成形体Mの判定結果で欠陥有りと判定された場合の一例を示している。 Further, the result of the determination may be displayed on a display device (not shown) or the like so that a human can confirm the result. In particular, since the quality status at the production site is displayed in real time, it is useful for quickly grasping and identifying problems and for quick countermeasures. FIG. 7 shows an example in the case where it is determined that there is no defect in the determination result of the molded product M. FIG. 8 shows an example in the case where it is determined that there is a defect in the determination result of the molded body M.

3.検査方法
第3節では、これまでに説明した検査システム1を用いた検査方法について説明する。図9は、実施形態に係る検査システム1のアクティビティ図である。以下、本図に沿って説明する。
3. 3. Inspection method Section 3 describes the inspection method using the inspection system 1 described so far. FIG. 9 is an activity diagram of the inspection system 1 according to the embodiment. Hereinafter, description will be given with reference to this figure.

[ここから]
(アクティビティA01)
回転テーブル31に成形体Mが載置され、成形体Mの一方側が撮像可能となる。この状態で、動作制御部430が、駆動機構21aを駆動させてカメラ21が予め定められた視点及び視線を有するように制御する。
[from here]
(Activity A01)
The molded body M is placed on the rotary table 31, and one side of the molded body M can be imaged. In this state, the motion control unit 430 drives the drive mechanism 21a to control the camera 21 so as to have a predetermined viewpoint and line of sight.

(アクティビティA02)
アクティビティA01で決定された所望の視点及び視線で、カメラ21が成形体Mの一方側を撮像する。アクティビティA01及びA02は、複数の視点及び視線で行われる。
(Activity A02)
The camera 21 images one side of the molded body M with the desired viewpoint and line of sight determined in activity A01. Activities A01 and A02 are performed from a plurality of viewpoints and lines of sight.

(アクティビティA03)
続いて、回転テーブル31が180度回転することで、成形体Mの他方側が撮像可能となる。
(Activity A03)
Subsequently, the rotary table 31 is rotated 180 degrees so that the other side of the molded body M can be imaged.

(アクティビティA04)
この状態で、動作制御部430が、駆動機構21aを駆動させてカメラ21が予め定められた視点及び視線を有するように制御する。
(Activity A04)
In this state, the motion control unit 430 drives the drive mechanism 21a to control the camera 21 so as to have a predetermined viewpoint and line of sight.

(アクティビティA05)
アクティビティA04で決定された所望の視点及び視線で、カメラ21が成形体Mの他方側を撮像する。アクティビティA04及びA05は、複数の視点及び視線で行われる。
(Activity A05)
The camera 21 images the other side of the molded body M with the desired viewpoint and line of sight determined in activity A04. Activities A04 and A05 are performed from multiple viewpoints and lines of sight.

(アクティビティA06)
情報処理装置4における取得部431が、カメラ21から通信部41を介して検査画像IM1を取得する。
(Activity A06)
The acquisition unit 431 of the information processing device 4 acquires the inspection image IM1 from the camera 21 via the communication unit 41.

(アクティビティA07)
情報処理装置4における画像処理部432が、取得部431が取得した検査画像IM1に適切な画像処理を実施して、処理後画像IM2を生成する。
(Activity A07)
The image processing unit 432 of the information processing device 4 performs appropriate image processing on the inspection image IM1 acquired by the acquisition unit 431 to generate the processed image IM2.

(アクティビティA08)
情報処理装置4における判定部433が、処理後画像IM2に基づいて、成形体Mの欠陥の有無を判定する。
(Activity A08)
The determination unit 433 in the information processing apparatus 4 determines the presence or absence of defects in the molded body M based on the processed image IM2.

(アクティビティA09)
最後に、回転テーブル31が再び180度回転することで、初期状態に戻る。
[ここまで]
(Activity A09)
Finally, the rotary table 31 is rotated 180 degrees again to return to the initial state.
[to this point]

4.変形例
第4節では、本実施形態に係る検査システム1の変形例について説明する。すなわち、以下のような態様で検査システム1が提供されてもよい。
4. Modification Example Section 4 describes a modification of the inspection system 1 according to the present embodiment. That is, the inspection system 1 may be provided in the following aspects.

(1)駆動機構21aに代えて、XYZステージを用いてカメラ21等の位置座標を変化させてもよい。
(2)固定装置3に、成形体Mを並進移動(例えばXYZステージ等)させる機構を設けてもよい。
(3)カメラ21を複数としてもよい。
(4)カメラ21に加えて、異なる種類のセンサを追加してもよい。
(5)回転テーブル3は、180度の回転を1回伴うものに限らず、細かく連続的に回転させてもよい。あるいは、45度、60度、90度、又は120度ずつといったように、規定の離散値ずつ回転させてもよい。
(1) Instead of the drive mechanism 21a, the position coordinates of the camera 21 or the like may be changed by using the XYZ stage.
(2) The fixing device 3 may be provided with a mechanism for translating the molded body M (for example, an XYZ stage or the like).
(3) There may be a plurality of cameras 21.
(4) In addition to the camera 21, different types of sensors may be added.
(5) The rotary table 3 is not limited to one that is rotated 180 degrees once, and may be finely and continuously rotated. Alternatively, it may be rotated by a specified discrete value, such as 45 degrees, 60 degrees, 90 degrees, or 120 degrees.

5.結言
以上のように、本実施形態によれば、構造的に正面視不可の難視領域を有する被検査体の欠陥の有無を適切に判定可能な検査システムを実現することができる。
5. Conclusion As described above, according to the present embodiment, it is possible to realize an inspection system capable of appropriately determining the presence or absence of defects in the subject to be inspected having a difficult-to-see region that cannot be viewed from the front.

次に記載の各態様で提供されてもよい。
前記検査システムにおいて、前記駆動機構は、前記カメラにおける前記視点から前記被検査物における撮像箇所までの距離を調節可能に構成されるもの。
前記検査システムにおいて、前記カメラは、被検査物を異なる視点及び視線で撮影するように第1の視点から第2の視点まで移動するように構成され、前記第1の視点から前記被検査物に向かう第1の視線ベクトルv_1及び前記第2の視点から前記被検査物に向かう第2の視線ベクトルv_2が成す角をαとし、前記回転テーブルが回転可能な角をβとすると、α+β≧360度を満たすもの。
前記検査システムにおいて、α≦180度を満たすもの。
前記検査システムにおいて、情報処理装置をさらに備え、前記情報処理装置は、判定部を備え、前記判定部は、前記カメラによって撮像された複数の検査画像に基づいて、前記被検査物の欠陥の有無を判定するように構成されるもの。
前記検査システムにおいて、前記被検査物が溶着箇所を有する成形体であり、前記溶着箇所を検査可能に構成されるもの。
もちろん、この限りではない。
It may be provided in each of the following aspects.
In the inspection system, the drive mechanism is configured to be able to adjust the distance from the viewpoint of the camera to the imaging location of the object to be inspected.
In the inspection system, the camera is configured to move from a first viewpoint to a second viewpoint so as to capture an object to be inspected from different viewpoints and lines of sight, and from the first viewpoint to the object to be inspected. Let α be the angle formed by the first line-of-sight vector v_1 heading toward the object and the second line-of-sight vector v_1 heading toward the object to be inspected from the second viewpoint, and β be the angle at which the rotary table can rotate, α + β ≧ 360 degrees. Those that meet.
In the inspection system, one that satisfies α ≦ 180 degrees.
The inspection system further includes an information processing device, the information processing device includes a determination unit, and the determination unit is based on a plurality of inspection images captured by the camera and has a defect in the object to be inspected. What is configured to determine.
In the inspection system, the object to be inspected is a molded product having a welded portion, and the welded portion can be inspected.
Of course, this is not the case.

最後に、本発明に係る種々の実施形態を説明したが、これらは、例として提示したものであり、発明の範囲を限定することは意図していない。当該新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。当該実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。 Finally, various embodiments of the present invention have been described, but these are presented as examples and are not intended to limit the scope of the invention. The novel embodiment can be implemented in various other forms, and various omissions, replacements, and changes can be made without departing from the gist of the invention. The embodiment and its modifications are included in the scope and gist of the invention, and are included in the scope of the invention described in the claims and the equivalent scope thereof.

1 :検査システム
2 :撮像装置
21 :カメラ
21a :駆動機構
22 :ロッド
23a :ジョイント
23b :ジョイント
24 :土台
25 :部品
26 :部品
27 :照明
3 :固定装置
31 :回転テーブル
32 :固定部材
4 :情報処理装置
40 :通信バス
41 :通信部
42 :記憶部
43 :制御部
430 :動作制御部
431 :取得部
432 :画像処理部
433 :判定部
9 :検査システム
91 :撮像装置
92 :固定装置
IM1 :検査画像
IM2 :処理後画像
M :成形体
P1 :第1の視点
P2 :第2の視点
v_1 :第1の視線ベクトル
v_2 :第2の視線ベクトル
1: Inspection system 2: Imaging device 21: Camera 21a: Drive mechanism 22: Rod 23a: Joint 23b: Joint 24: Base 25: Parts 26: Parts 27: Lighting 3: Fixing device 31: Rotating table 32: Fixing member 4: Information processing device 40: Communication bus 41: Communication unit 42: Storage unit 43: Control unit 430: Operation control unit 431: Acquisition unit 432: Image processing unit 433: Judgment unit 9: Inspection system 91: Imaging device 92: Fixing device IM1 : Inspection image IM2: Processed image M: Molded body P1: First viewpoint P2: Second viewpoint v_1: First line-of-sight vector v_2: Second line-of-sight vector

Claims (6)

被検査物を検査する検査システムであって、
撮像装置と、回転テーブルとを備え、
前記撮像装置は、カメラと、駆動機構とを備え、
前記カメラは、
前記駆動機構に設けられ、
前記被検査物を異なる視点及び視線で撮影するように前記駆動機構によって移動可能に構成され、
前記回転テーブルは、前記被検査物を載置して回転可能に構成されるもの。
It is an inspection system that inspects the object to be inspected.
Equipped with an image pickup device and a rotary table
The image pickup device includes a camera and a drive mechanism.
The camera
Provided in the drive mechanism
It is configured to be movable by the drive mechanism so as to photograph the object to be inspected from different viewpoints and lines of sight.
The rotary table is configured to be rotatable on which the object to be inspected is placed.
請求項1に記載の検査システムにおいて、
前記駆動機構は、前記カメラにおける前記視点から前記被検査物における撮像箇所までの距離を調節可能に構成されるもの。
In the inspection system according to claim 1,
The drive mechanism is configured so that the distance from the viewpoint of the camera to the imaging location of the object to be inspected can be adjusted.
請求項1に記載の検査システムにおいて、
前記カメラは、被検査物を異なる視点及び視線で撮影するように第1の視点から第2の視点まで移動するように構成され、
前記第1の視点から前記被検査物に向かう第1の視線ベクトルv_1及び前記第2の視点から前記被検査物に向かう第2の視線ベクトルv_2が成す角をαとし、前記回転テーブルが回転可能な角をβとすると、
α+β≧360度
を満たすもの。
In the inspection system according to claim 1,
The camera is configured to move from a first viewpoint to a second viewpoint so as to capture an object to be inspected from different viewpoints and lines of sight.
The angle formed by the first line-of-sight vector v_1 from the first viewpoint toward the object to be inspected and the second line-of-sight vector v_1 from the second viewpoint toward the object to be inspected is α, and the rotary table can be rotated. If the angle is β,
Those that satisfy α + β ≧ 360 degrees.
請求項2に記載の検査システムにおいて、
α≦180度
を満たすもの。
In the inspection system according to claim 2,
Those that satisfy α ≤ 180 degrees.
請求項1〜請求項4の何れか1つに記載の検査システムにおいて、
情報処理装置をさらに備え、
前記情報処理装置は、判定部を備え、
前記判定部は、前記カメラによって撮像された複数の検査画像に基づいて、前記被検査物の欠陥の有無を判定するように構成されるもの。
In the inspection system according to any one of claims 1 to 4.
Equipped with more information processing equipment
The information processing device includes a determination unit.
The determination unit is configured to determine the presence or absence of defects in the object to be inspected based on a plurality of inspection images captured by the camera.
請求項1〜請求項5の何れか1つに記載の検査システムにおいて、
前記被検査物が溶着箇所を有する成形体であり、前記溶着箇所を検査可能に構成されるもの。
In the inspection system according to any one of claims 1 to 5.
The object to be inspected is a molded product having a welded portion, and the welded portion can be inspected.
JP2019194125A 2019-10-25 2019-10-25 inspection system Active JP7364882B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019194125A JP7364882B2 (en) 2019-10-25 2019-10-25 inspection system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019194125A JP7364882B2 (en) 2019-10-25 2019-10-25 inspection system

Publications (2)

Publication Number Publication Date
JP2021067592A true JP2021067592A (en) 2021-04-30
JP7364882B2 JP7364882B2 (en) 2023-10-19

Family

ID=75638381

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019194125A Active JP7364882B2 (en) 2019-10-25 2019-10-25 inspection system

Country Status (1)

Country Link
JP (1) JP7364882B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12136238B2 (en) 2021-09-03 2024-11-05 Kabushiki Kaisha Toshiba Processing device relating to inspection of inspection object, inspection system of inspection object, processing method relating to inspection of inspection object, and non-transitory storage medium

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011194498A (en) * 2010-03-18 2011-10-06 Denso Wave Inc Visual inspection system
JP2015110794A (en) * 2015-01-26 2015-06-18 株式会社プライムポリマー Propylene resin composition for welding molding and welded molding obtained therefrom
JP2019158553A (en) * 2018-03-13 2019-09-19 オムロン株式会社 Device, method, and program for inspecting image
JP2019158499A (en) * 2018-03-12 2019-09-19 オムロン株式会社 Appearance inspection system, setting device, image processor, method for setting, and program
JP2019168270A (en) * 2018-03-22 2019-10-03 オムロン株式会社 Appearance inspection system, setting device, and inspection method

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011194498A (en) * 2010-03-18 2011-10-06 Denso Wave Inc Visual inspection system
JP2015110794A (en) * 2015-01-26 2015-06-18 株式会社プライムポリマー Propylene resin composition for welding molding and welded molding obtained therefrom
JP2019158499A (en) * 2018-03-12 2019-09-19 オムロン株式会社 Appearance inspection system, setting device, image processor, method for setting, and program
JP2019158553A (en) * 2018-03-13 2019-09-19 オムロン株式会社 Device, method, and program for inspecting image
JP2019168270A (en) * 2018-03-22 2019-10-03 オムロン株式会社 Appearance inspection system, setting device, and inspection method

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12136238B2 (en) 2021-09-03 2024-11-05 Kabushiki Kaisha Toshiba Processing device relating to inspection of inspection object, inspection system of inspection object, processing method relating to inspection of inspection object, and non-transitory storage medium

Also Published As

Publication number Publication date
JP7364882B2 (en) 2023-10-19

Similar Documents

Publication Publication Date Title
JP6734253B2 (en) Imaging device including a visual sensor for imaging a workpiece
JP6145782B1 (en) Surveillance camera
US8213676B2 (en) Inspection apparatus method and apparatus comprising motion responsive control
CN110261406A (en) Inspection system, setting device, image processing apparatus, setting method and program
US11403742B2 (en) Image processing device, image processing method, and recording medium for generating bird&#39;s eye synthetic image
TWI631316B (en) Inspecting device and inspecting method
JP6233824B1 (en) Image inspection apparatus, production system, image inspection method, program, and storage medium
JP2019148438A (en) Image processing system and setting method
WO2020194541A1 (en) Inspection device
US20190149802A1 (en) Robot and robot system
JP4906128B2 (en) Camera unit inspection apparatus and camera unit inspection method
JP2022047946A (en) Image processing apparatus, image processing method, and program
US11971367B2 (en) Inspection device and inspection method
US10352869B2 (en) Inspection apparatus
JP2021067592A (en) Inspection system
KR20220064537A (en) Apparatus for outer inspection of inspecting object using line laser and three-dimensional carmer and method thereof
CN110097526B (en) Workpiece image generating device
KR100340012B1 (en) Method of checking products and computer vision system using rotating mirror
US7684610B2 (en) Rotating prism component inspection system
JP2022030615A (en) Color correction system and color correction method
US12307647B2 (en) Controller
JP2021051024A (en) Inspection system
KR102198979B1 (en) Monocular Camera Device
JP7451392B2 (en) Image processing device, image processing method, image processing program
US20210258466A1 (en) Image capturing apparatus and its control method

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20220818

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20220819

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220822

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230606

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230803

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230905

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230918

R150 Certificate of patent or registration of utility model

Ref document number: 7364882

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150