KR20240053954A - Apparatus for Environment Adaptive Machine Vision and Driving Method Thereof - Google Patents
Apparatus for Environment Adaptive Machine Vision and Driving Method Thereof Download PDFInfo
- Publication number
- KR20240053954A KR20240053954A KR1020220134108A KR20220134108A KR20240053954A KR 20240053954 A KR20240053954 A KR 20240053954A KR 1020220134108 A KR1020220134108 A KR 1020220134108A KR 20220134108 A KR20220134108 A KR 20220134108A KR 20240053954 A KR20240053954 A KR 20240053954A
- Authority
- KR
- South Korea
- Prior art keywords
- machine vision
- product
- adaptive machine
- preset threshold
- changes
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N2021/8411—Application to online plant, process monitoring
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
- G01N2021/8854—Grading and classifying of flaws
- G01N2021/8858—Flaw counting
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N2201/00—Features of devices classified in G01N21/00
- G01N2201/12—Circuits of general importance; Signal processing
- G01N2201/127—Calibration; base line adjustment; drift compensation
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Image Processing (AREA)
Abstract
본 발명은 환경적응형 머신비전장치 및 그 장치의 구동방법에 관한 것으로서, 본 발명의 실시예에 따른 환경적응형 머신비전장치는, 검수 제품의 촬영 데이터를 수신하는 통신 인터페이스부, 및 수신한 촬영 데이터를 분석하여 분석 결과를 근거로 제품의 비양호 상태(NG)의 비율 변화를 감지하며, 감지한 결과에 따라 검수 제품의 촬영 환경 변화를 판단하여 판단 결과를 근거로 분석 결과를 보정하는 제어부를 포함할 수 있다.The present invention relates to an environmentally adaptive machine vision device and a method of driving the device. The environmentally adaptive machine vision device according to an embodiment of the present invention includes a communication interface unit for receiving photographed data of an inspected product, and a received photographic image. A control unit that analyzes data and detects changes in the rate of non-good condition (NG) of the product based on the analysis results, judges changes in the shooting environment of the inspected product based on the detected results, and corrects the analysis results based on the judgment results. It can be included.
Description
본 발명은 환경적응형 머신비전장치 및 그 장치의 구동방법에 관한 것으로서, 더 상세하게는 가령 공장 등 생산라인에서 제품 검수를 위해 많이 사용하는 머신비전 분야에서 제품 검수 과정 때 양호(OK)와 비양호(NG)의 분포 변화를 인지하여 (환경) 변화를 감지하고 제품 검수시 환경 변화의 감지 결과를 근거로 적응적(혹은 탄력적)으로 머신비전 기술을 구현하려는 환경적응형 머신비전장치 및 그 장치의 구동방법에 관한 것이다.The present invention relates to an environmentally adaptive machine vision device and a method of operating the device. More specifically, in the field of machine vision, which is widely used for product inspection in production lines such as factories, Environmentally adaptive machine vision devices and devices that detect (environmental) changes by recognizing changes in the distribution of good (NG) and implement machine vision technology adaptively (or flexibly) based on the detection results of environmental changes during product inspection. It is about the driving method of .
최근 들어 자동차, 전자기기, 디스플레이, 반도체, 식음료, 스포츠 등 산업 분야 전반에, 머신 비전(machine vision), 로봇, 센서, PLC, 컴퓨터 등의 요소가 결합되어 산업 자동화(industrial automation)가 점차 가속화되고 있다. 산업 분야 전반에 걸쳐 산업 자동화가 가속화됨에 따라 대량으로 생산되는 제품들이, 출하되기 이전에 수행되는 정밀검사 과정을 자동화하기 위한 다양한 기술들이 도입되고 있다. 이와 같은 정밀검사 중 하나인 비전검사(머신비전 검사)는 사람이 육안으로 판단하던 기존 방식을 대신하여 카메라에 의해 촬영되는 이미지를 통해서 예컨대, 제품의 라벨링 상태나 포장지의 인쇄 상태, 바코드의 인쇄 상태 등을 검사한다.Recently, industrial automation is gradually accelerating as elements such as machine vision, robots, sensors, PLC, and computers are combined across industrial fields such as automobiles, electronic devices, displays, semiconductors, food and beverage, and sports. there is. As industrial automation accelerates across industrial sectors, various technologies are being introduced to automate the detailed inspection process that is performed on mass-produced products before they are shipped. Vision inspection (machine vision inspection), one of these detailed inspections, replaces the existing method of human judgment with the naked eye, and uses images taken by a camera to check, for example, the labeling status of a product, the printing status of packaging, or the printing status of barcodes. Check your back.
구체적으로, 비전 검사는 검사대상물의 표면을 촬영하여 표면 이미지를 획득하고, 획득된 표면 이미지를 기준 이미지와 비교하여 검사대상물의 불량 유무를 검사하는 방식으로 수행된다. 비전 검사를 위한 장치는, 공정라인 상의 곳곳에 설치되어, 공정라인을 따라 이동하는 제품(이하, 검사대상물)에 대해 비전 검사를 수행하고 있다. 즉, 제조업체에서는 대규모 생산라인을 형성하고 있고, 각 생산라인마다 IP 카메라 등 다수 개의 비전 장비를 설치하여 각 공정별 불량률이나 품질 검사를 수행한다.Specifically, vision inspection is performed by photographing the surface of the inspection object to obtain a surface image and comparing the obtained surface image with a reference image to check for defects in the inspection object. Devices for vision inspection are installed throughout the process line and perform vision inspection on products (hereinafter referred to as inspection objects) moving along the process line. In other words, manufacturers are forming large-scale production lines, and installing multiple vision equipment, such as IP cameras, on each production line to inspect defect rates and quality for each process.
그런데 종래의 비전 검사는 조명의 세기나 위치 등 제품 검수의 환경이 달라지는 경우 기존의 모델 즉 검수 프로그램의 정확도를 보장할 수 없는 문제가 있다. 따라서 현장 작업자가 임의로 조처를 취해야 하지만, 이 또한 명확한 기준이 없기 때문에 기존 모델의 정확도를 보장하기 어렵다.However, conventional vision inspection has a problem in that it cannot guarantee the accuracy of the existing model, that is, the inspection program, when the product inspection environment, such as the intensity of lighting or location, changes. Therefore, field workers must take arbitrary action, but since there are no clear standards, it is difficult to guarantee the accuracy of existing models.
또한, 종래에는 비전 검사의 환경이 변화하면 변한 환경에 맞춰 새로운 모델을 학습해야 하지만, 이는 비용의 측면에서 부담이 되는 문제가 있다.Additionally, conventionally, when the vision inspection environment changes, a new model must be learned to suit the changed environment, but this has the problem of being a burden in terms of cost.
본 발명의 실시예는 가령 공장 등 생산라인에서 제품 검수를 위해 많이 사용하는 머신비전 분야에서 제품 검수 과정 때 양호(OK)와 비양호(NG)의 분포 변화를 인지하여 (환경) 변화를 감지하고 제품 검수시 환경 변화의 감지 결과를 근거로 적응적(혹은 탄력적)으로 머신비전 기술을 구현하려는 환경적응형 머신비전장치 및 그 장치의 구동방법을 제공함에 그 목적이 있다.An embodiment of the present invention detects (environmental) changes by recognizing changes in the distribution of good (OK) and bad (NG) during the product inspection process in the field of machine vision, which is widely used for product inspection in production lines such as factories. The purpose is to provide an environmentally adaptive machine vision device and a method of operating the device to implement machine vision technology adaptively (or flexibly) based on the detection results of environmental changes during product inspection.
본 발명의 실시예에 따른 환경적응형 머신비전장치는, 검수 제품의 촬영 데이터를 수신하는 통신 인터페이스부, 및 상기 수신한 촬영 데이터를 분석하여 분석 결과를 근거로 제품의 비양호 상태(NG)의 비율 변화를 감지하며, 상기 감지한 결과에 따라 상기 검수 제품의 촬영 환경 변화를 판단하여 판단 결과를 근거로 상기 분석 결과를 보정하는 제어부를 포함한다.An environmentally adaptive machine vision device according to an embodiment of the present invention includes a communication interface unit that receives photographed data of an inspected product, and a communication interface unit that analyzes the received photographed data and determines the non-good state (NG) of the product based on the analysis results. It includes a control unit that detects a change in rate, determines a change in the photographing environment of the inspected product according to the detected result, and corrects the analysis result based on the judgment result.
상기 제어부는, 기설정된 임계값을 기준으로 상기 비양호 상태를 판단하며, 상기 판단 결과를 근거로 상기 기설정된 임계값을 자동으로 조절하여 상기 분석 결과를 보정할 수 있다.The control unit may determine the unhealthy state based on a preset threshold and correct the analysis result by automatically adjusting the preset threshold based on the determination result.
상기 제어부는, 상기 비양호 상태의 비율이 높아지면 상기 기설정된 임계값보다 임계값을 높게 자동 설정하고, 상기 비양호 상태의 비율이 낮아지면 상기 기설정된 임계값보다 임계값을 낮게 자동 설정할 수 있다.The control unit may automatically set the threshold value higher than the preset threshold value when the ratio of the unhealthy state increases, and automatically set the threshold value lower than the preset threshold value when the ratio of the unhealthy state decreases. .
상기 제어부는, 상기 촬영 환경 변화로서 제품의 검수가 이루어지는 공간의 조명의 세기나 위치 또는 제품의 위치 변화를 고려하여 환경 변화를 판단해 기설정된 임계값을 자동 조절할 수 있다.The control unit may automatically adjust a preset threshold by determining environmental changes by taking into account changes in the intensity or location of lighting in a space where the product is inspected or changes in the location of the product as changes in the photographing environment.
상기 제어부는, 상기 수신한 촬영 데이터의 분석 결과를 점수값(score)으로 계산하고, 상기 계산한 점수값을 기설정된 임계값과 비교하여 상기 비양호 상태를 판단할 수 있다.The control unit may calculate the analysis result of the received photographed data into a score and compare the calculated score with a preset threshold to determine the unhealthy state.
또한, 본 발명의 실시예에 따른 환경적응형 머신비전장치의 구동방법은, 통신 인터페이스부가, 검수 제품의 촬영 데이터를 수신하는 단계, 및 제어부가, 상기 수신한 촬영 데이터를 분석하여 분석 결과를 근거로 제품의 비양호 상태(NG)의 비율 변화를 감지하며, 상기 감지한 결과에 따라 상기 검수 제품의 촬영 환경 변화를 판단하여 판단 결과를 근거로 상기 분석 결과를 보정하는 단계를 포함한다.In addition, a method of driving an environment-adaptive machine vision device according to an embodiment of the present invention includes a communication interface unit receiving photographed data of an inspected product, and a control unit analyzing the received photographed data and based on the analysis result. Detecting a change in the ratio of the non-good state (NG) of the product, determining a change in the photographing environment of the inspected product according to the detection result, and correcting the analysis result based on the judgment result.
상기 보정하는 단계는, 기설정된 임계값을 기준으로 상기 비양호 상태를 판단하며, 상기 판단 결과를 근거로 상기 기설정된 임계값을 자동으로 조절하여 상기 분석 결과를 보정할 수 있다.In the correction step, the unhealthy state is determined based on a preset threshold, and the analysis result can be corrected by automatically adjusting the preset threshold based on the determination result.
상기 보정하는 단계는, 상기 비양호 상태의 비율이 높아지면 상기 기설정된 임계값보다 임계값을 높게 자동 설정하고, 상기 비양호 상태의 비율이 낮아지면 상기 기설정된 임계값보다 임계값을 낮게 자동 설정할 수 있다.In the step of correcting, when the ratio of the unhealthy state increases, the threshold value is automatically set higher than the preset threshold value, and when the ratio of the unhealthy state decreases, the threshold value is automatically set lower than the preset threshold value. You can.
상기 보정하는 단계는, 상기 촬영 환경 변화로서 제품의 검수가 이루어지는 공간의 조명의 세기나 위치 또는 제품의 위치 변화를 고려하여 환경 변화를 판단해 기설정된 임계값을 자동 조절할 수 있다.In the correction step, a preset threshold value can be automatically adjusted by determining environmental changes in consideration of changes in the intensity or location of lighting in the space where the product is inspected or changes in the location of the product, which are changes in the photographing environment.
상기 보정하는 단계는, 상기 수신한 촬영 데이터의 분석 결과를 점수값(score)으로 계산하고, 상기 계산한 점수값을 기설정된 임계값과 비교하여 상기 비양호 상태를 판단할 수 있다.In the correction step, the analysis result of the received photographed data may be calculated into a score, and the calculated score may be compared with a preset threshold to determine the unhealthy state.
본 발명의 실시예에 따르면, 머신비전 현장에서 제품 검사가 이루어지는 공간의 조명 세기나 위치 또 제품의 위치와 같은 제품 검수의 환경이 달라지더라도 제품 검수의 정확도를 보장할 수 있을 것이다.According to an embodiment of the present invention, the accuracy of product inspection can be guaranteed even if the product inspection environment, such as the lighting intensity or location of the space where product inspection is performed at the machine vision site or the location of the product, varies.
또한 본 발명의 실시예는 제품 검수의 변화한 환경에 맞춰 새로운 모델 즉 딥러닝 프로그램 등을 새로운 학습 없이도 다양한 환경에 사용이 가능할 수 있다.In addition, embodiments of the present invention can be used in various environments without new learning, such as a new model, such as a deep learning program, in accordance with the changed environment of product inspection.
도 1은 본 발명의 실시예에 따른 환경 적응형 머신비전 시스템을 나타내는 도면,
도 2는 도 1의 환경적응형 머신비전장치의 세부구조를 예시한 블록다이어그램,
도 3 내지 도 5는 환경 적응형 머신비전 동작 과정의 흐름도, 그리고
도 6은 도 1의 환경적응형 머신비전장치의 구동과정을 나타내는 흐름도이다.1 is a diagram showing an environment-adaptive machine vision system according to an embodiment of the present invention;
Figure 2 is a block diagram illustrating the detailed structure of the environmentally adaptive machine vision device of Figure 1;
Figures 3 to 5 are flowcharts of the environment adaptive machine vision operation process, and
FIG. 6 is a flowchart showing the operation process of the environmentally adaptive machine vision device of FIG. 1.
이하, 도면을 참조하여 본 발명의 실시예에 대하여 상세히 설명한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
도 1은 본 발명의 실시예에 따른 환경 적응형 머신비전 시스템을 나타내는 도면이다.Figure 1 is a diagram showing an environment-adaptive machine vision system according to an embodiment of the present invention.
도 1에 도시된 바와 같이, 본 발명의 실시예에 따른 환경 적응형 머신비전 시스템(90)은 촬영장치(100), 통신망(110) 및 환경적응형 머신비전장치(120)의 일부 또는 전부를 포함한다.As shown in FIG. 1, the environmentally adaptive machine vision system 90 according to an embodiment of the present invention includes part or all of the imaging device 100, the communication network 110, and the environmentally adaptive machine vision device 120. Includes.
여기서, "일부 또는 전부를 포함한다"는 것은 통신망(110)과 같은 일부 구성요소가 생략되어 촬영장치(100)와 환경적응형 머신비전장치(120)가 다이렉트 통신(예: P2P 등)을 수행하거나 환경적응형 머신비전장치(120)를 구성하는 구성요소의 일부 또는 전부가 통신망(110)을 구성하는 네트워크장치(예: 무선교환장치 등)에 통합되어 구성될 수 있는 것 등을 의미하는 것으로서, 발명의 충분한 이해를 돕기 위하여 전부 포함하는 것으로 설명한다.Here, “including part or all” means that some components such as the communication network 110 are omitted and the imaging device 100 and the environmentally adaptive machine vision device 120 perform direct communication (e.g., P2P, etc.). This means that some or all of the components that make up the environmentally adaptive machine vision device 120 can be integrated into a network device (e.g., wireless exchange device, etc.) that makes up the communication network 110. , it is explained as including everything in order to facilitate a sufficient understanding of the invention.
촬영장치(100)는 머신비전 동작을 수행하기 위하여 공장 등 생산라인에서 제품 검수를 위해 설치되는 다양한 유형의 카메라 등을 포함할 수 있다. 여기서, 촬영장치(100)는 CCD의 고해상도 카메라를 사용함으로써 제품 검수시 정확도를 높일 수 있다. 여기서, 머신비전은 이미지 기반의 자동 검사 및 분석을 위한 방법이다. 본 발명의 실시예에 따른 촬영장치(100)는 가령 제품 검수가 이루어지는 생산 라인의 컨베이어벨트상에 위치하여 컨베이어벨트에 적재되어 검수 대상이 되는 제품이 위치 이동할 때 임의 위치의 상측에 설치되는 카메라에 의해 촬영 동작을 수행할 수 있다.The imaging device 100 may include various types of cameras installed for product inspection at a production line, such as a factory, to perform machine vision operations. Here, the imaging device 100 can increase accuracy when inspecting products by using a high-resolution CCD camera. Here, machine vision is a method for image-based automatic inspection and analysis. The imaging device 100 according to an embodiment of the present invention is located on a conveyor belt of a production line where product inspection is performed, and is mounted on a camera installed on the upper side of a random position when the product to be inspected is loaded on the conveyor belt and moves. You can perform shooting operations by
이의 과정에서 촬영장치(100)는 촬영된 제품의 촬영 이미지를 도 1의 통신망(110)을 경유하여 환경적응형 머신비전장치(120)로 제공할 수 있다. 물론 촬영장치(100)는 그 주변이나 가령 컨베이어벨트의 주변에 설치되는 에지장치(미도시)와 연동할 수도 있다. 에지장치는 촬영장치(100)의 촬영 이미지를 분석하여 가령 배경에 해당하는 화소 데이터의 분석을 생략하고, 제품에 해당하는 부분만 추출하여 제공하거나 분석 결과를 환경적응형 머신비전장치(120)로 제공할 수 있다. 이의 경우 통신망(110)의 데이터 처리 부하가 줄어들게 되므로 환경적응형 머신비전장치(120)에서 데이터 처리 속도가 빠르게 증가할 수 있다.In this process, the photographing device 100 may provide the photographed image of the product to the environmentally adaptive machine vision device 120 via the communication network 110 of FIG. 1. Of course, the imaging device 100 may also be linked to an edge device (not shown) installed around it or, for example, around a conveyor belt. The edge device analyzes the captured image of the photographing device 100, omits the analysis of pixel data corresponding to the background, extracts and provides only the portion corresponding to the product, or provides the analysis result to the environmentally adaptive machine vision device 120. can be provided. In this case, the data processing load of the communication network 110 is reduced, so the data processing speed in the environmentally adaptive machine vision device 120 can rapidly increase.
통신망(110)은 유무선 통신망을 모두 포함한다. 가령 통신망(110)으로서 유무선 인터넷망이 이용되거나 연동될 수 있다. 여기서 유선망은 케이블망이나 공중 전화망(PSTN)과 같은 인터넷망을 포함하는 것이고, 무선 통신망은 CDMA, WCDMA, GSM, EPC(Evolved Packet Core), LTE(Long Term Evolution), 와이브로(Wibro) 망 등을 포함하는 의미이다. 물론 본 발명의 실시예에 따른 통신망(110)은 이에 한정되는 것이 아니며, 향후 구현될 차세대 이동 통신 시스템의 접속망으로서 가령 클라우드 컴퓨팅 환경하의 클라우드 컴퓨팅망, 5G망 등에 사용될 수 있다. 가령, 통신망(110)이 유선 통신망인 경우 통신망 내의 액세스포인트는 전화국의 교환국 등에 접속할 수 있지만, 무선 통신망인 경우에는 통신사에서 운용하는 SGSN 또는 GGSN(Gateway GPRS Support Node)에 접속하여 데이터를 처리하거나, BTS(Base Transceiver Station), NodeB, e-NodeB 등의 다양한 중계기에 접속하여 데이터를 처리할 수 있다.The communication network 110 includes both wired and wireless communication networks. For example, a wired or wireless Internet network may be used or linked as the communication network 110. Here, the wired network includes Internet networks such as cable networks and public switched telephone networks (PSTN), and the wireless communication network includes CDMA, WCDMA, GSM, EPC (Evolved Packet Core), LTE (Long Term Evolution), and Wibro networks. It means including. Of course, the communication network 110 according to an embodiment of the present invention is not limited to this, and can be used as an access network for a next-generation mobile communication system to be implemented in the future, for example, a cloud computing network in a cloud computing environment, a 5G network, etc. For example, if the communication network 110 is a wired communication network, the access point within the communication network can connect to the telephone company's exchange office, etc., but in the case of a wireless communication network, data is processed by connecting to the SGSN or GGSN (Gateway GPRS Support Node) operated by the communication company, or Data can be processed by connecting to various repeaters such as BTS (Base Transceiver Station), NodeB, and e-NodeB.
통신망(110)은 액세스포인트를 포함할 수도 있다. 액세스포인트는 건물 내에 많이 설치되는 펨토(femto) 또는 피코(pico) 기지국과 같은 소형 기지국을 포함한다. 여기서, 펨토 또는 피코 기지국은 소형 기지국의 분류상 촬영장치(100) 등을 최대 몇 대까지 접속할 수 있느냐에 따라 구분된다. 물론 액세스포인트는 촬영장치(100) 등과 지그비 및 와이파이(Wi-Fi) 등의 근거리 통신을 수행하기 위한 근거리 통신 모듈을 포함할 수 있다. 액세스포인트는 무선통신을 위하여 TCP/IP 혹은 RTSP(Real-Time Streaming Protocol)를 이용할 수 있다. 여기서, 근거리 통신은 와이파이 이외에 블루투스, 지그비, 적외선(IrDA), UHF(Ultra High Frequency) 및 VHF(Very High Frequency)와 같은 RF(Radio Frequency) 및 초광대역 통신(UWB) 등의 다양한 규격으로 수행될 수 있다. 이에 따라 액세스포인트는 데이터 패킷의 위치를 추출하고, 추출된 위치에 대한 최상의 통신 경로를 지정하며, 지정된 통신 경로를 따라 데이터 패킷을 다음 장치, 예컨대 환경적응형 머신비전장치(120)로 전달할 수 있다. 액세스포인트는 일반적인 네트워크 환경에서 여러 회선을 공유할 수 있으며, 예컨대 라우터(router), 리피터(repeater) 및 중계기 등이 포함된다.Communication network 110 may also include access points. Access points include small base stations such as femto or pico base stations that are often installed in buildings. Here, femto or pico base stations are classified according to the maximum number of imaging devices 100, etc., that can be connected in the classification of small base stations. Of course, the access point may include a short-distance communication module for performing short-distance communication such as Zigbee and Wi-Fi with the photographing device 100, etc. Access points can use TCP/IP or RTSP (Real-Time Streaming Protocol) for wireless communication. Here, in addition to Wi-Fi, short-range communication can be performed using various standards such as Bluetooth, Zigbee, infrared (IrDA), RF (Radio Frequency) such as UHF (Ultra High Frequency) and VHF (Very High Frequency), and ultra-wideband communication (UWB). You can. Accordingly, the access point extracts the location of the data packet, specifies the best communication path for the extracted location, and forwards the data packet along the designated communication path to the next device, such as the adaptive machine vision device 120. . Access points can share multiple lines in a typical network environment and include, for example, routers, repeaters, and repeaters.
환경적응형 머신비전장치(120)는 도 1의 촬영장치(100)에서 제공하는 제품 촬영 이미지 또는 해당 촬영 이미지의 분석 결과를 토대로 제품 검수 과정에서 양호(OK)나 비양호(NG)의 분포 변화를 인지하여 환경 변화 등을 감지한다. 여기서 환경은 가령 촬영장치(100)가 생산라인에 설치되어 제품 검수가 이루어지는 곳의 환경을 의미하며, 환경 변화란 해당 공간의 제품의 세기나 위치, 또 컨베이어벨트 등에 위치하는 제품 위치 변화 등을 의미할 수 있다. 예를 들어 환경적응형 머신비전장치(120)는 상대적으로 민감한 NG(No Good) 비율 변화를 감지한다. 또한, 환경적응형 머신비전장치(120)는 바뀐 환경에 맞춰 자동적으로 임계(threshold)값을 조절한다. 예를 들어 NG 비율이 높아지면 임계값을 상승시킬 수 있으며, NG 비율이 낮아지면 임계값을 하강시킬 수 있다. 즉 기설정된 임계값을 기준으로 임계값의 크기를 높이거나 낮을 수 있는 것이다. 이와 같이 환경적응형 머신비전장치(120)는 환경 변화가 감지된 부분의 결과부터 새로운 임계값 즉 환경에 적응하여 변화된 상태의 임계값으로 결과를 재판단하는 것이다. 이에 따라 딥러닝 프로그램 등의 새로운 학습 없이도 다양한 환경에서 활용이 가능할 수 있다.The environmentally adaptive machine vision device 120 changes the distribution of good (OK) or bad (NG) during the product inspection process based on the product captured image provided by the photographing device 100 of FIG. 1 or the analysis result of the photographed image. , detects environmental changes, etc. Here, the environment refers to the environment where the imaging device 100 is installed in the production line and product inspection takes place, and environmental changes refer to changes in the strength or location of the product in the space and the location of the product on the conveyor belt, etc. can do. For example, the environmentally adaptive machine vision device 120 detects relatively sensitive changes in the NG (No Good) ratio. Additionally, the environmentally adaptive machine vision device 120 automatically adjusts the threshold value according to the changed environment. For example, if the NG ratio increases, the threshold can be raised, and if the NG ratio decreases, the threshold can be lowered. In other words, the size of the threshold can be increased or decreased based on the preset threshold. In this way, the environmentally adaptive machine vision device 120 re-determines the results from the results of the part where the environmental change is detected to a new threshold value, that is, the threshold value of the changed state by adapting to the environment. Accordingly, it can be used in various environments without new learning such as deep learning programs.
이후에 자세히 다루겠지만, 환경적응형 머신비전장치(120)는 촬영장치(100)로부터 제공되는 촬영 이미지, 이러한 촬영 이미지는 한 장이 될 수 있지만, 복수의 촬영 이미지를 제공받을 수 있다. 물론 동영상이 될 수도 있다. 환경적응형 머신비전장치(120)는 수신된 촬영 이미지를 분석하는 과정에서 제품 부위의 이미지를 추출하여 분석할 수 있다. 그리고, 제품의 기준이 되는 이미지와 더 정확하게는 해당 기준 이미지의 화소 데이터 등과 비교하여 비교 결과를 생성할 수 있다. 여기서, 비교 결과는 점수로 계산될 수 있다. 예를 들어, 점수를 계산할 때 총 점수를 10이나 100으로 하여 화소 데이터의 비교 결과를 근거로 해당 제품의 점수를 산출하고, 그 점수를 기준 임계값과 비교하여 양호와 비양호를 판단하게 된다.As will be discussed in detail later, the environmentally adaptive machine vision device 120 can receive a captured image provided from the photographing device 100. This captured image may be one image, but may be provided with a plurality of captured images. Of course, it could be a video. The environmentally adaptive machine vision device 120 can extract and analyze images of product parts in the process of analyzing received captured images. In addition, comparison results can be generated by comparing the product's standard image and, more precisely, the pixel data of the standard image. Here, the comparison result can be calculated as a score. For example, when calculating the score, the total score is set to 10 or 100, the score for the product is calculated based on the comparison results of the pixel data, and the score is compared with the standard threshold to determine whether it is good or bad.
그리고 환경적응형 머신비전장치(120)는 그 양호와 비양호의 비율이 얼마나 되는지 또한 계산한다. 구체적으로 환경적응형 머신비전장치(120)는 양호와 비양호의 비율에 대해서도 기준값을 설정할 수 있으며, 따라서 비양호 비율이 기준값을 초과하거나 제품 검수가 이루어지는 공간의 환경 변화 여부를 판단한다. 예를 들어, 환경적응형 머신비전장치(120)는 조명의 특성을 판단할 수 있으며, 제품의 위치를 판단할 수 있다. 가령 조명의 경우는 입력된 촬영 이미지의 배경을 판단할 수 있으며, 이를 위하여 배경의 컬러나 계조값 등을 판단하여 현재 조명 환경이 변화되었는지를 판단할 수 있다. 물론 이는 조명의 세기 등에 관계된다. 또한, 조명의 설치 위치 등이 변경되었는지도 판단할 수 있다.And the environmentally adaptive machine vision device 120 also calculates the ratio of good to bad. Specifically, the environmentally adaptive machine vision device 120 can set a standard value for the ratio of good and bad, and therefore determines whether the bad rate exceeds the standard value or whether the environment of the space where product inspection is performed has changed. For example, the environmentally adaptive machine vision device 120 can determine the characteristics of lighting and determine the location of a product. For example, in the case of lighting, the background of the input captured image can be determined, and for this, the color or gradation value of the background can be determined to determine whether the current lighting environment has changed. Of course, this is related to the intensity of lighting, etc. In addition, it can be determined whether the installation location of the lighting has changed.
간단하게는 조명(장치)이 IoT 기술을 구현함으로써 블루투스 등의 근거리 통신이 가능한 경우 환경 변화를 판단하는 시점에 촬영장치(100)에서 조명장치로 통신을 시도하여 위치정보 등의 값을 수신함으로써 환경적응형 머신비전장치(120)는 촬영장치(100)나 조명장치에서 제공하는 조명장치의 위치정보를 이용할 수 있다. 뿐만 아니라, 환경적응형 머신비전장치(120)는 가령 컨베이어벨트상에 위치하는 검수 대상의 제품들에 대한 위치를 판단할 수 있다. 예를 들어, 촬영 이미지를 분석해 일정 시간이나 기준 횟수를 초과하여 제품의 위치가 변경되었다고 판단될 때 컨베이어벨트의 동작 상태에 이상이 있다고 판단할 수도 있다. 따라서, 환경적응형 머신비전장치(120)는 컨베이어벨트의 고장이 아닌 이상 비정상 동작 상태를 반영하여 정확한 제품 검수가 이루어지도록 조치할 수 있다. 앞서 언급한 바와 같이 비양호 상태의 비율이 증가하므로 임계값을 상승시킨다.Simply put, if the lighting (device) implements IoT technology and enables short-distance communication such as Bluetooth, the photographing device 100 attempts to communicate with the lighting device at the time of determining a change in the environment and receives values such as location information. The adaptive machine vision device 120 can use the location information of the lighting device provided by the imaging device 100 or the lighting device. In addition, the environmentally adaptive machine vision device 120 can determine the positions of products subject to inspection, for example, located on a conveyor belt. For example, by analyzing captured images, it may be determined that there is an abnormality in the operating state of the conveyor belt when it is determined that the position of the product has changed beyond a certain time or standard number of times. Therefore, the environmentally adaptive machine vision device 120 can take measures to ensure accurate product inspection by reflecting the abnormal operating state unless the conveyor belt is broken. As mentioned earlier, the percentage of unhealthy states increases, so the threshold value is raised.
물론 생산 라인의 실환경에서 제품에 따라 생산 과정에서 도메인(domain) 즉 제품 위치 영역 변화의 양상이 다양하게 나타나 해당 부분을 정량적으로 정의하기 어려울 수 있다. 또한 같은 제품에서도 예측하기 어려운 다양한 요인에 의해 도메인이 변하기도 하는데 예를 들면 반도체 공정에서는 환경 요인(예: 조명이나 소모품의 교환 등) 외에도 단순히 웨이퍼의 컨디션에 따라서도 촬영되는 이미지의 양상이 변할 수 있다. 따라서 이러한 도메인 변화의 양상을 모두 대응하기 어렵기 때문에 본 발명의 실시예에 따른 환경적응형 머신비전장치(120)는 단순히 추론(inference) 또는 추리 결과의 통계치를 이용하여 임계값을 추론하는 방법을 수행할 수 있다. 또한 변화가 자주 일어날 수 있기 때문에 자동적으로 통계치를 계산하여 변화를 감지하고 조절할 수 있다.Of course, in the actual environment of the production line, the domain, or product location area, changes in various ways during the production process depending on the product, so it may be difficult to quantitatively define the relevant part. In addition, even in the same product, the domain may change due to various factors that are difficult to predict. For example, in the semiconductor process, the aspect of the captured image may change not only depending on environmental factors (e.g., lighting or replacement of consumables, etc.) but also simply on the condition of the wafer. there is. Therefore, because it is difficult to respond to all aspects of these domain changes, the environmentally adaptive machine vision device 120 according to an embodiment of the present invention simply uses a method of inferring the threshold using inference or statistics of the inference results. It can be done. Additionally, since changes can occur frequently, changes can be detected and adjusted by automatically calculating statistics.
본 발명의 실시예에 따른 환경적응형 머신비전장치(120)는 위의 동작을 수행하기 위하여 우선 전체 NG 비율을 계산할 수 있으며, 또 현재 NG의 비율을 계산할 수 있다. 그리고 전체 NG 비율과 현재 NG 비율을 통해 도메인 변화 여부를 판단할 수 있다. 즉 도메인과 같은 환경 변화가 있는 경우 환경적응형 머신비전장치(120)는 기설정된 임계값을 자동으로 조절하여 NG 비율이 증가한 경우에는 환경 변화에 따라 기설정된 임계값을 상승시킨다. 즉 기준 임계값보다 크게 설정할 수 있다. 또한, NG 비율이 감소한 경우 환경 변화에 따라 기설정된 임계값을 낮춘다.In order to perform the above operation, the environmentally adaptive machine vision device 120 according to an embodiment of the present invention can first calculate the total NG ratio and also calculate the current NG ratio. And whether the domain has changed can be determined through the overall NG ratio and the current NG ratio. That is, when there is a change in the environment, such as a domain, the environmentally adaptive machine vision device 120 automatically adjusts the preset threshold value, and when the NG ratio increases, it increases the preset threshold value according to the environmental change. In other words, it can be set larger than the standard threshold. Additionally, if the NG ratio decreases, the preset threshold is lowered according to environmental changes.
상기의 구성 결과 본 발명의 실시예는 가령 제품 검수(혹은 검사)가 이루어지는 생산라인 등의 임의 공간에서 환경이 달라지는 경우에도 그 변하는 환경에 적응적으로 대처하여 제품 검수의 정확도를 높일 수 있다. 또한 기존에 구비하는 머신비전 프로그램의 경우 가령 인공지능 딥러닝 프로그램의 경우 새로운 학습 없이도 가령 프로그램의 간단한 개발을 통해 다양한 환경에서도 지속적으로 사용이 가능할 수 있을 것이다.As a result of the above configuration, the embodiment of the present invention can increase the accuracy of product inspection by adaptively responding to the changing environment even when the environment changes in a random space, such as a production line where product inspection (or inspection) is performed. In addition, existing machine vision programs, such as artificial intelligence deep learning programs, may be able to be used continuously in various environments through simple development of the program without new learning.
도 2는 도 1의 환경적응형 머신비전장치의 세부구조를 예시한 블록다이어그램,Figure 2 is a block diagram illustrating the detailed structure of the environmentally adaptive machine vision device of Figure 1;
도 2에 도시된 바와 같이, 본 발명의 실시예에 따른 환경적응형 머신비전장치(120)는 통신 인터페이스부(200), 제어부(210), 환경적응형 머신비전부(220) 및 저장부(230)의 일부 또는 전부를 포함한다.As shown in Figure 2, the environmentally adaptive machine vision device 120 according to an embodiment of the present invention includes a communication interface unit 200, a control unit 210, an environmentally adaptive machine vision unit 220, and a storage unit ( 230) includes part or all of
여기서, "일부 또는 전부를 포함한다"는 것은 저장부(230)와 같은 일부 구성요소가 생략되어 환경적응형 머신비전장치(120)가 구성되거나 환경적응형 머신비전부(220)와 같은 일부 구성요소가 제어부(210)와 같은 다른 구성요소에 통합되어 구성될 수 있는 것 등을 의미하는 것으로서, 발명의 충분한 이해를 돕기 위하여 전부 포함하는 것으로 설명한다.Here, “including part or all” means that the environmentally adaptive machine vision device 120 is configured by omitting some components such as the storage unit 230 or some components such as the environmentally adaptive machine vision unit 220. This means that the element can be integrated into other components such as the control unit 210, and is described as being fully included to facilitate a sufficient understanding of the invention.
통신 인터페이스부(200)는 도 1의 통신망(110)을 경유하여 다수의 촬영장치(100)와 각각 통신한다. 여기서 다수의 촬영장치(100)는 제품을 검수하기 위하여 생산라인 등 다양한 장소에 설치되는 카메라를 포함할 수 있다. 통신 인터페이스부(200)는 통신을 수행하는 과정에서 변/복조, 인코딩/디코딩, 먹싱/디먹싱 등의 동작을 수행할 수 있다. 이는 당업자에게 자명하므로 더 이상의 설명은 생략한다.The communication interface unit 200 communicates with each of the plurality of photographing devices 100 via the communication network 110 of FIG. 1. Here, the plurality of photographing devices 100 may include cameras installed in various places such as a production line to inspect products. The communication interface unit 200 may perform operations such as modulation/demodulation, encoding/decoding, and muxing/demuxing during communication. Since this is obvious to those skilled in the art, further explanation is omitted.
예를 들어, 통신 인터페이스부(200)는 촬영장치(100)에 영상을 분석하는 장치를 포함하거나, 또는 에지장치와 같은 별도의 영상 분석 장치를 연동시키는 경우에는 해당 장치로부터 촬영장치(100)의 촬영 이미지를 수신할 수 있다. 물론, 비전 검사는 한 장의 정지 이미지일 수 있지만, 실시간으로 촬영되는 동영상 형태의 이미지일 수도 있다. 통신 인터페이스부(200)는 해당 이미지들을 수신하여 또는 해당 이미지들의 분석 결과를 수신하여 제어부(210)에 제공한다.For example, the communication interface unit 200 includes a device for analyzing images in the photographing device 100, or when linking a separate image analysis device such as an edge device, the photographing device 100 is connected to the photographing device 100 from the device. Captured images can be received. Of course, a vision inspection can be a single still image, but it can also be a video image captured in real time. The communication interface unit 200 receives the images or analysis results of the images and provides them to the control unit 210.
제어부(210)는 도 1의 환경적응형 머신비전장치(120)를 구성하는 도 2의 통신 인터페이스부(200), 환경적응형 머신비전부(220) 및 저장부(230)의 전반적인 제어 동작을 담당한다. 대표적으로 제어부(210)는 통신 인터페이스부(200)에서 제공되는 제품 검수와 관련한 촬영 이미지 또는 해당 이미지의 분석 결과를 수신하여 저장부(230)에 임시 저장한 후 불러내어 환경적응형 머신비전부(220)에 제공한다.The control unit 210 performs the overall control operation of the communication interface unit 200, the environmentally adaptive machine vision unit 220, and the storage unit 230 of FIG. 2, which constitute the environmentally adaptive machine vision device 120 of FIG. 1. In charge. Typically, the control unit 210 receives a captured image related to product inspection provided by the communication interface unit 200 or an analysis result of the image, stores it temporarily in the storage unit 230, and then retrieves it from the environmentally adaptive machine vision unit ( 220).
또한, 제어부(210)는 환경적응형 머신비전부(220)의 요청에 따라 지정 포맷으로 가공된 데이터를 도 1의 DB(120a)에 저장시키기 위하여 통신 인터페이스부(200)를 제어한다. 또 제어부(210)는 환경적응형 머신비전부(220)의 요청에 따라 도 1의 촬영장치(100) 또는 조명장치 등으로부터 제품 검수가 이루어지는 공간의 환경 변화와 관련한 다양한 데이터를 더 제공받아 이를 환경적응형 머신비전부(220)에 제공한다. 예를 들어, 환경적응형 머신비전장치(120)에서 직접 조명장치로 요청이 있는 경우 해당 조명장치는 자신의 현재 위치정보나 자세정보 등을 제공할 수 있다.Additionally, the control unit 210 controls the communication interface unit 200 to store data processed in a specified format in the DB 120a of FIG. 1 according to a request from the environmentally adaptive machine vision unit 220. In addition, at the request of the environmentally adaptive machine vision unit 220, the control unit 210 further receives various data related to environmental changes in the space where product inspection is performed from the photographing device 100 or lighting device of FIG. 1, and stores this data in the environment. It is provided to the adaptive machine vision unit 220. For example, when a request is made directly from the environmentally adaptive machine vision device 120 to a lighting device, the lighting device may provide its current location information or posture information.
환경적응형 머신비전부(220)는 생산 라인 등에서 제품의 검수가 육안보다는 빠르고 정확하게 이루어지도록 머신비전 기술을 적용해 제품 검수 동작을 수행한다. 환경적응형 머신비전부(220)는 도 1의 촬영장치(100)에서 촬영되는 제품의 이미지를 분석해 분석 결과를 통해 점수를 계산할 수 있다. 그리고 그 계산한 점수를 기준값과 비교해 제품의 양호나 비양호를 판단할 수 있다. 다시 말해, 기준값을 넘으면 양호가 될 수 있고, 계산값이 기준값을 넘지 못하면 비양호가 될 수 있다.The environmentally adaptive machine vision unit 220 performs product inspection operations by applying machine vision technology to ensure that product inspection is performed faster and more accurately than with the naked eye in production lines, etc. The environmentally adaptive machine vision unit 220 can analyze the image of the product captured by the photographing device 100 of FIG. 1 and calculate a score based on the analysis results. Then, the calculated score can be compared with the standard value to determine whether the product is good or bad. In other words, if the calculated value exceeds the standard value, it can be good, and if the calculated value does not exceed the standard value, it can be bad.
제품 검수가 이루어지는 공간의 환경은 간헐적으로 변경이 이루어질 수 있다. 대표적으로 검수 공간의 조명 특성이 변경될 수 있고, 또 컨베이어벨트로 제품을 이동하면서 제품 검수가 이루어지는 경우 컨베이어벨트의 동작 상태도 환경 변화에 영향을 미칠 수 있다. 따라서, 환경적응형 머신비전부(220)는 단순히 양호나 비양호의 판단뿐 아니라, 양호와 비양호의 비율 즉 분포를 확인한다. 따라서 어느 시점부터 비양호의 비율이 증가하는 경우, 환경 변화 여부를 판단하게 된다. 예를 들어, 수신된 촬영 이미지를 통해서는 배경 영상의 화소 데이터 등을 분석하여 조명의 상태를 판단할 수 있다. 또는 촬영장치(100)의 자세와 관련한 데이터를 수신하여 촬영장치(100)의 촬영 자세를 판단할 수 있다. 나아가, 조명장치로부터 또는 촬영장치(100)를 경유하여 조명장치의 위치정보나 동작상태 등과 관련한 다양한 데이터를 제공받아 이를 근거로 제품 검수 공간의 환경을 판단할 수 있다.The environment of the space where product inspection takes place may change intermittently. Typically, the lighting characteristics of the inspection space can change, and when product inspection is performed while moving the product on a conveyor belt, the operating status of the conveyor belt can also affect environmental changes. Therefore, the environmentally adaptive machine vision unit 220 not only determines whether it is good or bad, but also checks the ratio, or distribution, between good and bad. Therefore, if the ratio of unsatisfactory conditions increases at some point, it is determined whether the environment has changed. For example, the state of lighting can be determined by analyzing the pixel data of the background image through the received captured image. Alternatively, the photographing posture of the photographing device 100 may be determined by receiving data related to the posture of the photographing device 100. Furthermore, various data related to the location information or operating status of the lighting device can be received from the lighting device or via the photographing device 100, and the environment of the product inspection space can be determined based on this.
물론 본 발명의 실시예에서는 해당 공간의 환경을 주기적으로 모니터링한다기보다는 기설정된 임계값을 근거로 제품의 양호와 비양호를 분류하면서 동시에 그 비중 다시 말해 분포 비율을 감시하며, 감시를 통해 어느 시점부터 비양호가 증가하기 시작할 때 이를 근거로 제품 검수 공간의 환경 변화를 판단한다. 물론, 이러한 과정에서 환경 변화의 판단 시점은 인공지능 등의 프로그램을 적용함으로써 그 판단 시점을 더 정확하게 예측하는 것도 얼마든지 가능할 수 있다. 예를 들어 컨베이어벨트의 노후화로 제품의 위치가 자꾸 변경되는 경우라면 컨베이어장치의 동작데이터를 학습함으로써 노후화를 예측할 수 있고 이로 인해 검수 제품의 위치가 변경될 수도 있으므로, 예측을 통해 사전에 미리 적절한 조치를 취할 수 있다.Of course, in the embodiment of the present invention, rather than periodically monitoring the environment of the space, the product is classified as good or bad based on a preset threshold, and the proportion, that is, the distribution ratio, is monitored at the same time. When non-good results begin to increase, environmental changes in the product inspection space are judged based on this. Of course, in this process, it may be possible to predict the timing of environmental changes more accurately by applying programs such as artificial intelligence. For example, if the position of the product is constantly changing due to the aging of the conveyor belt, aging can be predicted by learning the operation data of the conveyor device. This may change the position of the inspected product, so take appropriate action in advance through prediction. can be taken.
본 발명의 실시예에 따른 환경적응형 머신비전부(220)는 어느 시점에서 즉 제품의 검수 결과 비양호의 비율이 (갑자기) 증가할 때 환경 변화 여부를 판단하고, 판단 결과 환경이 변화되었다고 판단될 때 기설정되어 있는 양호와 비양호의 판단 기준 임계값을 조절한다. 다시 말해, 양호와 비양호를 나누는 기준을 전체 10으로 볼 때, 5에 기준값이 설정되어 있었다면 6으로 기준값을 상향 조정함으로써 비양호의 범주에 포함되는 제품들을 양호의 범주에 들어가도록 할 수 있는 것이다. 물론 기설정된 기준값 즉 임계값의 자동 조절은 실험에 의해 또는 데이터를 수집하고 분석에 의해 변수별로 서로 다르게 자동 조절되도록 할 수 있다. 가령, 벨트의 노후화의 문제로 기준값을 6으로 자동 조절하였으면, 조명의 경우에는 7로 자동 조절하는 것 등이 그 예일 수 있다.The environmentally adaptive machine vision unit 220 according to an embodiment of the present invention determines whether the environment has changed at some point, that is, when the ratio of non-good products (suddenly) increases as a result of product inspection, and determines that the environment has changed as a result of the determination. When this happens, adjust the preset judgment criteria thresholds for good and bad. In other words, when the standard for dividing good and bad is considered to be a total of 10, if the standard value was set at 5, by raising the standard value to 6, products that are in the bad category can be brought into the good category. . Of course, the automatic adjustment of the preset reference value, that is, the threshold, can be automatically adjusted differently for each variable through experiment or by collecting and analyzing data. For example, if the standard value is automatically adjusted to 6 due to a belt aging problem, lighting may be automatically adjusted to 7, etc.
저장부(230)는 제어부(210)의 제어하에 처리되는 다양한 유형의 데이터를 임시 저장한다. 예를 들어 저장부(230)는 촬영장치(100)의 촬영 이미지에 대한 화소 데이터를 저장할 수 있지만, 촬영장치(100)의 장치식별정보 등도 임시 저장할 수 있다. 이에 따라 특정 제품은 어떤 촬영장치(100)에서 촬영된 것인지 판단이 이루어질 수 있으며, 따라서 촬영장치(100)의 문제로 판단될 때에는 교체가 이루어질 수도 있다. 이와 같은 측면에서 장치식별정보가 사용될 수 있다.The storage unit 230 temporarily stores various types of data processed under the control of the control unit 210. For example, the storage unit 230 can store pixel data for images captured by the photographing device 100, but can also temporarily store device identification information of the photographing device 100. Accordingly, it can be determined with which photographing device 100 a specific product was photographed, and therefore, if it is determined that there is a problem with the photographing device 100, it may be replaced. In this regard, device identification information can be used.
상기한 내용 이외에도 도 2의 통신 인터페이스부(200), 제어부(210), 환경적응형 머신비전부(220) 및 저장부(230)는 다양한 동작을 수행할 수 있으며, 기타 자세한 내용은 앞서 충분히 설명하였으므로 그 내용들로 대신하고자 한다.In addition to the above, the communication interface unit 200, control unit 210, environmentally adaptive machine vision unit 220, and storage unit 230 of FIG. 2 can perform various operations, and other details are fully described above. So, I would like to replace it with those contents.
본 발명의 실시예에 따른 도 2의 통신 인터페이스부(200), 제어부(210), 환경적응형 머신비전부(220) 및 저장부(230)는 서로 물리적으로 분리된 하드웨어 모듈로 구성되지만, 각 모듈은 내부에 상기의 동작을 수행하기 위한 소프트웨어를 저장하고 이를 실행할 수 있을 것이다. 다만, 해당 소프트웨어는 소프트웨어 모듈의 집합이고, 각 모듈은 하드웨어로 형성되는 것이 얼마든지 가능하므로 소프트웨어니 하드웨어니 하는 구성에 특별히 한정하지 않을 것이다. 예를 들어 저장부(230)는 하드웨어인 스토리지(storage) 또는 메모리(memory)일 수 있다. 하지만, 소프트웨어적으로 정보를 저장(repository)하는 것도 얼마든지 가능하므로 위의 내용에 특별히 한정하지는 않을 것이다.The communication interface unit 200, control unit 210, environmentally adaptive machine vision unit 220, and storage unit 230 of FIG. 2 according to an embodiment of the present invention are composed of hardware modules that are physically separated from each other, but each The module may store software to perform the above operations internally and execute it. However, the software is a set of software modules, and each module can be formed as hardware, so there will be no particular limitation on the configuration of software or hardware. For example, the storage unit 230 may be hardware, such as storage or memory. However, since it is possible to store information through software (repository), the above content will not be specifically limited.
한편, 본 발명의 다른 실시예로서 제어부(210)는 CPU 및 메모리를 포함할 수 있으며, 원칩화하여 형성될 수 있다. CPU는 제어회로, 연산부(ALU), 명령어해석부 및 레지스트리 등을 포함하며, 메모리는 램을 포함할 수 있다. 제어회로는 제어동작을, 그리고 연산부는 2진비트 정보의 연산동작을, 그리고 명령어해석부는 인터프리터나 컴파일러 등을 포함하여 고급언어를 기계어로, 또 기계어를 고급언어로 변환하는 동작을 수행할 수 있으며, 레지스트리는 소프트웨어적인 데이터 저장에 관여할 수 있다. 상기의 구성에 따라, 가령 환경적응형 머신비전장치(120)의 동작 초기에 환경적응형 머신비전부(220)에 저장되어 있는 프로그램을 복사하여 메모리 즉 램(RAM)에 로딩한 후 이를 실행시킴으로써 데이터 연산 처리 속도를 빠르게 증가시킬 수 있다. 딥러닝 모델 같은 경우 램(RAM)이 아닌 GPU 메모리에 올라가 GPU를 이용하여 수행 속도를 가속화하여 실행될 수도 있다.Meanwhile, as another embodiment of the present invention, the control unit 210 may include a CPU and memory, and may be formed as a single chip. The CPU includes a control circuit, an arithmetic unit (ALU), an instruction interpretation unit, and a registry, and the memory may include RAM. The control circuit performs control operations, the operation unit performs operations on binary bit information, and the command interpretation unit includes an interpreter or compiler, which can convert high-level language into machine language and machine language into high-level language. , the registry may be involved in software data storage. According to the above configuration, for example, at the beginning of operation of the environmentally adaptive machine vision device 120, the program stored in the environmentally adaptive machine vision unit 220 is copied and loaded into memory, that is, RAM, and then executed. The data operation processing speed can be rapidly increased. In the case of deep learning models, they can be loaded into GPU memory rather than RAM and executed by accelerating the execution speed using GPU.
도 3 내지 도 5는 환경 적응형 머신비전 동작 과정의 흐름도이다. 3 to 5 are flowcharts of an environment-adaptive machine vision operation process.
설명의 편의상 도 3 내지 도 5를 도 1과 함께 참조하면, 본 발명의 실시예에 따른 도 1의 환경적응형 머신비전장치(120)는 촬영장치(100)에서 제공하는 검수 제품의 촬영 이미지 또는 영상을 수신한다(S300).For convenience of explanation, referring to FIGS. 3 to 5 together with FIG. 1, the environmentally adaptive machine vision device 120 of FIG. 1 according to an embodiment of the present invention uses a captured image of the inspected product provided by the photographing device 100 or Receive video (S300).
이어 환경적응형 머신비전장치(120)는 수신한 촬영 이미지 또는 영상을 분석하여 기설정된 방식에 따라 점수를 계산한다(S310). 예를 들어, 촬영 이미지에서 제품에 해당하는 영역(domain, region)만 추출한 후 그 추출한 영역의 제품에 대한 화소 데이터를 분석할 수 있다. 검수 제품에 대한 기준 화소 데이터는 기저장되어 있으므로 화소들의 화소값을 기준값과 비교함으로써 서로 일치하지 않는 화소의 개수를 계산할 수 있고 이러한 화소의 개수를 근거로 점수를 계산할 수 있다. 그리고 환경적응형 머신비전장치(120)는 수신한 제품 이미지의 계산 점수를 기준 임계값과 비교하여 해당 제품의 양호 또는 비양호를 판단한다(S320).Next, the environmentally adaptive machine vision device 120 analyzes the received captured image or video and calculates a score according to a preset method (S310). For example, you can extract only the domain (region) corresponding to the product from the captured image and then analyze the pixel data for the product in the extracted area. Since the standard pixel data for the inspected product is pre-stored, the number of pixels that do not match each other can be calculated by comparing the pixel values of the pixels with the standard value, and the score can be calculated based on the number of these pixels. Then, the environmentally adaptive machine vision device 120 determines whether the product is good or bad by comparing the calculated score of the received product image with a reference threshold (S320).
또한, 환경적응형 머신비전장치(120)는 제품의 양호 또는 비양호와 관련한 결과를 생산 라인 등에 있는 관리자 등에게 전송해 줄 수 있다(S330). 생산라인에 모니터가 있는 경우 해당 모니터로 특정 제품의 비양호를 통지할 수 있다.In addition, the environmentally adaptive machine vision device 120 can transmit results related to the good or bad quality of the product to managers at the production line, etc. (S330). If there is a monitor on the production line, the monitor can be used to notify of non-good quality of a specific product.
이와 별도로 환경적응형 머신비전장치(120)는 양호와 비양호 제품의 비율을 계산할 수 있다. 좀더 구체적으로 환경적응형 머신비전장치(120)는 전체 NG 비율을 계산하고, 또 현재 NG의 비율을 계산한다(S350, S360). 전체 NG 비율은 추론 결과를 바탕으로 OK/NG의 개수 측정 및 NG의 비율 즉 RN을 계산한다. 이는 <수학식 1>과 같이 표현할 수 있다.Separately, the environmentally adaptive machine vision device 120 can calculate the ratio of good and bad products. More specifically, the environmentally adaptive machine vision device 120 calculates the overall NG ratio and also calculates the current NG ratio (S350, S360). The overall NG ratio measures the number of OK/NG and calculates the ratio of NG, that is, RN, based on the inference results. This can be expressed as <Equation 1>.
<수학식 1>은 RN = NG_all/(OK_all + NG_all)의 형태로 표현될 수도 있다.<Equation 1> may be expressed in the form RN = NG_all/(OK_all + NG_all).
또한, 현재 NG 비율은 최근 1k개의 추론 결과를 측정하여 OK/NG의 개수 및 NG의 비율(=Rn)을 계산하는 것이다. <수학식 2>와 같이 표현될 수 있다. Additionally, the current NG ratio measures the recent 1k inference results to calculate the number of OK/NG and the ratio of NG (=Rn). It can be expressed as <Equation 2>.
<수학식 2>는 Rn = NG_1k / 1000으로 표현될 수도 있다.<Equation 2> can also be expressed as Rn = NG_1k / 1000.
상기의 전체 NG 비율 및 현재 NG 비율을 근거로 환경적응형 머신비전장치(120)는 환경 변화 여부를 판단한다(S370).Based on the total NG ratio and the current NG ratio, the environmentally adaptive machine vision device 120 determines whether the environment has changed (S370).
예를 들어 환경적응형 머신비전장치(120)는 Rn / RN > 1.5인 경우 환경 변화로 NG가 실제보다 많이 발생하는 상황으로 판단할 수 있으며, Rn / RN < 0.66인 경우 환경 변화로 NG가 실제보다 적게 발생하는 상황으로 판단할 수 있다. 물론 이러한 상황 판단은 실험을 통해 기준이 설정될 수 있으며, 또는 빅데이터 수집을 통해 이를 딥러닝 프로그램 등을 통해 분석하여 분석 결과를 근거로 기준값(예: 1.5, 0.66 등)을 얻어내는 것도 얼마든지 가능할 수 있다.For example, if Rn / RN > 1.5, the environmentally adaptive machine vision device 120 may determine that NG occurs more than actually occurs due to environmental changes, and if Rn / RN < 0.66, NG may occur more than actually occurs due to environmental changes. It can be judged as a situation that occurs less frequently. Of course, standards for such situational judgments can be set through experiments, or it is possible to collect big data and analyze it through a deep learning program to obtain a standard value (e.g. 1.5, 0.66, etc.) based on the analysis results. It may be possible.
나아가 환경적응형 머신비전장치(120)는 환경 변화 여부 판단에 따라 임계값 조절 및 결과값 보정 동작을 수행한다(S340). 다시 말해 환경적응형 머신비전장치(120)는 최근 1k개의 추론 결과의 점수값을 이용하여 Rn = RN이 되는 임계값을 계산하며, 새로운 임계값을 적용하여 최근 1k개의 추론 결과를 업데이트한다. 예를 들어 최근 1k개의 추론 결과를 점수값 순으로 정렬 후 RN × 1000번째 이미지의 점수를 임계값으로 변경할 수 있다.Furthermore, the environmentally adaptive machine vision device 120 performs threshold adjustment and result correction operations according to the determination of whether the environment has changed (S340). In other words, the environmentally adaptive machine vision device 120 calculates the threshold value Rn = RN using the score values of the recent 1k inference results, and updates the recent 1k inference results by applying a new threshold. For example, after sorting the most recent 1k inference results in order of score value, the score of the RN × 1000th image can be changed to the threshold.
상기한 내용 이외에도 도 1의 촬영장치(100) 및 환경적응형 머신비전장치(120)는 다양한 동작을 수행할 수 있으며, 기타 자세한 내용은 앞서 충분히 설명하였으므로 그 내용들로 대신하고자 한다.In addition to the above, the imaging device 100 and the environmentally adaptive machine vision device 120 of FIG. 1 can perform various operations, and other details have been sufficiently explained previously, so these will be replaced.
도 6은 도 1의 환경적응형 머신비전장치의 구동과정을 나타내는 흐름도이다.FIG. 6 is a flowchart showing the operation process of the environmentally adaptive machine vision device of FIG. 1.
설명의 편의상 도 6을 도 1과 함께 참조하면, 본 발명의 실시예에 따른 환경적응형 머신비전장치(120)는 검수 제품의 촬영 데이터를 수신한다(S600). 촬영장치(100)로부터 제공되는 촬영 이미지나 영상은 압축 즉 인코딩되어 전송될 수 있고, 환경적응형 머신비전장치(120)는 해당 압축 영상을 복원해내는 디코딩 동작을 수행할 수 있지만, 본 발명의 실시예에서는 그 복원된 상태 즉 디코딩 상태의 촬영 데이터인 화소 데이터를 의미할 수 있다.Referring to FIG. 6 together with FIG. 1 for convenience of explanation, the environmentally adaptive machine vision device 120 according to an embodiment of the present invention receives photographed data of the inspected product (S600). The captured image or video provided from the photographing device 100 may be compressed, that is, encoded, and transmitted, and the environmentally adaptive machine vision device 120 may perform a decoding operation to restore the compressed image, but according to the present invention, In the embodiment, it may mean pixel data that is photographed data in its restored state, that is, in the decoding state.
또한, 환경적응형 머신비전장치(120)는 수신한 촬영 데이터를 분석하여 분석 결과를 근거로 제품의 비양호 상태(NG: No Good)의 비율 변화를 감지하며, 감지한 결과에 따라 검수 제품의 촬영 환경 변화를 판단하여 판단 결과를 근거로 분석 결과를 보정한다(S610).In addition, the environmentally adaptive machine vision device 120 analyzes the received shooting data and detects changes in the ratio of the product's non-good state (NG: No Good) based on the analysis results, and according to the detected result, the inspected product Changes in the shooting environment are determined and the analysis results are corrected based on the judgment results (S610).
여기서, 보정한다는 것은 다양한 의미를 가질 수 있으며, 예를 들어, 기설정된 임계값을 변경하는 것뿐 아니라, 임계값은 고정하고, 그 보정치만큼 화소 데이터를 보정하여 점수를 계산하고 이를 기준 임계값과 비교해 OK 또는 NG 제품을 구분하는 것이다. 다만, 본 발명의 실시예에서는 기설정된 임계값의 높낮이를 조절할 수 있으며, 이의 과정에서 조절 이전의 데이터에 대하여 보정이 필요한 경우에는 보정 동작이 이루어질 수 있다.Here, correcting can have various meanings. For example, in addition to changing the preset threshold, the threshold is fixed, the pixel data is corrected by the correction value, a score is calculated, and this is combined with the reference threshold. The purpose is to distinguish OK or NG products by comparison. However, in an embodiment of the present invention, the height of the preset threshold can be adjusted, and in the process, if correction is needed for data before adjustment, a correction operation can be performed.
상기한 내용 이외에도 도 1의 환경적응형 머신비전장치(120)는 다양한 동작을 수행할 수 있으며, 기타 자세한 내용은 앞서 충분히 설명하였으므로 그 내용들로 대신하고자 한다.In addition to the above, the environmentally adaptive machine vision device 120 of FIG. 1 can perform various operations, and other details have been sufficiently explained above, so these will be replaced.
한편, 본 발명의 실시예를 구성하는 모든 구성 요소들이 하나로 결합하거나 결합하여 동작하는 것으로 설명되었다고 해서, 본 발명이 반드시 이러한 실시 예에 한정되는 것은 아니다. 즉, 본 발명의 목적 범위 안에서라면, 그 모든 구성 요소들이 하나 이상으로 선택적으로 결합하여 동작할 수도 있다. 또한, 그 모든 구성요소들이 각각 하나의 독립적인 하드웨어로 구현될 수 있지만, 각 구성 요소들의 그 일부 또는 전부가 선택적으로 조합되어 하나 또는 복수 개의 하드웨어에서 조합된 일부 또는 전부의 기능을 수행하는 프로그램 모듈을 갖는 컴퓨터 프로그램으로서 구현될 수도 있다. 그 컴퓨터 프로그램을 구성하는 코드들 및 코드 세그먼트들은 본 발명의 기술 분야의 당업자에 의해 용이하게 추론될 수 있을 것이다. 이러한 컴퓨터 프로그램은 컴퓨터가 읽을 수 있는 비일시적 저장매체(non-transitory computer readable media)에 저장되어 컴퓨터에 의하여 읽혀지고 실행됨으로써, 본 발명의 실시 예를 구현할 수 있다.Meanwhile, even though all the components constituting the embodiment of the present invention are described as being combined or operating in combination, the present invention is not necessarily limited to this embodiment. That is, as long as it is within the scope of the purpose of the present invention, all of the components may be operated by selectively combining one or more of them. In addition, although all of the components may be implemented as a single independent hardware, a program module in which some or all of the components are selectively combined to perform some or all of the combined functions in one or more pieces of hardware. It may also be implemented as a computer program having. The codes and code segments that make up the computer program can be easily deduced by a person skilled in the art of the present invention. Such computer programs can be stored in non-transitory computer readable media and read and executed by a computer, thereby implementing embodiments of the present invention.
여기서 비일시적 판독 가능 기록매체란, 레지스터, 캐시(cache), 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라, 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로, 상술한 프로그램들은 CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리 카드, ROM 등과 같은 비일시적 판독가능 기록매체에 저장되어 제공될 수 있다.Here, a non-transitory readable recording medium refers to a medium that stores data semi-permanently and can be read by a device, rather than a medium that stores data for a short period of time, such as a register, cache, or memory. . Specifically, the above-described programs may be stored and provided on non-transitory readable recording media such as CD, DVD, hard disk, Blu-ray disk, USB, memory card, ROM, etc.
이상에서는 본 발명의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안 될 것이다.In the above, preferred embodiments of the present invention have been shown and described, but the present invention is not limited to the specific embodiments described above, and may be used in the technical field to which the invention pertains without departing from the gist of the invention as claimed in the claims. Of course, various modifications can be made by those skilled in the art, and these modifications should not be understood individually from the technical idea or perspective of the present invention.
100: 촬영장치
110: 통신망
120: 환경적응형 머신비전장치
200: 통신 인터페이스부
210: 제어부
220: 환경적응형 머신비전부
230: 저장부100: photographing device 110: communication network
120: Environmentally adaptive machine vision device 200: Communication interface unit
210: Control unit 220: Environmentally adaptive machine vision unit
230: storage unit
Claims (10)
상기 수신한 촬영 데이터를 분석하여 분석 결과를 근거로 제품의 비양호 상태(NG)의 비율 변화를 감지하며, 상기 감지한 결과에 따라 상기 검수 제품의 촬영 환경 변화를 판단하여 판단 결과를 근거로 상기 분석 결과를 보정하는 제어부;를
포함하는 환경적응형 머신비전장치.A communication interface unit that receives photographed data of the inspected product; and
The received shooting data is analyzed to detect changes in the ratio of non-good condition (NG) of the product based on the analysis results, and the change in the shooting environment of the inspected product is determined based on the detection results. A control unit that corrects the analysis results;
An environmentally adaptable machine vision device including:
상기 제어부는, 기설정된 임계값을 기준으로 상기 비양호 상태를 판단하며, 상기 판단 결과를 근거로 상기 기설정된 임계값을 자동으로 조절하여 상기 분석 결과를 보정하는 환경적응형 머신비전장치.According to paragraph 1,
The control unit determines the unhealthy state based on a preset threshold, and automatically adjusts the preset threshold based on the determination result to correct the analysis result.
상기 제어부는, 상기 비양호 상태의 비율이 높아지면 상기 기설정된 임계값보다 임계값을 높게 자동 설정하고, 상기 비양호 상태의 비율이 낮아지면 상기 기설정된 임계값보다 임계값을 낮게 자동 설정하는 환경적응형 머신비전장치.According to paragraph 2,
The control unit automatically sets the threshold value higher than the preset threshold value when the ratio of the unhealthy state increases, and automatically sets the threshold value lower than the preset threshold value when the ratio of the unhealthy state decreases. Adaptive machine vision device.
상기 제어부는, 상기 촬영 환경 변화로서 제품의 검수가 이루어지는 공간의 조명의 세기나 위치 또는 제품의 위치 변화를 고려하여 환경 변화를 판단해 기설정된 임계값을 자동 조절하는 환경적응형 머신비전장치.According to paragraph 2,
The control unit is an environmentally adaptive machine vision device that automatically adjusts a preset threshold by determining changes in the environment in consideration of changes in the intensity or location of lighting in the space where product inspection is performed or changes in the location of the product as a result of the change in the shooting environment.
상기 제어부는, 상기 수신한 촬영 데이터의 분석 결과를 점수값(score)으로 계산하고, 상기 계산한 점수값을 기설정된 임계값과 비교하여 상기 비양호 상태를 판단하는 환경적응형 머신비전장치.According to paragraph 1,
The control unit calculates an analysis result of the received photographed data into a score and compares the calculated score with a preset threshold to determine the unhealthy state.
제어부가, 상기 수신한 촬영 데이터를 분석하여 분석 결과를 근거로 제품의 비양호 상태(NG)의 비율 변화를 감지하며, 상기 감지한 결과에 따라 상기 검수 제품의 촬영 환경 변화를 판단하여 판단 결과를 근거로 상기 분석 결과를 보정하는 단계;를
포함하는 환경적응형 머신비전장치의 구동방법.Receiving, by a communication interface unit, photographic data of an inspected product; and
The control unit analyzes the received shooting data and detects changes in the rate of non-good condition (NG) of the product based on the analysis results, and determines changes in the shooting environment of the inspected product according to the detected results to provide a decision result. Correcting the analysis results based on
A method of operating an environmentally adaptive machine vision device including:
상기 보정하는 단계는,
기설정된 임계값을 기준으로 상기 비양호 상태를 판단하며, 상기 판단 결과를 근거로 상기 기설정된 임계값을 자동으로 조절하여 상기 분석 결과를 보정하는 환경적응형 머신비전장치의 구동방법.According to clause 6,
The correction step is,
A method of driving an environment-adaptive machine vision device that determines the unhealthy state based on a preset threshold and corrects the analysis result by automatically adjusting the preset threshold based on the determination result.
상기 보정하는 단계는,
상기 비양호 상태의 비율이 높아지면 상기 기설정된 임계값보다 임계값을 높게 자동 설정하고, 상기 비양호 상태의 비율이 낮아지면 상기 기설정된 임계값보다 임계값을 낮게 자동 설정하는 환경적응형 머신비전장치의 구동방법.In clause 7,
The correction step is,
Environmentally adaptive machine vision that automatically sets the threshold higher than the preset threshold when the ratio of unhealthy states increases, and automatically sets the threshold lower than the preset threshold when the ratio of unhealthy states decreases. How to operate the device.
상기 보정하는 단계는,
상기 촬영 환경 변화로서 제품의 검수가 이루어지는 공간의 조명의 세기나 위치 또는 제품의 위치 변화를 고려하여 환경 변화를 판단해 기설정된 임계값을 자동 조절하는 환경적응형 머신비전장치의 구동방법.In clause 7,
The correction step is,
A method of driving an environmentally adaptive machine vision device that determines changes in the environment and automatically adjusts a preset threshold by taking into account changes in the intensity or location of lighting in the space where product inspection is performed or changes in the location of the product due to changes in the shooting environment.
상기 보정하는 단계는,
상기 수신한 촬영 데이터의 분석 결과를 점수값(score)으로 계산하고, 상기 계산한 점수값을 기설정된 임계값과 비교하여 상기 비양호 상태를 판단하는 환경적응형 머신비전장치의 구동방법.According to clause 6,
The correction step is,
A method of driving an environmentally adaptive machine vision device that calculates the analysis result of the received shooting data into a score and compares the calculated score with a preset threshold to determine the unhealthy state.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020220134108A KR20240053954A (en) | 2022-10-18 | 2022-10-18 | Apparatus for Environment Adaptive Machine Vision and Driving Method Thereof |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020220134108A KR20240053954A (en) | 2022-10-18 | 2022-10-18 | Apparatus for Environment Adaptive Machine Vision and Driving Method Thereof |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR20240053954A true KR20240053954A (en) | 2024-04-25 |
Family
ID=90885234
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020220134108A Ceased KR20240053954A (en) | 2022-10-18 | 2022-10-18 | Apparatus for Environment Adaptive Machine Vision and Driving Method Thereof |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR20240053954A (en) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102022496B1 (en) | 2019-02-28 | 2019-09-18 | (주)아이프리즘 | Process management and monitoring system using vision image detection and a method thereof |
| KR20220085115A (en) | 2020-12-14 | 2022-06-22 | 주식회사 아이디알인비전 | Labeling learning method of artificial intelligence machine for smart products inspection |
| KR20220085589A (en) | 2020-12-15 | 2022-06-22 | 현대모비스 주식회사 | Method and System for Defect Inspection Based on Deep Learning |
-
2022
- 2022-10-18 KR KR1020220134108A patent/KR20240053954A/en not_active Ceased
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102022496B1 (en) | 2019-02-28 | 2019-09-18 | (주)아이프리즘 | Process management and monitoring system using vision image detection and a method thereof |
| KR20220085115A (en) | 2020-12-14 | 2022-06-22 | 주식회사 아이디알인비전 | Labeling learning method of artificial intelligence machine for smart products inspection |
| KR20220085589A (en) | 2020-12-15 | 2022-06-22 | 현대모비스 주식회사 | Method and System for Defect Inspection Based on Deep Learning |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US9600746B2 (en) | Image processing apparatus and image processing method | |
| US9524558B2 (en) | Method, system and software module for foreground extraction | |
| US20200265575A1 (en) | Flaw inspection apparatus and method | |
| WO2022200854A1 (en) | Electronic substrate defect detection | |
| CN108734684B (en) | Image background subtraction for dynamic illumination scene | |
| CN106920219A (en) | Article defect detection method, image processing system and computer readable recording medium | |
| KR20220085589A (en) | Method and System for Defect Inspection Based on Deep Learning | |
| CN117893817A (en) | Wafer defect classification method, device and system thereof, electronic equipment and storage medium | |
| KR102600622B1 (en) | Apparatus for Judging Farrowing Based on Sow's Behavior Recognition and Driving Method Thereof | |
| KR20220101373A (en) | Apparatus and method for detecting defects in pcb based on video | |
| CN104899871A (en) | Missing solder detection method of IC element solder joints | |
| JP2020135051A (en) | Fault inspection device, fault inspection method, fault inspection program, learning device and learned model | |
| JP2015087940A (en) | Information processing apparatus, information processing method, and program | |
| CN117745678A (en) | Conveyer belt roller encapsulation detection method, conveyer belt roller encapsulation detection device, conveyer belt roller encapsulation detection equipment and storage medium | |
| JP6349804B2 (en) | Inspection device, inspection method, program, and recording medium thereof | |
| KR20240105311A (en) | Method and system for determining defects in SMT and PCB process data using artificial intelligence model | |
| KR20240053954A (en) | Apparatus for Environment Adaptive Machine Vision and Driving Method Thereof | |
| JP7136234B2 (en) | Information processing device, control method, and program | |
| CN117455887A (en) | PCB incoming material detection method, device, equipment and medium based on machine vision | |
| JP7600909B2 (en) | Anomaly detection system and anomaly detection method | |
| JP7215495B2 (en) | Information processing device, control method, and program | |
| US20240233344A9 (en) | Systems and methods for estimating robustness of a machine learning model | |
| CN116205838A (en) | Abnormal image detection method, system, terminal equipment and storage medium | |
| WO2022250584A1 (en) | A method and an electronic device for analysing an image | |
| KR102491217B1 (en) | Vehicle Recognition Optimization Apparatus of AI-based Domain Adaptive Parking Control System and Driving Method Thereof |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20221018 |
|
| PA0201 | Request for examination | ||
| PG1501 | Laying open of application | ||
| E902 | Notification of reason for refusal | ||
| PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20250422 Patent event code: PE09021S01D |
|
| E601 | Decision to refuse application | ||
| PE0601 | Decision on rejection of patent |
Patent event date: 20250630 Comment text: Decision to Refuse Application Patent event code: PE06012S01D |
