CN110246122A - 基于机器视觉的小型轴承质量检测方法、装置及系统 - Google Patents
基于机器视觉的小型轴承质量检测方法、装置及系统 Download PDFInfo
- Publication number
- CN110246122A CN110246122A CN201910419666.3A CN201910419666A CN110246122A CN 110246122 A CN110246122 A CN 110246122A CN 201910419666 A CN201910419666 A CN 201910419666A CN 110246122 A CN110246122 A CN 110246122A
- Authority
- CN
- China
- Prior art keywords
- image
- small size
- size bearing
- area
- template
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B07—SEPARATING SOLIDS FROM SOLIDS; SORTING
- B07C—POSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
- B07C5/00—Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B07—SEPARATING SOLIDS FROM SOLIDS; SORTING
- B07C—POSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
- B07C5/00—Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
- B07C5/02—Measures preceding sorting, e.g. arranging articles in a stream orientating
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B07—SEPARATING SOLIDS FROM SOLIDS; SORTING
- B07C—POSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
- B07C5/00—Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
- B07C5/04—Sorting according to size
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B07—SEPARATING SOLIDS FROM SOLIDS; SORTING
- B07C—POSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
- B07C5/00—Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
- B07C5/36—Sorting apparatus characterised by the means used for distribution
- B07C5/361—Processing or control devices therefor, e.g. escort memory
- B07C5/362—Separating or distributor mechanisms
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
- G01N2021/8887—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20224—Image subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30164—Workpiece; Machine component
Landscapes
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Signal Processing (AREA)
- Chemical & Material Sciences (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Quality & Reliability (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于机器视觉的小型轴承质量检测方法、装置及系统,其中,小型轴承质量检测方法,包括:S1判断待检测区域是否存在待检测的小型轴承,若是,跳转至步骤S2;S2采集小型轴承的图像;S3根据采集图像匹配数据库中的模板图像;S4通过图像帧差法得到采集图像与匹配的模板图像之间的图像差异,并针对图像差异进行分析确定是否存在缺陷区域;S5控制将该小型轴承输送至相应的出料轨道。实现基于机器视觉的小型轴承质量检测及自动进料、自动剔除,从而提高准确率,达到快速自动化检测的目标。
Description
技术领域
本发明涉及机器视觉无损检测技术领域,尤其涉及一种小型轴承质量检测方法、装置及系统。
背景技术
轴承作为现代机械结构中最为常见的基础零件,主要用于减小摩擦及支撑旋转。近年来,通过技术的改造和提高,轴承的生产已经从最初的简单制造技术发展为依靠数控加工、先进热处理工艺以及全自动化生产线的高效生产模式。但是,在生产过程中难免会出现各种各样的缺陷,严重影响了轴承的使用率与生产率。由于轴承表面缺陷类型繁多且缺陷存在随机性,因而接触式检测难度大、效率低,所以采用机器视觉检测技术做非接触检测是解决这一问题的最好方法之一。
机器视觉检测技术是一种以计算机视觉为基础,综合运用图像处理、模式识别、人工智能等技术的非接触检测方法,基本原理是通过适当的光源和图像检测传感器获取产品的表面图像,利用相应的图像处理算法提取图像的特征信息,进而根据特征信息进行表面缺陷的定位、识别、分级等判别和统计、存储、查询等操作。
关于机器视觉在轴承检测方面的应用主要有以下研究:江南大学的陈文达等人利用otsu阈值分割和Roberts边缘提取处理图像,将防尘盖字符、非字符区域分离,可实现轴承防尘盖表面缺陷的自动检测;华东交通大学的涂洪斌等人通过基于CCD成像的图像动态阈值分割法,实现了货车滚动轴承的表面麻点缺陷检测;大连理工大学的黄睿将多张不同角度的轴承图像进行融合,解决了图像亮度不均匀的问题,并采用分类极值区域与神经网络的方法实现了轴承表面的凹痕、划痕以及擦线的检测;中国矿业大学的崔明等人通过轴承外形的最小二乘拟合,进行尺寸的测量与形态相关的缺陷检测。但是,现有技术中并没有针对小型轴承质量检测的方法。
发明内容
针对上述现有技术的不足,本发明提供了一种基于机器视觉的小型轴承质量检测方法、装置及系统,有效解决现有技术中小型轴承检测效率低下的问题。
为了实现上述目的,本发明通过以下技术方案实现:
一种基于机器视觉的小型轴承质量检测方法,包括:
S1判断待检测区域是否存在待检测的小型轴承,若是,跳转至步骤S2;
S2采集所述小型轴承的图像;
S3根据采集图像匹配数据库中的模板图像;
S4通过图像帧差法得到采集图像与匹配的模板图像之间的图像差异,并针对图像差异进行分析确定是否存在缺陷区域;
S5控制将该小型轴承输送至相应的出料轨道。
还提供了一种基于机器视觉的小型轴承质量检测装置,包括:
探测模块,用于探测待检测区域;
判断模块,用于根据探测模块的探测结果判断待检测区域是否存在待检测的小型轴承;
图像采集模块,当判断模块判断待检测区域存在待检测的小型轴承,采集所述小型轴承的图像;
模板匹配模块,用于根据图像采集模块采集的图像匹配数据库中的模板图像;
缺陷区域确定模块,用于根据模板匹配模块匹配的模板图像,通过图像帧差法得到采集图像与匹配的模板图像之间的图像差异,并针对图像差异进行分析确定是否存在缺陷区域;
输出模块,用于缺陷区域确定模块的确定结果控制将该小型轴承输送至相应的出料轨道。
还提供了一种基于机器视觉的小型轴承质量检测系统,包括上述小型轴承质量检测装置,还包括:
小型轴承进料机构,设有进出料缺口,在进料缺口利用气缸和重力作用实现自动上下料;
小型轴承传送机构,包括一与小型轴承进料机构进出料缺口连接的送料过渡轨道及一用于将小型轴承进料机构传送的小型轴承输送至待检测区域的传送带,所述待检测区域设置于所述传送带表面,所述小型轴承质量检测装置设置于所述传送带上方,及
瑕疵品剔除机构,根据根据小型轴承质量检测装置实时的检测结果对小型轴承进行分拣下料,将瑕疵品剔除。
进一步优选地,在小型轴承质量检测装置,探测模块通过设置于待检测区域周边的至少一个检测传感器检测是否存在待检测的小型轴承;图像采集模块通过设置于待检测区域上方的工业相机和光学透镜拍摄得到至少一张小型轴承图像;
所述小型轴承质量检测系统中还包括:
密封小型轴承质量检测装置的密封检测箱;
固定于所述密封检测箱顶部的横杆;
与所述横杆固定连接的多个竖杆;及
穹顶光源,所述工业相机和穹顶光源通过降夹与所述纵杆相连,设置于所述待检测区域上方。
本发明提供的基于机器视觉的小型轴承质量检测方法、装置及系统,主要用于小型轴承的尺寸检测和内表面缺陷检测。在小型轴承质量检测方法系统中,密封检测箱密封小型轴承质量检测装置,从而减少灰尘、光线折射、反射等外界因素对小型轴承质量检测准确性的影响;补光照明采用穹顶光源,利用圆顶形状的反射板均匀地高输出照射扩散光,从而抑制小型轴承内表面曲面的反射,使得工业相机更好地捕捉到内表面的划痕、剥落以及毛边等缺陷;穹顶光源与工业相机通过升降夹与纵杆相连,纵杆与横杆相连,可以根据获取不同尺寸小型轴承内表面图像的要求,调节穹顶光源与工业相机的位置,从而解决小型轴承质量检测效率低,一套设备只适用于检测一种产品的问题,实现可以广泛用于各种小型轴承质量检测;工业相机采用多部相机工位实现对小型轴承内表面全景拍摄,通过对多部工业相机同时标定,准确拼接出小型轴承完整的内表面图像,通过对内表面图像的公式计算和算法分析,判定小型轴承质量是否合格,实现基于机器视觉的小型轴承质量检测;小型轴承传送机构两端进进出料缺口与小型轴承进料机构、瑕疵品剔除机构相连,实现自动进料、自动剔除,从而提高准确率,功耗低,达到快速自动化检测的目标。
附图说明
结合附图,并通过参考下面的详细描述,将会更容易地对本发明有更完整的理解并且更容易地理解其伴随的优点和特征,其中:
图1为本发明中基于机器视觉的小型轴承质量检测方法一种实施方式流程示意图;
图2为本发明中基于机器视觉的小型轴承质量检测装置一种实施方式示意图;
图3为本发明中基于机器视觉的小型轴承质量检测系统结构示意图;
图4为本发明中小型轴承进料机构结构示意图;
图5为本发明中小型轴承质量检测装置结构示意图;
图6为本发明中瑕疵品剔除机构结构示意图。
附图标记说明:
100-小型轴承质量检测装置,110-探测模块,120-判断模块,130-图像采集模块,140-模板匹配模块,150-缺陷区域确定模块,160-输出模块,1-进料气缸,2-送料过渡轨道,3-第一工业相机与光学镜头,4-第二工业相机与光学镜头,5-检测箱,6-穹顶光源,7-传送带,8-检测传感器,9-第一固定座,10-第一剔除气缸,11-第三工业相机与光学镜头,12-第四工业相机与光学镜头,13-第二剔除气缸,14-第二固定座,15-合格品出料轨道,16-瑕疵品出料轨道。
具体实施方式
为使本发明的内容更加清楚易懂,以下结合说明书附图,对本发明的内容作进一步说明。当然本发明并不局限于该具体实施例,本领域内的技术人员所熟知的一般替换也涵盖在本发明的保护范围内。
如图1所示为本发明提供的基于机器视觉的小型轴承质量检测方法一种实施方式的流程示意图,从图中可以看出,在该小型轴承质量检测方法中包括:
S1判断待检测区域是否存在待检测的小型轴承,若是,跳转至步骤S2;
S2采集小型轴承的图像;
S3根据采集图像匹配数据库中的模板图像;
S4通过图像帧差法得到采集图像与匹配的模板图像之间的图像差异,并针对图像差异进行分析确定是否存在缺陷区域;
S5控制将该小型轴承输送至相应的出料轨道。
在进行质量检测之前,在数据库中创建模板,在这一个过程中,采集合格小型轴承的多张图像之后,通过人工筛选出一张标准的图像作为该类型小型轴承的模板图像;接着,在模板图像上定义感兴趣区域(ROI),并获取ROI的中心位置(RR0,RC0)。
通过检测传感器判断待检测区域中存在待检测的小型轴承之后,采用工业相机对小型轴承进行拍摄,得到采集图像。若待检测区域中没有小型轴承,则进入下一次采图。
由于图像在采集过程中,会受到各种因素的干扰,影响图像的质量,导致在质量检测过程中对缺陷的识别产生误判,降低检测结果的准确性,因此为了提高检测的准确率,在进行质量检测之前,对采集图像进行去噪处理,包括:采用在空间域对图像滤波的方法,通过线性均值滤波处理高斯噪声及采用非线性中值滤波法处理脉冲噪声,完成对采集图像的预处理操作。
之后,针对预处理之后的采集图像进行模板匹配,具体:在步骤S3中:
S31定义一个对象的模板图像为点集pi=(ri,ci)T,关联其他各个点的方向向量为di=(ti,ui)T,i=1,...,n,其中,i=1,…,n,n表示模板图像中像素点的数量。且针对采集图像,计算每个点(r,c)的方向向量er,c=(vr,c,wr,c)T;
S32根据仿射变换矩阵M对数据库中的模板图像进行仿射变换,并与采集图像中的对应位置进行比较,模板图像中点pi=(ri,ci)T经仿射变换后得到p′i=Mpi,点pi的方向向量di=(ti,ui)T经仿射变换后为d′i=(M-1)T di,其中,i=1,…,n,n表示模板图像中像素点的数量;
S33计算模板图像中预先设定的所有特定点q=(r,c)T对应的方向向量d′i与采集图像相应点对应方向向量er,c的点积,作为特定点q处的相似度s,如式(1)和(2):
其中,m表示模板图像中特定点的数量;
S34根据计算得到的相似度S判断采集图像与数据库中模板图像是否匹配。
匹配到相应的模板图像之后,采用图像帧差法得到采集图像与模板图像之间的差异,并对差异部分进行增强处理(锐化处理),完成对小型轴承边缘类缺陷的提取。具体:
S41计算采集图像与模板图像的差分图像S(x,y),如式(3),以此采集图像与模板图像的差异大小可根据S(x,y)的值判断,数值越大即在此处的差异越大:
S(x,y)=|F(x,y)-H(x,y)|,x∈X,y∈Y (3)
其中,H(x,y)表示模板图像,F(x,y)表示采集图像,(x,y)为采集图像/模板图像中像素点的坐标值,X和Y分别表示采集图像/模板图像的长和宽;
S42根据预先定义的阈值T对差分图像S(x,y)进行二值化处理,得到如式(4)的函数D(x,y)。这里对阈值T的值根据实际情况进行设置,如,在一实例中,将其值设定为5。
S43根据二值化处理结果对小型轴承的边缘类缺陷提取并对缺陷采用像素量化,进而对经过图像帧差法的图像进行连通域分析。具体,将区域面积、区域高度以及区域宽度作为缺陷筛选的特征量,当取值为1(在二值化处理图像中,结果为1的区域为缺陷位置)的区域面积大于第一预设值,区域宽度和区域高度大于第二预设值,判定为缺陷区域。这里的第一预设值和第二预设值同样根据实际情况进行设定,如在一实例中,当区域面积大于0.03mm2(27px),区域高度和区域宽度大于0.3mm(9px),判断该区域为缺陷区域。
在另一实施方式中,在采集到待检测小型轴承的图像之后,还包括对图像有效定义域进行确定的步骤:
首先,根据采集图像的中心坐标(R1,C1,Phi1),与标准模板中心坐标(R0,C0,Phi0)计算仿射变换矩阵M,其中,R0和R1表示图像的像素坐标中x轴方向的分辨率,C0和C1表示图像的像素坐标中y轴方向的分辨率,Phi0和Phi1表示图像的角度信息:
(1)定义如式(5)的初始仿射变换矩阵M0;
(2)将旋转转换添加到二维齐次变换矩阵M0中得到如式(6)的旋转矩阵MR:
(3)将平移转换添加到二维齐次变换矩阵MR中,即得到如式(7)的包含平移旋转的仿射变换矩阵M;
之后,提取采集图像中的ROI区域,并根据仿射变换矩阵M对提取的ROI区域进行仿射变换,进而根据变换后的ROI区域确定图像的有效定义域。这里,确定图像有效定义域的目的在于减小采集图像的有效定义域,以减少后续处理的数据量与耗时。
如图2所示为本发明提供的基于机器视觉的小型轴承质量检测装置一种实施方式示意图,从图中可以看出,在该小型轴承质量检测装置100中包括:探测模块110、判断模块120、图像采集模块130、模板匹配模块140、缺陷区域确定模块150及输出模块160,其中,判断模块120与探测模块110连接,图像采集模块130与判断模块120连接,模板匹配模块140与图像采集模块130连接,缺陷区域确定模块150与模板匹配模块140连接,输出模块160与缺陷区域确定模块150连接,探测模块110用于探测待检测区域;判断模块120用于根据探测模块110的探测结果判断待检测区域是否存在待检测的小型轴承;当判断模块120判断待检测区域存在待检测的小型轴承,图像采集模块130采集小型轴承的图像;模板匹配模块140用于根据图像采集模块130采集的图像匹配数据库中的模板图像;缺陷区域确定模块150用于根据模板匹配模块140匹配的模板图像,通过图像帧差法得到采集图像与匹配的模板图像之间的图像差异,并针对图像差异进行分析确定是否存在缺陷区域;输出模块160用于缺陷区域确定模块150的确定结果控制将该小型轴承输送至相应的出料轨道。
在进行质量检测之前,在数据库中创建模板,在这一个过程中,采集合格小型轴承的多张图像之后,通过人工筛选出一张标准的图像作为该类型小型轴承的模板图像;接着,在模板图像上定义感兴趣区域(ROI),并获取ROI的中心位置(RR 0,RC0)。
探测模块110通过检测传感器探测待检测区域,进而判断模块120判断待检测区域中是否存在待检测的小型轴承。当判定存在小型轴承,图像采集模块130采用工业相机对小型轴承进行拍摄,得到采集图像。若待检测区域中没有小型轴承,则进入下一次采图。
由于图像在采集过程中,会受到各种因素的干扰,影响图像的质量,导致在质量检测过程中对缺陷的识别产生误判,降低检测结果的准确性,因此为了提高检测的准确率,在进行质量检测之前,对采集图像进行去噪处理,包括:采用在空间域对图像滤波的方法,通过线性均值滤波处理高斯噪声及采用非线性中值滤波法处理脉冲噪声,完成对采集图像的预处理操作。
之后,模板匹配模块140针对预处理之后的采集图像进行模板匹配,具体,该模板匹配单元中包括第一计算单元、仿射变换单元及匹配单元,第一计算单元分别与仿射变换单元和匹配单元连接。
在匹配过程中,首先定义一个对象的模板图像为点集pi=(ri,ci)T,关联其他各个点的方向向量为di=(ti,ui)T,i=1,...,n,其中,i=1,…,n,n表示模板图像中像素点的数量。且针对采集图像,第一计算单元计算每个点(r,c)的方向向量er,c=(vr,c,wr,c)T。之后,仿射变换单元根据仿射变换矩阵M对数据库中的模板图像进行仿射变换,并与采集图像中的对应位置进行比较,模板图像中点pi=(ri,ci)T经仿射变换后得到p′i=Mpi,点pi的方向向量di=(ti,ui)T经仿射变换后为d′i=(M-1)T di,其中,i=1,…,n,n表示模板图像中像素点的数量。
接着,第一计算单元计算模板图像中预先设定的所有特定点q=(r,c)T对应的方向向量d′i与采集图像相应点对应方向向量er,c的点积,作为特定点q处的相似度s,如式(1)和(2);最后,匹配单元根据计算得到的相似度S判断采集图像与数据库中模板图像是否匹配。
匹配到相应的模板图像之后,采用图像帧差法得到采集图像与模板图像之间的差异,并对差异部分进行增强处理(锐化处理),完成对小型轴承边缘类缺陷的提取。具体,缺陷区域确定模块150中包括:第二计算单元、二值化处理单元及判断单元,其中,二值化处理单元分别与第二计算单元和判断单元连接。
在这一过程中,首先,第二计算单元计算采集图像与模板图像的差分图像S(x,y),如式(3),以此采集图像与模板图像的差异大小可根据S(x,y)的值判断,数值越大即在此处的差异越大。之后,二值化处理单元根据预先定义的阈值T对差分图像S(x,y)进行二值化处理,得到如式(4)的函数D(x,y)。这里对阈值T的值根据实际情况进行设置,如,在一实例中,将其值设定为5。
接着,判断单元根据二值化处理结果对小型轴承的边缘类缺陷提取并对缺陷采用像素量化,进而对经过图像帧差法的图像进行连通域分析。具体,将区域面积、区域高度以及区域宽度作为缺陷筛选的特征量,当取值为1的区域面积大于第一预设值,区域宽度和区域高度大于第二预设值,判定为缺陷区域。这里的第一预设值和第二预设值同样根据实际情况进行设定,如在一实例中,当区域面积大于0.03mm2(27px),区域高度和区域宽度大于0.3mm(9px),判断该区域为缺陷区域。
在另一实施方式中,在小型轴承质量检测装置中还包括图像有效定义域确定模块:用于根据预先的设定提取采集图像中的ROI区域,并根据仿射变换矩阵M对提取的ROI区域进行仿射变换,进而根据变换后的ROI区域确定图像的有效定义域:
首先,根据采集图像的中心坐标(R1,C1,Phi1),与标准模板中心坐标(R0,C0,Phi0)计算仿射变换矩阵M,其中,R0和R1表示图像的像素坐标中x轴方向的分辨率,C0和C1表示图像的像素坐标中y轴方向的分辨率,Phi0和Phi1表示图像的角度信息。
之后,提取采集图像中的ROI区域,并根据仿射变换矩阵M对提取的ROI区域进行仿射变换,进而根据变换后的ROI区域确定图像的有效定义域。这里,确定图像有效定义域的目的在于减小采集图像的有效定义域,以减少后续处理的数据量与耗时。
如图3所示,本发明还提供了一种基于机器视觉的小型轴承质量检测系统,该小型轴承质量检测系统中包括上述小型轴承质量检测装置之外,还包括:
如图4所示的与小型轴承传送机构相连的小型轴承进料机构,设有进出料缺口。在该小型轴承进料机构中,利用进料气缸1和重力作用实现自动上下料:待检测的小型轴承在重力作用下落进料气缸1向下运动将小型轴承送入送料过渡轨道2,此时,小型轴承以轴向在竖直方向上的状态进入小型轴承传送机构。
小型轴承传送机构中包括一与小型轴承进料机构进出料缺口连接的送料过渡轨道2及一用于将小型轴承进料机构传送的小型轴承输送至待检测区域的传送带7,待检测区域设置于送料过渡轨道表面,小型轴承质量检测装置设置于送料过渡轨道上方。小型轴承经由送料过渡轨道2进入传送带7,进而进入待检测区域。
在小型轴承质量检测装置中,探测模块通过设置于待检测区域周边的至少一个检测传感器检测8是否存在待检测的小型轴承;图像采集模块通过设置于待检测区域上方的工业相机和光学透镜拍摄得到至少一张小型轴承图像。该小型轴承质量检测系统中还包括:密封小型轴承质量检测装置的密封检测箱5、固定于密封检测箱顶部的横杆、与横杆固定连接的多个竖杆及穹顶光源6,工业相机和穹顶光源6通过降夹与纵杆相连,设置于待检测区域上方。
在如图5的实例中,密封的检测箱内包含1个检测传感器、4个横杆、5个纵杆、5个升降夹、4部工业相机与光学镜头(包括图示中第一工业相机与光学镜头3、第二工业相机与光学镜头4、第三工业相机与光学镜头11及第四工业相机与光学镜头12)及1个穹顶光源,检测传感器采用光电传感器,光电传感器固定于小型轴承检测工位(待检测区域)处,工业相机、光学镜头及穹顶光源均设置于检测工位上方。4部相机工位的使用用于实现对小型轴承内表面全景拍摄,通过对4部工业相机同时标定,准确拼接出小型轴承完整的内表面图像,通过对内表面图像的公式计算和算法分析通过光电传感器触发相机拍摄检测。另外,工业相机与穹顶光源通过升降夹实现高度与角度的变化,并通过纵杆实现位置的变化,从而使工业相机达到最佳的拍摄效果,进一步提升质量检测的准确率;穹顶光源通过升降夹实现高度的变化,从而使穹顶光源达到最佳的补光照明效果,进一步优化拍摄效果。
瑕疵品剔除机构如图6所示,剔除气缸(包括第一剔除气缸10和第二剔除气缸13)组件根据质量检测装置的视觉检测结果将小型轴承传送至相应出料轨道(包括合格品出料轨道15和瑕疵品出料轨道16)内,其中,剔除气缸可以在各自固定座(第一剔除气缸10对应第一固定座9,第二剔除气缸13对应第二固定座14)上下左右调节,达到最佳的剔除效果;两个出料轨道分开传送经过检测的合格小型轴承与带瑕疵小型轴承,更有利于后续工位的操作,提高自动化水平,实现无损检测功能。
在工作过程中,首先,由小型轴承进料机构将待检测的小型轴承在重力作用下落进料气缸向下运动,将小型轴承送入送料过渡轨道,并经由小型轴承传送机构将小型轴承传送至机器视觉检测机构(质量检测装置)的固定检测位(待检测区域);
之后,检测传感器检测到待检测的小型轴承,并触发工业相机工作;在穹顶光源的补光照明下,工业相机拍摄小型轴承内表面图像;图像采集卡采集到图像之后发送至计算机,利用软件系统根据质量检测方法分析采集图像中是否存在缺陷,并将结果反馈至瑕疵品剔除机构;
最后,经由小型轴承传送机构将经过图像采集后的小型轴承传送至瑕疵品剔除机构,瑕疵品剔除机构根据检测结果对小型轴承进行分拣下料,剔除气缸组件将瑕疵品传送至瑕疵品出料轨道,将合格品传送至合格品出料轨道,继续前进至下一个工位。
Claims (10)
1.一种基于机器视觉的小型轴承质量检测方法,其特征在于,包括:
S1判断待检测区域是否存在待检测的小型轴承,若是,跳转至步骤S2;
S2采集所述小型轴承的图像;
S3根据采集图像匹配数据库中的模板图像;
S4通过图像帧差法得到采集图像与匹配的模板图像之间的图像差异,并针对图像差异进行分析确定是否存在缺陷区域;
S5控制将该小型轴承输送至相应的出料轨道。
2.如权利要求1所述的小型轴承质量检测方法,其特征在于,在步骤S2之后,还包括图像有效定义域确定的步骤,具体:
根据预先的设定提取所述采集图像中的ROI区域,并根据仿射变换矩阵M对提取的ROI区域进行仿射变换,进而根据变换后的ROI区域确定图像的有效定义域;
其中,采集图像的中心坐标为(R1,C1,Phi1),模板图像的中心坐标为(R0,C0,Phi0),Phi0和Phi1表示图像的角度信息。
3.如权利要求1或2所述的小型轴承质量检测方法,其特征在于,在步骤S3中,包括:
S31针对采集图像,计算每个点(r,c)的方向向量er,c=(vr,c,wr,c)T;
S32根据仿射变换矩阵M对数据库中的模板图像进行仿射变换,模板图像中点pi=(ri,ci)T经仿射变换后得到p′i=Mpi,点pi的方向向量di=(ti,ui)T经仿射变换后为d′i=(M-1)Tdi,其中,i=1,…,n,n表示模板图像中像素点的数量;
S33计算模板图像中预先设定的所有特定点q=(r,c)T对应的方向向量d′i与采集图像相应点对应方向向量er,c的点积,作为特定点q处的相似度s:
其中,m表示模板图像中特定点的数量;
S34根据计算得到的相似度S判断采集图像与数据库中模板图像是否匹配。
4.如权利要求1或2所述的小型轴承质量检测方法,其特征在于,在步骤S4中,包括:
S41计算采集图像与模板图像的差分图像S(x,y):
S(x,y)=|F(x,y)-H(x,y)|,x∈X,y∈Y
其中,H(x,y)表示模板图像,F(x,y)表示采集图像,(x,y)为采集图像/模板图像中像素点的坐标值,X和Y分别表示采集图像/模板图像的长和宽;
S42根据预先定义的阈值T对差分图像S(x,y)进行二值化处理,得到函数D(x,y):
S43根据二值化处理结果对差分图像的边缘类缺陷进行提取,并进行连通域分析,当取值为1的区域面积大于第一预设值,区域宽度和区域高度大于第二预设值,判定为缺陷区域。
5.一种基于机器视觉的小型轴承质量检测装置,其特征在于,包括:
探测模块,用于探测待检测区域;
判断模块,用于根据探测模块的探测结果判断待检测区域是否存在待检测的小型轴承;
图像采集模块,当判断模块判断待检测区域存在待检测的小型轴承,采集所述小型轴承的图像;
模板匹配模块,用于根据图像采集模块采集的图像匹配数据库中的模板图像;
缺陷区域确定模块,用于根据模板匹配模块匹配的模板图像,通过图像帧差法得到采集图像与匹配的模板图像之间的图像差异,并针对图像差异进行分析确定是否存在缺陷区域;
输出模块,用于缺陷区域确定模块的确定结果控制将该小型轴承输送至相应的出料轨道。
6.如权利要求5所述的小型轴承质量检测装置,其特征在于,在所述小型轴承质量检测装置中,还包括图像有效定义域确定模块:用于根据预先的设定提取所述采集图像中的ROI区域,并根据仿射变换矩阵M对提取的ROI区域进行仿射变换,进而根据变换后的ROI区域确定图像的有效定义域;
其中,采集图像的中心坐标为(R1,C1,Phi1),模板图像的中心坐标为(R0,C0,Phi0),Phi0和Phi1表示图像的角度信息。
7.如权利要求5或6所述的小型轴承质量检测装置,其特征在于,在模板匹配模块中,包括:
仿射变换单元,用于根据仿射变换矩阵M对数据库中的模板图像进行仿射变换,模板图像中点pi=(ri,ci)T经仿射变换后得到p′i=Mpi,点pi的方向向量di=(ti,ui)T经仿射变换后为d′i=(M-1)Tdi,其中,i=1,…,n,n表示模板图像中像素点的数量;
第一计算单元,用于针对采集图像,计算每个点(r,c)的方向向量er,c=(vr,c,wr,c)T;及用于根据仿射变换单元的结果,计算模板图像中预先设定的所有特定点q=(r,c)T对应的方向向量di'与采集图像相应点对应方向向量er,c的点积,作为特定点q处的相似度s:
其中,m表示模板图像中特定点的数量;
匹配单元,用于根据计算得到的相似度S判断采集图像与数据库中模板图像是否匹配。
8.如权利要求5或6所述的小型轴承质量检测装置,其特征在于,在缺陷区域确定模块中,包括:
第二计算单元,用于计算采集图像与模板图像的差分图像S(x,y):
S(x,y)=|F(x,y)-H(x,y)|,x∈X,y∈Y
其中,H(x,y)表示模板图像,F(x,y)表示采集图像,(x,y)为采集图像/模板图像中像素点的坐标值,X和Y分别表示采集图像/模板图像的长和宽;
二值化处理单元,用于根据预先定义的阈值T对第二计算单元得到的差分图像S(x,y)进行二值化处理,得到函数D(x,y):
判断单元,用于对二值化处理单元二值化处理后的图像进行连通域分析,当取值为1的区域面积大于第一预设值,区域宽度和区域高度大于第二预设值,判定为缺陷区域。
9.一种基于机器视觉的小型轴承质量检测系统,其特征在于,所述小型轴承质量检测系统中包括如权利要求5-8任意一项所述的小型轴承质量检测装置,还包括:
小型轴承进料机构,设有进出料缺口,在进料缺口利用气缸和重力作用实现自动上下料;
小型轴承传送机构,包括一与小型轴承进料机构进出料缺口连接的送料过渡轨道及一用于将小型轴承进料机构传送的小型轴承输送至待检测区域的传送带,所述待检测区域设置于所述传送带表面,所述小型轴承质量检测装置设置于所述传送带上方,及
瑕疵品剔除机构,根据根据小型轴承质量检测装置实时的检测结果对小型轴承进行分拣下料,将瑕疵品剔除。
10.如权利要求9所述的小型轴承质量检测系统,其特征在于,
在小型轴承质量检测装置,探测模块通过设置于待检测区域周边的至少一个检测传感器检测是否存在待检测的小型轴承;图像采集模块通过设置于待检测区域上方的工业相机和光学透镜拍摄得到至少一张小型轴承图像;
所述小型轴承质量检测系统中还包括:
密封小型轴承质量检测装置的密封检测箱;
固定于所述密封检测箱顶部的横杆;
与所述横杆固定连接的多个竖杆;及
穹顶光源,所述工业相机和穹顶光源通过降夹与所述纵杆相连,设置于所述待检测区域上方。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910419666.3A CN110246122A (zh) | 2019-05-20 | 2019-05-20 | 基于机器视觉的小型轴承质量检测方法、装置及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910419666.3A CN110246122A (zh) | 2019-05-20 | 2019-05-20 | 基于机器视觉的小型轴承质量检测方法、装置及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110246122A true CN110246122A (zh) | 2019-09-17 |
Family
ID=67884479
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910419666.3A Pending CN110246122A (zh) | 2019-05-20 | 2019-05-20 | 基于机器视觉的小型轴承质量检测方法、装置及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110246122A (zh) |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111272766A (zh) * | 2020-02-20 | 2020-06-12 | 上海普密德自动化科技有限公司 | 一种基于视觉技术的表面缺陷检测系统及其检测方法 |
CN111307182A (zh) * | 2020-03-06 | 2020-06-19 | 宁波飞芯电子科技有限公司 | 数据处理方法及阵列型传感器 |
CN111426693A (zh) * | 2020-04-26 | 2020-07-17 | 湖南恒岳重钢钢结构工程有限公司 | 一种质量缺陷检测系统及其检测方法 |
CN111774315A (zh) * | 2020-07-27 | 2020-10-16 | 深圳市微蓝智能科技有限公司 | 轴承检测装置 |
CN111783578A (zh) * | 2020-06-19 | 2020-10-16 | 无锡市金义博仪器科技有限公司 | 一种基于图像处理的高速光谱仪安全监测装置及监测方法 |
CN111855666A (zh) * | 2020-07-16 | 2020-10-30 | 北京嘉恒中自图像技术有限公司 | 一种轴承内圈侧周外观缺陷自动检测方法和系统 |
CN112084964A (zh) * | 2020-09-11 | 2020-12-15 | 浙江水晶光电科技股份有限公司 | 产品识别设备、方法及存储介质 |
CN112308832A (zh) * | 2020-10-29 | 2021-02-02 | 常熟理工学院 | 一种基于机器视觉的轴承质量检测方法 |
CN112710670A (zh) * | 2020-12-16 | 2021-04-27 | 中国计量大学 | 一种太阳能电池涂层检测装置及控制方法 |
CN112763496A (zh) * | 2020-12-24 | 2021-05-07 | 苏州赛众自动化科技有限公司 | 一种手机电池表面缺陷检测装置及其检测方法 |
CN112834517A (zh) * | 2020-12-31 | 2021-05-25 | 慈溪迅蕾轴承有限公司 | 一种轴承外观的影像检测方法 |
CN113155865A (zh) * | 2021-01-06 | 2021-07-23 | 天津大学 | 基于多相机的铝压铸件孔洞内壁缺陷检测系统及检测方法 |
CN113333321A (zh) * | 2021-05-11 | 2021-09-03 | 北京若贝特智能机器人科技有限公司 | 一种自动识别分类输送方法、系统、装置及存储介质 |
CN113996556A (zh) * | 2021-09-27 | 2022-02-01 | 深圳技术大学 | 一种融合云端的产品分拣系统及方法 |
CN114037704A (zh) * | 2022-01-10 | 2022-02-11 | 安徽高哲信息技术有限公司 | 入料系统及其控制方法、控制装置及存储介质 |
CN114332069A (zh) * | 2022-01-05 | 2022-04-12 | 合肥工业大学 | 一种基于机器视觉的接插件检测方法及装置 |
CN116883410A (zh) * | 2023-09-08 | 2023-10-13 | 四川爱麓智能科技有限公司 | 一种磨斑自动化检测与评价的方法、系统以及设备 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20130087985A (ko) * | 2012-01-30 | 2013-08-07 | 한국기술교육대학교 산학협력단 | 핑거패턴 제거에 의한 비등방성 확산 모델 기반의 마이크로 크랙의 검사 방법 |
CN107203990A (zh) * | 2017-04-02 | 2017-09-26 | 南京汇川图像视觉技术有限公司 | 一种基于模板匹配与图像质量评估的标贴破损检测方法 |
-
2019
- 2019-05-20 CN CN201910419666.3A patent/CN110246122A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20130087985A (ko) * | 2012-01-30 | 2013-08-07 | 한국기술교육대학교 산학협력단 | 핑거패턴 제거에 의한 비등방성 확산 모델 기반의 마이크로 크랙의 검사 방법 |
CN107203990A (zh) * | 2017-04-02 | 2017-09-26 | 南京汇川图像视觉技术有限公司 | 一种基于模板匹配与图像质量评估的标贴破损检测方法 |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111272766A (zh) * | 2020-02-20 | 2020-06-12 | 上海普密德自动化科技有限公司 | 一种基于视觉技术的表面缺陷检测系统及其检测方法 |
CN111307182B (zh) * | 2020-03-06 | 2022-08-23 | 宁波飞芯电子科技有限公司 | 数据处理方法及阵列型传感器 |
CN111307182A (zh) * | 2020-03-06 | 2020-06-19 | 宁波飞芯电子科技有限公司 | 数据处理方法及阵列型传感器 |
CN111426693A (zh) * | 2020-04-26 | 2020-07-17 | 湖南恒岳重钢钢结构工程有限公司 | 一种质量缺陷检测系统及其检测方法 |
CN111783578A (zh) * | 2020-06-19 | 2020-10-16 | 无锡市金义博仪器科技有限公司 | 一种基于图像处理的高速光谱仪安全监测装置及监测方法 |
CN111783578B (zh) * | 2020-06-19 | 2024-11-26 | 无锡市金义博仪器科技有限公司 | 一种基于图像处理的高速光谱仪安全监测装置及监测方法 |
CN111855666A (zh) * | 2020-07-16 | 2020-10-30 | 北京嘉恒中自图像技术有限公司 | 一种轴承内圈侧周外观缺陷自动检测方法和系统 |
CN111774315A (zh) * | 2020-07-27 | 2020-10-16 | 深圳市微蓝智能科技有限公司 | 轴承检测装置 |
CN112084964A (zh) * | 2020-09-11 | 2020-12-15 | 浙江水晶光电科技股份有限公司 | 产品识别设备、方法及存储介质 |
CN112308832A (zh) * | 2020-10-29 | 2021-02-02 | 常熟理工学院 | 一种基于机器视觉的轴承质量检测方法 |
CN112710670A (zh) * | 2020-12-16 | 2021-04-27 | 中国计量大学 | 一种太阳能电池涂层检测装置及控制方法 |
CN112763496A (zh) * | 2020-12-24 | 2021-05-07 | 苏州赛众自动化科技有限公司 | 一种手机电池表面缺陷检测装置及其检测方法 |
CN112834517A (zh) * | 2020-12-31 | 2021-05-25 | 慈溪迅蕾轴承有限公司 | 一种轴承外观的影像检测方法 |
CN112834517B (zh) * | 2020-12-31 | 2024-01-16 | 慈溪迅蕾轴承有限公司 | 一种轴承外观的影像检测方法 |
CN113155865A (zh) * | 2021-01-06 | 2021-07-23 | 天津大学 | 基于多相机的铝压铸件孔洞内壁缺陷检测系统及检测方法 |
CN113333321A (zh) * | 2021-05-11 | 2021-09-03 | 北京若贝特智能机器人科技有限公司 | 一种自动识别分类输送方法、系统、装置及存储介质 |
CN113996556A (zh) * | 2021-09-27 | 2022-02-01 | 深圳技术大学 | 一种融合云端的产品分拣系统及方法 |
CN114332069A (zh) * | 2022-01-05 | 2022-04-12 | 合肥工业大学 | 一种基于机器视觉的接插件检测方法及装置 |
CN114332069B (zh) * | 2022-01-05 | 2024-02-20 | 合肥工业大学 | 一种基于机器视觉的接插件检测方法及装置 |
CN114037704A (zh) * | 2022-01-10 | 2022-02-11 | 安徽高哲信息技术有限公司 | 入料系统及其控制方法、控制装置及存储介质 |
CN116883410A (zh) * | 2023-09-08 | 2023-10-13 | 四川爱麓智能科技有限公司 | 一种磨斑自动化检测与评价的方法、系统以及设备 |
CN116883410B (zh) * | 2023-09-08 | 2023-11-17 | 四川爱麓智能科技有限公司 | 一种磨斑自动化检测与评价的方法、系统以及设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110246122A (zh) | 基于机器视觉的小型轴承质量检测方法、装置及系统 | |
CN111951237B (zh) | 外观视觉检测方法 | |
CN109772733B (zh) | 一种基于视觉的缺陷竹块检测分拣装置及方法 | |
CN111275679B (zh) | 一种基于图像的太阳能电池缺陷检测系统及方法 | |
CN102735695B (zh) | 一种镜片瑕疵快速检测方法及装置 | |
CN110108711A (zh) | 圆环侧壁缺陷的视觉检测系统 | |
CN110403232B (zh) | 一种基于二级算法的烟支质量检测方法 | |
CN107389701A (zh) | 一种基于图像的pcb表观缺陷自动检测系统及方法 | |
CN109087286A (zh) | 一种基于计算机图像处理和模式识别的检测方法及应用 | |
CN110567976B (zh) | 基于机器视觉的手机盖板丝印缺陷检测装置及检测方法 | |
CN111667475B (zh) | 一种基于机器视觉的大枣分级检测方法 | |
CN112184648A (zh) | 一种基于深度学习的活塞表面缺陷检测方法及系统 | |
CN114723668A (zh) | 一种基于面阵相机的阴极铜质量检测方法及系统 | |
CN105158268A (zh) | 精冲零部件缺陷智能在线检测方法、系统及装置 | |
CN114529510B (zh) | 一种阴极铜在线质量自动检测分类方法 | |
CN103630544B (zh) | 一种视觉在线检测系统 | |
CN105865570A (zh) | 一种基于机器视觉的玻璃瓶液位检测方法 | |
CN110763700A (zh) | 一种半导体元器件缺陷检测方法和设备 | |
CN106485696A (zh) | 一种基于机器视觉的易爆危险品压合缺陷的检测方法 | |
CN104483320A (zh) | 工业脱硝催化剂的数字化缺陷检测装置与检测方法 | |
CN111398287A (zh) | 一种电池极片划痕检测系统及检测方法 | |
CN111968082A (zh) | 一种基于机器视觉的产品包装缺陷检测识别方法 | |
CN111487192A (zh) | 一种基于人工智能的机器视觉表面缺陷检测装置及方法 | |
CN106778439B (zh) | 一种基于图像处理的锂电池批量扫码系统及方法 | |
CN111889387A (zh) | 一种安全带扣尺寸与表面缺陷的检测装置及图像识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190917 |