KR101153627B1 - Image analysys system of cellular tissue and method thereof - Google Patents
Image analysys system of cellular tissue and method thereof Download PDFInfo
- Publication number
- KR101153627B1 KR101153627B1 KR1020090101685A KR20090101685A KR101153627B1 KR 101153627 B1 KR101153627 B1 KR 101153627B1 KR 1020090101685 A KR1020090101685 A KR 1020090101685A KR 20090101685 A KR20090101685 A KR 20090101685A KR 101153627 B1 KR101153627 B1 KR 101153627B1
- Authority
- KR
- South Korea
- Prior art keywords
- contour
- interest
- topology
- topologies
- level
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
- G01N33/48—Biological material, e.g. blood, urine; Haemocytometers
- G01N33/50—Chemical analysis of biological material, e.g. blood, urine; Testing involving biospecific ligand binding methods; Immunological testing
- G01N33/52—Use of compounds or compositions for colorimetric, spectrophotometric or fluorometric investigation, e.g. use of reagent paper and including single- and multilayer analytical elements
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Immunology (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Hematology (AREA)
- Chemical & Material Sciences (AREA)
- Physics & Mathematics (AREA)
- Biochemistry (AREA)
- Molecular Biology (AREA)
- Analytical Chemistry (AREA)
- Pathology (AREA)
- Biomedical Technology (AREA)
- Urology & Nephrology (AREA)
- Cell Biology (AREA)
- Microbiology (AREA)
- Biotechnology (AREA)
- Food Science & Technology (AREA)
- Medicinal Chemistry (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Abstract
세포 조직의 이미지 분석 시스템이 개시된다. 개시된 이미지 분석 시스템은 세포 조직에 의해 감쇠되는 빔 강도의 등고선 토포로지를 등고선 간 간격이 성긴 레벨부터 순차적으로 등고선 간 간격이 조밀한 레벨까지 형성하고, 토포로지의 변화로부터 토포로지 사이의 포함관계를 도출하는 이미징부 및, 상기 토포로지 사이의 포함 관계로부터 네스팅 깊이를 계산하여 관심 영역을 추출하는 추출부를 포함한다.An image analysis system of cell tissue is disclosed. The disclosed image analysis system forms a contour topography of beam intensities attenuated by cellular tissue from a level of spacing between contours to a level of dense spacing between contours in sequence, and the inclusion relationship between the topology and the topology And an extracting unit for extracting a region of interest by calculating a nesting depth from the inclusion relationship between the derived imaging unit and the topology.
토포로지, 이미지, 종양, 엑스레이 Topology, Image, Tumor, X-ray
Description
본 발명은 질병진단을 위한 이미지 분석 시스템 및 방법에 관한 것으로, 더욱 상세하게는 토포로지를 이용하는 질병진단을 위한 이미지 분석 시스템 및 방법에 관한 것이다.The present invention relates to an image analysis system and method for disease diagnosis, and more particularly, to an image analysis system and method for disease diagnosis using a topology.
질병 진단을 위한 의학용 이미지 분석 장치에는 엑스레이(Xray) 장치, MRI(Magnetic Resonance Imaging), 초음파 장치 등이 있다. Medical image analysis devices for diagnosing diseases include an X-ray device, a magnetic resonance imaging (MRI), and an ultrasound device.
엑스레이 장치는 전자기파가 인체 조직을 투과한 다음 필름에 인화되는 이미지를 분석하는 장치를 말하는 것으로 최근에 와서는 TFT를 이용한 디지털 엑스레이 장치로 진화 발전되고 있다.X-ray apparatus refers to a device that analyzes an image in which electromagnetic waves penetrate human tissue and then is printed on a film. Recently, an X-ray apparatus has evolved and developed into a digital x-ray apparatus using TFT.
MRI는 체내 구조물의 사진을 생성하기 위해 자기장을 사용하는 진단 장치로서, 전자파의 펄스를 이용하여 체내의 수소 원자가 자기장과 전자파와 반응하는 원리를 근거로 이미지를 만든다. MRI 이미지는 장기나 신체, 세포의 일부에 대한 다수의 얇은 조각을 3차원 이미지로 결합시킬 수 있다.MRI is a diagnostic device that uses a magnetic field to create a picture of the structure inside the body, using the pulse of electromagnetic waves to create an image based on the principle that the hydrogen atoms in the body react with the magnetic field and electromagnetic waves. MRI images can combine multiple thin slices of organs, bodies and parts of cells into three-dimensional images.
초음파 장치는 가청 주파수 20kHz를 넘는 초음파를 사용하여 세포 조직에 서 반사되어 나오는 초음파를 이미지화하여 대상 세포 조직을 분석하는 장치이다. An ultrasound device is an apparatus for analyzing target cell tissues by imaging ultrasound waves reflected from cell tissues using ultrasound waves having an audible frequency of 20 kHz.
상술한 의학용 이미지 분석 장치는 각종 질병을 진단하기 위해 다양한 파장을 이용하여 이미지를 형성하고 상기 이미지를 분석함으로써 이상 증상을 보이는 세포 조직을 구별할 수 있다. 하지만, 종래의 이미지 분석 장치의 이미지는 그 분해능이 높지 않아 이상 세포 조직을 의료 요원이 수작업으로 체크하고 구별해야 하는 불편함이 있다. 즉, 이미지 분석 장치에서 제시되는 이미지는 악성 종양과 양성 종양 등 종양 의심 후보를 가능한 많이 의료 요원에게 보여줄 필요가 있으며, 특정 물질을 구별해야 할 경우도 관련 후보를 가능한 최대로 제시해 줄 필요가 있다. The medical image analyzing apparatus described above may form an image using various wavelengths to diagnose various diseases and analyze the image to distinguish between cell tissues showing abnormal symptoms. However, the image of the conventional image analysis device does not have a high resolution, so there is an inconvenience that the medical personnel must manually check and distinguish the abnormal cell tissue. In other words, the image presented by the image analysis device needs to show as many suspected tumor candidates as possible to medical personnel, such as malignant tumors and benign tumors, and even when it is necessary to distinguish specific substances, it is necessary to present the relevant candidates to the maximum possible.
본 발명은 상기와 같은 종래 기술을 개선하기 위해 안출된 것으로서, 토포로지를 이용하여 세포 조직을 높은 분해능으로 표시할 수 있는 이미지 분석 시스템 및 방법을 제공하는 것을 목적으로 한다. The present invention has been made to improve the prior art as described above, and an object of the present invention is to provide an image analysis system and method that can display a cell tissue with a high resolution using a topology.
본 발명의 또 다른 목적은 토포로지와 정합을 이용하여 관심 영역을 높은 신뢰도로 추출할 수 있는 이미지 분석 시스템 및 장치를 제공하는 것이다.Still another object of the present invention is to provide an image analysis system and apparatus capable of extracting a region of interest with high reliability by using topology and matching.
상기의 목적을 이루고 종래기술의 문제점을 해결하기 위하여, 본 발명의 일 실시예에 따르면, 세포 조직에 의해 감쇠되는 빔 강도의 등고선 토포로지를 등고선 간 간격이 성긴 레벨부터 순차적으로 등고선 간 간격이 조밀한 레벨까지 형성하고, 토포로지의 변화로부터 토포로지 사이의 포함관계를 도출하는 이미징부; 및 상기 토포로지 사이의 포함 관계로부터 네스팅 깊이를 계산하여 관심 영역을 추출하는 추출부;를 포함하는 세포 조직의 이미지 분석 시스템이 제공된다.In order to achieve the above object and to solve the problems of the prior art, according to one embodiment of the present invention, the contour topography of the beam intensity attenuated by the cell tissue is densely spaced between contours sequentially from the coarse level between the contour lines An imaging unit which forms up to one level and derives a containment relationship between the topologies from the change of the topologies; And an extraction unit for extracting a region of interest by calculating a nesting depth from the inclusion relationship between the topologies.
본 발명의 다른 일 실시예에 따르면, 세포 조직에 의해 감쇠되는 빔 강도의 등고선 토포로지를 등고선 간 간격이 성긴 레벨부터 순차적으로 등고선 간 간격이 조밀한 레벨까지 형성하는 단계; 토포로지의 변화로부터 토포로지 사이의 포함 관계를 도출하는 단계; 및 상기 토포로지 사이의 포함 관계로부터 네스팅 깊이를 계산하여 관심 영역을 추출하는 단계;를 포함하는 세포 조직의 이미지 분석 방법이 제공된다.According to another embodiment of the present invention, the method comprises: forming a contour topology of beam intensity attenuated by cellular tissue from a level where spacing between contours is coarse to a level where the spacing between contours is denser; Deriving a containment relationship between the topologies from the change of the topologies; And extracting a region of interest by calculating a nesting depth from the inclusion relationship between the topologies.
본 발명의 일 실시예에 따르면, 세포 조직을 높은 분해능으로 표시할 수 있다.According to one embodiment of the present invention, the cell tissue can be displayed with high resolution.
또한 본 발명의 일 실시예에 따르면, 관심 영역을 높은 신뢰도로 추출할 수 있다.In addition, according to an embodiment of the present invention, the ROI may be extracted with high reliability.
이하에서는 첨부된 도면을 참조하여 본 발명의 실시예를 상세히 설명한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings.
도 1은 본 발명의 일 실시예에 따른 세포 조직의 이미지 분석 시스템의 구조를 보이는 개략도이다. 본 발명의 일 실시예에 따른 세포 조직의 이미지 분석 시스템(100)은 대상 세포 조직의 관심 영역을 추출하고자 한다. 여기서 관심 영역은 종양처럼 주변 세포 조직에 비해 밀도가 높은(또는 상이한) 조직 또는 뼈와 같이 다른 물질과 상이한 물질 등 의학적으로 진단을 위해 찾고자 하는 대상 세포 조직이 될 수 있다. 1 is a schematic view showing the structure of an image analysis system of cell tissue according to an embodiment of the present invention. The
도 1을 참조하면, 본 발명의 일 실시예에 따른 세포 조직의 이미지 분석 시스템(100)은 세포 조직에 의해 감쇠되는 빔 강도의 등고선 토포로지를 등고선 간 간격이 성긴 레벨부터 순차적으로 등고선 간 간격이 조밀한 레벨을 형성하고, 토포로지의 변화로부터 토포로지 사이의 포함관계를 도출하는 이미징부(101)와, 상기 토포로지 사이의 포함 관계로부터 네스팅 깊이를 계산하여 관심 영역을 추출하는 추출부(102)를 포함한다.Referring to FIG. 1, the
세포 조직에 조사되는 빔은 엑스레이, MRI의 전자기파, 초음파 등 다양한 광원을 사용할 수 있으며, 본 발명의 세포 조직의 이미지 분석 시스템은 어떠한 광원에도 모두 적용가능하다. The beam irradiated to the cell tissue may use various light sources such as X-rays, MRI electromagnetic waves, and ultrasonic waves, and the image analysis system of the cell tissue of the present invention may be applied to any light source.
본 발명의 일 실시예에 따른 세포 조직의 이미지 분석 시스템(100)의 이미징부(101)는 일단 세포 조직을 투과하거나 반사, 굴절된 빔이 형성하는 이미지로부터 빔의 강도에 따른 토포로지의 변화를 분석한다.The
이미지(I)는 Ω가 이미지(I(x))의 도메인을 나타내는 경우 수학식 1과 같이 나타낼 수 있다.The image I may be represented by Equation 1 when Ω represents a domain of the image I (x).
이 때 강도(Φ⊂ )에 있어 표면 입면도(elevation)는 다음의 수학식과 같이 나타낼 수 있다. In this case, the strength (Φ⊂ The surface elevation can be expressed by the following equation.
R(t)⊂Ω ()가 이미지 내 주어진 강도보다 더 높은 강도를 가진 콤팩트한 연결 영역인 경우 다음과 같이 정의된다.R (t) ⊂Ω ( ) Is a compact connection area with a higher intensity than a given intensity in the image.
주어진 레벨 t에서의 이미지의 등고선 Γ(t)는 영역 R(t)의 경계선으로 정 의된다.The contour line Γ (t) of the image at a given level t is defined as the boundary of the region R (t).
영역(R)이 콤팩트한 연결 영역이므로 이의 경계선인 등고선(Γ)는 단순 폐곡선으로 나타난다. 단순 폐곡선은 어떠한 점에서도 교차되는 곳이 없으며 단일 원에 대해 유사한 형태로 나타나며 조단 커브(Jordan curve)와 동일하다. 토포그래픽(topographic) 표시는 이미지의 강도 범위 전체에 다수의 구별되는 부분값에서의 등고선의 집합으로부터 얻어진다. 이 표시는 등고선 맵으로 칭할 수 있다. 이미지(I)에 대한 N 개의 정량점(quantization)을 가진 등고선 맵 MN(I)는 다음과 같이 주어진다.Since region R is a compact connection region, its boundary line contour Γ is represented by a simple closed curve. Simple closed curves do not intersect at any point and appear similar to a single circle and are identical to the Jordan curve. Topographical representation is obtained from a set of contours at a number of distinct partial values throughout the intensity range of the image. This display may be referred to as a contour map. The contour map M N (I) with N quantizations for image I is given as follows.
여기서,는 최소 강도 와 최대 강도 사이에 주어진 이미지 (I)의 강도 범위인 강도 에서의 등고선이다. M은 정량화 레벨의 수로서 스케일 인수(scale factor)이다. N의 선택은 검출되는 특징의 특성(specificity)과 관계가 있다. 큰 N은 조밀한(fine) 스케일 특징을 특징화하는 등고선 맵을 형성하 고, 작은 N은 성긴(coarse) 스케일 특징을 가지는 등고선 맵을 형성한다. 등고선 맵의 다중 스케일 특성은 성긴 스케일부터 조밀 스케일까지의 계층적 방식으로 분석되는 이미지 분석 특징에 대해 분해능을 강화시킬 수 있다.here, Is the minimum strength And maximum strength Intensity, which is the intensity range of the image (I) given in between Is the contour line at. M is the scale factor as the number of quantification levels. The choice of N is related to the specificity of the feature to be detected. Large N forms a contour map that characterizes fine scale features, while small N forms a contour map with coarse scale features. The multi-scale nature of the contour map can enhance resolution for image analysis features that are analyzed in a hierarchical manner from coarse to dense scale.
도 2a는 이미지의 표면 모델과 정량화되는 강도 값에 따른 등고선을 보이고, 도 2b는 설정된 레벨로 정량화되는 이미지에 겹쳐진 등고선을 보인다. 3차원 이미지 표면에 대한 등고선을 표시하기 위해 일련의 수평면을 가지는 이미지를 슬라이싱하여 표시할 수 있다. FIG. 2A shows the contour line according to the surface model of the image and the intensity value quantified, and FIG. 2B shows the contour line superimposed on the image quantified to the set level. In order to display contours on a three-dimensional image surface, an image having a series of horizontal planes can be sliced and displayed.
도 2a 및 도 2b를 참조하면, 이미지 표면은 반 타원 형상으로 모델링화된다.등고선의 곡선 패턴은 문턱값 으로 강도 레벨이 설정되어 이미지가 생성된다. 설정된 강도값에 대한 등고선 추적 과정에서, 그 연속성은 8개의 이웃 픽셀을 참조할 수 있다. 등고선에 대한 연속 곡선을 얻기 위하여, 이산(discrete) 이미지 모델을 연속 이미지로 변형하는 리샘플링이 필요하고 이산 보간법(bilinear interpolation)이 사용될 수 있다.2A and 2B, the image surface is modeled in a semi-ellipse shape. The curve pattern of the contour lines is a threshold value. The intensity level is set so that an image is generated. In the contour tracking process for the set intensity value, the continuity may refer to eight neighboring pixels. In order to obtain continuous curves for the contours, resampling to transform the discrete image model into continuous images is necessary and bilinear interpolation can be used.
등고선 맵은 이미지로부터 토포로지 및 기하학적인 정보를 추출하는데 효과적이다. 등고선의 패턴은 대응하는 이미지 콘텐츠의 기하학 및 토포로지 특성에 따라 구별된다. 가장 중요한 등고선 패턴의 하나는 네스팅(nesting) 패턴이다. 돌출(salient) 물체의 등고선은 일반적으로 조밀한 네스팅 모양을 형성한다. 종종, 물체의 등고선 형태는 물체 윤곽선과 유사하게 나타난다. 등고선의 조밀한 네스팅 패턴은 고명도 대비로 구별되는 물체의 윤곽선과 유사하게 형성되곤 한다. Contour maps are effective for extracting topology and geometric information from images. The pattern of contours is distinguished according to the geometry and topology properties of the corresponding image content. One of the most important contour patterns is the nesting pattern. Contours of salient objects generally form a dense nesting shape. Often, contour shapes of objects appear similar to object contours. Dense nesting patterns of contours often form similar to the contours of objects distinguished by high contrast.
네스팅 패턴과 함께, 등고선의 그레디언트는 돌출 물체의 특징에 대한 유용한 특징으로 선택될 수 있다. 강도가 물체의 윤곽선을 가로지르며 점차 감소하는 패턴은 조밀한 스케일의 등고선 맵에서 두드러진 윤곽선 패턴을 형성한다. 물체 윤곽선을 가로지르는 단일 강도의 변화는 윤곽선 패턴의 단일한 변화를 일으킨다. Along with the nesting pattern, the gradient of the contour can be selected as a useful feature for the feature of the projecting object. Gradually decreasing intensity as the intensity crosses the contour of an object forms a prominent contour pattern in a dense scale contour map. A change in single intensity across the object contour causes a single change in the contour pattern.
강도 그레디언트의 급격한 변화 영역에서 조밀한 네스팅 윤곽선 패턴을 발견할 수 있다. 성긴 윤곽선 패턴은 강도 그레디언트의 점진적인 변화 영역에서 발견될 수 있다. 가깝게 위치한 윤곽선은 급격한 경사(slope)영역에서 생성되고, 넓게 이격된 윤곽선은 부드러운 경사 영역에서 생성된다. 따라서, 등고선의 조밀한 네스팅 패턴은 물체에서 그 국소 배경까지의 강도와 지형에 있어 갑작스런 변화를 하는 물체의 구별되는 경계선을 나타낸다. 본 발명의 일 실시예에 따른 이미지 분석 시스템에서는 관심 영역를 추출하는 윤곽선을 선택하기 위해 토포로지와 기하학으로 등고선 전체의 특징을 분석한다. Dense nesting contour patterns can be found in the region of abrupt changes in intensity gradients. A sparse contour pattern can be found in the progressive change area of the intensity gradient. Closely located contours are produced in sharp slope regions, and widely spaced contours are produced in smooth slope regions. Thus, the dense nesting pattern of the contours represents the distinct boundary of the object with a sudden change in strength and terrain from the object to its local background. In the image analysis system according to an embodiment of the present invention, the entire contour is analyzed by topology and geometry in order to select the contour from which the ROI is extracted.
토포로지를 이용한 본 발명의 일 실시예에 따른 이미지 분석 시스템 장점은 토포로지 표시가 콘텍스트의 물체에 대해 형태, 크기 및 위치 정보를 주고, 이로부터 엑스레이 등 이미지 내 종양을 포함하는 관심 영역을 분류하고 검출하는 중요한 특징이 된다. 등고선 맵의 유용한 특징 중의 하나는 강도가 변화하더라도 불변성을 가진다는 것이다. 환자와 엑스레이 기계 등이 변화하는 환경 조건에서 세포 조직의 이미지를 신뢰도 있게 분석할 수 있다. 세포 조직의 이미지 강도값은 동일 환자에서조차 심하게 변할 수 있다. 실제로, 토포로지를 이용한 본 발명의 일 실시예에 따른 이미지 분석 시스템 및 방법은 아핀(affine: 거리, 넓이, 각을 제외한 나머지 성질이 변하지 않음) 불변성을 가지고 변화에 대한 강건한(robustness) 특징을 제공한다.An advantage of the image analysis system according to an embodiment of the present invention using a topology is that the topology display gives shape, size, and position information about an object in a context, from which a region of interest including a tumor in an image, such as an x-ray, is classified and It is an important feature to detect. One useful feature of the contour map is that it is invariant even when the intensity changes. Images of cellular tissue can be reliably analyzed under changing environmental conditions such as patients and x-ray machines. Image intensity values of cellular tissue can vary significantly even in the same patient. Indeed, the image analysis system and method according to an embodiment of the present invention using topologies provides robustness to change with affine invariance (affine). do.
본 발명의 일 실시예에 따른 이미지 분석 시스템(100)의 이미징부(101)에서 생성하는 빔 강도의 등고선 토포로지의 변화로부터 토포로지 간의 포함관계를 도출할 수 있다. The inclusion relationship between the topologies may be derived from the change of the contour topography of the beam intensity generated by the
윤곽선()의 차수(degree)는 로 나타낸다. 함유 트리에서 그 차수에 따라 노드는 브랜칭 노드 또는 비브랜칭 노드로 분류될 수 있다. 하나 이상의 자(子) 노드를 가진 노드는 브랜칭 노드라고 하고 단지 하나의 자 노드만을 가지거나 자 노드가 없는 노드는 비브랜칭 노드라고 한다. 브랜칭 노드의 윤곽선을 브랜칭 윤곽선이라고 하고 바로 아래의 자 노드의 윤곽선을 베이스 윤곽선이라고 한다. 터미널 노드는 0 차수의 윤곽선을 가지게 된다. contour( ) Degree is Respectively. Depending on their order in the containing tree, nodes may be classified as either branched nodes or non-branched nodes. Nodes with more than one child node are called branching nodes, and nodes with only one child node or no child nodes are called non-branching nodes. The contour of the branching node is called the branching contour and the contour of the child node immediately below is called the base contour. Terminal nodes will have zero-order contours.
도 3a는 포함관계를 나타내는 등고선 맵이고, 도 3b는 도 3a에 대응하는 함유 트리를 보인다.FIG. 3A is a contour map showing the inclusion relationship, and FIG. 3B shows the containing tree corresponding to FIG. 3A.
도 3a를 참조하면, 등고선 C1, C2, C3가 서로 포함관계를 이루고 등고선 S1, S2가 포함관계를 이루며 이들을 등고선 B가 포함한다. 등고선 사이의 포함 관계는 조단 커브 이론에 근거한다. 정확히 두 개의 연결 성분, 내부 및 외부로 이루어지는 유클리디안 평면 상의 조단 커브는 공통 윤곽선을 가진다. 두 개의 구별되는 등고선에 있어 두 윤곽선의 관계는 네스팅 패턴을 가지며, 서로 연결되지 않는다.Referring to FIG. 3A, the contour lines C1, C2, and C3 form an inclusion relationship, and the contour lines S1 and S2 form an inclusion relationship, and the contour line B includes them. The inclusion relationship between the contours is based on the Jordan curve theory. The Jordan curve on the Euclidean plane, consisting of exactly two connecting components, internal and external, has a common contour. In two distinct contours, the relationship of the two contours has a nesting pattern and is not connected to each other.
도 3b는 도 3a에 대응하도록 함유 트리를 형성하고 있다. 함유 트리의 노드는 윤곽선을 나타내고, 모 노드는 자 노드를 포함한다. 함유 트리의 가장 큰 윤곽선(I)는 전체 이미지의 윤곽선을 나타낸다. 등고선 B는 브랜칭 윤곽선(branching contour)이 되고, C3와 S2는 각각 토포로지가 변화하는 윤곽선으로 베이스 윤곽선(base contour)을 나타낸다. 그리고 C1과 S1은 터미널 윤곽선이 된다. FIG. 3B forms the containing tree so as to correspond to FIG. 3A. The nodes of the containing tree represent outlines, and the parent node includes child nodes. The largest outline I of the containing tree represents the outline of the whole image. Contour B becomes a branching contour, and C3 and S2 represent the base contours with contours of varying topologies, respectively. And C1 and S1 become terminal contours.
본 발명의 일 실시예에 따른 이미지 분석 시스템(100)의 이미징부(101)에서는 이와 같은 등고선 토포로지를 등고선 간 간격이 성긴 레벨부터 순차적으로 등고선 간 간격이 조밀한 레벨까지 형성한다. In the
도 4a는 등고선 간 간격이 성긴 레벨, 예를 들어 제1레벨에서 형성되는 등고선 토포로지를 보이는 도면이고, 도 4b는 도 4a에 대응하는 함유 트리를 보인다.FIG. 4A shows a contour topography formed at a sparse level, for example, a first level, and FIG. 4B shows a containing tree corresponding to FIG. 4A.
도 4a 및 도 4b를 참조하면, 가장 큰 윤곽선 C5부터 차례로 C4, C3, C2, C1 윤곽선이 그 내부에 포함되고 C5 윤곽선 내부에 토포로지가 변화하는 다른 하나의 등고선 C6가 포함된다. 이에 대응하는 함유 트리로부터 C5가 베이스 윤곽선이 되는 것을 알 수 있다.4A and 4B, the contours C4, C3, C2, and C1 are included in order from the largest contour C5 in turn, and another contour C6 is included in which the topology changes within the C5 contour. It can be seen from the corresponding containing tree that C5 becomes the base contour.
도 5a는 등고선 간 간격이 조밀한 레벨, 예를 들어 제2레벨에서 형성되는 등고선 토포로지를 보이는 도면이고, 도 5b는 도 5a에 대응하는 함유 트리를 보인다.FIG. 5A shows a contour topography formed at a dense level, e.g., a second level, and FIG. 5B shows a containing tree corresponding to FIG. 5A.
도 5a 및 도 5b를 참조하면, 가장 큰 윤곽선 C5 내부에 C4', C4, C3', C3, C2', C2, C1', C1 윤곽선이 그 내부에 포함되고 C5 윤곽선 내부에 토포로지가 변화하는 다른 하나의 토포로지로 등고선 C6가 있고 C6 내에 C6'가 포함된다. 등고선 C4, C3, C2, C1 및 C6는 제1레벨에서 이미 생성된 등고선으로 제2레벨로 등고선 토포로지를 형성할 때 그 내부에 포함되게 된다. 함유 트리로부터 C5가 베이스 윤곽선이 되는 것을 알 수 있다.5A and 5B, C4 ', C4, C3', C3, C2 ', C2, C1' and C1 contours are included inside the largest contour C5 and the topology changes within the C5 contour. Another topology is contour C6, with C6 'in C6. Contours C4, C3, C2, C1 and C6 will be included therein when forming contour topologies at the second level with contours already created at the first level. It can be seen from the containing tree that C5 becomes the base contour.
본 발명의 일 실시예에 따른 이미지 분석 시스템(100)의 이미징부(101)에서는 토포로지가 변화하는 첫번째 노드 윤곽선을 관심 영역의 베이스 폐곡선으로 설정한다. In the
본 발명의 일 실시예에 따른 이미지 분석 시스템(100)의 추출부(101)는 상기 토포로지의 포함관계로부터 네스팅 깊이를 계산하여 관심 영역을 추출한다. 토포로지의 포함관계는 상술한 바와 같이 함유 트리로 제시될 수 있으며, 본 발명의 일 실시예에 따른 이미지 분석 시스템(100)의 추출부(101)는 네스팅 깊이로서 한 토포로지 안에 포함되는 폐곡선의 개수를 계산한다. The
윤곽선(Γi)로부터 윤곽선(Γj)까지의 경로(Pi,j)를 윤곽선(Γi→ Γj)까지의 에지의 수로 정의할 수 있다. 즉, 경로()인 윤곽선() 은 다음의 조건을 만족한다.The path Pi, j from the contour Γi to the contour Γj may be defined as the number of edges from the contour Γi to Γj. That is, the path ( ) ) Satisfies the following conditions:
여기서, 는 공간적 포함관계를 나타낸다. 경로(Pi,j)의 길이는 L(Pi,j)로 나타내고 이는 네스팅 깊이를 나타낸다. here, Represents a spatial inclusion relationship. The length of the path Pi, j is represented by L (Pi, j) which represents the nesting depth.
베이스 윤곽선은 토포로지 특성에 있어 돌출 영역, 즉 관심 영역의 경계선으로 간주된다. 본 발명의 일 실시예에 따른 이미지 분석 시스템(100)의 추출부(102)는 네스팅 구조의 깊이를 계산하여 선택된 베이스 윤곽선의 돌출도를 측정한다. 이는 돌출 영역은 일반적으로 밀도가 높은 네스팅 패턴을 형성한다는 가정에 따른 것이다. 네스팅 깊이가 큰 베이스 윤곽선은 돌출 영역의 경계선을 표시할 수 있다. 함유 트리에서 네스팅 깊이는 베이스 윤곽선 내의 윤곽선 수로 정의한다. 즉, 베이스 윤곽선에서 터미널 윤곽선까지의 길이가 네스팅 깊이로 주어진다. 하지만, 설정된 윤곽선 내에 여러 자 트리가 포함될 수 있다. 이러한 경우 윤곽선으로부터 터미널 윤곽선까지의 네스팅 깊이값 중 최소 네스팅 깊이값을 돌출 정도로 정의한다. 베이스 윤곽선()에 대해 최소 네스팅 깊이값 은 다음과 같이 정의된다.The base contour is regarded as the boundary of the protruding region, ie the region of interest, in the topology property. The
여기서 Pt,b는 터미널 윤곽선()로부터 베이스 윤곽선()까지의 경로를 나타낸다.Where Pt, b is the terminal outline ( From the base contour ( Route to).
따라서, 도 4b에서 자 토포로지의 최소 네스팅 깊이는 2이고 결국 모 토포로지의 네스팅 깊이는 2가 된다. 도 5b에서 자 토포로지의 최소 네스팅 깊이는 3이 되고 이 값이 모 토포로지의 네스팅 깊이가 된다. Therefore, in FIG. 4B, the minimum nesting depth of the child topology is 2 and the nesting depth of the parent topology is 2. In FIG. 5B, the minimum nesting depth of the magnetic topology becomes 3 and this value becomes the nesting depth of the parent topology.
상술한 바와 같이 추출되는 관심 영역은 다수의 이미지에서 일치되어야 할 필요가 있다. 즉, 관심 영역의 신뢰도를 높이기 위해 다수의 이미지를 촬영하고 다수의 이미지에서 동일 세포 조직에 대한 관심 영역을 가능한 근접하게 정합시켜야 할 필요가 있다.As described above, the region of interest to be extracted needs to be matched in multiple images. In other words, in order to increase the reliability of the region of interest, it is necessary to take a plurality of images and match the region of interest for the same cell tissue as closely as possible in the multiple images.
본 발명의 일 실시예에 따른 이미지 분석 시스템(100)의 추출부(101)는 동일 세포 조직에 다수의 관심 영역을 매칭하여 상호 유사성이 기 설정된 값 보다 높은 관심 영역을 서로 정합한다. 이 때 노드인 윤곽선의 위치, 모양 또는 크기 등의 정보를 고려하여 매칭을 진행함으로써 관심 영역의 신뢰도를 향상시킬 수 있다.The
도 6a는 엑스레이로 유방을 촬영한 사진이고, 도 6b는 성긴 레벨로 등고선 맵을 그린 도면이고, 도 6c는 중간 레벨로 등고선 맵을 그린 도면이며, 도 6d는 조밀한 레벨로 등고선 맵을 그린 도면이다. 성긴 레벨에서 조밀한 레벨로 등고선을 그릴수록 관심 영역을 더욱 정확하게 도출할 수 있다. 하지만, 경우에 따라 레벨의 조밀도는 조절할 수 있으며, 일단 관심 영역이 어느 정도 도출된 상태에서 레벨의 조밀화를 정지할 수 있다. FIG. 6A is a photograph of a breast by X-ray, FIG. 6B is a drawing of a contour map at a coarse level, FIG. 6C is a drawing of a contour map at a medium level, and FIG. 6D is a drawing of a contour map at a dense level. to be. The more contours drawn from the coarse level to the dense level, the more precisely the area of interest can be derived. However, in some cases, the density of the level can be adjusted, and once the region of interest is derived to some extent, the level can be stopped.
도 7은 본 발명의 일 실시예에 따른 세포 조직의 이미지 분석 방법을 보이는 플로우 차트이다.7 is a flow chart showing an image analysis method of cell tissue according to an embodiment of the present invention.
도 7을 참조하면, 먼저 세포 조직에 의해 감쇠되는 빔 강도의 등고선 토포로지를 등고선 간 간격이 성긴 레벨부터 순차적으로 등고선 간 간격이 조밀한 레벨까지 형성한다(S1). 성긴 레벨을 제1레벨로 하는 경우 제1레벨에서 형성한 등고선 토포로지 중 문턱값이하의 네스팅 깊이를 가지는 등고선 토포로지를 먼저 필터링하 고 그 다음 단계로 등고선 간 간격이 제1레벨보다 조밀한 제2레벨을 설정하여 등고선 토포로지를 형성할 수 있다. 이 때 레벨의 설정은 등고선 간 간격의 조밀도에 따라 순차적으로 실행하고, 등고선 토포로지로부터 네스팅 깊이를 계산하며, 소정 관심 영역을 도출할 수 있을 때까지 반복 진행할 수 있다. Referring to FIG. 7, first, contour topologies of beam intensities attenuated by cell tissues are formed from coarse level lines to densely spaced intervals between contour lines (S1). When the coarse level is set as the first level, the contour topologies having nesting depths below the threshold value among the contour topologies formed in the first level are filtered first, and then, the interval between the contour lines is denser than the first level. The second level may be set to form a contour topology. At this time, the level can be set sequentially according to the density of the interval between the contour lines, the nesting depth can be calculated from the contour topology, and the process can be repeated until a predetermined region of interest can be derived.
그리고 토포로지의 변화로부터 토포로지 사이의 포함 관계를 도출한다(S2). 이 때 브랜칭 노드와 비브랜칭 노드가 구분되고 브랜칭 노드의 첫 번째 자 노드가 베이스 윤곽선이 된다. 베이스 윤곽선의 내부에는 하나 이상의 자 윤곽선이 포함될 수 있다. Then, the inclusion relationship between the topologies is derived from the change of the topologies (S2). At this time, the branching node and the non-branching node are separated, and the first child node of the branching node becomes the base outline. One or more child contours may be included in the base contour.
그 다음, 상기 토포로지 사이의 포함 관계로부터 네스팅 깊이를 계산한다(S3). 네스팅 깊이는 베이스 윤곽선 내에 포함되는 자 윤곽선의 개수로 설정할 수 있다. 또한 모 토포로지의 베이스 윤곽선 내에 자 토포로지가 두 개 이상 존재하는 경우 네스팅 깊이가 가장 작은 자 토포로지의 네스팅 깊이를 모 토포로지의 네스팅 깊이값으로 설정한다.Next, the nesting depth is calculated from the inclusion relationship between the topologies (S3). The nesting depth may be set to the number of child contours included in the base contour. In addition, when two or more child topologies exist in the base contour of the parent topology, the nesting depth of the child topology that has the smallest nesting depth is set as the nesting depth value of the topology.
마지막으로 소정 네스팅 깊이값을 가지는 토포로지의 세포 조직을 관심 영역으로 추출한다(S4)Finally, the tissue of the topology having a predetermined nesting depth value is extracted into the region of interest (S4).
본 발명의 일 실시예에 따른 세포 조직의 이미지 분석 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴 퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The image analysis method of cell tissues according to an embodiment of the present invention may be implemented in the form of program instructions that may be executed by various computer means, and may be recorded on a computer readable medium. The computer readable medium may include program instructions, data files, data structures, etc. alone or in combination. Program instructions recorded on the media may be those specially designed and constructed for the present invention, or they may be of the kind well-known and available to those having skill in the computer software arts. Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks, and magnetic tape, optical media such as CD-ROMs, DVDs, and magnetic disks, such as floppy disks. Magneto-optical media, and hardware devices specifically configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions include not only machine code generated by a compiler, but also high-level language code that can be executed by a computer using an interpreter or the like. The hardware device described above may be configured to operate as one or more software modules to perform the operations of the present invention, and vice versa.
이상과 같이 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 이는 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 따라서, 본 발명 사상은 아래에 기재된 특허청구범위에 의해서만 파악되어야 하고, 이의 균등 또는 등가적 변형 모두는 본 발명 사상의 범주에 속한다고 할 것이다.As described above, the present invention has been described by way of limited embodiments and drawings, but the present invention is not limited to the above-described embodiments, which can be variously modified and modified by those skilled in the art to which the present invention pertains. Modifications are possible. Accordingly, the spirit of the present invention should be understood only in accordance with the following claims, and all equivalents or equivalent variations thereof are included in the scope of the present invention.
도 1은 본 발명의 일 실시예에 따른 세포 조직의 이미지 분석 시스템의 구조를 보이는 개략도,1 is a schematic view showing the structure of an image analysis system of cell tissue according to an embodiment of the present invention;
도 2a는 이미지의 표면 모델과 정량화되는 강도 값에 따른 등고선을 보이는 도면, 2A shows contours according to the surface model of an image and intensity values quantified,
도 2b는 설정된 레벨로 정량화되는 이미지에 겹쳐진 등고선을 보이는 도면,2b is a view showing contours superimposed on an image quantified to a set level;
도 3a는 포함관계를 나타내는 등고선 맵을 보이는 도면, 3A is a view showing a contour map showing a containment relationship;
도 3b는 도 3a에 대응하는 함유 트리를 보이는 도면,3b shows a containing tree corresponding to FIG. 3a,
도 4a는 등고선 간 간격이 성긴 레벨, 예를 들어 제1레벨에서 형성되는 등고선 토포로지를 보이는 도면, 4a shows a contour topography formed at a sparse level, for example at a first level, between contours;
도 4b는 도 4a에 대응하는 함유 트리를 보이는 도면,4b shows a containing tree corresponding to FIG. 4a, FIG.
도 5a는 등고선 간 간격이 조밀한 레벨, 예를 들어 제2레벨에서 형성되는 등고선 토포로지를 보이는 도면, 5a shows a contour topography formed at a dense level, e.g., a second level, between contours;
도 5b는 도 5a에 대응하는 함유 트리를 보이는 도면,5b shows a containing tree corresponding to FIG. 5a,
도 6a는 엑스레이로 유방을 촬영한 사진이고, Figure 6a is a photograph taken of the breast by X-rays,
도 6b는 도 6a에 대응하여 성긴 레벨로 등고선 맵을 그린 도면, FIG. 6B illustrates a contour map at a sparse level corresponding to FIG. 6A; FIG.
도 6c는 도 6a에 대응하여 중간 레벨로 등고선 맵을 그린 도면이며, FIG. 6C illustrates a contour map at an intermediate level corresponding to FIG. 6A.
도 6d는 도 6a에 대응하여 조밀한 레벨로 등고선 맵을 그린 도면FIG. 6D illustrates a contour map at a dense level corresponding to FIG. 6A
도 7은 본 발명의 일 실시예에 따른 세포 조직의 이미지 분석 방법을 보이는 플로우 차트.7 is a flow chart showing an image analysis method of cell tissue according to an embodiment of the present invention.
Claims (21)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020090101685A KR101153627B1 (en) | 2009-10-26 | 2009-10-26 | Image analysys system of cellular tissue and method thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020090101685A KR101153627B1 (en) | 2009-10-26 | 2009-10-26 | Image analysys system of cellular tissue and method thereof |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20110045224A KR20110045224A (en) | 2011-05-04 |
KR101153627B1 true KR101153627B1 (en) | 2012-06-18 |
Family
ID=44240309
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020090101685A Expired - Fee Related KR101153627B1 (en) | 2009-10-26 | 2009-10-26 | Image analysys system of cellular tissue and method thereof |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101153627B1 (en) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013049312A2 (en) * | 2011-09-29 | 2013-04-04 | Carnegie Mellon University | Segmenting biological structures from microscopy images |
KR101303128B1 (en) * | 2012-07-23 | 2013-09-09 | 중앙대학교 산학협력단 | Apparatus and method for generating contour map |
KR101396308B1 (en) * | 2013-05-14 | 2014-05-27 | 인하대학교 산학협력단 | A method for extracting morphological features for grading pancreatic ductal adenocarcinomas |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20080027861A (en) * | 2005-07-01 | 2008-03-28 | 유니버시티 칼리지 카디프 컨설턴츠 리미티드 | Image processing |
KR100916474B1 (en) | 2009-04-28 | 2009-09-08 | 최준수 | A recording medium that decomposes the area represented by the contour into detailed polygonal areas, calculates the numerical elevation model data and the terrain surface composition data, and a program for executing the method. |
US20100046814A1 (en) | 2008-05-08 | 2010-02-25 | Agfa Healthcare Nv | Method for Mass Candidate Detection and Segmentation in Digital Mammograms |
-
2009
- 2009-10-26 KR KR1020090101685A patent/KR101153627B1/en not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20080027861A (en) * | 2005-07-01 | 2008-03-28 | 유니버시티 칼리지 카디프 컨설턴츠 리미티드 | Image processing |
US20100046814A1 (en) | 2008-05-08 | 2010-02-25 | Agfa Healthcare Nv | Method for Mass Candidate Detection and Segmentation in Digital Mammograms |
KR100916474B1 (en) | 2009-04-28 | 2009-09-08 | 최준수 | A recording medium that decomposes the area represented by the contour into detailed polygonal areas, calculates the numerical elevation model data and the terrain surface composition data, and a program for executing the method. |
Non-Patent Citations (1)
Title |
---|
논문1-MICCAI2003 LNCS2879,PP730-737,2003 * |
Also Published As
Publication number | Publication date |
---|---|
KR20110045224A (en) | 2011-05-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101421745B (en) | Spatial-temporal lesion detects, and cuts apart and diagnostic information extraction system and method | |
US11013495B2 (en) | Method and apparatus for registering medical images | |
EP2194505B1 (en) | Method and apparatus for segmenting spine and aorta in a medical image according to a skeletal atlas | |
CN111179237B (en) | Liver and liver tumor image segmentation method and device | |
Nasor et al. | Detection and Localization of Early‐Stage Multiple Brain Tumors Using a Hybrid Technique of Patch‐Based Processing, k‐means Clustering and Object Counting | |
JP2014161734A (en) | Method and apparatus for matching medical images | |
EP3352135B1 (en) | Method and apparatus for segmentation of blood vessels | |
Ahammad et al. | Image processing based segmentation techniques for spinal cord in MRI | |
US9367924B2 (en) | Method and system for segmentation of the liver in magnetic resonance images using multi-channel features | |
CN112043378B (en) | Method and system for providing navigation support to a person to navigate about a resected part | |
EP1272976A1 (en) | Vessel delineation in magnetic resonance angiographic images | |
US20080171932A1 (en) | Method and System for Lymph Node Detection Using Multiple MR Sequences | |
CN109478327A (en) | A method for automatic detection of systemic arteries in any field of view computed tomography angiography (CTA) | |
Moriconi et al. | Inference of cerebrovascular topology with geodesic minimum spanning trees | |
Qiu et al. | Lung Nodules Detection in CT Images Using Gestalt‐Based Algorithm | |
KR101153627B1 (en) | Image analysys system of cellular tissue and method thereof | |
CN109615656A (en) | A Spine Localization Method Based on Model Search | |
JP4505805B2 (en) | Region extraction method and apparatus | |
Vasilache et al. | Automated bone segmentation from pelvic CT images | |
CN114897904B (en) | Method and device for determining fractional flow reserve based on MRA sequence image | |
CN116563256A (en) | Vascular stenosis rate and embolism grade determining method, device and storage medium | |
JP2015156894A (en) | Medical image processor, medical object area extraction method thereof and medical object area extraction processing program | |
Judice et al. | A novel assessment of various bio-imaging methods for lung tumor detection and treatment by using 4-D and 2-D CT images | |
Kim et al. | Development of automated 3D knee bone segmentation with inhomogeneity correction for deformable approach in magnetic resonance imaging | |
Noorda et al. | Segmentation of the Cartilage in the Rib Cage in 3D MRI |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
PA0109 | Patent application |
St.27 status event code: A-0-1-A10-A12-nap-PA0109 |
|
PA0201 | Request for examination |
St.27 status event code: A-1-2-D10-D11-exm-PA0201 |
|
D13-X000 | Search requested |
St.27 status event code: A-1-2-D10-D13-srh-X000 |
|
PG1501 | Laying open of application |
St.27 status event code: A-1-1-Q10-Q12-nap-PG1501 |
|
D14-X000 | Search report completed |
St.27 status event code: A-1-2-D10-D14-srh-X000 |
|
E902 | Notification of reason for refusal | ||
PE0902 | Notice of grounds for rejection |
St.27 status event code: A-1-2-D10-D21-exm-PE0902 |
|
PN2301 | Change of applicant |
St.27 status event code: A-3-3-R10-R11-asn-PN2301 St.27 status event code: A-3-3-R10-R13-asn-PN2301 |
|
AMND | Amendment | ||
E13-X000 | Pre-grant limitation requested |
St.27 status event code: A-2-3-E10-E13-lim-X000 |
|
P11-X000 | Amendment of application requested |
St.27 status event code: A-2-2-P10-P11-nap-X000 |
|
P13-X000 | Application amended |
St.27 status event code: A-2-2-P10-P13-nap-X000 |
|
E601 | Decision to refuse application | ||
PE0601 | Decision on rejection of patent |
St.27 status event code: N-2-6-B10-B15-exm-PE0601 |
|
T11-X000 | Administrative time limit extension requested |
St.27 status event code: U-3-3-T10-T11-oth-X000 |
|
AMND | Amendment | ||
E13-X000 | Pre-grant limitation requested |
St.27 status event code: A-2-3-E10-E13-lim-X000 |
|
P11-X000 | Amendment of application requested |
St.27 status event code: A-2-2-P10-P11-nap-X000 |
|
P13-X000 | Application amended |
St.27 status event code: A-2-2-P10-P13-nap-X000 |
|
PX0901 | Re-examination |
St.27 status event code: A-2-3-E10-E12-rex-PX0901 |
|
PX0701 | Decision of registration after re-examination |
St.27 status event code: A-3-4-F10-F13-rex-PX0701 |
|
X701 | Decision to grant (after re-examination) | ||
GRNT | Written decision to grant | ||
PR0701 | Registration of establishment |
St.27 status event code: A-2-4-F10-F11-exm-PR0701 |
|
PR1002 | Payment of registration fee |
Fee payment year number: 1 St.27 status event code: A-2-2-U10-U11-oth-PR1002 |
|
PG1601 | Publication of registration |
St.27 status event code: A-4-4-Q10-Q13-nap-PG1601 |
|
PN2301 | Change of applicant |
St.27 status event code: A-5-5-R10-R11-asn-PN2301 St.27 status event code: A-5-5-R10-R13-asn-PN2301 |
|
PN2301 | Change of applicant |
St.27 status event code: A-5-5-R10-R11-asn-PN2301 St.27 status event code: A-5-5-R10-R13-asn-PN2301 |
|
FPAY | Annual fee payment |
Payment date: 20150417 Year of fee payment: 4 |
|
PR1001 | Payment of annual fee |
Fee payment year number: 4 St.27 status event code: A-4-4-U10-U11-oth-PR1001 |
|
FPAY | Annual fee payment |
Payment date: 20160325 Year of fee payment: 5 |
|
PR1001 | Payment of annual fee |
Fee payment year number: 5 St.27 status event code: A-4-4-U10-U11-oth-PR1001 |
|
P22-X000 | Classification modified |
St.27 status event code: A-4-4-P10-P22-nap-X000 |
|
FPAY | Annual fee payment |
Payment date: 20170327 Year of fee payment: 6 |
|
PR1001 | Payment of annual fee |
Fee payment year number: 6 St.27 status event code: A-4-4-U10-U11-oth-PR1001 |
|
FPAY | Annual fee payment |
Payment date: 20180406 Year of fee payment: 7 |
|
PR1001 | Payment of annual fee |
Fee payment year number: 7 St.27 status event code: A-4-4-U10-U11-oth-PR1001 |
|
R18-X000 | Changes to party contact information recorded |
St.27 status event code: A-5-5-R10-R18-oth-X000 |
|
PN2301 | Change of applicant |
St.27 status event code: A-5-5-R10-R11-asn-PN2301 St.27 status event code: A-5-5-R10-R13-asn-PN2301 |
|
PN2301 | Change of applicant |
St.27 status event code: A-5-5-R10-R11-asn-PN2301 St.27 status event code: A-5-5-R10-R13-asn-PN2301 |
|
FPAY | Annual fee payment |
Payment date: 20190807 Year of fee payment: 8 |
|
PR1001 | Payment of annual fee |
Fee payment year number: 8 St.27 status event code: A-4-4-U10-U11-oth-PR1001 |
|
PC1903 | Unpaid annual fee |
Not in force date: 20200531 Payment event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE St.27 status event code: A-4-4-U10-U13-oth-PC1903 |
|
PC1903 | Unpaid annual fee |
Ip right cessation event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE Not in force date: 20200531 St.27 status event code: N-4-6-H10-H13-oth-PC1903 |
|
PN2301 | Change of applicant |
St.27 status event code: A-5-5-R10-R11-asn-PN2301 St.27 status event code: A-5-5-R10-R13-asn-PN2301 |
|
R18-X000 | Changes to party contact information recorded |
St.27 status event code: A-5-5-R10-R18-oth-X000 |