[go: up one dir, main page]

KR101436835B1 - Apparatus and method for determining data for performing backlight correction in a digital image processor - Google Patents

Apparatus and method for determining data for performing backlight correction in a digital image processor Download PDF

Info

Publication number
KR101436835B1
KR101436835B1 KR1020080031716A KR20080031716A KR101436835B1 KR 101436835 B1 KR101436835 B1 KR 101436835B1 KR 1020080031716 A KR1020080031716 A KR 1020080031716A KR 20080031716 A KR20080031716 A KR 20080031716A KR 101436835 B1 KR101436835 B1 KR 101436835B1
Authority
KR
South Korea
Prior art keywords
exposure
image
face
exposure value
digital image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
KR1020080031716A
Other languages
Korean (ko)
Other versions
KR20090106171A (en
Inventor
김영걸
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020080031716A priority Critical patent/KR101436835B1/en
Publication of KR20090106171A publication Critical patent/KR20090106171A/en
Application granted granted Critical
Publication of KR101436835B1 publication Critical patent/KR101436835B1/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

본 발명은 디지털 영상 처리 장치 및 방법에 관한 것으로, 보다 상세하게는 다중 얼굴 인식된 노출 브라케팅 영상을 광 역광 보정을 수행하기 위한 기준 데이터로 제공하는 디지털 영상 처리기에서 광 역광 보정을 수행하기 위한 데이터 결정 장치 및 방법에 관한 것이다. 디지털 영상 처리기에서 광 역광 보정을 수행하기 위한 데이터 결정 장치는 디지털 영상 처리기로써, 라이브뷰 영상의 얼굴 인식 결과 다중의 인물이 검색된 경우, 검색된 다중 얼굴들의 노출을 측정하고, 노출 브라케팅 촬영을 수행하여 광 역광 보정을 수행하기 위한 기준 데이터로 제공하는 디지털 신호 처리수단을 포함한다.

Figure R1020080031716

얼굴인식, 노출 측정, 노출 브라케팅, WDR 수행

The present invention relates to a digital image processing apparatus and method, and more particularly, to a digital image processor for providing an exposure bracketing image as a reference data for performing backlight correction, Apparatus and method. The data determination device for performing the backlight correction in the digital image processor is a digital image processor. When a plurality of persons are searched for the face recognition result of the live view image, the exposure of the detected multiple faces is measured, And digital signal processing means for providing as reference data for performing backlight correction.

Figure R1020080031716

Face Recognition, Exposure Measurement, Exposure Bracketing, WDR

Description

디지털 영상 처리기에서 광 역광 보정을 수행하기 위한 데이터 결정 장치 및 방법{Data decision apparatus and method for performing wide dynamic range in digital image processing device}BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a data decision apparatus and method for performing optical backlight correction in a digital image processor,

본 발명은 디지털 영상 처리 장치 및 방법에 관한 것으로, 보다 상세하게는 다중 얼굴 인식된 노출 브라케팅 영상을 광 역광 보정을 수행하기 위한 기준 데이터로 제공하는 디지털 영상 처리기에서 광 역광 보정을 수행하기 위한 데이터 결정 장치 및 방법에 관한 것이다.The present invention relates to a digital image processing apparatus and method, and more particularly, to a digital image processor for providing an exposure bracketing image as a reference data for performing backlight correction, Apparatus and method.

현재 디지털 영상 처리 장치는 얼굴인식 알고리즘이 기본으로 탑재되어 있는 추세이다. 이를 이용하여 자동 조첨 및 자동 노출을 행하는 것이 종래의 기술로 개시되어 있다. 여기서 자동 노출의 경우, 노출 평가치 데이터를 기준으로 노출값을 결정하게 되는데, 이 노출 평가치는 일반적으로 Ideal Gray 상태의 명도를 기준으로 삼기 때문에, 만약 노출 평가치 데이터가 알고리즘을 설계했던 기준 데이터와 다른 경우에 오차가 생길 수 밖에 없는 단점이 있다.Currently, the digital image processing apparatus is equipped with a face recognition algorithm as a basic feature. And the automatic exposure and the automatic exposure are performed by using this technique. In the case of automatic exposure, the exposure value is determined based on the exposure evaluation data. Since the exposure evaluation value is generally based on the brightness of the ideal gray state, if the exposure evaluation data is different from the reference data on which the algorithm is designed There is a disadvantage in that there is an error.

예를 들어, 동양계의 일반적인 피부색을 가진 사람을 가지고 알고리즘을 만들었을 경우, 얼굴이 하얀 사람으로 노출 평가를 진행하게 되면 노출 부족 현상이, 얼굴이 검은 사람을 기준으로 노출 평가를 하게 되면, 노출 오버 현상이 생길 수 밖에 없다. 하지만 디지털 카메라는 촬영 시의 피사체가 되는 인물이 어느 색의 피부를 가지고 있는지 판정하기 어려우므로, 기존의 알고리즘 대로 했을 경우에는 위와 같은 현상을 피하기 어렵게 된다.For example, if an algorithm is created with a person with a common skin color in the Asian world, if the face is evaluated as an exposed person, then the under-exposure phenomenon occurs. If the face is evaluated based on the black person, The phenomenon can not but occur. However, since it is difficult for a digital camera to determine which color of a person who is a subject at the time of photographing has the skin, it is difficult to avoid the above phenomenon when the conventional algorithm is used.

도 6을 참조하면, 얼굴 검출하고 검출된 얼굴을 대상으로 노출 평가 데이터를 취득한 후, 휘도 데이터를 기준으로 평균을 취하여 Natural Gray와 비교한 후 일반적인 노출 평가치 데이터가 클 경우에는 -Ev를, 노출 평가 데이터가 작은 경우에는 +Ev를 적용하게 되며, 그 정도는 명도의 차이에 따라 결정되는 것이 종래의 얼굴인식 기반의 노출 시스템이다.Referring to FIG. 6, after detecting faces and acquiring exposure evaluation data on the detected faces, an average is taken based on the luminance data, and compared with Natural Gray, -Ev when general exposure evaluation value data is large, When the evaluation data is small, + Ev is applied, and the degree is determined according to the difference in brightness is the conventional face recognition based exposure system.

종래의 디지털 영상 처리기 메이커들은 일본을 기준으로 만들어 졌기 때문에, 피부색에 대해서 동양계의 피부색을 가진 인물을 기준으로 알고리즘을 만든 경우가 많았다. 이는 동양인의 피부색 반사도가 Natural Gray에 가깝기 때문이었다. 그러나 디지털 영상 처리 장치의 피사체는 동양인 뿐만 아니라 백인, 흑인의 피부색을 가진 사람이 될 수 있기 때문에 기준점을 잡는 것이 중요하다. 더욱이 2인 이상의 피사체를 촬영하는 경우, 만약 얼굴 색이 극명하게 차이가 난다면(예를 들어 흑인과 백인) 둘 중 하나, 또는 둘 다 노출이 실패 할 수 밖에 없는 단점을 가지고 있다. 이러한 노출 차이를 극복하기 위해 광 역광 보정(WDR: wide dynamic range)을 하는 방법이 나와 있으나, 이를 수행하고자 할 때 기준이 되는 데이터를 획득하는 것에 대한 명확한 기준이 없었다.Conventional digital image processor makers are based on Japan, so they have often made algorithms based on a person with a skin color of Asian skin color. This is because the skin color reflectance of Oriental people is close to Natural Gray. However, it is important to catch the reference point because the subject of the digital image processing apparatus can be not only Asian but also white and black skin color person. Furthermore, when two or more subjects are photographed, it is disadvantageous that the exposure fails if the color of the face differs significantly (for example, black and white), or both. To overcome this exposure difference, there is a method of wide dynamic range (WDR), but there is no clear standard for acquiring the data to be used when doing this.

본 발명이 해결하고자 하는 기술적인 과제는 다중 얼굴 인식된 노출 브라케팅 영상을 광 역광 보정을 수행하기 위한 기준 데이터로 제공하는 디지털 영상 처리기에서 광 역광 보정을 수행하기 위한 데이터 결정 장치 및 방법을 제공하는데 있다. SUMMARY OF THE INVENTION The present invention provides a data determination apparatus and method for performing a backlight correction in a digital image processor that provides an exposure bracketing image as a reference data for performing backlight correction .

본 발명이 이루고자 하는 기술적인 과제를 해결하기 위한 디지털 영상 처리기에서 광 역광 보정을 수행하기 위한 데이터 결정 장치는 디지털 영상 처리기로써, 라이브뷰 영상의 얼굴 인식 결과 다중의 인물이 검색된 경우, 상기 검색된 다중 얼굴들의 노출을 측정하고, 노출 브라케팅 촬영을 수행하여 광 역광 보정을 수행하기 위한 기준 데이터로 제공하는 디지털 신호 처리수단을 포함하는 것이 바람직하다.According to an aspect of the present invention, there is provided a digital image processor for performing a backlight correction in a digital image processor. In the digital image processor, when a plurality of persons are searched for a face recognition result of a live view image, And a digital signal processing means for performing exposure bracketing photography and providing the reference data as reference data for performing backlight compensation.

본 발명에 있어서, 상기 디지털 신호 처리수단은 상기 라이브뷰 영상에 대한 얼굴 인식을 수행하는 얼굴 인식부; 상기 얼굴 인식 결과 검색된 다중 얼굴들의 노출을 측정하는 노출 측정부; 상기 측정된 노출값을 기반으로 한 노출 브라케팅 촬영을 수행하는 제어부; 및 상기 노출 브라케이 촬영된 영상을 입력 데이터로 하여 광 역광 보정을 수행하는 광 역광 보정 수행부를 포함할 수 있다.In the present invention, the digital signal processing means may include a face recognition unit for performing face recognition on the live view image; An exposure measuring unit for measuring exposure of the multiple faces detected as the face recognition result; A control unit for performing exposure bracketing photographing based on the measured exposure value; And an optical backlight compensation performing unit for performing backlight compensation using the image photographed by the exposure bracket as input data.

본 발명에 있어서, 상기 제어부는 노출 브라케팅 촬영 시에 상기 노출 측정부에서 측정한 가장 낮은 노출값을 갖는 얼굴을 기준으로 상기 영상을 촬영하고, 가장 높은 노출값을 갖는 얼굴을 기준으로 상기 영상을 촬영하도록 제어할 수 있다.In the present invention, the control unit may be configured to photograph the image on the basis of a face having the lowest exposure value measured by the exposure measuring unit at the time of exposure bracketing, and to shoot the image based on a face having the highest exposure value can do.

본 발명이 이루고자 하는 기술적인 과제를 해결하기 위한 디지털 영상 처리기에서 광 역광 보정을 수행하기 위한 데이터 결정 방법은 디지털 영상 처리기의 동작 방법으로써, (a) 라이브뷰 영상의 얼굴 인식을 수행하는 단계; (b) 상기 얼굴 인식 수행 결과 다중의 얼굴이 검색된 경우, 상기 검색된 다중 얼굴들의 노출을 측정하는 단계; 및 (c) 상기 측정된 노출값을 기반으로 한 노출 브라케팅 촬영을 수행하여 광 역광 보정을 수행하기 위한 기준 데이터로 제공하는 단계를 포함하는 것이 바람직하다.According to an aspect of the present invention, there is provided a method for determining a data backlight correction in a digital image processor, the method comprising: (a) performing face recognition of a live view image; (b) measuring the exposure of the multiple faces when the multiple faces are searched as a result of the face recognition; And (c) providing an exposure bracketing photograph based on the measured exposure value as reference data for performing backlight compensation.

본 발명에 있어서, 상기 (c)단계에서 노출 브라케팅 촬영 시에, 상기 측정된 가장 낮은 노출값을 갖는 얼굴을 기준으로 상기 영상을 촬영하고, 가장 높은 노출값을 갖는 얼굴을 기준으로 상기 영상을 촬영할 수 있다.In the present invention, at the time of the exposure bracketing in the step (c), the image is photographed based on the face having the lowest exposure value measured, and the image is photographed based on the face having the highest exposure value .

상술한 바와 같이 본 발명에 따르면, 다중 얼굴 인식된 노출 브라케팅 영상을 광 역광 보정을 수행하기 위한 기준 데이터로 제공함으로써, 얼굴의 반사도 차이로 인한 노출 실패를 줄일 수 있는 효과를 창출한다.As described above, according to the present invention, exposure bracketing images recognized as multiple faces are provided as reference data for performing backlight correction, thereby reducing the exposure failure due to the difference in the reflectance of the face.

이하, 첨부된 도면을 참조하여 본 발명을 상세히 설명한다.Hereinafter, the present invention will be described in detail with reference to the accompanying drawings.

도 1은 디지털 영상 처리기의 앞쪽 및 위쪽 외형을 보여주는 사시도 이다.BRIEF DESCRIPTION OF THE DRAWINGS Figure 1 is a perspective view showing the front and top contours of a digital image processor.

셔터-릴리즈 버튼(11)은 정해진 시간 동안 CCD나 필름을 빛에 노출시키기 위 해 열리고 닫히며, 조리개(미도시)와 연동하여 피사체를 적정하게 노출시켜 CCD에 영상을 기록한다. The shutter-release button 11 is opened and closed to expose the CCD or film to light for a predetermined time, and the image is recorded on the CCD by properly exposing the subject in cooperation with the aperture (not shown).

셔터-릴리즈 버튼(11)은 촬영자 입력에 의해 제1 및 제2 영상 촬영 신호를 생성한다. 반셔터 신호로써의 제1 셔터-릴리즈 버튼(11)이 입력되면, 디지털 영상 처리기는 초점을 잡고 빛의 양을 조절하며, 이때 초점이 맞은 경우 디스플레이부(25)에 녹색 불이 켜지게 된다. 제1 셔터-릴리즈 버튼(11)의 입력으로 초점이 잡히고 빛의 양이 조절되면, 비로소 완전셔터 신호로써의 제2 셔터-릴리즈 버튼(11)을 입력하여 영상을 촬영한다.The shutter-release button 11 generates the first and second image pickup signals by the photographer input. When the first shutter-release button 11 is input as a half-shutter signal, the digital image processor focuses and adjusts the amount of light. At this time, the display unit 25 lights green. When the focus of the first shutter-release button 11 is focused and the amount of light is adjusted, a second shutter-release button 11 as a full shutter signal is input to capture an image.

전원 버튼(13)은 디지털 영상 처리기에 전원을 공급하여 동작시키기 위해 입력된다.The power button 13 is input for supplying power to the digital image processor and operating it.

플래시(15)는 어두운 곳에서 촬영할 경우 밝은 빛을 순간적으로 비추어 밝게 해주는 것으로 플래시 모드에는 자동플래시, 강제발광, 발광금지, 적목감소, 슬로우 싱크로 등이 있다. The flash 15 illuminates bright light momentarily when shooting in a dark place. The flash mode includes auto flash, forced flash, no flash, red-eye reduction, and slow synchro flash.

보조광(17)은 광량이 부족하거나 야간 촬영 시에 디지털 영상 처리기가 자동으로 초점을 빠르고 정확하게 잡을 수 있도록 피사체에 광을 공급한다.The auxiliary light 17 supplies light to the subject so that the digital image processor automatically catches the focus quickly and accurately at the time of lack of light or at night.

렌즈부(19)는 외부 광원으로부터 빛을 받아 영상을 처리한다. The lens unit 19 receives light from an external light source and processes the image.

도 2는 도 1에 도시된 디지털 영상 처리기의 뒤쪽 외형을 보여주는 배면도로서, 광각-줌 버튼(21w), 망원-줌 버튼(21t), 디스플레이부(23) 및 터치센서 또는 접점식 스위치가 구비된 입력 버튼들(B1~B14)(이하 버튼들(B1~B14)이라 표기함)을 구비한다.FIG. 2 is a rear view showing the rear external appearance of the digital image processor shown in FIG. 1. The wide-angle zoom button 21w, the telephoto-zoom button 21t, the display unit 23, Input buttons B1 to B14 (hereinafter referred to as buttons B1 to B14).

광각-줌 버튼(21w) 또는 망원-줌 버튼(21t)은 입력에 따라 화각이 넓어지거나, 화각이 좁아지는데, 특히, 선택된 노출영역의 크기를 변경시키고자 할 때 입력한다. 광각-줌 버튼(21w)이 입력되면, 선택된 노출영역의 크기가 작아지고, 망원-줌 버튼(21t)이 입력되면, 선택된 노출영역의 크기가 커진다. The wide-angle zoom button 21w or the telephoto-zoom button 21t widens the view angle or narrows the view angle depending on the input, in particular, when the size of the selected exposure area is to be changed. When the wide angle-zoom button 21w is input, the size of the selected exposure area is reduced, and when the telephoto-zoom button 21t is input, the size of the selected exposure area is increased.

버튼들(B1~B14)은 디스플레이부(23)의 가로 열 및 세로 열에 구비된다. 디스플레이부(23)의 가로 열 및 세로 열에 구비된 버튼들(B1~B14)은 터치 센서(도시되지 않음) 또는 접점식 스위치(도시되지 않음)가 구비되어 있다.The buttons B1 to B14 are provided in the rows and columns of the display unit 23. The buttons B1 to B14 provided in the row and column of the display unit 23 are provided with a touch sensor (not shown) or a contact type switch (not shown).

즉, 버튼들(B1~B14)에는 터치 센서가 구비되어 가로 열의 버튼들(B1~B7) 또는 세로 열의 버튼들(B8~B14)을 터치한 상태에서 상/하/좌/우로 이동하여 주 메뉴 항목 중 임의의 값(예를 들어, 컬러 또는 밝기)을 선택하거나, 주 메뉴 아이콘에 포함된 하위메뉴 아이콘을 활성화 시킬 수 있다.That is, the touch sensors are provided on the buttons B1 to B14 to move up / down / left / right while touching the buttons B1 to B7 of the horizontal row or the buttons B8 to B14 of the vertical row, It is possible to select any value (e.g., color or brightness) of the items, or activate a submenu icon included in the main menu icon.

또한 버튼들(B1~B14)에는 접점식 스위치가 구비되어 있어, 주 메뉴 아이콘 및 하위메뉴 아이콘을 직접 선택하여 해당 기능을 실행시킬 수 있다. 터치 센서는 접점식 스위치 입력에 비해 상대적으로 약한 터치만을 요구하지만, 접점식 스위치 입력은 터치 센서 입력에 비해 상대적으로 강한 터치를 요구한다.In addition, the buttons B1 to B14 are provided with a contact type switch, so that the main menu icon and the sub menu icon can be directly selected to execute the corresponding function. The touch sensor requires a relatively weak touch compared to the contact switch input, but the contact switch input requires a relatively strong touch compared to the touch sensor input.

도 3은 본 발명에 따른 디지털 영상 처리기에서 광 역광 보정을 수행하기 위한 데이터 결정 장치의 구성을 보이는 블록도로서, 디스플레이부(23), 사용자 입력부(31), 촬상부(33), 영상 처리부(35), 저장부(37) 및 디지털 신호 처리부(39)를 포함한다.3 is a block diagram showing the configuration of a data determination apparatus for performing the backlight correction in the digital image processor according to the present invention. The data determination apparatus includes a display unit 23, a user input unit 31, an image pickup unit 33, 35, a storage unit 37, and a digital signal processing unit 39.

사용자 입력부(31)는 정해진 시간 동안 CCD나 필름을 빛에 노출시키기 위해 열리고 닫히는 셔터-릴리즈 버튼(11), 전원을 공급하기 위해 입력하는 전원 버튼(13), 입력에 따라 화각을 넓어지게 하거나, 화각을 좁아지게 하는 광각-줌 버튼(21w) 및 망원-줌 버튼(21t)과, 문자 입력 또는 메뉴 선택 및 실행을 위해 디스플레이부(23) 주변의 가로 및 세로열에 구비된 터치센서 또는 접점식 스위치가 구비된 버튼들(B1~B14)이 있다.The user input unit 31 includes a shutter-release button 11 that is opened and closed to expose a CCD or a film to light for a predetermined period of time, a power button 13 that inputs power to supply power, A wide angle-zoom button 21w and a telephoto-zoom button 21t for narrowing the angle of view and a touch sensor or a contact-type switch provided in the horizontal and vertical columns around the display unit 23 for character input or menu selection and execution, And buttons B1 to B14 provided with buttons.

촬상부(33)는 도면에 도시되지 않은 셔터, 렌즈부, 조리개 및 CCD(Charge Coupled Device) 및 ADC를 포함한다. 셔터는 조리개와 함께 노광하는 빛의 양을 조절하는 기구이다. 렌즈부는 외부 광원으로부터 빛을 받아 영상을 처리한다. 이 때, 조리개는 개폐 정도에 따라 입사되는 빛의 양(광량)을 조절한다. 조리개의 개폐 정도는 디지털 신호 처리부(39)에 의해 제어된다.The imaging section 33 includes a shutter, a lens section, a diaphragm, and a charge coupled device (CCD) and an ADC (not shown). The shutter is a mechanism that adjusts the amount of light that is exposed with the iris. The lens unit receives light from an external light source and processes the image. At this time, the diaphragm adjusts the amount (light amount) of the incident light according to the degree of opening and closing. The opening / closing degree of the diaphragm is controlled by the digital signal processing section 39. [

CCD는 렌즈부를 통하여 입력되는 광량을 축적하고 그 축적된 광량에 따라 렌즈부에서 촬상된 영상을 수직 동기신호에 맞추어 출력한다. 디지털 영상 처리기의 영상 획득은 피사체로부터 반사되어 나오는 빛을 전기적인 신호로 변환시켜 주는 CCD에 의해 이루어진다. CCD를 이용하여 컬러 영상을 얻기 위해서는 컬러 필터를 필요로 하며, 대부분 CFA(Color filter array) 라는 필터(미도시)를 채용하고 있다. CFA는 한 픽셀마다 한 가지 컬러를 나타내는 빛만을 통과시키며 규칙적으로 배열된 구조를 가지고 있으며, 배열 구조에 따라 여러 가지 형태를 가지고 있다. ADC는 CCD로부터 출력되는 아날로그 영상신호를 디지털 신호로 변환한다.The CCD accumulates the amount of light input through the lens unit and outputs the image captured by the lens unit according to the accumulated light amount in accordance with the vertical synchronization signal. Image acquisition by a digital image processor is performed by a CCD which converts the light reflected from the subject into an electrical signal. In order to obtain a color image using a CCD, a color filter is required, and a filter (not shown) called a color filter array (CFA) is employed in most cases. CFA has a regularly arranged structure that passes only light that represents one color per pixel, and it has various forms according to the arrangement structure. The ADC converts the analog video signal output from the CCD into a digital signal.

영상 처리부(35)는 디지털 변환된 RAW 데이터를 디스플레이 가능하도록 신호처리 한다. 영상 처리부(35)는 온도변화에 만감한 CCD 및 CFA 필터에서 발생하는 암 전류에 의한 블랙레벨(Black level)을 제거한다. 영상 처리부(35)는 인간 시각의 비선형성에 맞추어 정보를 부호화 하는 감마 보정을 수행한다. 영상 처리부(35)는 감마 보정된 소정 데이터의 RGRG라인 및 GBGB 라인으로 구현된 베이어 패턴을 RGB 라인으로 보간하는 CFA 보간을 수행한다. 영상 처리부(35)는 보간된 RGB 신호를 YUV 신호로 변환하고, 고 대역 필터에 의해 Y 신호를 필터링 하여 영상을 뚜렷하게 처리하는 에지 보상과, 표준 컬러 좌표계를 이용하여 U, V 신호의 컬러 값을 정정하는 컬러 정정을 수행하며, 이들의 노이즈를 제거한다. 영상 처리부(35)는 노이즈가 제거된 Y, U, V 신호를 압축 및 신호 처리하여 JPEG 파일을 생성하고, 생성된 JPEG 파일은 디스플레이부(23)에 디스플레이 되고, 저장부(37)에 저장된다. 이와 같은 영상 처리부(35)의 모든 동작은 디지털 신호 처리부(39)의 제어 하에 동작한다.The image processing unit 35 processes the digitally converted RAW data so that it can be displayed. The image processing unit 35 removes a black level due to the dark current generated in the CCD and the CFA filter which are full of temperature change. The image processing unit 35 performs gamma correction to encode information in accordance with the nonlinearity of human vision. The image processing unit 35 performs CFA interpolation for interpolating a Bayer pattern implemented with RGA and RGB lines of gamma-corrected predetermined data into RGB lines. The image processing unit 35 converts the interpolated RGB signals into YUV signals, performs edge compensation for filtering the Y signals by a high-pass filter, and calculates color values of the U and V signals using a standard color coordinate system Corrects the color correction, and removes these noises. The image processing unit 35 compresses and processes the Y, U, and V signals from which the noise has been removed to generate a JPEG file, and the generated JPEG file is displayed on the display unit 23 and stored in the storage unit 37 . All the operations of the image processing unit 35 operate under the control of the digital signal processing unit 39. [

디지털 신호 처리부(39)는 라이브뷰 영상의 얼굴 인식 결과 다중의 인물이 검색된 경우, 검색된 다중 얼굴들의 노출을 측정하고, 노출 브라케팅 촬영을 수행하여 광 역광 보정을 수행하기 위한 기준 데이터로 제공한다.The digital signal processing unit 39 measures exposure of the detected multiple faces and performs exposure bracketing photography to provide reference data for performing backlight compensation when a plurality of persons of the face recognition result of the live view image are searched.

이를 위해, 디지털 신호 처리부(39)는 얼굴 인식부(39-1), 노출 측정부(39-2), WDR 수행부(39-3) 및 제어부(39-4)를 포함한다.To this end, the digital signal processing unit 39 includes a face recognizing unit 39-1, an exposure measuring unit 39-2, a WDR performing unit 39-3, and a control unit 39-4.

얼굴 인식부(39-1)는 제어부(39-4)의 제어하에 임의의 라이브뷰 영상으로부터 적어도 하나 이상의 얼굴정보 즉, 얼굴의 크기, 위치 및 방향을 검출한다. 열굴 인식부(39-1)가 얼굴의 크기 검출 시에, 컬러를 기반으로 얼굴 영역을 검출하거나, 에지를 기반으로 얼굴 영역을 검출할 수 있고, 얼굴의 위치 검출 시에, 추출된 얼굴의 중심부와 미리 설정되어 있는 디스플레이부(23) 중심부 사이의 거리로 얼굴 위치를 계산할 수 있으며, 얼굴의 방향 검출 시에, 추출된 얼굴로부터 눈과 입으로 구성된 삼각형 형태로 얼굴 방향을 검출할 수 있다. 이와 같은 얼굴 인식부(39-1)의 얼굴정보 검출에 대한 내용은 이미 공지된 내용이 많으므로 상세한 설명은 생략한다.The face recognition unit 39-1 detects at least one face information, that is, the face size, position and direction, from an arbitrary live view image under the control of the control unit 39-4. The facial recognition unit 39-1 can detect the face area based on the color or detect the face area based on the edge at the time of detecting the size of the face, and at the time of detecting the face position, And the center of the display unit 23, and the face direction can be detected in the form of a triangle composed of the eyes and mouth from the extracted face at the time of detecting the direction of the face. Since details of the face information detection by the face recognition unit 39-1 are well known in the art, a detailed description thereof will be omitted.

노출 측정부(39-2)는 얼굴 인식부(39-1)의 얼굴 인식 결과로 검색된 다중 얼굴들의 노출(EV)을 측정한다. 이때, 노출 측정부(39-2)는 다중 얼굴들로부터 가장 낮은 노출값 및 가장 높은 노출값을 검색한다.The exposure measuring unit 39-2 measures the exposure (EV) of the multiple faces retrieved by the face recognition unit 39-1. At this time, the exposure measuring unit 39-2 searches for the lowest exposure value and the highest exposure value from the multiple faces.

제어부(39-4)는 한번의 셔터-릴리즈 버튼(11) 입력으로, 노출 측정부(39-2)가 측정한 가장 낮은 노출값을 갖는 얼굴을 기준으로 촬영하고, 노출 측정부(39-2)가 측정한 가장 높은 노출값을 갖는 얼굴을 기준으로 촬영하는 브라케팅 촬영을 제어한다. 제어부(39-4)는 브라케팅 촬영 결과를 WDR 수행부(39-3)으로 제공한다.The control unit 39-4 photographs the face with the lowest exposure value measured by the exposure measuring unit 39-2 on the basis of one shutter-release button 11 input, And controls the bracketing shooting based on the face having the highest exposure value measured by the camera. The control unit 39-4 provides the bracketing photographing result to the WDR performing unit 39-3.

WDR 수행부(39-3)는 노출 브라케이 촬영된 영상을 입력 데이터로 하여 광 역광 보정을 수행한다.The WDR performing unit 39-3 performs the backlight correction using the image photographed by the exposure bracketing as input data.

도 4에는 WDR 수행을 설명하는 도면이 개시되어 있다. 다이나믹 레인지(dynamic range)는 식별이 가능한 범위 내에서 가장 밝은 부분과 어두운 부분의 비율로 볼 수 있다. 도 4a에서 식별이 가능한 범위 내에서 가장 밝은 부분(X2)과 가장 어두운 부분(X1)의 비를 dB로 표현한다면, dynamic range (Db) = 20log(X2/X1)으로 나타낼 수있다. 하지만 얼굴인식에 있어서 두 개 이상의 얼굴이 이미지 프로세서가 허용하는 다이나믹 레인지(X1과 X2 이상의 노출 차이)를 갖게 될 경우에는 둘 중 하나의 손실이 불가피하다. 이러한 것을 해결하기 위하여 한 장의 영상으로 픽셀의 휘도에 따라 게인 값을 다르게 주는 방법이나, 감마 곡선을 보정하는 방법, 또는 같은 장면을 촬영한 노출이 다른 두 장의 영상을 각각 처리한 후 합성하는 기법으로 다이나믹 레인지를 사용하게 된다. 이하, 다이나믹 레인지에 대한 설명은 이미 공지된 것이므로 생략하기로 한다.Fig. 4 is a diagram for explaining WDR performance. The dynamic range can be seen as the ratio of the brightest and darkest areas within the identifiable range. The dynamic range (Db) = 20 log (X2 / X1) can be expressed as dB if the ratio of the brightest portion X2 to the darkest portion X1 in the identifiable range in FIG. 4A is expressed in dB. However, if two or more faces in the face recognition have a dynamic range (exposure difference of X1 and X2 or more) that the image processor allows, either one of them is inevitable. In order to solve this problem, a method of giving a gain value to a single image differently depending on the luminance of a pixel, a method of correcting a gamma curve, or a method of processing two images of the same scene, The dynamic range is used. Hereinafter, the description of the dynamic range will be omitted since it is already known.

제어부(39-4)의 브라케팅 촬영 제어로 획득된 가장 낮은 노출값을 갖는 얼굴을 기준으로 촬영한 영상 및 가장 높은 노출값을 갖는 얼굴을 기준으로 촬영한 영상은 WDR 수행부(39-4)로 입력되고, WDR 수행부(39-4)는 상기에 개시된 바와 같인 같은 장면을 촬영한 노출이 다른 두 장의 영상을 각각 처리한 후 합성하여 광 역광 보정을 수행한다.The image photographed based on the face having the lowest exposure value obtained by the bracketing photographing control of the control unit 39-4 and the face photographed with the face having the highest exposure value is input to the WDR performing unit 39-4 , The WDR performing unit 39-4 processes the two images of the same exposure, which are the same as those described above, and then combines them to perform the backlight correction.

이하, 도 5를 참조하여 본 발명에 따른 디지털 영상 처리기에서 광 역광 보정을 수행하기 위한 데이터 결정 방법을 상세히 설명한다. 본 발명에 따른 디지털 영상 처리기에서 광 역광 보정을 수행하기 위한 데이터 결정 방법은 도 3에 도시된 바와 같은 디지털 영상 처리기의 내부에서 수행될 수 있는데, 실시 예에 따라 동작 방법의 주 알고리즘은 장치 내의 주변 구성 요소들의 도움을 받아 디지털 신호 처리부(39) 내부에서 수행될 수 있다.Hereinafter, a data determination method for performing the backlight correction in the digital image processor according to the present invention will be described in detail with reference to FIG. The data determination method for performing the backlight correction in the digital image processor according to the present invention can be performed in the digital image processor as shown in FIG. 3. According to the embodiment, May be performed in the digital signal processing unit 39 with the help of the components.

디지털 영상 처리기가 WDR 얼굴 인식 모드로 설정되면(501단계), 디지털 신호 처리부(39)는 디스플레이부(23)에 라이브뷰 영상을 디스플레이 하고, 얼굴인식을 수행한다(503단계). 디지털 신호 처리부(39)는 라이브뷰 영상으로부터 적어도 하나 이상의 얼굴정보 즉, 얼굴의 크기, 위치 및 방향을 검출하고, 이를 기반으로 한 AF를 수행한다. 얼굴 검출에 관한 상세한 내용은 상기에 개시되어 있으므로 생략한다.When the digital image processor is set to the WDR face recognition mode (step 501), the digital signal processing unit 39 displays the live view image on the display unit 23 and performs face recognition (step 503). The digital signal processing unit 39 detects at least one face information, that is, the size, position, and direction of a face from the live view image, and performs AF based on the detected size, position, and direction. The details of the face detection are described above and will be omitted here.

사용자로부터 제1 셔터-릴리즈 버튼(11) 입력이 수신되면(505단계), 디지털 신호 처리부(39)는 얼굴인식을 기반으로 하여 인식된 모든 얼굴들을 각각 기준으로 노출값을 산출한다(507단계). 이때 디지털 신호 처리부(39)는 다중 얼굴들로부터 가장 낮은 노출값 및 가장 높은 노출값을 검색한다.When the first shutter-release button 11 input is received from the user in step 505, the digital signal processor 39 calculates an exposure value based on all recognized faces on the basis of face recognition in step 507. FIG. At this time, the digital signal processor 39 searches for the lowest exposure value and the highest exposure value from the multiple faces.

이어서, 사용자로부터 제2 셔터-릴리즈 버튼(11)이 입력되면(509단계), 디지털 신호 처리부(39)는 인식된 얼굴이 2인 이상인가를 판단한다(511단계).When the second shutter release button 11 is input from the user in step 509, the digital signal processing unit 39 determines whether there are two or more recognized faces in step 511.

인식된 얼굴이 1인인 경우, 디지털 신호 처리부(39)는 인식된 1인 얼굴을 기준으로 자동 노출 조정을 수행하여 촬영하는 통상적인 촬영이 수행되도록 제어한다(513단계).If the recognized face is a single person, the digital signal processing unit 39 controls automatic exposure adjustment based on the recognized face of one person so as to perform normal photography in step 513.

그러나 인식된 얼굴이 2인 이상인 경우, 디지털 신호 처리부(39)는 노출 브라케팅 촬영을 수행하는데, 한 번의 제2 셔터-릴리즈 버튼(11) 입력으로 가장 낮은 노출값을 갖는 얼굴을 기준으로 영상을 촬영하고(515단계), 가장 높은 노출값을 갖는 얼굴을 기준으로 영상을 촬영한다(517단계).However, if the number of recognized faces is two or more, the digital signal processing unit 39 performs exposure bracketing shooting, captures an image based on a face having the lowest exposure value with one second shutter-release button 11 input (Step 515), and the image is captured with reference to the face having the highest exposure value (step 517).

노출 브라케팅 촬영이 완료되면, 디지털 신호 처리부(39)는 브라케팅 촬영 제어로 획득된 가장 낮은 노출값을 갖는 얼굴을 기준으로 촬영한 영상 및 가장 높은 노출값을 갖는 얼굴을 기준으로 촬영한 영상에 대해 같은 장면을 촬영한 노출이 다른 두 장의 영상을 각각 처리한 후 합성하여 광 역광 보정을 수행한다(519단계).When the exposure bracketing is completed, the digital signal processing unit 39 displays the same scene for the image photographed based on the face having the lowest exposure value obtained by the bracketing shooting control and the face having the highest exposure value The two images of different exposure are processed and combined to perform the backlight compensation in step 519.

이후 디지털 신호 처리부(39)는 광 역광 보정된 영상을 저장한다(521단계).The digital signal processor 39 then stores the backlight-corrected image (step 521).

본 발명에서 WDR 수행에 따라서 얼굴 검출 후 최소의 노출값을 가진 영상과 검출된 얼굴들의 평균 노출값을 가진 영상으로 촬영할 수 있다. 이 방법은 Shadow 부분의 정보를 살리는데 유리하다According to the present invention, it is possible to record an image having the minimum exposure value after the face detection and an image having the average exposure value of the detected faces according to the WDR performance. This method is advantageous for saving information of the shadow part

또한 WDR 수행에 따라서 얼굴 검출 후 최대의 노출값을 가진 영상과 검출된 얼굴들의 평균 노출값을 가진 영상으로 촬영할 수 있다. 이 방법은 Highlight 부분의 정보를 살리는데 유리하다.In addition, according to the WDR performance, it is possible to capture an image having the maximum exposure value after the face detection and an image having the average exposure value of the detected faces. This method is advantageous for saving information in the Highlight part.

그 외에도 얼굴인식에서 얻어진 노출값을 기준으로 설계자가 추가적인 노출 알고리즘에 따라 변환된 노출 측거치를 기준으로 얻어진 데이터를 가지고 WDR을 진행할 수 있다.In addition, based on the exposure value obtained from the face recognition, the designer can carry out the WDR with the data obtained on the basis of the exposure side mount converted according to the additional exposure algorithm.

도 1은 디지털 영상 처리기의 앞쪽 및 위쪽 외형을 보여주는 사시도 이다.BRIEF DESCRIPTION OF THE DRAWINGS Figure 1 is a perspective view showing the front and top contours of a digital image processor.

도 2는 도 1에 도시된 디지털 영상 처리기의 뒤쪽 외형을 보여주는 배면도 이다.FIG. 2 is a rear view showing the rear external shape of the digital image processor shown in FIG. 1; FIG.

도 3은 본 발명에 따른 디지털 영상 처리기에서 광 역광 보정을 수행하기 위한 데이터 결정 장치의 구성을 보이는 블록도 이다.3 is a block diagram illustrating the configuration of a data determination apparatus for performing the backlight correction in the digital image processor according to the present invention.

도 4는 도 3에서 WDR 수행을 설명하기 위한 도면이다.FIG. 4 is a diagram for explaining WDR performance in FIG.

도 5는 본 발명에 따른 디지털 영상 처리기에서 광 역광 보정을 수행하기 위한 데이터 결정 방법의 동작을 보이는 흐름도 이다.5 is a flowchart illustrating an operation of a data determination method for performing backlight correction in a digital image processor according to the present invention.

도 6은 종래 기술에 따른 얼굴인식 기반의 노출 조정을 설명하는 도면이다.6 is a view for explaining exposure adjustment based on face recognition according to the prior art.

Claims (5)

디지털 영상 처리기로서,As a digital image processor, 라이브뷰 영상의 얼굴 인식 결과 다중의 얼굴들이 검색된 경우, 상기 검색된 다중 얼굴들의 노출값을 측정하고, 노출 브라케팅 촬영을 수행하여 광 역광 보정을 수행하기 위한 기준 데이터로 제공하는 디지털 신호 처리수단을 포함하는 광 역광 보정을 수행하기 위한 데이터 결정 장치.And a digital signal processing means for measuring the exposure value of the searched multiple faces and providing digital image data as reference data for performing backlight compensation by performing exposure bracketing photographing when multiple faces of a live view image are searched for, A data determination device for performing backlight correction. 제 1항에 있어서, 상기 디지털 신호 처리수단은The digital signal processing apparatus according to claim 1, wherein the digital signal processing means 상기 라이브뷰 영상에 대한 얼굴 인식을 수행하는 얼굴 인식부;A face recognition unit for performing face recognition on the live view image; 상기 얼굴 인식 결과 검색된 다중 얼굴들의 노출값을 측정하는 노출 측정부;An exposure measuring unit for measuring an exposure value of multiple faces detected as the face recognition result; 상기 측정된 노출값을 기반으로 한 노출 브라케팅 촬영을 수행하는 제어부; 및A control unit for performing exposure bracketing photographing based on the measured exposure value; And 상기 노출 브라케팅 촬영된 영상을 입력 데이터로 하여 광 역광 보정을 수행하는 광 역광 보정 수행부를 포함하는 것을 특징으로하는 광 역광 보정을 수행하기 위한 데이터 결정 장치.And performing a backlight correction using the image obtained by the exposure bracketing as input data. 제 2항에 있어서, 상기 제어부는3. The apparatus of claim 2, wherein the control unit 노출 브라케팅 촬영 시에 상기 노출 측정부에서 측정한 가장 낮은 노출값을 갖는 얼굴을 기준으로 상기 영상을 촬영하고, 가장 높은 노출값을 갖는 얼굴을 기 준으로 상기 영상을 촬영하도록 제어하는 것을 특징으로하는 광 역광 보정을 수행하기 위한 데이터 결정 장치.Wherein the control unit controls to shoot the image based on a face having the lowest exposure value measured by the exposure measuring unit and to photograph the image based on a face having the highest exposure value at the time of exposure bracketing, A data determination device for performing a correction. 디지털 영상 처리기의 동작 방법으로서,A method of operating a digital image processor, (a) 라이브뷰 영상의 얼굴 인식을 수행하는 단계;(a) performing face recognition of a live view image; (b) 상기 얼굴 인식 수행 결과 다중의 얼굴들이 검색된 경우, 상기 검색된 다중 얼굴들의 노출값을 측정하는 단계; 및(b) if the multiple faces are searched as a result of the face recognition, measuring the exposure value of the searched multiple faces; And (c) 상기 측정된 노출값을 기반으로 한 노출 브라케팅 촬영을 수행하여 광 역광 보정을 수행하기 위한 기준 데이터로 제공하는 단계를 포함하는 광 역광 보정을 수행하기 위한 데이터 결정 방법.(c) performing exposure bracketing photographing based on the measured exposure value to provide reference data for performing backlight compensation. 제 4항에 있어서, 상기 (c)단계에서 노출 브라케팅 촬영 시에,5. The method according to claim 4, wherein, in the step (c) 상기 측정된 노출값 중 가장 낮은 노출값을 갖는 얼굴을 기준으로 상기 영상을 촬영하고, 상기 측정된 노출값 중 가장 높은 노출값을 갖는 얼굴을 기준으로 상기 영상을 촬영하는 것을 특징으로 하는 광 역광 보정을 수행하기 위한 데이터 결정 방법.Wherein the image is photographed based on a face having the lowest exposure value among the measured exposure values and the image is photographed based on a face having the highest exposure value among the measured exposure values, Data determination method.
KR1020080031716A 2008-04-04 2008-04-04 Apparatus and method for determining data for performing backlight correction in a digital image processor Expired - Fee Related KR101436835B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020080031716A KR101436835B1 (en) 2008-04-04 2008-04-04 Apparatus and method for determining data for performing backlight correction in a digital image processor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020080031716A KR101436835B1 (en) 2008-04-04 2008-04-04 Apparatus and method for determining data for performing backlight correction in a digital image processor

Publications (2)

Publication Number Publication Date
KR20090106171A KR20090106171A (en) 2009-10-08
KR101436835B1 true KR101436835B1 (en) 2014-09-02

Family

ID=41535816

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020080031716A Expired - Fee Related KR101436835B1 (en) 2008-04-04 2008-04-04 Apparatus and method for determining data for performing backlight correction in a digital image processor

Country Status (1)

Country Link
KR (1) KR101436835B1 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003264739A (en) 2002-03-07 2003-09-19 Olympus Optical Co Ltd Digital camera
JP3510868B2 (en) 2001-06-19 2004-03-29 三洋電機株式会社 Image synthesis device
JP2007336411A (en) 2006-06-19 2007-12-27 Casio Comput Co Ltd Imaging apparatus, auto bracketing imaging method, and program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3510868B2 (en) 2001-06-19 2004-03-29 三洋電機株式会社 Image synthesis device
JP2003264739A (en) 2002-03-07 2003-09-19 Olympus Optical Co Ltd Digital camera
JP2007336411A (en) 2006-06-19 2007-12-27 Casio Comput Co Ltd Imaging apparatus, auto bracketing imaging method, and program

Also Published As

Publication number Publication date
KR20090106171A (en) 2009-10-08

Similar Documents

Publication Publication Date Title
KR101510098B1 (en) Apparatus and method for blurring an image background in digital image processing device
US8786760B2 (en) Digital photographing apparatus and method using face recognition function
US8937677B2 (en) Digital photographing apparatus, method of controlling the same, and computer-readable medium
KR101436839B1 (en) Self-timer photographing apparatus and method using the number of persons check
US8446510B2 (en) Method and apparatus for improving face image in digital image processor
KR20100001272A (en) Apparatus for processing digital image having self capture navigator function and thereof method
JP5048599B2 (en) Imaging device
JP2012163679A (en) Imaging device, stroboscope control method, and stroboscope control program
KR101613617B1 (en) Apparatus and method for digital picturing image
KR20100003918A (en) Apparatus and method for photographing digital image capable of recognizing user
JP5316923B2 (en) Imaging apparatus and program thereof
KR101421939B1 (en) Digital image processing apparatus and method using face recognition function
KR101436835B1 (en) Apparatus and method for determining data for performing backlight correction in a digital image processor
KR101427651B1 (en) Apparatus and method for adjusting face detection processing speed in digital image processing device
KR101448537B1 (en) Bracketing apparatus and method based on face recognition in digital image processor
KR101467873B1 (en) Apparatus and method for capturing digital image according to detecting hand shake
KR101417807B1 (en) Focus adjustment apparatus and method according to face recognition in digital image processing apparatus
KR20100094201A (en) Apparatus and method for digital picturing image
KR20090105374A (en) Apparatus and method for generating thumbnail image in digital image processor
KR101446941B1 (en) Apparatus and method for storing image when the image is speedly captured
KR101427656B1 (en) Apparatus and method for capturing human in digital image processing device
KR101456493B1 (en) Apparatus and method for processing wide dynamic range in digital image processing device
KR101642399B1 (en) Digital image processing apparatus to evaluate blurring level amount and the method of the same
KR20090113075A (en) Digital image processing device and control method thereof
KR101448538B1 (en) Apparatus and method for processing wide dynamic range using braketing capturing in digital image processing device

Legal Events

Date Code Title Description
PA0109 Patent application

St.27 status event code: A-0-1-A10-A12-nap-PA0109

N231 Notification of change of applicant
PN2301 Change of applicant

St.27 status event code: A-3-3-R10-R13-asn-PN2301

St.27 status event code: A-3-3-R10-R11-asn-PN2301

PG1501 Laying open of application

St.27 status event code: A-1-1-Q10-Q12-nap-PG1501

N231 Notification of change of applicant
PN2301 Change of applicant

St.27 status event code: A-3-3-R10-R13-asn-PN2301

St.27 status event code: A-3-3-R10-R11-asn-PN2301

R18-X000 Changes to party contact information recorded

St.27 status event code: A-3-3-R10-R18-oth-X000

A201 Request for examination
PA0201 Request for examination

St.27 status event code: A-1-2-D10-D11-exm-PA0201

D13-X000 Search requested

St.27 status event code: A-1-2-D10-D13-srh-X000

D14-X000 Search report completed

St.27 status event code: A-1-2-D10-D14-srh-X000

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

St.27 status event code: A-1-2-D10-D21-exm-PE0902

P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

St.27 status event code: A-1-2-D10-D22-exm-PE0701

GRNT Written decision to grant
PR0701 Registration of establishment

St.27 status event code: A-2-4-F10-F11-exm-PR0701

PR1002 Payment of registration fee

St.27 status event code: A-2-2-U10-U11-oth-PR1002

Fee payment year number: 1

PG1601 Publication of registration

St.27 status event code: A-4-4-Q10-Q13-nap-PG1601

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 4

P22-X000 Classification modified

St.27 status event code: A-4-4-P10-P22-nap-X000

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 5

PC1903 Unpaid annual fee

St.27 status event code: A-4-4-U10-U13-oth-PC1903

Not in force date: 20190828

Payment event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE

PC1903 Unpaid annual fee

St.27 status event code: N-4-6-H10-H13-oth-PC1903

Ip right cessation event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE

Not in force date: 20190828

P22-X000 Classification modified

St.27 status event code: A-4-4-P10-P22-nap-X000