[go: up one dir, main page]

KR102709671B1 - 이미지 센서, 이미지 신호 프로세서 및 이들을 포함하는 이미지 처리 시스템 - Google Patents

이미지 센서, 이미지 신호 프로세서 및 이들을 포함하는 이미지 처리 시스템 Download PDF

Info

Publication number
KR102709671B1
KR102709671B1 KR1020190096753A KR20190096753A KR102709671B1 KR 102709671 B1 KR102709671 B1 KR 102709671B1 KR 1020190096753 A KR1020190096753 A KR 1020190096753A KR 20190096753 A KR20190096753 A KR 20190096753A KR 102709671 B1 KR102709671 B1 KR 102709671B1
Authority
KR
South Korea
Prior art keywords
pixel
pixels
image data
red
blue
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
KR1020190096753A
Other languages
English (en)
Other versions
KR20210017460A (ko
Inventor
곽평수
Original Assignee
에스케이하이닉스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스케이하이닉스 주식회사 filed Critical 에스케이하이닉스 주식회사
Priority to KR1020190096753A priority Critical patent/KR102709671B1/ko
Priority to US16/707,623 priority patent/US11025869B2/en
Priority to CN201911377020.XA priority patent/CN112349735B/zh
Publication of KR20210017460A publication Critical patent/KR20210017460A/ko
Application granted granted Critical
Publication of KR102709671B1 publication Critical patent/KR102709671B1/ko
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H01L27/14605—
    • H—ELECTRICITY
    • H10—SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10F—INORGANIC SEMICONDUCTOR DEVICES SENSITIVE TO INFRARED RADIATION, LIGHT, ELECTROMAGNETIC RADIATION OF SHORTER WAVELENGTH OR CORPUSCULAR RADIATION
    • H10F39/00—Integrated devices, or assemblies of multiple devices, comprising at least one element covered by group H10F30/00, e.g. radiation detectors comprising photodiode arrays
    • H10F39/80—Constructional details of image sensors
    • H10F39/802—Geometry or disposition of elements in pixels, e.g. address-lines or gate electrodes
    • H10F39/8023—Disposition of the elements in pixels, e.g. smaller elements in the centre of the imager compared to larger elements at the periphery
    • H01L27/14609—
    • H01L27/14636—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843—Demosaicing, e.g. interpolating colour pixel values
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H—ELECTRICITY
    • H10—SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10F—INORGANIC SEMICONDUCTOR DEVICES SENSITIVE TO INFRARED RADIATION, LIGHT, ELECTROMAGNETIC RADIATION OF SHORTER WAVELENGTH OR CORPUSCULAR RADIATION
    • H10F39/00—Integrated devices, or assemblies of multiple devices, comprising at least one element covered by group H10F30/00, e.g. radiation detectors comprising photodiode arrays
    • H10F39/80—Constructional details of image sensors
    • H10F39/803—Pixels having integrated switching, control, storage or amplification elements
    • H—ELECTRICITY
    • H10—SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10F—INORGANIC SEMICONDUCTOR DEVICES SENSITIVE TO INFRARED RADIATION, LIGHT, ELECTROMAGNETIC RADIATION OF SHORTER WAVELENGTH OR CORPUSCULAR RADIATION
    • H10F39/00—Integrated devices, or assemblies of multiple devices, comprising at least one element covered by group H10F30/00, e.g. radiation detectors comprising photodiode arrays
    • H10F39/80—Constructional details of image sensors
    • H10F39/811—Interconnections
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

본 발명의 일 실시예에 따른 이미지 센서는, 레드 픽셀, 블루 픽셀 및 화이트 픽셀이 각각 3개씩 배열된 3x3 매트릭스를 포함하는 APS(Active Pixel Sensor) 블록 및 상기 레드 픽셀, 상기 블루 픽셀 및 상기 화이트 픽셀 각각의 픽셀 데이터를 생성하는 데이터 생성 블록을 포함할 수 있다.

Description

이미지 센서, 이미지 신호 프로세서 및 이들을 포함하는 이미지 처리 시스템{Image Sensor, Image Signal Processor and Image Processing System including the same}
본 발명은 RGB 이미지 데이터를 생성하는 이미지 센서, 이미지 신호 프로세서 및 이들을 포함하는 이미지 처리 시스템에 관한 것이다.
이미지 센서는 빛에 반응하는 반도체의 성질을 이용하여 이미지를 캡쳐(capture)하는 장치이다. 최근 들어, 컴퓨터 산업과 통신 산업의 발달에 따라 스마트폰, 디지털 카메라, 게임기기, 사물 인터넷(Internet of Things), 로봇, 경비용 카메라, 의료용 마이크로 카메라 등 다양한 분야에서 성능이 향상된 이미지 센서의 수요가 증대되고 있다.
이미지 센서는 크게 CCD(Charge Coupled Device) 이미지 센서와, CMOS(Complementary Metal Oxide Semiconductor) 이미지 센서로 구분될 수 있다. CCD 이미지 센서는 CMOS 이미지 센서에 비해 잡음(noise)이 적고, 화질이 우수하다. 하지만, CMOS 이미지 센서는 구동 방식이 간편하고 다양한 스캐닝(scanning) 방식으로 구현 가능하다. 또한, CMOS 이미지 센서는 신호 처리 회로를 단일 칩에 집적할 수 있어 제품의 소형화가 용이하고 전력 소모가 매우 낮으며, CMOS 공정 기술을 호환하여 사용할 수 있어 제조 단가가 낮다. 최근에는 모바일 기기에 보다 적합한 특성으로 인하여 CMOS 이미지 센싱 장치가 많이 이용되고 있다.
본 발명의 기술적 사상은 G픽셀이 아닌 W픽셀을 이용하여 RGB 이미지 데이터를 생성할 수 있는 이미지 센서, 이미지 신호 프로세서 및 이들을 포함하는 이미지 처리 시스템을 제공할 수 있다.
본 발명의 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재들로부터 당업자에게 명확하게 이해될 수 있을 것이다.
본 문서에 개시되는 본 발명의 일 실시예에 따른 이미지 센서는, 레드 픽셀, 블루 픽셀 및 화이트 픽셀이 각각 3개씩 배열된 3x3 매트릭스를 포함하는 APS(Active Pixel Sensor) 블록 및 상기 레드 픽셀, 상기 블루 픽셀 및 상기 화이트 픽셀 각각의 픽셀 데이터를 생성하는 데이터 생성 블록을 포함할 수 있다.
본 발명의 일 실시 예에 따른 이미지 처리 시스템은, 레드 픽셀, 블루 픽셀 및 화이트 픽셀이 각각 3개씩 배열된 3x3 매트릭스를 포함하는 APS(Active Pixel Sensor) 블록, 및 상기 레드 픽셀, 상기 블루 픽셀 및 상기 화이트 픽셀이 각각 3개씩 포함된 디모자이킹 매트릭스 단위로 디모자이킹을 수행하는 이미지 신호 프로세서를 포함할 수 있다.
본 발명의 일 실시예에 따른 이미지 신호 프로세서는, 레드 픽셀, 블루 픽셀 및 화이트 픽셀 각각의 픽셀 데이터를 포함하는 이미지 데이터를 임시 저장하는 라인 메모리, 및 상기 이미지 데이터에 대해, 상기 레드 픽셀, 상기 블루 픽셀 및 상기 화이트 픽셀이 각각 3개씩 포함된 디모자이킹 매트릭스 단위로 디모자이킹을 수행하는 프로세싱 블록을 포함하고, 상기 픽셀 데이터는 레드 픽셀, 블루 픽셀 및 화이트 픽셀이 각각 3개씩 배열된 3x3 매트릭스를 포함하는 APS 블록으로부터 생성될 수 있다.
본 문서에 개시되는 실시 예들에 따르면, 픽셀의 민감도가 낮을 경우에도 높은 광량을 요구하는 그린 픽셀이 생략되므로 픽셀 어레이 전체의 민감도가 높아져, 낮은 광량에도 높은 화질을 구현 할 수 있다.
또한, 2x2의 픽셀들(예컨대, 베이어 패턴)이 아닌 3x3의 픽셀들이 1개 픽셀의 RGB 이미지 데이터를 결정하므로 낮은 광량 또는 픽셀 사이즈의 소형화에도 불구하고 높은 화질을 구현 할 수 있다.
아울러, 연산을 통한 고화소 구현 시 픽셀의 재배열을 통한 복잡한 구현 없이도 고화소 구현이 가능하며, 화질의 왜곡을 최소화 할 수 있다.
이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
도 1은 본 발명의 일 실시예에 따른 이미지 처리 시스템을 간략히 나타낸 도면이다.
도 2a는 본 발명의 일 실시예에 따른 픽셀 배열을 나타낸 도면이다.
도 2b는 도 2a에 도시된 본 발명의 일 실시예에 따른 픽셀 배열의 일부를 나타낸 도면이다.
도 3a는 본 발명의 다른 실시예에 따른 픽셀 배열을 나타낸 도면이다.
도 3b는 도 3a에 도시된 본 발명의 다른 실시예에 따른 픽셀 배열의 일부를 나타낸 도면이다.
도 4는 제1 픽셀 배열 또는 제2 픽셀 배열에 따른 픽셀들에 대한 디모자이킹 방법의 일 실시예를 설명하기 위한 도면이다.
도 5는 도 4에 도시된 제1 픽셀 그룹의 예시들을 나타낸 도면이다.
도 6은 제1 픽셀 배열 또는 제2 픽셀 배열에 따른 픽셀들에 대한 디모자이킹 방법의 다른 실시예를 설명하기 위한 도면이다.
도 7은 도 6에 도시된 디모자이킹 방법의 구체적인 예시를 나타낸 도면이다.
이하, 본 발명의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 실시 예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다.
도 1은 본 발명의 일 실시예에 따른 이미지 처리 시스템을 간략히 나타낸 도면이다.
도 1을 참조하면, 이미지 처리 시스템(10)은 전자 장치, 예컨대 디지털 카메라, 이동 전화기, 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 노트북(notebook), PDA(personal digital assistant), EDA(enterprise digital assistant), 디지털 스틸 카메라(digital still camera), 디지털 비디오 카메라(digital video camera), PMP(portable multimedia player), 모바일 인터넷 장치(mobile internet device(MID)), PC(Personal Computer), 웨어러블 디바이스(wearable device) 또는 다양한 목적의 카메라(자동차의 전방 카메라, 후방 카메라, 블랙 박스 카메라 등)로 구현될 수 있다.
이미지 처리 시스템(10)은 광학 렌즈(50), CMOS 이미지 센서(100), DSP(Digital Signal Processor, 200) 및 디스플레이(300)를 포함할 수 있다.
CMOS 이미지 센서(100)는 광학 렌즈(50)를 통하여 입력된(또는 캡쳐된(captured)) 피사체(30)에 대한 이미지 데이터(IDATA)를 생성하고, DSP(200)로 이미지 데이터(IDATA)를 전송할 수 있다. 광학 렌즈(50)는 광학계를 형성하는 적어도 하나의 렌즈를 포함할 수 있다.
CMOS 이미지 센서(100)는 액티브 픽셀 센서(Active Pixel Sensor; APS) 블록(110), 로우 드라이버(row driver, 120), 상관 이중 샘플링(Correlated Double Sampling; CDS) 블록(130), 아날로그-디지털 컨버터(Analog-to-Digital Converter; ADC) 블록(140), 출력 버퍼(output buffer, 150), 타이밍 생성기(timing generator, 160), 제어 레지스터 블록(control register block, 170), 램프 생성기(ramp generator, 180) 및 출력 인터페이스(output interface; output I/F, 190)를 포함할 수 있다. 여기서, CMOS 이미지 센서(100)의 각 구성은 예시적인 것에 불과하며, 필요에 따라 적어도 일부의 구성이 추가되거나 생략될 수 있으며, 복수의 구성이 하나의 구성으로 통합되거나 하나의 구성이 복수의 구성으로 분리되어 구현될 수도 있다.
APS 블록(110)은 복수 개의 행과 열로 배열된 복수의 픽셀들을 포함할 수 있다. APS 블록(110)을 구성하는 픽셀들 각각은 입사광에 따라 생성된 광 전하들을 축적하고, 축적된 광 전하들에 상응하는 픽셀 신호를 생성할 수 있다. 상기 픽셀들 각각은 광 신호를 전기적 신호로 변환하는 광전 변환 소자(예컨대, 포토 다이오드(photo diode), 포토트랜지스터(photo transistor), 포토게이트(photogate), 또는 핀드 포토다이오드 (pinned photo diode)) 및 전기적 신호를 처리하기 위한 적어도 하나의 트랜지스터를 포함할 수 있다. 각 픽셀은 로우 드라이버(120)로부터 출력되는 픽셀 제어 신호에 따라 구동되고, 각 픽셀에서 감지된 전기적 신호는 복수의 컬럼 라인들(미도시)을 통하여 CDS 블록(130)으로 전송될 수 있다. 픽셀 제어 신호의 종류는 각 픽셀의 구조(예컨대, 3T, 4T, 5T 등)에 따라 달라질 수 있으며, 예를 들어 4T 픽셀의 경우 픽셀 제어 신호는 리셋 제어 신호, 전송 제어 신호 및 선택 제어 신호를 포함할 수 있다.
APS 블록(110)과 광학 렌즈(50) 사이에는 컬러 필터 어레이(color filter array)가 구비될 수 있고, 컬러 필터 어레이는 각 픽셀로 입사되는 광의 특정 파장(예컨대, 레드, 블루, 화이트) 만을 통과시키는 컬러 필터들을 포함할 수 있다. 컬러 필터 어레이로 인해, 각 픽셀의 픽셀 데이터는 특정 파장의 광의 세기에 대응하는 값을 나타낼 수 있으며, 각 픽셀은 컬러 필터의 종류에 따라 레드 픽셀(R), 블루 픽셀(B) 또는 화이트 픽셀(W)로 불릴 수 있다.
그린에 해당하는 파장을 흡수하는 그린 픽셀은 다른 픽셀들(R, B)에 비해 광 흡수율이 낮아 베이어 패턴(bayer pattern)에서와 같이 단위 면적당 다른 픽셀들(R, b)에 비해 2배의 개수가 배치되나, 이러한 경우에도 광 흡수율이 낮아 이미지 센서의 광 민감도를 저하시키는 원인이 된다. 따라서, 본 발명의 실시예에서는 그린 픽셀을 대신하여 광 흡수율이 상대적으로 높은 화이트 픽셀(W)을 이용하는 이미지 처리 시스템(10)이 설명된다. 또한, 본 명세서에서는 화이트 픽셀(W)을 예로 들어 설명하나, 본 발명의 범위는 이에 한정되지 않고 그린 픽셀보다 높은 광 흡수율을 갖는 임의의 컬러 픽셀이 이용될 수도 있다.
로우 드라이버(120)는 타이밍 생성기(160)로부터 수신한 라인 컨트롤 신호(LCS)에 기초하여 복수의 픽셀들 각각의 동작을 제어하기 위한 복수의 픽셀 제어 신호들을 APS 블록(110)으로 전송할 수 있다. 구체적으로, 로우 드라이버(120)는 APS 블록(110)의 복수의 행들 중 어느 하나의 행을 선택하기 위해서 선택 제어 신호를 생성할 수 있다. 그리고 로우 드라이버(120)는 선택된 행에 대응하는 픽셀들로 리셋 제어 신호 및 전송 제어 신호를 전송할 수 있다. 그러면, 선택된 행의 픽셀들로부터 생성되는 아날로그 형태의 기준 신호(또는 리셋 신호)와 영상 신호가 CDS 블록(130)으로 전달될 수 있다. 여기서, 픽셀로부터 출력되는 기준 신호와 영상 신호는 픽셀 신호로 통칭될 수 있다.
CDS 블록(130)은 APS 블록(110)으로부터 복수의 컬럼 라인들 각각으로 제공되는 기준 신호와 영상 신호의 세트를 순차적으로 샘플링 및 홀딩(Sampling and Holding)할 수 있다. 즉, CDS 블록(130)은 컬럼들 각각에 대응하는 기준 신호와 영상 신호의 레벨을 샘플링하고 유지할 수 있다.
ADC 블록(140)은 CDS 블록(130)으로부터 출력되는 각각의 컬럼에 대한 상관 이중 샘플링 신호를 디지털 신호로 변환한 픽셀 데이터를 출력할 수 있다. 이를 위해 ADC 블록(140)은 각 컬럼에 대응하는 비교기 및 카운터를 포함할 수 있다. 또한, ADC 블록(140)은 비교기의 동작을 위해 램프 생성기(180)로부터 램프 신호를 제공받을 수 있다.
CDS 블록(130)과 ADC 블록(140)은 APS 블록(110)의 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W) 각각의 픽셀 데이터를 생성하는 데이터 생성 블록으로 통칭될 수 있다.
출력 버퍼(150)는 ADC 블록(140)으로부터 제공되는 각각의 컬럼 단위의 픽셀 데이터를 래치(latch)하여 출력할 수 있다. 출력 버퍼(150)는 ADC 블록(140)에서 출력되는 픽셀 데이터를 임시 저장하고, 타이밍 생성기(160)의 제어에 따라 픽셀 데이터를 순차적으로 출력할 수 있다.
타이밍 생성기(160)는 제어 레지스터 블록(170)의 제어에 따라 CMOS 이미지 센서(100)의 각 구성에 이미지 데이터(IDATA)의 생성 및 출력에 필요한 타이밍 신호, 기준 신호 및 제어 신호를 제공할 수 있다. 구체적으로, 타이밍 생성기(160)는 복수의 로우 라인들 중 선택된 로우 라인에 대응하는 픽셀들로부터 픽셀 신호들이 병렬적으로 출력되도록 로우 드라이버(120)로 라인 컨트롤 신호(LCS)를 출력할 수 있다. 또한, 타이밍 생성기(160)는 복수의 컬럼 라인들 중 선택된 컬럼 라인에 대응하는 픽셀 데이터가 순차적으로 출력되도록 CDS 블록(130), ADC 블록(140) 및 출력 버퍼(150)를 제어할 수 있다. 또한, 타이밍 생성기(160)는 ADC 블록(140)이 아날로그-디지털 변환을 수행하는데 이용되는 램프 신호를 생성하도록 램프 생성기(180)를 제어할 수 있다.
제어 레지스터 블록(170)은 DSP(200)의 제어에 따라, 타이밍 생성기(160), 램프 생성기(180) 및 출력 인터페이스(190)의 작동을 제어할 수 있다
램프 생성기(180)는 타이밍 생성기(160)의 제어에 따라 램프 신호를 생성하여 ADC 블록(140)에 제공할 수 있다.
출력 인터페이스(190)는 출력 버퍼(150)로부터 출력되는 픽셀 데이터를 이미지 데이터(IDATA)로서 DSP(200)로 출력할 수 있다. 즉, 이미지 데이터(IDATA)는 APS 블록(110)에 포함된 각 픽셀에 대한 픽셀 데이터를 포함할 수 있다.
DSP(200)는 이미지 신호 프로세서(Image Signal Processor; ISP, 210), 센서 컨트롤러(220) 및 인터페이스(230)를 포함할 수 있다.
이미지 신호 프로세서(210)는 제어 레지스터 블록(170)을 제어하는 센서 컨트롤러(220)와, 인터페이스(230)를 제어할 수 있다. 실시 예에 따라, CMOS 이미지 센서(100)와 DSP(200) 각각은 칩으로 구현되고, 하나의 패키지, 예컨대 멀티-칩 패키지(multi-chip package)로 구현될 수 있다. 다른 실시예에 따라, CMOS 이미지 센서(100)와 이미지 신호 프로세서(210)는 하나의 칩으로 구현될 수도 있다. 특히, 독립된 칩으로 구현된 DSP(200)는 ISP 칩으로 불릴 수 있다.
이미지 신호 프로세서(210)는 출력 인터페이스(190)로부터 전송된 이미지 데이터(IDATA)를 처리하고, 처리된 이미지 데이터를 인터페이스(230)로 전송할 수 있다. 여기서, 처리는 이미지 품질을 개선할 수 있는 다양한 처리를 의미하고, 예컨대 디모자이킹(demosaicing), 색조 보정, 화질 보정, 크기 조정 등일 수 있다. 특히, 이미지 신호 프로세서(210)는 레드 픽셀, 블루 픽셀 및 화이트 픽셀이 각각 3개씩 포함된 3x3 매트릭스 형태인 디모자이킹 매트릭스의 단위로 디모자이킹을 수행할 수 있다. 디모자이킹 매트릭스는 예컨대, 후술되는 제1 내지 제4 픽셀 그룹(PG1~PG4) 또는 제1 및 제2 마스크(MSK1, MSK2)를 포함할 수 있다.
센서 컨트롤러(220)는, 이미지 신호 프로세서(210)의 제어에 따라, 제어 레지스터 블록(170)을 제어하기 위한 다양한 제어 신호들을 생성할 수 있다.
인터페이스(230)는 이미지 신호 프로세서(210)에서 처리된 이미지 데이터를 디스플레이(300)로 전송할 수 있다.
디스플레이(300)는 인터페이스(230)로부터 출력된 이미지 데이터를 표시할 수 있다. 예컨대, 디스플레이(300)는 TFT-LCD(thin film transistor-liquid crystal display), LED(light emitting diode) 디스플레이, OLED(organic LED) 디스플레이, 또는 AMOLED(active-matrix OLED) 디스플레이로 구현될 수 있다. 도 1에서는 DSP(200)가 디스플레이(300)로 이미지 데이터를 출력하는 것으로 도시되어 있으나, 본 발명의 범위는 이에 한정되지 않으며, 예컨대 CPU(Central Processing Unit), 또는 애플리케이션 프로세서(application processor) 등으로 출력할 수도 있다.
도 2a는 본 발명의 일 실시예에 따른 픽셀 배열을 나타낸 도면이다.
도 2a를 참조하면, 제1 픽셀 배열(400)은 도 1에 도시된 APS 블록(110)에 포함된 픽셀들의 배열 방식의 일 예를 나타낸다. 도 2a에는 6x6의 매트릭스 형태로 배열된 픽셀들만이 도시되어 있으나, APS 블록(110)에 포함된 모든 픽셀들의 배열은 제1 픽셀 배열(400)의 배열 방식에 따를 수 있다.
제1 픽셀 배열(400)에는 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W)이 포함될 수 있다. 앞서 설명된 바와 같이, 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W) 각각은 레드 컬러, 블루 컬러 및 화이트 컬러에 해당하는 파장 대역을 통과시키는 레드 필터, 블루 필터 및 화이트 필터를 포함할 수 있다.
제1 픽셀 배열(400)은 로우(row) 방향으로 연속되는 임의의 3개의 픽셀들은 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W)을 모두 포함하고, 마찬가지로 컬럼(column) 방향으로 연속되는 임의의 3개의 픽셀들은 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W)을 모두 포함할 수 있다.
예를 들어, 제1 픽셀 배열(400)의 첫번째 로우를 살펴보면, 레드 픽셀(R), 화이트 픽셀(W) 및 블루 픽셀(B)이 순차적으로 배열되고, RWB의 배열이 반복될 수 있다.
또한, 제1 픽셀 배열(400)의 첫번째 컬럼을 살펴보면, 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W)이 순차적으로 배열되고, RBW의 배열이 반복될 수 있다.
제1 픽셀 배열(400)에 포함되는 임의의 3x3의 매트릭스에는 3개의 레드 픽셀들(R), 3개의 블루 픽셀들(B) 및 3개의 화이트 픽셀들(W)이 포함될 수 있다. 좀 더 확장해보면, 제1 픽셀 배열(400)에 포함되는 전체 36개의 픽셀들에는 레드 픽셀들(R), 블루 픽셀들(B) 및 화이트 픽셀들(W)이 각각 12개씩 동등하게 포함될 수 있다.
만일 픽셀들의 배열이 제1 픽셀 배열(400)이 아닌 베이어 패턴(bayer pattern)에 따를 경우, 6x6의 36개의 픽셀들에는 레드 픽셀들(R), 블루 픽셀들(B) 및 그린 픽셀들(G)이 각각 9개, 9개 및 18개씩 포함될 수 있다. 이는 그린 픽셀(G)의 광 흡수율이 상대적으로 낮기 때문인데, 이는 레드 픽셀(R)과 블루 픽셀(B)에 대한 정보의 감소를 가져오며, 최종적으로 레드와 블루에 대한 색상 정보의 열화를 가져올 수 있다.
그러나, 제1 픽셀 배열(400)에 따르면, 레드 픽셀들(R), 블루 픽셀들(B) 및 화이트 픽셀들(W)이 임의의 3Kx3K(여기서, K는 양의 정수)의 매트릭스 내에서 동등한 개수로 포함될 수 있으며, 베이어 패턴에 따른 픽셀 배열에 비해 레드와 블루에 대한 색상 정보의 열화를 방지할 수 있다. 이는, 화이트 픽셀(W)은 그린 픽셀(G)과 달리 레드 픽셀(R)과 블루 픽셀(B)의 광 흡수율과 대등한 광 흡수율을 가지기 때문이며, 그린에 대한 색상 정보는 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W)의 픽셀 신호들을 이용해 산출될 수 있다. 이러한 산출 방식의 실시예에 대해서는 후술하기로 한다.
한편, 제1 픽셀 배열(400)은 로우 방향으로 배열되는 레드 픽셀(R), 화이트 픽셀(W) 및 블루 픽셀(B)의 순서에 기초하여 RWB 배열 방식으로 불릴 수 있다.
제1 픽셀 배열(400)은 도 2a에 도시된 바와 달리 좌우가 대칭인 형태로 픽셀들이 배치된 배열도 포함하는 개념일 수 있다.
도 2b는 도 2a에 도시된 본 발명의 일 실시예에 따른 픽셀 배열의 일부를 나타낸 도면이다.
도 2b를 참조하면, 도 2a의 제1 픽셀 배열(400)에서 임의로 선택된 3x3 매트릭스(M1)에 대해 설명하기로 한다. 본 명세서에서는 3x3 매트릭스(M1)에 대해서만 설명되나, 제1 픽셀 배열(400)에서 임의로 선택된 3x3 매트릭스들은 이하에서 설명되는 구조적 특징을 공통적으로 가질 수 있다.
3x3 매트릭스(M1)는 3개의 로우와 3개의 컬럼의 매트릭스 형태로 배열된 복수의 픽셀들을 포함하며, 3x3 매트릭스(M1) 내에서 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W)이 각각 3개씩 배열될 수 있다. 이러한 배열 형태는 후술되는 이미지 신호 프로세서(210)의 픽셀 그룹 또는 마스크를 이용한 디모자이킹 동작을 가능하게 한다.
3x3 매트릭스(M1)는 3x3 매트릭스(M1)의 중심을 지나고 제1 컬러의 픽셀들이 제1 사선 방향(DIG1)을 따라 배열되는 제1 사선 라인(DL1), 제1 사선 라인(DL1)의 좌측에 배치되고 제2 컬러의 픽셀들이 제1 사선 방향(DIG1)을 따라 배열되는 제2 사선 라인(DL2) 및 제1 사선 라인(DL1)의 우측에 배치되고 제3 컬러의 픽셀들이 제1 사선 방향(DIG1)을 따라 배열되는 제3 사선 라인(DL3)을 포함할 수 있다. 또한, 제2 사선 라인(DL2)의 좌측에는 제3 컬러의 픽셀이 배치되고, 제3 사선 라인(DL3)의 우측에는 제2 컬러의 픽셀이 배치될 수 있다.
여기서, 제1 내지 제3 컬러 각각은 서로 다른 컬러이고, 레드, 블루 및 화이트 중 어느 하나일 수 있다. 도 2b의 예에서는, 제1 컬러는 레드, 제2 컬러는 블루, 제3 컬러는 화이트에 해당한다.
또한, 3x3 매트릭스(M1)는 제1 사선 방향(DIG1)과 수직인 제2 사선 방향(DIG2)을 따라 교번적으로 배열되는 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W)을 포함할 수 있다.
만일 제1 픽셀 배열(400)이 도 2a에 도시된 바와 달리 좌우가 대칭인 형태로 픽셀들이 배치된 배열에 따르는 경우에는, 상기에서 설명된 제1 내지 제2 사선 방향(DIG1, DIG2)과 제1 내지 제3 사선 라인(DL1~DL3) 각각은 좌우 대칭으로 반전될 수 있다.
도 3a는 본 발명의 다른 실시예에 따른 픽셀 배열을 나타낸 도면이다.
도 2a와 도 3a를 참조하면, 제2 픽셀 배열(500)은 도 1에 도시된 APS 블록(110)에 포함된 픽셀들의 배열 방식의 다른 예를 나타낸다. 도 3a에는 6x6의 매트릭스 형태로 배열된 픽셀들만이 도시되어 있으나, APS 블록(110)에 포함된 모든 픽셀들의 배열은 제2 픽셀 배열(500)의 배열 방식에 따를 수 있다.
제2 픽셀 배열(500)에는 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W)이 포함될 수 있다.
제2 픽셀 배열(500)은 제1 픽셀 배열(400)과 마찬가지로 로우 방향으로 연속되는 임의의 3개의 픽셀들은 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W)을 모두 포함하고, 또한 컬럼 방향으로 연속되는 임의의 3개의 픽셀들은 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W)을 모두 포함할 수 있다.
예를 들어, 제2 픽셀 배열(500)의 첫번째 로우를 살펴보면, 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W)이 순차적으로 배열되고, RBW의 배열이 반복될 수 있다.
또한, 제2 픽셀 배열(500)의 첫번째 컬럼을 살펴보면, 레드 픽셀(R), 화이트 픽셀(W) 및 블루 픽셀(B)이 순차적으로 배열되고, RWB의 배열이 반복될 수 있다.
제2 픽셀 배열(500)에 포함되는 임의의 3x3의 매트릭스에는 3개의 레드 픽셀들(R), 3개의 블루 픽셀들(B) 및 3개의 화이트 픽셀들(W)이 포함될 수 있다. 좀 더 확장해보면, 제2 픽셀 배열(500)에 포함되는 전체 36개의 픽셀들에는 레드 픽셀들(R), 블루 픽셀들(B) 및 화이트 픽셀들(W)이 각각 12개씩 동등하게 포함될 수 있다.
제2 픽셀 배열(500)에 따르면, 레드 픽셀들(R), 블루 픽셀들(B) 및 화이트 픽셀들(W)이 임의의 3Kx3K의 매트릭스 내에서 동등한 개수로 포함될 수 있으며, 베이어 패턴에 따른 픽셀 배열에 비해 레드와 블루에 대한 색상 정보의 열화를 방지할 수 있다.
한편, 제2 픽셀 배열(500)은 로우 방향으로 배열되는 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W)의 순서에 기초하여 RBW 배열 방식으로 불릴 수 있다.
제2 픽셀 배열(500)은 도 3a에 도시된 바와 달리 좌우가 대칭인 형태로 픽셀들이 배치된 배열도 포함하는 개념일 수 있다.
도 3b는 도 3a에 도시된 본 발명의 다른 실시예에 따른 픽셀 배열의 일부를 나타낸 도면이다.
도 3b를 참조하면, 도 3a의 제2 픽셀 배열(500)에서 임의로 선택된 3x3 매트릭스(M2)에 대해 설명하기로 한다. 본 명세서에서는 3x3 매트릭스(M2)에 대해서만 설명되나, 제2 픽셀 배열(500)에서 임의로 선택된 3x3 매트릭스들은 이하에서 설명되는 구조적 특징을 공통적으로 가질 수 있다.
3x3 매트릭스(M2)는 3개의 로우와 3개의 컬럼의 매트릭스 형태로 배열된 복수의 픽셀들을 포함하며, 3x3 매트릭스(M2) 내에서 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W)이 각각 3개씩 배열될 수 있다. 이러한 배열 형태는 후술되는 이미지 신호 프로세서(210)의 픽셀 그룹 또는 마스크를 이용한 디모자이킹 동작을 가능하게 한다.
3x3 매트릭스(M2)는 3x3 매트릭스(M2)의 중심을 지나고 제1 컬러의 픽셀들이 제1 사선 방향(DIG1)을 따라 배열되는 제1 사선 라인(DL1'), 제1 사선 라인(DL1')의 좌측에 배치되고 제2 컬러의 픽셀들이 제1 사선 방향(DIG1)을 따라 배열되는 제2 사선 라인(DL2') 및 제1 사선 라인(DL1')의 우측에 배치되고 제3 컬러의 픽셀들이 제1 사선 방향(DIG1)을 따라 배열되는 제3 사선 라인(DL3')을 포함할 수 있다. 또한, 제2 사선 라인(DL2')의 좌측에는 제3 컬러의 픽셀이 배치되고, 제3 사선 라인(DL3')의 우측에는 제2 컬러의 픽셀이 배치될 수 있다.
여기서, 제1 내지 제3 컬러 각각은 서로 다른 컬러이고, 레드, 블루 및 화이트 중 어느 하나일 수 있다. 도 3b의 예에서는, 제1 컬러는 레드, 제2 컬러는 화이트, 제3 컬러는 블루에 해당한다.
또한, 3x3 매트릭스(M2)는 제1 사선 방향(DIG1)과 수직인 제2 사선 방향(DIG2)을 따라 교번적으로 배열되는 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W)을 포함할 수 있다.
만일 제2 픽셀 배열(500)이 도 3a에 도시된 바와 달리 좌우가 대칭인 형태로 픽셀들이 배치된 배열에 따르는 경우에는, 상기에서 설명된 제1 내지 제2 사선 방향(DIG1, DIG2)과 제1 내지 제3 사선 라인(DL1'~DL3') 각각은 좌우 대칭으로 반전될 수 있다.
도 4는 제1 픽셀 배열 또는 제2 픽셀 배열에 따른 픽셀들에 대한 디모자이킹 방법의 일 실시예를 설명하기 위한 도면이다. 도 5는 도 4에 도시된 제1 픽셀 그룹의 예시들을 나타낸 도면이다.
도 4를 참조하면, 제1 픽셀 배열(400) 또는 제2 픽셀 배열(500)에 따라 배열된 픽셀들의 이미지 데이터(600)가 도시되어 있다. 이미지 데이터(600)는 6x6 매트릭스 형태로 배열된 픽셀들 각각의 픽셀 데이터를 포함하며, 이미지 데이터(600)는 3x3 매트릭스 형태로 배열된 픽셀들을 포함하는 제1 내지 제4 픽셀 그룹(PG1~PG4)을 포함할 수 있다.
6x6의 해상도를 갖는 이미지 데이터(600)는 2x2의 해상도를 갖는 RGB 데이터(610~630)로 디모자이킹(demosaicing)될 수 있다.
여기서, 디모자이킹은 각 픽셀마다 하나의 색상 정보(R, B, W 중 어느 하나)만을 갖는 이미지 데이터를 각 픽셀마다 3개의 색상 정보(R, G, B)를 갖는 RGB 이미지 데이터로 변환하는 동작을 의미할 수 있다.
이러한 디모자이킹은 이미지 신호 프로세서(210)에 의해 수행될 수 있다. 보다 구체적으로, 이미지 신호 프로세서(210)는 출력 인터페이스(190)로부터 전송된 이미지 데이터(IDATA)를 임시 저장하는 라인 메모리(line memory)와, 라인 메모리에 저장된 이미지 데이터를 처리하는 프로세싱 블록(processing block)을 포함할 수 있다. 프로세싱 블록은 예컨대, 디모자이킹, 색조 보정, 화질 보정, 크기 조정 등의 이미지 처리를 수행할 수 있다.
도 4에 도시된 디모자이킹 방법은 6x6의 해상도를 갖는 이미지 데이터(600)가 2x2의 해상도를 갖는 RGB 이미지 데이터(610~630)로 디모자이킹되는 경우로서, 해상도 변환이 함께 수행될 수 있다.
구체적으로, 3x3으로 배열된 픽셀들에 대응하는 이미지 데이터인 제1 픽셀 그룹(PG1)은 하나의 픽셀에 대한 레드 이미지 데이터(R1), 그린 이미지 데이터(G1) 및 블루 이미지 데이터(B1)로 변환될 수 있다. 여기서, 레드 이미지 데이터(R1), 그린 이미지 데이터(G1) 및 블루 이미지 데이터(B1)의 집합은 제1 픽셀 그룹(PG1)에 대한 RGB 이미지 데이터로 정의될 수 있다.
마찬가지로, 3x3으로 배열된 픽셀들에 대응하는 이미지 데이터인 제2 내지 제4 픽셀 그룹(PG2~PG4) 각각은 하나의 픽셀에 대한 레드 이미지 데이터(R2~R4), 그린 이미지 데이터(G2~G4) 및 블루 이미지 데이터(B2~B4) 각각으로 변환될 수 있다. 아울러, 레드 이미지 데이터(R2~R4), 그린 이미지 데이터(G2~G4) 및 블루 이미지 데이터(B2~B4)의 각 집합은 제2 내지 제4 픽셀 그룹(PG2~PG4) 각각에 대한 RGB 이미지 데이터로 정의될 수 있다.
도 5를 참조하면, 도 5의 (a) 내지 (c) 각각은 제1 픽셀 그룹의 실시예를 나타낸다. 도 5에서는 이미지 데이터(600)가 제1 픽셀 배열(400)에 따라 배열된 픽셀들의 이미지 데이터인 경우에 대해 설명하기로 한다.
도 5의 (a)에서, 제1 픽셀 그룹(PG1a)은 좌측 상단의 첫번째 픽셀이 레드 픽셀(R)인 R-first 배열에 따를 수 있다. 이 경우, 이미지 데이터(600)는 제1 픽셀 배열(400)에 따르는 픽셀들의 픽셀 데이터로 구성되므로, 제2 내지 제4 픽셀 그룹 역시 R-first 배열에 따르게 된다.
다음으로, 제1 픽셀 그룹(PG1a)이 레드 이미지 데이터(R1), 그린 이미지 데이터(G1) 및 블루 이미지 데이터(B1)로 변환되는 과정에 대해 설명하기로 한다.
일 실시예에 따라, 제1 픽셀 그룹(PG1a)은 합산법(summing method)에 의해 RGB 이미지 데이터로 변환될 수 있다. 예를 들어, 레드 이미지 데이터(R1)는 제1 픽셀 그룹(PG1a)에 포함된 3개의 레드 픽셀의 픽셀 데이터를 합산한 결과로 계산될 수 있다. 블루 이미지 데이터(B1)는 제1 픽셀 그룹(PG1a)에 포함된 3개의 블루 픽셀의 픽셀 데이터를 합산한 결과로 계산될 수 있다. 또한, 그린 이미지 데이터(G1)는 3개의 화이트 픽셀의 픽셀 데이터를 합산한 결과로부터, 3개의 레드 픽셀의 픽셀 데이터의 합(즉, 합산법에 따라 계산된 레드 이미지 데이터)과 3개의 블루 픽셀의 픽셀 데이터의 합(즉, 합산법에 따라 계산된 블루 이미지 데이터)을 합산한 결과를 감산한 결과로 계산될 수 있다.
다른 실시예에 따라, 제1 픽셀 그룹(PG1a)은 평균법(average method)에 의해 RGB 이미지 데이터로 변환될 수 있다. 예를 들어, 레드 이미지 데이터(R1)는 제1 픽셀 그룹(PG1a)에 포함된 3개의 레드 픽셀의 픽셀 데이터에 대한 평균값으로 계산될 수 있다. 블루 이미지 데이터(B1)는 제1 픽셀 그룹(PG1a)에 포함된 3개의 블루 픽셀의 픽셀 데이터에 대한 평균값으로 계산될 수 있다. 또한, 그린 이미지 데이터(G1)는 3개의 화이트 픽셀의 픽셀 데이터에 대한 평균값로부터, 3개의 레드 픽셀의 픽셀 데이터에 대한 평균값(즉, 평균법에 따라 계산된 레드 이미지 데이터)과 3개의 블루 픽셀의 픽셀 데이터(즉, 평균법에 따라 계산된 블루 이미지 데이터)에 대한 평균값을 합산한 결과를 감산한 결과로 계산될 수 있다.
본 명세서에서는 화이트 픽셀로부터 그린 픽셀을 구하는 방식은 차분 방식(즉, 화이트 픽셀로부터 레드 픽셀과 블루 픽셀의 합을 감산하여 그린 픽셀을 산출하는 방식)을 이용하는 것으로 설명되나, 본 발명의 범위는 이에 한정되지 않고 다양한 방식이 이용될 수 있다. 즉, 그린 이미지 데이터는 3개의 화이트 픽셀의 픽셀 데이터에 대한 합 또는 평균값과, 레드 이미지 데이터 및 블루 이미지 데이터를 반영하여 연산한 결과로 계산될 수 있다.
이와 같이, R-first 배열에 따른 3x3의 픽셀들에 대한 픽셀 데이터를 포함하는 제1 픽셀 그룹(PG1a)이 하나의 픽셀에 대응하는 RGB 이미지 데이터로 변환될 수 있다. 마찬가지로, R-first 배열에 따른 3x3의 픽셀들에 대한 픽셀 데이터를 포함하는 제2 내지 제4 픽셀 그룹이 각각 하나의 픽셀에 대응하는 RGB 이미지 데이터로 변환될 수 있다.
도 5의 (b)에서, 제1 픽셀 그룹(PG1b)은 좌측 상단의 첫번째 픽셀이 화이트 픽셀(W)인 W-first 배열에 따를 수 있다. 이 경우, 이미지 데이터(600)는 제1 픽셀 배열(400)에 따르는 픽셀들의 픽셀 데이터로 구성되므로, 제2 내지 제4 픽셀 그룹 역시 W-first 배열에 따르게 된다.
제1 픽셀 그룹(PG1b)은 합산법 또는 평균법에 의해 RGB 이미지 데이터로 변환될 수 있다. 제1 픽셀 그룹(PG1b)에 합산법 또는 평균법이 적용되는 방식은 제1 픽셀 그룹(PG1a)에 합산법 또는 평균법이 적용되는 방식과 실질적으로 동일한 바 중복되는 설명은 생략하기로 한다.
이와 같이, W-first 배열에 따른 3x3의 픽셀들에 대한 픽셀 데이터를 포함하는 제1 픽셀 그룹(PG1b)이 하나의 픽셀에 대응하는 RGB 이미지 데이터로 변환될 수 있다. 마찬가지로, W-first 배열에 따른 3x3의 픽셀들에 대한 픽셀 데이터를 포함하는 제2 내지 제4 픽셀 그룹이 각각 하나의 픽셀에 대응하는 RGB 이미지 데이터로 변환될 수 있다.
도 5의 (c)에서, 제1 픽셀 그룹(PG1c)은 좌측 상단의 첫번째 픽셀이 블루 픽셀(B)인 B-first 배열에 따를 수 있다. 이 경우, 이미지 데이터(600)는 제1 픽셀 배열(400)에 따르는 픽셀들의 픽셀 데이터로 구성되므로, 제2 내지 제4 픽셀 그룹 역시 B-first 배열에 따르게 된다.
제1 픽셀 그룹(PG1c)은 합산법 또는 평균법에 의해 RGB 이미지 데이터로 변환될 수 있다. 제1 픽셀 그룹(PG1c)에 합산법 또는 평균법이 적용되는 방식은 제1 픽셀 그룹(PG1a)에 합산법 또는 평균법이 적용되는 방식과 실질적으로 동일한 바 중복되는 설명은 생략하기로 한다.
이와 같이, B-first 배열에 따른 3x3의 픽셀들에 대한 픽셀 데이터를 포함하는 제1 픽셀 그룹(PG1c)이 하나의 픽셀에 대응하는 RGB 이미지 데이터로 변환될 수 있다. 마찬가지로, B-first 배열에 따른 3x3의 픽셀들에 대한 픽셀 데이터를 포함하는 제2 내지 제4 픽셀 그룹이 각각 하나의 픽셀에 대응하는 RGB 이미지 데이터로 변환될 수 있다.
만일 이미지 데이터(600)가 제2 픽셀 배열(500)에 따라 배열된 픽셀들의 이미지 데이터인 경우에도 R-first 배열, W-first 배열 또는 B-first 배열의 픽셀 그룹의 단위로 합산법 또는 평균법에 의해 RGB 이미지 데이터로 변환될 수 있다.
이상에서 살펴본 바와 같이, 레드 픽셀(R), 블루 픽셀(B) 및 화이트 픽셀(W)의 픽셀 데이터로 구성된 이미지 데이터(600)는 3x3 매트릭스 형태로 픽셀들이 배열된 픽셀 그룹(예컨대, PG1a)의 단위로 RGB 이미지 데이터로 변환될 수 있다.
도 6은 제1 픽셀 배열 또는 제2 픽셀 배열에 따른 픽셀들에 대한 디모자이킹 방법의 다른 실시예를 설명하기 위한 도면이다. 도 7은 도 6에 도시된 디모자이킹 방법의 구체적인 예시를 나타낸 도면이다.
도 6을 참조하면, 제1 픽셀 배열(400) 또는 제2 픽셀 배열(500)에 따라 배열된 픽셀들의 이미지 데이터(700)가 도시되어 있다. 이미지 데이터(700)는 6x6 매트릭스 형태로 배열된 픽셀들 각각의 픽셀 데이터를 포함할 수 있다.
6x6의 해상도를 갖는 이미지 데이터(700)는 6x6의 해상도를 갖는 RGB 데이터(710~730)로 디모자이킹될 수 있다. 이러한 디모자이킹은 도 4에서 설명된 바와 마찬가지로 이미지 신호 프로세서(210)에 의해 수행될 수 있다.
도 6에 도시된 디모자이킹 방법은 6x6의 해상도를 갖는 이미지 데이터(700)가 6x6의 해상도를 갖는 RGB 이미지 데이터(710~730)로 디모자이킹되는 경우로서, 도 4와 달리 해상도 변환은 수행되지 않을 수 있다.
또한, 이미지 데이터(700)는 마스크(mask) 단위로 디모자이킹될 수 있다. 여기서, 마스크는 3x3 매트릭스 형태로 배열된 픽셀들의 집합을 의미하며, 마스크의 중심은 디모자이킹이 수행되는 대상 픽셀이 된다. 즉, 이미지 데이터(700)에 포함된 어느 하나의 픽셀인 대상 픽셀에 대한 디모자이킹은 대상 픽셀을 중심으로 하는 마스크를 이용하여 수행될 수 있다.
도 7을 참조하여 이러한 디모자이킹 동작을 상세히 설명하기로 한다.
도 7에 도시된 바와 같이, 이미지 데이터(700)는 6x6의 해상도를 가지며, 제1 픽셀 배열(400)에 따라 픽셀들이 배열될 수 있다. 이미지 데이터(700)가 제2 픽셀 배열(500)에 따라 픽셀들이 배열되는 경우에도, 이하에서 설명되는 디모자이킹 방법이 실질적으로 동일하게 적용될 수 있는 바, 중복되는 설명은 생략하기로 한다. 또한, 도 7에 표시된 R, W, B에 이어 병기된 숫자는 해당 픽셀이 속한 로우와 컬럼을 의미한다.
먼저, B32 픽셀의 픽셀 데이터에 대한 디모자이킹 동작에 대해 설명하면, B32 픽셀을 중심으로 하는 3x3 매트릭스 형태의 제1 마스크(MSK1)가 설정된다.
일 실시예에 따라, 제1 마스크(MSK1)는 합산법에 의해 B32 픽셀의 RGB 이미지 데이터로 변환될 수 있다. 예를 들어, 레드 이미지 데이터는 제1 마스크(MSK1)에 포함된 3개의 레드 픽셀(R22, R33, R41)의 픽셀 데이터를 합산한 결과로 계산될 수 있다. 블루 이미지 데이터는 제1 마스크(MSK1)에 포함된 3개의 블루 픽셀(B21, B32, B43)의 픽셀 데이터를 합산한 결과로 계산될 수 있다. 또한, 그린 이미지 데이터는 3개의 화이트 픽셀(W23, W31, W42)의 픽셀 데이터를 합산한 결과로부터, 3개의 레드 픽셀(R22, R33, R41)의 픽셀 데이터의 합(즉, 합산법에 따라 계산된 레드 이미지 데이터)과 3개의 블루 픽셀(B21, B32, B43)의 픽셀 데이터의 합(즉, 평균법에 따라 계산된 블루 이미지 데이터)을 합산한 결과를 감산한 결과로 계산될 수 있다.
다른 실시예에 따라, 제1 마스크(MSK1)은 평균법에 의해 B32 픽셀의 RGB 이미지 데이터로 변환될 수 있다. 예를 들어, 레드 이미지 데이터는 제1 마스크(MSK1)에 포함된 3개의 레드 픽셀(R22, R33, R41)의 픽셀 데이터에 대한 평균값으로 계산될 수 있다. 블루 이미지 데이터는 제1 마스크(MSK1)에 포함된 3개의 블루 픽셀(B21, B32, B43)의 픽셀 데이터에 대한 평균값으로 계산될 수 있다. 또한, 그린 이미지 데이터는 3개의 화이트 픽셀(W23, W31, W42)의 픽셀 데이터에 대한 평균값로부터, 3개의 레드 픽셀(R22, R33, R41)의 픽셀 데이터에 대한 평균값(즉, 평균법에 따라 계산된 레드 이미지 데이터)과 3개의 블루 픽셀(B21, B32, B43)의 픽셀 데이터에 대한 평균값(즉, 평균법에 따라 계산된 블루 이미지 데이터)을 합산한 결과를 감산한 결과로 계산될 수 있다.
또 다른 실시예에 따라, 제1 마스크(MSK1)에 대해 합산법 또는 평균법을 적용할 때, 해당 픽셀과 대상 픽셀(B32) 간의 상대 거리를 이용한 가중치가 반영될 수 있다. 예를 들어, 평균법에 의해 레드 이미지 데이터를 계산할 때, 대상 픽셀(B32)의 수직 또는 수평 방향에 위치한 레드 픽셀(R22, R33)에 대해서는 0.7의 가중치가, 대상 픽셀(B32)의 대각선 방향에 위치한 레드 픽셀(R41)에 대해서는 0.5의 가중치가 곱해진 뒤 평균값이 계산될 수 있다. 또한, 평균법에 의해 블루 이미지 데이터를 계산할 때, 대상 픽셀(B32)에 대해서는 1의 가중치가, 대상 픽셀(B32)의 대각선 방향에 위치한 블루 픽셀(B21, B43)에 대해서는 0.5의 가중치가 곱해진 뒤 평균값이 계산될 수 있다. 아울러, 평균법에 의해 그린 이미지 데이터를 계산할 때, 대상 픽셀(B32)의 수직 또는 수평 방향에 위치한 화이트 픽셀(W31, W42)에 대해서는 0.7의 가중치가, 대상 픽셀(B32)의 대각선 방향에 위치한 화이트 픽셀(W23)에 대해서는 0.5의 가중치가 곱해진 뒤 평균값이 계산될 수 있다.
다음으로, W45 픽셀의 픽셀 데이터에 대한 디모자이킹 동작에 대해 설명하면, W452 픽셀을 중심으로 하는 3x3 매트릭스 형태의 제2 마스크(MSK2)가 설정된다.
일 실시예에 따라, 제2 마스크(MSK2)는 합산법에 의해 W45 픽셀의 RGB 이미지 데이터로 변환될 수 있다. 예를 들어, 레드 이미지 데이터는 제2 마스크(MSK2)에 포함된 3개의 레드 픽셀(R36, R44, R55)의 픽셀 데이터를 합산한 결과로 계산될 수 있다. 블루 이미지 데이터는 제2 마스크(MSK2)에 포함된 3개의 블루 픽셀(B35, B46, B54)의 픽셀 데이터를 합산한 결과로 계산될 수 있다. 또한, 그린 이미지 데이터는 3개의 화이트 픽셀(W34, W45, W56)의 픽셀 데이터를 합산한 결과로부터, 3개의 레드 픽셀(R36, R44, R55)의 픽셀 데이터의 합과 3개의 블루 픽셀(B35, B46, B54)의 픽셀 데이터의 합을 합산한 결과를 감산한 결과로 계산될 수 있다.
다른 실시예에 따라, 제2 마스크(MSK2)은 평균법에 의해 W45 픽셀의 RGB 이미지 데이터로 변환될 수 있다. 예를 들어, 레드 이미지 데이터는 제2 마스크(MSK2)에 포함된 3개의 레드 픽셀(R36, R44, R55)의 픽셀 데이터에 대한 평균값으로 계산될 수 있다. 블루 이미지 데이터는 제2 마스크(MSK2)에 포함된 3개의 블루 픽셀(B35, B46, B54)의 픽셀 데이터에 대한 평균값으로 계산될 수 있다. 또한, 그린 이미지 데이터는 3개의 화이트 픽셀(W34, W45, W56)의 픽셀 데이터에 대한 평균값로부터, 3개의 레드 픽셀(R36, R44, R55)의 픽셀 데이터에 대한 평균값과 3개의 블루 픽셀(B35, B46, B54)의 픽셀 데이터에 대한 평균값을 합산한 결과를 감산한 결과로 계산될 수 있다.
또 다른 실시예에 따라, 제2 마스크(MSK2)에 대해 합산법 또는 평균법을 적용할 때, 대상 픽셀(W45)과의 상대 거리를 이용한 가중치가 반영될 수 있다. 예를 들어, 평균법에 의해 레드 이미지 데이터를 계산할 때, 대상 픽셀(W45)의 수직 또는 수평 방향에 위치한 레드 픽셀(R44, R55)에 대해서는 0.7의 가중치가, 대상 픽셀(W45)의 대각선 방향에 위치한 레드 픽셀(R36)에 대해서는 0.5의 가중치가 곱해진 뒤 평균값이 계산될 수 있다. 또한, 평균법에 의해 블루 이미지 데이터를 계산할 때, 대상 픽셀(W45)의 수직 또는 수평 방향에 위치한 블루 픽셀(B35, B46)에 대해서는 0.7의 가중치가, 대상 픽셀(W45)의 대각선 방향에 위치한 블루 픽셀(B54)에 대해서는 0.5의 가중치가 곱해진 뒤 평균값이 계산될 수 있다. 아울러, 평균법에 의해 그린 이미지 데이터를 계산할 때, 대상 픽셀(W45)에 대해서는 1의 가중치가, 대상 픽셀(W45)의 대각선 방향에 위치한 화이트 픽셀(W34, W56)에 대해서는 0.5의 가중치가 곱해진 뒤 평균값이 계산될 수 있다.
이와 같이, 임의의 대상 픽셀에 대해 대상 픽셀을 중심으로 하는 마스크를 이용해 대상 픽셀에 대한 RGB 이미지 데이터가 생성될 수 있다.
본 발명의 일 실시예에 따른 이미지 센서(100) 및 이의 디모자이킹 방법에 의하면, 픽셀의 민감도가 낮을 경우에도 높은 광량을 요구하는 그린 픽셀이 생략되므로 픽셀 어레이 전체의 민감도가 높아져, 낮은 광량에도 높은 화질을 구현 할 수 있다.
또한, 2x2의 픽셀들(예컨대, 베이어 패턴)이 아닌 3x3의 픽셀들이 1개 픽셀의 RGB 이미지 데이터를 결정하므로 낮은 광량 또는 픽셀 사이즈의 소형화에도 불구하고 높은 화질을 구현 할 수 있다.
아울러, 연산을 통한 고화소 구현 시 픽셀의 재배열을 통한 복잡한 구현 없이도 고화소 구현이 가능하며, 화질의 왜곡을 최소화 할 수 있다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나,""A, B 또는 C," "A, B 및 C 중 적어도 하나,"및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims (20)

  1. 삭제
  2. 삭제
  3. 삭제
  4. 삭제
  5. 레드 픽셀, 블루 픽셀 및 화이트 픽셀이 각각 3개씩 배열된 3x3 매트릭스를 포함하는 APS(Active Pixel Sensor) 블록; 및
    상기 레드 픽셀, 상기 블루 픽셀 및 상기 화이트 픽셀이 각각 3개씩 포함된 디모자이킹 매트릭스 단위로 디모자이킹을 수행하는 이미지 신호 프로세서를 포함하고,
    상기 디모자이킹 매트릭스는 3x3으로 배열된 픽셀들에 대응하는 이미지 데이터인 마스크를 포함하며,
    상기 이미지 신호 프로세서는, 상기 마스크를 상기 마스크의 중심에 위치한 대상 픽셀에 대한 레드 이미지 데이터, 그린 이미지 데이터 및 블루 이미지 데이터로 변환하고,
    상기 마스크는 상기 대상 픽셀로부터 제1 거리를 갖는 제1 픽셀과, 상기 대상 픽셀로부터 제2 거리를 갖는 제2 픽셀을 포함하고,
    상기 제2 거리는 상기 제1 거리보다 크고,
    상기 제1 픽셀과 상기 제2 픽셀은 서로 동일한 컬러에 대응되고,
    상기 이미지 신호 프로세서는, 상기 제1 픽셀에 제1 가중치를 부여하고, 상기 제2 픽셀에 상기 제1 가중치보다 작은 제2 가중치를 부여하고,
    상기 대상 픽셀이 제1 컬러에 대응하는 경우, 상기 이미지 신호 프로세서는, 상기 마스크에서 상기 제1 컬러에 대응하는 나머지 픽셀들보다 큰 가중치를 상기 대상 픽셀에 부여하고, 상기 대상 픽셀의 픽셀 데이터와 상기 나머지 픽셀들의 픽셀 데이터에 기초하여, 상기 대상 픽셀에 대한 상기 제1 컬러의 이미지 데이터를 생성하는 이미지 처리 시스템.
  6. 제5항에 있어서,
    상기 APS 블록은 로우 방향으로 RWB의 순서에 따른 제1 픽셀 배열로 배열되는 상기 레드 픽셀, 상기 블루 픽셀 및 상기 화이트 픽셀을 포함하는 이미지 처리 시스템.
  7. 제5항에 있어서,
    상기 APS 블록은 로우 방향으로 RBW의 순서에 따른 제2 픽셀 배열로 배열되는 상기 레드 픽셀, 상기 블루 픽셀 및 상기 화이트 픽셀을 포함하는 이미지 처리 시스템.
  8. 제5항에 있어서,
    상기 디모자이킹 매트릭스는 3x3으로 배열된 픽셀들에 대응하는 이미지 데이터인 픽셀 그룹을 포함하며,
    상기 이미지 신호 프로세서는, 상기 픽셀 그룹을 하나의 픽셀에 대한 레드 이미지 데이터, 그린 이미지 데이터 및 블루 이미지 데이터로 변환하는 이미지 처리 시스템.
  9. 제8항에 있어서,
    상기 이미지 신호 프로세서는, 상기 픽셀 그룹에 포함된 3개의 레드 픽셀의 픽셀 데이터를 합산하여 상기 레드 이미지 데이터를 생성하고, 상기 픽셀 그룹에 포함된 3개의 블루 픽셀의 픽셀 데이터를 합산하여 상기 블루 이미지 데이터를 생성하고, 상기 픽셀 그룹에 포함된 3개의 화이트 픽셀의 픽셀 데이터의 합, 상기 레드 이미지 데이터 및 상기 블루 이미지 데이터를 연산하여 상기 그린 이미지 데이터를 생성하는 이미지 처리 시스템.
  10. 제8항에 있어서,
    상기 이미지 신호 프로세서는, 상기 픽셀 그룹에 포함된 3개의 레드 픽셀의 픽셀 데이터의 평균값을 계산하여 상기 레드 이미지 데이터를 생성하고, 상기 픽셀 그룹에 포함된 3개의 블루 픽셀의 픽셀 데이터의 평균값을 계산하여 상기 블루 이미지 데이터를 생성하고, 상기 픽셀 그룹에 포함된 3개의 화이트 픽셀의 픽셀 데이터의 평균값, 상기 레드 이미지 데이터 및 상기 블루 이미지 데이터를 연산하여 상기 그린 이미지 데이터를 생성하는 이미지 처리 시스템.
  11. 제8항에 있어서,
    상기 픽셀 그룹은 좌측 상단의 픽셀이 상기 레드 픽셀인 R-first 배열에 따르는 이미지 처리 시스템.
  12. 제8항에 있어서,
    상기 픽셀 그룹은 좌측 상단의 픽셀이 상기 화이트 픽셀인 W-first 배열에 따르는 이미지 처리 시스템.
  13. 제8항에 있어서,
    상기 픽셀 그룹은 좌측 상단의 픽셀이 상기 블루 픽셀인 B-first 배열에 따르는 이미지 처리 시스템.
  14. 삭제
  15. 제5항에 있어서,
    상기 이미지 신호 프로세서는, 상기 마스크에 포함된 3개의 레드 픽셀의 픽셀 데이터를 합산하여 상기 레드 이미지 데이터를 생성하고, 상기 마스크에 포함된 3개의 블루 픽셀의 픽셀 데이터를 합산하여 상기 블루 이미지 데이터를 생성하고, 상기 마스크에 포함된 3개의 화이트 픽셀의 픽셀 데이터의 합, 상기 레드 이미지 데이터 및 상기 블루 이미지 데이터를 연산하여 상기 그린 이미지 데이터를 생성하는 이미지 처리 시스템.
  16. 제5항에 있어서,
    상기 이미지 신호 프로세서는, 상기 마스크에 포함된 3개의 레드 픽셀의 픽셀 데이터의 평균값을 계산하여 상기 레드 이미지 데이터를 생성하고, 상기 마스크에 포함된 3개의 블루 픽셀의 픽셀 데이터의 평균값을 계산하여 상기 블루 이미지 데이터를 생성하고, 상기 마스크에 포함된 3개의 화이트 픽셀의 픽셀 데이터의 평균값, 상기 레드 이미지 데이터 및 상기 블루 이미지 데이터를 연산하여 상기 그린 이미지 데이터를 생성하는 이미지 처리 시스템.
  17. 삭제
  18. 레드 픽셀, 블루 픽셀 및 화이트 픽셀 각각의 픽셀 데이터를 포함하는 이미지 데이터를 임시 저장하는 라인 메모리; 및
    상기 이미지 데이터에 대해, 상기 레드 픽셀, 상기 블루 픽셀 및 상기 화이트 픽셀이 각각 3개씩 포함된 디모자이킹 매트릭스 단위로 디모자이킹을 수행하는 프로세싱 블록을 포함하고,
    상기 픽셀 데이터는 레드 픽셀, 블루 픽셀 및 화이트 픽셀이 각각 3개씩 배열된 3x3 매트릭스를 포함하는 APS 블록으로부터 생성되고,
    상기 디모자이킹 매트릭스는 3x3으로 배열된 픽셀들에 대응하는 이미지 데이터인 마스크를 포함하며,
    상기 프로세싱 블록은, 상기 마스크를 상기 마스크의 중심에 위치한 대상 픽셀에 대한 레드 이미지 데이터, 그린 이미지 데이터 및 블루 이미지 데이터로 변환하고,
    상기 마스크는 상기 대상 픽셀로부터 제1 거리를 갖는 제1 픽셀과, 상기 대상 픽셀로부터 제2 거리를 갖는 제2 픽셀을 포함하고,
    상기 제2 거리는 상기 제1 거리보다 크고,
    상기 제1 픽셀과 상기 제2 픽셀은 서로 동일한 컬러에 대응되고,
    상기 프로세싱 블록은, 상기 제1 픽셀에 제1 가중치를 부여하고, 상기 제2 픽셀에 상기 제1 가중치보다 작은 제2 가중치를 부여하고,
    상기 대상 픽셀이 제1 컬러에 대응하는 경우, 상기 프로세싱 블록은, 상기 마스크에서 상기 제1 컬러에 대응하는 나머지 픽셀들보다 큰 가중치를 상기 대상 픽셀에 부여하고, 상기 대상 픽셀의 픽셀 데이터와 상기 나머지 픽셀들의 픽셀 데이터에 기초하여, 상기 대상 픽셀에 대한 상기 제1 컬러의 이미지 데이터를 생성하는 이미지 신호 프로세서.
  19. 제18항에 있어서,
    상기 디모자이킹 매트릭스는 3x3으로 배열된 픽셀들에 대응하는 이미지 데이터인 픽셀 그룹을 포함하며,
    상기 픽셀 그룹을 하나의 픽셀에 대한 레드 이미지 데이터, 그린 이미지 데이터 및 블루 이미지 데이터로 변환하는 이미지 신호 프로세서.
  20. 삭제
KR1020190096753A 2019-08-08 2019-08-08 이미지 센서, 이미지 신호 프로세서 및 이들을 포함하는 이미지 처리 시스템 Active KR102709671B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020190096753A KR102709671B1 (ko) 2019-08-08 2019-08-08 이미지 센서, 이미지 신호 프로세서 및 이들을 포함하는 이미지 처리 시스템
US16/707,623 US11025869B2 (en) 2019-08-08 2019-12-09 Image sensor, image sensor processor, and image processing system including the same
CN201911377020.XA CN112349735B (zh) 2019-08-08 2019-12-27 图像传感器、图像信号处理器及包括其的图像处理系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190096753A KR102709671B1 (ko) 2019-08-08 2019-08-08 이미지 센서, 이미지 신호 프로세서 및 이들을 포함하는 이미지 처리 시스템

Publications (2)

Publication Number Publication Date
KR20210017460A KR20210017460A (ko) 2021-02-17
KR102709671B1 true KR102709671B1 (ko) 2024-09-26

Family

ID=74366918

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190096753A Active KR102709671B1 (ko) 2019-08-08 2019-08-08 이미지 센서, 이미지 신호 프로세서 및 이들을 포함하는 이미지 처리 시스템

Country Status (3)

Country Link
US (1) US11025869B2 (ko)
KR (1) KR102709671B1 (ko)
CN (1) CN112349735B (ko)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11360382B2 (en) * 2019-07-18 2022-06-14 Synopsys, Inc. Enforcing mask synthesis consistency across random areas of integrated circuit chips
US11776088B2 (en) * 2020-03-11 2023-10-03 Samsung Electronics Co., Ltd. Electronic device generating image data and converting the generated image data and operating method of the electronic device
CN113676708B (zh) * 2021-07-01 2023-11-14 Oppo广东移动通信有限公司 图像生成方法、装置、电子设备和计算机可读存储介质
KR102756864B1 (ko) * 2021-11-09 2025-01-21 삼성전자주식회사 이미지 센서 및 이미지 센싱 방법

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080068477A1 (en) * 2006-09-20 2008-03-20 Kabushiki Kaisha Toshiba Solid-state imaging device

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4500914A (en) * 1981-08-01 1985-02-19 Sharp Kabushiki Kaisha Color imaging array and color imaging device
US4580160A (en) * 1984-03-22 1986-04-01 Fuji Photo Film Co., Ltd. Color image sensor with improved resolution having time delays in a plurality of output lines
CA1269446A (en) * 1984-12-28 1990-05-22 Seiji Hashimoto Image sensing apparatus
JP3814921B2 (ja) * 1997-03-19 2006-08-30 セイコーエプソン株式会社 グレースケール画像のハーフトーニング方法、およびグレースケール画像のハーフトーニング手段を有する装置
JP2001008020A (ja) * 1999-06-22 2001-01-12 Canon Electronics Inc 画像処理装置
US6816197B2 (en) * 2001-03-21 2004-11-09 Hewlett-Packard Development Company, L.P. Bilateral filtering in a demosaicing process
JP4154661B2 (ja) * 2003-01-14 2008-09-24 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム
US7477304B2 (en) * 2004-08-26 2009-01-13 Micron Technology, Inc. Two narrow band and one wide band color filter for increasing color image sensor sensitivity
WO2006112814A1 (en) * 2005-04-13 2006-10-26 Hewlett-Packard Development Company L.P. Edge-sensitive denoising and color interpolation of digital images
US7893975B2 (en) * 2006-10-13 2011-02-22 Apple Inc. System and method for processing images using predetermined tone reproduction curves
KR100832846B1 (ko) * 2006-11-15 2008-05-28 삼성전자주식회사 영상 촬상 소자
KR20100017626A (ko) * 2007-06-07 2010-02-16 소니 주식회사 신호 처리 방법 및 신호 처리 장치
JP4914303B2 (ja) * 2007-07-13 2012-04-11 シリコン ヒフェ ベー．フェー． 画像処理装置及び撮像装置、画像処理方法及び撮像方法、画像処理プログラム
US20110013056A1 (en) * 2009-07-17 2011-01-20 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Color filters and demosaicing techniques for digital imaging
JP5326943B2 (ja) * 2009-08-31 2013-10-30 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
JP5672776B2 (ja) * 2010-06-02 2015-02-18 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
JP5655543B2 (ja) * 2010-12-20 2015-01-21 ソニー株式会社 画像処理装置、画像処理方法およびプログラム。
US8731281B2 (en) * 2011-03-29 2014-05-20 Sony Corporation Wavelet transform on incomplete image data and its applications in image processing
CN102663719B (zh) * 2012-03-19 2014-06-04 西安电子科技大学 基于非局部均值的Bayer型CFA图像去马赛克方法
US9191635B2 (en) * 2012-03-19 2015-11-17 Semiconductor Components Industries, Llc Imaging systems with clear filter pixels
US20140063300A1 (en) * 2012-09-06 2014-03-06 Aptina Imaging Corporation High dynamic range imaging systems having clear filter pixel arrays
US9055223B2 (en) * 2013-03-15 2015-06-09 Samsung Electronics Co., Ltd. Digital image stabilization method and imaging device using the same
US9042643B2 (en) * 2013-06-20 2015-05-26 Himax Imaging Limited Method for demosaicking
US9251569B2 (en) * 2013-09-10 2016-02-02 Adobe Systems Incorporated Removing noise from an image via efficient patch distance computations
CN103595980B (zh) * 2013-10-25 2015-08-05 西安电子科技大学 基于轮廓非局部均值的色彩滤波阵列图像去马赛克方法
JP6598507B2 (ja) * 2015-05-11 2019-10-30 キヤノン株式会社 撮像装置、撮像システム、信号処理方法
US10148926B2 (en) * 2015-12-07 2018-12-04 Samsung Electronics Co., Ltd. Imaging apparatus and image processing method of thereof
CN105979233B (zh) * 2016-06-30 2018-10-19 北京奇艺世纪科技有限公司 去马赛克方法、图像处理器及图像传感器
US10644073B2 (en) * 2016-12-19 2020-05-05 Samsung Electronics Co., Ltd. Image sensors and electronic devices including the same
US10262399B2 (en) 2017-01-09 2019-04-16 Samsung Electronics Co., Ltd. Image denoising with color-edge contrast preserving
KR101907451B1 (ko) * 2017-05-19 2018-10-12 인천대학교 산학협력단 베이어 패턴 필터 기반 고해상도 컬러 영상 복원 및 화질 향상 장치 및 방법
CN109426038A (zh) * 2017-08-25 2019-03-05 合肥捷达微电子有限公司 显示面板及显示装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080068477A1 (en) * 2006-09-20 2008-03-20 Kabushiki Kaisha Toshiba Solid-state imaging device

Also Published As

Publication number Publication date
KR20210017460A (ko) 2021-02-17
US20210044783A1 (en) 2021-02-11
CN112349735A (zh) 2021-02-09
US11025869B2 (en) 2021-06-01
CN112349735B (zh) 2024-04-09

Similar Documents

Publication Publication Date Title
KR102709671B1 (ko) 이미지 센서, 이미지 신호 프로세서 및 이들을 포함하는 이미지 처리 시스템
US20230319430A1 (en) Image sensor
KR102354991B1 (ko) 픽셀 회로 및 이를 포함하는 이미지 센서
US8582007B2 (en) Image sensor for outputting RGB Bayer signal through internal conversion and image processing apparatus including the same
KR100818724B1 (ko) Ｃｍｏｓ 이미지 센서와 이를 이용한 이미지 센싱 방법
JP5503458B2 (ja) 固体撮像素子および撮像装置
US9535197B2 (en) Color filter array, image sensor including the same, and infrared data acquisition method using the same
US11825216B2 (en) Image sensor
CN111916468A (zh) 图像传感器
JP7624372B2 (ja) 均等に配置された位相検出ピクセルを含むピクセルアレイ及びそれを含むイメージセンサ
KR102632474B1 (ko) 이미지 센서의 픽셀 어레이 및 이를 포함하는 이미지 센서
US11588988B2 (en) Image sensor and binning method thereof
CN101160955B (zh) 具有校准功能的成像装置以及操作该装置的方法
US12047691B2 (en) Image sensor, image processing apparatus, and image processing method
US20160269658A1 (en) Image Sensors and Image Processing Systems Including the Image Sensors
TW202201770A (zh) 影像感測裝置
EP4099691B1 (en) Image sensor
JP4935290B2 (ja) 固体撮像装置、固体撮像装置の駆動方法及び撮像装置
KR102736393B1 (ko) 이미지 센서 및 이를 포함하는 이미지 처리 장치
CN116582736A (zh) 图像处理装置和使用图像处理装置的图像处理方法
KR20220162017A (ko) 이미지 센서

Legal Events

Date Code Title Description
PA0109 Patent application

Patent event code: PA01091R01D

Comment text: Patent Application

Patent event date: 20190808

PG1501 Laying open of application
A201 Request for examination
PA0201 Request for examination

Patent event code: PA02012R01D

Patent event date: 20220707

Comment text: Request for Examination of Application

Patent event code: PA02011R01I

Patent event date: 20190808

Comment text: Patent Application

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20231020

Patent event code: PE09021S01D

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

Patent event code: PE07011S01D

Comment text: Decision to Grant Registration

Patent event date: 20240621

PG1601 Publication of registration