[go: up one dir, main page]

KR102632960B1 - 플렌옵틱 카메라 시스템을 교정하기 위한 방법 및 시스템 - Google Patents

플렌옵틱 카메라 시스템을 교정하기 위한 방법 및 시스템 Download PDF

Info

Publication number
KR102632960B1
KR102632960B1 KR1020207027031A KR20207027031A KR102632960B1 KR 102632960 B1 KR102632960 B1 KR 102632960B1 KR 1020207027031 A KR1020207027031 A KR 1020207027031A KR 20207027031 A KR20207027031 A KR 20207027031A KR 102632960 B1 KR102632960 B1 KR 102632960B1
Authority
KR
South Korea
Prior art keywords
image
array
eye
matching
microlens
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
KR1020207027031A
Other languages
English (en)
Other versions
KR20200126392A (ko
Inventor
토마스 코핀
더글라스 팔머
크리샨 라나
Original Assignee
인티그럴 스코프스 피티와이 엘티디
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from AU2018900513A external-priority patent/AU2018900513A0/en
Application filed by 인티그럴 스코프스 피티와이 엘티디 filed Critical 인티그럴 스코프스 피티와이 엘티디
Publication of KR20200126392A publication Critical patent/KR20200126392A/ko
Application granted granted Critical
Publication of KR102632960B1 publication Critical patent/KR102632960B1/ko
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/246—Calibration of cameras
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/0008—Apparatus for testing the eyes; Instruments for examining the eyes provided with illuminating means
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/0016—Operational features thereof
    • A61B3/0025—Operational features thereof characterised by electronic signal processing, e.g. eye models
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/1005—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for measuring distances inside the eye, e.g. thickness of the cornea
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/12—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for looking at the eye fundus, e.g. ophthalmoscopes
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/14—Arrangements specially adapted for eye photography
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G06T7/55—Depth or shape recovery from multiple images
    • G06T7/557—Depth or shape recovery from multiple images from light fields, e.g. from plenoptic cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G06T7/55—Depth or shape recovery from multiple images
    • G06T7/571—Depth or shape recovery from multiple images from focus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18—Eye characteristics, e.g. of the iris
    • G06V40/193—Preprocessing; Feature extraction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/232—Image signal generators using stereoscopic image cameras using a single 2D image sensor using fly-eye lenses, e.g. arrangements of circular lenses
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50—Constructional details
    • H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50—Constructional details
    • H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2560/00—Constructional details of operational features of apparatus; Accessories for medical measuring apparatus
    • A61B2560/02—Operational features
    • A61B2560/0223—Operational features of calibration, e.g. protocols for calibrating sensors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00—Indexing scheme for image data processing or generation, in general
    • G06T2200/21—Indexing scheme for image data processing or generation, in general involving computational photography
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10052—Images from lightfield camera
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95—Computational photography systems, e.g. light-field imaging systems
    • H04N23/957—Light-field or plenoptic cameras or camera modules

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Ophthalmology & Optometry (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Surgery (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Image Processing (AREA)
  • Eye Examination Apparatus (AREA)

Abstract

대상물의 명-시야 이미지에서 대상 피쳐의 참 크기를 결정하기 위한 플렌옵틱 카메라 시스템을 위한 교정 방법으로서, 상기 카메라 시스템은, 상기 대상물 내의 포인트와 교차하는 이미징 축을 따라서 위치되는 대물 렌즈; 상기 대상물의 부분의 이미지를 획득하도록 위치되는 광센서; 및 마이크로렌즈 어레이로서, 상기 어레이 내의 각각의 마이크로렌즈가 이미지 평면에 형성된 상기 이미지의 상이한 뷰를 투영함으로써 요소 이미지들(elemental images)의 어레이를 상기 광센서 상에 형성하도록, 상기 대물 렌즈와 상기 광센서 사이에 위치되는 마이크로렌즈 어레이를 포함하고, 상기 방법은, 상기 대상물의 최초 이미지를 획득하는 단계; 상기 최초 이미지를 형성하는 복수 개의 요소 이미지로부터 유도되는 임의의 복수 개의 뷰들로부터 매칭 피쳐를 추출하는 단계; 및 매칭 피쳐를 가지는 두 개 이상의 뷰들 사이의 적어도 하나의 기능적 관련성을 계산하는 단계를 포함하는, 교정 방법.

Description

플렌옵틱 카메라 시스템을 교정하기 위한 방법 및 시스템
본 발명은 플렌옵틱 카메라 시스템을 교정하기 위한 방법 및 시스템에 관한 것이다.
종래 기술의 방법, 장치 또는 문서를 인용하는 것은 그들이 공통되는 일반적인 지식을 형성하거나 그 일부를 형성한다는 임의의 증거 또는 인정을 구성하는 것으로 여겨져서는 안 된다.
집적 영상법(Integral photography)은 아이브스(Ives) 및 립만(Lippmann)에 의해서 100 년 전에 소개되었다. 그러나, 집적 영상법은 플렌옵틱 카메라의 도입과 함께 다시 대두되었다. 원래는 3D 데이터를 캡쳐하고 컴퓨터-비젼 문제를 해결하기 위한 기술로서 제안된 플렌옵틱 카메라는 공간 내의 광선의 분포를 기록하기 위한 디바이스로서 설계되었다. 플렌옵틱 카메라의 중요한 장점 중 하나는, 초점 및 피사체심도(depth of field)와 같은 이미지 속성이 이미지가 캡쳐된 후에 조절될 수 있다는 것이다.
종래의 플렌옵틱(또는 명시야) 카메라는 메인 카메라 렌즈의 이미지 평면에 있는 마이크로렌즈의 어레이에 기반하며, 센서는 마이크로렌즈 뒤의 하나의 초점 길이에 배치된다. 보통, 마이크로렌즈의 어레이는 광센서로부터 가까운 거리에 고정된다. 종래에는, 마이크로렌즈는 센서로부터 정확하게 하나의 초점 길이 f에 있도록 배치되고 조절되는데, 여기에서 f는 어레이 내의 마이크로렌즈의 초점 길이이다. 각각의 마이크로렌즈는 해당 포인트에서의 휘도(radiance)의 각도 분포를 샘플링 하는 이미지를 생성하고, 이것은 메인 렌즈 애퍼쳐 상의 여러 시점으로부터 관측된 하나의 단일 방향에 대응한다. 따라서, 종래의 플렌옵틱 카메라로 캡쳐된 원시 이미지는 메인 렌즈의 통상적으로 원형인 작은 이미지의 어레이로 이루어진다. 종래의 플렌옵틱 카메라 접근법은 공간적 샘플 및 각도 샘플을 이미지 평면 상에 배치하는 것을 바꾼다: 집적 영상법에서와 같이 보통 이미지의 어레이를 생성을 대신에, 이것은 장면 내의 단일 포인트의 각도 샘플들의 작은 2D 어레이로 이루어지는 하나의 인식가능한 "이미지"로 보이는 것을 생성한다.
불행하게도, 제조 프로세스의 제한사항 때문에, 광센서에 대한 마이크로렌즈 어레이의 정확한 위치 및 배향은 카메라마다 달라질 수 있다. 따라서, 명-시야 데이터로부터 이미지 센서에 의해 수광되는 광의 원점에 대한 정확한 정보를 얻기 위해서는, 카메라가 이미지 센서에 대한 마이크로렌즈 어레이의 실제 위치 및 배향에 기반하여 적절하게 교정되어야 한다.
플렌옵틱 카메라의 어떤 애플리케이션들은 플렌옵틱 카메라를 교정하는 데에 있어서 몇 가지 고유한 과제를 제기할 수 있다.
예를 들어, 망막의 플렌옵틱 3 차원 이미징을 사용하는 중에, 대상물의 깊이를 복원하기 위해서 종래의 깊이-차이(disparity-to-depth) 교정법이 일반적으로 요구된다. 통상적으로 교정 중에, 격자 또는 포인트 타겟이 플렌옵틱 이미징 시스템의 전면에 배치되고 하나의 축(격자 타겟의 경우) 또는 세 개의 공간적 축(포인트 타겟의 경우)을 따라서 스캐닝된다. 그러나, 눈을 이미징할 경우, 눈의 수정체도 이미징 시스템의 일부이고 "알려진" 깊이를 가지는 타겟을 개인의 눈 안에 두는 것은 불가능하기 때문에, 이러한 프로시저는 사용될 수 없다. 또한, 눈의 순응력(accommodative power), 접선 및 축상 오정렬은 계속하여 변하고 있고, 따라서 망막 이미징 기구의 실제 성질은 모든 촬영마다 다르다.
디지털 안저 카메라 또는 OCT 유닛과 같은 현재 이용가능한 망막 이미징 기구는 흔히 대형이고 책상에 설치되는 유닛이며, 신뢰가능 이미징한 조건, 특히 환자의 안구까지의 카메라 광학기의 정확한 거리 및 환자의 시선을 카메라의 시선과 적절하게 정렬하기 위한 안정한 눈 고정을 유지하는 문제점을 해결하기 위해서 시스템 복잡도와 비용이 높다. 이러한 조건 중 어느 것도 만족되지 않으면, 결과적으로 얻어지는 이미지는 초점이 맞지 않거나, 플래시 광 눈부심에 의해 가려지거나, 이미지의 충실도를 저하시키거나 중요한 망막의 상세를 가리게 되는 다른 광학적 아티팩트를 보여줄 수 있다.
망막 토포그래피로부터 얻은 망막 피쳐의 정확하고 정밀한 측정은 연령과 연관된 황반 퇴화(Age-related Macular Degeneration; AMD), 녹내장(Glaucoma), 당뇨성 망막증(Diabetic Retinopathy) 및 황반 부종(Macula Oedema)의 진단 및 모니터링에 있어서 중요하다. 앞선 내용들에 비추어 보면, 종래 기술의 문제점 중 일부를 적어도 처리하기 위한, 망막 플렌옵틱 카메라를 교정하는 개선된 방법을 제공할 필요성이 존재한다.
일 양태에서, 본 발명은, 대상물의 명-시야 이미지에서 대상 피쳐의 참 크기를 결정하기 위한 플렌옵틱 카메라 시스템을 위한 교정 방법으로서, 상기 카메라 시스템은, 상기 대상물 내의 포인트와 교차하는 이미징 축을 따라서 위치되는 대물 렌즈; 상기 대상물의 부분의 이미지를 획득하도록 위치되는 광센서; 및
마이크로렌즈 어레이로서, 상기 어레이 내의 각각의 마이크로렌즈가 이미지 평면에 형성된 상기 이미지의 상이한 뷰를 투영함으로써 요소 이미지들(elemental images)의 어레이를 상기 광센서 상에 형성하도록, 상기 대물 렌즈와 상기 광센서 사이에 위치되는 마이크로렌즈 어레이를 포함하고, 상기 방법은,
상기 대상물의 최초 이미지를 획득하는 단계;
상기 최초 이미지를 형성하는 복수 개의 요소 이미지로부터 유도되는 임의의 복수 개의 뷰들로부터 매칭 피쳐를 추출하는 단계; 및
매칭 피쳐를 가지는 두 개 이상의 뷰들 사이의 적어도 하나의 기능적 관련성을 계산하는 단계를 포함하는, 교정 방법을 제공한다.
다른 양태에서, 본 발명은 피사체의 눈의 망막의 피쳐의 참 크기를 망막의 획득된 명-시야 이미지 또는 명-시야 이미지들에 기반하여 결정하기 위한 안과 플렌옵틱 카메라 시스템을 위한 교정 방법으로서,
이미저(imager)는,
조명 광원 및 광을 광원으로부터 피사체의 눈 안으로 지향시키기 위한 광학 어셈블리;
상기 눈의 안저(fundus) 상의 포인트와 교차하는 이미징 축을 따라서 위치되는 대물 렌즈;
상기 눈의 안저의 부분의 이미지를 획득하도록 위치되는 광센서; 및
마이크로렌즈 어레이로서, 상기 어레이 내의 각각의 마이크로렌즈가 이미지 평면에 형성된 상기 이미지의 상이한 뷰를 투영함으로써 요소 이미지들의 어레이를 상기 광센서 상에 형성하도록, 상기 대물 렌즈와 상기 광센서 사이에 위치되는 마이크로렌즈 어레이를 포함하고, 상기 방법은,
상기 망막의 최초 이미지를 획득하는 단계;
상기 최초 이미지를 형성하는 복수 개의 요소 이미지로부터 유도되는 뷰들로부터 매칭 피쳐를 추출하는 단계; 및
매칭 피쳐를 가지는 상기 뷰들 중 두 개 이상의 뷰들 사이의 적어도 하나의 기능적 관련성을 계산하는 단계를 포함하는, 교정 방법을 제공한다.
일 실시예에서, 상기 계산하는 단계는, 매칭 피쳐를 가지는 두 개 이상의 뷰들 사이의 적어도 두 개의 기능적 관련성을 계산하는 것을 포함한다.
일 실시예에서, 상기 방법은, 가상 카메라의 고유 파라미터를 계산하도록 상기 기능적 관련성을 적용하는 단계를 더 포함하고, 상기 이미징 시스템은 복수 개의 상기 가상 카메라를 포함한다.
일 실시예에서, 상기 방법은, 상기 대상물 내의 대상 피쳐의 참 크기를 계산하도록 상기 기능적 관련성을 적용하는 단계를 더 포함한다. 이와 유사하게, 상기 방법은 상기 피사체의 눈의 망막 내의 피쳐의 참 크기를 계산하도록 상기 기능적 관련성을 적용하는 단계를 더 포함할 수 있다.
일 실시예에서, 상기 매칭 피쳐를 추출하는 단계는, 상기 두 개 이상의 뷰들 내에서 용이하게 구별가능한 두 개 이상의 포인트들의 그룹을 식별함에 의한 피쳐 검출 단계를 적용함으로써, 매칭 쌍들의 세트를 생성하는 단계를 포함한다.
일 실시예에서, 상기 매칭 쌍을 생성하는 단계는, 매칭 쌍들 사이의 상호-매칭(co-match)을 획득하기 위한, 대응하는 뷰들에 걸친 매칭 쌍들 사이의 상호-매칭 단계 및 그 후에, 대응하는 뷰들에 걸친 매칭 포인트들의 클러스터를 획득하기 위한, 상기 상호-매칭들을 첨부하는 단계에 의해 후속된다.
또 다른 양태에서, 본 발명은 시스템으로서,
하나 이상의 프로세서; 및
대상물의 명-시야 이미지에서 대상 피쳐의 참 크기를 결정하기 위한 플렌옵틱 카메라 시스템을 위한 교정 방법을 수행하도록 상기 하나 이상의 프로세서에 의해 실행될 수 있는 명령을 포함하는 비-휘발성 메모리를 포함하고,
상기 카메라 시스템은,
상기 대상물 내의 포인트와 교차하는 이미징 축을 따라서 위치되는 대물 렌즈;
상기 대상물의 부분의 이미지를 획득하도록 위치되는 광센서; 및
마이크로렌즈 어레이로서, 상기 어레이 내의 각각의 마이크로렌즈가 이미지 평면에 형성된 상기 이미지의 상이한 뷰를 투영함으로써 요소 이미지들의 어레이를 상기 광센서 상에 형성하도록, 상기 대물 렌즈와 상기 광센서 사이에 위치되는 마이크로렌즈 어레이를 포함하고, 상기 방법은,
상기 대상물의 최초 이미지를 획득하는 단계;
상기 최초 이미지를 형성하는 복수 개의 요소 이미지로부터 유도되는 임의의 복수 개의 뷰들로부터 매칭 피쳐를 추출하는 단계; 및
매칭 피쳐를 가지는 두 개 이상의 뷰들 사이의 적어도 하나의 기능적 관련성을 계산하는 단계를 포함하는, 시스템을 제공한다.
다른 양태에서, 본 발명은, 시스템으로서,
하나 이상의 프로세서; 및
피사체의 눈의 망막의 피쳐의 참 크기를 망막의 획득된 명-시야 이미지 또는 명-시야 이미지들에 기반하여 결정하기 위한 안과 플렌옵틱 카메라 시스템을 위한 교정 방법을 수행하도록 상기 하나 이상의 프로세서에 의해 실행될 수 있는 명령을 포함하는 비-휘발성 메모리를 포함하고,
이미저는,
조명 광원 및 광을 광원으로부터 피사체의 눈 안으로 지향시키기 위한 광학 어셈블리;
상기 눈의 안저 상의 포인트와 교차하는 이미징 축을 따라서 위치되는 대물 렌즈;
상기 눈의 안저의 부분의 이미지를 획득하도록 위치되는 광센서; 및
마이크로렌즈 어레이로서, 상기 어레이 내의 각각의 마이크로렌즈가 이미지 평면에 형성된 상기 이미지의 상이한 뷰를 투영함으로써 요소 이미지들의 어레이를 상기 광센서 상에 형성하도록, 상기 대물 렌즈와 상기 광센서 사이에 위치되는 마이크로렌즈 어레이를 포함하고, 상기 방법은,
상기 망막의 최초 이미지를 획득하는 단계;
상기 최초 이미지를 형성하는 복수 개의 요소 이미지로부터 유도되는 뷰들로부터 매칭 피쳐를 추출하는 단계; 및
매칭 피쳐를 가지는 두 개 이상의 상기 뷰들 사이의 기능적 관련성(F)을 계산하는 단계를 포함하는, 시스템을 제공한다.
도 1은 본 발명의 방법 및 시스템 실시예와 함께 사용되기 위한, 안과 이미징 장치(100)의 개략도이다.
도 2는 안과 이미징 장치(100)의 일부를 형성하는 마이크로렌즈 어레이(6) 및 광센서 어레이(7)의 확대된 개략도이다.
도 3은 안과 이미징 장치(100)의 일부를 형성하는 마이크로렌즈 어레이(6) 및 광센서 어레이(7)의 상세 개략도이다.
도 4는 일 실시예에 따른 방법(500)에 대한 흐름도이다.
도 5는 다른 안과 이미징 장치(200)의 일부를 형성하는 마이크로렌즈 어레이(6) 및 광센서 어레이(7)의 상세 개략도이다.
도 6a 및 도 6b는 플렌옵틱 2 구성(도 6a) 및 플렌옵틱 1 구성(도 6b)에 대한 가상 카메라 어레이의 배열을 예시한다.
도 7은 플렌옵틱 2 카메라에 대한 피쳐 매칭 단계를 예시한다.
도 8은 플렌옵틱 1 명시야로부터 관점뷰(perspective view)를 생성하는 단계를 예시한다.
도 9는 방법(500)을 실행하기 위하여 장치(100 또는 200)와 함께 사용될 수 있는 예시적인 컴퓨터 시스템을 도시한다.
도 1을 참조하면, 안과 플렌옵틱 카메라 시스템(100)의 개략도가 도시된다. 눈 카메라 시스템(100)은 피사체의 눈(1)의 안저의 복수 개의 이미지를 단일 뷰에서 캡쳐하도록 제공된다. "안저"라는 용어는 안구의 뒤쪽 폴(pole)을 가리키고, 일반적으로 망막(황반(macula) 및 시신경을 포함함)을 포함한다.
장치(100)를 사용하는 것을 수반하는 통상적인 안저 이미지 획득 방법은, 그 이미지가 망막면(R)에 형성되는 고정 타겟(10)을 포함하는 고정 어셈블리를 사용함으로써 눈(1)을 정확한 축상 정렬로 유도하는 것을 수반한다. 고정 타겟은 렌즈(11)에 의해 시준되는 저 전력 LED(12)에 의해 후방 조명되고, 그 이미지는 렌즈(9)에 의해서 판형 빔 스플리터(8)를 통해, 대물 렌즈(2)의 후방까지 일 초점 길이에서 평면에 포커싱된다. 그러면 이것이 대물 렌즈(2)에 의해 투영되고, 결과적으로 고정 타겟(10)이 눈에 의해 이미징된다. 눈에게는, 고정 타겟(10)이 무한대의 거리에 있는 것으로 보인다. 결과적으로, 고정 타겟(10은 이완된 정시안(emmetropic eye)에 대해서 초점이 맞는 상태를 유지한다.
눈(1)의 망막 조명을 위한 광은 컨덴서 렌즈(13)에 의해서 시준된 빔으로 포커싱되는 LED 소스(14)에 의해 제공된다. 그러면, LED 소스(14)로부터 나온 이러한 광은 판형 빔 스플리터(3)를 통해서 그리고 대물 렌즈(2)를 통과하여 안과 장치(100)의 메인 광로로 지향된다. 그러면, 빔 스플리터(3)에 의해 지향된 빔이 눈(P)의 퓨필 평면에 또는 약간 뒤에 포커싱되고, 망막면을 방사상으로 조명하도록 눈 안에서 펼쳐진다. 조명 LED는 2700K의 '따스한 백색(warm white)' 휘도를 가진다. 이러한 스펙트럼은 청색 범위(<450nm)에서 감소된 출력을 가지는데, 청색 범위는 눈 손상의 광화학 메커니즘을 거의 담당한다. 퓨필 평면에서의 조명의 방사 파워는, 주로 빔 스플리터의 낮은 반사율인 시스템 내에서의 손실 때문에 LED에 의해 전달되는 것에 비하여 크게 감소되고, 환자의 안전성을 보장하고 이미지의 신호 대 잡음 비를 최대화하도록 설계된다.
안과 플렌옵틱 카메라 시스템(100)은 눈(1)의 안저의 부분의 이미지를 획득하도록 위치되는 광센서 어레이(7)를 포함한다. 대물 렌즈(2)는 눈(1)의 안저 상의 포인트와 교차하는 이미징 축(130)을 따라서 위치된다. 대물 렌즈(2)는 안저에 의해 반사된 광을 굴절시켜 안저의 이미지를 대물 렌즈(2)의 이미지 평면(120) 상에 형성하도록 위치된다. 정시안(1)의 망막으로부터 반사된 광은 인간의 눈(1)의 광학 요소에 의해 시준되고, 눈(1)의 홍채를 통해서 방출된다. 눈(1) 밖으로 방출된 광의 이러한 휘도는 대물 렌즈(2)에 의해서 넓은 각도에 걸쳐서 캡쳐되고, 평면, 특히 이미지 평면에 포커싱되며, 거기에서 이미지는 반전되고 양의 릴레이 렌즈(4)를 통해 마이크로렌즈 어레이(6)로 릴레이된다. 신호 대 잡음 비는 과도한 대물렌즈 후방산란을 단일 선형 편광 필터(5)를 사용하여 필터링함으로써 개선된다. 이미지 평면은 광센서 어레이(7)로부터 떨어져서 위치되고, 어레이 내의 각각의 마이크로렌즈가 릴레이 렌즈(4)의 이미지 평면 상에 형성된 이미지의 적어도 일부를 광센서 어레이(7) 상에 투영하도록 적응되도록, 마이크로렌즈 어레이(복수 개의 마이크로렌즈를 포함함)가 대물 렌즈(2) 및 광센서 어레이(7) 사이에 위치된다.
안과 이미징 장치(100)의 적어도 일부 실시예에서, 마이크로렌즈 어레이(6)의 마이크로렌즈는, 종래의 플렌옵틱 카메라에서와 같이 릴레이 렌즈(2) 상에 포커싱되는 대신에, 릴레이 렌즈(4)에 의해 형성되는 안저의 이미지 상에 포커싱된다. 현재의 안과 이미징 장치(100)의 앞서 언급된 구성에서의 마이크로렌즈 어레이(6)의 배열은 더 첨예하고 더 높은 공간 분해능 이미지를 얻는 데에 도움이 된다. 대물 렌즈(2)는 릴레이 렌즈(4)와 조합되어 안저의 실제 이미지를 이미지 평면에 형성한다. 이미지 평면은 간단히, 대물 렌즈(2) 및 릴레이 렌즈(4)에 의해 생성되는 바와 같이 "공중(in air)" 이미지를 가지는 것으로 여겨질 수 있는 공간 내의 위치이다. 이미지 평면 상에 포커싱되는 마이크로렌즈 어레이(6)의 마이크로렌즈는 이미지 평면에 형성된 안저의 이미지를 캡쳐한다. 각각의 마이크로렌즈는 이미지 평면에서 이미지의 작은 면적 또는 영역을 캡쳐하고, 캡쳐된 영역을 광센서 어레이(7)의 대응하는 영역 상에 매핑하거나 투영한다.
사용 중에, 마이크로렌즈 어레이(6)는 도 2에 도시된 바와 같이 픽셀 단위인 센서 크기에 비율 b/a를 승산한 것과 등가인 공간 분해능에서 u x v 개의 요소 이미지(elemental image)를 샘플링한다. 마이크로렌즈 어레이(6)는 직교 패턴으로 정렬된 정방형 마이크로렌즈 요소 또는 조밀하게 밀착된 육각형 요소로 이루어질 수 있다. 거리 b 및 a는 통상적으로 마이크로렌즈의 초점 길이보다 길지만, 마이크로렌즈 어레이가 릴레이 렌즈(4)에 의해 형성된 가상 이미지를 샘플링하는 경우에는 더 작을 수도 있다.
요소 이미지는, 전하 결합 디바이스(CCD) 타입 또는 상보적 금속-산화물-반도체(CMOS)와 같은 임의의 공지된 타입일 수 있는 광센서 어레이(7) 상에 형성된다. 컬러 이미징을 위하여, 이미지 센서는, 모자이크해제(demosaicing) 프로세스를 통해서 RGB 색상 채널이 분리되게 하기 위한 색상 필터 어레이(Colour Filter Array)를 통상적으로 특히 포함할 것이지만, 포베온(Foveon) 3X와 같은 대안적인 센서 기술이 사용될 수도 있다. 또한, 가시 또는 적외선 조명과 함께, 또는 개별 색상 채널이 상이한 파장 조명 하에서 빠르고 연속적으로 기록되는 버스트 영상법을 사용함으로써 단색 센서가 사용될 수도 있다. 이미지 내에서 광센서 어레이(7)에 의해 캡쳐되는, 결과적으로 얻어지는 휘도는 따라서 크기가 s x t 픽셀인 복수 개(u x v 개)의 요소 이미지로 이루어진다.
마이크로렌즈 어레이(6) 내의 개별적인 마이크로렌즈의 결과로서 광센서 어레이(7)에 의해 캡쳐되는 각각의 요소 이미지(300)가 눈의 안저의 다소 상이한 관점뷰를 제공한다는 것에 주의하는 것이 중요하다. 다르게 말하면, 광센서 어레이(7)의 미리 결정된 개수의 픽셀 상에 입사하는 각각의 요소 이미지는 마이크로렌즈 어레이(6) 내의 개별적인 마이크로렌즈를 통과하는 광을 나타낸다. 마이크로렌즈 어레이(6)의 마이크로렌즈를 릴레이 렌즈(4)에 의해 생성된 이미지 상에 포커싱함으로써, 본 발명의 안과 시스템(100)의 실시예는 명-시야의 위치 정보를 더 양호하게 캡쳐할 수 있다. 명시야 렌더링 방법은 광센서 어레이(7)에 의해 캡쳐된 명시야로부터의 이미지를 종래의 명시야 렌더링 기법보다 높은 공간 분해능에서 제공하기 위해서도 사용될 수 있다.
지금 설명되는 안과 이미징 시스템(100)의 이미징 프로세스 또는 방법(500)은 다음 세 가지 메인 단계를 포함한다는 것이 이해될 수 있다: (A) 망막의 최초 이미지를 획득; (B) 최초 이미지를 형성하는 복수 개의 요소 이미지로부터 유도된 뷰로부터 매칭되는 피쳐를 추출; 및 (C) 앞선 섹션에서 더 상세히 설명되는 바와 같이 매칭 피쳐를 가지는 두 개 이상의 관점뷰 사이의 적어도 하나의 기능적 관련성을 계산.
안과 플렌옵틱 카메라 시스템을 두 가지 별개의 구성으로 교정하기 위하여 일반적인 방법(500)이 채용될 수 있다.
제 1 방법(500A)은 포인트 P(X, Y, Z)를 도 3에 도시되는 시스템(100)에 대한 센서(7) 상의 그 위치와 연관시키는 카메라 모델을 결정하는 데에 사용하도록 지향된다. 이러한 방법은 마이크로렌즈 어레이(6)를 일련의 핀홀로 근사화하고, 다른 광학기 모두를 하나의 얇은 렌즈(4)로 근사화하는 것에 의존한다. 센서(7) 상의 이산 포인트 ( & 는 1로부터 인덱싱되는 마이크로렌즈 아래의 픽셀의 위치이고, & 는 광선이 통과하는 마이크로렌즈이고 1로부터 인덱싱됨)는 이제 카메라를 통해 공간 내의 자신의 포인트로 재투영될 수 있다. 현재 설명되는 실시예의 경우, 센서(7) 및 마이크로렌즈 어레이(6) 사이의 거리는 이고, 메인 렌즈 및 마이크로렌즈 어레이 사이의 거리는 이며, 메인 렌즈의 초점 길이는 이라는 것에 주의한다. 이것은 명세서에 전체에서 "플렌옵틱 2 구성"이라고 지칭될 것이다.
제 2 방법(500B)은 포인트 P(X, Y, Z)를 도 5에 도시되는 시스템(200)에 대한 센서(7) 상의 그 위치와 연관시키는 카메라 모델을 결정하는 데에 사용하도록 지향된다. 도 5에 도시되는 구성은 이미지 평면이 광센서 어레이(7)에 위치되고 마이크로렌즈 어레이(6)(복수 개의 마이크로렌즈를 포함함)가 대물 렌즈(2)의 초점 길이 fm에 위치되도록 요구한다. 어레이 내의 각각의 마이크로렌즈가 마이크로렌즈 어레이(6) 상에 형성된 이미지의 적어도 일부를 광센서 어레이(7) 상에 투영하게끔 적응되도록, 광센서 어레이(7)는 마이크로렌즈 어레이(6)에 대해 위치된다. 시스템(200) 및 전술된 장치(100)의 유일한 차이는 이고 라는 것인데, 여기에서 는 마이크로렌즈의 초점 길이이고 fm은 렌즈(4)의 초점 길이이다. 시스템(200)은 "플렌옵틱 1 구성"이라고 불릴 것이다.
플렌옵틱 카메라는 대상 공간으로부터 인입하는 광선 번들을 카메라의 애퍼쳐에서 마이크로렌즈 어레이를 사용하여 분할한다. 그러면 여러 요소 이미지가 센서 상에 형성되게 된다. 이러한 요소 이미지 내의 각각의 픽셀은 대상 포인트로부터 발산되는 광선의 개별 세트를 나타낸다고 말할 수 있다.
관점뷰를 생성하기 위해서는, 이러한 광선 공간 표현을, 각각 상이한 위치에 있는 간단한 핀홀 관점 카메라의 어레이의 표현으로 추상화하는 것이 유용하다. 도 6a 및 도 6b는 마이크로렌즈 기반 플렌옵틱 카메라의 두 가지 변형예를 플렌옵틱 2 및 플렌옵틱 1 시스템 각각에 대한 등가 카메라 어레이로서 나타낸다.
도 6b에 도시된 바와 같은 플렌옵틱 1 구성에서, 가상 카메라는 거의 중첩하는 가시 범위(FOV)를 가지고, 초점면 및 실제 카메라의 광축의 교점을 향한 양안전도(vergence)를 보여준다. 어레이 내의 가상 카메라의 개수는 각각의 마이크로렌즈 아래의 픽셀의 개수와 같다. 각각의 카메라의 FOV는 전체 카메라 어레이의 FOV와 거의 같고, 이미지 분해능은 어레이 내의 마이크로렌즈의 개수와 같다.
도 6a에 도시된 바와 같은 플렌옵틱 2 구성 플렌옵틱 카메라의 경우, 가상 카메라는 실제 카메라의 광축으로부터 멀어지게 발산하는 부분적으로 중첩하는 필드를 가진다. 각각의 카메라의 FOV는 각각의 마이크로렌즈의 FOV와 같고, 분해능은 각각의 마이크로렌즈 뒤의 픽셀의 개수, 즉 요소 이미지 크기와 같다. 가상 카메라의 개수는 어레이 내의 마이크로렌즈의 개수와 같고, 전체 가시 범위는 이러한 개별적인 필드의 합을 다중화 비율(multiplexing ratio)로 나눈 것이다.
피쳐 검출
대상 공간 내의 동일한 포인트에 대응하는, 이미지 공간 내의 두 개 이상의 포인트의 그룹을 식별하기 위해서 피쳐 검출이 명시야에 적용된다. 피쳐 검출은 이미지 내에서 다른 영역과 쉽게 구별가능한(적어도 컴퓨터의 눈에서) 영역을 찾고, 그 후에 이미지의 해당 특정 부분에 대해 고유한 것을 인코딩하는, 해당 영역에 대한 기술자를 생성하는 것을 수반한다. 이미지 내의 포인트와 이것이 무엇과 비슷해 보이는지를 인코딩하는 기술자가 이제 피쳐라고 불린다.
피쳐 매칭은 적어도 두 개의 이미지에서 피쳐 검출을 수행하고, 그 후에 유사한 기술자를 가지는 피쳐를 두 이미지 내에서 찾는 것을 수반한다. 두 개의 기술자를 비교하기 위하여 거리 메트릭이 사용되고, 이러한 값이 선택된 임계보다 낮은 경우에 매칭이 이루어진다. 이미지가 여럿인 경우, 매칭 쌍의 조합을 조합하여 매칭 포인트의 전체 세트를 얻기 위해서 클러스터링이 사용된다.
피쳐 검출 및 매칭을 명시야 형상화(imagery)에 적용하기 위하여, 피쳐 검출이 인접한 관점뷰들 사이에 수행되어 매칭 쌍들의 세트를 생성해야 한다. 그러면, 매칭 쌍들 사이의 상호 매칭(co-match)이 함께 첨부되어, 대응하는 관점뷰 전체에서 매칭 포인트들의 클러스터가 획득될 수 있다. 이것이 플렌옵틱 2 시스템에 대하여 도 7에 예시된다. 신뢰할 수 없는 클러스터를 필터링하기 위하여, 데이터가 라인에 얼마나 근사화되는지를 설명하는 결정 계수(R2)가 주어진 클러스터로부터의 좌표 (t, v) 및 (s, u)에 의해 형성된 각각의 라인에 대해서 계산된다. 임계는 이러한 R2 값에 기반하여 클러스터를 거절하거나 수락하기 위해서 선택된다. 왜곡에 대해 살펴보면, 포인트의 세트 (t, v) 및 (s, u)는 선형 근사화(linear fit)에 가깝게 있어야 하고, 이러한 경향으로부터 크게 벗어나면 매칭이 부정확하고 따라서 신뢰할 수 없는 클러스터라는 것을 나타낸다.
대상 공간 내의 동일한 포인트를 바라보는 이미지들의 한 쌍(또는 그 이상의 쌍)이 피쳐 매칭을 수행하기 위해서 필요하고, 이러한 이미지들은 명시야를 구성하는 요소 이미지의 어레이로부터 관점뷰의 세트를 유도함으로써 생성될 수 있다. 관점뷰를 유도하는 방법은 플렌옵틱 1 및 플렌옵틱 2 시스템에 대해서 다르고, 양자 모두의 접근법의 개관이 아래에 제공된다. 이러한 방법을 사용하여 생성된 관점뷰는 전술된 가상 카메라 어레이에 의해 캡쳐된 이미지의 세트에 대응할 것이다.
관점뷰 내의 포인트는 (i, j, x, y)로 표현되는데, 여기에서 (i, j)는 해당 포인트가 속하는 관점뷰의 인덱스이고, (x, y)는 이러한 관점뷰 내에서의 포인트의 위치이다.
플렌옵틱 1 명시야로부터 관점뷰를 생성하는 것은, 각각의 요소 이미지로부터 하나의 픽셀을 취하고, 그 후에 각각의 요소 이미지 내에서의 픽셀의 위치가 동일해야 한다는 것에 주의하면서 이들을 이어붙이는 것(tiling)을 수반한다. 예를 들어, 각각의 요소 이미지로부터 상단-좌측 픽셀을 취함으로써 제 1 관점뷰를 생성할 수 있고, 그 후에 각각의 요소 이미지로부터 하단-좌측 픽셀을 취함으로써 제 2 관점뷰를 생성할 수 있다. 이러한 프로세스가 도 8에 도시된다.
플렌옵틱 2 명시야로부터 관점뷰의 세트를 생성하는 것은 각각의 요소 이미지가 도 7에 도시된 바와 같은 관점뷰이기 때문에 이론적으로는 더 쉽다. 그러나, 요소 이미지가 작고, 이들이 공유된 작은 가시 범위만을 가져서 이미지들의 쌍 사이의 잠재적인 매칭의 개수가 제한된다는 사실 때문에 이것은 복잡해진다.
매칭 피쳐를 가지는 두 개 이상의 관점뷰 사이의 기능적 관련성(F)을 계산함
두 개(또는 그 이상의) 뷰에서의 매칭 포인트의 위치가 피쳐 매칭으로부터 알려지면, 교정 방법을 위한 다음 단계는 매칭 포인트들 사이의 기능적 관련성을 연산하는 것이다.
현재 설명되는 실시예에서, 대응하는 포인트들의 쌍 사이의 기초 행렬 [F]가 계산된다. 기초 행렬은 두 이미지들 사이에서 추정될 수 있는 기하학적 제약을 인코딩하는데, 이것은 당업계에서 공액(epipolar) (기하학적) 제약이라고 알려져 있다. 특히, 공액 기하학적 구조(epipolar geometry)는 주어진 장면 내의 주어진 포인트 및 해당 장면의 두 개의 주어진 이미지의 두 개의 광학 중심이 동일한 (공액) 평면에 놓여 있다는 사실을 나타낸다. 이것은 이미지 중 하나 내의 포인트가 주어지면, 다른 이미지에서의 그 대응하는 포인트는 알려진 (공액) 라인에 놓여 있어야 한다는 것을 의미한다.
기초 행렬 F는 하나의 이미지 x에서의 포인트의 위치, 및 제 2 이미지 x'에서의 포인트의 대응하는 위치 사이의 관련성을 규정한다.
이것은 두 이미지 내의 매칭 포인트의 임의의 쌍 x ↔ x' 에 대한 것이다. 충분히 많은 포인트 매칭 x i ↔ x' i 가 주어지면(적어도 8개), 위의 수학식은 미지의 행렬 F를 계산하기 위하여 사용될 수 있다. 특히, x =(x, y, 1)T 및 x' =(x', y', 1)T라고 쓰면, 각각의 포인트 매칭은 F의 미지의 엔트리에서 하나의 선형 방정식이 된다. 이러한 방정식의 계수는 알려진 좌표 x 및 x'에 대하여 쉽게 쓰여질 수 있다. 특히, 포인트 (x, y, 1) 및 (x', y', 1)의 쌍에 대응하는 방정식은 다음이다
f가 F의 행 번호에 우선을 둔 행-열의 순서인 엔트리로 이루어진 9-벡터라고 한다. 그리고, 위의 방정식은 다음처럼 표현될 수 있다:
n 개의 포인트 매칭의 세트로부터, 아래 표시된 바와 같은 형태의 선형 방정식의 세트가 획득될 수 있다
F는 랭크 2인 비정칙 행렬이고, 따라서 8 개의 자유 파라미터를 가지며, 이것은 기초 행렬(fundamental matrix)을 결정하기 위해서 최소 8 개의 매칭 포인트가 필요하다는 것을 의미한다.
제 1 뷰는 P1=[I|0]가 되도록 캐노니컬(canonical) 카메라로서 선택될 수 있고, 그러면 임의의 다른 뷰에 대한 카메라 행렬(어떻게 제 2 카메라가 다른 카메라에 대해서 위치되는지를 나타내는 한 가지 방법임)은 다음으로서 계산될 수 있다:
여기에서 Fi는 첫 번째 뷰와 i번째 뷰 사이의 기초 행렬이고, e'i는 i번째 뷰의 에피폴(epipole)이며, Fi의 남겨진 널-공간으로서 계산될 수 있다.
가상 카메라에 대한 고유 행렬(intrinsic matrix) 은(이러한 관련성은 플렌옵틱 시스템이 전술된 바와 같이 동일한 복수 개의 이러한 가상 카메라로 구성된다는 가정에 기반함) 다음으로서 규정된다:
여기에서 f는 가상 카메라의 초점 길이이고, (x0; y0)는 주된 포인트이다. 고유 행렬 K를 가지는 카메라에 대한 절대 원뿔곡선(conic)의 듀얼 이미지는 w*= KKT로 주어진다. 주어진 가상 카메라 행렬 P에 대하여, 절대 듀얼 이차식(quadric) Q*∞는 절대 원뿔곡선의 듀얼 이미지로서 투영된다
위의 수학식은 자기-교정의(그 형태 중 하나의) 기반을 형성하는데, 여기에서 K의 값에 대한 제약은 Q*∞를 결정하게 하고, 그러면 K의 계산이 가능해져서 카메라를 교정한다.
이러한 단계를 더 명확하게 설명하기 위한 방법으로서, 절대 듀얼 이차식은 기본적으로 순수 유클리드 공간(즉, 투영 또는 카메라 또는 다른 것이 없는 공간)에서 무한대에 있는 평면과 관련되고, 그러면 이것은 diag(1,1,1,0)에 의해 규정될 것이다. 그러면, 카메라를 사용하여 이것을 이미징하면 이차식에 호모그래피(homography)가 적용되게 되고, 이것이 H Q*∞HT와 비슷해 보이게 한다. 그러나, 이미징 중에, 3D 공간은 2D 이미지가 되고, 3D 이차식의 2D 이미지는 원뿔곡선이다. 이차식이 동일한 공간 내에 존재하는 임의의 카메라에 대해서 동일하다는 것에 주의하는 것이 중요한데, 이것이 바로 이차식이 방정식에 있는 i와 독립적이 되게 하고 문제가 풀려지게 하는 것이다. 주목할 다른 중요한 점은, 절대 원뿔 곡선의 듀얼 이미지가 카메라 고유 행렬에 의존한다는 것이고, 이것은 모든 카메라가 동일하다면 w*i도 모두 동일하다는 것을 의미한다.
Q*∞는 대칭적 4x4 행렬이고, 이것은 10 개의 독립 원소를 가진다는 것과 따라서 이러한 행렬을 결정하려면 10 개의 독립 방정식이 필요하다는 것을 의미한다. 가상 카메라 모두가 동일하다고 가정하고(플렌옵틱 카메라의 경우에는 안전한 가정임), 양들의 균질성으로 인하여 카메라들이 일정한 비율까지만(up to scale) 동일해진다는 것에 주의하면, 전술된 관련성은 각각의 관점뷰 쌍에 대해서 5 개의 이차방정식의 쌍을 생성할 것이고, 그 결과 요구되는 10 개의 방정식을 얻기 위해서는 적어도 두 개의 기능적 관련성이 계산될 필요가 있을 것이다:
최소 3 개의 뷰가 주어지면, Q*∞를 얻기 위하여 열 개의 방정식을 풀 수 있고, 그러면 이제 K의 계산이 가능해지는데, 이것은 뷰 쌍들과 투영 공간의 메트릭 공간으로의 변환 사이의 베이스라인을 계산하는 것이다.
카메라들의 어떤 구성은 불리한 경우이고, 뷰 쌍마다 더 적은 수의 독립 방정식이 얻어지며, 이러한 경우에는 더 많은 뷰 쌍이 요구될 것이라는 것에 주의한다. 충분한 뷰 쌍이 주어지기 때문에, 이것은 플렌옵틱 카메라의 경우에는 문제가 되지 않을 것이다.
메트릭 깊이로의 변환
메트릭 공간으로의 변환은, 가상 카메라 어레이를 이루는 카메라의 고유 행렬(K), 및 뷰 쌍들 사이의 베이스라인(B)이 알려져 있다면 상대적으로 간단하다. 대상 공간 내의 포인트의 위치(X, Y, Z)는 삼각측량을 사용하거나 다음을 사용하여 계산될 수 있다:
여기에서 f는 카메라의 초점 길이이고, (x0, y0)는 가상 카메라의 주된 포인트이며, (x, y)는 이러한 포인트의 좌표이고, ρ는 픽셀의 크기이고(센서 데이터시트로부터 얻어짐), k는 포인트의 차이(disparity)이며(즉 포인트가 뷰마다 얼마나 많이 이동하는지), B는 두 카메라 사이의 베이스라인이다. B는 고유 파라미터(intrinsic parameter)의 지식으로부터 다음 중 하나에 의해서 계산될 수 있다; 가상 카메라 자세의 추정, 카메라 전달 행렬을 사용한 광선 교점의 추정 또는 카메라 광학기의 지식(입사 퓨필의 위치 및 크기)을 통하여.
도 9를 참조하면, 출력 망막 이미지를 교정 또는 렌더링하기 위한 예시적인 시스템이 도시되었다.
본 명세서에서 설명된 바와 같은 하나 이상의 다양한 교정 또는 이미지 렌더링 방법의 실시예들은 다양한 다른 디바이스와 상호작용할 수 있는 하나 이상의 컴퓨터 시스템에서 실행될 수 있다. 이러한 컴퓨터 시스템 중 하나가 도 5에 의해 예시된다. 상이한 실시예들에서, 컴퓨터 시스템(700)은, 개인용 컴퓨터 시스템, 데스크탑 컴퓨터, 랩탑, 노트북, 또는 넷북 컴퓨터, 메인프레임 컴퓨터 시스템, 핸드헬드 컴퓨터, 워크스테이션, 네트워크 컴퓨터, 카메라, 셋 톱 박스, 모바일 디바이스, 소비자 디바이스 또는 일반적으로 임의의 타입의 컴퓨팅 또는 전자 디바이스를 비한정적으로 포함하는 다양한 타입의 디바이스일 수 있다.
도시된 실시예에서, 컴퓨터 시스템(700)은 입력/출력(I/O) 인터페이스(730)를 통해 시스템 메모리(720)에 커플링되는 하나 이상의 프로세서(710)를 포함한다. 컴퓨터 시스템(700)은 I/O 인터페이스(730)에 커플링된 네트워크 인터페이스(740), 및 마우스 디바이스(760), 키보드(770), 및 디스플레이(780)와 같은 하나 이상의 입력/출력 디바이스(750)를 더 포함한다. 일부 실시예들에서는 실시예들이 컴퓨터 시스템(700)의 단일 실례를 사용하여 구현될 수 있는 반면에, 다른 실시예들에서는 이러한 시스템 여럿, 또는 컴퓨터 시스템(700)을 구성하는 여러 노드들이 실시예들의 상이한 부분 또는 실례를 호스팅하도록 구현될 수 있다는 것이 고찰된다.
일부 실시예들에서, 적어도 하나의 프로세서(710)는 그래픽 처리 유닛일 수 있다. 그래픽 처리 유닛 또는 GPU는 개인용 컴퓨터, 워크스테이션 또는 다른 컴퓨팅 또는 전자 디바이스를 위한 전용 그래픽-렌더링 디바이스로 간주될 수 있다. 현대의 GPU는 컴퓨터 그래픽을 조작하고 디스플레이하는 데에 매우 효율적이고, 이들의 고도로 병렬화된 구조 때문에 복잡한 그래픽 알고리즘의 범위에 대해서 통상적인 CPU보다 더 효율성이 높을 수 있다. GPU는 프로그래머 to가 GPU의 기능성을 호출하도록 하는 하나 이상의 애플리케이션 프로그래머 인터페이스(API)를 구현할 수 있다. 적절한 GPU는 NVIDIA 코포레이션, ATI 테크놀로지 등과 같은 벤더로부터 상업적으로 구입가능할 수 있다.
시스템 메모리(720)는 프로세서(1010)에 의해 액세스가능한 프로그램 명령 및/또는 데이터를 저장하도록 구성될 수 있다. 다양한 실시예들에서, 시스템 메모리(720)는, 정적 랜덤 액세스 메모리(SRAM), 동기식 동적 RAM(SDRAM), 비-휘발성/플래시-타입 메모리, 또는 임의의 다른 메모리 타입과 같은 임의의 적합한 메모리 기술을 사용하여 구현될 수 있다. 도시된 실시예에서, 교정 모듈의 실시예에 대해서 전술된 것과 같은 소망되는 기능을 구현하는 프로그램 명령 및 데이터는 각각 시스템 메모리(1020) 내에서 프로그램 명령(725) 및 데이터 스토리지(735)로서 저장되는 것으로 도시된다. 다른 실시예들에서, 프로그램 명령 및/또는 데이터는 상이한 타입의 컴퓨터-액세스가능 미디어에서 또는 시스템 메모리(720) 또는 컴퓨터 시스템(7000)과 별개인 유사한 미디어에서 수신, 전송, 또는 저장될 수 있다. 일반적으로 말하면, 컴퓨터-액세스가능 매체는 자기적 또는 광학적 미디어, 예를 들어 I/O 인터페이스(730)를 통하여 컴퓨터 시스템(7000)에 커플링되는 디스크 또는 CD/DVD-ROM을 포함할 수 있다. 컴퓨터-액세스가능 매체를 통해서 저장된 프로그램 명령 및 데이터는, 네트워크 인터페이스(740)를 통해서 구현될 수 있는 네트워크 및/또는 무선 링크와 같은 통신 매체를 통해서 이송될 수 있는, 전기, 전자기, 또는 디지털 신호와 같은 송신 미디어 또는 신호에 의해서 송신될 수 있다.
도 6에 도시된 바와 같이, 메모리(720)는, 본 명세서에서 설명된 바와 같은 방법(500)의 실시예를 구현하도록 구성되는 프로그램 명령(725), 및 프로그램 명령(725)에 의해서 액세스가능한 다양한 데이터를 포함하는 데이터 스토리지(735)를 포함할 수 있다.
당업자들은 컴퓨터 시스템(700)이 단순히 예시적인 것이고, 본 명세서에서 설명된 바와 같은 교정 모듈 또는 교정 방법의 범위를 한정하려는 것이 아님을 이해할 것이다. 특히, 컴퓨터 시스템 및 디바이스는 표시된 기능을 수행할 수 있는 하드웨어 또는 소프트웨어의 임의의 조합을 포함할 수 있다. 컴퓨터 시스템(700)은 안과 장치(100) 및 예시되지 않은 임의의 다른 디바이스에도 커플링될 수 있고, 또는 그 대신에 독립형 시스템으로서 동작할 수도 있다. 또한, 예시된 컴포넌트에 의해 제공되는 기능성은, 일부 실시예들에서 더 적은 컴포넌트 내에 결합되거나 추가적인 컴포넌트에 분산될 수 있다. 이와 유사하게, 일부 실시예들에서, 예시된 컴포넌트 중 일부의 기능성은 제공되지 않을 수 있다 및/또는 다른 추가적 기능성이 이용가능할 수도 있다.
법령에 따라서, 본 발명은 구조적이거나 방법적인 특징에 다소 특정한 언어로 설명되었다. "포함한다"는 용어, 및 "포함하는" 및 "이루어진"과 같은 그 변형은 명세서 전체에서 포함형으로 사용되고, 임의의 추가적인 피쳐를 배제하도록 사용되지 않는다.
본 명세서에서 설명된 수단이 본 발명이 작동하게 하는 바람직한 형태를 포함하기 때문에, 본 발명이 도시되거나 설명된 특정한 피쳐에 한정되지 않는다는 것을 의미한다.
그러므로, 본 발명은 그 형태 또는 변형의 임의의 예에서, 당업자들에 의해 적절하게 해석되는 첨부된 적합한 청구항들의 범위 안에서 청구된다.
명세서 및 청구항 전체에서(만일 존재한다면), 문맥상 다르지 않으면, "실질적으로" 또는 "약"의 용어는 이러한 용어에 의해 규정되는 범위에 대한 값으로 한정되는 것으로 이해되지 않을 것이다.
본 발명의 임의의 실시예는 오직 예시적인 것을 의미하며, 본 발명을 한정하는 의미가 아니다. 따라서, 청구항의 범위에서 벗어나지 않으면서 설명된 실시예에 다양한 그 외의 변경 또는 변형이 이루어질 수 있다는 것이 이해되어야 한다.

Claims (10)

  1. 피사체의 눈의 망막의 피쳐의 참 크기를 망막의 획득된 명-시야 이미지 또는 명-시야 이미지들에 기반하여 결정하기 위한 안과 플렌옵틱(ophthalmic plenoptic) 카메라 시스템을 위한 교정 방법으로서,
    이미저(imager)는,
    조명 광원 및 광을 광원으로부터 피사체의 눈 안으로 지향시키기 위한 광학 어셈블리;
    상기 눈의 안저(fundus) 상의 포인트와 교차하는 이미징 축을 따라서 위치되는 대물 렌즈;
    상기 눈의 안저의 부분의 이미지를 획득하도록 위치되는 광센서; 및
    마이크로렌즈 어레이로서, 상기 어레이 내의 각각의 마이크로렌즈가 이미지 평면에 형성된 상기 이미지의 상이한 뷰를 투영함으로써 요소 이미지들의 어레이를 상기 광센서 상에 형성하도록, 상기 대물 렌즈와 상기 광센서 사이에 위치되는 마이크로렌즈 어레이를 포함하고, 상기 방법은,
    상기 망막의 최초 이미지를 획득하는 단계;
    상기 최초 이미지를 형성하는 복수 개의 요소 이미지로부터 유도되는 뷰들로부터 매칭 피쳐를 추출하는 단계; 및
    매칭 피쳐를 가지는 상기 뷰들 중 두 개 이상의 뷰들 사이의 적어도 하나의 기능적 관련성을 계산하는 단계를 포함하는, 교정 방법.
  2. 제 1 항에 있어서,
    상기 계산하는 단계는,
    매칭 피쳐를 가지는 두 개 이상의 뷰들 사이의 적어도 두 개의 기능적 관련성을 계산하는 것을 포함하는, 교정 방법.
  3. 제 1 항에 있어서,
    상기 방법은,
    가상 카메라의 고유 파라미터(intrinsic parameter)를 계산하도록 상기 기능적 관련성을 적용하는 단계를 더 포함하고,
    상기 카메라 시스템은 상기 가상 카메라를 복수 개 포함하는, 교정 방법.
  4. 제 1 항에 있어서,
    상기 방법은,
    상기 피사체의 눈의 망막 내의 피쳐의 참 크기를 계산하도록 상기 기능적 관련성을 적용하는 단계를 더 포함하는, 교정 방법.
  5. 제 1 항에 있어서,
    상기 매칭 피쳐를 추출하는 단계는,
    상기 두 개 이상의 뷰들 내에서 용이하게 구별가능한 두 개 이상의 포인트들의 그룹을 식별함에 의한 피쳐 검출 단계를 적용함으로써, 매칭 쌍들의 세트를 생성하는 단계를 포함하는, 교정 방법.
  6. 제 5 항에 있어서,
    상기 매칭 쌍들을 생성하는 단계 후에는,
    매칭 쌍들 사이의 상호-매칭(co-match)을 획득하기 위한, 대응하는 뷰들에 걸친 매칭 쌍들 사이의 상호-매칭 단계 및
    그 후에, 대응하는 뷰들에 걸친 매칭 포인트들의 클러스터를 획득하기 위해, 상기 상호-매칭들을 첨부하는 단계가 후속되는, 교정 방법.
  7. 시스템으로서,
    하나 이상의 프로세서; 및
    피사체의 눈의 망막의 피쳐의 참 크기를 망막의 획득된 명-시야 이미지 또는 명-시야 이미지들에 기반하여 결정하기 위한 안과 플렌옵틱 카메라 시스템을 위한 교정 방법을 수행하도록 상기 하나 이상의 프로세서에 의해 실행될 수 있는 명령을 포함하는 비-휘발성 메모리를 포함하고,
    이미저는,
    조명 광원 및 광을 광원으로부터 피사체의 눈 안으로 지향시키기 위한 광학 어셈블리;
    상기 눈의 안저 상의 포인트와 교차하는 이미징 축을 따라서 위치되는 대물 렌즈;
    상기 눈의 안저의 부분의 이미지를 획득하도록 위치되는 광센서; 및
    마이크로렌즈 어레이로서, 상기 어레이 내의 각각의 마이크로렌즈가 이미지 평면에 형성된 상기 이미지의 상이한 뷰를 투영함으로써 요소 이미지들의 어레이를 상기 광센서 상에 형성하도록, 상기 대물 렌즈와 상기 광센서 사이에 위치되는 마이크로렌즈 어레이를 포함하고, 상기 방법은,
    상기 망막의 최초 이미지를 획득하는 단계;
    상기 최초 이미지를 형성하는 복수 개의 요소 이미지로부터 유도되는 뷰들로부터 매칭 피쳐를 추출하는 단계; 및
    매칭 피쳐를 가지는 두 개 이상의 상기 뷰들 사이의 기능적 관련성(F)을 계산하는 단계를 포함하는, 시스템.
  8. 삭제
  9. 삭제
  10. 삭제
KR1020207027031A 2018-02-19 2019-02-19 플렌옵틱 카메라 시스템을 교정하기 위한 방법 및 시스템 Active KR102632960B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
AU2018900513A AU2018900513A0 (en) 2018-02-19 Method and system for calibrating an opthalmic imager
AU2018900513 2018-02-19
PCT/AU2019/050134 WO2019157571A1 (en) 2018-02-19 2019-02-19 Method and system for calibrating a plenoptic camera system

Publications (2)

Publication Number Publication Date
KR20200126392A KR20200126392A (ko) 2020-11-06
KR102632960B1 true KR102632960B1 (ko) 2024-02-02

Family

ID=67619701

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020207027031A Active KR102632960B1 (ko) 2018-02-19 2019-02-19 플렌옵틱 카메라 시스템을 교정하기 위한 방법 및 시스템

Country Status (7)

Country Link
US (1) US12102385B2 (ko)
EP (1) EP3756161B1 (ko)
JP (1) JP7462890B2 (ko)
KR (1) KR102632960B1 (ko)
AU (1) AU2019221088B2 (ko)
SG (1) SG11202007849TA (ko)
WO (1) WO2019157571A1 (ko)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019064047A1 (en) * 2017-09-26 2019-04-04 Universita' Degli Studi Di Bari Aldo Moro DEVICE AND PROCESS FOR CONTEMPORARY CAPTURE OF STANDARD AND PLENOPTIC IMAGES
EP4176292A4 (en) * 2020-07-06 2024-07-31 Magic Leap, Inc. Plenoptic camera measurement and calibration of head-mounted displays
US11367220B1 (en) * 2020-08-27 2022-06-21 Edge 3 Technologies Localization of lens focus parameter estimation and subsequent camera calibration
WO2023166617A1 (ja) * 2022-03-02 2023-09-07 日本電気株式会社 カメラパラメータ推定装置、カメラパラメータ推定方法、及びコンピュータ読み取り可能な記録媒体
WO2023166618A1 (ja) * 2022-03-02 2023-09-07 日本電気株式会社 カメラパラメータ推定装置、カメラパラメータ推定方法、及びコンピュータ読み取り可能な記録媒体
CN115032756B (zh) * 2022-06-07 2022-12-27 北京拙河科技有限公司 一种光场相机的微透镜阵列定位方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130329120A1 (en) * 2012-06-11 2013-12-12 Canon Kabushiki Kaisha Image processing apparatus, image processing method, image pickup apparatus, method of controlling image pickup apparatus, and non-transitory computer-readable storage medium
JP2016093509A (ja) * 2014-11-14 2016-05-26 株式会社リコー 眼のフィルタ処理画像の同時キャプチャ
WO2017005614A1 (en) * 2015-07-03 2017-01-12 Essilor International (Compagnie Generale D'optique) Methods and systems for augmented reality
WO2017046397A1 (en) * 2015-09-17 2017-03-23 Thomson Licensing An apparatus and a method for calibrating an optical acquisition system

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8406563B2 (en) 2009-07-28 2013-03-26 National Taiwan University Photometric calibration method and device
JP5229541B2 (ja) * 2008-05-29 2013-07-03 株式会社ニコン 距離測定装置、距離測定方法、及び、プログラム
US9063323B2 (en) * 2009-10-19 2015-06-23 Pixar Super light-field lens and image processing methods
US8803918B2 (en) * 2010-08-27 2014-08-12 Adobe Systems Incorporated Methods and apparatus for calibrating focused plenoptic camera data
JP5553863B2 (ja) 2012-06-11 2014-07-16 キヤノン株式会社 画像処理方法、撮像装置、画像処理装置、および、画像処理プログラム
JP5553862B2 (ja) 2012-06-11 2014-07-16 キヤノン株式会社 撮像装置および撮像装置の制御方法
US9153026B2 (en) * 2012-11-26 2015-10-06 Ricoh Co., Ltd. Calibration of plenoptic imaging systems
US10117579B2 (en) * 2014-11-14 2018-11-06 Ricoh Company, Ltd. Simultaneous capture of filtered images of the eye
US9613417B2 (en) 2015-03-04 2017-04-04 Ricoh Company, Ltd. Calibration of plenoptic imaging systems using fourier transform
EP3079121A1 (en) 2015-04-07 2016-10-12 Thomson Licensing Plenoptic camera calibration
JP6543517B2 (ja) 2015-06-15 2019-07-10 ハンファテクウィン株式会社 画像処理方法、画像処理装置及びプログラム
US9955861B2 (en) 2015-10-16 2018-05-01 Ricoh Company, Ltd. Construction of an individual eye model using a plenoptic camera
US10194139B2 (en) 2016-02-22 2019-01-29 Ricoh Company, Ltd. Disparity-to-depth calibration for plenoptic imaging systems
US10366478B2 (en) 2016-05-18 2019-07-30 Interdigital Ce Patent Holdings Method and device for obtaining a HDR image by graph signal processing

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130329120A1 (en) * 2012-06-11 2013-12-12 Canon Kabushiki Kaisha Image processing apparatus, image processing method, image pickup apparatus, method of controlling image pickup apparatus, and non-transitory computer-readable storage medium
JP2016093509A (ja) * 2014-11-14 2016-05-26 株式会社リコー 眼のフィルタ処理画像の同時キャプチャ
WO2017005614A1 (en) * 2015-07-03 2017-01-12 Essilor International (Compagnie Generale D'optique) Methods and systems for augmented reality
WO2017046397A1 (en) * 2015-09-17 2017-03-23 Thomson Licensing An apparatus and a method for calibrating an optical acquisition system

Also Published As

Publication number Publication date
EP3756161A1 (en) 2020-12-30
KR20200126392A (ko) 2020-11-06
EP3756161B1 (en) 2023-06-28
AU2019221088B2 (en) 2024-11-21
SG11202007849TA (en) 2020-09-29
US20210118177A1 (en) 2021-04-22
WO2019157571A1 (en) 2019-08-22
JP2021514291A (ja) 2021-06-10
JP7462890B2 (ja) 2024-04-08
US12102385B2 (en) 2024-10-01
EP3756161A4 (en) 2021-04-07
AU2019221088A1 (en) 2020-10-08

Similar Documents

Publication Publication Date Title
KR102632960B1 (ko) 플렌옵틱 카메라 시스템을 교정하기 위한 방법 및 시스템
US9679360B2 (en) High-resolution light-field imaging
US11779210B2 (en) Ophthalmic imaging apparatus and system
JP5053468B2 (ja) 立体画像撮影装置および内視鏡
JP2007304525A (ja) 画像入力装置および電子機器および画像入力方法
WO2019054304A1 (ja) 撮像装置
Kagawa et al. A three‐dimensional multifunctional compound‐eye endoscopic system with extended depth of field
WO2016175043A1 (ja) 画像処理装置及び画像処理方法
JPWO2016175044A1 (ja) 画像処理装置及び画像処理方法
US11051680B1 (en) Endoscope stereo imaging device
US10230911B1 (en) Preview generation for plenoptic imaging systems
WO2016175045A1 (ja) 画像処理装置及び画像処理方法
JP6684454B2 (ja) 画像処理装置及び画像処理方法
US20160269654A1 (en) Filter arrangement for image sensor
Birch Computational and design methods for advanced imaging
Fatima PFA Camera Demosaicing and Applications
CN116091521A (zh) 单目内窥镜立体成像系统及三维测量方法
Marshall Development and evaluation of depth estimation from plenoptic imaging for application in retinal imaging
CN115225855A (zh) 基于元成像的监控系统、方法、电子设备及存储介质
CN116194950A (zh) 用于创建图像记录的方法
JP2007057386A (ja) カメラ１台を用いたインライン３次元計測装置及び計測方法
Gao Bio-Inspired Multi-Spectral Imaging Sensors and Algorithms for Image Guided Surgery

Legal Events

Date Code Title Description
PA0105 International application

Patent event date: 20200918

Patent event code: PA01051R01D

Comment text: International Patent Application

PG1501 Laying open of application
PA0201 Request for examination

Patent event code: PA02012R01D

Patent event date: 20211203

Comment text: Request for Examination of Application

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20230422

Patent event code: PE09021S01D

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

Patent event code: PE07011S01D

Comment text: Decision to Grant Registration

Patent event date: 20231127

GRNT Written decision to grant
PR0701 Registration of establishment

Comment text: Registration of Establishment

Patent event date: 20240130

Patent event code: PR07011E01D

PR1002 Payment of registration fee

Payment date: 20240130

End annual number: 3

Start annual number: 1

PG1601 Publication of registration