[go: up one dir, main page]

KR102695517B1 - 동공 거리 결정 방법 및 장치 - Google Patents

동공 거리 결정 방법 및 장치 Download PDF

Info

Publication number
KR102695517B1
KR102695517B1 KR1020160160183A KR20160160183A KR102695517B1 KR 102695517 B1 KR102695517 B1 KR 102695517B1 KR 1020160160183 A KR1020160160183 A KR 1020160160183A KR 20160160183 A KR20160160183 A KR 20160160183A KR 102695517 B1 KR102695517 B1 KR 102695517B1
Authority
KR
South Korea
Prior art keywords
image
user
test
ipds
candidate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
KR1020160160183A
Other languages
English (en)
Other versions
KR20180060559A (ko
Inventor
황효석
강동우
강병민
박주용
남동경
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020160160183A priority Critical patent/KR102695517B1/ko
Priority to US15/627,594 priority patent/US10506219B2/en
Publication of KR20180060559A publication Critical patent/KR20180060559A/ko
Priority to US16/684,736 priority patent/US10979696B2/en
Application granted granted Critical
Publication of KR102695517B1 publication Critical patent/KR102695517B1/ko
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/327Calibration thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/0016Operational features thereof
    • A61B3/0025Operational features thereof characterised by electronic signal processing, e.g. eye models
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/11Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for measuring interpupillary distance or diameter of pupils
    • A61B3/111Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for measuring interpupillary distance or diameter of pupils for measuring interpupillary distance
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/14Arrangements specially adapted for eye photography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/19Sensors therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/193Preprocessing; Feature extraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/383Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Ophthalmology & Optometry (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Surgery (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Pathology (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Eye Examination Apparatus (AREA)

Abstract

사용자의 동공 거리를 결정하기 위한 방법 및 장치가 제공된다. 사용자의 동공 거리를 결정하기 위해 후보 동공 거리들에 대한 3차원 영상들이 생성되고, 3차원 영상들에 대한 사용자의 피드백을 수신한다. 동공 거리를 결정하기 위한 방법 및 장치는 사용자의 피드백에 기초하여 최종 동공 거리를 결정한다.

Description

동공 거리 결정 방법 및 장치{METHOD AND APPARATUS FOR DETERMINING INTER-PUPILARY DISTANCE}
아래의 실시예들은 동공 거리를 결정하기 위한 방법 및 장치에 관한 것으로, 보다 상세하게는 후보 동공 거리들에 대해 생성된 3차원 영상들에 대한 사용자의 피드백에 기초하여 동공 거리를 결정하는 방법 및 장치에 관한 것이다.
동공 거리(Inter-Pupilary Distance: IPD)는 사람의 양쪽 동공들 간의 거리를 의미한다. 동공 거리는 안과에서 눈에 관한 시술을 하기 위해 미리 측정되었다. 동공 거리를 측정하기 위해 자(ruler)와 같은 측정 장치가 이용될 수 있다. 측정 장치를 이용하는 경우, 장치의 사용자에 따라 동공 거리가 다르게 측정될 수 있다.
최근에는 3차원 영상을 디스플레이하는 기술 분야가 증가하면서, 사용자에게 3차원 영상을 효과적으로 전달하기 위한 방법이 연구되고 있다. 3차원 영상이 효과적으로 전달되기 위해서는, 사용자의 좌안 및 우안에 각각의 영상이 제공되어야 한다. 광학 장치의 축과 사용자 시선의 축이 일치하지 않는 경우 사용자는 어지러움을 느낄 수 있다.
일 측면에 따른, 동공 거리 결정 방법은 사용자를 촬영한 사용자 영상 내의 두 눈(both eyes)의 좌표 및 미리 계산된 하나 이상의 후보(candidate) 동공 거리(Inter Pupilary Distance: IPD)들에 기초하여, 상기 하나 이상의 후보 IPD들 각각에 대한 테스트 3 차원(Dimension: D) 영상을 생성하는 단계; 상기 하나 이상의 후보 IPD들 각각에 대해 생성된 상기 테스트 3D 영상들을 출력하는 단계; 상기 사용자로부터 상기 출력된 테스트 3D 영상들에 대한 피드백을 수신하는 단계; 및 상기 피드백에 기반하여 상기 사용자의 최종 IPD를 결정하는 단계를 포함한다.
상기 동공 거리 결정 방법은 상기 사용자 영상에 기초하여 상기 사용자 영상 내의 상기 두 눈의 좌표를 검출하는 단계를 더 포함할 수 있다.
상기 후보 IPD들은 표준 IPD 및 스케일(scale) 값에 기초하여 계산될 수 있다.
상기 3 D 영상을 생성하는 단계는, 상기 사용자 영상 내의 두 눈의 좌표에 기초하여 상기 후보 IPD들 각각에 대한 상기 두 눈의 3D 위치를 계산하는 단계; 및 상기 계산된 두 눈의 3D 위치 각각에 대한 테스트 3D 영상을 생성하는 단계를 포함할 수 있다.
상기 사용자 영상 내의 두 눈의 좌표에 기초하여 상기 후보 IPD들 각각에 대한 상기 두 눈의 3D 위치를 계산하는 단계는, 상기 사용자 영상 내의 두 눈의 좌표, 및 상기 사용자 영상으로 획득된 노멀 벡터(normal vector)를 이용하여 상기 후보 IPD들 각각에 대한 상기 두 눈의 3D 위치를 계산하는 단계를 포함할 수 있다.
상기 테스트 3D 영상을 생성하는 단계는, 좌안 또는 우안 중 어느 하나에 대한 제1 2D 영상을 생성하는 단계 - 상기 제1 2D 영상 내의 픽셀들 각각은 임의의(random) 인텐시티(intensity) 값을 가짐 -; 및 상기 제1 2D 영상과 상호 보완 패턴을 갖는 제2 2D 영상을 생성하는 단계를 포함할 수 있다.
상기 하나 이상의 후보 IPD들 각각에 대해 생성된 상기 테스트 3D 영상들을 출력하는 단계는, 상기 테스트 3D 영상들을 하나의 테스트 영상으로 병합하는 단계; 및 상기 병합된 테스트 영상을 출력하는 단계를 포함할 수 있다.
상기 피드백에 기초하여 상기 사용자의 최종 IPD를 결정하는 단계는, 상기 사용자로부터 상기 출력된 테스트 3D 영상들 중 하나 이상의 피드백 3D 영상들을 수신하는 단계; 상기 피드백을 수신한 횟수가 미리 설정된 횟수를 초과하는 여부를 판단하는 단계; 상기 피드백을 수신한 횟수가 상기 미리 설정된 횟수를 초과하지 않는 경우, 상기 피드백 3D 영상들의 IPD들에 기초하여 상기 후보 IPD들을 갱신하는 단계; 및 상기 피드백을 수신한 횟수가 상기 미리 설정된 횟수를 초과하는 경우, 상기 피드백3D 영상들의 IPD들에 기초하여 최종 IPD를 결정하는 단계를 포함하고, 상기 후보 IPD들 각각에 대한 테스트 3D 영상을 생성하는 단계는, 상기 갱신된 후보 IPD들 각각에 대한 테스트 3D 영상을 생성하는 단계를 포함할 수 있다.
상기 후보 IPD들을 갱신하는 단계는, 상기 피드백 3D 영상들의 IPD들에 기초하여 표준 IPD 및 스케일 값 중 적어도 하나를 조정하는 단계; 및 상기 조정된 표준 IPD 및 상기 조정된 스케일 값 중 적어도 하나에 기초하여 상기 후보 IPD들을 갱신하는 단계를 포함할 수 있다.
상기 표준 IPD 및 상기 스케일 값 중 적어도 하나를 조정하는 단계는, 상기 피드백 3D 영상들의 IPD들의 평균 값을 계산하는 단계; 및 상기 평균 값에 기초하여 상기 표준 IPD을 조정하는 단계를 포함할 수 있다.
상기 표준 IPD 및 상기 스케일 값 중 적어도 하나를 조정하는 단계는, 상기 피드백 3D 영상들이 선택된 순서에 기초하여 상기 피드백 3D 영상들의 IPD 각각에 가중치를 결정하는 단계; 및 상기 피드백 3D 영상들의 IPD들 및 상기 가중치에 기초하여 상기 표준 IPD를 조정하는 단계를 포함할 수 있다.
상기 피드백은, 상기 출력된 테스트 3D 영상들 중 상대적으로 밝은 영상에 대한 사용자의 선택일 수 있다.
상기 동공 거리 결정 방법은 상기 사용자 영상에 기초하여 사용자를 판단하는 단계; 및 상기 최종 IPD가 결정된 경우, 상기 최종 IPD를 상기 판단된 사용자와 연관시키는 단계를 더 포함하고, 상기 사용자를 판단하는 단계는, 상기 판단된 사용자와 연관된 IPD가 존재하는 경우, 상기 연관된 IPD를 상기 최종 IPD로 결정하는 단계를 포함할 수 있다.
다른 일 측면에 따른, 동공 거리(Inter Pupilary Distance: IPD) 결정 장치에 있어서, 사용자의 IPD를 결정하는 프로그램이 기록된 메모리; 및 상기 프로그램을 수행하는 프로세서를 포함하고, 상기 프로그램은, 상기 사용자를 촬영한 사용자 영상 내의 두 눈(both eyes)의 위치 및 미리 계산된 하나 이상의 후보(candidate) IPD들에 기초하여, 상기 하나 이상의 후보 IPD들 각각에 대한 테스트 3 차원(Dimension: D) 영상을 생성하는 단계; 상기 하나 이상의 후보 IPD들 각각에 대해 생성된 상기 테스트 3D 영상들을 출력하는 단계; 상기 사용자로부터 상기 출력된 테스트 3D 영상들에 대한 피드백을 수신하는 단계; 및 상기 피드백에 기초하여 상기 사용자의 최종 IPD를 결정하는 단계를 수행한다.
상기 동공 거리 결정 장치는 상기 사용자 영상을 생성하는 카메라를 더 포함할 수 있다.
상기 동공 거리 결정 장치는 상기 테스트 3D 영상을 출력하는 디스플레이를 더 포함할 수 있다.
상기 동공 거리 결정 장치는 상기 피드백을 수신하는 사용자 인터페이스를 더 포함할 수 있다.
도 1은 일 예에 따른 3차원 디스플레이에서 이용되는 동공 거리를 도시한다.
도 2는 일 예에 따른 사용자 영상 및 후보 동공 거리들을 도시한다.
도 3은 일 실시예에 따른 동공 거리 결정 장치의 구성도이다.
도 4는 일 실시예에 따른 동공 거리 결정 방법의 흐름도이다.
도 5는 일 예에 따른 테스트 3차원 영상을 생성하는 방법의 흐름도이다.
도 6은 일 예에 따른 상호 보완 패턴을 갖는 2차원 영상들에 기초하여 테스트 3차원 영상을 생성하는 방법의 흐름도이다.
도 7은 일 예에 따른 상호 보완 패턴을 갖는 2차원 영상들을 도시한다.
도 8은 일 예에 따른 3차원 스테레오 패턴을 갖는 2차원 영상들을 도시한다.
도 9는 일 예에 따른 테스트 3차원 영상들을 출력하는 방법의 흐름도이다.
도 10은 일 예에 따른 병합된 테스트 영상을 도시한다.
도 11은 다른 일 예에 따른 병합된 테스트 영상을 도시한다.
도 12는 일 예에 따른 최종 동공 거리를 결정하는 방법의 흐름도이다.
도 13은 일 예에 따른 후보 동공 거리들을 갱신하는 방법의 흐름도이다.
도 14는 일 예에 따른 표준 동공 거리를 조정하는 방법의 흐름도이다.
도 15는 다른 일 예에 따른 표준 동공 거리를 조정하는 방법의 흐름도이다.
도 16은 일 예에 따른 사용자에 연관된 동공 거리에 기초하여 최종 동공 거리를 결정하는 방법의 흐름도이다.
이하에서, 첨부된 도면을 참조하여 실시예들을 상세하게 설명한다. 그러나, 특허출원의 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
아래 설명하는 실시예들에는 다양한 변경이 가해질 수 있다. 아래 설명하는 실시예들은 실시 형태에 대해 한정하려는 것이 아니며, 이들에 대한 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
실시예에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 실시예를 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 실시예의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
도 1은 일 예에 따른 3차원 디스플레이에서 이용되는 동공 거리를 도시한다.
일 측면에 있어서, 3차원(Dimension: D) 영상 제공 방법은 좌안 영상(left eye image) 및 우안 영상(right eye image)을 렌더링하여 하나의 3D 영상을 생성할 수 있다. 디스플레이(110)는 물리적인 구성을 통해 사용자의 좌안(130)에는 좌안 영상을 제공하고, 우안(120)에는 우안 영상을 제공할 수 있다. 상기의 물리적인 구성은 렌티큘러 렌즈(lenticular lens) 및 시차 배리어(parallax barrier)를 포함할 수 있다.
사용자에게 3D 영상이 적절하게 제공되기 위해서는 사용자의 두 눈의 3D 위치가 정확하게 결정되어야 한다. 두 눈의 3D 위치를 결정하기 위해 노멀 벡터(normal vector)(150)가 이용될 수 있다. 노멀 벡터(150)는 두 눈(120, 130)을 연결하는 직선을 수직 이등분하는 벡터일 수 있다. 노멀 벡터(150)는 사용자의 얼굴의 방향을 나타낼 수 있다.
또한, 두 눈의 3D 위치를 결정하기 위해서는 사용자의 좌안(130) 및 우안(120) 간의 거리가 정확하게 결정되어야 한다. 더욱 구체적으로, 좌안(130)의 동공(Pupil) 및 우안(120)의 동공 간의 거리(140)가 결정되어야 한다. 좌안(130)의 동공 및 우안(120)의 동공 간의 거리(140)는 동공 거리(Inter-Pupilary Distance: IPD)(140)로 명명된다.
도 2는 일 예에 따른 사용자 영상 및 후보 동공 거리들을 도시한다.
사용자의 IPD를 결정하기 위해 사용자를 촬영한 사용자 영상이 이용된다. 카메라(210)는 사용자를 촬영함으로써 사용자 영상(220)을 생성한다. IPD를 결정하는 장치는 사용자 영상(220)을 분석함으로써 사용자 영상(220) 내의 두 눈의 동공 좌표를 검출할 수 있다. IPD를 결정하는 장치는 검출된 두 눈의 동공 좌표에 기초하여 동공의 후보(candidate) 3D 위치 들을 계산할 수 있다. 동공의 후보 3D 위치 들은 카메라 및 사용자 영상(220) 내의 두 눈의 동공을 연결하는 직선 상에 위치할 수 있다. 예를 들어, 사용자 영상(220) 내의 두 눈의 동공의 위치는 카메라의 내부 파라미터(intrinsic parameter)에 기초하여 계산될 수 있다.
동공에 대한 노멀 벡터를 획득한 경우, IPD를 알고 있다면, 정확한 동공의 3D 위치가 결정된다. 노멀 벡터에 의해 두 눈의 동공을 연결하는 직선들(230, 240, 250)은 모두 평행이고, 직선들(230, 240, 250) 중 IPD에 대응하는 길이를 가진 직선이 정확한 위치의 두 눈의 동공을 연결하는 직선으로 결정된다. 결론적으로, 동공의 3D 위치를 결정하기 위해서는 i) 사용자 영상(220) 내의 동공 좌표, ii) 노멀 벡터 및 iii) IPD가 요구된다.
IPD를 결정하는 방법에 대해, 아래에서 도 3 내지 도 16을 참조하여 상세히 설명된다.
도 3은 일 실시예에 따른 동공 거리 결정 장치의 구성도이다.
IPD 결정 장치(300)는 통신부(310), 프로세서(320), 메모리(330), 카메라(340), 디스플레이(350) 및 사용자 인터페이스(360)를 포함한다. 예를 들어, 통신부(310), 프로세서(320) 및 메모리(330)는 시스템 온 칩(System-On-Chip: SOC)으로 구현될 수 있으나, 기재된 실시예로 한정되는 것은 아니다.
통신부(310)는 프로세서(320), 메모리(330), 카메라(340), 디스플레이(350) 및 사용자 인터페이스(360)와 연결되어 데이터를 송수신한다. 통신부(310)는 외부의 다른 장치와 연결되어 데이터를 송수신할 수 있다.
통신부(310)는 IPD 결정 장치(300) 내의 회로망(circuitry)으로 구현될 수 있다. 예를 들어, 통신부(310)는 내부 버스(internal bus) 및 외부 버스(internal bus)를 포함할 수 있다. 다른 예로, 통신부(310)는 IPD 결정 장치(300)와 외부의 장치를 연결하는 요소일 수 있다. 통신부(310)는 인터페이스(interface)일 수 있다. 통신부(310)는 외부의 장치로부터 데이터를 수신하여, 프로세서(320) 및 메모리(330)에 데이터를 전송할 수 있다.
프로세서(320)는 통신부(310)가 수신한 데이터 및 메모리(330)에 저장된 데이터를 처리한다. "프로세서"는 목적하는 동작들(desired operations)을 실행시키기 위한 물리적인 구조를 갖는 회로를 가지는 하드웨어로 구현된 데이터 처리 장치일 수 있다. 예를 들어, 목적하는 동작들은 프로그램에 포함된 코드(code) 또는 인스트럭션들(instructions)을 포함할 수 있다. 예를 들어, 하드웨어로 구현된 데이터 처리 장치는 마이크로프로세서(microprocessor), 중앙 처리 장치(central processing unit), 프로세서 코어(processor core), 멀티-코어 프로세서(multi-core processor), 멀티프로세서(multiprocessor), ASIC(Application-Specific Integrated Circuit), FPGA(Field Programmable Gate Array)를 포함할 수 있다.
프로세서(320)는 메모리(예를 들어, 메모리(330))에 저장된 컴퓨터로 읽을 수 있는 코드(예를 들어, 소프트웨어) 및 프로세서(320)에 의해 유발된 인스트럭션들을 실행한다.
메모리(330)는 통신부(310)가 수신한 데이터 및 프로세서(320)가 처리한 데이터를 저장한다. 예를 들어, 메모리(330)는 프로그램을 저장할 수 있다. 저장되는 프로그램은 IPD를 결정할 수 있도록 코딩되어 프로세서(320)에 의해 실행 가능한 신텍스(syntax)들의 집합일 수 있다.
일 측면에 따르면, 메모리(330)는 하나 이상의 휘발성 메모리, 비휘발성 메모리 및 RAM(Random Access Memory), 플래시 메모리, 하드 디스크 드라이브 및 광학 디스크 드라이브를 포함할 수 있다.
메모리(330)는 IPD 결정 장치(300)를 동작 시키는 명령어 세트(예를 들어, 소프트웨어)를 저장한다. IPD 결정 장치(300)를 동작 시키는 명령어 세트는 프로세서(320)에 의해 실행된다.
카메라(340)는 장면을 촬영함으로써 영상을 생성한다. 예를 들어, 카메라(340)는 사용자를 촬영함으로써 사용자 영상을 생성할 수 있다.
디스플레이(350)는 프로세서(320)에 의해 생성된 영상을 출력한다.
사용자 인터페이스(360)는 사용자로부터 사용자 입력을 수신하고, 사용자에게 출력을 제공한다. 예를 들어, 사용자 인터페이스(360)는 터치 패널을 통해 사용자로부터 터치 입력을 수신할 수 있다. 다른 예로, 사용자 인터페이스(360)는 마우스 및 키보드를 통해 사용자의 입력을 수신할 수 있다.
통신부(310), 프로세서(320), 메모리(330), 카메라(340), 디스플레이(350) 및 사용자 인터페이스(360)에 대해, 아래에서 도 4 내지 도 16을 참조하여 상세히 설명된다.
도 4는 일 실시예에 따른 동공 거리 결정 방법의 흐름도이다.
단계(410)에서, 카메라(340)는 사용자를 촬영함으로써 사용자 영상을 생성한다.
단계(420)에서, 프로세서(320)는 사용자 영상에 기초하여 사용자 영상 내의 두 눈의 좌표를 검출한다. 구체적으로, 프로세서(320)는 두 눈의 동공 좌표를 검출할 수 있다. 예를 들어, 프로세서(320)는 어느 한 눈에 대해 검출된 동공 좌표들 중 중심 좌표를 동공 좌표로 검출할 수 있다.
단계(430)에서, 프로세서(320)는 두 눈의 동공에 대한 노멀 벡터를 획득한다. 예를 들어, 프로세서(320)는 사용자 영상에 기초하여 노멀 벡터를 계산할 수 있다.
단계(440)에서, 프로세서(320)는 미리 계산된 하나 이상의 후보 IPD들을 획득한다. 프로세서(320)는 단계(410)가 수행되기 전에 후보 IPD들을 미리 계산할 수 있다.
프로세서(320)는 아래의 [수학식 1]을 이용하여 하나 이상의 후보 IPD들을 계산할 수 있다. [수학식 1]에서, n개의 후보 IPD들을 계산하는 경우 k 는 (n+1)/2이고, μ는 표준 IPD이고, ε는 스케일(scale) 값이다. [수학식 1]에서, n은 1부터 n까지의 자연수가 적용된다.
예를 들어, n이 9이고, μ가 65mm(millimeter) 이고, ε이 4인 경우, 후보 IPD들은 49mm, 53mm, 57mm, 61mm, 65mm, 69mm, 73mm, 77mm 및 81mm로 계산된다. 계산된 후보 IPD들은 테스트 세트(test set)로 명명될 수 있다. 미리 계산된 후보 IPD들은 제1 테스트 세트일 수 있으며, 세트 인덱스는 1일 수 있다. 제1 테스트 세트에 설정된 마진(margin)은 0.5일 수 있다. 마진은 시차 배리어를 통해 한쪽 눈을 위해 제공되는 픽셀들의 비율을 나타낸다. 마진이 클수록 넓은 범위의 눈의 위치를 커버할 수 있으나, 제공되는 영상의 선명도는 낮아질 수 있다.
계산된 후보 IPD들은 메모리(330)에 저장될 수 있고, 프로세서(320)는 메모리(330)에서 계산된 후보 IPD들을 로드(load)할 수 있다.
단계(450)에서, 프로세서(320)는 사용자 영상 내의 두 눈의 좌표 및 하나 이상의 후보 IPD들에 기초하여 하나 이상의 후보 IPD들 각각에 대한 테스트 3D 영상을 생성한다. 예를 들어, 후보 IPD들이 9개인 경우, 9개의 후보 IPD들 각각에 대한 9개의 테스트 3D 영상들이 생성된다. 테스트 3D 영상을 생성하기 위해 노멀 벡터가 이용된다. 테스트 3D 영상을 생성하는 방법에 대해, 도 5 내지 도 8을 참조하여 상세히 설명된다.
단계(460)에서, 프로세서(320)는 디스플레이(360)를 통해 테스트 3D 영상들을 출력할 수 있다. 테스트 3D 영상들을 출력하는 방법에 대해, 아래에서 도 9 내지 도 11을 참조하여 상세히 설명된다.
단계(470)에서, 프로세서(320)는 사용자 인터페이스(360)를 통해 사용자의 피드백을 수신한다. 사용자의 피드백은 출력된 테스트 3D 영상들 중 상대적으로 밝은 영상에 대한 사용자의 선택일 수 있다. 프로세서(320)는 사용자 인터페이스(360)를 통해 사용자로부터 테스트 3D 영상들 중 피드백 3D 영상들을 수신한다. 예를 들어, 사용자는 출력된 테스트 3D 영상들 중 상대적으로 밝은 하나 이상의 테스트 3D 영상들을 피드백 3D 영상으로 선택할 수 있다.
단계(480)에서, 프로세서(320)는 사용자로부터 수신한 피드백에 기초하여 최종 IPD를 결정한다. 최종 IPD는 컨텐츠(content)의 3D 영상을 생성하기 위해 이용될 수 있다. 최종 IPD를 결정하는 방법에 대해, 아래에서 도 12 내지 도 15를 참조하여 상세히 설명된다.
도 5는 일 예에 따른 테스트 3차원 영상을 생성하는 방법의 흐름도이다.
도 4를 참조하여 전술된 단계(450)는 아래의 단계들(510, 520)을 포함할 수 있다.
단계(510)에서, 프로세서(320)는 사용자 영상 내의 두 눈의 좌표에 기초하여 후보 IPD 각각에 대한 두 눈(또는 동공)의 3D 위치를 계산한다. 프로세서(320)는 두 눈의 좌표, 노멀 벡터 및 후보 IPD를 이용하여 두 눈의 3D 위치를 계산할 수 있다.
단계(520)에서, 프로세서(320)는 두 눈의 3D 위치 각각에 대한 테스트 3D 영상을 생성한다. 생성된 테스트 3D 영상은 해당하는 두 눈의 3D 위치에서 선명하게 형성될 수 있다. 테스트 3D 영상은 해당하는 두 눈의 3D 위치가 아닌, 다른 위치에서는 선명하지 않게 형성될 수 있다.
도 6은 일 예에 따른 상호 보완 패턴을 갖는 2차원 영상들에 기초하여 테스트 3차원 영상을 생성하는 방법의 흐름도이다.
도 5를 참조하여 전술된 단계(520)는 아래의 단계들(610, 620, 630)을 포함할 수 있다.
단계(610)에서, 프로세서(320)는 픽셀들 각각이 임의의(random) 인텐시티(intensity) 값을 갖는 제1 2D 영상을 생성한다. 제1 2D 영상은 좌안 또는 우안에 대한 2D 영상일 수 있다. 예를 들어, 하나의 픽셀에 8비트가 할당된 경우, 인텐시티 값은 0 내지 255 중 임의의 값이 픽셀에 설정될 수 있다.
단계(620)에서, 프로세서(320)는 제1 2D 영상과 상호 보완 패턴을 갖는 제2 2D 영상을 생성한다. 제1 2D 영상이 좌안 영상인 경우, 제2 2D 영상은 우안 영상이다. 제1 2D 영상 및 제1 2D 영상과 상호 보완 패턴을 갖는 제2 2D 영상에 대해, 아래에서 도 7을 참조하여 상세히 설명된다.
단계(630)에서, 프로세서(320)는 제1 2D 영상 및 제2 2D 영상에 기초하여 테스트 3D 영상을 생성한다. 정확한 IPD가 반영된 경우, 생성된 테스트 3D 영상은 사용자에게 밝게 보인다.
도 7은 일 예에 따른 상호 보완 패턴을 갖는 2차원 영상들을 도시한다.
하나의 픽셀에 8비트가 할당된 경우, 동일한 좌표를 갖는 제1 2D 영상(710)의 픽셀(712) 및 제2 2D 영상(720)의 픽셀(722)의 인텐시티 값들의 합은 255일 수 있다. 예를 들어, 제1 2D 영상(710)의 픽셀(712)의 인텐시티 값이 0인 경우, 제2 2D 영상(720)의 픽셀(722)의 인텐시티 값은 255로 설정된다. 다른 예로, 제1 2D 영상(710)의 픽셀(712)의 인텐시티 값이 154인 경우, 제2 2D 영상(720)의 픽셀(722)의 인텐시티 값은 101로 설정된다.
도 8은 일 예에 따른 3차원 스테레오 패턴을 갖는 2차원 영상들을 도시한다.
좌안 영상(810) 및 우안 영상(820) 각각은 스테레오 패턴일 수 있다. 정확한 IPD가 반영된 경우, 좌안 영상(810) 및 우안 영상(820)에 기초하여 생성된 테스트 3D 영상은 사용자에게 3D로 인지된다. 정확한 IPD가 반영되지 않은 경우, 좌안 영상(810) 및 우안 영상(820)에 기초하여 생성된 테스트 3D 영상은 사용자에게 부분적으로 2D로 보이거나 패턴이 중첩되어 보인다.
도 9는 일 예에 따른 테스트 3차원 영상들을 출력하는 방법의 흐름도이다.
도 4를 참조하여 전술된 단계(460)는 아래의 단계들(910, 920)을 포함할 수 있다.
단계(910)에서, 프로세서(320)는 후보 IPD 각각에 대해 생성된 테스트 3D 영상들을 하나의 테스트 영상으로 병합한다. 하나 이상의 테스트 3D 영상들이 하나의 테스트 영상으로 병합됨으로써 동시에 하나 이상의 테스트 3D 영상들이 출력될 수 있다. 병합된 테스트 영상에 대해, 아래에서 도 10 및 도 11을 참조하여 상세히 설명된다.
단계(920)에서, 프로세서(320)는 디스플레이(360)를 통해 병합된 테스트 영상을 출력한다. 테스트 3D 영상들이 동시에 출력됨으로써 사용자는 테스트 3D 영상들 간의 차이를 용이하게 비교할 수 있다. 예를 들어, 사용자는 테스트 3D 영상들 간의 밝기를 비교할 수 있다.
도 10은 일 예에 따른 병합된 테스트 영상을 도시한다.
후보 IPD들 각각에 대한 테스트 3D 영상들(1010 내지 1090)이 하나의 테스트 영상(1000)으로 병합될 수 있다. 테스트 3D 영상들(1010 내지 1090) 각각은 예측된 동공의 3D 위치에서 3D 영상을 형성할 수 있다. 예를 들어, 정확한 IPD 보다 작게 예측된 후보 IPD에 대해 생성된 테스트 3D 영상은 정확한 동공의 3D 위치보다 앞에서 3D 영상을 형성할 수 있다. 다른 예로, 정확한 IPD 보다 크게 예측된 후보 IPD에 대해 생성된 테스트 3D 영상은 정확한 동공의 3D 위치보다 뒤에서 3D 영상을 형성할 수 있다.
일 측면에 따르면, 테스트 3D 영상이 상호 보완 패턴에 기초하여 생성된 경우, 정확한 IPD가 반영된 테스트 3D 영상은 사용자에게 밝게 보인다. 사용자는 출력된 테스트 3D 영상들 중 상대적으로 밝게 보이는 테스트 3D 영상들을 하나 이상 선택할 수 있다. 정확한 대비를 위해, 테스트 3D 영상들(1010 내지 1090) 이외의 테스트 영상(1000) 내의 픽셀들은 가장 어두운 픽셀 값을 가질 수 있다.
다른 일 측면에 따르면, 테스트 3D 영상이 스테레오 패턴에 기초하여 생성된 경우, 정확한 IPD가 반영된 테스트 3D 영상은 사용자에게 선명한 3D 오브젝트를 제공한다. 사용자는 출력된 테스트 3D 영상들 중 상대적으로 3D 오브젝트가 선명하게 보이는 테스트 3D 영상들을 하나 이상 선택할 수 있다.
도 11은 다른 일 예에 따른 병합된 테스트 영상을 도시한다.
후보 IPD들 각각에 대한 테스트 3D 영상들(1110 내지 1190)이 하나의 테스트 영상(1100)으로 병합될 수 있다. 테스트 3D 영상들(1110 내지 1190) 각각은 막대기(bar or strip) 형태로 생성될 수 있다. 더욱 정밀한 IPD를 예측하기 위해, 테스트 3D 영상이 막대기 형태로 생성될 수 있다. 예를 들어, 도 10을 참조하여 전술된 테스트 3D 영상들(1010 내지 1090)의 마진은 0.5이고, 테스트 3D 영상들(1110 내지 1190)의 마진은 0.2일 수 있다. 마진 값이 낮을수록 좁은 범위의 동공 3D 위치를 커버할 수 있으므로, 실제의 IPD와 차이가 큰 후보 IPD에 대해 생성된 테스트 3D 영상은 사용자에게 어둡게 보일 수 있다. 테스트 3D 영상을 가로 방향으로 넓게 분포시킴으로써 테스트 3D 영상들(1110 내지 1190) 간의 밝기 차이가 사용자에게 보여질 수 있다.
도 12는 일 예에 따른 최종 동공 거리를 결정하는 방법의 흐름도이다.
도 4를 참조하여 전술된 단계(480)는 아래의 단계들(1210, 1220, 1230)을 포함할 수 있다.
단계(1120)에서, 프로세서(320)는 피드백 수신 횟수가 미리 설정된 횟수를 초과하는지 여부를 판단한다. 피드백 수신 횟수는 테스트 영상들이 출력된 횟수에 대응할 수 있다. 다시 말하자면, 단계(470)가 수행된 횟수가 피드백 수신 횟수와 동일할 수 있다. 예를 들어, 테스트 3D 영상들을 생성하기 위해 제1 테스트 세트가 이용된 경우, 피드백 수신 횟수는 1일 수 있다. 다른 예로, 아래에서 후술될, 테스트 3D 영상들을 생성하기 위해 제2 테스트 세트가 이용된 경우, 피드백 수신 횟수는 2일 수 있다.
피드백 수신 횟수가 미리 설정된 횟수를 초과하지 않는 경우 단계(1220)가 수행되고, 피드백 수신 횟수가 미리 설정된 횟수를 초과하는 경우 단계(1230)가 수행된다.
단계(1220)에서, 프로세서(320)는 사용자에 의해 선택된 피드백 3D 영상들의 IPD들에 기초하여 후보 IPD들을 갱신한다. 후보 IPD들이 갱신된 경우, 도 4를 참조하여 전술된 단계들(450, 460, 470)이 재수행될 수 있다. 후보 IPD들이 갱신되고, 단계들(450, 460, 470)이 재수행됨으로써 보다 정확한 IPD가 결정될 수 있다. 후보 IPD들을 갱신하는 방법에 대해, 아래에서 도 13 내지 15를 참조하여 상세히 설명된다.
단계(1220)가 수행된 후, 단계(450)가 수행될 수 있다. 단계(450)에서, 프로세서(320)는 사용자 영상 내의 두 눈의 좌표 및 갱신된 하나 이상의 후보 IPD들에 기초하여 갱신된 하나 이상의 후보 IPD들 각각에 대한 테스트 3D 영상을 생성한다. 단계(450)가 재수행된 경우, 갱신된 하나 이상의 후보 IPD들은 제2 테스트 세트일 수 있다. 제2 테스트 세트의 세트 인덱스는 2일 수 있다. 제2 테스트 세트에 설정된 마진은 제1 테스트 세트에 설정된 마진에 비해 작을 수 있다.
단계(450)가 재수행된 후, 단계들(460, 470)이 재수행될 수 있다. 단계들(460, 470)은 제2 테스트 세트에 대해 수행될 수 있다.
단계(1230)에서, 프로세서(320)는 피드백 3D 영상들의 IPD들에 기초하여 최종 IPD를 결정한다. 미리 설정된 횟수가 n이고, n+1 번째 테스트 세트에 대한 피드백 3D 영상들이 수신된 경우, n+1 번째 테스트 세트에 대한 피드백 3D 영상들의 IPD들에 기초하여 최종 IPD가 결정될 수 있다.
예를 들어, 프로세서(320)는 피드백 3D 영상들의 IPD들의 평균 값을 최종 IPD로 결정할 수 있다. 다른 예로, 프로세서(320)는 피드백 3D 영상들이 선택된 순서에 기초하여 피드백 3D 영상들의 IPD 각각에 가중치를 설정하고, 피드백 3D 영상들의 IPD들 및 가중치에 기초하여 최종 IPD를 결정할 수 있다.
도 13은 일 예에 따른 후보 동공 거리들을 갱신하는 방법의 흐름도이다.
도 12를 참조하여 전술된 단계(1220)는 아래의 단계들(1310, 1320)을 포함할 수 있다.
단계(1310)에서, 프로세서(320)는 피드백 3D 영상들의 IPD들에 기초하여 표준 IPD(μ) 및 스케일(ε) 값 중 적어도 하나를 조정한다. 피드백 횟수 또는 테스트 세트의 갱신 횟수에 따라, 스케일 값이 조정될 수 있다. 예를 들어, 제1 테스트 세트의 후보 IPD들을 갱신하는 경우, 스케일 값은 제1 테스트 세트의 후보 IPD들을 생성하기 위해 이용된 a보다 작은 값 b 값으로 조정될 수 있다. 또한, 제2 테스트 세트의 후보 IPD들을 갱신하는 경우, 스케일 값은 제2 테스트 세트의 후보 IPD들을 생성하기 위해 이용된 b보다 작은 값 c 값으로 조정될 수 있다.
프로세서(320)는 피드백 3D 영상들의 IPD들에 기초하여 표준 IPD를 조정할 수 있다. 표준 IPD를 조정하는 방법에 대해, 아래에서 도 14 및 도 15를 참조하여 상세히 설명된다.
단계(1320)에서, 프로세서(320)는 조정된 표준 IPD 및 조정된 스케일 값에 기초하여 후보 IPD들을 갱신한다. 예를 들어, 프로세서(320)는 전술된 [수학식 1]을 이용하여 후보 IPD들을 계산할 수 있다. 단계(1320)가 n 번째 수행된 경우, 갱신된 후보 IPD들은 제n+1 테스트 세트로 명명된다.
도 14는 일 예에 따른 표준 동공 거리를 조정하는 방법의 흐름도이다.
도 13을 참조하여 전술된 단계(1310)는 아래의 단계들(1410, 1420)을 포함할 수 있다.
단계(1410)에서, 프로세서(320)는 피드백 3D 영상들의 IPD들의 평균 값을 계산한다.
단계(1420)에서, 프로세서(320)는 계산된 평균 값에 기초하여 표준 IPD를 조정한다. 예를 들어, 계산된 평균 값이 표준 IPD로 설정될 수 있다.
도 15는 다른 일 예에 따른 표준 동공 거리를 조정하는 방법의 흐름도이다.
도 13을 참조하여 전술된 단계(1310)는 아래의 단계들(1510, 1520)을 포함할 수 있다.
단계(1510)에서, 프로세서(320)는 피드백 3D 영상들의 IPD들이 사용자로부터 선택된 순서에 기초하여 피드백 3D 영상들의 IPD 각각에 가중치를 결정한다. 사용자가 출력된 테스트 3D 영상들 중 상대적으로 가장 밝은 순서로 피드백 3D 영상들을 선택하는 경우, 먼저 선택된 피드백 3D 영상의 IPD에 큰 가중치가 결정될 수 있다.
단계(1520)에서, 프로세서(320)는 피드백 3D 영상들의 IPD들 및 가중치에 기초하여 표준 IPD를 조정한다. 예를 들어, 피드백 3D 영상들의 IPD들의 가중 평균(weighted average) 값이 표준 IPD로 결정될 수 있다.
도 16은 일 예에 따른 사용자에 연관된 동공 거리에 기초하여 최종 동공 거리를 결정하는 방법의 흐름도이다.
아래의 단계들(1610, 1620, 1630)은 도 4를 참조하여 전술된 단계(410)가 수행된 후 수행될 수 있다.
단계(1610)에서, 프로세서(320)는 사용자 영상에 기초하여 사용자를 판단한다. 예를 들어, 프로세서(320)는 사용자 영상을 이용하여 사용자의 얼굴을 검출하고, 검출된 얼굴이 미리 저장된 데이터 베이스(database)에 저장되어 있는지 여부를 판단할 수 있다. 프로세서(320)는 얼굴의 특징점에 기반하여 사용자들을 구별할 수 있다. 검출된 얼굴이 미리 저장된 데이터 베이스에 저장되어 있지 않은 경우, 프로세서(320)는 새로운 사용자에 관한 정보를 생성할 수 있다.
단계(1620)에서, 프로세서(320)는 판단된 사용자와 연관된 IPD가 존재하는지 여부를 판단한다. 판단된 사용자와 연관된 IPD가 존재하는 경우, 단계(1630)가 수행된다. 판단된 사용자와 연관된 IPD가 존재하지 않는 경우, 사용자에 대한 IPD를 결정하기 위해 도 4를 참조하여 전술된 단계(420)가 수행된다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 청구범위의 범위에 속한다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
 이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
300: 동공 거리 결정 장치
310: 통신부
320: 프로세서
330: 메모리
340: 카메라
350: 디스플레이
360: 사용자 인터페이스

Claims (20)

  1. 사용자를 촬영한 사용자 영상 내의 두 눈(both eyes)의 좌표 및 미리 계산된 하나 이상의 후보(candidate) 동공 거리(Inter Pupilary Distance: IPD)들에 기초하여, 상기 하나 이상의 후보 IPD들 각각에 대한 테스트 3 차원(Dimension: D) 영상을 생성하는 단계;
    상기 하나 이상의 후보 IPD들 각각에 대해 생성된 상기 테스트 3D 영상들을 출력하는 단계;
    상기 사용자로부터 상기 출력된 테스트 3D 영상들에 대한 피드백을 수신하는 단계; 및
    상기 피드백에 기반하여 상기 사용자의 최종 IPD를 결정하는 단계
    를 포함하고,
    상기 3D 영상을 생성하는 단계는,
    상기 사용자 영상 내의 두 눈의 좌표에 기초하여 상기 후보 IPD들 각각에 대한 상기 두 눈의 3D 위치를 계산하는 단계; 및
    상기 계산된 두 눈의 3D 위치 각각에 대한 테스트 3D 영상을 생성하는 단계
    를 포함하는,
    동공 거리 결정 방법.
  2. 제1항에 있어서,
    상기 사용자 영상에 기초하여 상기 사용자 영상 내의 상기 두 눈의 좌표를 검출하는 단계
    를 더 포함하는,
    동공 거리 결정 방법.
  3. 제2항에 있어서,
    상기 후보 IPD들은 표준 IPD 및 스케일(scale) 값에 기초하여 계산되는,
    동공 거리 결정 방법.
  4. 삭제
  5. 제1항에 있어서,
    상기 사용자 영상 내의 두 눈의 좌표에 기초하여 상기 후보 IPD들 각각에 대한 상기 두 눈의 3D 위치를 계산하는 단계는,
    상기 사용자 영상 내의 두 눈의 좌표, 및 상기 사용자 영상으로 획득된 노멀 벡터(normal vector)를 이용하여 상기 후보 IPD들 각각에 대한 상기 두 눈의 3D 위치를 계산하는 단계
    를 포함하는,
    동공 거리 결정 방법.
  6. 제1항에 있어서,
    상기 테스트 3D 영상을 생성하는 단계는,
    좌안 또는 우안 중 어느 하나에 대한 제1 2D 영상을 생성하는 단계-상기 제1 2D 영상 내의 픽셀들 각각은 임의의(random) 인텐시티(intensity) 값을 가짐 -; 및
    상기 제1 2D 영상과 상호 보완 패턴을 갖는 제2 2D 영상을 생성하는 단계
    를 포함하는,
    동공 거리 결정 방법.
  7. 제1항에 있어서,
    상기 하나 이상의 후보 IPD들 각각에 대해 생성된 상기 테스트 3D 영상들을 출력하는 단계는,
    상기 테스트 3D 영상들을 하나의 테스트 영상으로 병합하는 단계; 및
    상기 병합된 테스트 영상을 출력하는 단계
    를 포함하는,
    동공 거리 결정 방법.
  8. 제1항에 있어서,
    상기 피드백에 기초하여 상기 사용자의 최종 IPD를 결정하는 단계는,
    상기 사용자로부터 상기 출력된 테스트 3D 영상들 중 하나 이상의 피드백 3D 영상들을 수신하는 단계;
    상기 피드백을 수신한 횟수가 미리 설정된 횟수를 초과하는 여부를 판단하는 단계;
    상기 피드백을 수신한 횟수가 상기 미리 설정된 횟수를 초과하지 않는 경우, 상기 피드백 3D 영상들의 IPD들에 기초하여 상기 후보 IPD들을 갱신하는 단계; 및
    상기 피드백을 수신한 횟수가 상기 미리 설정된 횟수를 초과하는 경우, 상기 피드백3D 영상들의 IPD들에 기초하여 최종 IPD를 결정하는 단계
    를 포함하고,
    상기 후보 IPD들 각각에 대한 테스트 3D 영상을 생성하는 단계는,
    상기 갱신된 후보 IPD들 각각에 대한 테스트 3D 영상을 생성하는 단계
    를 포함하는,
    동공 거리 결정 방법.
  9. 제8항에 있어서,
    상기 후보 IPD들을 갱신하는 단계는,
    상기 피드백 3D 영상들의 IPD들에 기초하여 표준 IPD 및 스케일 값 중 적어도 하나를 조정하는 단계; 및
    상기 조정된 표준 IPD 및 상기 조정된 스케일 값 중 적어도 하나에 기초하여 상기 후보 IPD들을 갱신하는 단계
    를 포함하는,
    동공 거리 결정 방법.
  10. 제9항에 있어서,
    상기 표준 IPD 및 상기 스케일 값 중 적어도 하나를 조정하는 단계는,
    상기 피드백 3D 영상들의 IPD들의 평균 값을 계산하는 단계; 및
    상기 평균 값에 기초하여 상기 표준 IPD을 조정하는 단계
    를 포함하는,
    동공 거리 결정 방법.
  11. 제9항에 있어서,
    상기 표준 IPD 및 상기 스케일 값 중 적어도 하나를 조정하는 단계는,
    상기 피드백 3D 영상들이 선택된 순서에 기초하여 상기 피드백 3D 영상들의 IPD 각각에 가중치를 결정하는 단계; 및
    상기 피드백 3D 영상들의 IPD들 및 상기 가중치에 기초하여 상기 표준 IPD를 조정하는 단계
    를 포함하는,
    동공 거리 결정 방법.
  12. 제8항에 있어서,
    상기 피드백은,
    상기 출력된 테스트 3D 영상들 중 상대적으로 밝은 영상에 대한 사용자의 선택인,
    동공 거리 결정 방법.
  13. 제1항에 있어서,
    상기 사용자 영상에 기초하여 사용자를 판단하는 단계; 및
    상기 최종 IPD가 결정된 경우, 상기 최종 IPD를 상기 판단된 사용자와 연관시키는 단계
    를 더 포함하고,
    상기 사용자를 판단하는 단계는,
    상기 판단된 사용자와 연관된 IPD가 존재하는 경우, 상기 연관된 IPD를 상기 최종 IPD로 결정하는 단계
    를 포함하는,
    동공 거리 결정 방법.
  14. 제1항 내지 제3항, 및 제5항 내지 제13항 중 어느 한 항의 방법을 수행하는 프로그램을 수록한 컴퓨터 판독 가능 기록 매체.
  15. 동공 거리(Inter Pupilary Distance: IPD) 결정 장치에 있어서,
    사용자의 IPD를 결정하는 프로그램이 기록된 메모리; 및
    상기 프로그램을 수행하는 프로세서
    를 포함하고,
    상기 프로그램은,
    상기 사용자를 촬영한 사용자 영상 내의 두 눈(both eyes)의 위치 및 미리 계산된 하나 이상의 후보(candidate) IPD들에 기초하여, 상기 하나 이상의 후보 IPD들 각각에 대한 테스트 3 차원(Dimension: D) 영상을 생성하는 단계;
    상기 하나 이상의 후보 IPD들 각각에 대해 생성된 상기 테스트 3D 영상들을 출력하는 단계;
    상기 사용자로부터 상기 출력된 테스트 3D 영상들에 대한 피드백을 수신하는 단계; 및
    상기 피드백에 기초하여 상기 사용자의 최종 IPD를 결정하는 단계
    를 수행하고,
    상기 3 D 영상을 생성하는 단계는,
    상기 사용자 영상 내의 두 눈의 좌표에 기초하여 상기 후보 IPD들 각각에 대한 상기 두 눈의 3D 위치를 계산하는 단계; 및
    상기 계산된 두 눈의 3D 위치 각각에 대한 테스트 3D 영상을 생성하는 단계
    를 포함하는,
    동공 거리 결정 장치.
  16. 제15항에 있어서,
    상기 사용자 영상을 생성하는 카메라
    를 더 포함하는,
    동공 거리 결정 장치.
  17. 제15항에 있어서,
    상기 테스트 3D 영상을 출력하는 디스플레이
    를 더 포함하는,
    동공 거리 결정 장치.
  18. 제15항에 있어서,
    상기 피드백을 수신하는 사용자 인터페이스
    를 더 포함하는,
    동공 거리 결정 장치.
  19. 동공 거리 결정 방법은,
    사용자 영상 내의 사용자의 두 눈(both eyes)의 좌표를 검출하는 단계;
    상기 사용자 영상으로부터 상기 두 눈의 눈동자들을 연결하는 선의 노멀 벡터를 획득하는 단계;
    후보(candidate) 동공 거리(Inter Pupilary Distance: IPD)들, 상기 두 눈의 좌표, 및 상기 노멀 벡터에 기초하여, 상기 후보 IPD들 각각에 대한 테스트 3 차원(Dimension: D) 영상을 생성하는 단계;
    상기 하나 이상의 후보 IPD들 각각에 대해 생성된 상기 테스트 3D 영상들을 병합함으로써 단일 합성 테스트 영상을 출력하는 단계;
    상기 단일 합성 테스트 영상에 병합된 상기 테스트 3D 영상들 중 하나에 대한 선택을 상기 사용자로부터 수신하는 단계; 및
    상기 선택된 영상에 기반하여 상기 사용자의 최종 IPD를 결정하는 단계
    를 포함하는,
    동공 거리 결정 방법.
  20. 동공 거리(Inter Pupilary Distance: IPD) 결정 장치에 있어서,
    사용자의 IPD를 결정하는 프로그램이 기록된 메모리; 및
    상기 프로그램을 수행하는 프로세서
    를 포함하고,
    상기 프로그램은,
    사용자 영상 내의 사용자의 두 눈(both eyes)의 좌표를 검출하는 단계;
    상기 사용자 영상으로부터 상기 두 눈의 눈동자들을 연결하는 선의 노멀 벡터를 획득하는 단계;
    후보(candidate) 동공 거리(Inter Pupilary Distance: IPD)들, 상기 두 눈의 좌표, 및 상기 노멀 벡터에 기초하여, 상기 후보 IPD들 각각에 대한 테스트 3 차원(Dimension: D) 영상을 생성하는 단계;
    상기 하나 이상의 후보 IPD들 각각에 대해 생성된 상기 테스트 3D 영상들을 병합함으로써 단일 합성 테스트 영상을 출력하는 단계;
    상기 단일 합성 테스트 영상에 병합된 상기 테스트 3D 영상들 중 하나에 대한 선택을 상기 사용자로부터 수신하는 단계; 및
    상기 선택된 영상에 기반하여 상기 사용자의 최종 IPD를 결정하는 단계
    를 수행하는,
    동공 거리 결정 장치.
KR1020160160183A 2016-11-29 2016-11-29 동공 거리 결정 방법 및 장치 Active KR102695517B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020160160183A KR102695517B1 (ko) 2016-11-29 2016-11-29 동공 거리 결정 방법 및 장치
US15/627,594 US10506219B2 (en) 2016-11-29 2017-06-20 Method and apparatus for determining interpupillary distance (IPD)
US16/684,736 US10979696B2 (en) 2016-11-29 2019-11-15 Method and apparatus for determining interpupillary distance (IPD)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160160183A KR102695517B1 (ko) 2016-11-29 2016-11-29 동공 거리 결정 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20180060559A KR20180060559A (ko) 2018-06-07
KR102695517B1 true KR102695517B1 (ko) 2024-08-14

Family

ID=62192926

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160160183A Active KR102695517B1 (ko) 2016-11-29 2016-11-29 동공 거리 결정 방법 및 장치

Country Status (2)

Country Link
US (2) US10506219B2 (ko)
KR (1) KR102695517B1 (ko)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102695517B1 (ko) * 2016-11-29 2024-08-14 삼성전자주식회사 동공 거리 결정 방법 및 장치
US10488920B2 (en) * 2017-06-02 2019-11-26 Htc Corporation Immersive headset system and control method thereof
KR20210103541A (ko) 2018-12-20 2021-08-23 스냅 인코포레이티드 입체 이미지들을 생성하기 위한 듀얼 카메라들을 갖는 가요성 안경류 디바이스
KR102184972B1 (ko) * 2019-02-01 2020-12-01 주식회사 룩시드랩스 동공 중심간 거리를 측정하는 장치 및 방법
US10991343B2 (en) * 2019-08-05 2021-04-27 Facebook Technologies, Llc Automatic image alignment with head mounted display optics
US11333888B2 (en) 2019-08-05 2022-05-17 Facebook Technologies, Llc Automatic position determination of head mounted display optics
US10965931B1 (en) * 2019-12-06 2021-03-30 Snap Inc. Sensor misalignment compensation
GB2611579A (en) * 2021-10-11 2023-04-12 Fuel 3D Tech Limited Methods and systems for interpupillary distance measurement

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140274391A1 (en) * 2013-03-13 2014-09-18 Sony Computer Entertainment Inc. Digital inter-pupillary distance adjustment
US20140285641A1 (en) * 2012-10-09 2014-09-25 Panasonic Corporation Three-dimensional display device, three-dimensional image processing device, and three-dimensional display method

Family Cites Families (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7028899B2 (en) 1999-06-07 2006-04-18 Metrologic Instruments, Inc. Method of speckle-noise pattern reduction and apparatus therefore based on reducing the temporal-coherence of the planar laser illumination beam before it illuminates the target object by applying temporal phase modulation techniques during the transmission of the plib towards the target
US6583792B1 (en) * 1999-11-09 2003-06-24 Newag Digital, Llc System and method for accurately displaying superimposed images
US6697761B2 (en) 2000-09-19 2004-02-24 Olympus Optical Co., Ltd. Three-dimensional position/orientation sensing apparatus, information presenting system, and model error detecting system
US8094927B2 (en) * 2004-02-27 2012-01-10 Eastman Kodak Company Stereoscopic display system with flexible rendering of disparity map according to the stereoscopic fusing capability of the observer
JP3992045B2 (ja) 2005-02-18 2007-10-17 松下電工株式会社 映像信号処理装置及び該方法並びに仮想現実感生成装置
TWI281553B (en) 2005-04-01 2007-05-21 Asia Optical Co Inc Eye span adjustment mechanism for optic apparatus
JP4824420B2 (ja) * 2006-02-07 2011-11-30 アイテック株式会社 視線ベクトル検出方法及び同装置
US9667954B2 (en) * 2006-10-13 2017-05-30 Apple Inc. Enhanced image display in head-mounted displays
US8317325B2 (en) * 2008-10-31 2012-11-27 Cross Match Technologies, Inc. Apparatus and method for two eye imaging for iris identification
US20110298795A1 (en) * 2009-02-18 2011-12-08 Koninklijke Philips Electronics N.V. Transferring of 3d viewer metadata
JP5469911B2 (ja) * 2009-04-22 2014-04-16 ソニー株式会社 送信装置および立体画像データの送信方法
RU2524834C2 (ru) * 2009-10-14 2014-08-10 Нокиа Корпорейшн Устройство для автостереоскопического рендеринга и отображения
FR2957511B1 (fr) * 2010-03-19 2021-09-24 Fittingbox Procede et dispositif de mesure de distance inter-pupillaire
KR101824501B1 (ko) * 2011-05-19 2018-02-01 삼성전자 주식회사 헤드 마운트 디스플레이 장치의 이미지 표시 제어 장치 및 방법
US9025252B2 (en) 2011-08-30 2015-05-05 Microsoft Technology Licensing, Llc Adjustment of a mixed reality display for inter-pupillary distance alignment
US9213163B2 (en) * 2011-08-30 2015-12-15 Microsoft Technology Licensing, Llc Aligning inter-pupillary distance in a near-eye display system
KR101874494B1 (ko) * 2011-11-25 2018-07-06 삼성전자주식회사 특징점의 삼차원 위치 계산 장치 및 방법
KR101883200B1 (ko) * 2011-12-16 2018-08-01 에스케이플래닛 주식회사 입체영상 깊이감 측정 장치 및 방법
KR101348723B1 (ko) 2012-01-11 2014-01-09 엘지전자 주식회사 다중 3차원 영상 생성 방법 및 그 장치
PT106430B (pt) 2012-07-03 2018-08-07 Cesar Augusto Dos Santos Silva Sistema para medição da distância interpupilar usando um dispositivo equipado com um ecrã e uma câmara
WO2014076155A1 (en) * 2012-11-14 2014-05-22 Essilor International (Compagnie Generale D'optique) Method of determining optical parameters of an opthalmic lens
KR101960897B1 (ko) 2013-02-06 2019-07-16 삼성디스플레이 주식회사 입체 영상 표시 장치 및 그 표시 방법
US9993614B2 (en) * 2013-08-27 2018-06-12 Catheter Precision, Inc. Components for multiple axis control of a catheter in a catheter positioning system
US9642521B2 (en) * 2013-11-26 2017-05-09 Ulsee Inc. Automatic pupillary distance measurement system and measuring method
US9762895B1 (en) * 2014-03-11 2017-09-12 Rockwell Collins, Inc. Dual simultaneous image presentation for a three-dimensional aviation display
US20150264336A1 (en) * 2014-03-17 2015-09-17 Jacob D. Catt System And Method For Composite Three Dimensional Photography And Videography
US20150306330A1 (en) * 2014-04-29 2015-10-29 MaskSelect, Inc. Mask Selection System
JP2015228543A (ja) * 2014-05-30 2015-12-17 株式会社東芝 電子機器および表示処理方法
US20150358539A1 (en) * 2014-06-06 2015-12-10 Jacob Catt Mobile Virtual Reality Camera, Method, And System
KR102250821B1 (ko) * 2014-08-20 2021-05-11 삼성전자주식회사 디스플레이 장치 및 디스플레이 장치 동작 방법
KR20160025922A (ko) * 2014-08-28 2016-03-09 삼성전자주식회사 영상 처리 방법 및 장치
KR20160044918A (ko) 2014-10-16 2016-04-26 한국전자통신연구원 동공 간격에 기반하여 입체 영상의 깊이를 설정하는 방법 및 장치
KR102310994B1 (ko) * 2014-11-25 2021-10-08 삼성전자주식회사 3차원 상호작용 컴퓨팅 장치 및 방법
KR102329814B1 (ko) 2014-12-01 2021-11-22 삼성전자주식회사 3d 디스플레이를 위한 양안 거리 인식 장치
KR102281690B1 (ko) * 2014-12-01 2021-07-26 삼성전자주식회사 3 차원 이미지 생성 방법 및 장치
KR20160094190A (ko) * 2015-01-30 2016-08-09 한국전자통신연구원 시선 추적 장치 및 방법
KR102463172B1 (ko) * 2016-01-08 2022-11-04 삼성전자주식회사 동공 거리 결정 방법 및 장치
KR102695517B1 (ko) * 2016-11-29 2024-08-14 삼성전자주식회사 동공 거리 결정 방법 및 장치

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140285641A1 (en) * 2012-10-09 2014-09-25 Panasonic Corporation Three-dimensional display device, three-dimensional image processing device, and three-dimensional display method
US20140274391A1 (en) * 2013-03-13 2014-09-18 Sony Computer Entertainment Inc. Digital inter-pupillary distance adjustment

Also Published As

Publication number Publication date
US10506219B2 (en) 2019-12-10
US20180152698A1 (en) 2018-05-31
US10979696B2 (en) 2021-04-13
US20200084433A1 (en) 2020-03-12
KR20180060559A (ko) 2018-06-07

Similar Documents

Publication Publication Date Title
KR102695517B1 (ko) 동공 거리 결정 방법 및 장치
EP3804328B1 (en) Synthesizing an image from a virtual perspective using pixels from a physical imager array
US11282481B2 (en) Information processing device
US20170061631A1 (en) Image processing device and image processing method
EP2597597A2 (en) Apparatus and method for calculating three dimensional (3D) positions of feature points
US10573083B2 (en) Non-transitory computer-readable storage medium, computer-implemented method, and virtual reality system
US20200242335A1 (en) Information processing apparatus, information processing method, and recording medium
KR102463172B1 (ko) 동공 거리 결정 방법 및 장치
US11579472B2 (en) System and method of obtaining fit and fabrication measurements for eyeglasses using depth map scanning
US20200257360A1 (en) Method for calculating a gaze convergence distance
WO2019046803A1 (en) RADIATION TRACING SYSTEM FOR OPTICAL HELMETS
US20150062119A1 (en) Image processing device, 3d-image display device, method of image processing and program product thereof
US11657478B1 (en) Systems and methods for dynamically rendering three-dimensional images with varying detail to emulate human vision
WO2016132688A1 (en) Information processing apparatus, information processing method, and storage medium
US20200211275A1 (en) Information processing device, information processing method, and recording medium
KR101889952B1 (ko) 신뢰도 기반의 스테레오 매칭 방법 및 장치
CN111654688B (zh) 一种获取目标控制参数的方法与设备
KR101817952B1 (ko) 투과형 헤드 마운티드 디스플레이 장치 및 상기 장치에서의 화면 심도 제어 방법
KR101807512B1 (ko) 맵핑형 3차원 상호작용 장치 및 방법
KR101856257B1 (ko) 양안 시차 영상의 보정 장치 및 그 방법
KR102750452B1 (ko) 가상현실 콘텐츠 재생 방법 및 장치
KR101829580B1 (ko) 콘텐츠 시청 시 시각적 현실감을 정량화하는 방법 및 장치
US20140340371A1 (en) Image processing device, image processing method, and computer program product
KR20170037692A (ko) 3차원 디스플레이 장치 및 방법
US12066637B1 (en) Adjusting IPD settings to match interocular distance in extended reality devices

Legal Events

Date Code Title Description
PA0109 Patent application

Patent event code: PA01091R01D

Comment text: Patent Application

Patent event date: 20161129

PG1501 Laying open of application
A201 Request for examination
PA0201 Request for examination

Patent event code: PA02012R01D

Patent event date: 20211129

Comment text: Request for Examination of Application

Patent event code: PA02011R01I

Patent event date: 20161129

Comment text: Patent Application

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20231115

Patent event code: PE09021S01D

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

Patent event code: PE07011S01D

Comment text: Decision to Grant Registration

Patent event date: 20240521

PG1601 Publication of registration