[go: up one dir, main page]

KR102432620B1 - 외부 객체의 근접에 따른 동작을 수행하는 전자 장치 및 그 방법 - Google Patents

외부 객체의 근접에 따른 동작을 수행하는 전자 장치 및 그 방법 Download PDF

Info

Publication number
KR102432620B1
KR102432620B1 KR1020150159236A KR20150159236A KR102432620B1 KR 102432620 B1 KR102432620 B1 KR 102432620B1 KR 1020150159236 A KR1020150159236 A KR 1020150159236A KR 20150159236 A KR20150159236 A KR 20150159236A KR 102432620 B1 KR102432620 B1 KR 102432620B1
Authority
KR
South Korea
Prior art keywords
electronic device
proximity
external object
sensor
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
KR1020150159236A
Other languages
English (en)
Other versions
KR20170055893A (ko
Inventor
황호철
김문수
장동호
김민정
이요한
조치현
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020150159236A priority Critical patent/KR102432620B1/ko
Priority to US15/350,005 priority patent/US10726715B2/en
Publication of KR20170055893A publication Critical patent/KR20170055893A/ko
Application granted granted Critical
Publication of KR102432620B1 publication Critical patent/KR102432620B1/ko
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • G—PHYSICS
    • G08—SIGNALLING
    • G08C—TRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C17/00—Arrangements for transmitting signals characterised by the use of a wireless electrical link
    • G08C17/02—Arrangements for transmitting signals characterised by the use of a wireless electrical link using a radio link
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/1686—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being an integrated camera
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72448—User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions
    • H04M1/72454—User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions according to context-related or environment-related conditions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2200/00—Indexing scheme relating to G06F1/04 - G06F1/32
    • G06F2200/16—Indexing scheme relating to G06F1/16 - G06F1/18
    • G06F2200/163—Indexing scheme relating to constructional details of the computer
    • G06F2200/1637—Sensing arrangement for detection of housing movement or orientation, e.g. for controlling scrolling or cursor movement on the display of an handheld computer
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304—Detection arrangements using opto-electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G08—SIGNALLING
    • G08C—TRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C2201/00—Transmission systems of control signals via wireless link
    • G08C2201/90—Additional features
    • G08C2201/91—Remote control based on location and proximity
    • G—PHYSICS
    • G08—SIGNALLING
    • G08C—TRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C2201/00—Transmission systems of control signals via wireless link
    • G08C2201/90—Additional features
    • G08C2201/93—Remote control using other portable devices, e.g. mobile phone, PDA, laptop
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/60—Substation equipment, e.g. for use by subscribers including speech amplifiers
    • H04M1/6008—Substation equipment, e.g. for use by subscribers including speech amplifiers in the transmitter circuit
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/12—Details of telephonic subscriber devices including a sensor for measuring a physical value, e.g. temperature or motion
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/52—Details of telephonic subscriber devices including functional features of a camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Environmental & Geological Engineering (AREA)
  • User Interface Of Digital Computer (AREA)
  • Telephone Function (AREA)

Abstract

본 발명은 외부 객체의 근접에 따른 동작을 수행하는 전자 장치 및 그 방법 에 관한 것이다. 다양한 실시 예에 따른 전자 장치에 있어서, 터치스크린 디스플레이; 복수의 센서들; 및 프로세서를 포함하고, 상기 프로세서는, 상기 복수의 센서들 중 제1 센서를 이용하여, 음성 신호를 검출하고, 상기 검출된 음성 신호를 기반으로 외부 객체가 상기 전자 장치에 대하여 미리 정해진 범위 내에 있는지를 확인하고, 상기 외부 객체가 상기 전자 장치에 대하여 상기 미리 정해진 범위 내에 있음을 확인하는 경우, 상기 복수의 센서들 중 제2 센서를 이용하여, 상기 전자 장치가 슬립 모드에 있는 동안 상기 터치스크린 디스플레이의 방향이 지면에 대해 수평인 방향에서 수직인 방향으로 기울어진 상태인지를 확인하고, 상기 전자 장치가 상기 슬립 모드에 있는 동안 상기 전자 장치가 상기 기울어진 상태임을 확인한 경우, 상기 전자 장치의 동작 모드를 상기 슬립 모드에서 활성화 모드로 전환하고, 상기 활성화 모드에서 상기 터치스크린 디스플레이에 상기 외부 객체의 인증을 위한 잠금 화면을 표시하고, 상기 잠금 화면이 상기 터치스크린 디스플레이에 표시되는 동안, 상기 복수의 센서들 중 제3 센서를 이용하여, 상기 외부 객체의 얼굴을 식별하고, 상기 외부 객체의 얼굴 식별에 기초하여 상기 외부 객체가 인증될 때 상기 터치스크린 디스플레이에 잠금 해제 화면을 표시하도록 구성된다.

Description

외부 객체의 근접에 따른 동작을 수행하는 전자 장치 및 그 방법{ELECTRONIC DEVICE AND METHOD FOR PERFORMING ACTION ACCORDING TO PROXIMITY OF EXTERNAL OBJECT}
본 발명의 다양한 실시 예는 외부 객체의 근접에 따른 동작을 수행하기 위한 전자 장치, 방법 및 컴퓨터 판독 가능한 기록 매체에 관한 것이다.
일반적으로 전자 장치는 외부 장치를 장착한 사용자의 근접을 감지하기 위해서 외부 장치와 근거리 통신으로 연결하고, 연결된 외부 장치와의 거리 차이를 이용하여 사용자의 근접 여부를 판단하여 대응하는 전자 장치의 동작을 수행할 수 있다.
뿐만 아니라, 전자 장치는 외부 객체의 근접을 감지할 수 있는 센서를 구비하고, 상기 센서가 감지한 상황에 따라 설정된 동작을 수행할 수 있게 되었다. 예를 들어, 상기 전자 장치는 사용자의 신체가 근접함을 인식할 수 있는 근접 센서를 구비하고, 상기 근접 센서로부터 신호가 출력되는 경우 해당 기능을 수행할 수 있다.
상기와 같이 종래에는 전자 장치가 외부 장치를 장착한 사용자의 근접을 감지하거나 근접 센서를 구비하여 감지된 상황에 따른 동작을 수행할 수 있다.
최근에는 외부 객체의 근접 여부에 따라 근접 의도를 파악하여 근접 의도에 따른 전자 장치의 동작을 수행하기 위한 방법에 대한 관심이 많아지고 있다.
따라서, 전자 장치가 외부 객체의 근접에 따른 근접 의도를 파악하고, 근접 의도에 따라 동작을 수행하기 위한 방법이 필요하다.
본 발명의 다양한 실시 예에서는 외부 객체의 근접에 따른 동작을 수행하는 전자 장치 및 그 방법을 제공할 수 있다.
전술한 과제 또는 다른 과제를 해결하기 위한 다양한 실시 예에 따르면, 전자 장치는, 터치스크린 디스플레이; 복수의 센서들; 및 프로세서를 포함하고, 상기 프로세서는, 상기 복수의 센서들 중 제1 센서를 이용하여, 음성 신호를 검출하고, 상기 검출된 음성 신호를 기반으로 외부 객체가 상기 전자 장치에 대하여 미리 정해진 범위 내에 있는지를 확인하고, 상기 외부 객체가 상기 전자 장치에 대하여 상기 미리 정해진 범위 내에 있음을 확인하는 경우, 상기 복수의 센서들 중 제2 센서를 이용하여, 상기 전자 장치가 슬립 모드에 있는 동안 상기 터치스크린 디스플레이의 방향이 지면에 대해 수평인 방향에서 수직인 방향으로 기울어진 상태인지를 확인하고, 상기 전자 장치가 상기 슬립 모드에 있는 동안 상기 전자 장치가 상기 기울어진 상태임을 확인한 경우, 상기 전자 장치의 동작 모드를 상기 슬립 모드에서 활성화 모드로 전환하고, 상기 활성화 모드에서 상기 터치스크린 디스플레이에 상기 외부 객체의 인증을 위한 잠금 화면을 표시하고, 상기 잠금 화면이 상기 터치스크린 디스플레이에 표시되는 동안, 상기 복수의 센서들 중 제3 센서를 이용하여, 상기 외부 객체의 얼굴을 식별하고, 상기 외부 객체의 얼굴 식별에 기초하여 상기 외부 객체가 인증될 때 상기 터치스크린 디스플레이에 잠금 해제 화면을 표시하도록 구성된다.
삭제
다양한 실시 예에 따르면 전자 장치의 동작 방법에 있어서, 전자 장치의 동작 방법은, 상기 전자 장치의 제1 센서를 이용하여 음성 신호를 검출하는 동작; 상기 검출된 음성 신호를 기반으로 외부 객체가 상기 전자 장치에 대하여 미리 정해진 범위 내에 있는지를 확인하는 동작; 상기 외부 객체가 상기 전자 장치에 대하여 상기 미리 정해진 범위 내에 있음을 확인한 경우, 상기 전자 장치의 제2 센서를 이용하여 상기 전자 장치가 장치가 슬립 모드에 있는 동안 상기 전자 장치의 터치스크린 디스플레이의 방향이 지면에 대해 수평인 방향에서 수직인 방향으로 기울어진 상태인지를 확인하는 동작; 상기 전자 장치가 상기 슬립 모드에 있는 동안 상기 전자 장치가 상기 기울어진 상태임을 확인한 경우, 상기 전자 장치의 동작 모드를 상기 슬립 모드에서 활성화 모드로 전환하고, 상기 활성화 모드에서 상기 터치스크린 디스플레이에 상기 외부 객체의 인증을 위한 잠금 화면을 표시하는 동작; 및 상기 잠금 화면이 상기 터치스크린 디스플레이에 표시되는 동안, 상기 전자 장치의 제3 센서를 이용하여, 상기 외부 객체의 얼굴을 식별하고, 상기 외부 객체의 얼굴 식별에 기초하여 상기 외부 객체가 인증될 때 상기 터치스크린 디스플레이에 잠금 해제 화면을 표시하는 동작을 포함한다.
본 발명의 다양한 실시 예에서는 사용자의 요구에 맞는 서비스를 보다 능동적으로 제공할 수 있고, 사용자가 원하는 전자 장치의 기능을 보다 빠르게 수행할 수 있다.
도 1은 다양한 실시 예에 따른, 전자 장치를 포함하는 네트워크 환경을 도시한다.
도 2는 다양한 실시 예에 따른 전자 장치의 블록도를 도시한다.
도 3은 다양한 실시 예에 따른 프로그램 모듈의 블록도를 도시한다.
도 4는 다양한 실시 예에 따른 적어도 하나의 센서를 이용하여 외부 객체의 근접 여부를 판단하기 위한 방법을 나타내는 흐름도를 도시한다.
도 5는 다양한 실시 예에 따른 적어도 하나의 센서를 복수의 모드들로 이용하여 외부 객체의 근접 여부를 판단하기 위한 방법을 나타내는 흐름도를 도시한다.
도 6은 다양한 실시 예에 따른 적어도 하나의 센서를 이용하여 외부 객체의 근접에 따른 동작을 수행하기 위한 방법을 나타내는 흐름도를 도시한다.
도 7은 다양한 실시 예에 따른 적어도 하나의 감지 방법을 이용하여 외부 객체의 근접에 따른 동작을 수행하기 위한 방법을 나타내는 흐름도를 도시한다.
도 8은 다양한 실시 예에 따른 외부 객체의 근접을 감지하여 잠근 화면을 해제하는 동작을 설명하기 위한 예시도들을 도시한다.
도 9는 다양한 실시 예에 따른 마이크를 이용한 외부 객체의 제1 근접을 결정하기 위한 방법을 나타내는 흐름도를 도시한다.
도 10은 다양한 실시 예에 따른 임펄스 신호들을 나타내는 예시도들이다.
도 11은 다양한 실시 예에 따른 안테나를 이용한 외부 객체의 제1 근접을 결정하기 위한 방법을 나타내는 흐름도를 도시한다.
도 12는 다양한 실시 예에 따른 안테나 모듈의 구성도를 도시한다.
도 13은 다양한 실시 예에 따른 가속도 센서를 이용한 외부 객체의 제1 근접을 결정하기 위한 방법을 나타내는 흐름도를 도시한다.
도 14는 다양한 실시 예에 따른 카메라 모듈을 이용한 외부 객체의 제1 근접을 결정하기 위한 방법을 나타내는 흐름도를 도시한다.
도 15는 다양한 실시 예에 따른 전면 카메라를 이용한 외부 객체의 제1 근접을 결정하는 방법을 설명하기 위한 예시도들을 도시한다.
도 16은 다양한 실시 예에 따라 디스플레이를 이용한 외부 객체의 제2 근접을 결정하기 위한 방법을 나타내는 흐름도를 도시한다.
도 17은 다양한 실시 예에 따른 디스플레이를 이용한 외부 객체의 제2 근접을 결정하는 방법을 설명하기 위한 예시도들을 도시한다.
도 18은 다양한 실시 예에 따른 복수의 마이크들을 이용한 외부 객체의 제2 근접을 결정하기 위한 방법을 나타내는 흐름도를 도시한다.
도 19는 다양한 실시 예에 따른 복수의 마이크들을 이용한 외부 객체의 제2 근접을 결정하는 방법을 설명하기 위한 예시도들을 도시한다.
도 20은 다양한 실시 예에 따른 카메라 모듈을 이용하여 홍채 인식에 따른 외부 객체의 근접 의도를 판단하기 위한 방법을 나타내는 흐름도를 도시한다.
도 21은 다양한 실시 예에 따른 카메라 모듈을 이용하여 외부 객체의 근접 의도를 판단하는 방법을 설명하기 위한 예시도들을 도시한다.
도 22는 다양한 실시 예에 따른 카메라 모듈을 이용하여 얼굴 인식에 따른 외부 객체의 근접 의도를 판단하기 위한 방법을 나타내는 흐름도를 도시한다.
도 23은 다양한 실시 예에 따른 터치 패널을 이용하여 외부 객체의 근접 의도를 판단하기 위한 방법을 나타내는 흐름도를 도시한다.
도 24는 다양한 실시 예에 따른 터치 패널을 이용하여 외부 객체의 근접에 관련된 전자 장치의 기능을 하는 방법을 설명하기 위한 예시도들을 도시한다.
도 25는 다양한 실시 예에 따른 복수의 마이크들을 이용하여 외부 객체의 근접에 관련된 전자 장치의 기능을 수행하기 위한 방법을 나타내는 흐름도를 도시한다.
도 26은 다양한 실시 예에 따른 복수의 마이크들을 이용하여 외부 객체의 근접에 관련된 전자 장치의 기능을 수행하는 방법을 설명하기 위한 예시도들을 도시한다.
도 27은 다양한 실시 예에 따른 외부 객체의 근접을 감지하여 이벤트 발생에 따른 데이터를 출력하기 위한 흐름도를 도시한다.
도 28은 다양한 실시 예에 따른 외부 객체의 근접을 감지하여 전자 장치의 콘텍스트 정보에 따른 데이터를 출력하기 위한 흐름도를 도시한다.
도 29는 다양한 실시 예에 따른 외부 객체의 근접을 감지하여 음성 콘텐트를 출력하기 위한 흐름도를 도시한다.
도 30은 다양한 실시 예에 따른 외부 객체의 근접을 감지하여 음성 콘텐트를 출력하는 동작을 설명하기 위한 예시도들을 도시한다.
도 31은 다양한 실시 예에 따른 외부 장치의 근접을 감지하여 연결 이력 정보를 기반으로 외부 장치와의 연결을 수행하기 위한 동작을 나타내는 흐름도를 도시한다.
이하, 본 문서의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 문서의 실시 중의 적어도 하나를 예의 다양한 변경(modifications), 균등물(equivalents), 및/또는 대체물(alternatives)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조부호가 사용될 수 있다.
본 문서에서, "가진다," "가질 수 있다," "포함한다," 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B," "A 또는/및 B 중 적어도 하나," 또는 "A 또는/및 B 중 하나 또는 그 이상" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B," "A 및 B 중 적어도 하나," 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B 를 포함, 또는(3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 문서에서 사용된 "제1," "제2," "첫째," 또는 "둘째," 등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 예를 들면, 제1 사용자기기와 제2 사용자기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자기기를 나타낼 수 있다. 예를 들면, 본 문서에 기재된 권리범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)," "~하는 능력을 가지는(having the capacity to)," "~하도록 설계된(designed to)," "~하도록 변경된(adapted to)," "~하도록 만들어진(made to)," 또는 "~ 를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성된(또는 설정된)"은 하드웨어적으로 "특별히 설계된(specifically designed to)" 것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 문서에 기재된 기술분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 문서에 사용된 용어들 중 일반적인 사전에 정의된 용어들은, 관련 기술의 문맥상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 문서의 실시 예들을 배제하도록 해석될 수 없다.
본 문서의 다양한 실시 예들에 따른 전자장치는, 예를 들면, 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동전화기(mobile phone), 영상전화기, 전자책 리더기(e-book reader), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearabledevice)중 적어도 하나를 포함할 수 있다. 다양한 실시 예에 따르면, 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자의복), 신체 부착형(예: 스킨 패드(skin pad) 또는 문신), 또는 생체 이식형(예: implantable circuit) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예들에서, 전자장치는 가전제품(home appliance)일 수 있다. 가전제품은, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기청정기, 셋톱박스(set-top box), 홈 오토매이션 컨트롤 패널(home automation control panel), 보안 컨트롤 패널(security control panel), TV 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임콘솔(예: XboxTM, PlayStationTM), 전자사전, 전자키, 캠코더(camcorder), 또는 전자액자 중 적어도 하나를 포함할 수 있다.
다른 실시 예에서, 전자 장치는, 각종의료기기(예:각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기,또는 초음파기등), 네비게이션(navigation)장치,위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment)장치, 선박용 전자장비(예: 선박용 항법장치, 자이로콤파스 등),항공전자기기(avionics),보안기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 금융기관의 ATM(automatic teller's machine), 상점의 POS(point of sales), 또는 사물인터넷 장치(internet of things)(예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기(thermostat), 가로등, 토스터(toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예에 따르면, 전자장치는 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에서, 전자장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시 예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 문서의 실시 예에 따른 전자장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
이하, 첨부도면을 참조하여, 다양한 실시 예에 따른 전자장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1을 참조하여, 다양한 실시 예에서의, 네트워크환경(100) 내의 전자 장치(101)가 기재된다. 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및 통신 인터페이스(170)를 포함할 수 있다. 어떤 실시 예에서는, 전자장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다.
버스(110)는, 예를 들면, 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.
프로세서(120)는, 중앙처리장치(central processing unit(CPU)), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시 예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(application programming interface(API))(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템(operating system(OS))으로 지칭될 수 있다.
커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다.
또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여할 수 있다. 예컨대, 미들웨어(143)는 상기 적어도 하나에 부여된 우선 순위에 따라 상기 하나 이상의 작업 요청들을 처리함으로써, 상기 하나 이상의 작업 요청들에 대한 스케쥴링 또는 로드 밸런싱 등을 수행할 수 있다.
API(145)는, 예를 들면, 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.
입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 입출력인터페이스(150)는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(liquid crystal display(LCD)), 발광 다이오드(light-emitting diode(LED)) 디스플레이, 유기 발광 다이오드(organic light-emitting diode(OLED)) 디스플레이, 또는 마이크로 전자기계 시스템(microelectromechanical systems(MEMS)) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)을 표시할 수 있다. 디스플레이(160)는, 터치스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다.
통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 제1 외부 전자 장치(102), 제2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 제2 외부 전자장치(104) 또는 서버(106))와 통신할 수 있다.
무선 통신은, 예를 들면, 셀룰러 통신 프로토콜로서, 예를 들면,LTE(long-term evolution), LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications)등 중 적어도 하나를 사용할 수 있다.또한, 무선 통신은, 예를 들면, 근거리 통신(164)을 포함할 수 있다. 근거리 통신(164)은, 예를 들면, WiFi(wireless fidelity), 블루투스(Bluetooth), NFC(near field communication), 또는GNSS(global navigation satellite system)등 중 적어도 하나를 포함할 수 있다. GNSS는 사용 지역 또는 대역폭 등에 따라, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 “Beidou”) 또는 Galileo, the European global satellite-based navigation system중 적어도 하나를 포함할 수 있다. 이하, 본 문서에서는, “GPS”는 “GNSS”와 혼용되어 사용(interchangeably used)될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(162)는 통신 네트워크(telecommunications network), 예를 들면, 컴퓨터 네트워크(computer network)(예: LAN 또는 WAN), 인터넷, 또는 전화망(telephone network) 중 적어도 하나를 포함할 수 있다.
제1 및 제2 외부 전자 장치(102,104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 한 실시 예에 따르면, 서버(106)는 하나 또는 그 이상의 서버들의 그룹을 포함할 수 있다. 다양한 실시 예에 따르면, 전자장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자장치(예: 전자장치(102,104), 또는 서버(106)에서 실행될 수 있다. 한 실시 예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102,104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102,104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시 예에 따른 전자 장치(201)의 블록도이다. 전자 장치(201)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(201)는 하나 이상의 프로세서(예: AP(application processor))(210), 통신 모듈(220), 가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298)를 포함할 수 있다.
프로세서(210)는, 예를 들면, 운영체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시 예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210)는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.
한 실시 예에 따르면 프로세서(210)는 복수의 센서들 중 제1 센서 셋을 이용하여 전자 장치(201)에 대한 외부 객체의 근접 상태를 확인하고, 외부 객체가 전자 장치에 대해 제1 근접 상태에 있는 경우 복수의 센서들 중 제2 센서 셋을 이용하여 전자 장치(201)에 대한 외부 객체의 세부 근접 상태를 결정하고, 외부 객체가 전자 장치에 대해 제2 근접 상태에 있는 경우 복수의 센서들 중 제3 센서 셋을 이용하여 전자 장치(201)에 대한 외부 객체의 세부 근접 상태를 결정할 수 있다.
상기 각각의 센서 셋들은 하나의 센서만 포함할 수 있고, 복수의 센서들을 포함할 수 있다. 상기의 복수의 센서들은 같은 종류의 센서들을 포함할 수 있고, 둘 이상의 다른 센서들을 포함할 수 있다. 예를 들어, 복수의 센서들은 복수의 마이크들을 포함할 수 있고, 근접 센서(240G) 및 가속도 센서(240E) 등을 포함할 수 있다.
상기 외부 객체는 사람 또는 장치 등이 될 수 있고, 상기 사람은 이미 알고 있는 사람 또는 모르는 사람일 수 있으며, 상기 장치는 인증 가능한 장치(또는, 등록된 장치) 또는 새로운 장치가 될 수 있다. 상기 외부 객체는 하나 또는 둘 이상일 수 있다.
상기 근접 상태는 전자 장치(201)의 주변에 사람 또는 외부 장치가 존재하는 상태를 의미하고, 상기 세부 근접 상태는 사람 또는 장치가 전자 장치(201)를 이용하기 위해 최대 근접 영역 내에 위치한 상태를 의미할 수 있다. 상기 최대 근접 영역은 사람이 전자 장치(201)를 이용할 수 있는 거리 또는 외부 장치가 전자 장치(201)와 연결될 수 있는 거리를 포함할 수 있다.
상기 제1 근접 상태 또는 제2 근접 상태는 외부 객체가 일정 영역 내에서 인식된 상태를 포함할 수 있다. 예를 들어, 프로세서(210)는 마이크(288)를 통해서 입력된 임펄스(impulse) 신호가 특정 음압 이상의 파형이거나 미리 설정된 임계 패턴과 동일한 패턴이거나 일정 횟수 이상의 임펄스 신호인 경우 제1 근접 상태 또는 제2 근접 상태로 판단할 수 있다.
한 실시 예에 따르면 프로세서(210)는 복수의 센서들 중 적어도 하나의 센서를 제1 모드로 이용하여 전자 장치(201)에 대한 외부 객체의 근접 상태를 확인하고, 외부 객체가 전자 장치(201)에 대해 제1 근접 상태에 있는 경우 적어도 하나의 센서를 제2 모드로 이용하여 전자 장치(201)에 대한 외부 객체의 세부 근접 상태를 결정하고, 외부 객체가 전자 장치(201)에 대해 제2 근접 상태에 있는 경우 적어도 하나의 센서를 제3 모드로 이용하여 전자 장치(201)에 대한 외부 객체의 세부 근접 상태를 결정할 수 있다.
예를 들어, 상기 제1 모드는 하나의 마이크를 이용하여 외부 객체의 근접 상태를 확인하는 방법을 포함하고, 상기 제2 모드는 복수의 마이크들을 이용하여 외부 객체의 세부 근접 상태를 확인하는 방법을 포함할 수 있다. 예를 들어, 상기 제1 모드는 가속도 센서의 x, y, z 축 중 일부의 축을 이용하여 가속도를 측정하는 방법을 포함하고, 상기 제2 모드는 가속도 센서의 다른 일부의 축을 이용하여 가속도를 측정하는 방법을 포함할 수도 있다.
한 실시 예에 따르면 프로세서(210)는 복수의 센서들 중 제1 센서 셋을 이용하여 외부 객체에 대한 제1 근접을 감지하고, 전자 장치(201)의 상황 정보를 확인하여 복수의 센서들 중 제2 센서 셋을 결정하며, 결정된 제2 센서 셋을 이용하여 외부 객체에 대한 제2 근접을 감지하고, 복수의 센서들 중 제3 센서 셋을 이용하여 외부 객체의 근접 의도를 판단하며, 판단된 근접 의도에 따른 전자 장치(201)의 기능을 수행할 수 있다.
상기 프로세서(210)는 제1 센서 셋을 이용하여 제1 근접을 감지할 시 외부 객체에 대한 거리뿐만 아니라 외부 객체의 종류, 개수 등을 판단할 수 있다. 예를 들어, 프로세서(210)는 제1 센서 셋이 카메라 모듈(291)인 경우 카메라 모듈(291)을 통해서 입력된 장면에서 얼굴 인식을 수행하여 외부 객체가 사람인지 또는 하나 이상의 얼굴이 인식되는지를 판단할 수 있다. 예를 들어, 프로세서(210)는 제1 센서 셋이 RF 모듈(229)인 경우 RF 모듈(229)을 통해서 입력되는 비콘 신호를 감지하여 외부 객체가 외부 장치인지 또는 하나 이상의 외부 장치가 존재하는지를 판단할 수 있다.
상기 제1 센서 셋은 마이크(288), 안테나(미도시), 가속도 센서(240E), 카메라 모듈(291), RF 모듈(229) 등을 포함할 수 있다. 상기 제2 센서 셋은 디스플레이(예: 센서 인 픽셀(sensor in pixel))(260), 카메라 모듈(291), 마이크(288) 등을 포함할 수 있다. 상기 제3 센서 셋은 카메라 모듈(291), 디스플레이(260), 입력 장치(250), 자이로 센서(240B), 가속도 센서(240E), 그립 센서(240F) 등을 포함할 수 있다.
상기 제1 센서 셋이 마이크(288)인 경우 프로세서(210)는 마이크(288)로부터 제1 오디오 신호를 수신하고, 수신된 제1 오디오 신호를 분석하여 제1 근접 신호인지를 판단할 수 있다. 상기 제1 근접 신호인지를 판단하기 위해 프로세서(210)는 제1 오디오 신호와 미리 저장된 임계 신호를 비교하여 일치하는지 여부를 판단할 수 있다. 제1 오디오 신호와 임계 신호 간의 차이가 미리 설정된 임계차 미만인 경우 프로세서(210)는 제1 오디오 신호와 임계 신호가 일치하는 것으로 판단할 수 있다.
제1 오디오 신호가 제1 근접 신호로 판단되면 프로세서(210)는 외부 객체의 제1 근접을 결정할 수 있다. 상기 제1 근접은 전자 장치(201)의 제1 근접 영역 내에 외부 객체가 인식됨을 의미할 수 있다.
외부 객체의 제1 근접이 결정되면 프로세서(210)는 전자 장치(201)의 위치 정보, 기울기 상태 정보, 시간 정보, 일정 정보, 또는 접촉 정보 등과 같은 상황 정보를 확인하여 제2 센서 셋을 결정할 수 있다.
상기 프로세서(210)는 전자 장치(201)의 위치가 집, 회사, 학교 등인 경우 각 집, 회사, 학교 등에 대응하여 이용 가능한 적어도 하나의 센서를 제2 센서 셋으로 결정할 수 있다. 예를 들어, 전자 장치(201)의 위치가 회사일 때 대응하여 이용 가능한 센서가 카메라 모듈(291), 디스플레이(260)인 경우 프로세서(210)는 카메라 모듈(291) 또는 디스플레이(260)를 제2 센서 셋으로 결정할 수 있다.
상기 프로세서(210)는 전자 장치(201)의 기울기 값이 임계 기울기 범위 내에 포함되면 프로세서(210)는 디스플레이, 카메라, 마이크 등 중 적어도 하나를 제2 센서 셋으로 결정할 수 있다. 예를 들어, 전자 장치(201)의 기울기 값이 0도 ~ 10도 또는 170도 ~ 180도이거나 11도 ~ 169도에 포함되는지에 따라 적어도 하나의 센서를 제2 센서 셋으로 결정할 수 있다. 상기 전자 장치(201)의 기울기 값이 값이 0도 ~ 10도 또는 170도 ~ 180도인 경우 프로세서(210)는 전자 장치(201)가 특정 위치에 놓여져 있다고 판단할 수 있다. 이와 같이 판단한 경우 프로세서(210)는 카메라 모듈(291), 마이크(288) 등을 제2 센서 셋으로 결정할 수 있다. 상기 전자 장치(201)의 기울기 값이 11도 ~ 169도에 포함되는 경우 프로세서(210)는 사용자가 손으로 전자 장치(201)를 잡고 있다고 판단할 수 있다. 이와 같이 판단한 경우 프로세서(210)는 디스플레이(260), 카메라 모듈(291) 등을 제2 센서 셋으로 결정할 수 있다. 다양한 실시 예에 따르면, 전자 장치의 기울기 값은 상기에서 서술한 바에 한정되지 않으며, 다양하게 설정될 수 있다.
상기 프로세서(210)는 미리 지정된 시간 또는 미리 설정된 일정에 따라 설정된 디스플레이(260), 카메라 모듈(291), 복수의 마이크들 등 중 적어도 하나를 제2 센서 셋으로 결정할 수 있다. 예를 들어, 오후 3시에 알림을 설정한 경우 프로세서(210)는 알림이 설정된 시간에 대응하여 외부 객체의 근접을 감지하기 위해 마이크(288), 가속도 센서(240E) 등을 제2 센서 셋으로 결정할 수 있다.
상기 프로세서(210)는 입력 장치(250)의 터치 패널(252)을 통해서 외부 객체의 접촉이 감지되면 외부 객체가 전자 장치(201)의 최대 근접 거리에 위치하는 것으로 판단하여 디스플레이(260), 카메라 모듈(291) 등을 제2 센서 셋으로 결정할 수 있다.
상기에서 설명한 센서들은 상기의 기재에 한정되지 않으며, 다양한 센서들이 외부 객체의 근접을 위해서 이용될 수 있다.
상기 결정된 제2 센서 셋이 카메라인 경우 프로세서(210)는 카메라를 통해서 입력되는 장면의 일정 영역 내에 외부 객체가 인식되면 외부 객체의 제2 근접을 결정할 수 있다. 상기 제2 근접은 전자 장치(201)의 제2 근접 영역 내에 외부 객체가 인식됨을 의미할 수 있다. 상기 제2 근접 영역 내에 외부 객체가 인식되면 프로세서(210)는 외부 객체가 전자 장치(201)를 이용하기 위해 근접함을 인식할 수 있다.
상기 외부 객체의 제2 근접에 결정되면 프로세서(210)는 제2 근접을 기반으로 복수의 센서들 중 제3 센서 셋을 결정하고, 결정된 제3 센서 셋을 이용하여 외부 객체의 근접 의도를 판단할 수 있다. 상기 프로세서(210)는 카메라 모듈(291), 디스플레이(260), 입력 장치(250), 자이로 센서(240B), 가속도 센서(240E), 그립 센서(240F) 등 중 외부 객체의 근접 의도를 판단하기 위한 적어도 하나를 제3 센서 셋으로 결정할 수 있다.
예를 들어, 상기 결정된 제3 센서 셋이 카메라 모듈(291)인 경우 프로세서(210)는 카메라 모듈(291)을 이용하여 홍채 인식을 수행하고, 홍채가 인식되면 외부 객체의 근접 의도를 사용자 인증을 위한 근접으로 판단할 수 있다. 상기 프로세서(210)는 홍채 인식에 의한 사용자 인증을 수행하고, 외부 객체가 전자 장치(201)의 사용자로 판단되면 사용자 인증에 따라 설정된 전자 장치(201)의 기능을 수행할 수 있다. 상기 설정된 전자 장치(201)의 기능이 전자 장치(201)의 잠금화면을 해제하는 기능인 경우 프로세서(210)는 외부 객체가 전자 장치(201)의 사용자로 판단되면 전자 장치(201)의 잠금화면을 해제할 수 있다.
한 실시 예에 따르면 프로세서(210)는 제1 감지 방법을 이용하여 외부 객체에 대한 제1 근접을 감지하고, 전자 장치(201)의 상황 정보를 확인하여 제2 감지 방법을 결정하며, 결정된 제2 감지 방법을 이용하여 외부 객체에 대한 제2 근접을 감지하고, 제3 감지 방법을 이용하여 외부 객체의 근접 의도를 판단하여 판단된 근접 의도에 따른 전자 장치(201)의 기능을 수행할 수 있다.
예를 들어, 제1 감지 방법이 하나의 마이크를 이용하여 외부 객체의 근접을 감지하는 방법인 경우 프로세서(210)는 하나의 마이크를 통해서 입력되는 제1 오디오 신호를 분석하여 외부 객체가 제1 근접 영역 내에 인식되는지를 판단할 수 있다.
상기 외부 객체의 제1 근접이 감지되면 프로세서(210)는 전자 장치(201)의 위치 정보, 기울기 상태 정보, 시간 정보, 일정 정보, 접촉 정보 등을 확인하여 확인된 상황 정보를 기반으로 제2 감지 방법을 결정할 수 있다. 예를 들어, 상기 전자 장치(201)의 기울기 값이 임계 기울기 값 이상이거나, 전자 장치(201)의 주변 소음이 임계 값 이하로 판단되면 프로세서(210)는 복수의 마이크들을 이용하여 외부 객체의 근접을 감지하는 방법을 제2 감지 방법으로 결정할 수 있다. 상기 전자 장치(201)의 기울기 값이 임계 기울기 값 미만이거나, 전자 장치(201) 주변의 밝기가 임계 값 이상으로 판단되면 프로세서(210)는 디스플레이(262)를 이용하여 외부 객체의 근접을 감지하는 방법을 제2 감지 방법으로 결정할 수 있다.
상기 제2 감지 방법이 복수의 마이크들을 이용하여 외부 객체의 근접을 감지하는 방법인 경우 프로세서(210)는 복수의 마이크들을 통해서 입력되는 복수의 오디오 신호를 분석하여 외부 객체가 제2 근접 영역 내에 인식되는지를 판단할 수 있다. 상기 프로세서(210)는 복수의 오디오 신호를 분석하여 외부 객체의 근접 방향, 근접 거리 등을 판단하고, 판단된 근접 방향, 근접 거리에 따른 위치를 산출하여 산출된 위치가 제2 근접 영역 내에 포함되는지를 판단할 수 있다. 산출된 위치가 제2 근접 영역 내에 포함되면 프로세서(210)는 외부 객체의 제2 근접으로 판단할 수 있다.
상기 제2 감지 방법이 디스플레이(262)를 이용하여 외부 객체의 근접을 감지하는 방법인 경우 프로세서(210)는 디스플레이(262)를 통해서 입력되는 수광 신호를 분석하여 감지되는 빛의 양이 임계 값 미만이거나, 감지되는 센서(예: 디스플레이(262) 내부의 픽셀)의 수가 임계 값 이상이면 외부 객체가 제2 근접 거리 내에 포함되는 것으로 판단할 수 있다.
상기 외부 객체의 제2 근접을 기반으로 프로세서(210)는 제3 감지 방법을 결정하고, 결정된 제3 감지 방법을 이용하여 외부 객체의 근접 의도를 판단할 수 있다.
예를 들어, 상기 제3 감지 방법이 카메라 모듈(291)을 이용한 움직임 감지 방법인 경우 프로세서(210)는 카메라 모듈(291)을 이용하여 외부 객체의 움직임을 감지하여 외부 객체가 전자 장치(201)로 접근 중인지를 판단할 수 있다. 외부 객체가 전자 장치(201)로 접근 중인 경우 프로세서(210)는 외부 객체의 접근 방향을 기반으로 전자 장치(201)의 화면 방향을 변경시켜 표시할 수 있다.
상기 제3 감지 방법이 터치 패널(252)을 이용한 파지 형태 감지 방법인 경우 프로세서(210)는 터치 패널(252)을 이용하여 외부 객체의 전자 장치(201)에 대한 파지 형태를 감지하고, 감지된 파지 형태를 기반으로 외부 객체의 근접 의도를 판단할 수 있다. 감지된 파지 형태가 전자 장치(201)의 통화 기능에 대응하여 미리 설정된 파지 형태로 판단되면 프로세서(210)는 외부 객체의 근접의도를 전자 장치의 통화 기능을 이용하기 위한 것으로 판단할 수 있다. 상기 프로세서(210)는 통화 기능에 대응하는 사용자 인터페이스를 디스플레이를 통해서 표시할 수 있다.
통신 모듈(220)은, 도 1의 통신 인터페이스(170)와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227)(예: GPS 모듈, Glonass 모듈, Beidou 모듈, 또는 Galileo 모듈), NFC 모듈(228) 및 RF(radio frequency) 모듈(229)를 포함할 수 있다. 한 실시 예에 따르면 통신 모듈(220)은 안테나(미도시)를 포함할 수 있다.
셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP: communication processor)를 포함할 수 있다.
WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228)각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시 예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다.
RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시 예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.
가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리(230)(예: 메모리(130))는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나를 포함할 수 있다.
외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(201)와 기능적으로 및/또는 물리적으로 연결될 수 있다.
한 실시 예에 따르면 메모리(230)는 프로세서(210)가 외부 객체의 근접을 판단하여 판단된 근접에 따른 전자 장치(201)의 기능을 수행하기 위해 사용되는 모든 정보를 저장할 수 있다.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러(color) 센서(240H)(예: RGB(red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), 또는 UV(ultra violet) 센서(240M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로(additionally or alternatively), 센서 모듈(240)은, 예를 들면, 후각 센서(E-nose sensor), EMG 센서(electromyography sensor), EEG 센서(electroencephalogram sensor), ECG 센서(electrocardiogram sensor), IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(201)는 프로세서(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(210)가 슬립(sleep)상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.
입력 장치(250)는, 예를 들면, 터치 패널(touch panel)(252), (디지털) 펜 센서(pen sensor)(254), 키(key)(256), 또는 초음파(ultrasonic) 입력 장치(258)를 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.
(디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트(sheet)를 포함할 수 있다. 키(256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(예: 마이크(288))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(260)(예: 디스플레이(160))는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 포함할 수 있다. 패널(262)은, 도 1의 디스플레이(160)와 동일 또는 유사한 구성을 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나의 모듈로 구성될 수도 있다. 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 한 실시 예에 따르면, 디스플레이(260)는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 제어하기 위한 제어 회로를 더 포함할 수 있다. 한 실시 예에 따르면 디스플레이(260)는 센서인픽셀(Sensor in Pixel)로 구성되어 수광신호를 수신할 수 있다.
인터페이스(270)는, 예를 들면, HDMI(high-definition multimedia interface)(272), USB(universal serial bus)(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278)를 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로(additionally and alternatively), 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD(secure digital) 카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(280)은, 예를 들면, 소리(sound)와 전기신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(145)에 포함될 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시 예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래시(flash)(예: LED 또는 xenon lamp 등)를 포함할 수 있다. 한 실시 예에 따르면, 카메라 모듈(291)은 복수의 카메라를 포함할 수 있으며, 상기 복수의 카메라는 적외선 카메라, 모션 인식용 저전력 카메라 등을 포함할 수 있다.
전력 관리 모듈(295)은, 예를 들면, 전자 장치(201)의 전력을 관리할 수 있다. 한 실시 예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.
인디케이터(297)는 전자 장치(201)또는 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 전자 장치(201)는 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 모바일 TV지원을 위한 처리 장치는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.
본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자장치의 종류에 따라서 달라질 수 있다. 다양한 실시 예에서, 전자 장치는 본 문서에서 기술된 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시 예에 따른 전자 장치의 구성요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 3은 다양한 실시 예에 따른 프로그램 모듈의 블록도이다. 한 실시 예에 따르면, 프로그램 모듈(310)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영체제(operating system(OS)) 및/또는 운영체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영체제는, 예를 들면, 안드로이드(android), iOS, 윈도우즈(windows), 심비안(symbian), 타이젠(tizen), 또는 바다(bada) 등이 될 수 있다.
프로그램 모듈(310)은 커널(320), 미들웨어(330), 어플리케이션 프로그래밍 인터페이스(application programming interface (API))(360), 및/또는 어플리케이션(370)을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 전자 장치 상에 프리로드(preload) 되거나, 외부 전자 장치(예: 전자장치(102,104), 서버(106) 등)로부터 다운로드(download) 가능하다.
커널(320)(예: 커널(141))은, 예를 들면, 시스템 리소스 매니저(321)및/또는 디바이스 드라이버(323)를 포함할 수 있다. 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시 예에 따르면, 시스템 리소스 매니저(321)는 프로세스관리부, 메모리관리부, 또는 파일시스템관리부 등을 포함할 수 있다. 디바이스 드라이버(323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다.
미들웨어(330)는, 예를 들면, 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 API(360)를 통해 다양한 기능들을 어플리케이션(370)으로 제공할 수 있다. 한 실시 예에 따르면, 미들웨어(330)(예: 미들웨어(143))는 런타임 라이브러리(335), 어플리케이션 매니저(application manager)(341), 윈도우 매니저(window manager)(342), 멀티미디어 매니저(multimedia manager)(343), 리소스 매니저(resource manager)(344), 파워 매니저(power manager)(345), 데이터베이스 매니저(database manager)(346), 패키지 매니저(package manager)(347), 연결 매니저(connectivity manager)(348), 통지 매니저(notification manager)(349), 위치 매니저(location manager)(350), 그래픽 매니저(graphic manager)(351), 또는 보안 매니저(security manager)(352) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(335)는, 예를 들면, 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수에 대한 기능 등을 수행할 수 있다.
어플리케이션 매니저(341)는, 예를 들면, 어플리케이션(370)중 적어도 하나의 어플리케이션의 생명주기(life cycle)를 관리할 수 있다. 윈도우 매니저(342)는 화면에서 사용하는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(343)는 다양한 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱(codec)을 이용하여 미디어 파일의 인코딩(encoding) 또는 디코딩(decoding)을 수행할 수 있다. 리소스 매니저(344)는 어플리케이션(370)중 적어도 어느 하나의 어플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.
파워 매니저(345)는, 예를 들면, 바이오스(BIOS: basic input/output system) 등과 함께 동작하여 배터리(battery) 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 데이터베이스 매니저(346)는 어플리케이션(370) 중 적어도 하나의 어플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 업데이트를 관리할 수 있다.
연결 매니저(348)는, 예를 들면, WiFi 또는 블루투스 등의 무선 연결을 관리할 수 있다. 통지 매니저(349)는 도착 메시지, 약속, 근접성 알림 등의 사건(event)을 사용자에게 방해되지 않는 방식으로 표시 또는 통지할 수 있다. 위치 매니저(350)는 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(351)는 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(352)는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시 예에 따르면, 전자 장치(예: 전자 장치(101))가 전화 기능을 포함한 경우, 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저(telephony manager)를 더 포함할 수 있다.
미들웨어(330)는 전술한 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 미들웨어(330)는 차별화된 기능을 제공하기 위해 운영체제의 종류 별로 특화된 모듈을 제공할 수 있다. 또한, 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.
API(360)(예: API(145))는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠(tizen)의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(370)(예: 어플리케이션 프로그램(147))은, 예를 들면, 홈(371), 다이얼러(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 또는 시계(384), 건강 관리(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공(예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 수행할 수 있는 하나 이상의 어플리케이션을 포함할 수 있다.
한 실시 예에 따르면, 어플리케이션(370)은 전자 장치(예: 전자 장치(101))와 외부 전자 장치(예: 전자 장치(102,104)) 사이의 정보 교환을 지원하는 어플리케이션(이하, 설명의 편의 상, "정보 교환 어플리케이션")을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리(device management) 어플리케이션을 포함할 수 있다.
예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션(예: SMS/MMS 어플리케이션, 이메일 어플리케이션, 건강 관리 어플리케이션, 또는 환경 정보 어플리케이션 등)에서 발생된 알림 정보를 외부 전자 장치(예: 전자 장치(102,104))로 전달하는 기능을 포함할 수 있다. 또한, 알림 전달 어플리케이션은, 예를 들면, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다.
장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치(예: 전자 장치(102,104))의 적어도 하나의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 외부 전자 장치에서 동작하는 어플리케이션 또는 외부 전자 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스 등)를 관리(예: 설치, 삭제, 또는 업데이트)할 수 있다.
한 실시 예에 따르면, 어플리케이션(370)은 외부 전자 장치(예: 전자 장치(102,104))의 속성(에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션 등)을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션(370)은 외부 전자 장치(예: 서버(106) 또는 전자 장치(102,104))로부터 수신된 어플리케이션을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션(370)은 프리로드 어플리케이션(preloaded application) 또는 서버로부터 다운로드 가능한 제3자 어플리케이션(third party application)을 포함할 수 있다. 도시된 실시 예에 따른 프로그램 모듈(310)의 구성요소들의 명칭은 운영체제의 종류에 따라서 달라질 수 있다.
다양한 실시 예에 따르면, 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 프로그램 모듈(310)의 적어도 일부는, 예를 들면, 프로세서(예: 프로세서(210))에 의해 구현(implement)(예: 실행)될 수 있다. 프로그램 모듈(310)의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.
다양한 실시 예에 따르면 전자 장치에 있어서, 복수의 센서들; 및 프로세서를 포함하고, 상기 프로세서는, 상기 복수의 센서들 중 제1 센서 셋을 이용하여, 상기 전자 장치의 주변에 외부 객체가 존재하는지를 나타내는 상기 전자 장치에 대한 상기 외부 객체의 근접 상태를 확인하고, 상기 외부 객체가 상기 전자 장치에 대하여 제1 근접 상태에 있는 경우, 상기 복수의 센서들 중 제2 센서 셋을 이용하여, 상기 전자 장치의 근접 영역 내에 상기 외부 객체가 존재하는지를 나타내는 상기 전자 장치에 대한 상기 외부 객체의 세부 근접 상태를 결정하고; 및 상기 외부 객체가 상기 전자 장치에 대하여 제2 근접 상태에 있는 경우, 상기 복수의 센서들 중 제3 센서 셋을 이용하여, 상기 전자 장치에 대한 상기 외부 객체의 상기 세부 근접 상태를 결정할 수 있다.
다양한 실시 예에 따르면 전자 장치에 있어서, 복수의 센서들; 및 프로세서를 포함하고, 상기 프로세서는, 상기 복수의 센서들 중 적어도 하나의 센서를 제1 모드로 이용하여, 상기 전자 장치의 주변에 외부 객체가 존재하는지를 나타내는 상기 전자 장치에 대한 상기 외부 객체의 근접 상태를 확인하고, 상기 외부 객체가 상기 전자 장치에 대하여 제1 근접 상태에 있는 경우, 상기 적어도 하나의 센서를 제2 모드로 이용하여, 상기 전자 장치의 근접 영역 내에 상기 외부 객체가 존재하는지를 나타내는 상기 전자 장치에 대한 상기 외부 객체의 세부 근접 상태를 결정하고; 및 상기 외부 객체가 상기 전자 장치에 대하여 제2 근접 상태에 있는 경우, 상기 적어도 하나의 센서를 제3 모드로 이용하여, 상기 전자 장치에 대한 상기 외부 객체의 상기 세부 근접 상태를 결정할 수 있다.
도 4는 다양한 실시 예에 따른 적어도 하나의 센서를 이용하여 외부 객체의 근접 여부를 판단하기 위한 방법을 나타내는 흐름도를 도시한다. 다양한 실시 예에 따르면, 400 동작 내지430 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
도 4에 따르면 전자 장치(201)는 400 동작에서 제1 센서 셋을 이용하여 외부 객체의 근접 상태를 확인할 수 있다. 예를 들어, 카메라 모듈(291), 마이크(288), 안테나(미도시), 가속도 센서(240E) 등 중 적어도 하나를 이용하여 외부 객체의 근접 상태를 확인할 수 있다.
410 동작에서 전자 장치(201)는 확인된 근접 상태가 제1 근접 상태인지 또는 제2 근접 상태인지를 판단하여 확인된 근접 상태가 제1 근접 상태인 경우 420 동작을 수행하고, 확인된 근접 상태가 제2 근접 상태인 경우 430 동작을 수행할 수 있다. 상기 제1 근접 상태 또는 제2 근접 상태는 외부 객체의 거리, 외부 객체의 수, 외부 객체의 종류 등을 포함할 수 있다. 예를 들어, 상기 외부 객체의 거리는 외부 객체의 제1 근접 영역(예: 2미터 등) 내에 포함되는 거리, 외부 객체의 제2 근접 영역(예: 1미터 등), 외부 객체의 호버링 감지 영역, 외부 객체의 접촉 등을 포함할 수 있다. 상기 외부 객체의 수는 하나 이상의 외부 객체를 포함할 수 있다. 상기 외부 객체의 종류는 사용자 또는 전자 장치, 인식이 가능한 사용자 또는 인식 불가능한 사용자, 인식 가능한 장치 또는 인식 불가능한 장치 등을 포함할 수 있다.
예를 들어, 상기 제1 근접 상태는 특정 사용자가 제1 근접 영역 내에 위치하는 상태를 의미하고, 상기 제2 근접 상태는 특정 사용자가 전자 장치(201)를 접촉한 상태를 의미할 수 있다.
420 동작에서 전자 장치(201)는 제2 센서 셋을 이용하여 외부 객체의 세부 근접 상태를 결정할 수 있다. 예를 들어, 전자 장치(201)는 특정 사용자가 제1 근접 영역 내에 위치하면 카메라 모듈(291)을 이용하여 획득한 장면에서 일정 영역 내에 얼굴이 인식되는지 여부를 판단하여 특정 사용자의 얼굴이 인식되면 특정 사람이 전자 장치(201)의 기능을 이용하기 위해 근접한 상태임을 결정할 수 있다. 또 다른 예를 들면, 전자 장치(201)는, 특정 사용자가 제1 근접 영역 내에 위치하면, 가속도 센서(240E)를 이용하여 측정한 전자 장치의 흔들림을 통해 외부 객체의 세부 근접을 판단하고, 적어도 하나의 마이크(288)를 이용하여 특정 사람의 목소리를 인식하는 경우, 특정 사람이 전자 장치(201)의 기능을 이용하기 위해 근접한 상태임을 결정할 수 있다.
430 동작에서 전자 장치(201)는 제3 센서 셋을 이용하여 외부 객체의 세부 근접 상태를 결정할 수 있다. 예를 들어, 전자 장치(201)는 특정 사용자가 전자 장치(201)를 접촉한 상태인 경우 디스플레이(260)을 이용하여 파지 형태를 감지하고, 감지된 파지 형태에 대응하는 전자 장치(201)의 기능을 이용하기 위해 특정 사용자가 손으로 전자 장치(201)를 쥐고 있는 상태임을 결정할 수 있다.
도 5는 다양한 실시 예에 따른 적어도 하나의 센서를 복수의 모드로 이용하여 외부 객체의 근접 여부를 판단하기 위한 방법을 나타내는 흐름도를 도시한다. 다양한 실시 예에 따르면, 500 동작 내지 530 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
500 동작에서 전자 장치(201)는 적어도 하나의 센서를 제1 모드로 이용하여 외부 객체에 대한 근접 상태를 확인할 수 있다. 예를 들어, 전자 장치(201)는 하나의 마이크를 통해서 입력되는 임펄스 신호를 분석하여 외부 객체의 위치, 종류, 개수를 판단할 수 있다.
510 동작에서 전자 장치(201)는 확인된 근접 상태가 제1 근접 상태 또는 제2 근접 상태인지 판단하여 확인된 근접 상태가 제1 근접 상태인 경우 520 동작을 수행하고, 확인된 근접 상태가 제2 근접 상태인 경우 530 동작을 수행할 수 있다. 예를 들어, 전자 장치(201)는 하나의 마이크를 통해서 입력되는 임펄스 신호를 분석하여 외부 객체가 제1 근접 영역 내에 위치하는 상태인지 또는 제2 근접 영역 내에 위치하는 상태인지 또는 접촉 상태인지 등을 확인할 수 있다.
520 동작에서 전자 장치(201)는 적어도 하나의 센서를 제2 모드로 이용하여 외부 객체의 세부 근접 상태를 결정할 수 있다. 예를 들어, 전자 장치(201)는 외부 객체가 제1 근접 영역 내에 위치하면 복수의 마이크들을 통해서 입력되는 복수의 임펄스 신호들에 대한 입력 시간 차이를 기반으로 외부 객체가 제2 근접 영역 내에 위치하는지를 확인할 수 있다.
530 동작에서 전자 장치(201)는 적어도 하나의 센서를 제3 모드로 이용하여 외부 객체의 세부 근접 상태를 결정할 수 있다. 예를 들어, 전자 장치(201)는 외부 객체가 제2 근접 영역 내에 위치하면 카메라 모듈(291)을 이용하여 홍채 또는 얼굴 인식을 수행하여 사용자가 전자 장치(201)를 손으로 잡을 수 있는 제3 근접 영역 내에 위치하는지를 확인할 수 있다.
도 6은 다양한 실시 예에 따른 적어도 하나의 센서를 이용하여 외부 객체의 근접에 따른 동작을 수행하기 위한 방법을 나타내는 흐름도를 도시한다. 다양한 실시 예에 따르면, 600 동작 내지 650 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
600 동작에서 전자 장치(201)는 복수의 센서들 중 제1 센서 셋을 이용하여 외부 객체에 대한 제1 근접을 감지할 수 있다. 예를 들어, 전자 장치(201)는 마이크(288), 카메라 모듈(291), 안테나(미도시), 가속도 센서(240E) 등을 이용하여 외부 객체가 제1 근접 영역 내에 위치하는지를 판단할 수 있다.
610 동작에서 전자 장치(201)는 전자 장치(201)의 상황 정보를 확인하여 복수의 센서들 중 제2 센서 셋을 결정할 수 있다. 예를 들어, 전자 장치(201)는 전자 장치(201)의 위치 정보, 기울기 상태 정보, 시간 정보, 일정 정보 등을 확인하여 디스플레이(260), 카메라 모듈(291) 등에서 적어도 하나를 외부 객체의 제2 근접을 감지하기 위한 제2 센서 셋으로 결정할 수 있다.
620 동작에서 전자 장치(201)는 결정된 제2 센서 셋을 이용하여 외부 객체에 대한 제2 근접을 감지할 수 있다. 상기 제2 근접은 외부 객체가 제2 근접 영역 내에 위치하거나 호버링 감지 영역 내에 위치하거나 접촉하는 것 등을 포함할 수 있다.
예를 들어, 결정된 제2 센서 셋이 디스플레이(260)인 경우 전자 장치(201)는 디스플레이(260)를 구성하는 센서 픽셀을 이용하여 외부 객체가 제2 근접 영역 내에 위치하는지를 판단할 수 있다. 예를 들어, 결정된 제2 센서 셋이 카메라 모듈(291)인 경우 전자 장치(201)는 카메라를 통해서 입력되는 장면에서 외부 객체를 인식하여 외부 객체가 제2 근접 영역 내에 위치하는지를 판단할 수 있다.
630 동작에서 전자 장치(201)는 감지된 제2 근접을 기반으로 복수의 센서들 중 제3 센서 셋을 결정할 수 있다. 한 실시 예에 따르면, 외부 객체가 제2 근접 영역 내에 위치하면 전자 장치(201)는 외부 객체의 세부 근접을 감지하여 외부 객체의 근접 의도를 판단하기 위한 제3 센서 셋을 결정할 수 있다. 예를 들어, 전자 장치(201)는 홍채 인식, 얼굴 인식을 위한 카메라 모듈(291), 외부 객체의 파지 형태 감지를 위한 입력 장치(250) 또는 디스플레이(260), 그립 센서(240E), 근접 센서(240F) 등 중 적어도 하나를 외부 객체의 근접 의도를 판단하기 위한 제3 센서 셋으로 결정할 수 있다.
640 동작에서 전자 장치(201)는 결정된 제3 센서 셋을 이용하여 외부 객체의 근접 의도를 판단할 수 있다. 한 실시 예에 따르면, 전자 장치(201)는 외부 객체가 접촉하는지 또는 호버링 감지 영역 내에 위치하는지 등을 확인하여 외부 객체의 근접 의도가 전자 장치(201)의 기능을 이용하기 위한 것인지를 판단할 수 있다. 예를 들어, 전자 장치(201)는 카메라 모듈(291)를 통해서 홍채가 인식되거나 얼굴이 인식되면 외부 객체의 근접 의도를 사용자 인증을 위한 근접으로 판단할 수 있다. 예를 들어, 전자 장치(201)는 위한 입력 장치(250) 또는 디스플레이(260)를 통해서 외부 객체의 파지 형태가 감지되거나 그립 센서(240E) 또는 근접 센서(240F) 등에 의한 호버링 감지 영역 내의 근접이 감지되면 외부 객체의 근접 의도를 시계 기능, 통화 기능, 메시지 기능, 사진 촬영 기능, 음악 청취 기능 등을 이용하기 위한 근접으로 판단할 수 있다.
650 동작에서 전자 장치(201)는 판단된 근접 의도에 따른 전자 장치(201)의 기능을 수행할 수 있다. 예를 들어, 전자 장치(201)는 홍채 또는 얼굴이 인식되면 인식된 홍채 또는 얼굴이 미리 설정된 사용자의 홍채 또는 얼굴과 일치하는지 여부에 따라 사용자 인증을 수행할 수 있다. 예를 들어, 전자 장치(201)는 감지된 파지 형태가 미리 설정된 파지 형태들과 일치하는지 여부에 따라 일치하는 파지 형태에 대응하여 설정된 전자 장치(201)의 기능을 수행할 수 있다.
도 7은 다양한 실시 예에 따른 적어도 하나의 감지 방법을 이용하여 외부 객체의 근접에 따른 동작을 수행하기 위한 방법을 나타내는 흐름도를 도시한다. 다양한 실시 예에 따르면, 700 동작 내지 750 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
700 동작에서 전자 장치(201)는 제1 감지 방법을 이용하여 외부 객체에 대한 제1 근접을 감지할 수 있다. 예를 들어, 전자 장치(201)는 하나의 마이크를 이용하여 외부 객체에 대한 임펄스 신호를 수신하고, 수신된 임펄스 신호를 분석하여 수신된 임펄스 신호가 특정 음압 이상의 파형이거나 미리 설정된 임계 패턴과 동일한 패턴이거나 일정 횟수 이상의 임펄스 신호인 경우 외부 객체가 제1 근접 영역 내에 위치하는 것으로 판단할 수 있다.
710 동작에서 전자 장치(201)는 전자 장치(201)의 상황 정보를 확인하여 제2 감지 방법을 결정할 수 있다. 예를 들어, 전자 장치(201)의 기울기가 임계 기울기 값 미만인 경우 전자 장치(201)는 전자 장치(201)가 특정 위치에 놓여져 있다고 판단하여 복수의 마이크들을 이용한 감지 방법을 제2 감지 방법으로 결정할 수 있다.
720 동작에서 전자 장치(201)는 결정된 제2 감지 방법을 이용하여 외부 객체에 대한 제2 근접을 감지할 수 있다. 예를 들어, 전자 장치(201)는 복수의 마이크들을 통해서 입력되는 임펄스 신호들을 분석하여 임펄스 신호들이 입력된 시간에 대한 차이값을 이용하여 외부 객체의 위치, 또는 이동 경로를 판단할 수 있다.
730 동작에서 전자 장치(201)는 감지된 제2 근접을 기반으로 외부 객체의 근접 의도를 판단하기 위한 제3 감지 방법을 결정할 수 있다.
한 실시 예에 따르면, 전자 장치(201)는 감지된 외부 객체의 위치가 제2 근접 영역 내에 위치하면 외부 객체의 세부 근접(예: 외부 객체의 접촉, 호버링 등)를 감지하여 근접 의도를 판단할 수 있다. 상기 세부 근접을 감지하기 위해 전자 장치(201)는 하나의 센서를 이용하거나 둘 이상의 센서들을 이용하여 외부 객체의 세부 근접을 감지할 수 있다.
예를 들어, 감지된 외부 객체의 위치가 제2 근접 영역 내에 포함되면 전자 장치(201)는 외부 객체의 세부 근접을 감지하기 위해 카메라 모듈(291)을 이용한 홍채 인식 또는 얼굴 인식 방법을 제3 감지 방법으로 결정할 수 있다. 예를 들어, 전자 장치(201)는 카메라 모듈(291)뿐만 아니라 외부 객체의 파지 형태를 감지하기 위한 터치 패널(262)을 함께 이용하는 방법을 제3 감지 방법으로 결정할 수 있다.
740 동작에서 전자 장치(201)는 결정된 제3 감지 방법을 이용하여 외부 객체의 근접 의도를 판단할 수 있다. 예를 들어, 전자 장치(201)는 카메라 모듈(291)을 통해서 입력된 장면 내에 홍채 또는 얼굴이 인식되면 사용자 인증을 위한 근접으로 판단할 수 있다. 예를 들어,
750 동작에서 전자 장치(201)는 판단된 근접 의도에 따른 전자 장치(201)의 기능을 수행할 수 있다. 예를 들어, 전자 장치(201)는 인식된 홍채 또는 얼굴을 기반으로 외부 객체에 대한 사용자 인증을 수행할 수 있다.
상기에서 설명한 외부 객체의 근접을 감지하는 방법들은 제1 근접을 감지하는 방법 및 제2 근접을 감지하는 방법 각각에 한정되지 않으며, 제1 근접을 위해 사용되는 방법들이 제2 근접을 위해 사용되거나 제2 근접을 위해 사용되는 방법들이 제1 근접을 위해 사용될 수 있다.
다양한 실시 예에 따르면 전자 장치의 동작 방법에 있어서, 전자 장치에 포함된 제1 센서를 이용하여 상기 전자 장치에 대한 외부 객체의 제1 근접을 감지하는 동작; 전자 장치의 상황 정보를 이용하여 제2 센서를 결정하는 동작; 상기 결정된 제2 센서를 이용하여 상기 전자 장치에 대한 상기 외부 객체의 2 근접을 감지하는 동작; 및 상기 감지된 제2 근접을 기반으로 상기 전자 장치의 기능을 수행하는 동작을 포함할 수 있다.
도 8은 다양한 실시 예에 따른 외부 객체의 근접을 감지하여 잠근 화면을 해제하는 동작을 설명하기 위한 예시도들을 도시한다.
다양한 실시 예에 따르면, 전자 장치(201)는 슬립 모드에서 사용자가 제2 근접 영역 내에 위치하는 것이 감지되면 활성화 모드로 전환하여 디스플레이(260) 상에 잠금 화면을 표시하고, 얼굴 또는 홍채 인식, 접촉, 그립 등을 이용한 사용자 인증을 수행하여 잠금 해제 화면을 표시할 수 있다. 상기 슬립 모드는 전자 장치가 최소한의 동작을 수행하기 위한 구성들에만 전원을 인가하고, 나머지 구성들에 전원을 인가하지 않는 상태를 의미할 수 있다. 상기 활성화 모드는 전자 장치의 모든 구성들에 전원을 인가하는 상태를 의미할 수 있다.
도 8의 (a) 및 도 8의 (b)에 따르면 전자 장치(201)는 제1 센서 셋을 이용하여 사용자(800)가 제1 근접 영역(810) 내에 위치하는지를 판단할 수 있다. 제1 근접 영역(810) 내에 사용자(800)가 위치하면 전자 장치(201)는 사용자(800)의 제2 근접을 감지하기 위한 제2 센서 셋을 결정하고, 결정된 제2 센서 셋을 이용하여 사용자(800)가 제2 근접 영역(820) 내에 위치하는지를 판단할 수 있다.
예를 들어, 전자 장치(201)는 제1 카메라를 이용하여 사용자(800)가 제1 근접 영역(800) 내에 위치하는지 판단할 수 있다. 제1 근접 영역(800) 내에 사용자(800)가 위치하면 전자 장치(201)는 제1 카메라를 이용하여 사용자(800)의 위치를 확인하여 사용자(800)가 제2 근접 영역(820) 내에 위치하는지를 판단할 수 있다. 제2 근접 영역(820) 내에 사용자(800)가 위치하면 전자 장치(201)는 제2 카메라를 이용하여 사용자(800)의 홍채 또는 얼굴을 인식하여 사용자 인증을 수행할 수 있다. 인식된 사용자(800)가 전자 장치(201)의 등록된 사용자로 판단되면 전자 장치(201)는 도 8의 (c)와 같이 잠금 화면을 해제하여 전자 장치(201)의 배경화면을 디스플레이(260) 상에 표시할 수 있다.
상기 사용자(800)가 제2 근접 영역(820) 내에 위치하면 전자 장치(201)는 사용자(800)가 홍채 인식을 위한 영역 내에 위치하는지를 판단하여 사용자(800)가 홍채 인식을 위한 영역 내에 위치하는 경우 제2 카메라를 구동하여 홍채 인증을 수행할 수 있다. 사용자(800)가 홍채 인식을 위한 영역 내에 위치하지 않으면 전자 장치(201)는 제2 카메라를 구동하지 않을 수 있다.
예를 들어, 사용자(800)가 제2 근접 영역(820) 내에 위치하는지를 감지하고, 터치 패널(252), 자이로 센서(240B), 가속도 센서(240E) 등을 이용하여 전자 장치(201)에 대한 터치가 감지되면 전자 장치(201)는 잠금 화면을 해제하여 도 8의 (c)와 같이 잠금 화면을 해제하여 전자 장치(201)의 배경화면을 디스플레이(260) 상에 표시할 수 있다. 상기 전자 장치(201)는 전자 장치(201)를 이용하기 위한 사용자(800)의 세부 근접을 감지하기 위해 전자 장치(201)에 대한 사용자(800)의 그립 형태, 전자 장치(201)의 자세, 사용자(800)의 시선 등과 같은 정보를 확인하고, 확인된 정보를 기반으로 사용자(800)의 근접이 전자 장치(201)를 이용하기 위한 근접으로 판단되면 잠금 화면을 해제할 수 있다.
도 9는 다양한 실시 예에 따른 마이크를 이용한 외부 객체의 제1 근접을 결정하기 위한 방법을 나타내는 흐름도를 도시한다. 다양한 실시 예에 따르면, 900 동작 내지 930 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
900 동작에서 전자 장치(201)는 마이크(288)로부터 제1 오디오 신호를 수신할 수 있다. 예를 들어, 제1 오디오 신호는 적어도 하나의 사용자에 대한 발자국 소리를 포함하는 오디오 신호가 될 수 있다.
910 동작에서 전자 장치(201)는 수신된 제1 오디오 신호를 분석하여 제1 근접 신호인지를 판단할 수 있다.
920 동작에서 전자 장치(201)는 제1 오디오 신호가 제1 근접 신호인 경우 930 동작을 수행하고, 제1 오디오 신호가 제1 근접 신호가 아닌 경우 동작을 종료할 수 있다. 한 실시 예에 따르면 전자 장치(201)는 발자국 소리에 대한 주파수 특성을 분석하여 설계된 필터를 이용하여 제1 오디오 신호를 분석하여 주변의 여러 소리들 중 발자국 소리를 검출할 수 있다. 상기 전자 장치(201)는 검출된 발자국 소리에 해당하는 오디오 신호가 메모리(230)에 저장된 특정 음압 이상의 파형이거나 동일 패턴 또는 일정 횟수 이상의 임펄스 신호인지를 판단하여 상기 오디오 신호가 특정 음압 이상의 파형이거나 동일 패턴 또는 일정 횟수 이상의 임펄스 신호인 경우 외부 객체의 근접을 판단할 수 있다. 이에 대해서 구체적으로 도 10을 기반으로 설명하면 다음과 같다.
도 10은 다양한 실시 예에 따른 임펄스 신호들을 나타내는 예시도들이다.
도 10에 따르면 사용자의 발자국 소리에 해당하는 임펄스 신호는 도 10의 (a)과 같이 나타낼 수 있고, 사용자가 전자 장치(201)로 근접하는 발자국 소리에 해당하는 임펄스 신호는 도 10의 (b)와 같이 나타낼 수 있다. 상기 발자국 소리에 해당하는 오디오 신호가 도 10의 (b)와 일치하는 경우 전자 장치(201)는 제1 오디오 신호를 제1 근접 신호로 판단할 수 있다.
930 동작에서 전자 장치(201)는 외부 객체의 제1 근접을 결정할 수 있다. 예를 들어, 발자국 소리에 해당하는 오디오 신호가 도 10의 (b)와 같은 임펄스 신호와 일치하면 전자 장치(201)는 외부 객체가 제1 근접 영역 내에 위치하는 것으로 판단할 수 있다.
도 11은 다양한 실시 예에 따른 안테나를 이용한 외부 객체의 제1 근접을 결정하기 위한 방법을 나타내는 흐름도를 도시한다. 다양한 실시 예에 따르면, 1100 동작 내지 1130 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
다양한 실시 예에 따르면 전자 장치(201)는 외부 객체의 근접 시 발생하는 주변의 방송 신호 또는 셀룰러 신호 등의 변화를 감지하고, 감지된 신호 변화와 근접에 따른 고유한 신호 변화를 비교하여 외부 객체의 근접을 감지할 수 있다. 예를 들어, 셀룰러 신호 등을 이용한 외부 객체의 근접을 인식하는 방법은 전자 장치(201)에 포함된 통신 모듈을 이용하여 RSSI(received signal strength indicator), CQI(channel quality indicator)등으로부터 신호의 변화를 감지할 수 있다.
도 11에 따르면 1100 동작에서 전자 장치(201)는 안테나를 통해서 무선 신호를 수신할 수 있다.
1110 동작에서 전자 장치(201)는 수신된 무선 신호를 분석하여 진폭 변화량을 확인할 수 있다.
1120 동작에서 전자 장치(201)는 확인된 진폭 변화량이 임계 변화량 이상인지 판단하여 진폭 변화량이 임계 변화량 이상이면 1130 동작을 수행하고, 진폭 변화량이 임계 변화량 미만이면 동작을 종료할 수 있다.
1130 동작에서 전자 장치(201)는 외부 객체의 제1 근접을 결정할 수 있다. 예를 들어, 전자 장치(201)는 진폭 변화량이 임계 변화량 이상이면 외부 객체가 제1 근접 영역 내에 위치하는 것으로 판단할 수 있다.
도 12는 다양한 실시 예에 따른 안테나 모듈의 구성도를 도시한다.
도 12에 따르면 안테나 모듈(120)은 안테나 입/출력단(1200)에 진폭 변화량 측정부(1210), A/D 변환부(1220)를 구비할 수 있다.
상기 진폭 변화량 측정부(1210)는 안테나 입/출력단(1200)으로부터 입력된 아날로그 신호의 진폭 변화량을 검출하기 위한 복수의 검출 모듈(detector)을 포함할 수 있다. 예를 들어, 진폭 변화량 측정부(1210)는 포락선 검파부(envelope detector)를 포함할 수 있다.
상기 A/D 변환부(1220)는 검출된 진폭 변화량을 디지털 신호로 변환하여 프로세서(210)로 출력할 수 있다.
상기 프로세서(210)는 입력된 디지털 신호와 메모리(230)에 저장된 신호의 패턴을 비교하여 일치하면 외부 객체가 제1 근접 영역 내에 위치하는 것으로 판단할 수 있다.
도 13은 다양한 실시 예에 따른 가속도 센서를 이용한 외부 객체의 제1 근접을 결정하기 위한 방법을 나타내는 흐름도를 도시한다. 다양한 실시 예에 따르면, 1300 동작 내지 1320 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
도 13에 따르면 1300 동작에서 전자 장치(201)는 가속도 센서(240E)를 이용하여 전자 장치(201)의 진동량을 측정할 수 있다. 다양한 실시 예에 따르면 가속도 센서(240E)는 x축, y축, z축의 3축 가속도 센서일 수 있다. 상기 가속도 센서(240E)는 내부에 진동 모니터링 모듈을 추가하여 주변의 근접 진동에 대한 모니터링을 수행할 수 있다. 상기 전자 장치(201)는 가속도 센서(240E)의 3축 중 일부 축을 이용하여 주변의 근접 진동을 모니터링함으로써 전자 장치(201)의 소모 전류를 줄일 수 있다.
1310 동작에서 전자 장치(201)는 측정된 진동량이 임계 진동량 이상인지 판단하여 측정된 진동량이 임계 진동량 이상이면 1320 동작을 수행하고, 측정된 진동량이 임계 진동량 미만이면 동작을 종료할 수 있다.
1320 동작에서 전자 장치(201)는 외부 객체의 제1 근접을 결정할 수 있다. 예를 들어, 전자 장치(201)는 측정된 진동량이 임계 진동량 이상이면 외부 객체가 제1 근접 영역 내에 위치하는 것으로 판단할 수 있다.
다양한 실시 예에 따르면 전자 장치(201)는 가속도 센서(240E)를 이용하여 근접 진동량을 모니터링하고, 임계 진동량 이상의 근접 진동량이 측정되면 프로세서(210)를 슬립 모드로 전환할 수 있다.
다양한 실시 예에 따르면 전자 장치(201)는 가속도 센서(240E)의 3축 중 일부의 축을 선택하고, 선택된 일부의 축을 이용하여 근접 진동량을 모니터링할 수 있다. 예를 들어, 전자 장치(201)는 가속도 센서(240E)에 내장된 하이패스 필터를 오프(off)로 전환하여 전자 장치(201)의 기울기(orientation)을 확인하고, 이에 따라 모니터링을 위한 일부의 축을 선택할 수 있다. 일부의 축에 선택되면 전자 장치(201)는 가속도 센서(240E)에 내장된 하이패스 필더를 온(on)으로 전환하여 진동량을 모니터링 할 수 있다. 상기 3축 중 일부의 축은 프로세서(210)에 의한 선택에 의해서 온오프될 수 있거나 가속도 센서(240E)가 진동량을 측정하기 시작하는 시점에서 선택될 수도 있다.
다양한 실시 예에 따르면 전자 장치(201)는 저전력 근접 진동 모니터링을 위해 가속도 센서(240E)의 특정 필터를 오프하거나 샘플링 레이트를 낮추는 방법을 이용하여 근접 진동을 측정하고, 근접 진동이 감지되면 특정 필터를 온하거나 샘플링 레이트를 높이는 방법을 이용하여 모니터링을 수행할 수 있다.
도 14는 다양한 실시 예에 따른 카메라 모듈을 이용한 외부 객체의 제1 근접을 결정하기 위한 방법을 나타내는 흐름도를 도시한다. 다양한 실시 예에 따르면, 1400 동작에서 1420 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
다양한 실시 예에 따르면 카메라 모듈(291)은 제1 카메라를 포함할 수 있다.
도 14에 따르면 1400 동작에서 전자 장치(201)는 제1 카메라로부터 제1 장면을 수신할 수 있다.
1410 동작에서 전자 장치(201)는 수신된 제1 장면에서 일정 영역 내에 외부 객체가 인식되는지를 판단하여 일정 영역 내에 외부 객체가 인식되면 1420 동작을 수행하고, 일정 영역 내에 외부 객체가 인식되지 않으면 동작을 종료할 수 있다.
1420 동작에서 전자 장치(201)는 외부 객체의 제1 근접을 결정할 수 있다. 예를 들어, 전자 장치(201)는 일정 영역 내에 외부 객체가 인식되면 외부 객체가 제1 근접 영역 내에 위치하는 것으로 판단할 수 있다.
도 15는 다양한 실시 예에 따른 전면 카메라를 이용한 외부 객체의 제1 근접을 결정하는 방법을 설명하기 위한 예시도들을 도시한다.
도 15의 (a)에 따르면 전자 장치(201)는 전면 상단에 2개의 카메라(예: 제1 카메라(1500), 제2 카메라(1510))를 구비하고, 제1 카메라(1500)를 통해서 입력된 제1 장면을 분석하여 도 15의 (b)와 같이 외부 객체(1520)가 제1 근접 영역(1530) 내에 위치하는지를 판단할 수 있다. 상기 제1 카메라(1500)는 제2 카메라(1510)보다 상대적으로 화각이 넓은 구조의 카메라일 수 있다.
이와 같이 외부 객체의 제1 근접을 결정하기 위해 전자 장치(201)는 적어도 하나의 센서를 저전력으로 이용하여 외부 객체가 전자 장치(201)에 근접하는지 여부를 판단하고, 제1 근접 이후에 근접 정확도를 높이기 위해 적어도 하나의 센서를 이용하여 외부 객체의 세부 근접을 결정할 수 있다.
도 16은 다양한 실시 예에 따라 디스플레이를 이용한 외부 객체의 제2 근접을 결정하기 위한 방법을 나타내는 흐름도를 도시한다. 다양한 실시 예에 따르면, 1600 동작 내지 1630 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
다양한 실시 예에 따르면 전자 장치(201)는 외부 객체의 세부 근접을 감지하기 위한 다양한 센서들을 이용하여 외부 객체가 전자 장치(201)를 이용하기 위한 제2 근접 영역 내에 위치하는지를 판단할 수 있다.
도 16에 따르면 1600 동작에서 전자 장치(201)는 디스플레이(260)를 통해서 수광 신호를 수신할 수 있다. 상기 디스플레이(260)의 패널(262)은 RGB 구조의 픽셀과 수광 신호를 수신하는 센싱 픽셀을 포함하는 센서 인 픽셀로 구성될 수 있다.
1610 동작에서 전자 장치(201)는 수신된 수광 신호를 분석하여 외부 객체의 근접 여부를 판단할 수 있다. 예를 들어, 전자 장치(201)는 수신된 수광량이 미리 설정된 임계 수광량 미만인지 판단할 수 있다.
1620 동작에서 전자 장치(201)는 외부 객체의 근접으로 판단되면 1630 동작을 수행하고, 외부 객체의 근접으로 판단되지 않으면 동작을 종료할 수 있다. 예를 들어, 전자 장치(201)는 수신된 수광량이 임계 수광량 미만이면 외부 객체의 근접으로 판단하여 1620 동작을 수행하고, 수신된 수광량이 임계 수광량 이상이면 외부 객체의 근접이 아닌 것으로 판단하여 동작을 종료할 수 있다.
1630 동작에서 전자 장치(201)는 외부 객체의 제2 근접을 결정할 수 있다. 예를 들어, 전자 장치(201)는 수신된 수광량이 임계 수광량 미만이면 외부 객체가 제2 근접 영역 내에 위치하는 것으로 판단할 수 있다.
도 17은 다양한 실시 예에 따른 디스플레이를 이용한 외부 객체의 제2 근접을 결정하는 방법을 설명하기 위한 예시도들을 도시한다.
도 17의 (a)에 따르면 전자 장치(201)는 전면 디스플레이(1700)와 전면 디스플레이(1700)의 양 측면에 측면 디스플레이들(1701, 1702)을 더 구비하고, 상기 전면 디스플레이(1700) 및 측면 디스플레이들(1701, 1702)은 센서 인 더 픽셀로 구성될 수 있다. 상기 측면 디스플레이(1701)은 도면 부호 1710에서와 같이 RGB 구조의 픽셀과 센싱 픽셀(1720)을 포함할 수 있다. 상기 센싱 픽셀(1720)은 주변의 수광 신호를 수신하여 수광량을 측정하고, 측정된 수광량에 따른 이미지 패턴을 생성하여 생성된 이미지 패턴에 따른 외부 객체의 근접 또는 움직임(예: 사용자가 전자 장치(201)를 잡은 형태 등)을 감지할 수 있다. 이러한 발광 픽셀(예: RGB 구조의 픽셀들)과 독립적으로 구동될 수 있다. 예를 들어, 전면 디스플레이(1700) 및 측면 디스플레이들(1701, 1702)이 오프된 경우 전자 장치(201)는 센싱 픽셀을 통해서 입력되는 수광 신호를 분석하여 수광량을 측정할 수 있다.
이에 따라, 전자 장치(201)는 도 17의 (b)와 같이 전면 디스플레이(1700)에 의해서 제1 영역(1730)뿐만 아니라 측면 디스플레이들(1701, 1702)에 의해서 제2 영역들(1740-1, 1740-2)로부터 수광 신호를 수신할 수 있다.
도 18은 다양한 실시 예에 따른 복수의 마이크들을 이용한 외부 객체의 제2 근접을 결정하기 위한 방법을 나타내는 흐름도를 도시한다. 다양한 실시 예에 따르면, 1800 동작 내지 1830 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
도 18에 따르면 1800 동작에서 전자 장치(201)는 복수의 마이크들을 통해서 제2 오디오 신호 셋을 수신할 수 있다. 예를 들어, 복수의 마이크들은 3개의 마이크들을 포함할 수 있고, 각각의 마이크로부터 3개의 오디오 신호를 수신할 수 있다.
1810 동작에서 전자 장치(201)는 수신된 제2 오디오 신호 셋을 분석하여 외부 객체의 위치를 판단할 수 있다. 예를 들어, 3개의 오디오 신호를 분석하여 근접 임펄스 신호를 추출하고, 추출된 근접 임펄스 신호를 기반으로 외부 객체의 위치를 판단할 수 있다.
1820 동작에서 전자 장치(201)는 측정된 외부 객체의 위치가 일정 영역 내에 포함되는지를 판단하여 측정된 외부 객체의 위치가 일정 영역 내에 포함되면 1830 동작을 수행하고, 측정된 외부 객체의 위치가 일정 영역 내에 포함되지 않으면 동작을 종료할 수 있다.
1830 동작에서 전자 장치(201)는 외부 객체의 제2 근접을 결정할 수 있다. 예를 들어, 전자 장치(201)는 측정된 외부 객체의 위치가 일정 영역 내에 포함되면 외부 객체가 전자 장치(201)를 이용하기 위한 제2 근접 영역 내에 위치하는 것으로 판단할 수 있다.
도 19는 다양한 실시 예에 따른 복수의 마이크들을 이용한 외부 객체의 제2 근접을 결정하는 방법을 설명하기 위한 예시도들을 도시한다.
도 19의 (a) 및 (b)와 같이 전자 장치(201)는 제1 마이크(1901), 제2 마이크(1902), 제3 마이크(1903)를 구비할 수 있다. 사용자(1900)가 전자 장치(201)로 접근하면 전자 장치(201)는 사용자(1900)의 근접에 따른 제1 오디오 신호를 제1 마이크(1901)를 통해서 수신하고, 제2 오디오 신호를 제2 마이크(1902)를 통해서 수신하며, 제3 오디오 신호를 제3 마이크(1903)를 통해서 수신할 수 있다. 상기 전자 장치(201)는 수신된 제1 오디오 신호, 제2 오디오 신호, 제3 오디오 신호 각각을 분석하여 발자국 소리에 해당하는 임펄스 신호를 추출할 수 있다.
각 마이크들의 위치에 따라 제1 마이크(1901)로 입력되는 제1 오디오 신호, 제2 마이크(1902)로 입력되는 제2 오디오 신호, 제3 마이크(1903)로 입력되는 제3 오디오 신호는 수신 시간의 차이가 발생될 수 있다. 예를 들어, 전자 장치(201)는각 마이크를 통해서 수신되는 오디오 신호의 발자국 소리에 해당하는 임펄스 신호간의 수신 시간 차이를 이용하여 사용자(1900)의 위치(예: 12시 방향의 특정 거리에 위치, 3시 방향의 특정 거리에 위치, 사용자(1900)의 이동 경로 등)를 산출할 수 있다.
도 20은 다양한 실시 예에 따른 카메라 모듈을 이용하여 홍채 인식에 따른 외부 객체의 근접 의도를 판단하기 위한 방법을 나타내는 흐름도를 도시한다. 다양한 실시 예에 따르면, 2000 동작 내지 2020 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
도 20에 따르면 2000 동작에서 전자 장치(201)는 카메라 모듈(291)을 통해서 이미지를 획득할 수 있다.
2010 동작에서 전자 장치(201)는 획득된 이미지에서 일정 영역 내에 홍채가 인식되는지 판단하여 일정 영역 내에 홍채가 인식되면 2020 동작을 수행하고, 일정 영역 내에 홍채가 인식되지 않으면 동작을 종료할 수 있다.
2020 동작에서 전자 장치(201)는 홍채 인식에 따른 사용자 인증을 수행할 수 있다. 예를 들어, 전자 장치(201)는 홍채가 인식되면 외부 객체의 근접 의도를 사용자 인증을 위한 근접으로 판단할 수 있다. 상기 전자 장치(201)는 인식된 홍채의 패턴과 미리 저장된 홍채 패턴을 비교하여 일치하면 외부 객체를 전자 장치(201)의 사용자로 인식할 수 있다.
도 21은 다양한 실시 예에 따른 카메라 모듈을 이용하여 외부 객체의 근접 의도를 판단하는 방법을 설명하기 위한 예시도들을 도시한다.
도 21의 (a)에 따르면 전자 장치(201)는 홍채 인증을 위한 카메라 모듈(291)을 포함할 수 있다. 상기 카메라 모듈(291)은 렌즈(2102), 밴드 패스 필터(2103), 이미지 센서(2104)을 포함하고, 적외선 발광부(IRED: Infra Red Emitting Diode)(2105), LED 드라이버(미도시)를 더 포함할 수 있다.
상기 렌즈(2102)는 사용자 눈(2100)의 홍채(2101)에 따른 광신호를 수신하고, 수신된 광신호가 밴드 패스 필터(2103)를 통과하여 특정 대역의 파장을 가지는 광신호가 이미지 센서(2104)에 입력되면 이미지 센서(2104)는 광신호를 디지털 신호로 변환할 수 있다.
상기 적외선 발광부(2105)는 LED 드라이버의 제어에 따라 특정 파장의 빛을 발광하고, 이에 반사된 빛이 카메라 모듈(291)을 통해서 입력될 수 있다. 상기 적외선 발광부(2105)는 지속파(Continuous Wave)로 발광할 수 있는 적외선 발광부 또는 이미지 센서의 입력 프레임에 동기화하여 펄스로 발광할 수 있는 적외선 발광부일 수 있다.
이에 따라, 밴드 패스 필터(2103)는 적외선 발광부(2105)를 통해 발광되는 특정 파장대의 적어도 일부를 포함하는 파장대를 가지는 광신호를 출력할 수 있다. 예를 들어, 적외선 발광부(2105)가 850nm +- 50nm의 파장대의 빛을 발광하는 경우, 밴드 패스 필터(2103)는 적외선 발광부(2105)의 중심 파장대를 포함하는 850nm +- 50nm의 파장대의 광신호를 통과시키는 필터를 사용하여 적외선 발광부(2105)가 발광한 파장대의 빛을 선택적으로 통과시킬 수 있다.
이를 통해서, 카메라 모듈(291)은 주변의 다른 적외선 파장대의 빛으로 인한 오작동 없이 홍채 인식을 위한 동작을 수행할 수 있다.
도 21의 (b)에 따르면 전자 장치(201)는 전면 카메라(2111) 이외에 홍채 인식을 위한 홍채 인식용 카메라(2110)를 더 구비하여 전면 카메라(2111)를 통해서 촬영된 이미지(2112)가 아닌 홍채 인식용 카메라를 통해서 촬영된 이미지(2113)를 이용하여 홍채 인식을 수행할 수도 있다.
도 22는 다양한 실시 예에 따른 카메라 모듈을 이용하여 얼굴 인식에 따른 외부 객체의 근접 의도를 판단하기 위한 방법을 나타내는 흐름도를 도시한다. 다양한 실시 예에 따르면, 2200 동작 내지 2220 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
도 22에 따르면 2200 동작에서 전자 장치(201)는 카메라 모듈(291)을 통해서 이미지를 획득할 수 있다.
2210 동작에서 전자 장치(201)는 획득된 이미지에서 일정 영역 내에 얼굴이 인식되는지 판단하여 일정 영역 내에서 얼굴이 인식되면 2220 동작을 수행하고, 일정 영역 내에 얼굴이 인식되지 않으면 동작을 종료할 수 있다.
2220 동작에서 전자 장치(201)는 얼굴 인식에 따른 사용자 인증을 수행할 수 있다. 예를 들어, 전자 장치(201)는 얼굴이 인식되면 외부 객체의 근접 의도를 사용자 인증을 위한 근접으로 판단할 수 있다. 상기 전자 장치(201)는 인식된 얼굴의 특징을 추출하고, 추출된 얼굴 특징과 미리 저장된 얼굴 특징을 비교하여 일치하면 외부 객체를 전자 장치(201)의 사용자로 인식할 수 있다.
도 23은 다양한 실시 예에 따른 터치 패널을 이용하여 외부 객체의 근접 의도를 판단하기 위한 방법을 나타내는 흐름도를 도시한다. 다양한 실시 예에 따르면, 2300 동작 내지 2350 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
도 23에 따르면 2300 동작에서 전자 장치(201)는 터치 패널(252)을 통해서 외부 객체의 터치가 감지되는지 판단할 수 있다.
2310 동작에서 전자 장치(201)는 외부 객체의 터치가 감지되면 2320 동작을 수행하고, 외부 객체의 터치가 감지되지 않으면 동작을 종료할 수 있다.
2320 동작에서 전자 장치(201)는 외부 객체의 터치 형태를 감지할 수 있다. 예를 들어, 전자 장치(201)는 터치 패널(252), 접촉 센서(미도시), 그립 센서(240F) 등을 이용하여 사용자의 손이 전자 장치(201)와 접촉되는 파지 형태를 감지할 수 있다. 다른 예로, 근접 센서(240G) 등을 이용하여 사용자의 신체 일부가 전자 장치(201)의 일정 영역 이내로 접근하는 경우 사용자의 신체 일부에 대한 접근 정보를 기반으로 파지 형태를 감지할 수도 있다.
2330 동작에서 전자 장치(201)는 감지된 터치 형태가 미리 설정된 터치 형태와 일치하는지 판단하여 감지된 터치 형태가 미리 설정된 터치 형태와 일치하면 2340 동작을 수행하고, 감지된 터치 형태가 미리 설정된 터치 형태와 일치하지 않으면 2350 동작을 수행할 수 있다. 예를 들어, 전자 장치(201)는 감지된 터치 형태와 복수의 센서들에 의해서 모델링된 터치 형태를 비교하여 일치 여부에 따라 외부 객체의 근접을 전자 장치(201)의 기능을 이용하기 위한 근접으로 판단할 수 있다. 상기 전자 장치(201)는 감지된 터치 형태와 복수의 센서들에 의해서 모델링된 터치 형태를 비교하여 터치 형태의 차이가 임계 값 미만인 경우 일치하는 것으로 판단할 수 있다.
2340 동작에서 전자 장치(201)는 일치하는 터치 형태에 대응하여 설정된 전자 장치(201)의 기능을 수행할 수 있다. 예를 들어, 터치 형태가 통화 기능에 대응하는 경우 전자 장치(201)는 전자 장치(201)의 통화 기능을 수행하기 위한 사용자 인터페이스를 제공할 수 있다.
2350 동작에서 전자 장치(201)는 미리 설정된 전자 장치의 특정 동작을 수행할 수 있다. 한 실시 예에 따르면, 전자 장치(201)는 감지된 터치 형태와 복수의 센서들에 의해서 모델링된 터치 형태를 비교하여 일치하지 않으면 외부 객체의 근접을 전자 장치(201)의 기능을 이용하기 위한 근접이 아닌 것으로 판단할 수 있다. 이러한 경우, 전자 장치(201)는 슬립 모드로 전환하여 소모 전류를 줄일 수 있다.
도 24는 다양한 실시 예에 따른 터치 패널을 이용하여 외부 객체의 근접에 관련된 전자 장치의 기능을 하는 방법을 설명하기 위한 예시도들을 도시한다.
다양한 실시 예에 따르면 전자 장치(201)는 터치 패널(252), 전자 장치(201)의 베젤(bezel) 부분 또는 뒷면에 위치하는 터치 센서(미도시), 근접 센서(240G), 그립 센서(240F) 등을 이용하여 외부 객체의 터치 형태를 감지할 수 있다.
예를 들어, 도 24의 (a)와 같은 터치 형태가 감지되면 전자 장치(201)는 외부 객체의 근접 의도를 전자 장치의 기능을 이용하기 위한 근접으로 판단하고, 터치 형태에 대응하여 설정된 전자 장치(201)의 기능이 시계 기능인 경우 시계 기능을 수행하기 위한 사용자 인터페이스를 제공할 수 있다.
도 24의 (b)와 같은 터치 형태가 감지되면 전자 장치(201)는 외부 객체의 근접 의도를 전자 장치의 기능을 이용하기 위한 근접으로 판단하고, 터치 형태에 대응하여 설정된 전자 장치(201)의 기능이 통화 기능인 경우 통화 기능을 수행하기 위한 사용자 인터페이스를 제공할 수 있다.
도 24의 (c)와 같은 터치 형태가 감지되면 전자 장치(201)는 외부 객체의 근접 의도를 전자 장치의 기능을 이용하기 위한 근접으로 판단하고, 터치 형태에 대응하여 설정된 전자 장치(201)의 기능이 메시지 송수신 기능인 경우 메시지 송수신 기능을 수행하기 위한 사용자 인터페이스를 제공할 수 있다.
도 24의 (d)와 같은 터치 형태가 감지되면 전자 장치(201)는 외부 객체의 근접 의도를 전자 장치의 기능을 이용하기 위한 근접으로 판단하고, 터치 형태에 대응하여 설정된 전자 장치(201)의 기능이 사진 촬영 기능인 경우 사진 촬영 기능을 수행하기 위한 사용자 인터페이스를 제공할 수 있다.
도 24의 (e)와 같은 터치 형태가 감지되면 전자 장치(201)는 외부 객체의 근접 의도를 전자 장치의 기능을 이용하기 위한 근접으로 판단하고, 터치 형태에 대응하여 설정된 전자 장치(201)의 기능이 음악 재생 기능인 경우 음악 재생 기능을 수행하기 위한 사용자 인터페이스를 제공할 수 있다.
도 25는 다양한 실시 예에 따른 복수의 마이크들을 이용하여 외부 객체의 근접에 관련된 전자 장치의 기능을 수행하기 위한 방법을 나타내는 흐름도를 도시한다. 다양한 실시 예에 따르면, 2500 동작 내지 2520 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
도 25에 따르면 2500 동작에서 전자 장치(201)는 복수의 마이크들을 통해서 입력되는 복수의 오디오 신호 셋을 분석할 수 있다. 예를 들어, 전자 장치(201)는 복수의 오디오 신호 셋 각각에 분석하여 발자국 소리에 해당하는 오디오 신호들을 추출하고, 추출된 오디오 신호들을 분석할 수 있다.
2510 동작에서 전자 장치(201)는 외부 객체의 근접 방향을 확인할 수 있다. 예를 들어, 전자 장치(201)는 추출된 오디오 신호들을 분석하여 추출된 오디오 신호들에 대한 입력 시간 차이를 산출하고, 산출된 입력 시간 차이를 이용하여 외부 객체의 근접 방향을 확인할 수 있다.
2520 동작에서 전자 장치(201)는 확인된 근접 방향에 대응하여 전자 장치(201)의 화면 위치를 변경할 수 있다.
도 26은 다양한 실시 예에 따른 복수의 마이크들을 이용하여 외부 객체의 근접에 관련된 전자 장치의 기능을 수행하는 방법을 설명하기 위한 예시도들을 도시한다.
도 26의 (a)에 따르면 전자 장치(201)는 복수의 마이크들을 통해서 입력된 오디오 신호들 각각을 분석하여 사용자의 발자국 소리에 해당하는 오디오 신호들을 추출하고, 추출된 오디오 신호들의 크기 변화를 감지하여 사용자의 제1 근접을 판단할 수 있다. 상기 전자 장치(201)는 추출된 오디오 신호들의 입력 시간 차이를 기반으로 사용자의 근접 방향을 확인할 수 있다. 예를 들어, 제1 근접 영역(2601) 내에 제1 근접 방향(2602)으로 이동하는 사용자(2600)가 감지되면 전자 장치(201)는 디스플레이(260) 상에 표시되는 화면의 방향을 제1 근접 방향(2602)에 대응되도록 변환할 수 있다.
도 26의 (b)에 따르면 전자 장치(201)는 제2 근접 영역(2611) 내에 제2 근접 방향(2612)으로 이동하는 사용자(2610)가 감지되면 전자 장치(201)는 디스플레이(260) 상에 표시되는 화면의 방향을 제2근접 방향(2612)에 대응되도록 변환할 수 있다.
다양한 실시 예에 따르면, 전자 장치(201)는 카메라 모듈(291)을 이용하여 외부 객체의 움직임을 감지하고, 감지된 움직임에 따른 외부 객체의 근접 여부를 판단하며, 외부 객체의 근접 방향을 확인할 수 있다.
다양한 실시 예에 따르면 전자 장치(201)는 제1 근접 영역 내에 전자 장치(201)의 세로 측면 방향으로 사용자의 근접이 감지되면 디스플레이(260) 상에 표시되는 화면을 90도 회전할 수 있다. 제1 근접 영역 내에 전자 장치(201)의 위쪽 방향으로 사용자의 근접이 감지되면 전자 장치(201)는 디스플레이(260) 상에 표시되는 화면을 180도 회전할 수 있다. 이에 따라, 전자 장치(201)는 사용자가 바라보는 방향과 일치하는 방향으로 디스플레이(260) 상에 화면을 표시할 수 있다.
다양한 실시 예에 따르면 전자 장치(201)는 외부 객체의 근접 거리에 따라 디스플레이(260) 상에 화면의 크기를 변환하여 표시할 수 있다. 예를 들어, 전자 장치(201)는 사용자의 위치가 원거리에 해당하는 제1 근접 영역 내에 위치하는 경우 디스플레이(260) 상에 화면의 크기를 확대하여 표시할 수 있다. 사용자의 위치가 근거리에 해당하는 제2 근접 영역 내에 위치하는 경우 전자 장치(201)는 디스플레이(260) 상에 화면의 크기를 상대적으로 축소하여 표시할 수도 있다.
도 27은 다양한 실시 예에 따른 외부 객체의 근접을 감지하여 이벤트 발생에 따른 데이터를 출력하기 위한 흐름도를 도시한다. 다양한 실시 예에 따르면, 2700 동작 내지 2720 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
도 27에 따르면 2700 동작에서 전자 장치(201)는 이벤트 발생에 따른 알림을 생성하여 출력할 수 있다. 예를 들어, 메시지가 수신되면 전자 장치(201)는 메시지 수신 알림을 생성하여 출력할 수 있다.
2710 동작에서 전자 장치(201)는 미리 설정된 시간 내에 외부 객체의 근접이 감지되는지를 판단하여 미리 설정된 시간 내에 외부 객체의 근접이 감지되면 2720 동작을 수행하고, 미리 설정된 시간 내에 외부 객체의 근접이 감지되면 않으면 동작을 종료할 수 있다.
2720 동작에서 전자 장치(201)는 발생된 이벤트에 관련된 데이터를 출력할 수 있다.
예를 들어, 전자 장치(201)는 외부 객체의 근접을 모니터링하여 외부 객체의 근접이 감지되면 메시지에 관련된 데이터(또는, 어플리케이션)을 로딩하여 출력할 수 있다. 상기 외부 객체의 근접은 외부 객체가 제1 근접 영역, 제2 근접 영역, 호버링 감지 영역 등의 근접 영역 내에 위치하거나 외부 객체의 접촉 등을 포함할 수 있다. 다른 실시 예로, 전자 장치(201)는 외부 객체의 움직임이 감지되면 발생된 이벤트에 관련된 데이터를 출력할 수도 있다.
이에 따라, 전자 장치(201)에 접근한 사용자가 수신된 메시지를 확인하기 위한 메시지 화면 전환을 위한 동작을 수행할 필요가 없기 때문에 사용자가 지연시간 없이 메시지에 관련된 데이터를 바로 확인할 수 있게 된다.
한 실시 예에 따르면, 전자 장치(201)는 상기 사용자의 근접을 확인한 이후 추가로 사용자 인증을 요구할 수 있다. 예를 들어, 상기 전자 장치는, 상기 인증 요구(예: 로그인, 비밀번호, 패턴락 등)를 통해 사용자를 인증한 결과에 기반하여 메시지에 관련된 데이터를 출력할 수 있다.
예를 들어, 게임 서버로부터 게임에 관련된 알림을 수신하면 전자 장치(201)는 수신됨 알림을 출력하고, 외부 객체의 근접을 모니터링하여 외부 객체의 근접이 감지되면 게임에 관련된 어플리케이션을 실행하여 출력할 수 있다.
도 28은 다양한 실시 예에 따른 외부 객체의 근접을 감지하여 전자 장치의 콘텍스트 정보에 따른 데이터를 출력하기 위한 흐름도를 도시한다. 다양한 실시 예에 따르면, 2800 동작 내지 2830 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
도 28에 따르면 2800 동작에서 전자 장치(201)는 외부 객체에 대한 콘텍스트 정보를 확인할 수 있다. 예를 들어, 전자 장치(201)는 전자 장치(201)의 사용자가 지정되면 사용자와 관련된 콘텍스트 정보를 수집할 수 있다. 상기 사용자와 관련된 콘텍스트 정보는 사용자에 대한 시간, 위치, 움직임 정보 등을 기반으로 판단될 수 있다.
2810 동작에서 전자 장치(201)는 확인된 콘텍스트 정보를 기반으로 적어도 하나의 데이터 셋을 결정할 수 있다. 예를 들어, 전자 장치(201)는 수집된 콘텍스트 정보를 기반으로 사용자에게 제공하기 위한 데이터 셋을 결정할 수 있다.
2820 동작에서 전자 장치(201)는 외부 객체의 근접이 감지되는지를 판단하여 외부 객체의 근접이 감지되면 2830 동작을 수행하고, 외부 객체의 근접이 감지되지 않으면 동작을 종료할 수 있다.
2830 동작에서 전자 장치(201)는 결정된 적어도 하나의 데이터 셋을 출력할 수 있다.
한 실시 예에 따르면, 전자 장치(201)는 복수의 센서들 중 적어도 일부를 이용하여 사용자의 근접 정보 또는 움직임 정보를 획득하고, 획득된 근접 정보 또는 움직임 정보를 현재 시간 및 위치 정보와 연계하여 사용자의 콘텍스트 정보를 판단할 수 있다. 상기 움직임 정보는 사용자가 움직이는 패턴을 포함할 수 있다.
예를 들어, 현재 시간이 평일 아침 시간, 사용자의 위치가 집이고, 사용자의 움직임 패턴이 특정 움직임 패턴과 일치하는 경우 전자 장치(201)는 사용자가 출근 또는 외출 준비인 것으로 판단할 수 있다. 예를 들어, 현재 시간이 주말 밤 시간, 사용자의 위치가 집이고, 사용자의 움직임이 임계 움직임 이하인 경우 사용자가 수면 중인 것으로 판단할 수 있다.
이와 같이 판단된 사용자의 콘텍스트 정보를 기반으로 전자 장치(201)는 사용자에게 제공하기 위한 적어도 하나의 데이터 셋을 결정할 수 있다. 예를 들어, 사용자의 콘텍스트 정보가 출근 또는 외출 준비인 경우 전자 장치(201)는 사용자의 근접을 감지하여 사용자의 근접이 감지되면‘오늘의 날씨’에 관련된 데이터(또는, 어플리케이션) 또는 ‘교통 상황’에 관련된 데이터(또는, 어플리케이션)를 로딩하여 출력할 수 있다.
이에 따라, 사용자는 사용자의 상황에 따라 적절한 기능이나 정보를 제공받기 위한 동작을 수행할 필요가 없기 때문에 사용자가 지연시간 없이 관련 데이터를 바로 확인할 수 있게 된다.
도 29는 다양한 실시 예에 따른 외부 객체의 근접을 감지하여 음성 콘텐트를 출력하기 위한 흐름도를 도시한다. 다양한 실시 예에 따르면, 2900 동작 내지 2920 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
다양한 실시 예에 따르면 전자 장치(201)는 외부 객체의 근접을 감지하여 외부 객체가 근접 영역 내에 위치하면 음성 콘텐트를 출력하고, 외부 객체가 근접 영역을 벗어나면 음성 콘텐트의 출력을 중지할 수 있다.
도 29에 따르면 2900 동작에서 전자 장치(201)는 출력을 위한 음성 콘텐트를 확인할 수 있다. 예를 들어, 음성 콘텐트는 뉴스 콘텐트, 날씨 콘텐트 등을 포함할 수 있다.
2910 동작에서 전자 장치(201)는 외부 객체의 근접을 판단하여 외부 객체의 근접이 감지되면 2920 동작을 수행하고, 외부 객체의 근접이 감지되지 않으면 2910 동작에서 외부 객체의 근접을 판단할 수 있다.
2920 동작에서 전자 장치(201)는 확인된 음성 콘텐트를 출력할 수 있다.
한 실시 예에 따르면, 전자 장치(201)는 사용자에게 제공하기 위한 음성 콘텐트를 확인하고, 확인된 음성 콘텐트를 출력하기 위해 사용자의 제1 근접 또는 제2 근접을 판단할 수 있다. 예를 들어, 전자 장치(201)는 사용자가 제1 근접 영역 내에 위치하는지 또는 제2 근접 영역 내에 위치하는지를 판단할 수 있다. 사용자의 제1 근접 또는 제2 근접이 감지되면 전자 장치(201)는 음성 콘텐트를 재생하여 출력할 수 있다. 다른 예로, 전자 장치(201)는 음성 콘텐트의 재생을 위한 사용자의 수락 여부를 문의하는 음성 신호를 출력하고, 사용자의 수락에 해당하는 음성 신호가 수신되면 음성 콘텐트를 재생하여 출력할 수 있다.
도 30은 다양한 실시 예에 따른 외부 객체의 근접을 감지하여 음성 콘텐트를 출력하는 동작을 설명하기 위한 예시도들을 도시한다.
도 30의 (a)에 따르면 전자 장치(201)는 근접 영역(3000) 내에 진입한 사용자(3001)가 감지되면 “아침 브리핑을 들으시겠어요?”와 같이 음성 콘텐트 출력에 대한 수락 여부를 문의하는 음성 신호(3002)를 출력할 수 있다. 사용자로부터 “응~”과 같이 음성 콘텐트 재생에 대한 수락을 나타내는 음성 신호가 입력되면 전자 장치(201)는 음성 콘텐트를 출력할 수 있다. 근접 영역(3000) 내에 위치하는 사용자(3003)로부터 “잠깐만~”과 같은 음성 콘텐트 재생에 대한 중지를 나타내는 음성 신호(3004)가 입력되면 전자 장치(201)는 음성 콘텐트에 대한 출력을 중지할 수 있다. 사용자(3005)가 근접 영역(3000) 밖에 위치하는 경우 전자 장치(201)는 음성 콘텐트 재생을 종료하고, 근접 영역(3000) 내에 사용자가 감지되는지를 계속적으로 판단할 수 있다.
도 30의 (b)에 따르면 전자 장치(201)는 근접 영역(3000) 내에 진입한 사용자(3010)가 감지되면 “오늘 아침은 영화 3도로 다소 추우며…”와 같이 음성 콘텐트(3011)를 재생하여 출력할 수 있다. 사용자(3013)가 근접 영역(3000) 밖에 위치하는 경우 전자 장치(201)는 “아침 교통 상황은”과 같이 재생중인 음성 콘텐트(3012)의 출력을 일시적으로 중지할 수 있다. 전자 장치(201)는 사용자가 근접 영역(3000) 내에 위치하는지를 지속적으로 판단하여 근접 영역(3000) 내에 사용자(3014)가 다시 감지되면 중지된 음성 콘텐트를 다시 재생하여 “아침 교통 상황은 고속도로가 혼잡하여 외곽 도로를 이용하…”와 같은 음성 콘텐트(3015)를 출력할 수 있다.
다양한 실시 예에 따르면, 전자 장치(201)는 미리 설정된 조건을 만족하면 카메라 모듈(291)을 초기화하고, 카메라 모듈(291)을 슬립 모드로 전환할 수 있다. 제1 입력이 수신되면 전자 장치(201)는 카메라 모듈(291)을 슬립 모드에서 동작 모드로 전환할 수 있다. 예를 들어, 전자 장치(201)는 외부 객체가 제2 근접 영역 내에 위치하는 것으로 판단되면 카메라 모듈(291)을 초기화하고, 카메라 모듈(291)을 슬립 모드로 전환할 수 있다. 사용자의 인증을 수행하거나 근접 의도를 판단하기 위한 사용자의 세부 근접이 감지되면 전자 장치(201)는 카메라 모듈(291)을 슬립 모드에서 동작 모드로 전환할 수 있다. 이에 따라, 사용자는 사용자의 선택에 의해서 카메라 모듈(291)을 실행하기 위한 동작을 수행하는 시간보다 더 빠르게 카메라 모듈(291)을 이용할 수 있다.
한 실시 예에 따르면, 전자 장치(201)는 카메라 모듈(291)의 초기화를 위해 카메라 모듈(291)의 적어도 일부에 전원을 인가할 수 있다. 예를 들어, 전자 장치(201)는 카메라 모듈(291)의 적어도 일부를 작동하기 위한 프로그램 또는 카메라 모듈(291)의 설정 정보 중 적어도 하나를 카메라 모듈(291)의 적어도 일부에 전달할 수 있다. 이에 따라, 카메라 모듈(291)의 적어도 일부는 프로그램이 실행된 이후에 작동 불가능한 상태에서 작동 가능한 상태로 전환될 수 있다.
한 실시 예에 따르면, 전자 장치(201)는 카메라 모듈(291)의 초기화를 위해 카메라 모듈의 적어도 일부를 작동하기 위한 프로그램(예: 펌웨어 등)을 카메라 모듈의 내부 메모리(예: 제1 메모리, 제2 메모리 및/또는 제3 메모리 등)에 저장할 수 있다. 예를 들어, 전자 장치(201)는 카메라 모듈(291)의 적어도 일부에 대한 설정 값을 카메라 모듈(291)의 적어도 일부로 전달하거나 카메라 모듈(291)의 내부 메모리에 저장할 수 있다. 상기 프로그램은 설정 값들을 카메라 모듈(291)의 적어도 일부에 적용하거나, 설정 값들에 따른 이미지/이미지 연관 데이터의 생성 또는 보정을 수행하도록 구성될 수 있다. 상기 카메라 모듈(291)의 설정 값들은 ISO(international standardization organization) 설정 값, WB(white balance)/AWB 설정 값, 프레임 레이트(frame rate), 캡쳐 해상도(capture resolution), 프리뷰 해상도(preview resolution), 프리뷰 포맷(preview format) 설정 값, 자동 노출(automatic exposure: AE) 설정 값, 자동 초점(autofocus: AF) 설정 값, 노이즈 감소(noise reduction) 설정 값, 크기 조절(resizing)/스케일링(scaling) 설정 값, 컬러 공간 변환(color space conversion: CSC) 설정 값, 감마 보정(gamma correction) 설정 값, PAF 설정 값, HDRI 설정 값, 입력된 이미지를 처리하기 위한 메모리의 일부 영역의 할당 정보 등의 적어도 하나를 포함할 수 있다
도 31은 다양한 실시 예에 따른 외부 장치의 근접을 감지하여 연결 이력 정보를 기반으로 외부 장치와의 연결을 수행하기 위한 동작을 나타내는 흐름도를 도시한다. 다양한 실시 예에 따르면, 3100 동작 내지 3130 동작은 전자 장치(101, 104 또는 201), 서버(106), 프로세서(120 또는 210)), 프로그램 모듈(310) 중의 적어도 하나를 통하여 실행될 수 있다.
도 31에 따르면 3100 동작에서 전자 장치(201)는 제1 센서 셋을 이용하여 외부 장치의 제1 근접을 감지할 수 있다. 예를 들어, 전자 장치(201)는 RF 모듈(229)을 통해서 외부 장치에서 출력되는 비콘 신호를 감지하여 외부 장치가 제1 근접 영역 내에 위치하는지를 판단할 수 있다.
3110 동작에서 전자 장치(201)는 감지된 외부 장치의 연결 이력 정보가 존재하는지를 판단하여 연결 이력 정보가 존재하면 3120 동작을 수행하고, 연결 이력 정보가 존재하지 않으면 동작을 종료할 수 있다.
3120 동작에서 전자 장치(201)는 제2 센서 셋을 이용하여 외부 장치의 제2 근접을 감지할 수 있다. 예를 들어, 전자 장치(201)는 RF 모듈(229)을 통해서 외부 장치에서 출력되는 비콘 신호를 감지하여 외부 장치가 제2 근접 영역 내에 위치하는지를 판단할 수 있다.
3130 동작에서 전자 장치(201)는 외부 장치의 연결 이력 정보를 기반으로 외부 장치와의 연결을 수행할 수 있다. 예를 들어, 전자 장치(201)는 사용자가 소지하거나 착용한 외부 장치와의 연결 이력 정보가 존재하면 연결 인력 정보를 이용하여 이전에 외부 장치와 연결된 이력이 있는 통신 기능들을 활성화하고, 활성화된 통신 기능들을 이용하여 외부 장치와 연결을 수행할 수 있다.
다양한 실시 예에 따르면, 전자 장치(201)는 연결 중인 외부 장치가 일정 영역 내에 위치하지 않으면 외부 장치와의 연결을 종료하고, 외부 장치가 일정 영역 내에 위치하는 것이 감지되면 다시 외부 장치와의 연결을 수행할 수 있다.
다양한 실시 예에 따르면, 전자 장치(201)는 외부 장치가 일정 영역 내에 위치하면 외부 장치와의 연결을 위한 통신 기능을 활성화하고, 외부 장치가 일정 영역 내에 위치하지 않으면 통신 기능을 비활성화하여 불필요한 배터리 소모를 줄일 수도 있다.
다양한 실시 예에 따르면, 전자 장치(201)는 등록되어 있는 외부 장치가 다시 연결되는 경우, 이를 제3 근접상태 또는 사용자 인증으로 대체할 수 있다. 예를 들어, 전자 장치(201)은, 상기 등록되어 있는 외부 장치가 접근하여 다시 연결되고, 상기 외부 장치가 제2 근접거리 내에 들어오게 되면, 사용자 인증을 생략하고, 메시지 또는 잠금 해제 화면을 출력할 수 있다.
다양한 실시 예에 따르면, 전자 장치(201)는 복수의 센서들 중 적어도 일부를 이용하여 외부 객체의 제1 근접을 감지하고, 감지된 외부 객체의 움직임 패턴 또는 동선을 확인하여 확인된 외부 객체의 움직임 패턴 또는 동선이 전자 장치(201)의 기능을 이용하기 위한 외부 객체의 근접을 의도하지 않으면 외부 객체의 제2 근접을 감지하기 위한 동작을 수행하지 않을 수 있다.
다양한 실시 예에 따르면, 전자 장치(201)는 기능적으로 연결된 적어도 하나의 전자 장치(예: AP(access point), TV, 조명 등)를 이용하여 외부 객체에 대한 제1 근접, 제2 근접, 세부 근접 등을 판단할 수 있다.
이와 같이 본 발명의 다양한 실시 예에서는 사용자의 요구에 맞는 서비스를 보다 능동적으로 제공할 수 있고, 사용자가 원하는 전자 장치의 기능을 보다 빠르게 수행할 수 있다.
본 문서에서 사용된 용어 "모듈"은, 예를 들면, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈"은, 예를 들면, 유닛(unit), 로직(logic), 논리블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈"은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면,"모듈"은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시 예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(120))에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 메모리(130)가 될 수 있다.
컴퓨터로 판독 가능한 기록매체는, 하드디스크, 플로피디스크, 마그네틱매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digital versatile disc), 자기-광매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리등) 등을 포함할 수 있다. 또한, 프로그램명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시 예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시 예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시 예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다. 그리고 본 문서에 개시된 실시 예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 문서에서 기재된 기술의 범위를 한정하는 것은 아니다. 따라서, 본 문서의 범위는, 본 문서의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시 예를 포함하는 것으로 해석되어야 한다.
110: 버스
120: 프로세서
130: 메모리
140: 입출력 인터페이스
150: 디스플레이
160: 통신 인터페이스
170: 제어 모듈

Claims (20)

  1. 전자 장치에 있어서,
    터치스크린 디스플레이;
    복수의 센서들; 및
    프로세서를 포함하고, 상기 프로세서는,
    상기 복수의 센서들 중 제1 센서를 이용하여, 음성 신호를 검출하고,
    상기 검출된 음성 신호를 기반으로 외부 객체가 상기 전자 장치에 대하여 미리 정해진 범위 내에 있는지를 확인하고,
    상기 외부 객체가 상기 전자 장치에 대하여 상기 미리 정해진 범위 내에 있음을 확인하는 경우, 상기 복수의 센서들 중 제2 센서를 이용하여, 상기 전자 장치가 슬립 모드에 있는 동안 상기 터치스크린 디스플레이의 방향이 지면에 대해 수평인 방향에서 수직인 방향으로 기울어진 상태인지를 확인하고,
    상기 전자 장치가 상기 슬립 모드에 있는 동안 상기 전자 장치가 상기 기울어진 상태임을 확인한 경우, 상기 전자 장치의 동작 모드를 상기 슬립 모드에서 활성화 모드로 전환하고, 상기 활성화 모드에서 상기 터치스크린 디스플레이에 상기 외부 객체의 인증을 위한 잠금 화면을 표시하고,
    상기 잠금 화면이 상기 터치스크린 디스플레이에 표시되는 동안, 상기 복수의 센서들 중 제3 센서를 이용하여, 상기 외부 객체의 얼굴을 식별하고, 상기 외부 객체의 얼굴 식별에 기초하여 상기 외부 객체가 인증될 때 상기 터치스크린 디스플레이에 잠금 해제 화면을 표시하도록 구성된 전자 장치.
  2. 삭제
  3. 삭제
  4. 삭제
  5. 제1항에 있어서, 상기 제2 센서는 자이로 센서 및 가속도 센서 중 적어도 하나를 포함하고, 상기 제3 센서는 적어도 하나의 카메라를 포함하는 전자 장치.
  6. 제1항에 있어서, 상기 프로세서는,
    상기 터치스크린 디스플레이의 방향에 대한 변경 속도에 기초하여 상기 잠금 화면을 표시하도록 구성된 전자 장치.
  7. 삭제
  8. 삭제
  9. 삭제
  10. 삭제
  11. 삭제
  12. 삭제
  13. 삭제
  14. 삭제
  15. 삭제
  16. 전자 장치의 동작 방법에 있어서,
    상기 전자 장치의 제1 센서를 이용하여 음성 신호를 검출하는 동작;
    상기 검출된 음성 신호를 기반으로 외부 객체가 상기 전자 장치에 대하여 미리 정해진 범위 내에 있는지를 확인하는 동작;
    상기 외부 객체가 상기 전자 장치에 대하여 상기 미리 정해진 범위 내에 있음을 확인한 경우, 상기 전자 장치의 제2 센서를 이용하여 상기 전자 장치가 장치가 슬립 모드에 있는 동안 상기 전자 장치의 터치스크린 디스플레이의 방향이 지면에 대해 수평인 방향에서 수직인 방향으로 기울어진 상태인지를 확인하는 동작;
    상기 전자 장치가 상기 슬립 모드에 있는 동안 상기 전자 장치가 상기 기울어진 상태임을 확인한 경우, 상기 전자 장치의 동작 모드를 상기 슬립 모드에서 활성화 모드로 전환하고, 상기 활성화 모드에서 상기 터치스크린 디스플레이에 상기 외부 객체의 인증을 위한 잠금 화면을 표시하는 동작; 및
    상기 잠금 화면이 상기 터치스크린 디스플레이에 표시되는 동안, 상기 전자 장치의 제3 센서를 이용하여, 상기 외부 객체의 얼굴을 식별하고, 상기 외부 객체의 얼굴 식별에 기초하여 상기 외부 객체가 인증될 때 상기 터치스크린 디스플레이에 잠금 해제 화면을 표시하는 동작을 포함하는 방법.
  17. 삭제
  18. 제16항에 있어서, 상기 제2 센서는 자이로 센서 및 가속도 센서 중 적어도 하나를 포함하고, 상기 제3 센서는 적어도 하나의 카메라를 포함하는 방법.
  19. 삭제
  20. 제16항에 있어서, 상기 잠금 화면을 표시하는 동작은,
    상기 터치스크린 디스플레이의 방향에 대한 변경 속도에 기초하여 상기 잠금 화면을 표시하는 동작을 포함하는 방법.
KR1020150159236A 2015-11-12 2015-11-12 외부 객체의 근접에 따른 동작을 수행하는 전자 장치 및 그 방법 Active KR102432620B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020150159236A KR102432620B1 (ko) 2015-11-12 2015-11-12 외부 객체의 근접에 따른 동작을 수행하는 전자 장치 및 그 방법
US15/350,005 US10726715B2 (en) 2015-11-12 2016-11-11 Electronic device and method for performing operations according to proximity of external object

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150159236A KR102432620B1 (ko) 2015-11-12 2015-11-12 외부 객체의 근접에 따른 동작을 수행하는 전자 장치 및 그 방법

Publications (2)

Publication Number Publication Date
KR20170055893A KR20170055893A (ko) 2017-05-22
KR102432620B1 true KR102432620B1 (ko) 2022-08-16

Family

ID=58692119

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150159236A Active KR102432620B1 (ko) 2015-11-12 2015-11-12 외부 객체의 근접에 따른 동작을 수행하는 전자 장치 및 그 방법

Country Status (2)

Country Link
US (1) US10726715B2 (ko)
KR (1) KR102432620B1 (ko)

Families Citing this family (151)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8677377B2 (en) 2005-09-08 2014-03-18 Apple Inc. Method and apparatus for building an intelligent automated assistant
US9318108B2 (en) 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US8977255B2 (en) 2007-04-03 2015-03-10 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
US10002189B2 (en) 2007-12-20 2018-06-19 Apple Inc. Method and apparatus for searching using an active ontology
US9330720B2 (en) 2008-01-03 2016-05-03 Apple Inc. Methods and apparatus for altering audio output signals
US8676904B2 (en) 2008-10-02 2014-03-18 Apple Inc. Electronic devices with voice command and contextual data processing capabilities
US10255566B2 (en) 2011-06-03 2019-04-09 Apple Inc. Generating and processing task items that represent tasks to perform
US10276170B2 (en) 2010-01-18 2019-04-30 Apple Inc. Intelligent automated assistant
US8682667B2 (en) 2010-02-25 2014-03-25 Apple Inc. User profiling for selecting user specific voice input processing information
US9262612B2 (en) 2011-03-21 2016-02-16 Apple Inc. Device access using voice authentication
US10057736B2 (en) 2011-06-03 2018-08-21 Apple Inc. Active transport based notifications
US10134385B2 (en) 2012-03-02 2018-11-20 Apple Inc. Systems and methods for name pronunciation
US10417037B2 (en) 2012-05-15 2019-09-17 Apple Inc. Systems and methods for integrating third party services with a digital assistant
JP2016508007A (ja) 2013-02-07 2016-03-10 アップル インコーポレイテッド デジタルアシスタントのためのボイストリガ
US10652394B2 (en) 2013-03-14 2020-05-12 Apple Inc. System and method for processing voicemail
US10748529B1 (en) 2013-03-15 2020-08-18 Apple Inc. Voice activated device for use with a voice-based digital assistant
WO2014197335A1 (en) 2013-06-08 2014-12-11 Apple Inc. Interpreting and acting upon commands that involve sharing information with remote devices
KR101959188B1 (ko) 2013-06-09 2019-07-02 애플 인크. 디지털 어시스턴트의 둘 이상의 인스턴스들에 걸친 대화 지속성을 가능하게 하기 위한 디바이스, 방법 및 그래픽 사용자 인터페이스
US10176167B2 (en) 2013-06-09 2019-01-08 Apple Inc. System and method for inferring user intent from speech inputs
AU2014306221B2 (en) 2013-08-06 2017-04-06 Apple Inc. Auto-activating smart responses based on activities from remote devices
US10296160B2 (en) 2013-12-06 2019-05-21 Apple Inc. Method for extracting salient dialog usage from live data
US9715875B2 (en) 2014-05-30 2017-07-25 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US9430463B2 (en) 2014-05-30 2016-08-30 Apple Inc. Exemplar-based natural language processing
WO2015184186A1 (en) 2014-05-30 2015-12-03 Apple Inc. Multi-command single utterance input method
US9633004B2 (en) 2014-05-30 2017-04-25 Apple Inc. Better resolution when referencing to concepts
US10170123B2 (en) 2014-05-30 2019-01-01 Apple Inc. Intelligent assistant for home automation
US9338493B2 (en) 2014-06-30 2016-05-10 Apple Inc. Intelligent automated assistant for TV user interactions
US9818400B2 (en) 2014-09-11 2017-11-14 Apple Inc. Method and apparatus for discovering trending terms in speech requests
US10074360B2 (en) 2014-09-30 2018-09-11 Apple Inc. Providing an indication of the suitability of speech recognition
US10127911B2 (en) 2014-09-30 2018-11-13 Apple Inc. Speaker identification and unsupervised speaker adaptation techniques
US9668121B2 (en) * 2014-09-30 2017-05-30 Apple Inc. Social reminders
USD786269S1 (en) * 2014-11-24 2017-05-09 General Electric Company Display screen or portion thereof with transitional icon
US10152299B2 (en) 2015-03-06 2018-12-11 Apple Inc. Reducing response latency of intelligent automated assistants
US9721566B2 (en) 2015-03-08 2017-08-01 Apple Inc. Competing devices responding to voice triggers
US9886953B2 (en) 2015-03-08 2018-02-06 Apple Inc. Virtual assistant activation
US10460227B2 (en) 2015-05-15 2019-10-29 Apple Inc. Virtual assistant in a communication session
US10083688B2 (en) 2015-05-27 2018-09-25 Apple Inc. Device voice control for selecting a displayed affordance
US10200824B2 (en) 2015-05-27 2019-02-05 Apple Inc. Systems and methods for proactively identifying and surfacing relevant content on a touch-sensitive device
US9578173B2 (en) 2015-06-05 2017-02-21 Apple Inc. Virtual assistant aided communication with 3rd party service in a communication session
US20160378747A1 (en) 2015-06-29 2016-12-29 Apple Inc. Virtual assistant for media playback
US10740384B2 (en) 2015-09-08 2020-08-11 Apple Inc. Intelligent automated assistant for media search and playback
US10331312B2 (en) 2015-09-08 2019-06-25 Apple Inc. Intelligent automated assistant in a media environment
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US10671428B2 (en) 2015-09-08 2020-06-02 Apple Inc. Distributed personal assistant
US11587559B2 (en) 2015-09-30 2023-02-21 Apple Inc. Intelligent device identification
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US10956666B2 (en) 2015-11-09 2021-03-23 Apple Inc. Unconventional virtual assistant interactions
US10049668B2 (en) 2015-12-02 2018-08-14 Apple Inc. Applying neural network language models to weighted finite state transducers for automatic speech recognition
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
US11227589B2 (en) 2016-06-06 2022-01-18 Apple Inc. Intelligent list reading
US10049663B2 (en) 2016-06-08 2018-08-14 Apple, Inc. Intelligent automated assistant for media exploration
US12223282B2 (en) 2016-06-09 2025-02-11 Apple Inc. Intelligent automated assistant in a home environment
US10586535B2 (en) 2016-06-10 2020-03-10 Apple Inc. Intelligent digital assistant in a multi-tasking environment
DK179415B1 (en) 2016-06-11 2018-06-14 Apple Inc Intelligent device arbitration and control
US12197817B2 (en) 2016-06-11 2025-01-14 Apple Inc. Intelligent device arbitration and control
DK201670540A1 (en) 2016-06-11 2018-01-08 Apple Inc Application integration with a digital assistant
CN107786721A (zh) * 2016-08-26 2018-03-09 华为终端（东莞）有限公司 终端的控制方法、终端、智能穿戴设备和系统
US10474753B2 (en) 2016-09-07 2019-11-12 Apple Inc. Language identification using recurrent neural networks
US10187765B2 (en) * 2016-09-23 2019-01-22 Apple Inc. Networked sensor array
US10043516B2 (en) 2016-09-23 2018-08-07 Apple Inc. Intelligent automated assistant
US11204787B2 (en) 2017-01-09 2021-12-21 Apple Inc. Application integration with a digital assistant
DK201770383A1 (en) 2017-05-09 2018-12-14 Apple Inc. USER INTERFACE FOR CORRECTING RECOGNITION ERRORS
US10417266B2 (en) 2017-05-09 2019-09-17 Apple Inc. Context-aware ranking of intelligent response suggestions
DK180048B1 (en) 2017-05-11 2020-02-04 Apple Inc. MAINTAINING THE DATA PROTECTION OF PERSONAL INFORMATION
US10726832B2 (en) 2017-05-11 2020-07-28 Apple Inc. Maintaining privacy of personal information
US10395654B2 (en) 2017-05-11 2019-08-27 Apple Inc. Text normalization based on a data-driven learning network
US11301477B2 (en) 2017-05-12 2022-04-12 Apple Inc. Feedback analysis of a digital assistant
DK179745B1 (en) 2017-05-12 2019-05-01 Apple Inc. SYNCHRONIZATION AND TASK DELEGATION OF A DIGITAL ASSISTANT
DK201770428A1 (en) 2017-05-12 2019-02-18 Apple Inc. LOW-LATENCY INTELLIGENT AUTOMATED ASSISTANT
DK179496B1 (en) 2017-05-12 2019-01-15 Apple Inc. USER-SPECIFIC Acoustic Models
DK201770411A1 (en) 2017-05-15 2018-12-20 Apple Inc. Multi-modal interfaces
US10311144B2 (en) 2017-05-16 2019-06-04 Apple Inc. Emoji word sense disambiguation
US10303715B2 (en) 2017-05-16 2019-05-28 Apple Inc. Intelligent automated assistant for media exploration
DK179549B1 (en) 2017-05-16 2019-02-12 Apple Inc. FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES
US20180336892A1 (en) 2017-05-16 2018-11-22 Apple Inc. Detecting a trigger of a digital assistant
US10403278B2 (en) 2017-05-16 2019-09-03 Apple Inc. Methods and systems for phonetic matching in digital assistant services
EP3407175A1 (en) * 2017-05-23 2018-11-28 Vestel Elektronik Sanayi ve Ticaret A.S. Hand-holdable electronic devices and method of determining an electromagnetic environment near to such a device
JP6677220B2 (ja) * 2017-05-30 2020-04-08 京セラドキュメントソリューションズ株式会社 携帯端末および電子システム
KR102350781B1 (ko) * 2017-06-15 2022-01-14 엘지전자 주식회사 이동 단말기 및 그 제어방법
CN107368725B (zh) * 2017-06-16 2020-04-10 Oppo广东移动通信有限公司 虹膜识别方法、电子装置和计算机可读存储介质
US10636424B2 (en) 2017-11-30 2020-04-28 Apple Inc. Multi-turn canned dialog
US10884104B2 (en) * 2017-12-20 2021-01-05 Ecolink Intelligent Technology, Inc. Monitoring device having 360 degree sensing capabilities
US10733982B2 (en) 2018-01-08 2020-08-04 Apple Inc. Multi-directional dialog
US10733375B2 (en) 2018-01-31 2020-08-04 Apple Inc. Knowledge-based framework for improving natural language understanding
US10789959B2 (en) 2018-03-02 2020-09-29 Apple Inc. Training speaker recognition models for digital assistants
US10592604B2 (en) 2018-03-12 2020-03-17 Apple Inc. Inverse text normalization for automatic speech recognition
US10818288B2 (en) 2018-03-26 2020-10-27 Apple Inc. Natural assistant interaction
US12295102B1 (en) 2018-03-29 2025-05-06 Cirrus Logic Inc. Far field interference cancellation for resistive-inductive-capacitive sensors
US11092657B2 (en) 2018-03-29 2021-08-17 Cirrus Logic, Inc. Compensation of changes in a resonant phase sensing system including a resistive-inductive-capacitive sensor
US10642435B2 (en) 2018-03-29 2020-05-05 Cirrus Logic, Inc. False triggering prevention in a resonant phase sensing system
US10725549B2 (en) 2018-03-29 2020-07-28 Cirrus Logic, Inc. Efficient detection of human machine interface interaction using a resonant phase sensing system
US10909331B2 (en) 2018-03-30 2021-02-02 Apple Inc. Implicit identification of translation payload with neural machine translation
US10928918B2 (en) 2018-05-07 2021-02-23 Apple Inc. Raise to speak
US11145294B2 (en) 2018-05-07 2021-10-12 Apple Inc. Intelligent automated assistant for delivering content from user experiences
US10799704B2 (en) 2018-05-17 2020-10-13 At&T Intellectual Property I, L.P. Proximity-based security for implanted medical devices
US10984780B2 (en) 2018-05-21 2021-04-20 Apple Inc. Global semantic word embeddings using bi-directional recurrent neural networks
DK180639B1 (en) 2018-06-01 2021-11-04 Apple Inc DISABILITY OF ATTENTION-ATTENTIVE VIRTUAL ASSISTANT
US11386266B2 (en) 2018-06-01 2022-07-12 Apple Inc. Text correction
DK201870355A1 (en) 2018-06-01 2019-12-16 Apple Inc. VIRTUAL ASSISTANT OPERATION IN MULTI-DEVICE ENVIRONMENTS
DK179822B1 (da) 2018-06-01 2019-07-12 Apple Inc. Voice interaction at a primary device to access call functionality of a companion device
US10892996B2 (en) 2018-06-01 2021-01-12 Apple Inc. Variable latency device coordination
US11076039B2 (en) 2018-06-03 2021-07-27 Apple Inc. Accelerated task performance
KR102532426B1 (ko) * 2018-06-25 2023-05-15 삼성전자주식회사 사용자의 위치에 기반하여 발광 소자를 이용한 시각적 효과를 제공하는 전자 장치 및 그에 관한 방법
US12130159B2 (en) 2018-08-22 2024-10-29 Cirrus Logic Inc. Detecting and adapting to changes in a resonant phase sensing system having a resistive-inductive-capacitive sensor
US11010561B2 (en) 2018-09-27 2021-05-18 Apple Inc. Sentiment prediction from textual data
US11170166B2 (en) 2018-09-28 2021-11-09 Apple Inc. Neural typographical error modeling via generative adversarial networks
US11462215B2 (en) 2018-09-28 2022-10-04 Apple Inc. Multi-modal inputs for voice commands
US10839159B2 (en) 2018-09-28 2020-11-17 Apple Inc. Named entity normalization in a spoken dialog system
US11475898B2 (en) 2018-10-26 2022-10-18 Apple Inc. Low-latency multi-speaker speech recognition
US11638059B2 (en) 2019-01-04 2023-04-25 Apple Inc. Content playback on multiple devices
US10948313B2 (en) 2019-02-26 2021-03-16 Cirrus Logic, Inc. Spread spectrum sensor scanning using resistive-inductive-capacitive sensors
US11402946B2 (en) 2019-02-26 2022-08-02 Cirrus Logic, Inc. Multi-chip synchronization in sensor applications
US11536758B2 (en) 2019-02-26 2022-12-27 Cirrus Logic, Inc. Single-capacitor inductive sense systems
US11348573B2 (en) 2019-03-18 2022-05-31 Apple Inc. Multimodality in digital assistant systems
JP7162560B2 (ja) * 2019-03-28 2022-10-28 日立造船株式会社 情報処理装置、情報処理方法、情報処理プログラム、およびゴミ焼却プラント
US11423908B2 (en) 2019-05-06 2022-08-23 Apple Inc. Interpreting spoken requests
DK201970509A1 (en) 2019-05-06 2021-01-15 Apple Inc Spoken notifications
US11307752B2 (en) 2019-05-06 2022-04-19 Apple Inc. User configurable task triggers
US11475884B2 (en) 2019-05-06 2022-10-18 Apple Inc. Reducing digital assistant latency when a language is incorrectly determined
US11140099B2 (en) 2019-05-21 2021-10-05 Apple Inc. Providing message response suggestions
US11496600B2 (en) 2019-05-31 2022-11-08 Apple Inc. Remote execution of machine-learned models
DK180129B1 (en) 2019-05-31 2020-06-02 Apple Inc. User activity shortcut suggestions
DK201970510A1 (en) 2019-05-31 2021-02-11 Apple Inc Voice identification in digital assistant systems
US11289073B2 (en) 2019-05-31 2022-03-29 Apple Inc. Device text to speech
US11468890B2 (en) 2019-06-01 2022-10-11 Apple Inc. Methods and user interfaces for voice-based control of electronic devices
US11360641B2 (en) 2019-06-01 2022-06-14 Apple Inc. Increasing the relevance of new available information
JP6901212B1 (ja) * 2019-08-05 2021-07-14 株式会社オプティム コンピュータシステム、広告媒体管理方法及びプログラム
WO2021040296A1 (en) * 2019-08-23 2021-03-04 Samsung Electronics Co., Ltd. Method for determining proximity of at least one object using electronic device
WO2021056255A1 (en) 2019-09-25 2021-04-01 Apple Inc. Text detection using global geometry estimators
US11079874B2 (en) * 2019-11-19 2021-08-03 Cirrus Logic, Inc. Virtual button characterization engine
TWI737113B (zh) * 2020-01-02 2021-08-21 東碩資訊股份有限公司 智慧型電器的開關控制系統及方法
US11061543B1 (en) 2020-05-11 2021-07-13 Apple Inc. Providing relevant data items based on context
US12301635B2 (en) 2020-05-11 2025-05-13 Apple Inc. Digital assistant hardware abstraction
US11183193B1 (en) 2020-05-11 2021-11-23 Apple Inc. Digital assistant hardware abstraction
US11579030B2 (en) 2020-06-18 2023-02-14 Cirrus Logic, Inc. Baseline estimation for sensor system
US11868540B2 (en) 2020-06-25 2024-01-09 Cirrus Logic Inc. Determination of resonant frequency and quality factor for a sensor system
US11835410B2 (en) 2020-06-25 2023-12-05 Cirrus Logic Inc. Determination of resonant frequency and quality factor for a sensor system
US11490204B2 (en) 2020-07-20 2022-11-01 Apple Inc. Multi-device audio adjustment coordination
US11438683B2 (en) 2020-07-21 2022-09-06 Apple Inc. User identification using headphones
KR20220098629A (ko) * 2021-01-04 2022-07-12 삼성전자주식회사 객체와의 연결 여부를 판단하기 위한 오디오 출력 장치 및 이의 동작 방법
EP4264460A1 (en) 2021-01-25 2023-10-25 Apple Inc. Implementation of biometric authentication
US11619519B2 (en) 2021-02-08 2023-04-04 Cirrus Logic, Inc. Predictive sensor tracking optimization in multi-sensor sensing applications
US11808669B2 (en) 2021-03-29 2023-11-07 Cirrus Logic Inc. Gain and mismatch calibration for a phase detector used in an inductive sensor
US11821761B2 (en) 2021-03-29 2023-11-21 Cirrus Logic Inc. Maximizing dynamic range in resonant sensing
US11507199B2 (en) 2021-03-30 2022-11-22 Cirrus Logic, Inc. Pseudo-differential phase measurement and quality factor compensation
US11838991B2 (en) * 2021-05-26 2023-12-05 Microsoft Technology Licensing, Llc Peer-to-peer communication via smart wearables
US11942090B2 (en) 2021-06-04 2024-03-26 Apple Inc. Accessory device based authentication for digital assistant requests
EP4322514A4 (en) 2021-06-07 2024-10-23 Samsung Electronics Co., Ltd. ELECTRONIC DEVICE WITH DISPLAY WITH OPTICAL SENSOR
KR20230045735A (ko) 2021-09-28 2023-04-05 삼성디스플레이 주식회사 표시 장치 및 그 구동 방법
US11979115B2 (en) 2021-11-30 2024-05-07 Cirrus Logic Inc. Modulator feedforward compensation
US11854738B2 (en) 2021-12-02 2023-12-26 Cirrus Logic Inc. Slew control for variable load pulse-width modulation driver and load sensing

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080303797A1 (en) * 2007-06-11 2008-12-11 Honeywell International, Inc. Stimuli sensitive display screen with multiple detect modes
US20130207937A1 (en) * 2012-02-13 2013-08-15 Microsoft Corporation Optical Stylus Interaction
US20140282877A1 (en) * 2013-03-13 2014-09-18 Lookout, Inc. System and method for changing security behavior of a device based on proximity to another device
US20140267025A1 (en) * 2013-03-14 2014-09-18 Samsung Electronics Co., Ltd. Method and apparatus for operating sensors of user device

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001216269A (ja) 2000-01-31 2001-08-10 Oki Electric Ind Co Ltd 利用者認証装置
TW200416552A (en) 2002-12-09 2004-09-01 Kokuyo Kk Information processing device, control device, containing tool guarding device and program.
KR101160872B1 (ko) 2005-03-04 2012-07-02 삼성전자주식회사 입출력 인터페이스 제어 방법 및 그 장치
US20130088427A1 (en) * 2011-10-11 2013-04-11 Eric Liu Multiple input areas for pen-based computing
US9330606B2 (en) 2012-06-08 2016-05-03 Apple Inc. Electronic device with display brightness control
KR101925026B1 (ko) 2012-06-18 2018-12-04 엘지전자 주식회사 휴대 단말기 및 그 제어 방법
KR101938648B1 (ko) 2012-10-23 2019-01-15 삼성전자주식회사 이미지 센서를 포함하는 모바일 기기, 이미지 센서의 구동 방법 및 모바일 기기의 구동 방법
US8914875B2 (en) * 2012-10-26 2014-12-16 Facebook, Inc. Contextual device locking/unlocking
US8896533B2 (en) * 2012-10-29 2014-11-25 Lenova (Singapore) Pte. Ltd. Display directional sensing
KR101990038B1 (ko) 2012-11-13 2019-06-18 엘지전자 주식회사 이동 단말기 및 그것의 제어방법
KR102003377B1 (ko) * 2012-12-13 2019-07-24 삼성전자주식회사 슬립 모드에서 카메라 모듈을 구동하는 전자 장치 및 방법
US20140197922A1 (en) * 2013-01-16 2014-07-17 Cygnus Broadband, Inc. System and method for positive identification on a mobile device
KR20140142862A (ko) 2013-06-05 2014-12-15 삼성전자주식회사 그립 센서 장치 및 방법
KR102139110B1 (ko) 2013-06-20 2020-07-30 삼성전자주식회사 전자 디바이스 및 전자 디바이스에서 그립 센싱을 이용한 제어 방법
KR102166041B1 (ko) 2013-07-18 2020-10-16 삼성전자 주식회사 생체인식 기반 인증 방법 및 장치

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080303797A1 (en) * 2007-06-11 2008-12-11 Honeywell International, Inc. Stimuli sensitive display screen with multiple detect modes
US20130207937A1 (en) * 2012-02-13 2013-08-15 Microsoft Corporation Optical Stylus Interaction
US20140282877A1 (en) * 2013-03-13 2014-09-18 Lookout, Inc. System and method for changing security behavior of a device based on proximity to another device
US20140267025A1 (en) * 2013-03-14 2014-09-18 Samsung Electronics Co., Ltd. Method and apparatus for operating sensors of user device

Also Published As

Publication number Publication date
KR20170055893A (ko) 2017-05-22
US10726715B2 (en) 2020-07-28
US20170140644A1 (en) 2017-05-18

Similar Documents

Publication Publication Date Title
KR102432620B1 (ko) 외부 객체의 근접에 따른 동작을 수행하는 전자 장치 및 그 방법
KR102425818B1 (ko) 스크린 미러링 서비스 제공장치 및 방법
EP3457268B1 (en) Screen output method and electronic device supporting same
KR102412315B1 (ko) 무선 충전 상태에 대한 알림을 제공하는 장치 및 그 방법
KR102319803B1 (ko) 전자 장치, 그 동작 방법 및 기록 매체
KR102360453B1 (ko) 카메라 설정 방법 및 장치
KR102360067B1 (ko) 전자 장치 및 전자 장치의 정보 공유 방법
KR102264806B1 (ko) 스크린 미러링 서비스 제공방법 및 장치
KR102324074B1 (ko) 사운드 출력 제어 방법 및 전자 장치
KR102489876B1 (ko) 알림을 제공하기 위한 방법 및 그 전자 장치
US20170142589A1 (en) Method for adjusting usage policy and electronic device for supporting the same
US20170017531A1 (en) Application operating method and electronic device using the same
KR102346062B1 (ko) 설정 정보 전송을 위한 전자 장치 및 그 동작 방법
KR102427822B1 (ko) 위치 정보 제공 방법 및 장치
KR102399764B1 (ko) 전자 장치 및 촬영 방법
KR102339798B1 (ko) 전자 장치의 음향 처리 방법 및 그 전자 장치
KR102329821B1 (ko) 개인 인증 전자 장치 및 방법
KR20170097835A (ko) 스마트 홈 시스템에서 스마트 홈 장치를 등록하기 위한 전자 장치 및 방법
KR20170019127A (ko) 전자 장치 상태에 따른 제어 방법 및 그 장치
KR102423364B1 (ko) 영상을 제공하는 방법 및 이를 지원하는 전자 장치
KR20160137224A (ko) 외부 장치를 제어하기 위한 장치 및 방법
US20170010669A1 (en) Method for operating electronic apparatus and electronic apparatus supporting the method
KR102469569B1 (ko) 전자 장치 및 그의 동작 방법
US10321227B2 (en) Electronic device for controlling microphone parameter
KR102252448B1 (ko) 제어 방법 및 그 방법을 처리하는 전자장치

Legal Events

Date Code Title Description
PA0109 Patent application

Patent event code: PA01091R01D

Comment text: Patent Application

Patent event date: 20151112

PG1501 Laying open of application
A201 Request for examination
PA0201 Request for examination

Patent event code: PA02012R01D

Patent event date: 20201028

Comment text: Request for Examination of Application

Patent event code: PA02011R01I

Patent event date: 20151112

Comment text: Patent Application

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20211116

Patent event code: PE09021S01D

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

Patent event code: PE07011S01D

Comment text: Decision to Grant Registration

Patent event date: 20220525

GRNT Written decision to grant
PR0701 Registration of establishment

Comment text: Registration of Establishment

Patent event date: 20220810

Patent event code: PR07011E01D

PR1002 Payment of registration fee

Payment date: 20220811

End annual number: 3

Start annual number: 1

PG1601 Publication of registration