KR20240112752A - 외부 객체에 기반하여 상호작용을 위한 ui를 변경하기 위한 웨어러블 장치 및 그 방법 - Google Patents
외부 객체에 기반하여 상호작용을 위한 ui를 변경하기 위한 웨어러블 장치 및 그 방법 Download PDFInfo
- Publication number
- KR20240112752A KR20240112752A KR1020240004369A KR20240004369A KR20240112752A KR 20240112752 A KR20240112752 A KR 20240112752A KR 1020240004369 A KR1020240004369 A KR 1020240004369A KR 20240004369 A KR20240004369 A KR 20240004369A KR 20240112752 A KR20240112752 A KR 20240112752A
- Authority
- KR
- South Korea
- Prior art keywords
- wearable device
- visual object
- display
- hand
- body part
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/163—Wearable computers, e.g. on a belt
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
- G06F3/005—Input arrangements through a video camera
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04842—Selection of displayed objects or displayed text elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/0485—Scrolling or panning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- Multimedia (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
일 실시예에 따른, 웨어러블 장치의 프로세서는, 카메라를 이용하여 외부 환경에 대한 이미지를 획득할 수 있다. 상기 프로세서는, 디스플레이에 상기 외부 환경에 대한 이미지 중 적어도 일부를 표시한 상태에서 제1 시각적 객체를 표시할 수 있다. 상기 프로세서는, 상기 제1 시각적 객체를 표시하는 동안, 상기 통신 회로를 통해 연결된 외부 전자 장치로부터 수신된 신호에 기반하여, 상기 외부 전자 장치를 통하여 상기 제1 시각적 객체를 제어하기 위한 입력을 수신하였는지 여부에 따라, 상기 제1 시각적 객체의 기능을 제어할 수 있다. 상기 프로세서는, 상기 제1 시각적 객체를 표시하는 동안, 상기 이미지를 이용하여, 상기 제1 시각적 객체를 향하는 제1 자세를 가지는 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 상기 신체 부위의 형태에 대응하는, 제2 시각적 객체로 변경할 수 있다. 상기 프로세서는, 상기 카메라를 이용하여, 상기 디스플레이의 상기 제2 시각적 객체와 관련된 상기 신체 부위의 제2 자세를 식별하는 것에 기반하여, 상기 기능을 제어하도록, 구성될 수 있다.
Description
본 개시(present disclosure)는 외부 객체에 기반하여 상호작용을 위한 UI(user interface)를 변경하기 위한 웨어러블 장치 및 그 방법에 관한 것이다.
강화된(enhanced) 사용자 경험(user experience)을 제공하기 위해, 실제 세계(real-world) 내 외부 객체와 연계하여 컴퓨터에 의해 생성된 정보를 표시하는 증강 현실(augmented reality, AR) 서비스를 제공하는 전자 장치가 개발되고 있다. 상기 전자 장치는, 사용자에 의해 착용될 수 있는 웨어러블 장치일 수 있다. 예를 들면, 상기 전자 장치는, AR 안경(glasses), 및/또는 머리 착용형 장치(head-mounted device, HMD)일 수 있다.
일 실시예(an embodiment)에 따른, 웨어러블 장치(wearable device)는, 통신 회로, 카메라, 디스플레이, 인스트럭션들을 저장하는 메모리, 및 프로세서를 포함할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 카메라를 이용하여 외부 환경에 대한 이미지를 획득하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 디스플레이에 상기 외부 환경에 대한 이미지 중 적어도 일부를 표시한 상태에서 제1 시각적 객체를 표시하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 제1 시각적 객체를 표시하는 동안, 상기 통신 회로를 통해 연결된 외부 전자 장치로부터 수신된 신호에 기반하여, 상기 외부 전자 장치를 통하여 상기 제1 시각적 객체를 제어하기 위한 입력을 수신하였는지 여부에 따라, 상기 제1 시각적 객체의 기능을 제어하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 제1 시각적 객체를 표시하는 동안, 상기 이미지를 이용하여, 상기 제1 시각적 객체를 향하는 제1 자세를 가지는 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 상기 신체 부위의 형태에 대응하는, 제2 시각적 객체로 변경하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 카메라를 이용하여, 상기 디스플레이의 상기 제2 시각적 객체와 관련된 상기 신체 부위의 제2 자세를 식별하는 것에 기반하여, 상기 기능을 제어하도록, 야기할 수 있다.
일 실시예에서, 웨어러블 장치의 방법이 제공될 수 있다. 상기 방법은, 상기 웨어러블 장치의 카메라를 이용하여 외부 환경에 대한 이미지를 획득하는 동작을 포함할 수 있다. 상기 방법은, 상기 웨어러블 장치의 디스플레이에 상기 외부 환경에 대한 이미지 중 적어도 일부를 표시한 상태에서 제1 시각적 객체를 표시하는 동작을 포함할 수 있다. 상기 방법은, 상기 제1 시각적 객체를 표시하는 동안, 상기 웨어러블 장치의 통신 회로를 통해 연결된 외부 전자 장치로부터 수신된 신호에 기반하여, 상기 외부 전자 장치를 통하여 상기 제1 시각적 객체를 제어하기 위한 입력을 수신하였는지 여부에 따라, 상기 제1 시각적 객체의 기능을 제어하는 동작을 포함할 수 있다. 상기 방법은, 상기 제1 시각적 객체를 표시하는 동안, 상기 이미지를 이용하여, 상기 제1 시각적 객체를 향하는 제1 자세를 가지는 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 상기 신체 부위의 형태에 대응하는, 제2 시각적 객체로 변경하는 동작을 포함할 수 있다. 상기 방법은, 상기 카메라를 이용하여, 상기 디스플레이의 상기 제2 시각적 객체와 관련된 상기 신체 부위의 제2 자세를 식별하는 것에 기반하여, 상기 기능을 제어하는 동작을 포함할 수 있다.
일 실시예에 따른, 웨어러블 장치는, 통신 회로, 카메라, 디스플레이, 인스트럭션들을 저장하는 메모리, 및 프로세서를 포함할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 디스플레이에 제1 시각적 객체를 표시하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 통신 회로를 이용하여 외부 전자 장치를 식별하는 것에 기반하여, 상기 외부 전자 장치로부터 수신된 신호에 따라 상기 제1 시각적 객체의 기능을 제어하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 카메라를 이용하여, 상기 제1 시각적 객체를 향하는 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 상기 신체 부위의 형태에 대응하는, 제2 시각적 객체로 변경하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 카메라를 이용하여, 상기 디스플레이의 상기 제2 시각적 객체와 관련된 상기 신체 부위의 제스쳐를 식별하는 것에 기반하여, 상기 기능을 제어하도록, 야기할 수 있다.
일 실시예에 따른, 웨어러블 장치의 방법은, 상기 웨어러블 장치의 디스플레이에 제1 시각적 객체를 표시하는 동작을 포함할 수 있다. 상기 방법은, 상기 웨어러블 장치의 통신 회로를 이용하여 외부 전자 장치를 식별하는 것에 기반하여, 상기 외부 전자 장치로부터 수신된 신호에 따라 상기 제1 시각적 객체의 기능을 제어하는 동작을 포함할 수 있다. 상기 방법은, 상기 웨어러블 장치의 카메라를 이용하여, 상기 제1 시각적 객체를 향하는 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 상기 신체 부위와 상호작용을 위한 형태를 가지는, 제2 시각적 객체로 변경하는 동작을 포함할 수 있다. 상기 방법은, 상기 카메라를 이용하여, 상기 디스플레이의 상기 제2 시각적 객체와 관련된 상기 신체 부위의 제스쳐를 식별하는 것에 기반하여, 상기 기능을 제어하는 동작을 포함할 수 있다.
일 실시예에 따른, 웨어러블 장치(wearable device)는, 카메라, 디스플레이, 인스트럭션들을 저장하는 메모리), 및 프로세서를 포함할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 디스플레이에 제1 시각적 객체를 표시하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 카메라를 이용하여, 상기 제1 시각적 객체를 향하는 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 상기 제1 시각적 객체와 상이한 제2 시각적 객체로 변경하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별한 시점에서, 상기 제1 시각적 객체가 임계 거리를 초과하여 표시되었는지 여부에 기반하여, 상기 제2 시각적 객체를 상기 임계 거리 이하로 이동하도록, 야기할 수 있다.
일 실시예에 따른, 웨어러블 장치의 방법은, 상기 웨어러블 장치의 디스플레이에 제1 시각적 객체를 표시하는 동작을 포함할 수 있다. 상기 방법은, 상기 웨어러블 장치의 카메라를 이용하여, 상기 제1 시각적 객체를 향하는 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 상기 제1 시각적 객체와 상이한 제2 시각적 객체로 변경하는 동작을 포함할 수 있다. 상기 방법은, 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별한 시점에서, 상기 제1 시각적 객체가 임계 거리를 초과하여 표시되었는지 여부에 기반하여, 상기 제2 시각적 객체를 상기 임계 거리 이하로 이동하는 동작을 포함할 수 있다.
도 1은, 일 실시예에 따른, 웨어러블 장치가 화면을 표시하는 동작의 일 예를 도시한다.
도 2는, 일 실시예에 따른, 웨어러블 장치의 블록도의 일 예를 도시한다.
도 3은, 일 실시예에 따른, 웨어러블 장치가 손을 포함하는 신체 부위의 형태를 식별하는 동작의 일 예를 도시한다.
도 4a 내지 도 4b는, 일 실시예에 따른, 웨어러블 장치가 정보의 스크롤링을 위한 시각적 객체를 표시하는 동작의 일 예를 도시한다.
도 5a 내지 도 5b는, 일 실시예에 따른, 웨어러블 장치가 버튼의 형태를 가지는 시각적 객체를 표시하는 동작의 일 예를 도시한다.
도 6a 내지 도 6c는, 일 실시예에 따른, 웨어러블 장치가 슬라이더의 형태를 가지는 시각적 객체를 표시하는 동작의 일 예를 도시한다.
도 7a 내지 도 7b는, 일 실시예에 따른, 웨어러블 장치가 다이얼의 형태를 가지는 시각적 객체를 표시하는 동작의 일 예를 도시한다.
도 8은, 일 실시예에 따른, 웨어러블 장치가 버튼의 형태를 가지는 시각적 객체를 표시하는 동작의 일 예를 도시한다.
도 9a 내지 도 9c는, 일 실시예에 따른, 웨어러블 장치가 스위치의 형태를 가지는 시각적 객체를 표시하는 동작의 일 예를 도시한다.
도 10a 내지 도 10b는, 일 실시예에 따른, 웨어러블 장치가 커서 및/또는 가상 객체를 표시하는 동작의 일 예를 도시한다.
도 11은, 일 실시예에 따른, 웨어러블 장치의 흐름도의 일 예를 도시한다.
도 12는, 일 실시예에 따른, 웨어러블 장치의 흐름도의 일 예를 도시한다.
도 13은, 일 실시예에 따른, 웨어러블 장치의 흐름도의 일 예를 도시한다.
도 14는, 일 실시예에 따른, 웨어러블 장치의 흐름도의 일 예를 도시한다.
도 15는, 일 실시예에 따른, 웨어러블 장치의 흐름도의 일 예를 도시한다.
도 16a는, 일 실시예에 따른, 웨어러블 장치의 사시도(perspective view)의 일 예를 도시한다.
도 16b는, 일 실시예에 따른, 웨어러블 장치 내에 배치된 하나 이상의 하드웨어들의 일 예를 도시한다.
도 17a 내지 도 17b는, 일 실시예에 따른, 웨어러블 장치의 외관의 일 예를 도시한다.
도 2는, 일 실시예에 따른, 웨어러블 장치의 블록도의 일 예를 도시한다.
도 3은, 일 실시예에 따른, 웨어러블 장치가 손을 포함하는 신체 부위의 형태를 식별하는 동작의 일 예를 도시한다.
도 4a 내지 도 4b는, 일 실시예에 따른, 웨어러블 장치가 정보의 스크롤링을 위한 시각적 객체를 표시하는 동작의 일 예를 도시한다.
도 5a 내지 도 5b는, 일 실시예에 따른, 웨어러블 장치가 버튼의 형태를 가지는 시각적 객체를 표시하는 동작의 일 예를 도시한다.
도 6a 내지 도 6c는, 일 실시예에 따른, 웨어러블 장치가 슬라이더의 형태를 가지는 시각적 객체를 표시하는 동작의 일 예를 도시한다.
도 7a 내지 도 7b는, 일 실시예에 따른, 웨어러블 장치가 다이얼의 형태를 가지는 시각적 객체를 표시하는 동작의 일 예를 도시한다.
도 8은, 일 실시예에 따른, 웨어러블 장치가 버튼의 형태를 가지는 시각적 객체를 표시하는 동작의 일 예를 도시한다.
도 9a 내지 도 9c는, 일 실시예에 따른, 웨어러블 장치가 스위치의 형태를 가지는 시각적 객체를 표시하는 동작의 일 예를 도시한다.
도 10a 내지 도 10b는, 일 실시예에 따른, 웨어러블 장치가 커서 및/또는 가상 객체를 표시하는 동작의 일 예를 도시한다.
도 11은, 일 실시예에 따른, 웨어러블 장치의 흐름도의 일 예를 도시한다.
도 12는, 일 실시예에 따른, 웨어러블 장치의 흐름도의 일 예를 도시한다.
도 13은, 일 실시예에 따른, 웨어러블 장치의 흐름도의 일 예를 도시한다.
도 14는, 일 실시예에 따른, 웨어러블 장치의 흐름도의 일 예를 도시한다.
도 15는, 일 실시예에 따른, 웨어러블 장치의 흐름도의 일 예를 도시한다.
도 16a는, 일 실시예에 따른, 웨어러블 장치의 사시도(perspective view)의 일 예를 도시한다.
도 16b는, 일 실시예에 따른, 웨어러블 장치 내에 배치된 하나 이상의 하드웨어들의 일 예를 도시한다.
도 17a 내지 도 17b는, 일 실시예에 따른, 웨어러블 장치의 외관의 일 예를 도시한다.
이하, 본 문서의 다양한 실시예들이 첨부된 도면을 참조하여 설명된다.
본 문서의 다양한 실시 예들 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및/또는 B 중 적어도 하나", "A, B 또는 C" 또는 "A, B 및/또는 C 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", "첫째" 또는 "둘째" 등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 모듈은 ASIC(application-specific integrated circuit)으로 구성될 수 있다.
도 1은, 일 실시예에 따른, 웨어러블 장치(101)가 화면(120)을 표시하는 동작의 일 예를 도시한다. 일 실시예에서, 웨어러블 장치(101)는 사용자(110)의 머리에 착용 가능한(wearable on) HMD(head-mounted display)를 포함할 수 있다. 비록 안경의 형태를 가지는 웨어러블 장치(101)의 외형이 도시되지만, 실시예가 이에 제한되는 것은 아니다. 웨어러블 장치(101) 내에 포함된 하나 이상의 하드웨어들의 일 예가, 도 2를 참고하여 예시적으로 설명된다. 사용자(110)의 머리에 착용가능한 웨어러블 장치(101)의 구조의 일 예가, 도 16a 내지 도 16b 및/또는 도 17a 내지 도 17b를 참고하여 설명된다. 웨어러블 장치(101)는 전자 장치로 지칭될(referred) 수 있다. 예를 들어, 전자 장치는, 사용자의 머리에 부착되기 위한 액세서리와 결합되어, HMD를 형성할 수 있다.
일 실시예에 따른, 웨어러블 장치(101)는 VST(video see-through) 및/또는 가상 현실(virtual reality, VR)과 관련된 기능을 실행할 수 있다. 도 1을 참고하면, 사용자(110)가 웨어러블 장치(101)를 착용한 상태 내에서, 웨어러블 장치(101)는 사용자(110)의 눈을 덮는 하우징을 포함할 수 있다. 웨어러블 장치(101)는, 상기 상태 내에서, 상기 눈을 향하는 상기 하우징의 제1 면에 배치된 디스플레이를 포함할 수 있다. 웨어러블 장치(101)는 상기 제1 면과 반대인 제2 면 상에 배치된 카메라를 포함할 수 있다. 상기 카메라를 이용하여, 웨어러블 장치(101)는 주변 광(ambient light)이 포함된 프레임들을 획득할 수 있다. 웨어러블 장치(101)는 상기 제1 면에 배치된 디스플레이 내에, 상기 프레임들을 출력하여, 사용자(110)가 상기 디스플레이를 통해 상기 주변 광을 인식하게 할 수 있다. 상기 제1 면에 배치된 디스플레이의 표시 영역은, 상기 디스플레이에 포함된 하나 이상의 픽셀들에 의해 형성될 수 있다. 웨어러블 장치(101)는 상기 디스플레이를 통해 출력되는 프레임들 내에 가상 객체를 합성하여, 사용자(110)가 주변 광에 의해 인식되는 실제 객체와 함께 상기 가상 객체를 인식하게 할 수 있다.
일 실시예에 따른, 웨어러블 장치(101)는 증강 현실(augmented reality, AR) 및/또는 혼합 현실(mixed reality, MR)과 관련된 기능을 실행할 수 있다. 도 1의 도시에서(as shown in), 사용자(110)가 웨어러블 장치(101)를 착용한 상태 내에서, 웨어러블 장치(101)는 사용자(110)의 눈에 인접하게 배치된 적어도 하나의 렌즈를 포함할 수 있다. 웨어러블 장치(101)는 렌즈를 통과하는 주변 광에, 웨어러블 장치(101)의 디스플레이로부터 방사된 광을 결합할 수 있다. 상기 디스플레이의 표시 영역은, 주변 광이 통과되는 렌즈 내에서 형성될 수 있다. 웨어러블 장치(101)가 상기 주변 광 및 상기 디스플레이로부터 방사된 상기 광을 결합하기 때문에, 사용자(110)는 상기 주변 광에 의해 인식되는 실제 객체(real object) 및 상기 디스플레이로부터 방사된 상기 광에 의해 형성된 가상 객체(virtual object)가 혼합된 상(image)을 볼 수 있다.
도 1을 참고하면, 일 실시예에 따른, 웨어러블 장치(101)는 화면(120)을 표시할 수 있다. 웨어러블 장치(101)는 양안 시차(binocular disparity)를 이용하여, 원근감을 가지는 화면(120)을 표시할 수 있다. 웨어러블 장치(101)는 상기 양안 시차에 기반하여, 웨어러블 장치(101)를 착용한 사용자(110)의 두 눈들로, 상이한 위치들에 표시된 화면(120)을 포함하는 빛을 투사할 수 있다. 화면(120)은, 웨어러블 장치(101)에 의해 실행되는 프로그램(예, 소프트웨어 어플리케이션)으로부터 제공된 윈도우(예, 액티비티(activity)) 및/또는 위젯(또는 가젯)을 포함할 수 있다. 웨어러블 장치(101)는 양안 시차를 이용하여, 사용자(110)의 FoV(field-of-view)에서 부유하는(floating) 화면(120)을 표시할 수 있다. 예를 들어, AR에 기반하는 사용자 경험을 제공하는 경우, 웨어러블 장치(101)는, 외부 환경에 대한 이미지의 적어도 일부를 표시한 상태에서, 상기 이미지 상에 중첩으로 화면(120)을 표시할 수 있다. 상기 이미지는, 카메라를 이용하여 획득될 수 있다. 예를 들어, VR에 기반하는 사용자 경험을 제공하는 경우, 웨어러블 장치(101)는, 상기 이미지를 포함하지 않는 화면(120)을 표시할 수 있다.
일 실시예에 따른, 웨어러블 장치(101)는 화면(120) 내에 하나 이상의 시각적 객체들(visual objects)을 표시할 수 있다. 시각적 객체는, 텍스트, 이미지, 아이콘, 비디오, 버튼, 체크박스, 라디오버튼, 텍스트 박스, 슬라이더, 타임 피커, 프로그레스 바, 및/또는 테이블과 같이, 정보의 송신 및/또는 상호작용(interaction)을 위해 화면 내에 배치될 수 있는(deployable) 객체를 의미할 수 있다. 시각적 객체는, 가상 객체, 시각적 요소(visual elements), UI(user interface) 및/또는 UI 요소로 지칭될 수 있다.
도 1을 참고하면, 예시적으로 도시된 화면(120) 내에 포함된 하나 이상의 시각적 객체들이 도시된다. 웨어러블 장치(101)는 화면(120)에 대응하는 어플리케이션의 실행에 기반하여, 화면(120) 내에 하나 이상의 시각적 객체들을 배치할 수 있다. 예를 들어, 지정된 API(application programming interface)가 상기 어플리케이션에 포함된 인스트럭션들의 실행에 의해 호출되는 경우, 웨어러블 장치(101)는 상기 지정된 API에 의해 참조된 하나 이상의 파라미터들에 기반하여 화면(120)에, 적어도 하나의 시각적 객체를 배치할 수 있다.
예를 들어, 웨어러블 장치(101)는 시각적 객체들로써(as), 화면(120)을 제어하기 위한 버튼들(131, 132, 133)을 표시할 수 있다. 예를 들어, 웨어러블 장치(101)는 시각적 객체로써, 화면(120)의 스위칭을 위한 버튼(134)(예, 뒤로(backward) 버튼)을 표시할 수 있다. 예를 들어, 웨어러블 장치(101)는 시각적 객체로써, 어플리케이션에 의해 설정된 기능을 실행하기 위한 버튼(135)을 표시할 수 있다. 예를 들어, 웨어러블 장치(101)는 시각적 객체로써, 정보의 스크롤링을 위한 스크롤 바(141)를 표시할 수 있다. 스크롤 바(141)는, 화면(120)의 일부분(143)에 매칭될 수 있다. 예를 들어, 스크롤 바(141)와 관련된 입력에 기반하여, 웨어러블 장치(101)는 일부분(143)을 통해 표시되는 정보에 대한 스크롤링을 수행할 수 있다. 상기 스크롤링에 기반하여, 웨어러블 장치(101)는 일부분(143)을 통해 표시되는 정보를 이동할 수 있다. 웨어러블 장치(101)는 스크롤 바(141) 상에 중첩된 핸들(142)을 이용하여, 일부분(143)을 통해 표시되는 정보의 부분의 상기 정보 내 위치를 시각화할 수 있다.
일 실시예에 따른, 웨어러블 장치(101)는, 상이한 입력 수단을 통하여 사용자(110)와 상호작용할 수 있다. 예를 들어, 웨어러블 장치(101)는 외부 전자 장치(180)와 통신하여, 외부 전자 장치(180)에 의해 식별된 사용자(110)의 제스쳐 및/또는 모션을 식별할 수 있다. 외부 전자 장치(180)는 리모트 컨트롤러로 지칭될 수 있다. 실시예가 이에 제한되는 것은 아니며, 웨어러블 장치(101)는 사용자(110)의 손(110-1)을 인식할 수 있다. 웨어러블 장치(101)가 손(110-1)을 인식하는 것은, 웨어러블 장치(101)에 포함된 카메라로부터 획득된 이미지 및/또는 비디오에 의해 수행될 수 있다. 웨어러블 장치(101)가 손(110-1)을 인식하는 것은, 상기 이미지 및/또는 상기 비디오로부터 상기 손(110-1)의 위치, 자세 및/또는 형태를 나타내는 정보를 획득하는 동작을 포함할 수 있다. 웨어러블 장치(101)가 손(110-1)을 인식하여 상기 정보를 획득하는 동작은, 도 3을 참고하여 설명된다.
일 실시예에 따른, 웨어러블 장치(101)는, 상이한 입력 수단들 중에서 웨어러블 장치(101)에 의해 식별된 입력 수단과 관련된 사용자 경험을 제공할 수 있다. 예를 들어, 웨어러블 장치(101)는 화면(120) 내 시각적 객체를 변경 및/또는 교체하여, 상기 식별된 입력 수단에 기반하는 사용자(110) 및 웨어러블 장치(101) 사이의 상호작용에 적합한 화면(120)을 표시할 수 있다. 스크롤 바(141)가 표시된 도 1의 예시적인 케이스에서, 웨어러블 장치(101)는 입력 수단에 따라, 스크롤 바(141)를 교체 및/또는 변형할 수 있다. 도 1의 상이한 상태들(191, 192, 193)은, 웨어러블 장치(101)에 의해 식별된 입력 수단에 따라 구분될 수 있다.
도 1을 참고하면, 외부 전자 장치(180)를 식별한 상태(191)에서, 웨어러블 장치(101)는 외부 전자 장치(180)의 위치 및/또는 모션에 기반하여, 외부 전자 장치(180)에 기반하는 웨어러블 장치(101) 및 사용자(110) 사이의 상호작용을 가이드하기 위한 동작을 수행할 수 있다. 도 1의 상태(191)를 참고하면, 상기 동작은, 외부 전자 장치(180)의 외부 공간 내 위치 및/또는 방향에 기반하여 기준 방향을 나타내는 레이(ray)(182)를 표시하는 동작을 포함할 수 있다. 레이(182)는, 외부 전자 장치(180)의 일 지점으로부터, 외부 전자 장치(180)의 형태에 의해 연장된 축을 따라 표시될 수 있다. 레이(182)는, 사용자(110)에게 외부 전자 장치(180)에 의해 제어되는 대상을 알리기 위하여, 웨어러블 장치(101)에 의해 표시될 수 있다. 외부 전자 장치(180)의 일 측에서 연장되는 형태의 관점에서(in terms of), 레이(182)는 라인, 및/또는 포인터로 지칭될 수 있다.
도 1을 참고하면, 리모트 컨트롤러의 일 예인 외부 전자 장치(180)를 식별한 웨어러블 장치(101)는 외부 전자 장치(180)으로부터 수신된 신호를 이용하여, 사용자(110)의 모션을 식별할 수 있다. 상태(191)에서, 웨어러블 장치(101)는 외부 전자 장치(180)로부터, 외부 전자 장치(180)가 화면(120)의 스크롤 바(141)를 향하는 것을 나타내는 신호를 수신할 수 있다. 상기 신호에 기반하여, 스크롤 바(141)를 향하는 레이(182)를 표시한 상태(191)에서, 웨어러블 장치(101)는 외부 전자 장치(180)에 포함된 적어도 하나의 버튼의 누름을 알리는 다른 신호에 응답하여, 스크롤 바(141)와 관련된 기능을 실행할 수 있다. 예를 들어, 스크롤 바(141) 상에 중첩된 핸들(142)에 대한 클릭 및/또는 드래그를 나타내는 상기 다른 신호에 기반하여, 웨어러블 장치(101)는 핸들(142)의 이동, 및/또는 일부분(143)에 포함된 정보에 대한 스크롤링을 수행할 수 있다. 예를 들어, 외부 전자 장치(180)를 식별한 웨어러블 장치(101)는, 스크롤 바(141)의 표시를 유지하면서, 외부 전자 장치(180)의 신호를 이용하여 스크롤 바(141) 및/또는 일부분(143)에 대한 스크롤링을 수행할 수 있다.
일 실시예에 따른, 웨어러블 장치(101)는, 웨어러블 장치(101)를 제어하기 위한 입력 수단에 기반하여, 화면(120) 내 시각적 객체를, 상기 변경된 입력 수단에 대응하는 다른 시각적 객체로 교체 및/또는 변경할 수 있다. 도 1의 상태(192)에서, 웨어러블 장치(101)는 외부 전자 장치(180) 및 손(110-1) 중에서, 손(110-1)을 식별할 수 있다. 손(110-1)을 포함하는 신체 부위를 식별하는 것에 기반하여, 웨어러블 장치(101)는 스크롤 바(141) 및/또는 핸들(142)을 교체할 수 있다. 도 1의 예시적인 상태(192)에서, 웨어러블 장치(101)는 스크롤 바(141) 및/또는 핸들(142)을, 스크롤 바(150) 및 핸들(151)로 교체할 수 있다. 웨어러블 장치(101)는, 스크롤 바(141)를 향하는 방향(RD)을 가지는 손(110-1)을 식별하는 것에 응답하여, 스크롤 바(150) 및 핸들(151)의 상기 교체를 수행할 수 있다.
도 1을 참고하면, 웨어러블 장치(101)가 손(110-1)의 식별에 기반하여 표시하는 시각적 객체는, 손(110-1)의 형태에 의해 구분될 수 있다. 상태(192)에 도시된 손(110-1)의 형태와 같이, 어느 손가락들도 서로 접촉되지 않거나, 접히지 않은 경우, 웨어러블 장치(101)는 스크롤 바(150) 및 핸들(151)을 표시할 수 있다. 도 1의 상태(193)를 참고하면, 스크롤 바(141)를 향하도록 펼쳐진 집게 손가락을 포함하는 손(110-1)을 식별한 웨어러블 장치(101)는, 상기 집게 손가락의 위치에 대응하는 양안 시차를 이용하여, 상기 집게 손가락의 손 끝에 인접하는 버튼들(171, 172)의 그룹(170)을 표시할 수 있다. 실시예가 이에 제한되는 것은 아니며, 웨어러블 장치(101)가 상기 그룹(170)을 표시할지 여부는, 사용자(110) 및 스크롤 바(150)의 거리에 종속될 수 있다.
도 1의 상태(192)를 참고하면, 웨어러블 장치(101)에 의해 표시되는 스크롤 바(150), 핸들(151) 또는 그룹(170) 중 적어도 하나는, 손(110-1)의 형태 및/또는 제스쳐와 관련된 형태를 가질 수 있다. 예를 들어, 손(110-1)의 식별에 의해 표시된 스크롤 바(150)의 너비는, 스크롤 바(141)의 너비 보다 클 수 있다. 예를 들어, 핸들(151)은, 손(110-1)의 변형에 의한 제스쳐에 의해 변형될 수 있다. 예를 들어, 손(110-1)에 포함된 적어도 두 손가락들(예, 엄지 손가락 및 다른 손가락)의 손 끝들이 접촉되는 제스쳐(예, 핀치(pinch) 제스쳐)를 식별하는 것에 기반하여, 웨어러블 장치(101)는 핸들(151)의 형태를, 상기 제스쳐의 식별을 가이드하기 위한 지정된 형태로 변경할 수 있다. 예를 들어, 그룹(170)의 버튼들(171, 172)은, 손(110-1)의 손 끝의 이동에 의해 변형될 수 있다. 예를 들어, 손(110-1)에 포함된 집게 손가락의 손 끝이 버튼(172)이 표시된 공간을 향하여 지정된 거리를 초과하여 이동된 경우, 웨어러블 장치(101)는 버튼(172)을 변형하여, 상기 손 끝에 의한 버튼(172)의 눌림을 시각화할 수 있다. 상태들(192, 193) 각각에서 웨어러블 장치(101)가 표시되는 스크롤 바(150), 핸들(151) 및/또는 그룹(170)을 표시하는 동작이, 도 4a 내지 도 4b를 참고하여 설명된다.
비록 웨어러블 장치(101)가 스크롤 바(141)를 변형하여, 상이한 입력 수단들에 반응하는 일 실시예가 설명되었지만, 실시예가 이에 제한되는 것은 아니다. 웨어러블 장치(101)가 입력 수단에 의해 변형하는 시각적 객체의 타입은, 도 1의 스크롤 바(141)에 제한되지 않는다. 예를 들어, 사용자(110)에게 표시 가능한 시각적 객체들 중에서, 사용자(110)에게 반응하기 위한 하나 이상의 시각적 객체들을 분류하기 위한 카테고리가 설정될 수 있다. 웨어러블 장치(101)는 상기 카테고리에 포함된 시각적 객체(예, 도 1의 스크롤 바(141))를 표시하는 동안, 웨어러블 장치(101)에 의해 식별된 입력 수단에 기반하여 상기 시각적 객체를 변경 및/또는 교체할 수 있다. 후술되는 도면 및/또는 도면에 기반하는 설명은, 상기 카테고리에 포함된 시각적 객체에 대한 웨어러블 장치(101)의 동작과 관련될 수 있다.
예를 들어, 기능의 실행을 위해 사용자(110)의 제스쳐에 반응하도록 설계된 시각적 객체(예, 아이콘 및/또는 버튼)를 표시한 웨어러블 장치(101)의 동작이, 도 5a 내지 도 5b를 참고하여 설명된다. 예를 들어, 비디오의 탐색, 및/또는 수치 값의 입력을 위해 사용자(110)의 제스쳐에 반응하도록 설계된 시각적 객체(예, 슬라이더)를 표시한 웨어러블 장치(101)의 동작이 도 6a 내지 도 6c를 참고하여 설명된다. 예를 들어, 시간 구간의 입력을 위해 사용자(110)의 제스쳐에 반응하도록 설계된 시각적 객체(예, 타임 피커)를 표시한 웨어러블 장치(101)의 동작이 도 7a 내지 도 7b를 참고하여 설명된다. 예를 들어, 버튼들(131, 132, 133)과 같이, 화면(120)의 제어를 위해 표시된 시각적 객체에 대한 웨어러블 장치(101)의 동작이 도 8을 참고하여 설명된다. 예를 들어, 상태 및/또는 수치 값의 토글을 위해 사용자(110)의 제스쳐에 반응하도록 설계된 시각적 객체(예, 스위치)를 표시한 웨어러블 장치(101)의 동작이 도 9a 내지 도 9c를 참고하여 설명된다. 예를 들어, 텍스트의 입력을 위해 표시된 시각적 객체(예, 커서)를 표시한 웨어러블 장치(101)의 동작이 도 10a 내지 도 10b를 참고하여 설명된다.
상술한 바와 같이, 일 실시예에 따른, 웨어러블 장치(101)는 사용자(110)와 상호작용하기 위해 표시된 시각적 객체(예, 스크롤 바(141) 및/또는 핸들(142))를, 입력 수단(예, 손(110-1))에 적합한 형태 및/또는 위치에 기반하여 변형 및/또는 교체할 수 있다. 예를 들어, 웨어러블 장치(101)는 입력 수단에 따라 상기 시각적 객체를 변형하거나, 교체하거나, 및/또는 이동할 수 있다. 상기 시각적 객체의 이동은, 양안 시차의 변경에 기반하는 거리 감각의 변경을 포함할 수 있다. 웨어러블 장치(101)에 의한 시각적 객체의 변형 및/또는 교체는, 상기 시각적 객체를 포함하는 화면(120)에 대한 일체감에 기반하여, 수행될 수 있다.
이하에서는, 도 2를 참고하여, 도 1의 웨어러블 장치(101)에 포함된 하나 이상의 하드웨어들 및/또는 소프트웨어의 일 예가 설명된다.
도 2는, 일 실시예에 따른, 웨어러블 장치(101)의 블록도의 일 예를 도시한다. 도 2의 웨어러블 장치(101)는, 도 1의 웨어러블 장치(101)를 포함할 수 있다. 도 2의 외부 전자 장치(180)는, 도 1의 외부 전자 장치(180)를 포함할 수 있다.
일 실시예에 따른, 웨어러블 장치(101)는, 프로세서(210), 메모리(215), 디스플레이(220), 카메라(225), 센서(230), 또는 통신 회로(240) 중 적어도 하나를 포함할 수 있다. 프로세서(210), 메모리(215), 디스플레이(220), 카메라(225), 센서(230), 및 통신 회로(240)는 통신 버스(202)와 같은 전자 부품(electronical component)에 의해 서로 전기적으로 및/또는 작동적으로 연결될 수 있다(electronically and/or operably coupled with each other). 이하에서, 하드웨어들이 작동적으로 결합된 것은, 하드웨어들 중 제1 하드웨어에 의해 제2 하드웨어가 제어되도록, 하드웨어들 사이의 직접적인 연결, 또는 간접적인 연결이 유선으로, 또는 무선으로 수립된 것을 의미할 수 있다. 상이한 블록들에 기반하여 도시되었으나, 실시예가 이에 제한되는 것은 아니며, 도 2의 하드웨어들 중 일부분(예, 프로세서(210), 메모리(215), 및 통신 회로(240)의 적어도 일부분)이 SoC(system on a chip)와 같이 단일 집적 회로(single integrated circuit)에 포함될 수 있다. 웨어러블 장치(101) 내에 포함된 하드웨어의 타입 및/또는 개수는 도 2에 도시된 바에 제한되지 않는다. 예를 들어, 웨어러블 장치(101)는 도 2에 도시된 하드웨어 컴포넌트 중 일부만 포함할 수 있다.
일 실시예에서, 웨어러블 장치(101)의 프로세서(210)는, 하나 이상의 인스트럭션들에 기반하여 데이터를 처리하기 위한 하드웨어를 포함할 수 있다. 데이터를 처리하기 위한 상기 하드웨어는, 예를 들어, ALU(arithmetic and logic unit), FPU(floating point unit), FPGA(field programmable gate array), CPU(central processing unit), 및/또는 AP(application processor)를 포함할 수 있다. 프로세서(210)는, 싱글-코어 프로세서의 구조를 가지거나, 또는 듀얼 코어(dual core), 쿼드 코어(quad core), 헥사 코어(hexa core)와 같은 멀티-코어 프로세서의 구조를 가질 수 있다.
일 실시예에서, 웨어러블 장치(101)의 메모리(215)는, 웨어러블 장치(101)의 프로세서(210)에 입력 및/또는 출력되는 데이터 및/또는 인스트럭션을 저장하기 위한 하드웨어 컴포넌트를 포함할 수 있다. 메모리(215)는, 예를 들어, RAM(random-access memory)과 같은 휘발성 메모리(volatile memory) 및/또는 ROM(read-only memory)과 같은 비휘발성 메모리(non-volatile memory)를 포함할 수 있다. 휘발성 메모리는, 예를 들어, DRAM(dynamic RAM), SRAM(static RAM), Cache RAM, PSRAM (pseudo SRAM) 중 적어도 하나를 포함할 수 있다. 비휘발성 메모리는, 예를 들어, PROM(programmable ROM), EPROM (erasable PROM), EEPROM (electrically erasable PROM), 플래시 메모리, 하드디스크, 컴팩트 디스크, SSD(solid state drive), eMMC(embedded multi media card) 중 적어도 하나를 포함할 수 있다.
일 실시예에서, 웨어러블 장치(101)의 디스플레이(220)는 사용자(예, 도 1의 사용자(110))에게 시각화된 정보(예를 들어, 도 1, 도 4a 내지 도 4b, 도 5a 내지 도 5b, 도 6a 내지 도 6c, 도 7a 내지 도 7b, 도 8, 도 9a 내지 도 9c, 및/또는 도 11의 화면)를 출력할 수 있다. 예를 들어, 디스플레이(220)는, GPU(graphic processing unit)와 같은 회로를 포함하는 프로세서(210)에 의해 제어되어, 사용자에게 시각화된 정보(visualized information)를 출력할 수 있다. 디스플레이(220)는 FPD(flat panel display) 및/또는 전자 종이(electronic paper)를 포함할 수 있다. 상기 FPD는 LCD(liquid crystal display), PDP(plasma display panel) 및/또는 하나 이상의 LED(light emitting diode)를 포함할 수 있다. 상기 LED는 OLED(organic LED)를 포함할 수 있다. 도 2의 디스플레이(220)는, 도 16a 내지 도 16b, 및/또는 도 17a 내지 도 17b를 참고하여 후술될, 적어도 하나의 디스플레이(1650, 1750)를 포함할 수 있다.
일 실시예에서, 웨어러블 장치(101)의 카메라(225)는 빛의 색상 및/또는 밝기를 나타내는 전기 신호를 생성하는 하나 이상의 광 센서들(예, CCD(charged coupled device) 센서, CMOS(complementary metal oxide semiconductor) 센서)을 포함할 수 있다. 카메라(225)에 포함된 복수의 광 센서들은 2차원 격자(2 dimensional array)의 형태로 배치될 수 있다. 카메라(225)는 복수의 광 센서들 각각의 전기 신호들을 실질적으로 동시에 획득하여, 2차원 격자의 광 센서들에 도달한 빛에 대응하는 2차원 프레임 데이터를 생성할 수 있다. 예를 들어, 카메라(225)를 이용하여 캡쳐한 사진 데이터는 카메라(225)로부터 획득한 하나의(a) 2차원 프레임 데이터를 의미할 수 있다. 예를 들어, 카메라(225)를 이용하여 캡쳐한 비디오 데이터는, 프레임 율(frame rate)을 따라 카메라(225)로부터 획득된, 복수의 2차원 프레임 데이터의 시퀀스(sequence)를 의미할 수 있다. 카메라(225)는, 카메라(225)가 광을 수신하는 방향을 향하여 배치되고, 상기 방향을 향하여 광을 출력하기 위한 플래시 라이트를 더 포함할 수 있다.
일 실시예에 따른, 웨어러블 장치(101)는 카메라(225)의 일 예로, 상이한 상이한 방향들을 향하여 배치된 제1 카메라(225-1) 및 제2 카메라(225-2)를 포함할 수 있다. 제1 카메라(225-1)는, 동작 인식 카메라로 지칭되고, 제2 카메라(225-2)는 눈 추적 카메라로 지칭될 수 있다. 웨어러블 장치(101)는 제1 카메라(225-1)의 이미지(226-1)를 이용하여, 손(예, 도 1의 손(110-1))의 위치, 형태 및/또는 제스쳐를 식별할 수 있다. 웨어러블 장치(101)는 제2 카메라(225-2)의 이미지(226-2)를 이용하여, 웨어러블 장치(101)를 착용한 사용자의 시선의 방향을 식별할 수 있다. 일 실시예에서, 웨어러블 장치(101)는리모트 컨트롤러와 같은 외부 전자 장치(180) 및 웨어러블 장치(101) 사이의 통신 링크가 수립되었는지 여부에 따라, 제1 카메라(225-1)를 활성화할 수 있다. 예를 들어, 제1 카메라(225-1)를 이용하여, 사용자의 손에 쥔 외부 전자 장치(180)를 탐지하였거나, 또는 통신 회로(240)를 통하여 외부 전자 장치(180)를 탐지한 경우, 웨어러블 장치(101)는, 제1 카메라(225-1)를 비활성화할 수 있다. 웨어러블 장치(101)는 통신 회로(240)를 통하여 외부 전자 장치(180)로부터, 외부 전자 장치(180)에 대한 손의 릴리즈(또는, 손이 외부 전자 장치(180)로부터 분리됨)를 나타내는 신호를 수신하는 것에 기반하여, 제1 카메라(225-1)를 다시 활성화하여, 손의 위치, 형태 및/또는 제스쳐를 식별하는 것을 재개할 수 있다.
일 실시예에 따른, 웨어러블 장치(101)의 센서(230)는, 웨어러블 장치(101)와 관련된 비-전기적 정보(non-electronic information)로부터, 웨어러블 장치(101)의 프로세서(210) 및/또는 메모리(215)에 의해 처리될 수 있는 전기적 정보를 생성할 수 있다. 상기 정보는, 센서 데이터로 지칭될 수 있다. 상기 센서(230)는, 웨어러블 장치(101)의 지리적 위치(geographic location)를 탐지하기 위한 GPS(global positioning system) 센서, 이미지 센서, 조도 센서 및/또는 ToF(time-of-flight) 센서, 웨어러블 장치(101)의 물리적인 모션을 탐지하기 위한 IMU(inertial measurement unit)을 포함할 수 있다.
일 실시예에서, 웨어러블 장치(101)의 통신 회로(240)는, 웨어러블 장치(101), 및 외부 전자 장치(180) 사이의 전기 신호의 송신 및/또는 수신을 지원하기 위한 하드웨어 부품을 포함할 수 있다. 통신 회로(240)는, 예를 들어, 모뎀(MODEM), 안테나, O/E(optic/electronic) 변환기 중 적어도 하나를 포함할 수 있다. 통신 회로(240)는, 이더넷(ethernet), LAN(local area network), WAN(wide area network), WiFi(wireless fidelity), Bluetooth, BLE(bluetooth low energy), ZigBee, LTE(long term evolution), 5G NR(new radio) 및/또는 6G와 같은 다양한 타입의 프로토콜에 기반하여 전기 신호의 송신 및/또는 수신을 지원할 수 있다.
비록 도시되지 않았지만, 일 실시예에 따른, 웨어러블 장치(101)는 정보를 시각화한 형태 외에 다른 형태로 출력하기 위한 출력 수단을 포함할 수 있다. 예를 들어, 웨어러블 장치(101)는 음성 신호(acoustic signal)를 출력하기 위한 스피커를 포함할 수 있다. 예를 들어, 웨어러블 장치(101)는 진동에 기반하는 햅틱 피드백을 제공하기 위한 모터를 포함할 수 있다.
도 2를 참고하면, 웨어러블 장치(101)와 연결된 외부 전자 장치(180)의 외관이 예시된다. 웨어러블 장치(101)는 통신 회로(240)를 이용하여 외부 전자 장치(180)와 통신 링크를 수립할 수 있다. 외부 전자 장치(180)는, 누름 가능한 하나 이상의 버튼들을 포함할 수 있다. 외부 전자 장치(180)는 상기 통신 링크를 통하여 웨어러블 장치(101)로, 상기 버튼의 누름을 알리기 위한 신호를 송신할 수 있다. 외부 전자 장치(180)는 IMU(inertial measurement unit)와 같이, 외부 전자 장치(180)의 이동 및/또는 회전을 탐지하기 위한 센서를 포함할 수 있다. 외부 전자 장치(180)는 상기 통신 링코를 통하여 웨어러블 장치(101)로, 외부 전자 장치(180)의 상기 이동 및/또는 상기 회전을 알리기 위한 신호를 송신할 수 있다.
일 실시예에서, 웨어러블 장치(101)의 제어를 위한 외부 전자 장치(180)는, 웨어러블 장치(101)에 전용되는(dedicated to) 제1 리모트 컨트롤러를 포함할 수 있다. 실시예가 이에 제한되는 것은 아니며, 외부 전자 장치(180)는 웨어러블 장치(101)와 같은 HMD의 보편적인(universal) 제어를 위한 제2 리모트 컨트롤러를 포함할 수 있다. 상이한 리모트 컨트롤러들을 식별한 웨어러블 장치(101)는, 상기 리모트 컨트롤러들의 우선 순위에 기반하여, 특정 리모트 컨트롤러와 선택적으로 연결할 수 있다. 예를 들어, 상기 제1 리모트 컨트롤러 및 상기 제2 리모트 컨트롤러를 전부 식별한 웨어러블 장치(101)는, 상기 리모트 컨트롤러들 중에서 상기 제1 리모트 컨트롤러와 통신 링크를 우선적으로 수립할 수 있다. 상기 제1 리모트 컨트롤러와 상기 통신 링크를 우선적으로 수립한 상태에서, 웨어러블 장치(101)는 상기 제2 리모트 컨트롤러와 통신 링크를 수립하는 것을 적어도 일시적으로 중단할 수 있다. 상기 상태에서, 웨어러블 장치(101)는 상기 제1 리모트 컨트롤러의 비활성화(또는 미싱(missing))에 기반하여, 상기 제2 리모트 컨트롤러와 통신 링크를 수립할 수 있다.
도 2의 일 실시예를 참고하면, 웨어러블 장치(101)의 메모리(215) 내에서, 웨어러블 장치(101)의 프로세서(210)가 데이터에 수행할 연산, 및/또는 동작을 나타내는 하나 이상의 인스트럭션들(또는 명령어들)이 저장될 수 있다. 하나 이상의 인스트럭션들의 집합은, 프로그램, 펌웨어, 운영 체제, 프로세스, 루틴, 서브-루틴 및/또는 어플리케이션으로 참조될 수 있다. 이하에서, 어플리케이션이 전자 장치(예, 웨어러블 장치(101)) 내에 설치되었다는 것은, 어플리케이션의 형태로 제공된 하나 이상의 인스트럭션들이 메모리(215) 내에 저장된 것으로써, 상기 하나 이상의 어플리케이션들이 전자 장치의 프로세서에 의해 실행 가능한(executable) 포맷(예, 웨어러블 장치(101)의 운영 체제에 의해 지정된 확장자를 가지는 파일)으로 저장된 것을 의미할 수 있다. 일 실시예에 따른, 웨어러블 장치(101)는 메모리(215)에 저장된 하나 이상의 인스트럭션들을 실행하여, 도 11 내지 도 15의 동작을 수행할 수 있다.
도 2를 참고하면, 웨어러블 장치(101)에 설치된 프로그램들은, 타겟에 기반하여, 어플리케이션 계층(260), 프레임워크 계층(270) 및/또는 하드웨어 추상화 계층(hardware abstraction layer, HAL)(250)을 포함하는 상이한 계층들 중 어느 한 계층으로 분류될 수 있다. 예를 들어, 하드웨어 추상화 계층(250) 내에, 웨어러블 장치(101)의 하드웨어(예, 디스플레이(220), 카메라(225), 센서(230) 및/또는 통신 회로(240))를 타겟으로 설계된 프로그램들(예, 드라이버)이 분류될 수 있다. 예를 들어, 프레임워크 계층(270) 내에, 하드웨어 추상화 계층(250) 및/또는 어플리케이션 계층(260) 중 적어도 하나를 타겟으로 설계된 프로그램들(예, 시선 추적기(271), 제스쳐 추적기(272), 모션 추적기(273), 외부 공간 인식기(274) 및/또는 UI 프로바이더(275))이 분류될 수 있다. 프레임워크 계층(270)으로 분류되는 프로그램들은, 다른 프로그램에 기반하여 실행가능한 API(application programming interface)를 제공할 수 있다.
도 2를 참고하면, 어플리케이션 계층(260) 내에, 웨어러블 장치(101)를 제어하는 사용자(예, 도 1의 사용자(110))를 타겟으로 설계된 프로그램이 분류될 수 있다. 예를 들어, 어플리케이션 계층(260)으로 분류되는 프로그램은, 비디오의 재생 및/또는 스트리밍을 위한 어플리케이션(261), 화상 회의를 위한 어플리케이션(262), 메모리(215)의 미디어 콘텐트(예, 이미지 및/또는 비디오)를 열람하기 위한 어플리케이션(263), 또는 호 연결을 위한 어플리케이션(264) 중 적어도 하나를 포함할 수 있다. 실시예가 이에 제한되는 것은 아니다. 예를 들어, 어플리케이션 계층(260)으로 분류되는 프로그램은, API를 호출하여, 프레임워크 계층(270)으로 분류되는 프로그램들에 의해 지원되는 기능의 실행을 야기할 수 있다.
도 2를 참고하면, 웨어러블 장치(101)는 프레임워크 계층(270) 내 시선 추적기(271)의 실행에 기반하여, 웨어러블 장치(101)를 착용한 사용자의 시선과 관련된 정보를 처리할 수 있다. 예를 들어, 웨어러블 장치(101)는 제2 카메라(225-2)로부터 상기 사용자의 눈을 포함하는 이미지(226-2)를 획득할 수 있다. 상기 이미지(226-2) 내에 포함된 동공의 위치 및/또는 방향에 기반하여, 웨어러블 장치(101)는 사용자의 시선의 방향을 식별할 수 있다.
도 2를 참고하면, 웨어러블 장치(101)는 프레임워크 계층(270) 내 제스쳐 추적기(272)의 실행에 기반하여, 손을 포함하는 지정된 신체 부위의 모션을 식별할 수 있다. 예를 들어, 웨어러블 장치(101)는 제1 카메라(225-1)로부터 상기 신체 부위를 포함하는 이미지(226-1) 및/또는 비디오를 획득할 수 있다. 상기 이미지(226-1) 및/또는 비디오에 의해 나타나는, 상기 지정된 신체 부위의 모션 및/또는 자세에 기반하여, 웨어러블 장치(101)는 상기 지정된 신체 부위에 의해 수행된 제스쳐를 식별할 수 있다.
도 2를 참고하면, 웨어러블 장치(101)는 프레임워크 계층(270) 내 모션 추적기(273)의 실행에 기반하여, 웨어러블 장치(101)의 모션을 식별할 수 있다. 웨어러블 장치(101)가 사용자에 의해 착용된 상태 내에서, 웨어러블 장치(101)의 모션은, 상기 사용자의 머리의 모션과 관련될 수 있다. 예를 들어, 웨어러블 장치(101)는, 상기 머리의 방향과 실질적으로 일치하는, 웨어러블 장치(101)의 방향을 식별할 수 있다. 웨어러블 장치(101)는 IMU를 포함하는 센서(230)의 센서 데이터에 기반하여, 웨어러블 장치(101)의 모션을 식별할 수 있다.
도 2를 참고하면, 웨어러블 장치(101)는 프레임워크 계층(270) 내 외부 공간 인식기(274)의 실행에 기반하여, 웨어러블 장치(101)가 포함되거나, 또는 웨어러블 장치(101)에 인접한 외부 공간에 대한 정보를 획득할 수 있다. 웨어러블 장치(101)는 카메라(225) 및/또는 센서(230)를 이용하여, 상기 정보를 획득할 수 있다. 도 2를 참고하면, 외부 공간 인식기(274)가 실행된 상태 내에서, 웨어러블 장치(101)는 외부 공간 인식기(274)에 의해 기반하여 획득된 상기 정보에 기반하여, 상기 외부 공간에 매핑된 가상 공간을 식별할 수 있다. 외부 공간 인식기(274)의 실행에 기반하여, 웨어러블 장치(101)는 외부 공간 내에서 웨어러블 장치(101)의 위치 및/또는 방향을 식별할 수 있다. 예를 들어, 외부 공간 인식기(274) 및/또는 모션 추적기(273)의 실행에 기반하여, 웨어러블 장치(101)는, 외부 공간의 인식, 및 상기 외부 공간 내에서의 웨어러블 장치(101)의 위치를 인식하기 위한, SLAM(simultaneous localization and mapping)을 수행할 수 있다.
도 2를 참고하면, 웨어러블 장치(101)는 프레임 워크 계층(270) 내 UI 프로바이더(275)의 실행에 기반하여, 어플리케이션 계층(260)으로 분류된 어플리케이션의 실행을 지원할 수 있다. 어플리케이션의 실행을 지원하는 것은, 상기 어플리케이션의 화면(예, 도 1의 화면(120))에 포함된 하나 이상의 시각적 객체들(예, 도 1의 스크롤 바(141))을 표시하는 동작을 포함할 수 있다. 어플리케이션을 실행한 상태에서, 웨어러블 장치(101)의 프로세서(210)는 UI 프로바이더(275)의 기능에 대응하는 지정된 API를 식별하는 것에 응답하여, UI 프로바이더(275)를 이용하여 상기 기능을 실행할 수 있다. UI 프로바이더(275)는, 도 1의 스크롤 바(141)와 같이, 입력 수단에 따라 교체가능한(replaceable) 시각적 객체를 표시하기 위한 정보를 포함할 수 있다. 상기 정보를 이용하여, 웨어러블 장치(101)는 디스플레이(220)에 시각적 객체를 표시하거나, 변경하거나, 및/또는 교체할 수 있다.
일 실시예에 따른, 웨어러블 장치(101)는 UI 프로바이더(275)의 실행에 기반하여, 웨어러블 장치(101)를 제어하기 위한 입력 수단에 따른 시각적 객체의 교체를 수행할 수 있다. 예를 들어, 웨어러블 장치(101)는, 통신 회로(240)를 이용하여 외부 전자 장치(180)를 식별하는 것에 기반하여, 외부 전자 장치(180)로부터 수신된 신호에 따라, 디스플레이(220)에 표시된 시각적 객체의 기능을 제어할 수 있다. 외부 전자 장치(180)를 식별하지 못하였거나, 또는 제1 카메라(225-1)를 이용하여, 상기 시각적 객체를 향하는 신체 부위(예, 도 1의 손(110-1))를 식별하는 것에 기반하여, 웨어러블 장치(101)는 상기 시각적 객체를, 상기 신체 부위의 형태에 대응하는, 다른 시각적 객체로 변경할 수 있다. 웨어러블 장치(101)는 제1 카메라(225-1)를 이용하여, 상기 다른 시각적 객체와 관련된 상기 신체 부위의 제스쳐를 식별하는 것에 기반하여, 상기 기능을 제어할 수 있다. 예를 들어, 제1 시각적 객체를 제2 시각적 객체로 교체하는 것과 독립적으로, 웨어러블 장치(101)는 상기 제1 시각적 객체에 의해 지원되는 기능을, 상기 제2 시각적 객체를 이용하여 실행할 수 있다.
상술한 바와 같이, 일 실시예에 따른, 웨어러블 장치(101)는 어플리케이션 계층(260)에 포함된 어플리케이션을 실행하는 동안, UI 프로바이더(275)에 포함된 하나 이상의 인스트럭션들 및/또는 자원을 이용하여, 시각적 객체를 표시할 수 있다. 웨어러블 장치(101)는 외부 전자 장치(180) 및/또는 손을 포함하는 입력 수단에 기반하여, 디스플레이(220)를 통해 표시된 상기 시각적 객체를 변경하거나, 또는 교체할 수 있다. 예를 들어, 외부 전자 장치(180)를 식별한 제1 상태(예, 도 1의 상태(191)) 또는 손을 식별한 제2 상태(예, 도 1의 상태들(192, 193)) 각각에서, 웨어러블 장치(101)는 상기 시각적 객체의 교체 여부를 조절하여, 입력 수단에 적합하게 설계된 시각적 객체를 표시할 수 있다.
도 1의 상태들(192, 193)을 참고하여 상술한 바와 같이, 웨어러블 장치(101)는 제1 카메라(225-1)를 통해 획득한 이미지(226-1)에 의해 식별된 손의 형태를 이용하여, 상이한 형태를 가지는 시각적 객체들 중 어느 하나를 선택적으로 표시할 수 있다. 이하에서는, 도 3을 참고하여, 일 실시예에 따른, 웨어러블 장치(101)가 손의 형태를 인식하는 동작의 일 예가 설명된다.
도 3은, 일 실시예에 따른, 웨어러블 장치가 손(예, 도 1의 손(110-1))을 포함하는 신체 부위의 형태를 식별하는 동작의 일 예를 도시한다. 도 3의 웨어러블 장치는, 도 1 내지 도 2의 웨어러블 장치(101)를 포함할 수 있다. 웨어러블 장치(101)는 도 2의 제스쳐 추적기(272)의 실행에 기반하여, 도 3을 참고하여 설명되는 동작을 수행할 수 있다.
도 3을 참고하면, 지정된 신체 부위(예, 손)의 식별을 위해 이용되는 모델(310)의 일 예가 도시된다. 웨어러블 장치(101)는 모델(310)에 의해 설정된 복수의 파라미터들을 이용하여, 손의 형태 및/또는 자세를 식별할 수 있다. 상기 복수의 파라미터들은, 손에 포함된 상이한 지점들(예, 모델(310) 내 도트로 표시된 지점들)의 좌표 및/또는 상기 지점들의 회전에 대한 정보를 나타낼 수 있다.
일 실시예에 따른, 웨어러블 장치(101)는 카메라(예, 도 2의 제1 카메라(225-1))로부터 획득된 이미지를 이용하여, 손을 인식할 수 있다. 웨어러블 장치(101)가 손을 인식하는 것은, 모델(310)에 의해 설정된 상기 복수의 파라미터들을 획득 및/또는 조절하는 동작을 포함할 수 있다. 웨어러블 장치(101)가 손을 인식하는 것은, 상기 복수의 파라미터들에 기반하여, 상기 손의 형태를, 지정된 형태들 중에서 선택하는 동작을 포함할 수 있다. 웨어러블 장치(101)가 손을 인식하는 것은, 모델(310)에 기반하여 인식된 손의 형태(또는 제스쳐)에 대응하는 이벤트(예, 소프트웨어 인터럽트)를 발생하는 동작을 포함할 수 있다.
도 3을 참고하면, 웨어러블 장치(101)의 카메라를 이용하여 획득된 이미지들(320, 330, 340)이 예시된다. 카메라를 이용하여 이미지(320)를 획득한 경우, 웨어러블 장치(101)는 이미지(320)에 기반하여 모델(310)에 포함된 복수의 파라미터들을 조절하여, 손(322)의 형태를 식별할 수 있다. 이미지(320)로부터 상기 복수의 파라미터들을 식별 및/또는 조절하기 위하여, 웨어러블 장치(101)는 이미지(320)에 대한 특징 정보(예, 이미지(320)에 포함된 하나 이상의 특징점들(feature points) 및/또는 색상 분포를 나타내는 히스토그램)를 획득할 수 있다. 웨어러블 장치(101)는 인공 신경망(artificial neural network)에 상기 특징 정보 및/또는 이미지(320)를 입력하여, 상기 복수의 파라미터들을 획득할 수 있다. 상기 인공 신경망은, CNN(convolution neural network), RNN(recurrent neural network), 및/또는 LSTM(long-short term memory)을 포함할 수 있다.
도 3을 참고하면, 이미지(320)를 획득한 예시적인 케이스에서, 웨어러블 장치(101)는 이미지(320)에 기반하여 모델(310)의 복수의 파라미터들을 조절하고, 조절된 복수의 파라미터들에 기반하여 손(322)의 형태를 식별할 수 있다. 웨어러블 장치(101)가 손(322)의 형태를 식별하는 동작은, 손(322)의 방향(RD)을 식별하는 동작을 포함할 수 있다. 방향(RD)은, 손(322)에 포함된 상이한 지점들(예, 손바닥 및/또는 손목에 배치된 두 지점들)을 연결하는 라인을 포함할 수 있다. 웨어러블 장치(101)는 방향(RD) 및 하나 이상의 손가락들의 방향을 비교하여, 이미지(320)에 포함된 손(322)의 형태를 식별할 수 있다. 예를 들어, 웨어러블 장치(101)는 집게 손가락의 손 끝에 대응하는 지점(FT2)의 좌표를 이용하여, 방향(RD) 및 상기 집게 손가락의 방향을 비교할 수 있다. 도 3에 도시된 손(322)의 형태와 같이, 방향(RD)과 집게 손가락의 방향이 상이하고, 어느 손가락도 펼쳐지지 않은 형태가, 유휴(idle) 제스쳐 및/또는 중립(neutral) 제스쳐로 지칭될 수 있다.
도 3을 참고하면, 카메라를 이용하여 이미지(330)를 획득한 경우, 웨어러블 장치(101)는 모델(310) 및 이미지(330)를 비교하여, 이미지(330)에 캡쳐된 손(332)의 형태를 식별할 수 있다. 집게 손가락 및 엄지 손가락이 서로 접촉된 형태의 손(332)을 포함하는 이미지(330)를 획득한 경우, 웨어러블 장치(101)는 집게 손가락의 손 끝의 지점(FT2) 및 엄지 손가락의 손 끝의 지점(FT1)의 좌표들이 서로 일치하거나, 또는 상기 좌표들 사이의 거리가 지정된 거리 미만임을 식별할 수 있다. 서로 일치하거나, 또는 지정된 거리 미만으로 이격된 지점들(FT1, FT2)을 식별한 상태에서, 웨어러블 장치(101)는 접촉된 집게 손가락 및 엄지 손가락에 의해 표현된 제스쳐를 식별할 수 있다. 도 3의 손(332)의 형태와 같이, 집게 손가락 및 엄지 손가락의 손 끝들이 서로 접촉된 형태가, 핀치(pinch) 제스쳐로 지칭될 수 있다. 핀치 제스쳐를 식별한 웨어러블 장치(101)는 손(332)의 방향(RD)과 함께, 집게 손가락에 접촉된 손가락(이미지(330)의 경우, 엄지 손가락)의 타입 및/또는 개수를 식별할 수 있다.
도 3을 참고하면, 카메라를 이용하여 이미지(340)를 획득한 경우, 웨어러블 장치(101)는 모델(310) 및 이미지(340)를 비교하여, 이미지(340)에 캡쳐된 손(342)의 형태를 식별할 수 있다. 도 3의 손(342)과 같이, 집게 손가락에 포함된 하나 이상의 관절들이 임계 각도(예, 160 º 내지 180 º) 이상으로 펼쳐지고, 집게 손가락을 제외한 다른 손가락들의 관절들이 접힌 형태가, 포인팅 제스쳐로 지칭될 수 있다. 손(342)이 포인팅 제스쳐의 형태를 가지는 경우, 집게 손가락으로부터 지점(FT2)으로 향하는 방향(FD) 및 방향(RD)은 서로 평행할 수 있다. 이미지(340)를 이용하여 웨어러블 장치(101)는 손(342)에 의해 표현된 포인팅 제스쳐를 식별할 수 있다. 포인팅 제스쳐를 식별한 웨어러블 장치(101)는 집게 손가락의 지점(FT2)으로부터 연장된 방향(FD)을 식별할 수 있다. 웨어러블 장치(101)가 손(342)으로부터 포인팅 제스쳐를 식별하는 것은, 이미지(340)에 의해 식별된 손(342)의 위치가, 웨어러블 장치(101)를 착용한 사용자의 FoV 내에 포함되는 상태에서 수행될 수 있다.
상술한 바와 같이, 일 실시예에 따른, 웨어러블 장치(101)는 카메라를 이용하여 획득된 이미지(예, 이미지들(320, 330, 340))를, 모델(310)에 기반하여 인식할 수 있다. 웨어러블 장치(101)는 이미지에 포함된 손의 손가락들의 방향 및/또는 각도를 식별할 수 있다. 웨어러블 장치(101)는 손가락들의 방향들 및/또는 각도들에 기반하여, 손가락들을 포함하는 손의 형태를 식별할 수 있다. 예를 들어, 웨어러블 장치(101)는 도 3을 참고하여 상술된 포인팅 제스쳐 및/또는 핀치 제스쳐를 식별할 수 있다. 손의 방향(예, 방향들(RD, FD)) 및/또는 형태에 기반하여, 웨어러블 장치(101)는 시각적 객체를 변경할 수 있다. 예를 들어, 유휴 제스쳐의 형태를 가지는 손(322)을 식별한 웨어러블 장치(101)는 손(322)의 방향(RD)에 배치된 시각적 객체를, 손(322)과 관련된 형태를 가지는 다른 시각적 객체로 변경할 수 있다. 예를 들어, 핀치 제스쳐의 형태를 가지는 손(332)을 식별한 웨어러블 장치(101)는 손(332)의 이동 방향에 기반하여, 손(332)에 대응하는 시각적 객체를 이동하거나, 및/또는 변경할 수 있다. 예를 들어, 포인팅 제스쳐의 형태를 가지는 손(342)을 식별한 웨어러블 장치(101)는 집게 손가락의 방향(FD)에 배치된 시각적 객체를 변경할 수 있다.
이하에서는, 도 4a 내지 도 4b를 참고하여, 모델(310)을 이용하여 식별된 손의 형태 및/또는 자세에 기반하여 웨어러블 장치(101)에 의해 수행되는 동작의 일 예가 설명된다.
도 4a 내지 도 4b는, 일 실시예에 따른, 웨어러블 장치(101)가 정보의 스크롤링을 위한 시각적 객체를 표시하는 동작의 일 예를 도시한다. 도 1 내지 도 2의 웨어러블 장치(101)는 도 4a 내지 도 4b의 웨어러블 장치(101)를 포함할 수 있다. 도 4a 내지 도 4b를 참고하면, 도 1의 화면(120)이 표시된 동안, 사용자(110)의 손(110-1)의 형태 및/또는 자세에 기반하여 진입하는 웨어러블 장치(101)의 상이한 상태들(401, 402, 403, 404, 405, 406)이 도시된다.
일 실시예에 따른, 웨어러블 장치(101)는 화면(120)의 일부분(143)에 표시된 정보의 스크롤링을 수행하기 위한 스크롤 바(141)를 표시할 수 있다. 스크롤 바(141) 상에 표시된 핸들(142)을 이용하여 웨어러블 장치(101)는 일부분(143)을 통해 표시된 정보의 위치를 표시할 수 있다. 리모트 컨트롤러를 포함하는 외부 전자 장치(예, 도 1의 외부 전자 장치(180))와 통신하는 동안, 웨어러블 장치(101)는 스크롤 바(141)를 표시하는 것을 유지할 수 있다. 외부 전자 장치로부터 수신된 신호에 기반하여, 웨어러블 장치(101)는 스크롤 바(141) 상에 중첩된 핸들(142)을 이동하고, 스크롤 바(141)에 매칭된 영역(예, 일부분(143))을 통해 표시되는 정보의 스크롤링을 수행할 수 있다.
도 4a의 상태(401)에서, 웨어러블 장치(101)는 스크롤 바(141)를 향하는 방향(RD)을 가지고, 도 3의 손(322)과 같이 유휴 제스쳐의 형태를 가지는 손(110-1)을 식별할 수 있다. 유휴 제스쳐의 형태를 가지는 손(110-1)을 식별하는 것에 기반하여, 웨어러블 장치(101)는 스크롤 바(141)를, 손(110-1)에 대응하는 형태를 가지는 스크롤 바(410)로 교체할 수 있다. 예를 들어, 손(110-1)을 포함하는 지정된 신체 부위를 식별한 웨어러블 장치(101)는, 스크롤 바(141) 보다 큰 사이즈를 가지고, 손(110-1)의 제스쳐에 의해 변형가능한 핸들(411)을 포함하는, 스크롤 바(410)를 표시할 수 있다. 웨어러블 장치(101)는 스크롤 바(141)의 사이즈(예, 너비) 보다 큰 사이즈를 가지는 스크롤 바(410)를, 스크롤 바(141)의 위치에 표시할 수 있다. 웨어러블 장치(101)는 스크롤 바(410)와 함께, 핸들(411)을 표시할 수 있다. 제1 방향을 따르는 라인의 형태를 가지는 스크롤 바(410) 내에서, 웨어러블 장치(101)는 상기 제1 방향에 수직인 제2 방향을 따라 연장된 형태를 가지는 핸들(411)을 표시할 수 있다. 웨어러블 장치(101)는 핸들(411)을 3 차원으로 표시하여, 스크롤 바(410)로부터 사용자(110)를 향하여 돌출된 형태를 가지는 핸들(411)을 표시할 수 있다. 예를 들어, 핸들(411)의 양안 시차는, 핸들(411)이 배치된 스크롤 바(410) 및/또는 화면(120)의 양안 시차보다 클 수 있다. 일 실시예에 따른, 웨어러블 장치(101)는, 스크롤 바(141)와 함께 표시된 핸들(142) 보다 큰 사이즈를 가지는 핸들(411)을 이용하여, 손(110-1)의 방향(RD)에 의한 핸들(411)의 선택을 가이드 할 수 있다. 도 4a를 참고하면, 상태들(401, 402, 403) 각각에서, 웨어러블 장치(101)에 의해 표시된 핸들(411)의 상이한 형태들이 도시된다.
도 4a를 참고하면, 스크롤 바(141)를 대체하는 스크롤 바(410)를 표시한 상태(401)에서, 웨어러블 장치(101)는 손(110-1)의 변형을 식별할 수 있다. 손(110-1)을 포함하는 이미지(예, 도 2의 이미지(226-1))를 이용하여, 웨어러블 장치(101)는, 손(110-1)의 형태가 유휴 제스쳐의 형태로부터 핀치 제스쳐로 변형됨을 식별할 수 있다. 핀치 제스쳐로 변형된 손(110-1)을 식별하는 것에 기반하여, 웨어러블 장치(101)는 상태(402)로 진입할 수 있다. 상태(402)에서, 웨어러블 장치(101)는 핸들(411-1)의 형태를, 핀치 제스쳐의 식별을 가이드하기 위한 형태로 변경할 수 있다. 예를 들어, 웨어러블 장치(101)는 스크롤 바(410)와 중첩된 부분과 스크롤 바(410)의 바깥으로 연장된 다른 부분의 사이즈를 다르게 만들어, 핀치 제스쳐의 손(110-1)에 의해 붙잡힌 형태를 가지는 핸들(411-1)을 표시할 수 있다.
도 4a를 참고하면, 스크롤 바(410)에 대한 핀치 제스쳐를 식별한 상태(402)에서, 웨어러블 장치(101)는 상기 핀치 제스쳐를 수행한 손(110-1)의 위치에 기반하여, 스크롤 바(410)와 관련된 기능(예, 스크롤링)을 수행할 수 있다. 상태(402)에서, 웨어러블 장치(101)는 핸들(411-2)을, 손(110-1)의 핀치 제스쳐를 식별한 시점에서 변형하여, 상기 핀치 제스쳐를 식별하였음을 가이드할 수 있다. 예를 들어, 스크롤 바(410)에 평행한 방향(D1)을 따라 이동되는 손(110-1)을 식별하는 것에 기반하여, 웨어러블 장치(101)는 핸들(411-2)을, 스크롤 바(410) 상에서 방향(D1')을 따라 이동할 수 있다. 방향(D1')을 따라 이동된 핸들(411-2)의 스크롤 바(410)에서의 위치에 기반하여, 웨어러블 장치(101)는 스크롤 바(410)에 대응하는 일부분(143)에 표시된 정보를 이동할 수 있다. 핸들(411-2)을 방향(D1')에 기반하여 이동한 경우, 웨어러블 장치(101)는 일부분(143)에 표시된 정보 이전의(prior to) 다른 정보를, 일부분(143)에 표시할 수 있다.
유사하게 스크롤 바(410)에 평행한 방향(D2)을 따라 이동되는 손(110-1)을 식별하는 것에 기반하여, 웨어러블 장치(101)는 핸들(411-2)을, 스크롤 바(410) 상에서 방향(D2')을 따라 이동할 수 있다. 방향(D2')을 따라 이동된 핸들(411-2)에 기반하여, 웨어러블 장치(101)는 일부분(143)에 표시된 정보를, 상기 정보 이후의 다른 정보로 교체할 수 있다. 일부분(143)과 연동된 스크롤 바(141)를 스크롤 바(410)로 교체한 이후, 웨어러블 장치(101)는 스크롤 바(410)와 관련된 제스쳐에 기반하여, 상기 일부분(143)에 대한 스크롤링을 수행할 수 있다.
도 4a를 참고하면, 핀치 제스쳐의 형태를 가지는 손(110-1)을 식별한 상태(402)에서, 상기 핀치 제스쳐가 중단됨을 식별한 웨어러블 장치(101)는, 상태(403)로 전환할 수 있다. 상태(403)에서, 웨어러블 장치(101)는 상태(402)에서 도시된 핸들(411-2)과 다른 형태로 핸들(411-3)을 변형할 수 있다. 핸들(411-3)의 상기 변형에 기반하여, 웨어러블 장치(101)는 상기 핀치 제스쳐의 중단을 시각화할 수 있다. 상태(403)에서, 웨어러블 장치(101)는, 스크롤 바(410)의 너비를 가지고, 사용자(110)를 향하여 돌출된 형태의 핸들(411-3)을 표시할 수 있다.
상태들(401, 402, 403)의 순차적인 전환에 기반하여, 웨어러블 장치(101)가 스크롤 바(141)를 스크롤 바(410)로 변경하는 예시적인 케이스가 설명되었다. 손(110-1)의 이동에 기반하여, 웨어러블 장치(101)는 스크롤 바(410)를 표시하는 것을 중단하고, 스크롤 바(141)를 표시하는 것을 재개할 수 있다. 예를 들어, 유휴 제스쳐의 형태를 가지는 손(110-1)을 식별한 상태(403)에서, 웨어러블 장치(101)는 손(110-1)의 이동(예, 사용자(110)의 FoV의 밖으로의 손(110-1)의 이동)을 식별하는 것에 응답하여, 스크롤 바(410)를, 스크롤 바(141)로 변경 및/또는 교체할 수 있다.
일 실시예에 따른, 웨어러블 장치(101)가 스크롤 바(141)의 교체를 위해 표시하는 시각적 객체는, 도 4a의 스크롤 바(410) 및/또는 핸들(411)에 제한되지 않는다. 도 4b를 참고하면, 웨어러블 장치(101)는 손(110-1)의 형태에 따라, 스크롤 바(141)의 교체와 함께, 상기 형태에 적합한 시각적 객체를 표시할 수 있다. 도 4b의 상태(404)에서, 웨어러블 장치(101)는 유휴 제스쳐의 형태를 가지는 손(110-1)을 식별하는 것에 기반하여, 스크롤 바(141)를, 스크롤 바(410)로 교체할 수 있다. 교체된 스크롤 바(410) 상에 중첩된 핸들(411)을 이용하여, 웨어러블 장치(101)는 스크롤 바(410)에 대응하는 화면(120)의 일부분(143)에 표시되는 정보의 위치를 시각화할 수 있다.
도 4b의 상태(404)에서, 웨어러블 장치(101)는 손(110-1)의 변형을 식별할 수 있다. 예를 들어, 사용자(110)는 스크롤 바(410)에 대한 포인팅 제스쳐를 수행할 수 있다. 상기 포인팅 제스쳐를 식별한 상태(405)에서, 웨어러블 장치(101)는 집게 손가락의 방향(FD)을 이용하여 상기 포인팅 제스쳐에 의한 스크롤 바(410)의 선택을 식별할 수 있다. 스크롤 바(410)를 향하는 방향(FD)을 식별한 상태(405)에서, 웨어러블 장치(101)는 스크롤 바(410)와 함께, 스크롤 바(410)의 양 방향들 각각에 대응하는 버튼들(421, 422)의 그룹(420)을 표시할 수 있다. 웨어러블 장치(101)는, 스크롤 바(410)가 연장된 축의 양 방향들 중 어느 하나를 선택하여 스크롤을 수행하기 위한 버튼들(421, 422)을 이용하여, 손(110-1)의 형태(예, 포인팅 제스쳐의 형태)를 유지하게 만들 수 있다. 예를 들어, 사용자(110)는 핸들(411)의 선택을 위한 핀치 제스쳐를 수행하지 않으면서, 포인팅 제스쳐의 형태를 가지는 손(110-1)을 이동하여 버튼들(421, 422) 중 어느 하나를 선택할 수 있다. 일 실시예에서, 웨어러블 장치(101)는 방향(FD)을 표현한 라인(예, 레이)을 더 표시할 수 있다.
도 4b를 참고하면, 웨어러블 장치(101)는, 화면(120)이 표시된 거리에 기반하여, 버튼들(421, 422)의 그룹(420)의 거리를 조절할 수 있다. 화면(120)이 사용자(110)로부터 임계 거리(예, 50 cm) 이하의 범위에 표시된 상태(405)에서, 웨어러블 장치(101)는 화면(120) 및 사용자(110) 사이의 거리에 기반하여, 버튼들(421, 422)의 그룹(420)을 표시할 수 있다. 화면(120)이 사용자(110)로부터 상기 임계 거리를 초과하는 범위에 표시된 상태(406)에서, 웨어러블 장치(101)는 상기 임계 거리 이하의 거리에서, 버튼들(421, 422)의 그룹(420)을 표시할 수 있다. 예를 들어, 버튼들(421, 422)의 그룹(420)은, 손(110-1)의 공간적 위치(spatial location)에 기반하여, 손(110-1)에 인접하여 표시될 수 있다. 상기 임계 거리는, 사용자(110)의 손(110-1)에 의해 도달 가능한(reachable) 외부 공간을 구분하기 위해 설정될 수 있다. 실시예가 이에 제한되는 것은 아니며, 웨어러블 장치(101)는 손(110-1) 및 손(110-1)에 의해 포인팅된 가상 객체 사이의 거리에 기반하여, 상기 가상 객체가 표시되는 거리를 변경할 수 있다. 예를 들어, 웨어러블 장치(101)는, 손(110-1) 및 손(110-1)에 의해 포인팅된 버튼들(421, 422)의 그룹(420) 사이의 거리가 임계 거리를 초과하는 경우, 손(110-1) 및 그룹(420) 사이의 거리가 상기 임계 거리 미만이 되도록, 그룹(420)을 이동할 수 있다.
예를 들어, 상기 임계 거리를 초과하여 화면(120)을 표시하는 동안, 웨어러블 장치(101)는 손(110-1) 또는 외부 전자 장치(예, 리모트 컨트롤러) 중 손(110-1)을 식별하는 것에 기반하여, 손(110-1)의 형태에 대응하는 하나 이상의 시각적 객체들(예, 스크롤 바(410), 핸들(411), 및/또는 버튼들(411, 412)의 그룹(420))을 표시할 수 있다. 손(110-1)의 형태가 유휴 제스쳐의 형태에 대응하는 경우, 웨어러블 장치(101)는 상태(404)와 같이, 스크롤 바(141) 및/또는 화면(120)의 거리에 기반하여, 스크롤 바(410)를 표시할 수 있다. 손(110-1)의 형태가 포인팅 제스쳐의 형태에 대응하는 경우, 웨어러블 장치(101)는 상태(406)와 같이, 손(110-1)에 인접한 시각적 객체(예, 버튼들(421, 422)의 그룹(420))를 표시할 수 있다. 손(110-1)에 인접한 상기 시각적 객체를 표시하기 위하여, 웨어러블 장치(101)는 사용자의 손(110-1)의 임계 거리 이하의 거리에서 상기 시각적 객체를 표시할 수 있다. 일 실시예에서, 웨어러블 장치(101)는, 그룹(420)이 스크롤 바(410)에 대응함을 나타내기 위한 시각적 객체(430)를 표시할 수 있다. 도 4b의 상태(406)에서, 웨어러블 장치(101)는, 그룹(420) 및 스크롤 바(410)를 연결하는 도형(예, 다각형)의 형태를 가지는 시각적 객체(430)를 이용하여, 그룹(420)에 포함된 버튼들(421, 422)이 스크롤 바(410)와 연동됨을 알릴 수 있다. 시각적 객체(430)의 투명도를, 지정된 투명도(예, 0 %를 초과하고, 100 % 미만의 투명도)로 설정하여, 웨어러블 장치(101)는 시각적 객체(430)에 의해 다른 가상 객체가 가려지는 것을 방지할 수 있다.
상술한 바와 같이, 일 실시예에 따른, 웨어러블 장치(101)는 스크롤 바(141)를, 웨어러블 장치(101)에 의해 식별된 손(110-1)의 형태, 자세 및/또는 위치에 기반하여, 스크롤 바(410)로 교체할 수 있다. 교체된 스크롤 바(410)는 손(110-1)의 제스쳐를 가이드하기 위한 형태, 사이즈 및/또는 위치를 가질 수 있다. 웨어러블 장치(101)는 스크롤 바(410)에, 3 차원의 형태를 가지는 핸들(411)을 표시하거나, 손(110-1)에 인접한 버튼들(421, 422)의 그룹(420)을 표시할 수 있다. 웨어러블 장치(101)가 그룹(420)을 표시하는 것은, 스크롤 바(410) 및/또는 스크롤 바(410)를 포함하는 화면(120)이 사용자(110)로부터 임계 거리를 초과하여 이격되었는지 여부에 기반하여, 수행될 수 있다.
도 4a 내지 도 4c의 일 실시예에서, 웨어러블 장치(101)는 세로(vertical) 방향으로 지칭되는 제1 방향을 따라 스크롤 바(141)를 표시할 수 있다. 상기 세로 방향은, 사용자(110)가 웨어러블 장치(101)를 착용한 상태에서, 사용자(110)의 두 눈들을 연결하는 축과 수직일 수 있다. 일 실시예에서, 상기 세로 방향은, 화면(120) 내에 포함된 텍스트(예, 영어로 기재된 텍스트)에서, 라인 피드(line feed)의 방향과 평행할 수 있다. 일 실시예에서, 상기 세로 방향은, 화면(120) 내에 포함된 텍스트(예, 중문으로 기재된 텍스트)에서, 라인의 방향과 평행할 수 있다. 일 실시예에서, 상기 세로 방향은, 웨어러블 장치(101)로 적용되는 힘(예, 중력)의 방향과 평행하거나, 또는 상기 힘의 방향과 지정된 각도(예, 45 º) 미만의 차이를 가지는 디스플레이의 가장자리의 방향과 평행할 수 있다.
도 4a 내지 도 4c의 일 실시예에서, 상기 세로 방향을 따라 표시된 스크롤 바(141)를 교체하는 웨어러블 장치(101)의 동작이 설명되었지만, 실시예가 이에 제한되는 것은 아니다. 예를 들어, 웨어러블 장치(101)는 상기 세로 방향과 수직인 가로(horizontal) 방향을 따라 스크롤 바를 표시할 수 있다. 일 실시예에서, 웨어러블 장치(101)는, 세로 방향과 평행인 스크롤 바, 및 가로 방향과 평행인 다른 스크롤 바를 선택적으로 표시하거나, 또는 실질적으로 동시에 표시할 수 있다. 상기 가로 방향은, 사용자(110)가 웨어러블 장치(101)를 착용한 상태에서, 사용자(110)의 두 눈들을 연결하는 축과 평행할 수 있다. 일 실시예에서, 상기 가로 방향은, 상기 라인 피드의 방향과 수직일 수 있다. 일 실시예에서, 상기 가로 방향은, 웨어러블 장치(101)로 적용되는 힘의 방향과 수직이거나, 또는 상기 힘의 방향과 지정된 각도(예, 45 º)를 초과하는 차이를 가지는 디스플레이의 가장자리의 방향과 평행할 수 있다. 가로 방향을 따라 스크롤 바가 표시된 일 실시예에서, 웨어러블 장치(101)는 도 4a 내지 도 4c를 참고하여 상술한 바와 유사하게, 손(110-1)의 형태, 자세 및/또는 위치에 기반하여, 상기 가로 방향을 따라 표시된 상기 스크롤 바를 변경할 수 있다.
스크롤 바(141)를 교체하는 웨어러블 장치(101)의 동작이 설명되었지만, 실시예가 이에 제한되는 것은 아니다. 웨어러블 장치(101)는 사용자(110)의 제스쳐에 반응 가능한 시각적 객체를, 입력 수단에 기반하여 변경 및/또는 교체할 수 있다. 이하에서는 도 5a 내지 도 5b를 참고하여, 버튼 및/또는 아이콘을 변경 및/또는 교체하는 웨어러블 장치(101)의 동작의 일 예가 설명된다.
도 5a 내지 도 5b는, 일 실시예에 따른, 웨어러블 장치(101)가 버튼의 형태를 가지는 시각적 객체를 표시하는 동작의 일 예를 도시한다. 도 1 내지 도 2의 웨어러블 장치(101)는 도 5a 내지 도 5b의 웨어러블 장치(101)를 포함할 수 있다. 도 5a 내지 도 5b를 참고하면, 입력 수단에 의해 구분되는 웨어러블 장치(101)의 상이한 상태들(501, 502, 503, 504, 505, 506)이 도시된다.
일 실시예에 따른, 웨어러블 장치(101)는 디스플레이(예, 도 2의 디스플레이(220))를 제어하여 사용자(110)의 FoV에, 팝업 윈도우(510)(또는 메시지 다이얼로그, 다이얼로그 박스)를 표시할 수 있다. 팝업 윈도우(510)는, 웨어러블 장치(101)의 프레임 워크(예, 도 2의 UI 프로바이더(275))에 의해 제공되고, 웨어러블 장치(101)에 의해 식별된 입력 수단에 종속된 형태를 가질 수 있다. 도 5a를 참고하면, 웨어러블 장치(101)는 2 차원의 형태를 가지는 버튼들(511, 512)을 포함하는 팝업 윈도우(510)를 표시할 수 있다. 사용자(110)가 웨어러블 장치(101)를 착용한 경우, 팝업 윈도우(510)는, 웨어러블 장치(101)에 의해 조절된 양안 시차에 기반하여, 사용자(110)의 FoV 내에서 부유할 수 있다.
도 5a를 참고하면, 일 실시예에 따른, 웨어러블 장치(101)는 리모트 컨트롤러와 같은 외부 전자 장치(180)와 연결된 상태(501)에서, 2 차원의 형태를 가지는 버튼들(511, 512)에 기반하여 사용자(110)와 상호작용할 수 있다. 상태(501)에서, 웨어러블 장치(101)는 외부 전자 장치(180)로부터 연장된 레이(182)를 표시할 수 있다. 외부 전자 장치(180)의 일부분으로부터 연장된 라인의 형태를 가진 레이(182)를 이용하여, 웨어러블 장치(101)는 외부 전자 장치(180)의 이동 및/또는 회전에 의한 객체의 포커스를 수행할 수 있다. 예를 들어, 외부 전자 장치(180)의 이동 및/또는 회전을 식별한 웨어러블 장치(101)는, 레이(182)를 변형하고, 변형된 레이(182)와 중첩된 시각적 객체를 강조할 수 있다.
도 5a를 참고하면, 외부 전자 장치(180)로부터 연장된 레이(182)가 팝업 윈도우(510)의 버튼(511)을 향하는 상태(501)에서, 웨어러블 장치(101)는 버튼(511)의 상태를 조절하여, 버튼(511)이 외부 전자 장치(180)의 방향에 의해 포커스 되었음을 식별할 수 있다. 웨어러블 장치(101)는 유휴 상태(또는 디폴트 상태)의 버튼(511-1)을 향하는 레이(182)를 표시하는 것에 기반하여, 레이(182)에 의해 포커스되었음을 나타내는 상태(예, 호버링 상태)의 버튼(511-2)을 표시할 수 있다. 웨어러블 장치(101)는 버튼(511-2)의 윤곽선을, 지정된 색상(예, 청색)을 이용하여 강조할 수 있다.
버튼(511)을 향하는 레이(182)를 표시한 상태(501)에서, 웨어러블 장치(101)는 외부 전자 장치(180)의 신호에 기반하여 버튼(511)과 관련된 기능을 실행할 수 있다. 예를 들어, 상태(501)에서, 사용자(110)가 외부 전자 장치(180)의 지정된 버튼(예, 클릭 기능)을 누르는 경우, 외부 전자 장치(180)는 웨어러블 장치(101)로 상기 지정된 버튼의 누름을 알리는 신호를 송신할 수 있다. 상기 신호를 수신한 웨어러블 장치(101)는 버튼(511)에 매핑된 기능을 실행할 수 있다. 웨어러블 장치(101)는 상기 지정된 버튼의 누름을 피드백하기 위한 상태의 버튼(511-3)을 표시할 수 있다. 버튼(511-3)은, 다른 상태의 버튼들(511-1, 511-2)과 상이한 지정된 색상으로 채워질 수 있다. 웨어러블 장치(101)는 상기 지정된 색상으로 채워진 버튼(511-3)을 표시한 이후, 지정된 기간의 만료에 응답하여, 유휴 상태의 버튼(511-1)을 표시할 수 있다.
일 실시예에 따른, 웨어러블 장치(101)는 외부 전자 장치(180) 없이 손(110-1)을 단독으로 식별하는 것에 기반하여, 손(110-1)의 방향(RD)을 식별할 수 있다. 버튼(511)을 향하는 방향(RD)을 가지고, 유휴 제스쳐의 형태를 가지는 손(110-1)을 식별한 상태(502)에서, 웨어러블 장치(101)는 손(110-1)에 의해 포커스되었음을 나타내는 상태(예, 호버링 상태)의 버튼(511-2)을 표시할 수 있다. 웨어러블 장치(101)는 유휴 제스쳐의 형태를 가지는 손(110-1)을 식별하는 것에 기반하여, 손(110-1)의 방향(RD)을 표현한 라인의 형태를 가지는 시각적 객체(예, 레이(183))를 표시할 수 있다. 상태(502)에서, 웨어러블 장치(101)는 집게 손가락의 손 끝의 지점(FT2) 및 엄지 손가락의 손 끝의 지점(FT1) 사이의 거리(D)를 이용하여, 손(110-1)의 변형을 식별할 수 있다. 상태(502)에서, 사용자(110)가 핀치 제스쳐를 수행하는 경우, 웨어러블 장치(101)는 거리(D)의 축소를 식별할 수 있다. 축소된 거리(D)를 이용하여 서로 접촉된 손 끝들을 식별한 웨어러블 장치(101)는, 버튼(511)의 기능을 실행할 수 있다.
도 5a의 상태(502)에서, 손(110-1)의 거리(D)가 축소되는 동안, 웨어러블 장치(101)는 거리(D)에 기반하는 핀치 제스쳐의 식별을 가이드하는 상태의 버튼(511-4)을 표시할 수 있다. 버튼(511-4)에서, 웨어러블 장치(101)는 제1 색상의 영역들(R1, R3) 및 제2 색상의 영역(R2)의 비율을 이용하여, 웨어러블 장치(101)에 의해 식별된 거리(D)를 표시할 수 있다. 버튼(511-4)의 영역들(R1, R3)의 상기 제1 색상은, 버튼(511-3)의 색상에 대응하고, 영역(R2)의 상기 제2 색상은, 버튼(511-1)의 색상에 대응할 수 있다. 거리(D)가 축소됨에 따라, 웨어러블 장치(101)는 상기 제1 색상의 영역들(R1, R3)의 사이즈를 증가시키고, 영역(R2)의 사이즈를 축소할 수 있다. 웨어러블 장치(101)는 버튼(511-4)의 중심에 기반하여 영역(R2)을 축소하여, 거리(D)의 축소에 기반하여 영역들(R1, R3)에 의해 점유되는 시각 효과를 표시할 수 있다. 영역(R2)의 사이즈가 실질적으로 0이 되는 시점은, 웨어러블 장치(101)가 실질적으로 0으로 줄어든 거리(D)를 식별한 시점일 수 있다.
도 5a를 참고하면, 버튼(511)을 향하는 포인팅 제스쳐의 형태를 가지는 손(110-1)을 식별한 상태(503)에서, 웨어러블 장치(101)는 손(110-1)의 지점(FT2)에 인접한 버튼을 표시할 수 있다. 팝업 윈도우(510)와 같은 화면에 서로 연동된 기능들을 실행하기 위한 버튼들(511, 512)을 표시한 웨어러블 장치(101)는, 상기 포인팅 제스쳐의 손(110-1)을 식별하는 것에 기반하여, 손(110-1)에 인접한 위치에 버튼들(511, 512) 각각에 대응하는 3 차원의 버튼들을 표시할 수 있다. 도 5a의 상태(503)에서, 웨어러블 장치(101)는 버튼(511)에 대응하는, 유휴 상태의 버튼(531-1)을 표시할 수 있다. 버튼(531-1)과 함께, 웨어러블 장치(101)는 버튼(512)에 대응하는 버튼(532)을 표시할 수 있다. 실시예가 이에 제한되는 것은 아니면, 웨어러블 장치(101)는 손(110-1)의 지점(FT2)에 인접한 버튼(예, 버튼들(531-1,1 532))과 함께, 화면(510) 상에 배치된 버튼(예, 버튼들(511, 512))을 동시에 표시할 수 있다.
도 5a의 상태(503)에서, 웨어러블 장치(101)는 포인팅 제스쳐의 손(110-1)의 이동에 기반하여, 버튼(531-1)에 대응하는 기능을 실행할 수 있다. 예를 들어, 버튼(531-1)을 향하여 이동되는 손(110-1)의 지점(FT2)을 식별하는 것에 기반하여, 웨어러블 장치(101)는 버튼(531-1)의 누름을 표현하는 상태의 버튼(531-2)을 표시할 수 있다. 사용자(110)를 향하여 돌출된 유휴 상태의 버튼(531-1)을 표시한 웨어러블 장치(101)는, 버튼(531-1)을 향하여 이동되는 손(110-1)을 식별하는 것에 기반하여, 버튼(531-1)이 돌출된 높이를 축소할 수 있다. 손(110-1)에 의한 누름을 표현하는 버튼(531-2)을 표시하는 것에 기반하여, 웨어러블 장치(101)는 버튼(531-2)에 할당된 기능을 실행할 수 있다.
상술한 바와 같이, 웨어러블 장치(101)는 사용자(110)로부터 이격된 버튼(511)을 표시한 동안, 외부 전자 장치(180) 없이 단독으로 버튼(511)을 향하는 손(110-1)을 식별할 수 있다. 손(110-1)을 식별하는 것에 기반하여, 웨어러블 장치(101)는 버튼(511)을 향하는 손(110-1)을 식별하였음을 가이드하기 위한 시각적 객체(예, 레이(183) 및/또는 손(110-1)에 인접하여 표시되는 버튼(531-1, 532))를 표시할 수 있다. 상기 시각적 객체를 표시한 동안 웨어러블 장치(101)는 손(110-1)에 의해 수행된 제스쳐(예, 핀치 제스쳐 및/또는 포인팅 제스쳐)에 기반하여, 버튼(511)에 대응하는 기능을 실행할 수 있다. 버튼과 유사하게, 웨어러블 장치(101)는 아이콘을 향하는 손(110-1)에 기반하여, 상기 아이콘의 변경 및/또는 교체를 수행할 수 있다.
도 5b를 참고하면, 일 실시예에 따른, 웨어러블 장치(101)는 하나 이상의 아이콘들을 포함하는 패널(520)을 표시할 수 있다. 상기 패널(520)은, 웨어러블 장치(101)에 설치된 하나 이상의 어플리케이션들 중에서, 최근에 실행된(recently executed) 적어도 하나의 어플리케이션을 표현한 적어도 하나의 아이콘을 포함할 수 있다. 예를 들어, 패널(520)의 제1 영역(521)을 통하여, 웨어러블 장치(101)는 최근에 실행된 어플리케이션들에 대응하는 아이콘들(예, 이미지 및/또는 비디오의 열람을 위한 갤러리 어플리케이션을 표현한 아이콘(524))을 표시할 수 있다. 실시예가 이에 제한되는 것은 아니다. 예를 들어, 웨어러블 장치(101)는 패널(520)에, 웨어러블 장치(101)에 설치된 어플리케이션들 전체의 리스트에 대응하는 아이콘(522)을 표시할 수 있다. 예를 들어, 웨어러블 장치(101)는 패널(520)의 제2 영역(523)에, 웨어러블 장치(101)의 상태(예, 현재 시간, 배터리의 SOC(state of charge), 네트워크 연결 상태)를 표시하는 적어도 하나의 아이콘 및/또는 텍스트를 표시할 수 있다. 하나 이상의 아이콘들을 포함하는 패널(520)은, 양안 시차에 기반하여 사용자(110)로부터 이격된 공간에서 부유할 수 있다.
패널(520)을 표시하는 동안, 웨어러블 장치(101)는 패널(520) 내 지점을 향하는 입력 수단(예, 외부 전자 장치(180) 및/또는 손(110-1))을 식별할 수 있다. 상기 입력 수단에 기반하여, 웨어러블 장치(101)는 패널(520)에 포함된 하나 이상의 아이콘들을 변경 및/또는 교체할 수 있다. 도 5a를 참고하면, 웨어러블 장치(101)가 외부 전자 장치(180)를 식별한 상태(504), 및 외부 전자 장치(180) 없이 손(110-1)을 식별한 상태들(505, 506)이 도시된다. 상태(504)에서, 웨어러블 장치(101)는 외부 전자 장치(180)의 일 측으로부터 연장된 레이(182)를 이용하여, 특정 시각적 객체의 포커스를 위한 입력을 식별할 수 있다. 외부 전자 장치(180)로부터 아이콘(524)으로 연장된 레이(182)를 표시한 상태(504)에서, 웨어러블 장치(101)는 외부 전자 장치(180)를 이용하여 아이콘(524)에 포커스하기 위한 입력을 식별할 수 있다. 상기 입력을 수신한 이후, 웨어러블 장치(101)는 외부 전자 장치(180)의 버튼(예, 물리 키)의 누름에 응답하여, 아이콘(524)의 기능(예, 아이콘(524)에 대응하는 어플리케이션을 실행하는 기능)을 실행할 수 있다.
도 5b의 상태(505)에서, 웨어러블 장치(101)는 아이콘(524)을 향하는 방향(RD)을 가지는 유휴 제스쳐의 손(110-1)을 식별하는 것에 기반하여, 2 차원의 형태를 가지는 아이콘(524)을, 3 차원의 형태를 가지는 아이콘(540)으로 교체할 수 있다. 교체된 아이콘(540)은, 패널(520)로부터 사용자(110)를 향하여 돌출된 형태를 가질 수 있다. 예를 들어, 둥근 모서리의(round-shaped) 직육면체의 형태를 가지는 아이콘(540)에, 웨어러블 장치(101)는 아이콘(524)에 포함된 이미지를 표시할 수 있다. 유휴 제스쳐의 형태를 가지는 손(110-1)을 식별한 상태(505)에서, 웨어러블 장치(101)는 집게 손가락 및 엄지 손가락의 손 끝들 사이의 거리(D)에 기반하여, 손(110-1)의 방향(RD)과 중첩된 아이콘(540)의 선택을 위한 제스쳐(예, 핀치 제스쳐)를 식별할 수 있다. 거리(D)가 0으로 줄어든 시점에서, 웨어러블 장치(101)는 핀치 제스쳐에 기반하여, 아이콘(540)에 대응하는 기능을 실행할 수 있다. 아이콘(540)이 아이콘(524)을 대체하여 표시되는 일 실시예에서, 웨어러블 장치(101)는 아이콘(540)에 대한 핀치 제스쳐에 응답하여, 아이콘(524)의 기능을 실행할 수 있다. 예를 들어, 상태(505)에서 수행된 핀치 제스쳐에 응답하여, 웨어러블 장치(101)는 갤러리 어플리케이션을 실행하고, 상기 갤러리 어플리케이션으로부터 제공된 화면을 표시할 수 있다.
도 5b를 참고하면, 임계 거리(예, 50 cm)를 초과하여 패널(520)을 표시한 동안, 패널(520) 내 아이콘(524)에 대한 포인팅 제스쳐를 식별한 상태(506)에서, 웨어러블 장치(101)는 상기 포인팅 제스쳐를 수행한 손(110-1)에 인접한 위치로, 패널(520)을 이동할 수 있다. 도 5b의 상태(506)에서, 웨어러블 장치(101)는 손(110-1)에 포함된 집게 손가락의 손 끝의 지점(FT2)에 의해 포인팅된 아이콘(524)을, 아이콘(540)으로 교체할 수 있다. 포인팅 제스쳐의 형태를 가지는 손(110-1)의 이동에 기반하여, 웨어러블 장치(101)는 아이콘(540)에 매핑된 적어도 하나의 기능을 실행할 수 있다. 웨어러블 장치(101)는, 지정된 거리를 초과하여 아이콘(540)을 향하여 이동된 손(110-1)을 식별하는 것에 기반하여, 도 5b의 상태(505)와 유사하게, 갤러리 어플리케이션을 실행할 수 있다.
손(110-1)에 의해 수행된 제스쳐에 따라 웨어러블 장치(101)가 버튼 및/또는 아이콘을 교체하는 동작은, 도 5a 내지 도 5b를 참고하여 설명된 일 실시예에 제한되지 않는다. 예를 들어, 웨어러블 장치(101)는 버튼을 확대하거나, 또는 버튼에 포함된 텍스트의 사이즈를 증가시켜, 손(110-1)의 방향(RD)에 의한 상기 버튼의 선택을 시각화할 수 있다. 상기 시각화에 기반하여, 웨어러블 장치(101)는 외부 전자 장치(180)와 독립적으로 손(110-1)에 기반하는 시각적 객체의 정밀 제어(precise control)를 지원할 수 있다.
버튼 및/또는 아이콘을 교체하는 웨어러블 장치(101)의 동작이 설명되었지만, 실시예가 이에 제한되는 것은 아니다. 이하에서는, 도 6a 내지 도 6c를 참고하여, 슬라이더와 같이 드래그에 기반하여 수치 값을 변경하기 위한 시각적 객체를 변경 및/또는 교체하는 웨어러블 장치(101)의 동작의 일 예가 설명된다.
도 6a 내지 도 6c는, 일 실시예에 따른, 웨어러블 장치(101)가 슬라이더(620)의 형태를 가지는 시각적 객체를 표시하는 동작의 일 예를 도시한다. 도 1 내지 도 2의 웨어러블 장치(101)는 도 6a 내지 도 6c의 웨어러블 장치(101)를 포함할 수 있다. 도 6a 내지 도 6c를 참고하면, 슬라이더(620)를 포함하는 화면(610)을 표시한 웨어러블 장치(101)의 상이한 상태들(601, 602, 603, 604, 605, 606, 607)이 도시된다.
도 6a 내지 도 6c를 참고하면, 일 실시예에 따른, 웨어러블 장치(101)는 비디오의 재생을 위한 어플리케이션의 실행에 기반하여, 화면(610)을 표시할 수 있다. 화면(610)에서, 웨어러블 장치(101)는 비디오와 함께, 상기 비디오의 재생을 제어하기 위한 하나 이상의 시각적 객체들을 표시할 수 있다. 상기 하나 이상의 시각적 객체들은, 상기 비디오의 재생을 일시 정지하거나, 상기 비디오가 재생되는 시점을 조절하기 위한 하나 이상의 버튼들을 포함할 수 있다. 상기 하나 이상의 버튼들에 대하여, 웨어러블 장치(101)는 도 5a 내지 도 5b를 참고하여 설명된 동작을 수행할 수 있다. 웨어러블 장치(101)는 화면(610)에 포함된 비디오의 탐색을 위한 시각적 객체(예, 슬라이더(620))를 표시할 수 있다. 실시예에 따라, 슬라이더(620)는 탐색 바 및/또는 시크(seek) 바로 지칭될 수 있다.
도 6a를 참고하면, 외부 전자 장치(180)와 연결된 상태(601)에서, 웨어러블 장치(101)는 외부 전자 장치(180)로부터 연장된 레이(182)를 표시할 수 있다. 슬라이더(620)를 향하는 레이(182)를 표시한 상태(601)에서, 웨어러블 장치(101)는 외부 전자 장치(180)의 신호에 기반하여, 슬라이더(620)의 기능을 실행할 수 있다. 예를 들어, 슬라이더(620)의 지점(P1)을 향하는 레이(182)를 표시한 상태(601)에서, 외부 전자 장치(180)의 지정된 버튼(예, 클릭 버튼)의 누름을 알리는 신호에 응답하여, 웨어러블 장치(101)는 슬라이더(620) 내 지점(P1)의 위치에 기반하여 화면(610)에 포함된 비디오를 탐색할 수 있다. 예를 들어, 상기 입력에 기반하여, 웨어러블 장치(101)는 화면(610)의 지점(P1)에 대응하는 시점의 비디오를 재생할 수 있다.
도 6a를 참고하면, 유휴 제스쳐의 형태를 가지는 손(110-1)을 식별한 상태(602)에서, 웨어러블 장치(101)는 손(110-1)을 포함하는 이미지(예, 도 2의 이미지(226-1))의 인식에 기반하여, 손(110-1)의 방향(RD)을 결정할 수 있다. 상태(602)에서, 슬라이더(620)를 향하는 방향(RD)을 식별한 웨어러블 장치(101)는, 슬라이더(620)를, 손(110-1)에 기반하는 상호작용을 위한 형태를 가지는 슬라이더(630)로 교체할 수 있다. 슬라이더(630)는 유한한(finite) 수의 시간 구간들을 이용하여, 비디오의 이산적인(discrete) 탐색을 지원할 수 있다. 웨어러블 장치(101)는, 화면(610)을 통해 표시된 비디오의 현재 시점을 포함하는 시간 구간에 대응하는 블록(631)을 경계로, 슬라이더(630)에 순차적으로 표시된 블록들을 상이한 색상들로 표시할 수 있다.
도 6a를 참고하면, 슬라이더(630)를 표시한 상태(602)에서, 웨어러블 장치(101)는 슬라이더(630)에 대한 핀치 제스쳐를 식별하는 경우, 상태(603)로 스위칭할 수 있다. 상태(603)에서, 웨어러블 장치(101)는 핀치 제스쳐의 형태를 가지는 손(110-1)의 이동에 기반하여, 슬라이더(630)에 기반하여 비디오를 탐색하는 기능을 실행할 수 있다. 도 6a를 참고하면, 방향(HD)을 따라 이동하는 손(110-1)을 식별하는 것에 기반하여, 웨어러블 장치(101)는 슬라이더(630)에서, 현재 시점에 대응하는 블록(631) 이후의 블록들(632, 633)의 색상을 변경할 수 있다. 웨어러블 장치(101)는 변경된 색상을 가지는 블록들(632, 633)에 대응하는 시간 구간들에 기반하여, 비디오를 탐색할 수 있다. 도 6a의 상태(603)에서, 웨어러블 장치(101)는 슬라이더(630)에 대응하는 비디오 내에서, 손(110-1)의 방향(RD)과 중첩된 블록(633)에 대응하는 시간 구간을 재생할 수 있다.
유휴 제스쳐로부터 핀치 제스쳐로 전환되는 손(110-1)에 기반하는 웨어러블 장치(101)의 동작이 설명되었지만 실시예가 이에 제한되는 것은 아니다. 도 6b를 참고하면, 웨어러블 장치(101)가 포인팅 제스쳐를 식별한 예시적인 상태들(604, 605)이 도시된다. 상태(604)에서, 웨어러블 장치(101)는 포인팅 제스쳐의 형태를 가지는 손(110-1)을 식별하는 것에 기반하여, 손(110-1)의 집게 손가락의 손 끝에 인접한 위치에, 슬라이더(630)의 제어를 위한 버튼들(641, 642)의 그룹(640)을 표시할 수 있다. 버튼들(641, 642)은, 슬라이더(630)가 표시된 방향에 평행하게 배열될 수 있다. 버튼(641)은, 화면(610)에 표시된 비디오의 현재 시점 이전의 시점을 탐색하기 위한 기능에 대응할 수 있다. 버튼(642)은, 상기 현재 시점 이후의 시점을 탐색하기 위한 기능에 대응할 수 있다. 버튼들(641, 642)의 그룹(640)을 표시한 상태(604)에서, 웨어러블 장치(101)는 손(110-1)의 집게 손가락의 방향(FD)에 기반하여, 버튼들(641, 642) 중 어느 하나를 선택하는 입력을 수신할 수 있다.
도 6b를 참고하면, 웨어러블 장치(101)가 버튼(642)을 선택하는 제스쳐를 수신한 예시적인 상태(605)가 도시된다. 상태(605)에서, 상기 제스쳐의 수신을 가이드하기 위하여, 웨어러블 장치(101)는 버튼(642)을 변형할 수 있다. 예를 들어, 웨어러블 장치(101)는 버튼(642)의 변형에 기반하여, 버튼(642)이 눌리는 애니메이션을 시각화할 수 있다. 웨어러블 장치(101)는 버튼(642)을 선택하는 제스쳐에 응답하여, 슬라이더(630)에서 현재 시점에 대응하는 블록(631) 이후의 블록(632)에 대응하는 시간 구간을 재생할 수 있다. 웨어러블 장치(101)는 버튼(642)에 대한 상기 제스쳐에 응답하여, 블록(632)의 색상을 변경할 수 있다.
슬라이더(620)의 형태가 도 6a 내지 도 6b의 일 실시예에 제한되는 것은 아니다. 도 6c를 참고하면, 일 실시예에 따른, 웨어러블 장치(101)는 핸들(651)을 포함하는 슬라이더(650)를 포함하는 화면(655)을 표시할 수 있다. 슬라이더(650) 내에서, 웨어러블 장치(101)는 원형의 핸들(651)의 위치를 이용하여, 슬라이더(650)에 대응하는 파라미터의 크기(magnitude)를 표시할 수 있다. 외부 전자 장치(예, 도 1 내지 도 2의 외부 전자 장치(180))를 식별한 경우, 웨어러블 장치(101)는 슬라이더(650)를 표시한 상태에서, 상기 외부 전자 장치의 신호에 기반하여, 상기 파라미터를 변경할 수 있다.
도 6c를 참고하면, 유휴 제스쳐의 형태를 가진 손(110-1)을 식별하는 것에 기반하여, 웨어러블 장치(101)는 슬라이더(650)의 핸들(651)을, 손(110-1)의 식별을 가이드하기 위한 형태를 가지는 핸들(660)로 교체할 수 있다. 핸들(660)은, 3 차원의 형태에 기반하여, 슬라이더(650)를 포함하는 화면(655)으로부터 사용자(110)를 향하여 돌출될 수 있다. 예를 들어, 핸들(660)의 양안 시차는, 슬라이더(650)의 양안 시차 보다 클 수 있다. 슬라이더(650)를 향하는 방향(RD)을 가지는 손(110-1)에 의해 수행된 핀치 제스쳐를 식별한 상태(606)에서, 일 실시예에 따른, 웨어러블 장치(101)는 손(110-1)의 이동에 기반하여, 슬라이더(650) 상에서 핸들(660)을 이동할 수 있다. 예를 들어, 슬라이더(650)가 연장된 일 방향(D1)을 따라 이동되는 손(110-1)을 식별한 웨어러블 장치(101)는 방향(D1')을 따라 핸들(660)을 이동할 수 있다. 예를 들어, 방향(D1)과 반대인 방향(D2)을 따라 이동되는 손(110-1)을 식별한 웨어러블 장치(101)는 방향(D2')을 따라 핸들(660)을 이동할 수 있다. 핸들(660)의 이동에 기반하여, 웨어러블 장치(101)는 슬라이더(650)에 대응하는 파라미터를 변경할 수 있다.
도 6c를 참고하면, 슬라이더(650)에 대한 포인팅 제스쳐의 형태를 가지는 손(110-1)을 식별한 상태(607)에서, 웨어러블 장치(101)는 핸들(651)로부터 교체된 핸들(660)과 함께, 손(110-1)에 인접한 버튼들(671, 672)의 그룹(670)을 표시할 수 있다. 웨어러블 장치(101)는 손(110-1)에 포함된 집게 손가락의 방향(FD)에 기반하여, 슬라이더(650)를 향하는 상기 포인팅 제스쳐를 식별할 수 있다. 상태(607)에서, 웨어러블 장치(101)는 버튼들(671, 672) 중 어느 하나를 누르는 손(110-1)의 제스쳐에 응답하여, 슬라이더(650)에 대응하는 파라미터를 변경할 수 있다. 웨어러블 장치(101)는 변경된 파라미터에 기반하여, 슬라이더(650) 상에 중첩된 핸들(660)을 이동할 수 있다. 예를 들어, 버튼(671)을 누르는 입력에 응답하여, 웨어러블 장치(101)는 상기 파라미터를 감소하고, 상기 감소된 파라미터에 대응하는 방향(D2')을 따라 핸들(660)을 이동할 수 있다. 예를 들어, 버튼(672)을 누르는 입력에 응답하여, 웨어러블 장치(101)는 상기 파라미터를 증가하고, 상기 증가된 파라미터에 대응하는 방향(D1')을 따라 핸들(660)을 이동할 수 있다.
상술한 바와 같이, 일 실시예에 따른, 웨어러블 장치(101)는 외부 전자 장치와 독립적으로 움직이는 손(110-1)의 제스쳐에 기반하여, 하나 이상의 시각적 객체들을 변경할 수 있다. 웨어러블 장치(101)는 슬라이더(620)에 포함된 핸들을 확대하거나, 또는 손(110-1)에 인접한 위치에 표시되는 버튼들(671, 672)을 이용하여, 손(110-1)에 기반하는 상기 슬라이더(620)의 정밀 제어를 지원할 수 있다.
직선적인 이동(예, 방향들(D1, D2) 중 어느 하나를 따라 이동하는 손(110-1))을 수신하기 위한 슬라이더(620)에 기반하는 웨어러블 장치(101)의 동작이 설명되었지만, 실시예가 이에 제한되는 것은 아니다. 이하에서는, 도 7a 내지 도 7b를 참고하여, 다이얼과 같이, 곡선적인 이동을 수신하기 위한 시각적 객체를 변경 및/또는 교체하는 웨어러블 장치(101)의 동작의 일 예가 설명된다.
도 7a 내지 도 7b는, 일 실시예에 따른, 웨어러블 장치(101)가 다이얼의 형태를 가지는 시각적 객체를 표시하는 동작의 일 예를 도시한다. 도 1 내지 도 2의 웨어러블 장치(101)는 도 7a 내지 도 7b의 웨어러블 장치(101)를 포함할 수 있다. 도 7a 내지 도 7b를 참고하면, 다이얼(720)을 포함하는 화면(710)을 표시한 웨어러블 장치(101)의 상이한 상태들이 도시된다.
도 7a를 참고하면, 일 실시예에 따른, 웨어러블 장치(101)는 화면(710) 상에, 순환되는(circulated) 파라미터(예, 시간)를 조절하기 위한 다이얼(720)을 표시할 수 있다. 다이얼(720)은, 원의 형태를 가지는 영역(725) 및 영역(725)의 원주(circumference)를 따라 배치된 하나 이상의 핸들들(721, 722)을 포함할 수 있다. 웨어러블 장치(101)는 다이얼(720)의 상기 원주에서, 하나 이상의 핸들들(721, 722)에 의해 구분되는 구간들(723, 724)을, 상이한 색상들로 채울 수 있다. 예를 들어, 24 시간 이하의 시간 구간에 대한 파라미터를 수신하기 위한 다이얼(720)을 표시한 웨어러블 장치(101)는, 상기 시간 구간의 시작 시점에 대응하는 원주 상의 지점에 핸들(721)을 표시하고, 상기 시간 구간의 종료 시점에 대응하는 원주 상의 지점에 핸들(722)을 표시할 수 있다. 웨어러블 장치(101)는 상기 원주 내에서, 핸들들(721, 722) 사이의 구간(723)을, 시간 구간에 대응함을 나타내는 지정된 색상(예, 청색)으로 채우고, 구간(723)과 상이한 구간(724)을 상기 지정된 색상과 다른 색상(예, 흑색)으로 채울 수 있다. 웨어러블 장치(101)는 영역(725)에, 다이얼(720)에 대응하는 시간 구간을 나타내는 텍스트(예, 23시부터 10시 사이의 시간 구간)를 표시할 수 있다.
도 7a의 예시적인 상태에서, 웨어러블 장치(101)는 다이얼(720)을 향하는 방향(RD)을 가지는 손(110-1)을 식별할 수 있다. 웨어러블 장치(101)는 방향(RD)을 가지는 손(110-1)의 형태에 기반하여, 다이얼(720)에 대응하는 파라미터를 변경할 수 있다. 도 7a를 참고하면, 유휴 제스쳐의 형태를 가지는 손(110-1)을 식별한 웨어러블 장치(101)는, 2 차원의 다이얼(720)을, 3 차원의 다이얼(730)로 변경할 수 있다. 다이얼(730)은, 손(110-1)에 의해 수행된 제스쳐에 기반하여 다이얼(720)의 파라미터를 조절하기 위하여, 웨어러블 장치(101)에 의해 표시될 수 있다. 웨어러블 장치(101)는 다이얼(730)에서, 사용자(110)를 향하여 돌출된 영역(735)의 일 면에, 상기 파라미터를 표현하는 텍스트를 표시할 수 있다.
도 7a를 참고하면, 손(110-1)에 기반하는 파라미터의 제어를 지원하기 위하여, 웨어러블 장치(101)는 다이얼(730)과 함께, 직선의 형태를 가지는 시각적 객체(736)를 표시할 수 있다. 시각적 객체(736)는, 상기 파라미터를 나타내기 위한 하나 이상의 핸들들(731, 732)을 포함할 수 있다. 일 실시예에서, 시각적 객체(736)의 길이 보다 화면(710)의 너비가 작은 경우, 웨어러블 장치(101)는 화면(810)의 사이즈를, 상기 시각적 객체(736)의 길이에 기반하여 확대할 수 있다. 웨어러블 장치(101)는 시각적 객체(736)를 향하는 손(110-1) 및/또는 손(110-1)에 의해 수행된 제스쳐(예, 핀치 제스쳐)에 기반하여, 상기 파라미터를 변경할 수 있다. 예를 들어, 웨어러블 장치(101)는 핸들들(731, 732) 중 어느 하나를 향하는 방향을 가지는 손(110-1)에 의해 수행된 핀치 제스쳐를 식별하는 것에 기반하여, 상기 손(110-1)의 위치에 따라 상기 파라미터를 변경할 수 있다.
웨어러블 장치(101)가 표시하는 다이얼(730)의 형태는 도 7a의 일 실시예에 제한되지 않는다. 도 7b를 참고하면, 웨어러블 장치(101)가 도 7a의 다이얼(720)을 교체하여 표시하는 다이얼(740)의 다른 일 예가 도시된다. 도 7b를 참고하면, 웨어러블 장치(101)는 사용자(110)를 향하여 돌출되고, 원기둥의 형태를 가지는 영역(749)을 포함하는 다이얼(740)을 표시할 수 있다. 상기 영역(749)은, 다이얼(740)에 대응하는 파라미터를 표현하는 텍스트를 포함할 수 있다. 웨어러블 장치(101)는 다이얼(740)의 원주를, 블록들(741, 742, 743, 744, 745)에 기반하여 이산적으로 구분할 수 있다.
도 7b의 일 실시예에서, 웨어러블 장치(101)는 다이얼(740)을 향하는 방향(RD)을 가지고, 핀치 제스쳐의 형태를 가지는 손(110-1)을 식별하는 것에 응답하여, 손(110-1)의 이동 방향에 따라 다이얼(740)에 대응하는 파라미터를 변경할 수 있다. 웨어러블 장치(101)는 원주를 따라 이동되는 손(110-1)에 기반하여 상기 파라미터를 변경하고, 상기 변경된 파라미터에 기반하여, 영역(749)에 포함된 텍스트, 및/또는 블록들(741, 742, 743, 744, 745) 각각의 색상들을 변경할 수 있다.
상술한 바와 같이, 일 실시예에 따른, 웨어러블 장치(101)는 다이얼(720)을, 외부 전자 장치(예, 도 1 내지 도 2의 외부 전자 장치(180))와 독립적으로 움직이는 손(110-1)을 식별한 상태에서, 상기 손(110-1)과 상호작용하기 위한 형태를 가지는 다른 다이얼(예, 다이얼들(730, 740))로 변경할 수 있다. 상기 다른 다이얼에 기반하여, 웨어러블 장치(101)는 다이얼에 대응하는 파라미터의 정밀 제어를 지원할 수 있다.
이하에서는, 도 8을 참고하여, 화면이 표시된 거리에 기반하여, 시각적 객체의 교체 및 이동을 수행하는 웨어러블 장치(101)의 동작의 일 예가 설명된다.
도 8은, 일 실시예에 따른, 웨어러블 장치(101)가 버튼의 형태를 가지는 시각적 객체를 표시하는 동작의 일 예를 도시한다. 도 1 내지 도 2의 웨어러블 장치(101)는, 도 8의 웨어러블 장치(101)를 포함할 수 있다. 도 8을 참고하면, 버튼들(811, 812, 813)의 그룹을 포함하는 화면(810)을 표시한 웨어러블 장치(101)의 상이한 상태들(801, 802, 803)이 도시된다.
도 8을 참고하면, 일 실시예에 따른, 웨어러블 장치(101)는 화면(810)에 대한 상이한 기능들에 매칭되는 버튼들(811, 812, 813)을 표시할 수 있다. 비록 화면(810)의 우측 상단에 버튼들(811, 812, 813)을 표시하는 예시적인 케이스가 도시되지만, 버튼들(811, 812, 813)의 화면(810) 내 위치는 도 8의 일 실시예에 제한되지 않는다. 예를 들어, 버튼(811)은, 화면(810)의 사이즈를 최소화하거나, 또는 화면(810)을, 아이콘과 같은 단축키로 대체하는 기능에 대응할 수 있다. 예를 들어, 버튼(812)은, 화면(810)의 사이즈를 최대화하는 기능에 대응할 수 있다. 화면(810)의 사이즈를 최대화하는 것은, 웨어러블 장치(101)를 착용한 사용자(110)의 FoV의 사이즈로 화면(810)을 확대하는 동작을 포함할 수 있다. 예를 들어, 버튼(813)은, 화면(810)의 표시를 중단하는 기능에 대응할 수 있다. 화면(810)의 표시를 중단하는 것은, 화면(810)에 대응하는 어플리케이션을 종료하는 동작을 포함할 수 있다.
도 8을 참고하면, 웨어러블 장치(101)는 외부 전자 장치(180)를 식별한 상태(801)에서, 버튼들(811, 812, 813)을 표시하는 것을 유지할 수 있다. 웨어러블 장치(101)는 외부 전자 장치(180)로부터 연장된 레이(182)와 버튼들(811, 812, 813) 각각이 중첩되는지 여부에 기반하여, 버튼들(811, 812, 813) 중 어느 하나가 사용자(110)에 의해 포커스되었는지 여부를 식별할 수 있다.
도 8을 참고하면, 외부 전자 장치(180) 없이 손(110-1)을 식별한 경우, 웨어러블 장치(101)는 손(110-1)의 형태 및/또는 위치에 기반하여, 버튼들(181, 182, 183)과 같이, 사용자(110)와 상호작용하기 위한 카테고리에 포함된 시각적 객체를 변경할 수 있다. 예를 들어, 유휴 제스쳐의 형태를 가지는 손(110-1)을 식별한 상태(802)에서, 버튼(813)을 향하는 손(110-1)의 방향(RD)을 식별하는 것에 응답하여, 웨어러블 장치(101)는 버튼들(811, 812, 813) 보다 큰 사이즈를 가지는 버튼들(821, 822, 823)을 표시할 수 있다. 웨어러블 장치(101)는 버튼들(811, 812, 813) 중 어느 하나를 향하는 방향(RD)을 가지는 손(110-1)을 식별하는 것에 기반하여, 버튼들(811, 812, 813)을, 버튼들(821, 822, 823)로 교체할 수 있다. 교체된 버튼들(821, 822, 823)에 기반하여, 웨어러블 장치(101)는 방향(RD)에 기반하는 버튼들(821, 822, 823) 중 어느 하나를 선택하는 정확도를 개선할 수 있다.
도 8을 참고하면, 포인팅 제스쳐의 형태를 가지는 손(110-1)을 식별한 상태(803)에서, 웨어러블 장치(101)는 손(110-1)에 의해 포인팅된 버튼들(811, 812, 813)을, 버튼들(821, 822, 823)로 교체하고, 버튼들(821, 822, 823)을, 손(110-1)을 향하여 이동할 수 있다. 도 8을 참고하면, 상태(803)에서 웨어러블 장치(101)는 손(110-1)의 집게 손가락의 손 끝의 거리에 기반하여, 버튼들(821, 822, 823)을 표시할 수 있다. 상태(803)에서, 사용자(110)는 상기 손 끝에서 부유하는 버튼들(821, 822, 823)을 볼 수 있다. 화면(810)이 임계 거리(예, 50 cm)를 초과하여 부유하는 경우, 웨어러블 장치(101)는 상기 손 끝으로 이동된 버튼들(821, 822, 823)을 이용하여, 포인팅 제스쳐에 기반하는 화면(810)의 제어를 지원할 수 있다.
상술한 바와 같이, 일 실시예에 따른, 웨어러블 장치(101)는 시각적 객체의 교체와 함께, 교체된 시각적 객체의 거리를 조절할 수 있다. 조절된 거리에 기반하여, 웨어러블 장치(101)는 손(110-1) 및 상기 교체된 시각적 객체 사이의 상호작용의 정확도를 개선할 수 있다. 이하에서는, 도 9a 내지 도 9c를 참고하여, 스위치와 같이, 파라미터의 토글을 위한 시각적 객체를 변경 및/또는 교체하는 웨어러블 장치(101)의 동작의 일 예가 설명된다.
도 9a 내지 도 9c는, 일 실시예에 따른, 웨어러블 장치(101)가 스위치의 형태를 가지는 시각적 객체를 표시하는 동작의 일 예를 도시한다. 도 1 내지 도 2의 웨어러블 장치(101)는, 도 9a 내지 도 9c의 웨어러블 장치(101)를 포함할 수 있다. 도 9a 내지 도 9c를 참고하면, 스위치(912)를 포함하는 화면(910)을 표시한 웨어러블 장치(101)의 상이한 상태들(901, 902, 903)이 도시된다.
도 9a를 참고하면, 일 실시예에 따른, 웨어러블 장치(101)는 핸들의 위치에 기반하여, 파라미터의 토글을 나타내는 스위치(912)를 표시할 수 있다. 상태(901)에서, 웨어러블 장치(101)는 파라미터에 대응하는 영역(911)에, 상기 파라미터를 조절하기 위한 스위치(912)를 표시할 수 있다. 웨어러블 장치(101)는 제1 값에 대응하는 스위치(912-1)를 이용하여, 상기 파라미터가 두 개의 값들(예, 활성화 및 비활성화 각각에 대응하는 값들) 중에서 제1 값에 대응함을 나타낼 수 있다. 스위치(912-1)에서, 웨어러블 장치(101)는 핸들을, 우측 단(right edge)에 표시하는 것으로 가정한다.
도 9a의 상태(901)에서, 웨어러블 장치(101)는 손(110-1)에 부착된 외부 전자 장치(180)를 식별할 수 있다. 외부 전자 장치(180)을 식별한 상태에서, 웨어러블 장치(101)는 스위치(912)를 교체하는 것과 독립적으로 스위치(912) 및 외부 전자 장치(180) 사이의 상호작용에 기반하여, 스위치(912)에 대응하는 기능을 실행할 수 있다. 예를 들어, 외부 전자 장치(180)로부터 스위치(912)를 향하여 연장된 레이(920)를 표시한 상태(901)에서, 웨어러블 장치(101)는 외부 전자 장치(180)에 기반하여 스위치(912)를 토글하는 입력을 수신할 수 있다. 상기 입력에 응답하여, 웨어러블 장치(101)는 제1 값에 대응하는 스위치(912-1)를, 제2 값에 대응하는 스위치(912-2)로 변경할 수 있다. 웨어러블 장치(101)는 좌측 단으로 이동된 핸들을 포함하는 스위치(912-2)를 표시하여, 스위치(912-2)에 대응하는 파라미터가 제2 값으로 변경됨을 나타낼 수 있다.
일 실시예에 따른, 웨어러블 장치(101)는 외부 전자 장치(180)와 독립적으로 스위치(912)를 향하는 손(110-1)을 식별할 수 있다. 도 9b를 참고하면, 웨어러블 장치(101)는 스위치(912), 및/또는 스위치(912)를 포함하는 영역(911)을 향하는 방향(RD)을 가지는 손(110-1)을 식별할 수 있다. 유휴 제스쳐의 형태를 가지고, 스위치(912)를 향하는 손(110-1)을 식별한 상태(902)에서, 웨어러블 장치(101)는 스위치(912) 및 스위치(912)를 포함하는 영역(911)을 교체하여, 손(110-1)을 이용하여 스위치(912)에 대응하는 파라미터를 토글하는 것을 지원할 수 있다.
도 9b를 참고하면, 상태(902)에서, 웨어러블 장치(101)는 영역(911)을, 스위치(912)에 대응하는 파라미터를 제어하기 위한 시각적 객체(930)로 교체할 수 있다. 시각적 객체(930)는, 영역(911)에 포함된 텍스트를 포함하고, 스위치(912)의 핸들에 대응하는 핸들(931)을 포함할 수 있다. 시각적 객체(930) 내 핸들(931)의 위치는, 스위치(912) 내 핸들의 위치와 유사하게, 영역(911)의 좌측 단 또는 우측 단 중 어느 하나에 결합될 수 있다. 제1 값에 대응하는 스위치(912-1)를 표시하는 동안, 스위치(912-1)를 향하는 방향(RD)을 가지고, 유휴 제스쳐의 형태를 가지는 손(110-1)을 식별하는 것에 기반하여, 웨어러블 장치(101)는 상기 제1 값에 대응하는 시각적 객체(930-1)를 표시할 수 있다. 도 9b를 참고하면, 우측 단으로 이동된 핸들을 포함하는 스위치(912-1)와 유사하게, 웨어러블 장치(101)는 시각적 객체(930)의 우측 단에 결합된 핸들(931)을 표시할 수 있다. 웨어러블 장치(101)가 3 차원으로 핸들(931)을 표시하기 때문에, 핸들(931)은 화면(910) 상에서 사용자(110)를 향하여 돌출된 형태를 가질 수 있다.
도 9b를 참고하면, 제1 값에 대응하는 시각적 객체(930-1)를 표시한 동안, 웨어러블 장치(101)는 시각적 객체(930-1)를 향하는 손(110-1)에 의해 수행된 핀치 제스쳐를 식별할 수 있다. 핀치 제스쳐를 식별하는 것에 기반하여, 웨어러블 장치(101)는 손(101-1)의 방향을 따라 핸들(931)을 이동할 수 있다. 상기 핸들(931)의 이동에 기반하여, 웨어러블 장치(101)는 시각적 객체(930-1) 및/또는 스위치(912)에 대응하는 파라미터를 토글할 수 있다. 제1 값에 대응하는 시각적 객체(930-1)를 표시한 웨어러블 장치(101)는, 핀치 제스쳐의 형태를 가지는 손(110-1)이 시각적 객체(930-1)의 좌측 단을 향하는 방향(D1)으로 이동함을 식별하는 것에 응답하여, 핸들(931)을 방향(D1')을 따라 이동할 수 있다. 방향(D1')을 따라 좌측 단으로 이동된 핸들(931)을 식별하는 것에 기반하여, 웨어러블 장치(101)는 상기 파라미터를 상기 좌측 단에 대응하는 제2 값으로 변경할 수 있다. 웨어러블 장치(101)는 상기 제2 값에 대응하는 시각적 객체(930-2)를 표시할 수 있다. 상기 제2 값에 대응하는 시각적 객체(930-2)를 표시한 상태에서, 웨어러블 장치(101)는 핀치 제스쳐의 형태를 가지는 손(110-1)의 이동(예, 시각적 객체(930-2)의 우측 단으로의 이동)을 식별하는 것에 기반하여, 상기 파라미터를 다시 토글할 수 있다.
도 9b를 참고하여 상술한 바와 같이, 웨어러블 장치(101)는 스위치(912)를 포함하는 영역(911)의 사이즈를 가지는 시각적 객체(930)를 이용하여, 손(110-1)의 제스쳐에 기반하여 상기 스위치(912)에 대응하는 파라미터를 토글하는 것을 지원할 수 있다. 실시예가 이에 제한되는 것은 아니며, 웨어러블 장치(101)는 2 차원으로 표시된 스위치(912)를, 3 차원의 형태를 가지는 시각적 객체로 교체할 수 있다.
도 9c를 참고하면, 스위치(912)를 향하는 방향(RD)을 가지고, 유휴 제스쳐의 형태를 가지는 손(110-1)을 식별한 상태(903)에서, 웨어러블 장치(101)는 스위치(912)를, 3 차원의 형태를 가지는 스위치(940)로 변경할 수 있다. 스위치(940)는, 상기 3 차원의 형태에 기반하여, 화면(910)에서 사용자(110)를 향하여 돌출된 형태를 가질 수 있다. 웨어러블 장치(101)는, 제1 값에 기반하여 우측 단에 배치된 핸들을 포함하는 스위치(912-1)를 표시한 상태(903)에서, 스위치(912-1)를 향하는 유휴 제스쳐의 손(110-1)을 식별하는 것에 기반하여, 우측 단에 배치된 핸들(941)을 포함하는 스위치(940-1)를 표시할 수 있다. 상기 제1 값에 대응하는 스위치(940-1)를 표시한 동안, 웨어러블 장치(101)는 핀치 제스쳐의 형태를 가지는 손(110-1)을 식별하는 것에 기반하여, 핸들(941)을, 스위치(940-1)의 좌측 단으로 이동할 수 있다. 스위치(940-1)의 좌측 단으로 핸들(941)을 이동하는 것과 실질적으로 동시에, 웨어러블 장치(101)는 스위치(940-1)에 대응하는 파라미터를 토글하여, 상기 파라미터를 상기 제2 값으로 변경할 수 있다. 상기 변경된 제2 값에 기반하여, 웨어러블 장치(101)는 좌측 단으로 이동된 핸들(941)을 포함하는 스위치(940-2)를 표시할 수 있다.
상술한 바와 같이, 일 실시예에 따른, 웨어러블 장치(101)는, 스크롤 바, 버튼, 아이콘, 슬라이더, 다이얼, 및/또는 스위치와 같이, 사용자(110)로부터 입력을 수신하기 위해 설계된 시각적 객체를, 입력 수단에 적합한 형태로 교체 및/또는 변경할 수 있다. 실시예가 이에 제한되는 것은 아니다. 이하에서는, 도 10a 내지 도 10b를 참고하여, 상기 입력을 수신하기 위해 설계된 시각적 객체로, 커서 및/또는 가상 객체를 변경 및/또는 교체하는 웨어러블 장치(101)의 동작의 일 예가 설명된다.
도 10a 내지 도 10b는, 일 실시예에 따른, 웨어러블 장치(101)가 커서(1020) 및/또는 가상 객체를 표시하는 동작의 일 예를 도시한다. 도 1 내지 도 2의 웨어러블 장치(101)는 도 10a 내지 도 10b의 웨어러블 장치(101)를 포함할 수 있다. 도 10을 참고하면, 커서(1020)를 포함하는 화면(1010)을 표시한 웨어러블 장치(101)의 상이한 상태들(1001, 1002, 1003, 1004)이 도시된다.
도 10a를 참고하면, 웨어러블 장치(101)는 화면(1010)에서, 사용자(110)로부터 텍스트를 획득하기 위한 텍스트 박스(1012)를 표시할 수 있다. 사용자(110)로부터 텍스트를 획득하기 위하여 웨어러블 장치(101)는 텍스트 박스(1012)를 선택하는 입력에 응답하여, 사용자(110)의 FoV에 가상 키보드를 표시할 수 있다. 웨어러블 장치(101)가 키보드 디바이스와 연결된 경우, 웨어러블 장치(101)는 상기 키보드 디바이스로부터 수신된 신호에 기반하여 상기 텍스트를 획득할 수 있다. 텍스트 박스(1012)와 함께, 웨어러블 장치(101)는 텍스트 박스(1012)를 통해 표시되는 텍스트의 스크롤을 위한 스크롤 바(1011)를 표시할 수 있다. 스크롤 바(1011)와 관련된 웨어러블 장치(101)의 동작은 도 4a 내지 도 4b를 참고하여 설명된 동작과 유사할 수 있다. 텍스트 박스(1012) 내에서, 웨어러블 장치(101)는 텍스트의 추가, 삭제 및/또는 변경을 위한 커서(1020)를 표시할 수 있다.
일 실시예에 따른, 웨어러블 장치(101)는 외부 전자 장치(180) 및/또는 손(110-1)에 기반하여 커서(1020)를 이동하기 위한 입력을 식별할 수 있다. 외부 전자 장치(180)과 연결된 상태(1001)에서, 웨어러블 장치(101)는 외부 전자 장치(180)로부터 연장된 레이(1030)에 기반하여, 커서(1020)를 이동하기 위한 입력을 식별할 수 있다. 예를 들어, 커서(1020)를 향하는 레이(1030)를 표시한 상태(1001)에서, 웨어러블 장치(101)는 외부 전자 장치(180)를 쥔 손(110-1)에 의해 눌린 버튼에 기반하여, 상기 입력을 식별할 수 있다. 상기 입력에 응답하여, 웨어러블 장치(101)는 텍스트 박스(1012) 내에서 커서(1020)를 이동할 수 있다.
도 10a를 참고하면, 외부 전자 장치(180) 없이 손(110-1)을 식별한 상태(1002)에서, 웨어러블 장치(101)는 손(110-1)의 방향(RD) 및/또는 손(110-1)의 형태를 식별할 수 있다. 상태(1002)에서, 커서(1020)를 향하는 방향(RD)을 식별하는 것에 응답하여, 웨어러블 장치(101)는 커서(1020)를, 시각적 객체(1040)로 교체할 수 있다. 웨어러블 장치(101)는 손(110-1)의 형태에 기반하여, 시각적 객체(1040)를 변형할 수 있다. 유휴 제스쳐의 형태를 가지는 손(110-1)을 식별한 상태(1002)에서, 웨어러블 장치(101)는 상기 유휴 제스쳐에 대응하는 형태를 가지는 시각적 객체(1040-1)를 표시할 수 있다. 시각적 객체(1040-1)는, 커서(1020)의 높이 보다 큰 높이를 가질 수 있다. 웨어러블 장치(101)는 3 차원 렌더링에 기반하여, 텍스트 박스(1012)를 포함하는 화면(1010)에서 사용자(110)를 향하여 돌출된 형태의 시각적 객체(1040-1)를 표시할 수 있다.
도 10a를 참고하면, 상태들(1003, 1004)과 같이, 웨어러블 장치(101)는 핀치 제스쳐 및/또는 포인팅 제스쳐의 형태를 가지는 손(110-1)을 식별하는 것에 기반하여, 손(110-1)의 이동에 기반하는 커서(1020)의 이동을 가이드하기 위한 시각적 객체(1040-2)를 표시할 수 있다. 시각적 객체(1040-2)는, 시각적 객체(1040-1)와 유사하게, 화면(1010)으로부터 돌출된 형태를 가질 수 있다. 웨어러블 장치(101)는 시각적 객체(1040-2)의 일 단(예, 하 단)의 형태를 원기둥으로 변형하여, 시각적 객체(1040-2)를 강조할 수 있다. 시각적 객체(1040-2)를 표시한 상태(예, 상태들(1003, 1004))에서, 웨어러블 장치(101)는 손(110-1)의 이동에 기반하여, 시각적 객체(1040-2)의 이동을 수행할 수 있다. 이동된 시각적 객체(1040-2)에 기반하여, 웨어러블 장치(101)는 커서(1020)의 이동을 수행할 수 있다.
도 10a를 참고하면, 핀치 제스쳐 및/또는 포인팅 제스쳐를 식별한 상태(예, 상태들(1003, 1004))에서, 유휴 제스쳐로 변형된 손(110-1)을 식별한 웨어러블 장치(101)는, 상태(1002)와 같이, 시각적 객체(1040-1)를 표시하는 다른 상태로 전환할 수 있다. 상기 다른 상태에서, 웨어러블 장치(101)는 손(110-1)에 의해 이동된 위치에 기반하여 시각적 객체(1040-1)를 표시할 수 있다. 상기 다른 상태에서, 손(110-1)이 사용자(110)의 FoV의 밖으로 이동되는 경우, 웨어러블 장치(101)는 시각적 객체(1040-1)를 커서(1020)로 교체할 수 있다.
도 10b를 참고하면, 가상 객체들(1052, 1054)를 포함하는 화면(1050)을 표시한 웨어러블 장치(101)의 상이한 상태들(1005, 1006, 1007)이 도시된다. 도 10b의 상태(1005)에서, 웨어러블 장치(101)는 화면(1050)에서, 적어도 하나의 어플리케이션에 의해 렌더링된 가상 객체들(1052, 1054)을 표시할 수 있다. 상태(1005)에서, 웨어러블 장치(101)는 가상 객체들(1052, 1054)을, 2 차원의 평면의 형태를 가지는 화면(1050)에 2차원으로 표시할 수 있다.
도 10b의 상태(1005)에서, 웨어러블 장치(101)는 손(110-1)에 기반하여 화면(1050)에 포함된 가상 객체(예, 가상 객체들(1052, 1054))와 상호작용하기 위한 입력을 식별할 수 있다. 예를 들어, 웨어러블 장치(101)는 가상 객체(1052)에 대응하는 외부 공간의 지점을 향하여 이동되는 손(110-1)을 식별할 수 있다. 상기 지점을 향하여 이동되는 손(110-1)을 식별한 상태(1006)에서, 웨어러블 장치(101)는 2차원으로 표시되었던 가상 객체(1052)의 3차원 그래픽 표현(3 dimensional graphical representation)에 대응하는 가상 객체(1060)를 표시할 수 있다. 도 10b의 상태(1006)에서, 웨어러블 장치(101)는 가상 객체(1060)를, 가상 객체(1052)가 화면(1050)에 배치되었던 위치에 표시할 수 있다. 예를 들어, 가상 객체(1060)는, 화면(1050) 상에서 웨어러블 장치(101)를 착용한 사용자(110)를 향하여 돌출된 형태를 가질 수 있다.
일 실시예에서, 손(110-1)의 위치에 기반하여 2 차원의 가상 객체(1052)를 3차원의 가상 객체(1060)로 교체한 상태(1006)에서, 웨어러블 장치(101)는, 가상 객체(1060)를 이동하기 위한 입력을 식별할 수 있다. 예를 들어, 웨어러블 장치(101)는, 핀치 제스쳐의 형태를 가지는 손(110-1)에 기반하여 상기 입력을 식별할 수 있다. 상기 입력에 기반하여, 웨어러블 장치(101)는 디스플레이를 통해 사용자(110)에게 표시되는 가상 객체(1060)의 위치를, 손(110-1)의 궤적에 따라 변경할 수 있다. 상기 입력에 기반하여, 지정된 거리를 초과하여 이동된 가상 객체(1060)를 식별한 상태(1007)에서, 웨어러블 장치(101)는 가상 객체(1060)를, 가상 객체(1070)로 교체할 수 있다.
도 10b의 상태(1007)에서, 웨어러블 장치(101)는, 가상 객체(1060)에 의해 제공되는 기능 보다 다양한 기능을 제공하기 위한 가상 객체(1070)를 표시할 수 있다. 가상 객체(1060)가 표시되었던 위치(1072)로부터 지정된 거리를 초과하여 이동된 위치에서, 웨어러블 장치(101)는 가상 객체(1070)를 표시할 수 있다. 날씨 정보를 제공하기 위한 어플리케이션의 실행에 기반하여 가상 객체들(1052, 1060, 1070) 중 적어도 하나를 표시하는 일 실시예에서, 웨어러블 장치(101)는 가상 객체(1070)를 이용하여, 가상 객체(1060)에 포함되었던 정보(예, 온도, 및 오전 또는 오후를 나타내는 인디케이터)와 함께, 추가적인 정보(예, 온도, 및 시간과 분을 나타내는 텍스트)를 표시할 수 있다. 날씨 정보를 제공하기 위한 어플리케이션의 실행에 기반하여 가상 객체(1070)를 표시하는 상태(1007)에서, 웨어러블 장치(101)는 가상 객체(1070)에 포함된 서브-가상 객체에 대한 제스쳐에 반응할 수 있다. 예를 들어, 웨어러블 장치(101)는 가상 객체(1070)에 포함된 구 형태의 서브-가상 객체를 회전하는 제스쳐를 식별할 수 있다. 상기 제스쳐에 기반하여, 웨어러블 장치(101)는 회전된 서브-가상 객체에 기반하여, 가상 객체(1070)를 통해 표시되는 날씨 정보를 변경할 수 있다. 예를 들어, 웨어러블 장치(101)는 상기 구 형태의 서브-가상 객체에 지도를 표시하고, 손(110-1)에 의해 회전된 상기 서브-가상 객체에 의해 사용자(110)에게 보이는 상기 지도의 지역을 식별할 수 있다. 웨어러블 장치(101)는 가상 객체(1070)에, 상기 식별된 지역의 날씨 정보를 표시할 수 있다.;
이하에서는, 도 11 내지 도 15를 참고하여, 도 1 내지 도 10b를 참고하여 설명된 웨어러블 장치(101)의 동작에 대한 흐름도의 일 예가 설명된다.
도 11은, 일 실시예에 따른, 웨어러블 장치의 흐름도의 일 예를 도시한다. 도 1 내지 도 10b의 웨어러블 장치(101)는 도 11의 동작들 중 적어도 하나를 수행할 수 있다. 예를 들어, 도 2의 웨어러블 장치(101) 및/또는 프로세서(210)는 도 11의 동작들 중 적어도 하나를 수행할 수 있다.
도 11을 참고하면, 동작(1110)에서, 일 실시예에 따른, 웨어러블 장치는, 제1 시각적 객체를 포함하는 화면을 표시할 수 있다. 상기 제1 시각적 객체는, 도 4a 내지 도 4b의 스크롤 바(141), 도 5a 내지 도 5b의 버튼들(511, 512), 도 6a 내지 도 6c의 슬라이더들(620, 650), 도 7a의 다이얼(720), 도 8의 버튼들(811, 812, 813), 도 9a 내지 도 9c의 스위치(912), 및/또는 도 10a의 커서(1020)를 포함할 수 있다. 웨어러블 장치는 도 2의 UI 프로바이더(275)의 실행에 기반하여, 상기 제1 시각적 객체를 표시하기 위한 리소스를 관리할 수 있다. 웨어러블 장치는, 웨어러블 장치를 착용한 사용자(예, 도 1 내지 도 10b의 사용자(110))의 FoV에서, 거리(또는 깊이)에 기반하여 부유하는 상기 화면을 표시할 수 있다.
도 11을 참고하면, 동작(1120)에서, 일 실시예에 따른, 웨어러블 장치는, 화면을 제어하기 위한 입력 수단을 탐지할 수 있다. 상기 입력 수단은, 도 1 내지 도 10a의 외부 전자 장치(180)을 포함할 수 있다. 상기 입력 수단은, 웨어러블 장치를 착용한 사용자의 손(예, 도 1 내지 도 10b의 손(110-1))을 포함할 수 있다. 웨어러블 장치는 손 및 외부 전자 장치를 동시에 탐지한 경우, 우선 순위에 기반하여, 외부 전자 장치에 기반하는 웨어러블 장치의 제어를 우선적으로 수행할 수 있다.
도 11을 참고하면, 동작(1130)에서, 일 실시예에 따른, 웨어러블 장치는, 입력 수단으로, 외부 전자 장치가 연결되었는지 여부를 판단할 수 있다. 예를 들어, 도 2의 통신 회로(240)를 이용하여, 웨어러블 장치는 외부 전자 장치 및 웨어러블 장치 사이의 통신 링크가 수립되었는지 여부를 식별할 수 있다. 예를 들어, 페어링에 기반하여, 상기 통신 링크가 수립된 경우, 웨어러블 장치는, 외부 전자 장치와 연결된 것으로 결정할 수 있다.
외부 전자 장치가 연결된 상태에서(1130-예), 일 실시예에 따른, 웨어러블 장치는 도 11의 동작(1135)을 수행하여, 제1 시각적 객체에 기반하여 표시된 화면을 이용하여, 외부 전자 장치의 신호에 대응하는 기능을 실행할 수 있다. 상기 신호는, 외부 전자 장치에 포함된 버튼의 누름을 알기 위하여, 외부 전자 장치로부터 웨어러블 장치로 송신될 수 있다. 상기 신호에 응답하여, 웨어러블 장치는 제1 시각적 객체를 포함하는 화면에서, 상기 신호에 의해 나타나는 기능을 실행할 수 있다. 도 4a의 상태(401), 도 5a의 상태(501), 도 5b의 상태(504), 도 6a의 상태(601), 도 8의 상태(801), 및/또는 도 10a의 상태(1001)는, 웨어러블 장치가 동작(1135)을 수행하는 상태일 수 있다.
외부 전자 장치가 연결되지 않은 경우(1130-아니오), 동작(1140)에서, 일 실시예에 따른, 웨어러블 장치는, 입력 수단으로, 손을 식별할 수 있다. 외부 전자 장치 및 손 전부를 식별하지 못한 경우(1140-아니오), 웨어러블 장치는 동작(1120)에 기반하여 입력 수단을 계속 탐지할 수 있다. 손을 식별한 상태에서(1140-예), 일 실시예에 따른, 웨어러블 장치는 도 11의 동작(1150)을 수행하여, 손의 위치 및/또는 형태를 식별할 수 있다. 웨어러블 장치는 카메라(예, 도 2의 제1 카메라(225-1))를 이용하여 손을 포함하는 이미지(예, 도 2의 이미지(226-1))를 획득할 수 있다. 도 3의 모델(310) 및 상기 이미지에 기반하여, 웨어러블 장치는 상기 이미지에 포함된 손의 위치 및/또는 형태를 나타내는 정보를 획득할 수 있다.
도 11을 참고하면, 동작(1160)에서, 일 실시예에 따른, 웨어러블 장치는, 제1 시각적 객체를, 식별된 손의 위치 및/또는 형태와 관련된 제2 시각적 객체로 변경할 수 있다. 웨어러블 장치는 제1 시각적 객체를 향하는 방향을 가지는 손을 식별하는 것에 기반하여, 동작(1160)을 수행할 수 있다. 동작(1160)의 제2 시각적 객체는, 도 4a 내지 도 4b의 스크롤 바(410), 도 5a의 버튼들(531-1, 532), 도 5b의 아이콘(540), 도 6a 내지 도 6b의 슬라이더(630), 도 6c의 핸들(660) 및/또는 버튼들(671, 672), 도 7a 내지 도 7b의 다이얼들(730, 740), 도 8의 버튼들(821, 822, 823), 도 9b의 시각적 객체(930) 및/또는 도 9c의 스위치(940)를 포함할 수 있다.
일 실시예에서, 웨어러블 장치가 동작(1160)에 기반하여 제1 시각적 객체를 제2 시각적 객체로 변경하는 것은, 웨어러블 장치에 의해 탐지된 입력 수단과 관련될 수 있다. 웨어러블 장치는 입력 수단에 기반하여, 시각적 객체의 사이즈, 거리, 형태, 효과 및/또는 상호작용 패턴 중 적어도 하나를 변경할지 여부를 결정할 수 있다. 예를 들어, 입력 수단으로 손을 식별한 상태에서, 웨어러블 장치는 제1 시각적 객체 보다 큰 사이즈를 가지는 제2 시각적 객체를 표시할 수 있다. 상기 상태에서, 웨어러블 장치는 제1 시각적 객체 보다 가까운 거리를 가지는 제2 시각적 객체를 표시할 수 있다. 상기 상태에서, 웨어러블 장치는 2 차원의 형태를 가지는 제1 시각적 객체와 상이한 형태(예, 3 차원의 형태)를 가지는 제2 시각적 객체를 표시할 수 있다. 곡선의 형태를 가지는 입력을 요구하는 도 7a의 다이얼(720)을, 웨어러블 장치는 직선의 시각적 객체(736)를 포함하는 다이얼(730)로 교체하여, 상호작용 패턴을 변경할 수 있다.
도 11을 참고하면, 동작(1170)에서, 일 실시예에 따른, 웨어러블 장치는, 화면과 함께 표시된 제2 시각적 객체를 이용하여, 손의 제스쳐에 대응하는 기능을 실행할 수 있다. 웨어러블 장치가 제2 시각적 객체를 이용하여 실행하는 기능은, 동작(1135)의 제1 시각적 객체에 기반하여 실행되는 기능과 실질적으로 동일할 수 있다. 예를 들어, 웨어러블 장치는 상기 제2 시각적 객체를 이용하여, 사용자가 보다 정확하게 제스쳐(예, 핀치 제스쳐 및/또는 포인팅 제스쳐)를 수행하는 것을 지원할 수 있다.
도 12는, 일 실시예에 따른, 웨어러블 장치의 흐름도의 일 예를 도시한다. 도 1 내지 도 10b의 웨어러블 장치(101)는 도 12의 동작들 중 적어도 하나를 수행할 수 있다. 예를 들어, 도 2의 웨어러블 장치(101) 및/또는 프로세서(210)는 도 12의 동작들 중 적어도 하나를 수행할 수 있다. 도 12의 동작들 중 적어도 하나는, 도 11의 동작들 중 적어도 하나와 관련될 수 있다.
도 12를 참고하면, 동작(1210)에서, 일 실시예에 따른, 웨어러블 장치는, 제1 시각적 객체를 포함하는 화면을 표시할 수 있다. 웨어러블 장치는 도 11의 동작(1110)과 유사하게 도 12의 동작(1210)을 수행할 수 있다.
도 12를 참고하면, 동작(1220)에서, 일 실시예에 따른, 웨어러블 장치는, 외부 전자 장치가 웨어러블 장치와 연결되었는지 여부를 식별할 수 있다. 웨어러블 장치는 통신 회로(예, 도 2의 통신 회로(240))를 이용하여 외부 전자 장치를 식별할 수 있다. 외부 전자 장치를 식별하는 것에 기반하여, 웨어러블 장치는 외부 전자 장치 및 웨어러블 장치 사이의 통신 링크를 수립할 수 있다.
도 12를 참고하면, 외부 전자 장치와 연결되지 않은 상태에서(1220-아니오), 일 실시예에 따른, 웨어러블 장치는 동작(1230)을 수행하여, 제1 시각적 객체를 향하는 방향을 가지는 손을 탐지할 수 있다. 웨어러블 장치는 카메라를 이용하여 획득된 이미지로부터, 손의 위치, 자세 및/또는 형태를 식별할 수 있다. 웨어러블 장치는 도 3의 모델(310)을 이용하여, 손의 위치, 자세 및/또는 형태를 나타내는 정보를 획득할 수 있다.
제1 시각적 객체를 향하는 방향을 가지는 손을 탐지한 상태에서(1230-예), 일 실시예에 따른, 웨어러블 장치는 도 12의 동작(1240)을 수행하여, 탐지된 손의 형태가 제1 형태에 대응하는지 여부를 판단할 수 있다. 상기 제1 형태는, 도 3의 이미지(340)에 기반하여 상술된 포인팅 제스쳐의 형태를 포함할 수 있다.
도 12를 참고하면, 제1 형태에 대응하는 손의 형태를 탐지한 상태에서(1240-예), 일 실시예에 따른, 웨어러블 장치는 동작(1250)을 수행하여, 화면 내 제1 시각적 객체를, 제2 시각적 객체로 변경할 수 있다. 상기 제2 시각적 객체는 포인팅 제스쳐의 형태를 가지는 손을 식별하였음을 알리기 위한 형태를 가질 수 있다. 상기 제2 시각적 객체는 상기 제1 시각적 객체 보다 큰 사이즈를 가질 수 있다. 상기 제2 시각적 객체는, 2 차원의 형태를 가지는 상기 제1 시각적 객체와 달리, 3 차원의 입체적인 형태를 가질 수 있다. 상기 제2 시각적 객체는, 상기 제1 시각적 객체의 양안 시차 보다 큰 양안 시차에 기반하여 표시될 수 있다. 웨어러블 장치는 제1 시각적 객체의 상기 양안 시차 보다 큰 양안 시차에 기반하여 제2 시각적 객체를 표시하여, 사용자에게 상대적으로 가까운 거리에 제2 시각적 객체를 표시할 수 있다.
도 12를 참고하면, 손의 형태가 제1 형태에 대응하지 않는 경우(1240-아니오), 일 실시예에 따른, 웨어러블 장치는 동작(1260)을 수행하여, 화면 내 제1 시각적 객체를, 제3 시각적 객체로 변경할 수 있다. 포인팅 제스쳐를 포함하는 제1 형태와 상이한 다른 형태(예, 유휴 제스쳐의 형태)의 손을 식별하는 경우, 웨어러블 장치는 동작(1260)에 기반하여, 제1 시각적 객체를 제3 시각적 객체로 변경할 수 있다. 상기 제3 시각적 객체는, 유휴 제스쳐의 형태를 가지는 손을 식별하였음을 알리기 위한 형태를 가질 수 있다. 상기 제3 시각적 객체는 상기 제1 시각적 객체 보다 큰 사이즈를 가질 수 있다. 웨어러블 장치는 2 차원의 형태를 가지는 상기 제1 시각적 객체를, 3 차원의 형태를 가지는 상기 제3 시각적 객체로 변경할 수 있다. 웨어러블 장치는 상기 제1 시각적 객체 보다 가까운 거리에 상기 제3 시각적 객체를 표시할 수 있다.
도 12를 참고하면, 동작(1270)에서, 일 실시예에 따른, 웨어러블 장치는, 외부 전자 장치의 신호 또는 손의 형태에 기반하여, 제1 시각적 객체 내지 제3 시각적 객체의 기능을 실행할 수 있다. 외부 전자 장치가 웨어러블 장치와 연결되었거나(1220-예), 제1 시각적 객체를 향하는 방향을 가지는 손을 탐지하지 못한 경우(1230-아니오), 웨어러블 장치는 동작(1210)에 기반하여 제1 시각적 객체를 포함하는 화면을 표시하는 것을 유지하면서, 동작들(1220, 1230) 중 적어도 하나에 기반하여 외부 전자 장치 및/또는 손을 포함하는 신체 부위를 검색할 수 있다. 외부 전자 장치의 신호에 기반하여, 제1 시각적 객체의 기능을 실행할 수 있다. 동작(1250)에 기반하여, 제2 시각적 객체를 표시한 웨어러블 장치는 동작(1270)을 수행하여, 손의 형태에 따라 제2 시각적 객체의 기능을 실행할 수 있다. 동작(1260)에 기반하여, 제3 시각적 객체를 표시한 웨어러블 장치는 동작(1270)을 수행하여, 손의 형태에 따라 제3 시각적 객체의 기능을 실행할 수 있다.
도 13은, 일 실시예에 따른, 웨어러블 장치의 흐름도의 일 예를 도시한다. 도 1 내지 도 10b의 웨어러블 장치(101)는 도 13의 동작들 중 적어도 하나를 수행할 수 있다. 예를 들어, 도 2의 웨어러블 장치(101) 및/또는 프로세서(210)는 도 13의 동작들 중 적어도 하나를 수행할 수 있다. 도 13의 동작들 중 적어도 하나는, 도 11 내지 도 12의 동작들 중 적어도 하나와 관련될 수 있다.
도 13을 참고하면, 동작(1310)에서, 일 실시예에 따른, 웨어러블 장치는, 제1 시각적 객체를 포함하는 화면을 표시할 수 있다. 웨어러블 장치는 도 11의 동작(1110) 및/또는 도 12의 동작(1210)과 유사하게 도 13의 동작(1310)을 수행할 수 있다. 동작(1320)에서, 일 실시예에 따른, 웨어러블 장치는, 외부 전자 장치가 웨어러블 장치와 연결되었는지 여부를 식별할 수 있다. 웨어러블 장치는 도 12의 동작(1220)과 유사하게 도 13의 동작(1320)을 수행할 수 있다. 도 13을 참고하면, 외부 전자 장치와 연결되지 않은 상태에서(1320-아니오), 일 실시예에 따른, 웨어러블 장치는 동작(1330)을 수행하여, 제1 시각적 객체를 향하는 손을 탐지할 수 있다. 웨어러블 장치는 도 12의 동작(1230)과 유사하게 도 12의 동작(1230)을 수행할 수 있다.
도 13을 참고하면, 제1 시각적 객체를 향하는 손을 탐지한 상태에서(1330-예), 일 실시예에 따른, 웨어러블 장치는 동작(1340)을 수행하여, 제1 시각적 객체 및 손 사이의 거리가 임계 거리 이하인지 여부를 식별할 수 있다. 상기 임계 거리는 웨어러블 장치를 착용한 사용자의 손의 도달 가능한 거리를 나타낼 수 있다. 예를 들어, 상기 임계 거리는 약 50 cm일 수 있다.
도 13을 참고하면, 임계 거리 이하로 제1 시각적 객체를 표시하는 상태에서(1340-예), 일 실시예에 따른, 웨어러블 장치는 동작(1350)을 수행하여, 3 차원의 형태를 가지는 제2 시각적 객체로 변경할 수 있다. 웨어러블 장치는 도 8의 버튼들(821, 822, 823)과 같이, 웨어러블 장치를 착용한 사용자를 향하여 돌출된 형태를 가지는 상기 제2 시각적 객체를 표시할 수 있다. 상기 제2 시각적 객체를 표시한 웨어러블 장치는 상기 제1 시각적 객체를 표시하는 것을 적어도 일시적으로 중단할 수 있다.
도 13을 참고하면, 임계 거리를 초과하여 제1 시각적 객체를 표시하는 상태에서(1340-아니오), 일 실시예에 따른, 웨어러블 장치는 동작(1360)을 수행하여, 손 및 제1 시각적 객체를 연결하는 라인의 형태를 가지는 제3 시각적 객체를 표시할 수 있다. 상기 제3 시각적 객체는, 손으로부터 연장된 레이(ray)를 포함할 수 있다.
도 13을 참고하면, 동작(1370)에서, 일 실시예에 따른, 웨어러블 장치는, 외부 전자 장치의 신호 또는 손의 형태에 기반하여, 제1 시각적 객체 내지 제2 시각적 객체의 기능을 실행할 수 있다. 외부 전자 장치가 웨어러블 장치와 연결되었거나(1320-예), 및/또는 제1 시각적 객체를 향하는 손을 탐지하지 못한 경우(1330-아니오), 웨어러블 장치는 동작(1370)에 기반하여, 제1 시각적 객체의 기능을 실행할 수 있다. 동작(1350)을 수행하여 제2 시각적 객체를 표시한 경우, 웨어러블 장치는 동작(1370)을 수행하여, 상기 제2 시각적 객체에 대응하는 기능을 실행할 수 있다. 동작(1360)을 수행하여 제1 시각적 객체와 함께 제3 시각적 객체를 표시한 경우, 웨어러블 장치는 동작(1370)을 수행하여, 상기 제1 시각적 객체의 기능을 실행할 수 있다.
도 14는, 일 실시예에 따른, 웨어러블 장치의 흐름도의 일 예를 도시한다. 도 1 내지 도 10b의 웨어러블 장치(101)는 도 14의 동작들 중 적어도 하나를 수행할 수 있다. 예를 들어, 도 2의 웨어러블 장치(101) 및/또는 프로세서(210)는 도 14의 동작들 중 적어도 하나를 수행할 수 있다. 도 14의 동작들 중 적어도 하나는, 도 11 내지 도 13의 동작들 중 적어도 하나와 관련될 수 있다.
도 14를 참고하면, 동작(1410)에서, 일 실시예에 따른, 웨어러블 장치는, 제1 시각적 객체를 포함하는 화면을 표시할 수 있다. 웨어러블 장치는 도 11의 동작(1110), 도 12의 동작(1210), 및/또는 도 13의 동작(1310)과 유사하게 도 14의 동작(1410)을 수행할 수 있다. 도 14를 참고하면, 동작(1420)에서, 일 실시예에 따른, 웨어러블 장치는, 외부 전자 장치가 웨어러블 장치와 연결되었는지 여부를 식별할 수 있다. 웨어러블 장치는 도 12의 동작(1220), 및/또는 도 13의 동작(1320)과 유사하게 도 14의 동작(1420)을 수행할 수 있다. 외부 전자 장치와 연결되지 않은 상태에서(1420-아니오), 웨어러블 장치는 동작(1430)을 수행하여, 제1 시각적 객체를 향하는 손을 탐지할 수 있다. 웨어러블 장치는 도 12의 동작(1230) 및/또는 도 13의 동작(1330)과 유사하게 도 14의 동작(1430)을 수행할 수 있다.
도 14를 참고하면, 제1 시각적 객체를 향하는 손을 탐지한 상태에서(1430-예), 일 실시예에 따른, 웨어러블 장치는 동작(1440)을 수행하여, 손의 형태에 기반하여, 제1 시각적 객체를, 제2 시각적 객체 또는 제3 시각적 객체 어느 하나로 변경할 수 있다. 동작(1440)의 제2 시각적 객체 및 제3 시각적 객체 각각은, 손의 상이한 형태들(예, 유휴 제스쳐 및/또는 포인팅 제스쳐)에 대응할 수 있다. 예를 들어, 웨어러블 장치는 유휴 제스쳐의 형태를 가지는 손을 식별하는 것에 응답하여, 동작(1440)의 제2 시각적 객체(예, 도 4a의 스크롤 바(410))를 표시할 수 있다. 예를 들어, 웨어러블 장치는 포인팅 제스쳐의 형태를 가지는 손을 식별하는 것에 응답하여, 동작(1440)의 제3 시각적 객체(예, 도 4b의 버튼들(421, 422)의 그룹(420))를 표시할 수 있다.
도 14를 참고하면, 동작(1450)에서, 일 실시예에 따른, 웨어러블 장치는, 손 및 변경된 시각적 객체 사이의 거리가 임계 거리를 초과하는지 여부를 식별할 수 있다. 상기 임계 거리(예, 50 cm)는, 손에 의해 도달 가능한 거리와 관련될 수 있다. 손 및 변경된 시각적 객체 사이의 거리가 임계 거리를 초과하는 상태에서(1450-예), 웨어러블 장치는 동작(1460)을 수행하여, 동작(1440)에 의해 변경된 시각적 객체를, 손의 위치에 기반하여 이동할 수 있다. 예를 들어, 웨어러블 장치는 동작(1450)의 임계 거리 이하의 거리로, 동작(1440)에 의해 변경된 시각적 객체를 이동할 수 있다.
도 14를 참고하면, 동작(1470)에서, 일 실시예에 따른, 웨어러블 장치는, 외부 전자 장치의 신호 또는 손의 형태에 기반하여, 제1 시각적 객체 내지 제2 시각적 객체의 기능을 실행할 수 있다. 웨어러블 장치는, 외부 전자 장치의 신호에 기반하여, 제1 시각적 객체의 기능을 실행할 수 있다. 웨어러블 장치는, 외부 전자 장치 없이 웨어러블 장치를 제어하기 위해 움직이는 손을 식별한 경우, 동작(1440)에 의해 변경된 시각적 객체의 기능을 실행할 수 있다. 웨어러블 장치가 손에 기반하는 상호작용을 위해 동작(1440)의 시각적 객체의 변경을 수행하였기 때문에, 웨어러블 장치가 제1 시각적 객체 내지 제3 시각적 객체 각각을 이용하여 실행하는 기능들은 서로 일치할 수 있다.
도 15는, 일 실시예에 따른, 웨어러블 장치의 흐름도의 일 예를 도시한다. 도 1 내지 도 10b의 웨어러블 장치(101)는 도 15의 동작들 중 적어도 하나를 수행할 수 있다. 예를 들어, 도 2의 웨어러블 장치(101) 및/또는 프로세서(210)는 도 15의 동작들 중 적어도 하나를 수행할 수 있다. 도 15의 동작들 중 적어도 하나는, 도 11 내지 도 14의 동작들 중 적어도 하나와 관련될 수 있다.
도 15를 참고하면, 동작(1510)에서, 일 실시예에 따른, 웨어러블 장치는, 디스플레이에 제1 시각적 객체를 표시할 수 있다. 웨어러블 장치는 도 11의 동작(1110), 도 12의 동작(1210), 도 13의 동작(1310) 및/또는 도 14의 동작(1410)과 유사하게 도 15의 동작(1510)을 수행할 수 있다. 도 15를 참고하면, 동작(1520)에서, 일 실시예에 따른, 웨어러블 장치는, 통신 회로(예, 도 2의 통신 회로(240))를 이용하여 외부 전자 장치(예, 도 1 내지 도 10a의 외부 전자 장치(180))를 식별할 수 있다. 통신 회로를 이용하여 외부 전자 장치를 식별한 상태에서(1520-예), 일 실시예에 따른, 웨어러블 장치는 동작(1530)을 수행하여, 외부 전자 장치로부터 수신된 신호에 따라 제1 시각적 객체의 기능을 제어할 수 있다. 웨어러블 장치는 동작(1510)에 기반하는 제1 시각적 객체의 표시를 유지하면서, 동작(1530)을 수행할 수 있다.
통신 회로를 통해 외부 전자 장치를 식별하지 못한 상태에서(1520-아니오), 일 실시예에 따른, 웨어러블 장치는 동작(1540)을 수행하여, 카메라를 이용하여, 제1 시각적 객체를 향하는 신체 부위를 식별하였는지 여부를 판단할 수 있다. 제1 시각적 객체를 향하는 신체 부위를 식별하기 이전에(1540-아니오), 웨어러블 장치는 동작(1510)에 기반하여, 제1 시각적 객체를 표시하는 것을 유지할 수 있다. 제1 시각적 객체를 향하는 신체 부위(예, 도 1 내지 도 10b의 손(110-1))를 식별한 상태에서(1540-예), 일 실시예에 따른, 웨어러블 장치는 동작(1550)을 수행하여, 동작(1510)에 기반하여 표시된 제1 시각적 객체를, 제2 시각적 객체로 변경할 수 있다. 상기 제2 시각적 객체는, 동작(1540)에 기반하여 식별된 신체 부위(예, 손)의 제스쳐(예, 유휴 제스쳐, 핀치 제스쳐 및/또는 포인팅 제스쳐)를 가이드하기 위한 형태를 가질 수 있다.
도 15를 참고하면, 동작(1560)에서, 일 실시예에 따른, 웨어러블 장치는, 제2 시각적 객체와 관련된 신체 부위의 제스쳐에 기반하여, 제2 시각적 객체의 기능을 제어할 수 있다. 동작(1560)의 기능을 제어하기 위한 상기 제스쳐는, 핀치 제스쳐 및/또는 포인팅 제스쳐와 같이, 제2 시각적 객체의 선택 및/또는 제어를 위해 수행된 제스쳐를 포함할 수 있다.
상술한 바와 같이, 일 실시예에 따른, 웨어러블 장치는 리모트 컨트롤러를 포함하는 외부 전자 장치 없이 움직이는 손에 기반하여, 적어도 하나의 시각적 객체를, 상기 손과 관련된 형태를 가지는 다른 시각적 객체로 교체할 수 있다. 시각적 객체의 교체에 기반하여, 웨어러블 장치는 사용자에게 상기 손에 의해 포커스된 시각적 객체를 알릴 수 있다. 시각적 객체의 교체에 기반하여, 웨어러블 장치는 상기 손을 이용한 제스쳐의 수행을 가이드할 수 있다. 시각적 객체의 교체에 기반하여, 웨어러블 장치는, 상기 손에 기반하는 입력을 보다 정확하게 수신할 수 있다.
이하에서는, 도 16a 내지 도 16b, 및/또는 도 17a 내지 도 17b를 참고하여, 일 실시예에 따른, 웨어러블 장치(101)의 폼 팩터의 일 예가 설명된다.
도 16a는, 일 실시예에 따른, 웨어러블 장치의 사시도(perspective view)의 일 예를 도시한다. 도 16b는, 일 실시예에 따른, 웨어러블 장치(1600) 내에 배치된 하나 이상의 하드웨어들의 일 예를 도시한다. 도 1 내지 도 2의 웨어러블 장치(101)는, 도 16a 내지 도 16b의 웨어러블 장치(1600)를 포함할 수 있다. 도 16a의 도시에서(as shown in), 일 실시예에 따른, 웨어러블 장치(1600)는, 적어도 하나의 디스플레이(1650), 및 적어도 하나의 디스플레이(1650)를 지지하는 프레임을 포함할 수 있다.
일 실시예에 따른, 웨어러블 장치(1600)는 사용자의 신체의 일부 상에 착용될 수 있다. 웨어러블 장치(1600)는, 웨어러블 장치(1600)를 착용한 사용자에게, 증강 현실(augmented reality, AR), 가상 현실(virtual reality, VR), 또는 증강 현실과 가상 현실을 혼합한 혼합 현실(mixed reality, MR)을 제공할 수 있다. 예를 들면, 웨어러블 장치(1600)는, 도 16b의 동작 인식 카메라(1640-2)를 통해 획득된 사용자의 지정된 제스처에 응답하여, 적어도 하나의 디스플레이(1650)를 통하여 사용자에게 가상 현실 영상을 출력할 수 있다.
일 실시예에 따른, 웨어러블 장치(1600) 내 적어도 하나의 디스플레이(1650)는, 사용자에게 시각 정보를 제공할 수 있다. 상기 적어도 하나의 디스플레이(1650)는, 도 2의 디스플레이(220)를 포함할 수 있다. 예를 들면, 적어도 하나의 디스플레이(1650)는, 투명 또는 반투명한 렌즈를 포함할 수 있다. 적어도 하나의 디스플레이(1650)는, 제1 디스플레이(1650-1) 및/또는 제1 디스플레이(1650-1)로부터 이격된 제2 디스플레이(1650-2)를 포함할 수 있다. 예를 들면, 제1 디스플레이(1650-1), 및 제2 디스플레이(1650-2)는, 사용자의 좌안과 우안에 각각 대응되는 위치에 배치될 수 있다.
도 16b를 참조하면, 적어도 하나의 디스플레이(1650)는, 렌즈 상에 표시 영역을 형성하여, 웨어러블 장치(1600)를 착용한 사용자에게, 렌즈를 통과하는 외부 광에 포함된 시각적 정보와 함께, 상기 시각적 정보와 구별되는, 다른 시각적 정보를 제공할 수 있다. 상기 렌즈는, 프레넬(fresnel) 렌즈, 팬케이크(pancake) 렌즈, 또는 멀티-채널 렌즈 중 적어도 하나에 기반하여 형성될 수 있다. 적어도 하나의 디스플레이(1650)에 의해 형성된 표시 영역은, 렌즈의 제1 면(1631), 및 제2 면(1632) 중 제2 면(1632) 상에 형성될 수 있다. 사용자가 웨어러블 장치(1600)를 착용하였을 때, 외부 광은 제1 면(1631)으로 입사되고, 제2 면(1632)을 통해 투과됨으로써, 사용자에게 전달될 수 있다. 다른 예를 들면, 적어도 하나의 디스플레이(1650)는, 외부 광을 통해 전달되는 현실 화면에 결합될 가상 현실 영상을 표시할 수 있다. 적어도 하나의 디스플레이(1650)로부터 출력된 상기 가상 현실 영상은, 웨어러블 장치(1600)에 포함된 하나 이상의 하드웨어(예, 광학 장치들(1682, 1684), 및/또는 적어도 하나의 웨이브가이드들(waveguides)(1633, 1634))를 통하여, 사용자의 눈으로 송신될 수 있다.
일 실시예에 따른, 웨어러블 장치(1600)는 적어도 하나의 디스플레이(1650)로부터 송신되고, 광학 장치들(1682, 1684)에 의해 릴레이된 광을 회절시켜, 사용자에게 전달하는, 웨이브가이드들(1633, 1634)을 포함할 수 있다. 웨이브가이드들(1633, 1634)은, 글래스, 플라스틱, 또는 폴리머 중 적어도 하나에 기반하여 형성될 수 있다. 웨이브가이드들(1633, 1634)의 외부, 또는 내부의 적어도 일부분에, 나노 패턴이 형성될 수 있다. 상기 나노 패턴은, 다각형, 및/또는 곡면 형상의 격자 구조(grating structure)에 기반하여 형성될 수 있다. 웨이브가이드들(1633, 1634)의 일 단으로 입사된 광은, 상기 나노 패턴에 의해 웨이브가이드들(1633, 1634)의 타 단으로 전파될 수 있다. 웨이브가이드들(1633, 1634)은 적어도 하나의 회절 요소(예: DOE(diffractive optical element), HOE(holographic optical element)), 반사 요소(예: 반사 거울) 중 적어도 하나를 포함할 수 있다. 예를 들어, 웨이브가이드들(1633, 1634)은, 적어도 하나의 디스플레이(1650)에 의해 표시되는 화면을, 사용자의 눈으로 가이드하기 위하여, 웨어러블 장치(1600) 내에 배치될 수 있다. 예를 들어, 상기 화면은, 웨이브가이드들(1633, 1634) 내에서 발생되는 전반사(total internal reflection, TIR)에 기반하여, 사용자의 눈으로 송신될 수 있다.
일 실시예에 따른, 웨어러블 장치(1600)는, 촬영 카메라(1640-1)를 통해 수집된 현실 영상에 포함된 오브젝트(object)를 분석하고, 분석된 오브젝트 중에서 증강 현실 제공의 대상이 되는 오브젝트에 대응되는 가상 오브젝트(virtual object)를 결합하여, 적어도 하나의 디스플레이(1650)에 표시할 수 있다. 가상 오브젝트는, 현실 영상에 포함된 오브젝트에 관련된 다양한 정보에 대한 텍스트, 및 이미지 중 적어도 하나를 포함할 수 있다. 웨어러블 장치(1600)는, 스테레오 카메라와 같은 멀티-카메라에 기반하여, 오브젝트를 분석할 수 있다. 상기 오브젝트 분석을 위하여, 웨어러블 장치(1600)는 멀티-카메라에 의해 지원되는, ToF(time-of-flight), 및/또는 SLAM(simultaneous localization and mapping)을 실행할 수 있다. 웨어러블 장치(1600)를 착용한 사용자는, 적어도 하나의 디스플레이(1650)에 표시되는 영상을 시청할 수 있다.
일 실시예에 따르면, 프레임은, 웨어러블 장치(1600)가 사용자의 신체 상에 착용될 수 있는 물리적인 구조로 이루어질 수 있다. 일 실시예에 따르면, 프레임은, 사용자가 웨어러블 장치(1600)를 착용하였을 때, 제1 디스플레이(1650-1) 및 제2 디스플레이(1650-2)가 사용자의 좌안 및 우안에 대응되는 위치할 수 있도록, 구성될 수 있다. 프레임은, 적어도 하나의 디스플레이(1650)를 지지할 수 있다. 예를 들면, 프레임은, 제1 디스플레이(1650-1) 및 제2 디스플레이(1650-2)를 사용자의 좌안 및 우안에 대응되는 위치에 위치되도록 지지할 수 있다.
도 16a를 참조하면, 프레임은, 사용자가 웨어러블 장치(1600)를 착용한 경우, 적어도 일부가 사용자의 신체의 일부분과 접촉되는 영역(1620)을 포함할 수 있다. 예를 들면, 프레임의 사용자의 신체의 일부분과 접촉되는 영역(1620)은, 웨어러블 장치(1600)가 접하는 사용자의 코의 일부분, 사용자의 귀의 일부분 및 사용자의 얼굴의 측면 일부분과 접촉하는 영역을 포함할 수 있다. 일 실시예에 따르면, 프레임은, 사용자의 신체의 일부 상에 접촉되는 노즈 패드(1610)를 포함할 수 있다. 웨어러블 장치(1600)가 사용자에 의해 착용될 시, 노즈 패드(1610)는, 사용자의 코의 일부 상에 접촉될 수 있다. 프레임은, 상기 사용자의 신체의 일부와 구별되는 사용자의 신체의 다른 일부 상에 접촉되는 제1 템플(temple)(1604) 및 제2 템플(1605)을 포함할 수 있다.
일 실시예에서, 프레임은, 제1 디스플레이(1650-1)의 적어도 일부를 감싸는 제1 림(rim)(1601), 제2 디스플레이(1650-2)의 적어도 일부를 감싸는 제2 림(1602), 제1 림(1601)과 제2 림(1602) 사이에 배치되는 브릿지(bridge)(1603), 브릿지(1603)의 일단으로부터 제1 림(1601)의 가장자리 일부를 따라 배치되는 제1 패드(1611), 브릿지(1603)의 타단으로부터 제2 림(1602)의 가장자리 일부를 따라 배치되는 제2 패드(1612), 제1 림(1601)으로부터 연장되어 착용자의 귀의 일부분에 고정되는 제1 템플(1604), 및 제2 림(1602)으로부터 연장되어 상기 귀의 반대측 귀의 일부분에 고정되는 제2 템플(1605)을 포함할 수 있다. 제1 패드(1611), 및 제2 패드(1612)는, 사용자의 코의 일부분과 접촉될 수 있고, 제1 템플(1604) 및 제2 템플(1605)은, 사용자의 안면의 일부분 및 귀의 일부분과 접촉될 수 있다. 템플들(1604, 1605)은, 도 16b의 힌지 유닛들(1606, 1607)을 통해 림과 회전 가능하게(rotatably) 연결될 수 있다. 제1 템플(1604)은, 제1 림(1601)과 제1 템플(1604)의 사이에 배치된 제1 힌지 유닛(1606)을 통해, 제1 림(1601)에 대하여 회전 가능하게 연결될 수 있다. 제2 템플(1605)은, 제2 림(1602)과 제2 템플(1605)의 사이에 배치된 제2 힌지 유닛(1607)을 통해 제2 림(1602)에 대하여 회전 가능하게 연결될 수 있다. 일 실시예에 따른, 웨어러블 장치(1600)는 프레임의 표면의 적어도 일부분 상에 형성된, 터치 센서, 그립 센서, 및/또는 근접 센서를 이용하여, 프레임을 터치하는 외부 객체(예, 사용자의 손끝(fingertip)), 및/또는 상기 외부 객체에 의해 수행된 제스쳐를 식별할 수 있다.
일 실시예에 따르면, 웨어러블 장치(1600)는, 다양한 기능들을 수행하는 하드웨어들(예, 도 2의 블록도에 기반하여 상술된 하드웨어들)을 포함할 수 있다. 예를 들면, 상기 하드웨어들은, 배터리 모듈(1670), 안테나 모듈(1675), 광학 장치들(1682, 1684), 스피커들(1692-1, 1692-2), 마이크들(1694-1, 1694-2, 1694-3), 발광 모듈(미도시), 및/또는 인쇄 회로 기판(1690)을 포함할 수 있다. 다양한 하드웨어들은, 프레임 내에 배치될 수 있다.
일 실시예에 따른, 웨어러블 장치(1600)의 마이크들(1694-1, 1694-2, 1694-3)은, 프레임의 적어도 일부분에 배치되어, 소리 신호를 획득할 수 있다. 노즈 패드(1610) 상에 배치된 제1 마이크(1694-1), 제2 림(1602) 상에 배치된 제2 마이크(1694-2), 및 제1 림(1601) 상에 배치된 제3 마이크(1694-3)가 도 16b 내에 도시되지만, 마이크(1694)의 개수, 및 배치가 도 16b의 일 실시예에 제한되는 것은 아니다. 웨어러블 장치(1600) 내에 포함된 마이크(1694)의 개수가 두 개 이상인 경우, 웨어러블 장치(1600)는 프레임의 상이한 부분들 상에 배치된 복수의 마이크들을 이용하여, 소리 신호의 방향을 식별할 수 있다.
일 실시예에 따르면, 광학 장치들(1682, 1684)은, 적어도 하나의 디스플레이(1650)로부터 송신된 가상 오브젝트를, 웨이브 가이드들(1633, 1634)로 송신할 수 있다. 예를 들면, 광학 장치들(1682, 1684)은, 프로젝터일 수 있다. 광학 장치들(1682, 1684)은, 적어도 하나의 디스플레이(1650)에 인접하여 배치되거나, 적어도 하나의 디스플레이(1650)의 일부로써, 적어도 하나의 디스플레이(1650) 내에 포함될 수 있다. 제1 광학 장치(1682)는, 제1 디스플레이(1650-1)에 대응하고, 제2 광학 장치(1684)는, 제2 디스플레이(1650-2)에 대응할 수 있다. 제1 광학 장치(1682)는, 제1 디스플레이(1650-1)로부터 출력된 광을, 제1 웨이브가이드(1633)로 송출할 수 있고, 제2 광학 장치(1684)는, 제2 디스플레이(1650-2)로부터 출력된 광을, 제2 웨이브가이드(1634)로 송출할 수 있다.
일 실시예에서, 카메라(1640)는, 시선 추적 카메라(eye tracking camera, ET CAM)(1640-1), 동작 인식 카메라(1640-2), 및/또는 촬영 카메라(1640-3)를 포함할 수 있다. 촬영 카메라(1640-3), 시선 추적 카메라(1640-1) 및 동작 인식 카메라(1640-2)는, 프레임 상에서 서로 다른 위치에 배치될 수 있고, 서로 다른 기능을 수행할 수 있다. 촬영 카메라(1640-3), 시선 추적 카메라(1640-1) 및 동작 인식 카메라(1640-2)는 도 2의 카메라(225)의 일 예일 수 있다. 시선 추적 카메라(1640-1)는, 웨어러블 장치(1600)를 착용한 사용자의 시선(gaze)을 나타내는 데이터를 출력할 수 있다. 예를 들어, 웨어러블 장치(1600)는 시선 추적 카메라(1640-1)를 통하여 획득된, 사용자의 눈동자가 포함된 이미지로부터, 상기 시선을 탐지할 수 있다. 시선 추적 카메라(1640-1)가 사용자의 우측 눈을 향하여 배치된 일 예가 도 16b 내에 도시되지만, 실시예가 이에 제한되는 것은 아니며, 시선 추적 카메라(1640-1)는, 사용자의 좌측 눈을 향하여 단독으로 배치되거나, 또는 양 눈들 전부를 향하여 배치될 수 있다.
일 실시예에서, 촬영 카메라(1640-3)는, 증강 현실 또는 혼합 현실 콘텐츠를 구현하기 위해서 가상의 이미지와 정합될 실제의 이미지나 배경을 촬영할 수 있다. 촬영 카메라는, 사용자가 바라보는 위치에 존재하는 특정 사물의 이미지를 촬영하고, 그 이미지를 적어도 하나의 디스플레이(1650)로 제공할 수 있다. 적어도 하나의 디스플레이(1650)는, 촬영 카메라를 이용해 획득된 상기 특정 사물의 이미지를 포함하는 실제의 이미지나 배경에 관한 정보와, 광학 장치들(1682, 1684)을 통해 제공되는 가상 이미지가 겹쳐진 하나의 영상을 표시할 수 있다. 일 실시예에서, 촬영 카메라는, 제1 림(1601) 및 제2 림(1602) 사이에 배치되는 브릿지(1603) 상에 배치될 수 있다.
일 실시예에서, 시선 추적 카메라(1640-1)는, 웨어러블 장치(1600)를 착용한 사용자의 시선(gaze)을 추적함으로써, 사용자의 시선과 적어도 하나의 디스플레이(1650)에 제공되는 시각 정보를 일치시켜 보다 현실적인 증강 현실을 구현할 수 있다. 예를 들어, 웨어러블 장치(1600)는, 사용자가 정면을 바라볼 때, 사용자가 위치한 장소에서 사용자의 정면에 관련된 환경 정보를 자연스럽게 적어도 하나의 디스플레이(1650)에 표시할 수 있다. 시선 추적 카메라(1640-1)는, 사용자의 시선을 결정하기 위하여, 사용자의 동공의 이미지를 캡쳐하도록, 구성될 수 있다. 예를 들면, 시선 추적 카메라(1640-1)는, 사용자의 동공에서 반사된 시선 검출 광을 수신하고, 수신된 시선 검출 광의 위치 및 움직임에 기반하여, 사용자의 시선을 추적할 수 있다. 일 실시예에서, 시선 추적 카메라(1640-1)는, 사용자의 좌안과 우안에 대응되는 위치에 배치될 수 있다. 예를 들면, 시선 추적 카메라(1640-1)는, 제1 림(1601) 및/또는 제2 림(1602) 내에서, 웨어러블 장치(1600)를 착용한 사용자가 위치하는 방향을 향하도록 배치될 수 있다.
일 실시예에서, 동작 인식 카메라(1640-2)는, 사용자의 몸통, 손, 또는 얼굴 등 사용자의 신체 전체 또는 일부의 움직임을 인식함으로써, 적어도 하나의 디스플레이(1650)에 제공되는 화면에 특정 이벤트를 제공할 수 있다. 동작 인식 카메라(1640-2)는, 사용자의 동작을 인식(gesture recognition)하여 상기 동작에 대응되는 신호를 획득하고, 상기 신호에 대응되는 표시를 적어도 하나의 디스플레이(1650)에 제공할 수 있다. 프로세서는, 상기 동작에 대응되는 신호를 식별하고, 상기 식별에 기반하여, 지정된 기능을 수행할 수 있다. 일 실시예에서, 동작 인식 카메라(1640-2)는, 제1 림(1601) 및/또는 제2 림(1602)상에 배치될 수 있다.
일 실시예에서, 웨어러블 장치(1600)에 포함된 카메라(1640)는, 상술된 시선 추적 카메라(1640-1), 동작 인식 카메라(1640-2)에 제한되지 않는다. 예를 들어, 웨어러블 장치(1600)는 사용자의 FoV를 향하여 배치된 촬영 카메라(1640-3)를 이용하여, 상기 FoV 내에 포함된 외부 객체를 식별할 수 있다. 웨어러블 장치(1600)가 외부 객체를 식별하는 것은, 깊이 센서, 및/또는 ToF(time of flight) 센서와 같이, 웨어러블 장치(1600), 및 외부 객체 사이의 거리를 식별하기 위한 센서에 기반하여 수행될 수 있다. 상기 FoV를 향하여 배치된 상기 카메라(1640)는, 오토포커스 기능, 및/또는 OIS(optical image stabilization) 기능을 지원할 수 있다. 예를 들어, 웨어러블 장치(1600)는, 웨어러블 장치(1600)를 착용한 사용자의 얼굴을 포함하는 이미지를 획득하기 위하여, 상기 얼굴을 향하여 배치된 카메라(1640)(예, FT(face tracking) 카메라)를 포함할 수 있다.
비록 도시되지 않았지만, 일 실시예에 따른, 웨어러블 장치(1600)는, 카메라(1640)를 이용하여 촬영되는 피사체(예, 사용자의 눈, 얼굴, 및/또는 FoV 내 외부 객체)를 향하여 빛을 방사하는 광원(예, LED)을 더 포함할 수 있다. 상기 광원은 적외선 파장의 LED를 포함할 수 있다. 상기 광원은, 프레임, 힌지 유닛들(1606, 1607) 중 적어도 하나에 배치될 수 있다.
일 실시예에 따르면, 배터리 모듈(1670)은, 웨어러블 장치(1600)의 전자 부품들에 전력을 공급할 수 있다. 일 실시예에서, 배터리 모듈(1670)은, 제1 템플(1604) 및/또는 제2 템플(1605) 내에 배치될 수 있다. 예를 들면, 배터리 모듈(1670)은, 복수의 배터리 모듈(1670)들일 수 있다. 복수의 배터리 모듈(1670)들은, 각각 제1 템플(1604)과 제2 템플(1605) 각각에 배치될 수 있다. 일 실시예에서, 배터리 모듈(1670)은 제1 템플(1604) 및/또는 제2 템플(1605)의 단부에 배치될 수 있다.
일 실시예에서, 안테나 모듈(1675)은, 신호 또는 전력을 웨어러블 장치(1600)의 외부로 송신하거나, 외부로부터 신호 또는 전력을 수신할 수 있다. 안테나 모듈(1675)은, 웨어러블 장치(1600) 내 통신 회로(예, 도 2의 통신 회로(240))와 전기적으로, 및/또는 작동적으로 연결될 수 있다. 일 실시예에서, 안테나 모듈(1675)은, 제1 템플(1604) 및/또는 제2 템플(1605) 내에 배치될 수 있다. 예를 들면, 안테나 모듈(1675)은, 제1 템플(1604), 및/또는 제2 템플(1605)의 일면에 가깝게 배치될 수 있다.
일 실시예에서, 스피커들(1692-1, 1692-2)은, 음향 신호를 웨어러블 장치(1600)의 외부로 출력할 수 있다. 음향 출력 모듈은, 스피커로 참조될 수 있다. 일 실시예에서, 스피커들(1692-1, 1692-2)은, 웨어러블 장치(1600)를 착용한 사용자의 귀에 인접하게 배치되기 위하여, 제1 템플(1604), 및/또는 제2 템플(1605) 내에 배치될 수 있다. 예를 들면, 웨어러블 장치(1600)는, 제1 템플(1604) 내에 배치됨으로써 사용자의 좌측 귀에 인접하게 배치되는, 제2 스피커(1692-2), 및 제2 템플(1605) 내에 배치됨으로써 사용자의 우측 귀에 인접하게 배치되는, 제1 스피커(1692-1)를 포함할 수 있다.
일 실시예에서, 발광 모듈(미도시)은, 적어도 하나의 발광 소자를 포함할 수 있다. 발광 모듈은, 웨어러블 장치(1600)의 특정 상태에 관한 정보를 사용자에게 시각적으로 제공하기 위하여, 특정 상태에 대응되는 색상의 빛을 방출하거나, 특정 상태에 대응되는 동작으로 빛을 방출할 수 있다. 예를 들면, 웨어러블 장치(1600)가, 충전이 필요한 경우, 적색 광의 빛을 지정된 시점에 반복적으로 방출할 수 있다. 일 실시예에서, 발광 모듈은, 제1 림(1601) 및/또는 제2 림(1602) 상에 배치될 수 있다.
도 16b를 참고하면, 일 실시예에 따른, 웨어러블 장치(1600)는 PCB(printed circuit board)(1690)을 포함할 수 있다. PCB(1690)는, 제1 템플(1604), 또는 제2 템플(1605) 중 적어도 하나에 포함될 수 있다. PCB(1690)는, 적어도 두 개의 서브 PCB들 사이에 배치된 인터포저를 포함할 수 있다. PCB(1690) 상에서, 웨어러블 장치(1600)에 포함된 하나 이상의 하드웨어들(예, 도 2를 참고하여 상술된 블록들에 의하여 도시된 하드웨어들)이 배치될 수 있다. 웨어러블 장치(1600)는, 상기 하드웨어들을 상호연결하기 위한, FPCB(flexible PCB)를 포함할 수 있다.
일 실시예에 따른, 웨어러블 장치(1600)는, 웨어러블 장치(1600)의 자세, 및/또는 웨어러블 장치(1600)를 착용한 사용자의 신체 부위(예, 머리)의 자세를 탐지하기 위한 자이로 센서, 중력 센서, 및/또는 가속도 센서 중 적어도 하나를 포함할 수 있다. 중력 센서, 및 가속도 센서 각각은, 서로 수직인 지정된 3차원 축들(예, x축, y축 및 z축)에 기반하여 중력 가속도, 및/또는 가속도를 측정할 수 있다. 자이로 센서는 지정된 3차원 축들(예, x축, y축 및 z축) 각각의 각속도를 측정할 수 있다. 상기 중력 센서, 상기 가속도 센서, 및 상기 자이로 센서 중 적어도 하나가, IMU(inertial measurement unit)로 참조될 수 있다. 일 실시예에 따른, 웨어러블 장치(1600)는 IMU에 기반하여 웨어러블 장치(1600)의 특정 기능을 실행하거나, 또는 중단하기 위해 수행된 사용자의 모션, 및/또는 제스쳐를 식별할 수 있다.
도 17a 내지 도 17b는, 일 실시예에 따른, 웨어러블 장치(1700)의 외관의 일 예를 도시한다. 도 1 내지 도 2의 웨어러블 장치(101)는, 도 17a 내지 도 17b의 웨어러블 장치(1700)를 포함할 수 있다. 일 실시예에 따른, 웨어러블 장치(1700)의 하우징의 제1 면(1710)의 외관의 일 예가 도 17a에 도시되고, 상기 제1 면(1710)의 반대되는(opposite to) 제2 면(1720)의 외관의 일 예가 도 17b에 도시될 수 있다.
도 17a를 참고하면, 일 실시예에 따른, 웨어러블 장치(1700)의 제1 면(1710)은, 사용자의 신체 부위(예, 상기 사용자의 얼굴) 상에 부착가능한(attachable) 형태를 가질 수 있다. 비록 도시되지 않았지만, 웨어러블 장치(1700)는, 사용자의 신체 부위 상에 고정되기 위한 스트랩, 및/또는 하나 이상의 템플들(예, 도 16a 내지 도 16b의 제1 템플(1604), 및/또는 제2 템플(1605))을 더 포함할 수 있다. 사용자의 양 눈들 중에서 좌측 눈으로 이미지를 출력하기 위한 제1 디스플레이(1750-1), 및 상기 양 눈들 중에서 우측 눈으로 이미지를 출력하기 위한 제2 디스플레이(1750-2)가 제1 면(1710) 상에 배치될 수 있다. 웨어러블 장치(1700)는 제1 면(1710) 상에 형성되고, 상기 제1 디스플레이(1750-1), 및 상기 제2 디스플레이(1750-2)로부터 방사되는 광과 상이한 광(예, 주변 광(ambient light))에 의한 간섭을 방지하기 위한, 고무, 또는 실리콘 패킹(packing)을 더 포함할 수 있다.
일 실시예에 따른, 웨어러블 장치(1700)는, 상기 제1 디스플레이(1750-1), 및 상기 제2 디스플레이(1750-2) 각각에 인접한 사용자의 양 눈들을 촬영, 및/또는 추적하기 위한 카메라들(1740-3, 1740-4)을 포함할 수 있다. 상기 카메라들(1740-3, 1740-4)은, ET 카메라로 참조될 수 있다. 일 실시예에 따른, 웨어러블 장치(1700)는, 사용자의 얼굴을 촬영, 및/또는 인식하기 위한 카메라들(1740-1, 1740-2)을 포함할 수 있다. 상기 카메라들(1740-1, 1740-2)은, FT 카메라로 참조될 수 있다.
도 17b를 참고하면, 도 17a의 제1 면(1710)과 반대되는 제2 면(1720) 상에, 웨어러블 장치(1700)의 외부 환경과 관련된 정보를 획득하기 위한 카메라(예, 카메라들(1740-5, 1740-6, 1740-7, 1740-8, 1740-9, 1740-10)), 및/또는 센서(예, 깊이 센서(1730))가 배치될 수 있다. 예를 들어, 카메라들(1740-5, 1740-6, 1740-7, 1740-8, 1740-9, 1740-10)은, 웨어러블 장치(1700)와 상이한 외부 객체를 인식하기 위하여, 제2 면(1720) 상에 배치될 수 있다. 예를 들어, 카메라들(1740-9, 1740-10)을 이용하여, 웨어러블 장치(1700)는 사용자의 양 눈들 각각으로 송신될 이미지, 및/또는 미디어를 획득할 수 있다. 카메라(1740-9)는, 상기 양 눈들 중에서 우측 눈에 대응하는 제2 디스플레이(1750-2)를 통해 표시될 프레임을 획득하도록, 웨어러블 장치(1700)의 제2 면(1720) 상에 배치될 수 있다. 카메라(1740-10)는, 상기 양 눈들 중에서 좌측 눈에 대응하는 제1 디스플레이(1750-1)를 통해 표시될 프레임을 획득하도록, 웨어러블 장치(1700)의 제2 면(1720) 상에 배치될 수 있다.
일 실시예에 따른, 웨어러블 장치(1700)는, 웨어러블 장치(1700), 및 외부 객체 사이의 거리를 식별하기 위하여 제2 면(1720) 상에 배치된 깊이 센서(1730)를 포함할 수 있다. 깊이 센서(1730)를 이용하여, 웨어러블 장치(1700)는, 웨어러블 장치(1700)를 착용한 사용자의 FoV의 적어도 일부분에 대한 공간 정보(spatial information)(예, 깊이 맵(depth map))를 획득할 수 있다.
비록 도시되지 않았지만, 웨어러블 장치(1700)의 제2 면(1720) 상에, 외부 객체로부터 출력된 소리를 획득하기 위한 마이크가 배치될 수 있다. 마이크의 개수는, 실시예에 따라 하나 이상일 수 있다.
상술한 바와 같이, 일 실시예에 따른, 웨어러블 장치(1700)는 사용자의 머리에 착용되기 위한 폼 팩터를 가질 수 있다. 웨어러블 장치(1700)는, 상기 머리에 착용된 상태 내에서, 증강 현실 및/또는 혼합 현실에 기반하는 사용자 경험을 제공할 수 있다. 제1 디스플레이(1750-1) 및 제2 디스플레이(1750-2)를 이용하여, 웨어러블 장치(1700)는 도 1의 화면(120)을 표시할 수 있다. 웨어러블 장치(1700)는, 카메라들(1740-5, 1740-6, 1740-7, 1740-8, 1740-9, 1740-10)을 이용하여, 도 1 내지 도 10a의 외부 전자 장치(180) 없이 움직이는 손을 식별할 수 있다. 상기 손의 형태 및/또는 제스쳐에 기반하여, 웨어러블 장치(1700)는 화면(120)에 포함된 시각적 객체 중에서, 지정된 카테고리(예, 사용자의 제스쳐에 반응하기 위한 시각적 객체)의 시각적 객체를 변형하기 위한 기능을 실행할 수 있다.
일 실시예에서, 웨어러블 장치가 손을 포함하는 신체 부위를 식별하는 것에 기반하여, 시각적 객체를 변형하는 방안이 요구될 수 있다. 상술한 바와 같은, 일 실시예에 따른, 웨어러블 장치(wearable device)(예, 도 1 내지 도 2의 웨어러블 장치(101))는, 통신 회로(예, 도 2의 통신 회로(240)), 카메라(예, 도 2의 카메라(225)), 디스플레이(예, 도 2의 디스플레이(220)), 인스트럭션들을 저장하는 메모리(예, 도 2의 메모리(215)), 및 프로세서(예, 도 2의 프로세서(210))를 포함할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 디스플레이에 제1 시각적 객체를 표시하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 통신 회로를 이용하여 외부 전자 장치(예, 도 1 내지 도 2의 외부 전자 장치(180))를 식별하는 것에 기반하여, 상기 외부 전자 장치로부터 수신된 신호에 따라 상기 제1 시각적 객체의 기능을 제어하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 카메라를 이용하여, 상기 제1 시각적 객체를 향하는 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 상기 신체 부위의 형태에 대응하는, 제2 시각적 객체로 변경하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 카메라를 이용하여, 상기 디스플레이의 상기 제2 시각적 객체와 관련된 상기 신체 부위의 제스쳐를 식별하는 것에 기반하여, 상기 기능을 제어하도록, 야기할 수 있다.
일 실시예(an embodiment)에 따른, 웨어러블 장치(wearable device)는, 통신 회로, 카메라, 디스플레이, 인스트럭션들을 저장하는 메모리, 및 프로세서를 포함할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 카메라를 이용하여 외부 환경에 대한 이미지를 획득하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 디스플레이에 상기 외부 환경에 대한 이미지 중 적어도 일부를 표시한 상태에서 제1 시각적 객체를 표시하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 제1 시각적 객체를 표시하는 동안, 상기 통신 회로를 통해 연결된 외부 전자 장치로부터 수신된 신호에 기반하여, 상기 외부 전자 장치를 통하여 상기 제1 시각적 객체를 제어하기 위한 입력을 수신하였는지 여부에 따라, 상기 제1 시각적 객체의 기능을 제어하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 제1 시각적 객체를 표시하는 동안, 상기 이미지를 이용하여, 상기 제1 시각적 객체를 향하는 제1 자세를 가지는 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 상기 신체 부위의 형태에 대응하는, 제2 시각적 객체로 변경하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 카메라를 이용하여, 상기 디스플레이의 상기 제2 시각적 객체와 관련된 상기 신체 부위의 제2 자세를 식별하는 것에 기반하여, 상기 기능을 제어하도록, 야기할 수 있다.
예를 들어, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 스크롤 바의 형태를 가지는 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체 보다 큰 사이즈를 가지는 상기 제2 시각적 객체를 표시하도록, 야기할 수 있다.
예를 들어, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 스크롤 바가 연장된 축의 양 방향들 중 어느 하나를 선택하여 스크롤을 수행하기 위한 버튼들을 포함하는 상기 제2 시각적 객체를 표시하도록, 야기할 수 있다.
예를 들어, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 스크롤 바의 제1 방향을 따르는 라인 및 상기 라인으로부터 상기 제1 방향에 수직인 제2 방향을 따라 연장된 핸들(예, 도 4a의 핸들(411))을 포함하는 상기 제2 시각적 객체를 표시하도록, 야기할 수 있다.
예를 들어, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 제2 시각적 객체의 상기 핸들을 핀칭(pinching)하는 상기 제스쳐를 식별하는 것에 기반하여, 상기 신체 부위의 이동에 기반하여 상기 제2 핸들을 이동하고, 상기 제1 시각적 객체 와 연동된 영역을 통해 표시되는 정보의 스크롤을 수행하도록, 야기할 수 있다.
예를 들어, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 신호를 수신하는 것에 기반하여, 상기 제1 시각적 객체의 핸들을 이동하고, 상기 제1 시각적 객체에 매칭된 영역을 통해 표시되는 정보의 스크롤을 수행하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체 보다 큰 사이즈를 가지고, 상기 제스쳐에 의해 변형가능한(transformable) 핸들을 포함하는, 상기 제2 시각적 객체를 표시하도록, 야기할 수 있다.
예를 들어, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 2 차원의 버튼의 형태를 가지는 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 3 차원의 버튼의 형태를 가지는 상기 제2 시각적 객체로 변경하도록, 야기할 수 있다.
예를 들어, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 제1 시각적 객체가 배치된 가상 평면으로부터, 상기 가상 평면의 방향을 따라 돌출된(protruded) 형태를 가지는 상기 제2 시각적 객체를 표시하도록, 야기할 수 있다.
예를 들어, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 곡선의 형태를 가지는 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별하는 것에 기반하여, 직선의 형태를 가지는 라인을 포함하는 상기 제2 시각적 객체를 표시하도록, 야기할 수 있다.
예를 들어, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 제1 축에서 제1 거리를 따라 이동되는 핸들에 기반하여 파라미터의 토글을 나타내는 상기 제1 시각적 객체를 표시하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별하는 것에 기반하여, 상기 제1 축의 방향을 가지고, 상기 제1 거리를 초과하는 제2 거리를 따라 이동되는 핸들을 포함하는 제2 시각적 객체를 표시하도록, 야기할 수 있다.
예를 들어, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 웨어러블 장치를 착용한 사용자에게 표시 가능한 시각적 객체들 중에서, 상기 사용자에게 반응하기 위한 하나 이상의 시각적 객체들을 분류하기 위한 카테고리에 포함된, 상기 제1 시각적 객체를 표시하도록, 야기할 수 있다.
예를 들어, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 카메라를 이용하여, 임계 거리를 초과하여 표시된 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별하는 것에 기반하여, 상기 신체 부위의 형태를 식별하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 신체 부위의 형태가 제1 형태에 대응하는 상태에서, 상기 제1 시각적 객체가 표시된 거리에 기반하여 상기 제2 시각적 객체를 표시하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 신체 부위의 형태가 제2 형태에 대응하는 다른 상태에서, 상기 임계 거리 이하의 거리를 이용하여, 상기 기능을 제어하기 위한 제3 시각적 객체를 표시하도록, 야기할 수 있다.
상술한 바와 같은, 일 실시예에 따른, 웨어러블 장치의 방법은, 상기 웨어러블 장치의 디스플레이에 제1 시각적 객체를 표시하는 동작(예, 도 15의 동작(1510))을 포함할 수 있다. 상기 방법은, 상기 웨어러블 장치의 통신 회로를 이용하여 외부 전자 장치를 식별하는 것에 기반하여, 상기 외부 전자 장치로부터 수신된 신호에 따라 상기 제1 시각적 객체의 기능을 제어하는 동작(예, 도 15의 동작(1530))을 포함할 수 있다. 상기 방법은, 상기 웨어러블 장치의 카메라를 이용하여, 상기 제1 시각적 객체를 향하는 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 상기 신체 부위와 상호작용을 위한 형태를 가지는, 제2 시각적 객체로 변경하는 동작(예, 도 15의 동작(1550))을 포함할 수 있다. 상기 방법은, 상기 카메라를 이용하여, 상기 디스플레이의 상기 제2 시각적 객체와 관련된 상기 신체 부위의 제스쳐를 식별하는 것에 기반하여, 상기 기능을 제어하는 동작(예, 도 15의 동작(1560))을 포함할 수 있다.
일 실시예에서, 웨어러블 장치의 방법이 제공될 수 있다. 상기 방법은, 상기 웨어러블 장치의 카메라를 이용하여 외부 환경에 대한 이미지를 획득하는 동작을 포함할 수 있다. 상기 방법은, 상기 웨어러블 장치의 디스플레이에 상기 외부 환경에 대한 이미지 중 적어도 일부를 표시한 상태에서 제1 시각적 객체를 표시하는 동작을 포함할 수 있다. 상기 방법은, 상기 제1 시각적 객체를 표시하는 동안, 상기 웨어러블 장치의 통신 회로를 통해 연결된 외부 전자 장치로부터 수신된 신호에 기반하여, 상기 외부 전자 장치를 통하여 상기 제1 시각적 객체를 제어하기 위한 입력을 수신하였는지 여부에 따라, 상기 제1 시각적 객체의 기능을 제어하는 동작을 포함할 수 있다. 상기 방법은, 상기 제1 시각적 객체를 표시하는 동안, 상기 이미지를 이용하여, 상기 제1 시각적 객체를 향하는 제1 자세를 가지는 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 상기 신체 부위의 형태에 대응하는, 제2 시각적 객체로 변경하는 동작을 포함할 수 있다. 상기 방법은, 상기 카메라를 이용하여, 상기 디스플레이의 상기 제2 시각적 객체와 관련된 상기 신체 부위의 제2 자세를 식별하는 것에 기반하여, 상기 기능을 제어하는 동작을 포함할 수 있다.
예를 들어, 상기 변경하는 동작은, 스크롤 바의 형태를 가지는 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체 보다 큰 사이즈를 가지는 상기 제2 시각적 객체를 표시하는 동작을 포함할 수 있다.
예를 들어, 상기 제2 시각적 객체를 표시하는 동작은, 상기 스크롤 바가 연장된 축의 양 방향들 중 어느 하나를 선택하여 스크롤을 수행하기 위한 버튼들을 포함하는 상기 제2 시각적 객체를 표시하는 동작을 포함할 수 있다.
예를 들어, 상기 제2 시각적 객체를 표시하는 동작은, 상기 스크롤 바의 제1 방향을 따르는 라인 및 상기 라인으로부터 상기 제1 방향에 수직인 제2 방향을 따라 연장된 핸들을 포함하는 상기 제2 시각적 객체를 표시하는 동작을 포함할 수 있다.
예를 들어, 상기 제스쳐를 식별하는 것에 기반하여, 상기 기능을 제어하는 동작은, 상기 제2 시각적 객체의 상기 핸들을 핀칭하는 상기 제스쳐를 식별하는 것에 기반하여, 상기 신체 부위의 이동에 기반하여 상기 제2 핸들을 이동하고, 상기 제1 시각적 객체와 연동된 영역을 통해 표시되는 정보의 스크롤을 수행하는 동작을 포함할 수 있다.
예를 들어, 상기 제1 시각적 객체의 상기 기능을 제어하는 동작은, 상기 신호를 수신하는 것에 기반하여, 상기 제1 시각적 객체의 핸들을 이동하고, 상기 제1 시각적 객체에 매칭된 영역을 통해 표시되는 정보의 스크롤을 수행하는 동작을 포함할 수 있다. 상기 제스쳐를 식별하는 것에 기반하여, 상기 기능을 제어하는 동작은, 상기 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체 보다 큰 사이즈를 가지고, 상기 제스쳐에 의해 변형가능한 핸들을 포함하는, 상기 제2 시각적 객체를 표시하는 동작을 포함할 수 있다.
예를 들어, 상기 변경하는 동작은, 2 차원의 버튼의 형태를 가지는 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 3 차원의 버튼의 형태를 가지는 상기 제2 시각적 객체로 변경하는 동작을 포함할 수 있다.
예를 들어, 상기 변경하는 동작은, 상기 제1 시각적 객체가 배치된 가상 평면으로부터, 상기 가상 평면의 방향을 따라 돌출된 형태를 가지는 상기 제2 시각적 객체를 표시하는 동작을 포함할 수 있다.
예를 들어, 상기 변경하는 동작은, 곡선의 형태를 가지는 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별하는 것에 기반하여, 직선의 형태를 가지는 라인을 포함하는 상기 제2 시각적 객체를 표시하는 동작을 포함할 수 있다.
예를 들어, 상기 제1 시각적 객체를 표시하는 동작은, 제1 축에서 제1 거리를 따라 이동되는 핸들에 기반하여 파라미터의 토글을 나타내는 제1 시각적 객체를 표시하는 동작을 포함할 수 있다. 상기 변경하는 동작은, 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별하는 것에 기반하여, 상기 제1 축의 방향을 가지고, 상기 제1 거리를 초과하는 제2 거리를 따라 이동되는 핸들을 포함하는 제2 시각적 객체를 표시하는 동작을 포함할 수 있다.
예를 들어, 상기 제1 시각적 객체를 표시하는 동작은, 상기 웨어러블 장치를 착용한 사용자에게 표시 가능한 시각적 객체들 중에서, 상기 사용자에게 반응하기 위한 하나 이상의 시각적 객체들을 분류하기 위한 카테고리에 포함된, 상기 제1 시각적 객체를 표시하는 동작을 포함할 수 있다.
예를 들어, 상기 변경하는 동작은, 상기 웨어러블 장치의 카메라를 이용하여, 임계 거리를 초과하여 표시된 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별하는 것에 기반하여, 상기 신체 부위의 형태를 식별하는 동작을 포함할 수 있다. 상기 변경하는 동작은, 상기 신체 부위의 형태가 제1 형태에 대응하는 상태에서, 상기 제1 시각적 객체가 표시된 거리에 기반하여 상기 제2 시각적 객체를 표시하는 동작을 포함할 수 있다. 상기 변경하는 동작은, 상기 신체 부위의 형태가 제2 형태에 대응하는 다른 상태에서, 상기 임계 거리 이하의 거리를 이용하여, 상기 기능을 제어하기 위한 제3 시각적 객체를 표시하는 동작을 포함할 수 있다.
상술한 바와 같은, 일 실시예에 따른, 웨어러블 장치(wearable device)(예, 도 1 내지 도 2의 웨어러블 장치(101))는, 카메라(예, 도 2의 카메라(225)), 디스플레이(예, 도 2의 디스플레이(220)), 인스트럭션들을 저장하는 메모리(예, 도 2의 메모리(215)), 및 프로세서(예, 도 2의 프로세서(210))를 포함할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 디스플레이에 제1 시각적 객체를 표시하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 카메라를 이용하여, 상기 제1 시각적 객체를 향하는 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 상기 제1 시각적 객체와 상이한 제2 시각적 객체로 변경하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별한 시점에서, 상기 제1 시각적 객체가 임계 거리를 초과하여 표시되었는지 여부에 기반하여, 상기 제2 시각적 객체를 상기 임계 거리 이하로 이동하도록, 야기할 수 있다.
예를 들어, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 시점에서, 상기 제1 시각적 객체가 상기 임계 거리를 초과하여 표시된 상태에서, 상기 임계 거리 이하의 거리에 기반하여 상기 제2 시각적 객체를 표시하도록, 야기할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 시점에서, 상기 제1 시각적 객체가 상기 임계 거리 이하의 거리로 표시된 다른 상태에서, 상기 제1 시각적 객체의 거리에 기반하여 상기 제2 시각적 객체를 표시하도록, 야기할 수 있다.
예를 들어, 상기 웨어러블 장치는 통신 회로(예, 도 2의 통신 회로(240))를 더 포함할 수 있다. 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가, 상기 통신 회로를 이용하여 외부 전자 장치(예, 도 1 내지 도 2의 외부 전자 장치(180))를 식별하는 것에 기반하여, 상기 신체 부위와 독립적으로 상기 제1 시각적 객체를 표시하는 것을 유지하도록, 야기할 수 있다.
상술한 바와 같은, 일 실시예에 따른, 웨어러블 장치의 방법은, 상기 웨어러블 장치의 디스플레이에 제1 시각적 객체를 표시하는 동작을 포함할 수 있다. 상기 방법은, 상기 웨어러블 장치의 카메라를 이용하여, 상기 제1 시각적 객체를 향하는 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 상기 제1 시각적 객체와 상이한 제2 시각적 객체로 변경하는 동작을 포함할 수 있다. 상기 방법은, 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별한 시점에서, 상기 제1 시각적 객체가 임계 거리를 초과하여 표시되었는지 여부에 기반하여, 상기 제2 시각적 객체를 상기 임계 거리 이하로 이동하는 동작을 포함할 수 있다.
예를 들어, 상기 변경하는 동작은, 상기 시점에서, 상기 제1 시각적 객체가 상기 임계 거리를 초과하여 표시된 상태에서, 상기 임계 거리 이하의 거리에 기반하여 상기 제2 시각적 객체를 표시하는 동작을 포함할 수 있다. 상기 변경하는 동작은, 상기 시점에서, 상기 제1 시각적 객체가 상기 임계 거리 이하의 거리로 표시된 다른 상태에서, 상기 제1 시각적 객체의 거리에 기반하여 상기 제2 시각적 객체를 표시하는 동작을 포함할 수 있다.
예를 들어, 상기 방법은, 상기 웨어러블 장치의 통신 회로를 이용하여 외부 전자 장치를 식별하는 것에 기반하여, 상기 신체 부위와 독립적으로 상기 제1 시각적 객체를 표시하는 것을 유지하는 동작을 포함할 수 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 어플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 컴퓨터 저장 매체 또는 장치에 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 이때, 매체는 컴퓨터로 실행 가능한 프로그램을 계속 저장하거나, 실행 또는 다운로드를 위해 임시 저장하는 것일 수도 있다. 또한, 매체는 단일 또는 수 개의 하드웨어가 결합된 형태의 다양한 기록수단 또는 저장수단일 수 있는데, 어떤 컴퓨터 시스템에 직접 접속되는 매체에 한정되지 않고, 네트워크 상에 분산 존재하는 것일 수도 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다. 또한, 다른 매체의 예시로, 어플리케이션을 유통하는 앱 스토어나 기타 다양한 소프트웨어를 공급 내지 유통하는 사이트, 서버 등에서 관리하는 기록매체 내지 저장매체도 들 수 있다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.
Claims (20)
- 웨어러블 장치(wearable device)에 있어서,
통신 회로;
카메라;
디스플레이;
인스트럭션들을 저장하는 메모리; 및
프로세서를 포함하고, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가,
상기 카메라를 이용하여 외부 환경에 대한 이미지를 획득하고;
상기 디스플레이에 상기 외부 환경에 대한 이미지 중 적어도 일부를 표시한 상태에서 제1 시각적 객체를 표시하고;
상기 제1 시각적 객체를 표시하는 동안, 상기 통신 회로를 통해 연결된 외부 전자 장치로부터 수신된 신호에 기반하여:
상기 외부 전자 장치를 통하여 상기 제1 시각적 객체를 제어하기 위한 입력을 수신하였는지 여부에 따라, 상기 제1 시각적 객체의 기능을 제어하고;
상기 제1 시각적 객체를 표시하는 동안, 상기 이미지를 이용하여, 상기 제1 시각적 객체를 향하는 제1 자세를 가지는 신체 부위를 식별하는 것에 기반하여:
상기 제1 시각적 객체를, 상기 신체 부위의 형태에 대응하는, 제2 시각적 객체로 변경하고; 및
상기 카메라를 이용하여, 상기 디스플레이의 상기 제2 시각적 객체와 관련된 상기 신체 부위의 제2 자세를 식별하는 것에 기반하여, 상기 기능을 제어하도록, 야기하는,
웨어러블 장치. - 청구항 1에 있어서, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가,
스크롤 바의 형태를 가지는 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체 보다 큰 사이즈를 가지는 상기 제2 시각적 객체를 표시하도록, 야기하는,
웨어러블 장치. - 청구항 2에 있어서, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가,
상기 스크롤 바가 연장된 축의 양 방향들 중 어느 하나를 선택하여 스크롤을 수행하기 위한 버튼들을 포함하는 상기 제2 시각적 객체를 표시하도록, 야기하는,
웨어러블 장치. - 청구항 2에 있어서, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가,
상기 스크롤 바의 제1 방향을 따르는 라인 및 상기 라인으로부터 상기 제1 방향에 수직인 제2 방향을 따라 연장된 핸들을 포함하는 상기 제2 시각적 객체를 표시하도록, 야기하는,
웨어러블 장치. - 청구항 4에 있어서, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가,
상기 제2 시각적 객체의 상기 핸들을 핀칭(pinching)하는 상기 제2 자세를 식별하는 것에 기반하여, 상기 신체 부위의 이동에 기반하여 상기 제2 핸들을 이동하고, 상기 제1 시각적 객체와 연동된 영역을 통해 표시되는 정보의 스크롤을 수행하도록, 야기하는,
웨어러블 장치. - 청구항 2에 있어서, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가,
상기 신호를 수신하는 것에 기반하여, 상기 제1 시각적 객체의 핸들을 이동하고, 상기 제1 시각적 객체에 매칭된 영역을 통해 표시되는 정보의 스크롤을 수행하고;
상기 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체 보다 큰 사이즈를 가지고, 상기 제스쳐에 의해 변형가능한(transformable) 핸들을 포함하는, 상기 제2 시각적 객체를 표시하도록, 야기하는,
웨어러블 장치. - 청구항 1에 있어서, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가,
2 차원의 버튼의 형태를 가지는 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 3 차원의 버튼의 형태를 가지는 상기 제2 시각적 객체로 변경하도록, 야기하는,
웨어러블 장치. - 청구항 7에 있어서, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가,
상기 제1 시각적 객체가 배치된 가상 평면으로부터, 상기 가상 평면의 방향을 따라 돌출된(protruded) 형태를 가지는 상기 제2 시각적 객체를 표시하도록, 야기하는,
웨어러블 장치. - 청구항 1에 있어서, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가,
곡선의 형태를 가지는 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별하는 것에 기반하여, 직선의 형태를 가지는 라인을 포함하는 상기 제2 시각적 객체를 표시하도록, 야기하는,
웨어러블 장치. - 청구항 1에 있어서, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가,
제1 축에서 제1 거리를 따라 이동되는 핸들에 기반하여 파라미터의 토글을 나타내는 상기 제1 시각적 객체를 표시하고;
상기 제1 시각적 객체를 향하는 상기 신체 부위의 상기 제1 자세를 식별하는 것에 기반하여, 상기 제1 축의 방향을 가지고, 상기 제1 거리를 초과하는 제2 거리를 따라 이동되는 핸들을 포함하는 제2 시각적 객체를 표시하도록, 야기하는야기하는,
웨어러블 장치. - 청구항 1에 있어서, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가,
상기 웨어러블 장치를 착용한 사용자에게 표시 가능한 시각적 객체들 중에서, 상기 사용자에게 반응하기 위한 하나 이상의 시각적 객체들을 분류하기 위한 카테고리에 포함된, 상기 제1 시각적 객체를 표시하도록, 야기하는,
웨어러블 장치. - 청구항 1에 있어서, 상기 인스트럭션들은, 상기 프로세서에 의해 실행될 시에, 상기 웨어러블 장치가,
상기 카메라를 이용하여, 임계 거리를 초과하여 표시된 상기 제1 시각적 객체를 향하는 상기 신체 부위의 상기 제1 자세를 식별하는 것에 기반하여, 상기 신체 부위의 형태를 식별하고,
상기 신체 부위의 형태가 제1 형태에 대응하는 상태에서, 상기 제1 시각적 객체가 표시된 거리에 기반하여 상기 제2 시각적 객체를 표시하고;
상기 신체 부위의 형태가 제2 형태에 대응하는 다른 상태에서, 상기 임계 거리 이하의 거리를 이용하여, 상기 기능을 제어하기 위한 제3 시각적 객체를 표시하도록, 야기하는,
웨어러블 장치. - 웨어러블 장치의 방법에 있어서,
상기 웨어러블 장치의 카메라를 이용하여 외부 환경에 대한 이미지를 획득하는 동작;
상기 웨어러블 장치의 디스플레이에 상기 외부 환경에 대한 이미지 중 적어도 일부를 표시한 상태에서 제1 시각적 객체를 표시하는 동작;
상기 제1 시각적 객체를 표시하는 동안, 상기 웨어러블 장치의 통신 회로를 통해 연결된 외부 전자 장치로부터 수신된 신호에 기반하여:
상기 외부 전자 장치를 통하여 상기 제1 시각적 객체를 제어하기 위한 입력을 수신하였는지 여부에 따라, 상기 제1 시각적 객체의 기능을 제어하는 동작;
상기 제1 시각적 객체를 표시하는 동안, 상기 이미지를 이용하여, 상기 제1 시각적 객체를 향하는 제1 자세를 가지는 신체 부위를 식별하는 것에 기반하여:
상기 제1 시각적 객체를, 상기 신체 부위의 형태에 대응하는, 제2 시각적 객체로 변경하는 동작; 및
상기 카메라를 이용하여, 상기 디스플레이의 상기 제2 시각적 객체와 관련된 상기 신체 부위의 제2 자세를 식별하는 것에 기반하여, 상기 기능을 제어하는 동작을 포함하는,
방법. - 청구항 13에 있어서, 상기 변경하는 동작은,
스크롤 바의 형태를 가지는 상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체 보다 큰 사이즈를 가지는 상기 제2 시각적 객체를 표시하는 동작을 포함하는,
방법. - 청구항 14에 있어서, 상기 제2 시각적 객체를 표시하는 동작은,
상기 스크롤 바가 연장된 축의 양 방향들 중 어느 하나를 선택하여 스크롤을 수행하기 위한 버튼들을 포함하는 상기 제2 시각적 객체를 표시하는 동작을 포함하는,
방법. - 청구항 14에 있어서, 상기 제2 시각적 객체로 변경하는 동작은,
상기 스크롤 바의 제1 방향을 따르는 라인 및 상기 라인으로부터 상기 제1 방향에 수직인 제2 방향을 따라 연장된 핸들을 포함하는 상기 제2 시각적 객체를 표시하는 동작을 포함하는,
방법. - 청구항 16에 있어서, 상기 제스쳐를 식별하는 것에 기반하여, 상기 기능을 제어하는 동작은,
상기 제2 시각적 객체의 상기 핸들을 핀칭하는 상기 제스쳐를 식별하는 것에 기반하여, 상기 신체 부위의 이동에 기반하여 상기 제2 핸들을 이동하고, 상기 제1 시각적 객체와 연동된 상기 영역을 통해 표시되는 정보의 스크롤을 수행하는 동작을 포함하는,
방법. - 웨어러블 장치(wearable device)에 있어서,
카메라;
디스플레이; 및
프로세서를 포함하고, 상기 프로세서는,
상기 디스플레이에 제1 시각적 객체를 표시하고;
상기 카메라를 이용하여, 상기 제1 시각적 객체를 향하는 신체 부위를 식별하는 것에 기반하여, 상기 제1 시각적 객체를, 상기 제1 시각적 객체와 상이한 제2 시각적 객체로 변경하고; 및
상기 제1 시각적 객체를 향하는 상기 신체 부위를 식별한 시점에서, 상기 제1 시각적 객체가 임계 거리를 초과하여 표시되었는지 여부에 기반하여, 상기 제2 시각적 객체를 상기 임계 거리 이하로 이동하도록, 구성된,
웨어러블 장치. - 청구항 18에 있어서, 상기 프로세서는,
상기 시점에서, 상기 제1 시각적 객체가 상기 임계 거리를 초과하여 표시된 상태에서, 상기 임계 거리 이하의 거리에 기반하여 상기 제2 시각적 객체를 표시하고;
상기 시점에서, 상기 제1 시각적 객체가 상기 임계 거리 이하의 거리로 표시된 다른 상태에서, 상기 제1 시각적 객체의 거리에 기반하여 상기 제2 시각적 객체를 표시하도록, 구성된,
웨어러블 장치. - 청구항 18에 있어서, 통신 회로를 더 포함하고,
상기 프로세서는,
상기 통신 회로를 이용하여 외부 전자 장치를 식별하는 것에 기반하여, 상기 신체 부위와 독립적으로 상기 제1 시각적 객체를 표시하는 것을 유지하도록, 구성된,
웨어러블 장치.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/KR2024/000572 WO2024151116A1 (ko) | 2023-01-12 | 2024-01-11 | 외부 객체에 기반하여 상호작용을 위한 유아이를 변경하기 위한 웨어러블 장치 및 그 방법 |
Applications Claiming Priority (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020230004528 | 2023-01-12 | ||
| KR20230004528 | 2023-01-12 | ||
| KR1020230014488 | 2023-02-02 | ||
| KR20230014488 | 2023-02-02 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR20240112752A true KR20240112752A (ko) | 2024-07-19 |
Family
ID=92173695
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020240004369A Pending KR20240112752A (ko) | 2023-01-12 | 2024-01-10 | 외부 객체에 기반하여 상호작용을 위한 ui를 변경하기 위한 웨어러블 장치 및 그 방법 |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR20240112752A (ko) |
-
2024
- 2024-01-10 KR KR1020240004369A patent/KR20240112752A/ko active Pending
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11625103B2 (en) | Integration of artificial reality interaction modes | |
| US11294475B1 (en) | Artificial reality multi-modal input switching model | |
| US10521026B2 (en) | Passive optical and inertial tracking in slim form-factor | |
| US20130342572A1 (en) | Control of displayed content in virtual environments | |
| JP2013125247A (ja) | ヘッドマウントディスプレイ及び情報表示装置 | |
| KR20240112752A (ko) | 외부 객체에 기반하여 상호작용을 위한 ui를 변경하기 위한 웨어러블 장치 및 그 방법 | |
| KR20230040232A (ko) | 모바일 장치의 확장 화면을 표시하는 장치 및 방법 | |
| US20240377893A1 (en) | Wearable device for moving virtual object using gesture and method thereof | |
| KR20240114658A (ko) | 시선의 방향 또는 제스쳐 중 적어도 하나에 기반하여 미디어 콘텐트를 스크롤링하기 웨어러블 장치 및 그 방법 | |
| US20240329794A1 (en) | Wearable device for recognizing touch input by external object and method thereof | |
| US20250173977A1 (en) | Wearable device for providing virtual object guiding shooting of image or video and method thereof | |
| US20250069338A1 (en) | Wearable device for processing audio signal based on external object recognized from image and method thereof | |
| KR20240160471A (ko) | 가상 객체의 가시성을 조절하는 시각적 객체를 표시하기 위한 웨어러블 장치 및 그 방법 | |
| US20240281071A1 (en) | Simultaneous Controller and Touch Interactions | |
| KR20240162952A (ko) | 제스쳐를 이용하여 가상 객체를 이동하기 위한 웨어러블 장치 및 그 방법 | |
| US20250046028A1 (en) | Wearable device for identifying area for displaying image and method thereof | |
| KR20240062858A (ko) | 화면의 상태를 변경하기 위한 웨어러블 장치 및 그 방법 | |
| KR20240115136A (ko) | 정보를 제공하기 웨어러블 장치 및 그 방법 | |
| KR20240115138A (ko) | 외부 전자 장치의 센서를 제어하기 위한 hmd 장치 및 그 방법 | |
| KR20240145853A (ko) | 외부 객체에 의한 터치 입력을 인식하기 위한 웨어러블 장치 및 그 방법 | |
| KR20250017082A (ko) | 하나 이상의 센서들을 이용하여 사용자 입력을 식별하기 위한 웨어러블 장치 및 그 방법 | |
| KR20250083000A (ko) | 이미지 또는 비디오의 촬영을 가이드하는 가상 객체를 제공하기 위한 웨어러블 장치 및 그 방법 | |
| KR20250028166A (ko) | 이미지로부터 인식된 외부 객체에 기반하여 오디오 신호를 처리하기 위한 웨어러블 장치 및 그 방법 | |
| KR20250030873A (ko) | 복수의 외부 객체들을 이용하여 가상 객체를 이동하기 위한 웨어러블 장치 및 그 방법 | |
| KR20250116513A (ko) | 가상 공간을 제공하기 위하여 외부 공간에 형성된 기준 경계선에 대한 알림을 출력하기 위한 웨어러블 장치 및 그 방법 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20240110 |
|
| PG1501 | Laying open of application |