[go: up one dir, main page]

KR20170022074A - Method of providing a user interfave and display apparatus according to thereof - Google Patents

Method of providing a user interfave and display apparatus according to thereof Download PDF

Info

Publication number
KR20170022074A
KR20170022074A KR1020150116593A KR20150116593A KR20170022074A KR 20170022074 A KR20170022074 A KR 20170022074A KR 1020150116593 A KR1020150116593 A KR 1020150116593A KR 20150116593 A KR20150116593 A KR 20150116593A KR 20170022074 A KR20170022074 A KR 20170022074A
Authority
KR
South Korea
Prior art keywords
display
external device
external
display device
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
KR1020150116593A
Other languages
Korean (ko)
Other versions
KR102464911B1 (en
Inventor
신은옥
박은찬
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020150116593A priority Critical patent/KR102464911B1/en
Priority to PCT/KR2016/007213 priority patent/WO2017030285A1/en
Publication of KR20170022074A publication Critical patent/KR20170022074A/en
Application granted granted Critical
Publication of KR102464911B1 publication Critical patent/KR102464911B1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

Provided is a method for providing a UI of a display apparatus which arranges based on a relative position of a display apparatus and an external apparatus. The method for providing a UI of a display apparatus comprises the steps of: displaying a UI including at least one UI element related to at least one external apparatus; determining a position of the at least one external apparatus on the display apparatus when a rearrangement command of the UI element is received; and rearranging and displaying the at least one UI element related to the at least one external apparatus based on the determined position.

Description

UI 제공 방법 및 이를 적용한 디스플레이 장치{METHOD OF PROVIDING A USER INTERFAVE AND DISPLAY APPARATUS ACCORDING TO THEREOF}Technical Field [0001] The present invention relates to a UI providing method and a display device using the UI,

본 발명은 UI 제공 방법 및 이를 적용한 디스플레이 장치에 관한 것으로, 더욱 상세하게는 적어도 하나의 외부 기기의 위치를 판단하여, 판단된 위치를 바탕으로 UI 엘리먼트를 배치하는 UI 제공 방법 및 이를 적용한 디스플레이 장치에 관한 것이다.The present invention relates to a UI providing method and a display apparatus using the same, and more particularly, to a UI providing method for determining a position of at least one external device and arranging UI elements based on the determined position, and a display device .

최근 사물인터넷(Internet of Thing) 기술이 급격히 발전함에 따라 IoT 디바이스와 관련된 다양한 어플리케이션이 개발되고 있다. 또한, 최근 스마트 폰, 태블릿 PC 등 다양한 디스플레이 장치에서 다양한 어플리케이션이 이용되어 하나의 디스플레이 장치에 수십 개에 달하는 수많은 어플리케이션이 설치된다. Recently, as the Internet of Thing technology rapidly develops, various applications related to IoT devices are being developed. In addition, a variety of applications have been used in various display devices such as smart phones and tablet PCs, and dozens of applications are installed in one display device.

그러나, 수많은 어플리케이션을 정렬하는 방법은 다양하지 않다. 예를 들어, 디스플레이 장치에 설치된 순서대로 정렬하는 방법, 어플리케이션의 이름 순서대로 정렬하는 방법, 최근 사용한 어플리케이션 순서대로 정렬하는 방법 등으로 한정되어 있다.However, there are not many ways to sort a large number of applications. For example, the method is limited to a method of arranging in the order in which the display devices are installed, a method of sorting the applications in the order of names, and a method of sorting in order of the recently used applications.

이와 같이 어플리케이션을 정렬하는 방법은 디스플레이 장치의 사용자가 사용을 원하는 어플리케이션을 직관적으로 검색할 수 없고, 디스플레이 장치의 사용자는 IoT 디바이스와 관련된 어플리케이션을 검색하기 위해 다소 시간을 소비해야 하는 불편함이 발생한다.As described above, the method of arranging the application can not intuitively search the application desired by the user of the display device, and the user of the display device inconveniently consumes some time to search for the application related to the IoT device .

본 발명은 상술한 문제점을 해결하기 위해 안출된 것으로, 본 발명의 목적은 디스플레이 장치에 근접한 외부 기기와 관련된 UI 엘리먼트를 배치하는데 있어서, 디스플레이 장치와 외부 기기의 상대적 위치를 바탕으로 배치하는 UI 제공 방법 및 이를 적용한 디스플레이 장치를 제공함에 있다.SUMMARY OF THE INVENTION The present invention has been conceived to solve the above-described problems, and it is an object of the present invention to provide a UI providing method of arranging a UI element related to an external device close to a display device based on a relative position of a display device and an external device And a display device using the same.

상기 목적을 달성하기 위한 본 발명의 일 실시 예에 따른, 디스플레이 장치의 UI 제공 방법은, 적어도 하나의 외부 기기와 관련된 적어도 하나의 UI 엘리먼트를 포함하는 UI를 디스플레이하는 제1 디스플레이 단계; UI 엘리먼트의 재배치 명령이 입력되면, 상기 디스플레이 장치에 대한 상기 적어도 하나의 외부 기기의 위치를 판단하는 단계; 상기 판단된 위치를 바탕으로 상기 적어도 하나의 외부 기기와 관련된 상기 적어도 하나의 UI 엘리먼트를 재배치하여 디스플레이하는 제2 디스플레이 단계;를 포함한다.According to an aspect of the present invention, there is provided a method of providing a UI of a display device, the method comprising: displaying a UI including at least one UI element associated with at least one external device; Determining a position of the at least one external device with respect to the display device when a relocation instruction of the UI element is input; And a second display step of rearranging and displaying the at least one UI element related to the at least one external device based on the determined position.

그리고, 상기 제2 디스플레이 단계는, 제1 외부 기기와 상기 제1 외부 기기에 대응하는 제1 UI 엘리먼트의 거리가 최단 거리가 되도록 상기 제1 UI 엘리먼트를 배치할 수 있다.In the second display step, the first UI element may be disposed such that the distance between the first external device and the first UI element corresponding to the first external device is the shortest distance.

또한, 상기 외부 기기에 대응하는 상기 UI 엘리먼트는, 상기 외부 기기를 제어하기 위한 어플리케이션 아이콘일 수 있다.In addition, the UI element corresponding to the external device may be an application icon for controlling the external device.

그리고, 상기 판단하는 단계는, 동일한 방향에 복수의 외부 기기가 위치하는 경우, 상기 디스플레이 장치와 상기 복수의 외부 기기 각각의 거리를 획득하는 단계; 및The determining may include obtaining a distance between the display device and each of the plurality of external devices when a plurality of external devices are located in the same direction; And

상기 복수의 외부 기기 중 상기 디스플레이 장치와 가장 근접한 하나의 외부 기기의 위치만을 판단하는 단계;를 포함할 수 있다.And determining only the position of one external device closest to the display device among the plurality of external devices.

또한, UI 엘리먼트 재배열 명령이 입력된 때의 상기 디스플레이 장치의 위치를 기준으로 상기 적어도 하나의 외부 기기의 위치를 판단할 수 있다.In addition, the position of the at least one external device can be determined based on the position of the display device when the UI element rearrangement command is input.

그리고, 상기 제2 디스플레이 단계는, 동일한 방향에 복수의 외부 기기가 위치하는 경우, 상기 디스플레이 장치와 거리가 먼 외부 기기에 관련된 UI 엘리먼트일수록 디스플레이 화면의 가장자리에 배치하여 디스플레이할 수 있다.In the second display step, when a plurality of external devices are located in the same direction, UI elements associated with external devices that are far from the display device may be displayed on the edge of the display screen.

또한, 상기 제2 디스플레이 단계는, 하나의 UI 엘리먼트가 복수의 외부 기기에 관련되는 경우, 상기 복수의 외부 기기의 평균 방향에 상기 하나의 UI 엘리먼트를 배치하여 디스플레이할 수 있다.In addition, in the second display step, when one UI element is related to a plurality of external devices, the one UI element may be arranged and displayed in the average direction of the plurality of external devices.

그리고, 상기 제2 디스플레이 단계는, 복수의 UI 엘리먼트가 하나의 외부 기기에 관련되는 경우, 상기 외부 기기가 위치하는 방향의 측면에 상기 복수의 UI 엘리먼트를 일렬로 배치하여 디스플레이할 수 있다.If the plurality of UI elements are related to one external device, the second display step may display the plurality of UI elements on a side of the external device in a line.

한편, 상기 목적을 달성하기 위한 본 발명의 일 실시 예에 따른, 디스플레이 장치는, 적어도 하나의 외부 기기와 관련된 적어도 하나의 UI 엘리먼트를 포함하는 UI를 디스플레이하는 디스플레이부; 및 UI 엘리먼트의 재배열 명령이 입력되면, 상기 디스플레이 장치에 대한 상기 적어도 하나의 외부 기기의 위치를 판단하고, 상기 판단된 위치를 바탕으로 상기 적어도 하나의 외부 기기와 관련된 상기 적어도 하나의 UI 엘리먼트를 재배치하여 디스플레이하도록 상기 디스플레이부를 제어하는 제어부;를 포함한다.According to another aspect of the present invention, there is provided a display device including: a display unit for displaying a UI including at least one UI element associated with at least one external device; And a UI element rearrangement instruction is input, the control unit determines the position of the at least one external device with respect to the display device, and based on the determined position, the at least one UI device associated with the at least one external device And controlling the display unit to rearrange and display the display unit.

그리고, 상기 제어부는, 제1 외부 기기와 상기 제1 외부 기기에 대응하는 제1 UI 엘리먼트의 거리가 최단 거리가 되도록 상기 제1 UI 엘리먼트를 배치하여 디스플레이하도록 상기 디스플레이부를 제어할 수 있다.The controller may control the display unit to arrange and display the first UI element so that the first UI element corresponding to the first external device and the first UI element corresponding to the first external device have the shortest distance.

또한, 상기 외부 기기에 대응하는 상기 UI 엘리먼트는, 상기 외부 기기를 제어하기 위한 어플리케이션 아이콘일 수 있다.In addition, the UI element corresponding to the external device may be an application icon for controlling the external device.

그리고, 상기 제어부는, 동일한 방향에 복수의 외부 기기가 위치하는 경우, 상기 디스플레이 장치와 상기 복수의 외부 기기 각각의 거리를 획득하고, 상기 복수의 외부 기기 중 상기 디스플레이 장치와 가장 근접한 하나의 외부 기기의 위치만을 판단할 수 있다.When the plurality of external devices are located in the same direction, the control unit obtains the distance between the display device and each of the plurality of external devices, and acquires the distance between each of the plurality of external devices and one of the external devices It is possible to determine only the position of

또한, 상기 제어부는, UI 엘리먼트 재배열 명령이 입력된 때의 상기 디스플레이 장치의 위치를 기준으로 상기 적어도 하나의 외부 기기의 위치를 판단할 수 있다.Also, the controller may determine the position of the at least one external device based on the position of the display device when the UI element rearrangement command is input.

그리고, 상기 제어부는, 동일한 방향에 복수의 외부 기기가 위치하는 경우, 상기 디스플레이 장치와 거리가 먼 외부 기기에 관련된 UI 엘리먼트일수록 디스플레이 화면의 가장자리에 배치하여 디스플레이하도록 상기 디스플레이부를 제어할 수 있다.When the plurality of external devices are located in the same direction, the control unit may control the display unit to display the UI elements related to the external device, which are far from the display device, at the edge of the display screen.

또한, 상기 제어부는, 하나의 UI 엘리먼트가 복수의 외부 기기에 관련되는 경우, 상기 복수의 외부 기기의 평균 방향에 상기 하나의 UI 엘리먼트를 배치하여 디스플레이하도록 상기 디스플레이부를 제어할 수 있다.The control unit may control the display unit to display and display the one UI element in an average direction of the plurality of external devices when one UI element is related to a plurality of external devices.

그리고, 상기 제어부는, 복수의 UI 엘리먼트가 하나의 외부 기기에 관련되는 경우, 상기 외부 기기가 위치하는 방향의 측면에 상기 복수의 UI 엘리먼트를 일렬로 배치하여 디스플레이하도록 상기 디스플레이부를 제어할 수 있다.The control unit may control the display unit to display the plurality of UI elements arranged in a line on a side of a direction in which the external device is located, when the plurality of UI elements are related to one external device.

상술한 바와 같이, 본 발명의 다양한 실시 예에 따라, 사용자는 더욱 직관적으로 디스플레이 장치에 근접한 외부 기기와 관련된 UI 엘리먼트를 배치하는 UI를 제공 받을 수 있게 된다.As described above, according to various embodiments of the present invention, a user can be provided with a UI for placing a UI element related to an external device closer to the display device more intuitively.

도 1은 본 발명의 일 실시 예에 따른, 디스플레이 장치의 구성을 간략히 도시한 블럭도,
도 2는 본 발명의 일 실시 예에 따른, 디스플레이 장치의 구성을 상세히 도시한 블럭도,
도 3 내지 도 7은 본 발명의 다양한 실시 예에 따른, 하나 이상의 외부 기기의 위치에 따라 하나 이상의 외부 기기에 관련된 UI 엘리먼트를 배치하는 다양한 실시 예들을 설명하기 위한 도면들, 그리고,
도 8은 본 발명의 일 실시 예에 다른, 디스플레이 장치의 UI 제공 방법을 설명하기 위한 흐름도이다.
1 is a block diagram schematically showing a configuration of a display device according to an embodiment of the present invention;
FIG. 2 is a block diagram showing a detailed configuration of a display device according to an embodiment of the present invention;
FIGS. 3-7 illustrate various embodiments for arranging UI elements associated with one or more external devices according to the location of one or more external devices, according to various embodiments of the present invention,
FIG. 8 is a flowchart illustrating a UI providing method of a display apparatus, according to an embodiment of the present invention.

본 발명의 실시 예에서 사용되는 용어에 대해 간략히 설명하고, 본 실시 예들에 대해 구체적으로 설명하기로 한다.The terms used in the embodiments of the present invention will be briefly described, and these embodiments will be described in detail.

본 발명의 실시 예에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 실시 예들의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 실시 예들에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 실시 예들의 전반에 걸친 내용을 토대로 정의되어야 한다. Although the terms used in the embodiments of the present invention have been selected in consideration of the functions of the present invention, the present invention is not limited thereto and can be varied depending on the intention or the precedent of the artisan skilled in the art, . Also, in certain cases, some terms are arbitrarily selected by the applicant, and in this case, the meaning thereof will be described in detail in the description of the corresponding embodiments. Therefore, the terms used in the embodiments should be defined based on the meaning of the term, not on the name of a simple term, and on the contents of the embodiments throughout.

본 발명의 실시 예에서, 제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다. In an embodiment of the present invention, terms including ordinal numbers such as first, second, etc. may be used to describe various elements, but the elements are not limited to these terms. The terms are used only for the purpose of distinguishing one component from another. For example, without departing from the scope of the present invention, the first component may be referred to as a second component, and similarly, the second component may also be referred to as a first component. And / or < / RTI > includes any combination of a plurality of related listed items or any of a plurality of related listed items.

또한, 본 발명의 실시 예에서, 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. Further, in the embodiments of the present invention, the singular expressions include plural expressions unless the context clearly indicates otherwise.

또한, 본 발명의 실시 예에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.Furthermore, in the embodiments of the present invention, terms such as "comprises" or "having ", etc. are intended to specify the presence of stated features, integers, steps, operations, elements, parts, or combinations thereof, Steps, operations, elements, components, or combinations of elements, numbers, steps, operations, components, parts, or combinations thereof.

또한, 본 발명의 실시 예에서, ‘모듈’ 혹은 ‘부’는 적어도 하나의 기능이나 동작을 수행하며, 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다. 또한, 복수의‘모듈’ 혹은 복수의‘부’는 특정한 하드웨어로 구현될 필요가 있는 ‘모듈’ 혹은 ‘부’를 제외하고는 적어도 하나의 모듈로 일체화되어 적어도 하나의 프로세서로 구현될 수 있다.Also, in the embodiments of the present invention, 'module' or 'sub' performs at least one function or operation, and may be implemented in hardware or software, or a combination of hardware and software. In addition, a plurality of 'modules' or a plurality of 'parts' may be integrated into at least one module except for 'module' or 'module' which needs to be implemented by specific hardware, and may be implemented by at least one processor.

또한, 본 발명의 실시 예에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다.Further, in the embodiment of the present invention, when a part is referred to as being "connected" with another part, it is not limited to a case where it is " directly connected " And the like.

또한, 본 발명의 실시 예에서, 사용자 입력은, 터치 입력, 벤딩 입력, 음성 입력, 버튼 입력 및 다중(multimodal) 입력 중 적어도 하나를 포함할 수 있으나, 이에 한정되는 것은 아니다. Also, in an embodiment of the present invention, the user input may include at least one of a touch input, a bending input, a voice input, a button input, and a multimodal input, but is not limited thereto.

또한, 본 발명의 실시 예에서, “어플리케이션”은 특정한 업무를 수행하기 위해 고안된 일련의 컴퓨터 프로그램 집합을 말한다. 본 발명의 실시 예에서, 어플리케이션은 다양할 수 있다. 예를 들어, 게임 어플리케이션, 동영상 재생 어플리케이션, 지도 어플리케이션, 메모 어플리케이션, 캘린더 어플리케이션, 폰 북 어플리케이션, 방송 어플리케이션, 운동 지원 어플리케이션, 결제 어플리케이션, 사진 폴더 어플리케이션 등이 있을 수 있으나, 이에 한정되는 것은 아니다.Further, in the embodiment of the present invention, " application " refers to a set of computer programs designed to perform a specific task. In an embodiment of the invention, the application may be varied. But are not limited to, a gaming application, a video playback application, a map application, a memo application, a calendar application, a phonebook application, a broadcast application, a motion support application, a payment application, and a photo folder application.

다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.Unless defined otherwise, all terms used herein, including technical or scientific terms, have the same meaning as commonly understood by one of ordinary skill in the art to which this invention belongs. Terms such as those defined in commonly used dictionaries are to be interpreted as having a meaning consistent with the contextual meaning of the related art and are to be interpreted as either ideal or overly formal in the sense of the present application Do not.

이하에서는 도면을 참조하여 본 발명에 대해 설명하기로 한다. 도 1은 본 발명의 일 실시 예에 따른, 디스플레이 장치(100)의 구성을 나타내는 도면이다. 도 1에 도시된 바와 같이, 디스플레이 장치(100)는 디스플레이부(110) 및 제어부(120)를 포함한다. 한편, 본 발명의 일 실시 예에 따른, 디스플레이 장치(100)는 스마트 폰, 스마트 워치, 스마트 글라스, 태블릿 PC, 노트북 PC 등과 같은 다양한 디스플레이 장치로 구현될 수 있다.Hereinafter, the present invention will be described with reference to the drawings. 1 is a diagram showing the configuration of a display device 100 according to an embodiment of the present invention. As shown in FIG. 1, the display device 100 includes a display unit 110 and a control unit 120. Meanwhile, the display device 100 according to an exemplary embodiment of the present invention can be implemented by various display devices such as a smart phone, a smart watch, a smart glass, a tablet PC, a notebook PC, and the like.

디스플레이부(110)는 영상 데이터를 출력한다. 특히, 디스플레이부(110)는 적어도 하나의 외부기기와 관련된 적어도 하나의 UI 엘리먼트를 포함하는 UI를 디스플레이할 수 있다. 이때, 외부 기기와 관련된 적어도 하나의 UI 엘리먼트는 외부 기기와 관련된 어플리케이션 아이콘일 수 있다. 외부 기기와 관련된 적어도 하나의 UI 엘리먼트가 외부기기와 관련된 어플리케이션 아이콘인 것은 일 실시 예에 불과할 뿐, 위젯 아이콘 등일 수 있다. 또한, UI 엘리먼트는 텍스트, 이미지 등으로 표현될 수 있고, 디스플레이 장치(100)의 대기 화면에 디스플레이될 수 있다. 그리고, 디스플레이부(110)는 UI 엘리먼트 재배치 명령에 응답하여 적어도 하나의 UI 엘리먼트를 관련된 외부 기기의 위치에 대응되도록 재배치할 수 있다.The display unit 110 outputs image data. In particular, the display unit 110 may display a UI including at least one UI element associated with at least one external device. At this time, at least one UI element related to the external device may be an application icon related to the external device. At least one UI element associated with an external device is an application icon associated with an external device is merely an example, and may be a widget icon or the like. In addition, the UI element can be represented by text, image, or the like, and can be displayed on the idle screen of the display device 100. [ In response to the UI element rearrangement command, the display unit 110 may relocate at least one UI element to correspond to a position of an associated external device.

제어부(120)는 디스플레이 장치(100)의 전반적인 동작을 제어한다. 특히, UI 엘리먼트 재배치 명령이 입력되면, 제어부(120)는 디스플레이 장치(100)에 대한 적어도 하나의 외부기기의 위치를 판단할 수 있다. 그리고, 제어부(120)는 판단된 위치를 바탕으로 적어도 하나의 외부기기와 관련된 적어도 하나의 UI 엘리먼트를 재배치하여 디스플레이하도록 디스플레이부(110)를 제어할 수 있다.The control unit 120 controls the overall operation of the display device 100. In particular, when the UI element rearrangement command is input, the control unit 120 can determine the position of at least one external device with respect to the display device 100. [ The control unit 120 may control the display unit 110 to rearrange and display at least one UI element related to at least one external device based on the determined position.

구체적으로, 제어부(120)는 적어도 하나의 외부기기와 관련된 적어도 하나의 UI 엘리먼트를 포함하는 UI를 디스플레이하도록 디스플레이부(110)를 제어할 수 있다. 이때, 적어도 하나의 UI 엘리먼트는 적어도 하나의 외부기기와 관련된 어플리케이션 아이콘일 수 있다. 외부 기기와 관련된 적어도 하나의 UI 엘리먼트가 외부기기와 관련된 어플리케이션 아이콘인 것은 일 실시 예에 불과할 뿐, UI 엘리먼트는 위젯 아이콘 등일 수 있다. UI 엘리먼트는 아이콘 뿐만 아니라 텍스트, 이미지 등으로 표현될 수 있다. 외부기기와 관련된 어플리케이션은 외부 기기를 제어하기 위해 이용되는 어플리케이션, 외부기기를 이용하기 위해 필요한 정보를 얻을 수 있는 추천 어플리케이션 또는 사용자가 외부기기를 이용할 때 사용한 기록이 있는 어플리케이션 등일 수 있다. 또는, 외부기기의 특성에 따라 사용자마다 필요로 하는 어플리케이션이 상이할 수 있으므로, 외부기기와 관련된 어플리케이션은 사용자가 외부기기와 관련된 어플리케이션으로 지정한 어플리케이션 등일 수 있다.Specifically, the control unit 120 may control the display unit 110 to display a UI including at least one UI element related to at least one external device. At this time, at least one UI element may be an application icon associated with at least one external device. At least one UI element associated with an external device is an application icon associated with an external device, and the UI element may be a widget icon or the like. UI elements can be represented by text, images, etc., as well as icons. An application related to an external device may be an application used for controlling an external device, a recommended application for obtaining information necessary for using an external device, or an application having a record used when a user uses an external device. Alternatively, an application required for each user may differ depending on the characteristics of the external device, so that the application related to the external device may be an application designated by the user as an application related to the external device.

그리고, UI 엘리먼트 재배치 명령이 입력되면, 제어부(120)는 디스플레이 장치에 대한 적어도 하나의 외부기기의 위치를 판단할 수 있다. 구체적으로, 제어부(120)는 UI 엘리먼트 재배치 명령이 입력된 때의 디스플레이 장치(100)의 위치를 기준으로 하여 적어도 하나의 외부기기의 위치를 판단할 수 있다. 이때, 적어도 하나의 외부기기의 위치는 디스플레이 장치(100)의 위치를 기준으로 외부기기가 위치하는 상대적 방향 및 거리일 수 있다.When the UI element rearrangement command is input, the controller 120 can determine the position of at least one external device with respect to the display device. Specifically, the controller 120 can determine the position of at least one external device based on the position of the display device 100 when the UI element rearrangement command is input. At this time, the position of the at least one external device may be a relative direction and a distance at which the external device is positioned based on the position of the display device 100. [

그리고, 제어부(120)는 적어도 하나의 외부 기기의 위치를 바탕으로 외부 기기와 관련된 적어도 하나의 UI 엘리먼트를 재배치하도록 디스플레이부(110)를 제어할 수 있다. 구체적으로, 제어부(120)는 외부기기와 외부기기에 관련되는 UI 엘리먼트가 최단거리가 되도록 UI 엘리먼트를 재배치하도록 디스플레이부(110)를 제어할 수 있다. 예를 들어, 제1 외부 기기가 디스플레이 장치(100)의 좌측에 배치된 경우, 제어부(120)는 제1 외부 기기와 관련된 제1 UI 엘리먼트를 디스플레이 화면의 좌측에 배치하도록 디스플레이부(110)를 제어할 수 있다.또한, 동일한 방향에 복수의 외부기기가 위치하는 경우, 제어부(120)는 디스플레이 장치(100)와 복수의 외부기기 각각의 거리를 획득할 수 있다. 제어부(120)는 동일한 방향에 위치하는 복수의 외부기기 중 디스플레이 장치(100)와 가장 근접한 하나의 외부기기의 위치만을 판단할 수 있다. 그리고, 제어부(120)는 가장 근접한 하나의 외부기기의 위치를 바탕으로 적어도 하나의 외부기기와 관련된 적어도 하나의 UI 엘리먼트를 재배치하여 디스플레이하도록 디스플레이부(110)를 제어할 수 있다. 예를 들어, 좌측 방향에 제1 외부 기기 및 제2 외부 기기가 존재하고, 제1 외부 기기가 제2 외부 기기보다 디스플레이 장치(100)에 근접한 것으로 판단되면, 제어부(120)는 제1 외부 기기에 대응되는 UI 엘리먼트만 디스플레이부(110)의 좌측 영역에 재배치하도록 디스플레이부(110)를 제어할 수 있다.The control unit 120 may control the display unit 110 to relocate at least one UI element related to the external device based on the location of the at least one external device. Specifically, the control unit 120 may control the display unit 110 to rearrange the UI elements so that the UI elements related to the external device and the external device have the shortest distance. For example, when the first external device is disposed on the left side of the display device 100, the control unit 120 controls the display unit 110 to place the first UI element associated with the first external device on the left side of the display screen The control unit 120 can obtain the distance between the display device 100 and each of the plurality of external devices when a plurality of external devices are located in the same direction. The control unit 120 can determine only the position of one external device closest to the display device 100 among a plurality of external devices located in the same direction. The control unit 120 may control the display unit 110 to rearrange and display at least one UI element related to at least one external device based on the position of the closest one external device. For example, if it is determined that the first external device and the second external device exist in the left direction and that the first external device is closer to the display device 100 than the second external device, It is possible to control the display unit 110 to relocate only the UI elements corresponding to the UI elements to the left area of the display unit 110. [

그리고, 제1 외부기기와 제2 외부기기가 동일한 방향에 위치하고 디스플레이 장치(100)와 제1 외부기기의 거리가 디스플레이 장치(100)와 제2 외부기기의 거리보다 먼 거리에 위치하는 경우, 제어부(120)는 디스플레이장치(100)와 거리가 먼 제1 외부기기에 관련된 제1 UI 엘리먼트를 제2 외부기기에 관련된 제2 UI 엘리먼트보다 디스플레이 화면의 가장자리에 배치하여 디스플레이하도록 디스플레이부(110)를 제어할 수 있다. When the first external device and the second external device are located in the same direction and the distance between the display device 100 and the first external device is longer than the distance between the display device 100 and the second external device, The display unit 120 displays the first UI element related to the first external device, which is distant from the display device 100, on the edge of the display screen rather than the second UI element related to the second external device, Can be controlled.

그리고, 하나의 UI 엘리먼트가 제1 외부기기 및 제2 외부기기와 관련되는 경우, 제어부(120)는 제1 외부기기 및 제2 외부기기의 평균 방향에 하나의 UI 엘리먼트를 배치하여 디스플레이하도록 디스플레이부(110)를 제어할 수 있다.When one UI element is associated with the first external device and the second external device, the control unit 120 controls the display unit 110 to display one UI element in the average direction of the first external device and the second external device, (110).

그리고, 제1 UI 엘리먼트 및 제2 UI 엘리먼트가 제1 외부기기에 관련되는 경우, 제어부(120)는 제1 외부기기가 위치하는 방향과 대응되는 디스플레이 화면의 측면에 제1 UI 엘리먼트 및 제2 UI 엘리먼트를 일렬로 배치하여 디스플레이하도록 디스플레이부(110)를 제어할 수 있다.When the first UI element and the second UI element are related to the first external device, the control unit 120 displays the first UI element and the second UI on the side of the display screen corresponding to the direction in which the first external device is located, It is possible to control the display unit 110 to display elements arranged in a line.

상술한 바와 같은 디스플레이 장치(100)에 의해, 사용자는 하나 이상의 외부기기에 관련된 UI 엘리먼트를 직관적으로 찾을 수 있게 된다.With the display device 100 as described above, the user can intuitively find the UI element related to one or more external devices.

이하에서는 도 2 내지 도 7을 참조하여 본 발명의 다양한 실시 예에 대해 설명하기로 한다. 도 2는 본 발명의 일 실시 예에 따른, 디스플레이 장치(100)의 구성을 상세히 도시한 블럭도이다. 도 2에 도시된 바와 같이, 디스플레이 장치(100)는 디스플레이부(210), 오디오 출력부(220), 통신부(230), 저장부(240), 감지부(250), 입력부(260) 및 제어부(270)를 포함한다.Hereinafter, various embodiments of the present invention will be described with reference to FIGS. 2 to 7. FIG. 2 is a block diagram showing the configuration of the display device 100 in detail, according to an embodiment of the present invention. 2, the display device 100 includes a display unit 210, an audio output unit 220, a communication unit 230, a storage unit 240, a sensing unit 250, an input unit 260, (Not shown).

한편, 도 2는 디스플레이 장치(100)가 사용자 명령 입력 기능, 디스플레이 기능 등과 같이 다양한 기능을 구비한 장치인 경우를 예로 들어, 각종 구성 요소들을 종합적으로 도시한 것이다. 따라서, 실시 예에 따라서는, 도 2에 도시된 구성 요소 중 일부는 생략 또는 변경될 수 있고, 다른 구성 요소가 더 추가될 수도 있다.2 is a block diagram illustrating various components in the case where the display device 100 is a device having various functions such as a user command input function, a display function, and the like. Therefore, depending on the embodiment, some of the components shown in Fig. 2 may be omitted or changed, and other components may be further added.

디스플레이부(210)는 영상 수신부(미도시)로부터 수신한 영상 데이터를 영상 처리부(미도시)에서 처리한 비디오 프레임 및 그래픽 처리부(273)에서 생성된 다양한 화면 중 적어도 하나를 디스플레이한다. 특히, 디스플레이부(210)는 적어도 하나의 외부 기기와 관련된 적어도 하나의 UI 엘리먼트를 포함하는 UI를 디스플레이할 수 있다. 또한, 디스플레이부(210)는 제어부(270)에서 판단된 위치를 바탕으로 적어도 하나의 외부 기기와 관련된 적어도 하나의 UI 엘리먼트를 재배치하여 디스플레이할 수 있다.The display unit 210 displays at least one of a video frame processed by the image processing unit (not shown) and various screens generated by the graphic processing unit 273, from the image data received from the image receiving unit (not shown). In particular, the display unit 210 may display a UI including at least one UI element associated with at least one external device. Also, the display unit 210 can rearrange and display at least one UI element related to at least one external device on the basis of the position determined by the controller 270.

오디오 출력부(220)는 오디오 처리부(미도시)에 의해 디코딩이나 증폭, 노이즈 필터링과 같은 다양한 처리 작업이 수행된 각종 오디오 데이터뿐만 아니라 각종 알림 음이나 음성 메시지를 출력하는 구성이다. 특히, 오디오 출력부(220)는 스피커로 구현될 수 있으나, 이는 일 실시 예에 불과할 뿐, 오디오 데이터를 출력할 수 있는 출력 단자로 구현될 수 있다.The audio output unit 220 is configured to output various types of audio data as well as various kinds of notification sounds and voice messages in which various processing operations such as decoding, amplification, and noise filtering are performed by an audio processing unit (not shown). In particular, the audio output unit 220 may be implemented as a speaker, but it may be implemented as an output terminal capable of outputting audio data, which is only an example.

통신부(230)는 다양한 유형의 통신방식에 따라 다양한 유형의 외부 기기와 통신을 수행하는 구성이다. 통신부(230)는 와이파이 칩, 블루투스 칩, NFC칩, 무선 통신 칩 등과 같은 다양한 통신 칩을 포함할 수 있다. 이때, 와이파이 칩, 블루투스 칩, NFC 칩은 각각 WiFi 방식, 블루투스 방식, NFC 방식으로 통신을 수행한다. 이 중 NFC 칩은 135kHz, 13.56MHz, 433MHz, 860~960MHz, 2.45GHz 등과 같은 다양한 RF-ID 주파수 대역들 중에서 13.56MHz 대역을 사용하는 NFC(Near Field Communication) 방식으로 동작하는 칩을 의미한다. 와이파이 칩이나 블루투스 칩을 이용하는 경우에는 SSID 및 세션 키 등과 같은 각종 연결 정보를 먼저 송수신하여, 이를 이용하여 통신 연결한 후 각종 정보들을 송수신할 수 있다. 무선 통신 칩은 IEEE, 지그비, 3G(3rd Generation), 3GPP(3rd Generation Partnership Project), LTE(Long Term Evoloution) 등과 같은 다양한 통신 규격에 따라 통신을 수행하는 칩을 의미한다.The communication unit 230 is configured to perform communication with various types of external devices according to various types of communication methods. The communication unit 230 may include various communication chips such as a Wi-Fi chip, a Bluetooth chip, an NFC chip, and a wireless communication chip. At this time, the Wi-Fi chip, the Bluetooth chip, and the NFC chip communicate with each other using the WiFi method, the Bluetooth method, and the NFC method. Among these, the NFC chip refers to a chip operating in an NFC (Near Field Communication) system using 13.56 MHz band among various RF-ID frequency bands such as 135 kHz, 13.56 MHz, 433 MHz, 860 to 960 MHz and 2.45 GHz. When a Wi-Fi chip or a Bluetooth chip is used, various connection information such as an SSID and a session key may be transmitted and received first, and communication information may be used to transmit and receive various information. The wireless communication chip refers to a chip that performs communication according to various communication standards such as IEEE, ZigBee, 3G (3rd Generation), 3rd Generation Partnership Project (3GPP), LTE (Long Term Evolution)

특히, 통신부(230)는 외부 기기와 통신을 수행할 수 있다. 구체적으로, 근거리 통신기술(WPAN, WLAN 등), 이동통신기술(2G, 3G 등)과 유선통신기술(이더넷, BcN 등)과 같은 유.무선 통신 및 네트워크 기술을 이용하여 외부 기기와 통신을 수행함으로써 외부 기기의 위치를 판단한 수 있다. In particular, the communication unit 230 can perform communication with an external device. Specifically, it communicates with external devices using wired and wireless communication technologies such as local area communication technology (WPAN, WLAN, etc.), mobile communication technology (2G, 3G, etc.) and wired communication technology (Ethernet, BcN, etc.) Thereby determining the position of the external device.

저장부(240)는 디스플레이 장치(100)를 구동하기 위한 다양한 모듈을 저장한다. 예를 들어, 저장부(240)에는 베이스 모듈, 센싱 모듈, 통신 모듈, 프리젠테이션 모듈, 웹 브라우저 모듈, 서비스 모듈을 포함하는 소프트웨어가 저장될 수 있다. 이때, 베이스 모듈은 디스플레이 장치(100)에 포함된 각 하드웨어들로부터 전달되는 신호를 처리하여 상위 레이어 모듈로 전달하는 기초 모듈이다. 센싱 모듈은 각종 센서들로부터 정보를 수집하고, 수집된 정보를 분석 및 관리하는 모듈로서, 얼굴 인식 모듈, 음성 인식 모듈, 모션 인식 모듈, NFC 인식 모듈 등을 포함할 수도 있다. 디스플레이 장치(100)는 센싱 모듈을 통해 센서들로부터 수집된 정보를 이용하여 외부 기기의 위치를 판단할 수 있다. 프리젠테이션 모듈은 디스플레이 화면을 구성하기 위한 모듈로서, 멀티미디어 컨텐츠를 재생하여 출력하기 위한 멀티미디어 모듈, UI 및 그래픽 처리를 수행하는 UI 렌더링 모듈을 포함할 수 있다. 통신 모듈은 외부와 통신을 수행하기 위한 모듈이다. 디스플레이 장치(100)는 통신 모듈을 통해 외부 기기와 통신을 수행하고, 주변의 AP를 이용하여 자신의 위치 및 외부 기기의 위치를 판단할 수 있다. 웹 브라우저 모듈은 웹 브라우징을 수행하여 웹 서버에 액세스하는 모듈을 의미한다. 서비스 모듈은 다양한 서비스를 제공하기 위한 각종 어플리케이션을 포함하는 모듈이다.The storage unit 240 stores various modules for driving the display device 100. For example, the storage unit 240 may store software including a base module, a sensing module, a communication module, a presentation module, a web browser module, and a service module. In this case, the base module is a base module that processes a signal transmitted from each hardware included in the display device 100 and transmits the signal to an upper layer module. The sensing module is a module for collecting information from various sensors and analyzing and managing the collected information, and may include a face recognition module, a voice recognition module, a motion recognition module, and an NFC recognition module. The display device 100 can determine the location of the external device using the information collected from the sensors through the sensing module. The presentation module is a module for constructing a display screen, and may include a multimedia module for reproducing and outputting multimedia contents, a UI, and a UI rendering module for performing graphics processing. The communication module is a module for performing communication with the outside. The display device 100 communicates with an external device through the communication module and can determine its own position and the location of the external device using the surrounding AP. A web browser module refers to a module that accesses a web server by performing web browsing. A service module is a module including various applications for providing various services.

상술한 바와 같이, 저장부(240)는 다양한 프로그램 모듈들을 포함할 수 있으나, 각종 프로그램 모듈들은 디스플레이 장치(100)의 종류 및 특성에 따라 일부 생략되거나 변형 또는 추가될 수 있음은 물론이다. 가령, 상술한 디스플레이 장치(100)가 태블릿 PC로 구현된 경우, 베이스 모듈에는 GPS 기반의 위치를 판단하기 위한 위치 판단 모듈을 더 포함하며, 센싱 모듈에는 사용자의 동작을 감지하는 센싱 모듈을 더 포함할 수 있다.As described above, the storage unit 240 may include various program modules, but it is needless to say that the various program modules may be omitted, modified or added depending on the type and characteristics of the display device 100. For example, when the display device 100 is implemented as a tablet PC, the base module may further include a position determination module for determining a GPS-based position, and the sensing module may further include a sensing module can do.

한편, 본 발명의 일 실시 예에서, 저장부(240)는 제어부(270) 내 ROM(272), RAM(271), 또는 디스플레이 장치(100)에 장착되는 메모리 카드(미도시)(예를 들어, micro SD 카드, 메모리 스틱)를 포함하여 정의될 수 있다.In an exemplary embodiment of the present invention, the storage unit 240 may include a ROM 272, a RAM 271, or a memory card (not shown) mounted on the display device 100 , micro SD card, memory stick).

감지부(250)는 디스플레이 장치(100)의 주변 환경을 감지한다. 특히, 감지부(250)는 위치 정보를 감지할 수 있는 GPS 센서, 디스플레이 장치(100)의 움직임을 감지할 수 있는 움직임 감지 센서(예를 들어, 자이로 센서, 가속도 센서 등), 압력 센서, 노이즈 센서 등과 같은 다양한 센서를 포함할 수 있다. 감지부(250)는 자이로 센서 등을 이용하여 디스플레이 장치(100)의 촬상부(미도시)가 비추는 방향을 감지하고, 화각 범위 내에 위치하는 적어도 하나의 외부 기기에 대한 위치를 판단할 수 있다.The sensing unit 250 senses the surroundings of the display device 100. In particular, the sensing unit 250 may include a GPS sensor capable of sensing position information, a motion sensing sensor (e.g., a gyro sensor, an acceleration sensor, etc.) capable of sensing the motion of the display device 100, Sensors, and the like. The sensing unit 250 may sense a direction in which the image sensing unit (not shown) of the display device 100 illuminates by using a gyro sensor or the like, and may determine a position with respect to at least one external device located within the angle of view range.

특히, 감지부(250)는 GPS 센서, 위치 센서 등을 이용하여 현재 디스플레이 장치(100)의 위치를 계산할 수 있다. 그리고, 감지부(250)는 방향 측정 센서를 이용하여 외부 기기의 위치를 판단할 수 있다. 구체적으로, 감지부(250)는 외부 기기로 신호를 전송한 후, 다시 신호가 수신될 때까지의 시간을 측정하여 디스플레이 장치(100)와 외부 기기 사이의 거리를 판단할 수 있다.In particular, the sensing unit 250 may calculate the position of the display device 100 using a GPS sensor, a position sensor, or the like. The sensing unit 250 can determine the position of the external device using the direction measuring sensor. Specifically, the sensing unit 250 can determine the distance between the display device 100 and the external device by measuring the time until the signal is received after transmitting the signal to the external device.

입력부(260)는 디스플레이 장치(100)를 제어하기 위한 사용자 명령을 입력받는다. 특히, 입력부(260)는 사용자 명령을 입력받기 위해 터치 입력부, 버튼, 음성 입력부, 모션 입력부, 키보드, 마우스 등과 같은 다양한 입력 장치를 포함할 수 있다.The input unit 260 receives a user command for controlling the display device 100. In particular, the input unit 260 may include various input devices such as a touch input unit, a button, a voice input unit, a motion input unit, a keyboard, and a mouse to receive a user command.

제어부(270)는 저장부(240)에 저장된 각종 프로그램을 이용하여 디스플레이 장치(100)의 전반적인 동작을 제어한다.The control unit 270 controls the overall operation of the display device 100 using various programs stored in the storage unit 240.

제어부(270)는 도 2에 도시된 바와 같이, RAM(271), ROM(272), 그래픽 처리부(273), 메인 CPU(274), 제1 내지 n 인터페이스(275-1 ~ 275-n), 버스(276)를 포함한다. 이때, RAM(271), ROM(272), 그래픽 처리부(273), 메인 CPU(274), 제1 내지 n 인터페이스(275-1 ~ 275-n) 등은 버스(276)를 통해 서로 연결될 수 있다. 2, the control unit 270 includes a RAM 271, a ROM 272, a graphics processing unit 273, a main CPU 274, first to n interfaces 275-1 to 275-n, Bus 276. < / RTI > At this time, the RAM 271, the ROM 272, the graphic processor 273, the main CPU 274, the first through n interfaces 275-1 through 275-n, etc. may be connected to each other via the bus 276 .

ROM(272)에는 시스템 부팅을 위한 명령어 세트 등이 저장된다. 턴 온 명령이 입력되어 전원이 공급되면, 메인 CPU(274)는 ROM(272)에 저장된 명령어에 따라 저장부(240)에 저장된 O/S를 RAM(271)에 복사하고, O/S를 실행시켜 시스템을 부팅시킨다. 부팅이 완료되면, 메인 CPU(274)는 저장부(240)에 저장된 각종 어플리케이션 프로그램을 RAM(271)에 복사하고, RAM(271)에 복사된 어플리케이션 프로그램을 실행시켜 각종 동작을 수행한다. A ROM 272 stores a command set for booting the system and the like. The main CPU 274 copies the O / S stored in the storage unit 240 to the RAM 271 according to the instruction stored in the ROM 272, and executes the O / S To boot the system. When the booting is completed, the main CPU 274 copies various application programs stored in the storage unit 240 to the RAM 271, executes the application program copied to the RAM 271, and performs various operations.

그래픽 처리부(273)는 연산부(미도시) 및 렌더링부(미도시)를 이용하여 포인터, 아이콘, 이미지, 텍스트 등과 같은 다양한 객체를 포함하는 화면을 생성한다. 연산부는 입력부로부터 수신된 제어 명령을 이용하여 화면의 레이아웃에 따라 각 객체들이 표시될 좌표값, 형태, 크기, 컬러 등과 같은 속성값을 연산한다. 렌더링부는 연산부에서 연산한 속성값에 기초하여 객체를 포함하는 다양한 레이아웃의 화면을 생성한다. 렌더링부에서 생성된 화면은 디스플레이부(210)의 디스플레이 영역 내에 표시된다. The graphic processing unit 273 generates a screen including various objects such as a pointer, an icon, an image, and a text using an operation unit (not shown) and a rendering unit (not shown). The operation unit calculates an attribute value such as a coordinate value, a shape, a size, a color, and the like to be displayed by each object according to the layout of the screen using the control command received from the input unit. The rendering unit generates screens of various layouts including the objects based on the attribute values calculated by the operation unit. The screen generated by the rendering unit is displayed in the display area of the display unit 210.

메인 CPU(274)는 저장부(240)에 액세스하여, 저장부(240)에 저장된 O/S를 이용하여 부팅을 수행한다. 그리고, 메인 CPU(274)는 저장부(240)에 저장된 각종 프로그램, 컨텐츠, 데이터 등을 이용하여 다양한 동작을 수행한다. The main CPU 274 accesses the storage unit 240 and performs booting using the O / S stored in the storage unit 240. [ The main CPU 274 performs various operations using various programs stored in the storage unit 240, contents, data, and the like.

제1 내지 n 인터페이스(275-1 내지 275-n)는 상술한 각종 구성요소들과 연결된다. 인터페이스들 중 하나는 네트워크를 통해 외부 장치와 연결되는 네트워크 인터페이스가 될 수도 있다. 특히, 인터페이스들 중 하나는 IoT 서비스 인터페이스일 수 있다.The first to n-th interfaces 275-1 to 275-n are connected to the various components described above. One of the interfaces may be a network interface connected to an external device via a network. In particular, one of the interfaces may be an IoT service interface.

버스(276)는 디스플레이 장치(100)와 외부 기기 사이의 통신 및 데이터 전송을 가능하게 할 수 있다. 버스(120)는 고속 시리얼 버스(high-speed serial bus), 병렬 버스(parallel bus), SAN(storage area network) 및/또는 다른 적절한 통신 기술을 이용하여 구성될 수 있다.The bus 276 may enable communication and data transmission between the display device 100 and an external device. The bus 120 may be configured using a high-speed serial bus, a parallel bus, a storage area network (SAN), and / or other suitable communication technology.

특히, 제어부(270)는 적어도 하나의 외부 기기와 관련된 적어도 하나의 UI 엘리먼트를 포함하는 UI를 디스플레이 하도록 디스플레이부(210)를 제어한다. 그리고, UI 엘리먼트 재배치 명령이 입력되면, 제어부(270)는 디스플레이 장치와 적어도 하나의 외부 기기의 상대적 위치를 판단한다. 그리고, 제어부(270)는 판단된 위치를 바탕으로 적어도 하나의 외부 기기와 관련된 적어도 하나의 UI 엘리먼트를 배치하여 디스플레이하도록 디스플레이부(210)를 제어한다. In particular, the control unit 270 controls the display unit 210 to display a UI including at least one UI element associated with at least one external device. When the UI element rearrangement command is input, the controller 270 determines a relative position between the display device and at least one external device. The control unit 270 controls the display unit 210 to display and display at least one UI element related to at least one external device based on the determined position.

이때, 외부 기기는 다양한 분야에서 사물을 네트워크로 연결해 정보를 공유할 수 있는 가전 제품, 전자 기기 뿐만 아니라 헬스케어, 원격검침, 스마트홈, 스마트카 등일 수 있다.At this time, the external device can be not only household appliances and electronic devices that can share information by connecting objects in various fields, but also healthcare, remote meter reading, smart home, smart car, and the like.

구체적으로, 제어부(270)는 감지부(250)를 통해 디스플레이 장치(100)의 현재 위치를 계산할 수 있다. 제어부(270)가 디스플레이 장치(100)의 위치를 계산하는 방법으로는 GPS 모듈을 이용하여 위치 정보를 수신하고, 정확도를 높이기 위하여 VRS(Virtual Reference Station), FKP(Flat Korrect Parameter) 같은 RTK(Real Time Kinematic) 방법을 이용할 수 있다. Specifically, the control unit 270 may calculate the current position of the display device 100 through the sensing unit 250. As a method of calculating the position of the display device 100, the controller 270 receives position information using a GPS module and transmits RTK (Real Reference) such as VRS (Virtual Reference Station) and FKP (Flat Korrect Parameter) Time Kinematic) method.

그리고, 제어부(270)는 통신부(230)를 통해 외부 기기의 위치를 판단할 수 있다. 본 발명의 일 실시 예에 따르면, 제어부(270)는 디스플레이 장치(100)의 위치를 서버로 전송하도록 통신부(230)를 제어할 수 있다. 그리고, 서버에서 디스플레이 장치(100)에 근접한 외부 기기를 탐색하여 외부 기기들의 위치 정보를 전송하면, 제어부(270)는 외부 기기들의 위치 정보를 수신하도록 통신부(230)를 제어할 수 있다. 제어부(270)는 디스플레이 장치(100)의 위치를 기준점으로 하여 주변의 외부 기기들에 대한 가상 좌표를 완성하여 디스플레이 장치(100)에 대한 외부 기기의 상대적 위치를 판단할 수 있다. 즉, 제어부(270)는 디스플레이 장치(100)의 위치와 외부 기기의 위치를 이용하여 디스플레이 장치(100)에 대한 외부 기기의 상대적 위치를 판단할 수 있다. 서버, 기지국과 같은 중계 장치를 통해 수신된 정보로 외부 기기의 위치를 판단할 수 있는 것은 일 실시 예에 불과할 뿐, 본 발명의 또 다른 실시 예에 따르면, 디스플레이 장치(100)와 외부 기기가 직접 통신하여 외부 기기의 위치를 판단할 수도 있다. The control unit 270 can determine the location of the external device through the communication unit 230. [ According to an embodiment of the present invention, the control unit 270 may control the communication unit 230 to transmit the position of the display device 100 to the server. When the server searches for an external device close to the display device 100 and transmits the location information of the external devices, the controller 270 may control the communication unit 230 to receive the location information of the external devices. The control unit 270 can determine the relative position of the external device with respect to the display device 100 by completing the virtual coordinates of the surrounding external devices with the position of the display device 100 as a reference point. That is, the controller 270 can determine the relative position of the external device with respect to the display device 100 using the position of the display device 100 and the position of the external device. It is possible to determine the position of the external device based on the information received through the relay device such as the server and the base station. However, according to another embodiment of the present invention, The position of the external device can be determined by communication.

그리고, UI 엘리먼트 재배치 명령이 입력되면, 제어부(270)는 판단된 외부 기기의 위치를 바탕으로 적어도 하나의 외부 기기와 관련된 적어도 하나의 UI 엘리먼트를 재배치하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 이때, 제어부(270)는 다양한 방법으로 UI 엘리먼트를 재배치하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다.When the UI element rearrangement command is input, the controller 270 controls the display unit 210 to rearrange and display at least one UI element related to at least one external device based on the determined location of the external device have. At this time, the control unit 270 may control the display unit 210 to rearrange and display the UI elements by various methods.

본 발명의 다양한 실시 예에 따라, 외부 기기의 위치를 바탕으로 적어도 하나의 외부 기기와 관련된 적어도 하나의 UI 엘리먼트를 재배치하는 방법에 대하여 도 3 내지 도 7을 참조하여 설명하기로 한다. 이하, 도면에서 디스플레이 장치(100)와 외부기기 사이의 거리는 절대적인 거리를 의미하지 않는다.A method of relocating at least one UI element associated with at least one external device based on the location of the external device will be described with reference to FIGS. 3 through 7, according to various embodiments of the present invention. Hereinafter, the distance between the display device 100 and the external device in the drawings does not mean an absolute distance.

구체적으로, 도 3에 도시된 바와 같이, 제어부(270)는 디스플레이 장치(100)를 기준으로 디스플레이 화면에서 외부 기기가 위치하는 방향에 대응하는 측면에 외부 기기와 관련된 UI 엘리먼트를 배치하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 본 발명의 일 실시 예로, 디스플레이 장치(100)의 우측 방향에 제1 외부기기가 위치하는 경우, 제어부(270)는 제1 외부기기와 관련된 제1 UI 엘리먼트를 디스플레이 화면의 우측 영역에 배치하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 예를 들어, 디스플레이 장치(100)의 우측 방향에 에어컨(310)이 위치하는 경우, 제어부(270)는 에어컨(310)과 관련된 어플리케이션인 날씨 정보 어플리케이션(320) 아이콘을 디스플레이 화면의 우측에 배치하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 3, the control unit 270 displays UI elements related to the external device on the side corresponding to the direction in which the external device is positioned on the display screen based on the display device 100, The control unit 210 can be controlled. If the first external device is located in the right direction of the display device 100, the controller 270 disposes the first UI element associated with the first external device in the right area of the display screen, The display unit 210 can be controlled. For example, when the air conditioner 310 is located on the right side of the display device 100, the controller 270 arranges the weather information application 320 icon, which is an application related to the air conditioner 310, on the right side of the display screen It is possible to control the display unit 210 to display it.

이때, 외부 기기와 관련된 UI 엘리먼트는 외부 기기와 관련된 어플리케이션 아이콘일 수 있다. 예를 들어, 외부 기기가 스마트 TV라면, 외부 기기와 관련된 어플리케이션은 영상 재생 어플리케이션, 스마트 TV를 제어할 수 있는 리모컨 어플리케이션 등일 수 있다. 또한, 외부 기기와 관련된 어플리케이션은 사용자 설정에 의해 특정 외부 기기와 관련된 어플리케이션으로 설정될 수도 있고, 추천 어플리케이션 등 일수도 있다.At this time, the UI element related to the external device may be an application icon related to the external device. For example, if the external device is a smart TV, the application related to the external device may be a video playback application, a remote control application that can control the smart TV, and the like. In addition, an application related to an external device may be set as an application related to a specific external device by user setting, or may be a recommendation application or the like.

본 발명의 일 실시 예에 따르면, 동일한 방향에 제1 외부 기기 및 제2 외부 기기가 위치하는 경우, 제어부(270)는 동일한 방향에 위치하는 제1 외부 기기와 디스플레이 장치의 거리 및 제2 외부 기기와 디스플레이 장치(100)의 거리를 각각 판단할 수 있다. 그리고, 도 4a에 도시된 바와 같이, 제1 외부 기기와 디스플레이 장치(100) 사이의 거리가 제2 외부 기기와 디스플레이 장치(100) 사이의 거리보다 가까운 경우, 제어부(270)는 디스플레이 장치(100)와 근접한 제1 외부 기기(410)와 관련된 제1 UI 엘리먼트를 제2 외부 기기와 관련된 제2 UI 엘리먼트(440)보다 디스플레이 화면의 중앙에 배치하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 예를 들어, 디스플레이 장치(100)의 우측 방향에 스피커(410) 및 스마트TV(420)가 위치하는 경우, 제어부(270)는 우측 방향에 위치하는 스피커(410)와 디스플레이 장치(100) 사이의 거리 및 스마트TV(420)와 디스플레이 장치(100) 사이의 거리를 각각 판단할 수 있다. 그리고, 스피커(410)와 디스플레이 장치(100) 사이의 거리가 스마트TV(420)와 디스플레이 장치(100) 사이의 거리보다 가까운 경우, 제어부(270)는 디스플레이 장치(100)와 근접한 스피커(410)와 관련된 음악 어플리케이션(430)을 스마트TV와 관련된 동영상 재생 어플리케이션(440)보다 디스플레이 화면의 중앙에 배치하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다.According to an embodiment of the present invention, when the first external device and the second external device are located in the same direction, the controller 270 determines the distance between the first external device and the display device, And the display device 100, respectively. 4A, when the distance between the first external device and the display device 100 is shorter than the distance between the second external device and the display device 100, the controller 270 controls the display device 100 The first UI element related to the first external device 410 close to the first UI element 440 may be disposed at the center of the display screen rather than the second UI element 440 associated with the second external device to control the display unit 210 . For example, when the speaker 410 and the smart TV 420 are positioned in the right direction of the display device 100, the controller 270 controls the speaker 410 and the display device 100, And the distance between the smart TV 420 and the display device 100, respectively. When the distance between the speaker 410 and the display device 100 is shorter than the distance between the smart TV 420 and the display device 100, the controller 270 controls the speaker 410, The display unit 210 can be controlled so that the music application 430 associated with the smart TV is arranged at the center of the display screen rather than the moving image playback application 440 associated with the smart TV.

또 다른 실시 예에 따르면, 동일한 방향에 제1 외부 기기(410)와 제2 외부 기기(420)가 위치하는 경우, 제어부(270)는 동일한 방향에 위치하는 제1 외부 기기(410)와 디스플레이 장치(100)의 거리 및 제2 외부 기기(420)와 디스플레이 장치(100)의 거리를 각각 판단할 수 있다. 그리고, 제1 외부 기기(410)와 디스플레이 장치(100) 사이의 거리가 제2 외부 기기(420)와 디스플레이 장치(100) 사이의 거리보다 가까운 경우, 제어부(270)는 디스플레이 장치(100)와 가장 근접한 제1 외부 기기(410)의 위치만을 판단할 수 있다.According to another embodiment, when the first external device 410 and the second external device 420 are positioned in the same direction, the controller 270 controls the first external device 410 and the second external device 420, The distance between the second external device 420 and the display device 100 can be determined. If the distance between the first external device 410 and the display device 100 is shorter than the distance between the second external device 420 and the display device 100, Only the position of the first external device 410 closest to the first external device 410 can be determined.

또 다른 실시 예에 따르면, 도 4B에 도시된 바와 같이, 제어부(270)는 디스플레이 장치와 더 근접한 외부 기기에 관련된 UI 엘리먼트를 다른 외부 기기에 관련된 UI 엘리먼트보다 크게 배치하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 예를 들어, 제1 외부 기기(450)와 디스플레이 장치(100) 사이의 거리가 제2 외부 기기(460)와 디스플레이 장치(100) 사이의 거리보다 가까운 경우, 제어부(270)는 제1 외부 기기(450)와 관련된 제1 UI 엘리먼트(470)를 제2 외부 기기(460)와 관련된 제2 UI 엘리먼트(480)보다 크게 배치하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 사용자는 UI 엘리먼트(470,480)의 크기를 인지함으로써 더 직관적으로 가까이 있는 외부 기기의 UI 엘리먼트를 쉽게 검색할 수 있다.4B, the controller 270 controls the display unit 210 to display UI elements related to an external device closer to the display device and to display UI elements related to other external devices, Can be controlled. For example, when the distance between the first external device 450 and the display device 100 is shorter than the distance between the second external device 460 and the display device 100, The first UI element 470 associated with the second external device 460 may be arranged to be larger than the second UI element 480 associated with the second external device 460 and the display unit 210 may be controlled. By recognizing the size of the UI elements 470 and 480, the user can more easily search the UI elements of the external device that are more intuitively close to each other.

도 5에 도시된 바와 같이, 본 발명의 일 실시 예에 따르면, 제1 외부 기기(510)와 관련된 UI 엘리먼트(530)와 제2 외부 기기(520)와 관련된 UI 엘리먼트(530)가 동일한 경우, 제어부(270)는 제1 외부 기기(510)와 제2 외부 기기(520)의 평균 방향에 UI 엘리먼트(530)를 배치하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 구체적으로, 제1 외부 기기(510)가 9시 방향에 위치하고, 제2 외부 기기(520)가 3시 방향에 위치한다. 그리고, 특정 UI 엘리먼트(530)가 제1 외부 기기(510) 및 제2 외부 기기(520)와 관련되는 경우, 제어부(270)는 제1 외부 기기(510)와 제2 외부 기기(520)의 평균 방향인 중심 영역에 UI 엘리먼트(530)를 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 예를 들어, 냉장고(510)가 9시 방향에 위치하고, 에어컨(520)이 3시 방향에 위치한다. 그리고, 날씨 정보 어플리케이션(530)이 냉장고(510) 및 에어컨(520)과 관련되는 경우, 제어부(270)는 냉장고(510)와 에어컨(520)의 평균 방향인 중심 영역에 날씨 정보 어플리케이션(530)을 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 5, according to an embodiment of the present invention, when the UI element 530 associated with the first external device 510 and the UI element 530 associated with the second external device 520 are the same, The controller 270 may control the display unit 210 to display and display the UI element 530 in the average direction of the first external device 510 and the second external device 520. [ Specifically, the first external device 510 is located at 9 o'clock, and the second external device 520 is located at 3 o'clock. When the specific UI element 530 is associated with the first external device 510 and the second external device 520, the controller 270 controls the first external device 510 and the second external device 520 The display unit 210 can be controlled to display the UI element 530 in the center area which is the average direction. For example, the refrigerator 510 is located at 9 o'clock, and the air conditioner 520 is located at 3 o'clock. When the weather information application 530 is related to the refrigerator 510 and the air conditioner 520, the controller 270 displays the weather information application 530 in the center area which is the average direction of the refrigerator 510 and the air conditioner 520, The display unit 210 may be controlled so as to display the image.

본 발명의 또 다른 실시 예에 따르면, 특정 UI 엘리먼트가 제1 외부 기기(510) 및 제2 외부 기기(520)와 관련되는 경우, 제어부(270)는 특정 UI 엘리먼트를 중복적으로 배치하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 예를 들어, 제1 외부 기기(510)가 9시 방향에 위치하고, 제2 외부 기기(520)가 3시 방향에 위치한다. 그리고, 특정 UI 엘리먼트가 제1 외부 기기(510) 및 제2 외부 기기(520)와 관련되는 경우, 제어부(270)는 제1 외부 기기(510)의 방향에 대응하는 디스플레이화면의 좌측 방향에 특정 UI 엘리먼트를 디스플레이하고, 제2 외부 기기(520)의 방향에 대응하는 디스플레이 화면의 우측 방향에 특정 UI 엘리먼트를 중복 배치하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. According to another embodiment of the present invention, when a specific UI element is associated with the first external device 510 and the second external device 520, the control unit 270 may repeatedly arrange and display specific UI elements The display unit 210 can be controlled. For example, the first external device 510 is located at 9 o'clock, and the second external device 520 is located at 3 o'clock. When a specific UI element is associated with the first external device 510 and the second external device 520, the control unit 270 determines whether or not a specific UI element is specified in the left direction of the display screen corresponding to the direction of the first external device 510 The UI element may be displayed and the display unit 210 may be controlled to display and display a specific UI element in the right direction of the display screen corresponding to the direction of the second external device 520. [

본 발명의 일 실시 예에 따르면, 제1 외부 기기(610)와 관련된 복수의 UI 엘리먼트(620)가 존재하는 경우, 도 6에 도시된 바와 같이, 제어부(270)는 제1 외부 기기(610)의 위치에 대응하는 영역에 복수의 UI 엘리먼트(620)를 일렬로 배치하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 구체적으로, 제1 외부 기기(610)가 디스플레이 장치(100)의 상측에 위치하고, 제1 외부 기기(610)와 관련된 UI 엘리먼트(620)가 세 개인 경우, 제어부(270)는 제1 외부 기기(610)의 위치에 대응하는 디스플레이 화면의 상측 영역에 제1 외부 기기(610)와 관련된 세 개의 UI 엘리먼트(620)를 일렬로 배치하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 예를 들어, 스마트TV(610)가 디스플레이 장치(100)의 상측에 위치하고, 스마트 TV(610)와 관련된 카메라 어플리케이션, 녹음 어플리케이션, 메모 어플리케이션이 존재하는 경우, 제어부(270)는 스마트 TV(610)의 위치에 대응하는 디스플레이 화면의 상측 영역에 스마트 TV(610)와 관련된 카메라 어플리케이션, 녹음 어플리케이션, 메모 어플리케이션(620)을 일렬로 배치하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 이때, 제어부(270)는 카메라 어플리케이션, 녹음 어플리케이션, 메모 어플리케이션은 스마트 TV(610)와 관련이 높은 순서, 사용 빈도수가 높은 순서, 최근 실행한 어플리케이션, 설치된 순서 등으로 정렬하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다.6, when a plurality of UI elements 620 related to the first external device 610 exist, the controller 270 controls the first external device 610 and the first external device 610, It is possible to control the display unit 210 to arrange and display a plurality of UI elements 620 in a line in an area corresponding to the position of the UI element 620. [ Specifically, when the first external device 610 is located on the upper side of the display device 100 and the UI element 620 associated with the first external device 610 is three, the controller 270 controls the first external device 610 The display unit 210 may be controlled to display and display three UI elements 620 related to the first external device 610 in a line on the upper region of the display screen corresponding to the positions of the first UI elements 610 and 610. For example, when a smart TV 610 is located on the upper side of the display device 100 and a camera application, a recording application, and a memo application related to the smart TV 610 exist, the control unit 270 controls the smart TV 610, A recording application, and a memo application 620, which are related to the smart TV 610, in an upper area of the display screen corresponding to the position of the smart TV 610. [ At this time, the controller 270 displays the camera application, the recording application, and the memo application on the display unit 210 to sort and display the camera application, the recording application, and the memo application in order of relevance to the smart TV 610, Can be controlled.

그리고, 도 6에 의하면 디스플레이 화면에 UI 엘리먼트를 3 by 5 행렬로 디스플레이하는 것으로 도시하였지만, 이는 일 실시 예에 불과할 뿐, 제어부(270)는 다양한 방법(예를 들어, 5 by 7 행렬로 디스플레이, 행렬 없이 무작위로 디스플레이 등)으로 디스플레이하도록 디스플레이부(210)를 제어할 수 있다.6, the UI element is displayed in a 3 by 5 matrix on the display screen. However, this is merely an example, and the controller 270 may perform various methods (for example, a 5 by 7 matrix display, A random display without a matrix, etc.).

본 발명의 일 실시 예에 따르면, 도 7에 도시된 바와 같이, 제어부(270)는 복수의 외부 기기(710,720,730) 각각에 관련된 복수의 UI 엘리먼트(750,760,770)를 상이하게 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 예를 들어, 제1 외부 기기(710)에 관련된 UI 엘리먼트(750)가 세 개 존재하고, 제2 외부 기기(720)에 관련된 UI 엘리먼트(760)가 두 개 존재하고, 제3 외부 기기(730)에 관련된 UI 엘리먼트(770)가 한 개 존재하는 경우, 제어부(270)는 제1 외부 기기(710)에 관련된 UI 엘리먼트(750)를 빨간색 점선을 테두리로 하여 디스플레이하고, 제2 외부 기기(720)에 관련된 UI 엘리먼트(760)를 파란색 점선을 테두리로 하여 디스플레이하고, 제3 외부 기기(730)에 관련된 UI 엘리먼트(770)를 초록색 점선을 테두리로 하여 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 즉, 상이한 외부 기기에 관련된 UI 엘리먼트 그룹 사이의 명확한 구분이 가능하도록 할 수 있다.7, the control unit 270 may include a display unit 210 for displaying a plurality of UI elements 750, 760 and 770 associated with a plurality of external devices 710, 720 and 730, respectively, Can be controlled. For example, there are three UI elements 750 associated with the first external device 710, two UI elements 760 associated with the second external device 720, and the third external device 730 The control unit 270 displays the UI element 750 related to the first external device 710 as a frame with a red dotted line and displays the UI element 750 related to the second external device 720 The UI element 760 related to the third external device 730 may be displayed as a frame with a blue dotted line and the display unit 210 may be controlled to display the UI element 770 related to the third external device 730 as a frame with a green dotted line. have. That is, a clear distinction can be made between UI element groups related to different external devices.

본 발명의 또 다른 실시 예에 따르면, UI 엘리먼트 재배치 버튼(780)을 통해 UI 엘리먼트 재배치 명령이 입력되면, 제어부(270)는 재배치 명령이 입력된 때를 기준으로 디스플레이 장치(100)와 적어도 하나의 외부 기기의 상대적 위치를 판단할 수 있다. UI 엘리먼트 재배치 버튼을 통해 UI 엘리먼트 재배치 명령이 입력되는 것은 일 실시 예에 불과할 뿐, 제어부(270)는 디스플레이 장치(100)를 흔드는 경우, 어플리케이션을 실행하는 경우, 기 설정된 주기에 도달하는 경우 등 다양한 경우 UI 엘리먼트 재배치 명령이 입력된 것으로 판단할 수 있다.According to another embodiment of the present invention, when a UI element rearrangement command is inputted through the UI element rearrangement button 780, the control unit 270 displays the rearrangement order of the display device 100 and at least one The relative position of the external device can be determined. It is only one embodiment that the UI element rearrangement command is inputted through the UI element rearrangement button. The control unit 270 may display the UI element rearrangement command in a variety of ways such as shaking the display device 100, It can be determined that the UI element rearrangement command is input.

또한, 제어부(270)는 디스플레이 장치(100)와 기 설정된 거리 내에 위치하는 외부 기기(710,720,730)만의 위치를 판단할 수 있다. 예를 들어, 기 설정된 거리가 10M 이고, 디스플레이 장치(100)와 제4 외부 기기(740)사이의 거리가 15M인 경우, 제어부(270)는 제4 외부 기기(740)의 위치를 판단하지 않고, 제1 내지 제3 외부 기기(710,720,730)만의 위치를 판단할 수 있다. Also, the controller 270 can determine the position of only the external devices 710, 720, and 730 located within a predetermined distance from the display device 100. For example, if the predetermined distance is 10M and the distance between the display device 100 and the fourth external device 740 is 15M, the controller 270 does not determine the position of the fourth external device 740 , And the position of only the first to third external devices 710, 720 and 730 can be determined.

본 발명의 또 다른 실시 예로, 외부기기에 관련된 UI 엘리먼트가 존재하지 않는 경우, 제어부(210)는 외부기기와 관련된 추천 UI 엘리먼트 설치를 안내하는 안내 문구를 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 예를 들어, 디스플레이 장치(100)의 근접한 거리에 에어컨이 위치하고, 디스플레이 장치(100)에 에어컨과 관련된 어플리케이션이 설치되어 있지 않은 경우, 제어부(270)는 '에어컨에 관련된 추천 어플리케이션 리스트를 받아 보시겠습니까?'라는 안내 문구를 디스플레이하도록 디스플레이부(210)를 제어할 수 있다. 그리고, 제어부(270)는 추천 어플리케이션 리스트를 선택하는 사용자 명령을 수신하여 선택된 어플리케이션을 설치할 수 있다.In another embodiment of the present invention, when there is no UI element related to an external device, the control unit 210 may control the display unit 210 to display a message for guiding installation of a recommended UI element related to an external device have. For example, if the air conditioner is located at a short distance from the display device 100 and an application related to the air conditioner is not installed in the display device 100, the control unit 270 may receive a list of recommended applications related to the air conditioner ? &Quot;. < / RTI > The control unit 270 can receive the user command for selecting the recommended application list and install the selected application.

이하에서는 도 8을 참조하여 본 발명의 일 실시 예에 따른, 디스플레이 장치(100)의 UI 제공 방법에 대하여 설명하기로 한다.Hereinafter, a UI providing method of the display apparatus 100 according to an embodiment of the present invention will be described with reference to FIG.

우선, 디스플레이 나의 외부 장치(100)는 적어도 하나의 외부 기기와 관련된 적어도 하나의 UI 엘리먼트를 포함하는 UI를 디스플레이한다(S810). 이때, 외부 기기에 대응하는 UI 엘리먼트는, 외부 기기와 관련된 어플리케이션 아이콘일 수 있다.First, the display external device 100 displays a UI including at least one UI element associated with at least one external device (S810). At this time, the UI element corresponding to the external device may be an application icon related to the external device.

그리고, UI 엘리먼트 재배치 명령이 입력되면, 디스플레이 장치(100)는 디스플레이 장치(100)에 대한 적어도 하기기의 위치를 판단한다(S820). 구체적으로, 디스플레이 장치(100)는 적어도 하나의 외부 기기의 디스플레이 장치(100)에 대한 상대적인 방향 및 거리를 판단할 수 있다.When the UI element rearrangement command is input, the display apparatus 100 determines at least the position of the next device with respect to the display device 100 (S820). Specifically, the display device 100 can determine the relative direction and distance of the at least one external device with respect to the display device 100.

그리고, 디스플레이 장치(100)는 적어도 하나의 판단된 외부 기기의 위치를 바탕으로 적어도 하나의 외부 기기와 관련된 적어도 하나의 UI 엘리먼트를 재배치한 UI를 디스플레이한다(S830). 구체적으로, 디스플레이 장치(100)는 디스플레이 장치(100)에 대한 외부 기기의 상대적 위치가 나타나도록 외부 기기가 위치하는 방향으로 외부 기기와 관련된 UI 엘리먼트를 배치하여 디스플레이할 수 있다.Then, the display device 100 displays a UI that relocates at least one UI element related to at least one external device based on at least one determined location of the external device (S830). Specifically, the display device 100 may display UI elements related to the external device in a direction in which the external device is positioned so that the relative position of the external device with respect to the display device 100 is displayed.

상술한 바와 같은 본 발명의 다양한 실시 예에 의해, 사용자는 직관적으로 최소한의 UI 엘리먼트 검색을 통해 외부 기기와 관련된 UI 엘리먼트를 검색할 수 있다.According to various embodiments of the present invention as described above, a user can intuitively search UI elements related to an external device through minimum UI element search.

본 실시 예와 관련된 기술 분야에서 통상의 지식을 가진 자는 상기된 기재의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시 방법들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.It will be understood by those skilled in the art that various changes in form and details may be made therein without departing from the spirit and scope of the invention as defined by the appended claims. Therefore, disclosure methods should be considered from an illustrative point of view, not from a restrictive point of view. The scope of the present invention is defined by the appended claims rather than by the foregoing description, and all differences within the scope of equivalents thereof should be construed as being included in the present invention.

100: 디스플레이 장치
110, 210: 디스플레이부
120, 270: 제어부
220: 오디오 출력부
230: 통신부
240: 저장부
250: 감지부
260: 입력부
100: display device
110 and 210:
120, and 270:
220: Audio output section
230:
240:
250:
260: Input unit

Claims (16)

디스플레이 장치의 UI 제공 방법에 있어서,
적어도 하나의 외부 기기와 관련된 적어도 하나의 UI 엘리먼트를 포함하는 UI를 디스플레이하는 제1 디스플레이 단계;
UI 엘리먼트 재배치 명령이 입력되면, 상기 디스플레이 장치에 대한 상기 적어도 하나의 외부 기기의 위치를 판단하는 단계;
상기 판단된 위치를 바탕으로 상기 적어도 하나의 외부 기기와 관련된 상기 적어도 하나의 UI 엘리먼트를 재배치하여 디스플레이하는 제2 디스플레이 단계;를 포함하는 UI 제공 방법.
A method of providing a UI of a display device,
A first display step of displaying a UI including at least one UI element associated with at least one external device;
Determining a position of the at least one external device with respect to the display device when a UI element rearrangement command is input;
And a second display step of rearranging and displaying the at least one UI element related to the at least one external device based on the determined position.
제1항에 있어서,
상기 제2 디스플레이 단계는,
제1 외부 기기와 상기 제1 외부 기기에 대응하는 제1 UI 엘리먼트의 거리가 최단 거리가 되도록 상기 제1 UI 엘리먼트를 배치하는 것을 특징으로 하는 UI 제공 방법.
The method according to claim 1,
Wherein the second display step comprises:
Wherein the first UI element is disposed such that a distance between a first external device and a first UI element corresponding to the first external device is the shortest distance.
제1항에 있어서,
상기 적어도 하나의 외부 기기에 대응하는 상기 적어도 하나의 UI 엘리먼트는,
상기 적어도 하나의 외부 기기와 관련된 어플리케이션 아이콘인 것을 특징으로 하는 UI 제공 방법.
The method according to claim 1,
Wherein the at least one UI element corresponding to the at least one external device comprises:
And an application icon associated with the at least one external device.
제1항에 있어서,
상기 판단하는 단계는,
동일한 방향에 복수의 외부 기기가 위치하는 경우, 상기 디스플레이 장치와 상기 복수의 외부 기기 각각의 거리를 획득하는 단계; 및
상기 복수의 외부 기기 중 상기 디스플레이 장치와 가장 근접한 하나의 외부 기기의 위치만을 판단하는 단계;를 포함하는 것을 특징으로 하는 UI 제공 방법.
The method according to claim 1,
Wherein the determining step comprises:
Obtaining a distance between the display device and each of the plurality of external devices when a plurality of external devices are located in the same direction; And
And determining only the position of one external device closest to the display device among the plurality of external devices.
제1항에 있어서,
상기 판단하는 단계는,
상기 UI 엘리먼트 재배치 명령이 입력된 때의 상기 디스플레이 장치의 위치를 기준으로 상기 적어도 하나의 외부 기기의 위치를 판단하는 것을 특징으로 하는 UI 제공 방법.
The method according to claim 1,
Wherein the determining step comprises:
Wherein the position of the at least one external device is determined based on a position of the display device when the UI element rearrangement command is input.
제1항에 있어서,
상기 제2 디스플레이 단계는,
동일한 방향에 복수의 외부 기기가 위치하는 경우, 상기 디스플레이 장치와 거리가 먼 외부 기기에 관련된 UI 엘리먼트일수록 디스플레이 화면의 가장자리에 배치하여 디스플레이하는 것을 특징으로 하는 UI 제공 방법.
The method according to claim 1,
Wherein the second display step comprises:
Wherein when a plurality of external devices are located in the same direction, a UI element related to an external device that is distant from the display device is disposed at an edge of the display screen for display.
제1항에 있어서,
상기 제2 디스플레이 단계는,
하나의 UI 엘리먼트가 복수의 외부 기기에 관련되는 경우, 상기 복수의 외부 기기의 평균 방향에 상기 하나의 UI 엘리먼트를 배치하여 디스플레이하는 것을 특징으로 하는 UI 제공 방법.
The method according to claim 1,
Wherein the second display step comprises:
Wherein when one UI element is related to a plurality of external devices, the one UI element is arranged and displayed in an average direction of the plurality of external devices.
제1항에 있어서,
상기 제2 디스플레이 단계는,
복수의 UI 엘리먼트가 하나의 외부 기기에 관련되는 경우, 상기 외부 기기가 위치하는 방향의 측면에 상기 복수의 UI 엘리먼트를 일렬로 배치하여 디스플레이하는 것을 특징으로 하는 UI 제공 방법.
The method according to claim 1,
Wherein the second display step comprises:
Wherein when a plurality of UI elements are related to one external device, the plurality of UI elements are arranged in a line on a side of a direction in which the external device is located, and displayed.
디스플레이 장치에 있어서,
적어도 하나의 외부 기기와 관련된 적어도 하나의 UI 엘리먼트를 포함하는 UI를 디스플레이하는 디스플레이부; 및
UI 엘리먼트 재배치 명령이 입력되면, 상기 디스플레이 장치에 대한 상기 적어도 하나의 외부 기기의 위치를 판단하고, 상기 판단된 위치를 바탕으로 상기 적어도 하나의 외부 기기와 관련된 상기 적어도 하나의 UI 엘리먼트를 재배치하여 디스플레이하도록 상기 디스플레이부를 제어하는 제어부;를 포함하는 디스플레이 장치.
In the display device,
A display unit for displaying a UI including at least one UI element associated with at least one external device; And
A UI element rearrangement command is input to determine the position of the at least one external device with respect to the display device and relocate the at least one UI element associated with the at least one external device based on the determined position, And a control unit for controlling the display unit.
제9항에 있어서,
상기 제어부는,
제1 외부 기기와 상기 제1 외부 기기에 대응하는 제1 UI 엘리먼트의 거리가 최단 거리가 되도록 상기 제1 UI 엘리먼트를 배치하여 디스플레이하도록 상기 디스플레이부를 제어하는 것을 특징으로 하는 디스플레이 장치.
10. The method of claim 9,
Wherein,
And controls the display unit to display and display the first UI element so that a distance between the first external device and the first UI element corresponding to the first external device is the shortest distance.
제9항에 있어서,
상기 적어도 하나의 외부 기기에 대응하는 상기 적어도 하나의 UI 엘리먼트는,
상기 적어도 하나의 외부 기기와 관련된 위한 어플리케이션 아이콘인 것을 특징으로 하는 디스플레이 장치.
10. The method of claim 9,
Wherein the at least one UI element corresponding to the at least one external device comprises:
And an application icon associated with the at least one external device.
제9항에 있어서,
상기 제어부는,
동일한 방향에 복수의 외부 기기가 위치하는 경우, 상기 디스플레이 장치와 상기 복수의 외부 기기 각각의 거리를 획득하고,
상기 복수의 외부 기기 중 상기 디스플레이 장치와 가장 근접한 하나의 외부 기기의 위치만을 판단하는 것을 특징으로 하는 디스플레이 장치.
10. The method of claim 9,
Wherein,
Acquiring distances between the display device and each of the plurality of external devices when a plurality of external devices are located in the same direction,
Wherein the controller determines only the position of one external device closest to the display device among the plurality of external devices.
제9항에 있어서,
상기 제어부는,
상기 UI 엘리먼트 재배치 명령이 입력된 때의 상기 디스플레이 장치의 위치를 기준으로 상기 적어도 하나의 외부 기기의 위치를 판단하는 것을 특징으로 하는 디스플레이 장치.
10. The method of claim 9,
Wherein,
Wherein the controller determines the position of the at least one external device based on a position of the display device when the UI element rearrangement command is input.
제9항에 있어서,
상기 제어부는,
동일한 방향에 복수의 외부 기기가 위치하는 경우, 상기 디스플레이 장치와 거리가 먼 외부 기기에 관련된 UI 엘리먼트일수록 디스플레이 화면의 가장자리에 배치하여 디스플레이하도록 상기 디스플레이부를 제어하는 것을 특징으로 하는 디스플레이 장치.
10. The method of claim 9,
Wherein,
Wherein the control unit controls the display unit to display the plurality of UI elements related to the external device, which are distant from the display device, on the edge of the display screen when a plurality of external devices are located in the same direction.
제9항에 있어서,
상기 제어부는,
하나의 UI 엘리먼트가 복수의 외부 기기에 관련되는 경우, 상기 복수의 외부 기기의 평균 방향에 상기 하나의 UI 엘리먼트를 배치하여 디스플레이하도록 상기 디스플레이부를 제어하는 것을 특징으로 하는 디스플레이 장치.
10. The method of claim 9,
Wherein,
And controls the display unit to display and display the one UI element in an average direction of the plurality of external devices when one UI element is related to a plurality of external devices.
제9항에 있어서,
상기 제어부는,
복수의 UI 엘리먼트가 하나의 외부 기기에 관련되는 경우, 상기 외부 기기가 위치하는 방향의 측면에 상기 복수의 UI 엘리먼트를 일렬로 배치하여 디스플레이하도록 상기 디스플레이부를 제어하는 것을 특징으로 하는 디스플레이 장치.
10. The method of claim 9,
Wherein,
Wherein the control unit controls the display unit to arrange and display the plurality of UI elements on a side of a direction in which the external device is located when a plurality of UI elements are related to one external device.
KR1020150116593A 2015-08-19 2015-08-19 Method of providing a user interfave and display apparatus according to thereof Active KR102464911B1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020150116593A KR102464911B1 (en) 2015-08-19 2015-08-19 Method of providing a user interfave and display apparatus according to thereof
PCT/KR2016/007213 WO2017030285A1 (en) 2015-08-19 2016-07-05 Ui providing method and display device applying same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150116593A KR102464911B1 (en) 2015-08-19 2015-08-19 Method of providing a user interfave and display apparatus according to thereof

Publications (2)

Publication Number Publication Date
KR20170022074A true KR20170022074A (en) 2017-03-02
KR102464911B1 KR102464911B1 (en) 2022-11-08

Family

ID=58051077

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150116593A Active KR102464911B1 (en) 2015-08-19 2015-08-19 Method of providing a user interfave and display apparatus according to thereof

Country Status (2)

Country Link
KR (1) KR102464911B1 (en)
WO (1) WO2017030285A1 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018221949A1 (en) * 2017-06-01 2018-12-06 주식회사 빛컨 Adaptive internet-of-things service system using detachable/attachable hardware module
WO2019117451A1 (en) * 2017-12-12 2019-06-20 삼성전자(주) Display device, control method therefor, and recording medium
WO2024101606A1 (en) * 2022-11-09 2024-05-16 삼성전자주식회사 Electronic device and control method therefor

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100083054A (en) * 2009-01-12 2010-07-21 엘지전자 주식회사 Mobile terminal and method for controlling the same
KR20110125724A (en) * 2010-05-14 2011-11-22 엘지전자 주식회사 Electronic device and content sharing method of electronic device
KR20130048533A (en) * 2011-11-02 2013-05-10 엘지전자 주식회사 Method for operating a remote controller
KR20150022303A (en) * 2013-08-22 2015-03-04 에스케이플래닛 주식회사 User apparatus and method for displaying icon based on location, service apparatus and method for displaying icon based on location and computer readable medidum having computer program recorded therefor

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140087731A (en) * 2012-12-31 2014-07-09 엘지전자 주식회사 Portable device and method of controlling user interface
US20140201655A1 (en) * 2013-01-16 2014-07-17 Lookout, Inc. Method and system for managing and displaying activity icons on a mobile device
KR102069748B1 (en) * 2013-02-13 2020-01-23 삼성전자주식회사 Mobile apparatus, display apparatus, method for ui display thereof and computer-readable recording medium

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100083054A (en) * 2009-01-12 2010-07-21 엘지전자 주식회사 Mobile terminal and method for controlling the same
KR20110125724A (en) * 2010-05-14 2011-11-22 엘지전자 주식회사 Electronic device and content sharing method of electronic device
KR20130048533A (en) * 2011-11-02 2013-05-10 엘지전자 주식회사 Method for operating a remote controller
KR20150022303A (en) * 2013-08-22 2015-03-04 에스케이플래닛 주식회사 User apparatus and method for displaying icon based on location, service apparatus and method for displaying icon based on location and computer readable medidum having computer program recorded therefor

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018221949A1 (en) * 2017-06-01 2018-12-06 주식회사 빛컨 Adaptive internet-of-things service system using detachable/attachable hardware module
US10715602B2 (en) 2017-06-01 2020-07-14 Vitcon Co., Ltd. Adaptive internet-of-things service system using detachable/attachable hardware module
WO2019117451A1 (en) * 2017-12-12 2019-06-20 삼성전자(주) Display device, control method therefor, and recording medium
US11503364B2 (en) 2017-12-12 2022-11-15 Samsung Electronics Co., Ltd. Display apparatus, control method thereof, and recording medium
US11825153B2 (en) 2017-12-12 2023-11-21 Samsung Electronics Co., Ltd. Display apparatus, control method thereof, and recording medium
WO2024101606A1 (en) * 2022-11-09 2024-05-16 삼성전자주식회사 Electronic device and control method therefor

Also Published As

Publication number Publication date
WO2017030285A1 (en) 2017-02-23
KR102464911B1 (en) 2022-11-08

Similar Documents

Publication Publication Date Title
CN114449091B (en) Display method and device
US10708534B2 (en) Terminal executing mirror application of a peripheral device
US8468469B1 (en) Zooming user interface interactions
US10043488B2 (en) Electronic device and method of controlling display thereof
KR102037465B1 (en) User terminal device and method for displaying thereof
KR20160148260A (en) Electronic device and Method for controlling the electronic device thereof
EP2743814A2 (en) Display apparatus and method of providing user interface thereof
KR20140144104A (en) Electronic apparatus and Method for providing service thereof
KR20140100306A (en) Portable device and Method for controlling external device thereof
KR102368044B1 (en) User terminal device and method for controlling the user terminal device thereof
EP2947567A1 (en) User interface text appearance customization
CN107766548B (en) Information display method, device, mobile terminal and readable storage medium
US20210067476A1 (en) Intelligent chat object sending animations
KR20140102381A (en) Electronic device and Method for recommandation contents thereof
US10108388B2 (en) Display apparatus and controlling method thereof
CN116391170A (en) Electronic device, display device and control method thereof
KR20150026991A (en) Electronic apparatus with presentation mechanism and method of operation thereof
KR20140072737A (en) Display apparatus and Method for providing user menu thereof
KR102464911B1 (en) Method of providing a user interfave and display apparatus according to thereof
US20140129979A1 (en) Display device and list display method thereof
WO2015014138A1 (en) Method, device, and equipment for displaying display frame
US9459707B2 (en) Display apparatus and method of controlling the same
US10924807B2 (en) Display device and control method therefor
US10791505B2 (en) Server providing list of wireless hot-spots for mobile terminal and control method therefor
KR102920809B1 (en) Electronic appratus, display appratus and controlling method thereof

Legal Events

Date Code Title Description
PA0109 Patent application

Patent event code: PA01091R01D

Comment text: Patent Application

Patent event date: 20150819

PG1501 Laying open of application
A201 Request for examination
PA0201 Request for examination

Patent event code: PA02012R01D

Patent event date: 20200716

Comment text: Request for Examination of Application

Patent event code: PA02011R01I

Patent event date: 20150819

Comment text: Patent Application

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20211129

Patent event code: PE09021S01D

AMND Amendment
E601 Decision to refuse application
PE0601 Decision on rejection of patent

Patent event date: 20220517

Comment text: Decision to Refuse Application

Patent event code: PE06012S01D

Patent event date: 20211129

Comment text: Notification of reason for refusal

Patent event code: PE06011S01I

X091 Application refused [patent]
AMND Amendment
PX0901 Re-examination

Patent event code: PX09011S01I

Patent event date: 20220517

Comment text: Decision to Refuse Application

Patent event code: PX09012R01I

Patent event date: 20220203

Comment text: Amendment to Specification, etc.

PX0701 Decision of registration after re-examination

Patent event date: 20220815

Comment text: Decision to Grant Registration

Patent event code: PX07013S01D

Patent event date: 20220802

Comment text: Amendment to Specification, etc.

Patent event code: PX07012R01I

Patent event date: 20220517

Comment text: Decision to Refuse Application

Patent event code: PX07011S01I

Patent event date: 20220203

Comment text: Amendment to Specification, etc.

Patent event code: PX07012R01I

X701 Decision to grant (after re-examination)
GRNT Written decision to grant
PR0701 Registration of establishment

Comment text: Registration of Establishment

Patent event date: 20221103

Patent event code: PR07011E01D

PR1002 Payment of registration fee

Payment date: 20221104

End annual number: 3

Start annual number: 1

PG1601 Publication of registration