[go: up one dir, main page]

KR20150100332A - Sketch retrieval system, user equipment, service equipment, service method and computer readable medium having computer program recorded therefor - Google Patents

Sketch retrieval system, user equipment, service equipment, service method and computer readable medium having computer program recorded therefor Download PDF

Info

Publication number
KR20150100332A
KR20150100332A KR1020140022019A KR20140022019A KR20150100332A KR 20150100332 A KR20150100332 A KR 20150100332A KR 1020140022019 A KR1020140022019 A KR 1020140022019A KR 20140022019 A KR20140022019 A KR 20140022019A KR 20150100332 A KR20150100332 A KR 20150100332A
Authority
KR
South Korea
Prior art keywords
sketch
area
search
image
candidate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
KR1020140022019A
Other languages
Korean (ko)
Other versions
KR102213861B1 (en
Inventor
전혁준
신형철
전병기
Original Assignee
에스케이플래닛 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스케이플래닛 주식회사 filed Critical 에스케이플래닛 주식회사
Priority to KR1020140022019A priority Critical patent/KR102213861B1/en
Publication of KR20150100332A publication Critical patent/KR20150100332A/en
Application granted granted Critical
Publication of KR102213861B1 publication Critical patent/KR102213861B1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명은 사용자의 스케치 입력에 따른 검색 결과들을 후보 밑그림으로 스케치 영역에 제공하여 이를 따라 그릴 수 있도록 유도함과 아울러 검색결과 출력영역에 별도로 제공되는 개별 검색 결과 영상도 밑그림으로 활용하여 원하는 스케치를 진행할 수 있도록 한 스케치 검색 시스템, 사용자 장치, 서비스 제공 장치, 그 서비스 방법 및 컴퓨터 프로그램이 기록된 기록매체에 관한 것으로, 중첩된 후보 밑그림 상에 스케치를 실시하도록 구성된 스케치 영역뿐만 아니라 검색 결과에 따라 후보 밑그림 영상이 개별적으로 나열되는 검색결과 출력영역에서 선택된 개별 후보 밑그림 영상에도 직접 스케치를 실시하여 중첩된 후보 밑그림으로 구별하기 어려운 특정 후보 밑그림 영상의 일부에 대한 스케치도 명확하게 실시할 수 있도록 함으로써, 다수의 밑그림 영상이 중첩된 상태에서 원하는 대상이 명확하게 식별되지 않더라도 정확한 대상을 선택하여 스케치를 진행할 수 있는 효과가 있다.The present invention provides a search result according to a user's sketch input as a candidate sketch in a sketch area, thereby guiding the sketch to draw the search result, and can also sketch a desired sketch using a separate search result image separately provided in a search result output area The present invention relates to a sketch search system, a user apparatus, a service providing apparatus, a service method thereof, and a recording medium on which a computer program is recorded. In addition to a sketch area configured to perform a sketch on an overlapped candidate sketch, By directly sketching the individual candidate sketch images selected in the search result output areas individually listed, it is possible to clearly sketch a part of a specific candidate sketch image which is difficult to distinguish from the overlapping candidate sketches, Even from the rim image is superimposed state is not clearly identify the desired destination has to select the correct target effects can proceed with the sketch.

Description

스케치 검색 시스템, 사용자 장치, 서비스 제공 장치, 그 서비스 방법 및 컴퓨터 프로그램이 기록된 기록매체{Sketch retrieval system, user equipment, service equipment, service method and computer readable medium having computer program recorded therefor}BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a sketch retrieval system, a user apparatus, a service providing apparatus, a service method thereof, and a recording medium on which a computer program is recorded.

본 발명은 스케치 검색 시스템, 사용자 장치, 서비스 제공 장치, 그 서비스 방법 및 컴퓨터 프로그램이 기록된 기록매체에 관한 것으로, 특히 사용자의 스케치 입력에 따른 검색 결과들을 후보 밑그림으로 스케치 영역에 제공하여 이를 따라 그릴 수 있도록 유도함과 아울러 검색결과 출력영역에 별도로 제공되는 개별 검색 결과 영상도 밑그림으로 활용하여 원하는 스케치를 진행할 수 있도록 한 스케치 검색 시스템, 사용자 장치, 서비스 제공 장치, 그 서비스 방법 및 컴퓨터 프로그램이 기록된 기록매체이다.The present invention relates to a sketch search system, a user apparatus, a service providing apparatus, a service method thereof, and a recording medium on which a computer program is recorded. More particularly, the present invention relates to a sketch search system, A user apparatus, a service providing apparatus, a service method thereof, and a recording medium in which a computer program is recorded, wherein the sketch search system, the user apparatus, and the service providing apparatus are provided. Media.

최근 컴퓨터와 통신 기술의 발달과 더불어 멀티미디어 정보 서비스에 대한 요구가 증가하고 있으며, 인터넷상의 정지 화상 및 동영상 검색, 방송 제작에 사용될 VOD(Video On Demand) 서비스, 전자 도서관, 의료 분야(예를 들어, 원격 진료, 의료 영상 검색) 등 응용될 수 있는 멀티미디어 검색 기술에 대한 연구의 필요성이 증가하고 있다.In recent years, demand for multimedia information services has increased along with the development of computers and communication technologies. VOD (Video On Demand) service, digital library, medical field (for example, Telemedicine, medical image retrieval), and so on.

연구 초기에는 검색의 대상이 되는 모든 멀티미디어 데이터에 사람이 직접 색인을 첨가하고, 사용자 또한 주제어를 이용하여 원하는 정보를 검색하는 텍스트 기반 검색이 사용되어 왔다.At the beginning of the research, a text-based search has been used in which a person manually adds an index to all multimedia data to be searched, and a user searches for desired information using a keyword.

그러나 이 방법은 시간 및 내용이 많이 소요되고, 색인을 첨가하는 사람과 검색하는 사용자의 관점이 불일치하는 경우 검색의 효율성이 크게 떨어지는 문제점이 있다. 또한, 멀티미디어 데이터가 가지는 복잡한 속성을 텍스트만으로는 정확하게 표현할 수 없다는 단점이 있다. 이를 보완하기 위하여 멀티미디어 데이터의 내용을 대표할 수 있는 특징을 추출하여 이를 기반으로 색인과 검출을 수행하는 내용 기반 검색 방법이 필요하게 되었다.However, this method takes a lot of time and content, and there is a problem that efficiency of retrieval is greatly deteriorated when a viewpoint of a person who adds an index is different from a viewpoint of a searching user. In addition, there is a disadvantage that complex attributes of multimedia data can not be expressed accurately by text alone. In order to overcome this problem, a content - based retrieval method is needed to extract features that can represent the contents of multimedia data and to perform indexing and detection based on the features.

이런 내용 기반 검색 방법 중 하나인 영상 검색 방식은 사용자가 터치패드를 터치하면서 그리는 그림을 인식하고 인식된 결과를 이용하여 검색이 이루어지도록 하는 것이나, 스케치 품질이 열악한 경우 검색 결과 정확도가 낮아진다. 이를 해소하기 위해 스케치 상황에 대응되는 밑그림이 스케치 작업을 가이드하기 위해 제공되는 경우가 있으나 밑그림으로 복수의 후보 밑그림이 중첩되어 제공되므로 따라 그릴 대상을 명확하게 구분하지 못하여 잘못된 가이드에 의해 원하지 않는 스케치가 이루어지는 상황이 발생하고 있다. One of these contents-based search methods is to recognize a picture drawn while the user touches the touch pad and to perform a search using the recognized result. However, when the sketch quality is poor, the accuracy of the search result is lowered. In order to solve this problem, a sketch corresponding to a sketch situation is sometimes provided to guide the sketch operation. However, since a plurality of candidate sketches are provided in a superimposed manner, the sketch can not be clearly distinguished, A situation occurs.

한국등록특허 제1005407480000호 [명칭: 내용 기반 검색을 위한 개선된 질의 방법 및 그 방법을 구현하기 위한 프로그램을 저장한 기록매체]Korean Patent No. 1005407480000 [Title: Improved Query Method for Content-Based Retrieval and Recording Medium Saving Program for Implementing the Method]

이와 같은 사용자의 불편함을 최소화하기 위해 본 발명은 중첩된 후보 밑그림 상에 스케치를 실시하도록 구성된 스케치 영역뿐만 아니라 검색 결과에 따라 후보 밑그림 영상이 개별적으로 나열되는 검색결과 출력영역에서 선택된 개별 후보 밑그림 영상에도 직접 스케치를 실시할 수 있도록 하여 중첩된 후보 밑그림으로 구별하기 어려운 특정 후보 밑그림 영상의 일부에 대한 스케치까지도 명확하게 실시할 수 있도록 하는 것을 목적으로 한다.In order to minimize the inconvenience of the user, the present invention is characterized in that not only a sketch area configured to perform a sketch on a superimposed candidate sketch, but also individual candidate sketch images selected in a search result output area in which candidate sketch images are individually listed according to search results So that it is possible to clearly sketch a part of a specific candidate sketch image that is difficult to distinguish from the overlapping candidate sketch.

또한, 본 발명은 스케치를 하는 도중 검색결과 출력영역에 노출되어 있는 후보 밑그림 영상 중 원하는 후보 밑그림 영상을 선택하여 스케치 영역 상의 밑그림 영상으로 적용시켜 스케치 작업을 수행할 수 있도록 하는 것을 목적으로 한다.It is another object of the present invention to select a desired candidate sketch image of a candidate sketch image exposed in a search result output area during a sketch and to apply the selected candidate sketch image as a sketch image on the sketch area to perform a sketch operation.

본 발명의 실시예에 따른 스케치 검색 사용자 장치는 스케치 입력에 대한 가이드를 제공할 중첩된 밑그림이 표시되는 스케치 영역과 스케치 검색결과가 나열되는 검색결과 출력영역을 구비하는 스케치 검색 인터페이스부, 스케치 검색 인터페이스부의 스케치 영역 및 검색결과 출력영역을 통한 사용자 입력을 스트로크 정보로 검출하여 출력하는 스트로크 인식부 및 스트로크 인식부의 스트로크 정보를 스트로크 인식정보로 서비스 제공 장치에 전송하고, 스트로크 인식정보에 따른 유사성을 기준으로 하여 선별된 후보 밑그림과 그에 대응하는 원본 영상을 포함하는 스케치 검색정보를 서비스 제공 장치로부터 수신하여 스케치 검색 인터페이스부의 스케치 영역과 검색결과 출력영역에 표시하는 제어부를 포함할 수 있다.A sketch search user device according to an embodiment of the present invention includes a sketch search interface unit having a sketch area displaying a nested sketch to provide a guide for sketch input and a search result output area listing sketch search results, A stroke recognition unit for detecting user input through a sketch area and a search result output area as a stroke information and outputting stroke information to the service providing apparatus as stroke recognition information based on the similarity according to the stroke recognition information, And a control unit receiving the sketch search information including the selected candidate sketch and the corresponding original image from the service providing apparatus and displaying the sketch search information in the sketch area and the search result output area of the sketch search interface unit.

본 발명과 관련된 일 예로서, 제어부는 검색결과 출력영역으로부터 스케치 작업이 이루어지는 경우 해당 후보 밑그림 영상 상에서 생성된 스케치 라인을 스케치 영역 상의 스케치 라인에 적용시킬 수 있다.As an example related to the present invention, when a sketch operation is performed from the search result output area, the controller may apply the sketch line generated on the candidate sketch image to the sketch line on the sketch area.

본 발명과 관련된 일 예로서, 제어부는 검색결과 출력영역에 노출된 다수의 후보 밑그림 영상에 대해 원하는 후보 밑그림 영상을 선택하면, 선택된 후보 밑그림을 스케치 영역의 중첩시켜 제공할 수 있다.According to an embodiment of the present invention, when a desired candidate sketch image is selected for a plurality of candidate sketch images exposed in a search result output area, the control unit can provide a selected candidate sketch by superimposing the sketch regions.

본 발명의 실시예에 따른 스케치 검색 서비스 제공 장치는 밑그림 영상과 그에 대응되는 원본 영상이 저장된 밑그림 영상 데이터베이스부, 밑그림을 따라 그릴 수 있도록 구성된 스케치 영역과 스케치한 내용에 따른 검색결과를 제공하는 검색결과 출력영역을 구비한 사용자 장치로부터 스케치 영역 및 검색결과 출력영역을 통해 입력된 스트로크에 대한 스트로크 인식정보를 수신하고, 수신된 스트로크 인식정보를 기준으로 유사도에 따라 밑그림 데이터베이스부로부터 후보 밑그림 영상을 선별하는 밑그림 영상 제공부 및 밑그림 영상 제공부에서 선별된 후보 밑그림과 그에 대응되는 원본 영상을 각각 사용자 장치의 스케치 영역과 검색결과 출력영역에 표시할 수 있도록 사용자 장치에 제공하는 스케치 검색정보 제공부를 포함할 수 있다.An apparatus for providing a sketch search service according to an exemplary embodiment of the present invention includes a sketch image database unit storing a sketch image and an original image corresponding thereto, a sketch area configured to draw along a sketch, Receives stroke recognition information on a stroke input from a user device having an output area through a sketch area and a search result output area and selects candidate sketch images from the sketch database part according to the similarity based on the received stroke recognition information A sketch search information providing unit for providing the sketch search information providing unit to the user device so that the candidate sketch selected in the sketch image providing unit and the sketch image providing unit and the corresponding original image can be displayed in the sketch area and the search result output area of the user device, respectively have.

본 발명과 관련된 일 예로서, 스케치 검색 정보 제공부는 스케치 라인과 드래그 라인의 간격을 설정하기 위한 간격설정 메뉴항목을 사용자 장치로 제공하고, 간격설정 메뉴항목에 따라 선택된 간격설정방식에 의해 사용자에 의해 그려지는 드래그 라인과 드래그 라인에 따라 밑그림에 그려지는 스케치 라인의 간격을 설정하고, 설정된 간격 내에서 스트로크 정보가 입력되면 드래그 라인을 따라 밑그림 상에 스케치 라인을 노출시킬 수 있다.As an example related to the present invention, the sketch search information providing unit may provide an interval setting menu item for setting the interval between the sketch line and the drag line to the user device, and may set the interval setting method according to the interval setting method selected by the user According to the drawn drag line and the drag line, the interval of the sketch line drawn in the sketch can be set, and when the stroke information is inputted within the set interval, the sketch line can be exposed on the sketch along the drag line.

본 발명과 관련된 일 예로서, 간격설정 메뉴항목은 더블 터치로 드래그 영역과 드로우 영역을 동시에 클릭하여 스케치 라인과 드래그 라인의 간격을 설정하는 제 1 간격설정 메뉴항목, 드래그 영역과 드로우 영역을 순차적으로 클릭하여 스케치 라인과 드래그 라인의 간격을 설정하는 제 2 간격설정 메뉴항목, 드래그 영역과 드로우 영역이 만나는 양 끝점을 선택하여 에지 길이를 설정하여 스케치 라인과 드래그 라인의 간격을 설정하고, 설정된 간격 사이에 에지를 노출시키는 제 3 간격설정 메뉴항목 및 에지 설정에 따라 드래그 영역과 드로우 영역을 설정하여 스케치 라인과 드래그 라인의 간격을 설정하는 제 4 간격설정 메뉴항목 중 적어도 하나 이상으로 이루어질 수 있다.As an example related to the present invention, the interval setting menu item may include a first interval setting menu item for simultaneously setting a gap between a sketch line and a drag line by clicking a drag area and a draw area with a double touch, a drag area and a draw area sequentially A second interval setting menu item for setting the interval between the sketch line and the drag line by clicking on the edge of the sketch line and the drag line, and setting the edge length by selecting both end points where the drag area and the draw area meet, And a fourth interval setting menu item for setting the interval between the sketch line and the drag line by setting the drag area and the draw area according to the edge setting.

본 발명과 관련된 일 예로서, 제 3 간격설정 메뉴항목 또는 제 4 간격설정 메뉴항목이 선택된 경우 에지를 선택하여 드래그 영역과 드로우 영역의 위치를 변경시킬 수 있도록 한다.As an example related to the present invention, when the third interval setting menu item or the fourth interval setting menu item is selected, the edge can be selected to change the positions of the drag area and the draw area.

본 발명과 관련된 일 예로서, 밑그림 영상 데이터베이스부는 원본 영상에 대응되는 웹페이지 링크 정보를 더 저장하며, 스케치 검색 정보 제공부는 원본 영상에 대응되는 웹페이지 링크 정보도 사용자 장치에 제공할 수 있다.As an example related to the present invention, the sketch image database unit further stores web page link information corresponding to an original image, and the sketch search information providing unit may provide web page link information corresponding to an original image to a user apparatus.

본 발명의 실시예에 따른 스케치 검색 서비스 방법은 서비스 제공 장치가 사용자 장치로부터 스케치 검색 실행 요청신호를 수신하는 단계, 서비스 제공 장치가 스케치 검색 실행 요청신호에 응하여 스케치 영역 및 검색결과 출력영역으로 이루어진 스케치 검색 인터페이스를 사용자 장치로 제공하는 단계, 서비스 제공 장치가, 사용자 장치로부터 스케치 영역과 검색결과 출력영역 모두에 대한 스트로크 인식 정보를 수신하는 단계 및 서비스 제공 장치가 스트로크 인식 정보를 필터링 조건으로 하여 밑그림 영상들을 선별한 후 사용자 장치로 전송하는 단계를 포함할 수 있다.A sketch search service method according to an exemplary embodiment of the present invention includes a step in which a service providing apparatus receives a sketch search execution request signal from a user apparatus and a sketch search execution request signal in response to a sketch search execution request signal, The method comprising the steps of: providing a search interface to a user device, the service providing device including: receiving stroke recognition information for both a sketch area and a search result output area from a user device; And transmitting the selected data to the user device.

본 발명의 실시예에 따른 스케치 검색 서비스 방법은 서비스 제공 장치가 스케치 검색 인터페이스 중 검색결과 출력영역을 터치한 신호를 수신하는 단계, 서비스 제공 장치가, 검색결과 출력영역을 터치한 신호가 수신되는 경우 후보 밑그림 영상 상에서 이루어진 스케치 라인을 인식하는 단계 및 서비스 제공 장치가 인식된 스케치 라인을 스케치 영역 상의 스케치 라인에 적용시켜 스케치 작업이 진행되도록 하는 단계를 포함할 수 있다.A sketch search service method according to an exemplary embodiment of the present invention includes receiving a signal that a service providing apparatus touched a search result output area of a sketch search interface, when a service touched a search result output area Recognizing a sketch line formed on the candidate sketch image, and allowing the service providing apparatus to apply the recognized sketch line to the sketch line on the sketch region so that the sketch operation proceeds.

본 발명의 실시예에 따른 컴퓨터 프로그램이 기록된 기록매체에는 상술한 실시예에 따른 스케치 검색 서비스 방법을 수행하는 컴퓨터 프로그램이 저장될 수 있다.A computer program for performing the sketch search service method according to the above-described embodiment may be stored in the recording medium on which the computer program according to the embodiment of the present invention is recorded.

본 발명의 실시예에 따른 스케치 검색 시스템은 스케치 검색 인터페이스를 제공하고, 스케치 검색 인터페이스를 통해 입력되는 사용자의 스트로크 정보를 송출하고, 송출된 스트로크 정보에 대응되는 밑그림 영상들을 수신받아 스케치 검색 인터페이스의 밑그림으로 중첩시켜 제공하고, 사용자에 의해 선택된 검색결과 출력영역의 후보 밑그림 영상을 스케치 영역에 중첩시켜 제공하며, 검색결과 출력영역으로부터 스케치 작업이 이루어지는 경우 해당 후보 밑그림 영상 상에서 생성된 스케치 라인을 스케치 영역 상에 반영시키는 사용자 장치 및 사용자 장치로부터 스트로크 인식정보가 수신되면 스트로크 인식정보의 유사도를 기준으로 후보 밑그림 영상을 선별하여 사용자 장치로 제공하는 서비스 제공 장치를 포함할 수 있다.The sketch search system according to an embodiment of the present invention provides a sketch search interface, transmits stroke information of a user input through a sketch search interface, receives sketch images corresponding to the transmitted stroke information, A candidate sketch image of the search result output region selected by the user is superimposed on the sketch region and provided, and when a sketch operation is performed from the search result output region, the sketch line generated on the candidate sketch image is provided as a sketch region image And a service providing apparatus for selecting candidate sketch images based on the similarity degree of the stroke recognition information and providing the candidate sketch images to the user apparatus when the stroke recognition information is received from the user apparatus and the user apparatus.

본 발명은 중첩된 후보 밑그림 상에 스케치를 실시하도록 구성된 스케치 영역뿐만 아니라 검색 결과에 따라 후보 밑그림 영상이 개별적으로 나열되는 검색결과 출력영역에서 선택된 개별 후보 밑그림 영상에도 직접 스케치를 실시할 수 있도록 하여 중첩된 후보 밑그림으로 구별하기 어려운 특정 후보 밑그림 영상의 일부에 대한 스케치도 명확하게 실시할 수 있도록 함으로써, 다수의 밑그림 영상이 중첩된 상태에서 원하는 대상이 명확하게 식별되지 않더라도 정확한 대상을 선택하여 스케치를 진행할 수 있는 효과가 있다.The present invention can perform sketching directly on individual candidate sketch images selected in a search result output area in which candidate sketch images are individually listed according to search results as well as sketch areas configured to sketch on overlapping candidate sketches, It is possible to clearly perform a sketch on a part of a specific candidate sketch image which is difficult to distinguish from the candidate sketch, and thus, even if a desired object is not clearly identified in a state in which a plurality of sketch images are superimposed, There is an effect that can be.

또한, 본 발명은 스케치를 하는 도중 검색결과 출력영역에 노출되어 있는 후보 밑그림 영상 중 원하는 후보 밑그림 영상을 선택하여 스케치 영역 상의 밑그림 영상으로 적용시켜 스케치 작업을 수행할 수 있도록 함으로써, 사용자에 의해 선택된 후보 밑그림 영상을 스케치 영역 상에 적용시켜 스케치할 수 있도록 하여 스케치 결과를 좀 더 정확하고 신속하게 얻을 수 있도록 하는 효과가 있다.Also, according to the present invention, a desired candidate sketch image of a candidate sketch image exposed in a search result output area during sketching can be selected and applied as a sketch image on a sketch area to perform a sketch operation, A sketch image can be applied to a sketch area so that a sketch can be obtained more accurately and quickly.

도 1은 본 발명의 실시예에 따른 스케치 검색 시스템의 구성을 나타낸 블록도이다.
도 2는 본 발명의 실시예에 따른 사용자 장치의 구성을 나타낸 블록도이다.
도 3은 본 발명의 실시예에 따른 서비스 제공 장치의 구성을 나타낸 블록도이다.
도 4는 본 발명의 실시예에 따른 스케치 검색 서비스 방법을 보인 흐름도이다.
도 5는 본 발명의 실시에에 따른 스케치 검색 서비스 방법 중 후보 밑그림 출력영역에서의 스케치 과정을 설명하기 위한 흐름도이다.
도 6은 본 발명의 실시예에 따른 사용자 장치의 스케치 검색 인터페이스를 설명하기 위한 예시도이다.
도 7은 본 발명의 실시예에 따른 사용자 장치에서 출력되는 후보 밑그림 영상에 이루어지는 스케치 라인이 스케치 영역 상의 스케치 라인에 반영되는 것을 설명하기 위한 예시도이다.
1 is a block diagram showing a configuration of a sketch search system according to an embodiment of the present invention.
2 is a block diagram illustrating a configuration of a user apparatus according to an embodiment of the present invention.
3 is a block diagram illustrating a configuration of a service providing apparatus according to an embodiment of the present invention.
4 is a flowchart illustrating a sketch search service method according to an embodiment of the present invention.
5 is a flowchart illustrating a sketch process in a candidate sketch output area in a sketch search service method according to an embodiment of the present invention.
FIG. 6 is an exemplary diagram for explaining a sketch search interface of a user apparatus according to an embodiment of the present invention. Referring to FIG.
FIG. 7 is an exemplary diagram illustrating that a sketch line of a candidate sketch image output from a user apparatus according to an exemplary embodiment of the present invention is reflected on a sketch line on a sketch region.

본 발명에서 사용되는 기술적 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아님을 유의해야 한다. 또한, 본 발명에서 사용되는 기술적 용어는 본 발명에서 특별히 다른 의미로 정의되지 않는 한, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 의미로 해석되어야 하며, 과도하게 포괄적인 의미로 해석되거나, 과도하게 축소된 의미로 해석되지 않아야 한다. 또한, 본 발명에서 사용되는 기술적인 용어가 본 발명의 사상을 정확하게 표현하지 못하는 잘못된 기술적 용어일 때에는, 당업자가 올바르게 이해할 수 있는 기술적 용어로 대체되어 이해되어야 할 것이다. 또한, 본 발명에서 사용되는 일반적인 용어는 사전에 정의되어 있는 바에 따라, 또는 전후 문맥상에 따라 해석되어야 하며, 과도하게 축소된 의미로 해석되지 않아야 한다.It is noted that the technical terms used in the present invention are used only to describe specific embodiments and are not intended to limit the present invention. In addition, the technical terms used in the present invention should be construed in a sense generally understood by a person having ordinary skill in the art to which the present invention belongs, unless otherwise defined in the present invention, Should not be construed to mean, or be interpreted in an excessively reduced sense. In addition, when a technical term used in the present invention is an erroneous technical term that does not accurately express the concept of the present invention, it should be understood that technical terms can be understood by those skilled in the art. In addition, the general terms used in the present invention should be interpreted according to a predefined or prior context, and should not be construed as being excessively reduced.

또한, 본 발명에서 사용되는 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한 복수의 표현을 포함한다. 본 발명에서, "구성된다" 또는 "포함한다" 등의 용어는 발명에 기재된 여러 구성 요소들, 또는 여러 단계를 반드시 모두 포함하는 것으로 해석되지 않아야 하며, 그 중 일부 구성 요소들 또는 일부 단계들은 포함되지 않을 수도 있고, 또는 추가적인 구성 요소 또는 단계들을 더 포함할 수 있는 것으로 해석되어야 한다.Furthermore, the singular expressions used in the present invention include plural expressions unless the context clearly dictates otherwise. In the present invention, terms such as "comprising" or "comprising" and the like should not be construed as encompassing various elements or various steps of the invention, Or may further include additional components or steps.

또한, 본 발명에서 사용되는 제 1, 제 2 등과 같이 서수를 포함하는 용어는 구성 요소들을 설명하는데 사용될 수 있지만, 구성 요소들은 용어들에 의해 한정되어서는 안 된다. 용어들은 하나의 구성 요소를 다른 구성 요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제 1 구성 요소는 제 2 구성 요소로 명명될 수 있고, 유사하게 제 2 구성 요소도 제 1 구성 요소로 명명될 수 있다.Furthermore, terms including ordinals such as first, second, etc. used in the present invention can be used to describe elements, but the elements should not be limited by terms. Terms are used only for the purpose of distinguishing one component from another. For example, without departing from the scope of the present invention, the first component may be referred to as a second component, and similarly, the second component may also be referred to as a first component.

이하, 첨부된 도면을 참조하여 본 발명에 따른 바람직한 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성 요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings, wherein like reference numerals refer to like or similar elements throughout the several views, and redundant description thereof will be omitted.

또한, 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 발명의 사상을 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 발명의 사상이 제한되는 것으로 해석되어서는 아니 됨을 유의해야 한다.In the following description, well-known functions or constructions are not described in detail since they would obscure the invention in unnecessary detail. It is to be noted that the accompanying drawings are only for the purpose of facilitating understanding of the present invention, and should not be construed as limiting the scope of the present invention with reference to the accompanying drawings.

도 1은 본 발명의 실시예에 따른 스케치 검색 시스템의 구성을 나타낸 블록도이다. 1 is a block diagram showing a configuration of a sketch search system according to an embodiment of the present invention.

도 1에 도시된 바와 같이 본 발명의 실시예에 따른 스케치 검색 시스템은 사용자 장치(100), 서비스 제공 장치(200) 및 통신망(300)으로 이루어진다.1, a sketch search system according to an embodiment of the present invention includes a user apparatus 100, a service providing apparatus 200, and a communication network 300. As shown in FIG.

사용자 장치(100)는 스케치 영역 및 검색결과 출력영역으로 이루어진 스케치 검색 인터페이스를 사용자에게 제공하여 사용자가 스케치 영역을 통해 스케치를 실시하면서 가하는 스트로크에 대한 스트로크 인식 정보를 서비스 제공 장치(200)에 전송하고 그에 따른 후보 밑그림 영상을 제공받아 스케치 영역 및 검색결과 출력영역에 표시한다. 스케치 영역에는 후보 밑그림 영상이 중첩되어 흐릿한 밑그림으로 표시되며 사용자는 이를 가이드로 활용하여 스케치 진행에 도움을 받을 수 있다. 만일 밑그림 영상에 대응되는 원본영상을 더 수신할 경우 후보 밑그림 영상은 스케치 영역에 밑그림으로 표시되고 후보 밑그림 영상에 대응되는 원본영상은 검색결과 출력영역에 다양한 방식(리스트, 스크롤 방식 등)으로 표시된다.The user apparatus 100 provides the sketch search interface composed of the sketch area and the search result output area to the user so that the user transmits the stroke recognition information about the stroke applied by the user while performing the sketch through the sketch area to the service providing apparatus 200 The candidate sketch image is received and displayed in the sketch area and the search result output area. In the sketch area, the candidate sketch image is superimposed and displayed as a blurred sketch, and the user can use it as a guide to help the sketch process. If the original image corresponding to the sketch image is further received, the candidate sketch image is displayed as a sketch in the sketch area, and the original image corresponding to the candidate sketch image is displayed in the search result output area in various ways (list, scroll, etc.) .

한편, 본 발명의 실시예에서는 사용자 장치(100)의 스케치 영역뿐만 아니라 검색결과 출력영역에 제공되는 후보 밑그림 영상 혹은 그에 대응되는 원본영상을 선택하고 해당 영상을 밑그림으로 하여 그 위에 스케치의 일부를 실시할 수 있다. 이 경우 해당 영상에 가해지는 스트로크는 대응되는 스케치 영역에 반영된다. 실질적으로 검색결과 출력영역에 제공되는 개별 후보 밑그림 영상 혹은 그에 대응되는 원본영상은 스케치 영역에 중첩되어 제공되는 밑그림 영상 중 하나이므로 스케치 영역에 표현된 비율을 참조하면 검색결과 출력영역에 제공되는 영상에 가해지는 스트로크 지점이 스케치 영역에 대응되어 표현될 수 있다. 이러한 방식을 통해서 중첩된 밑그림에서 구별이 어려운 특정한 부분에 대한 스케치를 해당 부분이 명확하게 표현된 검색결과 출력영역의 개별 영상을 이용하여 진행할 수 있게 된다.Meanwhile, in the embodiment of the present invention, not only the sketch area of the user device 100 but also a candidate sketch image provided in the search result output area or an original image corresponding thereto is selected and a part of the sketch is superimposed on the image as a sketch can do. In this case, the stroke applied to the image is reflected in the corresponding sketch area. Since the candidate candidate sketch image or the corresponding original image provided in the search result output region is one of the sketch images superimposed on the sketch region, if referring to the ratio expressed in the sketch region, the image provided in the search result output region A stroke point to be applied can be represented corresponding to the sketch area. Through this method, a sketch for a specific part that is difficult to distinguish in a superimposed sketch can be processed using an individual image of a search result output area in which the corresponding part is clearly expressed.

물론, 검색결과 출력영역의 영상에 가해지는 스트로크가 스케치 영역에 반영될 때 오차가 발생할 수 있으나 이는 스케일이나 얼라인먼트를 조정할 수 있도록 할 경우 용이하게 보정할 수 있다.Of course, an error may occur when the stroke applied to the image of the search result output area is reflected in the sketch area, but this can easily be corrected if the scale or alignment can be adjusted.

서비스 제공 장치(200)는 사용자 장치(100)로부터 제공되는 스트로크 정보를 기준으로 후보 밑그림 영상을 추출하여 스케치 검색 정보로 제공하는데, 스케치 검색 정보에는 후보 밑그림 영상에 대응되는 원본영상과 이를 선택할 경우 제공되는 웹페이지에 대한 링크 정보를 포함할 수 있다.The service providing apparatus 200 extracts candidate sketch images based on the stroke information provided from the user device 100 and provides them as sketch search information. The sketch search information includes an original image corresponding to the candidate sketch image, Lt; RTI ID = 0.0 > web page. ≪ / RTI >

다른 예로서, 서비스 제공 장치(200)가 일종의 웹프로그램을 구비하여 사용자 장치(100)에 제공되는 스케치 검색 인터페이스를 실질적으로 관리하는 경우 사용자가 스케치 영역 상에서 스케치 작업을 수행하는지 또는 검색결과 출력영역 상에서 스케치 작업을 수행하는지의 여부를 확인한 후 스케치 영역 상에서 스케치 작업을 수행하는 경우 스케치 작업에 따른 스트로크 인식 정보를 기준으로 후보 밑그림 영상을 추출하여 사용자 장치(100)에 제공하고, 검색결과 출력영역에서 스케치 작업이 이루어지는 경우 후보 밑그림 영상 상에서 생성된 스케치 라인을 스케치 영역 상의 스케치 라인에 적용시켜 검색 내용을 구성한 후 이를 기반으로 후보 밑그림 영상을 추출하여 사용자 장치(100)에 제공할 수 있다.As another example, when the service providing apparatus 200 has a kind of web program and substantially manages a sketch search interface provided to the user apparatus 100, the user performs a sketch operation on the sketch area or searches When the sketch operation is performed on the sketch area after confirming whether or not the sketch operation is performed, the candidate sketch image is extracted based on the stroke recognition information according to the sketch operation and provided to the user device 100, When the operation is performed, the sketch line generated on the candidate sketch image may be applied to the sketch line on the sketch area to configure the search contents, and the candidate sketch image may be extracted based on the sketch line and provided to the user device 100.

사용자 장치(200)는 사용자가 복수의 후보 밑그림 영상들 중 하나를 드래그 앤 드롭 방식으로 선택한 후 스케치 영역 상의 밑그림 영상에 중첩시켜 가이드용 밑그림 영상으로 이용할 수 있도록 한다. 이 경우 선택된 후보 밑그림의 표현 가중치를 증가시켜 해당 후보 밑그림 영상이 좀 더 명확하게 파악될 수 있도록 할 수 있으며, 선택된 후보 밑그림 영상들만 스케치 영역의 밑그림으로 중첩시킬 수 있다.The user device 200 allows a user to select one of a plurality of candidate sketch images by a drag-and-drop method, superimpose the sketch image on the sketch area, and use the sketch image as a guide sketch image. In this case, it is possible to increase the expression weight of the selected candidate sketch so that the candidate sketch image can be grasped more clearly, and only the selected candidate sketch images can be superimposed on the sketch of the sketch area.

도 2는 본 발명의 스케치 검색 시스템의 사용자 장치의 구성을 나타낸 블록도이다. 2 is a block diagram showing a configuration of a user apparatus of the sketch search system of the present invention.

도 2에 도시된 사용자 장치(100)는 스케치 검색 인터페이스부(110), 스트로크 인식부(120), 제어부(130)로 이루어진다.The user apparatus 100 shown in FIG. 2 includes a sketch search interface unit 110, a stroke recognition unit 120, and a control unit 130.

도 2의 구성 요소 모두가 사용자 장치(100)의 필수 구성 요소인 것은 아니며, 도 2에 도시된 구성 요소보다 많은 구성 요소에 의해 스케치 검색 시스템을 구현할 수 있는 사용자 장치(100)가 구현될 수도 있고, 그보다 적은 구성 요소에 의해서도 사용자 장치(100)가 구현될 수도 있다.Not all of the components of FIG. 2 are essential components of user device 100, and user device 100 may be implemented that is capable of implementing a sketch search system by more components than the components shown in FIG. 2 , The user device 100 may be implemented by fewer components.

사용자 장치(100)는 사용자의 키 조작에 따라 통신망을 경유하여 각종 데이터를 송수신할 수 있는 단말기를 말하는 것이며, 태블릿 PC(Tablet PC), 랩톱(Laptop), 스마트폰(Smart Phone), 개인휴대용 정보단말기(PDA: Personal Digital Assistant) 및 이동통신 단말기(Mobile Communication Terminal) 등 중 어느 하나일 수 있다. The user device 100 is a terminal capable of transmitting and receiving various data via a communication network according to a key operation of a user. The user device 100 includes a tablet PC, a laptop, a smart phone, A personal digital assistant (PDA), a mobile communication terminal, or the like.

또한, 사용자 장치(100)는 통신망(300)을 경유하여 서비스 제공 장치(200)와 통신하기 위한 브라우저, 프로그램 및 프로토콜을 저장하는 메모리, 각종 프로그램을 실행하여 연산 및 제어하기 위한 마이크로프로세서 등을 구비하고 있는 단말장치를 의미한다. 즉, 사용자 장치(100)는 서비스 제공 장치(200)와 서버-클라이언트 통신이 가능하고, 스케치 검색 서비스를 실행할 수 있다면 그 어떠한 단말기도 가능하며, 이동통신 단말기, PDA 등의 통신 컴퓨팅 장치를 모두 포함하는 넓은 개념이다. 한편, 사용자 장치(100)는 터치 스크린을 구비한 형태로 제작되는 것이 바람직하나 반드시 이에 한정되는 것은 아니다. The user device 100 also includes a browser for communicating with the service providing apparatus 200 via the communication network 300, a memory for storing programs and protocols, a microprocessor for executing and controlling various programs, and the like A terminal device that is connected to the Internet. That is, if the user device 100 can perform server-client communication with the service providing device 200 and can execute the sketch search service, any terminal can be used, and the communication computing device such as a mobile communication terminal, a PDA Is a broad concept. Meanwhile, the user device 100 is preferably formed with a touch screen, but is not limited thereto.

특히, 본 발명의 실시예에 따른 사용자 장치(100)는 스케치 영역 및 검색결과 출력영역으로 이루어진 스케치 검색 인터페이스의 스케치 영역 상에서 임의의 형상이 이루어지도록 스케치 작업이 이루어지는 경우 스케치 작업에 따른 스트로크 인식 정보를 생성시켜 전송하고, 스트로크 인식 정보에 대응하여 수신된 후보 밑그림 영상을 검색결과 출력영역에 노출시키며, 스케치 영역 또는 검색결과 출력영역 상에서 스케치 작업이 이루어지도록 하고 검색결과 출력영역 상에서 생성된 스케치 라인을 스케치 영역 상의 스케치 라인에 반영한다.In particular, when the sketch operation is performed so that an arbitrary shape is formed on the sketch area of the sketch search interface including the sketch area and the search result output area, the user device 100 according to the embodiment of the present invention may acquire the stroke recognition information The sketch line is generated on the sketch area or the search result output area and the sketch line generated on the search result output area is sketched on the sketch area or the search result output area, To the sketch line on the area.

스케치 검색 인터페이스부(110)는 스케치 입력에 대한 가이드를 제공할 중첩된 밑그림이 표시되는 스케치 영역과 스케치 검색결과가 나열되는 검색결과 출력영역을 구비한다.The sketch search interface unit 110 includes a sketch area in which a superimposed sketch for providing a guide for sketch input is displayed and a sketch search result output area in which sketch search results are listed.

스트로크 인식부(120)는 스케치 검색 인터페이스부(110)의 스케치 영역을 통한 사용자 입력을 스트로크 정보로 검출하여 제어부(130)로 출력한다. 여기서 스트로크 인식부(120)가 스트로크 정보를 인식하여 제어부(130)로 출력하면, 제어부(130)는 스케치의 특징을 추출한 후 추출된 스케치의 특징정보만을 서비스 제공 장치(200)로 전송할 수 있다. 이로써 사용자 장치(100)와 서비스 제공 장치(200) 상호 간의 부하를 감소시켜 서비스 속도가 떨어지는 문제점을 미연에 방지할 수 있도록 한다. 그리고 스트로크 인식부(120)는 예를 들면, 소형 키보드, 펜마우스, 조이스틱, 터치 스크린, 터치 패드 등과 같은 일반적인 입력 장치를 포함할 수 있다.The stroke recognition unit 120 detects user input through the sketch area of the sketch search interface unit 110 as stroke information and outputs the detected stroke information to the control unit 130. When the stroke recognition unit 120 recognizes the stroke information and outputs the stroke information to the control unit 130, the control unit 130 may extract the feature of the sketch and then transmit only the feature information of the extracted sketch to the service providing apparatus 200. Accordingly, the load between the user device 100 and the service providing device 200 is reduced, thereby preventing the service speed from being lowered. The stroke recognition unit 120 may include general input devices such as a small keyboard, a pen mouse, a joystick, a touch screen, a touch pad, and the like.

제어부(130)는 스트로크 인식부(120)의 스트로크 정보를 스트로크 인식정보로 서비스 제공 장치(200)에 전송하고, 스트로크 인식정보에 따른 유사성을 기준으로 하여 선별된 후보 밑그림과 그에 대응하는 원본 영상을 포함하는 스케치 검색정보를 서비스 제공 장치(200)로부터 수신하여 스케치 검색 인터페이스부(110)의 스케치 영역과 검색결과 출력영역에 표시한다.The control unit 130 transmits the stroke information of the stroke recognition unit 120 to the service providing apparatus 200 as the stroke recognition information and stores the selected candidate sketch based on the similarity according to the stroke recognition information and the corresponding original image From the service providing apparatus 200 and displays the sketch search information in the sketch area and the search result output area of the sketch search interface unit 110. [

제어부(130)는 검색결과 출력영역으로부터 스케치 작업이 이루어지는 경우 해당 후보 밑그림 영상 상에서 생성된 스케치 라인을 스케치 영역 상의 스케치 라인에 적용시켜 표시되도록 하는 한편, 사용자의 입력에 따른 스케치 검색 실행요청신호(검색 서비스를 실시하고자 하는 정보)를 서비스 제공 장치(200)로 전송하고, 서비스 제공 장치(200)에서 제공하는 스케치 검색 정보(중첩된 후보 밑그림 정보, 개별 후보 밑그림 정보나 그에 대응되는 영상)를 스케치 검색 인터페이스부(110)를 통해 출력하며, 스케치 검색 인터페이스를 통해 스케치를 통한 상품 검색이 이루어지도록 사용자 장치(100) 및 서비스 제공 장치(200) 상호 간에 통신 환경을 제공한다.When a sketch operation is performed from the search result output area, the control unit 130 applies the sketch line generated on the candidate sketch image to the sketch line on the sketch area to display the sketch line, while the sketch search execution request signal And transmits the sketch search information (superimposed candidate sketch information, individual candidate sketch information, or a video corresponding thereto) provided by the service providing apparatus 200 to a sketch search And provides the communication environment between the user device 100 and the service providing device 200 so that the searched product is searched through the sketch search interface.

제어부(130)는 검색결과 출력영역에 노출된 다수의 후보 밑그림 영상에 대해 원하는 후보 밑그림 영상을 선택하면, 선택된 후보 밑그림을 스케치 영역의 높은 가중치로 중첩시켜 제공하도록 한다.When the controller 130 selects a desired candidate sketch image for a plurality of candidate sketch images exposed in the search result output area, the controller 130 overlaps the selected candidate sketch with a high weight of the sketch area.

스케치 검색 인터페이스부(110)는 서비스 제공 장치(200)로부터 제공되는 스케치 영역을 통한 스케치 작업에 의해 생성된 스트로크 정보에 대응되어 제공되는 밑그림 영상(혹은 그에 대응되는 원본영상)을 스케치 검색 인터페이스의 검색결과 출력영역 상에 노출시키고, 검색결과 출력영역 상에 노출된 영상들 중 임의의 영상 상에서 스케치 작업을 수행하면 그 스케치 라인이 스케치 영역 상의 스케치 라인으로 반영되도록 한다.The sketch search interface unit 110 searches the sketch search interface for a sketch image (or a corresponding original image) provided corresponding to the stroke information generated by the sketch operation through the sketch area provided from the service providing apparatus 200 The sketch line is exposed to the sketch line on the sketch area when the sketch operation is performed on an arbitrary image among the images exposed on the search result output area.

도 3은 본 발명의 스케치 검색 시스템의 서비스 제공 장치 구성을 나타낸 블록도이다.3 is a block diagram showing a configuration of a service providing apparatus of the sketch search system of the present invention.

도 3에 도시된 바와 같이 서비스 제공 장치(200)는 밑그림 영상 데이터베이스부(210), 밑그림 영상 제공부(220), 스케치 검색정보 제공부(230)로 이루어진다.3, the service providing apparatus 200 includes a sketch image database unit 210, a sketch image providing unit 220, and a sketch search information providing unit 230.

서비스 제공 장치(200)는 사용자 장치(100)로부터 스트로크 인식정보를 수신받아 스트로크 인식정보를 검색 조건으로 하여 밑그림 영상들을 추출하며, 추출된 밑그림 영상들을 사용자 장치(100)로 제공하고, 스케치 영역 상에서 스케치 작업이 이루어지는 경우 스트로크 인식 정보를 이용하여 검색결과 출력영역으로부터 가이드용 밑그림 영상을 선택하여 스케치 영역에 중첩시켜 출력하고, 검색결과 출력영역으로부터 스케치 작업이 이루어지는 경우 해당 후보 밑그림 영상 상에서 생성된 스케치 라인을 스케치 영역 상의 스케치 라인에 적용시킨다.The service providing apparatus 200 receives the stroke recognition information from the user device 100, extracts the sketch images with the stroke recognition information as a search condition, provides the extracted sketch images to the user device 100, When the sketch operation is performed, the guide sketch image is selected from the search result output area using the stroke recognition information, superimposed on the sketch area, and outputted. When the sketch operation is performed from the search result output area, To the sketch lines on the sketch region.

밑그림 영상 데이터베이스부(210)는 복수의 밑그림 영상들 및 그에 상응하는 원본영상, 원본영상에 링크되는 웹페이지 정보를 저장한다.The sketch image database unit 210 stores a plurality of sketch images, a corresponding original image, and web page information linked to the original image.

밑그림 영상 제공부(220)는 사용자 장치(100)로부터 수신한 스트로크 인식정보를 기반으로 하는 유사도 범위에 따라 밑그림 데이터베이스부(210)로부터 후보 밑그림 영상을 선별한다.The sketch image providing unit 220 selects a candidate sketch image from the sketch database unit 210 according to the similarity degree range based on the stroke recognition information received from the user device 100. [

밑그림 영상 제공부(220)는 사용자가 검색결과 출력영역에서 선택한 후보 밑그림 영상을 스케치 영역 상의 가이드용 밑그림 영상에 중첩시켜 노출되도록 할 수 있다.The sketch image providing unit 220 can expose the candidate sketch image selected by the user in the search result output area by superimposing the candidate sketch image on the guide sketch image on the sketch region.

스케치 검색정보 제공부(230)는 사용자 장치(100)로부터 스케치 검색실행 요청신호가 수신되면 사용자 장치(100)의 스케치 검색 인터페이스부(110)에 대응되는 스케치 검색 정보(후보 밑그림 및 그에 대응되는 원본영상)를 사용자 장치(100)에 제공한다. 사용자 장치(100)로 제공되는 스케치 검색 정보는 스케치 영역 및 검색결과 출력영역에 표시될 후보 밑그림 영상, 후보 밑그림 영상에 대응되는 원본 영상, 해당 원본 영상과 연결되는 링크 정보 등을 포함할 수 있다. 이러한 스케치 검색 정보에 포함되는 후보 밑그림 영상이나 그에 대응되는 원본 영상은 검색 결과로서 사용자 장치(100)에 제공되며, 사용자 장치(100)는 스케치 검색 인터페이스부(110)의 검색 결과 출력영역에 검색 결과를 한 화면에 나열하거나 스크롤 방식으로 제공할 수 있다.When the sketch search information request signal is received from the user apparatus 100, the sketch search information providing unit 230 searches for sketch search information corresponding to the sketch search interface unit 110 of the user apparatus 100 (the candidate sketch and the corresponding source Video) to the user device 100. The sketch search information provided to the user device 100 may include a candidate sketch image to be displayed in the sketch area and the search result output area, an original image corresponding to the candidate sketch image, and link information linked to the original image. The candidate sketch image included in the sketch search information or the original image corresponding thereto is provided to the user device 100 as a search result and the user device 100 displays the search result in the search result output area of the sketch search interface 110 Can be displayed on a screen or can be provided by a scroll method.

스케치 검색정보 제공부(230)는 스케치 라인과 드래그 라인의 간격을 설정하기 위한 간격설정 메뉴항목을 사용자 장치(100)로 제공하고, 간격설정 메뉴항목에 따라 선택된 간격설정방식에 의해 사용자에 의해 그려지는 드래그 라인과 드래그 라인에 따라 밑그림에 그려지는 스케치 라인의 간격을 설정하고, 설정된 간격 내에서 스트로크 정보가 입력되면 드래그 라인을 따라 밑그림 상에 스케치 라인을 노출시킬 수 있다.The sketch search information providing unit 230 provides an interval setting menu item for setting the interval between the sketch line and the drag line to the user device 100 and displays the sketch information to the user device 100 by the interval setting method selected according to the interval setting menu item Can set the interval of the sketch line drawn in the sketch according to the drag line and the drag line and expose the sketch line on the sketch along the drag line when the stroke information is inputted within the set interval.

즉, 사용자가 스케치 영역의 밑그림 영상을 따라서 스케치를 하게 되는 경우 스케치 되는 도구에 밑그림 영상의 에지 라인이 가려져서 스케치를 하는 불편함을 줄 수 있게 된다. 예를 들어 얇은 펜의 경우 이러한 현상이 적을 수 있으나 사용자의 손과 같이 스케치 도구가 두꺼운 경우 스케치 도구에 밑그림 영상이 가려지게 되어 밑그림 영상을 기반으로 스케치하기 어렵게 된다. 이에 밑그림 영상의 에지라인으로부터 일정간격 이격된 위치에서 밑그림 영상의 에지라인을 따라서 스케치하는 경우 스케치 라인에 맞추어서 밑그림 영상의 에지라인을 따라 드래그 라인이 표출되도록 구현할 수 있는데, 이러한 실시예를 구현하기 위해서 서비스 제공 장치(200)의 스케치 검색 정보 제공부(230)는 간격설정 메뉴항목을 제공하고, 스케치 작업 초기시 또는 원하는 시점에 간격설정 메뉴항목을 선택하여 드래그 라인과 스케치 라인의 관계를 세팅할 수 있다.That is, when the user sketches along the sketch image of the sketch region, the sketched tool is covered with the edge line of the sketch image, which makes it inconvenient to sketch. For example, this phenomenon may be small for thin pens, but if the sketch tool is thick, such as the user's hand, the sketch tool will hide the sketch image, making it difficult to sketch based on the sketch image. If the sketch is sketched along the edge line of the sketch image at a position spaced apart from the edge line of the sketch image, a drag line may be displayed along the sketch line along the edge line of the sketch image. The sketch search information providing unit 230 of the service providing apparatus 200 provides an interval setting menu item and can set the relation between the drag line and the sketch line by selecting the interval setting menu item at the initial stage of the sketch operation or at a desired time point have.

간격설정 메뉴항목은 더블 터치로 드래그 영역과 드로우 영역을 동시에 클릭하여 스케치 라인과 드래그 라인의 간격을 설정하는 제 1 간격설정 메뉴항목과, 드래그 영역과 드로우 영역을 순차적으로 클릭하여 스케치 라인과 드래그 라인의 간격을 설정하는 제 2 간격설정 메뉴항목과, 드래그 영역과 드로우 영역이 만나는 양 끝점을 선택하여 에지 길이를 설정하여 스케치 라인과 드래그 라인의 간격을 설정하고, 설정된 간격 사이에 에지를 노출시키는 제 3 간격설정 메뉴항목과, 에지 설정에 따라 드래그 영역과 드로우 영역을 설정하여 스케치 라인과 드래그 라인의 간격을 설정하는 제 4 간격설정 메뉴항목 등으로 이루어진다. The interval setting menu item includes a first interval setting menu item for simultaneously setting the interval between the sketch line and the drag line by clicking the drag area and the draw area with a double-touch, and a first interval setting menu item for sequentially clicking the drag area and the draw area, A second interval setting menu item for setting an interval between the sketch line and the drag line by setting the edge length by selecting both end points where the drag area and the draw area meet, 3 interval setting menu item, and a fourth interval setting menu item for setting the interval between the sketch line and the drag line by setting the drag area and the draw area according to the edge setting.

스케치 검색 정보 제공부(230)는 제 3 간격설정 메뉴항목 또는 제 4 간격설정 메뉴항목이 선택된 경우 에지를 선택하여 드래그 영역과 드로우 영역의 위치를 변경시킬 수 있도록 한다.The sketch search information providing unit 230 may select the edge when the third interval setting menu item or the fourth interval setting menu item is selected to change the positions of the drag area and the draw area.

앞서 실시예에서는 서비스 제공 장치(200)의 스케치 검색정보 제공부(230)가 스케치 인터페이스를 통해 사용자가 스트로크를 입력할 경우 밑그림을 확인하면서 스케치를 실시하기 어려운 상황을 해소하기 위한 추가적인 사용자 인터페이스 지원 기능을 제공할 수 있음을 보였으나 이러한 기능은 사용자 장치(100)의 스케치 검색 인터페이스부(110)에서 서비스 제공 장치(200)와 독립적으로 수행되거나 연동하면서 수행될 수도 있다. 이는 앞서 설명한 내용을 통해 당해 기술분야에서 통상의 지식을 가진자에게 명백하므로 별도의 설명은 생략한다.In the previous embodiment, the sketch search information providing unit 230 of the service providing apparatus 200 has an additional user interface support function for solving a situation where it is difficult to perform a sketch while checking a sketch when a user inputs a stroke through a sketch interface However, such a function may be performed independently or in conjunction with the service providing apparatus 200 in the sketch search interface unit 110 of the user apparatus 100. [ This will be apparent to those skilled in the art from the foregoing description and thus will not be described further.

그러면, 상술한 구성을 바탕으로 하는 스케치 검색 서비스 방법에 대해 첨부된 도면들을 참조하여 구체적으로 설명하기로 한다.Hereinafter, a sketch search service method based on the above-described configuration will be described in detail with reference to the accompanying drawings.

도 4는 본 발명의 실시예에 따른 스케치 검색 서비스 방법을 보인 흐름도이다. 4 is a flowchart illustrating a sketch search service method according to an embodiment of the present invention.

도 4에 도시된 바와 같이 서비스 제공 장치(200)가 사용자 장치(100)로부터 스케치 검색 실행 요청신호가 수신되는지의 여부를 판단한다(S110). 판단 결과 스케치 검색 실행 요청신호가 수신되는 경우 사용자 장치(100)는 스케치 검색 인터페이스부(110)를 통해 스케치 영역 및 검색결과 출력영역으로 이루어진 스케치 검색 인터페이스를 사용자에게 제공하며, 스케치 영역을 통해 얻어진 사용자의 스트로크에 따른 스트로크 인식정보와 스케치 영역의 밑그림으로 설정한 영상에 대응되는 태그 정보를 필터링 조건으로 서비스 제공 장치(200)에 전달한다(S120).As shown in FIG. 4, the service providing apparatus 200 determines whether a sketch search execution request signal is received from the user device 100 (S110). If it is determined that the sketch search execution request signal is received, the user device 100 provides the sketch search interface including the sketch area and the search result output area to the user through the sketch search interface unit 110, (Step S120), the tag identification information corresponding to the stroke of the sketch area and the tag information corresponding to the sketch area of the sketch area, to the service providing apparatus 200 as a filtering condition.

서비스 제공 장치(200)는 사용자 장치(100)로부터 스트로크 인식 정보가 수신되는지의 여부를 판단하고(S130), 판단 결과 스트로크 인식 정보가 수신된 경우 서비스 제공 장치(200)는 스트로크 인식 정보를 필터링 조건으로 하여 밑그림 영상들을 추출(S140)한 후 사용자 장치(100)로 전송하여, 검색결과 출력영역을 통해 노출시킨다(S150).The service providing apparatus 200 determines whether or not stroke recognition information is received from the user device 100 (S130). If the determination result indicates that the stroke recognition information has been received, the service providing apparatus 200 transmits the stroke recognition information to the filtering condition (S140), and transmits the extracted images to the user device 100 to expose the images through the search result output area (S150).

이때, 도 6에 도시된 바와 같이 후보 밑그림 노출 방식은 복수개의 영역으로 분할된 검색결과 출력영역을 이루는 각 분할된 공간에 하나씩 후보 밑그림 영상이 노출되고, 사용자는 한꺼번에 노출된 후보 밑그림 영상을 일괄적으로 확인한 후 원하는 밑그림 영상을 직접 선택할 수 있다. 또한 사용자는 밑그림 영상을 선택하지 않더라도 자신의 스케치 라인에 따라 어떠한 밑그림 영상이 선택되어 또 다른 밑그림으로 적용되는지의 여부를 확인할 수 있다.In this case, as shown in FIG. 6, the candidate sketch exposure scheme exposes one candidate sketch image in each of the divided spaces constituting the search result output region divided into a plurality of regions, and the user simultaneously displays the candidate sketch image exposed at one time You can directly select the desired sketch image. Also, the user can confirm whether or not any sketch image is selected according to the sketch line of the sketch line and applied to another sketch even if the sketch image is not selected.

한편, 후보 밑그림 영상을 노출시키는 또 다른 방식으로는 스크롤 방식이며, 스크롤 방식은 스케치 영역 하부에 후보 밑그림 영역을 최소로 노출시킨 후 좌우 스크롤 화살표버튼을 구비시켜 사용자가 스크롤 화살표버튼을 클릭하거나 표시 내용을 드래그하는 것으로 이전에 제공되었던 후보 밑그림 영상을 다시 보거나, 제공되는 후보 밑그림 영상을 확인할 수 있도록 한다.Meanwhile, another method of exposing the candidate sketch image is the scroll method. In the scroll method, the candidate sketch area is exposed at the bottom of the sketch area and the left and right scroll arrow buttons are provided. When the user clicks the scroll arrow button, So that the candidate sketch image previously provided or the candidate sketch image provided can be confirmed.

도 5는 상술한 구성을 바탕으로 하는 본 발명의 실시예에 따른 스케치 검색 서비스 방법 중 후보 밑그림 출력영역에서의 스케치 과정을 설명하기 위한 흐름도이다. FIG. 5 is a flowchart illustrating a sketch process in a candidate sketch output area of a sketch search service method according to an embodiment of the present invention based on the above-described configuration.

도 5에 도시된 바와 같이 서비스 제공 장치(200)는 스케치 검색 인터페이스에서 검색결과 출력영역을 터치한 신호가 수신되는지의 여부를 판단하고(S210), 판단 결과 검색결과 출력영역을 터치한 신호가 수신되는 경우 서비스 제공 장치(200)는 검색결과 출력영역의 후보 밑그림 영상 상에서 스케치 작업이 이루어지는지의 여부를 확인하여(S220), 스케치 작업이 이루어지고 있는 상태인지의 여부를 판단한다(S230).As shown in FIG. 5, the service providing apparatus 200 determines whether a signal obtained by touching the search result output area in the sketch search interface is received (S210), and if a signal touching the search result output area is received The service providing apparatus 200 determines whether or not the sketch operation is performed on the candidate sketch image of the search result output area (S220), and determines whether the sketch operation is being performed (S230).

스케치 작업 상태에 대한 판단 결과 스케치 작업이 이루어지고 있는 경우 서비스 제공 장치(200)는 도 7에 도시된 바와 같이 후보 밑그림 영상 상에서 이루어진 스케치 라인을 인식하고(S240), 인식된 스케치 라인을 스케치 영역 상의 스케치 라인에 적용시켜 스케치 작업이 진행되도록 한다(S250).As a result of the sketch operation state, if the sketch operation is being performed, the service providing apparatus 200 recognizes the sketch line formed on the candidate sketch image as shown in FIG. 7 (S240) The sketch line is applied to the sketch line (S250).

이때, 스케치 영역 상의 스케치 라인에 후보 밑그림 영상 상에서 이루어진 스케치 라인을 반영시키기 위해서는 먼저 후보 밑그림 영상을 스케치 영역 상의 중첩 밑그림 영상과 맞추어 스케일링 및 얼라인먼트가 이루어지도록 하며 대응 이미지에 적용되었던 추가 스트로크 부분에 대해 스케일링 및 얼라인먼트가 적용되어 현재 작업중인 스케치 라인에 추가되도록 한다. 이러한 스케일링 및 얼라인먼트는 자동으로 실시되는 것이 바람직하지만 수동으로도 실시할 수 있다.At this time, in order to reflect the sketch line on the candidate sketch image on the sketch area on the sketch area, the candidate sketch image is first scaled and aligned with the overlapping sketch image on the sketch area, and the additional stroke portion applied to the corresponding image is scaled And the alignment is applied and added to the sketch line that is currently being worked on. Such scaling and alignment is preferably performed automatically, but can also be done manually.

마지막으로 서비스 제공 장치(200)는 사용자가 검색결과 출력영역의 복수의 후보 밑그림 영상들 중 하나를 선택하여 스케치 영역 상의 가이드용 밑그림 영상에 중첩시킬 수 있도록 하며, 이때 가중치가 적용되어 다른 후보 밑그림 영상들의 노출과는 다른 노출 방식으로 노출되도록 구현할 수 있다. 예를 들면 굵은 에지 라인으로 이루어지도록 하거나, 노출색상을 다르게 하여 중첩된 다른 밑그림 영상들과 차별화를 이루도록 구현할 수 있다.Finally, the service providing apparatus 200 allows the user to select one of the plurality of candidate sketch images in the search result output area and superimpose the selected sketch image on the guide sketch image on the sketch area. At this time, The exposure may be performed in a different manner from that of the exposure. For example, a thick edge line, or to differentiate exposure colors from other overlapped sketch images.

도 6은 본 발명의 실시예에 따른 사용자 장치의 스케치 검색 화면을 설명하기 위한 예시도이다. 도시된 화면은 사용자 장치를 통해 제공되는 스케치 검색 인터페이스의 예를 보인 것으로, 도 6a는 비교적 화면이 큰 단말기를 이용할 경우로, 사용자가 터치 스크린에 구성된 스케치 영역에 직접 그림을 그리면서 화면 내의 중첩 밑그림을 참조하여 스케치를 완성해나가면 사용자의 스트로크에 따라 유사성이 높은 후보 밑그림 영상 추출되어 스케치 영역 내 중첩 밑그림을 갱신하며, 추출된 후보 밑그림 영상이나 그에 연동되는 원본영상이 우측의 검색결과 출력영역에 리스트 형태로 제공된다. 참고로, 해당 검색결과 출력영역의 영상을 검색결과 확인을 위해서 선택할 경우 제품 판매 페이지, 광고 페이지, 관련사 홈페이지 등의 다양한 부가 정보를 제공하는 웹페이지가 제공될 수 있다.6 is an exemplary diagram illustrating a sketch search screen of a user device according to an embodiment of the present invention. 6A shows an example of a sketch search interface provided through a user device. FIG. 6A illustrates a case where a terminal having a relatively large screen is used. When a user draws a picture directly on a sketch area configured on a touch screen, , The candidate sketch image having high similarity is extracted according to the stroke of the user to update the overlapping sketch in the sketch area, and the extracted candidate sketch image or the original image linked to the candidate sketch image is displayed in the search result output area . For reference, a web page providing various additional information such as a product sale page, an advertisement page, an affiliate company homepage, etc. may be provided when the image of the search result output area is selected for confirming the search result.

도 6b는 비교적 화면의 작은 단말기를 이용하는 경우의 스케치 검색 인터페이스의 예로서, 도시된 바와 같이 가급적 스케치 영역의 비중을 높이기 위해 검색결과 출력영역의 크기가 줄어들게 된다. 이 경우 검색결과 출력영역은 좌우 화살표를 이용하여 스크롤 될 수 있으며 사용자의 제스처에 의해 스크롤 될 수도 있다.6B is an example of a sketch search interface in the case of using a relatively small screen terminal. As shown in FIG. 6B, the size of the search result output area is reduced in order to increase the weight of the sketch area as much as possible. In this case, the search result output area can be scrolled using the left and right arrows and scrolled by the user's gesture.

한편, 스케치 검색에 있어 사용자의 손가락이나 펜 등의 스케치 도구에 의해 밑그림이 가려지는 상황이 발생할 수 있는데, 이러한 문제는 실제 스트로크가 표현되는 영역과 실제 사용자가 터치하는 영역을 이격시키는 다양한 방식을 통해 일부 해소할 수 있다. 예를 들어 실제 스트로크를 제공할 위치를 선택한 후 그와 이격된 영역을 터치하여 선을 그리면 먼저 선택한 위치에서 선이 그려지는 방식을 취할 수 있다. 물론 그 이격 거리나 스트로크 제공 위치 선택 방식 등은 다양한 방식에 따라 가변될 수도 있다.On the other hand, in the sketch search, a sketch tool such as a user's finger or a pen may cause the sketch to be obscured. This problem may be caused by various methods of separating an actual stroke area from an actual touch area Some can be solved. For example, if you select a location to provide the actual stroke and then draw a line by touching the distanced area, you can take a way that the line is drawn first. Of course, the spacing distance, the method of selecting a stroke providing position, and the like may vary depending on various methods.

도 7은 본 발명의 실시예에 따른 사용자 장치에 출력된 후보 밑그림 영상에서 이루어지는 스케치 라인이 스케치 영역 상의 스케치 라인에 반영되는 것을 설명하기 위한 예시도이다. 도시된 예시와 같이 사용자가 스케치 영역에서 스케치를 하는 도중 검색결과 출력영역의 후보 밑그림 영상 중 하나를 선택하고 해당 영상에 직접 스케치를 하면 후보 밑그림 영상에 직접 그린 스케치 라인이 스케치 영역에 반영된다. 도 7a는 비교적 화면이 큰 단말기에 적용될 경우의 예시이며, 도 7b는 비교적 화면이 작은 단말기를 이용하는 경우로서 사용자가 스크롤 방식으로 제공되는 후보 밑그림 영상을 선택하면 화면상에 해당 영상이 팝업되어 큰 영상으로 제공되며, 팝업된 후보 밑그림 영상에 직접 스케치한 스케치 라인은 스케치 영역에 바로 반영된다.7 is an exemplary view for explaining that a sketch line formed in a candidate sketch image output to a user apparatus according to an exemplary embodiment of the present invention is reflected on a sketch line on a sketch region. When the user selects one of the candidate sketch images in the search result output area during sketching in the sketch area and directly sketches the image, the sketch line drawn directly on the candidate sketch image is reflected in the sketch area. FIG. 7A is an example of a case in which a terminal having a relatively small screen is used. When a user selects a candidate sketch image provided in a scroll mode, the corresponding image is popped up on the screen, And the sketch line directly sketched on the popped candidate sketch image is directly reflected in the sketch area.

본 발명의 실시예에 따른 컴퓨터 프로그램이 기록된 기록매체에는 상술한 실시예에 따른 스케치 검색 서비스 방법을 수행하는 컴퓨터 프로그램이 저장될 수 있다.A computer program for performing the sketch search service method according to the above-described embodiment may be stored in the recording medium on which the computer program according to the embodiment of the present invention is recorded.

본 발명의 실시예에 따른 스케치 검색 서비스 방법은 컴퓨터 프로그램으로 작성 가능하며, 컴퓨터 프로그램을 구성하는 코드들 및 코드 세그먼트들은 당해 분야의 컴퓨터 프로그래머에 의하여 용이하게 추론될 수 있다. 또한, 해당 컴퓨터 프로그램은 컴퓨터가 읽을 수 있는 정보저장매체(computer readable media)에 저장되고, 컴퓨터나 본 발명의 실시예에 따른 서비스 제공 장치 등에 의하여 읽혀지고 실행됨으로써 스케치 검색 서비스 방법을 구현할 수 있다. The sketch search service method according to an embodiment of the present invention can be written in a computer program, and the codes and code segments constituting the computer program can be easily deduced by computer programmers in the field. In addition, the computer program may be stored in a computer readable medium and read and executed by a computer or a service providing apparatus according to an embodiment of the present invention to implement a sketch search service method.

정보저장매체는 자기 기록매체, 광 기록매체 및 캐리어 웨이브 매체를 포함한다. 본 발명의 실시예에 따른 스케치 검색 서비스 방법을 구현하는 컴퓨터 프로그램은 사용자 장치, 서비스 제공 장치 등의 내장 메모리에 저장 및 설치될 수 있다. 또는, 본 발명의 실시예에 따른 스케치 검색 서비스 방법을 구현하는 컴퓨터 프로그램을 저장 및 설치한 스마트 카드 등의 외장 메모리가 인터페이스를 통해 사용자 장치, 서비스 제공 장치 등에 장착될 수도 있다.The information storage medium includes a magnetic recording medium, an optical recording medium, and a carrier wave medium. A computer program for implementing the sketch search service method according to an embodiment of the present invention may be stored and installed in a built-in memory such as a user device and a service providing device. Alternatively, an external memory such as a smart card storing and installing a computer program for implementing the sketch search service method according to an embodiment of the present invention may be installed in a user apparatus, a service providing apparatus, or the like through an interface.

전술한 내용은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 수정 및 변형이 가능할 것이다. 따라서, 본 발명에 개시된 실시예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.It will be apparent to those skilled in the art that various modifications and variations can be made in the present invention without departing from the spirit or essential characteristics thereof. Therefore, the embodiments disclosed in the present invention are intended to illustrate rather than limit the scope of the present invention, and the scope of the technical idea of the present invention is not limited by these embodiments. The scope of protection of the present invention should be construed according to the following claims, and all technical ideas within the scope of equivalents should be construed as falling within the scope of the present invention.

본 발명은 사용자에 의해 스케치 작업이 이루어지면서 생성된 스트로크 인식 정보를 기반으로 제공되어 검색결과 출력영역에 노출된 후보 밑그림 영상들 중 원하는 후보 밑그림 영상에서 직접적으로 스케치를 수행하면 스케치 영역상의 스케치 라인에 반영시켜 스케치 작업이 이루어지도록 함으로써, 사용자가 검색하고자 하는 상품을 정확하게 스케치할 수 있고, 이로 인해 원하는 상품을 검색결과로 제공받을 수 있도록 할 뿐만 아니라 이를 활용하여 사용자에게 상품을 많이 노출시켜 광고를 해야하는 서비스 분야에서 광범위하게 이용될 수 있다.The present invention is based on stroke recognition information generated when a sketch operation is performed by a user, and when a sketch is directly performed on a desired candidate sketch image of candidate sketch images exposed in a search result output area, So that the user can accurately sketch the product to be searched. Accordingly, not only the desired product can be provided as the search result, but also the user is required to advertise the product with much exposure by using the sketch Can be widely used in the service field.

100: 사용자 장치 110: 스케치 검색 인터페이스부
120: 스트로크 인식부 130: 제어부
200: 서비스 제공 장치 210: 밑그림 영상 데이터베이스부
220: 밑그림 영상 제공부 230: 스케치 검색 정보 제공부
300: 통신망
100: user equipment 110: sketch search interface unit
120: stroke recognition unit 130:
200: Service providing apparatus 210: Sketch image database unit
220: Sketch image providing unit 230: Sketch search information providing service
300: Network

Claims (12)

스케치 입력에 대한 가이드를 제공할 중첩된 밑그림이 표시되는 스케치 영역과 스케치 검색결과가 나열되는 검색결과 출력영역을 구비하는 스케치 검색 인터페이스부;
상기 스케치 검색 인터페이스부의 스케치 영역 및 검색결과 출력영역을 통한 사용자 입력을 스트로크 정보로 검출하여 출력하는 스트로크 인식부; 및
상기 스트로크 인식부의 스트로크 정보를 스트로크 인식정보로 서비스 제공 장치에 전송하고, 상기 스트로크 인식정보에 따른 유사성을 기준으로 하여 선별된 후보 밑그림과 그에 대응하는 원본 영상을 포함하는 스케치 검색정보를 상기 서비스 제공 장치로부터 수신하여 상기 스케치 검색 인터페이스부의 스케치 영역과 검색결과 출력영역에 표시하는 제어부를 포함하는 스케치 검색 사용자 장치.
A sketch search interface unit having a sketch area displaying a superimposed sketch for providing a guide for inputting a sketch and a search result output area listing sketch search results;
A stroke recognition unit for detecting user input through a sketch area and a search result output area of the sketch search interface unit as stroke information and outputting the detected stroke information; And
The stroke information of the stroke recognition unit is transmitted to the service providing apparatus as the stroke recognition information, and sketch search information including the candidate sketch selected based on the similarity based on the stroke recognition information and the corresponding original image, And displaying the search result in the sketch area and the search result output area of the sketch search interface unit.
제 1 항에 있어서,
상기 제어부는 검색결과 출력영역으로부터 스케치 작업이 이루어지는 경우 해당 후보 밑그림 영상 상에서 생성된 스케치 라인을 스케치 영역 상의 스케치 라인에 적용시키는 것을 특징으로 하는 스케치 검색 사용자 장치.
The method according to claim 1,
Wherein the control unit applies the sketch line generated on the candidate sketch image to the sketch line on the sketch area when a sketch operation is performed from the search result output area.
제 1 항에 있어서,
상기 제어부는 검색결과 출력영역에 노출된 다수의 후보 밑그림 영상에 대해 원하는 후보 밑그림 영상을 선택하면, 선택된 후보 밑그림을 스케치 영역에 중첩시켜 제공하는 것을 특징으로 하는 스케치 검색 사용자 장치.
The method according to claim 1,
Wherein the controller overlaps the selected candidate sketches in a sketch area when a desired candidate sketch image is selected for a plurality of candidate sketch images exposed in the search result output area.
밑그림 영상과 그에 대응되는 원본 영상이 저장된 밑그림 영상 데이터베이스부;
밑그림을 따라 그릴 수 있도록 구성된 스케치 영역과 스케치한 내용에 따른 검색결과를 제공하는 검색결과 출력영역을 구비한 사용자 장치로부터 스케치 영역 및 검색결과 출력영역을 통해 입력된 스트로크에 대한 스트로크 인식정보를 수신하고, 수신된 스트로크 인식정보를 기준으로 유사도에 따라 상기 밑그림 데이터베이스부로부터 후보 밑그림 영상을 선별하는 밑그림 영상 제공부; 및
상기 밑그림 영상 제공부에서 선별된 후보 밑그림과 그에 대응되는 원본 영상을 각각 사용자 장치의 스케치 영역과 검색결과 출력영역에 표시할 수 있도록 사용자 장치에 제공하는 스케치 검색정보 제공부를 포함하는 스케치 검색 서비스 제공 장치.
A sketch image database unit storing a sketch image and a corresponding original image;
Receiving a stroke recognition information about a stroke input through a sketch area and a search result output area from a user device having a sketch area configured to draw along a sketch and a search result output area providing search results according to a sketched content A sketch image providing unit for selecting a candidate sketch image from the sketch database unit according to the similarity based on the received stroke recognition information; And
And a sketch search information providing unit for providing candidate sketches selected in the sketch image providing unit and a corresponding original image to a user device so as to be displayed in a sketch area and a search result output area of the user device, .
제 4항에 있어서,
상기 스케치 검색정보 제공부는 스케치 라인과 드래그 라인의 간격을 설정하기 위한 간격설정 메뉴항목을 사용자 장치로 제공하고, 상기 간격설정 메뉴항목에 따라 선택된 간격설정방식에 의해 사용자에 의해 그려지는 드래그 라인과 상기 드래그 라인에 따라 밑그림에 그려지는 스케치 라인의 간격을 설정하고, 설정된 간격 내에서 스트로크 정보가 입력되면 드래그 라인을 따라 밑그림 상에 스케치 라인을 노출시키는 것을 특징으로 스케치 검색 서비스 제공 장치.
5. The method of claim 4,
Wherein the sketch search information providing unit provides the interval setting menu item for setting the interval between the sketch line and the drag line to the user device and displays the drag line drawn by the user according to the interval setting method selected according to the interval setting menu item, Wherein the sketch line is set in a sketch line according to a drag line and the sketch line is exposed on a sketch along a drag line when stroke information is input within a set interval.
제 5 항에 있어서,
상기 간격설정 메뉴항목은 더블 터치로 드래그 영역과 드로우 영역을 동시에 클릭하여 스케치 라인과 드래그 라인의 간격을 설정하는 제 1 간격설정 메뉴항목;
드래그 영역과 드로우 영역을 순차적으로 클릭하여 스케치 라인과 드래그 라인의 간격을 설정하는 제 2 간격설정 메뉴항목;
드래그 영역과 드로우 영역이 만나는 양 끝점을 선택하여 에지 길이를 설정하여 스케치 라인과 드래그 라인의 간격을 설정하고, 상기 설정된 간격 사이에 에지를 노출시키는 제 3 간격설정 메뉴항목; 및
에지 설정에 따라 드래그 영역과 드로우 영역을 설정하여 스케치 라인과 드래그 라인의 간격을 설정하는 제 4 간격설정 메뉴항목 중 적어도 하나 이상으로 이루어진 것을 특징으로 하는 스케치 검색 서비스 제공 장치.
6. The method of claim 5,
A first interval setting menu item for setting the interval between the sketch line and the drag line by simultaneously clicking the drag area and the draw area with a double touch;
A second interval setting menu item for sequentially setting the interval between the sketch line and the drag line by clicking the drag area and the draw area sequentially;
A third interval setting menu item for setting an interval between the sketch line and the drag line by selecting both end points where the drag area and the draw area meet, and exposing an edge between the set intervals; And
And a fourth interval setting menu item for setting the interval between the sketch line and the drag line by setting the drag area and the draw area according to the edge setting.
제 6 항에 있어서,
상기 제 3 간격설정 메뉴항목 또는 제 4 간격설정 메뉴항목이 선택된 경우 에지를 선택하여 드래그 영역과 드로우 영역의 위치를 변경시킬 수 있도록 하는 것을 특징으로 하는 스케치 검색 서비스 제공 장치.
The method according to claim 6,
Wherein when the third interval setting menu item or the fourth interval setting menu item is selected, an edge is selected to change the positions of the drag area and the draw area.
제 4 항에 있어서,
상기 밑그림 영상 데이터베이스부는 원본 영상에 대응되는 웹페이지 링크 정보를 더 저장하며,
상기 스케치 검색 정보 제공부는 원본 영상에 대응되는 웹페이지 링크 정보도 사용자 장치에 제공하는 것을 특징으로 하는 스케치 검색 서비스 제공 장치.
5. The method of claim 4,
The sketch image database unit further stores web page link information corresponding to an original image,
Wherein the sketch search information providing unit also provides web page link information corresponding to the original image to the user device.
서비스 제공 장치가 사용자 장치로부터 스케치 검색 실행 요청신호를 수신하는 단계;
상기 서비스 제공 장치가 스케치 검색 실행 요청신호에 응하여 스케치 영역 및 검색결과 출력영역으로 이루어진 스케치 검색 인터페이스를 상기 사용자 장치로 제공하는 단계;
상기 서비스 제공 장치가 상기 사용자 장치로부터 스케치 영역과 검색결과 출력영역 모두에 대한 스트로크 인식 정보를 수신하는 단계; 및
상기 서비스 제공 장치가 스트로크 인식 정보를 필터링 조건으로 하여 밑그림 영상들을 추출한 후 사용자 장치로 전송하는 단계를 포함하는 스케치 검색 서비스 방법.
The service providing apparatus receiving a sketch search execution request signal from the user apparatus;
Providing the sketch search interface to the user device, the sketch search interface including a sketch area and a search result output area in response to a sketch search execution request signal;
Receiving the stroke recognition information for both the sketch area and the search result output area from the user device; And
Wherein the service providing device extracts the sketch images with the stroke recognition information as a filtering condition, and transmits the sketch images to the user device.
서비스 제공 장치가 스케치 검색 인터페이스 중 검색결과 출력영역을 터치한 신호를 수신하는 단계;
상기 서비스 제공 장치가 검색결과 출력영역을 터치한 신호가 수신되는 경우 후보 밑그림 영상 상에서 이루어진 스케치 라인을 인식하는 단계; 및
상기 서비스 제공 장치가, 인식된 스케치 라인을 스케치 영역 상의 스케치 라인에 적용시켜 스케치 작업이 진행되도록 하는 단계를 포함하는 스케치 검색 서비스 방법.
Receiving a signal that the service providing apparatus has touched the search result output area of the sketch search interface;
Recognizing a sketch line formed on a candidate sketch image when a signal obtained by touching a search result output area of the service providing apparatus is received; And
Wherein the service providing apparatus applies the recognized sketch line to the sketch line on the sketch area so that the sketch operation proceeds.
제 9 항 또는 제 10 항에 따른 스케치 검색 서비스 방법을 수행하는 컴퓨터 프로그램이 기록된 기록매체.A recording medium on which a computer program for performing the sketch search service method according to claim 9 or 10 is recorded. 스케치 검색 인터페이스를 제공하고, 상기 스케치 검색 인터페이스를 통해 입력되는 사용자의 스트로크 정보를 송출하고, 송출된 스트로크 정보에 대응되는 밑그림 영상들을 수신받아 스케치 검색 인터페이스의 밑그림으로 중첩시켜 제공하고, 사용자에 의해 선택된 검색결과 출력영역의 후보 밑그림 영상을 스케치 영역에 중첩시켜 제공하며, 검색결과 출력영역으로부터 스케치 작업이 이루어지는 경우 해당 후보 밑그림 영상 상에서 생성된 스케치 라인을 스케치 영역 상에 반영시키는 사용자 장치; 및
상기 사용자 장치로부터 스트로크 인식정보가 수신되면 스트로크 인식정보의 유사도를 기준으로 후보 밑그림 영상을 선별하여 사용자 장치로 제공하는 서비스 제공 장치를 포함하는 태그 정보를 이용한 스케치 검색 시스템.
A sketch search interface, transmitting stroke information of a user input through the sketch search interface, receiving sketch images corresponding to the transmitted stroke information, superimposing the sketch images on a sketch of a sketch search interface, A user device for providing a candidate sketch image of a search result output area in a sketch area in a superimposed manner and reflecting the sketch line generated on the candidate sketch image when a sketch operation is performed from a search result output area; And
And a service providing device for selecting a candidate sketch image based on the similarity of the stroke recognition information and receiving the stroke sketch information from the user device when the stroke recognition information is received from the user device.
KR1020140022019A 2014-02-25 2014-02-25 Sketch retrieval system, user equipment, service equipment, service method and computer readable medium having computer program recorded therefor Active KR102213861B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020140022019A KR102213861B1 (en) 2014-02-25 2014-02-25 Sketch retrieval system, user equipment, service equipment, service method and computer readable medium having computer program recorded therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140022019A KR102213861B1 (en) 2014-02-25 2014-02-25 Sketch retrieval system, user equipment, service equipment, service method and computer readable medium having computer program recorded therefor

Publications (2)

Publication Number Publication Date
KR20150100332A true KR20150100332A (en) 2015-09-02
KR102213861B1 KR102213861B1 (en) 2021-02-08

Family

ID=54242066

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140022019A Active KR102213861B1 (en) 2014-02-25 2014-02-25 Sketch retrieval system, user equipment, service equipment, service method and computer readable medium having computer program recorded therefor

Country Status (1)

Country Link
KR (1) KR102213861B1 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019093600A1 (en) * 2017-11-09 2019-05-16 엘지전자 주식회사 Projecting apparatus
CN113157954A (en) * 2021-04-20 2021-07-23 江西师范大学 Sketch interactive clothing image retrieval method based on cross-domain conversion
CN114973280A (en) * 2022-04-21 2022-08-30 佛山市太火红鸟科技有限公司 Classification method, device, equipment and storage medium of hand-drawn sketches

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20250009301A (en) * 2023-07-10 2025-01-17 서울대학교산학협력단 Method and apparatus for converting image into sketch for learning geometry-aware representation

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000148795A (en) * 1998-08-31 2000-05-30 Canon Inc Device and method for image retrieval and computer- readable memory
KR20010092891A (en) * 2000-03-27 2001-10-27 이성환 Content-based image retrieval method based on sketch features
JP2002215627A (en) * 2001-01-22 2002-08-02 Hitachi Ltd Image search technique and apparatus, and image database creation method and apparatus
KR100451649B1 (en) * 2001-03-26 2004-10-08 엘지전자 주식회사 Image search system and method
KR100540748B1 (en) 2003-09-08 2006-01-10 학교법인 한양학원 An improved query method for content-based retrieval and record carriers storing programs for implementing the method
JP4449183B2 (en) * 2000-07-11 2010-04-14 ソニー株式会社 Image editing system, image editing method, and storage medium
US20100135597A1 (en) * 2005-05-09 2010-06-03 Salih Burak Gokturk System and method for enabling image searching using manual enrichment, classification, and/or segmentation
KR20120007045A (en) * 2009-04-14 2012-01-19 퀄컴 인코포레이티드 System and method for image recognition using mobile devices
KR20120036649A (en) * 2010-10-08 2012-04-18 엘지전자 주식회사 Method for searching information by using drawing and terminal thereof
KR20130059033A (en) * 2011-11-28 2013-06-05 연세대학교 산학협력단 Multimedia retrieval system and method using sketch
KR20130059058A (en) * 2011-11-28 2013-06-05 건국대학교 산학협력단 Preprocessing apparatus for query image and searching image in content based image retrieval using sketch query and methof therefor

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000148795A (en) * 1998-08-31 2000-05-30 Canon Inc Device and method for image retrieval and computer- readable memory
KR20010092891A (en) * 2000-03-27 2001-10-27 이성환 Content-based image retrieval method based on sketch features
JP4449183B2 (en) * 2000-07-11 2010-04-14 ソニー株式会社 Image editing system, image editing method, and storage medium
JP2002215627A (en) * 2001-01-22 2002-08-02 Hitachi Ltd Image search technique and apparatus, and image database creation method and apparatus
KR100451649B1 (en) * 2001-03-26 2004-10-08 엘지전자 주식회사 Image search system and method
KR100540748B1 (en) 2003-09-08 2006-01-10 학교법인 한양학원 An improved query method for content-based retrieval and record carriers storing programs for implementing the method
US20100135597A1 (en) * 2005-05-09 2010-06-03 Salih Burak Gokturk System and method for enabling image searching using manual enrichment, classification, and/or segmentation
KR20120007045A (en) * 2009-04-14 2012-01-19 퀄컴 인코포레이티드 System and method for image recognition using mobile devices
KR20120036649A (en) * 2010-10-08 2012-04-18 엘지전자 주식회사 Method for searching information by using drawing and terminal thereof
KR20130059033A (en) * 2011-11-28 2013-06-05 연세대학교 산학협력단 Multimedia retrieval system and method using sketch
KR20130059058A (en) * 2011-11-28 2013-06-05 건국대학교 산학협력단 Preprocessing apparatus for query image and searching image in content based image retrieval using sketch query and methof therefor
KR101326083B1 (en) * 2011-11-28 2013-11-07 건국대학교 산학협력단 Preprocessing apparatus for query image and searching image in content based image retrieval using sketch query and methof therefor

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019093600A1 (en) * 2017-11-09 2019-05-16 엘지전자 주식회사 Projecting apparatus
CN113157954A (en) * 2021-04-20 2021-07-23 江西师范大学 Sketch interactive clothing image retrieval method based on cross-domain conversion
CN113157954B (en) * 2021-04-20 2022-04-26 江西师范大学 A cross-domain transformation-based interactive clothing image retrieval method for sketches
CN114973280A (en) * 2022-04-21 2022-08-30 佛山市太火红鸟科技有限公司 Classification method, device, equipment and storage medium of hand-drawn sketches

Also Published As

Publication number Publication date
KR102213861B1 (en) 2021-02-08

Similar Documents

Publication Publication Date Title
AU2023204314B2 (en) Handwriting entry on an electronic device
US12147662B2 (en) Techniques for image-based search using touch controls
CN103838810B (en) The method and apparatus for carrying out picture search using label information
KR102314274B1 (en) Method for processing contents and electronics device thereof
US20140317547A1 (en) Dynamically-positioned character string suggestions for gesture typing
US20140075302A1 (en) Electronic apparatus and handwritten document processing method
US9134833B2 (en) Electronic apparatus, method, and non-transitory computer-readable storage medium
EP4411586A2 (en) User device and method for creating handwriting content
JP5728592B1 (en) Electronic device and handwriting input method
US9274704B2 (en) Electronic apparatus, method and storage medium
US20130300675A1 (en) Electronic device and handwritten document processing method
KR102125212B1 (en) Operating Method for Electronic Handwriting and Electronic Device supporting the same
CN106874817A (en) Two-dimensional code identification method, equipment and mobile terminal
US20170285932A1 (en) Ink Input for Browser Navigation
WO2016095689A1 (en) Recognition and searching method and system based on repeated touch-control operations on terminal interface
JP6426417B2 (en) Electronic device, method and program
EP2965181B1 (en) Enhanced canvas environments
US8938123B2 (en) Electronic device and handwritten document search method
US20140123036A1 (en) Touch screen display process
US20140089841A1 (en) Device and method for providing application interface based on writing input
US20150134641A1 (en) Electronic device and method for processing clip of electronic document
EP3660635A1 (en) Integration of smart tags into handwriting input
KR102213861B1 (en) Sketch retrieval system, user equipment, service equipment, service method and computer readable medium having computer program recorded therefor
US20140105503A1 (en) Electronic apparatus and handwritten document processing method
KR20150097250A (en) Sketch retrieval system using tag information, user equipment, service equipment, service method and computer readable medium having computer program recorded therefor

Legal Events

Date Code Title Description
PA0109 Patent application

Patent event code: PA01091R01D

Comment text: Patent Application

Patent event date: 20140225

PG1501 Laying open of application
A201 Request for examination
AMND Amendment
PA0201 Request for examination

Patent event code: PA02012R01D

Patent event date: 20190212

Comment text: Request for Examination of Application

Patent event code: PA02011R01I

Patent event date: 20140225

Comment text: Patent Application

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20200520

Patent event code: PE09021S01D

AMND Amendment
E601 Decision to refuse application
PE0601 Decision on rejection of patent

Patent event date: 20200918

Comment text: Decision to Refuse Application

Patent event code: PE06012S01D

Patent event date: 20200520

Comment text: Notification of reason for refusal

Patent event code: PE06011S01I

AMND Amendment
PX0901 Re-examination

Patent event code: PX09011S01I

Patent event date: 20200918

Comment text: Decision to Refuse Application

Patent event code: PX09012R01I

Patent event date: 20200714

Comment text: Amendment to Specification, etc.

Patent event code: PX09012R01I

Patent event date: 20190212

Comment text: Amendment to Specification, etc.

PX0701 Decision of registration after re-examination

Patent event date: 20201117

Comment text: Decision to Grant Registration

Patent event code: PX07013S01D

Patent event date: 20201015

Comment text: Amendment to Specification, etc.

Patent event code: PX07012R01I

Patent event date: 20200918

Comment text: Decision to Refuse Application

Patent event code: PX07011S01I

Patent event date: 20200714

Comment text: Amendment to Specification, etc.

Patent event code: PX07012R01I

Patent event date: 20190212

Comment text: Amendment to Specification, etc.

Patent event code: PX07012R01I

X701 Decision to grant (after re-examination)
GRNT Written decision to grant
PR0701 Registration of establishment

Comment text: Registration of Establishment

Patent event date: 20210202

Patent event code: PR07011E01D

PR1002 Payment of registration fee

Payment date: 20210203

End annual number: 3

Start annual number: 1

PG1601 Publication of registration
PR1001 Payment of annual fee

Payment date: 20231211

Start annual number: 4

End annual number: 4

PR1001 Payment of annual fee

Payment date: 20241127

Start annual number: 5

End annual number: 5