KR101809819B1 - Method and system for tongue diagnosis based on image of tongue - Google Patents
Method and system for tongue diagnosis based on image of tongue Download PDFInfo
- Publication number
- KR101809819B1 KR101809819B1 KR1020160020966A KR20160020966A KR101809819B1 KR 101809819 B1 KR101809819 B1 KR 101809819B1 KR 1020160020966 A KR1020160020966 A KR 1020160020966A KR 20160020966 A KR20160020966 A KR 20160020966A KR 101809819 B1 KR101809819 B1 KR 101809819B1
- Authority
- KR
- South Korea
- Prior art keywords
- tongue
- image
- tongue image
- examinee
- diagnostic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003745 diagnosis Methods 0.000 title claims abstract description 82
- 238000000034 method Methods 0.000 title claims abstract description 32
- 238000012545 processing Methods 0.000 claims abstract description 24
- 238000004171 remote diagnosis Methods 0.000 claims description 31
- 238000005286 illumination Methods 0.000 claims description 15
- 238000003384 imaging method Methods 0.000 claims description 15
- 208000024891 symptom Diseases 0.000 claims description 10
- 238000004458 analytical method Methods 0.000 claims description 8
- 238000010586 diagram Methods 0.000 description 14
- 238000002405 diagnostic procedure Methods 0.000 description 10
- 238000012216 screening Methods 0.000 description 10
- 206010025482 malaise Diseases 0.000 description 9
- 201000010099 disease Diseases 0.000 description 8
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 8
- 210000001685 thyroid gland Anatomy 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 238000012546 transfer Methods 0.000 description 4
- 230000001919 adrenal effect Effects 0.000 description 3
- 210000004556 brain Anatomy 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000001079 digestive effect Effects 0.000 description 3
- 230000007170 pathology Effects 0.000 description 3
- 210000002307 prostate Anatomy 0.000 description 3
- 230000002685 pulmonary effect Effects 0.000 description 3
- 210000002700 urine Anatomy 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000035622 drinking Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000001815 facial effect Effects 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 238000010998 test method Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 208000034693 Laceration Diseases 0.000 description 1
- 206010024229 Leprosy Diseases 0.000 description 1
- 240000006394 Sorghum bicolor Species 0.000 description 1
- 235000011684 Sorghum saccharatum Nutrition 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000002224 dissection Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 201000006549 dyspepsia Diseases 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 229940124595 oriental medicine Drugs 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000007665 sagging Methods 0.000 description 1
- 230000000391 smoking effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/45—For evaluating or diagnosing the musculoskeletal system or teeth
- A61B5/4538—Evaluating a particular part of the muscoloskeletal system or a particular medical condition
- A61B5/4542—Evaluating the mouth, e.g. the jaw
- A61B5/4552—Evaluating soft tissue within the mouth, e.g. gums or tongue
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0033—Features or image-related aspects of imaging apparatus, e.g. for MRI, optical tomography or impedance tomography apparatus; Arrangements of imaging apparatus in a room
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0077—Devices for viewing the surface of the body, e.g. camera, magnifying lens
-
- G06F17/30318—
-
- G06F19/321—
-
- G06F19/34—
-
- G06F19/3418—
-
- G06F19/3443—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/22—Social work or social welfare, e.g. community support activities or counselling services
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Physics & Mathematics (AREA)
- Animal Behavior & Ethology (AREA)
- Veterinary Medicine (AREA)
- Biophysics (AREA)
- Pathology (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Public Health (AREA)
- Business, Economics & Management (AREA)
- Tourism & Hospitality (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Dentistry (AREA)
- Physical Education & Sports Medicine (AREA)
- Human Resources & Organizations (AREA)
- Radiology & Medical Imaging (AREA)
- Child & Adolescent Psychology (AREA)
- Rheumatology (AREA)
- Orthopedic Medicine & Surgery (AREA)
- Economics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Marketing (AREA)
- Primary Health Care (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
혀 이미지를 기반으로 한 설진 방법 및 시스템이 개시된다. 혀 이미지를 기반으로 한 설진 방법은 혀 이미지 촬영 장치의 환자 접수부가 피 검진자의 기초 입력 항목 정보를 입력받는 단계, 혀 이미지 촬영 장치의 조명부가 피 검진자의 혀 이미지의 촬상을 위해 설정된 조명 값에 따른 조명을 생성하는 단계, 혀 이미지 촬영 장치의 카메라부가 혀 이미지를 촬상하는 단계, 혀 이미지 촬영 장치의 이미지 가공부가 혀 이미지를 보정하는 단계, 혀 이미지 촬영 장치의 데이터 전송부가 이미지 가공부에 의해 보정된 보정 혀 이미지 및 기초 입력 항목 정보를 빅 데이터 서버로 전송하는 단계와 혀 이미지 촬영 장치의 환자 내방 알림부가 검진자의 진단 보조 장치로 피검진자의 내방을 알리는 단계를 포함할 수 있다.A method and system based on tongue images are disclosed. The tongue image-based tongue image-based tongue image-based tongue image-based tongue image-based tongue image-based tongue image-based tongue image-based tongue image-based tongue image-based tongue image- A step of photographing a tongue image of a camera portion of a tongue image photographing device, a step of correcting a tongue image of an image processing portion of the tongue image photographing device, a step of correcting the tongue image data of the tongue image photographing device Transmitting the corrected tongue image and basic input item information to the big data server, and informing the inside of the examinee to the diagnosis assistant device of the examinee's internal announcement section of the tongue image photographing apparatus.
Description
본 발명은 진단 방법 및 장치에 관한 것으로서, 보다 상세하게는 혀 이미지를 기반으로 한 설진 방법 및 시스템에 관한 것이다.The present invention relates to a diagnostic method and apparatus, and more particularly, to a diagnostic method and system based on a tongue image.
일반적으로 인체의 혀를 육안으로 관찰하여 피검진자의 병증을 진단하는 설진은 수천 년 이상 전해져 내려 온 한의학의 진단 방법으로 국내뿐만 아니라 동양/서양에서도 그 효능을 인정 받고 있다.In general, the tongue of the human body is visually examined to diagnose the pathology of the examinee, which has been recognized for thousands of years as a diagnostic method for oriental medicine.
설진을 위해서 검진자가 육안으로 피검진자의 혀를 세심히 관찰하는 과정이 필요하다. 이러한 진단 과정을 위해 피검진자가 오랜 시간 입을 벌리고 혀를 내밀고 있어야 한다. 따라서, 피검진자와 검진자가 서로 불편한 점이 있었으며, 검진자가 과거 피검진자의 혀 상태를 정확하게 알 수 없다는 불편함이 있었다. For screening, it is necessary for the examiner to observe the tongue of the examinee with the naked eye. For this diagnostic procedure, the examinee must hold his tongue out for a long time. Therefore, there was a discomfort between the examinee and the examinee, and there was an inconvenience that the examinee could not accurately grasp the tongue state of the examinee in the past.
이러한 불편함을 해소하기 위해 최근에는 많은 검진자가 카메라로 피검진자의 혀 이미지를 촬영하고 촬영된 혀 이미지를 보면서 진단을 하는 방법을 사용하고 있다. 이러한 혀 이미지 기반의 진단 방법이 사용하는 이유는 피검진자의 혀를 좀 더 세밀히 관찰할 수 있으며, 향후 피검진자의 병증 진행에 있어 비교 자료로 사용할 수 있기 때문이다. In order to overcome such inconvenience, in recent years, many examiners use a camera to take an image of the tongue of the examinee and to make a diagnosis by looking at the image of the tongue taken. The reason for using this tongue image-based diagnosis method is that the tongue of the examinee can be observed more closely and it can be used as a comparative data in the progression of the disease of the examinee in the future.
그러나 카메라로 혀를 촬영하는 방법은 촬영 환경(예를 들어, 빛과 조명 또는 촬영 거리)이 달라 촬영된 혀 이미지가 실제 육안으로 본 것과 색감이 현저히 차이를 보이는 경우가 많고, 포커스가 제대로 맞지 않는 경우가 많으며, 카메라로 혀 이미지를 촬영 후 촬영된 이미지를 진단에 사용하기 위해 검진자의 진단용 PC(personal computer)로 옮기는 번거로운 과정을 거쳐야 했다. 또한 검진자는 진단이 끝난 후 촬영된 혀 이미지를 향후 피검진자에 대한 재진 시점에 재사용할 수 있도록 관리하기 위해 번거로운 자료 정리 작업을 거쳐야 했다.However, there are many cases in which the tongue is photographed with a camera. The image of the tongue photographed by the user (for example, light and lighting or shooting distance) is different from that of the naked eye and the color is significantly different. In many cases, after taking a tongue image with a camera, the captured image had to go through a cumbersome process of transferring it to a diagnostic personal computer (PC) for diagnosis. In addition, the examiner had to go through a cumbersome process of organizing the image of the tongue taken after the diagnosis, so that the image could be reused at the time of the examination of the examinee in the future.
본 발명의 일 측면은 혀 이미지를 기반으로 한 설진 방법을 제공한다.One aspect of the present invention provides a method of screening based on tongue images.
본 발명의 다른 측면은 혀 이미지를 기반으로 한 설진 시스템을 제공한다.Another aspect of the present invention provides a tongue image-based diagnostic system.
본 발명의 일 측면에 따른 혀 이미지를 기반으로 한 설진 방법은 혀 이미지 촬영 장치의 환자 접수부가 피 검진자의 기초 입력 항목 정보를 입력받는 단계, 상기 혀 이미지 촬영 장치의 조명부가 피 검진자의 혀 이미지의 촬상을 위해 설정된 조명 값에 따른 조명을 생성하는 단계, 상기 혀 이미지 촬영 장치의 카메라부가 상기 혀 이미지를 촬상하는 단계, 상기 혀 이미지 촬영 장치의 이미지 가공부가 상기 혀 이미지를 보정하는 단계, 상기 혀 이미지 촬영 장치가 상기 이미지 가공부에 의해 보정된 보정 혀 이미지 및 상기 기초 입력 항목 정보를 빅 데이터 서버로 전송하는 단계와 상기 혀 이미지 촬영 장치의 환자 내방 알림부가 검진자의 진단 보조 장치로 상기 피검진자의 내방을 알리는 단계를 포함할 수 있되, 상기 기초 입력 항목 정보는 상기 피검진자의 주호소 증상 정보, 가족력 정보, 바이탈 정보, 생활 습관 정보, 기왕력 정보를 포함할 수 있다.A tongue image-based tongue image retrieval method according to an aspect of the present invention includes the steps of: receiving basic input item information of a patient receiving section's examinee's tongue image photographing apparatus; receiving, by the illuminating section of the tongue image photographing apparatus, Generating an illumination according to an illumination value set for imaging; capturing an image of the tongue by a camera unit of the tongue image photographing apparatus; correcting the tongue image by an image processing unit of the tongue image photographing apparatus; Transmitting the corrected tongue image and the basic input item information corrected by the image processing unit to the big data server by the photographing apparatus; and transmitting the corrected tongue image corrected by the image processing unit to the big data server, The basic input item information may include information indicating that the basic input item information State parties can include complaints information, history information, vital information, lifestyle information, and history information.
한편, 상기 혀 이미지를 보정하는 단계는 상기 혀 이미지에서 혀에 대응되는 부분 이미지를 추출하는 단계, 상기 부분 이미지의 RGB(red green blue) 색채 정보 및 RGB 밝기 정보를 추출하는 단계, 상기 부분 이미지의 상기 RGB 색채 정보 및 상기 RGB 밝기 정보를 기반으로 색채 조정값 및 밝기 조정값을 결정하는 단계, 상기 색채 조정값 및 상기 밝기 조정값을 기반으로 상기 부분 이미지의 색채 및 밝기를 조정하여 상기 보정 혀 이미지를 생성하는 단계를 포함할 수 있다.The step of correcting the tongue image may include extracting a partial image corresponding to a tongue in the tongue image, extracting RGB (red green blue) color information and RGB brightness information of the partial image, Determining a color adjustment value and a brightness adjustment value based on the RGB color information and the RGB brightness information, adjusting the color and brightness of the partial image based on the color adjustment value and the brightness adjustment value, For example.
또한, 혀 이미지를 기반으로 한 설진 방법은 상기 빅 데이터 서버가 상기 보정 혀 이미지 및 상기 기초 입력 항목 정보를 상기 진단 보조 장치로 전송하는 단계와 상기 진단 보조 장치가 상기 보정된 혀 이미지 및 상기 기초 입력 항목 정보를 기반으로 생성된 상기 피검진자에 대한 진료 정보를 상기 빅 데이터 서버로 전송하는 단계를 더 포함할 수 있다.In addition, a tongue image-based diagnostic method may include the steps of the big data server transmitting the corrected tongue image and the basic input item information to the diagnostic assistant device, And transmitting the medical care information about the examinee, which is generated based on the item information, to the big data server.
또한, 상기 진료 정보는 설진 병증 분류 정보를 포함하고, 상기 설진 병증 분류 정보는 주요 병증을 뇌(brain), 척추(spine), 소화기관(digestive), 심장(heart), 폐(pulmonary), 갑상선(thyroid), 소변(urin), 전립선(prostate), 자궁(uterine), 신장(adrenal), 근골격, 신경(neuro)으로 세분화하여 진료한 정보이고, 상기 빅 데이터 서버의 진단 정보 데이터베이스는 상기 기초 입력 항목 정보 및 상기 설진 병증 분류 정보를 기반으로 구성될 수 있다.In addition, the medical care information includes sickness classifying information, and the sickness classifying information includes at least one of brain, spine, digestive, heart, pulmonary, thyroid, wherein the diagnostic information database of the big data server is divided into three categories: a thyroid, a urine, a prostate, a uterine, an adrenal, a musculoskeletal, Item information and the dyspeptic classification information.
또한, 혀 이미지를 기반으로 한 설진 방법은 상기 진단 보조 장치가 상기 빅 데이터 서버로 유사 진단 사례를 요청하는 단계, 상기 빅데이터 서버가 상기 보정 혀 이미지 및 상기 기초 입력 항목 정보 각각을 기반으로 유사 진단 사례를 탐색하는 단계와 상기 진단 보조 장치가 상기 빅데이터 서버로부터 상기 유사 진단 사례를 수신하는 단계를 더 포함할 수 있다.In addition, a tongue image-based diagnostic method may include the steps of: the diagnostic assistant requesting a similar diagnostic case to the big data server; the big data server performing a similar diagnosis based on the corrected tongue image and the basic input item information, Searching the case, and receiving the similar diagnostic case from the big data server.
또한, 혀 이미지를 기반으로 한 설진 방법은 상기 진단 보조 장치가 원격 진단 서버로 원격 진료를 요청하는 단계, 상기 원격 진단 서버가 상기 원격 진료를 위해 상기 진단 보조 장치와 진단 지원 장치를 연결하는 단계, 상기 진단 보조 장치가 상기 진단 지원 장치로 상기 보정 혀 이미지 및 상기 기초 입력 항목 정보를 전송하는 단계와 상기 진단 보조 장치가 상기 진단 지원 장치로부터 상기 보정 혀 이미지 및 상기 기초 입력 항목 정보를 기반으로 생성된 진료 정보를 수신하는 단계를 더 포함할 수 있다.In addition, the diagnostic method based on the tongue image may include a step of the remote diagnosis server requesting the remote diagnosis to the remote diagnosis server, the remote diagnosis server connecting the diagnosis aid and the diagnosis aid for the remote diagnosis, Wherein the diagnostic assistant device transmits the corrected tongue image and the basic input item information to the diagnosis support device and the diagnostic assistant device generates the corrected tongue image and the basic input item information based on the corrected tongue image and the basic input item information And receiving the medical care information.
본 발명의 또 다른 측면에 따른 혀 이미지를 기반으로 한 설진 시스템은 혀 이미지 촬영 장치를 포함하고, 상기 혀 이미지 촬영 장치는 피 검진자의 기초 입력 항목 정보를 입력받도록 구현되는 환자 접수부, 피 검진자의 혀 이미지의 촬상을 위해 설정된 조명 값에 따른 조명을 생성하도록 구현되는 조명부, 상기 혀 이미지를 촬상하도록 구현되는 카메라부, 상기 혀 이미지를 보정하도록 구현되는 이미지 가공부, 상기 이미지 가공부에 의해 보정된 보정 혀 이미지 및 상기 기초 입력 항목 정보를 빅 데이터 서버로 전송하도록 구현되는 데이터 전송부, 검진자의 진단 보조 장치로 상기 피검진자의 내방을 알리도록 구현되는 환자 내방 알림부를 포함할 수 있되, 상기 기초 입력 항목 정보는 상기 피검진자의 주호소 증상 정보, 가족력 정보, 바이탈 정보, 생활 습관 정보, 기왕력 정보를 포함할 수 있다.According to another aspect of the present invention, a tongue image-based diagnostic system includes a tongue image capturing device, wherein the tongue image capturing device is configured to receive the basic input item information of the examinee, An illumination unit configured to generate an illumination according to an illumination value set for imaging an image, a camera unit configured to image the tongue image, an image processing unit configured to correct the tongue image, A tongue image, and basic input item information to a big data server; and a patient information notifying unit configured to inform the examinee of the inside of the examinee with a diagnostic assistant device of the examinee, The information includes symptom information, family history information, vitality information, Bow customs information may include history information.
한편, 상기 이미지 가공부는 기 혀 이미지에서 혀에 대응되는 부분 이미지를 추출하고, 상기 부분 이미지의 RGB(red green blue) 색채 정보 및 RGB 밝기 정보를 추출하고, 상기 부분 이미지의 상기 RGB 색채 정보 및 상기 RGB 밝기 정보를 기반으로 색채 조정값 및 밝기 조정값을 결정하고, 상기 색채 조정값 및 상기 밝기 조정값을 기반으로 상기 부분 이미지의 색채 및 밝기를 조정하여 상기 보정 혀 이미지를 생성하도록 구현될 수 있다.The image processing unit extracts a partial image corresponding to the tongue in the tongue image, extracts RGB (red green blue) color information and RGB brightness information of the partial image, and outputs the RGB color information and the RGB color information of the partial image, Determine the color adjustment value and the brightness adjustment value based on the RGB brightness information, and adjust the color and brightness of the partial image based on the color adjustment value and the brightness adjustment value to generate the corrected tongue image .
또한, 상기 설진 시스템은 상기 보정 혀 이미지 및 상기 기초 입력 항목 정보를 상기 진단 보조 장치로 전송하도록 구현되는 상기 빅 데이터 서버와 상기 보정된 혀 이미지 및 상기 기초 입력 항목 정보를 기반으로 생성된 상기 피검진자에 대한 진료 정보를 상기 빅 데이터 서버로 전송하도록 구현되는 상기 진단 보조 장치를 더 포함할 수 있다.The diagnosis system may further include a data server configured to transmit the corrected tongue image and the basic input item information to the diagnosis assistant device, the corrected tongue image, and the examinee's information generated based on the basic input item information, And transmits the medical care information to the big data server.
또한, 상기 진료 정보는 설진 병증 분류 정보를 포함하고, 상기 설진 병증 분류 정보는 주요 병증을 뇌(brain), 척추(spine), 소화기관(digestive), 심장(heart), 폐(pulmonary), 갑상선(thyroid), 소변(urin), 전립선(prostate), 자궁(uterine), 신장(adrenal), 근골격, 신경(neuro)으로 세분화하여 진료한 정보이고, 상기 빅 데이터 서버의 진단 정보 데이터베이스는 상기 기초 입력 항목 정보 및 상기 설진 병증 분류 정보를 기반으로 구성될 수 있다.In addition, the medical care information includes sickness classifying information, and the sickness classifying information includes at least one of brain, spine, digestive, heart, pulmonary, thyroid, wherein the diagnostic information database of the big data server is divided into three categories: a thyroid, a urine, a prostate, a uterine, an adrenal, a musculoskeletal, Item information and the dyspeptic classification information.
또한, 상기 진단 보조 장치가 상기 빅 데이터 서버로 유사 진단 사례를 요청하고 상기 유사 진단 사례를 수신하도록 구현될 수 있되, 상기 유사 진단 사례는 상기 빅데이터 서버에 의해 상기 보정 혀 이미지 및 상기 기초 입력 항목 정보 각각을 기반으로 탐색될 수 있다.The diagnostic assistant device may be configured to request a similar diagnostic case to the big data server and receive the similar diagnostic case, wherein the similar diagnostic case is generated by the big data server, Information can be searched based on each information.
또한, 상기 진단 보조 장치는 원격 진단 서버로 원격 진료를 요청하고, 상기 원격 진단 서버에 의해 상기 원격 진료를 위해 연결된 진단 지원 장치로 상기 보정 혀 이미지 및 상기 기초 입력 항목 정보를 전송하고, 상기 진단 지원 장치로부터 상기 보정 혀 이미지 및 상기 기초 입력 항목 정보를 기반으로 생성된 진료 정보를 수신하도록 구현될 수 있다.The diagnostic assistant device may also request a remote diagnosis from a remote diagnosis server and transmit the corrected tongue image and the basic entry information to a diagnostic support device connected to the remote diagnosis by the remote diagnosis server, And receive medical information generated from the device based on the corrected tongue image and the basic input item information.
본 발명의 실시예에 따른 혀 이미지를 기반으로 한 설진 방법 및 시스템은 피검진자와 검진자에게 매우 편리한 혀 영상 촬영 환경을 제공할 수 있다. 또한, 검진자의 최적의 혀 이미지를 획득하고 획득된 혀 이미지를 기반으로 진단을 수행함에 있어서 빅 데이터 서버에 저장된 혀 이미지 및 혀 이미지에 따른 진단 정보가 활용될 수 있다. 또한, 설진에 미숙한 검진자는 빅 데이터 서버를 이용한 설진 사례 검색 및 설진 전문가의 설진 진단 지원 방법을 통해 정확한 진단을 내릴 수 있다. 또한, 설진 진단 사례를 체계적으로 누적한 빅 데이터 서버의 데이터베이스를 통해 설진 진단에 미숙한 검진자에게 진단 사례가 제공되어 진단에 대한 가이드 라인이 제시될 수 있다. 따라서, 설진 진단 장치의 사용 기간이 늘어갈수록 검진자는 혀 이미지를 기반으로 보다 정확한 진단을 내릴 수 있다.The tongue image-based tongue image-based method and system according to the embodiment of the present invention can provide a very convenient tongue image shooting environment for the examinee and the examinee. In addition, diagnostic information based on the tongue image and the tongue image stored in the big data server can be utilized in acquiring the optimal tongue image of the examiner and performing the diagnosis based on the acquired tongue image. In addition, a screening examiner who is not familiar with the diagnosis of the disease can make an accurate diagnosis through the search of the case of the skin using the Big Data Server and the diagnosis support method of the screening specialist. In addition, the database of Big Data Server, which systematically accumulates diagnostic diagnosis cases, provides diagnosis cases to inexperienced examiners for diagnosis, and guidelines for diagnosis can be presented. Therefore, as the period of use of the diagnosis device increases, the examiner can make a more accurate diagnosis based on the tongue image.
도 1은 본 발명의 실시예에 따른 설진 시스템을 나타낸 개념도이다.
도 2는 본 발명의 실시예에 따른 혀 이미지 촬영 장치를 나타낸 개념도이다.
도 3은 본 발명의 실시예에 따른 진단 보조 장치를 나타낸 개념도이다.
도 4는 본 발명의 실시예에 따른 설진 방법을 나타낸 순서도이다.
도 5는 본 발명의 실시예에 따른 설진을 위한 카메라부의 동작을 나타낸 순서도이다.
도 6은 본 발명의 실시예에 따른 설진을 위한 카메라의 동작을 나타낸 순서도이다.
도 7은 본 발명의 실시예에 따른 설진을 위한 이미지 가공부의 동작을 나타낸 순서도이다.
도 8은 본 발명의 실시에에 따른 혀 이미지를 기반으로 한 진단 방법을 나타낸 개념도이다.
도 9은 본 발명의 실시예에 따른 원격 진단 방법을 나타낸 개념도이다.
도 10은 본 발명의 실시예에 따른 혀 이미지 촬영 장치를 나타낸 개념도이다.
도 11은 본 발명의 실시예에 따른 설진 방법을 나타낸 개념도이다.
도 12는 본 발명의 실시예에 따른 빅 데이터 서버의 진단 정보 데이터베이스를 활용한 검진 방법이 개시된다.FIG. 1 is a conceptual diagram showing a skinning system according to an embodiment of the present invention.
2 is a conceptual diagram showing a tongue image photographing apparatus according to an embodiment of the present invention.
3 is a conceptual diagram showing a diagnosis assisting apparatus according to an embodiment of the present invention.
FIG. 4 is a flowchart illustrating a skinning method according to an embodiment of the present invention.
FIG. 5 is a flowchart illustrating an operation of a camera unit according to an embodiment of the present invention.
FIG. 6 is a flowchart illustrating an operation of a camera for screening according to an embodiment of the present invention.
7 is a flowchart showing the operation of the image processing unit for skin detection according to the embodiment of the present invention.
8 is a conceptual diagram illustrating a diagnostic method based on a tongue image according to an embodiment of the present invention.
9 is a conceptual diagram illustrating a remote diagnosis method according to an embodiment of the present invention.
10 is a conceptual diagram showing a tongue image photographing apparatus according to an embodiment of the present invention.
FIG. 11 is a conceptual diagram illustrating a method of searching for an object according to an embodiment of the present invention.
12 is a flowchart illustrating a test method using a diagnostic information database of a big data server according to an embodiment of the present invention.
후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예와 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 본 발명의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 본 발명의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다. 도면에서 유사한 참조 부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다.The following detailed description of the invention refers to the accompanying drawings, which illustrate, by way of illustration, specific embodiments in which the invention may be practiced. These embodiments are described in sufficient detail to enable those skilled in the art to practice the invention. It should be understood that the various embodiments of the present invention are different, but need not be mutually exclusive. For example, certain features, structures, and characteristics described herein may be implemented in other embodiments without departing from the spirit and scope of the invention in connection with an embodiment. It is also to be understood that the position or arrangement of the individual components within each disclosed embodiment may be varied without departing from the spirit and scope of the invention. The following detailed description is, therefore, not to be taken in a limiting sense, and the scope of the present invention is to be limited only by the appended claims, along with the full scope of equivalents to which such claims are entitled, if properly explained. In the drawings, like reference numerals refer to the same or similar functions throughout the several views.
이하, 도면들을 참조하여 본 발명의 바람직한 실시예들을 보다 상세하게 설명하기로 한다.Hereinafter, preferred embodiments of the present invention will be described in more detail with reference to the drawings.
본 발명의 실시예에 따른 혀 이미지를 기반으로 한 설진 방법 및 장치에서는 혀 영상 촬영 장치를 사용하여 피검진자의 혀를 고화질 정밀 촬영 후 육안으로 보기에 가장 적합한 혀 이미지로 변환하여 검진자에게 제공할 수 있다. The tongue image-based tongue image-based tongue image-capturing device according to the embodiment of the present invention can convert the tongue of the examinee into a tongue image most suitable for visual observation and provide the tongue image to the examinee have.
본 발명의 실시예에 따른 혀의 이미지를 기반으로 한 설진 방법 및 장치가 사용되는 경우, 검사자가 육안을 통해 검진하는데 있어 최적의 혀 이미지를 제공받을 수 있다. 촬상된 혀 이미지와 혀 이미지에 따른 진단 결과는 빅 데이터 서버로 전송될 수 있고, 빅 데이터 서버는 촬상된 혀 이미지와 혀 이미지에 따른 진단 결과를 분류하여 이후 설진에 활용할 수 있도록 검진자에게 제공할 수 있다. 빅 데이터 서버에 수집된 혀 이미지와 혀 이미지에 따른 진단 결과는 검사자의 설진 사례 분석 및 설진 진단 연구와 학습에 활용할 수 있다.When the method and apparatus based on the image of the tongue according to the embodiment of the present invention are used, an optimal tongue image can be provided for the examiner's visual inspection. Diagnosis results according to the captured tongue image and tongue image can be transmitted to the Big Data Server and the Big Data Server can classify the diagnosis result according to the captured tongue image and tongue image and provide it to the examinee have. Diagnosis results according to tongue image and tongue image collected in big data server can be used for case analysis and survey diagnosis and research.
이하, 구체적인 혀 이미지를 기반으로 한 설진 방법 및 장치가 개시된다. DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, a specific method and apparatus based on tongue images are disclosed.
도 1은 본 발명의 실시예에 따른 설진 시스템을 나타낸 개념도이다. FIG. 1 is a conceptual diagram showing a skinning system according to an embodiment of the present invention.
도 1을 참조하면, 설진 시스템은 혀 이미지 촬영 장치(100), 진단 보조 장치(110), 빅 데이터 서버(120), 원격 진단 서버(130), 진단 지원 장치(140)를 포함할 수 있다.Referring to FIG. 1, the diagnostic system may include a
혀 이미지 촬영 장치(100)는 피검사자의 혀 이미지에 대한 촬영을 위해 구현될 수 있다. 혀 이미지 촬영 장치는 피검사자의 안면을 안착 후, 광원을 조사하여 피검사자의 혀 이미지를 촬상한 후 촬상된 혀 이미지를 가공하기 위해 구현될 수 있다. 혀 이미지 촬영 장치(100)는 환자 관련 정보를 수신하기 위한 입력부 및 촬상된 혀 이미지를 출력하기 위한 디스플레이를 더 포함할 수 있다. 혀 이미지 촬영 장치(100)는 혀 이미지에 대한 정보, 피검진자의 접수 정보를 빅 데이터 서버로 전송할 수 있다.The tongue
진단 보조 장치(110)는 빅 데이터 서버(120)와의 통신을 통해 피검사자의 혀에 대한 이전 촬상 영상, 이전 진단 결과를 열람하기 위해 구현될 수 있다. 또한, 진단 보조 장치(110)는 혀 이미지 촬영 장치에 의해 촬상된 혀 이미지 및 촬상된 혀 이미지에 따른 진단 결과에 대한 정보를 빅 데이터 서버(120)로 제공할 수도 있다. 또한, 진단 보조 장치(110)는 검진자의 검색 키워드를 입력받고, 검색 키워드를 기반으로 빅 데이터 서버(120)를 검색한 검색 결과를 검진자에게 제공하기 위해 구현될 수 있다.The
빅 데이터 서버(120)는 복수의 진단 보조 장치로부터 수신한 혀 이미지 및 혀 이미지에 따른 진단 결과에 대한 정보를 수집하고, 검진자의 요청에 따른 혀 이미지 정보 및 진단 결과 정보를 검진자에게 제공하기 위해 구현될 수 있다. 빅 데이터 서버(120)는 수집된 혀 이미지 및 혀 이미지에 따른 진단 결과를 별도의 진단 정보 데이터베이스에 저장할 수 있다.The
빅 데이터 서버(120)의 진단 정보 데이터베이스는 설진 진단에 최적화되고 체계화된 모델링된 데이터베이스를 검진자에게 제공하기 위해 설진 피검사자 기초 입력 항목 정보와 설진 병증 분류 정보를 기반으로 구현될 수 있다. 이러한 진단 정보 데이터베이스를 통해 빅 데이터가 수집되어 검진자에게 제공될 수 있다.The diagnostic information database of the
원격 진단 서버(130)는 검진자/피검진자의 요청이 있는 경우, 다른 검진자에 의한 원격 검진 결과를 제공하기 위해 구현될 수 있다. 원격 진단 서버(130)는 원격 진단을 지원할 수 있는 복수의 다른 검진자의 진단 지원 장치(또는 진단 보조 장치)(140)와 연계되어 동작할 수 있다. 예를 들어, 혀 이미지 촬영 장치에 의해 촬상된 혀 이미지는 원격 진단 서버를 통해 다른 검진자의 진단 지원 장치(140)로 전송될 수 있다. 다른 검진자는 혀 이미지에 따른 원격 검진 결과를 생성하여 원격 진단 서버(130)를 통해 검진자의 진단 보조 장치(110)로 전송할 수 있다. 검진자는 다른 검진자에 의한 원격 검진 결과를 참조하여 혀 이미지에 따른 검진 결과를 생성할 수 있다. 마찬가지로 다른 검진자의 진단 지원 장치(140)도 진단을 위한 참조 자료로 활용하기 위해 빅 데이터 서버(120)와 연계되어 빅 데이터 서버(120)에 저장된 혀 이미지 및 혀 이미지에 따른 진단 결과를 수신할 수 있다.The
진단 지원 장치(140)는 원격 진단 서버(130)와 연결되고 진단 보조 장치(110)로부터 원격 진료 요청이 있는 경우 원격 진료를 수행하기 위해 구현될 수 있다.
이하, 각 구성부의 구체적인 구성 및 동작이 개시된다.Hereinafter, the specific configuration and operation of each constituent unit are disclosed.
도 2는 본 발명의 실시예에 따른 혀 이미지 촬영 장치를 나타낸 개념도이다. 2 is a conceptual diagram showing a tongue image photographing apparatus according to an embodiment of the present invention.
도 2를 참조하면, 혀 이미지 촬영 장치는 안면 안착부(200), 조명부(210), 카메라부(230), 모듈 제어부(220), 이미지 가공부(240), 데이터 전송부(250), 환자 내방 알림부(260), 영상 표시부(270), 환자 접수부(280), 사용자 인터페이스부(290) 및 제어부(295)를 포함할 수 있다.2, the tongue image photographing apparatus includes a
안면 안착부(200)는 피검진자가 얼굴을 대고 입을 벌려 혀 이미지를 촬영할 수 있도록 구현될 수 있다.The
조명부(210)는 혀 이미지의 촬영을 위한 광원을 제공하기 위해 구현될 수 있다. The
카메라부(230)는 고화질(예를 들어, 2040만 화소 이상) 이미지에 대한 촬영 기능을 갖추고 혀 이미지를 촬영하기 위해 구현될 수 있다.The
모듈 제어부(220)는 제어부의 제어를 기반으로 조명부 및 카메라부의 동작을 제어하기 위해 구현될 수 있다.The
환자 접수부(280)는 피검진자의 설진 진단을 위해 피검진자의 기본 정보를 입력받기 위해 구현될 수 있다.The
사용자 인터페이스(290)는 환자 접수부(280)로 피검진자 정보를 입력하고, 카메라부(230)에 의해 촬상된 혀 이미지의 빅 데이터 서버로의 전송을 위한 입력 신호의 입력을 위해 구현될 수 있다.The
영상 표시부(270)는 카메라부(230)에 의해 촬상된 피검진자의 혀 이미지를 피검진자 또한, 볼 수 있도록 출력하기 위해 구현될 수 있다.The
이미지 가공부(240)는 카메라부(230)에 의해 촬상된 피검진자의 혀 이미지를 보정하여 검진자가 설진하기 위한 최적의 이미지로 가공하기 위해 구현될 수 있다. 이미지 가공부(240)는 설진 진단에 가장 적합하도록 혀 이미지의 크기, 색채, 밝기 등을 가공(조정)할 수 있다.The
데이터 전송부(250)는 이미지 가공부(240)에서 획득된 혀 이미지와 피검진자에 대한 접수 정보를 빅 데이터 서버로 전송하기 위해 구현될 수 있다.The
환자 내방 알림부(260)는 피검진자의 접수와 혀 영상 촬영의 종료 후 촬영된 영상에 대한 검진자의 진단(진료)가 기다리고 있음을 알리기 위해 구현될 수 있다.The patient's
제어부(295)는 각 구성부의 동작을 제어하기 위해 구현될 수 있다.The
구체적으로 피검진자가 혀 영상 촬영을 대기하면, 피검진자의 혀 이미지를 촬상하는 촬영자는 환자 접수부(280)를 통해 피검진자에 대한 설진에 필요한 기본 정보를 기록 후 피검진자의 혀 이미지를 촬상할 수 있다. 피검진자가 안면 안착부(200)에 얼굴을 안착시켜 혀를 촬영할 수 있는 준비를 완료하면, 피검진자의 혀 이미지를 촬영하는 촬영자는 제어부(295)를 통해 카메라부(230)에서 영상 표시부(270)로 표시되는 라이브 뷰(실시간 영상)를 통해 피검진자의 혀 이미지가 정확하게 촬영될 수 있는지 여부를 판단할 수 있다.Specifically, when the examinee waits for the tongue image capturing, the photographer who takes an image of the tongue of the examinee records the basic information necessary for dissection of the examinee through the
이때, 카메라부(230)는 유선 또는 무선의 방법을 통하여 제어부(295)에 의해 제어되고 촬영자가 사용자 인터페이스부(290)를 통해 피검진자의 혀 영상을 촬영하게 되면, 제어부(295)에 의해 조명부(210)의 전원이 온(on) 상태로 전환되고 곧이어 일정한 조도 환경(조도 11.0kLux~ 11.7kLux)에서 카메라부(230)가 피검진자의 혀 이미지를 획득할 수 있다. 촬영된 피검진자의 혀 이미지가 정상적으로 촬영되었다고 판단되는 경우, 사용자 인터페이스부(290)를 통해 촬상된 이미지가 이미지 가공부(240)로 전달될 수 있다.At this time, the
이미지 가공부(240)로 전달된 혀 이미지는 검진자가 육안으로 보기에 가장 적합한 형태가 되도록 잘리고, RGB(red/green/blue) 색채와 RGB 색상 별 밝기 값이 조정될 수 있다. 이렇게 가공된 피검진자의 혀 이미지와 진단에 필요한 기본 정보는 데이터전송부(250)에 의해 빅 데이터 서버로 전달되어 빅 데이터 서버의 진단 정보 데이터베이스부에 저장될 수 있다. The tongue image transmitted to the
도 3은 본 발명의 실시예에 따른 진단 보조 장치를 나타낸 개념도이다.3 is a conceptual diagram showing a diagnosis assisting apparatus according to an embodiment of the present invention.
도 3을 참조하면, 진단 보조 장치는 진단 기록 열람 및 진단부(300), 이미지 뷰어부(320), 진단 사례 검색부(340)를 포함할 수 있다.Referring to FIG. 3, the diagnostic assistant device may include a diagnostic record viewing and diagnosis unit 300, an image viewer unit 320, and a diagnostic case searching unit 340.
진단 기록 열람 및 진단부(300)는 검진자가 빅 데이터 서버에 저장된 피검진자의 혀 이미지와 피검진자에 대한 진단 정보를 얻어와 열람하고 진단을 내린 후 진단 결과를 빅 데이터 서버로 다시 전송하여 저장하기 위해 구현될 수 있다.The diagnostic record browsing and diagnosis unit 300 obtains, reads, and diagnoses diagnostic images of the examinee's tongue image and the examinee stored in the big data server and transmits the diagnostic results to the big data server again for storage Lt; / RTI >
이미지 뷰어부(320)는 빅 데이터 서버로부터 가져온 피검진자의 혀 이미지들을 검진자가 확대하고 혀 이미지 간의 비교 등의 방법으로 세밀히 관찰할 수 있도록 하기 위한 기능을 제공하기 위해 구현될 수 있다.The image viewer unit 320 may be implemented to provide a function for enabling the examiner to enlarge the images of the tongue of the examinee taken from the big data server and to observe them in detail by a method such as comparison between tongue images.
진단 사례 검색부(340)는 검진자가 특정 병증이나 진단 사례를 기준으로 빅 데이터 서버에서 진단 기록 및 혀 이미지를 검색하면 그 검색 결과를 출력하여 보여 주기 위한 기능을 제공하기 위해 구현될 수 있다.The diagnostic case searching unit 340 can be implemented to provide a function for a user to display and output a search result when a diagnosis record and a tongue image are searched by a big data server based on a specific disease or diagnosis case.
도 4는 본 발명의 실시예에 따른 설진 방법을 나타낸 순서도이다. FIG. 4 is a flowchart illustrating a skinning method according to an embodiment of the present invention.
도 4에서는 혀 이미지 촬영 장치의 혀 이미지 촬영 후 혀 이미지를 기반으로 한 진단 동작이 개시된다.4, a tongue image-based diagnostic operation is started after the tongue image pickup of the tongue image pickup device.
도 4를 참조하면, 혀 이미지 촬영 장치는 환자 기본 정보의 입력 여부를 판단할 수 있다(단계 S400).Referring to FIG. 4, the tongue image photographing apparatus can determine whether patient basic information is input (step S400).
혀 이미지 촬영 장치에 환자 기본 정보가 입력되는 경우, 촬영이 가능한 상황인지 여부가 판단될 수 있다(단계 S410).When the patient basic information is input to the tongue image capturing apparatus, it can be determined whether or not the capturing is possible (step S410).
촬영이 가능한 상황으로 판단되는 경우, 조명부가 on 상태로 전환될 수 있다(단계 S420).If it is determined that photographing is possible, the illumination unit may be turned on (step S420).
조명부를 on 상태로 전환 후, 카메라부가 피검진자의 혀 이미지를 촬상할 수 있다(단계S430).After the illumination unit is turned on, the camera unit can capture an image of the tongue of the examinee (step S430).
혀 이미지에 대한 촬상 후 혀 이미지가 정상적으로 촬상되었는지 여부가 판단될 수 있다(단계 S440).It can be determined whether or not the tongue image has been normally captured after the imaging of the tongue image (step S440).
혀 이미지가 정상적으로 촬상되지 않은 경우, 다시 혀 이미지에 대한 촬상이 수행될 수 있다.If the tongue image is not normally captured, the imaging of the tongue image can be performed again.
반대로 혀 이미지가 정상적으로 촬상된 경우, 혀 이미지 촬영 장치는 촬상된 혀 이미지를 오려낼 수 있다(단계 S450).On the contrary, when the tongue image is normally picked up, the tongue image pickup device can cut out the captured tongue image (step S450).
혀 이미지만을 분석하기 위해 혀 이미지 촬영 장치는 촬상된 영상에 포함된 혀 이미지에 대한 분석을 통해 혀 이미지만을 오려낼 수 있다.In order to analyze only the tongue image, the tongue image photographing apparatus can cut out only the tongue image by analyzing the tongue image included in the captured image.
혀 이미지의 색상을 변환할 수 있다(단계 S460).The color of the tongue image can be converted (step S460).
혀 이미지 촬영 장치는 검진자의 보다 정확한 혀 진단을 위해 잘라내진 혀 이미지의 색상을 변환할 수 있다.The tongue imaging device can convert the color of the tongue image that has been cropped for a more accurate tongue diagnosis by the examiner.
검진자는 혀 이미지를 기반으로 피검진자에 대한 진단 결과를 생성할 수 있다. The examiner can generate a diagnostic result for the examinee based on the tongue image.
혀 이미지 촬영 장치는 직접 또는 진단 보조 장치를 통해 혀 이미지, 피 검진자의 접수 정보를 빅 데이터 서버로 전송할 수 있다(단계 S470). The tongue image capturing device can transmit the tongue image and the receipt information of the examinee to the big data server directly or through the diagnosis assistant device (step S470).
혀 이미지 촬영 장치는 진단 보조 장치로 접수된 신규 환자의 존재를 알릴 수 있다(S480). 검진자는 진단 보조 장치를 통해 신규 환자의 혀 이미지, 피 검진자의 접수 정보를 빅 데이터 서버로부터 수신할 수 있다.The tongue image capturing device can notify the existence of a new patient received by the diagnosis assisting device (S480). The examiner can receive the image of the tongue of the new patient and the receipt information of the examinee from the big data server through the diagnosis assisting device.
도 5는 본 발명의 실시예에 따른 설진을 위한 카메라부의 동작을 나타낸 순서도이다.FIG. 5 is a flowchart illustrating an operation of a camera unit according to an embodiment of the present invention.
도 5에서는 설진을 위한 카메라부의 제어 동작이 개시된다.In Fig. 5, the control operation of the camera section for initiating the detection is started.
도 5를 참조하면, 제어부는 모듈 제어부를 제어하여 카메라부의 전원을 ON 상태로 전환할 수 있다(단계 S500).Referring to FIG. 5, the control unit controls the module control unit to turn on the power of the camera unit (step S500).
카메라부의 전원을 ON 상태로 전환 후, 카메라부가 촬영 모드로 설정될 수 있다(단계 S510).After the camera unit is turned on, the camera unit may be set to the photographing mode (step S510).
제어부와 카메라부 간의 네트워크가 설정될 수 있다(단계 S520).The network between the control unit and the camera unit can be set (step S520).
유선 또는 무선의 방법을 통해 데이터 통신에 대한 연결을 요청하면 제어부와 카메라부가 연결될 수 있다.When a connection for data communication is requested through a wired or wireless method, the control unit and the camera unit can be connected.
제어부가 카메라부로 라이브뷰를 요청할 수 있다(단계 S530).The control unit can request a live view with the camera unit (step S530).
제어부는 카메라부에 의해 촬상된 영상에 대한 실시간 전송을 요청하기 위해 라이브 뷰를 요청할 수 있다.The control unit may request a live view to request real time transmission of the image captured by the camera unit.
라이브 뷰를 재생하고 촬영을 대기한다(단계 S540).The live view is reproduced and the photographing is awaited (step S540).
제어부는 카메라부가 보내온 라이브 뷰를 영상 표시부에 계속 표시해 주어 촬영자가 피검진자의 혀 영상이 정상적으로 촬영될 수 있는지 여부를 가늠하게 할 수 있다. 또한, 동시에 촬영자가 혀 영상을 촬영할 때까지 카메라부가 동작을 대기하도록 할 수 있다. The control unit may continue to display the live view sent by the camera unit on the image display unit so that the photographer can determine whether or not the tongue image of the examinee can be normally photographed. In addition, the camera unit can wait for the operation of the tongue until the photographer simultaneously captures the tongue image.
도 6은 본 발명의 실시예에 따른 설진을 위한 카메라의 동작을 나타낸 순서도이다. FIG. 6 is a flowchart illustrating an operation of a camera for screening according to an embodiment of the present invention.
도 6에서는 설진을 위한 카메라부의 제어 동작이 개시된다. 특히, 라이브 뷰의 재생 및 촬영의 대기 이후(단계 S600)의 동작이 개시된다. In Fig. 6, the control operation of the camera section for starting out is started. Particularly, the operation of the live view playback and shooting standby (step S600) is started.
도 6을 참조하면, 라이브뷰를 기반으로 혀 이미지에 대한 촬영이 가능한 상황인지 여부가 판단될 수 있다(단계 S610).Referring to FIG. 6, it can be determined whether or not the tongue image can be photographed based on the live view (step S610).
촬영자가 영상 표시부에 표시되는 라이브뷰를 보면서 피검진자의 혀 이미지에 대한 정상 촬영이 가능하다는 판단이 서면, 촬영자는 사용자 인터페이스부를 통해 카메라부의 피검진자의 혀 이미지에 대한 촬영을 제어부로 지시할 수 있다. 혀 이미지에 대한 촬영이 지시된 경우, 제어부는 카메라부를 제어하여 카메라부가 피검사자의 혀 이미지를 촬영하여(단계 S620) 혀 이미지를 획득할 수 있다(단계 S630).When the photographer judges that normal photographing of the tongue image of the examinee is possible while viewing the live view displayed on the image display unit, the photographer can instruct the control unit to photograph the tongue image of the examinee of the camera unit through the user interface unit . If the photographing of the tongue image is instructed, the control unit controls the camera unit to photograph the tongue image of the examinee (step S620) and obtain the tongue image (step S630).
촬영자는 획득된 영상 표시부를 통해 출력되는 혀 이미지를 기반으로 혀 이미지에 대한 촬영을 종료할지 여부에 대해 판단할 수 있다(단계 S640).The photographer can determine whether to end photographing the tongue image based on the tongue image output through the obtained image display unit (step S640).
검진을 위해 충분한 혀 이미지가 촬상되었는지 여부에 대한 판단을 기반으로 혀 이미지에 대한 촬영의 종료 여부를 판단할 수 있다. 구체적으로 제어부는 카메라부를 제어하여 카메라부에 의해 촬영된 피검사자의 혀 이미지를 영상 표시부를 통해 출력하고, 촬영자는 영상 표시부에 출력된 촬영된 혀 이미지가 정상적일 때까지 반복하여 피검진자의 혀 이미지에 대한 촬영을 수행할 수 있다. 촬영자는 영상 표시부에 의해 제공하는 사각형 테두리 형태 안에 피검사자의 혀 영상이 모두 들어갔을 경우, 혀 이미지가 적합한 혀 이미지라고 결정할 수 있다.It is possible to determine whether or not shooting of the tongue image is completed based on the determination as to whether or not sufficient tongue images have been captured for the examination. Specifically, the control unit controls the camera unit to output an image of the tongue of the subject photographed by the camera unit through the image display unit, and the photographer repeats the process until the tongue image output from the image display unit is normal, Can be performed. The photographer can determine that the tongue image is an appropriate tongue image if all the images of the subject's tongue are entered in the form of a rectangular frame provided by the image display unit.
촬영이 종료되는 경우, 라이브 뷰의 재생 및 촬영의 대기 동작이 다시 수행될 수 있다(단계 S650). When the shooting ends, the standby operation of reproduction and shooting of the live view can be performed again (step S650).
촬영이 종료되지 않는 경우, 단계 S600부터 다시 수행되어 피검진자의 혀 이미지에 대한 촬상이 수행될 수 있다.If the shooting does not end, the process may be carried out again from step S600 so that the imaging of the tongue image of the examinee can be performed.
도 7은 본 발명의 실시예에 따른 설진을 위한 이미지 가공부의 동작을 나타낸 순서도이다.7 is a flowchart showing the operation of the image processing unit for skin detection according to the embodiment of the present invention.
도 7에서는 설진을 위해 이미지 가공부가 혀 이미지를 가공하는 방법이 개시된다. 이미지 가공부로 전달된 혀 이미지를 검진자가 육안으로 보기에 가장 적합한 형태가 되도록 가공하는 과정이 개시된다.Figure 7 discloses a method for processing tongue images by an image processing unit for screening. A process of processing the tongue image transferred to the image processing unit so as to be a shape most suitable for the examiner to see with the naked eye is started.
도 7을 참조하면, 이미지 가공부는 카메라에 의해 촬상된 혀 이미지를 획득할 수 있다(단계 S700).Referring to Fig. 7, the image processing unit can acquire a tongue image captured by the camera (step S700).
촬상된 혀 이미지에서 혀에 해당하는 부분만을 자를 수 있다(단계 S710).Only the portion corresponding to the tongue in the captured tongue image can be cut (step S710).
예를 들어, 영상 표시부에 의해 제공되는 사각형 테두리 사이즈를 기반으로 획득된 혀 이미지에서 혀 이미지 외에 불필요한 외곽의 영상을 잘라낼 수 있다. 본 발명의 실시예에 따르면 잘라낸 혀 이미지의 가로 세로 크기를 3384픽셀(가로), 3388픽셀(세로)가 되도록 혀 이미지를 가공할 수 있다.For example, in the tongue image obtained based on the rectangular frame size provided by the image display unit, an unnecessary outer frame image other than the tongue image can be cut out. According to the embodiment of the present invention, the tongue image can be processed so that the size of the cut tongue image is 3384 pixels (width) and 3388 pixels (length).
혀 이미지에서 RGB의 색채 정보를 분리할 수 있다(단계 S720).The color information of RGB can be separated from the tongue image (step S720).
잘라낸 혀 이미지에 대한 분석을 기반으로 R(레드), G(그린), B(블루) 색채 별로 값을 분리 후 분리한 색채 별 영상을 메모리(예를 들어, RAM)에 각각 저장할 수 있다. 분리된 색채 값은 100을 기준 수치로 표현될 수 있다.It is possible to store each color-separated image separated into R (red), G (green) and B (blue) color values in a memory (for example, RAM) based on the analysis of the cut tongue image. The separated color values can be represented by a reference value of 100.
혀 이미지에서 RGB의 밝기 정보를 분리할 수 있다(단계 S730).The brightness information of RGB can be separated from the tongue image (step S730).
잘라낸 혀 이미지에 대한 분석을 기반으로 R(레드), R(그린), B(블루) 계열 밝기로 분리한 후 분리된 밝기 별 영상을 메모리(예를 들어, RAM)에 각각 저장할 수 있다. 분리된 밝기 값은 100을 기준 수치로 표현될 수 있다.It is possible to store the divided brightness images in the memory (for example, RAM) after separating them into R (red), R (green) and B (blue) series brightness based on analysis of the cut tongue image. The separated brightness value can be expressed by a reference value of 100.
색채 및 밝기 조정 값을 결정할 수 있다(단계 S740).The color and brightness adjustment values can be determined (step S740).
색체 및 밝기에 대한 조정 값은 기준 수치에 대비한 보정 수치의 값으로 조정될 수 있다. 아래의 표 1은 예시적인 결정된 색채 및 밝기에 대한 조정 값일 수 있다.The adjustment value for the hue and brightness can be adjusted to the value of the correction value relative to the reference value. Table 1 below may be an adjustment value for an exemplary determined color and brightness.
[표 1][Table 1]
이미지 가공부는 제어부에 의해 설정되어 있는 색채 조정 값 및 밝기 조정 값을 가져올 수 있다. 본 발명의 실시예에서는 조도 범위 11.0kLux~11.7kLux 로 피검진자의 혀 이미지에 대한 촬상이 진행되는 경우, 설진 진단에 최적화된 영상으로 만들기 위한 RGB의 채도 및 밝기에 대한 조정 값이 개시된다. The image processing unit may obtain the color adjustment value and the brightness adjustment value set by the control unit. In the embodiment of the present invention, when the image of the tongue image of the examinee is progressed in the illuminance range of 11.0 kLux to 11.7 kLux, an adjustment value for the saturation and brightness of RGB for making an image optimized for diagnosis is started.
혀 이미지를 색채 조정 값을 기반으로 조정한다(단계 S750).The tongue image is adjusted based on the color adjustment value (step S750).
단계S740을 기반으로 설정된 색채 조정 값을 기반으로 혀 이미지의 색체에 대한 조정이 수행될 수 있다.Adjustment of the color of the tongue image may be performed based on the color adjustment value set based on step S740.
혀 이미지를 밝기 조정 값을 기반으로 조정한다(단계 S760).The tongue image is adjusted based on the brightness adjustment value (step S760).
단계S750을 기반으로 설정된 밝기 조정 값을 기반으로 혀 이미지의 밝기에 대한 조정이 수행될 수 있다.Adjustment of the brightness of the tongue image may be performed based on the brightness adjustment value set based on step S750.
혀 이미지에 대한 저장을 진행한다(단계 S770).The storage of the tongue image is proceeded (step S770).
도 8은 본 발명의 실시에에 따른 혀 이미지를 기반으로 한 진단 방법을 나타낸 개념도이다.8 is a conceptual diagram illustrating a diagnostic method based on a tongue image according to an embodiment of the present invention.
혀 영상 촬영 장치는 피검진자의 혀 이미지에 대한 촬영의 종료 후 제어부는 피검사자의 설진 검진을 위한 기초 자료와 혀 이미지를 빅 데이터 서버(800)로 송신할 수 있다. 빅 데이터 서버(800)는 혀 영상 촬영 장치로부터 수신한 데이터를 진단 정보 데이터베이스(820)의 데이터로 저장할 수 있다.The tongue image photographing apparatus can transmit the basic data and the tongue image for screening of the examinee to the
진단 정보 데이터베이스(820)는 설진 진단에 최적화되고 체계화된 모델링된 데이터베이스를 검사자에게 제공하기 위해 설계된 데이터 구조를 가질 수 있다. 진단 정보 데이터베이스(820)로 전송된 데이터는 설진 피검사자 기초 입력 항목에 맞게 저장될 수 있다. The
진단 보조 장치(860)는 검진자의 사용자 장치(예를 들어, PC(personal computer), 스마트 폰, 스마트 패드 등)일 수 있다.The
피검진자의 혀 이미지에 대한 촬영 과정이 종료된 경우, 진단 보조 장치(860)는 혀 이미지 촬영 장치(840)로부터 기반으로“신규 환자 내방 알림 메시지”를 수신할 수 있다. 검진자가 진단 보조 장치(860)를 통해 신규 환자 내방 알림 메시지를 수신하면, 진단 보조 장치(860)는 빅 데이터 서버(800)로부터 해당 신규 피검진자(환자)를 진단할 수 있는 주요 정보 및 혀 이미지를 빅 데이터 서버(800)로부터 수신할 수 있다.When the photographing process for the tongue image of the examinee is terminated, the
진단 보조 장치(860)는 수신한 피검진자의 기초 정보와 진단 정보 데이터를 진단 기록 열람 및 진단부를 통해 표시하고, 동시에 이미지 뷰어를 통해 수신한 피검진자의 혀 이미지를 출력하여 검진자가 피검진자에 대한 상담이 가능하도록 구현될 수 있다. The
검진자가 피검진자에 대한 진단을 종료한 경우, 진단 기록 열람 및 진단부를 통해 피검진자에 대한 진단 내용을 편집한 후 진단 기록 저장을 하게 되면, 피검잔자에 대한 진단 내용은 진단 보조부(860)를 통해 빅 데이터 서버로 전송될 수 있다. If the examiner finishes the diagnosis of the examinee, the diagnosis contents of the examinee are edited through the diagnosis record reading and diagnosis unit, and the diagnosis record is stored. Then, the diagnosis contents about the examinee are transmitted to the
빅 데이터 서버(800)는 수신한 피검진자의 진단 내용을 진단 정보 데이터베이스(820)에 설진 병증 분류 정보를 기반으로 체계적으로 저장할 수 있다.The
진단 기록 열람 및 진단부를 통해 출력되는 피검진자의 진단 정보는 설진 병증 분류 정보를 기반으로 화면에 출력될 수 있다. 검진자는 설진 진단에 있어 최적화되고 체계화된 설진 병증 분류 정보를 기반으로 한 진단 정보를 열람 및 편집할 수 있다.The diagnostic information of the examinee outputted through the diagnostic record reading and diagnosis unit may be output to the screen based on the sickness classification information. The examiner can browse and edit the diagnostic information based on the optimized and structured information on the classification of the disease.
또한, 검진자는 진단 보조 장치(860)의 진단 사례 검색부를 이용하여 피검진자의 연령, 성별, 음주 습관 등 기초적인 검색 조건뿐만 아니라 다양한 병증 및 진단 결과를 검색 조건으로 하여 진단 사례를 검색할 수 있으며, 다양한 검색 조건 조합을 통해 진단 사례를 검색할 수도 있다. In addition, the examiner can search for a diagnosis case using various diagnostic criteria such as the age, sex, and drinking habit of the examinee as well as various pathologies and diagnosis results using the diagnostic case search unit of the
검진자가 진단 사례 검색부를 통해 진단 사례를 검색하는 경우, 빅 데이터 서버(800)는 검진자의 검색 조건에 맞는 진단 사례를 진단 보조 장치(860)로 송신할 수 있으며, 송신된 진단 사례에는 검색 조건에 맞는 피검진자(들)의 검진 결과 및 혀 이미지가 포함될 수 있다. 빅 데이터 서버(800)의 진단 정보 데이터베이스(820)는 설진 진단에 최적화되고 체계화된 모델링된 데이터베이스를 검진자에게 제공하기 위해 설계된 데이터 구조로서 설진 피검진자 기초 입력 항목과 설진 병증 분류 정보를 기반으로 구성될 수 있다.When the examiner searches for a diagnostic case through the diagnostic case search unit, the
설진 피검진자 기초 입력 항목은 피검진자의 습관 및 현재 상태에 대한 항목으로 설진을 좀 더 효과적으로 수행하기 위해 필요한 필수 항목으로 구성될 수 있다. 설진 피검사자 기초 입력 항목은 크게 주 호소 증상, 가족력, 기왕력, VITAL, 현재 복용 중인 약물, 음주 및 흡연 습관, 전신, 국소로 구분될 수 있다. The baseline entry of the examinee is an item on the examinee's habits and current status and may consist of the essential items necessary to perform the survey more effectively. The basic input items of the test subjects can be divided into main symptom, family history, history, VITAL, current medication, drinking and smoking habit, whole body, and local.
아래의 표 2는 피검진자의 기초 입력 항목을 개시한다.Table 2 below shows the basic entry of the examinee.
[표 2][Table 2]
아래의 표 3에 개시된 설진 병증 분류 정보는 설진 진단에서 내릴 수 있는 병증을 분류한 것으로, 설진에 있어 파악할 수 있는 주요 병증을 12가지 형태로 크게 나누고 다시 세분화한 것이다. 구체적으로 설진 병증 분류 정보는 주요 병증을 뇌(brain), 척추(spine), 소화기관(digestive), 심장(heart), 폐(pulmonary), 갑상선(thyroid), 소변(urin), 전립선(prostate), 자궁(uterine), 신장(adrenal), 근골격, 신경(neuro)으로 세분화하여 진료한 정보일 수 있다.The information on the classification of sickness classification disclosed in Table 3 below is a classification of the diseases that can be diagnosed in the diagnosis of sickness. The major diseases that can be recognized in the diagnosis of sickness are divided into 12 types and further subdivided. Specifically, the Dyspepsia classification information can be used to diagnose major pathologies as brain, spine, digestive, heart, pulmonary, thyroid, urine, prostate, , Uterine, adrenal, musculoskeletal, neuro (neuro).
[표 3-1][Table 3-1]
[표 3-2][Table 3-2]
도 9은 본 발명의 실시예에 따른 원격 진단 방법을 나타낸 개념도이다. 9 is a conceptual diagram illustrating a remote diagnosis method according to an embodiment of the present invention.
도 9에서는 검진자가 설진에 미숙한 경우, 원격 진단을 통해 진단을 수행하는 방법이 개시된다.FIG. 9 discloses a method of performing a diagnosis through remote diagnosis when the examinee is immature in the diagnosis.
도 9를 참조하면, 검진자가 원격 진단을 요청하는 경우, 진단 보조 장치(920)는 원격 진단 서버(940)와 연결되고 원격 검진자는 설진을 수행할 수 있다.Referring to FIG. 9, when the examinee requests a remote diagnosis, the
검진자가 실시간 원격 진단을 요청하는 경우, 원격 검진자는 진단 보조 장치(920)로부터 수신한 혀 이미지 및 진단 기록을 열고, 실시간 상담을 진행하거나 진단 결과를 진단 보조 장치로 전송할 수 있다.If the examiner requests real-time remote diagnosis, the remote examiner may open the tongue image and diagnostic record received from the
검진자가 진단 보조 장치(920)를 통해 실시간 원격 진단을 요청하는 경우, 원격 진단 서버(940)는 유선 또는 무선으로 연결된 다른 검진자의 진단 지원 장치로 원격 진단의 요청을 알릴 수 있다. 원격 진단 서버(940)는 복수의 진단 지원 장치(960) 중 하나의 진단 지원 장치를 랜덤하게 선택하여 원격 진단을 요청한 검진자의 진단 보조 장치(920)와의 연결을 설정할 수 있다.When the clinician requests real-time remote diagnosis through the
또한, 검진자가 진단 보조 장치(920)를 통해 원격 진단 서버(940)에 연결된 복수의 진단 지원 장치(960) 중 원격 진단을 받기 원하는 하나의 진단 지원 장치를 선택할 수도 있다.The clinician may also select one of the plurality of
또는 원격 진단 서버(940)는 검진자의 진단 보조 장치(920)를 복수의 진단 지원 장치(예를 들어, 3개의 진단 지원 장치)(960)를 연결하여 검진자가 복수의 진단 지원 장치(960)를 통해 원격 진단 서비스를 받도록 할 수도 있다. 또한, 커뮤니티 형태로 제작된 네트워크 상의 일종의 게시판 구조를 통하여도 원격 진단 서비스가 제공될 수도 있다.Or the
도 10은 본 발명의 실시예에 따른 혀 이미지 촬영 장치를 나타낸 개념도이다. 10 is a conceptual diagram showing a tongue image photographing apparatus according to an embodiment of the present invention.
도 10를 참조하면, 메인 조명부, 카메라부, 안면안착부, 보조 조명부, 전원 케이블, 디스플레이부를 포함하는 혀 이미지 촬영 장치가 개시된다. 10, a tongue image photographing apparatus including a main illuminating unit, a camera unit, a facial seating unit, an auxiliary illuminating unit, a power cable, and a display unit is disclosed.
각 구성부는 도 2에서 전술한 동작을 수행할 수 있다. Each component can perform the operations described above in Fig.
도 11은 본 발명의 실시예에 따른 설진 방법을 나타낸 개념도이다. FIG. 11 is a conceptual diagram illustrating a method of searching for an object according to an embodiment of the present invention.
도 11에서는 촬영 설정에 따른 혀 이미지 촬영 장치의 카메라부의 촬영 방법이 개시된다. In Fig. 11, a photographing method of the camera section of the tongue image photographing apparatus according to the photographing setting is disclosed.
도 11을 참조하면, 카메라부가 설정에 따라 피 검진자의 혀를 부분적으로 추가 촬상할 수 있다.Referring to FIG. 11, the tongue of the examinee can be partially photographed according to the camera unit setting.
예를 들어, 제어부는 카메라부에 의해 촬상된 피검진자의 혀 이미지를 분석하여 특징적인 증상이 있는 부분에 대한 촬영을 수행할 수 있다. 피검진자의 혀의 A 부위에서 설형, 설반이 발생한 경우, 혀의 전제 이미지에 대한 촬상 이후, A 부위에 대한 촬상 동작을 수행할 수 있다. 혀 이미지 촬영 장치의 제어부는 혀 이미지를 수신한 후 혀 이미지에 대한 분석을 통해 추가 촬영이 필요한 부분을 결정할 수 있다(단계 S1100).For example, the control unit may analyze an image of the tongue of the examinee captured by the camera unit, and perform imaging of a part having a characteristic symptom. When a tongue or sagging occurs at the A region of the tongue of the examinee, an imaging operation can be performed on the A region after the imaging of the full image of the tongue. After receiving the tongue image, the control unit of the tongue image capturing apparatus can determine the part requiring additional capturing through analysis of the tongue image (step S1100).
혀 이미지는 복수의 부분으로 분할될 수 있고, 제어부는 복수의 부분 중 추가 촬영이 필요한 부분에 대한 추가 촬영을 명령할 수 있다(단계 S1110).The tongue image may be divided into a plurality of portions, and the control unit may instruct additional shooting of a portion of the plurality of portions requiring additional shooting (Step S1110).
혀 이미지 촬영 장치는 해당 부분에 초점을 맞추어 추가 촬영을 수행한 후, 촬영된 혀의 부분에 대한 인덱스를 이미지 파일에 추가할 수 있다. 이러한 방법을 통해 검진자가 피검진자의 혀 중 어떠한 부분에 대한 추가 이미지인지 여부에 대해 확인할 수 있다.The tongue image pickup device can perform additional shooting with focusing on the relevant portion, and then add an index to the image file of the portion of the taken tongue. In this way, the examiner can check whether the image is an additional image of the tongue of the examinee.
위와 같은 추가 촬영을 위한 이미지 분석을 위해 제어부는 사용자의 혀의 설질/설형/설열/설태/설반 등과 같은 특징적인 증상에 대한 템플릿 이미지 사용하여 사용자의 혀의 발생한 이상 증상에 대해 판단하고 추가 촬영을 명령할 수 있다.In order to analyze the images for the above-mentioned additional photographing, the control unit judges the abnormal symptoms of the user's tongue by using the template image for the characteristic symptoms such as the tongue tongue / tongue tongue / lingual tongue / Command.
또한, 환자의 이전 검진 기록이 있는 경우, 환자의 이전 검진 기록 상에서 추가 촬영되었던 혀의 부분에 대한 기록을 기반으로 추가 촬영되었던 혀의 부분에 대한 추가 촬영을 수행할 수 있다. 이러한 방법을 통해 검진자가 환자의 혀의 변화에 대해 보다 명확하게 알 수 있다. Further, if there is a previous examination record of the patient, additional photographing can be performed on the portion of the tongue which was additionally photographed based on the record of the portion of the tongue which was additionally photographed on the patient's previous examination record. With this method, the examiner can more clearly understand the change of the tongue of the patient.
또한, 진단 보조 장치는 환자의 이전 혀 이미지와 환자의 현재 혀 이미지를 중첩하여 결정된 혀 이미지의 변화에 대한 정보를 검진자에게 전송할 수 있다. In addition, the diagnostic assistant device may send information to the examiner about changes in the tongue image determined by superimposing the patient ' s previous tongue image and the patient ' s current tongue image.
진단 보조 장치는 환자의 이전 혀 이미지에 포함되는 특징점(예를 들어, 혀끝과 혀의 에지 부분)과 환자의 현재 혀 이미지에 포함되는 특징점을 기반으로 두 개의 혀 이미지를 중첩할 수 있다. 이후, 환자의 혀에서 변화된 부분에 대한 판단을 수행할 수 있다. The diagnostic assist device may superimpose the two tongue images based on feature points included in the patient ' s previous tongue image (e.g., the tongue tip and the tongue edge portion) and the feature points included in the patient's current tongue image. Thereafter, the determination of the changed part in the tongue of the patient can be performed.
변화된 부분에 대한 판단을 위해 진단 보조 장치는 혀 이미지 내에 설질/설형/설열/설태/설반이 존재하는지 여부를 판단하고, 환자의 혀의 이미지를 복수의 부분 혀 이미지로 분할하고 복수의 부분 혀 이미지 각각에서 변화된 이미지 정보가 존재하는지 여부를 판단할 수 있다. 부분 혀 이미지를 병렬 처리를 통해 빠른 이미지 분석이 수행될 수 있다. 진단 보조 장치는 혀 이미지 내에 설질/설형/설열/설태/설반의 존재 정도를 고려하여 분할될 부분 혀 이미지의 개수를 결정할 수 있다. 예를 들어, 설질/설형/설열/설태/설반 중 적어도 두 개 이상의 증상이 존재하는 것으로 판단되는 경우, 정밀 분석을 위해 혀의 이미지를 분할하여 10개의 부분 혀 이미지를 생성하고, 설질/설형/설열/설태/설반 중 두 개 미만의 증상이 존재하는 것으로 판단되는 경우, 혀의 이미지를 분할하여 4개의 부분 혀 이미지를 생성할 수 있다. 즉, 정밀 판단이 필요한 경우, 보다 많은 개수의 부분 혀 이미지를 생성하여 혀 이미지의 변환에 대한 분석을 수행할 수 있다.For the determination of the changed part, the diagnosis assisting device judges whether there is a snowy / tongue / licking / licking / licking / licking in the tongue image, divides the image of the patient's tongue into a plurality of partial tongue images, It is possible to judge whether or not the changed image information exists in each. A fast image analysis can be performed through parallel processing of partial tongue images. The diagnostic assistant device can determine the number of partial tongue images to be segmented considering the presence of the tongue / tongue / lingual / lingual / suture / lips in the tongue image. For example, if it is determined that at least two of the symptoms of the tongue / tongue / lingual / tongue / throat are present, the tongue image is divided to generate 10 partial tongue images for precision analysis, If it is determined that there are less than two symptoms of lingual / lingual / throat, the image of the tongue may be divided into four partial tongue images. That is, when precision judgment is required, a larger number of partial tongue images can be generated to analyze the conversion of tongue images.
진단 보조 장치는 부분 혀 이미지 내에 설질/설형/설열/설태/설반가 존재하는 경우, 해당 증상이 커져있는지 줄어들었는지 여부에 대한 이미지 상의 분석을 수행할 수 있다. 진단 보조 장치에 의해 분석된 결과 정보는 검진자에게 제공될 수 있고, 검진자는 분석 결과 정보를 기반으로 피검진자의 혀의 변화에 대해 보다 정확하게 판단할 수 있다. The diagnostic assistant can perform an image analysis of whether the symptom is increased or decreased if there is a tongue / tongue / lingual / lingual / lingual / tongue in the partial tongue image. The result information analyzed by the diagnostic assistant device can be provided to the examinee, and the examinee can more accurately judge the change of the examinee's tongue based on the analysis result information.
도 12는 본 발명의 실시예에 따른 빅 데이터 서버의 진단 정보 데이터베이스를 활용한 검진 방법이 개시된다.12 is a flowchart illustrating a test method using a diagnostic information database of a big data server according to an embodiment of the present invention.
도 12에서는 빅 데이터 서버의 진단 정보 데이터베이스를 기반으로 한 진단 방법이 개시된다.In Fig. 12, a diagnostic method based on a diagnostic information database of a big data server is disclosed.
도 12를 참조하면, 진단 보조 장치가 빅 데이터 서버로 유사 진단 사례를 요청할 수 있고, 빅 데이터 서버는 진단 보조 장치로 유사 진단 사례를 전송할 수 있다. Referring to FIG. 12, the diagnostic assistant device may request a similar diagnostic case to the big data server, and the big data server may transmit the analogous diagnostic case to the diagnostic assistant device.
진단 보조 장치는 피검진자의 기초 입력 항목 정보 및 환자의 혀 이미지에 대한 정보를 전송하면서 빅 데이터 서버로 유사 진단 사례를 요청할 수 있다.The diagnostic assistant device may request a similar diagnostic case with the Big Data Server while transmitting the basic input item information of the examinee and the tongue image of the patient.
우선 빅 데이터 서버는 검진자의 혀 이미지와 유사한 혀 이미지에 대한 탐색을 수행할 수 있다(단계 S1200).First, the Big Data Server can perform a search for a tongue image similar to a tongue image of a examinee (Step S1200).
빅 데이터 서버는 진단 정보 데이터베이스에 저장된 혀 이미지와 검진자의 혀 이미지간의 비교 분석을 통해 유사도가 높은 혀 이미지를 탐색할 수 있다. The Big Data Server can search for tongue images with high similarity through comparison analysis between tongue image stored in the diagnostic information database and tongue image of the examinee.
빅 데이터 서버는 설질/설형/설열/설태/설반 등에 대한 템플릿 이미지를 기반으로 진단 정보 데이터베이스에 설질/설형/설열/설태/설반 등과 같은 특징적인 증상에 따라 혀 이미지를 분류하여 저장할 수 있다. The Big Data Server can classify and store tongue images according to characteristic symptoms such as snowy / tongue / lyrical / tongue / throat on the diagnostic information database based on template image for snowy / tongue / lyrical /
빅 데이터 서버는 수신한 검진자의 혀 이미지와 설질/설형/설열/설태/설반 등에 대한 템플릿 이미지를 비교하여 검진자의 혀 이미지를 분류한 후 진단 정보 데이터베이스에서 검진자의 혀 이미지와 유사한 이미지를 탐색할 수 있다. 만약, 검진자의 혀 이미지가 설질/설열을 가진 것으로 분류되는 경우, 설질/설열에 해당하는 기존에 저장된 혀 이미지에 대한 탐색을 수행할 수 있다. The Big Data Server classifies images of the tongue of the examinee by comparing the tongue image of the received examinee with the template image of the tongue / tongue / lingual / sneeze / sorghum, and then searches the diagnostic information database for images similar to the tongue image of the examinee have. If the image of the tongue of the examinee is classified as having a furrow / laceration, a search can be performed for the previously stored tongue image corresponding to the furrow / sulcus.
빅 데이터 서버는 설질/설열에 해당하는 기존에 저장된 혀 이미지가 임계 개수 이상인 경우, 가장 유사한 이미지를 찾기 위해 설질/설열이 발생한 부위에 대해서도 구체적으로 판단하여 해당 증상이 발생한 위치도 유사한 혀 이미지를 최종적으로 유사 혀 이미지로 결정할 수 있다.The Big Data Server judges specifically the area where the snow / leprosy occurred to search for the most similar image when the existing tongue image corresponding to the snow / snow column is more than the threshold number, Can be determined by a similar tongue image.
빅데이터 서버는 유사 혀 이미지에 대응되는 다른 피검진자의 기초 입력 항목 정보와 피검진자의 기초 입력 항목 정보를 비교하여 유사도가 일정 임계값 이상인 최종 유사 혀 이미지를 결정하고(단계 S1210), 최종 유사 혀 이미지에 대한 진단 사례를 유사 진단 사례로서 검진자에게 제공할 수 있다(단계 S1220). The Big Data Server compares the basic input item information of the other examinee corresponding to the similar tongue image with the basic input item information of the examinee to determine a final similar tongue image having a similarity value equal to or greater than a predetermined threshold value (step S1210) The diagnostic example for the image may be provided to the examinee as a similar diagnosis example (step S1220).
예를 들어, 빅 데이터 서버는 진단 정보 데이터베이스에서 피검진자와 가족력, 신체 정보, 생활 습관이 유사한 유사 혀 이미지에 대응되는 다른 피검진자의 기록을 탐색할 수 있다. 유사도는 전술한 기초 입력 항목 정보 각각의 유사 여부를 기반으로 산출될 수 있다.For example, the Big Data Server can search the diagnostic information database for records of other examinees corresponding to a similar tongue image similar to that of the examinee and family history, body information, and lifestyle. The degree of similarity can be calculated based on the similarity of each of the basic input item information described above.
유사도가 임계값 이상인 유사 혀 이미지에 대응되는 다른 피검진자가 탐색되지 않는 경우, 진단 보조 장치로 유사도 값의 재설정을 요청하여 상대적으로 낮은 유사도를 가지는 유사 혀 이미지에 대응되는 피검진자에 대한 탐색을 수행할지 여부를 결정할 수 있다. If another examinee corresponding to a similar tongue image having a similarity degree equal to or greater than the threshold value is not searched, the diagnostic assistant device requests the resetting of the similarity value to search for the examinee corresponding to the similar tongue image having a relatively low similarity degree Or not.
유사도가 임계값 이상인 유사 혀 이미지에 대응되는 다른 피검진자가 탐색되는 경우, 유사도가 임계값 이상인 유사 혀 이미지에 대응되는 다른 피검진자의 진료 기록을 유사 진단 사례로서 검진자에게 제공할 수 있다. When another examinee corresponding to the similar tongue image having the similarity degree equal to or greater than the threshold value is searched, the medical record of the other examinee corresponding to the similar tongue image having the similarity degree equal to or higher than the threshold value can be provided to the examinee as a similar diagnosis example.
이와 같은 혀 이미지를 기반으로 한 설진 방법은 애플리케이션으로 구현되거나 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다.Such tongue image-based description methods can be implemented in an application or implemented in the form of program instructions that can be executed through various computer components and recorded on a computer-readable recording medium. The computer-readable recording medium may include program commands, data files, data structures, and the like, alone or in combination.
상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거니와 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다.The program instructions recorded on the computer-readable recording medium may be ones that are specially designed and configured for the present invention and are known and available to those skilled in the art of computer software.
컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD 와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다.Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks and magnetic tape, optical recording media such as CD-ROMs and DVDs, magneto-optical media such as floptical disks, media, and hardware devices specifically configured to store and execute program instructions such as ROM, RAM, flash memory, and the like.
프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.Examples of program instructions include machine language code such as those generated by a compiler, as well as high-level language code that can be executed by a computer using an interpreter or the like. The hardware device may be configured to operate as one or more software modules for performing the processing according to the present invention, and vice versa.
이상에서는 실시예들을 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it will be understood by those skilled in the art that various changes and modifications may be made therein without departing from the spirit and scope of the invention as defined in the appended claims. It will be possible.
Claims (12)
혀 이미지 촬영 장치의 환자 접수부가 피 검진자의 기초 입력 항목 정보를 입력받는 단계;
상기 혀 이미지 촬영 장치의 조명부가 피 검진자의 혀 이미지의 촬상을 위해 설정된 조명 값에 따른 조명을 생성하는 단계;
상기 혀 이미지 촬영 장치의 카메라부가 상기 혀 이미지를 촬상하는 단계;
상기 혀 이미지 촬영 장치의 이미지 가공부가 상기 혀 이미지를 보정하는 단계;
상기 혀 이미지 촬영 장치의 데이터 전송부가 상기 이미지 가공부에 의해 보정된 보정 혀 이미지 및 상기 기초 입력 항목 정보를 빅 데이터 서버로 전송하는 단계; 및
상기 혀 이미지 촬영 장치의 환자 내방 알림부가 검진자의 진단 보조 장치로 상기 피검진자의 내방을 알리는 단계를 포함하되,
상기 기초 입력 항목 정보는 상기 피검진자의 주호소 증상 정보, 가족력 정보, 바이탈 정보, 생활 습관 정보, 기왕력 정보를 포함하고,
상기 진단 보조 장치가 상기 빅 데이터 서버로 유사 진단 사례를 요청하는 단계; 상기 빅데이터 서버가 상기 보정 혀 이미지 및 상기 기초 입력 항목 정보 각각을 기반으로 유사 진단 사례를 탐색하는 단계; 및 상기 진단 보조 장치가 상기 빅데이터 서버로부터 상기 유사 진단 사례를 수신하는 단계를 포함하고,
상기 혀 이미지를 촬상하는 단계는 추가 촬상하는 단계를 포함하며,
상기 추가 촬상하는 단계는 상기 혀 이미지 촬영 장치의 제어부가 상기 혀 이미지를 수신한 후, 상기 혀 이미지에 대한 분석을 통해 추가 촬영이 필요한 부분을 결정하는 단계; 및 상기 수신된 혀 이미지를 복수의 부분으로 분할하고, 상기 분할된 혀이미지의 복수의 부분 중 추가 촬영이 필요한 부분에 대하여 추가 촬영을 명령하는 단계를 포함하는 것을 특징으로 하는 방법.Based on the tongue images,
Receiving basic input item information of the patient receiving section of the tongue image photographing apparatus;
The illumination unit of the tongue image capturing apparatus generating illumination according to the illumination value set for capturing an image of the tongue of the examinee;
Capturing the tongue image by a camera unit of the tongue image capturing apparatus;
The image processing unit of the tongue image photographing apparatus corrects the tongue image;
Transmitting a corrected tongue image corrected by the image processing unit and the basic input item information to a big data server; And
And notifying the inside of the examinee to the diagnosis assistant device of the examinee's internal announcement section of the tongue image photographing apparatus,
The basic input item information includes main symptom information of the examinee, family history information, vitality information, lifestyle information, and history information,
Requesting a similar diagnostic case to the big data server by the diagnosis assisting device; Searching the similar diagnostic case based on each of the corrected tongue image and the basic input item information by the big data server; And the diagnosis assisting device receiving the similar diagnosis case from the big data server,
Wherein the step of capturing the tongue image comprises further imaging,
Wherein the additional imaging step includes the steps of: after the controller of the tongue image pickup apparatus receives the tongue image, determining a part requiring additional shooting through analysis of the tongue image; And dividing the received tongue image into a plurality of portions and commanding additional shots for portions of the plurality of portions of the divided tongue image that require additional shots.
상기 진단 보조 장치가 원격 진단 서버로 원격 진료를 요청하는 단계;
상기 원격 진단 서버가 상기 원격 진료를 위해 상기 진단 보조 장치와 진단 지원 장치를 연결하는 단계;
상기 진단 보조 장치가 상기 진단 지원 장치로 상기 보정 혀 이미지 및 상기 기초 입력 항목 정보를 전송하는 단계; 및
상기 진단 보조 장치가 상기 진단 지원 장치로부터 상기 보정 혀 이미지 및 상기 기초 입력 항목 정보를 기반으로 생성된 진료 정보를 수신하는 단계를 더 포함하는 것을 특징으로 하는 방법.The method according to claim 1,
The diagnostic assistant requesting a remote diagnosis to a remote diagnosis server;
Connecting the diagnostic assistant device and the diagnostic assistant device to the remote diagnosis server for the remote medical examination;
The diagnostic assistant device transmitting the corrected tongue image and the basic input item information to the diagnosis support device; And
Further comprising the step of the diagnostic assistant device receiving the corrected tongue image and the medical care information generated based on the basic input item information from the diagnostic support device.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160020966A KR101809819B1 (en) | 2016-02-23 | 2016-02-23 | Method and system for tongue diagnosis based on image of tongue |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160020966A KR101809819B1 (en) | 2016-02-23 | 2016-02-23 | Method and system for tongue diagnosis based on image of tongue |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20170099066A KR20170099066A (en) | 2017-08-31 |
KR101809819B1 true KR101809819B1 (en) | 2017-12-18 |
Family
ID=59761313
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020160020966A Expired - Fee Related KR101809819B1 (en) | 2016-02-23 | 2016-02-23 | Method and system for tongue diagnosis based on image of tongue |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101809819B1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220139599A (en) | 2021-04-08 | 2022-10-17 | 에이아이닥터 주식회사 | A control method for performing remote reading on an image to be remotely read and a control system for performing remote reading on an image to be remotely read |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102350591B1 (en) * | 2017-11-09 | 2022-01-18 | (주)초위스컴퍼니 | Diagnostic system and operating method thereof |
KR101881140B1 (en) * | 2017-11-09 | 2018-07-23 | 주식회사 초위스컴퍼니 | Diagnostic system and operating method thereof |
CN108553081B (en) * | 2018-01-03 | 2023-02-21 | 京东方科技集团股份有限公司 | Diagnosis system based on tongue fur image |
KR102233433B1 (en) * | 2019-01-30 | 2021-03-26 | 김연호 | Device for analyzing constitution according to the yin-yang and five elements and method of providing health information by constitution |
CN109907735B (en) * | 2019-04-25 | 2022-06-21 | 北京峰云视觉技术有限公司 | A multispectral tongue image collection device |
CN110599463B (en) * | 2019-08-26 | 2024-09-03 | 依脉人工智能医疗科技(天津)有限公司 | Tongue image detection and positioning algorithm based on lightweight cascade neural network |
CN112117001A (en) * | 2020-09-08 | 2020-12-22 | 深圳市智慧健康产业发展有限公司 | General practitioner intelligence image auxiliary diagnosis system |
CN113576405A (en) * | 2021-07-08 | 2021-11-02 | 智美康民(珠海)健康科技有限公司 | Tongue diagnosis basic information acquisition method and system, tongue diagnosis instrument and storage medium |
WO2024177481A1 (en) * | 2023-02-21 | 2024-08-29 | 한국 한의학 연구원 | Tongue image capturing system |
CN117094966B (en) * | 2023-08-21 | 2024-04-05 | 青岛美迪康数字工程有限公司 | Tongue image identification method and device based on image amplification and computer equipment |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014100570A (en) * | 2012-11-16 | 2014-06-05 | Samsung Electronics Co Ltd | Computer auxiliary diagnostic method and device |
-
2016
- 2016-02-23 KR KR1020160020966A patent/KR101809819B1/en not_active Expired - Fee Related
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014100570A (en) * | 2012-11-16 | 2014-06-05 | Samsung Electronics Co Ltd | Computer auxiliary diagnostic method and device |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220139599A (en) | 2021-04-08 | 2022-10-17 | 에이아이닥터 주식회사 | A control method for performing remote reading on an image to be remotely read and a control system for performing remote reading on an image to be remotely read |
Also Published As
Publication number | Publication date |
---|---|
KR20170099066A (en) | 2017-08-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101809819B1 (en) | Method and system for tongue diagnosis based on image of tongue | |
US10282517B2 (en) | Apparatus, method, and non-transitory computer-readable medium for supporting viewing examination images | |
CN101686799B (en) | Image processing device, and its operating method | |
JP5364573B2 (en) | Metrics from incomplete data | |
US11482318B2 (en) | Medical information processing system | |
US11776692B2 (en) | Training data collection apparatus, training data collection method, program, training system, trained model, and endoscopic image processing apparatus | |
US8830308B2 (en) | Image management apparatus, image management method and computer-readable recording medium associated with medical images | |
US11556731B2 (en) | Endoscopic image observation system, endosopic image observation device, and endoscopic image observation method | |
US20020171669A1 (en) | System and method for annotation on a moving image | |
WO2021147429A1 (en) | Endoscopic image display method, apparatus, computer device, and storage medium | |
US20040101212A1 (en) | Imaging method and system | |
CN107203995A (en) | Endoscopic images intelligent analysis method and system | |
JP2004209245A (en) | Method of extracting region of interest from tongue image and method and apparatus for health monitoring using tongue image | |
CN101841650A (en) | Camera gear suitable for portrait photography | |
JP2005086516A (en) | Imaging device, printer, image processor and program | |
JP6425868B1 (en) | ENDOSCOPIC IMAGE OBSERVATION SUPPORT SYSTEM, ENDOSCOPIC IMAGE OBSERVATION SUPPORT DEVICE, AND ENDOSCOPIC IMAGE OBSERVATION SUPPORT METHOD | |
JP2007105458A (en) | System and method for recognizing image in image database | |
CN116132788A (en) | Mobile terminal tongue image image collection method, device, electronic equipment and storage medium | |
JPWO2020184257A1 (en) | Medical image processing equipment and methods | |
CN115439920A (en) | Consciousness state detection system and equipment based on emotional audio-visual stimulation and facial expression | |
US20230245311A1 (en) | Endoscopic photographic device, endoscopic photographic method, and endoscopic photographic program | |
JP2007068620A (en) | Psychological condition measuring apparatus | |
JP2021036922A (en) | Endoscopic image observation supporting system | |
JP2021027867A (en) | Filing device, filing method, and program | |
JP7547057B2 (en) | Medical image processing device, control method for medical image processing device, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20160223 |
|
PA0201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20170518 Patent event code: PE09021S01D |
|
PG1501 | Laying open of application | ||
E90F | Notification of reason for final refusal | ||
PE0902 | Notice of grounds for rejection |
Comment text: Final Notice of Reason for Refusal Patent event date: 20171013 Patent event code: PE09021S02D |
|
E701 | Decision to grant or registration of patent right | ||
PE0701 | Decision of registration |
Patent event code: PE07011S01D Comment text: Decision to Grant Registration Patent event date: 20171127 |
|
GRNT | Written decision to grant | ||
PR0701 | Registration of establishment |
Comment text: Registration of Establishment Patent event date: 20171211 Patent event code: PR07011E01D |
|
PR1002 | Payment of registration fee |
Payment date: 20171211 End annual number: 3 Start annual number: 1 |
|
PG1601 | Publication of registration | ||
PC1903 | Unpaid annual fee |
Termination category: Default of registration fee Termination date: 20210922 |