KR20240018229A - 시내퍼 모델을 이용한 자연어 처리 시스템 및 방법 - Google Patents
시내퍼 모델을 이용한 자연어 처리 시스템 및 방법 Download PDFInfo
- Publication number
- KR20240018229A KR20240018229A KR1020220096224A KR20220096224A KR20240018229A KR 20240018229 A KR20240018229 A KR 20240018229A KR 1020220096224 A KR1020220096224 A KR 1020220096224A KR 20220096224 A KR20220096224 A KR 20220096224A KR 20240018229 A KR20240018229 A KR 20240018229A
- Authority
- KR
- South Korea
- Prior art keywords
- natural language
- language processing
- model
- neural
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/12—Use of codes for handling textual entities
- G06F40/151—Transformation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
- G06F40/211—Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/268—Morphological analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/40—Processing or translation of natural language
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/40—Processing or translation of natural language
- G06F40/58—Use of machine translation, e.g. for multi-lingual retrieval, for server-side translation for client devices or for real-time translation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Machine Translation (AREA)
- Devices For Executing Special Programs (AREA)
Abstract
Description
도 2 및 도 3는 본 발명의 실시예에 따른 시내퍼 모델(synapper model)의 개념을 나타내는 도면이다.
도 4는 본 발명의 일 실시예에 따른 시내퍼 모델을 이용한 자연어 처리 시스템을 나타내는 도면이다.
도 5는 본 발명의 다른 실시예에 따른 시내퍼 모델을 이용한 자연어 처리 시스템을 나타내는 도면이다.
도 6은 본 발명의 일 실시예에 따른 시내퍼 모델을 이용한 자연어 처리 방법의 흐름을 나타내는 순서도이다.
110: 입력장치
120: 아날로그-디지털 변환기(ADC)
160: 제1 코드 변환기(WNC: Word-to-NCC Converter)
170: 제2 코드 변환기(NWC: NCC-to-Word Converter)
180: 디지털- 아날로그 변환기(DAC)
190: 출력장치
200: 언어처리장치(LPU: Language Processing Unit)
210: 제어장치(Control Unit)
220: 레지스터(Registers)
230: 시내퍼 모델 유닛(SMU: Synapper Model Unit)
240: 캐시 메모리(Cache Memory)
310: 텍스트 랜덤 액세스 메모리(TRAM)
320: 플래시 메모리(Flash Memory)
Claims (11)
- 자연어로 쓰이거나 발음된 텍스트를 입력 받아 단어로 구성된 문장으로 변환하는 전처리 단계;
상기 전처리 단계를 통해 단어로 구성된 문장 내의 각 단어를 제1 코드 변환기(WNC)를 통해 신경개념코드(NCC)로 변환하는 제1 변환 단계;
상기 제1 변환 단계를 통해 변환된 신경개념코드를 언어처리장치의 시내퍼 모델에 입력하는 단계;
상기 언어처리장치의 시내퍼 모델을 통해 인식된 신경개념코드를 해석하고 해석된 데이터를 출력하는 해석 및 출력 단계;
상기 언어처리장치에서 해석되어 출력된 데이터의 신경개념코드를 제2 코드 변환기(NWC)를 통해 단어로 변환하는 제2 변환 단계; 및
상기 제2 변환 단계를 통해 변환된 데이터를 해석된 데이터로 출력하는 해석 데이터 출력 단계를 포함하는, 시내퍼 모델을 이용한 자연어 처리 방법.
- 청구항 1에 있어서,
상기 제1 변환 단계는,
입력된 단어를 이진수/십진수 코드로 변환하는, 시내퍼 모델을 이용한 자연어 처리 방법.
- 청구항 2에 있어서,
상기 제1 변환 단계에서,
입력된 단어를 신경개념코드(NCC)로 변환 시 십진수 앞의 두자리는 품사를 나타내는, 시내퍼 모델을 이용한 자연어 처리 방법.
- 청구항 1에 있어서,
상기 해석 및 출력 단계는,
레지스터 세트에서 각 신경개념코드(NCC)의 품사를 분석하여 문장에 대한 올바른 해석이 무엇인지 결정하는, 시내퍼 모델을 이용한 자연어 처리 방법.
- 청구항 1에 있어서,
상기 해석 및 출력 단계는,
제1 변환기 단계를 통해 문장의 모든 단어가 신경개념코드(NCC)로 변환되면 상기 시내퍼 모델에서 문장의 구문 구조가 결정되고 해석되어 신경개념코드(NCC)로 출력하는, 시내퍼 모델을 이용한 자연어 처리 방법.
- 청구항 1에 있어서,
상기 해석 및 출력 단계에서,
캐시 메모리는, 시내퍼 모델을 통해 해석된 데이터를 출력을 생성하기 위해 임시로 저장하는, 시내퍼 모델을 이용한 자연어 처리 방법.
- 청구항 6에 있어서,
상기 해석 및 출력 단계에서,
텍스트 랜덤 액세스 메모리(TRAM)는, 상기 캐시 메모리에서 처리하기 어려운 다량의 문장에 액세스할 수 있도록 시내퍼 모델 데이터를 저장하는, 시내퍼 모델을 이용한 자연어 처리 방법.
- 청구항 7에 있어서,
상기 해석 및 출력 단계에서,
플래시 메모리는, 중요한 정보가 포함된 문장을 나중에 액세스해야 할 수 있도록 저장하는, 시내퍼 모델을 이용한 자연어 처리 방법.
- 청구항 1에 있어서,
상기 해석 및 출력 단계에서,
상기 시내퍼 모델은, 자연어에서 다른 방식으로 표현된 단어로 구성된 문장으로 분리하고,
문장 내 각 단어의 품사 및 인접 단어의 품사에 기초하여 단어 중 어느 것이 가지이고, 어느 것이 노드인지를 결정하는, 시내퍼 모델을 이용한 자연어 처리 방법.
- 청구항 9에 있어서,
상기 해석 및 출력 단계에서,
상기 시내퍼 모델은, 노드와 가지를 결정한 후 노드들을 제1 방향으로 서로 연결하고, 가지들은 제1 방향 이외의 다른 방향으로 대응하는 노드들에 연결되도록 하는, 시내퍼 모델을 이용한 자연어 처리 방법.
- 자연어를 입력하는 입력장치;
상기 입력장치에 입력된 아날로그 데이터를 디지털 데이터로 변환하는 아날로그-디지털 변환기(ADC);
상기 디지털 신호로 변환된 데이터를 신경개념코드로 변환하는 제1 코드 변환기(WNC);
상기 제1 코드 변환기(WNC)를 통해 입력되는 신경개념코드를 시내퍼 모델을 통해 해석하고 출력하는 언어처리장치;
상기 언어처리장치에서 출력된 신경개념코드를 해석된 단어 데이터로 변환하는 제2 코드 변환기(NWC);
상기 제2 코드 변환기(NWC)를 통해 변환된 디지털 데이터를 아날로그 데이터로 변환하는 디지털-아날로그 변환기(DAC); 및
상기 디지털-아날로그 변환기(DAC)를 통해 변환된 데이터를 해석된 자연어로 출력하는 출력장치를 포함하는, 시내퍼 모델을 이용한 자연어 처리 시스템.
Priority Applications (8)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020220096224A KR20240018229A (ko) | 2022-08-02 | 2022-08-02 | 시내퍼 모델을 이용한 자연어 처리 시스템 및 방법 |
TW111137024A TWI822370B (zh) | 2022-08-02 | 2022-09-29 | 使用信艾普模型單元之自然語言處理系統以及方法 |
JP2022157480A JP7511614B2 (ja) | 2022-08-02 | 2022-09-30 | Synapperモデルユニットを用いた自然語処理システム及び方法 |
EP22199147.4A EP4318300A1 (en) | 2022-08-02 | 2022-09-30 | Natural language processing system and method using synapper model unit |
US17/984,711 US11636275B1 (en) | 2022-08-02 | 2022-11-10 | Natural language processing system and method using a synapper model unit |
CA3197945A CA3197945A1 (en) | 2022-08-02 | 2023-04-26 | Natural language processing system and method using a synapper model unit |
CN202310573593.XA CN117494696A (zh) | 2022-08-02 | 2023-05-19 | 自然语言处理系统以及方法 |
KR1020230151022A KR20240018401A (ko) | 2022-08-02 | 2023-11-03 | 시내퍼 모델을 이용한 자연어 처리 시스템 및 방법 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020220096224A KR20240018229A (ko) | 2022-08-02 | 2022-08-02 | 시내퍼 모델을 이용한 자연어 처리 시스템 및 방법 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020230151022A Division KR20240018401A (ko) | 2022-08-02 | 2023-11-03 | 시내퍼 모델을 이용한 자연어 처리 시스템 및 방법 |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20240018229A true KR20240018229A (ko) | 2024-02-13 |
Family
ID=83546721
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020220096224A Ceased KR20240018229A (ko) | 2022-08-02 | 2022-08-02 | 시내퍼 모델을 이용한 자연어 처리 시스템 및 방법 |
KR1020230151022A Pending KR20240018401A (ko) | 2022-08-02 | 2023-11-03 | 시내퍼 모델을 이용한 자연어 처리 시스템 및 방법 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020230151022A Pending KR20240018401A (ko) | 2022-08-02 | 2023-11-03 | 시내퍼 모델을 이용한 자연어 처리 시스템 및 방법 |
Country Status (7)
Country | Link |
---|---|
US (1) | US11636275B1 (ko) |
EP (1) | EP4318300A1 (ko) |
JP (1) | JP7511614B2 (ko) |
KR (2) | KR20240018229A (ko) |
CN (1) | CN117494696A (ko) |
CA (1) | CA3197945A1 (ko) |
TW (1) | TWI822370B (ko) |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220049693A (ko) | 2020-10-15 | 2022-04-22 | 한동대학교 산학협력단 | 신경망 기반의 고유명사 기호화를 이용한 번역 방법 및 그 시스템 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4914590A (en) * | 1988-05-18 | 1990-04-03 | Emhart Industries, Inc. | Natural language understanding system |
AUPR956901A0 (en) * | 2001-12-17 | 2002-01-24 | Jayaratne, Neville | Real time translator |
US7346493B2 (en) | 2003-03-25 | 2008-03-18 | Microsoft Corporation | Linguistically informed statistical models of constituent structure for ordering in sentence realization for a natural language generation system |
US7433893B2 (en) * | 2004-03-08 | 2008-10-07 | Marpex Inc. | Method and system for compression indexing and efficient proximity search of text data |
JP5309480B2 (ja) * | 2007-06-14 | 2013-10-09 | 沖電気工業株式会社 | 文字列入力装置、文字列入力方法およびプログラム |
US20100121630A1 (en) * | 2008-11-07 | 2010-05-13 | Lingupedia Investments S. A R. L. | Language processing systems and methods |
US9176949B2 (en) | 2011-07-06 | 2015-11-03 | Altamira Technologies Corporation | Systems and methods for sentence comparison and sentence-based search |
JP6784084B2 (ja) | 2016-07-27 | 2020-11-11 | 富士通株式会社 | 符号化プログラム、符号化装置、符号化方法、及び検索方法 |
CN108287858B (zh) * | 2017-03-02 | 2021-08-10 | 腾讯科技(深圳)有限公司 | 自然语言的语义提取方法及装置 |
TWI660340B (zh) * | 2017-11-03 | 2019-05-21 | 財團法人資訊工業策進會 | 聲控方法及系統 |
US11250842B2 (en) | 2019-01-27 | 2022-02-15 | Min Ku Kim | Multi-dimensional parsing method and system for natural language processing |
KR101986721B1 (ko) | 2019-03-27 | 2019-06-10 | 월드버텍 주식회사 | 신경망 기반 기계번역 및 셈뭉치를 이용한 수학문제 개념유형 예측 서비스 제공 방법 |
CN111368923B (zh) * | 2020-03-05 | 2023-12-19 | 上海商汤智能科技有限公司 | 神经网络训练方法及装置、电子设备和存储介质 |
US11544457B2 (en) * | 2020-03-25 | 2023-01-03 | Adobe Inc. | Machine learning based abbreviation expansion |
US20220050967A1 (en) * | 2020-08-11 | 2022-02-17 | Adobe Inc. | Extracting definitions from documents utilizing definition-labeling-dependent machine learning background |
TWI769520B (zh) * | 2020-09-07 | 2022-07-01 | 和碩聯合科技股份有限公司 | 多國語言語音辨識及翻譯方法與相關的系統 |
TWM607509U (zh) * | 2020-09-25 | 2021-02-11 | 國泰人壽保險股份有限公司 | 語音服務系統 |
US11837221B2 (en) * | 2021-02-26 | 2023-12-05 | Rovi Guides, Inc. | Age-sensitive automatic speech recognition |
US11119985B1 (en) * | 2021-03-19 | 2021-09-14 | Atlassian Pty Ltd. | Apparatuses, methods, and computer program products for the programmatic documentation of extrinsic event based data objects in a collaborative documentation service |
-
2022
- 2022-08-02 KR KR1020220096224A patent/KR20240018229A/ko not_active Ceased
- 2022-09-29 TW TW111137024A patent/TWI822370B/zh active
- 2022-09-30 JP JP2022157480A patent/JP7511614B2/ja active Active
- 2022-09-30 EP EP22199147.4A patent/EP4318300A1/en not_active Withdrawn
- 2022-11-10 US US17/984,711 patent/US11636275B1/en active Active
-
2023
- 2023-04-26 CA CA3197945A patent/CA3197945A1/en active Pending
- 2023-05-19 CN CN202310573593.XA patent/CN117494696A/zh active Pending
- 2023-11-03 KR KR1020230151022A patent/KR20240018401A/ko active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220049693A (ko) | 2020-10-15 | 2022-04-22 | 한동대학교 산학협력단 | 신경망 기반의 고유명사 기호화를 이용한 번역 방법 및 그 시스템 |
Also Published As
Publication number | Publication date |
---|---|
CA3197945A1 (en) | 2024-02-02 |
US11636275B1 (en) | 2023-04-25 |
TWI822370B (zh) | 2023-11-11 |
EP4318300A1 (en) | 2024-02-07 |
JP2024021023A (ja) | 2024-02-15 |
KR20240018401A (ko) | 2024-02-13 |
JP7511614B2 (ja) | 2024-07-05 |
TW202407576A (zh) | 2024-02-16 |
CN117494696A (zh) | 2024-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Kalyan et al. | Ammus: A survey of transformer-based pretrained models in natural language processing | |
Lee et al. | Patent claim generation by fine-tuning OpenAI GPT-2 | |
Zhang et al. | A simple and effective neural model for joint word segmentation and POS tagging | |
US12045569B2 (en) | Graph-based cross-lingual zero-shot transfer | |
Shaoul et al. | Formulaic sequences: Do they exist and do they matter? | |
Graliński et al. | PSI-toolkit: A natural language processing pipeline | |
Wintner | Morphological processing of semitic languages | |
Haq et al. | NLPashto: NLP toolkit for low-resource Pashto language | |
Gupta et al. | A TENGRAM method based part-of-speech tagging of multi-category words in Hindi language | |
KR20200064880A (ko) | 한국어 워드넷 기반 지식 주도 심층학습을 이용한 워드 임베딩 장치 및 방법 | |
Le-Hong et al. | Integrating graph embedding and neural models for improving transition-based dependency parsing | |
Almansor et al. | Transferring informal text in Arabic as low resource languages: state-of-the-art and future research directions | |
KR20240018401A (ko) | 시내퍼 모델을 이용한 자연어 처리 시스템 및 방법 | |
Fouad et al. | Masdar: a novel sequence-to-sequence deep learning model for Arabic stemming | |
Aydinov et al. | Investigation of automatic part-of-speech tagging using CRF, HMM and LSTM on misspelled and edited texts | |
Lee et al. | Ensemble multi-channel neural networks for scientific language editing evaluation | |
Udomcharoenchaikit et al. | Adversarial evaluation of robust neural sequential tagging methods for thai language | |
Ottersen et al. | Triplet extraction leveraging sentence transformers and dependency parsing | |
WO2014030258A1 (ja) | 形態素解析装置、テキスト分析方法、及びそのプログラム | |
Murthy et al. | A New Approach to Tagging in Indian Languages. | |
Kumar et al. | Efficient text normalization via hybrid bi-directional lstm | |
Myint | A hybrid approach for part-of-speech tagging of Burmese texts | |
Baxi et al. | Recent advancements in computational morphology: A comprehensive survey | |
Rahman et al. | Dense word representation utilization in Indonesian dependency parsing | |
Shi et al. | USING CONTINUOUS BAG OF WORDS |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20220802 |
|
PA0201 | Request for examination | ||
PA0302 | Request for accelerated examination |
Patent event date: 20221109 Patent event code: PA03022R01D Comment text: Request for Accelerated Examination Patent event date: 20220802 Patent event code: PA03021R01I Comment text: Patent Application |
|
PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20230315 Patent event code: PE09021S01D |
|
AMND | Amendment | ||
PE0601 | Decision on rejection of patent |
Patent event date: 20230705 Comment text: Decision to Refuse Application Patent event code: PE06012S01D Patent event date: 20230315 Comment text: Notification of reason for refusal Patent event code: PE06011S01I |
|
AMND | Amendment | ||
PA0107 | Divisional application |
Comment text: Divisional Application of Patent Patent event date: 20231103 Patent event code: PA01071R01D |
|
PX0901 | Re-examination |
Patent event code: PX09011S01I Patent event date: 20230705 Comment text: Decision to Refuse Application Patent event code: PX09012R01I Patent event date: 20230412 Comment text: Amendment to Specification, etc. |
|
PX0601 | Decision of rejection after re-examination |
Comment text: Decision to Refuse Application Patent event code: PX06014S01D Patent event date: 20231226 Comment text: Amendment to Specification, etc. Patent event code: PX06012R01I Patent event date: 20231103 Comment text: Decision to Refuse Application Patent event code: PX06011S01I Patent event date: 20230705 Comment text: Amendment to Specification, etc. Patent event code: PX06012R01I Patent event date: 20230412 Comment text: Notification of reason for refusal Patent event code: PX06013S01I Patent event date: 20230315 |
|
X601 | Decision of rejection after re-examination | ||
J201 | Request for trial against refusal decision | ||
PJ0201 | Trial against decision of rejection |
Patent event date: 20240201 Comment text: Request for Trial against Decision on Refusal Patent event code: PJ02012R01D Patent event date: 20231226 Comment text: Decision to Refuse Application Patent event code: PJ02011S01I Patent event date: 20230705 Comment text: Decision to Refuse Application Patent event code: PJ02011S01I Appeal kind category: Appeal against decision to decline refusal Appeal identifier: 2024101000255 Request date: 20240201 |
|
PG1501 | Laying open of application | ||
J301 | Trial decision |
Free format text: TRIAL NUMBER: 2024101000255; TRIAL DECISION FOR APPEAL AGAINST DECISION TO DECLINE REFUSAL REQUESTED 20240201 Effective date: 20240329 |
|
PJ1301 | Trial decision |
Patent event code: PJ13011S01D Patent event date: 20240329 Comment text: Trial Decision on Objection to Decision on Refusal Appeal kind category: Appeal against decision to decline refusal Request date: 20240201 Decision date: 20240329 Appeal identifier: 2024101000255 |