[go: up one dir, main page]

TR2023004243A2 - A SYSTEM THAT LETS TRAINING A CHAT ROBOT - Google Patents

A SYSTEM THAT LETS TRAINING A CHAT ROBOT Download PDF

Info

Publication number
TR2023004243A2
TR2023004243A2 TR2023/004243A TR2023004243A TR2023004243A2 TR 2023004243 A2 TR2023004243 A2 TR 2023004243A2 TR 2023/004243 A TR2023/004243 A TR 2023/004243A TR 2023004243 A TR2023004243 A TR 2023004243A TR 2023004243 A2 TR2023004243 A2 TR 2023004243A2
Authority
TR
Turkey
Prior art keywords
natural language
concepts
ontology
chatbot
server
Prior art date
Application number
TR2023/004243A
Other languages
Turkish (tr)
Inventor
Bulut Enes
Osman Ünalir Murat
Original Assignee
Tuerkiye Garanti Bankasi Anonim Sirketi
Türki̇ye Garanti̇ Bankasi Anoni̇m Şi̇rketi̇
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tuerkiye Garanti Bankasi Anonim Sirketi, Türki̇ye Garanti̇ Bankasi Anoni̇m Şi̇rketi̇ filed Critical Tuerkiye Garanti Bankasi Anonim Sirketi
Priority to TR2023/004243A priority Critical patent/TR2023004243A2/en
Publication of TR2023004243A2 publication Critical patent/TR2023004243A2/en
Priority to PCT/TR2024/050395 priority patent/WO2024220061A1/en

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/30Semantic analysis
    • G06F40/35Discourse or dialogue representation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/02Knowledge representation; Symbolic representation
    • G06N5/022Knowledge engineering; Knowledge acquisition
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/166Editing, e.g. inserting or deleting
    • G06F40/169Annotation, e.g. comment data or footnotes
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/279Recognition of textual entities
    • G06F40/284Lexical analysis, e.g. tokenisation or collocates
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/279Recognition of textual entities
    • G06F40/289Phrasal analysis, e.g. finite state techniques or chunking

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Machine Translation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

Bu buluş, sohbet robotları için kavramlar arası ilişkileri öğrenen bir sinir ağı modeli eğitilerek sohbet robotları ile iletişim kuran insanların kullanmış oldukları doğal dil cümleleri içerisinde bulunan tüm kavramların bu dil modeli üzerinden tahminlenmesini ve anlaşılmasını sağlayan bir sistem (1) ile ilgilidir.This invention relates to a system (1) that trains a neural network model that learns inter-conceptual relationships for chatbots, enabling the prediction and understanding of all the concepts in the natural language sentences used by people who communicate with chatbots through this language model.

Description

TARIFNAME BIR SOHBET ROBOTUNUN EGITILMESINI SAGLAYAN BIR SISTEM Teknik Alan Bu bulus, sohbet robotlari için kavramlar arasi iliskileri ögrenen bir sinir agi modeli egitilerek sohbet robotlari ile iletisim kuran insanlarin kullanmis olduklari dogal dil cümleleri içerisinde bulunan tüm kavramlarin bu dil modeli üzerinden tahminlenmesini ve anlasilmasini saglayan bir sistem ile ilgilidir. Önceki Teknik Günümüzde, yapay zekâ çalismalarinda önemli bir yere ve gelecege sahip olan diyaloga bagli yapay zekanin ürünlesmis hali olan sohbet robotu uygulamalarinin sayisi hizla artmaktadir. Sohbet robotlarinin akilli telefonlarin yapmis oldugu devrimden daha büyük bir devrim yapma potansiyeli barindirdigi öne sürülmektedir. Buna ragmen, mevcut tekniklerde bir sohbet robotunun sahip oldugu kapsamla ilgili olarak, alana ait kavramlarin ve dilinin barindirdigi tüm anlamlarin yakalanamamasi nedeniyle, sohbet robotlariyla olan diyaloglar bir insanla olan diyaloglara göre oldukça kisitli kalmaktadir. Bu durumun sohbet robotlarin yayginlasmasi önünde önemli bir bariyer olmasi problemi mevcuttur. Mevcut tekniklerde, sohbet robotlarinin egitildigi derleme ve bilgi grafiklerini gelistirmek her sohbet robotu için tekrarlanarak sürecin maliyetli olmasina neden olmaktadir. Ayrica, bu veri kaynaklari gelistiren kisilerin öngörüleriyle limitli olmakta ve gelistiricilerin etiketleme becerileriyle dogru orantili bir basari elde edilmektedir. Bu sebeple mevcut teknikte bulunan çalismalar ve eksiklikler göz önünde bulunduruldugunda, sohbet robotlariyla iletisim kuran insanlarin kullanmis olduklari dogal dil cümleleri içerisinde bulunan tüm kavramlar ve anlamlarin yakalanabilmesi için uçtan uca bir teknik gelistirilmesini, sohbet robotlarinin anlama yetkinliklerinde mevcut kullanilan teknikler nedeniyle var olan limitin ortadan kaldirilmasini, sohbet robotlarinin sinir agi modelleri ile egitilen dogal dil anlama modellerinin egitildigi veri kümesinin gelistirilen alan ontolojilerinden saglandigi melez bir yapi üzerinden sunularak yeni sohbet robotu gelistirme maliyetlerinin düsürülmesini, ilgili firmada/sektörde geçerli olan tüm alanlar için alan ontolojilerinin gelistirilmesini, bir yönlendirici model üzerinden ilgili alanin tespitini ve alan ontolojisinden ögrenen model üzerinden de dogal dilde bulunan tüm ilgili kavramlarin tespit edilmesini, bir insanla kurulan diyaloglara çok yakin bir deneyim sunularak, sohbet robotu uygulamalarinin kullanicilar/müsteriler tarafindan günlük olarak kullaniminin benimsenmesini ve insan eforu gereken çagri merkezi seklindeki kanallardan büyük efor kazanci elde edilmesini saglayan bir sisteme ihtiyaç duyuldugu anlasilmaktadir. patent dokümaninda, mevcut ontolojileri olmayan veri kümeleri için bir veya daha fazla ontoloji olusturulmasini ve makine ögrenimi çözümleri üretmek amaciyla mevcut veri ontolojilerinin kullanmasini saglayan bir sistemden ve yöntemden bahsedilmektedir. Söz konusu bulusta bir dijital asistan tarafindan kullanici tarafindan girilen ve konusma girdisinin metin formuna dönüstürülmesinden üretilen bir metin ifadesine, metin parçasina, bir cümleye, birden fazla cümle ve benzerlerine, kullanici girisinin anlamini anlamak için dogal dil anlama (NLU) teknikleri uygulanmaktadir. Bir ifade için NLU islemesinin bir parçasi olarak, dijital asistan, bir veya daha fazla niyete ve söze karsilik ifadelerin anlamini anlamak için islemeyi gerçeklestirmek üzere konfigüre edilmektedir. Bir ifadenin anlamini anladiktan sonra dijital asistan, anlasilan anlama veya niyetlere karsilik olarak bir veya daha fazla eylem veya islem gerçeklestirebilmektedir. Çesitli düzenlemelerde yöntem, bir veya daha fazla etiketin eslemesinin makine ögrenimi modelinin kategorileri ile sunulmasini içermektedir. Girdiler, makine ögrenimi modeli tarafindan bilinen bir veya daha fazla kategoriden olusan bir kategoriye sahip veri semasi için bir veya daha fazla etiketi içeren bir etiketle iliskilendirilebilmektedir. Bulusun Kisa Açiklamasi Bu bulusun amaci, sohbet robotlari için kavramlar arasi iliskileri ögrenen bir sinir agi modeli egitilerek sohbet robotlari ile iletisim kuran insanlarin kullanmis olduklari dogal dil cümleleri içerisinde bulunan tüm kavramlarin bu dil modeli üzerinden tahminlenmesini ve anlasilmasini saglamak amaciyla gelistirilen bir sistem gerçeklestirmektir. Bu bulusun diger bir amaci, ontolojilerinden ögrenen yapay sinir agi modellerinin tahminleme basarisini artirmak için ilgili alanda bulunan tüm alt alanlarin ontolojilerinin gelistirilmesini ve ayri yapay sinir agi modellerinin bu ontolojilerden ögrenmesini saglamak amaciyla gelistirilen bir sistem gerçeklestirmektir. Bu bulusun baska bir amaci, egitilmis yönlendirici bir yapay sinir agi modeli kullanilarak gelen sorgunun hangi ontoloji tabanli yapay sinir agi modelinden tahminleneceginin belirlenmesini saglamak amaciyla gelistirilen bir sistem gerçeklestirmektir. Bu bulusun diger bir amaci, ontoloji tabanli melez sohbet robotu maksat havuzu olusturulurken yari otomatik bir süreç ve isaretleme yapildikça yapay sinir aginin yeni konseptlerden ögrenerek, sonraki örnekler için kavram ve konseptleri otomatik önermesini, üretilen ve etiketlenen kavramlarin ve konseptlerin ontolojiye dahil edilmesini saglamak amaciyla gelistirilen bir sistem gerçeklestirmektir. Bulusun Ayrintili Açiklamasi Bu bulusun amacina ulasmak için gerçeklestirilen "Bir Sohbet Robotunun Egitilmesini Saglayan Bir Sistem" ekli sekilde gösterilmis olup, bu sekil; Sekil-l; Bulus konusu sistemin sematik görünüsüdür. Sekilde yer alan parçalar tek tek numaralandirilmis olup, bu numaralarin karsiliklari asagida verilmistir. 1. Sistem 2. Elektronik Cihaz 3. Sohbet Robotu Uygulamasi 4. Veri Tabani . Sunucu Sohbet robotlari için kavramlar arasi iliskileri ögrenen bir sinir agi modeli egitilerek sohbet robotlari ile iletisim kuran insanlarin kullanmis olduklari dogal dil cümleleri içerisinde bulunan tüm kavramlarin bu dil modeli üzerinden tahminlenmesini ve anlasilmasini saglamak amaciyla gelistirilen bulus konusu - herhangi bir uzak iletisim protokolünü kullanarak veri alisverisi gerçeklestirmek ve üzerinde en azindan bir uygulama yürütmek üzere yapilandirilan en az bir elektronik cihaz (2), - elektronik cihaz (2) üzerinde yürütülen, en azindan bir ara yüz üzerinde soru sorulmasini ve bu sorulara cevap verilmesini saglamak üzere yapilandirilan en az bir sohbet robotu uygulamasi (3), - içerisinde yapay zekâ modeli egitmek için gerekli olan veri kümelerini kayit altinda tutmak üzere yapilandirilan en az bir veri tabani (4), - herhangi bir uzak iletisim protokolünü kullanarak elektronik cihaz (2) ile iletisim kurmak, sohbet robotu uygulamasi (3) ve veri tabani (4) ile veri alisverisi gerçeklestirmek, kullanici tarafindan sohbet robotu uygulamasina (3) iletilen sorudaki dogal dil metinlerindeki anlamlari, ontoloj i tabanli yapay zekâ dogal dil anlama teknolojisi tarafindan yakalamak, bu tespit edilen ontoloji kavramlarinin diyalog yönetimini gerçeklestirmek ve gerekli cevabi sohbet robotu uygulamasi (3) üzerinden kullaniciya dönmek üzere yapilandirilan en az bir sunucu (5) içermektedir. Bulus konusu sistemde (1) yer alan elektronik cihaz (2), herhangi bir uzak iletisim protokolünü kullanarak veri alisverisi gerçeklestirmek ve üzerinde en azindan bir uygulama yürütmek üzere yapilandirilmaktadir. Elektronik cihaz (2), cep telefonu, bilgisayar, diz üstü bilgisayar ve tablet seklinde bir cihazdir. Elektronik cihaz (2), teknigin bilinen durumunda yer alan herhangi bir uzak iletisim protokolünü sunucu (5) ile baglanti kurmak ve kurulan bu baglanti üzerinden sohbet robotu uygulamasi (3) ve veri tabani (4) arasinda veri alisverisi gerçeklestirmek üzere yapilandirilmaktadir. Bulusun tercih edilen uygulamasinda elektronik cihaz (2), sunucu (5) ile Internet seklinde bir veri yolu kullanarak veri alisverisi gerçeklestirmek üzere yapilandirilmaktadir. Bulus konusu sistemde (1) yer alan sohbet robotu uygulamasi (3), elektronik cihaz (2) üzerinde yürütülmekte olup, en azindan bir ara yüz üzerinde kullanicilarin soru sormalarini ve bu sorulara cevap almalarini saglamak üzere yapilandirilmaktadir. Bulus konusu sistemde (1) yer alan veri tabani (4), sohbet robotu uygulamasi (3) ve sunucu (5) ile veri alisverisi gerçeklestirmek üzere yapilandirilmaktadir. Söz konusu bulustaki veri tabani (4), yapay zekâ çalismalarinda bir yapay zekâ modeli egitmek için gerekli olan veri kümelerini, sohbet robotu uygulamalarinda (3) bulunan dogal dil anlama modellerini egitmek için kullanilan veri kümelerini olusturan dogal dil sözcüklerini ve/veya cümleleri kayit altinda tutmak üzere yapilandirilmaktadir. Bulus konusu sistemde (1) yer alan sunucu (5), teknigin bilinen durumunda yer alan herhangi bir iletisim protokolünü kullanarak elektronik cihaz (2) ile iletisim kurmak ve kurulan bu iletisim üzerinden sohbet robotu uygulamasi (3) ile veri alisverisi gerçeklestirmek üzere yapilandirilmaktadir. Sunucu (5), elektronik cihaz (2) ile Internet seklindeki bir veri sebekesi üzerinden iletisim kurmak üzere yapilandirilmaktadir. Sunucu (5), veri tabani (4) ile iletisim kurmak ve veri tabani (4) içerisindeki verilere erisebilmek üzere yapilandirilmaktadir. SöZ konusu bulusta sunucu (5), veri tabanina (4) eriserek kullanicilarin ilettigi dogal dildeki soru metinleri içerisindeki anlamlari yapay zekâ dogal dil anlama teknolojisi araciligiyla belirlemek ve anlamlandirmak üzere yapilandirilmaktadir. Sunucu (5), veri tabanina (4) eriserek bir alana ait kavramlar araciligiyla ontoloji gelistirmek üzere yapilandirilmaktadir. Sunucu (5), maksat ve varlik kavramalarini gelistirilen ontolojiye dahil ederek melez bir ontoloji yapisi olusturmak üzere yapilandirilmaktadir. Sunucu (5), sohbet robotu uygulamasina (3) eriserek yapay zekâ dogal dil anlama teknolojisi araciligiyla kullanicinin sorusu içerisinde yer aldigi tespit edilen kavramlari kullanarak kullanici ve sohbet robotu uygulamasi (3) arasindaki diyalogu yönlendirme görevini yerine getirmek, verilecek olan cevabin belirlenmesini saglamak, kullanicidan alinmasi gereken bilgileri istemek ve diyalogun akisina karar vermek üzere yapilandirilmaktadir. Sunucu (5), derin ögrenme algoritmalari kullanilarak gelistirilen yapay sinir agi modelinin bir alan için gelistirilen ontoloji kavram ve konseptlerinden ögrenilmesini saglamak ve sohbet robotunun temel fonksiyonu olan dogal dil metinlerinin makineler tarafindan anlasilmasini saglamak üzere yapilandirilmaktadir. Sunucu (5), etiketleme ile yari otomatik ontoloji gelistirme teknolojisi araciligiyla dogal dil anlama bilesenlerini olusturan sinir agi modelini egitmek, ontolojiyi gelistirmek ve veri tabani (4) üzerine kaydetmek üzere yapilandirilmaktadir. Sunucu (5), etiketleme ile yari otomatik ontoloji gelistirme teknolojisi araciligiyla sohbet robotu uygulamasi (3) üzerindeki söylemlerde yer alan dogal dil sözcüklerini ve cümleleri ontoloji kavramlari ile etiketlemek, dogal dil örnekleri içerisinde rastlanan her yeni kavrami etiketleme ile beraber ontolojiye dahil etmek ve veri tabani (4) üzerine kaydetmek üzere yapilandirilmaktadir. Sunucu (5), etiketlenen her kavram ile etiketleme ortaminda sunulan aktif ögrenme yapisi kullanarak bir makine ögrenmesi modeli egitmek, bu model ile yeni söylem örneklerindeki olasi kavramlari tahminlemek ve etiketleme sürecinde önceden etiketlenmis kavram önerilerini sunmak üzere yapilandirilmaktadir. Sunucu (5), dogal dil anlama bilesenlerinde bulunan ontoloji tabanli sinir agi modeli araciligiyla sohbet robotu uygulamasi (3) üzerinde soruyu olusturan dogal dil metinleri içerisindeki bir alana ait ontolojideki kavramlarin tahminlenmesi ile niyetin, bilginin ve nesnelerin tespit edilmesini ve kullanici tarafindan sohbet robotu uygulamasina (3) iletilen sorunun bir insanin anlama yetkinligine yakin bir sekilde anlasilmasini saglamak üzere yapilandirilmaktadir. Sunucu (5), kullanici tarafindan sohbet robotu uygulamasina (3) iletilen sorudaki dogal dil metinlerindeki anlamlari, ontoloji tabanli yapay zekâ dogal dil anlama teknolojisi tarafindan yakalamak, bu tespit edilen ontoloji kavramlarinin diyalog yönetimi gerçeklestirmek ve gerekli cevabi sohbet robotu uygulamasi (3) üzerinden kullaniciya dönmek üzere yapilandirilmaktadir. Bulusun sanayiye uygulanmasi Bulus konusu sistemde, sunucu (5), ontoloji tabanli sinir agi modeli araciligiyla sohbet robotu uygulamasi (3) üzerinde soruyu olusturan dogal dil metinleri içerisindeki bir alana ait ontolojideki kavramlarin tahminlemesi ile niyetin, bilginin ve nesnelerin tespit edilmesini ve kullanici tarafindan sohbet robotu uygulamasina (3) iletilen sorunun bir insanin anlama yetkinligine yakin bir sekilde anlasilmasini saglamaktadir. Sunucu (5), kullanici tarafindan sohbet robotu uygulamasina (3) iletilen sorudaki dogal dil metinlerindeki anlamlari, ontoloji tabanli yapay zekâ dogal dil anlama teknolojisi tarafindan yakalamak, bu tespit edilen ontoloji kavramlarinin diyalog yönetimi gerçeklestirmek ve gerekli cevabi sohbet robotu uygulamasi (3) üzerinden kullaniciya dönmektedir. Böylece sohbet robotlariyla iletisim kuran insanlarin kullanmis olduklari dogal dil cümleleri içerisinde bulunan tüm kavramlar ve anlamlarin yakalanabilmesi, dogal dilde bulunan tüm ilgili kavramlarin tespit edilmesi, bir insanla kurulan diyaloglara çok yakin bir deneyim sunularak, sohbet robotu uygulamalarinin kullanicilar/müsteriler tarafindan günlük olarak kullanimi saglanmaktadir. Bu temel kavramlar etrafinda, bulus konusu "Bir Sohbet Robotunun Egitilmesini Saglayan Bir Sistem (1)" ile ilgili çok çesitli uygulamalarin gelistirilmesi mümkün olup, bulus burada açiklanan örneklerle sinirlandirilamaz, esas olarak istemlerde belirtildigi gibidir. TR TR TR TR TR TR TR TR TR TR TR TRDESCRIPTION OF A SYSTEM FOR TRAINING A CHAT ROBOT Technical Field This invention relates to a system that trains a neural network model that learns inter-concept relationships for chat robots, enabling the prediction and understanding of all concepts within natural language sentences used by people interacting with chat robots. Previous Technical Today, the number of chat robot applications, which are the productized form of dialogue-based artificial intelligence and hold an important place and future in artificial intelligence studies, is rapidly increasing. It is argued that chat robots have the potential to create an even greater revolution than the one brought about by smartphones. Despite this, current techniques fail to capture all the meanings encompassed by the concepts and language of a chatbot, resulting in significantly limited dialogues with chatbots compared to those with humans. This poses a major barrier to the widespread adoption of chatbots. Furthermore, developing the datasets and infographics used to train chatbots is a costly process, as it is repeated for each individual bot. Additionally, these data sources are limited by the developers' foresight, and success is directly proportional to their labeling skills. Therefore, considering the current studies and shortcomings in the existing technology, it is necessary to develop an end-to-end technique to capture all concepts and meanings within the natural language sentences used by people communicating with chatbots, to eliminate the limitations in the understanding capabilities of chatbots due to currently used techniques, to reduce the costs of developing new chatbots by providing a hybrid structure where the dataset used to train natural language understanding models with neural network models is provided from the developed domain ontologies, to develop domain ontologies for all fields valid in the relevant company/sector, to identify the relevant field through a guiding model and to identify all relevant concepts in natural language through a model learning from the domain ontology, to offer an experience very close to dialogues with a human, and to encourage the adoption of chatbot applications by users/customers on a daily basis. It is understood that there is a need for a system that enables significant effort savings from call center-type channels requiring considerable effort. The patent document describes a system and method that allows the creation of one or more ontologies for datasets that do not have existing ontologies, and the use of existing data ontologies to generate machine learning solutions. In this invention, a digital assistant applies natural language understanding (NLU) techniques to understand the meaning of user input, such as a text phrase, text fragment, sentence, multiple sentences, etc., generated from the conversion of speech input into text form. As part of the NLU processing for a phrase, the digital assistant is configured to perform processing to understand the meaning of the phrases in relation to one or more intentions and words. After understanding the meaning of an expression, the digital assistant can perform one or more actions or operations in response to the understood meaning or intentions. In various configurations, the method involves presenting the matching of one or more labels with the categories of the machine learning model. Inputs can be associated with a label containing one or more labels for a data schema that has a category consisting of one or more categories known by the machine learning model. Brief Description of the Invention The aim of this invention is to realize a system developed to enable the prediction and understanding of all concepts within natural language sentences used by people interacting with chatbots, by training a neural network model that learns inter-concept relationships for chatbots. Another objective of this invention is to develop a system that improves the prediction success of artificial neural network models learning from their ontologies by developing ontologies for all subdomains within the relevant field and enabling separate artificial neural network models to learn from these ontologies. Another objective of this invention is to develop a system that determines which ontology-based artificial neural network model should predict an incoming query using a trained, guided artificial neural network model. Yet another objective of this invention is to develop a system that, while creating an ontology-based hybrid chatbot objective pool, uses a semi-automatic process and labeling to enable the artificial neural network to learn from new concepts, automatically suggest concepts for subsequent instances, and incorporate the generated and labeled concepts into the ontology. Detailed Description of the Invention The system developed to achieve the purpose of this invention, "A System for Training a Chatbot," is shown in the attached figure; Figure 1; is a schematic view of the system in question. The parts shown in the figure are numbered individually, and the corresponding numbers are given below. 1. System 2. Electronic Device 3. Chatbot Application 4. Database The invention developed to enable the prediction and understanding of all concepts in the natural language sentences used by people communicating with chatbots by training a neural network model that learns inter-concept relationships for chatbots, is based on the following: - at least one electronic device (2) configured to conduct data exchange using any remote communication protocol and to run at least one application on it, - at least one chatbot application (3) running on the electronic device (2) configured to allow questions to be asked and answered on at least one interface, - at least one database (4) configured to keep the datasets necessary for training the artificial intelligence model, - to communicate with the electronic device (2) using any remote communication protocol and to exchange data with the chatbot application (3) and the database (4). The invention includes at least one server (5) configured to capture the meanings in the natural language texts in the question transmitted by the user to the chatbot application (3) using ontology-based artificial intelligence natural language understanding technology, to manage the dialogue of these detected ontology concepts and to return the necessary answer to the user via the chatbot application (3). The electronic device (2) in the system (1) is configured to exchange data using any remote communication protocol and to run at least one application on it. The electronic device (2) is a mobile phone, computer, laptop and tablet. The electronic device (2) is configured to connect to the server (5) using any remote communication protocol available in the known state of the art and to exchange data between the chatbot application (3) and the database (4) through this connection. In the preferred application of the invention, the electronic device (2) is configured to exchange data with the server (5) using a data bus in the form of the Internet. The chatbot application (3) in the system (1) is run on the electronic device (2) and is configured to allow users to ask questions and receive answers on at least one interface. The database (4) in the system (1) is configured to exchange data with the chatbot application (3) and the server (5). The database (4) in the invention is configured to keep records of the natural language words and/or sentences that make up the datasets required to train an AI model in AI studies and the datasets used to train the natural language understanding models in chatbot applications (3). In the system in question (1), the server (5) is configured to communicate with the electronic device (2) using any communication protocol available under the known state of the art and to exchange data with the chatbot application (3) through this communication. The server (5) is configured to communicate with the electronic device (2) over a data network in the form of the Internet. The server (5) is configured to communicate with the database (4) and to access the data in the database (4). In this invention, the server (5) is configured to access the database (4) and determine and interpret the meanings in the natural language question texts submitted by users through artificial intelligence natural language understanding technology. The server (5) is configured to access the database (4) and develop an ontology through concepts belonging to a domain. Server (5) is configured to create a hybrid ontology structure by including the concepts of purpose and existence into the developed ontology. Server (5) is configured to guide the dialogue between the user and the chatbot application (3) by accessing the chatbot application (3) and using the concepts identified in the user's question through artificial intelligence natural language understanding technology, to ensure the answer to be given is determined, to request the information to be obtained from the user and to decide on the flow of the dialogue. Server (5) is configured to enable the artificial neural network model developed using deep learning algorithms to learn from the ontology concepts and concepts developed for a domain and to enable the natural language texts, which is the basic function of the chatbot, to be understood by machines. Server (5) is configured to train a neural network model that creates natural language understanding components through semi-automatic ontology development technology with labeling, to develop the ontology and to save it to the database (4). Server (5) is configured to label natural language words and sentences in the discourses on the chatbot application (3) with ontology concepts through semi-automatic ontology development technology with labeling, to include each new concept encountered in natural language examples into the ontology with labeling and to save it to the database (4). Server (5) is configured to train a machine learning model using the active learning structure provided in the labeling environment with each labeled concept, to predict possible concepts in new discourse examples with this model and to present previously labeled concept suggestions in the labeling process. The server (5) is configured to detect intentions, information, and objects by predicting the ontology concepts in a field within the natural language texts that form the question on the chatbot application (3) through the ontology-based neural network model in the natural language understanding components, and to ensure that the question transmitted by the user to the chatbot application (3) is understood in a way close to the understanding competence of a human. The server (5) is configured to capture the meanings in the natural language texts in the question transmitted by the user to the chatbot application (3) by the ontology-based artificial intelligence natural language understanding technology, to perform dialogue management of these detected ontology concepts, and to return the necessary answer to the user through the chatbot application (3). Industrial Application of the Invention In the system that is the subject of the invention, the server (5) detects the intention, information and objects by predicting the ontology concepts in a field within the natural language texts that form the question on the chatbot application (3) through the ontology-based neural network model and ensures that the question transmitted by the user to the chatbot application (3) is understood in a way close to the understanding competence of a human. The server (5) captures the meanings in the natural language texts in the question transmitted by the user to the chatbot application (3) with the ontology-based artificial intelligence natural language understanding technology, performs dialogue management of these detected ontology concepts and returns the necessary answer to the user through the chatbot application (3). Thus, by capturing all the concepts and meanings contained within the natural language sentences used by people who communicate with chatbots, identifying all relevant concepts in natural language, and providing an experience very close to dialogues with a human, the daily use of chatbot applications by users/customers is ensured. Around these basic concepts, it is possible to develop a wide variety of applications related to the invention, "A System for Training a Chatbot (1)," and the invention is not limited to the examples described here, but is essentially as stated in the requirements.

Claims (1)

1.1.
TR2023/004243A 2023-04-17 2023-04-17 A SYSTEM THAT LETS TRAINING A CHAT ROBOT TR2023004243A2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
TR2023/004243A TR2023004243A2 (en) 2023-04-17 2023-04-17 A SYSTEM THAT LETS TRAINING A CHAT ROBOT
PCT/TR2024/050395 WO2024220061A1 (en) 2023-04-17 2024-04-17 A system for training a chatbot

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
TR2023/004243A TR2023004243A2 (en) 2023-04-17 2023-04-17 A SYSTEM THAT LETS TRAINING A CHAT ROBOT

Publications (1)

Publication Number Publication Date
TR2023004243A2 true TR2023004243A2 (en) 2023-11-21

Family

ID=93152894

Family Applications (1)

Application Number Title Priority Date Filing Date
TR2023/004243A TR2023004243A2 (en) 2023-04-17 2023-04-17 A SYSTEM THAT LETS TRAINING A CHAT ROBOT

Country Status (2)

Country Link
TR (1) TR2023004243A2 (en)
WO (1) WO2024220061A1 (en)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10169454B2 (en) * 2016-05-17 2019-01-01 Xerox Corporation Unsupervised ontology-based graph extraction from texts
EP3392781A1 (en) * 2017-04-21 2018-10-24 Tata Consultancy Services Ltd. System and method for belief based human-bot conversation
US11934441B2 (en) * 2020-04-29 2024-03-19 International Business Machines Corporation Generative ontology learning and natural language processing with predictive language models

Also Published As

Publication number Publication date
WO2024220061A1 (en) 2024-10-24

Similar Documents

Publication Publication Date Title
Deriu et al. Survey on evaluation methods for dialogue systems
CN114722839B (en) Man-machine cooperative dialogue interaction system and method
CN112131366B (en) Method, device and storage medium for training text classification model and text classification
Masche et al. A review of technologies for conversational systems
Binali et al. Computational approaches for emotion detection in text
CN109446306A (en) Task-driven multi-turn dialogue-based intelligent question and answer method
Capuano et al. Attention-based hierarchical recurrent neural networks for MOOC forum posts analysis
Kazi et al. A survey of deep learning techniques for machine reading comprehension
CN107368548A (en) Intelligent government affairs service interaction method and system
CN114118451A (en) Training method, interaction method, device and equipment of intelligent interaction model
de Araujo et al. Automated coding of student chats, a trans-topic and language approach
CN116187346A (en) Man-machine interaction method, device, system and medium
CN119294520A (en) Multi-agent question answering system based on large language model
Gan et al. DHF-Net: A hierarchical feature interactive fusion network for dialogue emotion recognition
Pothuri Natural language processing and conversational AI
Ojo et al. Doctor or ai? efficient neural network for response classification in health consultations
Srinivasan et al. Natural language processing: Concepts and applications using chatbot
Dinesh et al. Chat and voice bot implementation for cardio and ENT queries using NLP
Singh et al. A historical analysis of chatbots from eliza to google bard
Zhang et al. Chat, summary and diagnosis: A llm-enhanced conversational agent for interactive depression detection
Zerouani et al. Chatbots technology and its challenges: An overview
TR2023004243A2 (en) A SYSTEM THAT LETS TRAINING A CHAT ROBOT
Justo et al. Exploring ontologies to improve the empathy of interactive bots
Омаров et al. Development of chatbot-psychologist: dataset, architecture, design and chatbot in use
Wei et al. Few‐Shot Contrastive Learning‐Based Multi‐Round Dialogue Intent Classification Method