DE10105516A1

DE10105516A1 - Creation of flexible and economic neural network simulation, by use of specialist software, some loaded on a PC, some in independent simulation hardware, and independent hardware connected to the PC via an interface

Info

Publication number: DE10105516A1
Application number: DE2001105516
Authority: DE
Inventors: Hannes Max Hapke
Original assignee: Individual
Current assignee: Individual
Priority date: 2001-02-07
Filing date: 2001-02-07
Publication date: 2002-08-08

Abstract

A method for approximating a neural network with software stored in EEPROM (5). The input data are prepared using special software loaded in a PC; the pre-processed data are transmitted via an interface (2) and stored in RAM (3). The training cycle of the neural network is completed totally independent of the PC using special hardware (1). Calculation of output data similarly takes place in the hardware, independently of the PC.

Description

Die Erfindung betrifft ein Verfahren zur Berechnung neuronaler Netze mit in Hardware-Komponenten gespeicherter Software gemäß dem Oberbegriff des Patentanspruchs.The invention relates to a method for calculating neural networks with in Hardware components of stored software according to the generic term of Claim.

Neuronale Netze arbeiten in einigen Gebieten effektiver als konventionelle Berechnungsmethoden. Solche Gebiete sind zum Beispiel, Vorhersage oder Berechnung von Vorgängen, die mit rein mathematischen Berechnungen nicht richtig erfasst werden.Neural networks work more effectively than conventional ones in some areas Calculation methods. Such areas are, for example, prediction or Calculation of processes that cannot be done with purely mathematical calculations correctly recorded.

Es ist bekannt, neuronale Netze über Software und/oder über Hardware zu berechnen. Diese Methoden werden über analoge bzw. digitale Schaltungen realisiert. Bei der analogen Methode wird mit Hilfe optischer oder elektronischer Bauelemente gearbeitet. Die Methode hat den Nachteil, dass sie nicht flexibel ist. Das heißt, die Neuronen müssen vor der Benutzung verbunden werden. Somit ist eine schnelle Änderung der Neuronen nicht möglich. Außerdem können die Gewichte der Neuronen während des Lernprozesses nicht geändert werden. Der technische Aufwand ist somit enorm. Auch nimmt diese Variante sehr viel Platz in Anspruch.It is known to neural networks via software and / or via hardware to calculate. These methods are based on analog or digital circuits realized. The analog method uses optical or electronic Components worked. The disadvantage of the method is that it is not flexible is. This means that the neurons must be connected before use. It is therefore not possible to change the neurons quickly. Moreover the weights of the neurons cannot be changed during the learning process become. The technical effort is enormous. This variant also takes takes up a lot of space.

Bei der digitalen Variante repräsentieren einzelne Chips jeweils ein Neuron des neuronalen Netzes. Bei der Methode ist auch ein schnelles Ändern der Neuronenanzahl nicht möglich. Der Aufbau nimmt einerseits viel Platz in Anspruch und die vielen Verbindungen zwischen den Neuronen bzw. ICs würden einer kommerziellen Anwendung nicht entsprechen.In the digital variant, individual chips each represent a neuron of the neural network. The method also involves changing the Number of neurons not possible. On the one hand, the construction takes up a lot of space Claim and the many connections between the neurons or ICs would not correspond to a commercial application.

Aufgabe der Erfindung ist es, die Berechnung der neuronalen Netze auf der Basis von spezieller Hardware in kleiner Bauweise zu realisieren. Die Berechnung kann mobil, d. h. extern von jedem Rechner oder ähnlichem durchgeführt werden.The object of the invention is to calculate the neural networks on the To implement the basis of special hardware in a small design. The Calculation can be mobile, d. H. externally from any computer or similar be performed.

Die Aufgabe wird durch die Hardware des Anspruches I. gelöst. The task is solved by the hardware of claim I.

Neuronale Netze lassen sich gut über die Hardwarevariante berechnen, weil die Hardware sich nur mit der Berechnung beschäftigt. Somit ist es möglich, auch größere Datenmenge für eine Berechnung zu verarbeiten.Neural networks can be easily calculated using the hardware variant because the Hardware only deals with the calculation. So it is possible, too to process larger amounts of data for a calculation.

In der neu entwickelten Hardware wird die Berechnung von einem Chip übernommen.In the newly developed hardware, the calculation of one chip accepted.

Somit ist die Realisierung auf kleinem Platz möglich. Die Berechnung kann unabhängig von einem Personal-Computer, Workstation oder ähnlichem durchgeführt werden. Durch die externe Rechnung wird aktiv die CPU des Rechners entlastet.This enables implementation in a small space. The calculation can independent of a personal computer, workstation or the like be performed. The CPU of the Relieved computer.

Die Hardware ermöglicht eine einfache Handhabung. Es müssen keine Verbindungen gesteckt werden. Die Hardware wird einfach zum Übertragen der zu berechnenden Daten an den Rechner angesteckt.The hardware enables easy handling. It doesn't have to Connections are inserted. The hardware is simply used to transfer the data to be calculated plugged into the computer.

Anwender und Programmierer müssen sich auch keine Gedanken über die Programmierung von neuronalen Netzen machen, da die zu berechnenden Daten einfach an die Hardware geschickt werden, die die Berechnung dann autonom vornimmt.Users and programmers don't have to worry about that either Make programming of neural networks as the ones to be calculated Data is simply sent to the hardware, which then performs the calculation autonomously.

Weitere Einzelheiten und Vorteile des Erfindungsgegenstandes ergeben sich aus der nachfolgenden Beschreibung und den dazugehörigen schematischen Darstellungen, in denen ein bevorzugtes Ausführungsbeispiel für die Vorhersage der Entwicklung eines Aktienkurses mit Hilfe eines neuronalen Netzes beschrieben ist.Further details and advantages of the subject matter of the invention emerge from the following description and the associated schematic Representations in which a preferred embodiment for the Predict the development of a stock price using a neural Network is described.

Die dazu vorgesehene Hardware wird aus bekannten Komponenten zusammen gestellt und verdrahtet. Sie besteht nach dem Blockschaltbild aus folgenden Komponenten:
genutzt werden kann, muss dies angelernt werden. Ein Grossteil der überspielten Daten stellen dafür die Trainingsmengen dar. Das auf dem EEPROM (5) gespeicherte Programm führt nun die Lernphase des neuronalen Netzes mit den Trainingsmengen durch. Ist die Phase abgeschlossen, da der Ausgabefehler des Netzes kleiner als der erwartet ist oder keine Trainingsmenge mehr vorhanden sind, wird die Vorhersage berechnet. Das Ergebnis der Vorhersage wird über die Schnittstelle (2) zum Rechner zurückübermittelt.The hardware provided for this purpose is put together and wired from known components. According to the block diagram, it consists of the following components:
can be used, this must be learned. A large part of the transferred data represent the training quantities. The program stored on the EEPROM ( 5 ) now carries out the learning phase of the neural network with the training quantities. If the phase is complete because the network output error is smaller than expected or there is no more training volume, the prediction is calculated. The result of the prediction is transmitted back to the computer via the interface ( 2 ).

Die Software übernimmt das Ergebnis der Hardware und verarbeitet dies in ein lesbares Ergebnis weiter. Durch die Software StockBrain wird der errechnete prognostizierte Aktienkurs dargestellt. So erhält der Anwender eine Entscheidungshilfe für seine Aktiengeschäfte.The software takes over the result of the hardware and processes it into one readable result. The software is calculated using the StockBrain software forecast share price. So the user receives one Decision support for his stock transactions.

Die möglichen Anwendungsgebiete beschränken aber sich nicht nur auf die Vorhersage von Aktienkurse. Mit der Hardware ist es möglich Analysen und/oder Wettervorhersage zu erstellen, Qualitätsprüfungen durchzuführen, Steuerungssysteme zu optimieren und/oder die Hardware für Muster- bzw. Spracherkennung zu verwenden. The possible areas of application are not limited to the Prediction of stock prices. With the hardware it is possible to carry out analyzes and / or Create weather forecasts, carry out quality checks, To optimize control systems and / or the hardware for sample or Use speech recognition.

Die Daten für vergangene Entwicklung eines Aktienkurses werden in den PC eingegeben. Die Daten werden durch ein spezielles Programm, im Fall von der Hardware durch die Software StockBrain, in für das neuronale Netze verständliche Werte umgeformt. Hierbei werden die Daten in Werte zwischen - 1 und 1 umgewandelt. Ist dies beendet, sendet die Software über eine Schnittstelle (2) (im Beispiel die serielle Schnittstelle) die umgewandelten Daten an die Hardware. Die Hardware übernimmt die Daten von der Schnittstelle und speichert diese im RAM (3) der Hardware. Bevor ein neuronales Netz erstThe data for the past development of a share price are entered into the PC. The data is converted by a special program, in the case of the hardware by the StockBrain software, into values that are understandable for the neural networks. The data is converted into values between -1 and 1. When this is finished, the software sends the converted data to the hardware via an interface ( 2 ) (in the example the serial interface). The hardware takes the data from the interface and stores it in the RAM ( 3 ) of the hardware. Before a neural network

Claims

Method for calculating neural networks with software stored in hardware component ( 5 ), characterized by the following steps:
Preparation of the input data for the special calculation tasks (e.g. prediction) on the PC with special software tailored to the calculation task,
Prepared input data are transferred to the hardware via the interface ( 2 ) and stored in RAM ( 3 ),
Training run of the neural network takes place completely independently of a PC on the hardware ( 1 ) only in the PC
Calculation of the output data by the computing unit ( 1 ) independently of the PC,
Transfer of the result via the interface ( 2 ) to the PC,
Software prepares the result value in the PC for the calculation task (prediction).