DE4015791A1

DE4015791A1 - Neuralnetzwerk fuer farbselektionen

Info

Publication number: DE4015791A1
Application number: DE4015791A
Authority: DE
Inventors: James Chen
Original assignee: Apple Computer Inc
Current assignee: Apple Inc
Priority date: 1989-05-18
Filing date: 1990-05-16
Publication date: 1990-11-22
Also published as: GB2231760A; JPH0394366A; GB2231760B; GB9009467D0

Description

Die Erfindung bezieht sich auf das Gebiet der Problemlösung auf der Basis von künstlicher Intelligenz und insbesondere auf die Auswahl von visuell ästhetischen Farbkombinationen unter Verwendung eines assoziativen Speichersystems, insbesondere eines Neuralnetzwerks.

Überblick auf Aufwendungen künstlicher Intelligenz

Es sind verschiedene Methoden zur Ausführung "künstlicher Intelligenz" oder "AI" mit Computersystemen bekannt. Obwohl eine strikte Definition von AI nicht zur Verfügung steht, kann AI generell als ein System beschrieben werden, in welchem ein Computer in der Lage ist, deduktive, folgernde Vernunft zu emulieren, z. B. das System kann Schlußfolgerungen auf der Basis gewisser Eingaben erreichen, nachdem es mit einem gewis sen Satz von Regeln oder Erfahrungen "trainiert" oder instru iert worden ist. Eine solche Definition umfaßt sogenannte "heuristische Forschungs-"Modelle sowie "assoziative Speicher-" Systeme und "connectionistische" Modelle. Jeder dieser Aus drücke wird weiter unten genauer definiert.

Das heuristische Suchmodell

Unter einem heuristischen Suchmodell kann man sich ein System vorstellen, in welchem ein Problem durch Verfolgen der Zweige eines Baums gelöst wird. Eine Gruppe von Entscheidungen werden getroffen; jede Entscheidung entsprechend einem Verzweigungs punkt des Baums. Die Suche wird durch einen Satz von Regeln oder "Heuristica" gesteuert; Heuristica ermöglichen dem System die Konzentration auf diejenigen Zweige des Baums, die mit größter Wahrscheinlichkeit eine Lösung liefern. Heuristische Suchmodelle wurden in einer großen Anzahl von Anwendungen kommerzialisiert, z. B. als Spiel-, natürliche Sprachverarbei tung und sogenannte "Expertensystem-" und "wissensbasierte" Anwendungen.

Ein Beispiel für die Schwächen einer solchen heuristischen Lösung ist beschrieben von David L. Waltz, Prospects for Buil ding a Truly Intelligent Machine, DAEDALUS Journal of the American Academy of Arts and Sciences, Band 117, Nr. 1, Seiten 191-212. Waltz beschreibt eine Anwendung eines heuristischen Modells um festzustellen, ob ein vorgegebenes Objekt "x" ein Vogel ist. In dieser Anwendung kann eine heuristische Regel lauten "wenn x ein Vogel ist, kann x fliegen". Waltz fährt jedoch fort in der Beschreibung des "Qualifikationsproblems"; d. h. bei einer vorgegebenen generellen Regel kann man stets ein Tatsachenmuster formulieren, welches eine weitere Qualifi kation der Regel erforderlich macht. Im Hinblick auf eine Welt, in der Pinguine und Strauße als "Vögel" klassifiziert sind, und in der keine dieser Species fliegen kann, muß die Regel modifiziert werden auf "wenn x ein Vogel ist, dann kann x fliegen, sofern x nicht einer aus einer Gruppe von flugunfä higen Vögeln ist". Weitere Ausnahmen für die Regel sind not wendig, um richtige Resultate zu erreichen, wenn die Operation in einer Welt durchgeführt wird, in der ein Vogel gestutzte Flügel haben, tot sein, ölverschmutzte Flügel nach einer Öl pest in der Lebensumgebung haben kann usw. Die möglichen Ausnahmen für die "generelle Regel" sind unbegrenzt.

Heuristische Suchmodelle leiden außerdem unter Mängeln in Anwendungen, bei denen "Regeln" zu schwer zu definieren sind. Die Regeln können sich einer Definition entziehen, da der von menschlichen Wesen benutzte Wahrnehmungsprozeß bei der Lösung eines speziellen Problems schwer zu definieren ist; da soge nannte "Experten" auf dem Gebiet unterschiedlicher Auffassung über die anzuwendenden "Regeln" sind oder sein sollten; oder aufgrund einer Kombination dieser Probleme. Wie zu sehen sein wird, ist es in erster Linie der zuletzt genannte Mangel, der zur vorliegenden Erfindung führt.

Assoziative Speichersysteme

Assoziative Speichersysteme wurden vorgeschlagen, bei denen eine Speicherdatenbank mit einem historischen Satz von Lösun gen für ein Problem oder für Sätze von Problemen vorhanden ist. Das assoziative Speichersystem löst ein aktuelles Problem durch Prüfung von Symptomen oder Charakteristiken des aktuel len Problems und Vergleich dieser Symptome mit früheren Lösun gen für das Problem. Eine Lösung wird aus dem historischen Satz von Lösungen ausgewählt, wobei die ausgewählte Lösung einen Satz von Symptomen hat, der dem derzeitigen Problem nahekommt.

Dieser Systemtyp läßt sich von den heuristischen Suchmodellen in der Verwendung eines "Nachschlage"-Prozesses anstelle einer Suche in einem Satz von Regeln differenzieren. Die "nachge schlagenen" Schritte oder Lösungen sind Darstellungen speziel ler Lösungen, statt Regeln.

Ein Beispiel eines solchen assoziativen Speichersystems ist die Anwendung auf die Diagnose medizinischer Probleme. Bei einer gegebenen Datenbank von Symptomen und Patientencharakte ristiken und einem Satz von Symptomen und Charakteristiken für einen speziellen Patient wurde ein assoziatives Speichersystem von Waltz beschrieben, bei dem das System die ähnlichsten früheren Patienten findet und die Hypothese aufstellt, daß die gleiche Diagnose auf dem neuen Patienten angewandt werden sollte.

Ein assoziatives Speichersystem kann konzipiert werden, das durch Anwendung seiner Datenbank auf einen neuen Satz von Symptomen "lernen" kann, wobei es feststellt, ob die vorge schlagene Lösung zu einem gewünschten Resultat führt und, bei Erreichen eines gewünschten Resultats, den neuen Symptomsatz und die Lösung in der Datenbank speichert.

Neuralnetzwerke

Ein "Neuralnetzwerk" (neural network) kann als spezielle Im plementierung eines Assoziativspeichers beschrieben werden. In einem Neuralnetzwerk sind Knotenpunkte oder Prozeßeinheiten durch Bindeglieder verknüpft, wobei jedes Bindeglied eine Wichtung oder Stärke hat.

Neuralnetzwerke werden durch Denken an die Verarbeitung und Speicherung von Informationen im menschlichen Gehirn inspi riert. (Das Gehirn besteht aus einer großen Anzahl von hoch vernetzten Elementen, die offensichtlich sehr einfache Anre gungs- und Sperrnachrichten austauschen und ihre Anregungen auf der Basis dieser Nachrichten aktualisieren.)

In einem Neuralnetzwerk kann jedes individuelle Neuron als Eingang oder als Ausgang wirken oder kann "versteckt" sein. (Ein verstecktes Neuron ist mit anderen Neuronen verbunden, kann jedoch nicht direkt von Eingangs- oder Ausgangskanälen zugegriffen werden. Dies wird weiter unten noch genauer disku tiert.)

Die Verbindung zwischen einem beliebigen Paar von speziellen Neuronen wird jedesmal dann verstärkt, wenn Informationen zwischen den beiden speziellen Neuronen fließen; d. h. bei einem gegebenen Problem, dargestellt durch Eingangsneuron A, und gefundener Lösung, dargestellt durch Ausgangsneuron B, wird die Verbindung zwischen A und B gestärkt.

Eine weitere Beschreibung von Neuralnetzwerken ergibt sich aus Jack D. Cowan und David H. Sharp, "Neural Nets and Artificial Intelligence", DAEDALUS Journal of the American Academy of Arts and Sciences, Band 117, Nr. 1, Seiten 85-121.

Training

Ein Netzwerk unterliegt typischerweise einem "Trainings-"Pro zeß, bei dem es mit einem Satz von Eingaben trainiert wird. Es ist erwünscht, daß das System während seines Trainingsprozes ses eventuell eine stabilisierte Konfiguration erreicht. Eine stabilisierte Konfiguration kann dann als ein Zustand des Netzwerks angenommen werden, bei dem das Anlegen eines Satzes von Eingaben an das Netzwerk zu einem gewünschten Satz von Ausgaben führt.

Auto-assoziative Netzwerke

Auto-assoziative Netzwerke sind eine Klasse von assoziativen Speichersystemen, die durch Verwendung eines Satzes von Bei spielen trainiert werden; diese Beispiele werden häufig als "Exemplare" bezeichnet. Das Netzwerk wird durch Verwendung der Exemplare als Eingaben in das Netzwerk trainiert, wobei auch die Exemplare als Targetausgaben benutzt werden. Wichtungen von Bindegliedern zwischen Eingangs- und Ausgangsknoten werden eingestellt, bis das Anlegen des Satzes von Exemplaren an den Eingangsknoten zu Antworten an den Ausgangsknoten führt, die den Targetantworten genügend nahe kommen.

Typische bekannte auto-assoziative Netzwerke sind nur in der Lage, mit Binärwerten (Nullen und Einsen) zu arbeiten. Die Verwendung von einfachen Binäreingaben ermöglicht einfachere Stabilisation und Training des Netzwerks.

Hopfield-Netzwerke

Cowan u. a. beschreiben ein besonderes auto-assoziatives Spei chersystem, das als das Hopfield-Netz bekannt ist. Das Hop field-Netz ist ein Netzwerk von Neural-ähnlichen Elementen mit symmetrischen Verbindungen. (Symmetrische Verbindungen werden formal wie folgt definiert: Wenn x und y zwei Neuronen sind, so sind ihre Verbindungen symmetrisch, wenn die Wichtung der von x nach y-Verbindung gleich der Wichtung der von y nach x-Verbindung ist.)

Cowan u. a. diskutieren und führen aus, daß Hopfield-Netze keine "wahren" Neuralnetze sind, da jedes Element oder Neuron seinen Nachbarn sowohl anregen als auch sperren muß. Insbeson dere regt typischerweise jedes Neuron einen Nachbarn an und sperrt einen anderen.

Ein Problem mit einem Hopfield-Netz besteht darin, daß sie in einer metastabilen Konfiguration leicht eingefangen werden können. Um metastabile Konfigurationen zu vermeiden, wurden modifizierte Hopfield-Netze unter Verwendung eines "Monte Carlo"-Prozesses vorgeschlagen, um dem Netz ein Entrinnen aus der metastabilen Konfiguration zu ermöglichen. Unter Verwen dung eines "Monte Carlo"-Prozesses führt das Netzwerk im wesent lichen zufällige Konfigurationsänderungen aus. Wenn die Ände rung zu einem stabileren Zustand führt, wird die Änderung aufrechterhalten; wenn die Änderung zu einer weniger stabilen Konfiguration führt, wird die Änderung abgelegt. Auf diese Weise wird eventuell eine stabile Konfiguration gefunden; der Lernvorgang kann jedoch sehr langsam sein.

Einschicht- und Mehrschicht-Netzwerke

Cowan u. a. beschreiben außerdem einen Netzwerktyp, der als Mehrschicht-Netzwerk bekannt ist. Ein solches Netzwerk kann in ziemlich vereinfachter Weise unter Bezugnahme auf Fig. 1(A) und Fig. 1(B) und unter Vergleich mit Einschicht-Netzwerken beschrieben werden. Das Hopfield-Netz, das oben diskutiert wurde, ist rechnerisch äquivalent mit einem Einschicht-Netz werk.

Fig. 1(A) zeigt ein Einschicht-Netzwerk mit drei Eingangskno ten 101, 102 und 103 und drei Ausgangsknoten 104, 105 und 106. Jeder der Eingangsknoten 101, 102 und 103 ist direkt mit jedem der Ausgangsknoten 104, 105 und 106 verbunden. Ein einfaches Netzwerk, wie das in Fig. 1(A) dargestellte Netzwerk, kann für gewisse Mustererkennungs- und Klassifikationsprobleme brauchbar sein. Generell kann dieser Netzwerktyp Muster erken nen, die durch eine Hyperebene (hyperplane) klassifiziert und getrennt werden. Dieser Mangel wird genauer unter Bezugnahme auf Richard P. Lippmann, "An Introduction to Computing with Neural Networks", IEEE ASSP Magazine, April 1987, Seiten 4-22, erläutert.

Eine Klasse von Netzwerken, die kompliziertere Muster erkennen kann und viele der dem in Fig. 1(A) gezeigten Netzwerktyp zugeordneten Probleme überwindet, wird als "Mehrschicht-"Netz werk bezeichnet. Derartige Netzwerke haben typischerweise eine Eingangsschicht und eine Ausgangsschicht, die durch "ver steckte" Schichten miteinander verbunden sind.

Lippmann beschreibt ein Einzelschicht-Netzwerk als geeignet, von einer Hyperebene begrenzte Bereiche zu unterscheiden. Mehrschicht-Netzwerke sind beliebige Gebiete, deren Komplexi tät durch die Anzahl von Knoten im Netzwerk begrenzt ist.

Ein anderer Weg der Betrachtung der Mängel eines Einzel schicht-Netzwerks besteht darin, daß Einzelschicht-Netzwerke ziemlich gut im Erkennen von Mustern sind, die ihren Trai ningsmustern ziemlich eng benachbart sind; jedoch arbeiten Einzelschicht-Netzwerke relativ schlecht bei der Erfassung von Mustern, die ihren Trainingsmustern unähnlich sind.

Fig. 1(B) stellt ein Mehrschicht-Netzwerk mit drei Eingangs knoten 110, 111 und 112 und drei Ausgangsknoten 116, 117 und 118 dar. Zusätzlich enthält das Netzwerk drei "versteckte" Knoten 113, 114 und 115. Der Ausdruck "versteckt" soll die Tatsache beschreiben, daß der Knoten von der Außenseite des Netzwerks weder eingangsseitig noch ausgangsseitig direkt zugreifbar ist. Stattdessen ist ein versteckter Knoten den Eingangs- und Ausgangsknoten im Netzwerk zwischengeschaltet.

Rückwärtsausbreitung

Die Rückwärtsausbreitung ist eine Technik, die zum Training von Mehrschicht-Netzwerken verwendet wird. Während des Trai nings mit Rückwärtsausbreitung wird das Netzwerk zunächst einer Vorwärtsstufe unterworfen, bei der Eingaben in das Netz werk simuliert und Antworten aufgezeichnet werden. Während der Rückwärtsstufe werden die Wichtungen der Verbindungen zwischen versteckten Einheiten und den Ausgangseinheiten eingestellt, und nach Einstellen der Wichtungen dieser Verbindungen wird das Gewicht der Verbindungen zwischen den Eingangseinheiten und den versteckten Einheiten eingestellt.

Fig. 1(C) ist illustrativ für ein solches Netzwerk, das mit einer Rückwärtsausbreitungsmethode trainiert werden kann. Wie oben erörtert, wird das Netzwerk zunächst einer Eingabe am Eingangsknoten 120 unterworfen. Die Antworten an den Ausgangs knoten 122, 123 und 124 werden aufgezeichnet. Die Wichtungen der Verbindungen 126, 127 und 128 werden danach eingestellt, und nach Einstellen der Wichtungen dieser Verbindungen wird die Wichtung der Verbindung 125 eingestellt - daher der Name Rückwärtsausbreitung. Das Beispiel der Fig. 1(C) stellt ein Netzwerk mit einem einzigen Eingangsknoten dar. Andere Netz werke können mehrere Eingangsknoten haben; wiederum andere Netzwerke können weniger oder mehr Ausgangsknoten haben.

Farbauswahlsysteme

Die obige Erörterung zentriert sich auf die Geschichte und Entwicklung bekannter AI-Systeme. Die Erfindung konzentriert sich auf die Verwendung von AI-Systemen für die Farbauswahl; wie weiter unten beschrieben werden wird, ist das bevorzugte Ausführungsbeispiel der vorliegenden Erfindung besonders zweckmäßig bei der Auswahl von Farben für ein Computer-Inter face und findet besondere Anwendung in der Auswahl von Farben für Elemente auf dem Apple Macintosh-Computer-Interface.

Die Verwendung von AI-Systemen für Farbselektionsanwendungen ist im Stande der Technik bekannt. Penny Bauersfeld, "Color Palette: A Knowledge-Based System to Select Colors for a Pa lette", Masters Thesis, Rochester Institute of Technology School of Computer Science and Technology, 16. August 1988, beschreibt ein System zur Farbselektion unter Verwendung eines wissensbasierten Systems. Bauersfeld beschreibt ein Wissensba sis-System, das zum Beraten von Benutzern bei der Farbauswahl für eine Palette, verwendet für Computerbildschirm-Konstruk tionsanwendungen benutzt wird. Die von Bauersfeld vorgeschla gene Wissensbasis kann Schlußfolgerungen treffen über die Beziehung von individuellen Farben in einem Satz mit anderen Farben im Satz auf der Basis eines Regelsatzes, der durch Forschung an Interface-Konstruktion und Farbtheorie abgeleitet ist. Bauersfeld stellt das Argument vor, wonach "die zur Durchführung der Farbselektion erforderlichen Erfahrungen verstandesmäßig faßbar und in geeigneter Weise von Experten artikuliert sind". Vgl. Bauersfeld auf Seite 10.

Ein zweites System zur Farbselektion in Computersystemen ist von Barbara J. Meier beschrieben in ACE: "A Color Expert Sy stem for User Interface Design", Proceedings of the ACM, SIGGRAPH Symposium on User Interface Software, Banff, Alberta, Kanada, 17. bis 19. Oktober 1988, Seiten 117-128.

Meier beschreibt ein Expertensystem, das einen Satz von Regeln bei der Selektion von Farben für Computerschnittstellen o. dgl. verwendet.

Wenn auch sowohl Bauersfeld als auch Meier Systeme für Farbse lektionen vorschlagen, basieren beide auf einem Satz von Re geln oder Heuristica zum Implementieren ihres vorgeschlagenen Farbselektionsprozesses. Obwohl Regeln zur Unterstützung der Selektion von Farben zur Verfügung stehen, ist einzusehen, daß kein einziger Satz von Regeln verfügbar ist, der den Kriterien aller sogenannten "Experten" genügt oder der alle möglichen Farbselektionskombinationen abdeckt.

Die Erfindung geht daher von der Erkenntnis aus, daß eine Implementierung auf der Basis eines Satzes von Regeln oder Heuristica unter Mängeln ähnlich den allgemeinen Mängeln von heuristischen Systemen leidet, wie sie oben erörtert wurden.

Der Erfindung liegt daher die Aufgabe zugrunde, ein assoziati ves Speichersystem für die Farbselektion anzugeben. Insbeson dere soll ein assoziatives Speichersystem mit besonderer An wendung bei der Konzeption von Farbinterfaces für Computersy steme angegeben werden. Im besonderen soll ein assoziatives Speichersystem entwickelt werden, das der Implementierung eines Farbselektionssystems dient.

Die Erfindung befaßt sich mit einer Einrichtung und einem Verfahren zum Unterstützen der Selektion von Farbkombinatio nen. Die Erfindung schlägt ein assoziatives Speichersystem mit besonderer Anwendung für die Konstruktion von Farbschnittstel len für Computersysteme vor.

Unter Verwendung eines Assoziativ-Speichersystems kann eine Farbschnittstelle auf der Basis von Präferenzen angegeben werden, die von einem Benutzer des Computersystems zugeführt werden. Es wurde gefunden, daß die Verwendung eines Assozia tiv-Speichersystems für die Farbselektion zu Vorteilen gegen über bekannten, auf "Regeln basierenden" Selektionssystemen führt.

Das erfindungsgemäße System wird in einem Computersystem im plementiert, das eine Vielzahl von Elementen an jedem Inter face-Schirm hat. Insbesondere benutzt das bevorzugte Computer system zehn separate Elemente. Das beschriebene Farbselek tionsverfahren ermöglicht es einem Benutzer, die Farben für jedes der Elemente im Interface aus einer Auswahl von verfüg baren Farben zu bezeichnen. Nach dem Auswählen bevorzugter Farben für die gewünschten Elemente fordert der Benutzer das Assoziativ-Speichersystem nach der Erfindung auf, bei der Auswahl eines Farbschemas für alle zehn Elemente zu helfen. Das Assoziativ-Speichersystem liefert ein Farbschema, das die benutzerbezeichneten Farben für die gewählten Elemente hat.

Die Erfindung beschreibt auch andere Methoden, die zur Selek tion von Farben für ein Computer-Interface zweckmäßig sind, einschließlich eines Verfahrens zum Sicherstellen von Farbkom binationen; eines Verfahrens zum Zurückgehen auf einen sicher gestellten Farbsatz; eines Verfahrens zum Durchsehen von be nutzer"konstruierten" Farbsätzen; und ein Verfahren zum Ein stellen der Elemente des Farbinterface auf einen monochromen Betrieb.

Die Erfindung beschreibt außerdem eine Neuralnetzwerk-Imple mentierung für das Farbselektionssystem. Das Neuralnetzwerk- System kann generell als eine Hybridschaltung aus einem Auto- Assoziativ-Speichersystem und einem Mehrschicht-Neuralnetz unter Verwendung der Rückwärtsausbreitung zum Lernen beschrie ben werden.

Das erfindungsgemäße System weist mehrere Eingangseinheiten auf; jede Eingangseinheit entspricht einem Element des Compu ter-Interface. Das Netzwerk weist außerdem mehrere Ausgangs einheiten auf; wiederum entspricht jede Ausgangseinheit einem Element des Computer-Interface. Jede Eingangseinheit ist mit allen Ausgangseinheiten, ausgenommen der Ausgangseinheit ent sprechend ihrem eigenen Element, über ein Unternetzwerk gekop pelt. Jede Ausgangseinheit ist mit ihrer entsprechenden Ein gangseinheit über ein Rekursionsbindeglied (recurrent link) gekoppelt. Daher kann dieses Hauptnetzwerk als der Auto-Asso ziativ-Netzwerk-Abschnitt des Hybridnetzwerks der Erfindung angesehen werden.

Jedes Unternetzwerk weist mehrere Eingangsknoten entsprechend jedem der Elemente eines Farbdarstellungssystems und mehrere Ausgangsknoten ebenfalls entsprechend den Elementen eines Farbdarstellungssystem auf. Die Eingangsknoten sind mit den Ausgangsknoten über versteckte Knoten gekoppelt. Bei dem be vorzugten Ausführungsbeispiel wird RGB-Farbraum benutzt. Es gibt daher drei Eingangsknoten entsprechend Rot, Grün und Blau, und drei Ausgangsknoten, ebenfalls entsprechend Rot, Grün und Blau. Jeder der drei Eingangsknoten ist vollständig mit drei versteckten Knoten verbunden. Jeder der drei ver steckten Knoten ist vollständig mit den drei Ausgangsknoten verbunden. Daher kann jedes der Unternetze als ein Mehr schicht-Netzwerkabschnitt des Hybridnetzwerks nach der Erfin dung angesehen werden.

Die Erfindung beschreibt eine neue Technik zur Relaxation des Netzwerks. Relaxation des Netzwerks verwendet eine Technik, die als Rückwärtsaktivitätsrelaxation bezeichnet wird. Die Rückwärtsaktivitätsrelaxations - nach der Erfindung - ist ein Verfahren zum Verringern der Energie im Netzwerk durch Ent spannen der Aktivität (im Gegensatz zu bekannten Methoden der Gewichtsentlastung) des Netzwerks.

Im folgenden wird die Erfindung anhand der Zeichnungen näher erläutert. In der Zeichnung zeigt

Fig. 1(A) eine Darstellung eines bekannten Einzel schicht-Netzwerks;

Fig. 1(B) eine Darstellung eines bekannten Mehr schicht-Netzwerks;

Fig. 1(C) eine Darstellung eines bekannten Netz werks für die Anwendung einer Rückwärts ausbreitungsmethode;

Fig. 2 eine Darstellung eines Bildschirms des bevorzugten Ausführungsbeispiels der Erfindung;

Fig. 3 ein Ablaufdiagramm, das ein bei der Er findung verwendbares Verfahren zum Zu greifen auf den Farbselektionsprozeß darstellt;

Fig. 4 ein Ablaufdiagramm, das ein bei der Er findung verwendbares Verfahren zur Farb selektion darstellt;

Fig. 5 ein Ablaufdiagramm, das ein bei der Er findung verwendbares Verfahren zum Ein stellen der Farbelemente eines Displays auf monochrome Werte darstellt;

Fig. 6 ein Ablaufdiagramm eines bei der Erfin dung verwendbaren Verfahrens zur Durch sicht von Designer-Farbsätzen;

Fig. 7 ein Ablaufdiagramm, das ein erfindungsge mäßes Verfahren zur Rückkehr zu einem zuvor sichergestellten Farbsatz dar stellt;

Fig. 8 eine Darstellung eines Netzwerks, das von der Erfindung benutzt werden kann; und

Fig. 9 ein Unternetzwerk, das erfindungsgemäß genutzt werden kann.

Beschrieben wird ein System zur Selektion von Farben. In der folgenden Beschreibung werden zahlreiche Details angegeben, beispielsweise spezielle Computer-Schnittstellen, spezielle Farben usw., um die Erfindung besser verständlich zu machen. Es ist jedoch für den Fachmann klar, daß die Erfindung auch ohne diese speziellen Details realisiert werden kann. In ande ren Fällen sind bekannte Schaltungen, Strukturen und Methoden nicht im einzelnen beschrieben, um die Erfindung nicht mit unnötigen Einzelheiten zu belasten.

Die Erfindung beschreibt ein System zur Selektion von Farben mit besonderer Anwendung auf die Farbauswahl für ein Computer- Interface. Das beschriebene Ausführungsbeispiel der Erfindung ist auf einem Apple-Macintosh-II-Computer implementiert, ob wohl es für den Fachmann klar ist, daß die Erfindung auch in Verbindung mit anderen Computersystemen sowie außerhalb des Computergebietes Anwendung finden kann.

Die Erfindung beschreibt außerdem eine bevorzugte Implementie rung eines Farbselektionssystems mit einem Neuralnetzwerk, das als Mehrschicht-Auto-Assoziativ-Netzwerk mit rücklaufenden Bindegliedern (Verknüpfungen) vom Ausgang zurück zum Eingang beschrieben ist. Obwohl das Netzwerk mit Bezug auf eine spezi elle Anwendung des Farbselektionsproblems beschrieben wird, ist es für den Fachmann klar, daß das Netzwerk auch bei ande ren Anwendungen zweckmäßig sein kann. Außerdem ist es für den Fachmann klar, daß alternative Ausführungsbeispiele andere Assoziativ-Speichersysteme zur Ausführung der Farbselektion verwenden können.

Hintergrund der Farb-Interface-Entwicklung

In modernen Computersystemen spielt die Farbe eine zunehmende Rolle. Dies gilt bei der Verwendung von Computersystemen zum Speichern und Präsentieren von Benutzerinformationen, bei spielsweise Farbbildschirmen und Diapositiven für die Bildwie dergabe; bei der Verwendung von hochauflösenden Farbgraphiken für Ingenieursaufgaben und andere Zwecke; und bei der Kon struktion von Computersystem-Schnittstellen.

Es wurde insbesondere gefunden, daß die Verwendung von Farbe bei der Konstruktion von Computer-Schnittstellen zu ästhetisch gelungenen Schnittstellen sowie zu Verbesserungen in der Fä higkeit zur Informationsvermittlung mit den Schnittstellen führen kann.

Es ist jedoch erwünscht, einem Endbenutzer eines Computersy stems die Änderung der Farben des Interface zu ermöglichen, und zwar entweder wegen persönlicher Präferenzen der Endver braucher oder zur besseren Informationsvermittlung auf eine für den speziellen Benutzer brauchbare Weise. Ein Problem bei der "Anpassung" der Farben an das Kunden-Interface besteht darin, daß viele Benutzer Schwierigkeiten in der Gewinnung ästhetisch gelungener Resultate haben können.

Daher ist ein System erwünscht, das es den Benutzern erlaubt, ihr Interface anzupassen und Unterstützung bei der Farbselek tion zu erhalten, um wünschenswerte Ergebnisse zu gewinnen. Eine Analogie kann zu einem Innenarchitekten gezogen werden, der Hilfe bei der Auswahl eines Farbschemas für ein Heim oder ein Büro anbietet. Typischerweise erhält der Innenausstatter Informationen über bevorzugte Präferenzen des Kunden. Unter Verwendung dieser Informationen versucht der Innenarchitekt oder -ausstatter, eine Farbkombination zu konzipieren, die dem Kunden entgegenkommt.

Eine der Erfindung zugrundeliegende Beobachtung oder Überle gung besteht darin, daß der Farbexperte, wie beispielsweise ein Innenarchitekt oder -dekorateur, sich innerhalb einer Reihe genereller Prinzipien des Farbdesign bewegt, wobei aber die Erfahrungen des Farbexperten mehr künstlerischer als tech nischer Art sind. Mit anderen Worten, ein Satz von Regeln ist unvollständig, und die künstlerischen Kenntnisse und Erfahrun gen des Farbexperten sind zur Konzeption einer gut koordinier ten Atmosphäre erforderlich. Diese künstlerischen Kenntnisse und Erfahrungen lassen sich nicht ohne weiteres, vielleicht sogar überhaupt nicht, auf einen notwendigen Satz von Regeln reduzieren, wie dies bei der Entwicklung eines Farbauswahlsy stems auf der Basis eines heuristischen Modells notwendig wäre.

Ein assoziatives Speichersystem zur Farbselektion

Die Erfindung schlägt daher ein Farbselektionssystem unter Verwendung eines Assoziativ-Speicher-Netzwerks zur Unterstüt zung beim Farbselektionsprozeß vor. Ein Assoziativ-Speicher- Netzwerk braucht nicht die Errichtung eines Satzes von Re geln; stattdessen wird das Netzwerk mit einem Satz von "guten" Lösungen trainiert und nimmt die Fähigkeit an, in solcher Weise zu handeln, als ob es einen Satz von Regeln kennen wür de.

Dies ist ähnlich derjenigen Weise, in der ein menschlicher Farbexperte typischerweise Informationen aufnimmt und zur Entwicklung neuer Farbkombinationen umsetzt, d. h. der mensch liche Farbexperte beobachtet und ist in der Lage, Farbkombina tionen zu konstruieren, die ansprechend sind; er ist jedoch häufig nicht in der Lage, spezielle Regeln oder Gründe für die Auswahl oder Eignung von Farbkombinationen anzugeben.

Als eine Alternative zum bevorzugten Ausführungsbeispiel der Erfindung kann es wünschenswert sein, ein Farbselektionssystem zu implementieren, das Merkmale eines auf Regeln basierenden Expertensystems in Kombination mit Merkmalen eines Assoziativ- Speicher-Systems benutzt. Beispielsweise kann das System zunächst einen Regelsatz anwenden und danach ein Neuralnetz werk zur Selektion von Farbkombinationen benutzen, die zum Regelsatz passen. Alternativ kann das System zunächst eine Farbkombination ableiten und danach einen Regelsatz anwenden, um Übereinstimmung der vorgeschlagenen Farbkombination mit den entwickelten Regeln zu gewährleisten. Beispielsweise kann eine Regel durchgesetzt werden, die ein gewisses Kontrastniveau zwischen Textelementen und Hintergrundelementen erforderlich macht. Wichtig ist, daß die Verwendung eines Assoziativ-Spei cher-Systems entweder allein oder in Kombination mit einem System auf Regelbasis im Farbselektionsprozeß beträchtliche Vorteile gegenüber dem bekannten System bietet, das nur auf Regel basierende Farbselektionssysteme benutzt.

Das erfindungsgemäße System und die spezielle Anwendung dieses Systems auf ein Computer-Interface werden weiter unten genauer beschrieben.

Anwendung eines Farbselektionssystems auf das Macintosh-Computer-Interface

Das bevorzugte Ausführungsbeispiel der Erfindung ist auf dem Macintosh-II-Computer für die Zwecke der Benutzerunterstützung bei der Selektion von Farben für Elemente im Macintosh-Compu ter-Interface implementiert (das Macintosh-Computer-Interface wird häufig als "desktop" bezeichnet).

Es ist natürlich naheliegend, daß die Erfindung auch bei Schnittstellen alternativer Computersysteme sowie in anderen alternativen Anwendungen bei Computersystemen generell, bei spielsweise bei der Selektion von Farben für Graphikdesign, entwickelt auf einem Farbcomputersystem, eingesetzt werden kann. Die Erfindung ist weiterhin bei anderen Farbselektions anwendungen vorteilhaft verwendbar. Innenausstattung, Make-up und Garderoben-Farbauswahl sind Beispiele solcher alternativer Verwendungsmöglichkeiten.

Der Farbselektionsprozeß des bevorzugten Ausführungsbeispiels

Das Interface des bevorzugten Ausführungsbeispiels wird unter Bezugnahme auf Fig. 2 beschrieben. Wie vielen Benutzern des Macintosh-Computers vertraut ist, weist das Macintosh-Inter face eine Anzahl von Elementen, wie den Desktop 201, Menübal ken-Hintergrund 202, Menübalken-Text 203, Menü-Text 204, Menü- Hintergrund 205, Fenster-Text 206, Fenster-Hilite 207, Fen sterbalken 208, Daumen (thumb) 209 und Rollbalken 210 auf. Bei einem Farbinterface kann jedem dieser Elemente eine andere Farbe zugeordnet sein. (Selbstverständlich kann ein spezielles Interface auch einem oder mehreren der Elemente dieselbe Farbe zuordnen.)

Zu beachten ist, daß das Macintosh-Interface andere Elemente enthält; das bevorzugte Ausführungsbeispiel der Erfindung ermöglicht die Zuordnung von Farben zu den oben angegebenen Elementen, alternative Ausführungsbeispiele können die Zuord nungen zu vollen Elementensätzen oder alternativen Teilsätzen ermöglichen.

Bei dem System nach dem bevorzugten Ausführungsbeispiel kann ein spezieller Bildschirm mehr als eine Menüoption im Menübal ken-Text 203 und demgemäß auch mehr als einen Satz des Menü- Textes 204 und der Menü-Hintergrundzone 205 haben. In der Implementierung nach dem beschriebenen Ausführungsbeispiel erscheint jede der Optionen auf dem Menübalken-Text 203 in der gleichen Farbe; jeder der Sätze des Menü-Textes 204 erscheint in derselben Farbe; und jeder der Menü-Hintergrundbereiche 205 erscheint in derselben Farbe. In ähnlicher Weise können mehre re Fenster mit Fenster-Textzonen 206, Fenster-Hilites 207, Fensterbalken 208, Rollbalken 210 und Daumen 209 vorhanden sein. Diese Bereiche jedes Fensters würden in ähnlicher Weise von Fenster zu Fenster des beschriebenen Ausführungsbeispiels in der gleichen Farbe erscheinen.

Fig. 3 bis 8 sind Ablaufdiagramme, welche die Verwendung des Farbselektionsverfahrens nach dem bevorzugten Ausführungsbei spiel darstellen.

Fig. 3 zeigt das Verfahren des bevorzugten Ausführungsbei spiels zum Zugreifen auf das Farbselektionssystem. Zuerst stellt ein Benutzer fest daß es wünschenswert wäre, das Farb interface des Computers zu ändern, Block 301. Der Benutzer "regt" die Farbselektionsanwendung "an", Block 302. Das Anre gen einer Anwendung geschieht generell durch Auswahl eines Ikon an dem Desktop entsprechend der anzuregenden oder gestar teten Anwendung und durch "Doppelklicken" auf dem gewählten Ikon. ("Klicken" ist ein Macintosh-Benutzern bekannter Aus druck und wird typischerweise der Verwendung einer Maus als Hinweisgerät zugeordnet. Um eine Zone eines Bildschirms anzu klicken, wird die Maus benutzt, um den Cursor auf den ge wünschten Bereich des Displays zu bewegen, und die Drucktaste an der Maus wird niedergedrückt und freigegeben. Ein Doppel klicken ist ein zweimaliges Niederdrücken und Freigeben der Drucktaste an der Maus in rascher Folge.)

Wie dem Benutzer des Macintosh-Computers vertraut ist, steht ein Menübalken am oberen Ende des Macintosh-Bildschirms zur Verfügung. Eine Alternative des bevorzugten Ausführungsbei spiels zur Anregung der Farbselektionsanwendung würde es einem Benutzer ermöglichen, eine Funktion vom Menübalken dadurch auszuwählen, daß er das Menübalkenfeld mit einem Hinweisgerät, wie einer Maus, ansteuert. Der Benutzer wählt dann die Farbse lektionsfunktion aus dem gewählten Menü durch Abwärtsfahren mit dem Hinweisgerät so weit, bis die Farbselektionsfunktion aufleuchtet, und gibt danach das Hinweisgerät (z. B. die Druck taste an der Maus) frei.

In Abhängigkeit von der Auswahl des Farbselektionssystems erscheint ein Bildschirm, wie der in Fig. 2 gezeigte Bild schirm auf dem Display, Block 303. Der Bildschirm zeigt das Standard-Macintosh-Interface mit Etikettenfeldern, die auf jedes derjenigen Elemente hinweisen, die ihre Farben geändert haben können. Der Bildschirm zeigt auch eine Farbpalette 221 und einen Satz von Funktionstasten 220, die vom Benutzer aus gewählt werden können. Jede der Funktionstasten 220 wird wei ter unten genauer beschrieben werden. Die Farbpalette 221 enthält ein 16×16 Quadrat von Farben (insgesamt 256 Farben) .

Nachdem das Farbselektionsbild erscheint, kann der Benutzer irgendeine der im Farbselektionsprozeß verfügbaren Funktionen auswählen, Block 304.

Fig. 4 zeigt das Verfahren des bevorzugten Ausführungsbei spiels zur Auswahl von Farben. Der Benutzer stellt zunächst fest, daß es wünschenswert ist, die Farben von Elementen auf dem Interface zu ändern, Block 401.

Wie zuvor erörtert wurde, ist der Farbselektionsprozeß nach dem bevorzugten Ausführungsbeispiel dazu vorgesehen, dem Be nutzer beim Farbauswahlprozeß zu helfen, indem er die Benut zerpräferenzen betrachtet und auf der Basis dieser Präferenzen Farbkombinationen vorschlägt. Daher liefert der Benutzer an das System zunächst Informationen bezüglich der Benutzerpräfe renzen.

Um diese Eingabe durchzuführen, wählt der Benutzer ein Ele ment, Block 402. Das gewählte Element kann eines der zehn Elemente auf dem Macintosh-Interface sein, d. h. das Desktop 201, der Menübalken-Hintergrund 202, der Menübalken-Text 203, der Menü-Text 204, der Menü-Hintergrund 205, der Fenster-Text 206, das Fenster-Hilite 207, der Fensterbalken 208, der Daumen 209 und Rollbalken 210. Der Benutzer wählt das gewünschte Element durch Zeigen auf das dem Element zugeordnete Etikett mit dem Hinweisgerät und Anklicken des Etiketts aus.

Nach der Auswahl eines Elements wählt der Benutzer eine Farbe für das Element aus der Farbpalette 221, Block 403. Bei dem bevorzugten Beispiel richtet der Benutzer das Hinweisgerät auf die Farbpalette 221 und benutzt das Hinweisgerät zur Auswahl einer Farbe, indem er auf die gewünschte Farbe zeigt und sie anklickt. Alternativ können Ausführungsbeispiele der Erfindung entwickelt werden, die es ermöglichen, daß der Cursor automa tisch in die Farbpalettenzone 221 geführt wird, nachdem der Benutzer ein Element ausgewählt hat.

Nach der Auswahl einer Farbe erscheint das Element auf dem Displayschirm in dieser Farbe. Auf diese Weise erhält der Benutzer eine unmittelbare Rückantwort darauf, wie die ausge wählten Farben zusammenwirken, und nimmt Änderungen der ge wählten Farbe so lange vor, bis die gewünschte Kombination erreicht worden ist.

Nach der Auswahl der Farbe für ein erstes Element kann der Benutzer Farben für zusätzliche Elemente auswählen, Zweig 404. Auf diese Weise kann der Benutzer so viel oder wenig Informa tionen über das bevorzugte Farbschema geben, wie er wünscht.

Nachdem der Benutzer die Farben für die gewünschten Elemente gewählt hat, Zweig 405, kann er die "Farbvorschlags"-Funktion durch Zeigen auf die und Anklicken der "Farbvorschlags"-Taste auswählen. Das System, das die bevorzugte Implementierung eines Neuralnetzwerks benutzt, schlägt Farben für jedes Ele ment vor, das der Benutzer zuvor nicht ausgewählt hat, Block 406.

Die "Farbvorschlags"-Funktion präsentiert dem Netzwerk als Eingaben das vom Benutzer ausgewählte Farbschema. Das Netzwerk nimmt an, daß die ausgewählten Elemente keine geänderten Far ben haben sollen. Das Netzwerk erzeugt als Ausgabe zehn Far ben, die jedem der zehn Elemente entsprechen, und führt dem Benutzer auf dem Bildschirm das Farbschema vor. Die zehn Far ben umfassen die vom Benutzer ausgewählten Farben sowie Far ben, die vom Netzwerk als "gut-passend" zu den ausgewählten Farben bestimmt sind. Die Beurteilung einer guten Farbabstim mung basiert auf dem vorhergehenden Training des Netzwerks. Das Netzwerk-Training wird für das bevorzugte Ausführungsbei spiel weiter unten genauer beschrieben.

Nach der Präsentation der vom Netzwerk vorgeschlagenen Farben kann der Benutzer Elemente auswählen und das Farbschema än dern, Block 407. Der Benutzer erledigt dies durch Auswahl von Elementen und Farben in der in Verbindung mit Blöcken 402 und 403 zuvor beschriebenen Weise.

Der Benutzer kann Farbauswahlen ver- und entriegeln durch Wahl der "Farb-Verriegel"-Funktion, Block 408. Zur Wahl der "Farb- Verriegel"-Funktion zeigt der Benutzer auf und klickt an den "Farb-Verriegel"-Knopf. In Abhängigkeit von der Auswahl der "Farb-Verriegel"-Funktion wird dem Benutzer ein Satz von Prüf feldern entsprechend jedem der Elemente im Interface vorge führt. Alle Elemente, die zuvor explizit ausgewählt wurden (in dem Prozeß gemäß Blöcken 402 und 403), erscheinen als geprüft. Alle Elemente, deren Farben von dem Neuralnetzwerk gewählt wurden, sind nicht geprüft. Der Benutzer kann jedes Element prüfen, das noch nicht geprüft ist, und kann ein geprüftes Element aussondern, indem er das entsprechende Feld bzw. den entsprechenden Block anklickt. (Die Prüffelder (checkboxes) wirken als Kippschalter und kippen zwischen geprüften und ungeprüften Stellungen.)

Es gibt natürlich eine Anzahl von alternativen Methoden, die es einem Benutzer ermöglichen, Farbauswahlen relativ zu ver riegeln und zu entriegeln. Eine Alternative wäre die Benutzung visueller Indikatoren, die entweder nahe oder innerhalb jedes Etiketts auf dem Desktop angeordnet sind. Ein Beispiel eines visuellen Indikators wäre ein Padlock-Ikon. Der visuelle Indi kator zeigt dem Benutzer dann an, ob die Farbe für ein Element verriegelt ist (beispielsweise kann ein Padlock aufleuchten, wenn die Farbe verriegelt ist). Der Benutzer kann den Zustand des Elements zwischen verriegelt und entriegelt durch An klicken des visuellen Indikators ändern.

Der Benutzer kann danach die "vorgeschlagene Farb"-Funktion auswählen, und das System schlägt dann Farben für alle entrie gelten Elemente vor, Block 409.

Nach Erreichen einer gewünschten Farbkombination durch den Prozeß des Wählens und Verriegelns von Farben und unter Ver wendung der "Farbvorschlags"-Funktion kann die Farbkombination dadurch sichergestellt werden, daß man auf die "Sichern"-Taste weist und sie anklickt. Die aktuelle Farbkombination wird dann gesichert und als Farbkombination für das Macintosh-Interface nach Anregen des Farbselektionsprozesses benutzt.

Das bevorzugte Ausführungsbeispiel der Erfindung umfaßt einige andere Funktionen im Farbselektionsprozeß, die dem Prozeßbe nutzer zweckmäßig erscheinen können.

Fig. 5 zeigt ein Verfahren des bevorzugten Ausführungsbei spiels, das verwendet wird, wenn der Benutzer Farben des In terface auf Standard-Monochrom-Werte einstellen will, Block 501. Der Benutzer wählt zunächst die "Monochrom"-Funktion durch Zeigen auf und Anklicken der "Monochrom"-Taste, Block 502. In Abhängigkeit von der Auswahl der "Monochrom"-Funktion wird das Macintosh-Interface auf Standard-Monochrom-Werte zurückgesetzt, Block 503.

Fig. 6 zeigt das bevorzugte Verfahren, das es einem Benutzer, der die zum Training des Netzwerks verwendeten Designer-Farb sätze durchzusehen wünscht, gestattet, jeden der exemplari schen Farbsätze zu prüfen, Block 601. Der Benutzer kann die "Designer-Farbsatz"-Funktion wiederum durch Ansteuern und Anklicken des "Designer-Farbsatz"-Knopfes auswählen. Das Sy stem ermöglicht es dem Benutzer sodann, jeden der zum Training des Netzwerks benutzten Farbsätze zu durchlaufen, Block 603. Die Entwicklung und Auswahl von Farbsätzen zum Training des Netzwerks werden weiter unten genauer erörtert.

Es ist wert, zu wissen, daß die "Sichern"-Funktion nach der Durchsicht von Designer-Farbsätzen auch zum Sicherstellen eines speziellen Designer-Farbsatzes als neuen Farbsatz für das Macintosh-Interface verwendet werden kann. Die "Sichern"- Funktion kann auch zum Sichern des monochromen Farbsatzes als Farbsatz für das Interface benutzt werden. Außerdem können beliebige Designer-Farbsätze oder der Monochrom-Farbsatz durch Verriegeln und Entriegeln von Elementen und Auswahl neuer Farben für die Elemente entsprechend der Beschreibung in Ver bindung mit Fig. 4 modifiziert werden. Die "Farbvorschlags"- Funktion kann danach zur Entwicklung eines neuen Farbsatzes benutzt werden.

Bezug genommen wird jetzt auf Fig. 7. Nach Änderung und Prü fung neuer Farbsätze mag der Benutzer wünschen, auf den zu letzt gesicherten Farbsatz zurückzukommen, Block 701. Um dies durchzuführen, zeigt der Benutzer auf die "Rückkehr"-Taste, Block 702. Bei Anklicken der "Rückkehr"-Taste führt das System das Interface-Bild auf den zuletzt gesicherten Farbsatz zu rück.

Es ist für den Fachmann klar, daß der oben angegebene Merk malssatz nicht der einzig mögliche ist. Andere Merkmale können zu einem Ausführungsbeispiel der Erfindung hinzugefügt werden. So gibt das bevorzugte Ausführungsbeispiel der Erfindung dem Benutzer die Möglichkeit der Sicherstellung eines Farbsatzes.

Ein Merkmal kann hinzugefügt werden, welches dem Benutzer die Sicherstellung mehrerer Farbsätze und die spätere Auswahl aus den sichergestellten Farbsätzen zur Verwendung und Modifika tion ermöglicht. Eine Trainingsfunktion kann hinzugefügt wer den, die es dem Benutzer erlaubt, neue Farbsätze für weiteres Training des Netzwerkes zu konzipieren. Übliche Designer-Sätze können zur Verfügung stehen; beispielsweise können Designer- Sätze konzipiert und von "namhaften" Designern vertrieben werden. Der Käufer derartiger üblicher Designer-Sätze wäre in der Lage, Farbsätze zu entwerfen, die von den Präferenzen des "namhaften" Designers beeinflußt sind. Das System des bevor zugten Ausführungsbeispiels ist konzipiert, aus einer externen Datei die Werte der Stärken der Verbindungen zu lesen. Dieser Aspekt des bevorzugten Ausführungsbeispiels wirkt sich in einer Unterstützung der Benutzung von "namhaften" Designer- Farbsätzen aus.

Das Assoziativ-Speicher-System des bevorzugten Ausführungsbeispiels

Das Design des Assoziativ-Speicher-Systems für die Erfindung beinhaltet die Bewertung einer Anzahl von Assoziativ-Speicher- Modellen. Nach einem Studium bekannter Assoziativ-Speicher- Systeme wurde festgestellt, daß bekannte Systeme keine zu friedenstellende Lösung für die von dem gewünschten Farbselek tionssystem aufgeworfenen Probleme anbieten.

Das System nach der vorliegenden Erfindung umfaßt eine große Anzahl möglicher Kombinationen. Zunächst existiert eine große Anzahl von möglichen Farben, aus denen besondere Farben ausge wählt werden können. Das Computer-System gemäß bevorzugtem Ausführungsbeispiel trägt rechnerisch 2⁴⁸ unterschiedliche Farben. Zweitens kann irgendeine dieser Farben auf irgendeins aus einer Anzahl von Elementen angewendet werden. Bei dem bevorzugten Beispiel gibt es zehn Elemente, denen Farben zuge ordnet werden können. Es gibt daher insgesamt 2⁴⁸⁰ unter schiedliche Kombinationen, aus denen der Benutzer auswählen kann. Selbst bei dem bevorzugten Beispiel, bei dem der Benut zer auf 256 (2⁸) mögliche Farbwahlen beschränkt ist, gibt es 2⁸⁰ mögliche Kombinationen.

Eine erfolgreiche Implementierung eines Farbselektionssystems sollte in der Lage sein, bei Farbkombinationen zu helfen, für die das System nicht trainiert wurde. D. h., ein Farbselek tionssystem, das nur Farbkombinationen aus einem Speicher aufruft, würde nicht die große Anzahl möglicher Kombinationen praktisch ergeben. Das Merkmal der Eignung zur Generalisierung aus einem Satz von Exemplaren zur Schaffung einer Lösung für eine spezielle Situation wird als "Generalisierung" bezeich net.

Generalisierung ist in Auto-Assoziativ-Netzwerken bekannt. Generell sind Auto-Assoziativ-Netzwerke, ähnlich vielen Netz werken, mit einem Satz von Trainingsbeispielen ("Exemplaren") trainiert. Auto-Assoziativ-Netzwerke speichern Speichermuster (auf der Basis von Exemplaren) in Mehrpunkt-Attraktoren und sind in der Lage durch Vervielfachen ähnlicher Muster zu generalisieren. (Anstelle der Erzeugung unterschiedlicher Muster für jedes Muster einer Klasse erzeugt das Netzwerk einen einzelnen Attraktor für das "durchschnittliche" oder "Prototyp"-Muster.)

Es ist erwünscht, ein System zu entwickeln, welches es einem Benutzer ermöglicht, eine neue, unbekannte Farbe auszuwählen und für das Netzwerk seine Kenntnis der numerischen Beziehung zwischen "passenden" Farben zur Bestimmung geeigneter Benut zung der neuen Farbe zu generalisieren. Eine Implementierung eines Netzwerks mit dieser Fähigkeit macht es erforderlich, das Netzwerk nicht nur auf die Erzeugung von Mehrpunkt-Attrak toren, sondern auch das "Umfeld"-Attraktorbecken zu trainie ren. Diese Art der Generalisierung ist in Systemen bekannt, die als Vorwärtsversorgungsnetzwerke unter Verwendung eines Einzelbeckens beschrieben werden können. Diese Art der Genera lisierung ist jedoch nicht in Auto-Assoziativ-Netzwerken be kannt.

Eine andere Schwierigkeit entsteht aus der Tatsache, daß die bei der Erfindung verwendeten Farben von einem Satz kontinu ierlicher Werte dargestellt werden; bei dem bevorzugten Aus führungsbeispiel werden Farben durch RGB(Rot-Grün-Blau)-Werte dargestellt. Jeder RGB-Wert wird durch drei 16-Bit-Ganzzahlen dargestellt, eine für Rot, eine für Grün und eine für Blau. Typische Auto-Assoziativ-Modelle speichern nur Binärmuster. Eine Implementierung, welche binär codierte Darstellungen der kontinuierlichen RGB-Werte benutzt, wäre wegen der Anzahl der benötigten Eingangs- und Ausgangseinheiten ungeeignet.

Beschreibung des Netzwerks des bevorzugten Ausführungsbeispiels

Daher wird ein Netzwerk angegeben, das als Zweischichten-Rück wärtsausbreitungs-Netzwerk mit zurücklaufenden Verbindungs gliedern beschrieben werden kann, das einem Modell eines asymmetrischen kontinuierlichen Auto-Assoziativ-Speichers hinzugefügt wird.

Fig. 8 zeigt die Basiskonfiguration des Farbselektions-Netz werks nach der Erfindung. Ein Satz von zehn Eingangsknoten und zehn Ausgangsknoten wird zur Darstellung der Farben von zehn Interface- Elementen des Macintosh-Displays verwendet.

Fig. 8 zeigt vier der Eingangsknoten, Desktop 801, Menü-Text 802, Rollbalken 803 und Daumen 804, sowie vier der Ausgangs knoten, Desktop 805 Menü-Text 806, Rollbalken 807 und Daumen 808. Es ist dem Fachmann klar, wie die Darstellung gemäß Fig. 8 mit vier Knoten zur Implementierung des bevorzugten Ausfüh rungsbeispiels mit zehn Knoten zu erweitern ist. Jeder der Eingangsknoten (z. B. Knoten 801, 802, 803 und 804) ist mit jedem der Ausgangsknoten (z. B. Knoten 805, 806, 807 und 808) verbunden; eine Ausnahme besteht darin, daß jeder Eingangskno ten nicht mit dem ihm selbst entsprechenden Ausgangsknoten verbunden ist. Beispielsweise ist der Eingangsknoten Desktop 801 mit den Ausgangsknoten Menü-Text 806, Rollbalken 807 und Daumen 808 verbunden. Eingangsknoten Desktop 801 ist nicht mit dem Ausgangsknoten Desktop 805 verbunden. Daher ist bei dem beschriebenen Ausführungsbeispiel jeder Eingangsknoten mit neun Ausgangsknoten verbunden. Das resultierende Netzwerk kann man sich als ein vollständiges verbundenes Zehn-Knoten-Hop field-Netzwerk vorstellen, mit der Ausnahme, daß das Netzwerk asymmetrische Verbindungen enthält. (Es sollte beachtet wer den, daß das Fehlen der Verbindung von einer Eingangseinheit zu der ihr entsprechenden Ausgangseinheit sicherstellt, daß das Netzwerk nicht einfach eine Eingabe direkt zu einer Ausga be zu kopieren lernt; stattdessen muß das Netzwerk lernen, das mapping indirekt über andere Interface-Elemente zu codieren.)

Das Netzwerk weist auch rückwärtslaufende Verbindungen von jedem Ausgangsknoten zu dessen entsprechenden Eingangsknoten auf. Beispielsweise ist der Ausgangsknoten Desktop 805 mit dem Eingangsknoten Desktop 801 verbunden. Diese Verbindung ermög licht es, den Zustand des Ausgangsknotens zum Eingangsknoten während des Relaxationsprozesses zu kopieren (der Relaxations prozeß wird weiter unten genauer beschrieben).

Jeder der Eingangs-Ausgangs-Knotensätze in Fig. 8 entspricht tatsächlich einem Unternetzwerk. Fig. 9 ist illustrativ für die Unternetzwerk-Verbindung zwischen Eingangsknoten Menü-Text 802 der Fig. 8 (gezeigt als Eingangsknoten 910 in Fig. 9) und Ausgangsknoten Rollbalken 807 (gezeigt als Ausgangsknoten 912 in Fig. 9). Diese Verbindung enthält drei Eingangseinheiten 910 (d. h. Rot 901, Grün 902 und Blau 903), drei Ausgangsein heiten 912 (d. h. Rot 904, Grün 905 und Blau 906), drei ver steckte Einheiten 911 und achtzehn gewichtete Verbindungsglie der, von denen neun die drei Eingangseinheiten 910 mit den versteckten Einheiten 911 und neun die versteckten Einheiten 911 mit den Ausgangseinheiten 912 vollständig verbinden.

Das Netzwerk des bevorzugten Ausführungsbeispiels enthält daher insgesamt 30 Eingangseinheiten und 30 Ausgangseinheiten. Wie beschrieben worden ist, ist jede der 30 Eingangseinheiten und 30 Ausgangseinheiten in Sätzen von drei Einheiten grup piert. Daher gibt es zehn Gruppen von Eingangseinheiten ent sprechend den zehn Bildschirm-Elementen. Jede der zehn Gruppen von Eingangselementen ist indirekt mit neun der Gruppen von Ausgangseinheiten verbunden, bei einer Gesamtheit von 90 Ver bindungen von Gruppen von Eingangseinheiten mit Gruppen von Ausgangseinheiten. Die Gruppen von Eingangseinheiten sind mit Ausgangseinheiten über Gruppen von drei versteckten Einheiten verbunden. Daher enthält das bevorzugte Ausführungsbeispiel außerdem 270 (90×3) versteckte Einheiten. Insbesondere ist jede der drei Eingangseinheiten in jeder Eingangsgruppe mit jeder der drei versteckten Einheiten verbunden, die dieser Gruppe zugeordnet sind. Jede der drei versteckten Einheiten ist mit jeder der den versteckten Einheiten zugeordneten drei Ausgangseinheiten verbunden. Insgesamt enthält das System 1620 Vorwärtsverbindungsglieder oder Verbindungen (90 Verbindungen von Eingangsgruppen zu Ausgangsgruppen; jede dieser Verbindun gen enthält neun Verbindungen von Eingangsgruppe zu versteck ter Gruppe plus 9 Verbindungen von versteckter Gruppe zur Ausgangsgruppe, d. h. 90×(9+9) = 90×18 = 1620).

Wie oben ausgeführt, weist das System außerdem zehn rücklaufen de Verbindungen von Ausgangsfarbknoten zu deren entsprechenden Eingangsfarbknoten auf. Jede der rücklaufenden Verbindungen verbindet tatsächlich den roten Knoten des Ausgangs mit dem roten Knoten des entsprechenden Eingangs, den grünen Knoten des Ausgangs mit dem grünen Knoten des entsprechenden Eingangs und den blauen Knoten des Ausgangs mit dem blauen Knoten des entsprechenden Eingangs, d. h. insgesamt 3 mal 10 oder 30 Ver bindungen.

Es ist wichtig, zu beachten, daß trotz der Implementierung des bevorzugten Ausführungsbeispiels unter Verwendung einer RGB- Farbdarstellung ein alternatives Ausführungsbeispiel unter Verwendung anderer Darstellungssysteme für Farben implemen tiert werden könnte. Beispielsweise enthalten übliche Systeme HSV (Farbton, Sättigung und Wert) und CMY (Cyan, Magenta und Gelb). Das RGB-Codiersystem wurde für das bevorzugte Ausfüh rungsbeispiel gewählt, da RGB-Codierung dem Standard für die Macintosh-II-Hardware und -Software entspricht. Es ist außerdem wert, zu beachten, daß das erfindungsgemäße Netzwerk auch Anwendungen außerhalb des Farbselektionsbereichs findet; ein Netzwerk dieser Art kann in vielen Anwendungen zweckmäßig sein, wo ein "Experte" auf dem Gebiet Schwierigkeit in der Formulierung genauer Regeln hat, jedoch Meinungen über das äußert, was "gut" ist.

Training des Netzwerks

Das erfindungsgemäße Netzwerk wird unter Verwendung von Farb sätzen trainiert, die vom "Farbexperten" konzipiert sind. Insbesondere wurde das System des bevorzugten Ausführungsbei spiels mit 36 Farbsätzen trainiert, die von vier verschiedenen Farbexperten konzipiert worden sind. Rückwärtsausbreitung dient zum Trainieren des Netzwerks mit den von den Experten gelieferten Farbsätzen. Die Trainingsmuster wurden als Ein gangsmuster und als Zielmuster an der Ausgangsschicht be nutzt.

Selbstverständlich können alternative Farbsätze zum Trainieren des Netzwerks verwendet werden. Ein Beispiel von alternativen Farbsätzen wurde oben in Verbindung mit der Erörterung übli cher Designer-Sätze, konzipiert von "namhaften" Designern, beschrieben.

Relaxation des Netzwerks

Das Netzwerk des bevorzugten Ausführungsbeispiels benutzt eine mit "Rückwärtsaktivitätsrelaxation" bezeichnete Methode zur Relaxation des Netzwerks. Relaxation kann man sich als ein Verfahren vorstellen, welches es dem Netzwerk erlaubt, einen Satz von gut-abgestimmten Farben zu suchen, d. h. eine Lösung mit dem niedrigsten Energieniveau. Der Ausdruck Energie wird in Neuralnetzwerksystemen häufig zur Beschreibung des Fehler niveaus zwischen der gewünschten oder Target-Ausgabe und der tatsächlichen Ausgabe benutzt. Der Rückwärtsaktivitäts-Relaxa tionsalgorithmus stellt die Wichtung von Links- bzw. Verbin dungsgliedern ein, sucht nach einem Satz von Wichtungen, der den minimalen mittleren Quadratfehler über den Trainingssatz erzeugt, wobei der Fehler als die Differenz zwischen dem Aus gabewert und dem Targetwert definiert ist. Die dem zugrunde liegende Theorie besteht darin, daß die kleinste Quadratfehler (squared-error)-Analyse einen Zustand erzeugt, bei dem die Farbe jedes Elements am Besten zu den Farben der anderen Ele mente paßt. Im wesentlichen kann das Netzwerk angesehen werden als zehn separate Unternetzwerke, eines für jedes Element; jedes der Unternetzwerke wird trainiert, um die Beziehung zwischen der Farbe seines Elements und der Farbe der neun anderen Ele mente zu lernen. Durch Lernen der numerischen Beziehung dieser Farben kann das Netzwerk auf Farben antworten, die in den Trainingsätzen nicht auftraten.

Der Stand der Technik kennt eine Rückwärtsaktivitäts-Ausbrei tungstechnik, die als ein Lernalgorithmus zum Reduzieren der Energie eines Netzwerks durch Relaxation der Wichtungen der Verbindungen zwischen den Knoten charkaterisiert ist. Typi scherweise nimmt der Rückwärts-Ausbreitungsalgorithmus das Teildifferential (partial derivative) der globalen Energie des Netzwerks gegen die örtliche Wichtung einer Verbindung.

Die Erfindung schlägt eine Rückwärtsaktivitäts-Relaxa tionstechnik vor zum Nehmen des Teildifferentials der Energie bezüglich der Aktivität einer Verbindung, anstatt der Wich tung. Der Rückwärtsaktivitäts-Ausbreitungsalgorithmus ist genauer in Anlage I beschrieben.

Vorstehend ist ein Netzwerk beschrieben, das in der Lage ist, Farbmuster zu speichern, die mit kontinuierlichen Werten co diert werden, und das ferner in der Lage ist, Beziehungen zwischen Farben von Interface-Elementen zu lernen. Das Netz werk enthält ein rücklaufendes Netzwerk mit Rückwärtsausbrei tung zum Lernen und Rückwärtsaktivitäts-Relaxation zum Ablei ten von Lösungen. Das Netzwerk des bevorzugten Ausführungsbei spiels kann zur Modellbildung eines asymmetrischen Auto-Asso ziativspeichers verwendet werden, der kontinuierliche Werte speichern kann. Die Fähigkeit zur Modellbildung eines solchen Auto-Assoziativspeichers ist ein neuer Aspekt der vorliegenden Erfindung.

In der Erfindung ist ein wesentlicher Aspekt die Tatsache, daß eine vorgegebene Eingangseinheit nicht direkt oder über ver steckte Einheiten mit ihrer entsprechenden Ausgangseinheit in Verbindung steht. Es wird von der Theorie ausgegangen, daß das Zulassen einer Verbindung einer Eingangseinheit mit ihrer entsprechenden Ausgangseinheit zu einer Netzwerkverarbeitung führt, die die Eingabe auf den Ausgang zu kopieren lernt.

Anlage I Rückwärtsaktivitäts-Relaxationsalgorithmus

Speziell für ein vorgegebenes Eingangsmuster wird die Energie als der mittlerer Quadratfehler zwischen Target und Ausgabeak tivierung definiert.

a _i sei der Wert der Einheit i in einer unteren Schicht. Angestrebt wird ein Maß dafür, um wieviel der Wert einer Einheit geändert werden muß.

wobei η eine Einstellrate ist. Bei Definition

läßt sich ableiten,

Mit der Sigmoid-Logistik-Funktion

für Ausgangseinheiten

für versteckte Einheiten

wobei ∂_k gerade der Einheit k aus der nächsten Schicht ist.

Das Netzwerk überträgt ∂ ′s von den Ausgangseinheiten zurück, und jede Eingangseinheit erhält einen Gradienten aus ihren abgehenden Bindegliedern bzw. Verbindungen.

Die obige Ableitung gilt nur für ein standard versorgtes Vor wärtsnetz. Das Farbnetz hat auch rücklaufende Verbindungen bzw. Bindeglieder, die von der Ausgangsschicht zurück zur Eingangsschicht verbunden sind, um ein Auto-Assoziativnetzwerk zu simulieren. Ein Ausgangsknoten und dessen entsprechender Eingangsknoten stellen tatsächlich dieselbe Farbe dar, und der Eingabewert ist auch die Targetaktivierung für die Ausgangs einheit. Da jede Farbe nur mit ihren Nachbarn verbunden ist, zieht der zu einer Einheit zurückübertragene Gradient nicht den von der Einheit selbst eingeführten Fehler in Betracht. Es muß ein zweiter Ausdruck zur Teilableitung bzw. -differenzie rung hinzuaddiert werden

wobei o _i den Aktivierungswert der Ausgangseinheit entspre chend der Eingangseinheit bezeichnet.

Daher stellt jede Eingangseinheit ihren Wert durch Δ a _i ein, und der Relaxationsprozeß wird solange wiederholt, bis der Aktivierungszustand einen Gleichgewichtspunkt erreicht.

Claims

1. Neuralnetzwerk gekennzeichnet durch:
wenigstens ein Eingangselement (9, 10), das mehrere erste Knoten (901, 902, 903) enthält;
wenigstens ein Ausgangselement (912), das mehrere zweite Knoten (904, 905, 906) enthält; und
wenigstens einen Satz (911) von versteckten Knoten, wobei die ersten Knoten mit den versteckten Elementen und die ver steckten Elemente mit den zweiten Knoten verbunden sind.

2. Neuralnetzwerk nach Anspruch 1, dadurch gekennzeichnet, daß die ersten Knoten einen Satz von Knoten (901, 902, 903) entsprechend den Elementen eines Farbcodierschemas enthalten.

3. Neuralnetzwerk nach Anspruch 2, dadurch gekennzeichnet, daß das Farbcodierschema ein Rot-Grün-Blau-Farbcodierschema ist und daß die ersten Knoten drei Knoten (901, 902, 903) enthalten, von denen ein erster (901) rot, ein zweiter (902) grün und ein dritter (903) blau entspricht.

4. Neuralnetzwerk für die Farbselektion, dadurch gekenn zeichnet, daß
ein erstes Eingangselement (802; 910) mehrere erste Ein gangsknoten (901, 902, 903) aufweist;
ein zweites Eingangselement (803) mehrere zweite Ein gangsknoten aufweist;
ein erstes Ausgangselement (806) mehrere erste Ausgangs knoten aufweist;
ein zweites Ausgangselement (807; 912) mehrere zweite Ausgangsknoten (904, 905, 906) aufweist;
das erste Eingangselement (802; 910) mit dem zweiten Ausgangselement (807; 912) verbunden ist; und
das zweite Eingangselement (803) mit dem ersten Ausgangs element (806) verbunden ist.