Ein neuronales Netz kann theoretisch auf unterschiedlichste Weise lernen:
- Neue Verbindungen zwischen Neuronen können entwickelt werden
- Verbindungen können gelöscht werden
- neue Zellen können dem Netz hinzugefügt werden
- Zellen können gelöscht werden
- Aktivierungs-, Propagierungs- oder Ausgabefunktion können verändert werden
- Schwellenwerte können modifiziert werden
- Modifizierung der Stärke der Verbindungen
Letzteres ist mit Abstand die am häufigsten realisierte Möglichkeit, da sie relativ einfach umzusetzen ist, biologisch sinnvoll ist und einige andere Möglichkeiten - wie z.B. das Löschen von Verbindungen - mit einschließt. Der Begriff „Lernfähigkeit„ bezieht sich meist auf die Fähigkeit eines Lernalgorithmus, eine Menge von Gewichtungen zu finden, die die gewünschte Abbildung mit einer tolerierbaren Fehlerrate realisiert.
Damit ein neuronales Netz eine Aufgabe anhand von Beispielen lernen kann, ist eine Lernregel nötig: ein Algorithmus, gemäß dem das neuronale Netz lernt, für eine vorgegebene Eingabe eine gewünschte Ausgabe zu produzieren. Dabei unterscheidet man nach der Art der Anpassung, die dieser Algorithmus vornimmt und nach dem Grad an Selbständigkeit, mit dem der Lernprozess abläuft.
Ein alternativer Ansatz zur Strukturierung von KNN kann durch die Unterteilung nach der Art des Lernverfahrens in Netzwerktypen mit überwachtem und unüberwachtem Lernen vorgenommen werden. Die Einteilung nach der Art des Lernverfahrens ist vergleichbar zu einer Unterscheidung von KNN zur Strukturabbildung (überwachtes Lernen) und zur Strukturentdeckung (unüberwachtes Lernen). Bisher wurden KNN nach Ihrem Funktionsumfang (Funktionsapproximation, Klassifikation, Assoziativspeicher) systematisiert.
Dem liegt die Vorstellung zu Grunde, dass eine Abbildung von Eingabemustern (Inputs) i aus der Menge der Inputmuster I auf Zielmuster (Targets) t aus der Menge aller Zielmuster T letztlich mittels KNN realisiert werden soll. Jedem i Є I kann dabei ein t Є T (Funktionswert bei einer Funktionsapproximation, Klassenzugehörigkeit bei der Klassifikation oder Antwort des Assoziativspeichers) zugeordnet werden. Somit ergibt sich die folgende Funktion:
f : I → T
Weiter zu » Überwachtes Lernen