KNN: Beispiel mit Mustererkennung

Das folgende Beispiel wird in Schritten entwickelt: zunächst 'fest verdrahtet', also als reaktives Input-Output System, dann adaptiv, als selbst lernendes Input-Output System.

Allgemeines Schema ist eine Umgebung $ENV$ mit Aufgaben und ein Input-Output System $SYS$ mit

$$SYS(s) iff s = \langle I_{s}, O_{s}, IS, \phi\rangle$$ (5.1)

$$I_{s} := Inputstrings of the system$$ (5.2)

$$O_{s} := Outputstrings of the system$$ (5.3)

$$IS := Internal States of the system$$ (5.4)

$$\varphi : I_{s} \times IS \longmapsto IS \times O_{s}$$ (5.5)

Im Falle von reaktiven Systemen lautet die Verhaltensformel $\varphi_{react} : I_{s} \times IS \longmapsto O_{s}$, d.h. die internen Zustände $IS$ liegen fest, sie können nicht adaptiv verändert werden.

Ausgangslage: Gegeben ist eine Welt $ENV$ mit der Aufgabe, aus einer bestimmten Menge von Mustern $\Sigma^{4}$ mit $Sigma=\{0,1\}$ folgende Teilmenge zu erkennen:

MUSTER	AUSGANG	SIGNAL
1001	1	0/1
0110	2	0/1
1010	3	0/1
0101	4	0/1

Konstruktion: Es soll ein künstliches neuronales Netz konstruiert werden, das die Muster erkennen kann.

Konvention:

1. Die Aufgabe soll als Inputmatrix $INP$ gegeben werden
2. Das Ergebnis soll als Outputmatrix $OUTP$ gegeben werden
3. Die internen Zustände $IS$ werden als ein Graph mit Inputschicht $IN$, Outputschicht $OUT$ und verborgenen Neuronen $NH$ in einem Graphen dargestellt. Dazu werden noch die Gewichte $W_{ij}$ notiert sowie die Schwellwerte $\theta$ bei jedem Neuron.
4. Typ1: Input und interne Zustände sind gegeben, Output ist zu berechnen
5. Typ2: Input und Output ist gegeben: die internen Zustände sind zu konstruieren