Regensburg 1998 – wissenschaftliches Programm
Bereiche | Tage | Auswahl | Suche | Downloads | Hilfe
DY: Dynamik und Statistische Physik
DY 16: Neuronale Netze
DY 16.2: Vortrag
Montag, 23. März 1998, 12:15–12:30, H3
Lernstrategien f"ur das stabilste verd"unnte bin"are Perzeptron — •D. Malzahn1 and M. Bouten2 — 1Otto-von-Guericke Universit"at/ ITP, PSF 4120, Universit"atsplatz 2, D-39106 Magdeburg — 2Limburgs Universitair Centrum, B-3590 Diepenbeek, Belgien
Im kontinuierlichen Kopplungsraum ist die Bestimmung des stabilsten Perzeptrons (sP) leicht; im diskreten Raum jedoch ein NP-komplettes Problem, welches bislang nur durch Enumeration exakt l"osbar ist. L"ost man das Speicherproblem zun"achst als kontinuierliche Optimierungsaufgabe, so f"uhren spezielle Kostenfunktionen E(J) mit geeigneter Nebenbedingung zu einem kontinuierlichen Vektor J, der mit dem bin"aren sP stark korreliert ist: Starke Komponenten von J sagen mit hoher Sicherheit das Vorzeichen richtig voraus [1,2]. Die Enumeration ist dann n"aherungsweise auf die unsicheren (schwachen) Komponenten einschr"ankbar.
Wir untersuchen das verd"unnte bin"are sP B; (Bi= -1, 0, +1). Wir berechnen analytisch die bedingte Wahrscheinlichkeit p(Bi|Ji). Den besten Prekursor J erhalten wir mit einer zu [2] analogen Kostenfunktion und kubischer Nebenbedingung [2]. Ausgehend von p(Bi|Ji) testen wir f"ur Perzeptrons endlicher Gr"o"se (N=50, 100) numerisch verschiedene Strategien, aus dem Prekursor J ein verd"unntes bin"ares Perzeptron hoher Stabilit"at zu gewinnen und vergleichen seine Stabilit"at mit dem theoretischen Maximalwert (Limes N→∞).
[1] R. W. Penney, D. Sherrington, J. Phys. A: Math. Gen. 26, 6173 (1993)
[2] M. Bouten, L. Reimers, B. Van Rompaey, submitted to J. Phys. A