Hamburg 2001 – scientific programme

Parts | Days | Selection | Search | Downloads | Help

DY: Dynamik und Statistische Physik

DY 42: Neuronale Netze / Statistische Physik fernab vom thermischen Gleichgewicht

DY 42.6: Talk

Thursday, March 29, 2001, 12:00–12:15, S 6

Online-Training von Mehrschichtnetzwerken durch Verallgemeinerung der Hebbschen Regel auf Matrizen — •Christoph Bunzmann, Michael Biehl und Robert Urbanczik — Institut für Theoretische Physik, Universität Würzburg, Am Hubland, 97074 Würzburg

Wir präsentieren einen neuartigen Online-Lernalgorithmus für Mehrschichtnetzwerke, der auf der Hauptkomponentenanalyse beruht. Er ist eine Verallgemeinerung der Hebbschen Lernregel: Statt der Mittelung der Mustervektoren wird eine Analyse der Kovarianzmatrix der Mustervektoren durchgeführt. Das Verfahren ist sowohl auf Mehrschichtnetzwerke mit stetiger Transferfunktion, als auch auf solche mit binären Neuronen in der Zwischenschicht anwendbar. Im Gegensatz zum Training mit herkömmlichen Online-Lernalgorithmen für Mehrschichtnetzwerke erreicht das Schülernetzwerk eine gute Verallgemeinerungsfähigkeit schon nach der Präsentation endlich vieler Beispiele pro freiem Parameter des Netzwerks.