Bereiche | Tage | Auswahl | Suche | Downloads | Hilfe
DY: Dynamik und Statistische Physik
DY 24: Neuronale Netze
DY 24.1: Vortrag
Dienstag, 23. März 1999, 14:30–14:45, R1
Korrelationen in Mehrschichtnetzen und Replikasymmetriebrechung — •D. Malzahn und A. Engel — Otto-von-Guericke Universität/ ITP, PSF 4120, Universitätsplatz 2, D-39106 Magdeburg
Wir betrachten vorwärtsgefütterte Mehrschichtnetze (MLN) mit einer verborgenen Schicht (VS) und Baumstruktur. Zwischen den Elementen der VS entwickelt sich bei zunehmender Musterbeladung eine Arbeitsteilung, die sich in charakteristischen Korrelationen zwischen den Elementen der VS widerspiegelt und Ursache für das Erreichen einer hohen Speicher- und Generalisierungsfähigkeit des gesamten Netzes ist. Für MLN mit einer fest vorgegebenen Booleschen Funktion zwischen der VS und der Ausgabe wurden die Korrelationskoeffizienten an der Speicherkapazitätsgrenze berechnet [1,2]. An einem Ensemble von Perzeptrons, die die gleichen Korrelationen aufwiesen, wurde der Einfluß der Korrelationen auf die Speicherkapazität untersucht. Die zugrunde liegenden Rechnungen erfolgten in Replikasymmetrie. Die Speicherkapazität von MLN wird jedoch sehr stark durch Replikasymmetriebrechung (RSB) bestimmt. Wir untersuchen deshalb an der Kapazitätsgrenze den Einfluß von RSB auf: (a) die Korrelationskoeffizienten, (b) die Wahrscheinlichkeitsverteilung der einzelnen Aktivitätsmuster der VS, (c) die Verteilung der lokalen Felder an den Elementen der VS. Wir finden nur einen geringen Einfluß von RSB auf die Korrelationskoeffizienten, während RSB sich am stärksten auf die Verteilung der lokalen Felder auswirkt.
[1] A. Engel, D. Malzahn, I. Kanter, Phil. Magazine B 77, 1507 (1998)
[2] D. Malzahn, A. Engel, I. Kanter, Phys. Rev. E 55, 7369 (1997)