Über Tiefes CollabNet
Mit dem Ziel, das Lernen von tiefen neuronalen Netzen zu verbessern, wird in dieser Arbeit das CollabNet-Netz vorgeschlagen, das aus einer neuen Methode zur Einfügung neuer versteckter Schichten in neuronale Netze vom Typ Deep FeedForward besteht, die von gestapelten Autocodierern inspiriert ist. Die neue Form der Einfügung wird als kollaborativ betrachtet und soll die Ausbildung im Vergleich zu Ansätzen, die auf gestapelten Autocodierern basieren, verbessern. Bei diesem neuen Ansatz erfolgt das Einfügen von Schichten auf koordinierte und schrittweise Weise, wobei der Einfluss dieser neuen Schicht auf das Training unter der Kontrolle des Konstrukteurs bleibt und nicht mehr zufällig und stochastisch wie beim traditionellen Stacking. Die in dieser Arbeit vorgeschlagene Zusammenarbeit besteht darin, die neu eingefügte Schicht dazu zu bringen, das von den vorherigen Schichten erreichte Lernen fortzusetzen, ohne das globale Lernen des Netzes zu beeinträchtigen. Auf diese Weise arbeitet die neu eingefügte Schicht mit den vorherigen Schichten zusammen, und das Ensemble arbeitet auf eine besser auf das Lernen abgestimmte Weise. CollabNet wurde an einer Datenbank mit einem realen Problem getestet und erzielte dabei zufriedenstellende und vielversprechende Ergebnisse.
Mehr anzeigen