Ho costruito una Rete Attrattore Continua con 3 neuroni motori che imparano a guidare i topi verso il cibo utilizzando la plasticità hebbiana modulata dal premio. Niente retropropagazione e niente SGD. In questo caso, all'inizio, la rete ha imparato a girare intorno al cibo 😯 Il codice sorgente è open source. link nel commento. 36 neuroni nella CAN rilevano dove si trova il cibo, ogni neurone in questa rete si connette a ogni neurone motorio. All'inizio le connessioni sono casuali e deboli e diventano più forti man mano che il topo si avvicina e raggiunge il cibo. La rete fa questo tenendo traccia di quali neuroni si attivano insieme per raggiungere questo obiettivo e rafforzando quelle connessioni. Se trovi interessante questo progetto, dai un'occhiata al mio progetto di reti neurali spiking. Metterò un link a quello nel commento.

La Rete Neurale Spiking da zero raggiunge un'accuratezza dell'8%. niente retropropagazione o SGD Ho creato un ottimizzatore genetico di iperparametri e ora, in media, può ottenere un'accuratezza dell'8% che è ~3% sopra la probabilità casuale Link al codice sorgente con un video dettagliato e spiegazioni in markdown nei commenti Di solito inizia anche sotto il 5% e migliora lentamente, poi alla fine può iniziare a scendere sotto il 5%, tutto ciò mi porta a credere che ci siano barlumi di apprendimento in corso. A volte è stabile intorno al 7-8-9% per lungo tempo Non c'è retropropagazione o SGD. Impara tramite STDP (plasticità dipendente dal tempo degli spike) e un meccanismo di ricompensa Ogni esempio viene presentato molte volte (500 in questo caso) il che produce un treno di spike che porta a una lista di idoneità, alla fine di un turno, in base a se la risposta era corretta o meno, regoliamo i pesi usando la ricompensa come moltiplicatore Il timing degli spike tiene traccia della sequenza di attivazioni neuronali e quali sono state più propense a portare alla risposta corretta Fammi sapere cosa ne pensi