Construí una Red de Atractores Continuos con 3 neuronas motoras que aprenden a guiar a los ratones hacia la comida utilizando plasticidad hebbiana modulada por recompensas. Sin retropropagación y sin SGD. En este caso, al principio, la red aprendió a rodear la comida 😯 El código fuente es de código abierto. enlace en el comentario. 36 neuronas en la CAN detectan dónde está la comida, cada neurona en esta red se conecta a cada neurona motora. Al principio, las conexiones son aleatorias y débiles y se vuelven más fuertes a medida que el ratón se acerca y alcanza la comida. La red hace esto manteniendo un registro de qué neuronas se activaron juntas para lograr esto y fortalecer esas conexiones. Si te parece interesante, echa un vistazo a mi proyecto de redes neuronales espinosas. También pondré un enlace a eso en el comentario.

La Red Neuronal Espinosa desde cero alcanza un 8% de precisión. sin retropropagación ni SGD He creado un optimizador genético de hiperparámetros y ahora, en promedio, puede alcanzar un 8% de precisión, lo que es ~3% por encima de la probabilidad Enlace al código fuente con un video detallado y explicaciones en markdown en el comentario También suele comenzar por debajo del 5% y mejora lentamente, luego eventualmente puede comenzar a caer por debajo del 5%, todo lo cual me lleva a creer que hay destellos de aprendizaje ocurriendo. A veces se estabiliza alrededor del 7-8-9% durante mucho tiempo No hay retropropagación ni SGD. Aprende a través de STDP (plasticidad dependiente del tiempo de picos) y un mecanismo de recompensa Cada ejemplo se presenta muchas veces (500 en este caso), lo que produce un tren de picos que lleva a una lista de elegibilidad, al final de un turno, basado en si la respuesta fue correcta o no, ajustamos los pesos usando la recompensa como multiplicador El tiempo de picos mantiene un registro de la secuencia de disparos de neuronas y cuáles fueron más propensos a haber llevado a la respuesta correcta Déjame saber qué piensas