Vybudoval jsem kontinuální atraktorovou síť se 3 motorickými neurony, které se učí navádět myši k potravě pomocí Hebbovy plasticity modulované odměnou Žádná zpětná propagace a žádné SGD. V tomto případě se nejprve síťoví naučili kroužit kolem jídla 😯 Zdrojový kód je open source. odkaz v komentáři 36 neuronů v CAN detekuje, kde je jídlo, každý neuron v této síti se připojuje ke každému motorickému neuronu. Zpočátku jsou spojení náhodná a slabá a sílí, když se myši přibližují a dosahují potravy. síť to dělá tím, že sleduje, které neurony se spojily, aby toho dosáhly a posílily tato spojení Pokud vás to zajímá, podívejte se na můj projekt Spiking neuronových sítí. Dám na to také odkaz do komentáře

Špičkování neuronové sítě od nuly dosahuje 8% přesnosti. žádná zpětná propagace ani SGD Vytvořil jsem genetický optimalizátor hyperparametrů a ten nyní může mít v průměru 8% přesnost, což je ~3% nad pravděpodobností Odkaz na zdrojový kód s podrobným videem a vysvětlením markdownu v komentáři Obvykle také začíná pod 5 % a pomalu se zlepšuje, nakonec může začít klesat pod 5 %, což mě vede k přesvědčení, že existují záblesky učení. Někdy se dlouhodobě pohybuje kolem 7-8-9% nedochází k žádnému zpětnému šíření ani SGD. učí se pomocí STDP (plasticita závislá na načasování hrotů) a mechanismu odměny Každý příklad je prezentován n mnohokrát (v tomto případě 500), což vytváří sled hrotů, který vede k seznamu způsobilosti, na konci tahu na základě toho, zda byla odpověď správná nebo ne, upravíme váhy pomocí odměny jako násobitele Načasování špičky sleduje sekvenci vypalování neuronů a které z nich s větší pravděpodobností vedly ke správné odpovědi dejte mi vědět, co si myslíte