Я создал Непрерывную Аттракторную Сеть с 3 моторными нейронами, которые учатся направлять мышей к еде, используя вознаграждающую модулированную хеббовскую пластичность Без обратного распространения и без SGD. В этом случае сначала сеть научилась кружить вокруг еды 😯 Исходный код является открытым. Ссылка в комментарии 36 нейронов в CAN обнаруживают, где находится еда, каждый нейрон в этой сети соединен с каждым моторным нейроном. Сначала соединения случайные и слабые, и они становятся сильнее, когда мыши приближаются и достигают еды. Сеть делает это, отслеживая, какие нейроны срабатывали вместе для достижения этого, и усиливает эти соединения. Если вам это интересно, ознакомьтесь с моим проектом по спайковым нейронным сетям. Я также оставлю ссылку на это в комментарии.

Спайковая нейронная сеть, созданная с нуля, достигает 8% точности. без обратного распространения ошибки или SGD Я создал генетический оптимизатор гиперпараметров, и теперь он в среднем может достигать 8% точности, что примерно на 3% выше случайного выбора. Ссылка на исходный код с подробным видео и объяснениями в формате markdown в комментарии. Обычно он начинает с менее 5% и медленно улучшается, а затем в конечном итоге может начать опускаться ниже 5%, что заставляет меня верить, что происходит некоторое обучение. Иногда он стабилизируется на уровне 7-8-9% на длительное время. Обратного распространения ошибки или SGD нет. Он обучается с помощью STDP (пластичность, зависимая от времени спайков) и механизма вознаграждения. Каждый пример представляется много раз (в данном случае 500), что приводит к образованию спайкового поезда, который создает список правомочий; в конце хода, в зависимости от того, был ли ответ правильным или нет, мы корректируем веса, используя вознаграждение в качестве множителя. Временные спайки отслеживают последовательность активаций нейронов и какие из них с большей вероятностью привели к правильному ответу. Дайте знать, что вы думаете.