в гл. 1, Гроссберг показал


Как отмечено в гл. 1, Гроссберг показал преимущества использования сигмоидальной (логистической) функции активации где OUTi – выход нейрона i, NETi – взвешенная сумма входных сигналов нейрона i, l – константа, определяющая степень кривизны. В простейших версиях ДАП значение константы l выбирается большим, в результате чего функция активации приближается к простой пороговой функции. В дальнейших рассуждениях будем предполагать, что используется пороговая функция активации. Примем также, что существует память внутри каждого нейрона в слоях 1 и 2 и что выходные сигналы нейронов изменяются одновременно с каждым тактом синхронизации, оставаясь постоянными между этими тактами. Таким образом, поведение нейронов может быть описано следующими правилами: OUTi(n+1) = 1, если NETi(n)>0, OUTi(n+l) = 0, если NETi(n)<0, OUTi(n+l) = OUT(n), если NETi(n) = 0, где OUTi(n) представляет собой величину выходного сигнала нейрона i в момент времени п. Заметим, что как и в описанных ранее сетях слой 0 не производит вычислений и не имеет памяти; он является только средством распределения выходных сигналов слоя 2 к элементам матрицы Wt.
Содержание раздела