Нейронную

Корректировка весовых коэффициентов в процессе обучения нейронной сети 
87

---

связями пропорционально их вкладам, размер которых определяет­
ся весами соответствующих связей.
Как вы могли заметить, мы используем весовые коэффициенты 
в двух целях. Во-первых, они учитываются при расчете распростра­
нения сигналов по нейронной сети от входного слоя до выходного. 
Мы интенсивно использовали их ранее именно в таком качестве. 
Во-вторых, мы используем веса для распространения ошибки в об­
ратном направлении — от выходного слоя вглубь сети. Думаю, вы 
не будете удивлены, узнав, что этот метод называется обратным рас­
пространением ошибки (обратной связью) в процессе обучения ней­
ронной сети.
Если бы выходной слой имел два узла, мы повторили бы те же 
действия и для второго узла. Второй выходной узел будет характе­
ризоваться собственной ошибкой, распределяемой аналогичным об­
разом между соответствующим количеством входных узлов. Теперь 
продолжим наше рассмотрение.
Обратное распространение ошибок 
от большего количества выходных узлов
На следующей диаграмме отображена простая сеть с двумя вход­
ными узлами, но на этот раз с двумя выходными узлами.
88 
Глава 1. Как работают нейронные сети

---

Ошибка может формироваться на обоих узлах — фактически эта 
ситуация очень похожа на ту, которая возникает, когда сеть еще не 
обучалась. Вы видите, что для коррекции весов внутренних связей 
нужна информация об ошибках в обоих узлах. Мы можем использо­
вать прежний подход и распределять ошибку выходного узла между 
связанными с ним узлами пропорционально весовым коэффициен­
там соответствующих связей.
В действительности тот факт, что сейчас имеется более чем один 
выходной узел, ничего не меняет. Мы просто повторяем для второго 
узла те же действия, которые уже выполняли для первого. Почему 
все так просто? Эта простота объясняется тем, что связи одного вы­
ходного узла не зависят от связей другого. Между этими двумя на­
борами связей отсутствует какая-либо зависимость.
Вернемся к диаграмме, на которой ошибка на первом выходном 
узле обозначена как е г Не забывайте, что это разность между же­
лаемым значением, предоставляемым тренировочными данными t 1? 
и фактическим выходным значением ог Таким образом, 
= (tj - Oj). 
Ошибка на втором выходном узле обозначена как е2.
На диаграмме видно, что ошибка 
распределяется пропорцио­
нально весам связей, обозначенным как wn и w21. Точно так же ошиб­
ка е2 должна распределяться пропорционально весам w12 и w22.
Чтобы у вас не возникало никаких сомнений в правильности 
получаемых результатов, запишем эти доли в явном виде. Ошибка 
информирует о величинах поправок для весов wn и w21. При ее 
распределении между узлами доля ег, информация о которой ис­
пользуется для обновления wn , определяется следующим выраже­
нием: