Нейронную

116 
Глава 1. Как работают нейронные сети

---

Сумма, являющаяся аргументом сигмоиды, — это сигнал, поступаю­
щий на узел выходного слоя, и для упрощения вида выражения мы 
могли бы обозначить этот сигнал просто как i k. Он выступает в ка­
честве входного сигнала узла 
к
до применения функции активации. 
Последняя часть — это выходной сигнал узла j предыдущего скры­
того слоя. Рассмотрение полученного выражения именно в таком 
ракурсе позволяет лучше понять связь физической картины проис­
ходящего с наклоном функции и в конечном счете с уточнением ве­
совых коэффициентов.
Это поистине фантастический результат, и мы можем заслужен­
но гордиться собой. Путь к этому результату многим людям дается 
с большим трудом.
Нам осталось сделать совсем немного, и мы достигнем цели. 
Выражение, с которым мы совладали, предназначено для уточнения 
весовых коэффициентов связей между скрытым и выходным слоями. 
Мы должны завершить работу и найти наклон аналогичной функции 
ошибки для коэффициентов связей между входным и скрытым слоями.
Можно было бы вновь произвести полностью все математические 
выкладки, но мы не будем этого делать. Мы воспользуемся описан­
ной перед этим физической интерпретацией составляющих выраже­
ния для производной и реконструируем его для интересующего нас 
нового набора коэффициентов. При этом необходимо учесть следую­
щие изменения.
• Первая часть выражения для производной, которая ранее была 
выходной ошибкой (целевое значение минус фактическое зна­
чение), теперь становится рекомбинированной выходной ошиб­
кой скрытых узлов, рассчитываемой в соответствии с механиз­
мом обратного распространения ошибок, с чем вы уже знако­
мы. Назовем ее
• Вторая часть выражения, включающая сигмоиду, остается той 
же, но выражение с суммой, передаваемое функции, теперь от­
носится к предыдущим слоям, и поэтому суммирование осу­
ществляется по всем входным сигналам скрытого слоя, сгла­
женным весами связей, ведущих к скрытому узлу j . Мы могли 
бы назвать эту сумму ij.