Нейронную

98 
Глава 1. Как работают нейронные сети

---

Конечно, это просто замечательно, но правильно ли мы поступили, 
отбросив нормирующий множитель? Оказывается, что эта упрощен­
ная модель обратного распространения сигналов ошибок работает 
ничуть не хуже, чем более сложная, которую мы разработали перед 
этим. В блоге, посвященном данной книге, вы найдете публикацию, 
в которой представлены результаты расчетов обратного распростра­
нения ошибки, выполненных несколькими различными способами:
http://makeyourownneuralnetwork.blogspot.со.uk/2016/07/ 
error-backpropagation-revisted.html
Если наш простой подход действительно хорошо работает, мы 
оставим его!
Немного подумав, можно прийти к выводу, что даже в тех случа­
ях, когда в обратном направлении распространяются слишком боль­
шие или слишком малые ошибки, сеть сама все исправит при выпол­
нении последующих итераций обучения. Важно то, что при обрат­
ном распространении ошибок учитываются весовые коэффициенты 
связей, и это наилучший показатель того, что мы пытаемся справед­
ливо распределить ответственность за возникающие ошибки.
Мы проделали большую работу, очень большую!
• Обратное распространение ошибок можно описать с помощью матричного ум­
ножения.
• Это позволяет нам записывать выражения в более компактной форме, незави­
симо от размеров нейронной сети, и обеспечивает более эффективное и быс­
трое выполнение вычислений компьютерами, если в языке программирования 
предусмотрен синтаксис матричных операций.
• Отсюда следует, что использование матриц обеспечивает повышение эффек­
тивности расчетов как для распространения сигналов в прямом направлении, 
так и для распространения ошибок в обратном направлении.
Описание обратного распространения ошибок с помощью матричной алгебры