Нейронную

Проект нейронной сети на Python 
171

---

Для весов связей между входным и скрытым слоями мы используем 
только что рассчитанную переменную 
h i d d e n e r r o r s .
Ранее нами было получено выражение для обновления веса связи 
между узлом j и узлом 
к
следующего слоя в матричной форме.
Величина а — это коэффициент обучения, а сигмоида — это функ­
ция активации, с которой вы уже знакомы. Вспомните, что символ 
"*" означает обычное поэлементное умножение, а символ " 
— ска­
лярное произведение матриц. Последний член выражения — это 
транспонированная (т) матрица исходящих сигналов предыдущего 
слоя. В данном случае транспонирование означает преобразование 
столбца выходных сигналов в строку.
Это выражение легко транслируется в код на языке Python. 
Сначала запишем код для обновления весов связей между скрытым 
и выходным слоями.
# обновить весовые коэффициенты связей между скрытым и выходным слоями 
self.who += self.lr * numpy.dot((output_errors * final_outputs *
Ъ (
1.0
- final_outputs)), numpy.transpose(hidden_outputs))
Это довольно длинная строка кода, но цветовое выделение помо­
жет вам разобраться в том, как она связана с приведенным выше ма­
тематическим выражением. Коэффициент обучения s e l f . l r просто 
умножается на остальную часть выражения. Есть еще матричное ум­
ножение, выполняемое с помощью функции 
n u m p y . d o t
(), и два эле­
мента, выделенных синим и красным цветами, которые отобража­
ют части, относящиеся к ошибке и сигмоидам из следующего слоя, 
а также транспонированная матрица исходящих сигналов предыду­
щего слоя.
172 
Глава 2. Создаем нейронную сеть на Python

---