Нейронную

° с к р ЫТЫй 
= с и г м о и д а (Х скрытый
80 
Глава 1. Как работают нейронные сети

---

Применяя сигмоиду к каждому элементу матрицы 
Х скрытый, 
мы по­
лучаем матрицу выходных сигналов скрытого промежуточного слоя.
Для уверенности давайте проверим, правильно ли вычислен пер­
вый элемент. Наша сигмоида имеет вид у = — - — . Полагая х=1,16,
получаем е1Дв = 0,3135. Это означает, что 
у
= 
1 / (1 + 0 , 3 1 3 5 )
= 
0 , 7 6 1 .
Нетрудно заметить, что все возможные значения этой функции 
находятся в пределах от 0 до 1. Вернитесь немного назад и взгляните 
на график логистической функции, если хотите убедиться в том, что 
это действительно так.
Ух! Давайте немного передохнем и подытожим, что мы к этому 
времени успели сделать. Мы рассчитали прохождение сигнала через 
промежуточный слой, т.е. определили значения сигналов на его вы­
ходе. Для полной ясности уточним, что эти значения были получены 
путем применения функции активации к комбинированным вход­
ным сигналам промежуточного слоя. Обновим диаграмму в соответ­
ствии с этой новой информацией
Пример использования матричного умножения в сети с тремя слоями 
81

---

Если бы это была двухслойная нейронная сеть, то мы сейчас оста­
новились бы, поскольку получили выходные сигналы второго слоя. 
Однако мы продолжим, поскольку есть еще и третий слой.
Как рассчитать прохождение сигнала для третьего слоя? Точно 
так же, как и для второго, поскольку эта задача на самом деле ни­
чем не отличается от предыдущей. Нам известна величина входных 
сигналов, получаемых третьим слоем, как ранее была известна ве­
личина входных сигналов, получаемых вторым слоем. У нас также 
есть весовые коэффициенты для связей между узлами, ослабляющие 
сигналы. Наконец, чтобы отклик сети максимально правдоподобно 
имитировал естественный процесс, мы по-прежнему можем приме­
нить функцию активации. Поэтому вам стоит запомнить следующее: 
независимо от количества слоев в нейронной сети, вычислительная 
процедура для каждого из них одинакова — комбинирование вход­
ных сигналов, сглаживание сигналов для каждой связи между уз­
лами с помощью весовых коэффициентов и получение выходного 
сигнала с помощью функции активации. Нам безразлично, сколько 
слоев образуют нейронную сеть — 3, 53 или 103, ведь к любому из 
них применяется один и тот же подход.