Нейронную

Глава 1. Как работают нейронные сети

---

Предположим, что сигналам на входе соответствуют значения 1,0 
и 0,5.
Как и раньше, каждый узел превращает сумму двух входных сиг­
налов в один выходной с помощью функции активации. Мы также
1
будем использовать сигмоиду 
У
 = ^ 
+ е - х >
с которой вы до этого позна­
комились, где х — это сумма сигналов, поступающих в нейрон, а у — 
выходной сигнал этого нейрона.
Распространение сигналов по нейронной сети 
63

---

А что насчет весовых коэффициентов? Это очень хорош ий во­
прос: с какого значения следует начать? Давайте начнем со случай­
ных весов:
•
w i , i =
0
’ 9
* Wl,2 = 0 ’ 2
• 
= 0,3
*
W
2,2
 =
0 ’ 9
Выбор случайных начальных значений — не такая уж плохая 
идея, и именно так мы и поступали, когда ранее выбирали случайное 
начальное значение наклона прямой для простого линейного клас­
сификатора. Случайное значение улучшалось с каждым очередным 
тренировочным примером, используемым для обучения классифика­
тора. То же самое должно быть справедливым и для весовых коэффи­
циентов связей в нейронных сетях.
В данном случае, когда сеть небольшая, мы имеем всего четыре 
весовых коэффициента, поскольку таково количество всех возмож­
ных связей между узлами при условии, что каждый слой содержит 
по два узла. Ниже приведена диаграмма, на которой все связи про­
маркированы соответствующим образом.
Приступим к вычислениям!
64 
Глава 1. Как работают нейронные сети

---

Первый слой узлов — входной, и его единственное назначение — 
представлять входные сигналы. Таким образом, во входных узлах 
функция активации к входным сигналам не применяется. Мы не 
выдвигаем в отношении этого никаких разумных доводов и просто 
принимаем как данность, что первый слой нейронных сетей являет­
ся всего лишь входным слоем, представляющим входные сигналы. 
Вот и все.
С первым слоем все просто — никаких вычислений.
Далее мы должны заняться вторым слоем, в котором потребует­
ся выполнить некоторые вычисления. Нам предстоит определить 
входной сигнал для каждого узла в этом слое. Помните сигмоиду
I/ = — ^ —? В этой функции 
х 
— комбинированный сигнал на входе 
1 + е
узла. Данная комбинация образуется из необработанных выходных 
сигналов связанных узлов предыдущего слоя, сглаженных весовыми 
коэффициентами связей. Приведенная ниже диаграмма аналогич­
на тем, с которыми вы уже сталкивались, но теперь на ней указано 
сглаживание поступающих сигналов за счет применения весовых ко­
эффициентов связей.
Для начала сосредоточим внимание на узле 1 слоя 2. С ним свя­
заны оба узла первого, входного слоя. Исходные значения на этих 
входных узлах равны 1,0 и 0,5. Связи первого узла назначен весовой