Neyron tarmoq asoslari va uni chuqur o'rganish

Рис. 2.6  Детальное изображение искусственного нейрона

в нейронной сети в виде многослойного перцептрона

Sun'iy neyronning batafsil tasviri
neyron tarmoqda ko'p qatlamli in'ikos shaklida

Суммарный вход нейрона равен взвешенной сумме сигналов активации, по-ступающих по входным связям (рис. 2.6). Во входном слое функция активации линейна (она просто передает значение входного признака дальше). В скрытых слоях входами являются выходы функции активации других нейронов. Матема-тически суммарный вход (полную взвешенную сумму) нейрона можно записать в виде:

Neyronning umumiy kiritilishi kirish aloqalari bo'ylab keladigan faollashtirish signallarining og'irlik yig'indisiga teng (2.6-rasm). Kirish qatlamida aktivatsiya funktsiyasi chiziqli bo'ladi (shunchaki kirish funktsiyasining qiymatini shunchaki o'tkazadi). Yashirin qatlamlarda kirish boshqa neyronlarning faollashuvining natijasidir. Matematik ravishda, neyronning umumiy kiritilishi (jamlangan og'irligi) quyidagicha yozilishi mumkin.

input_sum_i = W_i · A_i,

где W_i – вектор весов связей, входящих в нейрон i, а A_i – вектор значений актива-ции для входов в нейрон i. Включим еще в это уравнение аддитивный член сме-щения, свой для каждого слоя:

Bu erda W_i - neyron i ga kiradigan aloqalar og'irligining vektori, A_i - neyron i ga kirish uchun aktivizatsiya qiymatlarining vektori. Shuningdek, ushbu tenglamaga har bir qatlam uchun xos bo'lgan qo'shimcha joy almashtirish atamasini kiritamiz:


input_sum_i = W_i · A_i + b.

На выходе нейрона получается результат применения функции активации к этому суммарному входу:

Neyron chiqqanda aktivizatsiya funktsiyasini ushbu umumiy kiritishga qo'llash natijasida erishiladi:


a_i = g(input_sum_i).

Подставим в это выражение определение input_sum_i:

Input_sumi qiymatiga ushbu tenglamaga almashtiramiz:


a_i = g(W_i · A_i + b).

Это значение активации нейрона i передается следующему слою по связям, ве-дущим к другим нейронам.

Bu yerda i neyronining faollashtirish qiymati boshqa neyronlarga olib boruvchi ulanishlar orqali keyingi qatlamga uzatiladi.
62  Основы нейронных сетей и глубокого обучения