7.2.1. Нейроны
Наименьшая.единица.искусственной.нейронной.сети.—.это.нейрон..Он.хранит.
вектор.весов,.которые.представляют.собой.обычные.числа.с.плавающей.точкой..
Нейрону.передается.вектор.входных.данных,.которые.также.являются.обычными.
числами.с.плавающей.точкой..Нейрон.объединяет.входные.данные.с.их.весами.
посредством.скалярного.произведения..Затем.запускает.
функцию
.
активации
.
для.этого.произведения.и.выдает.результат.на.выходе..Можно.считать,.что.это.
действие.аналогично.поведению.настоящих.нейронов.
Функция.активации.—.это.преобразователь.выходного.сигнала.нейрона..Она.
почти.всегда.нелинейна,.что.позволяет.нейронным.сетям.представлять.решения.
нелинейных.задач..Если.бы.не.было.функций.активации,.то.вся.нейронная.сеть.
была.бы.просто.линейным.преобразованием..На.рис..7.2.показана.работа.одного.
нейрона.
ПРИМЕЧАНИЕ
В.этом.разделе.используются.несколько.математических.терминов,.которые.вам,.воз-
можно,.не.встречались.со.времен.изучения.курсов.вычислительной.математики.или.
линейной.алгебры..Объяснение.того,.что.такое.векторы.или.скалярное.произведение,.
выходит. за. рамки. этой. главы,. но. вы,. вероятно,. все. равно. получите. представление.
о.том,.что.делает.нейронная.сеть,.просто.читая.текст,.даже.если.не.вполне.понимаете.
математическую.часть..Позже.в.этой.главе.будут.применены.некоторые.численные.
методы,.такие.как.вычисление.обычных.и.частных.производных,.но.даже.если.вы.не.
понимаете.математику,.то.все.равно.сможете.проследить.код..В.сущности,.здесь.не.
объясняется,.как.можно.получить.формулы,.по.которым.выполняются.вычисления..
Вместо.этого.мы.сосредоточимся.на.самих.вычислениях.
7.2. Искусственные нейронные сети
185
Рис. 7.2.
В нейроне его веса объединяются с входными сигналами для получения
результирующего сигнала, который модифицируется функцией активации
7.2.2. Слои
В.типичной.искусственной.нейронной.сети.с.прямой.связью.нейроны.об-
разуют.слои..Каждый.слой.состоит.из.определенного.количества.нейронов,.
выстроенных.в.строку.или.в.столбец.в.зависимости.от.диаграммы.(варианты.
эквивалентны)..В.сети.с.прямой.связью,.которую.мы.будем.создавать,.сигналы.
всегда.передаются.в.одном.направлении.от.одного.слоя.к.другому..Нейроны.
в.каждом.слое.посылают.выходной.сигнал,.который.является.входным.для.
нейронов.следующего.слоя..Каждый.нейрон.в.каждом.слое.связан.с.каждым.
нейроном.в.следующем.слое.
Первый.слой.называется.
входным
,.он.получает.сигналы.от.некоторого.внешнего.
объекта..Последний.слой.известен.как.
выходной
,.и.его.выходные.сигналы.обычно.
должен.интерпретировать.внешний.субъект,.чтобы.получить.осмысленный.ре-
зультат..Слои,.расположенные.между.входным.и.выходным.слоями,.называются.
скрытыми
..В.простых.нейронных.сетях,.таких.как.та,.которую.мы.будем.строить.
в.этой.главе,.есть.только.один.скрытый.слой,.но.в.сетях.глубокого.обучения.слоев.
много..На.рис..7.3.показаны.слои,.образующие.простую.сеть..Обратите.внимание.
Do'stlaringiz bilan baham: |