Дискретно-непрерывная математика. Кн. 0 : Алгоритмы. Ч. Генетические алгоритмы

5.3.7.2. Эволюция архитектуры сети 
В п.5.3.7.1 при рассмотрении эволюционного обучения нейронных 
сетей предполагалось, что архитектура сети задается априорно и не 
изменяется в процессе эволюции весов. Однако сохраняет 
актуальность вопрос - как выбрать архитектуру сети? Известно, что ар-
хитектура оказывает решающее влияние на весь процесс обработки 
информации нейронной сетью. К сожалению, чаще всего она подби-
рается экспертами методом проб и ошибок. В таких условиях способ 
оптимального (или почти оптимального) проектирования архитектуры 
нейронной сети для конкретной задачи оказался бы очень полезным. 
Один из возможных подходов заключается в эволюционном 
формировании архитектуры с применением генетического алгоритма.
Также как и в случае эволюционного обучения, на первом этапе 
эволюционного проектирования архитектуры принимается решение 
относительно соответствующей формы ее описания. Однако в данной 
ситуации проблема не связана с выбором между двоичным и 
вещественным представлением (т.е. действительными числами), 
поскольку речь может идти только о дискретных значениях. Необхо-
димо выбрать более общую концептуальную структуру представления 
данных, например, в форме матриц, графов и т.п. Ключевой вопрос 
состоит в принятии решения о количестве информации об архитектуре 
сети, которая должна кодироваться соответствующей схемой. С одной 
стороны, полная информация об архитектуре может непосредственно 
кодироваться в виде двоичных последовательностей, т.е. каждая связь 
и каждый узел (нейрон) прямо специфицируется определенным 
количеством битов. Такой способ представления называется 
схемой 
непосредственного 
кодирования. 
С 
другой 
стороны, 
могут 
представляться только важнейшие параметры или свойства 
архитектуры - такие как количество узлов (нейронов), количество свя-
зей и вид переходной функции нейрона. Этот способ представления 
называется 
схемой косвенного кодирования. 
Существуют и другие 
названия указанных способов представления данных, например, вместо 

---

А.Е. Кононюк Дискретно-непрерывная математика 
288 
«непосредственного кодирования» встречается термин 
сильная схема 
спецификации, 
а вместо «косвенного кодирования» - 
слабая схема 
классификации
.