Нейронную

Набор рукописных цифр MNIST 
199

---

На моем ноутбуке прохождение всего тренировочного цикла заняло 
около двух минут. Для вашего компьютера длительность вычисле­
ний может быть иной.
Улучшение результатов: настройка 
коэффициента обучения
Получение 95% -го показателя эффективности при тестировании 
набора данных MNIST нашей нейронной сетью, созданной на ос­
нове простейших идей и с использованием простого кода на языке 
Python, — это совсем неплохо, и ваше желание остановиться на этом 
можно было бы считать вполне оправданным.
Однако мы попытаемся улучшить разработанный к этому моменту 
код, внеся в него некоторые усовершенствования.
Прежде всего, мы можем попытаться настроить коэффициент об­
учения. Перед этим мы задали его равным 0,3, даже не тестируя дру­
гие значения.
Давайте удвоим это значение до величины 0,6 и посмотрим, как 
это скажется на способности нейронной сети обучаться. Выполнение 
кода с таким значением коэффициента обучения дает показатель эф­
фективности 0,9047. Этот результат хуже прежнего. По-видимому, 
увеличение коэффициента обучения нарушает монотонность процес­
са минимизации ошибок методом градиентного спуска и сопровож­
дается перескоками через минимум.
Повторим вычисления, установив коэффициент обучения равным 
ОД. На этот раз показатель эффективности улучшился до 0,9523, что 
почти совпадает с результатом ранее упомянутого эталонного теста, 
который проводился с использованием тысячи скрытых узлов. Но 
ведь наш результат был получен с использованием намного меньше­
го количества узлов!
Что произойдет, если мы пойдем еще дальше и уменьшим коэффи­
циент обучения до 0,01? Оказывается, это также приводит к умень­
шению показателя эффективности сети до 0,9241. По-видимому, 
слишком малые значения коэффициента обучения снижают эффек­
тивность. Это представляется логичным, поскольку малые шаги 
уменьшают скорость градиентного спуска.
Описанные результаты представлены ниже в виде графика. Это не 
совсем научный подход, поскольку нам следовало бы провести такие