Ын Анналин, Су Кеннет

1.3. Настройка параметров
Многочисленные алгоритмы, доступные в Data Science, 
естественно приводят к огромному числу потенциаль-
ных моделей, которые мы можем построить. Но даже 
один такой алгоритм способен генерировать различные 
результаты в зависимости от настройки его параметров.
Параметры — это тонкая регулировка алгоритма, по-
хожая на настройку радиоприемника на нужную волну. 

---

32
Глава 1
. 
Об основах без лишних слов
У разных алгоритмов свои параметры настройки. Общие 
параметры алгоритмов можно найти в приложении C.
Излишне говорить, что точность модели проигрывает, 
если параметры настроены несообразно. Посмотрите 
на рис. 2, чтобы увидеть, как алгоритм классификации 
может сгенерировать различные границы для разделения 
оранжевых и голубых точек.
a) переобучение
b) идеальное 
распределение
c) недообучение
Рис. 2. Сравнение результатов предсказания
для одного и того же алгоритма с разными параметрами
На рис. 2, а алгоритм слишком чувствителен и прини-
мает случайные отклонения данных за закономерности. 
Эта проблема известна как переобучение (overfitting). 
Такая модель точна для прогнозирования по уже име-
ющимся данным, но меньше подходит для будущей 
информации.
На рис. 2, с алгоритм, наоборот, слишком нечувствите-
лен и основные закономерности упустил. Эта проблема 
известна как недообучение (underfitting). Такая модель 
способна пренебрегать важными тенденциями и дает 

---

1.4. Оценка результатов
33
менее точные предсказания как для текущих, так и для 
будущих данных.
Но когда параметры настроены хорошо, как на рис. 2, b, 
алгоритм достигает равновесия, определяя главные тен-
денции, сбрасывая со счетов мелкие отклонения и пред-
лагая хорошую прогностическую модель.
Чаще всего постоянной задачей становится переобучение. 
В попытках свести к минимуму ошибки прогнозирования 
мы можем поддаться искушению увеличить сложность 
модели. В конечном счете это приводит к результатам, 
похожим на показанные на рис. 2, а — границы проведены 
тонко, но избыточно.
Одним из способов держать под контролем сложность 
модели является введение штрафного параметра в про-
цессе регуляризации. Этот новый параметр штрафует 
модель за сложность, искусственно увеличивая погреш-
ность и этим побуждая алгоритм находить оптимальное 
соотношение точности со сложностью. Тем самым со-
храняя простоту модели, мы можем обеспечить ее мас-
штабируемость.