Ын Анналин, Су Кеннет

9.5. Краткие итоги

Дерево решений создает прогноз на основании серии 
бинарных вопросов.

Набор данных последовательно разбивается на более 
однородные группы в ходе процесса, названного ре-
курсивным делением. Он продолжается до наступления 
критерия остановки.

Несмотря на то что деревья решений понятны и про-
сты в использовании, они подвержены переобучению, 
которое может привести к противоречивым результа-
там. Чтобы это минимизировать, используют альтер-
нативные методы, такие как случайные леса.

---

---

10
Случайные леса

---

10.1. Мудрость толпы
Можно ли из множества неверных ответов получить 
правильный?
Да!
Хотя это кажется нелогичным, такое возможно. Более 
того, это ожидается от самых лучших прогностических 
моделей.
Хитрость в том, что хотя неверных прогнозов может 
быть много, правильный всегда только один. При ком-
бинировании моделей с различными достоинствами 
и недостатками оказывается, что точные прогнозы име-
ют тенденцию подтверждать друг друга, в то время как 
ошибочные этого не делают. Способ комбинирования 
моделей для улучшения точности прогноза известен как 
ансамблирование (ensembling).
Мы обнаружим этот эффект в результатах работы случай-
ного леса, который представляет собой ансамбль деревьев 
решений (глава 9). Чтобы показать, насколько случайный 
лес превосходит деревья решений, мы создали 1000 воз-
можных деревьев, каждое из которых предсказывает пре-

---

10.2. Пример: предсказание криминальной активности
139
ступление в американском городе, после чего сравнили 
точность их прогнозирования с точностью случайного 
леса, построенного на основе тех же 1000 деревьев ре-
шений.