JavaScript для глубокого обучения 2021 TensorFlow js Ббк

Глава 8. Недообучение, переобучение и универсальный процесс ML
333
относительно них не так хороши (выше). Потери на проверочном наборе данных 
могут останавливаться на каком­то уровне или даже снова расти, хотя потери на 
обучающем наборе продолжают падать. Желательное для нас состояние модели 
изображено в блоке В: значения потерь обучающего и проверочного наборов данных 
не слишком расходятся, так что итоговые потери на проверочном наборе достаточно 
низки. Учтите, что фраза «достаточно низки» относительна, особенно в тех задачах, 
для которых ни одна из существующих моделей не может предложить идеального 
решения. В будущем могут появиться новые модели, которые позволят достичь бо­
лее низких, по сравнению с показанными в блоке Б, значений потерь. В этом случае 
приведенный в блоке В паттерн станет случаем недообучения и нам придется взять 
на вооружение новый тип модели, чтобы от него избавиться, для чего, возможно, 
снова понадобится пройти через цикл переобучения и регуляризации.
Рис. 8.6.
Схематичное изображение кривых потерь для упрощенных случаев недообучения 
(блок A), переобучения (блок Б) и идеальной подгонки (блок В) модели
Наконец, отметим, что возможности визуализации обучения не ограничиваются 
функциями потерь. Чтобы можно было облегчить мониторинг процесса обучения, 
часто визуализируются и другие метрики. Примеры рассыпаны по всей книге. 
Например, в главе 3 мы строили график кривых ROC, когда обучали бинарный 
классификатор для обнаружения фишинговых сайтов. Визуализировали мы и ма­
трицу различий, когда обучали классификатор ирисов. В главе 9 мы приведем при­
мер отображения текста, сгенерированного машиной во время обучения генератора 
текста. Этот пример, хотя и без GUI, предоставляет полезную информацию в режиме 
реального времени о ходе обучения модели. А именно, глядя на сгенерированный 
моделью текст, можно получить некое представление о том, насколько хорошо мо­
дель в настоящий момент справляется с задачей.

---

334