Bog'liq Цэй Ш., Байлесчи С., и др. - JаvaScript для глубокого обучения (Библиотека программиста) - 2021
Часть III • Продвинутые возможности глубокого обучения с TensorFlow.js
Упражнения
1. В задаче предсказания температуры мы обнаружили, что линейный регрессор
существенно недообучается на данных и выдает плохие предсказания как на
обучающем, так и на проверочном наборе данных. Может ли добавление L2
регуляризации улучшить степень безошибочности подобной недообученной
модели? Проверьте сами, это несложно, для чего модифицируйте функцию
buildLinearRegressionModel()
в файле
jena-weather/models.js
.
2. При предсказании завтрашней температуры в примере Jenaweather для гене
рации входных признаков использовались данные за десять предыдущих дней.
Возникает естественный вопрос: что, если использовать более длительный про
межуток времени? Повысится ли степень безошибочности предсказаний при
включении большего количества данных? Узнать это вы можете, модифицировав
const
lookBack
в файле
jena-weather/index.js
и запустив обучение в браузере
(например, воспользовавшись MLP с L2регуляризацией). Конечно, более дли
тельный интервал времени приведет к увеличению размера входных признаков
и удлинению обучения. Так что обратная сторона этого вопроса: можно ли ис
пользовать более короткий промежуток времени без существенного ущерба для
безошибочности предсказаний? Попробуйте и это.
Резюме
z
z
Модуль tfjsvis может помочь с визуализацией процесса обучения модели МО
в браузере. Если точнее, мы показали, как использовать tfjsvis:
• для визуализации топологии моделей TensorFlow.js;
• построения графиков кривых потерь и метрик во время обучения;
• вывода распределения значений весовых коэффициентов после обучения.
z
z
Мы продемонстрировали конкретные примеры этих технологических процессов
визуализации.
z
z
Недообучение и переобучение — основополагающие виды поведения моделей
машинного обучения, требующие мониторинга и должного понимания в каждой
задаче машинного обучения. Обнаружить их можно путем сравнения кривых
потерь на обучающем и проверочном наборах данных во время обучения. С по
мощью встроенного метода
tfvis.show.fitCallbacks()
можно легко визуализи
ровать эти кривые в браузере.
z
z
Универсальный технологический процесс машинного обучения — список харак
терных шагов и рекомендуемых практик различных типов задач обучения с учи
телем. Он простирается от выяснения сущности задачи и требований к данным
до поиска модели точно на грани между недообучением и переобучением.