JavaScript для глубокого обучения 2021 TensorFlow js Ббк

Листинг 5.2.
Перенос обучения с помощью функции Model.fit()
Насколько хороши результаты переноса обучения? Как видите в блоке A на 
рис. 5.3, после десяти эпох обучения, занимающих примерно 15 секунд на относи­
тельно современном ноутбуке, безошибочность достигает примерно 0,968 — совсем 
неплохо. Но как сравнить этот результат с результатом модели, обучаемой с нуля? 
Один из способов сравнения — заново задать случайным образом начальные значе­
ния весов предобученной модели непосредственно перед вызовом 
fit()
. Именно это 
и произойдет, если перед нажатием кнопки 
Retrain
вы выберете опцию 
Reinitialize Weights
из раскрывающегося меню 
Training Mode
. Результат показан в блоке Б на рис. 5.3.
Как можно видеть из сравнения блока A с блоком Б, при повторной инициализа­
ции случайным образом значений весов модели начальное значение функции потерь 
оказывается значительно выше (0,36 по сравнению с 0,30), а безошибочность — ниже 
(0,88 вместо 0,91). У заново инициализированной модели итоговая безошибочность 
на проверочном наборе также ниже (~0,954), чем у модели, переиспользующей весо­
вые коэффициенты базовой модели (~0,968). Эти различия наглядно демонстрируют 
преимущества переноса обучения: благодаря переиспользованию весовых коэффи­
циентов в начальных слоях (слоях, служащих для выделения признаков) модели она 
получает определенный гандикап по сравнению с обучением с нуля. А все потому, что 
встречающиеся в задаче перенесенного обучения данные аналогичны данным, на ко­
торых обучалась исходная модель. Изображения цифр с 5 до 9 во многом схожи с изо­
бражениями цифр от 0 до 4: все представляют собой изображения в оттенках серого 
на черном фоне со схожими визуальными паттернами (штрихами схожей толщины 
и кривизны). Поэтому признаки, которые модель научилась выделять из цифр от 0 
до 4, оказываются пригодны и для обучения классификации новых цифр (от 5 до 9).

---