Microsoft Word Предварительный перечень вопросов к экзамену docx

---

Предварительный перечень вопросов
к экзамену по спецкурсу «Нейронные сети» 
Машинное обучение: 
1. Общая постановка задачи машинного обучения, формальное 
определение машинного обучения. Общее описание процесса обучения. 
Обобщающая способность. Типы кросс-валидации. 
2. Переобучение и недообучение. Дилемма смещения разброса: 
классический взгляд, современный эмпирический взгляд.
3. Метод k-ближайших соседей и его модификации. Методы поиска k-
ближайших соседей. 
4. Непараметрическая регрессия. Линейная регрессия. 
5. Формализация процесса обучения. Стохастический градиентный спуск 
(SGD). 
6. Вероятностная постановка машинного обучения. Перекрестная 
энтропия 
7. Оптимальный байесовский классификатор. Наивный байесовский 
классификатор (без теоремы о линейности). 
8. Переобучение. Методы регуляризации для борьбы с переобучением.
9. Решающие деревья. Случайный лес. 
10. Метод опорных векторов.
11. Ансамблирование моделей. 
Нейронные сети: 
12. Однослойный перцептрон Розенблатта. Обучение однослойного 
перцептрона. Ограничение на линейную разделимость. Теорема 
Новикова. 
13. Многослойные нейронные сети. Метод обратного распространения 
ошибки. 
14. Теорема Хехт-Нильсена. Применение суперпозиции Колмогорова-
Арнольда.
15. Автоассоциативные 
нейронные 
сети. 
Архитектура, 
области 
применения. Понятие учителя.
16. Рекуррентные нейронные сети. Задача прогнозирования. 
17. Рекуррентные нейронные сети с долгой краткосрочной памятью 
(LSTM). 
18. Сверточные нейронные сети. Задача классификации изображений. 
19. Состязательное обучение на примере генеративных нейронных сетей.