Теория вероятности и математическая статистика

Регрессионный анализ

- математико-статистический метод исследования зависимости одной случайной величины (критериальной переменной) от конечного числа независимых случайных или неслучайных переменных (предикторов, регрессоров).

Замечание

Термин «зависимость» понимается здесь как «математическая зависимость», которой в определенном смысле наилучшим образом отвечают имеющиеся статистические данные, и не означает в общем случае наличие причинно-следственных связей между наблюдаемыми переменными.
В математической статистике понятия «корреляция» и «регрессия» неотделимы от понятия «стохастическая зависимость», вместе с тем они имеют четкое различие, отраженное в целях соответствующих исследований: собственно корреляционный анализ ориентирован на обнаружение корреляционной зависимости между рассматриваемыми признаками и оценку тесноты их связи, тогда как регрессионный анализ предполагает выявление и исследование формы зависимости критериальной переменной от предикторов.

Задачи регрессионного анализа

• 
  Выбор предикторов, оказывающих статистически значимое влияние на критериальную переменную.
  
• 
  Установление вида модели регрессии в соответствии с сущностью постигаемого явления.
  
• 
  Оценка параметров регрессионной модели, статистическая проверка их значимости.
  
• 
  Оценка статистической надежности уравнения регрессии.
  
• 
  Оценка адекватности и точности регрессионной модели.
  

Аддитивная модель регрессии

При описании исследуемой зависимости с помощью математической символики она обычно представляется как уравнение вида , где
– - выражение функциональной зависимости значения y критериальной переменной Y от возможных значений x₁, x₂,…, x_k предикторов X₁, X₂,…, X_k,
– ε - остаточная компонента (возмущение), численно характеризующая суммарное влияние совокупности всех случайных факторов на значение переменной Y.
На основании имеющихся данных наблюдений над значениями переменных X₁, X₂,…, X_k, Y в определенном классе многомерных функций подбирается такая функция , при которой остаточная компонента ε будет минимальной по некоторой статистической мере, т.е. находится аналитическое выражение, наиболее полно в рамках применяемой модели и выбранного критерия оптимальности отражающее математическую зависимость переменной Y от переменных X₁, X₂,…, X_k.