Множественная (многофакторная) регрессия

Редко поведение зависимой переменной объясняется только с помощь одной независимой переменной. В действительности каждое явление определяется действием целого комплекса причин, поэтому несколько независимых переменных, используемых в комбинации, предлагают лучшее объяснение.

Истинная взаимосвязь между результирующим показателем (зависимой переменной) Y и различными объясняющими переменными X_j выражается так:

Y = b₀ + b₁X₁ + b₂X₂ +…+b_pX_p + e.

Однако, как и в случае простой линейной регрессии, мы не знаем истинную зависимость и вынуждены делать оценки:

.

Коэффициенты b_j (j = 1,2,…, р) представляют собой частные производные Y по соответствующим Х_j:

и показывают, насколько в среднем изменится величина Y при изменении соответствующего фактора Х на единицу и при неизменных значениях других факторов.

Вспомним, что в случае простой регрессии постоянная b₀ представляла собой величину зависимой переменной при нулевом значении независимой переменной. Во множественной регрессии толкование постоянной является более сложным. В некоторых моделях свободный член оценивается a priori, в других случаях значимая постоянная может представлять средний эффект, оказываемый на Y любыми независимыми переменными, которые не были включены в модель.

Рассмотрим гипотезу о том, что доходы по индексу FTSE 100 определяются доходами на рынке государственных облигаций Великобритании (переменная Х₁), доходами по индексу S&P 500 (переменная Х₂) и доходами по обменному курсу US $/₤ (переменная Х₃).

Существует много пакетов программ, которые способны решить задачу оценивания множественной регрессии. Далее мы покажем возможность использования для этой цели Excel.

Типичный результат будет похож на следующее:

R² = 0,52; = 0,49; DW = 2,3; F = 26,0.

t-критерий приведен в скобках;

- скорректированный коэффициент детерминации;

DW относится к критерию Дарбина-Уотсона, который связан с автокорреляцией остатков и обсуждается далее.

Числа в скобках могут представлять стандартные ошибки оценок параметров модели либо значения t-критериев.

Результаты могут быть интерпретированы следующим образом: если Х₂ и Х₃ постоянны, то при изменении Х₁ на единицу изменение Y составит 0,209. Аналогично, если Х₁ и Х₃ постоянны, то изменение Х₂ на единицу приведет к изменению Y на 0,934 единицы.

t-критерии для каждой независимой переменной истолковываются так же, как и раньше, но в случае многофакторной модели они имеют t-распределение с n – (р + 1) степенями свободы (если в модели р независимых переменных, то будет (р + 1) коэффициентов регрессии, включая свободный член).

В рассматриваемом примере 51 наблюдения, три независимых переменных, т.е. число степеней свободы равно: 51 - (3 + 1) = 47. Тогда при уровне значимости 5% значения t-критерия должно быть больше 2,02, а при уровне доверительной вероятности 99% для обеспечения значимости коэффициентов регрессии потребовалось бы, чтобы t-критерий был больше 2,7. Таким образом, свободный член и коэффициент при переменной Х₁ не являются статистически надежными, но две другие переменные с вероятностью 0,99 имеют статистически значимые коэффициенты.

В многофакторной модели добавление дополнительных объясняющих переменных увеличивает коэффициент детерминации. Следовательно, коэффициент детерминации должен быть скорректирован с учетом числа независимых переменных. Скорректированный коэффициент детерминации рассчитывается так:

,

где n – число наблюдений, р – количество независимых переменных.

Скорректировав по этой формуле коэффициент детерминации, равный 0,52, получим:

.

Допущения относительно использования метода наименьших квадратов для многофакторных моделей те же, что и для простой линейной модели. Однако многофакторная модель имеет дополнительную предпосылку о том, что независимые переменные некоррелированы друг с другом (отсутствует мультиколлинеарность).

Не нашли, что искали? Воспользуйтесь поиском: