Шпора з економетрики
– вектор параметрів (коефіцієнтів) регресії.
Матриця X складається з n рядків – відповідно до кількості спостережень, – і з k стовпчиків, кількість яких дорівнює кількості незалежних змінних. Щоб записати модель з константою:
у матричному вигляді, розглядають матрицю значень незалежних змінних, в якій перший стовпчик складається з одиниць:
.
Позначимо через D коваріаційну матрицю вектора збурень
,
внаслідок того, що збурення мають нульові математичні сподівання. Тоді припущення 2 та 3 зручно записувати у вигляді:
D=2In, (1.31)
де In– одинична матриця n-го порядку, а припущення 1 – E = 0.
Модель множинної лінійної регресії у матрично-векторних позначеннях:
не залежить від X
Додаткове припущення:
~N(0,2I)
12. Знаходження параметрів регресії МНК
Нехай –деяка оцінка вектора параметрів . Запишемо рівняння вибіркої регресії
.
Тоді
є оцінкою Eyi, побудованою на основі вибіркової регресіїї. Залишки визначаються як різниці між значеннями залежної змінної, які спостерігались, і обчисленими з регресії:
.
Вектор залишків дорівнює , де , .
Оцінки методу найменших квадратів знаходяться з умови мінімізації суми квадратів залишків за всіма можливими значеннями
(1.32)
Щоб мінімізувати вираз (1.32), запишемо необхідну умову екстремуму, тобто прирівняємо похідні відносно до нуля. Маємо
,