Шпора з економетрики
Щоб мінімізувати вираз (1.3), запишемо необхідну умову екстремуму, тобто прирівняємо похідні відносно та до нуля. Маємо
,
звідки
(1.4)
і
,
звідки
(1.5)
Система рівнянь (1.4) і (1.5) називається системою нормальних рівнянь.
Уведемо такі позначення:
, ,
,
,
Нехай Sxx> 0. Запишемо розв’язок системи нормальних рівнянь відносно за правилом Крамера:
(1.6).
Розділимо чисельник і знаменник виразу (1.6) на n. Враховуючи уведені позначення, остаточно одержимо: . Розділимо перше нормальне рівняння (1.4) почленно на n. Маємо: . Надалі будемо позначати МНК-оцінки параметрів та латинськими літерами a та b. Отже, МНК-оцінки параметрів моделі простої лінійної регресії знаходяться за фомулами:
(1.7)
Якщо обчислити матрицю других похідних для Q, то можна побачити, що ця матриця додатньо визначена, отже значення (1.7) дійсно мінімізують (1.3).
Рівняння вибіркої регресії приймає вигляд
. (1.8)
З першого нормального рівняння випливає, що графік вибіркової регресійної прямої (1.8) проходить через точку середеніх значень залежної та незалежної змінних. Рівняння (1.8) дає нам уявлення про характер залежності (точніше детермінованої її частини) між змінними x та y.
5. Властивості залишків МНК
Позначимо через різниці між фактичними та теретичними, тобто обчисленими з рівняння вибіркої регресії (1.8) значеннями залежної змінної: