Шпора з економетрики
, ,
де ¬параметр, який потрібно оцінити. Припустимо, що тоді . Оскільки спостереження незалежні, то ймовірність даної реалізації виборки дорівнює
.
Останній вираз, якщо його розглянути як функцію від називається функцією правдоподібності:
Наприклад, якщо – реалізація виборки з розподілу Бернулі з імовірністю успіху , тобто то
де m-кількість одиниць серед чисел yi..
ММП-оцінкою називається таке значення , при якому функція правдоподібності досягає свого максимуму. Іншими словами, за оцінку вибирається таке значення , при якому ймовірність спостерігати наявну реалізацію виборки є найбільшою.
Неперервний випадок.
Нехай тепер - реалізація виборки з абсолютно неперервного розподілу зі щільністю . Внаслідок незалежності функція спільної щільності дорівнює Остання функція, якщо її розглядати як функцію параметра називається функцією правдоподібності:
Нехай, наприклад - реалізація незалежної виборки з нормального розподілу з параметрами і . Тоді , а функція правдоподібності набуває вигляду
= .
Як і дискретному випадку, оцінки знаходяться з умови максимізації функції правдоподібності. Зауважимо, що оскільки функція правдоподібності є добутком, то технічно набагато простіше знаходити максимум її логарифму, який досягається при тих самих значеннях параметрів внаслідок монотонності логарифмічної функції
44. Функція правдоподібності в економетричних моделях
В економетричних моделях спостереження залежної змінної, взагалі кажучі, не є виборкою незалежних однаково розподілених випадкових величин. Тому для знаходження функції спільної щільності пропонується такий підхід. Спочатку слід знайти перетворення вихідної виборки, в результаті якого утворюється незалежна виборка, а потім застосувати формулу щільності для функції випадкових величин. Нехай Якщо існують обернені функції то
де – Якобіан перетворення .
Проілюструємо цей підхід на прикладах.
Проста лінійна регресія.
Нехай в моделі
збурення незалежні і однаково розподілені (i.i.d) з розподілом . Тоді
Перепишемо рівняння моделі в такому вигляді:
,