Процена највеће вероватноће

Преглед садржаја:

Процена највеће вероватноће
Процена највеће вероватноће
Anonim

Процена максималне вероватноће (ВЛЕ) је општи модел за процену параметара расподеле вероватноће који зависи од запажања у узорку.

Другим речима, ЕМВ максимизира вероватноћу параметара функција густине који зависе од расподеле вероватноће и запажања у узорку.

Када говоримо о процени максималне вероватноће, морамо разговарати о функцију максималне веродостојности. Математички, дат је узорак к = (к1,…, ИКСн) и параметри, θ = (θ1,…, Θн) онда,

Не паничите! Овај симбол значи исто што и збрајање сума. У овом случају, умножавање свих функција густине зависи од посматрања узорка (ки) и параметри θ.

Што је већа вредност Л (θ | к), односно вредност функције максималне вероватноће, то ће вероватније бити параметри засновани на узорку.

Логаритамска функција ЕМВ

Да бисмо пронашли максималне процене вероватноће, морамо да диференцирамо (изведемо) продукте функција густине и то није најудобнији начин за то.

Када наиђемо на компликоване функције, оно што можемо је монотона трансформација. Другим речима, то би било као да желимо привући Европу у стварним размерама. Требали бисмо је смањити тако да стане на лист папира.

У овом случају, монотону трансформацију радимо користећи природне логаритме, јер су монотони и растуће функције. Математички,

Особине логаритама омогућавају нам да горње множење изразимо као збир природних логаритама примењених на функције густине.

Дакле, монотона трансформација логаритмима је једноставно „промена скале“ на мање бројеве.

Процењена вредност параметара који максимизирају вероватноћу параметара функције максималне вероватноће са логаритамима је еквивалентна процењеној вредности параметара који максимизирају вероватноћу параметара оригиналне функције максималне вероватноће.

Дакле, увек ћемо се бавити монотоном модификацијом функције максималне вероватноће с обзиром на већу лакоћу израчунавања.

Радозналост

Колико год ЕМВ изгледао сложен и чудан, ми га непрестано примењујемо а да тога нисмо свесни.

Када?

У свим проценама параметара линеарне регресије под класичним претпоставкама. Познатији под називом Обични најмањи квадрати (ОЛС).

Другим речима, када примењујемо ОЛС, ЕМВ примењујемо имплицитно, јер су оба еквивалентна у погледу доследности.

Апликација

Као и друге методе, ЕМВ се заснива на итерацији. Односно, понављање одређене операције онолико пута колико је потребно за проналажење максималне или минималне вредности функције. Овај поступак може бити подложан ограничењима коначних вредности параметара. На пример, да је резултат већи или једнак нули или да збир два параметра мора бити мањи од једног.

Симетрични ГАРЦХ модел и његова различита проширења примењују ЕМВ за проналажење процењене вредности параметара која максимизира вероватноћу параметара функција густине.