Мултиколинеарност је снажна веза линеарне зависности између више од две променљиве објашњења у вишеструкој регресији која крши Гаусс-Марковљеву претпоставку када је тачна.
Другим речима, мултиколинеарност је висока корелација између више од две променљиве објашњења.
Наглашавамо да линеарна веза (корелација) између објашњавајућих променљивих мора бити јака. Веома је често да се објашњавајуће променљиве регресије корелирају. Дакле, треба истаћи да овај однос мора бити јак, али никада савршен, да би се могао сматрати случајем мултиколинеарности. Линеарни однос био би савршен да је коефицијент корелације 1.
Када се овај снажни линеарни (али не и савршени) однос догоди само између две објашњавајуће променљиве, кажемо да је то случај колинеарности. Мултиколинеарност би била када се јака линеарна веза догоди између више од две независне променљиве.
Гаус-Маркова претпоставка о тачној не-мултиколинеарности дефинише да променљиве објашњења у узорку не могу бити константне. Даље, не би требало да постоје тачни линеарни односи између објашњавајућих променљивих (не треба да постоји тачна мултиколинеарност). Гаусс-Марков нам не дозвољава тачну мултиколинеарност, али приближава мултиколинеарност.
Регресиона анализаАпликације
Постоје врло конкретни случајеви, обично нереални, у којима су регресионе варијабле потпуно неповезане једна с другом. У тим случајевима говоримо о егзогености објашњавајућих променљивих. Друштвене науке су генерално познате по томе што у своје регресије укључују приближну мултиколинеарност.
Тачна мултиколинеарност
Тачна мултиколинеарност се јавља када је више од две независне променљиве линеарна комбинација других независних променљивих у регресији.
Проблеми
Када Гаусс Марков забрањује тачну мултиколинеарност, то је зато што не можемо добити процењивач редовних најмањих квадрата (ОЛС).
Математички изражавајући процењени бета суб-и у матричном облику:
Дакле, ако постоји тачна мултиколинеарност, то доводи до тога да матрица (КС'КС) има одредницу 0 и, према томе, не може бити обрнута. Ако није инвертибилан, подразумева се немогућност израчунавања (КС'КС)-1 и сходно томе ни процењени Бета суб-и.
Приближна мултиколинеарност
Приближна мултиколинеарност се јавља када више од две независне променљиве нису тачно (апроксимација) линеарна комбинација других независних променљивих у регресији.
Променљива к представља случајну променљиву (независну и идентично распоређену (и.и.д)). Учесталост ваших посматрања може се на задовољавајући начин приближити стандардној нормалној расподели са средњом вредношћу 0 и одступањем 1. Будући да је то случајна променљива, подразумева да ће у сваком посматрању и вредност к бити различита и независна од било које претходне вредности.
Проблеми
Математички израз у матричном облику:
Дакле, ако постоји приближна мултиколинеарност, то доводи до тога да је матрица (КС'КС) приближно 0, а коефицијент утврђености врло близу 1.
Решење
Мултиколинеарност се може смањити уклањањем регресора променљивих са високим линеарним односом између њих.
Коефицијент линеарне корелације