REGRESIA LINIARĂ MULTIPLĂ

TEMATICA C5

3. Testarea parametrilor modelului liniar multiplu

4. Testarea modelului

5. Testarea influenţei marginale a unei variabile

Exemplu (I)

Testarea parametrilor MLM (I)

Testarea parametrilor modelului multiplu liniar se face la fel ca în cazul modelului simplu liniar:

1. Formularea ipotezelor:

H0: βi=0,

H1: βi≠0,

2. Alegerea pragului de semnificaţie α

De regulă, se asumă un risc α = 0,05.

3. Alegerea statisticii test:

4. Valoarea teoretică a statisticii test

Pentru pragul de semnificaţie ales şi v=n-k grade de

libertate, se citeşte valoarea teoretică din tabela Student:

tα/2;n-k

iˆ

i

ˆ

ˆt

pi ,0

pi ,0

Testarea parametrilor MLM (II)

5. Valoarea calculată a statisticii test

La nivelul eşantionului se determină valoarea calculată a testului:

6. Regula de decizie

Dacă se respinge H0, cu risc asumat de 5%.

Dacă se acceptă H0, cu un nivel de încredere de

95%.

În SPSS, decizia se ia pe baza semnificaţiei testului (Sig.):

Dacă , se respinge H0 cu risc asumat de 5%

Dacă , se acceptă H0, cu un nivel de încredere de

95%.

iˆ

icalc

s

bt

2/calc tt

2/calc tt

sig

sig

Testarea modelului MLM

1. Formularea ipotezelor

H0: β0= …= βi=…= βp=0

H1: Există un βi pentru care βi ≠ 0,

2. Fixarea pragului de semnificaţie α=0,05

3. Alegerea statisticii test

4. Calcularea statisticii test

5. Criterii de decizie:

Dacă Fcalc≤ Fα, k-1, n-k => se acceptă H0 cu o probabilitate de 1-α.

Dacă Fcalc> F α, k-1, n-k => se respinge H0 cu un risc asumat α.

1ˆ

ˆ

k

kn

V

VF

R

E

1)...(

)...(

1 2

110

2

110

k

kn

xbxbby

yxbxbb

k

kn

RSS

ESSF

i

pipii

i

pipi

calc

pi ,0

Testarea influenţei marginale a unei variabile independente asupra variabilei dependente – pentru Metoda intrarilor

1. Formularea ipotezelor

H0: variabila independentă nou introdusă în model nu are o influenţă semnificativă asupra variaţiei variabilei dependente

H1: variabila independentă nou introdusă în model are o influenţă semnificativă asupra variaţiei variabilei dependente

2. Fixarea pragului de semnificaţie α=0,05

3. Alegerea statisticii test

4. Calcularea statisticii test

oldnew

new

new2

old2

new2

oldnew

new

new R

old Enew E

kk

kn

η̂1

η̂η̂

kk

kn

V̂

V̂ V̂

F

oldnew

new

new2

old2

new2

oldnew

new

new kk

kn

R1

RR

kk

kn

RSS

oldnew ESSESS

F

5. Criterii de decizie:

Dacă Fcalc≤ Fα, k new-k old, n-k new => se acceptă H0 cu o

probabilitate de 1-α.

Dacă Fcalc> F α, k new-k old, n-k new => se respinge H0 cu un risc

asumat α.

Estimarea indicatorilor de corelaţie -raportul de determinaţie ajustat

kn

nRR

1

)1(1kn

1n

TSS

RSS1

1n

TSSkn

RSS

1 22

22 RR Se observă că pentru k>1.

Utilitatea modelului de regresie cu variabile standardizate

Modelul cu variabile standardizate permite comparareacoeficienților de regresie din model; fiecare coeficient arătândimpactul partial al variației cu o unitate a variabileiindependente standardizate asupra variabilei dependentestandardizate.

Aceasta este o modalitate de ierarhizare a variabilelordependente în funcție de importanța lor în model.

EXEMPLU I (1)

Model Summary

,910a ,829 ,807 285,65322 ,829 38,718 2 16 ,000

Model

1

R R Square

Adjusted

R Square

Std. Error of

the Estimate

R Square

Change F Change df1 df2 Sig. F Change

Change Statistics

Predictors: (Constant), Nr. ani pregatire, Vechime in munca (ani)a.

ANOVAb

6318646 2 3159323,188 38,718 ,000a

1305564 16 81597,759

7624211 18

Regression

Residual

Total

Model

1

Sum of

Squares df Mean Square F Sig.

Predictors: (Constant), Nr. ani pregatire, Vechime in munca (ani)a.

Dependent Variable: Salariul (RON)b. Coefficientsa

-545,101 224,894 -2,424 ,028

84,315 25,550 ,443 3,300 ,005

85,298 20,394 ,562 4,182 ,001

(Constant)

Vechime in munca (ani)

Nr. ani pregatire

Model

1

B Std. Error

Unstandardized

Coefficients

Beta

Standardized

Coefficients

t Sig.

Dependent Variable: Salariul (RON)a.

EXEMPLU I (2)

6. Raportul de determinație ajustat

7. Estimarea indicatorilor de corelaţie

8. Testarea indicatorilor de corelaţie

9. Exemplu (II)

Pentru un model de regresie liniară multiplă, pot fi

determinati următorii coeficienţi de corelație:

- coeficienţi de corelaţie simplă între variabila dependentă

şi fiecare variabilă independentă (coeficienţi bivariaţi);

- coeficienţi de corelaţie parţială;

- coeficientul de corelaţie multiplă şi coeficientul de

determinaţie multiplă.

TEMATICA C6

7. Estimarea indicatorilor de corelaţie (I)

Coeficienţi de corelaţie bivariată şi parţialăPentru un model liniar de forma:

există trei coeficienţi de corelaţie bivariată:

ii22i110i xxy

])(][)([ 222

1

2

1

11

1

i i

ii

i i

ii

i

i

i

i

i

ii

y

yynxxn

yxyxn

r

])(][)([ 222

2

2

2

22

2

i i

ii

i i

ii

i

i

i

i

i

ii

y

yynxxn

yxyxn

r

])(][)([ 2

2

2

2

2

1

2

1

2121

12

i i

ii

i i

ii

i

i

i

i

i

ii

xxnxxn

xxxxn

r

7. Estimarea indicatorilor de corelaţie (II)

… şi trei coeficienţi de corelaţie parţială calculaţi cu ajutorul

coeficienţilor de corelaţie bivariată:

Corelaţia parţială măsoară dependenţa dintre variabile prin

excluderea succesivă a influenţei celorlalţi factori,

considerând influenţa lor constantă si menţinând numai

influenţa factorului măsurat.

În funcţie de numărul variabilelor a căror influenţă se elimină

din calcul, coeficienţii de corelaţie parţială pot fi de ordinul

întâi (pentru o variabilă eliminată), de ordinul doi (pentru două

variabile) etc.

)1)(1( 2

12

2

2

1221

2.1

rr

rrrr

y

yy

y

)1)(1( 2

12

2

1

1212

1.2

rr

rrrr

y

yy

y

)1)(1( 2

2

2

1

2112

.12

yy

yy

y

rr

rrrr

7. Estimarea indicatorilor de corelaţie (III)

Raportul de determinaţie multiplă şi raportul de corelaţie

multiplă

Parametri

=>

Estimatori

=>

Estimaţiile

=>

T

R

T

E

i

i

i

x

V

V

V

V

yy

yyi

1

)(

)(

2

2

22

i

i

i

i

T

R

T

E

yyV

V

V

V2

2

2

)(1

ˆ

ˆ1

ˆ

ˆˆ

2ˆˆ

i

i

i

i

yy

e

TSS

RSS

TSS

ESSR

2

2

2

)(11 2RR

7. Estimarea indicatorilor de corelaţie (IV)

Coeficientul de corelaţie multiplă

Coeficientul de corelaţie multiplă se calculează numai

pentru modelele multiple liniare şi se exprimă cu ajutorul

coeficienţilor de corelaţie simplă dintre variabilele perechi.

Astfel, în cazul corelaţiei dintre o variabilă rezultativă Y şi

două variabile independente , ,la nivelul unui

eşantion, coeficientul de corelaţie multiplă, notat cu r, se

calculează după relaţia:

1X2X

2.1

2

2

2

21.2

2

1

2

12

12

1221

2

2

2

1)1()1(

1

2yyyyyy

yyyyrrrrrrrr

r

rrrrrr

8. Testarea indicatorilor de corelaţie

Raportul de determinaţie si raportul de corelatie se

testează cu testul F după algoritmul prezentat la modelul liniar

simplu, ţinând cont de faptul că k=p+1 reprezintă numărul

parametrilor din noul model model.

Coeficienţii de corelaţie se testează cu ajutorul testului t .

după algoritmul prezentat la modelul liniar simplu, ţinând cont

de faptul că k=p+1 reprezintă numărul parametrilor din noul

model.

Exemplu 1 - continuare C4

Coefficientsa

-545,101 224,894 -2,424 ,028

84,315 25,550 ,443 3,300 ,005 ,801 ,636 ,341

85,298 20,394 ,562 4,182 ,001 ,844 ,723 ,433

(Constant)

Vechime in munca (ani)

Nr. ani pregatire

Model

1

B Std. Error

Unstandardized

Coefficients

Beta

Standardized

Coefficients

t Sig. Zero-order Partial Part

Correlations

Dependent Variable: Salariul (RON)a.

ANOVAb

6318646 2 3159323,188 38,718 ,000a

1305564 16 81597,759

7624211 18

Regression

Residual

Total

Model

1

Sum of

Squares df Mean Square F Sig.

Predictors: (Constant), Nr. ani pregatire, Vechime in munca (ani)a.

Dependent Variable: Salariul (RON)b.

Model Summary

,910a ,829 ,807 285,65322

Model

1

R R Square

Adjusted

R Square

Std. Error of

the Estimate

Predictors: (Constant), Nr. ani pregatire, Vechime in

munca (ani)

a.

Corelatii bivariate și partiale

Exemplu II (1)

În studiul legăturii dintre valoarea vânzărilor unei firme (Y) şi

cheltuielile de publicitate (X1), cheltuielile ocazionate de diferite

promoţii (X2) şi vânzările anuale realizate de principalul

concurent (X3), s-au obţinut următoarele rezultate:

Model Summ aryb

,913a ,833 ,787 17,60029 1,879

Model

1

R R Square

Adjusted

R Square

Std. Error of

the Estimate

Durbin-

Watson

Predictors: (Constant), X3, X1, X2a.

Dependent Variable: Yb.

EXEMPLU II (2)

Coefficientsa

65,705 27,731 2,369 ,037

48,979 10,658 ,581 4,596 ,001

59,654 23,625 ,359 2,525 ,028

-1,838 ,814 -,324 -2,258 ,045

(Constant)

X1

X2

X3

Model

1

B Std. Error

Unstandardized

Coeff icients

Beta

Standardized

Coeff icients

t Sig.

Dependent Variable: Ya.

ANOVAb

16997,537 3 5665,846 18,290 ,000a

3407,473 11 309,770

20405,009 14

Regression

Residual

Total

Model

1

Sum of

Squares df Mean Square F Sig.

Predictors: (Constant), X3, X1, X2a.

Dependent Variable: Yb.