ECONOMETRIA II:

ECONOMETRIA DE SERIES TEMPORALES

Modelos ARMA

• Definicion: Ruido blanco. Se dice que el proceso {εt} es ruidoblanco (”white noise”) si:

E (εt) = 0Var(εt) = E (ε2t ) = σ2

Para todo i 6= j : Cov(εiεj) = E (εiεj) = 0

• Notacion: εt ∼ WN

• Ruido blanco Gaussiano: Para todo t, εt ∼ N(0, σ2). Notacion:εt ∼ WN(0, σ2)

• Definicion: Modelo ARMA. Un modelo autoregresivo-mediamovil (”autoregressive moving average”—ARMA) tiene la forma:

yt = φ0 +

p∑i=1

φiyt−i +

q∑j=0

θjεt−j ,

donde el proceso {εt} es ruido blanco.

Este modelo se denota como ARMA(p, q), y normalmente senormaliza θ0 a 1.

Nota: Suponemos que todas las raıces caracterısticas estan dentrodel cırculo de unidad. Si una o varias raıces caracterısticas estanencima o fuera del circulo de unidad, el modelo se llamaautoregresivo-integrado-media movil (”autoregressive integratedmoving average”—ARIMA(p, d , q), donde d es el orden deintegracion)

Ejemplos de modelos ARMA:

ARMA(0,0): yt = φ0 + εt

ARMA(0,1): yt = φ0 + εt + θ1εt−1

ARMA(1,0): yt = φ0 + φ1yt−1 + εt

ARMA(1,0)(paseoaleatorio)

: yt = yt−1 + εt

ARMA(1,1): yt = φ0 + φ1yt−1 + εt + θ1εt−1

Ejemplos de modelos ARMA (cont.):

• Modelos ARMA(p,0) con θ0 = 1:

yt = φ0 +

p∑i=1

φiyt−i + εt

tambien se denotan modelos AR(p).

• Modelos ARMA(0,q):

yt = φ0 +

q∑j=0

θjεt−j

tambien se denotan modelos MA(q)

Modelos MA(q):

• MA(1): yt = φ0 + εt + θ1εt−1, donde {εt} es ruido blanco

⇒ µ = E (yt) = φ0

⇒ γ0 = Var(yt) = (1 + θ21)σ

2

⇒ γk = Cov(yt , yt−k) =

{θ1σ

2 para k = 10 para k > 1

• Es el modelo MA(1) estacionario? Si

• Que es Corr(yt , yt−k)?

→ ρk = Corr(yt , yt−k) = γkγ0

Modelos MA(q) (cont.):

• MA(q): yt = φ0 +∑q

j=0 θqεt−q, donde {εt} es ruido blanco ydonde θ0 = 1

⇒ µ = φ0

⇒ γ0 = (1 + θ21 + · · ·+ θ2

q)σ2

⇒ γk =

{(θk + θk+1θ1 + · · ·+ θqθq−1)σ

2 para k = 1, . . . , q0 para k > q

• Es el modelo MA(q) estacionario? Si

• Que es Corr(yt , yt−k)?

→ ρk = γkγ0

Modelos MA(q) (cont.):

• MA(∞): yt = φ0 +∑∞

j=0 ψjεt−j , donde {εt} es ruido blanco ydonde ψ0 = 1

• Notacion: MA(∞)

• Como podemos saber si MA(∞) es un proceso estacionario ybien definido? Una de las condiciones siguientes es suficiente:

a)∑∞

j=0 ψ2j <∞

⇑

b)∑∞

j=0 |ψj | <∞

Modelos MA(q) (cont.):

• Entonces, por el MA(∞) tenemos que:

⇒ µ = φ0

⇒ γ0 = limT→∞(ψ20 + ψ2

1 + · · ·+ ψ2T )σ2

⇒ γk = σ2(ψkψ0 + ψk+1ψ1 + ψk+2ψ2 + · · · )

Modelos AR(p):

• AR(1): yt = φ0 + φ1yt−1 + εt , donde {εt} es ruido blanco

• Es el modelo AR(1) estacionario (”estable”)?

→ Si |φ1| < 1 ⇒ si

→ Si |φ1| ≥ 1 ⇒ no

• Por que |φ1| < 1 ⇒ AR(1) estacionario?

Modelos AR(p) (cont.):

• Porque eso implica que el modelo AR(1) se puede escribir comoun modelo MA(∞):

yt = φ0 + φ1yt−1 + εt

= φ0 + φ1(φ0 + φ1yt−2 + εt−1) + εt

= φ0 + φ1[φ0 + φ1(φ0 + φ1yt−3 + εt−2)+εt−1] + εt

...= (φ0 + εt) + φ1(φ0 + εt−1) + φ2

1(φ0 + εt−2) + · · ·

= φ0 ·∑∞

i=0 φi1 + εt + φ1εt−1 + φ2

1εt−2 + φ31εt−3 + · · ·

= φ01−φ1

+ εt + φ1εt−1 + φ21εt−2 + φ3

1εt−3 + · · ·

= MA(∞)

Modelos AR(p) (cont.):

• Recuerda:∑∞

j=0 |ψj | <∞⇒ MA(q) estacionario, y en nuestrocaso (dado que |φ1| < 1) tenemos∑∞

j=0 |ψj | =∑∞

j=0 |φj1| <∞

• De todo esto se deduce (cuando |φ1| < 1):

µ = φ01−φ1

γ0 = σ2

(1−φ21)

γk =φk

1

1−φ21σ2

ρk = γkγ0

= φk1

Modelos AR(p) (cont.):

• El modelo AR(2) se define como:

yt = φ0 + φ1yt−1 + φ2yt−2 + εt (1)

• Aplicando el operador de retardo el AR(2) se puede escribir como

(1− φ1L− φ2L2)yt = φ0 + εt

y (1) es estacionario si las p raıces caracterısticas λ1 y λ2 estandentro del cırculo de unidad (es decir, |λ1|, |λ2| < 1)

• Como calculamos las 2 raıces caracterısticas λ1, λ2 de un AR(2)?

(1− φ1z − φ2z2) = 0 ⇔ (λ2 − φ1λ− φ2) = 0

donde λ = 1z

Modelos AR(p) (cont.):

• Nota: A veces se utiliza una terminologıa diferente que puedeconfundir:

raıces del polinomo 1− φ1z − φ2z2 esta fuera del cırculo de unidad

m

Las raıces caracterısticas estan dentro del circulo de unidad

• Si todas las raıces caracterısticas estan dentro del cırculo deunidad, entonces podemos escribir

ψ(L) = (1− φ1L− φ2L2)−1 = ψ0 + ψ1L + ψ2L

2 + · · · (2)

y finalmente

yt = ψ(L)φ0 + ψ(L)εt

= MA(∞)(3)

Modelos AR(p) (cont.):

• Suponiendo que las 2 raıces caracterısticas estan dentro delcırculo de unidad, entonces tenemos que:

µ = φ01−φ1−φ2

γ0 = φ1γ1 + φ2γ2 + σ2

γk = φ1γk−1 + φ2γk−2

ρk = γkγ0

Modelos AR(p) (cont.):

• El modelo AR(p) se define como:

yt = φ0 +

p∑i=1

φ1yt−i + εt

• Suponiendo que todas las raıces caracterısticas estan dentro delcırculo de unidad, entonces tenemos que:

µ = φ01−φ1−···−φp

γ0 = φ1γ1 + · · ·+ φpγp + σ2

γk = φkγk−1 + · · ·+ φpγk−p

ρk = γkγ0

Nota: Las p + 1 ecuaciones definidas por ρ0, . . . , ρp se llaman lasecuaciones de Yule-Walker

ARMA(p, q), representacion de media movil MA(∞):

Un modelo ARMA(p, q) estacionario/estable siempre tiene unarepresentacion de media movil MA(∞):

yt = φ0 +∑p

i=1 φiyt−i +∑q

j=0 θjεt−j

se puede escribir

(1− φ1L− · · · − φpLp)yt = φ0 + (1 + θ1L + · · ·+ θqL

q)εt ,

y si el ARMA(p, q) es estable entonces

yt = φ01−φ1−···−φp

+ ψ(L)εt

= MA(∞)

donde ψ(L) =1+θ1L+···+θqLq

1−φ1L−···−φpLp

Teorema de Wold (1938):

• Hemos visto que procesos ARMA(p, q) estacionarios se puedenescribir como un modelo MA(∞), es decir, comoyt = φ0 +

∑∞j=0 ψjεt−j donde ψ0 = 1, si

∑∞j=0 |ψj | <∞

• El teorema de Wold establece que esto es cierto para todoproceso estacionario

Teorema de Wold (1938) (cont.):

Teorema (Wold): Cualquier proceso estacionario {yt} con mediacero se puede representar de la forma

yt =∞∑j=0

ψjεt−j + κt (4)

donde ψ0 = 1 y∑∞

j=0 ψ2j <∞. El proceso {εt} es ruido blanco y

representa el error resultante de predecir yt con una funcion linealde los retardos de yt :

εt = yt − E (yt |yt−1, yt−2, . . . )

El valor de κt es incorrelado con εt−j para cualquier j , pero sepuede predecir κt arbitrariamente bien con una funcion lineal delos valores pasados de yt :

κt = E (κt |yt−1, yt−2, . . . )

Teorema de Wold (1938) (cont.):

• Nota 1: La parte∑∞

j=0 ψjεt−j se llama el componentelinealmente indeterminıstico

• Nota 2: La parte κt se llama el componente linealmentedeterminıstico

• Problema: Estimar la representacion de Wold de una serierequiere la estimacion de un numero infinito de parametros

• Tenemos solamente un numero finito de observaciones

• Solucion: Hacer supuestos adicionales sobre la naturaleza deψ1, ψ2, . . .

Teorema de Wold (1938) (cont.):

• Estrategia 1: Aproximar la suma infinita con una suma finita:

1 + θ1L + θ2L2 + · · ·+ θqL

q

1− φ1L− φ2L2 − · · · − φpLp=

∞∑j=0

ψjLj ≈

r∑j=0

ψjLj

• Entonces se obtiene (en general) una buena aproximacion conpocos parametros

• Estrategia 2: Hamilton (1994, capıtulo 6)

Invertibilidad de MA(q):

• Recordamos: Si un modelo AR(p) es estable, entonces podemosescribirlo como un MA(∞)

• Si un modelo MA(q) es invertible, entonces podemos escribirlocomo un AR(∞)

• Definicion: Invertibilidad de MA(q). Un modelo MA(q) sepuede escribir como yt − φ0 = (1 + θ1L + θ2L

2 + · · ·+ θqLq)εt . Si

el MA(q) se puede escribir como un modelo AR(∞) utilizando lainversa del (1 + θ1L + θ2L

2 + · · ·+ θqLq), entonces se dice que

MA(q) es invertible.

• Condicion suficiente para la invertibilidad: Que todas las raıcesdel polinomo (1 + θ1z + θ2z

2 + · · ·+ θqzq) = 0 estan fuera del

cırculo de unidad

Invertibilidad de MA(q) (cont.):

• MA(q): yt = φ0 +∑q

j=0 εt−j

⇒ yt − φ0 = (1 + θ1L + θ2L2 + · · ·+ θqL

q)εt

• Si todas las raıces estan fuera del circulo de unidad tenemos que

(1 + η1L + η2L2 + · · · ) = (1 + θ1L + θ2L

2 + · · ·+ θqLq)−1

y entonces

(1 + η1L + η2L2 + · · · )(yt − φ0) = εt

es un AR(∞) representacion del modelo MA(q).

Causalidad:

• Definicion: Causalidad. Un proceso {yt} es causal, o unafuncion causal de {εt}, si existen constantes ψj ası que

i)∑∞

j=0 |ψj | <∞

ii) yt =∑∞

j=0 ψjεt−j para todo t

• Ejemplos: Modelos AR(1) con |φ1| < 1:

→ yt = φ1yt−1 + εt

→ yt = φ0 + φ1yt−1 + εt

q-correlacion:

• Definicion: q-correlacion. Un proceso {yt} estacionario esq-correlacionado si Cov(yt , yt−k) = 0 para todo |k| > q, y siCov(yt , yt−k) 6= 0 para todo |k| ≤ q.

• Recuerda:

→ Cov(yt , yt−k) = 0 ⇔ Corr(yt , yt−k) = 0 y

→ Cov(yt , yt−k) 6= 0 ⇔ Corr(yt , yt−k) 6= 0

• Ejemplo: Modelos MA(q)

Referencias:

Hamilton, J. D. (1994). Time Series Analysis. Princeton, NewJersey: Princeton University Press.

Wold, H. (1938). A Study in the Analysis of Stationary TimeSeries. Uppsala, Sweden: Almqvist and Wiksell.