1 Elementos da Teoria de Decis~ao - ime. veronica/MI677/lista.pdf  2.1 Compare com a soluc~ao...

download 1 Elementos da Teoria de Decis~ao - ime. veronica/MI677/lista.pdf  2.1 Compare com a soluc~ao do

of 24

  • date post

    27-Dec-2018
  • Category

    Documents

  • view

    212
  • download

    0

Embed Size (px)

Transcript of 1 Elementos da Teoria de Decis~ao - ime. veronica/MI677/lista.pdf  2.1 Compare com a soluc~ao...

1 Elementos da Teoria de Decisao

1 Seja X1, . . . , Xn a.a.N(, 2), S2 = 1

n1ni=1(Xi Xn)2,

i) Demonstre que X e S2 sao independentes.

ii) Mostre que X N(, 2n

); (n1)2

S2 2n1.iii) Considere a famlia de decisoesA := {b(x) : b(x) = bS2, b IR+}

para estimar 2. Determine a regra b A que minimiza o riscoquadratico.

iv) Determine o risco quadratico das regras de decisao 1 A en1

n A e compare graficamente as funcoes de risco das decisoes

b , 1, n1n, como funcoes de 2.

2 Seja X1, . . . , Xn a.a. de media e variancia 2. Mostre que a funcao

de risco da funcao de perda l

l(2, a) :=a

2 1 ln a

2,

considerada na famlia de decisoes A := {b(x) : b(x) = bS2, b IR+}e minimizada em b = 1.

3 Seja uma v.a. contnua de densidade f() e f.d.a. F (). Se e umaregra de decisao adotada para estimar , determine a decisao otima que minimiza a perda media

E(l(,))

onde l apresenta a seguinte forma, para a e b constantes positivas,

l(, ) :=

{a( ) se b( ) se < .

4 Seja uma v.a. contnua de densidade f() e f.d.a. F (). Se e umaregra de decisao adotada para estimar , determine a decisao otima que minimiza a perda media

E(l(,))

onde l e uma perda 0-1 e apresenta a seguinte forma, para b constantepositiva,

l(, ) :=

{0 se | | b1 se | | > b .

1

5 Seja uma v.a. e seja l(, ) uma funcao perda, construa a funcaoperda l(, ) := al(, ) + g() e demonstre que l e l apresentam amesma decisao otima. Onde a e uma constante positiva e g() umaaplicacao limitada.

6 Assuma que e uma v.a.. Se seu interesse for estimar uma posicaocentral para usando uma funcao de perda l demonstre que

i) se l(, ) := ()2

, entao a decisao otima e {E(1)}1

ii) se l(, ) := ()2

, entao a decisao otima e {E(2)}1/2

7 Seja (, ) um vetor aleatorio de densidade conjunta f(, ). Usandocomo funcao perda media a Medida de Kullback Liebler, decisoes dotipo (, ) = 1()2() e assumindo a independencia entre e ,demonstre que a decisao que minimiza a medida de Kullback Liebler eaquela definida por 1() = f() (densidade marginal de ) e 2() =f() (marginal de ).

8 Resolva os exerccios da secao 1.3, pag. 75 do Bickel.

9 Desenvolva os detalhes do exemplo 1.4.1 do texto do Bickel (pag. 35).Calcule neste caso para cada estado z (capacidade de funcionamento)o melhor preditor de Y (falhas no funcionamento). Posteriormente,determine o risco de predicao.

1.1 Otimalidade (veja o livro do Bickel) (ainda faltamexerccios)

1 Secao 3.2-pag 161: Exerccios pag 197: 1; 2; 3;

2 Resolva o exerccio 4 pag 197(sec 3.2)

2.1 Compare com a solucao do exerccio 4 pag 139(sec 2.1)

2.2 Compare com a solucao do exerccio 16 da pag. 144 (sec. 2.2))

2.3 Resolva o exerccio 4 (pag. 197)

3 Secao 3.3-pag 170: Exerccios pag 199: 3; 4; 5; 7; 12.

4 Secao 3.4-pag 179: Exerccios pag 203: 1; 10; 12; 18; 20; 22.

2

2 Modelos Bayesianos, princpios e conceitos

basicos

1 Considere as observacoes x1 e x2 condicionalmente independentes dado(1, 2) com distribuicoes N(i, 1), i = 1, 2; respectivamente. Supo-nha que a distribuicao a priori para (1, 2) e impropria Uniforme(i.e.f(1, 2) 1) sempre que 1 > 2. Mostre que

f(1|x1, x2) (1 x1)(1 x2),

onde () e () representam a f.d.p. e a f.d.a. respectivamente, dadistribuicao normal padrao.

2 Seja x o numero de sucessos em n realizacoes independentes com pro-babilidade de sucesso em cada realizacao. A distribuicao a priori(impropria) f() 1(1 )1 e assumida. Demonstre que isto cor-responde a considerar uma distribuicao a priori uniforme para ln(

1 ).

3 Determine a distribuicao a posteriori para , assumindo que x e N(, 1)dado e que a priori para e uma exponencial dupla: f() exp(||)/2.

4 Se x possui distribuicao de Poisson com valor de media desconhecidoe a densidade a priori para for uma Gama de parametros conhecidosa e b. Demonstre que a distribuicao a posteriori de resulta uma Gamade parametros conhecidos a+ 1 e b+ x,

f(x/) =xe

x!, x = 0, 1,

f() =ab

(b)b1ea, > 0

a e b constantes positivas.

5 Se x1, , xn for uma amostra aleatoria proveniente da Poisson commedia desconhecido e for uma variavel aleatoria com distribuicao apriori Gama de parametros conhecidos a e b. Demonstre que a posterioride corresponde a uma Gama de parametros n + a e

ni=1 xi + b.

Demonstre ainda que E(/x) e media ponderada entre x e o valoresperado de a priori. Onde x = (x1, , xn).

3

6 Seja de funcao de distribuicao F com densidade f dada por

f() =mm/2nn/2

B(m/2, n/2)m/21(n+m)(n+m)/2

demonstre que f possui uma unica moda em 1 =n(m2)m(n+2)

e que os pontos

de inflexao da distribuicao estao a uma distancia n{(m2)(n+m)}1/2

m(n+2)da

moda (para direita e esquerda).

7 Considere um dado x desde a Exp() e outro dado y desde Poisson(),i.e.

f(x/) = ex, x > 0, f(y/) =ye

y!, y = 0, 1, .

Sabendo que e desconhecido portanto possui uma priori f(), ache osvalores de x e y para os quais se verifica o Principio da Verossimilhanca.Interprete.

8 Secao 1.2-pag 12 do Bickel: exerccios da pag 71 do Bickel: 1; 2; 3; 4

3 Decisao (Secao 1.3-pag 16 do Bickel)

Exerccios da pag 75 do Bickel: 1; 2 (excluir item c) por enquanto ); 3; 5; 9

4 Metodos de Estimacao

Secao 2.1.1-pag 99 do Bickel: Exerccios pag 138 - Bickel: 2; 3; 4; 5 (a),b),c));9; 11; 13;Secao 2.2-pag 107 do Bickel: Exerccios pag 142 - Bickel: 5; 9; 10; 11; 15; 16;27; 37; 38Secao 2.3-pag 121 do Bickel: Exerccio 27 (pag 91)e Exerccios pag 152 -Bickel: 2; 8; 12.

5 Suficiencia e Principios da Inferencia

1 Sejam T1 e T2 duas estatsticas.

4

1.1 Se T1 = g(T2) e T1 e suficiente para , entao T2 e suficiente para.

1.2 Se T1 = g(T2), g aplicacao bijetora, entao T1 e suficiente para se, e somente se T2 e suficiente para .

2 Usando a nocao de equivalencia introduzida no livro do Lehmann e Ca-sella (TPE), pag 36, mostre que as estatsticas apresentadas no exemplo6.9 da pag. 36 sao equivalentes.

3 Resolva os problemas 6.5 e 6.9 (da pag. 69-70 Lehmann e Casella TPE),citados citados nas paginas 36 e 37 desse texto.

4 Secao 1.5-pag 41 do Bickel: Exerccios da pag 84 do Bickel: 1; 2; 3; 4;5; 7

5 Demonstre por definicao que a estatstica T =ni=1Xi e suficiente

minimal para , onde Xi Ber(), X1, Xn a.a.

6 Sejam X1, Xn i.i.d. U(,+1), IR.

6.1 Mostre que as estatsticas T1 := (X(1), X(n)) e T2 := (X(n) X(1),

X(n)+X(1)2

) sao suficientes minimais para .

6.2 Mostre que R = X(n) X(1) e ancilar para .

6 Formas Exponenciais(Secao 1.6-pag 49 do

Bickel)

Exerccios da pag 87 do Bickel: 3; 4; 5; 11; 21; 23

1. Definicao: Supondo que x e uma observacao desde f(x/). A famliaF de prioris f() e dita fechada sobre amostras desde f(x/) se paratoda priori f() F , f(/x) F .

1.1. Demonstre que se x for Binomial ou Binomial Negativa, i.e.

f(x/) x(1 )nx

Entao a famlia de distribuicoes Beta (F) e fechada sobre amostrasdesde f(x/).

5

1.2. Demonstre que se x for uniformemente distribuida dado , ou seja,f(x/) = 1, 0 < x < , > 0

F := {g(; a, r) : 0 a, 0 < r} , g(; a, r) := rarr1I(a,)(),

entao F e fechada sobre amostras desde f(x/), logo a posteriorif(/x) assume a forma

f(/x) = g(; a, r + 1), a = max {a, x} .

2. Suponha que f(x/) pertence a famlia exponencial kparametrica,com densidade

f(x/) = exp

kj=1

Aj()Bj(x) + C(x) +D()

.Demonstre que a famlia F cujos membros tem a seguinte forma

f(; a1, a2, , ak, d) = exp

kj=1

ajAj() + dD() + c(a1, a2, , ak, d)

onde a constante de normalizacao resulta

c(a1, a2, , ak, d) = ln

exp

kj=1

ajAj() + dD()

d

e fechada sobre amostras desde f(x/). Logo se a priori de tiver aforma f(; a1, a2, , ak, d) entao a posteriori de , f(/x) tera a formaf(; a1 +B1(x), a2 +B2(x), , ak +Bk(x), d+ 1). Neste caso a famliaF e dita Conjugada Natural de f(x/).

3. Determine a famlia Conjugada Natural para f(x/) quando f(x/)corresponde a uma Ber(), Bin(n, ), Exp(), N(, 2); neste ultimocaso considere = (, 2).

4. Determine a familia conjugada natural associada com as seguintes ve-rossimilhancas:

f(x|) dada por uma distribuicao N(, 2), 2 conhecido; f(x|) dada por uma distribuicao Poisson();

6

f(x|) dada por uma distribuicao Gama(, ); f(x|) dada por uma distribuicao NegBin(m, ); f(x|) dada por uma distribuicao Multinom(1, , k); f(x|) dada por uma distribuicao N(, 1/).

5. Assuma f(x|, ) = x1ex/() onde > 0, > 0. Demonstreque na familia conjugada natural associada a (, ) a densidade mar-ginal de apresenta a forma f() c(1 + d)/(())d, onde c e drepresentam valores conhecidos.

6. A distribuicao a posteriori derivada desde uma priori impropria, poderesultar numa posteriori impropria:Se n e p sao as quantidades aleatorias de interesse e x representa onumero de sucessos em n ensaios independentes (com probabilidadede sucesso p). Assumindo ainda, que a priori (n, p) = (n)(p) eadicionalmente, que (p) e dada como sendo uma U(0, 1). Por outrolado, considerando (n) 1, n IR (ou seja uma priori impropria).Demonstre que a posteriori para n e impropria.

6.1 Estimacao e Modelo Normal

Dica: Sugestao de referencia: Christian P. Robert (1994). The BayesianChoice: A Decision - Theoretic Motivation. Springer-Verlag. New York.

1. Veri