Valeurs propres et d´ecomposition - INRS...
20
Click here to load reader
Transcript of Valeurs propres et d´ecomposition - INRS...
Valeurs propres et decomposition
Dans ce cours, on s’etend sur la caracterisationstatistique d’un processus stochastique stationnaire ausens large a temps discret.
Un aspect important d’une matrice hermitienne c’estqu’elle a une decomposition tres utile en valeurs propreset vecteurs propres.
INRS-EMT J. Benesty
Plan
• Formulation du probleme en valeurs propres
• Proprietes des valeurs et vecteurs propres
• Modelisation a rang reduit
• Filtres propres
INRS-EMT J. Benesty 1
Formulation du probleme en valeurspropres
Soit un processus stochastique stationnaire a tempsdiscret {x(n)}. La matrice d’autocorrelation de cesignal est:
R = E{x(n)xH(n)
}. (1)
On desire trouver un vecteur non-nul q qui satisfait:
Rq = λq (2)
pour une constante λ. Pour une matrice R de tailleL × L, il existe L de ces vecteurs. En effet:
(R − λI)q = 0L×1, (3)
ce qui veut dire que la matrice (R − λI) est singuliere.L’equation (3) a une solution non-nulle pour le vecteurq si et seulement si:
det (R − λI) = 0. (4)
INRS-EMT J. Benesty 2
Ce determinant est un polynome en λ de degre L.Donc (4) a L racines et (3) a L solutions pour q.L’equation (4) est appelee l’equation caracteristiquede la matrice R.
Soient λ0, λ1, · · · , λL−1 les L racines de l’equationcaracteristique; ces solutions sont appelees les valeurspropres de la matrice R.
Soit λl la lth valeur propre de la matrice R; soit ql unvecteur non-nul qui satisfait:
Rql = λlql, (5)
le vecteur ql est appele le vecteur propre associe a lavaleur propre λl.
INRS-EMT J. Benesty 3
Proprietes des valeurs et vecteurs propres
Propriete 1. Si λ0, λ1, · · · , λL−1 sont les valeurspropres de la matrice R, alors les valeurs propres dela matrice Rk sont λk
0, λk1, · · · , λk
L−1 pour tout entierk > 0.
En effet, en multipliant les deux cotes de l’equation(2), k − 1 fois, par la matrice R, on obtient:
Rkq = λkq. (6)
Propriete 2. Soient q0,q1, · · · ,qL−1 les vecteurspropres correspondants respectivement aux valeurspropres distinctes λ0, λ1, · · · , λL−1 de la matriceR, alors ces vecteurs propres sont lineairementindependants.
INRS-EMT J. Benesty 4
Propriete 3. Soient λ0, λ1, · · · , λL−1 les valeurspropres de la matrice R, alors toutes ces valeurs propressont reelles et non-negatives.
En effet:
Rql = λlql, l = 0, 1, · · · , L − 1, (7)
en multipliant l’equation precedente par qHl , on a:
qHl Rql = λlq
Hl ql, l = 0, 1, · · · , L − 1, (8)
soit
λl =qH
l Rql
qHl ql
, l = 0, 1, · · · , L − 1, (9)
et qHl Rql ≥ 0, qH
l ql > 0.
INRS-EMT J. Benesty 5
Propriete 4. Soient q0,q1, · · · ,qL−1 les vecteurspropres correspondants respectivement aux valeurspropres distinctes λ0, λ1, · · · , λL−1 de la matrice R,alors ces vecteurs propres sont orthogonaux.Deux vecteurs sont orthogonaux si:
qHi qj = 0, i �= j. (10)
On a:
Rqi = λiqi, (11)
Rqj = λjqj, (12)
en multipliant la premiere equation par qHj on obtient:
qHj Rqi = λiq
Hj qi, (13)
en utilisant la seconde equation, on a:
λjqHj qi = λiq
Hj qi, (14)
ou encore
(λj − λi)qHj qi = 0, (15)
INRS-EMT J. Benesty 6
comme on a suppose λj �= λi, alors qHj qi = 0.
Propriete 5. Soient q0,q1, · · · ,qL−1 les vecteurspropres correspondants respectivement aux valeurspropres distinctes λ0, λ1, · · · , λL−1 de la matrice R.Soit la matrice:
Q =[q0 q1 · · · qL−1
], (16)
ou
qHi qj =
{1, i = j0, i �= j
. (17)
Soit la matrice diagonale:
Λ = diag{λ0, λ1, · · · , λL−1}. (18)
Alors la matrice R peut etre diagonalisee comme suit:
QHRQ = Λ. (19)
La matrice Q est une matrice unitaire (cadQ−1 = QH).
INRS-EMT J. Benesty 7
Propriete 6. Soient λ0, λ1, · · · , λL−1 les valeurspropres de la matrice R, alors tr[R] = tr[Λ].
En effet:
tr[Λ] = tr[QHRQ] = tr[RQQH] = tr[R] =L−1∑l=0
λl.
Propriete 7. Le conditionnement de la matrice R estdefini par:
χ(R) =λmax
λmin. (20)
La matrice d’autocorrelation R est mal conditionnee siχ(R) est large.
C’est un parametre important pour la precisiondes calculs matriciels, notamment dans l’operationd’inversion.
Propriete 8. Les valeurs propres de lamatrice d’autocorrelation d’un processus stochastiquestationnaire sont bornees par les valeurs minimale etmaximale de la densite spectrale de puissance de cememe processus.
INRS-EMT J. Benesty 8
Nous savons que:
λl =qH
l Rql
qHl ql
, l = 0, 1, · · · , L − 1. (21)
Le numerateur s’ecrit:
qHl Rql =
L−1∑k=0
L−1∑j=0
q∗l,kr(j − k)ql,j. (22)
En utilisant la relation d’ Einstein-Wiener-Khintchine:
r(j − k) =12π
∫ π
−π
S(ω) exp[jω(j − k)]dω (23)
dans (22), ou S(ω) est la densite spectrale du processusx(n), on obtient:
qHl Rql =
12π
∫ π
−π
|Q′l(e
jω)|2S(ω)dω, (24)
ou
Q′l(e
jω) =L−1∑k=0
q∗l,ke−jωk (25)
INRS-EMT J. Benesty 9
est la transformee de Fourier de la sequenceq∗l,0, q
∗l,1, · · · , q∗l,L−1. De la meme maniere, on a:
qHl ql =
12π
∫ π
−π
|Q′l(e
jω)|2dω. (26)
Finalement, on obtient:
λl =
∫ π
−π|Q′
l(ejω)|2S(ω)dω∫ π
−π|Q′
l(ejω)|2dω. (27)
Si Smin et Smax denotent les valeurs minimale etmaximale du spectre S(ω), alors:
∫ π
−π
|Q′l(e
jω)|2S(ω)dω ≥ Smin
∫ π
−π
|Q′l(e
jω)|2dω,
∫ π
−π
|Q′l(e
jω)|2S(ω)dω ≤ Smax
∫ π
−π
|Q′l(e
jω)|2dω,
d’ou
Smin ≤ λl ≤ Smax, l = 0, 1, · · · , L − 1. (28)
On en deduit aussi que:
χ(R) =λmax
λmin≤ Smax
Smin. (29)
INRS-EMT J. Benesty 10
Propriete 9. Le quotient de Rayleigh de la matrice Rest defini par:
R(q) =qHRq
qHq. (30)
On a:
λmax = maxq
R(q) (31)
et
λmin = minq
R(q). (32)
INRS-EMT J. Benesty 11
Propriete 10. L’expansion de Karhunen-Loeve. Soitun vecteur x(n) de longueur L dont les elementssont pris d’un processus stationnaire au sens largeet de moyenne nulle. La matrice d’autocorrelationest R = E{x(n)xH(n)}. Soient q0,q1, · · · ,qL−1 lesvecteurs propres de cette matrice. Alors le vecteurx(n) peut s’ecrire comme une combinaison lineaire deces vecteurs propres:
x(n) =L−1∑l=0
cl(n)ql. (33)
Les coefficients de ce developpement sont de moyennenulle et decorreles. Ils sont definis comme suit:
cl(n) = qHl x(n), l = 0, 1, · · · , L − 1. (34)
La representation du vecteur aleatoire x(n) par lesequations (33) et (34) est l’expansion de Karhunen-Loeve a temps discret. L’equation (34) est la partie“analyse” de l’expansion tandis que l’equation (33) estla partie “synthese”.
INRS-EMT J. Benesty 12
On a:
E{cl(n)} = 0, l = 0, 1, · · · , L − 1, (35)
E{ci(n)c∗j(n)} ={
λi, i = j0, i �= j
. (36)
Pour une interpretation physique de l’expansion deKarhunen-Loeve, on peut voir les vecteurs propresq0,q1, · · · ,qL−1 comme une base orthonormee d’unespace de dimension L et le vecteur x(n) apour coordonnees c0(n), c1(n), · · · , cL−1(n) dans cettebase.
On peut verifier:
L−1∑l=0
|cl(n)|2 = ‖x(n)‖2, (37)
ou ‖x(n)‖ est la norme Euclidienne de x(n).
INRS-EMT J. Benesty 13
Modelisation a rang reduit
Tres souvent, on desire reduire la dimension desdonnees d’un probleme pose tout en retenantl’information utile.
Nous avons un vecteur x(n) de dimension Lrepresentant une realisation particuliere d’un processusstationnaire. Nous desirons transmettre ce vecteura travers un canal bruite en utilisant seulement pelements ou p < L. Ce probleme peut etre resolu enutilisant l’expansion de Karhunen-Loeve.
Soient λ0, λ1, · · · , λL−1 les valeurs propres de lamatrice R = E{x(n)xH(n)}. On suppose que cesvaleurs propres sont distinctes et sont ordonnees de lamaniere suivante:
λ0 > λ1 > · · · > λL−1. (38)
INRS-EMT J. Benesty 14
La representation suivante (qu’on a deja vu):
x(n) =L−1∑l=0
cl(n)ql (39)
est exacte, dans le sens ou il n’y a pas perted’information.
Supposons maintenant que nous savons que les L − pdernieres valeurs propres λp, · · · , λL−1 sont petites.En tenant compte de cette connaissance, on retiendrales p plus grandes valeurs propres de R, ce qui revienta tronquer l’expansion de Karhunen-Loeve au termel = p − 1. Donc une reconstruction approximative duvecteur x(n) est:
x(n) =p−1∑l=0
cl(n)ql, p < L. (40)
Le vecteur x(n) a un rang egal a p qui est inferieur aL qui est le rang du vecteur orignal x(n).
En utilisant l’equation precedente pour reconstruire levecteur x(n), une erreur est introduite due au fait quele rang de x(n) est inferieur a celui de x(n).
INRS-EMT J. Benesty 15
Le vecteur d’erreur de reconstruction est defini par:
e(n) = x(n) − x(n), (41)
ce qui donne:
e(n) =L−1∑l=p
cl(n)ql. (42)
L’erreur quadratique moyenne est donc:
E{‖e(n)‖2} = E{eH(n)e(n)} (43)
=L−1∑l=p
λl,
ce qui confirme que la reconstruction du vecteur dedonnees a l’aide de x(n) est une bonne idee a condition
que∑L−1
l=p λl soit tres petit par rapport∑p−1
l=0 λl.
INRS-EMT J. Benesty 16
Filtres propres
La maximisation du rapport signal a bruit a la sortied’un filtre RIF conduit a la determination de valeurspropres.
+FILTRE
RIF
SIGNAL
BRUIT
ENTREE SORTIE
y(n)
u(n)
x′(n)x(n)
Figure 1: Filtrage lineaire.
Le signal x(n) est un processus stationnaire demoyenne nulle dont la matrice d’autocorrelation estR = E{x(n)xH(n)}. On suppose que le bruit u(n) estblanc de moyenne nulle, de variance σ2
u, et decorreleavec le signal x(n).
On considere un filtre RIF h dont les coefficients sonthl, l = 0, 1, · · · , L − 1.
INRS-EMT J. Benesty 17
La puissance du signal a la sortie du filtre RIF est:
E{|y(n)|2} = hHRh + σ2uh
Hh. (44)
Le rapport signal a bruit est donc:
SB =hHRh
σ2uh
Hh. (45)
Le probleme d’optimisation peut etre formule commesuit: determiner le vecteur h (filtre RIF) qui vamaximiser le rapport signal a bruit SB avec lacontrainte hHh = 1.
L’equation (45) montre, qu’a l’exception du facteur1/σ2
u, le rapport signal a bruit SB est egal au quotientde Rayleigh pour le filtre RIF:
R(h) =hHRh
hHh. (46)
On voit donc que le probleme de filtrage optimalpresente ici peut etre vu comme un probleme en valeurspropres.
INRS-EMT J. Benesty 18
Du coup, on a:
• La valeur maximale du rapport signal a bruit estdonnee par:
(SB)max =λmax
σ2u
, (47)
ou λmax est la plus grande valeur propre de lamatrice d’autocorrelation R.
• Le filtre optimal pour avoir le plus grand rapportsignal a bruit (SB)max est:
hopt = qmax, (48)
ou qmax est le vecteur propre correspondant a laplus grande valeur propre λmax de la matrice R.
Un tel filtre RIF est appele filtre propre.
INRS-EMT J. Benesty 19
