Modelos Lineares Estocsticos: Representao de inovaes e modelos preditores

Profa. Vilma A. Oliveira

USP So Carlos
Agosto de 2007

Contedo da Aula

2. Modelos Estocsticos ........................................................................................................................................ 2

2.1 Modelos entrada-sada ................................................................................................................................. 3
Equaes a diferena estocsticas................................................................................................................... 4
Modelos MA, AR, ARMA e ARMAX ........................................................................................................... 5
2.2 Modelos Espao de Estado ........................................................................................................................... 8
3. Representao de Inovaes............................................................................................................................. 9
4. Modelos Preditivos............................................................................................................................................ 9
4.1

Famlia de Mtodos de Erro de Predio............................................................................................... 9

4.2
Mtodos dos Mnimos Quadrados .......................................................................................................... 2
Melhor preditor no sentido dos mnimos quadrados....................................................................................... 2
4.2 Mtodos recursivos ....................................................................................................................................... 4
Incluindo ponderao na funo custo: Fator de Esquecimento ..................................................................... 5
Mtodo de Pseudo Regresso Linear (PRL) ................................................................................................... 7

1. Introduo
Denomina-se modelo a descrio de um sistema o qual permite predizer seu comportamento quando submetido a
certas classes de entradas. Modelos podem ser divididos em internos e externos. Modelos internos descrevem a
estrutura completa de um sistema, podendo incluir partes no observveis e/ou no controlveis, enquanto que os
modelos externos descrevem somente o comportamento entrada/sada de um sistema. Os modelos podem ser obtidos
de duas formas: na primeira, pela anlise dos componentes do sistema utilizando leis fsicas, na segunda, pela
abordagem de uma "caixa preta" onde o contedo da caixa modelado a partir de dados experimentais. Na primeira,
as leis envolvidas so aquelas da mecnica Newtoniana, eletromagnetismo, termodinmica, etc. Os modelos obtidos
desta forma so geralmente internos, onde considera-se os estados de vrios componentes do sistema,
independentemente destes estados serem observveis. Um modelo externo pode ser freqentemente derivado a partir
de um modelo interno dado. Por outro lado, um modelo obtido pela abordagem de caixa preta necessariamente
externo desde que nenhuma outra informao exceto o comportamento entrada/sada disponvel.
Referncias utilizadas:
Lewis, F. L. (1992). Applied Optimal Control and Estimation, Prentice-Hall.
Davis, M. H. A. and Vinter, R. B. (1985). Stochastic modelling and control, Chapman and Hall, London.
Soderstrom, T and Stoica P. (1989). System Identification, Prentice Hall, UK.
Aguirre, L. A. (2004). Introduo Identificao de Sistemas: Tcnicas Lineares e No-Lineares Aplicadas a
Sistemas Reais, Editora UFMG, Belo Horizonte.
1

2. Modelos Estocsticos
Definio 1: Um sistema determinstico quando suas entradas junto com certas condies iniciais e o tempo t
especificam unicamente a sada. De outra maneira estocstico.
Explica-se a resposta no nica de um sistema supondo que este apresente uma entrada aleatria; rudo, alm das
possveis entradas de controle. Assim, denotando entrada, sada e rudo por u, y, w respectivamente, ilustrado abaixo
uma representao entrada/sada de um sistema.

y
Sistema

Esquema de um modelo entrada/sada.

O rudo presente no sistema pode ser gerado internamente por rudo trmico em componentes eletrnicos ou
introduzido por uma fonte externa (em ambos os casos considera-se que o rudo no pode ser medido diretamente).
Se a relao bsica entrada/sada for linear e o rudo aditivo, ento o rudo pode ser considerado sempre como uma
adio sada, resultando na estrutura de modelo simplificada apresentada na figura abaixo.
Uma descrio completa de um modelo de sistema nesta forma deve especificar:
i) O comportamento entrada/sada do sistema, S; e
ii) As caractersticas estatsticas do rudo w.

w
u
Sistem a

Esquema de um modelo entrada/sada com rudo aditivo.

Para descrever completamente o modelo da acima deve-se especificar o rudo w. A especificao mais precisa daria
as distribuies de dimenso finita do processo {wk}. Geralmente, porm, isto no possvel: estimar as distribuies
de variveis aleatrias no uma tarefa fcil, e normalmente somente as propriedades relacionadas com mdias e
covarincias so de interesse. Pode-se supor que {wk} tenha mdia zero, o que conduz especificao da funo
covarincia, ou equivalentemente, se o processo {wk} for estacionrio, funo de densidade espectral.
A estratgia geral comear com um processo simples (rudo branco) e logo obter outros processos filtrando-o; isto ,
passando-o atravs de um sistema linear. Os coeficientes deste sistema linear especificam, ento, a covarincia do
rudo wk. Esta abordagem leva ao esquema da figura abaixo. O modelo completo reduzido a dois sistemas lineares,
cujos coeficientes especificam a relao entrada/sada e a densidade espectral do rudo respectivamente.

R u d o
b ra n c o

S istem a
Gr

w
y

u
S istem a
Gu

Esquema de um modelo entrada/sada introduzindo-se um processo de filtragem

do rudo branco.
Definies bsicas de probabilidade
Seja o processo estocstico
Mdia

x(t ) :

(t ) := E{x(t )}

Autocorrelao: Rxx (t1 , t 2 ) := E{x (t1 ) x (t 2 )} Observe que Rxx (t , t ) := E{ x (t ) } 0

2

Autocovarincia: C xx (t1 , t 2 ) := Rxx (t1 , t 2 )

(t )

Varincia var( x ) = C xx (t , t ) := E{ x (t ) } E{x (t )}

2

Densidade espectral:
O espectro de potncia ou a densidade de espectral denotada
Fourier da sua autocorrelao:

S (w) de um processo x(t ) a transformada de

( w) = R ( )e jw d .

Processos discretos no tempo

Seja o processo estocstico
Mdia

x[n] :

[n] = E{x[n]}

Autocorrelao: Rxx [n1 , n2 ] := E{x[ n1 ] x [n2 ]}

*

Autocovarincia ou simplesmente covarincia: Cov ( x ) = C xx [ n1 , n2 ] := R xx [ n1 , n2 ]

Varincia

2 = var[ x] = C xx [n, n] := E{ x[n] } E{x[n]}

2

[ n]

x[n] um rudo branco x[n1 ] e x[ n2 ] no so correlacionados para todo n1 n2 . Assim,

Cov ( x ) = C xx [n, n]
1 n = 0
.
= E{x[n1 ]x * [n2 ]} [n1 n2 ] com [n] =
0
n

= E{x[n]2 }

Se

Densidade espectral:

( w) =

R[m]e

jmw

m =

Matriz de covarincia:

Seja X = X 1

K X n ] um vetor de variveis aleatrias. A matriz covarincia denotada a matriz

T

cujo elemento (i, j) a covarincia:

ij = E[( xi i )( x j j ) com i = E[ xi ] .
Assim,

E[( x1 1 )( x1 1 ) E[( x1 1 )( x2 2 ) K E[( x1 1 )( xn n )

E[( x )( x ) E[( x )( x ) K E[( x )( x )
2
2
1
1
2
2
2
2
2
2
n
n
=

M
M
M
M

E[( xn n )( x1 1 ) E[( xn n )( x2 2 ) K E[( xn n )( xn n )

Pode-se escrever:

Cov( X ) = = E[( X E[ X ])( X E[ X ])T ] .

2.1 Modelos entrada-sada

As representaes so dadas para o caso discreto.
Equaes a diferena estocsticas
Para descrever modelos utiliza-se uma equao a diferena. Isto leva a uma representao com o operador de
deslocamento. Para descrever estes modelos, introduz-se os operadores de avano q e atraso q-1. Se yk denota o valor
da seqncia {yk} no tempo k, onde k {0,1,...}, ento qyk denota o valor da seqncia no tempo (k+1) e q-1yk denota
o valor da seqncia no tempo (k-1). Isto

qy k = y k+1
-1
q y k = y k -1
-i
q y k = y k -i

para k > 0

para k > 1; q-1 y (0 ) = 0

para k > i; q-i y k = 0 para 0 k i

(1)

Uma equao a diferena estocstica onde a seqncia de sada {yk} relacionada seqncia de entrada {ek} dada
por

A0 y k +A1 y k-1+...+ A na y k-na=C 0 ek +C1ek-1+...+C B nc ek-nc

(2)
4

onde A0,,..., Ana so matrizes r x r e C0,,..., Cnc so matrizes r x m. Considera-se que A0 no singular e igual matriz
identidade, {ek} uma seqncia de rudo branco com varincia 2.

Para um sistema de uma entrada e uma sada (SISO) tem-se

yk + a1 yk -1 + ...+ ana yk -na = c0 ek + c1 ek -1 + ...+ cnc ek -nc

(3)

A equao a diferena acima pode ser expressa em termos do operador de deslocamento como

A(q-1) y k = B (q-1)ek

(4)

onde A(q-1) e C(q-1) so polinmios em q-1

A( q-1) = 1 + a1 q-1 + a 2 q-2 + ...+ a na q-na

C (q-1) = c0 + c1 q-1 + c2 q-2 + ...+ cnc q-nc

A equao a diferena acima pode ser expressa em termos da funo de transferncia

T (q 1 ) :=

C ( q 1 )
A(q 1 )

y k = T ( q 1 ) e k

(5)

Expandindo-se T ( q ) em torno da origem pode-se escrever:

y k = Ti ek i

(6)

i =0

Pode-se mostrar que a funo covarincia R (l) e funo densidade espectral (w) de yk so dadas por

T j +1WT jT
j
=0
R ( l) =

T jWT jT1
j =0

l0

(7)
l<0

( w) = [ A 1 (e jw )C (e jw )]W [ A 1 (e jw )C (e jw )]*

(8)

onde W = Cov(e).
Modelos MA, AR, ARMA e ARMAX
Considere novamente a equao a diferena:

A(q-1) y k = C (q-1)ek onde yk a resposta do sistema; {ek} uma seqncia de rudo branco, k um inteiro no negativo que
denota o instante de amostragem, k=0,1,2,...,
Um caso especial ocorre quando a1,...,ana tomam o valor zero. O modelo fica, ento, reduzido forma

yk = c0 ek + c1 ek -1 + ... + cnc ek -nc

(9)

Modelos da forma acima so chamados modelos de mdia mvel (MA: Moving Average), desde que a varivel de
sada expressa como uma mdia ponderada de valores presentes e passados do rudo branco.
A situao quando c0,...,cnc tomam o valor zero outro importante caso especial. Neste caso tem-se

y k + a1 yk -1 + ...+ ana yk -na = ~

ek

(10)

onde { e~k } o processo {c0ek}. Modelos deste tipo so chamados autoregressivos (AR: AutoRegressive), desde que
a equao para o valor atual do processo {yk} compreende uma combinao linear dos valores passados do mesmo
processo.
O modelo que contm termos de mdia mvel e autoregressivos, denominado modelo autoregressivo de mdia
mvel (ARMA: AutoRegressive Moving Average).
Uma generalizao natural do modelo ARMA para incluir entradas determinsticas ao sistema obtida
acrescentando-se uma mdia mvel dessas entradas. Isto leva ao modelo denominado autoregressivo com mdia
mvel e entrada auxiliar (ARMAX: AutoRegressive Moving Average with auXiliary input):

y k + a1 y k -1 + ... + a na y k -na = b0 u k - d + b1u k -d -1 + ... + bnb u k -d - nb +ek + c1ek -1 + ... + c nc ek -nc onde d o
tempo de atraso. Os parmetros do modelo, ai, bi e ci podem ser desconhecidos. Introduzindo agora o operador de
deslocamento de atraso q-1, obtemos o modelo ARMAX:
(11)
A(q -1) y k = B(q -1)u k-d + C (q -1)e k
Embora o modelo seja invariante no tempo, em controle adaptativo assume-se que os coeficientes do modelo sejam
variantes no tempo e estimados em tempo real. Cinco parmetros do modelo da equao (2.13) devem ser
especificados a priori: as ordens na, nb e nc do modelo, o tempo de atraso d e o perodo de amostragem k. Os
modelos lineares em tempo discreto so preferidos para o controle adaptativo porque levam a algoritmos fceis de
implementar em um microprocessador.
2.2 Estacionaridade dos modelos estocsticos
Modelos AR, MA, ARMA, ARMAX
Estacionariedade: Um processo estocstico estacionrio se este se desenvolve aleatoriamente no tempo de
modo que a origem no importante.

Definio: Diz-se que o processo

xk estritamente estacionrio, se suas funes de distribuio so

invariantes por translao no tempo, isto

F ( x1 ,..., xn , t1+T ,..., tn+T ) = F ( x1 ,..., xn , t1 ,..., tn )

para quaisquer t1 ,..., tn , T .
Definio: Diz-se que um processo estacionrio (no sentido amplo) se e s se

i) E[ x(n)] = m(n) = m
ii) Var ( x) = V (n) = V
iii) Cov( x) = C xx (n, n + k ) depende s de k.
Teorema: Todo processo estritamente estacionrio estacionrio no sentido amplo, mas a recproca nem
sempre verdadeira.

Observao: Se o processo for gaussiano, estacionariedade (no sentido amplo) implica estacionariedade estrita.

Teorema da decomposio Wold: Todo processo estacionrio

{xk } admite a representao:

xk = s k + y k
onde

sk , yk so no correlacionados, sk determinstico e yk um processo linear discreto:

6

yk = ek + b1ek 1 + b2 ek 2 + K
Tem-se que

y k = ek + b1ek 1 + b2 ek 2 + K
= ek + b1q 1ek + b2 q 2 ek + K
Assim,

yk = 1 + j =1 b j q j ek em que k o instante de amostragem, 1 + j =1 b j q j = B(q ); ek um

rudo branco com

E[ek ] = 0 .

Teorema : O processo

yk = B(q )ek estacionrio se as razes do polinmio B (q ) = 0 estiverem fora do

crculo de raio unitrio, ou seja, B (q ) < para (q < 1) .

Demonstrao:

Analisa-se

B(q ) B(q ) j =1 b j q

B(q ) = j =1 b j q j

srie

< se q

uma

vez

que

b0 = 1 .

Assim,

< 1.

A seqncia b1 , b2 , K formada pelos coeficientes, pode teoricamente ser finita ou infinita. Se a seqncia
infinita e convergente, ou seja,

b j q j convergir (q < 1) , o sistema dito ser estvel e o processo yk dito ser

estacionrio. O principal resultado de estabilidade de sistemas discretos representado na forma de funo de

transferncia estabelecido como segue.
Teorema: Um sistema linear e invariante no tempo BIBO estvel se e somente se sua seqncia de
ponderao satisfizer a relao

j =1 B(q ) < .
Propriedades estatsticas do processo

{ yk }

yt = 1 + j =0 b j q j ek

Mdia

= E[ y k ] = 0

Observao: se tiver uma constante

yt = + (1 + j =0 b j q j )ek tem-se que

Mdia

= E[ yk ] =

[ ]]2 = E [yk2 ] E[ yk ]2 = E [yk2 ] = e2 (1 + j =0 b 2j )

Varincia = V ( y k ) = E y k E y k

Covarincia ( y k ) : cov y k y k + j = e

j =0

bk bk + j

Para sries finitas tm-se os modelos finitos conhecidos como modelos Box- Jenkins (Box and Jenkins; Times
series analysis: forecasting and control. Prentice Hall), que visto adiante.
AR (na): autoregressivo de ordem na

y k = a1 y k 1 + a2 y k 2 + K + ana y k na + ek
= a1 y kt q1 + a2 y k q2 + K + ana y k qna + ek
7

Assim,

(1 a1q1 + a2 q2 + K + ana qna ) yk = ek

com

(1 a1q1 + a2 q2 + K + ana qna ) = A(q ) .

Estacionariedade do modelo AR(na)

Sejam

rn n = 1, K , na as razes do polinmio A(q ) = 0 . O modelo AR(na) dado por

A(q ) yk = ek

estacionrio se e somente se

rn > 1 , ou seja, as razes de A(q ) = 0 esto fora do crculo de raio unitrio.

Observao: A estacionariedade do modelo ARX(na) dada por

A(q ) y k = C (q )u k d + ek ,
em que

uk d uma entrada auxiliar com k perodo de amostragem e d o tempo de atraso, pode ser verificada de

forma anloga ao modelo AR(na).

MA (nb): mdia mvel de ordem nb

yk = b1ek 1 + b2 ek 2 + K + bnb ek nb + ek
= b1ek q1 + b2 ek q2 + K + bnb ek qnb + ek
Assim tem-se

yk = B(q)ek em que B(q ) = (1 + b1q1 + b2 q2 + K + bnb qnb ) .

Estacionariedade do modelo MA(nb)

Como o processo MA(nb ) finito, ento B (q ) < e portanto MA(nb) sempre estacionrio.
Exemplo: Seja B (q ) = 1 b1 q = 0 . A raiz deste polinmio
Se

r = 1 / b1 .

r < 1 tem-se que 1 / b1 1 . Assim, b1 1 . Para q 1 , tem-se que B (q ) finito para todo b1 1 . Se

q > 1, B(q ) finito para todo b1 < 1 .

ARMA (na, nb): autoregressivo de mdia mvel ordem (na,nb)

A(q ) yk = C (q )ek
Estacionariedade do modelo ARMA(na, nb)
O modelo ARMA (na, nb) estacionrio se a parte AR(na) estacionria.
Observao: A estacionariedade do modelo ARMAX (na,nc) dado por

A(q ) yk = C (q )ek + B(q )u k d

pode ser verificada de forma anloga ao modelo ARMA(na,nc).

2.2 Modelos Espao de Estado

x k +1 = Ax k + Bu k + Ce k
y k = Hx k + Ge k

(12)

u k = 0 . Suponha que {ek } um processo rudo branco com

Considere o modelo espao de estado quando

cov{ek } = I . As covarincias de {xk} e {yk} podem ser facilmente obtidas como:

Pk +1 = APk A T + CC T ; P0 dada

(13)

HPk H T + GG T , j = 0
Cov { y k y k j } =
j
T
j 1
T
HA Pk j H + HA CG , j = 1, 2,..., k

(14)

onde

Pk := cov{xk } . Se A for estvel Pk tende a P e P a soluo nica da equao de Lyapunov

P = APA T + CC T

Em adio, se

(15)

P0 = P ento Pk = P para todo k.

3. Representao de Inovaes
Seja {yk} gerado pelo modelo ARMAX

yk + a1 yk 1 + ... + ana y k -na = b1u k -1 + b2u k -d -1 + ... + bnb u k -d -nb +ek + c1ek -1 + ... + cnc ek -nc

(16)

A expectncia condicional de y(k) dada em termos de y0, yk-1, ... dada por

y k k 1 = a1 y k -1 ... ana y k -na + b1 u k -d + b2u k -d 1 + ... + bnb u k -d -nb +c1ek -1 + ... + cnc ek -nc

(17)

Segue que
e k = yk y k k 1 : processo de inovaes associado a {yk}.
Se G for inversvel, o sistema espao de estado

x k +1 = Ax k + Bu k + Ce k
y k = Hx k + Ge k

(18)

dito estar na forma de inovaes.

Conseqncia desta propriedade:
Para uma dada condio inicial x0 o estado pode ser reconstrudo exatamente a partir de entradas e sadas, uma
vez que:
(19)
x k +1 = Ax k + Bu k + CG 1 ( k )( y k Hx k )
Sub-produto da teoria da filtragem. Para todo modelo na forma espao de estado de um sistema corresponde um
modelo de inovaes o qual representa o comportamento entrada-sada do mesmo sistema.

4. Modelos Preditivos
Os modelos preditivos so adequados formulao de procedimentos de estimao paramtrica e anlise de
convergncia.

4.1 Famlia de Mtodos de Erro de Predio

Considere a representao de um preditor do tipo um passo a frente:

yk = f k ( ; y k 1 , u k 1 ) + ek

(20)
9

onde

D o vetor de parmetros a ser determinado com D um conjunto de vetores q-dimensional, y k r ,

u k m so a sada a entrada do modelo de predio no tempo k ; y k 1 e u k 1 denotam

col[ y k 1 , y k 2 ,K, y 0 ] e col[u k 1 , u k 2 ,K, u 0 ] , respectivamente, f k : q kr km r . O

preditor de y k y k 1 , u k 1 dado por
E{ y k } = f k ( ; y k 1 , u k 1 ) : f k ( ; y k 1 , u k 1 ) a esperana condicional de y k dado y k 1 e u k 1

Denotando E{ y k } = y k ( ) :
y k ( ) = f k ( ; y k 1 , u k 1 )

onde

k ( ) = y k y k ( )

(21)

erro de predio, { k ( )} : seqncia de rudo.

4.2 Estimao de Parmetros

A identificao de parmetros tem por objetivo a obteno de um modelo cuja resposta aproxima-se daquela do
sistema considerado em aspectos relevantes da sua utilizao. Envolve anlise de dados de entrada-sada do
sistema. Os modelos tratados aqui so lineares, discretos e estocsticos. Ateno especial ser dada aos mtodos
que admitem uma formulao de predio de erro de modelagem. O problema de anlise de dados a partir de um
experimento de identificao para a escolha de um modelo dentro de uma classe finitamente parametrizada
usualmente denominado de estimao paramtrica. O procedimento de estimao paramtrica pode ser resumido
nos seguintes passos.
a) Seleo de uma classe de modelos de onde escolhe-se um para representar o sistema em estudo;
b) Projeto do experimento: escolha de entradas a serem utilizadas e dos dados correspondentes;
c) Seleo de um modelo com base nos dados experimentais;
d) Validao do modelo: verificar a adequacidade do modelo escolhido atravs da sua utilizao para
realizar alguma tarefa especfica tal como predio ou como parte de um sistema controle.
O problema de estimao paramtrica pode ser formulado como um problema de otimizao em termos do erro de
predio originando o Mtodo do Erro de Predio (MEP) com a melhor estimativa de no instante k sendo dada
por
N

N = Arg min f ( k ( )) .
D

(22)

k =1

4.2 Mtodos dos Mnimos Quadrados

Quando a funo f (.) em uma funo quadrtica tem-se um caso especial do o conhecido Mtodo dos
Mnimos Quadrados (MQ) constitui um caso especial do Mtodo do Erro de Predio (MEP). Na seqncia
consideramos o modelo ARMAX e o mtodo MQ.

Melhor preditor no sentido dos mnimos quadrados

Suponha o modelo ARX

A(q 1 ) y k = B (q 1 )u k d + ek ,k = 1,..., N
com condies iniciais
Seja

(23)

y0 ,..., y na +1 e u 0 ,..., u nb+1

= [a1 ...a na , b1 ,..., bnb ]T .

onde o vetor o vetor de parmetros a ser identificado.

Podemos escrever y = X + e

y0
y
1
onde X =
M

y N 1

L . y na +1 u 0
L y na + 2 u1
L
M
M
L

y N na u N 1

L .u nb+1
L u nb
, y = [ y1 ,..., y N ]T ; e = [e1 ,..., e N ]T
L
M

L u N nb

X o chamado vetor de regresso formado pelas sadas e entradas do sistema.

Considere o problema de minimizar uma funo custo dada pela soma dos quadrados das componentes do erro
associada ao modelo ARX
f ( ) =

1
( y X ) T Q ( y X )
2

(24)

Q = Q T : matriz de ponderao uma matriz no negativa definida.

Observao: A estimativa de * aquela que minimiza f ( )

Expandindo f ( ) , somando e subtraindo o termo

1 T
y QX ( X T QX ) 1 X T Qy , considerando X T QX definida positiva,
2
e, agrupando os termos em

pode-se escrever

1
1
f ( ) = ( ( X T QX ) 1 X T Qy)T X T QX ( ( X T QX ) 1 X T Qy) + [( y T Qy) y T QX ( X T QX ) 1 X T Qy)
2
2
(25)
Assim, usando o fato de que para X T QX , o gradiente

[grad f ]T := f

1
= 2 X T QX ( ( X T QX ) 1 X T Qy) , ou seja,

2
f
= ( X T QX X T Qy ) T

(26)

implicando

= ( X T QX ) 1 X T Qy .

(27)

Proposio:
Seja Q = Q T uma matriz no negativa definida. Suponha um estimador de * existe. um estimador dos
mnimos quadrados se e s se
X T QX = X T Qy
(28)
Verificao
Suficincia. Para qualquer e tem-se

1
1
f ( ) f () = y T QX ( ) + T X T QX T X T QX
2
2
1 T T
X QX obtm-se
Somando e subtraindo
2
1
1
1
1
f ( ) f () = y T QX ( ) + T X T QX T X T QX + T X T QX T X T QX
2
2
2
2
3

1
= ( ) T [ X T Qy + X T QX] + ( ) T X T QX ( )
2
T
A ltima passagem foi possvel uma vez que y QX ( ) um escalar. Suponha satisfaz

X T QX = X T Qy . Uma vez que

X T QX > 0 segue que f ( ) > f () .

> 0 tal que = . Utilizando esta

1 2 T T
T
relao na expresso de f ( ) f () acima tem-se f ( ) f () = + X QX . Para
2
pequeno tem-se f ( ) f () < 0 e portanto f ( ) < f () .
Necessidade. Suponha X QX X Qy = e escolha
T

4.2 Mtodos recursivos

O mtodo dos mnimos quadrados recursivos (MQR) consiste de duas equaes recursivas: uma para a
estimao dos parmetros e a outra para a atualizao de uma matriz auxiliar P.
Formulao do problema
Considere o modelo ARX

A(q 1 ) y k = B (q 1 )u k d + ek , k = 0,1,...
Condies iniciais: y k = 0, u k = 0, k< 0,

(29)

B = [b1.. ...bm ] , d = 1
f N ( ) =

1 N 2
k ( )
N k =1

(30)

onde k ( ) o erro de predio

N = ( X NT X N ) 1 X NT YN

(31)

T
X N = col IT ... NT , Y N = [ y1 L y N ]

k = [ y k 1 y k 2 L y k n u k 1 u k 2 K u k m ]T
Em N + 1 conhece-se y N +1 , uN e daqui N +1 e tem-se

N +1 = ( X NT +1 X N +1 ) 1 X NT +1YN +1

(32)

Podemos mostrar que N +1 pode ser determinada a partir de N , uN e y N +1 dada a matriz PN = ( X NT X N ) 1 .

Observe que

PN +1 pode ser escrita como PN +1 = ( X NT X N + N +1 TN +1 ) 1 . Assim, utilizando o lema de

inverso

matriz

de

( A + bc T ) 1 = A 1 (1 + c T A 1b ) 1 A 1bc T A 1

definindo

A = X NT +1 X N +1 ,

b = c = N +1 tem-se
PN +1 = ( X N +1 X NT =1 ) 1 = ( X NT X N + N +1 NT +1 ) 1 = [ I (1 + TN +1 PN N +1 ) 1 PN N +1 TN +1 ]PN .
E pode-se deduzir que

N +1 = ( X NT +1 X N +1 ) 1 X NT +1YN +1
= PN +1 X NT +1YN +1 = PN +1 ( X NT y N + N +1 y N +1 )
= [ I (1 + NT +1 PN N +1 ) 1 PN N +1 NT +1 ]PN ( X NT YN + N +1 y N +1 )
= PN X NT YN + (1 + NT +1 PN N +1 ) 1 [ PN N +1 y N +1 PN N +1 NT +1 PN X N YN ]
= PN X NT YN + (1 + NT +1 PN N +1 ) 1 PN N +1 [ y N +1 NT +1 PN X N YN ]
e ento

N +1 = N + (1 + NT +1 PN N +1 ) 1 PN N +1 [ y N +1 NT +1N ]
ou

N +1 = N + K N +1 N +1 (N )
onde

N +1 (N ) = y N +1 NT +1N : erro de predio

e
K N +1 = (1 + NT +1 PN N +1 ) 1 PN N +1
com

PN +1 = [ I (1 + NT +1 PN N +1 ) 1 PN N +1 NT +1 ]PN

PN atualizada pela equao de Riccati com Po = ( oT o ) 1 .

Incluindo ponderao na funo custo: Fator de Esquecimento
Seja
f N ( ) =

1 N N k 2
k ( )

N k =1

(33)

O algoritmo torna-se

N +1 = N + K N +1 N +1 (N )

(34)

N +1 (N ) = y N +1 NT +1N

(35)

K N +1 = ( + NT +1 PN N +1 ) 1 PN N +1

(36)

PN +1 = I ( + NT +1 PN N +1 ) 1 PN N +1 NT +1

] P

(37)

y
Planta
k ()

Preditor

Minimizao

Mtodo de predio do erro.

f N ( ) =

1 N N k T
k ( )Q k ( )
2 k +1

(38)

Q: matriz de ponderao definida positiva

N +1 = N + K N +1 R ( )

(39)

K N +1 = PN N Q Q 1 + NT PN N

PN +1 = PN PN N Q 1 + NT PN N

(40)

NT PN /

(41)

Mtodo MQR para o modelo ARMAX

O algoritmo acima pode ser aplicado a uma variedade de estruturas de modelos. A estrutura do modelo
influencia as maneiras nas quais e so computadas a partir dos dados e estimativas anteriores dos
parmetros. A seguir apresentamos a computao de e .
Seja o modelo ARMAX
A( q 1 ) y k = B ( q 1 )u k + C ( q 1 )ek ; ny = nu = 1
onde

A(q 1 ) = 1 + a1q 1 + ... + a na q na

B (q 1 ) = b1q 1 + ... + bnb q nb

C (q 1 ) = 1 + c1q 1 + ...cnc q nc
Sejam

k ( ) =

A( q 1 ) y k B( q 1 )u k
C ( q 1 )

( ) Tk = ( y k 1 ... y k na u k 1 ...u k nb k 1 ... k nc ) T

( F )Tk = ( y kF1 ... y kFna u kF1 ...u kF nb kF1 ... kF nc ) T

com
6

y kF =

1
C ( q 1 )

y k ; u kF =

1
C ( q 1 )

u k ; kF ( ) =

1
C ( q 1 )

k ( )

k e kF podem ser computados aproximadamente por:

k = y k + a1 (k 1) y k 1 + ... + a m (k 1) y k na
b1 ( k 1)u k 1 ... bnb (k 1)u k nb
c1 (k 1) k 1 ... cnc (k 1) k nc
e
kF = k c1 kF1 K (42)
onde

y kF = y k c1 ( k ) y kF1 K cnc y kF na

(43)

u kF = u k c1 ( k )u F ( k 1) K

As equaes acima podem ser modificadas da seguinte forma. Quando atualizando k em k +1 = k + K k k ( )

necessita-se do clculo de ( ) = y T . Mas tambm necessrio nas equaes de atualizao de
k

de k , k e

kF

, ento utiliza-se a

k 1

k dado por k

dado pelo chamado erro residual

k = yk kT k

(42)

O algoritmo com filtragem e fator de esquecimento ento sumarizado a seguir.

1. Defina o nmero de amostras, matriz de ponderao Q e fator de esquecimento , condies iniciais
2.

para y, yf, teta, P, , F .

Para k = 1, num_amostr a
a. Ler y k +1
b.

Calcular k +1 ( ) = yk +1 kT+1k

c.

Calcular K k +1 = Pk kF+1Q Q 1 + ( F ) Tk +1 Pk kF+1

e.

Calcular Pk +1 = Pk Pk kF+1 Q 1 + ( F ) Tk +1 Pk kF+1

= + K ( )
Calcular

f.
g.

Calcular o erro residual k +1 = yk +1 kT+1k +1

Calcular as seqncias filtradas para y k +1 , e k +1

d.

3.

k +1

( F ) Tk +1 Pk /

k +1 k +1

h. Atualizar os vetores de regresso F ( k + 2 ) e ( k + 2)

Retornar ao passo 2.

Mtodo de Pseudo Regresso Linear (PRL)

Este mtodo conhecido tambm com o nome de mnimos quadrados recursivos estendidos (MQRE)
Para aplicar o mtodo PRL para o modelo ARMAX escreva
y k = kT + ek

k = ( y k 1 K u k 1 K ek 1 K)

= (a1 K a n b1 Kbnb c1 K cnc ) T

7

ek em k substitudo pela sua estimativa

R = y k kT k 1 .
Problema proposto: O mtodo MQRE resume-se na aplicao do mtodo MQR ao modelo ARMAX vetorial
com uma estimativa do rudo no lugar das entradas ek. Mostrar que a condio bsica de garantia de
1
1
seja estritamente positivo real com
convergncia do algoritmo MQRE que o polinmio
1

C(q ) 2
C ( z ) = 1 + c1 q 1 + c 2 q 2 + L + c nc q nc . Esta condio pode ser expressa da seguinte forma:

1
1
Re
> 0 para todo w. Consultar Soderstrom, T and Stoica P. (1989). System Identification,
jw

C (e ) 2
Prentice Hall, UK.

Referncias Bibliogrficas
1) Box and Jenkins; Times series analysis: forecasting and control. Prentice Hall, 2 edio.
2) Papoulis, Athanasios. Probability, Randon variables and stochastic processes. McGraw-Hill international, 2
edio.
3) Hemerly, Elder M.; Controle por computador de Sistemas Dinmicos. Editora Edgard Blucher LTDA, 2
edio.
4) Pereira, B. de B.; Pais, M. B. Z. e Sales, Paulo R. H.; Anlise espectral de sries temporais: Uma introduo
para Engenharia, Economia e Estatstica.
5) Soderstrom, T and Stoica P. (1989). System Identification, Prentice Hall, UK.