Sistemas Lineares

Parte 2
Mtodos Iterativos
Introduo
Mtodos diretos: eliminao por Gauss,
fatorao LU, fatorao de Cholesky, ...
Fornecem soluo de qualquer sistema.
Para minimizar problemas de
arredondamento, adota-se o pivoteamento.
Mtodos iterativos: podem ser mais rpidos e
necessitar de menos memria do
computador. Fornecem seqncias que
convergem para a soluo sob certas
condies.

Introduo
Seja um sistema linear de ordem .
A idia generalizar o mtodo do ponto fixo,
escrevendo o sistema linear na forma

onde uma matriz de ordem e um
vetor coluna .
Dado um vetor aproximao inicial , cons-
trumos iterativamente:

b x A =
g x C x + =
C
n
n
g
1 n
) 0 (
x
g x C x + =
) 1 ( ) 2 (
g x C x + =
) 0 ( ) 1 (
Introduo
Se a seqncia , , ....., convergir



Ento a soluo do sistema linear

) 0 (
x
o = = x b x A com
o = + =

g x C x Lim
k k
grande k
) 1 ( ) (
) (k
x
) 1 (
x
o
Teste de Parada
Se a seqncia estiver suficientemente
prximo de paramos o processo.
Dada um preciso , quando


ento a soluo do sistema linear.
Computacionalmente, um nmero mximo de
iteraes tambm critrio de parada.

c < =

s s
1
1
) ( k
i
k
i
n i
k
x x MAX d
) (k
x
c
) 1 ( k
x
) (k
x
MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Seja o sistema linear





Se podemos isolar
por separao da diagonal.
n n nn n n n
n n
n n
b x a x a x a x a
b x a x a x a x a
b x a x a x a x a
= + + + +
= + + + +
= + + + +
......
....... .......... .......... .......... .......... ..........
......
......
3 3 2 2 1 1
2 2 3 23 2 22 1 21
1 1 3 13 2 12 1 11
n i a
ii
... 1 para 0 = =
g x C x + =
MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Iterativamente, o sistema reescreve-se como:





( )
( )
( )
) (
1 1 ,
) (
2 2
) (
1 1
) 1 (
) (
2
) (
3 23
) (
1 21 2
22
) 1 (
2
) (
1
) (
3 13
) (
2 12 1
11
) 1 (
1
......
1
....... .......... .......... .......... .......... ..........
......
1
......
1
k
n n n
k
n
k
n n
nn
k
n
k
n n
k k k
k
n n
k k k
x a x a x a b
a
x
x a x a x a b
a
x
x a x a x a b
a
x

+
+
+
=
=
=
MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Desta forma temos , onde

e


Do mtodo de Gauss-Jacobi, dado ,
Obtemos , ....., atravs da relao
recursiva


|
|
|
|
|
.
|

\
|



=
0 ....... / /
......... ....... ......... ........
/ ....... 0 /
/ ...... / 0
2 1
22 2 22 21
11 1 11 12
nn n nn n
n
n
a a a a
a a a a
a a a a
C
|
|
|
|
|
.
|

\
|
=
nn n
a b
a b
a b
g
/
.......
/
/
22 2
11 1
g x C x + =
) 0 (
x
) 1 (
x
) 1 ( + k
x
g x C x
k k
+ =
+ ) ( ) 1 (
MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Exemplo:Seja o sistema linear


Seja com . Portanto,


|
|
|
.
|

\
|
=
6 . 0
6 . 1
7 . 0
) 0 (
x
05 . 0 = c
6 10 3 2
8 5 1
7 2 10
3 2 1
3 2 1
3 2 1
= + +
= + +
= + +
x x x
x x x
x x x
|
|
|
.
|

\
|



=
0 10 / 3 5 / 1
5 / 1 0 5 / 1
10 / 1 10 / 2 0
C
|
|
|
.
|

\
|
=
|
|
|
.
|

\
|
=
6 . 0
6 . 1
7 . 0
10 / 6
5 / 8
10 / 7
g
MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Substituindo





Segue . Calculando

|
|
|
.
|

\
|
=
94 . 0
86 . 1
96 . 0
) 1 (
x
94 . 0 6 . 0 ) 6 . 1 ( 3 . 0 ) 7 . 0 ( 2 . 0 6 . 0 3 . 0 2 . 0
86 . 1 6 . 1 ) 6 . 0 ( 2 . 0 ) 7 . 0 ( 2 . 0 6 . 1 2 . 0 2 . 0
96 . 0 7 . 0 ) 6 . 0 ( 1 . 0 ) 6 . 1 ( 2 . 0 7 . 0 1 . 0 2 . 0
) 0 (
2
) 0 (
1
) 1 (
3
) 0 (
3
) 0 (
1
) 1 (
2
) 0 (
3
) 0 (
2
) 1 (
1
= + = + =
= = =
= + = + =
x x x
x x x
x x x
05 . 0 34 . 0
05 . 0 26 . 0
05 . 0 26 . 0
) 0 (
3
) 1 (
3
) 1 (
3
) 0 (
2
) 1 (
2
) 1 (
2
) 0 (
1
) 1 (
1
) 1 (
1
> = =
> = =
> = =
x x d
x x d
x x d
MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI

Continuando com




Segue a soluo, pois


critrio de parada

|
|
|
.
|

\
|
=
966 . 0
98 . 1
978 . 0
) 2 (
x
( ) ( )
c > = =
s s
12 . 0
1 2
1
) 2 (
i i
n i
x x MAX d
|
|
|
.
|

\
|
=
998 . 0
999 . 1
999 . 0
) 3 (
x
c < = =
s s
032 . 0
) 2 ( ) 3 (
1
) 3 (
i i
n i
x x MAX d
Critrios de Convergncia
Nos mtodos iterativos so necessrios
critrios que garantam a convergncia.

Um critrio para a convergncia do Mtodo
de Gauss-Jacobi dado pelo:

1) Critrio das linhas.

Mtodo de Gauss-Jacobi
Convergncia: Critrio das linhas
Teorema Critrio das linhas

Dado o sistema , seja

Se , ento o mtodo de Gauss-
Jacobi gera uma srie convergente para a
soluo do sistema independentemente da
escolha de .
b x A =
| | / ) | | (
1
kk
n
k j
j
kj k
a a

=
=
= o
1 max
1
< o = o
s s
k
n k
) 0 (
x
Mtodo de Gauss-Jacobi
Convergncia: Critrio das linhas
Exemplo:Considere o sistema j estudado



Critrio das linhas:


Logo, convergncia OK!

1 3 . 0
10
1 2
1
< =
+
= o
|
|
|
.
|

\
|
=
10 3 2
1 5 1
1 2 10
A
6 10 3 2
8 5 1
7 2 10
3 2 1
3 2 1
3 2 1
= + +
= + +
= + +
x x x
x x x
x x x
1 5 . 0
10
3 2
3
< =
+
= o
1 4 . 0
5
1 1
2
< =
+
= o
1 5 . 0 max
1
< = o = o
s s
k
n k
Mtodo de Gauss-Jacobi
Convergncia: Critrio das linhas
Obs1: O sistema converge pelo mtodo de Gauss-

Jacobi. No entanto, . Isto mostra que o Teorema das
linhas apenas suficiente para convergncia.


Obs2: O sistema



Contudo, o sistema
Equivalente converge
pelo critrio das linhas
3 3
3
2 1
2 1
=
= +
x x
x x
1 max
1
= o = o
s s
k
n k
6 8 6 0
3 2 2 5
2 3 1
3 2 1
3 2 1
3 2 1
= + +
= + +
= + +
x x x
x x x
x x x
4 max
1
= o = o
s s
k
n k
6 8 6 0
2 3 1
3 2 2 5
3 2 1
3 2 1
3 2 1
= + +
= + +
= + +
x x x
x x x
x x x
1 8 . 0 max
1
< = o = o
s s
k
n k
MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Seja o sistema linear





Se podemos isolar
por separao da diagonal.
n n nn n n n
n n
n n
b x a x a x a x a
b x a x a x a x a
b x a x a x a x a
= + + + +
= + + + +
= + + + +
......
....... .......... .......... .......... .......... ..........
......
......
3 3 2 2 1 1
2 2 3 23 2 22 1 21
1 1 3 13 2 12 1 11
n i a
ii
... 1 para 0 = =
g x C x + =
MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Iterativamente, o sistema reescreve-se como:





( )
( )
( )
) 1 (
1 1 ,
) 1 (
2 2
) 1 (
1 1
) 1 (
) (
2
) (
3 23
) 1 (
1 21 2
22
) 1 (
2
) (
1
) (
3 13
) (
2 12 1
11
) 1 (
1
......
1
....... .......... .......... .......... .......... ..........
......
1
......
1
+

+ + +
+ +
+
=
=
=
k
n n n
k
n
k
n n
nn
k
n
k
n n
k k k
k
n n
k k k
x a x a x a b
a
x
x a x a x a b
a
x
x a x a x a b
a
x
MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Comentrio: Gauss-Jacobi X Gauss-Seidel
O Mtodo de Gauss-Seidel uma variao
do Mtodo de Gauss-Jacobi, pois para
calcular utilizamos os valores


j calculados e os valores restantes





) 1 ( + k
j
x
) 1 (
1
) 1 (
3
) 1 (
2
) 1 (
1
, ..... , , ,
+

+ + + k
j
k k k
x x x x
) 1 ( ) 1 (
2
) 1 (
1
, ..... , ,
+ +
+
+
+
k
n
k
j
k
j
x x x
MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Exemplo:Seja o sistema linear


Seja com . Portanto,


|
|
|
.
|

\
|
=
0
0
0
) 0 (
x
05 . 0 = c
0 6 3 3
6 1 4 3
5 1 1 5
3 2 1
3 2 1
3 2 1
= + +
= + +
= + +
x x x
x x x
x x x
( )
( )
( )
) 1 (
2
) 1 (
1
) 1 (
3
) (
3
) 1 (
1
) 1 (
2
) (
3
) (
2
) 1 (
1
5 . 0 5 . 0 0
25 . 0 75 . 0 5 . 1
2 . 0 2 . 0 1
+ + +
+ +
+
=
=
=
k k k
k k k
k k k
x x x
x x x
x x x
MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Logo, a primeira iterao fornece

( )
( )
( ) 88 . 0 75 . 0 5 . 0 1 5 . 0 5 . 0 5 . 0 0
75 . 0 0 25 . 0 1 75 . 0 5 . 1 25 . 0 75 . 0 5 . 1
1 0 0 1 2 . 0 2 . 0 1
) 1 (
2
) 1 (
1
) 1 (
3
) 0 (
3
) 1 (
1
) 1 (
2
) 0 (
3
) 0 (
2
) 1 (
1
= = =
= = =
= = =
x x x
x x x
x x x
|
|
|
.
|

\
|

=
88 . 0
75 . 0
1
) 1 (
x
c > = =
c > = =
c > = =
88 . 0 0 88 . 0
75 . 0 0 75 . 0
1 0 1
) 0 (
3
) 1 (
3
) 0 (
2
) 1 (
2
) 0 (
1
) 1 (
1
x x
x x
x x
MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Logo, a segunda iterao fornece

( )
( )
( ) 99 . 0 5 . 0 5 . 0 0
95 . 0 25 . 0 75 . 0 5 . 1
03 . 1 2 . 0 2 . 0 1
) 2 (
2
) 2 (
1
) 2 (
3
) 1 (
3
) 2 (
1
) 2 (
2
) 1 (
3
) 1 (
2
) 2 (
1
= =
= =
= =
x x x
x x x
x x x
|
|
|
.
|

\
|

=
99 . 0
95 . 0
03 . 1
) 2 (
x
c > =
c > =
c < =
11 . 0
2 . 0
03 . 0
) 1 (
3
) 2 (
3
) 1 (
2
) 2 (
2
) 1 (
1
) 2 (
1
x x
x x
x x
MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Logo, a terceira iterao fornece

( )
( )
( ) 00 . 1 5 . 0 5 . 0 0
99 . 0 25 . 0 75 . 0 5 . 1
01 . 1 2 . 0 2 . 0 1
) 3 (
2
) 3 (
1
) 3 (
3
) 2 (
3
) 3 (
1
) 3 (
2
) 2 (
3
) 2 (
2
) 3 (
1
= =
= =
= =
x x x
x x x
x x x
|
|
|
.
|

\
|

=
00 . 1
99 . 0
01 . 1
) 3 (
x
c < =
c < =
c < =
01 . 0
04 . 0
02 . 0
) 2 (
3
) 3 (
3
) 2 (
2
) 3 (
2
) 2 (
1
) 3 (
1
x x
x x
x x
MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Logo, aps a terceira iterao



soluo do sistema considerado com erro
menor do que .

|
|
|
.
|

\
|

= =
00 . 1
99 . 0
01 . 1
) 3 (
x x
05 . 0 = c
Critrios de Convergncia
Nos mtodos iterativos so necessrios
critrios que garantam a convergncia.

Convergncia para o Mtodo de Gauss-Seidel:
1) Critrio das linhas (j visto)
2) Critrio de Sassenfeld

Os critrios acima estabelecem condies
suficientes para a convergncia.
Mtodo de Gauss-Seidel
Convergncia - Critrio de Sassenfeld
Sejam


e

=
=
+ + +
= |
n
j
j
n
a
a
a
a a a
2 11
1
11
1 13 12
1
| |
| |
| |
| | | | | |
n i a a a
a
a a a a a
ii
n
i j
ij j
i
j
ij
ii
in ii i ii i i
i

, 3 , 2 | | / |] | | | [
| |
| | | | | | | | | |
1
1
1
1 1 1 2 2 1 1
= + | =
+ + | + + | + |
= |

+ =

=
+
Critrio de Sassenfeld
Seja

Se | < 1, o mtodo de Gauss-Seidel gera
uma sequncia convergente para qualquer
. Quanto menor |, mais rpida a
convergncia.

} { max
1
i
n i
| = |
s s
) 0 (
x
Exemplos
Seja o sistema:

= + + +
= + +
= +
= + +
5 . 2 2 . 0 3 . 0 1 . 0
0 . 1 2 . 0 2 . 0 1 . 0
6 . 2 1 . 0 2 . 0 2 . 0
2 . 0 1 . 0 1 . 0 5 . 0
4 3 2 1
4 3 2 1
4 3 2 1
4 3 2 1
x x x x
x x x x
x x x x
x x x x
274 . 0 1 / ] 358 . 0 2 . 0 44 . 0 2 . 0 7 . 0 1 . 0 [
| | / ] | | | | | [| | | / |] | | | [
358 . 0 1 / ] 2 . 0 44 . 0 2 . 0 7 . 0 1 . 0 [
| | / |] | | | | [| | | / |] | | | [
44 . 0 1 / ] 1 . 0 2 . 0 7 . 0 2 . 0 [
| | / |] | | | | [| | | / |] | | | [
7 . 0 1 / ] 1 . 0 1 . 0 5 . 0 [ | | / |] | | | | [| | | / ] | | [
44 3 43 2 42 1 41 44
4
1 4
4
1 4
1
4 4
33 34 2 32 1 31 33
4
1 3
3
1 3
1
3 3
22 24 23 1 21 22
4
1 2
2
1 2
1
2 2
11 14 13 12 11
4
2
1 1
= + + =
= | + | + | = + | = |
= + + =
= + | + | = + | = |
= + + =
= + + | = + | = |
= + + = + + = = |

+ =

=
+ =

=
+ =

=
=
a a a a a a a
a a a a a a a
a a a a a a a
a a a a a a
j
j j
j
j
j
j j
j
j
j
j j
j
j
j
j
Exemplos
Ento,


de modo que o mtodo de Gauss-Seidel
converge.
1 7 . 0 } { max
1
< = | = |
s s
i
n i
Exemplos
2. Seja o sistema:

Neste caso,
Trocando a 1 equao pela terceira,



Nesta disposio:

= +
= +
= + +
3 3
1
9 3 2
3 1
3 2
3 2 1
x x
x x
x x x
1 2 2 / ] 3 1 [
1
> = + = |

= + +
= +
= +
9 3 2
1
3 3
3 2 1
3 2
3 1
x x x
x x
x x
1 3 1 / ] 3 0 [
1
> = + = |
Exemplos
2. Agora se trocarmos a 1 coluna pela
terceira,


Nesta disposio:

= + +
= +
= +
9 2 3
1
3 3
1 2 3
2 3
1 3
x x x
x x
x x
3 / 2 2 // ) 3 / 1 ( 1 ) 3 / 1 ( 3 [
3 / 1 1 / ] 0 ) 3 / 1 ( 1 [
3 / 1 3 / ] 1 1 [
3
2
1
= + = |
= + = |
= + = |
1 3 / 2 } { max
1
< = | = |
s s
i
n i
Garantia de
convergncia
Exemplos
3. Seja o sistema:

O mtodo de Gauss-Seidel gera uma seqncia
convergente, apesar do critrio das linhas no ser
satisfeito.
Pelo critrio de Sassenfeld

=
= +
3 3
3
2 1
2 1
x x
x x
3 / 1 3 / 1 1
1 1 / 1
2
1
= = |
= = |
O critrio de Sassenfeld
no satisfeito.
O critrio de Sassenfeld tambm
suficiente, mas no necessrio.
Metodos Iterativos - Comparao
Seja o sistema:


Mtodo de Gauss-Jacobi:


Temos a seqncia:

=
= +
3 3
3
2 1
2 1
x x
x x
( )
) (
1
) 1 (
2
) (
2
) 1 (
1
3
3
1
3
k k
k k
x x
x x
=
=
+
+
|
|
.
|

\
|
=
|
|
.
|

\
|
=
|
|
.
|

\
|
=
|
|
.
|

\
|
=
|
|
.
|

\
|
=
3 / 4
3 / 4
,
3 / 5
1
,
2
2
,
1
3
,
0
0
) 4 ( ) 3 ( ) 2 ( ) 1 ( ) 0 (
x x x x x
Metodos Iterativos - Comparao
Seja o sistema:


Mtodo de Gauss-Seidel:


Temos a seqncia:

=
= +
3 3
3
2 1
2 1
x x
x x
( )
) 1 (
1
) 1 (
2
) (
2
) 1 (
1
3
3
1
3
+ +
+
=
=
k k
k k
x x
x x
|
|
.
|

\
|
=
|
|
.
|

\
|
=
|
|
.
|

\
|
=
|
|
.
|

\
|
=
9 / 14
3 / 5
,
3 / 4
1
,
2
3
,
0
0
) 3 ( ) 2 ( ) 1 ( ) 0 (
x x x x
Metodos Iterativos - Comparao
Comentrio1: As duas seqncias convergem para a
soluo exata do sistema . Vejamos,
a) Gauss-Jacobi :
b) Gauss-Seidel:
Comentrio 2: A convergncia do Mtodo de Gauss-
Seidel mais rpida, por construo do mtodo.
Comentrio 3: Embora a ordem das equaes num
sistema linear no mude a soluo exata, as seqncias
geradas pelos Mtodos de Gauss-Jacobi e Gauss-Seidel
dependem fundamentalmente da disposio das equaes

( ) 5 . 1 5 . 1 = - x
( ) 56 . 1 67 . 1
) 3 (
=
GS
x
( ) 33 . 1 33 . 1
) 4 (
=
GJ
x
Mtodos Direto e Iterativos
Comparao
1) Convergncia:

Os Mtodos Diretos so processos finitos
portanto fornecem soluo para qualquer
sistema linear no-singular.

Os Mtodos Iterativos tm convergncia
assegurada sob certas condies.
Mtodos Direto e Iterativos
Comparao
2) Esparsidade da Matriz :
Em problemas reais, como a discretizao de EDOs pelo
Mtodo de Elementos Finitos ou Diferenas Finitas, as
matrizes dos coeficientes tornam-se esparsas. A forma de
armazenamento destes dados tira proveito da esparsidade.
Mtodos diretos em sistemas esparsos provocam o
preenchimento da matriz e no processo de Eliminao
(escalonamento) geram elementos no-nulos, onde originalmente
tnhamos elementos nulos. Tcnicas especiais de pivoteamento
reduzem este preenchimento. Fatoramento LU do bons
resultados. Algumas situaes estes mtodos no so possveis.
Mtodos iterativos no alteram a estrutura da matriz dos
coeficientes. Vantagem.
A
Mtodos Direto e Iterativos
Comparao
3) Erros de Arredondamento

Mtodos Diretos tm problemas de
arredondamento. Tcnicas de Pivoteamento
amenizam tais erros.
Mtodos iterativos tm menos erros de
arredondamento, quando a convergncia
estiver assegurada.
A
Lista de Mtodos para
Sistemas Lineares


Fazer exerccios 3, 5, 9,14, 22, 29 do
livro texto.