Sistemas Lineares

Parte 2
Mtodos Iterativos

Introduo

Mtodos diretos: eliminao por Gauss,

fatorao LU, fatorao de Cholesky, ...
Fornecem soluo de qualquer sistema.
Para minimizar problemas de
arredondamento, adota-se o pivoteamento.

Mtodos iterativos: podem ser mais rpidos e

necessitar de menos memria do
computador. Fornecem seqncias que
convergem para a soluo sob certas
condies.

Introduo

Seja um sistema linear de ordem .

A idia generalizar o mtodo do ponto fixo,
escrevendo o sistema linear na forma
onde uma matriz de ordem e um
vetor coluna .

Dado um vetor aproximao inicial , cons-

trumos iterativamente:
b x A
g x C x +
C
n
n
g
1 n
) 0 (
x
g x C x +
) 1 ( ) 2 (
g x C x +
) 0 ( ) 1 (

Introduo
Se a seqncia , , ....., convergir
Ento a soluo do sistema linear
) 0 (
x
x b x A com
+

g x C x Lim
k k
grande k
) 1 ( ) (
) (k
x
) 1 (
x

Teste de Parada
Se a seqncia estiver suficientemente
prximo de paramos o processo.

Dada um preciso , quando

ento a soluo do sistema linear.

Computacionalmente, um nmero mximo de

iteraes tambm critrio de parada.
<


1
1
) ( k
i
k
i
n i
k
x x MAX d
) (k
x

) 1 ( k
x
) (k
x

MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Seja o sistema linear
Se podemos isolar
por separao da diagonal.
n n nn n n n
n n
n n
b x a x a x a x a
b x a x a x a x a
b x a x a x a x a
+ + + +
+ + + +
+ + + +
......
....... .......... .......... .......... .......... ..........
......
......
3 3 2 2 1 1
2 2 3 23 2 22 1 21
1 1 3 13 2 12 1 11
n i a
ii
... 1 para 0
g x C x +

MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Iterativamente, o sistema reescreve-se como:
( )
( )
( )
) (
1 1 ,
) (
2 2
) (
1 1
) 1 (
) (
2
) (
3 23
) (
1 21 2
22
) 1 (
2
) (
1
) (
3 13
) (
2 12 1
11
) 1 (
1
......
1
....... .......... .......... .......... .......... ..........
......
1
......
1
k
n n n
k
n
k
n n
nn
k
n
k
n n
k k k
k
n n
k k k
x a x a x a b
a
x
x a x a x a b
a
x
x a x a x a b
a
x

+
+
+




MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Desta forma temos , onde
e
Do mtodo de Gauss-Jacobi, dado ,
Obtemos , ....., atravs da relao
recursiva

,
_

0 ....... / /
......... ....... ......... ........
/ ....... 0 /
/ ...... / 0
2 1
22 2 22 21
11 1 11 12
nn n nn n
n
n
a a a a
a a a a
a a a a
C

,
_

nn n
a b
a b
a b
g
/
.......
/
/
22 2
11 1
g x C x +
) 0 (
x
) 1 (
x
) 1 ( + k
x
g x C x
k k
+
+ ) ( ) 1 (

MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Exemplo:Seja o sistema linear
Seja com . Portanto,

,
_

6 . 0
6 . 1
7 . 0
) 0 (
x
05 . 0
6 10 3 2
8 5 1
7 2 10
3 2 1
3 2 1
3 2 1
+ +
+ +
+ +
x x x
x x x
x x x

,
_

0 10 / 3 5 / 1
5 / 1 0 5 / 1
10 / 1 10 / 2 0
C

,
_

,
_

6 . 0
6 . 1
7 . 0
10 / 6
5 / 8
10 / 7
g

MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Substituindo
Segue . Calculando

,
_

94 . 0
86 . 1
96 . 0
) 1 (
x
94 . 0 6 . 0 ) 6 . 1 ( 3 . 0 ) 7 . 0 ( 2 . 0 6 . 0 3 . 0 2 . 0
86 . 1 6 . 1 ) 6 . 0 ( 2 . 0 ) 7 . 0 ( 2 . 0 6 . 1 2 . 0 2 . 0
96 . 0 7 . 0 ) 6 . 0 ( 1 . 0 ) 6 . 1 ( 2 . 0 7 . 0 1 . 0 2 . 0
) 0 (
2
) 0 (
1
) 1 (
3
) 0 (
3
) 0 (
1
) 1 (
2
) 0 (
3
) 0 (
2
) 1 (
1
+ +

+ +
x x x
x x x
x x x
05 . 0 34 . 0
05 . 0 26 . 0
05 . 0 26 . 0
) 0 (
3
) 1 (
3
) 1 (
3
) 0 (
2
) 1 (
2
) 1 (
2
) 0 (
1
) 1 (
1
) 1 (
1
>
>
>
x x d
x x d
x x d

MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Continuando com
Segue a soluo, pois
critrio de
parada

,
_

966 . 0
98 . 1
978 . 0
) 2 (
x
( ) ( )
>

12 . 0
1 2
1
) 2 (
i i
n i
x x MAX d

,
_

998 . 0
999 . 1
999 . 0
) 3 (
x
<

032 . 0
) 2 ( ) 3 (
1
) 3 (
i i
n i
x x MAX d

Critrios de Convergncia

Nos mtodos iterativos so necessrios

critrios que garantam a convergncia.

Um critrio para a convergncia do Mtodo

de Gauss-Jacobi dado pelo:
1) Critrio das linhas.

Mtodo de Gauss-Jacobi
Convergncia: Critrio das linhas

Teorema Critrio das linhas

Dado o sistema , seja
Se , ento o mtodo de Gauss-
Jacobi gera uma srie convergente para a
soluo do sistema independentemente da
escolha de .
b x A
| | / ) | | (
1
kk
n
k j
j
kj k
a a

1 max
1
<

k
n k
) 0 (
x

Mtodo de Gauss-Jacobi
Convergncia: Critrio das linhas

Exemplo:Considere o sistema j estudado

Critrio das linhas:
Logo, convergncia OK!
1 3 . 0
10
1 2
1
<
+

,
_

10 3 2
1 5 1
1 2 10
A
6 10 3 2
8 5 1
7 2 10
3 2 1
3 2 1
3 2 1
+ +
+ +
+ +
x x x
x x x
x x x
1 5 . 0
10
3 2
3
<
+

1 4 . 0
5
1 1
2
<
+

1 5 . 0 max
1
<

k
n k

Mtodo de Gauss-Jacobi
Convergncia: Critrio das linhas

Obs1: O sistema converge pelo mtodo de Gauss-

Jacobi. No entanto, . Isto mostra que o Teorema das
linhas apenas suficiente para convergncia.

Obs2: O sistema

Contudo, o sistema
Equivalente converge
pelo critrio das linhas
3 3
3
2 1
2 1

+
x x
x x
1 max
1


k
n k
6 8 6 0
3 2 2 5
2 3 1
3 2 1
3 2 1
3 2 1
+ +
+ +
+ +
x x x
x x x
x x x
4 max
1


k
n k
6 8 6 0
2 3 1
3 2 2 5
3 2 1
3 2 1
3 2 1
+ +
+ +
+ +
x x x
x x x
x x x
1 8 . 0 max
1
<

k
n k

MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Seja o sistema linear
Se podemos isolar
por separao da diagonal.
n n nn n n n
n n
n n
b x a x a x a x a
b x a x a x a x a
b x a x a x a x a
+ + + +
+ + + +
+ + + +
......
....... .......... .......... .......... .......... ..........
......
......
3 3 2 2 1 1
2 2 3 23 2 22 1 21
1 1 3 13 2 12 1 11
n i a
ii
... 1 para 0
g x C x +

MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Iterativamente, o sistema reescreve-se como:
( )
( )
( )
) 1 (
1 1 ,
) 1 (
2 2
) 1 (
1 1
) 1 (
) (
2
) (
3 23
) 1 (
1 21 2
22
) 1 (
2
) (
1
) (
3 13
) (
2 12 1
11
) 1 (
1
......
1
....... .......... .......... .......... .......... ..........
......
1
......
1
+

+ + +
+ +
+



k
n n n
k
n
k
n n
nn
k
n
k
n n
k k k
k
n n
k k k
x a x a x a b
a
x
x a x a x a b
a
x
x a x a x a b
a
x

MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Comentrio: Gauss-Jacobi X Gauss-Seidel

O Mtodo de Gauss-Seidel uma variao

do Mtodo de Gauss-Jacobi, pois para
calcular utilizamos os valores
j calculados e os valores restantes
) 1 ( + k
j
x
) 1 (
1
) 1 (
3
) 1 (
2
) 1 (
1
, ..... , , ,
+

+ + + k
j
k k k
x x x x
) 1 ( ) 1 (
2
) 1 (
1
, ..... , ,
+ +
+
+
+
k
n
k
j
k
j
x x x

MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Exemplo:Seja o sistema linear
Seja com . Portanto,

,
_

0
0
0
) 0 (
x
05 . 0
0 6 3 3
6 1 4 3
5 1 1 5
3 2 1
3 2 1
3 2 1
+ +
+ +
+ +
x x x
x x x
x x x
( )
( )
( )
) 1 (
2
) 1 (
1
) 1 (
3
) (
3
) 1 (
1
) 1 (
2
) (
3
) (
2
) 1 (
1
5 . 0 5 . 0 0
25 . 0 75 . 0 5 . 1
2 . 0 2 . 0 1
+ + +
+ +
+



k k k
k k k
k k k
x x x
x x x
x x x

MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Logo, a primeira iterao fornece
( )
( )
( ) 88 . 0 75 . 0 5 . 0 1 5 . 0 5 . 0 5 . 0 0
75 . 0 0 25 . 0 1 75 . 0 5 . 1 25 . 0 75 . 0 5 . 1
1 0 0 1 2 . 0 2 . 0 1
) 1 (
2
) 1 (
1
) 1 (
3
) 0 (
3
) 1 (
1
) 1 (
2
) 0 (
3
) 0 (
2
) 1 (
1



x x x
x x x
x x x

,
_

88 . 0
75 . 0
1
) 1 (
x
>
>
>
88 . 0 0 88 . 0
75 . 0 0 75 . 0
1 0 1
) 0 (
3
) 1 (
3
) 0 (
2
) 1 (
2
) 0 (
1
) 1 (
1
x x
x x
x x

MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Logo, a segunda iterao fornece
( )
( )
( ) 99 . 0 5 . 0 5 . 0 0
95 . 0 25 . 0 75 . 0 5 . 1
03 . 1 2 . 0 2 . 0 1
) 2 (
2
) 2 (
1
) 2 (
3
) 1 (
3
) 2 (
1
) 2 (
2
) 1 (
3
) 1 (
2
) 2 (
1



x x x
x x x
x x x

,
_

99 . 0
95 . 0
03 . 1
) 2 (
x
>
>
<
11 . 0
2 . 0
03 . 0
) 1 (
3
) 2 (
3
) 1 (
2
) 2 (
2
) 1 (
1
) 2 (
1
x x
x x
x x

MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Logo, a terceira iterao fornece
( )
( )
( ) 00 . 1 5 . 0 5 . 0 0
99 . 0 25 . 0 75 . 0 5 . 1
01 . 1 2 . 0 2 . 0 1
) 3 (
2
) 3 (
1
) 3 (
3
) 2 (
3
) 3 (
1
) 3 (
2
) 2 (
3
) 2 (
2
) 3 (
1



x x x
x x x
x x x

,
_

00 . 1
99 . 0
01 . 1
) 3 (
x
<
<
<
01 . 0
04 . 0
02 . 0
) 2 (
3
) 3 (
3
) 2 (
2
) 3 (
2
) 2 (
1
) 3 (
1
x x
x x
x x

MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Logo, aps a terceira iterao
soluo do sistema considerado com erro
menor do que .

,
_

00 . 1
99 . 0
01 . 1
) 3 (
x x
05 . 0

Critrios de Convergncia

Nos mtodos iterativos so necessrios

critrios que garantam a convergncia.

Convergncia para o Mtodo de Gauss-Seidel:

1) Critrio das linhas (j visto)
2) Critrio de Sassenfeld

Os critrios acima estabelecem condies

suficientes para a convergncia.

Mtodo de Gauss-Seidel
Convergncia - Critrio de Sassenfeld

Sejam
e

+ + +

n
j
j
n
a
a
a
a a a
2 11
1
11
1 13 12
1
| |
| |
| |
| | | | | |
n i a a a
a
a a a a a
ii
n
i j
ij j
i
j
ij
ii
in ii i ii i i
i

, 3 , 2 | | / |] | | | [
| |
| | | | | | | | | |
1
1
1
1 1 1 2 2 1 1
+
+ + + + +


+

+

Critrio de Sassenfeld

Seja
Se < 1, o mtodo de Gauss-Seidel gera
uma sequncia convergente para qualquer
. Quanto menor , mais rpida a
convergncia.
} { max
1
i
n i


) 0 (
x

Exemplos
Seja o sistema:

'

+ + +
+ +
+
+ +
5 . 2 2 . 0 3 . 0 1 . 0
0 . 1 2 . 0 2 . 0 1 . 0
6 . 2 1 . 0 2 . 0 2 . 0
2 . 0 1 . 0 1 . 0 5 . 0
4 3 2 1
4 3 2 1
4 3 2 1
4 3 2 1
x x x x
x x x x
x x x x
x x x x
274 . 0 1 / ] 358 . 0 2 . 0 44 . 0 2 . 0 7 . 0 1 . 0 [
| | / ] | | | | | [| | | / |] | | | [
358 . 0 1 / ] 2 . 0 44 . 0 2 . 0 7 . 0 1 . 0 [
| | / |] | | | | [| | | / |] | | | [
44 . 0 1 / ] 1 . 0 2 . 0 7 . 0 2 . 0 [
| | / |] | | | | [| | | / |] | | | [
7 . 0 1 / ] 1 . 0 1 . 0 5 . 0 [ | | / |] | | | | [| | | / ] | | [
44 3 43 2 42 1 41 44
4
1 4
4
1 4
1
4 4
33 34 2 32 1 31 33
4
1 3
3
1 3
1
3 3
22 24 23 1 21 22
4
1 2
2
1 2
1
2 2
11 14 13 12 11
4
2
1 1
+ +
+ + +
+ +
+ + +
+ +
+ + +
+ + + +

a a a a a a a
a a a a a a a
a a a a a a a
a a a a a a
j
j j
j
j
j
j j
j
j
j
j j
j
j
j
j

Exemplos

Ento,
de modo que o mtodo de Gauss-Seidel
converge.
1 7 . 0 } { max
1
<

i
n i

Exemplos
2. Seja o sistema:
Neste caso,
Trocando a 1 equao pela terceira,
Nesta disposio:

'

+
+
+ +
3 3
1
9 3 2
3 1
3 2
3 2 1
x x
x x
x x x
1 2 2 / ] 3 1 [
1
> +

'

+ +
+
+
9 3 2
1
3 3
3 2 1
3 2
3 1
x x x
x x
x x
1 3 1 / ] 3 0 [
1
> +

Exemplos
2. Agora se trocarmos a 1 coluna pela
terceira,
Nesta disposio:

'

+ +
+
+
9 2 3
1
3 3
1 2 3
2 3
1 3
x x x
x x
x x
3 / 2 2 // ) 3 / 1 ( 1 ) 3 / 1 ( 3 [
3 / 1 1 / ] 0 ) 3 / 1 ( 1 [
3 / 1 3 / ] 1 1 [
3
2
1
+
+
+
1 3 / 2 } { max
1
<

i
n i
Garantia de
convergncia

Exemplos
3. Seja o sistema:

O mtodo de Gauss-Seidel gera uma seqncia

convergente, apesar do critrio das linhas no ser
satisfeito.

Pelo critrio de Sassenfeld

'

+
3 3
3
2 1
2 1
x x
x x
3 / 1 3 / 1 1
1 1 / 1
2
1


O critrio de Sassenfeld
no satisfeito.
O critrio de Sassenfeld tambm
suficiente, mas no necessrio.

Metodos Iterativos - Comparao
Seja o sistema:
Mtodo de Gauss-Jacobi:
Temos a seqncia:

'

+
3 3
3
2 1
2 1
x x
x x
( )
) (
1
) 1 (
2
) (
2
) 1 (
1
3
3
1
3
k k
k k
x x
x x


+
+

,
_

,
_

,
_

,
_

,
_

3 / 4
3 / 4
,
3 / 5
1
,
2
2
,
1
3
,
0
0
) 4 ( ) 3 ( ) 2 ( ) 1 ( ) 0 (
x x x x x

Metodos Iterativos - Comparao
Seja o sistema:
Mtodo de Gauss-Seidel:
Temos a seqncia:

'

+
3 3
3
2 1
2 1
x x
x x
( )
) 1 (
1
) 1 (
2
) (
2
) 1 (
1
3
3
1
3
+ +
+


k k
k k
x x
x x

,
_

,
_

,
_

,
_

9 / 14
3 / 5
,
3 / 4
1
,
2
3
,
0
0
) 3 ( ) 2 ( ) 1 ( ) 0 (
x x x x

Metodos Iterativos - Comparao

Comentrio1: As duas seqncias convergem para a

soluo exata do sistema . Vejamos,
a) Gauss-Jacobi :
b) Gauss-Seidel:

Comentrio 2: A convergncia do Mtodo de Gauss-

Seidel mais rpida, por construo do mtodo.

Comentrio 3: Embora a ordem das equaes num

sistema linear no mude a soluo exata, as seqncias
geradas pelos Mtodos de Gauss-Jacobi e Gauss-Seidel
dependem fundamentalmente da disposio das equaes
( ) 5 . 1 5 . 1 x
( ) 56 . 1 67 . 1
) 3 (

GS
x
( ) 33 . 1 33 . 1
) 4 (

GJ
x

Mtodos Direto e Iterativos
Comparao
1) Convergncia:

Os Mtodos Diretos so processos finitos

portanto fornecem soluo para qualquer
sistema linear no-singular.

Os Mtodos Iterativos tm convergncia

assegurada sob certas condies.

Mtodos Direto e Iterativos
Comparao
2) Esparsidade da Matriz :
Em problemas reais, como a discretizao de EDOs pelo
Mtodo de Elementos Finitos ou Diferenas Finitas, as
matrizes dos coeficientes tornam-se esparsas. A forma de
armazenamento destes dados tira proveito da esparsidade.

Mtodos diretos em sistemas esparsos provocam o

preenchimento da matriz e no processo de Eliminao
(escalonamento) geram elementos no-nulos, onde originalmente
tnhamos elementos nulos. Tcnicas especiais de pivoteamento
reduzem este preenchimento. Fatoramento LU do bons
resultados. Algumas situaes estes mtodos no so possveis.

Mtodos iterativos no alteram a estrutura da matriz dos

coeficientes. Vantagem.
A

Mtodos Direto e Iterativos
Comparao
3) Erros de Arredondamento

Mtodos Diretos tm problemas de

arredondamento. Tcnicas de Pivoteamento
amenizam tais erros.

Mtodos iterativos tm menos erros de

arredondamento, quando a convergncia
estiver assegurada.
A

Lista de Mtodos para
Sistemas Lineares

Fazer exerccios 3, 5, 9,14, 22, 29 do

livro texto.