Sistemas Lineares

Parte 2
Mtodos Iterativos

Introduo
Mtodos

diretos: eliminao por Gauss,

fatorao LU, fatorao de Cholesky, ...
Fornecem soluo de qualquer sistema.
Para minimizar problemas de
arredondamento, adota-se o pivoteamento.
Mtodos iterativos: podem ser mais rpidos e
necessitar de menos memria do
computador. Fornecem seqncias que
convergem para a soluo sob certas
condies.

Introduo
n
A x b um sistema linear de ordem
.
A idia generalizar o mtodo do ponto fixo,
escrevendo o sistema linear na forma
xC x g
onde C uma matriz de ordem n e g um
vetor coluna n 1 .
(0)
Dado um vetor aproximao inicial x , cons(1)
( 0)
trumos iterativamente:
x C x g
x ( 2) C x (1) g
Seja

Introduo
Se a seqncia x

( 0)

, x

(1)

, ....., x

(k )

convergir

Lim x ( k ) C x ( k 1) g
k grande

Ento a soluo do sistema linear

A x b com

Teste de Parada
(k )

Se a seqncia x estiver suficientemente

( k 1)
prximo de x
paramos o processo.
Dada um preciso , quando

(k )

MAX
1i n

k
xi

k 1
xi

(k )
x
ento
a soluo do sistema linear.
Computacionalmente, um nmero mximo
de iteraes tambm critrio de parada.

MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Seja o sistema linear

a11 x1 a12 x 2 a13 x3 ...... a1n x n b1

a 21 x1 a 22 x 2 a 23 x3 ...... a 2 n x n b2
.........................................................
a n1 x1 a n 2 x 2 a n 3 x3 ...... a nn x n bn
Se a ii 0 para i 1...n podemos isolar
x C x g por separao da diagonal.

MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Iterativamente, o sistema reescreve-se como:
x1

( k 1)

x2

( k 1)

1
(k )
(k )
(k )

b1 a12 x 2 a13 x3 ...... a1n x n

a11

1
(k )
(k )
(k )

b2 a 21 x1 a 23 x3 ...... a 2 n x n
a 22

.........................................................
1
( k 1)
(k )
(k )
(k )
xn

bn a n1 x1 a n 2 x 2 ...... a n ,n 1 x n 1
a nn

MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Desta forma temos x C x g , onde

a 21 / a 22
C
........

a /a
n1
nn

a12 / a11
0

a1n / a11

....... a 2 n / a 22

b1 / a11

b2 / a 22

......

.........

.......

.........

a n 2 / a nn

.......

.......

b /a
n nn

Do mtodo de Gauss-Jacobi, dado x ( 0) ,

(1)
Obtemos x , ....., x ( k 1) atravs da relao
recursiva
( k 1)
(k )
x
C x g

MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Exemplo:Seja o sistema linear

10 x1 2 x 2 x 3 7
1 x1 5 x 2 x3 8
2 x1 3 x 2 10 x 3 6

Seja

x ( 0)

0.7

1.6
0.6

com 0.05 . Portanto,

2 / 10 1 / 10

C 1/ 5
0
1 / 5 3 / 10

1/ 5
0

7 / 10 0.7

g 8 / 5 1.6
6 / 10 0.6

MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Substituindo
(1)

0.2 x 2

( 0)

0. 1 x 3

x2

(1)

0.2 x1

( 0)

x3

(1)

0.2 x1

( 0)

x1

(1)
Segue x

(0)

0.7 0.2 (1.6) 0.1 (0.6) 0.7 0.96

0. 2 x 3

(0)

1.6 0.2 (0.7) 0.2 (0.6) 1.6 1.86

0. 3 x 2

(0)

0.6 0.2 (0.7) 0.3 (1.6) 0.6 0.94

0.96

1.86
0.94

d1(1) x1(1) x1( 0) 0.26 0.05

. Calculando d 2(1) x 2(1) x 2( 0) 0.26 0.05

d 3(1) x3(1) x3( 0) 0.34 0.05

MTODOS ITERATIVOS
MTODO DE GAUSS-JACOBI
Continuando

x ( 2)

0.978

1.98 com
0.966

d ( 2) MAX xi 2 xi 1 0.12
1i n

Segue

x ( 3)

0.999

a soluo, pois
1.999
0.998

d (3) MAX xi(3) xi( 2 ) 0.032

1 i n

critrio de parada

Critrios de Convergncia
Nos

mtodos iterativos so necessrios

critrios que garantam a convergncia.

Um

critrio para a convergncia do Mtodo

de Gauss-Jacobi dado pelo:
1) Critrio das linhas.

Mtodo de Gauss-Jacobi
Convergncia: Critrio das linhas
Teorema

Critrio das linhas

n

Dado o sistema A x b, seja k ( | a kj |) / | a kk |

j 1
j k

Se max k 1 , ento o mtodo de Gauss1 k n

Jacobi gera uma srie convergente para a
soluo do sistema independentemente da
( 0)
x
escolha de
.

Mtodo de Gauss-Jacobi
Convergncia: Critrio das linhas

Exemplo:Considere o sistema j estudado

10 x1 2 x 2 x3 7
1 x1 5 x 2 x3 8
2 x1 3 x 2 10 x 3 6

10 2 1

A 1 5 1
2 3 10

Critrio das linhas:

2 1
1
0.3 1
10

Logo,

max k 0.5 1
1 k n

11
2
0.4 1
5

23
0.5 1
10

convergncia OK!

Mtodo de Gauss-Jacobi
Convergncia: Critrio das linhas

x1 x 2 3

Obs1: O sistema

x1 3 x 2 3

converge pelo mtodo de Gauss-

k 1 . Isto mostra que o Teorema das

Jacobi. No entanto, 1max
k n
linhas apenas suficiente para convergncia.

Obs2: O sistema

1 x1 3 x 2 x 3 2
5 x1 2 x 2 2 x3 3
0 x1 6 x 2 8 x 3 6

Contudo, o sistema
Equivalente converge
pelo critrio das linhas

max k 4
1 k n

5 x1 2 x 2 2 x3 3
1 x1 3 x 2 x3 2
0 x1 6 x 2 8 x3 6

max k 0.8 1
1 k n

MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Seja o sistema linear

a11 x1 a12 x 2 a13 x3 ...... a1n x n b1

a 21 x1 a 22 x 2 a 23 x3 ...... a 2 n x n b2
.........................................................
a n1 x1 a n 2 x 2 a n 3 x3 ...... a nn x n bn
Se a ii 0 para i 1...n podemos isolar
x C x g por separao da diagonal.

MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Iterativamente, o sistema reescreve-se como:
x1

( k 1)

x2

( k 1)

1
(k )
(k )
(k )

b1 a12 x 2 a13 x3 ...... a1n x n

a11

1
( k 1)
(k )
(k )

b2 a 21 x1
a 23 x 3 ...... a 2 n x n
a 22

.........................................................
1
( k 1)
( k 1)
( k 1)
( k 1)
xn

bn a n1 x1
an2 x2
...... a n ,n 1 x n 1
a nn

MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Comentrio: Gauss-Jacobi X Gauss-Seidel
O Mtodo de Gauss-Seidel uma variao
do Mtodo de Gauss-Jacobi, pois para
( k 1)
calcular x j utilizamos os valores
x1

( k 1)

, x2

( k 1)

, x3

( k 1)

, ..... , x j 1

( k 1)

j calculados e os valores restantes

x j 1

( k 1)

, x j 2

( k 1)

, ..... , x n

( k 1)

MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
5 x1 1 x 2 1 x3 5

Exemplo:Seja o sistema linear

Seja

x ( 0)

0

0
0

x1

( k 1)

x2

( k 1)

x3

( k 1)

3 x1 4 x 2 1 x3 6
3 x1 3 x 2 6 x3 0

com 0.05 . Portanto,

0.2 x
1.5 0.75 x
0.25 x

0 0.5 x
0.5 x

1 0.2 x 2

(k )

(k )

( k 1)

(k )

( k 1)

( k 1)

MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Logo, a primeira iterao fornece
x1

(1)

x2

(1)

x3

(1)

0.2 x 1 0 0 1
1.5 0.75 x 0.25 x 1.5 0.75 1 0.25 0 0.75
0 0.5 x 0.5 x 0.5 1 0.5 0.75 0.88

1 0.2 x 2

(0)

(1)

(0)

(1)

(1)

(0)

0.75
0.88

(1)

(1)

x1

x2

(1)

x2

(0)

0.75 0 0.75

x3

(1)

x3

(0)

0.88 0 0.88

x1

(0)

1 0 1

MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Logo, a segunda iterao fornece
x1

x ( 2)

( 2)

x2

( 2)

x3

( 2)

1.03

0.95
0.99

0.2 x 1.03
1.5 0.75 x
0.25 x 0.95
0 0.5 x
0.5 x 0.99

1 0.2 x 2

(1)

(1)

( 2)

(1)

( 2)

( 2)

( 2)

x1

x2

( 2)

x2

(1)

0.2

x3

( 2)

x3

(1)

0.11

x1

(1)

0.03

MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Logo, a terceira iterao fornece
x1

x ( 3)

( 3)

x2

( 3)

x3

( 3)

1.01

0.99
1.00

0.2 x 1.01
1.5 0.75 x 0.25 x 0.99
0 0.5 x 0.5 x 1.00

1 0.2 x 2

( 2)

( 2)

( 3)

( 2)

( 3)

( 3)

( 3)

x1

x2

( 3)

x2

( 2)

0.04

x3

( 3)

x3

( 2)

0.01

x1

( 2)

0.02

MTODOS ITERATIVOS
MTODO DE GAUSS-SEIDEL
Logo, aps a terceira iterao
x x ( 3)

1.01

0.99
1.00

soluo do sistema considerado com erro

menor do que 0.05 .

Critrios de Convergncia

Nos mtodos iterativos so necessrios

critrios que garantam a convergncia.

Convergncia para o Mtodo de Gauss-Seidel:

1) Critrio das linhas (j visto)
2) Critrio de Sassenfeld

Os critrios acima estabelecem condies

suficientes para a convergncia.

Mtodo de Gauss-Seidel
Convergncia - Critrio de Sassenfeld
Sejam

| a12 | | a13 | | a1n |

1

| a11 |

| a1 j |

|a
j 2

11

e
| a i1 | 1 | a i 2 | 2 | a ii 1 | i 1 | a ii 1 | | a in |
i
| a ii |
[

i 1

| a
j 1

ij

| j

| a

j i 1

ij

|] / | a ii | i 2,3, n

Critrio de Sassenfeld
Seja

max{ i }
1i n

Se < 1, o mtodo de Gauss-Seidel gera

uma sequncia convergente para qualquer
(0)
x
Quanto menor , mais rpida a
convergncia.

Exemplos

x1 0.5 x 2 0.1x3 0.1x 4 0.2

0.2 x1 x 2 0.2 x 3 0.1x 4 2.6

Seja o sistema:
1 [

| a

1j

0.1x1 0.2 x 2 x 3 0.2 x 4 1.0

0.1x1 0.3 x 2 0.2 x3 x 4 2.5

|] / | a11 | [| a12 | | a13 | | a14 |] / | a11 | [0.5 0.1 0.1] / 1 0.7

j 2

2 [

2 1

| a

2j

| j

j 1

| a

2j

|] / | a 22 | [| a 21 | 1 | a 23 | | a 24 |] / | a 22 |

j 2 1

[0.2 0.7 0.2 0.1] / 1 0.44

3 [

31

| a

3j

| j

j 1

| a

3j

|] / | a 33 | [| a 31 | 1 | a 32 | 2 | a 34 |] / | a 33 |

j 31

[0.1 0.7 0.2 0.44 0.2] / 1 0.358

4 [

4 1

| a
j 1

4j

| j

| a

4j

|] / | a 44 | [| a 41 | 1 | a 42 | 2 | a 43 | 3 ] / | a 44 |

j 4 1

[0.1 0.7 0.2 0.44 0.2 0.358] / 1 0.274

Exemplos
Ento,

max{ i } 0.7 1
1i n

de modo que o mtodo de Gauss-Seidel

converge.

Exemplos
2. Seja o sistema:

2 x1 x 2 3 x3 9

x 2 x3 1

x
1

3 x3 3

Neste caso, 1 [1 3] / 2 2 1
Trocando a 1 equao pela terceira,
x1

3x3 3
x 2 x3 1

2 x x 3x 9
2
3
1

Nesta disposio: 1 [0 3] / 1 3 1

Exemplos
2. Agora se trocarmos a 1 coluna pela

terceira,

x1 3
3x3

1
x3 x 2

3x x 2 x 9
2
1
3

Nesta disposio:
1 [1 1] / 3 1 / 3
2 [1 (1 / 3) 0] / 1 1 / 3
3 [3 (1 / 3) 1 (1 / 3) // 2 2 / 3

max{ i } 2 / 3 1
1i n

Garantia de
convergncia

Exemplos
3.

x1 x 2 3
Seja o sistema:
x1 3x 2 3

O mtodo de Gauss-Seidel gera uma seqncia

convergente, apesar do critrio das linhas no ser
satisfeito.
Pelo critrio de Sassenfeld

1 1 / 1 1
2 11/ 3 1/ 3

O critrio de Sassenfeld
no satisfeito.
O critrio de Sassenfeld tambm
suficiente, mas no necessrio.

Metodos Iterativos - Comparao

x1 x 2 3
Seja o sistema: x 3 x 3
2
1
x1( k 1) 3 x 2( k )
Mtodo de Gauss-Jacobi:

x 2( k 1)

1
3 x1( k )
3

Temos a seqncia:
x

(0)

0

0

(1)

3

1

, x

( 2)

2

2

, x

( 3)

5 / 3

, x

( 4)

4 / 3

4 / 3

Metodos Iterativos - Comparao

x1 x 2 3
Seja o sistema:
x1 3x 2 3
x1( k 1) 3 x 2( k )

Mtodo de Gauss-Seidel:

x 2( k 1)

1
3 x1( k 1)
3

Temos a seqncia:
x

(0)

0

0

(1)

3

2

( 2)

4 / 3

, x

( 3)

5/3

14 / 9

Metodos Iterativos - Comparao

Comentrio1: As duas seqncias convergem para a
soluo exata do sistema x 1.5 1.5 . Vejamos,
( 4)
x
a) Gauss-Jacobi : GJ 1.33 1.33
b) Gauss-Seidel: xGS (3) 1.67 1.56
Comentrio 2: A convergncia do Mtodo de GaussSeidel mais rpida, por construo do mtodo.
Comentrio 3: Embora a ordem das equaes num
sistema linear no mude a soluo exata, as seqncias
geradas pelos Mtodos de Gauss-Jacobi e Gauss-Seidel
dependem fundamentalmente da disposio das equaes

Mtodos Direto e Iterativos

Comparao
1) Convergncia:
Os Mtodos Diretos so processos finitos

portanto fornecem soluo para qualquer

sistema linear no-singular.
Os Mtodos Iterativos tm convergncia

assegurada sob certas condies.

Mtodos Direto e Iterativos

Comparao
2) Esparsidade da Matriz A :
Em problemas reais, como a discretizao de EDOs pelo
Mtodo de Elementos Finitos ou Diferenas Finitas, as
matrizes dos coeficientes tornam-se esparsas. A forma de
armazenamento destes dados tira proveito da esparsidade.

Mtodos diretos em sistemas esparsos provocam o

preenchimento da matriz e no processo de Eliminao
(escalonamento) geram elementos no-nulos, onde originalmente
tnhamos elementos nulos. Tcnicas especiais de pivoteamento
reduzem este preenchimento. Fatoramento LU do bons
resultados. Algumas situaes estes mtodos no so possveis.

Mtodos iterativos no alteram a estrutura da matriz dos

coeficientes. Vantagem.

Mtodos Direto e Iterativos

Comparao
A
3) Erros de Arredondamento
Mtodos Diretos tm problemas de

arredondamento. Tcnicas de Pivoteamento

amenizam tais erros.
Mtodos iterativos tm menos erros de
arredondamento, quando a convergncia
estiver assegurada.

Lista de Mtodos para

Sistemas Lineares

Fazer exerccios 3, 5, 9,14, 22, 29 do

livro texto.