Notação Caracterização Objetivo Exemplos Conclusão

Exemplos de Trajetória Central em

Programação Semidefinida 1

Mayk Joaquim dos Santos

E-mail: mayk.mat@gmail.com

Instituto de Matemática e Estatística

Universidade Federal de Goiás

Goiânia, 19 de Outubro de 2010

1
Orientado pelo Professor Orizon Pereira Ferreira
(E-mail:orizon@mat.ufg.br).
Notação Caracterização Objetivo Exemplos Conclusão

Roteiro

Notação
=> Notações

Caracterização
=> Caracterização

Objetivo
=> Objetivo

Exemplos
=> Exemplo

Conclusão
=> Conclusão
Notação Caracterização Objetivo Exemplos Conclusão

Notações

• S n é o espaço das matrizes simétricas

• O produto interno h , i é definido por hU , V i = traço(UV ),

n o cone das matrizes simétricas positivas
• S+
semi-definidas
n seu interior.
• S++

• Dados A1 , ..., Am ∈ S n ,

• A : S n → IR m operador linear, onde

T
AX = hA1 , X i, ..., hAm , X i ,
• A∗ : IR m → S n operador adjunto de A, onde
Pm
A∗ y = i=1 yi Ai .
Notação Caracterização Objetivo Exemplos Conclusão

Problemas Primal e Dual

Os problemas de programação semi-definida na forma primal e

dual são definidos, respectivamente, por:

 
T
minX hC , X i,
 maxy b y ,

(P) s.t. AX = b, (D) s.t. A∗ y + S = C,
 
 n,
X ∈ S+

S ∈ S+n,

onde C ∈ S n , b ∈ IR m , A1 , ..., Am ∈ S n são dados e X ∈ S+

n ,

y ∈ IR m e S ∈ S+n são as variáveis.

Notação Caracterização Objetivo Exemplos Conclusão

Condições de Otimalidades

As condições de otimalidades destes problemas é dada pelo

seguinte sistema

n
AX = b, X ∈ S++ ,

A∗ y + S = C, S ∈ S++ n ,

XS = 0.

Notação Caracterização Objetivo Exemplos Conclusão

Trajetória Central

A trajetória central primal e dual são dadas por:


n
AX = b, X ∈ S++ ,

(PD) A∗ y + S = C, S ∈ S++ n ,

XS = µI, µ ∈ IR+ .


• Se {A1 , ..., Am } são L.I.

• Fo (P) = {X ∈ S n : AX = b, X ∈ S++
n }=
6 ∅
• Fo (D) = {(y , S) ∈ IR m × S n : A∗ y + S = C, S ∈ S++
n }=
6 ∅
Notação Caracterização Objetivo Exemplos Conclusão

Teorema
Suponha que Fo (P) e Fo (D) são não vazios. Então para todo
µ > 0, existe uma única solução (X (µ), y (µ), S(µ)) para (PD).
Notação Caracterização Objetivo Exemplos Conclusão

Teorema
Suponha que Fo (P) e Fo (D) são não vazios. Então para todo
µ > 0, existe uma única solução (X (µ), y (µ), S(µ)) para (PD).

Definição
• F(P)= {X ∈ S n : AX = b, X ∈ S+
n },

• F(D)= {(y , S) ∈ IR m × S n : A∗ y + S = C, S ∈ S+
n },

• F∗ (P)= {X ∗ ∈ F(P) : hX ∗ , Ci 6 hX , Ci, ∀X ∈ F(P)},

• F∗ (D)= {(y ∗ , S ∗ ) ∈ F(D) : b T y ∗ 6 b T y , ∀(y , S) ∈ F(D)}.
Notação Caracterização Objetivo Exemplos Conclusão

Teorema
Suponha que Fo (P) e Fo (D) são não vazios. Então para todo
µ > 0, existe uma única solução (X (µ), y (µ), S(µ)) para (PD).

Definição
• F(P)= {X ∈ S n : AX = b, X ∈ S+
n },

• F(D)= {(y , S) ∈ IR m × S n : A∗ y + S = C, S ∈ S+
n },

• F∗ (P)= {X ∗ ∈ F(P) : hX ∗ , Ci 6 hX , Ci, ∀X ∈ F(P)},

• F∗ (D)= {(y ∗ , S ∗ ) ∈ F(D) : b T y ∗ 6 b T y , ∀(y , S) ∈ F(D)}.

Teorema
Na ausência da estrita complementaridade, a trajetória central
{(X , S) : µ > 0, XS = µI, X ∈ F(P) e S ∈ F(D)} tem um único
ponto limite em F∗ (P)×F∗ (D).
Notação Caracterização Objetivo Exemplos Conclusão

Presença de Estrita Complementaridade

Na presença de estrita complementaridade temos a seguinte

decomposição
   
XB XBN SB SBN
X = t , S= t .
XBN XN SBN SN

A ordem de convergência:
√
XB (µ) = Θ(1), XBN (µ) = Θ( µ), XN (µ) = Θ(µ),
√
SB (µ) = Θ(µ), SBN (µ) = Θ( µ), SN (µ) = Θ(1).
Notação Caracterização Objetivo Exemplos Conclusão

Ausência de Estrita Complementaridade

Na ausência de estrita complementaridade temos a seguinte
decomposição
   
XB XBT XBN SB SBT SBN
X = XBTt XT XTN  S = SBT t ST STN  ,
t t
XBN XTN XN t
SBN STNt SN

A ordem de convergência:
√
XB (µ) = Θ(1), XBN (µ) = Θ( µ), XN (µ) = Θ(µ),

XT (µ) = Θ(?), XTB (µ) = Θ(?), XTn (µ) = Θ(?)

√
SB (µ) = Θ(µ), SBN (µ) = Θ( µ), SN (µ) = Θ(1).
ST (µ) = Θ(?), STB (µ) = Θ(?), STN (µ) = Θ(?).
Notação Caracterização Objetivo Exemplos Conclusão

Objetivo

O objetivo é mostrar que a medida que as matrizes de entrada

cresce a velocidade de convergência a zero, do bloco onde a
estrita complementaridade falha, da trajetória central primal
diminui e da trajetória dual permanece constante.
Notação Caracterização Objetivo Exemplos Conclusão

Exemplo

T
n = 5, m = 4, b = 1 0 0 0
     
1 0 0 0 0 0 0 1 0 0 0 0 0 1 0
0 0 0 0 0 0 1 0 0 0 0 0 0 0 0
     
0
A1 =  0 0 0 0 , A2 = 1 0 0 0 0 , A3 = 0 0 1 0 0,
 
0 0 0 0 0  0 0 0 0 0  1 0 0 0 0
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
   
0 0 0 0 1 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0
   
0
A4 =  0 0 0 0 , 0
C= 0 0 0 0 .
0 0 0 1 0 0 0 0 0 0
1 0 0 0 0 0 0 0 0 1
Notação Caracterização Objetivo Exemplos Conclusão

Problemas Primal e Dual

Então os problemas primal e dual são dados, respectivamente,

por
   

 1 X12 −1/2X22 −1/2X33 −1/2X44 



  X12 X22 X23 X24 X25 



 
min x55 −1/2X22 X23
: X33 X34 X35    0 ,


 −1/2X33 X24 X34 X44 X45 



 
−1/2X X X X45  X55
 
 44
 25 35

 −y1 0 −y4 −y3 −y2 



  0 −y4 0 0 0 



 
max y1 : 
 −y4 0 −y 3 0 0 
  0 .
−y3 0 0 −y2 0 

 


 

−y2 0 0 0 1
 
Notação Caracterização Objetivo Exemplos Conclusão

Ponto Interior

O ponto interior primal é dado por:

 
1 0 −1/16 −1/8 −1/4
 0 1/8 0 0 0 
X0 = 
 
−1/16 0 1/4 0 0  ,
 −1/8 0 0 1/2 0 
−1/4 0 0 0 1

e o ponto interior dual é dado por:

 
1 0 1/8 1/4 1/2
 0 1/8 0 0 0 
S0 = 
 
1/8 0 1/4 0 0 .
1/4 0 0 1/2 0 
1/2 0 0 0 1
Notação Caracterização Objetivo Exemplos Conclusão

Pontos Viáveis

Existem X ∗ e (S ∗ , y ∗ ) viáveis para os problemas primal e dual,

respectivamente, tais que

lim X (µ) = X ∗ , lim S(µ) = S ∗ .

µ→0+ µ→0+

Vale a igualdade X (µ)S(µ) = µI para µ > 0.

Notação Caracterização Objetivo Exemplos Conclusão

Equações que Define a Trajetória

Central (PD)

Usando esta igualdade temos:

1 1 1
−y1 (µ) + X22 (µ)y4 (µ) + X33 (µ)y3 (µ) + X44 (µ)y2 (µ) = µ,
2 2 2
−X22 (µ)y4 (µ) = µ
1
X22 (µ)y4 (µ) − X33 (µ)y3 (µ) = µ,
2
1
X33 (µ)y3 (µ) − X44 (µ)y2 (µ) = µ,
2
1
X44 (µ)y2 (µ) + X55 (µ) = µ.
2
Notação Caracterização Objetivo Exemplos Conclusão

Equações que Define a Trajetória

Central (PD)

Após substituições adequadas no sistema anterior obtemos o

seguinte sistema equivalente

25
−y 1(µ) = µ
8
−X22 (µ)y4 (µ) = µ
3
−X33 (µ)y3 (µ) = µ
2
7
−X44 (µ)y2 (µ) = µ
4
15
X55 (µ) = µ
8
Notação Caracterização Objetivo Exemplos Conclusão

Pontos Ótimos

Assim, usando a primeira e ultima igualdade do sistema acima

é fácil concluir que
(
∗ ∗ 1, i = j = 1
lim+ X (µ) = X , Xij =
µ→0 0, caso contrário.
(
0, caso contrário,
lim S(µ) = S ∗ , Sij∗ =
µ→0+ 1, i = j = 5.
Notação Caracterização Objetivo Exemplos Conclusão

Ordem de Convergência

Como X (µ) ≻ 0, vale a seguinte desigualdade

q
Xii (µ) Xjj (µ) ≥ | Xij (µ)|, i, j = 1, . . . , 5.

Lembre-se que X (µ) é viável para o problema primal. Então,

usando a expressão de X (µ) e a igualdade acima temos

1
2(X33 (µ)) 2 ≥ X22 (µ) i = 1, j = 3,
1
2(X44 (µ)) ≥ X33 (µ)
2 i = 1, j = 4,
1
2(X55 (µ)) ≥ X44 (µ)
2 i = 1, j = 4.
Notação Caracterização Objetivo Exemplos Conclusão

Ordem de Convergência

Assim temos as respectivas ordens

1
X22 (µ) = O(µ 8 ),
1
X33 (µ) = O(µ 4 ),
1
X44 (µ) = O(µ 2 ).
Notação Caracterização Objetivo Exemplos Conclusão

Ordem de Convergência

Como X (µ) ≻ 0, vale a seguinte desigualdade

q
Sii (µ) Sjj (µ) ≥ | Sij (µ)|, i, j = 1, . . . , 5.

Lembre-se que S(µ) é viável para o problema dual. Então,

usando a expressão de S(µ) e a desigualdade acima temos
1
| − y1 (µ)| 2 ≥ | − y2 (µ)| i = 1, j = 5,
1 1
| − y1 (µ)| | − y2 (µ)| ≥ | − y3 (µ)|
2 2 i = 1, j = 4,
1 1
| − y1 (µ)| | − y3 (µ)| ≥ | − y4 (µ)|
2 2 i = 1, j = 3.
Notação Caracterização Objetivo Exemplos Conclusão

Ordem de Convergência

Assim temos as respectivas ordens

7
y4 (µ) = O(µ 8 ),
3
y3 (µ) = O(µ 4 ),
1
y2 (µ) = O(µ 2 ).
Notação Caracterização Objetivo Exemplos Conclusão

Velocidade de Convergência

Logo temos as seguintes velocidade de convergência

1 7
X22 (µ) = Θ(µ 8 ), y4 (µ) = Θ(µ 8 ),
1 3
X33 (µ) = Θ(µ 4 ), y3 (µ) = Θ(µ 4 ),
1 1
X44 (µ) = Θ(µ 2 ), y2 (µ) = Θ(µ 2 ).
Notação Caracterização Objetivo Exemplos Conclusão

Velocidade de Convergência

Logo temos as seguintes velocidade de convergência

1 7
X22 (µ) = Θ(µ 8 ), y4 (µ) = Θ(µ 8 ),
1 3
X33 (µ) = Θ(µ 4 ), y3 (µ) = Θ(µ 4 ),
1 1
X44 (µ) = Θ(µ 2 ), y2 (µ) = Θ(µ 2 ).

Por tanto a velocidade de convergência dos bloco XT e ST são

dadas, respectivamente por
1 1
XT (µ) = Θ(µ 8 ), ST (µ) = Θ(µ 2 ).
Notação Caracterização Objetivo Exemplos Conclusão

Conclusão

Procedendo por indução podemos provar que para matrizes de

entrada com dimensões arbitrarias, digamos n, e o bloco, onde
a estrita complementaridade falha, são iguais à n − 2 então
1 1
XT (µ) = Θ(µ 2n−2 ), ST (µ) = Θ(µ 2 ).
Appendix

Referências I
Cruz Neto, J. X. da; Ferreira, O. P.; Monteiro, R. D. C.
Asymptotic behavior of the central path for a special class
of degenerate SDP problems,
Mathematical Programming, 103, no. 3, 487-514 (2005).
da Costa E.
Uma classe de trajetórias centrais em programação
semidefinida que não convergem para o centro analítico da
face ótima na ausência da estrita complementaridade
Relatório PIBIC/UFG, (2008), pp. 1-12.
Klerk E. de
Aspects of semidefinite programming: interior point
algorithms and selected applications.
Applied Optimization Series 65. Kluwer Academic Press,
Dordrecht, The Netherlands, 2002.
Appendix

Referências II

Kojima,M.; Shindoh, S.; Hara, S.

Interior-point methods for the monotone semidefinite linear
complementarity problem in symmetric matrices,
SIAM Journal on Optimization, 7 (1997), pp. 86–125.
Porto, D.
Novas Classes de Exemplos de Trajetória Central em
Programação Semidefinida,
Relatório PIBIC/UFG, (2008), pp. 1-12.
Todd, M.J.
Semidefinite optimization
in Acta Numerica 10 (2001), pp. 515–560.
Appendix

Obrigado!.