OMEE Otimização-2016

PPGEE Programa de Ps-graduao em Engenharia Eltrica - EE
EEE 934 A - Operao de Mercados de

Energia Eltrica
Noes de Otimizao
Profa. Wadaed Uturbey CPDEE/UFMG

wadaed@cpdee.ufmg.br
Sala 2128 DEE/EE
Fone: 34094828
OMEE
O problema de programao matemtica:
Escolher o vetor x = (x1, x2, ... , xn)T de forma

a maximizar ou minimizar uma funo-objetivo
f(x1, x2, ... , xn).
Funo-objetivo:
Custos
Perdas
Benefcios
Desvios
Um ponto xo mnimo global de f(x) se:

f(xo) f(x)
para todo x
(1)
Se f(xo) < f(x) para xo x, o mnimo dito

nico.
Se (1) se verifica na vizinhana de xo, o mnimo
dito local ou relativo
Wadaed Uturbey EE/UFMG
OMEE
Restries:
Condies que devem ser satisfeitas ao mesmo tempo em
que otimizada a funo objetivo.
So representadas por funes e/ou limites em variveis.
Maximizao / minimizao irrestrita: as variveis xi podem

assumir quaisquer valores.
Maximizao / minimizao com restries (ou restrita):
as variveis xi podem assumir valores dentro de um
conjunto de valores pr-definidos.
Minimizao Irrestrita
Condies necessrias e suficientes para determinao de
mnimo irrestrito
Se f(x) contnua e possui primeira e segunda derivadas parciais para
todo x, as Condies Necessrias para que xO seja o mnimo so:
(1) Derivadas parciais de primeira ordem avaliadas em xO

nulas,
(2) Matriz de derivadas parciais de segunda ordem

avaliadas em xO semidefinida positiva.
Um ponto que satisfaz apenas a primeira condio chamado de

ponto estacionrio.
Condies de suficincia para ter mnimo relativo: a matriz de

derivadas parciais de segunda ordem de f(x) avaliada em xO deve
ser definida positiva.
Wadaed Uturbey - EE/UFMG
Mtodos para Determinao de Mnimo Irrestrito

A abordagem direta para encontrar o ponto candidato a mnimo
(timo) a resoluo do sistema de equaes definido pela
condio necessria de timo (derivadas parciais nulas no timo).
Problemas:
f(x) pode ter expresso complexa, com derivadas parciais
difceis de determinar;
O ponto encontrado dessa forma pode ser mnimo, mximo
ou ponto de sela. Deve-se testar as condies nas
derivadas parciais de segunda ordem maior
complexidade.
Mtodo Steepest Descent.
Mtodo do Gradiente.
Mtodos de segunda ordem.
Mtodos que utilizam direes conjugadas.
Fletcher e Powell.
Gradiente conjugado.
Minimizao sem derivadas.
Minimizao com Restries

Problema geral:
Minimizar f(x)
Sujeita a:
gi(x) = 0
hj(x) 0
i=1, ... ,p
j=1, ... ,q
Vemos que, em geral,:

Restries de igualdade, descrevem a operao do
sistema (fluxos de potncia, equaes de continuidade da
gua nos reservatrios, etc.);
Restries de desigualdade referem-se aos limites
operacionais.
Programao linear (PL): quando f, gi, hi so lineares
Programao no-linear (PNL): alguma das funes (funoobjetivo
ou restries) no linear.
Programao Linear - PL
Programao Linear (PL)

Maximizar
z x1 3x2
sujeito a:
x1 x2 1
x1 x2 2
x1 0;
x2 0
Grfico das restries REGIO VIVEL (ou factvel)

Extremos do conjunto: nmero finito
Famlia de retas paralelas definidas pela funo-objetivo:
x1 3x2 cons tan te z
Observar que o valor mximo de z atingido quando:

z = 5;
com x1 = 1/2
x2 = 3/2
Se o problema fosse de minimizao, o mnimo seria atingido para:

z = 0;
com x1 = x2 = 0.
Programao Linear (PL)

Maximizar
sujeito a:
z 2 x1 2 x2
x1 x2 1
x1 x2 2
x1 0;
Ponto timo em
x1 1 / 2 e x1 2
x2 0
x2 3 / 2
e o segmento de reta determinado por eles.
x2 0
Removendo uma restrio, a regio vivel ilimitada (aberta) e a

soluo ilimitada.
Tipos de Soluo:
Soluo tima limitada

No infinito de solues timas
Soluo ilimitada
Soluo invivel (sem soluo)
Concluso: O ponto timo sempre se localiza em um extremo
(vrtice) da regio vivel.
Base do mtodo SIMPLEX Dantzig 1947
Programao No Linear - PNL
Programao No Linear
Programao No Linear
Programao No Linear
Programao No Linear
Programao No Linear
Como consequncia da no linearidade:
O timo de um PNL em geral no um vrtice do conjunto de

restries, quando estas formam um poliedro convexo;
O timo de um PNL pode no pertencer fronteira da regio vivel;

Um PNL pode possuir vrios timos locais, diferentes do timo
global da funo objetivo;
Para os PNL convexos garante-se que no existem mnimos locais

diferentes.
Em geral impossvel demonstrar que um algoritmo atinge um timo

global, a menos que o problema seja convexo.
Para problemas no convexos, o algoritmo em geral encontra um

timo local (que depende do ponto inicial).
Derivar condies de otimalidade para PNL
Programao No Linear
Problema geral a estudar:
Min f (x)
g i ( x) 0
s. a:
h j ( x) 0
i 1, , p
j 1, , q
Um ponto x R n
que satisfaa todas as restries denominado

ponto vivel ou factvel.
Os mtodos utilizados na soluo do problema geral so de dois

tipos: os que percorrem pontos viveis e os que percorrem pontos
inviveis (Ex: mtodo de pontos interiores).
Chamam-se de Restries Ativas ou Limitantes s restries de

desigualdade nas quais no ponto timo se verifica a igualdade.
Seja K o conjunto dos ndices das restries ativas,

h j ( x* ) 0 com j K
Minimizao com Restries

Regio Factvel ou Vivel:
Regio delimitada pelo conjunto de restries. Qualquer soluo
(mnimo/mximo da funo-objetivo) dentro desta regio satisfaz
simultaneamente as restries.
Solues fora desta regio de factibilidade so chamadas de
solues infactveis.
Restrio Ativa:
A soluo tima do problema de otimizao restrito est na fronteira
da regio factvel, as restries envolvidas so chamadas de ativas.
Na figura: R1, R2 so restries ativas.
Restrio no ativa:
A soluo tima no pertence a essa

restrio (Ex. R3).
Condies de Otimalidade para Restries de Igualdade

EXEMPLO: Funo-objetivo elptica com restries de
igualdade.
Min. f ( x1 , x2 ) 0,25x12 x22
s. a:
g ( x1 , x2 ) 5 x1 x2 0
O timo acontece no ponto de tangncia das curvas

f = cte com a restrio.
Exemplo (cont.)
Observar os gradientes perto do timo restrito:
Nos pontos (x1, x2) e
(x1, x2), o gradiente da funo f
e o gradiente da restrio no so co-lineares.
Portanto, se partimos de (x1, x2) e nos movemos sobre a
restrio (ponto vivel) na direo de grad(f), nos estaremos

movendo na direo de f decrescente.
Exemplo (cont.)
Observar os gradientes perto do timo restrito:
Sempre que exista uma componente de grad(f) na direo da

restrio, podemos melhorar o nosso objetivo.
No timo, o gradiente da funo objetivo normal

restrio, e portanto colinear com o gradiente da restrio.
Condies Necessrias de Primeira Ordem (restries de igualdade)

Teorema: Seja xO um ponto extremo de f(x), sujeito a g(xO)=0,
sendo xO um ponto regular em relao a estas restries.
Ento, existe um vetor
Rp
tal que verifica:
f ( x o ) T g( x o ) 0
As condies de primeira ordem para problemas de otimizao com
restries de igualdade originam um sistema de (n + p) equaes
com (n + p) variveis, xi e j:
f ( x o ) T g ( x o ) 0
g ( xo ) 0
Condies Necessrias de Primeira Ordem (restries de igualdade)
Define-se o Lagrangeano ou funo Lagrangeana associada a

um problema de otimizao com restries de igualdade
funo L(x, ):
L( x, ) f ( x) T g ( x)
Chama-se de Multiplicadores de Lagrange aos elementos

do vetor
Nova forma das condies de otimalidade:
Lx ( x , ) 0
L ( x, ) 0
Notao: 3 variveis (n=3) e 2 restries de igualdade (p=2)

Min f (x)
s. a: g ( x) 0
1
g 2 ( x) 0
x x1 , x2 , x3
Lagrangeano:
g1( x )
L( x , ) f ( x ) 1 2
g 2 ( x )
f ( x ) 1g1( x ) 2 g 2 ( x )
Gradiente do Lagrangeano em relao a x:
x g1( x )
x L( x , ) x f x 1 2
g
(
x
)
x 2
x L( x , ) x f x 1 x g1( x ) 2 x g 2 ( x )
x f x T x g ( x )
Sensibilidade
Min
s. a:
f (x)
Min
s. a:
g( x ) 0
f (x)
b e( x ) 0
L( x , ) f ( x ) b e( x )
Lagrangeano:
Condies de otimalidade:
x L( x , ) x f x x e( x ) 0
L( x , ) b e( x ) 0
Se :
b b b
teremos : x o x o x
e( x o x) b b
a restrio :
aproxim. 1a ordem para a restrio : x o e( x) x b
( funo _ objetivo) FO
FO f ( x o x) f ( x o ) x o f ( x) x
FO x o e( x) x b
FO
Interpretao dos Multiplicadores de Lagrange (restries de igualdade)
Os multiplicadores de Lagrange indicam o quanto o valor da

funo-objetivo se altera quando o termo constante de uma
restrio de igualdade modificado: FO
i
bi
Estes multiplicadores correspondem a custos associados a
pequenas variaes nas restries (custos incrementais
ou marginais).
Exemplo 1
Min. f ( x1 , x2 , x3 ) x1 x2 x2 x3 x1 x3
s. a:
x1 x2 x3 3
Lagrangeano:
x1 x2 x2 x3 x1 x3
Min.
s. a:
x1 x2 x3 3 0
L( x1 , x2 , x3 , ) x1 x2 x2 x3 x3 x1 ( x1 x2 x3 3)
Condies de otimalidade de 1a ordem:
L( x, )
x2 x3 0
x1
L( x, )
x1 x3 0
x2
L( x, )
x2 x1 0
x3
L( x, )
x1 x2 x3 3 0
FO
i
bi
x1 x2 x3 1
2
f ( x) 3
Exemplo 2
Min.
s. a:
400 x12 800 x22 200 x1 x2 1600 x32 400 x2 x3
(risco)
10 x1 10 x2 15 x3 12
(meta de ganho)
x1 x2 x3 1
(capital investido)
Lagrangeano:
L( x1 , x2 , x3 ,1 , 2 ) 400 x12 800 x22 200 x1 x2 1600 x32 400 x2 x3
1 10 x1 10 x2 15 x3 12 2 x1 x2 x3 1
Condies de otimalidade de 1a ordem:
L x1 800 x1 200 x2 101 2 0

L x2 1600 x2 200 x1 400 x3 101 2 0
L x3 3200 x3 400 x2 151 2 0
L 1 10 x1 10 x2 15 x3 12 0
L 2 x1 x2 x3 1 0
x1 0 ,5
x2 0 ,1
x3 0 ,4
1 180
2 1380
f ( x o ) 390

Exemplo 2 (cont.):
uma alterao de +0,1 na meta de ganho fornece o seguinte problema
modificado,
Min. 400 x12 800 x22 200 x1 x2 1600 x32 400 x2 x3
s. a:
(risco)
10 x1 10 x2 15 x3 12,1
(meta de ganho modificada)
x1 x2 x3 1
(capital investido)
Espera-se uma alterao de 0,1 x 180 = 18 no valor timo da funoobjetivo, passando de 390 para 408. VERIFICAR esta afirmao.
Observar que, com 1 > 0, um incremento no termo constante da
restrio gerou um aumento no valor da funo-objetivo no timo.

Exemplo 2 (cont.): seria possvel estimar o acrscimo de capital
necessrio para obter o mesmo lucro com um risco menor?
Sim. O valor negativo de 2 no timo, 2 = 1380, indica que,

ao incrementar o termo constante na restrio de capital, o
valor timo da funo-objetivo decresce.
OMEE
Condies de Otimalidade para

Restries de Desigualdade
Condies de Otimalidade de KKT

Definio de Cone:
Um cone um conjunto de pontos R tais que se x pertence a R,
ento x tambm pertence a R, para i0.
Se, adicionalmente, o conjunto R convexo, o cone dito
convexo.
R x | x 1x1 2 x2 m xm ; i 0, i 1m
Os vetores x1, x2 .... xm so os geradores do cone.

Convexidade
Um conjunto de pontos dito convexo quando, dados dois
pontos quaisquer no conjunto, o segmento que une os pontos
tambm pertence ao conjunto.
Segmento x | x x1 ( 1 )x2 ; 0 1
Funo convexa
f ( x1 ( 1 )x2 ) f ( x1 ) ( 1 ) f ( x2 )
Estritamente convexo
Convexo
f(x) convexa
f(x) estritamente
convexa
f(x) possui matriz de segundas

derivadas parciais Semi-Definida
Positiva para todo x
f(x) possui matriz de segundas

derivadas parciais Definida
Positiva para todo x

Problema de programao matemtica convexo: minimizar
uma funo convexa em um conjunto convexo de
restries.
Teorema:
Um mnimo local de um problema convexo de otimizao
um mnimo global.
Exemplo Interpretao Geomtrica das condies de KKT

Minimizar
f ( x, y) ( x 2) 2 ( y 1) 2
sujeito a:
h1 ( x, y ) y x 2 0
h2 ( x, y ) x y 2 0
Exemplo Interpretao Geomtrica das condies de KKT

Minimizar
f ( x, y) ( x 2) 2 ( y 1) 2
sujeito a:
h1 ( x, y ) y x 2 0
h2 ( x, y ) x y 2 0
O timo est na interseo das restries, (x,y) = (1,1).
Define-se Direo Vivel indicada pelo vetor que, ao dar um
passo pequeno nessa direo, no se viola nenhuma restrio.
Em (1,1), as direes viveis correspondem ao cone gerado
pela reta (x+y-2 = 0) e pela tangente a (y = x2).
O negativo do gradiente de f, (f), indica a direo de mximo

decrescimento de f. Toda direo vivel deve formar um
ngulo menor de 90 com (f).
Portanto (j que no timo restrito no h direes viveis)
nenhuma direo vivel pode formar um ngulo menor a 90
com (f).
Exemplo (cont.) Interpretao Geomtrica de condies de KKT

Considera-se os gradientes das restries limitantes.
As condies de otimalidade de KKT expressam que (f) est

contido no cone gerado pelos gradientes das restries limitantes.

Seja o seguinte problema de otimizao, com restries de
desigualdade:
f (x)
Minimizar
sujeito a:
hk ( x) 0
k 1,, m
Se f(x) e hi(x) so diferenciveis, a Condio Necessria para

que xo seja um mnimo restrito do PNL que em xo o gradiente
de f esteja contido no cone convexo gerado pelo negativo dos
gradientes das restries ativas.
f ( x o )
h ( x )
o
k
kK
Com ko 0 e k K sendo K o conjunto de ndices correspondes s

restries ativas.
Pode-se estender esta formulao das condies de

otimalidade para incluir as restries no ativas no timo,
o
definindo que k 0 quando a restrio no est ativa.
Escreve-se:
ko hk ( x o ) 0
ok 0
quando
hk 0
ko 0
quando
hk 0
Esta a Condio de Complementaridade.
Teorema de KKT
PNL
Minimizar
sujeito a:
f (x)
hk ( x) 0
k 1,, q
Se f(x) e hi(x) so diferenciveis,

xo um mnimo local do PNL,
xo um ponto regular,
Ento:
Existem k 0 que verificam as condies seguintes
em xo :
q
f ( x o )
ok hk ( x o ) 0
k 1
ok hk ( x o ) 0
k 1, ,q
Definio de Ponto Regular:

Um ponto x* que satisfaz g(x*)=0 e h(x*)0 dito ser
um ponto regular das restries quando os gradientes
das restries de igualdade e os gradientes das
restries de desigualdade ativas em x*, calculados
todos no ponto x*, so linearmente independentes.
g i ( x* ) e h j ( x* ), com j K
so
L .I .
K conjunto de ndices das restries ativas em x *
Teorema de KKT
As condies de KKT fornecem as condies

necessrias que devem ser verificadas no
timo, mas no indicam um procedimento de
soluo para atingir esse timo.
Em resumem - Condies de Otimalidade

Minimizar
s. a:
f (x)
gi ( x ) 0
i 1 nI
hj( x ) 0
j 1 nD
Lagrangeano:
L( x , , ) f ( x )
x RN
nI
nD
i gi ( x ) j h j ( x )
Condies KKT, a serem satisfeitas pelo ponto candidato:
xk L( x o ,o , o ) 0
gi ( x o ) 0
i 1 nI
h j ( xo ) 0
j 1 nD
k 1 N
oj h j ( x o ) 0
j 1 nD
o
j 0
Exemplo
Min.
s. a:
2 x12 2 x1 x2 x22 10x1 10x2

x12 x22 5
Min.
s. a:
2 x12 2 x1 x2 x22 10x1 10x2

x12 x22 5 0
3 x1 x2 6
3 x1 x2 6 0
Condies necessrias de 1a ordem:
x1 h1
x1 f , x2 f 1 , 2
x1 h2
x2 h1
0,0
x2 h2
x1 f 1 x1 h1 2 x1 h2 0
x2 f 1 x2 h1 2 x2 h2 0
h j ( x) 0
T
j
4 x1 2 x2 10 2 1 x1 3 2 0
2 x1 2 x2 10 2 1 x2 2 0
1 x12 x22 5 0
2 3 x1 x2 6 0
Procedimento: Testar as vrias combinaes de restries ativas e
verificar o sinal dos multiplicadores de Lagrange.
Exemplo
1- Ambas restries inativas, portanto 1 = 2 = 0
4 x1 2 x2 10 0
2 x1 2 x2 10 0
x1 0 x2 5
2
1
Observamos que no se verifica a restrio h1(x) 0, pois
2- Restrio 1 ativa e restrio 2 inativa, portanto
x22 5 20
1 > 0 2 = 0
4 x1 2 x2 10 2 1 x1 0
2 x1 2 x2 10 2 1 x2 0
2
1
x1 1 x2 2 1 1
x22 5 0
Observamos que sim se verifica a restrio h2(x) < 0, pois
3x
Encontramos ponto candidato a timo, que satisfaz as condies

necessrias de otimalidade
x2 6 1

OMEE Otimização-2016

Enviado por

Dados do documento

Título original

Direitos autorais

Formatos disponíveis

Compartilhar este documento

Compartilhar ou incorporar documento

Opções de compartilhamento

Você considera este documento útil?

Este conteúdo é inapropriado?

Direitos autorais:

Formatos disponíveis

OMEE Otimização-2016

Enviado por

Direitos autorais:

Formatos disponíveis

PPGEE Programa de Ps-graduao em Engenharia Eltrica - EE

EEE 934 A - Operao de Mercados de

Profa. Wadaed Uturbey CPDEE/UFMG

O problema de programao matemtica:

Escolher o vetor x = (x1, x2, ... , xn)T de forma

Um ponto xo mnimo global de f(x) se:

Se f(xo) < f(x) para xo x, o mnimo dito

Wadaed Uturbey EE/UFMG

Maximizao / minimizao irrestrita: as variveis xi podem

Wadaed Uturbey EE/UFMG

(1) Derivadas parciais de primeira ordem avaliadas em xO

(2) Matriz de derivadas parciais de segunda ordem

Um ponto que satisfaz apenas a primeira condio chamado de

Condies de suficincia para ter mnimo relativo: a matriz de

Mtodos para Determinao de Mnimo Irrestrito

Minimizao com Restries

Vemos que, em geral,:

Wadaed Uturbey - EE/UFMG

Programao Linear (PL)

Grfico das restries REGIO VIVEL (ou factvel)

Famlia de retas paralelas definidas pela funo-objetivo:

x1 3x2 cons tan te z

Observar que o valor mximo de z atingido quando:

Se o problema fosse de minimizao, o mnimo seria atingido para:

Wadaed Uturbey - EE/UFMG

Programao Linear (PL)

e o segmento de reta determinado por eles.

Removendo uma restrio, a regio vivel ilimitada (aberta) e a

Soluo tima limitada

Programao No Linear - PNL

Wadaed Uturbey - EE/UFMG

Wadaed Uturbey - EE/UFMG

Wadaed Uturbey - EE/UFMG

Wadaed Uturbey - EE/UFMG

Wadaed Uturbey - EE/UFMG

Wadaed Uturbey - EE/UFMG

O timo de um PNL em geral no um vrtice do conjunto de

O timo de um PNL pode no pertencer fronteira da regio vivel;

Para os PNL convexos garante-se que no existem mnimos locais

Em geral impossvel demonstrar que um algoritmo atinge um timo

Para problemas no convexos, o algoritmo em geral encontra um

que satisfaa todas as restries denominado

Os mtodos utilizados na soluo do problema geral so de dois

Chamam-se de Restries Ativas ou Limitantes s restries de

Seja K o conjunto dos ndices das restries ativas,

Minimizao com Restries

A soluo tima no pertence a essa

Wadaed Uturbey EE/UFMG

Condies de Otimalidade para Restries de Igualdade

O timo acontece no ponto de tangncia das curvas

Nos pontos (x1, x2) e

(x1, x2), o gradiente da funo f

e o gradiente da restrio no so co-lineares.

Portanto, se partimos de (x1, x2) e nos movemos sobre a

restrio (ponto vivel) na direo de grad(f), nos estaremos

Sempre que exista uma componente de grad(f) na direo da

No timo, o gradiente da funo objetivo normal

Wadaed Uturbey - EE/UFMG

Condies Necessrias de Primeira Ordem (restries de igualdade)

tal que verifica:

Wadaed Uturbey - EE/UFMG

Condies Necessrias de Primeira Ordem (restries de igualdade)

Define-se o Lagrangeano ou funo Lagrangeana associada a