Introduc

ao
Refer
encias

Condicoes de Karush-Kuhn-Tucker

3 de novembro de 2014

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Um pouco da historia das condic

oes de Karush-Kuhn-Tucker ou
condicoes KKT [Kjeldsen, 2000]:
Publicadas em 1951 por Harold W. Kuhn e Albert W. Tucker;
Definidas anteriormente (1939) na dissertacao de mestrado de
William Karush.

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

As condicoes KKT sao condic

oes necessarias para que uma solucao
em problemas de programacao nao-linear seja
otima.
Pode ser vista como uma generalizacao do metodo dos
multiplicadores de Lagrange, pois alem das restric
oes de igualdade,
aceita tambem restricoes de desigualdade.

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Segundo [Klein, 2004], o metodo dos multiplicadores de Lagrange

permite encontrar extremos de uma funcao diferenci
avel com uma
ou mais variaveis suscetveis a uma ou mais restricoes. Assim
temos:
f (x1 , x2 , ..., xn )
g1 (x1 , x2 , ..., xn ) c1 = 0 ... gm (x1 , x2 , ..., xn ) cm = 0
Os pontos que satisfazem as restric
oes estao na regiao viavel.

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Formalmente temos:
f (p) = g (p)

(1)

Que significa dizer que os vetores normais sao paralelos num ponto
extremo p. Para acha-los, deve-se procurar por pontos onde as
seguintes equacoes sao verdadeiras:
f (x) = g (x)

(2)

gi (x) = 0

(3)

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Pode-se representar o conjunto de equac

oes anteriores atraves do
Lagrangiano
(x, ) = f (x) g (x)

(4)

E podemos buscar por pontos onde:

(x, ) = 0

Condic
oes de Karush-Kuhn-Tucker

(5)

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Exemplo 1: Encontrar os valores de maximo e mnimo de

f (x, y ) = xy , sujeitos `a restricao x 2 + y 2 = 25.

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Resposta: Calculando o gradiente de f (x, y ) e g (x, y ) temos:

f (x, y ) = y ~i + x ~j
g (x, y ) = 2x ~i + 2y ~j
Pelo metodo dos multiplicadores de Lagrange temos:
y ~i + x ~j = (2x ~i + 2y ~j)

y = 2x
x = 2y
2
x + y 2 25 = 0

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Pelo conjunto de equac

oes anteriores temos que:
=

x
y
=
2x
2y

y2 = x2
Substituindo na equacao de restricao, temos:
5
5
2x 2 = 25 x = y =
2
2

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Agora basta aplicar o conjunto de soluc

oes em f (x, y ) e verificar
qual delas resulta no maximo e mnimo.



5
5
f
= 12.5; f ,
= 12.5
2
2




5 5
5
5
f ,
= 12.5; f ,
= 12.5
2 2
2
2
5 5
,
2 2

Assim, o mnimo da funcao e 12.5 e o maximo e 12.5 para as

condicoes de restricao dadas.

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Considerando agora um problema de otimizacao nao-linear com

restricoes de desigualdade, temos:
f (x1 , x2 , ...xn )
g1 (x1 , x2 , ...xn ) 0 ... gm (x1 , x2 , ...xn ) 0
h1 (x1 , x2 , ...xn ) = 0 ... hm (x1 , x2 , ...xn ) = 0
i (i = 1, ..., m)
j (j = 1, ..., l)
Onde i e j sao chamados de multiplicadores de KKT.

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

As condicoes para que o problema seja minimizado ou maximizado

sao:
1

Para maximizacao:
f (x ) =

m
X

i gi (x ) +

i=1

l
X

i hj (x )

j=1

Para minimizacao:
f (x ) =

m
X
i=1

i gi (x ) +

l
X

i hj (x )

j=1

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

gi (x ) 0, i = 1, ..., m
hj (x ) = 0, j = 1, ..., l
3

i 0, i = 1, ..., m
4

i gi (x ) = 0, i = 1, ..., m

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Exemplo 2: Determinar o ponto no espaco de tres dimensoes mais

proximo da origem, que tenha coordenadas nao-negativas e que
pertenca ao plano z = 4x + 3y 24. Considere
f (x) = x 2 + y 2 + z 2 .

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Vamos extrair as condic

oes de restricao do problema:
1

Sabemos que este e um problema de minimizacao.

Sabemos tambem que a solucao pertence ao plano:

4x + 3y 24 = z
h1 (x, y , z) = 4x + 3y z 24

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Sabemos que as coordenadas devem ser nao-negativas,

portanto:
x 0
y 0
z 0
g1 (x, y , z) = x
g2 (x, y , z) = y
g3 (x, y , z) = z

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Aplicando a primeira condicao, temos:

fx
g1x
g2x
g3x
h1x
fy = 1 g1y + 2 g2y + 3 g3y + 1 h1y
fz
g1z
g2z
g3z
h1z

2x
1
0
0
4
2y + 1 0 + 2 1 + 3 0 + 1 3 = 0
2z
0
0
1
1

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

O que resulta no seguinte conjunto de equac

oes:

2x 1 + 4 = 0

2y 2 + 3 = 0

2z 3 = 0
1 x = 0

2 y = 0

z =0

3
4x + 3y z 24 = 0
O sistema nao e linear pois temos variaveis se multiplicando, como
em 1 x = 0.

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Podemos resolver este sistema por tentativa, para as equacoes 3 e

4, temos as seguintes possibilidades:
1

x =0ey =0

x 6= 0 e y = 0

x = 0 e y 6= 0

x 6= 0 e y 6= 0

E para cada uma destas possibilidades, ha mais possibilidades para

os valores de 1 e 2 .

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Se fizermos x = y = 0, temos, para a eq. (7) do conjunto de

equacoes:
4x + 3y z 24 = 0
z = 24
E isto viola a restricao de que os pontos devem ser
nao-negativos;

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Se fizermos x 6= 0; y = 0, temos que:

1

1 = 0 e 2 6= 0
2x + 4 = 0; 2 + 3 = 0
x
2
0; =
0
2
3
x
2
0
== 0 x =0
3
2
1 = 0 e 2 = 0
=

2x + 4 = 0; 3 = 0
= 0; x = 0

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

Se fizermos x = 0; y 6= 0, recaimos na mesma situacao

anterior;
Se fizermos x =
6 0 y 6= 0, temos apenas uma possibilidade:
1

1 = 0 e 2 = 0
2x + 4 = 0 = x/2 < 0
2z 3 = 0 3 = 2z > 2z 0
3 > 0; 3 z = 0 z = 0

Agora basta eliminar do sistema as variaveis que sao nulas.

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

Multiplicadores de Lagrange
Problemas de Otimizac
ao N
ao-linear

O resultado e encontrado resolvendo o sistema linear:

2x + 4 = 0

2y + 3 = 0
3 = 0

4x + 3y 24 = 0
Cuja solucao e (x, y , , 3 ) = (96/25, 72/25, 48/25, 48/25), e a
resposta do problema e o ponto (x, y , z) = (96/25, 72/25, 0).

Condic
oes de Karush-Kuhn-Tucker

Introduc
ao
Refer
encias

[Kjeldsen, 2000] Kjeldsen, T. H. (2000).

A contextualized historical analysis of the kuhntucker theorem in nonlinear
programming: The impact of world war II.
Historia Mathematica, 27(4):331361.
[Klein, 2004] Klein, D. (2004).
Lagrange multipliers without permanent scarring.
University Lecture.

Condic
oes de Karush-Kuhn-Tucker