Aproximação Externa para ONLIM

Wendel Melo
Faculdade de Computação
Universidade Federal de Uberlândia

1
 Problema abordado
 Problema de Otimização Não Linear Inteira Mista (ONLIM)
“convexo”:

 As funções do problema são “amigáveis”: contínuas, convexas e

duplamente diferenciáveis

2
 Classes de algoritmos para ONLIM

 Algoritmos de Branch-and-Bound;

 Algoritmos de aproximação linear;

 Algoritmos de reformulação contínua;

 Algoritmos híbridos;

 Heurísticas;

3
 Classes de algoritmos para ONLIM

 Algoritmos de Branch-and-Bound;

 Algoritmos de aproximação linear;

 Algoritmos de reformulação contínua;

 Algoritmos híbridos;

 Heurísticas;

4
 Algoritmos de Aproximação Linear

 Aproximam o problema abordado em um problema de Otimi-

zação Linear Inteira Mista (OLIM);

 São fortemente baseados na convexidade do problema;

 Podem tomar vantagem de todo o avanço já obtido para OLIM;

 Tendo nas mãos uma boa rotina para OLIM, são métodos de
fácil entendimento e implementação;

5
 Algoritmos de Aproximação Linear
 Plano de corte estendido (Westerlund e Pettersson, 1995);

 Aproximação externa (Duran e Grossmann, 1986);

 Decomposição de Benders generalizada (Geoffrion, 1972);

 B&B baseado em PL/PNL (Quesada e Grossmann, 1992);

 Plano de corte estendido refinado (Melo, Fampa e Raupp, 2020);

 Hiperplano de suporte estendido (Kronqvist, Lundell e Westerlund,

2016);

 B&B baseado em plano de corte sequencial (Still e Westerlund, 2006).

6
 Algoritmos de Aproximação Linear
 Plano de corte estendido (Westerlund e Pettersson, 1995);

 Aproximação externa (Duran e Grossmann, 1986);

 Decomposição de Benders generalizada (Geoffrion, 1972);

 B&B baseado em PL/PNL (Quesada e Grossmann, 1992);

 Plano de corte estendido refinado (Melo, Fampa e Raupp, 2020);

 Hiperplano de suporte estendido (Kronqvist, Lundell e Westerlund,

2016);

 B&B baseado em plano de corte sequencial (Still e Westerlund, 2006).

7
 Problema Mestre
 Começamos por reformular (P) para que tenha função objetivo linear:

 Temos então as seguintes desigualdades válidas para (P):

8
 Problema Mestre
 Assim, dado um conjunto com p pontos de linearização:

 Construímos então uma relaxação linear para (P), o problema mestre:

9
 Aproximação Externa
 Na iteração k, seja a solução ótima obtida para o pro-
blema mestre;
 O algoritmo usa o valor para fixar as variáveis inteiras em (P) e
resolver o problema a seguir:

10
 Aproximação Externa
 Se é viável, seja uma solução
ótima.

 é viável para (P) e

um limite superior.

 é a melhor solução viável para (P) com

 A solução é então acrescentada ao conjunto de pontos
de linearização;

11
 Aproximação Externa
 Se for inviável, não há solução viável para (P) com
 Nesse caso, passa-se então a resolução de um problema de
viabilidade:

 Seja a solução ótima de . O ponto é adicionado

ao conjunto de pontos de linearização.

12
Aproximação Externa
 O acréscimo de ao con-
junto de pontos de linearização
cortará da região viável do
problema mestre (Fletcher e
Leiffer, 1994).

13
 Aproximação Externa
 O acréscimo de ao con-
junto de pontos de linearização
cortará da região viável do
problema mestre (Fletcher e
Leiffer, 1994).

 Se as variáveis de (P) forem todas binárias, no lugar de resolver

pode-se incorporar o seguinte corte no problema mestre:

Onde:

14
Algoritmo
Aproximação
Externa

15
 Algoritmo Aproximação Externa
 Usualmente, o ponto de linearização inicial é escolhido como a solu-
ção ótima da relaxação contínua de (P);

 A estratégia de atualização do conjunto de pontos de linearização ga-

rante que uma solução inteira não ótima só possa ser visitada, no
máximo, uma única vez;

 Por sua vez, uma solução inteira ótima pode ser visitada, no máximo,
duas vezes;

 Assumindo que o número de soluções inteiras seja finito, o algoritmo

Aproximação Externa converge em um número finito de interações;

16
 Algoritmo Aproximação Externa
 Em comparação com Plano de Corte Estendido, Aproximação Externa
necessita resolver, a cada iteração, um ou dois problemas de otimi-
zação não linear;

 Todavia, a convergência do algoritmo tende a ser mais rápida, o que,

em muitos casos, compensa o esforço adicional em cada iteração;

 Se o problema não possuir variáveis contínuas, os problemas e

deixam de fazer sentido e o algoritmo se comporta como o Pla-
no de Corte Estendido.

17
 Algoritmos de Aproximação Linear
 Plano de corte estendido (Westerlund e Pettersson, 1995);

 Aproximação externa (Duran e Grossmann, 1986);

 Decomposição de Benders generalizada (Geoffrion, 1972);

 B&B baseado em PL/PNL (Quesada e Grossmann, 1992);

 Plano de corte estendido refinado (Melo, Fampa e Raupp, 2020);

 Hiperplano de suporte estendido (Kronqvist, Lundell e Westerlund,

2016);

 B&B baseado em plano de corte sequencial (Still e Westerlund, 2006).

18
 Decomposição de Benders Generalizada
 O algoritmo Decomposição de Benders Generalizada (DBG), similar
ao algoritmo Aproximação Externa, alterna entre a resolução de um
problema de OLIM e um ou dois problemas de ONL;

 Todavia, o problema mestre é construído de modo diferente:

 Partindo do princípio de que as variáveis inteiras são complicadoras

em (P), isto é, o algoritmo caminha focando a atualização dos valores
correntes de e de forma separada, porém interdependente:
• é atualizado com a resolução do problema mestre
• é atualizado com a resolução de e

19
 Decomposição de Benders Generalizada
 Assim, o problema mestre é escrito apenas em função de e :

 Sejam:

 A definição do problema mestre utiliza, para cada , o corte la-

grangeano projetado no espaço da variável :

 Onde é o multiplicador de Lagrange obtido com a resolução de

 A restrição acima é uma combinação linear das restrições do proble-
ma mestre em aproximação externa
20
 Decomposição de Benders Generalizada
 Assim, o problema mestre é escrito apenas em função de e :

 Sejam:

 Para cada , o problema mestre utiliza o corte lagrangeano

projetado no espaço da variável :

 Onde é o multiplicador de Lagrange obtido com a resolução de

 A restrição acima também é uma combinação linear das restrições do
problema mestre em aproximação externa;
21
 Decomposição de Benders Generalizada
 Assim, o problema mestre é escrito apenas em função de e :

 Apenas duas restrições são incorporadas no problema mestre a cada

iteração do algoritmo DBG;

 Isto ameniza o problema do aumento das dimensões em comparação

com Aproximação Externa
22
 Decomposição de Benders Generalizada
 Assim, o problema mestre é escrito apenas em função de e :

 Todavia, a relaxação de DBG é dominada pela de AE;

 A relaxação mais forte faz com que o problema mestre de AE seja

preferível em relação ao de DBG por algoritmos e softwares propos-
tos após AE.
23
 Algoritmos de Aproximação Linear
 Plano de corte estendido (Westerlund e Pettersson, 1995);

 Aproximação externa (Duran e Grossmann, 1986);

 Decomposição de Benders generalizada (Geoffrion, 1972);

 B&B baseado em PL/PNL (Quesada e Grossmann, 1992);

 Plano de corte estendido refinado (Melo, Fampa e Raupp, 2020);

 Hiperplano de suporte estendido (Kronqvist, Lundell e Westerlund,

2016);

 B&B baseado em plano de corte sequencial (Still e Westerlund, 2006).

24
 B&B baseado em PL/PNL
 Motivado a partir da observação do comportamento algoritmo Apro-
ximação Externa, que, a cada iteração, resolve:
• Um problema de OLIM (o problema mestre);
• Um ou dois problemas de ONL (problemas e )

 O problema de OLIM é geralmente resolvido por meio de um proce-

dimento caixa preta de B&B (com um solver como Cplex ou CBC);

 Quesada e Grossmann propuseram “abrir” o procedimento de B&B

utilizado para resolver o problema mestre

25
 Problema Mestre
 Assim, dado um conjunto com p pontos de linearização:

 Construímos então uma relaxação linear para (P), o problema mestre:

26
 B&B baseado em PL/PNL
 A ideia é integrar a resolução do problema mestre com a resolução
de e ;

 Desse modo, o problema mestre é atualizado dinamicamente ao lon-

go do seu próprio processo de execução;

 Durante a execução do B&B para resolver o problema mestre, este

passa a incorporar novos pontos de linearização para fortalecer a re-
laxação;

 Com essa estratégia de atualização dinâmica, o B&B usado para re-

solver o problema mestre só se encerra quando se resolve o proble-
ma de ONLIM (P) totalmente! Assim, o problema mestre é soluciona-
do apenas uma única vez.
27
 B&B baseado em PL/PNL
 A resolução de um único problema de OLIM é viabilizada pela seguin-
te estratégia adotada em seu procedimento de B&B:

 Sempre que uma solução inteira viável for encontrada para o pro-
blema mestre, resolve-se os problemas e para se fortale-
cer a relaxação acrescentando um novo ponto de linearização;

 Quando um novo ponto de linearização é acrescentado, as novas res-

trições passam a valer para todos os nós da árvore de B&B explora-
dos dali em diante;

 Assim, não são realizadas podas por viabilidade. Apenas por limite e
inviabilidade.

28
 Algoritmo
B&B baseado
em PL/PNL

29
 B&B baseado em PL/PNL
 A expectativa é economizar na resolução de relaxações lineares do
problema mestre sendo resolvidas;

 O algoritmo apresenta uma ideia criativa, mas, em princípio, parece

difícil implementar na prática um B&B para OLIM que possa competir
com um solver como CPLEX ou Gurobi;

30
 B&B baseado em PL/PNL
 A expectativa é economizar na resolução de relaxações lineares do
problema mestre sendo resolvidas;

 O algoritmo apresenta uma ideia criativa, mas, em princípio, parece

difícil implementar na prática um B&B para OLIM que possa competir
com um solver como CPLEX ou Gurobi;

 Todavia, esses mesmos solvers fornecem uma forma fácil de imple-

mentar um algoritmo como esse por meio de funções callbacks que
permitem modificar o comportamento de seu B&B e de lazy cons-
traints;

 Uma implementação nessa linha se mostra bastante competitiva ao

AE original, melhorando seu tempo computacional em muitos casos.
31
 Bibliografia
 Marco Duran and Ignacio Grossmann. An outer-approximation algorithm
for a class of mixed-integer nonlinear programs. Mathematical Program-
ming, 36:307–339, 1986. 10.1007/BF02592064

 Roger Fletcher and Sven Leyffer. Solving mixed integer nonlinear programs
by outer approximation. Mathematical Programming, 66:327–349, 1994.
10.1007/BF01581153.

 A. M. Geoffrion. Generalized benders decomposition. Journal of Optimizati-

on Theory and Applications, 10:237–260, 1972. 10.1007/BF00934810.

 Jan Kronqvist, Andreas Lundell, and Tapio Westerlund. The extended sup-
porting hyperplane algorithm for convex mixed-integer nonlinear pro-
gramming. Journal of Global Optimization, 64(2):249–272, 2016.
32
 Bibliografia
 Wendel Melo, Marcia Fampa and Fernanda Raupp. Two linear approximation al-
gorithms for convex mixed integer nonlinear programming. Annals of Operations
Research, 2020. DOI: 10.1007/s10479-020-03722-5.

 Ignacio Quesada and Ignacio E. Grossmann. An lp/nlp based branch and bound
algorithm for convex minlp optimization problems. Computers & Chemical Engi-
neering, 16(10-11):937 – 947, 1992.

 Claus Still and Tapio Westerlund. Solving convex minlp optimization problems
using a sequential cutting plane algorithm. Computational Optimization and Ap-
plications, 34:63–83, 2006. 10.1007/s10589-005-3076-x

 Tapio Westerlund and Frank Pettersson. An extended cutting plane method for
solving convex minlp problems. Computers & Chemical Engineering, 19, Sup-
plement 1(0):131 – 136, 1995.
33
Obrigado!

wendelmelo@ufu.br

https://wendelmelo.net

34