Curso 2013 Fabricio 2

Mini-curso:
Introdução à otimização sob incerteza

Aula 2 – Geração de cenários e SAA
Prof. Fabrício Oliveira
fabricio.oliveira@puc-rio.br
Conteúdo programado!
1.  Introdução
2.  Medindo a qualidade de árvores de cenários
3.  Métodos de geração de cenários
4.  Aproximação por média amostral (SAA)!
Análise de Sensibilidade

Petróleo Brasileiro S/A
UNESP, 9-‐13 de dezembro de 2013

Otimização sob incerteza
Problemas de programação estocástica:
§  São modelos de programação matemática onde alguns
parâmetros são substituídos por variáveis aleatórias
§  Para resolver tais problemas precisamos de:
1.  Um modelo descrevendo o problema;
2.  Valores dos parâmetros determinísticos (conhecidos)
3.  Uma descrição da estocasticidade
§  Uma distribuição conhecida, descrita por densidades e/ou
acumuladas
§  Dados históricos, i.e., uma amostra discreta.
§  Algumas propriedades da distribuição, como por exemplo os
seus momentos probabilísticos.

Otimização sob incerteza
p(!)
Problemas de programação estocástica:
§  Drama: problemas de programação
estocástica só podem ser
e=icientemente resolvidos se a
incerteza for representada como
amostras discretas de tamanho
limitado. h h(!)
§  Para lidar com isso, temos que

aproximar a distribuição através de
tais discretizações. Análise de Sensibilidade
p(!)
§  Tais aproximações são o que se Petróleo Brasileiro S/A

conhece como árvores de cenários.
h h(!)
Geração de cenários!
Árvores de cenários: terminologia básica
Decisão

0 1 2 T
t
Estados
Decisão

0 1 2 T
t
Cenários para os
elementos incertos
Estados
Decisão

0 1 2 T
t
Cenários para os
elementos incertos
Estados
Decisão

estágios
0 1 2 T
t
Representação da incerteza
Árvore de cenários
§  O que signiYica possuir ramiYicações na árvore?


Representação da incerteza
Árvore de cenários
§  O que signiYica possuir ramiYicações na árvore?

§  Rami=icação (branching) = chegada de nova informação = estágio

§  Árvore acima = “ventilador” (fan) è nenhuma informação nova após o
primeiro estágio
§  Ou seja: fan = problemas de 2 estágios.
Geração de cenários
Antes de criar cenários, nós precisamos:
§  Decidir quantas discretizações são necessárias
§  Decidir o número de estágios
§  Tamanho dos períodos
§  Saber exatamente quando a informação se torna
disponível e a relação de “timming” entre as
decisões
§  Esse problema não existe no caso determinístico

§  Decidir o número de ramos (branches) por
estágio
§  Alguns métods fazem isso automaticamente
§  É melhor termos árvores longas ou árvores
largas?
§  Ainda é uma questão em aberto…

Fontes típicas de dados para cenários
1.  Dados históricos
§  A história é uma boa descrição do futuro?
2.  Simulação baseada em modelos matemáticos/estatísticos
§  Parâmetros estimados de casos reais
3.  Opinião de especialistas
§  Subjetivo!
§  “Back-‐testing” não é uma opção nesse caso!
§  Na prática, acabamos por optar por uma combinação de (quase) todas essas
opções Petróleo Brasileiro S/A
1.  Estima-‐se a distribuição de dados históricos
2.  Usa-‐se um modelo matemático e/ou opinião de especialistas
3.  Ajusta-‐se a distribuição para a situação atual.

Métodos de geração de cenários

§  A escolha de um bom método de geração de
cenários depende do problema.
Modelo de
§  Geração de cenários é parte do processo Estocasticidade
decisão
de modelagem.
§  Por não ser uma parte natural do problema,
até recentemente não recebia muita atenção; Árvore de
cenário
§  Em geral, nem o usuário, nem o
modelador estão interessados nos Análise de Sensibilidade
cenários e como eles são gerados…
Modelo
§  Problema: os cenários (e sua qualidade) Estocástico
inYluenciam a qualidade da solução
§  Entra lixo è sai lixo

Medindo a qualidade dos cenários
§  A pergunta que devemos ter em mente quando geramos cenários para o
nosso problema é a seguinte: o quão boa é essa árvore de cenários?
§  Tal qualidade depende de basicamente de dois fatores:
1.  Erro
§  Nós usamos uma aproximação da distribuição real, e, portanto muito
provavelmente obteremos soluções sub-‐ótimas;

§  Não é trivial de se medir o erro.
2.  Estabilidade Petróleo Brasileiro S/A
§  As soluções não deveriam ser muito diferentes para várias árvores;
§  Estabilidade da solução vs. estabilidade da função objetivo.

Um pouco de notação: ⌘
§  Seja o problema original (“não-‐resolvível”) …
min F (x, ⌘)
x2X
§  Que é substituído pelo problema baseado em
cenários:
⇠k
min F (x, ⇠)
x2X ⇠2
Análise de
§  Para testar estabilidade, nós geramos diversas
⇠ Sensibilidade
1
Petróleo
árvores de cenário ξk, k = 1,…, n, cada Bos
uma n rasileiro S/A
levando as soluções
x⇤k = arg min F (x, ⇠k )
x2X

§  PYlug (2001) deYine erro de aproximação causado por ξk como
sendo
e(⌘, ⇠k ) = F (arg min F (x, ⇠k ), ⌘) F (arg min F (x, ⌘), ⌘)

x2X x2X
= F (x⇤k , ⌘) min F (x, ⌘)
x2X
§  Para calcular tal erro precisaríamos:

§  Ser capazes de avaliar uma solução na função objetivo F (x⇤k , ⌘)
original Análise de Sensibilidade
§  Pode ser aproximado por intermédio
Petróleo dBe rasileiro
simulação S/A
§  Ser capazes de resolver o problema original
min F (x, ⌘)
§  Impossível! Do contrário não precisaríamos de cenários! x2X

Avaliando estabilidade:
§  Assuma que nós possuímos um simulador para avaliar F (x⇤ k , ⌘)
Isso permite:
§  comparar duas soluções x1* e x2*
§  comparar dois métodos de geração de cenários distintos
§  testar estabilidade out-‐of-‐sample (“por fora da amostra”):
1.  Gera-‐se um conjunto de árvores ξk, k = 1, …, n
2.  Resolve-‐se os problemas usando as árvores è soluções xk*
3.  Testa-‐se as soluções buscando observar se:
F (x⇤k , ⌘) ⇠ = F (x⇤l , ⌘)

§  Observar que temos:
F (x⇤k , ⌘) ⇠
= F (x⇤l , ⌘)
§  Implica em termos:
e(⌘, ⇠k ) ⇠
= e(⌘, ⇠l )
§  Que é possível demonstrar que implica em:
e(⌘, ⇠k ) ⇠
=0
§  Sem estabilidade temos um problema grave!
Petróleo
§  Estabilidade presume que diferentes Brasileiro
rodadas do mSétodo
/A de geração
gerarão árvores distintas.
§  Pode-‐se pensar no mesmo teste considerando árvores de tamanhos
distintos
§  Técnica para determinar tamanho de árvore
Observações sobre estabilidade out-‐of-‐sample:
§  Somente as decisões da parte raíz (ou seja, as decisões de primeiro
estágio) podem ser movidas de uma árvore para outra, pois os cenários não
coincidem!
§  Para avaliar F(xk*,η), basta que Yixemos as decisões de primeiro estágio e
resolvamos o resto do problema.
§  Não é um problema, dado que essas são as decisões implementadas de
fato.
§  Na ausência de tal simulador, é possível realizar um teste do tipo “cross-‐
testing” Petróleo Brasileiro S/A
F (x⇤k , ⇠l ), k = 1, . . . , n tal que k 6= l

§  Outro tipo de estabilidade a ser avaliada é o que chamamos de
estabilidade in-‐sample, que é deYinida como
F (x⇤k , ⇠K ) ⇠
= F (x⇤l , ⇠l )
§  que é equivalente a:
min F (x, ⇠K ) ⇠
= min F (x, ⇠l )
x x
§  SigniYica que estamos preocupados com a estabilidade do valor da
função objetivo reportado pelo próprio problema
§  Não há conexão direta entre os dois tipos de estabilidade
§  Sem esta estabilidade, não há como termos con=iança na
performance reportada pelas soluções baseadas em cenários.

§  O que signiYica não termos estabilidade?
§  Sem estabilidade è decisões dependem da árvore gerada
§  O que podemos fazer se for o caso?
§  Melhorar o método de geração
§  Aumentar o número de cenários
§  Gerar várias árvores e várias soluções e, “de alguma forma”
escolha a melhor solução. Análise de Sensibilidade
§  Para mais informações sobre tratamentos teóricos sobre
estabilidade: Heitsch et. al (2006)

Amostragem Condicional
§  Variável aleatória univariada
§  Gerador de números aleatórios padrão;
§  Métodos existentes para quaisquer distribuições;
§  Vetor aleatório multivariado com independência
§  Ideia I: gerar uma distribuição marginal por vez e combinar “tudo contra
tudo”
§  Garantia de independência;

§  Cresce exponencialmente com a dimensão;
§  Árvores precisam de alguma Petróleo
“poda” eventualmente;
Brasileiro S/A
§  Ideia II: gerar uma distribuição marginal por vez e combinar primeiro
com primeiro, segundo com segundo….
§  independência “no inYinito”;
§  Tamanho independente da dimensão.

Geração de Cenários
§  Vetor aleatório multivariado
§  Métodos particulares para distribuições
especiais
§  Distribuição normal via fatoração
§  Análise de componentes principais para
descobrir variáveis “independentes”
§  Bootstrapping / amostragem de dados
históricos Análise de Sensibilidade
§  Não precisa de presumir distribuição;
§  Requer (bons) dados históricos;
§  O passado é o suYiciente para descrever o
futuro?
Amostragem, normal bivariada, 500 cenários
§  O caso multi-‐período
§  O mais comum: comece na raiz
e gere cada cenário período a
período, um de cada vez.
§  Independência intertemporal
§  Fácil, pois a distribuição não
muda!
§  No caso de dependência Análise de Sensibilidade
Amostragem, modelo autoregressivo, 50 cenários
§  A distribuição dos nós Yilhos dPetróleo

epende dBepende
rasileiro dSo
/A que aconteceu por
aquele caminho até aqui
§  Nesse caso, usamos modelos do tipo ARMA, ARIMA, SARIMA, GARSH…

§  Resumo: conhecido um processo
estocástico que descreva a incerteza,
são amostrados cenários para compor ...
a árvore 1 2 N 1 N
§  Pode ser usado algum método

especializado de amostragem
(Hipercubo Latino, Importance m=1 m=2
sampling…)
§  Pros: Implementação fácil;
convergência em direção a
1 2
... ...
n 1 n 1 2 n 1 n
distribuição; ... m=M
§  Contras: Pouca estabilidade para

pequenas árvores, necessário ... ...
conhecimento da distribuição, aplicável 1 2 n 1 n 1 2 n 1 n
somente ao caso de 2-‐estágios (SAA);

Moment matching
§  Ideia principal: construir uma árvore de cenários de forma que a
mesma possua um determinado conjunto de propriedades
§  Mais comumente, tais propriedades são os momentos das distribuições
marginais e covariância/correlação
§  Tipicamente, as propriedades não especiYicam as distribuições
completamente, mas isso não é um problema para o método.
§  Atualmente possui duas versões: Análise de Sensibilidade
Petróleo B(rasileiro
§  Através de um modelo de otimizacão Høyland S/A
& Wallace (2001))
§  Através de uma heurística (Høyland et. al (2003))

Moment matching PROPRIEDADES

(MOMENTOS,
§  (Hoyland & Wallace (2001)) CORRELAÇÃO,…)!
§  Consiste de um problema de otimização

onde os valores das variáveis aleatórias e
X
as probabilidades são variáveis. min wi (fi (x, p) SVALi )
2
x,p
§  As propriedades são expressas como i2S
X
pM = 1, p 0
funções dessas variáveis
§  O objetivo é minimizar a distância
(usualmente L2) dessas propriedades aos
seus valores-‐meta
§  Altamente não-‐linear e não-‐convexo
§  Funciona bem para pequenas árvores.
§  A otimização é pouco especi=icada.

Moment matching
§  Høyland & Wallace (2001) – Ex:
§  São conhecidos: 1 2 3
E[x], E[y], E[x2 ], E[y 2 ] e Cov(x, y) 8i : (xi , yi ); pi

!2 !2 !2
X X X
min pi x i E[x], + pi y i E[y], + pi x2i E[x2 ], +
x,y,p,
i i i
!2
X
pi yi2 E[y 2 ], + Análise de Sensibilidade
i Petróleo Brasileiro S/A
!2
X
pi (xi E[x]) (yi E[y]) cov(x, y)
i
X
s.a: pi = 1, pi 0, i = 1, . . . , 3
i
Moment matching
§  (Hoyland et. al (2003))
§  Consiste de uma aproximação eYiciente do problema anterior para o caso
de 4 momentos marginais + correlações
§  Construído baseado em dois passos básicos que são repetidos
alternativamente: correção de correlação e correção das distribuições
marginais.
§  Funciona bem para árvores grandes
Análise d e S ensibilidade
§  Precisa de probabilidades iniciais e valores iniciais
§  O outro método também, mas de forma indireta..

Moment matching PROPRIEDADES
(MOMENTOS,
§  Resumo: conhecidas propriedades CORRELAÇÃO,…)!
estatísticas que descrevam a distribuição
usa-‐se otimização para se obter uma
distribuição discreta de mesmos momentos X 2
§  Prós: min
x,p
wi (fi (x, p) SVALi )
i2S
§  Não precisa conhecer distribuição; X
pM = 1, p 0
§  Pode-‐se usar dados históricos.
§  Contras: Análise de Sensibilidade
§  Negligencia informação sobre Petróleo Brasileiro S/A
distribuição, se disponível;
§  Gera problemas altamente não-‐
lineares;
!

Discretização ótima (P=lug, 2001 e outros)
§  Usando a mesma de deYinição de erro usada anteriormente:
e(⌘, ⇠k ) = F (arg min F (x, ⇠k ), ⌘) F (arg min F (x, ⌘), ⌘)
x2X x2X
= F (x⇤k , ⌘) min F (x, ⌘)
x2X
§  PYlug (2001) mostrou que, sob determinadas condições Lipschitz, temos:
e(⌘, ⇠k )  2 sup |F (x, ⇠k ) F (x, ⌘)|  2Ld(⇠k , ⌘)

x
§  onde L é a constante de Lipschitz, F(x, η) = Eη[f(x, η)] e d(ξk,η) é um distância
de Wasserstein (transporte) entre Petróleo Brasileiro
as funções de dSistribuição
/A η e ξk.
§  Lipchitz: dY (f (x1 ), f (x2 ))  LdX (x1 , x2 )

Discretização ótima (P=lug, 2001 e outros)
§  Observações:
§  A ideia do método é então criar uma árvore de cenários que atenda
ao critério de minimização da distância de Wasserstein
§  O problema de transporte, o qual é minimizado nesse caso, possui
solução trivial considerando dualidade. Esse resultado permite
que essas ideias sejam usadas de forma eYiciente para a geração de
árvores de cenários.
§  Dessa forma, a árvore completa é gerada de uma única vez.
§  A árvore é “ótima” em um sentido claramente de=inido.
§  Note que a medida, que é o objeto complicador da otimização, não
aparece no modelo em si.

Construção passo-‐a-‐passo e métodos de corte
§  Em geral são métodos que recebem uma árvore e a transformam em
outra “mais adequada” ao problema.
§  Pontos iniciais típicos:
1.  Um árvore grande amostrada è que precisa ser reduzida;
2.  Um único cenário è que precisa ser aumentada (construída);
3.  Um “fan” (coleção de “caminhos”) è que precisa ser obtida uma árvore
a partir disso.
§  Ponto de diferença entre as técnicas está na integração com o modelo
§  Algumas trabalham somente cPetróleo
om a distribuição
Brasileiro Sd/A
a árvore;
§  Algumas usam o próprio modelo para avaliar a qualidade;
§  Algumas são parte do próprio processo de solução.

Redução de cenários (Dupačová et. al, 2003)
§  Inicia-‐se com uma distribuição de
probabilidade discreta P (uma árvore de
cenários!) geralmente amostrada de algum ...
processo estocástico (séries temporais). 1 2 N 1 N
§  O objetivo é encontrar uma outra distribuição

de probabilidade discreta Q (uma árvore
menor) de tamanho pré-‐deYinido, a qual é a
mais próxima de P.
t, P |t 1|
| min D(T, t)
§  Tal proximidade é medida segundo métricas
do tipo Fortet-‐Mourier Petróleo Brasileiro S/A
§  A métrica é absolutamente independente do ...
1 2 n 1 n
método de otimização utilizado. Métricas de dist.
probabilisticas entre
§  Outras alternativas: Kantorovich, Kantorovich-‐ duas dist. discretas!
Rubenstein, Kolmogorov, Wasserstein… vide
“mass transportation problem” (Monge, 1781)

Redução de cenários (Dupačová et. al, 2003)
§  São usadas regras heurísticas para decidir
quais cenários serão removidos de P para que
se obtenha Q.
§  Backward Reduction
§  Forward Selection lento para árvores grandes
§  Simultaneous Backward Reduction –
resultados melhores que a backward reduction,
porém mais lenta.

§  Fast Forward Selection – melhoria do
Forward selection, em geral gera as melhores
árvores Petróleo Brasileiro S/A
§  Alguns resultados interessantes:
§  50% dos cenários è 90% a precisão relativa
§  2% dos cenários è 50% de precisão relativa
Redução: 10 000 para 20 cenários

Fazendo uma árvore de um a partir de um “fan” (Heitsch e Römisch, 2006)
§  Em geral, os dados estão disponíveis em forma de sequências ou caminhos (paths)
§  Quando combinados, eles formam um ventilador e não uma árvore!
§  Precisamos criar nós aglutinando caminhos, de forma a criar uma árvore.

Petróleo
§  Baseia-‐se nas mesmas ideia de redução Brasileiro
de cenário, S/A
ou seja, minimizando distâncias
medidas por métricas do tipo Fortet-‐Mourier e baseando-‐se em heurísticas para a
seleção/construção dos nós
§  Alguns resultados empíricos:
§  15% dos nós dão 60% de precisão
§  6% dos nós dão 50% de precisão
Fazendo uma árvore de um a partir de um“fan” (Heitsch e Römisch, 2006)
§  Exemplo: Construção de frente-‐para-‐trás(Backward)


§  Exemplo: Construção de de frente-‐para-‐trás(Backward)


§  Exemplo: Construção de trás-‐para-‐frente(Forward)


Métodos iterativos de corte e crescimento
§  Métodos iterativos, os quais respeitam uma estrutura geral:
1.  Atua na árvore para melhorá-‐la, seja podando-‐a ou aumentando-‐a
2.  Resolve-‐se o problema com a nova árvore
3.  Analisa-‐se a solução
4.  Se a árvore é boa o suYiciente, termina-‐se o algoritmo. Caso contrário, volta-‐se ao
passo 1.
§  Note que tais métodos dependem da possibilidade de se resolver o
problema de forma eYiciente (resolve-‐se o problema múltiplas vezes)
§  Em alguns casos pode começar com um único cenário (valor esperado, por
exemplo) Petróleo Brasileiro S/A
§  Novos cenários são adicionados por amostragem
§  Exemplo de método: Dempster e Thomson
§  Usa EVPI como métrica de avaliação

Amostragem interna
§  Nesses casos a amostragem de cenários é parte do processo de busca por
soluções
§  A informação a respeito da adição ou deleção de cenários é obtida do modelo
§  Caso mais comum: informação dual das variáveis
§  Problema: se for o caso, presume modelo estocástico linear convexo (não-‐inteiro)
§  Note que, neste caso, o proceso de geração de cenários “some” do processo de
modelagem do problema.
§  Ainda é preciso decidir número de períodos, estágios, ect.
§  Exemplos: Petróleo Brasileiro S/A
§  Stochastic Decomposition: Higle e Sen (96)
§  Importance sampling within Benders: Dantzig e Infanger (91)
§  Stochastic Quasi-‐gradient: Ermoliev e Gaivoronski (92) -‐ funciona para
qualquer problema convexo, inclusive NL.

Take-‐aways
§  Geração de cenários é uma parte importantíssima, porém largamente
negligenciada, de otimização sob incerteza
§  Um método de geração de cenários ruim pode arruinar a qualidade da
solução de um modelo de otimização;
§  Existe atualmente uma ampla gama de métodos sendo propostos na
literatura, porém é preciso avaliar o nível de adequação
§  Depende de o que se tem de dados disponíveis, como a incerteza pode ser
modelada, ect. Análise de Sensibilidade
§  Questões em aberto:
§  Existe um método de geração de cenário universalmente bom?
§  Qual é estrutura ótima da árvore de cenários? (larga vs. longa)

Aproximação por média amostral
Usando SAA
§  O SAA é uma técnica baseada em
simulação de Monte Carlo 1 2
...
N 1 N
§  Primeiramente proposta por Shapiro e
Homem-‐de-‐Mello (1998).
§  A principal ideia por trás da técnica é
m=1 m=2
buscar aproximar o valor da função
objetivo considerando a média do
valor da solução sucessiva de vários Análise de Sensibilidade
1 2
... ...
n 1 n 1 2 n 1 n
problemas compostos por Petróleo Brasileiro
... S/A m=M
subconjuntos de cenários amostrados
de forma sucessiva
... ...
§  Como um problema de simulação onde 1 2 n 1 n 1 2 n 1 n
o modelo em si é o próprio modelo
matemático.
Usando SAA
§  Apesar de ser propagandeado como uma forma de lidar com a distribuição
contínua através de simulação, o SAA possui outra aplicação importante
mesmo para situações onde a incerteza se dá de forma discreta.
§  Podemos usar também a técnica do SAA para situações onde o número de
cenários gerados é muito grande.
§  Ter um número de cenários muito grande, signiYica ter um número de
cenários tal que seja inviável computacionalmente resolver o
Equivalente Determinístico diretamente.
Petróleo Brasileiro
§  Algo que acontece muito frequentemente, S/A
especialmente em modelos que
consideram longos períodos de tempo
§  Ex.: Imagine 100 componentes, cada uma podendo assumir dois valores
distintos è total de cenários = 2100 ou 1030

Usando SAA
§  A grande sacada: como você tem a
combinação de amostras sucessivas, 1 2
...
N 1 N
podemos nos respaldar no Teorema
do Limite Central para conseguir
garantias estatísticas como:
§  Convergência m=1 m=2
§  Intervalos de conYiança

Análise de
§  DeYinição de tamanhos de amostra...
1
. . .Sensibilidade
2 n
...
1 n 1 2 n 1 n
§  Assim, questões como amostragem, Petróleo Brasileiro
... S/A m=M
tamanho da amostra, nível de
con=iança e outros termos da
... ...
estatística passam a ser relevantes. 1 2 n 1 n 1 2 n 1 n

Usando SAA
§  Seja o seguinte problema:
⇢ Z
v ? = min f (x) = E⌦ [F (x, ⇠)] = G(x, ⇠)g(x)dx
x2X ⌦
onde g é a função de densidade de ξ. Note que nosso problema tradicional de
dois estágios é um caso particular dele. Basta fazermos:
f (x) = cT x + Q(x)
X = {x | Ax = b} Q(x) = E⌦ [Q(x, ⇠)]

Q(x, ⇠) = min q(⇠)T y(⇠) | W (⇠)y(⇠) = h(⇠) Análise de ST ensibilidade
(⇠)x
y Petróleo Brasileiro S/A
§  Vamos assumir que nesse caso a integral representa o nosso maior problema
§  Poderia ser um valor esperado discreto, mas com muitas componentes em ξ
também.

Usando SAA
§  Nosso objetivo é tentar estimar o valor de v*. Para tal, vamos obter uma
amostra de cenários {ξ1, 8
ξ2, ..., ξN} e em seguida resolver 9
o seguinte problema:
< 1 X =
v̂N = min f˜N (x) = n
F (x, ⇠ )
x2X : N
n=1,...,N
;
onde 8 9
< 1 X =
x̂N ˜
= arg min fN (x) = F (x, ⇠ n )
x2X : N ;
n=1,...,N
§  Note que tanto o valor da função oPetróleo

bjetivo qBuanto a sSolução
rasileiro /A são em si
variáveis aleatórias, dependentes da amostra {ξ1, ξ2, ..., ξN}
§  O segredo está em conseguir mostrar que, repetindo esse processo de
“amostra e resolve” a gente converge para o problema original f(x)
§  Como fazer isso?

Propriedades fundamentais
§  O segredo do funcionamento do SAA se respalda em duas
propriedades fundamentais:
§  Propriedade 1: f ˜ N (x)
é um estimado não-‐enviesado de f(x) para todo x
Prova:
2 3
h 1 i X 1
E⌦ ˜
fN (x) = E⌦ 4 5 n
F (x, ⇠ ) = N f (x) = f (x)
N N
n=1,...,N
§  Ou seja: podemos garantir que Petróleo

estamos Brasileiro S/A
indo na direção do problema
que queremos estimar de fato!

§  O segredo do funcionamento do SAA se respalda em duas propriedades
fundamentais:
§  Propriedade 2: v̂ N
é limite inferior para v*
8 2 39
Prova(1/2): Note que: < X =
1
v = min {E⌦ [F (x, ⇠)]} = min E⌦ 4
?
F (x, ⇠ n )5
x2X x2X : N ;
n=1,...,N
Assim, podemos dizer
8 que: 9
Análise de SF (x,
ensibilidade
<1 X 1 = X
n n
min F (x, ⇠ )  ⇠ )
x2X : N ; N
n=1,...,N n=1,...,NS/A
Tirando o valor esperado dos dois lados, temos:

28 93 2 3
<1 X = 1 X
E⌦ 4min F (x, ⇠ ) 5  E⌦ 4
n
F (x, ⇠ n )5
x2X : N
n=1,...,N
; N
n=1,...,N

§  O segredo do funcionamento do SAA se respalda em duas propriedades
fundamentais:
§  Propriedade 2: v̂ N
é limite inferior para v*
Prova(2/2): Que, por sua vez é o mesmo que:
2 3
1 X
E⌦ [v̂N ]  E⌦ 4 F (x, ⇠ n )5
N
n=1,...,N
Que é o mesmo que dizer que: 8
<
2 Análise
X
de
3S9ensibilidade
=
1
E⌦ [v̂N ]  min E⌦ 4 Petróleo Brasileiro
F (x, ⇠ n )S5/A = v ?
: N ;
n=1,...,N
Ou seja, podemos garantir que, ao calcularmos o valor esperado da funções
objetivo dos problemas amostrais, teremos um limite inferior para o problema
original
Aproximação para o limite inferior
§  Dadas as duas propriedades apresentadas anteriormente, podemos então
deYinir um procedimento para calcular uma estimativa para v̂ N .
1.  Sorteiam-‐se M amostras {ξ11, ξ21, ..., ξN1}, {ξ,2, ξ22, ..., ξN2}, ..., {ξ1M, ξ2M, ..., ξNM}
2.  Para cada amostra m de 8
N cenários, resolva: 9
<1 X =
m
v̂N = min F (x, ⇠ nm )
x2X : N ;
n=1,...,N
X
3.  Assim, podemos obter uma estimativa LNM para v̂ N
calculando
1
m S/A
LN M = v̂N
M
m=1,...,M
§  Podemos usar as mesmas ideias que usamos para provar a Propriedade 1
para mostrar que LNM é um estimador não-‐enviesado para E⌦ [v̂N ]

Aproximação para o limite inferior
§  Podemos utilizar o Teorema do Limite Central para construir um intervalo de
conYiança para LNM. Assim, sabemos que:
p 2
M [LN M E⌦ [v̂N ]] ! N (0, L)
2 m
onde L é a variância de v̂ N
, m
=
1,
. . . , M
e a seta indica convergência com
2
respeito a distribuição normal com média 0 de variância L .
2
§  Para aproximar L , podemos usar o estimador amostral dado por:
s2L =
1 Análise
X
m de Sensibilidade
(v̂N LN M ) 2
M 1 Petróleo Brasileiro S/A
m=1,...,M
§  Finalmente, dado um nível de conYiança α (e, por consequência zα,tal
que P
(z

z ↵ ) =
1 ↵ ) podemos deYinir o intervalo de conYiança como sendo:

z↵ s L z s
LN M p , LN M + p↵ L
M M
Aproximação para o limite superior
§  Observe que, toda vez que resolvemos um dos problemas v̂ m , a solução
N
N
obtida x̂ m
pode ser imediatamente usada para obter-‐se uma estimativa para
o valor de um limite superior para o problema.
§  Para tal, basta notar que:
f (x̂) v ? , 8x̂ 2 X
§  Dessa forma, podemos usar alguma solução “quase-‐ótima” x̂ N
m para, usando
um estimador não-‐enviesado para f (x̂)
obter uma estimativa para o limite
superior. Análise de Sensibilidade
§  Podemos usar um estimador inspirado no que Yizemos para o limite inferior.


§  Para obter uma estimativa para f (x̂)
fazemos o seguinte:
1.  Sorteiam-‐se T amostras de tamanho N {ξ11, ξ21, ..., ξN1}, {ξ12, ξ22, ..., ξN2}, ...,
{ξ1T, ξ2T, ..., ξNT}
2.  Para cada amostra t de N cenários, resolva:
ˆt 1 X
fN (x̂) = F (x̂, ⇠ nt )
N
n=1,...,N

3.  Assim, podemos obter uma estimativa UNT para f (x̂)
calculando
1 X Brasileiro
Petróleo
UN T (x̂) = fˆN
t
(x̂) S/A
T
t=1,...,T
§  Podemos usar as mesmas ideias que usamos para provar a Propriedade 1
para mostrar que UNT é um estimador não-‐enviesado para f (x̂)

§  Algumas observações:
§  O estimador UNT considera N e T tal que N > T >> N
§  A razão disso é que, quando se trata de um problema de segundo estágio,
para uma solução x̂ N
a avaliação de f (x̂) é em geral computacionalmente
m
barata e pode se beneYiciar de técnicas de decomposição e paralelização.
§  A vantagem de usar valores grandes para T e N se refere a possibilidade
de reduzir a variabilidade da estimativa.
§ 
Análise d e Sensibilidade
Exatamente como Yizemos anteriormente, podemos nos basear no
Teorema do Limite Central para deYinir intervalos de conYiança para a
estimativa do limite superior f (x̂)


§  Sabemos que:
p 2
T [UN M f (x̂)] ! N (0, U)
2
é a variância de f ˆ N
onde U t (x̂),
t =
1,
. . . , T e a seta indica convergência com
2
respeito a distribuição normal com média 0 de variância U .
2
§  Para aproximar U
, podemos usar o estimador amostral dado por:
1 X
sU = 2
(fˆN
t
(x̂) UN T (x̂))2
T 1
t=1,...,T Análise de Sensibilidade
§  Finalmente, dado um nível de conYiança Petróleo
α B rasileiro
(e, S/A
por consequência zα,tal
que P
(z

z ↵ ) =
1 ↵ )podemos deYinir o intervalo de conYiança como sendo:

z↵ s U z↵ s U
UN T (x̂) p , UN T (x̂) + p
T T

Aproximação para o gap de otimalidade
§  Chamamos de gap de otimalidade qualquer diferença de valores que nos dão
uma medida do quão longe estamos do valor da solução ótima.
§  Note que, agora que temos uma estimativa para o limite inferior e outra para
o limite superior do real valor de v*, podemos combinar essas informações
para obtermos uma estimativa do nosso gap de otimalidade.
§  Basta lembrar que: v̂N  v ?  f (x̂)
§  Dessa forma, estaremos interessados em estimar o valor do gap de
otimalidade, o qual é dado pela diferença:
f (x̂) v?

§  Para tal, podemos deYinir o seguinte estimador:
GAPN M N T (x̂) = UN T (x̂) LN M
§  Assim, pela lei dos grandes números, temos que quando N, M, N e T tendem
ao inYinito, tal estimador tende a 0.
§  Além disso, como por deYinição temos que:
UN T (x̂) LN M Análise
0 ) GAPNd e Sensibilidade
M N T (x̂) 0
§  Não é sempre verdade, pois esses valores são estimativas dentro de um
intervalo de conYiança que pode ser grande o suYiciente para “furar” essa
premissa!

§  A variância de GAP
N
M
N
T (x̂)
é dada por: s2GAP = s2U + s2L
§  É preciso ter em mente os 3 principais vilões quanto a variabilidade de GAP
N
M
N
T (x̂)

como estimador para f (x̂)
v ?
1.  Variabilidade de UNT
§  Em princípio pode ser resolvida na força bruta, aumentando o quanto se queira N e T;
2.  Variabilidade de LNT

§  Essa é bem mais complicada, pois não dá simplesmente para aumentar N o quanto se
queira, pois criaremos Equivalentes Determinísticos grandes demais para serem tratados
(o que era o nosso problema desde o cPetróleo
omeço). Brasileiro S/A
§  O que podemos fazer a respeito:
§  Decomposição: brigar de forma inteligente com o aumento de N
§  Amostrar de forma inteligente: usar técnicas mais soYisticadas de amostragem
(Importance sampling, Latin Hypercube, estratiYicação...)

§  A variância de GAP
N
M
N
T (x̂)
é dada por: s2GAP = s2U + s2L
§  É preciso ter em mente os 3 principais vilões quanto a variabilidade de GAP
N
M
N
T (x̂)

como estimador para f (x̂)
v ?
3.  Viés em direção a v ? E⌦ [v̂N ]
§  Talvez você não tenha notado, mas:
UN T (x̂) ! f (x̂)
E⌦ [v̂N ]
GAPN M N T (x̂) ! f (x̂)
LN M ! E⌦ [v̂N ]
§  O problema é que queríamos originalmente f (x̂)
Petróleo B v ? !
rasileiro S/A
§  No Yim das contas o que temos é que, por mais esforço que façamos, sempre teremos de lidar
com fato de que f (x̂) E
⌦ [v̂
N ] > v ? . Em outras palavras, signiYica dizer que o
f (x̂)
estimador para o gap de otimalidade sempre superestima o gar de otimialidade real e possui
viés v ? E
⌦
[v̂
N
] .
§  Shapiro e Homem-‐de-‐Mello (1998) mostraram que esse viés decai a O(N-‐1/2)

Algumas tecnicalidades do método
§  Em algumas situações se faz necessária a deYinição de uma metodologia “por
fora” para que sejam escolhidas qual (quais) soluções x̂ serão de fato
escolhidas.
§  Como comparar tais soluções entre si? Questão em aberto em termos práticos...
§  Em momento nenhum falamos sobre tamanhos apropriados para N.
§  Existe uma boa quantidade de teoria que tenta deYinir limites que garantem
determinada conYiabilidade quanto a solução obtida, tanto para o caso contínuo
quanto para o caso discreto. Análise de Sensibilidade
§  Ex.: Kleywegt (2002) – caso combinatório
2
✓ n◆ 2
3 max 2 3 max
N 2
log = 2
[n log 2 log ↵]
(✏ ) ↵ (✏ )
onde δ é o gap de otimalidade inteira, ε é o gap de otimalidade desejado, σmax é um
termo deYinido pela máxima variância da diferença de determinadas funções no
ótimo e α é um determinado nível de conYiança.
Usando SAA como técnica de geração de cenários
§  Conforme vimos anteriormente, uma forma válida de se gerar cenários
consiste em utilizar técnicas de amostragem
§  Podemos utilizar as ideias oriundas do método para, de alguma forma,
controlar o método de geração de cenários e fornecer garantias estatísticas
sobre a soluções que estão sendo obtidas.
§  Para tal, precisaremos manter
8 em mente que: 9
< X =
1
v̂N = min f˜N (x) = F (x, ⇠ n )
x2X : N ;
n=1,...,N
§  Note que, como vimos anteriormente, podemos ver v̂ N como sendo o valor
esperado de uma variável aleatória, a qual seria exatamente o valor da função
objetivo;
§  Além disso, ele também é em si um estimador para o valor da função objetivo.

§  Assim, podemos pensar que, cada um dos cenários {ξ1, ξ2, ..., ξN}, quando
avaliados no problema de otimização, representam em si uma realização
variável aleatória representada
0 pela
8 função objetivo d9 o problema.
1
<1 X =
vN (⇠ n ) = F @arg min F (x, ⇠ n ) , ⇠nA
x2X : N ;
n=1,...,N
§  Que, por sua vez, pode ter sua variância estimada segundo o estimador
s
PN

sN = n=1 (v̂Análise de Sensibilidade
N v N (⇠ n ))2
N B
Petróleo 1 rasileiro S/A
§  E, novamente, usando o Teorema do Limite Central, podemos deYinir um
intervalo de conYiança para o nosso estimador v̂ N
do valor da função objetivo

z↵/2 sN z↵/2 sN
v̂N p , v̂N + p
N N
§  Podemos usar este intervalo de conYiança de forma “reversa”:
§  Dada uma tolerância β para o tamanho do intervalo, onde β representa um desvio
percentual máximo tolerável;
§  Dado um determinado nível de conYiança 1 – α.
§  Podemos então deYinir que:
✓ ◆2
z↵/2 sN
N
( /2)v̂N
Assumindo a divisão do intervalo
de forma simetrica ao redor do
valor esperado


Curso 2013 Fabricio 2

Enviado por

Dados do documento

Descrição original:

Direitos autorais

Formatos disponíveis

Compartilhar este documento

Compartilhar ou incorporar documento

Opções de compartilhamento

Você considera este documento útil?

Este conteúdo é inapropriado?

Direitos autorais:

Formatos disponíveis

Curso 2013 Fabricio 2

Enviado por

Direitos autorais:

Formatos disponíveis

Mini-curso:

Introdução à otimização sob incerteza

Análise de Sensibilidade

UNESP, 9-­‐13 de dezembro de 2013

UNESP, 9-­‐13 de dezembro de 2013

§ Para lidar com isso, temos que

§ Tais aproximações são o que se Petróleo Brasileiro S/A

Análise de Sensibilidade

Análise de Sensibilidade

Análise de Sensibilidade

Análise de Sensibilidade

Análise de Sensibilidade

UNESP, 9-­‐13 de dezembro de 2013

Análise de Sensibilidade

§ Rami=icação (branching) = chegada de nova informação = estágio

Análise de Sensibilidade

UNESP, 9-­‐13 de dezembro de 2013

UNESP, 9-­‐13 de dezembro de 2013

Métodos de geração de cenários

UNESP, 9-­‐13 de dezembro de 2013

Análise de Sensibilidade

UNESP, 9-­‐13 de dezembro de 2013

UNESP, 9-­‐13 de dezembro de 2013

e(⌘, ⇠k ) = F (arg min F (x, ⇠k ), ⌘) F (arg min F (x, ⌘), ⌘)

§ Para calcular tal erro precisaríamos:

UNESP, 9-­‐13 de dezembro de 2013

F (x⇤k , ⇠l ), k = 1, . . . , n tal que k 6= l

UNESP, 9-­‐13 de dezembro de 2013

UNESP, 9-­‐13 de dezembro de 2013

UNESP, 9-­‐13 de dezembro de 2013

Análise de Sensibilidade

UNESP, 9-­‐13 de dezembro de 2013

§ A distribuição dos nós Yilhos dPetróleo

UNESP, 9-­‐13 de dezembro de 2013

§ Pode ser usado algum método

§ Contras: Pouca estabilidade para

somente ao caso de 2-­‐estágios (SAA);

UNESP, 9-­‐13 de dezembro de 2013

UNESP, 9-­‐13 de dezembro de 2013

Moment matching PROPRIEDADES

§ Consiste de um problema de otimização

UNESP, 9-­‐13 de dezembro de 2013

E[x], E[y], E[x2 ], E[y 2 ] e Cov(x, y) 8i : (xi , yi ); pi

UNESP, 9-­‐13 de dezembro de 2013

UNESP, 9-­‐13 de dezembro de 2013

e(⌘, ⇠k )  2 sup |F (x, ⇠k ) F (x, ⌘)|  2Ld(⇠k , ⌘)

UNESP, 9-­‐13 de dezembro de 2013

UNESP, 9-­‐13 de dezembro de 2013

UNESP, 9-­‐13 de dezembro de 2013

§ O objetivo é encontrar uma outra distribuição

UNESP, 9-­‐13 de dezembro de 2013

Análise de Sensibilidade

UNESP, 9-­‐13 de dezembro de 2013

Análise de Sensibilidade

Análise de Sensibilidade

UNESP, 9-­‐13 de dezembro de 2013

Análise de Sensibilidade

UNESP, 9-­‐13 de dezembro de 2013

Análise de Sensibilidade

UNESP, 9-­‐13 de dezembro de 2013

UNESP, 9-­‐13 de dezembro de 2013

UNESP, 9-­‐13 de dezembro de 2013

§ Intervalos de conYiança

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

§  Para lidar com isso, temos que

§  Tais aproximações são o que se Petróleo Brasileiro S/A

UNESP, 9-‐13 de dezembro de 2013

§  Rami=icação (branching) = chegada de nova informação = estágio

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

§  Para calcular tal erro precisaríamos:

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

§  A distribuição dos nós Yilhos dPetróleo

UNESP, 9-‐13 de dezembro de 2013

§  Pode ser usado algum método

§  Contras: Pouca estabilidade para

somente ao caso de 2-‐estágios (SAA);

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

§  Consiste de um problema de otimização

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

§  O objetivo é encontrar uma outra distribuição

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

§  Intervalos de conYiança

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

§  Note que tanto o valor da função oPetróleo

UNESP, 9-‐13 de dezembro de 2013

§  Ou seja: podemos garantir que Petróleo

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013

UNESP, 9-‐13 de dezembro de 2013