Introdu cao

Aplicac oes do Metodo do Gradiente Espectral

Projetado em problemas de Reconstru cao de
Imagens
Boris Chullo Llave
Orientador: Prof. Dr. Ernesto G. Birgin
18 de agosto de 2011
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Camera digital
Muitos dados adquiridos !!!
Exemplo: 10 mega pixels, isto e, cada imagem tem 30 Mbytes.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Camera digital
Mais de 90 % dos dados e descartado!
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Compressive Sensing
Pegamos apenas os coecientes mais signicativos !!!
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Compressive Sensing
Pegamos apenas os coecientes mais signicativos !!!
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Compressive Sensing
A reconstrucao do sinal e feita por Otimizacao Convexa.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Compressive Sensing
A reconstrucao do sinal e feita por Otimizacao Convexa.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Esparsidade
Nao conhecemos os coecientes mais signicativos do sinal.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Esparsidade
Nao conhecemos os coecientes mais signicativos do sinal.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Exemplos
Consideramos arbitrariamente a seguinte gura:
Figura: Imagem de 512 512 pixels
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Representacao Esparsa do sinal
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Representac oes
Seleccionando os 37000 maiores elementos que representa o
14,11 % do total dos coecientes da imagem, a imagem
reconstruda e:
Figura: Imagem reconstruda.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Representac oes
Seleccionando os 23786 maiores coecientes = 9,07 % do total dos
coecientes da imagem, a imagem reconstruda e:
Figura: Imagem reconstruda com 9.07 % dos coecientes da imagem.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Amostra
Amostras pontuais
y
1
= e
i
1
, x, y
2
= e
i
2
, x, . . . , y
m
= e
i
m
, x,
onde m e o numero de amostras e e
i
1
, e
i
2
, . . . , e
i
m
sao vetores
canonicos do R
n
, i
j
1, . . . , n, j = 1, . . . , m.
Medi coes lineares:
y
1
=
1
, x, y
2
=
2
, x, . . . , y
m
=
m
, x,
onde m n e o n umero de medicoes e cada

i
R
n
para i = 1, . . . , m.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Amostra
Amostras pontuais
y
1
= e
i
1
, x, y
2
= e
i
2
, x, . . . , y
m
= e
i
m
, x,
onde m e o numero de amostras e e
i
1
, e
i
2
, . . . , e
i
m
sao vetores
canonicos do R
n
, i
j
1, . . . , n, j = 1, . . . , m.
Medi coes lineares:
y
1
=
1
, x, y
2
=
2
, x, . . . , y
m
=
m
, x,
onde m n e o n umero de medicoes e cada

i
R
n
para i = 1, . . . , m.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Processo de Amostragem
Figura: Aquisi cao (Extrado de [Sch08].)
onde n e a dimensao da imagem e m e a cantidade amostras
adquiridas da imagem.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Dado que o sinal e esparso no espaco gerado pelas colunas de
T
segue-se que:
Figura: Extrado de [Sch08].
com s R
n
esparso.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
O problema de Compressive Sensing
Recuperar o sinal x R
n
a partir das medi coes y R
m
sabendo
que s e esparso.
Figura: Extrado de [Sch08].
= .
Medicoes y = x.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Minimizacao
0
Neste contexto, procuramos:
min|s|
0
sujeita a s = y, (1)
onde |s|
0
= #i 1, . . . , n [ s
i
,= 0.
O problema de minimiza cao
0
e NP-DIFICIL.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Minimizacao
0
Neste contexto, procuramos:
min|s|
0
sujeita a s = y, (1)
onde |s|
0
= #i 1, . . . , n [ s
i
,= 0.
O problema de minimiza cao
0
e NP-DIFICIL.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
A esparsidade da norma
1
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
A esparsidade da norma
1
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
A esparsidade da norma
1
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
A esparsidade da norma
1
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Minimizacao
1
min|s|
1
sujeita a s = y (2)
onde = .
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Teorema de CS
Teorema
Dado um sinal x R
n
k-esparso no domnio , entao x pode ser
recuperado com alta probabilidade va m amostras feitas no sinal,
em que m n e m k log n.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
CS em sinais naturais
Em aplicacoes reais, o sinal amostrado pode conter erros nas
medi coes, ou seja,
y = s + . (3)
onde e o erro derivado das medi coes.
Neste contexto procuramos simultaneamente:
Um s que minimize o resduo |y s| do sistema linear
s = y.
Minimizar a norma
1
do sinal s.
min
sR
n (|s|
1
, |y s|).
Problema de Otimizacao Multiobjetivo !!!
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
CS em sinais naturais
Em aplicacoes reais, o sinal amostrado pode conter erros nas
medi coes, ou seja,
y = s + . (3)
onde e o erro derivado das medi coes.
Neste contexto procuramos simultaneamente:
Um s que minimize o resduo |y s| do sistema linear
s = y.
Minimizar a norma
1
do sinal s.
min
sR
n (|s|
1
, |y s|).
Problema de Otimizacao Multiobjetivo !!!
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
CS em sinais naturais
Em aplicacoes reais, o sinal amostrado pode conter erros nas
medi coes, ou seja,
y = s + . (3)
onde e o erro derivado das medi coes.
Neste contexto procuramos simultaneamente:
Um s que minimize o resduo |y s| do sistema linear
s = y.
Minimizar a norma
1
do sinal s.
min
sR
n (|s|
1
, |y s|).
Problema de Otimizacao Multiobjetivo !!!
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
CS em sinais naturais
Em aplicacoes reais, o sinal amostrado pode conter erros nas
medi coes, ou seja,
y = s + . (3)
onde e o erro derivado das medi coes.
Neste contexto procuramos simultaneamente:
Um s que minimize o resduo |y s| do sistema linear
s = y.
Minimizar a norma
1
do sinal s.
min
sR
n (|s|
1
, |y s|).
Problema de Otimizacao Multiobjetivo !!!
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
CS em sinais naturais
Em aplicacoes reais, o sinal amostrado pode conter erros nas
medi coes, ou seja,
y = s + . (3)
onde e o erro derivado das medi coes.
Neste contexto procuramos simultaneamente:
Um s que minimize o resduo |y s| do sistema linear
s = y.
Minimizar a norma
1
do sinal s.
min
sR
n (|s|
1
, |y s|).
Problema de Otimizacao Multiobjetivo !!!
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Otimizacao Multiobjetivo
O problema geral de Otimiza cao Multiobjetivo irrestrito e dado
pelo seguinte problema:
min
xR
n f (x) = (f
1
(x), f
2
(x), . . . , f
p
(x))
onde p e o numero de funcoes objetivo, f : R
n
R
p
e a funcao
multiobjetivo em que cada f
i
: R
n
R dene uma funcao objetivo.
Um problema de otimiza cao multiobjetivo irrestrito tem innitas
solucoes, estas solucoes formam um conjunto que e chamado
fronteira otima ou fronteira pareto.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Metodos de escalariza cao
Metodo dos pesos.
min
xR
n

p
k=1
w
k
f
k
(x)
onde w 0.
Considerando f
1
= |s|
1
e f
2
= |y s| e seg um [SCS01]
consideramos o seguinte problema ponderado:
min
sR
n
1
2
|s|
1
+ |y s|
2
2
, (4)
Para diferentes valores de , sob certas hipoteses, as solucoes de
(4) formam uma aproxima cao da fronteira pareto.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Metodos de escalariza cao
Metodo dos pesos.
min
xR
n

p
k=1
w
k
f
k
(x)
onde w 0.
Considerando f
1
= |s|
1
e f
2
= |y s| e seg um [SCS01]
consideramos o seguinte problema ponderado:
min
sR
n
1
2
|s|
1
+ |y s|
2
2
, (4)
Para diferentes valores de , sob certas hipoteses, as solucoes de
(4) formam uma aproxima cao da fronteira pareto.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Temas importantes
Base wavelet de Haar.
Incoerencia.
Propriedade de Isometra Restrita.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Temas importantes
Base wavelet de Haar.
Incoerencia.
Propriedade de Isometra Restrita.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
Temas importantes
Base wavelet de Haar.
Incoerencia.
Propriedade de Isometra Restrita.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens
Introdu cao Compressao de Imagens
E. Cand`es and J. Romberg.
Sparsity and incoherence in compressive sampling.
Inverse Problems, 23:969985, 2007.
E. Cand`es, J. Romberg, and T. Tao.
Stable signal recovery from incomplete and inaccurate
measurements.
Communications on Pure and Applied Mathematics,
59:12071223, 2006.
T. Do L. Han and T. Tran.
Fast compressive imaging using scrambled block hadamard
ensemble.
2008.
A. Schulz.
Compressive Sensing, Novos paradigmas para aquisicao e
compressao de imagens.
Escola Politecnica da Universidade de Rio de Janeiro.
Departamento Electronica e de Computa cao, 2008.
D. Donoho S. Chen and M. Saunders.
Atomic decomposition by basis pursuit.
SIAM Journal on Scientic Computing, 43:129159, 2001.
Y. Tsaig and D. L. Donoho.
Compressed sensing.
IEEE Transactions Information Theory, 52:12891306, 2006.
Boris Chullo Llave Orientador: Prof. Dr. Ernesto G. Birgin Aplica coes do Metodo do Gradiente Espectral Projetado em problemas de Reconstru cao de Imagens