Escolar Documentos
Profissional Documentos
Cultura Documentos
Manual Avaliacao Programas Violencia PDF
Manual Avaliacao Programas Violencia PDF
Sumrio
Editorial
Prefcio
Captulo I
O problema da Violncia no nosso meio
Captulo II
Conceitos e princpios da Avaliao
O que avaliar?
Por que avaliar?
Quando avaliar
Tipos de avaliao segundo o objeto
Tipos de avaliao segundo quem executa
Captulo III
A realizao de uma avaliao
Elementos necessrios a avaliao
Pblico Alvo
Como identificar esse grupo
As aes
Custos
O que custo de oportunidade
Indicadores
Indicadores quantitativos x indicadores qualitativos
Transformao dos indicadores qualitativos em quantitativos
Fontes de informaes: onde conseguir dados para construo dos
Indicadores
Fontes secundrias de dados
Captulo IV
Avaliao de Processo
Implementao da Avaliao de Processo
Captulo V
Avaliao Econmica
Avaliao de Impacto
Mtodos de Avaliao de Impacto de Programas de Preveno a
Violncia
Comparao Estatstica entre mdias
Regresso Linear
Limites das Ferramentas de estimao de impacto
Avaliao de Retorno Econmico
O benefcio do projeto de preveno a violncia
Custo do projeto de preveno a violncia
Clculo das estatsticas de retorno econmico
Razo custo efetividade
07
10
15
15
16
19
19
22
24
25
26
26
27
28
28
30
31
32
34
39
47
50
53
55
61
62
67
84
86
87
94
97
99
101
101
104
105
109
Editorial
A Organizao Pan-Americana da Sade orienta seus esforos para colaborao
tcnica entre pases e seus parceiros; busca ainda promover estilos de vida saudveis
e, prevenir os problemas de sade tpicos do desenvolvimento e da urbanizao, como
as violncias.
Prefcio
Para se ter uma idia, em 2005, atravs de documento intitulado Perfil das Prticas
Cadastradas no Observatrio Democrtico de Prticas de Preveno Violncia e
Criminalidade no Brasil, o Ministrio da Justia apresentou as caractersticas bsicas
de 168 prticas de preveno cadastradas no Observatrio at maio de 2005
(Ministrio da Justia, 2005). Deste total, apenas metade das prticas cadastradas
tinha sido submetida a algum tipo de avaliao. Detalhes sobre o tipo de avaliao e
sobre os seus achados no foram publicados, impedindo que os interessados no tema
saibam o que, no nosso meio, tem sido realizado com sucesso, ou quais prticas tem
mostrado resultados insatisfatrios.
gostaramos
de agradecer
ao Dr. Gustavo
passagem pela OPAS Brasil forneceu forte apoio e incentivo para realizao deste
Manual. Coerentes com nossas convices, apresentamos nesse texto apenas exemplos
de experincias j avaliadas. Nesse sentido, devemos agradecimentos Polcia Militar
de Minas Gerais e a Secretaria de Defesa Social do Estado de Minas Gerais pela cesso
das informaes sobre o programa Proerd e o Fica Vivo utilizados como exemplos.
Agradecemos ainda, a Fundao Ita Social e ao Banco Ita Social pela oportunidade
concedida a uma das autoras de participar do programa de "Avaliao Econmica de
Projetos Sociais", o que proporcionou o contato com o amplo material didtico e
forneceu embasamento prtico sem o qual seria impossvel a confeco deste Manual.
As Autoras
Captulo I
O problema da Violncia no nosso meio
Esta doena social incide principalmente em homens jovens, o que imputa perda
econmica para a sociedade muito maior do que doenas que atingem indivduos com
idade mais avanada. A World Health Organization (WHO) no relatrio de 2002,
mostra que, no ano de 2000, ocorreram 8,8 homicdios por cem mil habitantes nos
pases membros. A taxa de homicdio por cem mil habitantes de homens cerca de
trs vezes a das mulheres (13,6 e 4,0 respectivamente). Alm disto, a taxa de
homicdio de homens jovens (entre 15 e 29 anos) de 19,4 enquanto que das mulheres
nesta mesma faixa etria de 4,4 por cem mil habitantes. O relatrio mostra que os
pases em desenvolvimento do continente Americano so os que mais sofrem com a
violncia. A taxa de homicdio por cem mil habitantes desse grupo de pases de 27,5
atingindo para os homens entre 15 e 29 anos o valor 89,7 por 100.000 habitantes.
10
indicam que para cada pessoa assassinada 30 foram hospitalizadas por leses no
fatais e aproximadamente 300 foram atendidas em servios de pronto atendimento e
liberadas (World Health Organization, 2005).
11
12
13
executadas.
Neste contexto, este manual pretende ser um guia simples que informa e orienta
formuladores e gestores de programas e projetos de preveno a violncia dos
princpios e dos modelos avaliativos mais importantes.
14
Captulo II
O que avaliar?
Como nem sempre contamos com boas informaes para avaliar, nossos julgamentos s
vezes so equivocados e resultam em escolhas ruins. Se, escolhas pessoais
fundamentadas em avaliaes equivocadas ou em falta de avaliao resultam em perda
de dinheiro, tempo e energia, imagine as repercusses na comunidade e, na sociedade
como um todo, da aplicao de recursos humanos, tempo e dinheiro em projetos e
programas que no so capazes de atingir seus objetivos.
Avaliar preciso!
15
16
pronunciada por ocasio das discusses do oramento de 250 milhes de libras para
o Programa de Reduo de Crimes e Violncias iniciado em 1998 na Gr-Bretanha. Esta
frase d uma idia da preocupao do governo ingls com as polticas cientificamente
orientadas, as quais exigem a organizao de evidncias para determinar prioridades
e distribuio de recursos. Naquele ano, 10% do oramento geral, ou seja, 25
milhes de libras foram destinados s atividades de avaliao e monitoramento dos
programas de preveno ao crime e violncia.
17
18
Quando avaliar?
A avaliao pode e deve ser realizada em todos os estgios do projeto ou programa.
Mesmo antes da implantao do programa pode ocorrer a sua avaliao. Neste caso
denominamos
de
avaliao
ex-ante.
Quando
avaliao
ocorre
durante
19
exemplo, as aes propostas esto sendo efetivamente realizadas? O pblico alvo est
satisfeito com o atendimento? Os objetivos esto sendo alcanados? O custo est
condizente com os benefcios?). Os tipos de avaliao no so excludentes. O ideal a
combinao entre eles.
20
Glossrio
Eficcia Relaciona-se ao grau em que os objetivos e metas do programa ou projeto
so alcanados, independentemente dos custos implicados.
Eficincia Diz respeito relao entre os recursos utilizados e os resultados
alcanados. Est associada ao conceito de timo.
Efetividade Constitui uma relao entre resultados/objetivos. Expressa os
resultados concretos ou as aes que conduzem a estes resultados.
Projeto: Empreendimento planejado e constante de uma srie de atividades
correlacionadas e coordenadas para alcanar objetivos especficos dentro de um
perodo de tempo e, com um oramento definido.
Programa:Trata-se de um conjunto de projetos que perseguem os mesmos objetivos.
O programa define as prioridades, o mbito institucional e os recursos a serem
utilizados na interveno.
Processo: Descreve como o programa realizado. Por exemplo, como os homens
agressores domsticos so atendidos em um programa educativo voltado para
agressores.
Recursos (insumos ou inputs): So todos os meios necessrios para executar um
programa ou projeto, como: dinheiro, clientes, pessoal tcnico etc.
Resultados (outputs): Trata-se da unidade de servio. Por exemplo, o nmero de
homens que passaram pelo programa de reabilitao de agressores domsticos, o
nmero de visitas domiciliares realizadas por um programa de acompanhamento de
famlias em situao de risco para violncia, etc.
Impacto (outcomes): Trata-se dos impactos sobre os clientes ou as comunidades que
21
Tem
como
principais
vantagens
um menor
custo e
diferente da
um
melhor
22
tendem a ser mais isentos e, a adotarem maior distncia em relao aos costumes e
normas da instituio executora. Sentem-se menos constrangidos em formular
crticas ao programa. O trabalho na instituio termina com a finalizao da avaliao
e, a insero profissional dos avaliadores no ameaada pelos resultados da
avaliao, o que pode ocorrer na avaliao interna. Este tipo de avaliao tende a
apresentar maior credibilidade
23
Captulo III
A realizao de uma avaliao
24
25
26
Por exemplo, a instruo que regula a aplicao do programa PROERD define como
objetivo geral1
Dotar jovens estudantes de informaes e habilidades necessrias para viver de
maneira saudvel, sem drogas e violncia, com observncia das normas
institucionais, filosofia do Programa e alinhado as polticas pblicas estabelecidas.
E como alguns dos objetivos especficos: a) dotar jovens estudantes com
ferramentas que lhe permitam evitar influncias negativas em questo relativas s
drogas e violncia, promovendo os fatores de proteo e suas habilidades de
resistncia; b) estabelecer relaes positivas entre alunos e policiais militares,
professores, pais e outros lderes da comunidade; c) permitir aos estudantes
enxergarem
os policiais
como
servidores, transcendendo a
atividade
de
27
1
Alm disto, a descrio das aes que serve de suporte para futuras expanses
do programa/projeto e que ajudam a explicar os resultados da avaliao de
impacto.
No caso do programa PROERD a instruo interna da PMMG regula todas as etapas
de sua implementao. De forma resumida o programa tem aes que se
subdividem em dois grandes blocos de atuao, um voltado para a seleo e
formao de instrutores e outro para a aplicao do programa nas Escolas, junto
ao pblico alvo.
Custos
Qual o valor do projeto? O custo de um projeto/programa de preveno
criminalidade a medida de todos os valores incorridos para a sua realizao. o
elemento fundamental para a avaliao econmica, pois sem o custo no possvel
calcular o retorno econmico do projeto.
O conceito de custo usado nas avaliaes econmicas difere do conceito de custo
contbil usualmente utilizado pelos gestores dos projetos. O Custo Econmico de
um projeto a soma dos custos contbeis com os custos de oportunidade daqueles
que participaram do projeto.
O que o custo de oportunidade?
O custo de oportunidade o rendimento que se deixa de obter ao realizar uma
determinada escolha. Um exemplo clssico o custo que um jovem incorre em
cursar a universidade. O custo de oportunidade para este jovem ou para sua
famlia o salrio que ele deixa de receber por no trabalhar, mesmo que cursar a
28
universidade seja desejado pela famlia. Ainda que este jovem no trabalhasse, o
fato que ir para a universidade pode significar ter que contratar algum para
fazer os trabalhos domsticos ou cuidar dos irmos mais novos. O salrio perdido
o custo de oportunidade da famlia
Vrios projetos/programas de preveno violncia funcionam em imveis cedidos
pelos parceiros ou imveis prprios da organizao gestora. Assim, no existe um
custo contbil de aluguel do imvel. Entretanto, existe um custo de oportunidade
relacionado propriedade do imvel. Se o proprietrio do imvel onde o projeto
funciona o alugasse para uma empresa ele receberia uma renda. A renda do
aluguel perdida devido cesso do mesmo ao projeto um custo de oportunidade
que deve ser computado no clculo do custo econmico.
Outro exemplo o custo de oportunidade do voluntrio. Vrios projetos funcionam
com o auxlio de profissionais voluntrio. Pensemos em um projeto de preveno
violncia que se beneficia do trabalho voluntrio de um psiquiatra. O custo das
horas que este psiquiatra despende atendendo os participantes do projeto, no
includo no custo contbil. Entretanto, se o psiquiatra ao invs de atender no
projeto estivesse atendendo em seu consultrio ele receberia o valor da hora
trabalhada. Assim, o custo de oportunidade do psiquiatra o valor das horas
trabalhadas que ele deixa de receber por ser voluntrio no projeto. Este custo
deve ser computado no custo econmico do projeto.
Em resumo, ao trabalharmos com avaliao econmica temos que considerar os
custos econmicos do projeto que so os custos contbeis somados aos custos de
oportunidade do projeto.
29
Indicadores
Um indicador o elemento, parmetro ou estatstica que fornece medida da
magnitude de algum fenmeno. o indicador que oferece prova ou sinais de
mudanas ocorridas. No caso dos projetos/programas de preveno violncia o
indicador fornece a medida de algum aspecto importante para o projeto.
Quando efetuamos a avaliao de processo construmos os chamados indicadores
de processo. Este tipo de indicador est intimamente relacionado s aes do
projeto/programa. Os indicadores so medidas das aes realizadas, ou seja,
medem as atividades desenvolvidas.
No caso da avaliao econmica construmos os chamados indicadores de impacto.
Este tipo de indicador se relaciona aos objetivos do programa. So eles que
permitem ao avaliador dizer se o programa alcanou seus objetivos.
Os indicadores de processo e de impacto so fundamentais para conhecer a
realidade do pblico alvo antes de depois do projeto/programa. Por isto precisam
ser escolhidos com bastante cuidado e devem apresentar algumas caractersticas:
i. Fcil de serem entendidos
ii. De fcil construo e baixo custo;
iii. Confiveis
iv. No conflitantes com as informaes disponveis
v. Relacionados diretamente com as aes efetuadas
No exemplo do PROERD, como indicador de processo relacionado s aes de
30
31
32
2-Confiante
3- Muito confiante
Outro indicador qualitativo do PROERD a viso dos jovens sobre as drogas
lcitas. Para transform-lo em indicador quantitativo, tambm criamos uma escala:
Grau de concordncia com consumo de drogas lcitas por jovens
1- No concorda
2- Concorda se o consumo for pequeno (1 vez por ms)
3- Concorda se o consumo for mdio (1 vez por semana)
4- Concorda independente do consumo
A transformao de um indicador qualitativo em quantitativo gera perdas de
informaes preciosas para a avaliao do programa.
No exemplo, quando transformamos a confiana dos jovens na polcia (indicador
qualitativo) no grau de confiana dos jovens na polcia (indicador quantitativo),
enquadramos todos os jovens respondentes em apenas 3 categorias, perdendo a
nuance das respostas de cada um. Assim, um jovem que confia pouco porque na sua
comunidade existe corrupo policial classificado na mesma categoria de um
jovem que confia pouco porque no conhece direito o funcionamento da instituio.
Ambas as respostas do indicaes diferentes para o avaliador se analisadas
qualitativamente, o que se perde na avaliao quantitativa. Por outro lado, somente
com o indicador qualitativo no possvel medir as mudanas na relao de
confiana entre policiais e jovens (impacto do PROERD).
33
discusso
sobre
indicadores
utilizados
para
realizar
avaliao
de
Cadastro do projeto
O cadastro do projeto a base de dados construda internamente pelos seus
gestores. Devem constar neste cadastro todas as informaes e caractersticas
dos participantes relevantes para a avaliao. Geralmente, os gestores do
projeto/programa
so
negligentes
na
construo
deste
cadastro,
por
projeto.
Ento,
um
cadastro
planejado,
estruturado
preenchido
34
Nome do policial
Registro na corporao
Idade
Gnero
Escolaridade
Estado Civil
Nome
35
Endereo
Nome do diretor
Nome
Idade
Gnero
Srie
Escolaridade da me
Se a me trabalha
Quando vamos implementar um programa devemos assim recorrer aos documentos que
o descrevem e o fundamentam e realizar um diagnstico prvio/pr-teste dos grupos,
indivduos
36
de
37
que apresentam
indicadores preocupantes
de
38
do ano, dias e horas nos quais mais freqente a ocorrncia destes crimes.
39
40
41
Nos grandes centros urbanos comum que estejam disponveis fontes de informao
de origem acadmica. Independente do foco, estes textos quase sempre apresentam
um histrico da comunidade estudada. Pesquisas em pginas de busca da Internet,
bancos de teses e bibliotecas das maiores universidades e faculdades locais, ajudam a
localizar estes textos.
42
Tipo de informao
de Estatsticas
crimes
e
violncias
Dados qualitativos
43
Comunidade
focais
com
Anlise documental:
Matrias de jornais, Consultas a pesquisas
de natureza acadmica, Realizao de
surveys,Fruns da Comunidade
Outras agncias Informaes scio- Anlise documental e entrevista com
governamentais demogrficas e de informantes chaves de:
acesso a servios
Secretarias/departamentos municipais de
essenciais
habitao, empresas concessionrias de
(estatsticas
de servios pblicos.
pronto-socorros,
Empresas/ Fundaes de Processamento
numero de famlias
de dados estatsticos (ex: IBGE)
que
recebem
benefcios
de Bancos de dados de secretrias de sade e
problemas
urbanos,
assistncia
social, educao,
desenvolvimento
econmico.
nmero de crianas
matriculadas
nas
escolas, estatsticas
de
evaso
escolar,,nmero de
detentores de ttulo
de
posse
de
moradias,
percentual
da
populao
com
acesso a saneamento
bsico, coleta de
lixo,
eletricidade
etc., cadastro de
atividades
econmicas)
45
Tcnicas
Questionrios
e
Surveys
Descrio
Envolvem a aplicao de
questionrios
estruturados em amostra
de pessoas da comunidade
ou
em
um
grupo
especfico.
Os
questionrios podem ser
auto-respondveis,
aplicados
por
entrevistadores face a
face, por telefone ou via
postal. Trata-se de meios
teis
de
obter
informaes
sobre
comportamentos,
atitudes, e opinies de
um
grupo
maior
de
pessoas.
Vantagens
permitem
colher
informaes de muitas
pessoas.
- so annimos
- so mais facilmente
analisveis e comparveis
- Permitem avaliar a
reao do pblico a
propostas de polticas
pblicas,
identificar
violncias ocorridos e no
notificados, e fornecem
dados para posterior
avaliao de programas
implementados
- alguns modelos de
questionrios
j
so
disponiveis
Desvantagens
- podem exigir
especialistas em
amostragem e em
metodologia de survey
- so impessoais
- podem ser caros
- refletem opinies,
atitudes e informaes
em um dado ponto no
tempo
Grupos Focais
- So baratos e podem
ser realizados com mais
rapidez.
Estimulam
os
participantes a exporem
suas idias,
- Ajudam a considerar
outros pontos de vista e
a identificar prioridades.
- Podem oferecer insight
sobre a extenso e fora
das
opinies
e
resistncias a mudanas.
Podem
identificar
potenciais participantes
do programa.
46
Entrevistas
com
informantes
chaves
Tem
objetivos Semelhantes aos do grupo
semelhantes
aos
dos focal
grupos focais, exceto que
os
entrevistados
so
escolhidos
especificamente por suas
experincias, envolvimento
e conhecimento dos temas
sobre
os
quais
a
informao necessria
Anlise de
- pode permitir viso mais
Documentos
abrangente e histrica da
situao
- no compromete a
rotina do programa
- as informaes j
existem
Estudo
Caso
Captulo IV:
Avaliao de Processo
47
constitui uma fase difcil e no raro tumultuada, na medida em que, a vida como ela
apresenta contingncias e imprevistos que podem exigir adaptaes no plano de
trabalho original. Estas contingncias demandam esforos no sentido de compreenso
dos fatos que venham a ocorrer e que exigiro ajustes no plano original.
quando
detectados
ajustes
problemas
no
de
48
Anlise
do
processo
administrao pblica
49
50
agncias
governamentais,
conselhos
gestores,
conselhos
De qualquer forma, como pode ser apreendido das questes acima colocadas, a
avaliao de processo implica no uso de expresses como apropriado, adequado,
razovel, satisfatrio, pretendido etc. Portanto, trata-se de uma modalidade que
implica em julgamento. Para tal necessrio ao avaliador dispor de critrios e padres
51
defensveis nos quais ele possa basear o seu julgamento. A inexistncia de definio
destes critrios torna o trabalho do avaliador muito difcil, exigindo que o mesmo
busque na teoria que fundamenta o programa pistas do que o programa deveria estar
fazendo e do que constitui um desempenho adequado.
Os
critrios
mais
comumente
aplicados
nestas
situaes
so
os
padres
52
Captulo V2
Avaliao Econmica
A avaliao econmica de um projeto/programa de preveno violncia composta
de duas etapas, avaliao de impacto e avaliao do retorno econmico. Estas duas
etapas so complementares, sendo que a avaliao de retorno econmico realizada a
partir dos resultados da avaliao de impacto.
A apresentao deste captulo est baseada na estrutura analtica do Manual.de Avaliao Econmica de
Projetos Socais da Fundao Ita Social, elaborada por Schor e Afonso (2005), adaptada para a avaliao de
programas de preveno e combate violncia.
54
obtidos pela avaliao de impacto com o custo incorrido para sua obteno. Ou seja,
pretende confrontar o impacto do programa com o seu custo. Alm disto, quando
efetuada em mais de um programa, os parmetros estimados servem de comparao
entre eles.
Este tipo de avaliao importante porque mesmo que um programa tenha obtido
impacto positivo (estimado atravs da avaliao de impacto), pode ser que o custo para
a sua obteno tenha sido to alto que inviabilize sua implementao. Ou seja, o
programa funciona, mas no compensa. Muitas vezes temos programas que exibem um
impacto de grande magnitude, mas que quando confrontados com seu custo se
apresentam pouco viveis, ou seja, tm custo muito alto em relao aos benefcios que
geram. A avaliao de retorno econmico pretende responder as seguintes perguntas:
O
benefcio
gerado pelo
projeto/programa
vivel
projeto/programa
economicamente?
maior
Em
que
quais
seu
custo?
Este
projetos/programas
55
56
58
participar. Por exemplo, pense num programa para reintegrao social de egressos do
sistema prisional com objetivo de prevenir que estes cometam novos crimes. Alguns
egressos optam por participar (tratados) e outros escolhem no participar (controle).
O grupo tratado deve ter caractersticas diferentes do grupo no tratado. Algumas
destas caractersticas podem ser observveis (sexo, idade, escolaridade, renda
familiar, religio, etc) e outras so no observveis (moralidade, ndole, propenso ao
trabalho, etc.). Se compararmos a taxa de reincidncia criminal desses dois grupos e
encontramos uma menor taxa para os tratados, no poderemos atribuir esta diferena
diretamente ao programa. Pode ser que o grupo tratado seja mais religioso ou mais
propenso ao trabalho do que o grupo no tratado e so estas diferenas que levaram
menor na taxa de reincidncia observada no grupo tratado.
59
60
na
preveno
da
violncia,
geralmente
no
podemos
fazer
63
Em geral os programas devem ser avaliados com no mnimo um ano de funcionamento, para que seja dado
tempo suficiente para apresentarem resultados.
social
(critrios
de
elegibilidade
do
programa;
64
A partir destes dados calculamos a mdia do indicador de impacto para cada um dos
grupos separadamente. Em seguida, calculamos um intervalo de confiana a 95% para
65
uma delas, por exemplo, para o grupo controle. A criao do intervalo de confiana
est baseada na hiptese de que a mdia da varivel (indicador de impacto) tem
distribuio normal. A Tabela II a seguir apresenta estes resultados para o programa
fictcio.
Tabela II: Mdia e intervalo de confiana para o programa fictcio
Tratado
Controle
ii)
66
sT
X T - 1,96 *
; X + 1,96 * sT
T
n
Regresso linear
Este mtodo aplicado quando a seleo dos participantes no aleatria ou no
67
68
69
70
1 e 2
71
72
73
74
2) Uma caixa de dilogo ser aberta. Escolha a opo regresso e clique em OK.
75
0,57
0,32
-0,05
5,40
15
ANOVA
gl
Regresso
Resduo
Total
Interseo
Participao
Nmero de Habitantes (por mil)
Proporo de Jovens na Populao
Renda Mdia (Reais)
Escolaridade Mdia (anos de estudo)
5
9
14
SQ
125
262
388
MQ
25,09
29,14
F
0,86
F de significao
0,54
Stat t
1,16
-0,75
1,03
-0,35
0,11
-0,32
valor-P
0,27
0,47
0,33
0,73
0,92
0,76
95% inferiores
-9,82
-9,96
-0,29
-25,68
-0,03
-3,03
95% superiores
30,63
5,01
0,77
18,73
0,04
2,29
76
77
5
As demais estatsticas contidas nos resultados no sero detalhadas nesta apostila por necessitar de
conhecimento mais avanado de econometria.
78
79
6
Antes
Depois
Variao
TA
TD
TD - TA
CA
CD
CD - CA
(TD TA) (CD CA)
(1)
80
81
Uma vez organizada estas planilhas as unimos em um nico banco de dados, que
denominamos de dif-dif. A unio das duas planilhas feita pela colagem das
informaes da planilha depois ao final dos dados da planilha antes, de forma a manter
a correspondncia entre as variveis. A tabela V um exemplo desta base:
82
Interseo
Participao
Tempo
Participao x Tempo
gl
3
26
29
SQ
254,86
596,61
851,47
MQ
84,95
22,95
F
3,70
F de significao
0,02
Coeficientes
14,14
-1,77
-3,14
-2,86
Erro padro
1,81
2,48
2,56
3,51
Stat t
7,81
-0,71
-1,23
-0,81
valor-P
0,00
0,48
0,23
0,42
95% inferiores
10,42
-6,86
-8,41
-10,06
95% superiores
17,86
3,33
2,12
4,35
83
84
As demais estatsticas contidas nos resultados no sero detalhadas nesta apostila por necessitar de
conhecimento mais avanado de econometria.
85
Por fim, mas no menos importante, existe a limitao do grupo controle e tratamento
serem muito diferentes. Quando isto acontece dizemos que estamos com um problema
de suporte comum. Neste caso o instrumental de regresso linear no consegue
estimar o impacto do programa corretamente. Para resolver este problema existem
outras ferramentas, no abordadas neste Manual, que servem para selecionar dentre o
grupo de controle os elementos que so mais parecidos com os do grupo de
tratamento. Um exemplo so os mtodos de pareamento (matching).
Avaliao de Retorno Econmico
De forma geral, a avaliao de retorno econmico objetiva mensurar a viabilidade
econmica de um projeto. Em outras palavras o retorno econmico de um investimento
compara o seu custo com o benefcio financeiro gerado, de forma a determinar se o
investimento lucrativo e economicamente vivel.
A aplicao deste conceito em projetos de preveno violncia exige viso mais
ampla do seu significado. Vamos entender como. Um projeto de preveno violncia
no um investimento financeiro. Entretanto, faz-se necessrio o dispndio de
recurso financeiro, que pode ser interpretado como um investimento. Por outro lado, o
projeto de preveno violncia no visa gerao de lucro. Entretanto, o bem-estar e
a qualidade de vida da populao aumentam com a preveno da violncia, e isto pode
ser pensado como o lucro do projeto.
Se os custos do projeto de preveno criminalidade so considerados como
investimento e, o benefcio gerado pela preveno a violncia como lucro, para
calcularmos o retorno econmico necessrio dimensionarmos o valor monetrio
destes dois elementos.
86
87
monetrio para o nmero de homicdios evitados. Mas, qual o ganho para a sociedade
em evitar os homicdios? Uma resposta a esta pergunta pode ser o quanto sociedade
economizar no futuro devido aos homicdios que deixaram de ocorrer. Neste sentido,
ao estimarmos a perda que os homicdios impem sociedade, teremos um valor
monetrio a atribuir ao nmero de homicdios prevenidos pelo programa8.
No caso do programa para preveno do consumo de drogas, o indicador de impacto
o nmero de usurios de drogas. O impacto estimado determina o nmero de jovens
que no usaram drogas (no vieram a se tornar usurios de drogas) devido ao
programa. Podemos aplicar o mesmo conceito do exemplo anterior para associar um
valor monetrio para a preveno do uso de droga. Precisamos estimar o quanto
sociedade economizar no futuro com a preveno do uso de drogas. Para isto
estimamos o valor monetrio da perda que o usurio de drogas impe para a sociedade.
Generalizando, uma das formas para transformar o nmero de atos violentos
prevenidos estimado na avaliao de impacto em valor monetrio do benefcio,
utilizamos a hiptese de que vrios recursos deixam de serem gastos pelos diversos
agentes da sociedade devido preveno. Nesta perspectiva, o valor monetrio do
crime prevenido o custo que a violncia impe sociedade. Esta no a nica
maneira de transformar o impacto da preveno da violncia em benefcio. Podemos
pensar em outras hipteses para atribuir valor monetrio reduo da violncia
devido ao programa.
88
O valor da perda que a violncia impe para a sociedade composto de vrios fatores. A literatura de
sugere diversos componentes como: valor despendido com o judicirio, o gastos com aparato policial,
despesas mdicas e psicolgicas com as vtimas e familiares, valor da perda de produo, tratamento
mdico e psicolgico para o dependente qumico (no caso de uso de drogas) entre outros (Dubourg et al.,
2005; Brand e Price, 2000; Mayhew, 2003).
Para
fins
didticos,
considere
que
coeficiente
estimado
estatisticamente significativo. Se isto fosse verdade o programa teria impacto de 2,86 homicdios em mdia no perodo. Quanto valeria para a sociedade a reduo de 2,86 homicdios?
89
momentos no tempo, no
podemos
simplesmente somar o valor em cada momento para obtermos o benefcio total. Isto
acontece porque, em geral, as pessoas atribuem mais valor ao dinheiro no presente do
que no futuro. O que voc prefere ganhar 100 reais hoje ou no ano que vem? Este
fenmeno conhecido como preferncia intertemporal. Assim, para obtermos o
benefcio total do programa temos que utilizar uma taxa de desconto intertemporal
para deduzir do montante o fato de que o valor s ser recebido no futuro.
90
ou
VP = VF/(1+i)n
91
pedir a opo inserir funo. Uma caixa de dilogo abrir. Nela selecionamos funo
financeira: VP. Estes passos so retratados na figura 1 abaixo.
Figura 1: Funo financeira do Valor Presente
92
Categoria
Impacto
Benefcio anual por homicdio evitado
Benefcio anual do programa
Benefcio total do programa
Valores
-2,86
50.000,00
143.000,00
1.728.200,88
88
94
95
b)
Custo de Oportunidade
100.000,00
80.000,00
Custo Contbil
180.000,00
1.000.000,00
480.000,00
200.000,00
140.000,00
820.000,00
97
98
Razo Custo-Efetividade
A estatstica denominada de Razo Custo-Efetividade calculada quando no foi
possvel transformar o impacto do programa (efetividade) em benefcio. Esta
estatstica fornece o quanto foi gasto por unidade de impacto estimada. Por exemplo,
no programa PROERD no qual o impacto estimado em termos de pessoas que
deixaram de se tornar usurios de drogas, a estatstica Razo Custo-Efetividade
fornece o valor monetrio gasto para cada pessoa que no se tornou usuria de drogas
devido ao programa. No caso do programa para reduo do homicdio, esta estatstica
determina o valor gasto para cada homicdio prevenido.
Para seu clculo basta dividir o custo econmico do programa pelo impacto estimado
(na avaliao de impacto)9:
Razo Custo-Efetividade= custo econmico / impacto estimado
No exemplo do programa de preveno de homicdio, supondo que o impacto estimado
estatisticamente significativo, temos a reduo de 2,86 homicdios. O custo
econmico acontece apenas no tempo zero sendo de 1 milho de reais:
Razo Custo-Efetividade = 1.000.000 / 2,86 = 350.000
99
importantssimo atentar que o impacto do programa e o custo tm que estar calculado para o mesmo
momento no tempo.
O custo-efetividade de 300 mil reais significa que cada homicdio evitado pelo
programa custou 300 mil reais. Mas, pagar este valor para evitar um homicdio muito
ou pouco?
A pergunta s poder ser respondida pelas outras estatsticas de retorno econmico.
Apesar disto, a estatstica de custo-efetividade muito usada para comparar
programas. Se o gestor tem que decidir entre dois programas, ele escolher o que tem
menor custo-efetividade, pois o custo para se atingir o mesmo objetivo menor.
Algum poderia argumentar que se para comparar dois programas poderamos olhar
apenas para o impacto estimado. Entretanto, isto no estaria correto, pois pode
ocorrer a situao em que um tenha o impacto maior do que o outro, mas por causa do
seu custo ser muito mais elevado ele tem menor razo custo-efetividade.
Existe um problema tico na comparao entre os programas, porque teoricamente o
gestor pblico deveria investir no programa que gera maior retorno. Por exemplo, se o
retorno de um programa de preveno aos homicdios maior do que o retorno de um
programa de preveno violncia contra a mulher, teoricamente o gestor publico
deveria investir na preveno do homicdio.
preveno violncia contra a mulher tenha menor retorno, este tipo de crime deve
ser combatido. O ideal s comparar programas que tenham como objetivo a
preveno do mesmo tipo de violncia. Assim, o gestor pode, dentro da categoria de
violncia a prevenir, optar pelo programa de maior retorno.
100
Razo Custo-Benefcio
A razo custo-benefcio relaciona o custo e o benefcio estimado pelo programa
fornecendo uma medida de qual o retorno para a sociedade de cada real investido na
preveno da criminalidade realizada pelo programa. Para o seu clculo basta dividir o
benefcio total estimado pelo custo econmico do programa10.
Razo Custo-Benefcio= Benefcio total / custo econmico
No exemplo do programa de preveno de homicdio encontramos um benefcio total
de 1.728.200,00 reais. Aplicando a frmula temos:
Razo Custo-Benefcio = 1.728.200,00/ 1.000.000 = 1,73
O resultado significa que para cada real investido no programa para preveno ao
homicdio a sociedade ganha 1,73 reais no futuro. Se subtrairmos uma unidade da
razo custo-benefcio e multiplicarmos por 100, encontramos a taxa de retorno
percentual deste programa que de 73%.
101
10
Lembre-se de que o custo e o benefcio tm que estar calculados no mesmo momento no tempo.
los, pois isto implicaria na aplicao de uma taxa de desconto intertemporal e na taxa
de inflao/deflao. Com o custo e o benefcio estimado, o programa estimar a taxa
interna de retorno de forma a igualar o custo e o benefcio no tempo no momento
presente.
Como calcular a taxa interna de retorno na prtica?
Primeiramente, montamos uma planilha em MS-Excel que retrata o fluxo de caixa do
programa. Colocamos nesta planilha uma coluna de tempo, uma de custo, e outra de
benefcio. Alm disto, inserimos uma coluna denominada lquido, que o benefcio,
menos o custo, em cada momento no tempo. A figura 5 apresenta esta planilha para o
programa de preveno ao homicdio.
Figura 5: Planilha do Fluxo de Caixa do programa fictcio para preveno ao homicdio
102
Uma vez montado o fluxo de caixa inserimos a funo financeira taxa interna de
retorno-TIR. Para isto, selecionamos na barra de ferramentas inserir, em seguida
selecionamos a opo inserir funo. Uma caixa de dilogo ir abrir. Nela
selecionamos funo financeira TIR. Esses passos so apresentados na figura 6 a
seguir.
Figura 6: Funo financeira da Taxa Interna de Retorno
103
exemplo de 13%. Esta taxa pode ser comparada taxa de juros do mercado. Por
exemplo, se a taxa interna de retorno maior do que a poupana, o retorno do
programa maior do que o desta aplicao financeira. Por outro lado, se a taxa interna
de retorno menor do que a poupana, ento o retorno do programa maior do que o
obtido nesta aplicao.
Consideraes Finais
A avaliao de programas e projetos de preveno violncia ainda constitui uma
raridade em nosso meio. Em parte isto decorre da falta de tradio de avaliao de
programas sociais de uma forma geral, no nosso pas e, de certo preconceito contra
esta atividade, que vista to somente como uma ferramenta de fiscalizao dos
financiadores, e desta forma, potencialmente ameaadora aos programas.
104
Bibliografia
Andrade, M. V. e Peixoto, B. T. Avaliao econmica de programas de preveno e
controle da criminalidade no Brasil. In: Cludio Beato. (org.). Compreendendo e
Avaliando Projetos de Segurana Pblica. Belo Horizonte: UFMG, 2008, v. , p. -219.
Banco Mundial. Preveno Comunitria do Crime e da Violncia em reas Urbanas da
Amrica Latina Um Guia de Recursos para Municpios, 2003
Banco Mundial. Monitorizao & Avaliao Algumas Ferramentas, Mtodos e
Abordagens, 2004
Brand, S.; Price, R. The economic and social costs of crime. Home Office Research
Study 217 Economic and Resource Analysis, Research, Development and Statistics,
Directorate. London: Home Office, 2000
Camplo
AF. Avaliao de Programas Sociais em ONGS: Discutindo aspectos
conceituais e levantando algumas orientaes metodolgicas sobre avaliao de
impacto.
Disponvel
em:
http://www.cereja.org.br/arquivos_upload/avaliacaoprogrsociais_amandafcampelo.pdf
Acessado em: 10/03/2009
Cano, I. Introduo avaliao de programas sociais. Rio de Janeiro: FGV, 2008
Crdia N. Estado del arte de los programas de prevencin de la violencia en jvenes
Washington: Pan American Health Organization (OMS), Pan American Sanitary Bureau
(OPS), Regional Office of the World Health Organization, 2005, 80p.
Carvalho SN. Avaliao de programas sociais: balano das experincias e contribuies
para o debate. So Paulo em Perspectiva, 17(3-4):185-197, 2003
Cohen, E; Franco, R. Avaliao de projetos sociais. 5. ed. Petrpolis, Vozes, 2002.
Contradriopoulos AP; Champagne, F; Denis, JR ,Inealut, R, 1997. A Avaliao na rea
da sade: conceitos e mtodos. In: Hartz, ZMA (org.) Avaliao em sade: dos
modelos conceituais prtica na anlise da implantao de programas. Rio de Janeiro:
FIOCRUZ. pp. 29-47
Dubourg, R.; Hamed, J; Thorns, J. The economic and social costs of crime against
individuals and households. Home Office Online Report, 2005
105
Fagan, J. "Criminalization of Domestic Violence: Promises and Limits" in Conference on
Criminal Justice Research and Evaluation. Research Report, National Institute of
Justice. 1995. Disponvel em http://www.ncjrs.gov/pdffiles/crimdom.pdf. Acessado
em 04/04/2009
Hamilton-Smith N. Anticipated consequences: developing a strategy for the targeted
measurement of displacement and diffusion of benefits. In: Tilley N. Evaluation for
crime prevention. Crime Prevention Studies, Volume 14. Devon: Willan Publishing, 2002
Lapponi, J C. Estatstica Usando Excel. Rio de Janeiro: Campus-Elsevier, 2005.
Marino E. Manual de Avaliao de Projetos Sociais. So Paulo: Saraiva: Instituto
Airton Sena, 2003
Mayhew, P. Counting the Costs of Crime in Australia: Technical Report, Technical and
Background Paper Series, n. 4, Australian Institute of Criminology, Canberra, 2003
MacNamara C. A basic guide to program evaluation . Disponvel em:
http://www.tgci.com/magazine/A%20Basic%20Guide%20to%20Program%20Evaluatio
n.pdf. Acessado em: 04/04/2009
Mihalic S., Irwin K., Elliot D., Fagan A., Hansen D. Blueprints for violence prevention.
Juvenile Justice Bulletin, july, 2001
Minayo MCS. (Org.) ; Assis, SG (Org.) ; Souza, Edinilsa Ramos de (Org.) . Avaliao por
triangulao de mtodos. 1a.. ed. Rio de Janeiro: Editora Fiocruz, 2005.
Minas Gerais. Decreto No. 43.334, de 20 de maio de 2003. Cria o Programa de
Homicdios do Estado de Minas Gerais. Minas Gerais, Belo Horizonte, 21 de maio 2003
a. Dirio do Executivo, Legislativo e Judicirio. Caderno 1, p.2-3
Ministrio da Justia, Secretaria Nacional de Segurana Pblica, Departamento de
Pesquisa, Anlise da Informao e Treinamento de Pessoal, Perfil das Prticas
Cadastradas no Observatrio Democrtico de Prticas de Preveno Violncia e
Criminalidade 2005
Ministrio da Sade. Impacto da Violncia na Sade de Crianas e Adolescentes.
Preveno de Violncias e Promoo da Cultura da Paz. Braslia: Ministrio da Sade,
2009, 10p
106
107
108
Anexo
Conceitos estatsticos
a) Experimento aleatrio:
Um experimento aleatrio se no for possvel antecipar seu resultado, apesar de
conhecer todos os resultados possveis que define o espao amostral de experimento.
Assim, cada vez que o experimento aleatrio for repetido o resultado poder ser
diferente, mesmo que se saibam todos os possveis resultados. O exemplo clssico de
experimento aleatrio o lanamento de um dado. O espao amostral deste
experimento varia entre 1 e 6, que equivalem as faces do dado. Entretanto, ao
lanamos o dado no possvel determinar o resultado.
b) Varivel aleatria:
Lapponi (2005) define que a varivel aleatria uma varivel cujo valor o resultado
numrico de um experimento aleatrio.
109
110
determinado municpio foi vitimada, este resultado baseado nos resultados para a
amostra entrevistada. Da a importncia de escolher bem a amostra. Se ela no for
representativa da populao, as inferncias feitas com base nos resultados da
amostra no sero vlidas.
d) Distribuio de probabilidade:
Quando estamos trabalhando com variveis aleatrias no sabemos os valores que elas
iro assumir at a realizao do experimento. Entretanto, sabemos os possveis
valores que elas podem assumir. Tambm podemos supor as probabilidades com que
cada um dos resultados pode acontecer. Com base nisso definimos a distribuio de
probabilidade da varivel aleatria. A distribuio de probabilidade de uma varivel
aleatria a lista dos valores possveis de uma varivel aleatria com suas
possibilidades de ocorrncia.
Voltemos ao exemplo do experimento aleatrio de jogar um dado. Nunca sabemos qual
face do dado ser selecionada, ou seja, o resultado deste experimento uma varivel
aleatria. possvel obter 6 resultados para este experimento referentes s 6 faces
do dado. Assim, dizemos que existem seis possveis valores associados a essa varivel
aleatria (1, 2, 3, 4, 5 e 6), sendo que razovel supor que as probabilidades de
ocorrncia de cada valor, no caso de um dado no-viciado, so iguais (cada resultado
tem probabilidade de ocorrncia de 1/6). Neste caso, a funo de probabilidade
representada como na figura 1. No eixo das abscissas esto os possveis valores
associados varivel aleatria; e, no eixo das ordenadas, especificamos as
probabilidades de ocorrncia, que neste caso 1/6.
111
112
e) Distribuio normal:
A distribuio normal uma das distribuies de probabilidade mais importantes na
estatstica moderna, sendo bastante usada nos estudos econmicos. Seu enorme uso
advm da facilidade de defini-la, utilizando para isto apenas dois parmetros: a mdia
e o desvio padro. Esta distribuio tem formato como mostrado na figura 3.
Figura 3 Distribuio normal
113
114
s2 =
( X 1 - X ) 2 + ( X 2 - X ) 2 + ... + ( X n - X ) 2
(n - 1)
115
(6 - 7,4375) 2 + (8 - 7,4375) 2 + (10 - 7,4375) 2 + 2 x (12 - 7,4375) 2 + (14 - 7,4375) 2 + (18 - 7,4375) 2
(16 - 1)
39,3828 + 2,4414 + 55,3164 + 11,8164 + 23,7656 + 2,0664 + 0,3164 + 6,5664 + 41,6328 + 43,0664 + 111,5664
15
337,9374
2
s =
= 22,52917
15
s2 =
No exemplo do estupro nos municpios de uma regio temos que o desvio padro dado
por:
s = s 2 = 22,52971 = 4,74649
116
h) Intervalo de confiana:
Quando trabalhamos com uma amostra utilizamos o resultado da amostra para inferir
sobre a populao a qual ela representa. No caso do exemplo do nmero de estupros
por municpio, utilizamos uma amostra de 16 municpios para inferir sobre a populao
(que no caso so todos os municpios do Estado). Desta forma, calculamos a mdia da
amostra e falamos que ela a mdia da populao. Mas, como garantir que a mdia da
amostra representa realmente a mdia do Estado? No temos como garantir que a
mdia dos estupros nos 16 municpios (amostra) seja exatamente a mdia dos estupros
no Estado (populao). Entretanto, se o nmero de estupros por municpio uma
varivel aleatria, com distribuio normal podemos construir o intervalo de confiana
da mdia amostral que vai nos dizer com uma probabilidade de, por exemplo, 95% que
a mdia da populao est contida neste intervalo de confiana.
Quando uma varivel aleatria segue uma distribuio normal, sabemos pelas
propriedades desta distribuio que: 68% dos valores possveis esto simetricamente
distribudos entre 1 desvio-padro em relao mdia direita e esquerda da
mdia; e 95% dos valores possveis esto simetricamente distribudos entre 2 desviopadro em relao mdia direita e esquerda da mdia.
Para calcularmos o intervalo de confiana a 95% de probabilidade precisamos saber
antes a mdia amostral ( X ), o desvio padro (s) e o nmero de observaes da
amostra (n). De posse destas estatsticas calculamos o intervalo de confiana por
meio da seguinte formula:
117
No exemplo trabalhado neste anexo, temos que a mdia da amostra 7,4375, o desvio
padro 4,74649 e o nmero de observaes na amostra de 16. Assim, temos que:
4,74649
4,74649
; 7,4375 + 1,96 *
7,4375 - 1,96 *
16
16
[5,11 ; 9,76]
118
Graficame
nte:
95%
5,11
7,4375
9,76
O que este intervalo de confiana calculado significa : com 95% de confiana a mdia
da do Estado se encontra entre 5,11 e 9,76 estupros por municpio.
119