Escolar Documentos
Profissional Documentos
Cultura Documentos
Evidência para
consistência
EM DEUS NÓS
das alegações
ACREDITAMOS; PARA
TODO O RESTO, TRAGA A
EVIDÊNCIA
CHRISTOPHER
HITCHENS
O QUE PODE SER ALEGADO (1949-2011)
SEM EVIDÊNCIA PODE SER
WILLIAM E. DESCARTADO SEM EVIDÊNCIA
DEMING
(1900-1993)
POR QUE BASE EM EVIDÊNCIA?
MECANISMO DE
ACONSELHOMENTO
CIENTÍFICO DA UE
ESTUDO DAS
PRÁTICAS DE
ACONSELHA-
MENTO
CIENTÍFICO
NOS PAÍSES
MEMBROS
DA UE
EVIDÊNCIA NA ORDEM DO DIA
EXECUTIVO
FEDERAL
Art. 1º Fica instituído o Conselho
de Monitoramento e Avaliação
de Políticas Públicas, de natureza
consultiva, com a finalidade de:
I - avaliar as políticas públicas
selecionadas, que são
O CMAP financiadas por gastos diretos ou
subsídios da União; e
II - monitorar a implementação
das propostas de alteração das
políticas públicas resultantes da Decreto nº
avaliação, em consonância com 9.834/19
as boas práticas de governança.
EVIDÊNCIA NA ORDEM DO DIA
EXECUTIVO
FEDERAL
EVIDÊNCIA Mais de 80 milhões de resultados
NA ORDEM encontrados para “evidence based”
DO DIA no Google
DESENHO E
GESTÃO DE
POLÍTICA PÚBLICA
COM BASE EM
EVIDÊNCIA
RELEMBRANDO O QUE É POLÍTICA PÚBLICA
ALEJO VARGAS
POLÍTICAS PÚBLICAS SÃO PROGRAMAS DE AÇÃO
VELASQUES
GOVERNAMENTAL VISANDO A COORDENAR OS MEIOS
À DISPOSIÇÃO DO ESTADO E AS ATIVIDADES PRIVADAS,
PARA A REALIZAÇÃO DE OBJETIVOS SOCIALMENTE
RELEVANTES E POLITICAMENTE DETERMINADOS.
MARIA PAULA
DALLARI BUCCI
ETAPAS DA POLÍTICA PÚBLICA COM BASE EM EVIDÊNCIA
ETAPAS DA POLÍTICA PÚBLICA COM BASE EM EVIDÊNCIA
DESENHO GESTÃO
CÁTEDRA
Instituto Ayrton Senna
I
“Um problema
bem definido é
um problema
metade
DEFINIÇÃO E solucionado”
DIMENSÃO CHARLES
FRANKLIN
KETTERING
Toda política pública é construída para
modificar algo, resolver um problema social,
seja promovendo algo desejável seja
evitando a ocorrência de algo indesejável.
Assim, o primeiro passo de qualquer política
pública com base em evidência envolve
especificar o problema a ser resolvido e
mensurar sua dimensão e consequências.
DEFINIÇÃO
E DIMENSÃO
Especificação e mensuração
Que problema social queremos resolver?
Para isso, que resultado pretendemos
modificar? Quanto falta para alcançarmos o
resultado almejado? Solucionar um problema
e alcançar um resultado requer, antes de tudo,
tê-los bem especificados. Mas, aquilo que não
se mede não se pode saber se melhorou.
Assim, toda gestão com base em evidência
requer uma medida válida e fidedigna do
resultado de interesse.
DEFINIÇÃO
E DIMENSÃO
Magnitude e evolução
Consequências
A importância de um problema é
determinada não só por sua dimensão,
mas também, pela magnitude de suas
consequências. Mensurar prováveis
consequências envolve estimar relações de
causa e efeito. O que deverá acontecer se
nada for feito? Essas consequências
poderiam ser evitadas caso os resultados
de interesse fossem modificados
conforme planejado?
CÁTEDRA
Instituto Ayrton Senna
Grau de sensibilização
e mobilização
Eficácia da mobilização
Advogar com base em evidência envolve
adotar estratégias de mobilização e
comunicação eficazes. A identificação de
melhores estratégias envolve medir,
por um lado, o esforço requerido e,
por outro, a capacidade de cada estratégia
promover o sucesso da mobilização.
CÁTEDRA
Instituto Ayrton Senna
III
“Não há nada que
um governo odeie
mais do que ser
bem informado;
DETERMINANTES porque torna o
processo de
chegada à decisão
muito mais
complicado e
A eficácia de uma solução requer que esta difícil”
atue nas causas (determinantes) do
resultado que se pretende modificar. JOHN M. KEYNES
Assim, toda política
pública baseada em evidência requer a
identificação e priorização desses
fatores determinantes.
DETERMINANTES
Mapa de determinantes
Todo problema social possui inúmeros
determinantes e toda ação para ser eficaz
precisa focar a atenção em ao menos parte
desses determinantes. Assim, o desenho
de políticas requer o mapeamento
desses determinantes.
DETERMINANTES
Priorização
Dificilmente uma política tem condições
de atuar sobre todos os determinantes
dos resultados de interesse. Priorizar é preciso.
Isso requer estimar a capacidade de os
determinantes modificarem os resultados
de interesse, identificar quais estão dentro da
competência de atuação do gestor e
então selecionar sobre quais a política
a ser desenhada deverá atuar.
CÁTEDRA
Instituto Ayrton Senna
IV
“Experiência
(evidência) sem
teoria é cega,
mas teoria sem
SOLUÇÃO experiência
(evidência) é
inócua”
IMMANUEL
Como recursos são sempre escassos, toda
KANT
boa solução deve utilizá-los de maneira
eficaz. Existe sempre uma multiplicidade de
propostas para solucionar um problema.
A escolha entre elas requer o mapeamento
das alternativas, entendimento das
hipóteses que embasam a capacidade de
sucesso de cada uma e, se possível, uma
quantificação do que elas prometem ou do
que se pode esperar de cada uma delas.
SOLUÇÃO
Estratégia de solução
e modelo de mudança
Raramente existe apenas uma única
estratégia para se solucionar um problema.
Desenhar uma boa solução requer mapear as
possíveis estratégias, em particular, como se
poderia atuar sobre os determinantes dos
resultados de interesse que se deseja
modificar. Poucas vezes a forma como uma
solução atua sobre o resultado de interesse é
direta. Em geral, a relação entre a ação e o
resultado se dá via uma rede de relações de
causa e efeito, envolvendo uma variedade de
fatores intervenientes, denominada modelo
de mudança. Contar com uma visão explícita
desse modelo é vital para o desenho,
convencimento e validação de uma solução.
SOLUÇÃO
Validade do modelo
de mudança
Compromissos e metas
V “Quantifique. O que
quer que seja que
você esteja
explicando, apresente
JUSTIFICATIVA alguma medida ...
Aquilo que é vago
está aberto a muitas
explicações”
Toda solução demanda recursos.
Para ser justificada, uma solução precisa CARL SAGAN
que o valor do que é capaz de alcançar
(seus benefícios) supere o valor dos recursos
que necessita (seus custos). Embora a
justificativa definitiva de uma solução só
possa ocorrer após a sua implantação, a
decisão por adotá-la precisa ser baseada em
avaliações ex-ante de sua relação
custo-efetividade e custo-benefício.
JUSTIFICATIVA
Impacto (eficácia)
Em princípio, apenas ações com
expectativa de impacto de magnitude
relevante deveriam ser implementadas.
Assim, justificar, com base em
evidência, a opção por adotar uma ação
requer estimativas ex-ante (anterior à
implementação da ação) da magnitude
esperada para o seu impacto.
JUSTIFICATIVA
Valoração do custo
Recursos são sempre escassos.
Assim, justificar, com base em evidência a
adoção de uma ação requer tanto
estimativas da magnitude do seu impacto
quanto estimativas de seu custo. A
valoração do custo econômico de uma
ação, em geral, não é um tarefa simples.
Requer estimar a parcela despendida por
todos os parceiros envolvidos, sejam eles
agentes públicos ou privados. Também
requer que se estime a depreciação,
os recursos utilizados de forma
compartilhada com outras ações e o valor
de doações e trabalho voluntário.
JUSTIFICATIVA
VI “Nós não
aprendemos com
a experiência ...
JOHN DEWEY
Nenhuma solução é perfeita. Toda solução e
as ações que a compõem precisam passar
por contínuo aprimoramento. O processo de
implementação gera importantes
evidências sobre as qualidades e deficiências
dessas ações. Colher, sistematizar e analisar
essas evidências possibilita e fundamenta
o aprimoramento do desenho, do modo de
operação da solução e das ações
que a conformam.
APRIMORAMENTO
Monitoramento
O acompanhamento e monitoramento
da implementação de uma solução é a mais
prodigiosa fonte de evidência sobre a
validade do seu modelo de mudança e
sobre a adequação do seu modo de
implementação e operação. Transformar a
experiência de implementação em
evidência para o aprimoramento envolve
registrar o que efetivamente aconteceu e
contrastar com o que era esperado que
ocorresse. Para isso é necessário identificar,
a priori, o que deveria ser registrado
(desenhar um sistema de monitoramento)
e, a posteriori, registrar de forma fidedigna
e organizada (fazer com que o sistema de
monitoramento funcione).
APRIMORAMENTO
Eficiência
Eficiência é a capacidade de converter recursos
(financeiros, humanos ou de outra natureza) em
ações. Quanto maior a eficiência, maior a
quantidade de ações que pode ser oferecida com o
mesmo orçamento ou menor o orçamento
necessário à oferta de uma dada quantidade de
ações. A falta de eficiência (a ineficiência) resulta
de deficiências na aquisição ou na utilização dos
insumos empregados nas ações. Essas deficiências
são de quatro tipos: (i) podem resultar da aquisição
de insumos acima do preço de mercado (ineficiência
na aquisição); (ii) podem resultar da subutilização
dos insumos (ineficiência na utilização); (iii) podem
resultar do uso tecnicamente inapropriado dos
insumos, levando a ações em quantidade ou
qualidade aquém do esperado, dada a quantidade
de insumos utilizados (ineficiência técnica); e (iv)
podem resultar de uma alocação excessiva de
insumos escassos, quando o mais adequado seria a
utilização mais intensa de outros recursos mais
abundantes (ineficiência alocativa).
APRIMORAMENTO
Eficácia
A implementação e operação de uma
solução é um momento ideal para avaliar
seu impacto, contrastá-lo com o
esperado e identificar fatores que possam
estar impedindo ou que poderiam
promover impactos ainda maiores. Toda
gestão com base em evidência requer
uma permanente avaliação de impacto do
que está sendo implementado.
APRIMORAMENTO
Validação do modelo de
mudança e do modo de
operação
VII
“O que pode ser
alegado sem
evidência pode
ser descartado
CERTIFICAÇÃO sem evidência”
CHRISTOPHER
Enquanto o monitoramento e avaliação HITCHENS
de uma solução durante sua
implementação são vitais para seu
aprimoramento, sua avaliação ex-post é
indispensável para a devida prestação de
contas e contribui para a melhoria no
desenho de soluções futuras.
Idealmente toda solução deveria passar
por um processo ex-post de certificação
que incluísse avaliações do seu custo,
impacto e relações de custo-efetividade e
custo-benefício.
CERTIFICAÇÃO
Eficiência
A experiência com uma solução
permite aprimorar seu modo de
implementação e operação e então
promover maior eficiência levando
a um custo mais baixo. A
certificação de uma solução requer
estimativas do custo final e do
grau de eficiência alcançados.
CERTIFICAÇÃO
Eficácia
A relevância de uma solução depende
de sua capacidade de promover as
modificações que propunha alcançar
nos resultados de interesse. Assim, a
certificação de qualquer solução
requer estimativas da magnitude do
seu impacto sobre o leque completo
de resultados de interesse.
CERTIFICAÇÃO
Relações custo-benefício
e custo-efetividade
Em última instância, a relevância de
qualquer solução decorre de sua
capacidade de alcançar os objetivos
almejados sem requerer recursos além
do previsto. Assim, a certificação de
uma solução requer estimativas de suas
relações de custo-efetividade e
custo-benefício.
CERTIFICAÇÃO
Adequação
Em geral, o custo e a magnitude do
impacto de uma solução variam
dependendo da natureza da população
atendida. Invariavelmente, uma solução é
desenhada com vistas a resolver um
problema específico de uma população
específica (população alvo).
Uma solução é considerada adequada
quando é comprovadamente capaz de
atender sua população alvo com uma
relação custo-efetividade aceitável e tiver
sua resolutividade reconhecida
por essa população.
EXEMPLOS DE USO
DE EVIDÊNCIA NO
DESENHO E
GESTÃO DA
POLÍTICA PÚBLICA
DIMENSÃO DO PROBLEMA
MAGNITUDE E
EVOLUÇÃO
DESENGAJAMENTO
ESCOLAR NO
BRASIL
DIMENSÃO DO PROBLEMA
Adultos
74%
29%
ENSINO ENSINO
FUNDAMENTAL I MÉDIO
INCOMPLETO COMPLETO
CONSEQUÊNCIAS PNDS
DO
DESENGAJAMENTO
ESCOLAR
https://institutoayrtonsenna.org.br/
pt-br/prisma-da-educacao.html
MAPA DE CAUSAS DO
DESENGAJAMENTO ESCOLAR
CAUSAS
DO
PROBLEMA
Fonte: reproduzido de Barros et. al. “Políticas públicas para a redução do abandono e evasão escolar de jovens”;
Brava, Instituto Unibanco, Insper, Instituto Ayrton Senna, 2017a.
DESENHO DE SOLUÇÃO
A IMPORTÂNCIA
DE CONTAR COM
UM MODELO DE
MUDANÇA
EXPLÍCITO
DESENHO DE SOLUÇÃO
PROPOSTA DE
SOLUÇÃO DO ESPÍRITO
SANTO PARA O
DESENGAJAMENTO
ESCOLAR
MONITORAMENTO
De que outra forma podemos garantir que todas as crianças e suas famílias
tenham o apoio e os recursos que precisam para prosperar?
MONITORAMENTO
§ 1o
A União manterá instrumento individual de registro unificado de dados
do crescimento e desenvolvimento da criança, assim como sistema informatizado,
que inclua as redes pública e privada de saúde, para atendimento ao disposto
neste artigo.
MONITORAMENTO
MONITORAMENTO
MONITORAMENTO
MONITORAMENTO
MONITORAMENTO
TIPOS DE AVALIAÇÃO
Relação Custo
Relação Custo Efetividade BeneFcio
Eficácia
Eficiência
Produtos Valor do
Recursos Impacto
e Serviços Impacto
AVALIAÇÃO DE IMPACTO
Resultado dos
O QUE É O beneficiários
IMPACTO
DA
POLÍTICA
PÚBLICA?
AVALIAÇÃO DE IMPACTO
Resultado dos
beneficiários após o
O QUE É O Programa
IMPACTO
DA
POLÍTICA Melhora no
resultado dos
PÚBLICA? beneficiários
AVALIAÇÃO DE IMPACTO
Resultado dos
beneficiários após o
O QUE É O Programa
IMPACTO
DA
POLÍTICA Resultado dos Melhora no
beneficiários caso não resultado dos
PÚBLICA? houvessem acessado o beneficiários
Programa
AVALIAÇÃO DE IMPACTO
Resultado dos
beneficiários após o
O QUE É O Programa
IMPACTO Impacto do
DA Programa
Desempenho em Matemática
IMPACTO DA
AMPLIAÇÃO DA 1 2 3 4 5 6 7 8 9 10 11
JORNADA Escolas de tempo
integral – 9º ano –
ESCOLAR SOBRE Ensino Médio
amplia para tempo
22 21 20 19 18
Integral em Tempo
17 16 15 14 13 12
O DESEMPENHO 23 integral de um dia
(Hincapie, D., 2016)
Integral (EMITI),
de SC
ESCOLAR Programa de
Educação Integral
no Chile – amplia Aumento de uma hora
para um período e 24 25 26 27 28 29 30 31 32 33 34
semanal da disciplina –
meio o tempo de média de 3,5h/sem por 35
aula. disciplina
Resultados do EMITI (Bellei, C., 2009) (Lavy, V., 2015)
são Preliminares
46 45 44 43 42 41 40 39 38 37 36
Avaliação realizada 47
pela Cátedra Instituto
Ayrton Senna no Insper
48 49 50 51 52 53 54 ... 98 99 100
CUSTO-BENEFÍCIO
,1 DP
1,4 DP
Fonte: reproduzido de Institutos Natura e Sonho Grande: “Análise dos modelos de Escola em Tempo Integral de Pernambuco”;
disponível em: https://www.institutonatura.org.br/wp-content/uploads/2017/04/Estudo-Escola-em-Tempo-Integral.pdf, 2017. Fonte: Peers; Secretaria de Educação de PE; Análise Bain