Escolar Documentos
Profissional Documentos
Cultura Documentos
REVISÃO
Enrico Moreira Martignoni, Wagner Ricardo dos Santos,
Haidine da Silva Barros Duarte, Eduarda Amaral e Taís Damasceno
EDITORAÇÃO
Leonardo Barbosa
Março / 2015
SECRETARIA DE ESTADO DE PLANEJAMENTO E GESTÃO – SEPLAG RJ
SUBSECRETARIA DE PLANEJAMENTO – SUBPL
Av. Erasmo Braga, 118 – 5º Andar – CEP 20.020-000 – Centro – Rio de Janeiro – Brasil
Fones: 55 (21) 2333-1914 / 55 (21) 2333-1846 – Fax: 55 (21) 2332-6092
Site: www.rj.gov.br/web/seplag
ISBN 978-85-66570-09-0
INDICADORES DE PROGRAMAS
POR QUE E COMO USAR?
CADERNO DE PLANEJAMENTO 3
S E C R E TA R I A D E E S TA D O D E P L A N E J A M E N T O E G E S T Ã O - S E P L A G R J
SECRETÁRIA DE ESTADO
Cláudia Uchôa Cavalcanti
AVALIAÇÃO E MONITORAMENTO:
DEFININDO (E REAPROXIMANDO) OS TERMOS 9
COMEÇANDO A ESTRUTURAR UM
SISTEMA DE INDICADORES: DIAGNÓSTICO,
MONITORAMENTO E AVALIAÇÃO 10
CONSTRUINDO INDICADORES
DE PROGRAMAS: OS SETE PASSOS BÁSICOS 13
CONSIDERAÇÕES FINAIS 24
BIBLIOGRAFIA 24
NOTAS 25
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 7
INTRODUÇÃO
As atividades de monitoramento e avaliação são partes fundamentais do ciclo de
planejamento abrangidos pelo Plano Plurianual (PPA) do Estado. O PPA define os programas
governamentais para um quadriênio, buscando o alinhamento às orientações estratégicas
do governo e às previsões orçamentárias. O plano deve estabelecer os mecanismos para
avaliar o desempenho governamental e os impactos de sua ação na população do Estado do
Rio de Janeiro. Ele deve ser, ainda, um instrumento que ajude a tomada de decisões,
orientando alocação de recursos para se atingir os objetivos da Administração.
A Secretaria de Planejamento e Gestão (SEPLAG-RJ), por meio de sua Subsecretaria de
Planejamento, é responsável por coordenar os processos de elaboração, revisão,
monitoramento e avaliação do Plano Plurianual, em parceria com as secretarias estaduais. Ela
oferece um suporte metodológico aos demais órgãos estaduais, cada um deles responsáveis
pela elaboração e execução de diferentes programas. Com o intuito de auxiliar a
coordenação dos processos de planejamento e orçamento, foi criado o Sistema de
Planejamento e de Orçamento do Estado do Rio de Janeiro – SPO1, que especifica as
atribuições do órgão central, dos órgãos setoriais e das unidades de planejamento e de
orçamento. Dessa forma, o Guia de Indicadores representa um esforço da SEPLAG em
qualificar o processo de planejamento, buscando dar subsídios para o monitoramento e
avaliação dos programas governamentais e, dessa forma, aprimorar as políticas públicas
ofertadas à população.
Esse guia é, assim, uma síntese de alguns dos principais temas da literatura sobre
monitoramento, avaliação e indicadores de programas2, dando subsídios para aprimorar as
políticas públicas implementadas pelo Governo do Estado do Rio de Janeiro. A SEPLAG
pretende, assim, atuar como parceira nos processos de monitoramento e avaliação,
oferecendo um guia metodológico sintético que possa ajudar a Administração Pública
estadual a aperfeiçoar a gestão cotidiana de seus programas e ações.
Assim, ao elaborar esse guia, a Subsecretaria de Planejamento almeja fazer com que a
SEPLAG atinja um dos objetivos colocados em seu regimento interno:
“coordenar, compatibilizar e avaliar a formulação e a operacionalização das políticas
públicas de suas áreas de responsabilidade, bem como propor alternativas de correção e
redimensionamento nas ações governamentais” (RESOLUÇÃO SEPLAG Nº 894/2013).
Isoladamente, a SEPLAG pouco pode fazer para atingir esse objetivo. Por isso, a troca
de experiências com as secretarias estaduais é fundamental. Esse guia é uma tentativa de
dar um suporte metodológico para processos que, sabidamente, os órgãos estaduais já
executam com diferentes graus de dificuldade ou rigor. Na realidade, o guia não substitui o
rico conhecimento que os órgãos e seus gestores possuem sobre os programas sob sua
responsabilidade, no entanto, a junção desse conhecimento com o aporte metodológico
para construção de indicadores pode fazer com que a Administração Pública estadual
chegue a um novo patamar em seus processos de monitoramento e avaliação.
Uma importante mensagem que se deseja passar é que o uso de indicadores para
monitoramento e avaliação não pressupõe um conhecimento externo à Administração
Pública estadual. No dia-a-dia da gestão de um programa, tangenciamos muitas questões
relacionadas à temática dos indicadores, faltando apenas uma sistematização que propicie
um melhor monitoramento do programa executado. O guia pretende dar subsídios para a
construção de um processo de monitoramento que seja útil no nível da gestão do programa,
que permita corrigir o rumo ao longo do processo e seja capaz de avaliar seus resultados.
8 l CADERNO DE PLANEJAMENTO 3
Uma das perguntas que as pessoas envolvidas com no controle externo, para um modelo de gestão pública
monitoramento e avaliação devem se fazer é: por que orientada para os resultados, com o estabelecimento
estamos fazendo isso? A falta de clareza quanto às de metas e indicadores de desempenho que possam
razões frequentemente compromete a tomada de medir o cumprimento das metas.
decisão quando o processo de monitoramento e
No entanto, ainda encontramos alguns desafios para
avaliação é confrontado com as limitações cotidianas
a incorporação de indicadores no setor público: a) uma
que se impõem sobre a gestão de um programa. Muitas
cultura organizacional que dificulta a transição para uma
vezes, os recursos são escassos – em termos financeiros,
gestão comprometida com resultados; b) fragilidade dos
de pessoal, de expertise e de tempo – e não é possível
serviços públicos, que limita a delegação de
monitorar e avaliar tudo de todas as formas possíveis.
responsabilidades e o alcance de um maior nível de
É preciso ficar claro também que o processo de responsabilização dos dirigentes públicos; c) um fraco
monitoramento e avaliação lida com interesses de uma processo de consolidação de modelos burocráticos que
grande variedade de grupos e atores sociais. Usualmente, possibilitem o funcionamento da Administração Pública
em relação a um programa governamental, os cidadãos e por meio de procedimentos transparentes e confiáveis.
membros do legislativo estão interessados nos impactos de
Tendo em vista essas motivações, limitações e os
um programa que recebe um significativo aporte de
diferentes atores interessados no processo de
recursos. A equipe técnica do programa deseja melhorar
monitoramento e avaliação, esse guia opta por seguir um
sua gestão por meio do monitoramento. Gestores e
caminho bastante destacado pela literatura sobre
responsáveis pelo programa precisam tomar decisões
avaliação, mas não tão evidente quando lidamos com
baseadas em evidências sobre os resultados do programa.
programas governamentais: um sistema de
Assim, os interesses dos variados grupos se relacionam com
monitoramento e avaliação que valha o esforço
diferentes motivações para avaliação:
despendido em sua criação e alimentação deve não
a) Avaliação para accountability, para avaliar se apenas responder a motivações de accountability
os recursos estão sendo usados da melhor externa, mas ser útil no nível da gestão do programa, de
maneira; forma a permitir melhorar seu desempenho.
b) Avaliação para expansão do conhecimento Essa abordagem pode parecer estranha quando
lógico-causal, para avaliar se, de fato, o lidamos com programas governamentais, que
programa causa os resultados pretendidos; frequentemente são avaliados por motivos como
c) Avaliação para melhora da gestão do controle externo e decisões quanto ao financiamento.
programa, focando em informações sobre Deve ficar claro que não são ignoradas essas
resultados de curto e médio prazo que importantes razões para se avaliar um programa
permitam corrigir os rumos da execução do governamental. Ao contrário, o que se defende aqui é
programa. que se o sistema de monitoramento e avaliação for
A Administração Pública observou um grande desenhado apenas para responder a questões externas,
estímulo para a criação de indicadores de desempenho sem ajudar as equipes técnicas e os gestores a
de seus programas a partir de dois fundamentos conduzirem seus programas, eles tendem a se envolver
relacionados à temática da accountability. Destacam-se menos, comprometendo os resultados.
as exigências de: (i) otimizar os níveis de eficiência e A Administração Pública lida com uma variedade de
eficácia no uso de seus recursos; e (ii) criar e fortalecer os mecanismos de controle; necessários, mas
mecanismos de prestação de contas aos cidadãos. Essas frequentemente pouco justificáveis para os atores a eles
exigências refletem a transição de um modelo de gestão sujeitos. Assim, o que se defende aqui é que um sistema
burocrática formal, centrado nos insumos do processo e de monitoramento por indicadores pode e deve ser
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 9
extremamente útil para a gestão de um programa, resultados de um programa para fazer julgamentos
ajudando os envolvidos em seu trabalho cotidiano. sobre o programa, melhorar sua eficácia e/ou informar
Uma avaliação desenhada para ser útil à gestão de um decisões futuras acerca do mesmo.” (Patton, 1997 apud
programa, por exemplo, poderá servir de insumo para Preskil and Catsambas, 2006; tradução livre).
novas avaliações com focos distintos.
Uma avaliação focada na utilidade, por sua vez, torna
Portanto, esse guia possui uma abordagem dos explícita a importância de se desenhar um sistema de
processos de monitoramento e avaliação focada em sua monitoramento de forma a maximizar seu uso pela
utilidade. Certamente, é esperado que toda forma de equipe gestora do programa, de forma a facilitar e
avaliação será utilizada de alguma maneira, por um melhorar sua gestão:
determinado ator. A definição de avaliação de
“Avaliação focada na utilidade (ao invés de avaliação
programas – uma, entre outras – já evidencia isso:
em geral) é feita para e por usuários primários
“Avaliação de programas é a coleção sistemática de específicos e para usos também específicos.” (idem).
informações sobre as atividades, características e
A clareza sobre a forma como os processos de visa a basear decisões sobre a continuidade do programa
monitoramento e avaliação são tradicionalmente e redimensionamento do público-alvo, por exemplo. Por
distinguidos é necessária. No entanto, é importante outro lado, uma avaliação formativa reúne as atividades
antecipar que por mais que haja uma distinção de monitoramento e avaliação que se realizam ao longo
metodológica entre os dois termos, essa distinção não de todo o processo, mediante um sistema de indicadores
deve ser vista como rígida. que subsidie a tomada de decisão e aperfeiçoamento do
programa. O foco da avaliação formativa é avaliar se o
A autora Maria das Graças Rua define avaliação como o
programa está sendo implementado de acordo com o
“exame discreto de processos, produtos, qualidade, efeitos,
esperado, avaliando os resultados imediatos de seus
impactos, das ações realizadas” e monitoramento como “o
estágios de implementação.
exame contínuo de processos, produtos, resultados,
impactos” (Rua, 2010). Assim, segundo a mesma autora, É evidente, portanto, que existe uma distinção
metodológica consagrada entre avaliação e
“o escopo dessas duas atividades é diferente: enquanto
monitoramento. No entanto, por mais que haja uma
a avaliação deve explorar em profundidade os aspectos
distinção entre esses processos, a ênfase adotada por
sobre os quais incide, o monitoramento não tem como
esse guia na utilidade da avaliação para melhorar a
alcançar tal profundidade, devido à sua necessidade de
gestão de um programa evidencia que avaliação pode
celeridade dos achados, para que possa subsidiar
ser vista como um esforço permanente que permeia
decisões sobre a condução das políticas, programas e
todo o ciclo de vida de um programa: do planejamento
projetos.” (idem).
e execução à replicação e disseminação. Ela deve ser
Januzzi et alli (2009) afirmam que, enquanto etapa encarada como uma tarefa por meio da qual dados são
do ciclo de vida das políticas públicas, a avaliação é continuamente coletados para basear a tomada de
tradicionalmente colocada após a implementação, decisões, não apenas como uma atividade posterior.
consistindo num momento mais reflexivo para decidir Pensado dessa maneira, o monitoramento nada mais é
acerca da continuidade de um programa. Distingue-se, que um processo de avaliação contínuo realizado
portanto, das atividades de monitoramento e avaliação, durante a implementação de um programa, uma fase
que se realizam ao longo de todo ciclo, sobretudo interna conduzida pelas equipes gestora e técnica,
durante a implementação. focando em parâmetros de curto e médio prazo que
A avaliação vista como etapa posterior à implantação possam avaliar a implementação e propor soluções
é chamada por muitos autores de avaliação somativa, e corretivas a tempo hábil.
10 l CADERNO DE PLANEJAMENTO 3
Essa abordagem tem três grandes vantagens. Em monitoramento, já começam a serem levantadas
primeiro lugar, pressupõe informações que, ao menos em questões suscetíveis de maior aprofundamento em uma
parte, já estão disponíveis para a equipe do programa, fase posterior. Em terceiro lugar, é uma forma de se definir
mesmo que não estejam organizadas ou sendo usadas de forma precisa o que se está avaliando antes de avaliar
para atividades de monitoramento e avaliação. Em os possíveis impactos; primeiro avalia-se a implantação do
segundo, ao desenhar um programa tendo isso em programa, para depois observar se os impactos se
mente, ou reorganizar os dados disponíveis para o relacionam com a política implementada.
A abordagem aqui seguida se justifica porque se políticas sociais nas diferentes esferas de governo,
entende que quando monitoramento e avaliação são possibilitam o monitoramento das condições de vida e
vistos dessa forma, esses processos são melhores bem-estar da população por parte do poder público e
assimilados pela equipe que deverá criar e alimentar sociedade civil (...). Em uma perspectiva programática, o
sistemas de monitoramentos. Nesse sentido, o uso de indicador social é um instrumento operacional para
uma série de medidas que indiquem os rumos do monitoramento da realidade social, para fins de
programa executado oferece subsídios tanto para a formulação e reformulação de políticas públicas.” (idem).
gestão do programa quanto insumos para uma avaliação
É de suma importância destacar que os indicadores
mais profunda que se pretenda realizar. Permitem não
são utilizados ao longo de todo o ciclo de vida de um
só corrigir a tempo os rumos de um programa como
programa. Ainda durante a fase de diagnóstico para
ajuda a desenhar pesquisas de avaliação mais
elaboração de programas, uma enorme variedade de
aprofundadas para entender por que determinados
indicadores de divulgação pública pode ser usada para
processos não estão acontecendo conforme o planejado
retratar a situação que se deseja mudar e especificar o
inicialmente (Januzzi et alli, 2009). Ao leitor atento,
público alvo e o foco do programa. A partir do
ficará claro que essas medidas indicativas do rumo de
diagnóstico, a elaboração do programa já deve
um programa nada mais são do que os indicadores,
contemplar a especificação de indicadores a partir dos
objeto desse guia.
quais o andamento do programa será monitorado. Deve
Nesse momento, é importante buscar definir o ser pensado um conjunto específico de indicadores úteis
conceito de indicador: ao nível da gestão, que permitam acompanhar as ações
planejadas, que serão o eixo do processo de
“Um indicador social é uma medida em geral
monitoramento e avaliação.
quantitativa dotada de significado social substantivo,
usado para substituir, quantificar ou operacionalizar um A esse respeito, cabe um lembrete útil para se pensar
conceito social abstrato, de interesse teórico (para nos indicadores para monitoramento: quase todos os
pesquisa acadêmica) ou programático (para formulação programas contam com registros administrativos que,
de políticas). É um recurso metodológico, empiricamente se bem organizados, podem ser uma fonte
referido, que informa algo sobre um aspecto da realidade fundamental para se estabelecer os indicadores-chave.
social ou sobre mudanças que estão se processando na Dessa forma, o sistema de indicadores para
mesma.” (Januzzi, 2002). monitoramento, ao contrário do que muitos pensam,
não exige um trabalho extra separado da gestão do
O foco desse guia recai nessa perspectiva
programa. Ao contrário, devem ser aproveitados os
programática, a qual consiste no uso dos indicadores
dados produzidos ao longo da execução do programa, o
para a gestão de programas governamentais:
que muitas vezes exige a (re)organização da gestão da
“Os indicadores sociais se prestam a subsidiar as informação para que se possam identificar os aspectos
atividades de planejamento público e formulação de relevantes a serem monitorados.
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 11
Faz-se necessário, também, distinguir um sistema de indicadores de processos e ações mais importantes.”
indicadores de monitoramento de um sistema de gestão (Januzzi et alli, 2009, p. 118-9)
operacional de um programa:
Esse sistema de monitoramento deve, sempre que
“Um sistema de monitoramento vale-se do(s) possível, contemplar não só indicadores que
sistema(s) de gestão dos programas para buscar monitorem a execução das ações do programa como
informações (...), sintetizá-las em indicadores e conferir- também seus resultados. Fica evidente, desde já, que
lhes significado analítico. (...) Um sistema de os indicadores podem medir as mais variadas etapas
monitoramento não é, pois, um conjunto exaustivo de de implantação de um programa, assunto que será
medidas desarticuladas, mas uma seleção de abordado adiante.
Normalmente, não há dúvidas quanto aos alcançados. Segundo essa classificação, os indicadores
indicadores de insumo (antes) e processo (durante). As podem ser de (BRASIL, 2012):
distinções entre indicadores de produto, resultado e Economicidade: medem os gastos envolvidos na
§
impacto, no entanto, costumam suscitar mais dúvidas. obtenção dos insumos (materiais, humanos,
Vamos analisar o exemplo acima: financeiros etc.) necessários às ações que produzirão
O indicador de produto afere o alcance da meta física os resultados planejados.
estabelecida pelo programa (a construção de unidades Eficiência: essa medida possui estreita relação com
§
habitacionais). Com a entrega dessas unidades, produtividade, diz respeito ao quanto se consegue
esperamos alcançar como resultado a diminuição do produzir com os meios disponibilizados.
déficit habitacional do município. No entanto, pode ser
que por motivos alheios ao programa (um desastre local Eficácia: aponta o grau com que um programa atinge
§
que destrua residências no município, migração as metas e objetivos planejados.
intermunicipal, etc) se observe que mesmo que se atinja Efetividade: mede os efeitos positivos ou negativos na
§
a meta do indicador de produto, não seja atingido o realidade que sofreu a intervenção, aponta se houve
resultado esperado quanto à redução do déficit mudanças socioeconômicas, ambientais ou
habitacional. Isto porque enquanto o indicador de institucionais decorrentes dos resultados obtidos pela
produto mede as entregas no curto prazo, o indicador política, plano ou programa.
de resultado afere os benefícios concretos decorrentes
Alguns ainda acrescentam a esses tipos os
dessas entregas.
indicadores de (BONNEFOY & ARMIJO, 2005):
Por fim, expectativa de vida foi colocada como Qualidade: aponta a capacidade da instituição
§
indicador de impacto porque se espera que habitações responder de forma rápida e direta às necessidades de
com acesso adequado à rede de água e esgoto seus usuários. São características da qualidade fatores
contribuam para a melhora das condições de vida da como: oportunidade, acessibilidade, precisão e
população. No entanto, o programa não é capaz de continuidade na entrega de serviços.
responder sozinho pelas variações desse indicador:
outras políticas – saúde, educação, segurança, etc – Essa forma de classificar os indicadores possui uma
interferem na expectativa de vida da população. relação menos direta com a “linguagem” de um
Portanto, esse indicador de impacto não pode ser programa. No entanto, ela sinaliza a importância de
relacionado exclusivamente a esse programa, sendo pensarmos em indicadores para diferentes dimensões
pouco útil do ponto de vista da gestão cotidiana do de desempenho.
mesmo. No entanto, ele pode ser melhor utilizado como Além do mais, podem ser feitas correlações entre essa
indicador de um conjunto de ações governamentais. forma de se classificar os indicadores. Por exemplo, os
indicadores de eficácia são, tipicamente, indicadores de
Indicadores de Avaliação de Desempenho produto, pois quantificam o grau de atingimento das metas
Há várias outras formas de se classificar indicadores, e planejadas, ou seja, das entregas de bens e serviços. Já os
vale a pena fazer menção à mais conhecida delas. Trata-se indicadores de efetividade são tipicamente indicadores de
da classificação quanto à avaliação de desempenho, com resultado ou impacto, por aferirem as consequências
foco na avaliação dos recursos alocados e nos resultados concretas para o público alvo do programa.
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 13
Nesse momento, pode ser que seja identificado que os relações causais entre eles. Mesmo que o sistema de
programas, tal qual definidos no Plano Plurianual, reúnem monitoramento por indicadores não dê conta, por si só,
ações tão diversas que é difícil reconhecer o objetivo da avaliação global de um programa, quando ele é bem
principal por trás delas. Pode mesmo ser que se perceba desenhado e o modelo lógico do programa é coerente e
que diferentes iniciativas foram inadequadamente claro, os dados gerados pela aferição dos indicadores
reunidas como um programa único. Ou, frequentemente, o podem ser, sim, interpretados em termos dos resultados
“programa” foi pensado apenas seguindo uma lógica de um programa.
orçamentária, de reunir ações que possuem uma fonte de
Essa é a razão pela qual os responsáveis pela
recursos específica. Em todos esses casos, a equipe
construção dos indicadores devem considerar rever o
responsável pela sistemática de construção e
modelo lógico do programa nessa etapa. Muitas vezes,
monitoramento dos indicadores precisará definir qual a
mesmo quando ele já está claramente definido, se
abrangência do que será foco da avaliação por indicadores.
observa que ele não corresponde à forma por meio da
É preciso verificar se há uma lógica clara por trás do
qual o programa está sendo executado. Infelizmente, na
programa, de forma a conseguir elaborar um conjunto
Administração Pública encontramos muitas vezes
coerente de indicadores.
dificuldades nesse processo. A pressa em executar
(Re)definindo o modelo lógico, objetivos e produtos determinada política pode fazer com que a lógica do
do programa programa não seja discutida e pactuada com toda a
equipe. E, muitas vezes, ao longo da execução há
Um programa bem formulado pode ser visto como mudanças não registradas que desviam das intenções
uma hipótese: a partir de um diagnóstico inicial, se o originais. Se não observados, esses fatores
programa for executado conforme o planejado serão comprometerão a interpretação de um indicador que
atingidos determinados resultados. Dessa forma, o supostamente é afetado por um programa.
modelo lógico é um “modelo de como o programa
funcionará sob determinadas condições para resolver Definindo as metas do programa
problemas identificados” (McLaughlin and Jordan,
Finalmente, uma vez clarificados os produtos e
2010, p. 56). Assim, um modelo lógico ajuda a tornar
resultados esperados de um programa, é possível que se
explícitas as pressuposições feitas quando um programa
especifiquem suas metas. As metas constituem a
é desenhado: a relação entre os insumos usados, as
expressão concreta e quantificável dos resultados que
atividades (processos) executadas, os produtos
se deseja alcançar em determinado período de tempo,
entregues e os resultados finais esperados.
com relação aos objetivos previamente definidos.
O modelo lógico retoma, dessa forma, alguns
As metas devem, portanto, atender aos seguintes
aspectos abordados pela classificação dos indicadores
requisitos:
quanto ao fluxo de implantação do programa. É
importante se distinguir entre os produtos e os a) abranger o conjunto de dimensões de
resultados esperados do programa. Os produtos são os desempenho: eficiência, eficácia,
bens e serviços entregues ao público. É o que o efetividade, etc;
programa entrega à sociedade para atingir determinado b) serem definidas com base em compromissos
resultado. Junto com os insumos e as atividades, os internos, ou seja, seu cumprimento não deve
produtos fazem parte da estrutura do programa. Por depender de fatores exógenos;
outro lado, os resultados do programa são as mudanças
c) serem realistas, alcançáveis com os recursos
concretas que se espera atingir com a implantação do disponíveis.
programa e dos produtos entregues. Os programas
podem, assim, possuir resultados múltiplos e Nessa etapa, é fundamental que a equipe do
sequenciais divididos no curto, médio e longo prazo, programa trace metas claras e quantificáveis. Como
compondo a estrutura dos resultados. será visto adiante, tendo metas bem formuladas, a
construção dos indicadores será muito facilitada. O
Ter um modelo lógico bem desenhado é crucial para quadro da próxima página dá 3 exemplos de metas
que se possa desenhar os indicadores para os diferentes ambíguas e/ou mal formuladas e de metas adequadas.
componentes do modelo e, posteriormente, avaliar as
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 15
1 Compraremos a maior quantidade Comprar 500 livros por ano para cada uma das 13
§
de livros possíveis para as escolas. escolas da rede, totalizando 26.000 livros ao fim
dos 4 anos do programa.
Esse quadro dá uma breve ideia dos erros mais a) limitar o número de indicadores a uma
comuns cometidos ao se estipular as metas. O exemplo quantidade que permita mensurar o
1 mostra que uma meta não pode apenas traduzir uma essencial e captar os objetivos das diferentes
intenção vaga. Deve, sempre que possível, estipular pessoas interessadas;
como e em que período serão entregues os produtos. O b) cobrir as diferentes etapas de implantação do
exemplo 2 possui uma meta aparentemente de difícil programa atendendo aos interesses de
quantificação (como podemos medir o “estímulo à diferentes esferas decisórias: estratégica,
leitura”?) que foi traduzida numa meta que, ao menos gestão e operacional;
em parte, dá conta do objetivo, é possível de ser c) permitir conhecer o desempenho dos
mensurada e possui um prazo para ser atingida. Por fim, processos, para identificar os gargalos. Os
o exemplo 3 evidencia que uma meta muito geral pode e indicadores de processo são úteis para
deve ser desdobrada em outras metas parciais que identificar os aspectos centrais da gestão do
sejam quantificáveis. programa;
d) ser em quantidade tal que sejamos capazes
2º Passo: Identificar as etapas e dimensões que de utilizar e controlar, por que muita
se pretende avaliar informação pode voltar-se contra os
Uma vez definidas as metas dos programas, chega o objetivos do programa.
momento de identificar as etapas e dimensões que se
pretende avaliar. Certamente, a amplitude dos
3º Passo: Estabelecer as responsabilidades
indicadores que serão construídos depende de fatores organizacionais
tais como: (i) os tipos de metas que serão monitoradas; Com a definição das metas e das dimensões e etapas
(ii) a priorização da informação para fins internos ou que serão monitoradas, devem ser estabelecidas as
externos; (iii) os recursos disponíveis. O ideal é que responsabilidades organizacionais pelo cumprimento das
sejam monitoradas todas as etapas do fluxo de diferentes tarefas contidas no programa. Dessa forma, um
implantação de um programa (insumo, processo, requisito fundamental para a operacionalização dos
produto, resultado/impacto) e as variadas dimensões indicadores é a divisão dos produtos, metas e
de desempenho (economicidade, eficiência, eficácia, indicadores para as áreas responsáveis.
efetividade, qualidade). No entanto, as limitações
cotidianas impõem restrições, e temos que seguir alguns Se possível, sobretudo em programas que envolvem
critérios sobre quantos indicadores construir: uma gama abrangente de atividades e/ou órgãos em sua
execução, é importante se especificar “centros de
16 l CADERNO DE PLANEJAMENTO 3
responsabilidade” (ou alguma esfera correlata) que b) Comparação com outros programas
serão responsáveis por um subconjunto de indicadores. similares ou comparáveis:
Para organizar o fluxo de informações e zelar pela Há algum programa (de preferência que tenha
coordenação geral das atividades de monitoramento, obtido uma experiência de sucesso) com o qual
deve existir uma “unidade de monitoramento” que podemos comparar o programa em questão?
tenha uma posição central, com acesso às dimensões Quais foram os resultados obtidos por esse outro
estratégicas e operacionais do programa. Vale destacar programa? Eles podem balizar as referências e
que o importante aqui não é a existência de núcleos metas do nosso programa?
formalmente constituídos com essa denominação, mas c) Comparação com o histórico e índices de
sim que haja uma definição clara de responsabilidades, referência
de forma a poder se identificar os responsáveis por
determinada informação. Vejamos abaixo uma Em primeiro lugar, deve ser observada a
sugestão dos papéis de cada uma dessas esferas: interferência de algum fator externo ao programa
que possa influenciar o comportamento do
Centros de responsabilidade: indicador. Essa informação é relevante para
delimitar as bases de comparação dos resultados.
Possui produtos claramente identificados;
§ Em segundo lugar, sobretudo em casos de
Os objetivos estão traduzidos em metas factíveis;
§ indicadores de processo e produto, os resultados
podem variar em função do estágio de execução
Possui não só a responsabilidade, mas também a
§ do programa. Pode ser o caso de que seja
autoridade para tomar decisões necessárias para esperado um avanço significativo de um indicador
atingir os objetivos a ele atribuídos; no curto prazo, seguido de avanços graduais, ou o
Dotado dos recursos humanos, materiais e financeiros
§
contrário, melhoras graduais no curto prazo
necessários para atingir as metas. seguidas de um avanço significativo apenas ao
final do programa.
Unidade de monitoramento:
As referências para comparação impactarão, assim,
Localização estratégica, junto ao responsável pela
§ na frequência da “medição”, que não é necessariamente
gestão do programa, com acesso às instâncias diretivas na qual os dados estão disponíveis, e sim quando
e operacionais; estabeleceremos metas parciais. Essa frequência deve ser
Responsável por coordenar os centros de
§ pequena o suficiente para permitir a correção de rumos
responsabilidade; do programa em tempo hábil e grande o suficiente para
permitir uma comparação significativa. Normalmente,
Permanente retroalimentação de informações entre
§
indicadores distintos possuem frequências de apuração
as diferentes esferas do programa;
distintas. A frequência possuirá relação com:
Dotado de recursos suficientes para desenvolver um
§
sistema de informação que permita o fluxo adequado a) O tipo de indicador (quanto ao fluxo de
implantação do programa e/ou de
de informações.
desempenho): indicadores de processo
tendem a ser monitorados mais regularmente
4º Passo: Estabelecer as referências para do que de resultado por possuírem maior
comparação dos resultados variação no curto prazo, por exemplo;
A partir da definição das responsabilidades sobre as b) O uso da informação (externa/interna; nível
diferentes etapas e dimensões do programa, devem ser estratégico/operacional): a equipe executora
estabelecidas as referências com as quais se comparará precisa acompanhar constantemente as
os resultados obtidos pelos indicadores. É fundamental informações, o nível estratégico tende a
que as referências sejam estabelecidas de forma receber informações mais agregadas em
participativa, de modo que as equipes táticas e prazos especificados;
operacionais possam contribuir com seu conhecimento. c) Os custos associados à medição: medir tudo
a todo tempo não é factível porque custa
Alguns fatores devem ser observados nessa etapa:
tempo e dinheiro.
a) Comparação com as metas planejadas:
5º Passo: Definir os atributos dos indicadores
Envolve um diagnóstico da situação atual e
comparação com as metas traçadas. A diferença Uma vez que se tem clareza das dimensões, das
deve expressar o objetivo de uma melhora concreta responsabilidades e de como vamos nos utilizar dos
que seja, ao mesmo tempo, realista e factível; dados, é importante formalizar os indicadores que serão
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 17
criados. As informações devem ser condensadas num ou expressar uma razão ou relação entre duas variáveis
conteúdo mínimo de informações que irão compor a quantificáveis.
ficha do indicador. Muitas informações podem ser Unidade de Medida: padrão escolhido para
§
agregadas à ficha dos indicadores, mas, seguindo o Guia mensuração da relação adotada como indicador. Está
de Indicadores do PPA federal (BRASIL, 2012), devemos diretamente ligada à fórmula de cálculo do indicador.
focar num conteúdo mínimo de informações4:
Esses quatro atributos são um conjunto mínimo de
Denominação: forma pela qual o indicador será
§ informações que devemos identificar para construir
chamado e apresentado ao público. É importante que
nosso indicador. Quando inserimos o indicador nas
o nome seja claro e autoexplicativo.
atividades de monitoramento de um programa
Fonte: órgão responsável pelo registro ou produção
§ devemos agregar mais uma informação:
das informações necessárias para a apuração do
Índice de Referência: valor de referência mais recente
§
indicador e sua divulgação periódica. Pode ser tanto
do indicador que pretendemos alterar com o
fontes externas (por exemplo, diferentes instituições
programa. Consiste na aferição do indicador em um
públicas de pesquisa) quanto fontes internas (os
dado momento, mensurado com a unidade de medida
registros administrativos de um programa). O que é
escolhida.
fundamental é que ela seja claramente identificável.
Abaixo, damos um breve exemplo fictício de como
Fórmula de cálculo: fórmula utilizada para calcular o
§
esses atributos estão intimamente ligados. Um
indicador, com a definição clara de todos seus
indicador mal conceituado e identificado compromete a
componentes. Pode ser uma variável unidimensional
clareza de todas as outras informações:
Unidade ? Idem %
de medida
Índice de ? XX
Referência
18 l CADERNO DE PLANEJAMENTO 3
A fim de facilitar a compreensão da metodologia dos envolve um conjunto de atividades que consistem em
sete passos, é interessante demonstrar rapidamente oferecer apoio técnico, financeiro e operacional ao
como seria seguir os passos para um programa desenvolvimento de projetos e convênios com ONGs,
governamental existente. Para tanto, vamos usar o caso universidades e organizações locais.
de um Programa de Prevenção a DST/AIDS6. Não
Os grupos populacionais vulneráveis consistem no
pretendemos entrar nos detalhes que a execução de um
público-alvo do programa, e são especificados: pessoas
programa envolve, mas apresentar as linhas gerais que
que vivem com HIV/AIDS; pessoas privadas de liberdade;
são importantes para a construção de indicadores.
efetivos da polícia; homens que fazem sexo com homens
(HSH); trabalhadoras sexuais; travestis/transgêneros.
1) Identificar ou revisar os produtos e objetivos a
serem medidos Para cada um desses públicos, são traçados objetivos
específicos que se traduzem em metas quantificáveis.
Nessa etapa, é importante delimitar os produtos e Por exemplo, para a população HSH o objetivo é
objetivos do programa, verificar se possuímos um contribuir para a redução da incidência de AIDS na
modelo lógico consistente. Nosso programa de população HSH, e os objetivos específicos são: a)
prevenção a HIV/AIDS em questão tem como objetivo aumentar o acesso da população HSH aos serviços de
aumentar a qualidade e ampliar a cobertura das ações saúde especializados em HIV/AIDS; b) aumentar o uso
de prevenção da epidemia entre grupos populacionais do preservativo durante a última relação sexual na
vulneráveis. Para atingir esse objetivo, o programa população HSH alcançado pelas ações de prevenção.
20 l CADERNO DE PLANEJAMENTO 3
Podemos, assim, definir os insumos, processos, quadro resumido do programa, a partir do qual
produtos, resultados e impactos de um programa de poderemos construir os indicadores:
prevenção. Observemos, desde já, como ele oferece um
2) Identificar as etapas e dimensões que se frequentemente, lidamos com restrições e/ou focos
pretende avaliar distintos e escolhas são necessárias.
Consideradas as limitações de se monitorar todos os No nosso exemplo, pode ser que o foco seja o
aspectos relevantes de um programa, nessa etapa monitoramento cotidiano da execução do programa.
devemos nos perguntar qual o foco do monitoramento e Nesse caso, focaríamos nos indicadores de insumo,
a quem ele se dirige. Como ressaltamos anteriormente, o processo e produto, ou seja, em indicadores da
ideal é que sejam construídos indicadores que deem estrutura do programa, num quadro semelhante ao
conta de todas as etapas de um programa. Mas, abaixo:
Observemos, no exemplo, que os indicadores que Observemos ainda que os indicadores de produto
começamos a construir são formas de quantificar os medem a eficácia das entregas dos bens e serviços, mas
componentes do modelo lógico do nosso programa. não dizem nada acerca da efetividade do programa.
Conforme os objetivos da equipe do programa, podem Para esse fim, temos que pensar num outro conjunto de
ser selecionados alguns desses indicadores, ou definidos indicadores, que deem conta dos resultados e impactos
muitos outros. Por exemplo: caso seja importante focar do programa.
no custo de produção de cada componente do
Assim, se o foco do monitoramento for a estrutura de
programa, podemos especificar indicadores de
resultados do nosso modelo lógico, temos que pensar nos
eficiência voltados para esse ponto, tais como:
indicadores de resultado e impacto do programa. Junto
Número de pessoas atingidas pela ação educativa
§ com os indicadores de produto, esses são, tipicamente, os
/custo da ação indicadores que interessam no monitoramento do PPA.
Número de educadores capacitados / custo de Isso porque enquanto os anteriores são de caráter mais
§
realização da oficina operacional, os indicadores de resultado e impacto são mais
interessantes ao nível estratégico:
É importante frisar que os indicadores não precisam 4) Estabelecer as referências para comparação
ser apresentados em quadros distintos. Poderíamos tê- dos resultados
los disposto em um mesmo quadro, como fizemos com a
estrutura do programa. Separamos aqui, apenas, para Seguindo o passo anterior, caberá a cada centro de
evidenciar que os indicadores atendem a propósitos responsabilidade, em conjunto com a unidade
diferentes, e em função das necessidades, pode ser responsável pelo monitoramento, estabelecer as
interessante focar em um ou mais etapas. referências para comparação dos resultados. A definição
das metas e da frequência de aferição dos indicadores
3) Estabelecer as responsabilidades organizacionais variará em função de suas especificidades.
CONSIDERAÇÕES FINAIS
Esse Guia pretende ser uma iniciação à temática dos qualquer “repulsa” que possa existir em relação a essa
indicadores, um manual do tipo “faça você mesmo” que temática. Convidamos os leitores a se aprofundarem no
ajude na construção de indicadores úteis para a gestão tema e na bibliografia utilizada no Guia, torcendo para
de programas governamentais. Esperamos que ele sirva que esse seja um primeiro e importante passo no uso de
não apenas como um estímulo ao uso de indicadores na indicadores de programas.
Administração Pública mas também para afastar
BIBLIOGRAFIA
BONNEFOY, J.C & ARMIJO, M. Indicadores de desempeño en el sector público / ILPES/CEPAL, Serie Manuales, nº 45 –
Santiago de Chile, 2005. 106p. Disponível em: http://www.eclac.cl/publicaciones/xml/2/23572/manual45.pdf
BRASIL. Ministério do Planejamento, Orçamento e Gestão. Secretaria de Orçamento Federal. Secretaria de
Planejamento e Investimentos Estratégicos. Indicadores: Guia Metodológico / Ministério do Planejamento, Orçamento
e Gestão. – Brasília: MP, 2010. 128 p. Disponível em: http://www.planejamento.gov.br/secretarias/upload/
Arquivos/spi/publicacoes/100324_indicadores_programas-guia_metodologico.pdf
BRASIL. Ministério do Planejamento, Orçamento e Gestão. Secretaria de Orçamento Federal. Secretaria de
Planejamento e Investimentos Estratégicos. Indicadores - Orientações Básicas Aplicadas à Gestão Pública / Ministério
do Planejamento, Orçamento e Gestão. Coordenação de Documentação e Informação – Brasília: MP, 2012. 64 p.
Disponível em: http://www.planejamento. gov.br/secretarias/upload/Arquivos/spi/PPA/2012/
121003_orient_indic_triangular.pdf
JANNUZZI, P.M. Indicadores Sociais na Formulação e Avaliação de Políticas Públicas. 2002. Disponível em:
http://www.cedeps.com.br/wp-content/uploads/2011/02/INDICADORES-SOCIAIS-JANUZZI.pdf
JANNUZZI, P. M., SILVA, M. R. F. M., SOUSA, M. A. F., e RESENDE, L. M. “Estruturação de sistemas de monitoramento e
especificação de pesquisas de avaliação, os problemas dos programas públicos no Brasil são” in Reflexões para Ibero-
América: Avaliação de Programas Sociais, ENAP, 2009, 168p.
MURRAY, L. e ROSSI, L. Guía de Monitoreo y Evaluacíon. Pact Brasil, 2007. Disponível em:
http://www.monitoreoyevaluacion.info/biblioteca/MVI_100.pdf
NEWCOMER, K. E., HATRY, H. P., and WHOLEY, J. S. “Planning and Designing Useful Evaluations” in Wholey, J. S., Hatry, H.
P., Newcomer, K. E., Handbook of Practical Program Evaluation, Jossey-Bass Publishers, 3rd ed., 2010, p. 5-29.
PRESKIL, H. S., and CATSAMBAS, T. T., Reframing Evaluation through Appreciative Inquiry. Sage, 2006.
RESOLUÇÃO SEPLAG Nº 894/2013. Disponível em: http://download.rj.gov.br/documentos/10112/ 1587843/DLFE-
61786.pdf/RES.SEPLAG894REGIMENTOINTERNOVERSAOFINAL.pdf
RUA, M. G. Avaliação de políticas, programas e projetos: notas introdutórias. 2010. Mimeografado. Disponível em:
http://jacksondetoni.files.wordpress.com/2014/05/texto-apoio-05-_-grac3a7as-rua.pdf
SCHEIRER, M. A. Expanding Evaluative Thinking: Evaluation through the Program Life Cycle, American Journal of
Evaluation, June 2012, 33, p. 263-277.
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 25
NOTAS
1 Instituído pelo Decreto 45.160, de 06 de Fevereiro de 2015.
2 A bibliografia sobre o tema de monitoramento, avaliação e indicadores é muito extensa. Esse guia não cobre,
certamente, todas as nuances desses assuntos. Recomendamos aos leitores que, interessados em aprofundar
em determinado aspecto, recorram à bibliografia mencionada ao longo desse guia. Sobre a temática de
indicadores, mais especificamente, as duas versões do Guia de Indicadores Federal (BRASIL 2010; 2012) são uma
boa fonte para se aprofundar. O foco consciente desse guia é apresentar uma proposta didática de fácil
compreensão e que possa ser aplicada imediatamente na gestão de programas governamentais.
3 Toda essa seção é diretamente inspirada pelos nove passos de BONNEFOY & ARMIJO (2005), com pequenas
alterações. O guia adapta os nove passos para a construção de indicadores de desempenho em instituições
públicas para sete passos para construção de indicadores de programas governamentais. Além das alterações de
escopo necessárias, foi reduzido o número de passos para focarmos exclusivamente na construção de
indicadores, deixando os momentos de monitoramento, avaliação e comunicação para etapas posteriores.
4 A RIPSA (Rede Interagencial de Informações para a Saúde), por exemplo, coloca outros atributos em sua ficha de
qualificação de indicadores, tais como interpretação (explicação sucinta do tipo de informação obtida e seu
significado), usos (principais finalidades de utilização dos dados, a serem consideradas na análise do indicador) e
limitações (fatores que restringem a interpretação do indicador, referentes tanto ao próprio conceito quanto às
fontes utilizadas). Entendemos que essas informações são de grande utilidade e podem ser agregadas sempre
que possível. Disponível em: http://www.ripsa.org.br/php/level.php?lang=pt&component=68&item=2.
5 Seguimos à risca as propriedades propostas pelo Guia Federal (BRASIL, 2012), optando apenas por não separar as
propriedades complementares em dois subconjuntos e denominar de viabilidade a propriedade antes chamada
de factibilidade.
6 Para esse exemplo, nos utilizamos o “Guia de Monitoramento e Avaliação” do Programa de Prevenção a
Enfermidades de Transmissão Sexual do Peru, implementado pela Pact com recursos da Agência dos Estados
Unidos para o Desenvolvimento Internacional (USAID/Peru). Utilizamos as informações disponíveis no Guia,
adaptando seu conteúdo à metodologia aqui proposta.
7 Para a elaboração do exemplo, utilizamos as informações disponíveis em http://tabnet.datasus.gov.br/cgi/
idb2000/fqd02_1.htm.
Avenida Erasmo Braga, 118
Centro • Rio de Janeiro • RJ