Você está na página 1de 28

INDICADORES DE PROGRAMAS

POR QUE E COMO USAR?


CADERNO DE PLANEJAMENTO 3
TÉCNICO RESPONSÁVEL
Rafael Ventura Abreu

REVISÃO
Enrico Moreira Martignoni, Wagner Ricardo dos Santos,
Haidine da Silva Barros Duarte, Eduarda Amaral e Taís Damasceno

EDITORAÇÃO
Leonardo Barbosa

SECRETÁRIO DE ESTADO DE PLANEJAMENTO E GESTÃO - SEPLAG


Cláudia Uchôa Cavalcanti

SUBSECRETARIA DE PLANEJAMENTO - SUBPL


Enrico Moreira Martignoni

SUPERINTENDÊNCIA DE GESTÃO ESTRATÉGICA - SUGES


Rafael Ventura Abreu

SUPERINTENDÊNCIA DE PLANEJAMENTO INSTITUCIONAL - SUPLI


Fábio da Silva Siqueira

Março / 2015
SECRETARIA DE ESTADO DE PLANEJAMENTO E GESTÃO – SEPLAG RJ
SUBSECRETARIA DE PLANEJAMENTO – SUBPL
Av. Erasmo Braga, 118 – 5º Andar – CEP 20.020-000 – Centro – Rio de Janeiro – Brasil
Fones: 55 (21) 2333-1914 / 55 (21) 2333-1846 – Fax: 55 (21) 2332-6092
Site: www.rj.gov.br/web/seplag

ISBN 978-85-66570-09-0
INDICADORES DE PROGRAMAS
POR QUE E COMO USAR?
CADERNO DE PLANEJAMENTO 3

S E C R E TA R I A D E E S TA D O D E P L A N E J A M E N T O E G E S T Ã O - S E P L A G R J

Rio de Janeiro • 2015


GOVERNO DO ESTADO
DO RIO DE JANEIRO

GOVERNADOR SECRETARIA DE ESTADO DE HABITAÇÃO


Luiz Fernando Pezão Bernardo Chim Rossi
VICE-GOVERNADOR SECRETARIA DE ESTADO DE TRANSPORTES
Francisco Dornelles Carlos Roberto de Figueiredo Osório
SECRETARIA DE ESTADO DA CASA CIVIL SECRETARIA DE ESTADO DO AMBIENTE
Leonardo Espíndola André Gustavo Pereira Corrêa da Silva
SECRETARIA DE ESTADO DE GOVERNO SECRETARIA DE ESTADO DE AGRICULTURA E PECUÁRIA
Paulo Melo Christino Aureo da Silva
SECRETARIA DE ESTADO DE SECRETARIA DE ESTADO DE DESENVOLVIMENTO
PLANEJAMENTO E GESTÃO REGIONAL, ABASTECIMENTO E PESCA
Cláudia Uchôa Cavalcanti José Luis Anchite
SECRETARIA DE ESTADO DE FAZENDA SECRETARIA DE ESTADO DE TRABALHO E RENDA
Júlio César Carmo Bueno Arolde de Oliveira
SECRETARIA DE ESTADO DE DESENVOLVIMENTO SECRETARIA DE ESTADO DE CULTURA
ECONÔMICO, ENERGIA, INDÚSTRIA E SERVIÇOS Eva Doris Rosental
Marco Antônio Vaz Capute
SECRETARIA DE ESTADO DE ASSISTÊNCIA SOCIAL
SECRETARIA DE ESTADO DE OBRAS E DIREITOS HUMANOS
José Iran Peixoto Júnior Teresa Cristina Franco Cosentino
SECRETARIA DE ESTADO DE SEGURANÇA SECRETARIA DE ESTADO DE ESPORTE E LAZER
José Mariano Beltrame Marco Antônio Neves Cabral
SECRETARIA DE ESTADO DE SECRETARIA DE ESTADO DE TURISMO
ADMINISTRAÇÃO PENITENCIÁRIA Nilo Sérgio Alves Felix
Cesar Rubens Monteiro de Carvalho
SECRETARIA DE ESTADO DE ENVELHECIMENTO
SECRETARIA DE ESTADO DE SAÚDE SAUDÁVEL E QUALIDADE DE VIDA
Felipe dos Santos Peixoto José Luiz Nanci
SECRETARIA DE ESTADO DE DEFESA CIVIL SECRETARIA DE ESTADO DE PROTEÇÃO
Sérgio Simões E DEFESA DO CONSUMIDOR
SECRETARIA DE ESTADO DE EDUCAÇÃO Cidinha Campos
Antônio José Vieira de Paiva Neto SECRETARIA DE ESTADO DE PREVENÇÃO
SECRETARIA DE ESTADO DE CIÊNCIA E TECNOLOGIA À DEPENDÊNCIA QUÍMICA
Gustavo Reis Ferreira Filipe de Almeida Pereira
SECRETARIA DE ESTADO DE
PLANEJAMENTO E GESTÃO - SEPLAG

SECRETÁRIA DE ESTADO
Cláudia Uchôa Cavalcanti

SUBSECRETARIA GERAL DE PLANEJAMENTO E GESTÃO – SUBGEP


Fabio Aurélio da Silveira Nunes

SUBSECRETARIA DE PLANEJAMENTO – SUBPL


Enrico Moreira Martignoni

SUBSECRETARIA DE ORÇAMENTO – SUBOR


Maria de Fátima Lopes Leite

SUBSECRETARIA DE ADMINISTRAÇÃO DE PESSOAL – SUBAP


Edson Kazushigue Teramatsu

SUBSECRETARIA DE CARREIRAS, REMUNERAÇÃO E


DESENVOLVIMENTO DE PESSOAS – SUBDP
Paulo César Medeiros de Oliveira Júnior
SUBSECRETARIA DE RECURSOS LOGÍSTICOS – SUBLO
Marco Túlio Marçal Pinto
SUBSECRETARIA DE PATRIMÔNIO IMOBILIÁRIO – SUBPA
Cristina Lúcia de Barros Vianna
SUMÁRIO INTRODUÇÃO

POR QUE MONITORAR E AVALIAR


O DESEMPENHO DE PROGRAMAS
GOVERNAMENTAIS ATRAVÉS DE INDICADORES?
7

AVALIAÇÃO E MONITORAMENTO:
DEFININDO (E REAPROXIMANDO) OS TERMOS 9

COMEÇANDO A ESTRUTURAR UM
SISTEMA DE INDICADORES: DIAGNÓSTICO,
MONITORAMENTO E AVALIAÇÃO 10

POR QUE A CLASSIFICAÇÃO DE


INDICADORES PODE SER ÚTIL? 11

CONSTRUINDO INDICADORES
DE PROGRAMAS: OS SETE PASSOS BÁSICOS 13

CONSTRUINDO INDICADORES SEGUINDO


O PASSO-A-PASSO: UM EXEMPLO 19

CONSIDERAÇÕES FINAIS 24

BIBLIOGRAFIA 24

NOTAS 25
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 7

INTRODUÇÃO
As atividades de monitoramento e avaliação são partes fundamentais do ciclo de
planejamento abrangidos pelo Plano Plurianual (PPA) do Estado. O PPA define os programas
governamentais para um quadriênio, buscando o alinhamento às orientações estratégicas
do governo e às previsões orçamentárias. O plano deve estabelecer os mecanismos para
avaliar o desempenho governamental e os impactos de sua ação na população do Estado do
Rio de Janeiro. Ele deve ser, ainda, um instrumento que ajude a tomada de decisões,
orientando alocação de recursos para se atingir os objetivos da Administração.
A Secretaria de Planejamento e Gestão (SEPLAG-RJ), por meio de sua Subsecretaria de
Planejamento, é responsável por coordenar os processos de elaboração, revisão,
monitoramento e avaliação do Plano Plurianual, em parceria com as secretarias estaduais. Ela
oferece um suporte metodológico aos demais órgãos estaduais, cada um deles responsáveis
pela elaboração e execução de diferentes programas. Com o intuito de auxiliar a
coordenação dos processos de planejamento e orçamento, foi criado o Sistema de
Planejamento e de Orçamento do Estado do Rio de Janeiro – SPO1, que especifica as
atribuições do órgão central, dos órgãos setoriais e das unidades de planejamento e de
orçamento. Dessa forma, o Guia de Indicadores representa um esforço da SEPLAG em
qualificar o processo de planejamento, buscando dar subsídios para o monitoramento e
avaliação dos programas governamentais e, dessa forma, aprimorar as políticas públicas
ofertadas à população.
Esse guia é, assim, uma síntese de alguns dos principais temas da literatura sobre
monitoramento, avaliação e indicadores de programas2, dando subsídios para aprimorar as
políticas públicas implementadas pelo Governo do Estado do Rio de Janeiro. A SEPLAG
pretende, assim, atuar como parceira nos processos de monitoramento e avaliação,
oferecendo um guia metodológico sintético que possa ajudar a Administração Pública
estadual a aperfeiçoar a gestão cotidiana de seus programas e ações.
Assim, ao elaborar esse guia, a Subsecretaria de Planejamento almeja fazer com que a
SEPLAG atinja um dos objetivos colocados em seu regimento interno:
“coordenar, compatibilizar e avaliar a formulação e a operacionalização das políticas
públicas de suas áreas de responsabilidade, bem como propor alternativas de correção e
redimensionamento nas ações governamentais” (RESOLUÇÃO SEPLAG Nº 894/2013).
Isoladamente, a SEPLAG pouco pode fazer para atingir esse objetivo. Por isso, a troca
de experiências com as secretarias estaduais é fundamental. Esse guia é uma tentativa de
dar um suporte metodológico para processos que, sabidamente, os órgãos estaduais já
executam com diferentes graus de dificuldade ou rigor. Na realidade, o guia não substitui o
rico conhecimento que os órgãos e seus gestores possuem sobre os programas sob sua
responsabilidade, no entanto, a junção desse conhecimento com o aporte metodológico
para construção de indicadores pode fazer com que a Administração Pública estadual
chegue a um novo patamar em seus processos de monitoramento e avaliação.
Uma importante mensagem que se deseja passar é que o uso de indicadores para
monitoramento e avaliação não pressupõe um conhecimento externo à Administração
Pública estadual. No dia-a-dia da gestão de um programa, tangenciamos muitas questões
relacionadas à temática dos indicadores, faltando apenas uma sistematização que propicie
um melhor monitoramento do programa executado. O guia pretende dar subsídios para a
construção de um processo de monitoramento que seja útil no nível da gestão do programa,
que permita corrigir o rumo ao longo do processo e seja capaz de avaliar seus resultados.
8 l CADERNO DE PLANEJAMENTO 3

POR QUE MONITORAR E AVALIAR O


DESEMPENHO DE PROGRAMAS
GOVERNAMENTAIS POR MEIO DE INDICADORES?

Uma das perguntas que as pessoas envolvidas com no controle externo, para um modelo de gestão pública
monitoramento e avaliação devem se fazer é: por que orientada para os resultados, com o estabelecimento
estamos fazendo isso? A falta de clareza quanto às de metas e indicadores de desempenho que possam
razões frequentemente compromete a tomada de medir o cumprimento das metas.
decisão quando o processo de monitoramento e
No entanto, ainda encontramos alguns desafios para
avaliação é confrontado com as limitações cotidianas
a incorporação de indicadores no setor público: a) uma
que se impõem sobre a gestão de um programa. Muitas
cultura organizacional que dificulta a transição para uma
vezes, os recursos são escassos – em termos financeiros,
gestão comprometida com resultados; b) fragilidade dos
de pessoal, de expertise e de tempo – e não é possível
serviços públicos, que limita a delegação de
monitorar e avaliar tudo de todas as formas possíveis.
responsabilidades e o alcance de um maior nível de
É preciso ficar claro também que o processo de responsabilização dos dirigentes públicos; c) um fraco
monitoramento e avaliação lida com interesses de uma processo de consolidação de modelos burocráticos que
grande variedade de grupos e atores sociais. Usualmente, possibilitem o funcionamento da Administração Pública
em relação a um programa governamental, os cidadãos e por meio de procedimentos transparentes e confiáveis.
membros do legislativo estão interessados nos impactos de
Tendo em vista essas motivações, limitações e os
um programa que recebe um significativo aporte de
diferentes atores interessados no processo de
recursos. A equipe técnica do programa deseja melhorar
monitoramento e avaliação, esse guia opta por seguir um
sua gestão por meio do monitoramento. Gestores e
caminho bastante destacado pela literatura sobre
responsáveis pelo programa precisam tomar decisões
avaliação, mas não tão evidente quando lidamos com
baseadas em evidências sobre os resultados do programa.
programas governamentais: um sistema de
Assim, os interesses dos variados grupos se relacionam com
monitoramento e avaliação que valha o esforço
diferentes motivações para avaliação:
despendido em sua criação e alimentação deve não
a) Avaliação para accountability, para avaliar se apenas responder a motivações de accountability
os recursos estão sendo usados da melhor externa, mas ser útil no nível da gestão do programa, de
maneira; forma a permitir melhorar seu desempenho.
b) Avaliação para expansão do conhecimento Essa abordagem pode parecer estranha quando
lógico-causal, para avaliar se, de fato, o lidamos com programas governamentais, que
programa causa os resultados pretendidos; frequentemente são avaliados por motivos como
c) Avaliação para melhora da gestão do controle externo e decisões quanto ao financiamento.
programa, focando em informações sobre Deve ficar claro que não são ignoradas essas
resultados de curto e médio prazo que importantes razões para se avaliar um programa
permitam corrigir os rumos da execução do governamental. Ao contrário, o que se defende aqui é
programa. que se o sistema de monitoramento e avaliação for
A Administração Pública observou um grande desenhado apenas para responder a questões externas,
estímulo para a criação de indicadores de desempenho sem ajudar as equipes técnicas e os gestores a
de seus programas a partir de dois fundamentos conduzirem seus programas, eles tendem a se envolver
relacionados à temática da accountability. Destacam-se menos, comprometendo os resultados.
as exigências de: (i) otimizar os níveis de eficiência e A Administração Pública lida com uma variedade de
eficácia no uso de seus recursos; e (ii) criar e fortalecer os mecanismos de controle; necessários, mas
mecanismos de prestação de contas aos cidadãos. Essas frequentemente pouco justificáveis para os atores a eles
exigências refletem a transição de um modelo de gestão sujeitos. Assim, o que se defende aqui é que um sistema
burocrática formal, centrado nos insumos do processo e de monitoramento por indicadores pode e deve ser
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 9

extremamente útil para a gestão de um programa, resultados de um programa para fazer julgamentos
ajudando os envolvidos em seu trabalho cotidiano. sobre o programa, melhorar sua eficácia e/ou informar
Uma avaliação desenhada para ser útil à gestão de um decisões futuras acerca do mesmo.” (Patton, 1997 apud
programa, por exemplo, poderá servir de insumo para Preskil and Catsambas, 2006; tradução livre).
novas avaliações com focos distintos.
Uma avaliação focada na utilidade, por sua vez, torna
Portanto, esse guia possui uma abordagem dos explícita a importância de se desenhar um sistema de
processos de monitoramento e avaliação focada em sua monitoramento de forma a maximizar seu uso pela
utilidade. Certamente, é esperado que toda forma de equipe gestora do programa, de forma a facilitar e
avaliação será utilizada de alguma maneira, por um melhorar sua gestão:
determinado ator. A definição de avaliação de
“Avaliação focada na utilidade (ao invés de avaliação
programas – uma, entre outras – já evidencia isso:
em geral) é feita para e por usuários primários
“Avaliação de programas é a coleção sistemática de específicos e para usos também específicos.” (idem).
informações sobre as atividades, características e

AVALIAÇÃO E MONITORAMENTO: DEFININDO


(E REAPROXIMANDO) OS TERMOS

A clareza sobre a forma como os processos de visa a basear decisões sobre a continuidade do programa
monitoramento e avaliação são tradicionalmente e redimensionamento do público-alvo, por exemplo. Por
distinguidos é necessária. No entanto, é importante outro lado, uma avaliação formativa reúne as atividades
antecipar que por mais que haja uma distinção de monitoramento e avaliação que se realizam ao longo
metodológica entre os dois termos, essa distinção não de todo o processo, mediante um sistema de indicadores
deve ser vista como rígida. que subsidie a tomada de decisão e aperfeiçoamento do
programa. O foco da avaliação formativa é avaliar se o
A autora Maria das Graças Rua define avaliação como o
programa está sendo implementado de acordo com o
“exame discreto de processos, produtos, qualidade, efeitos,
esperado, avaliando os resultados imediatos de seus
impactos, das ações realizadas” e monitoramento como “o
estágios de implementação.
exame contínuo de processos, produtos, resultados,
impactos” (Rua, 2010). Assim, segundo a mesma autora, É evidente, portanto, que existe uma distinção
metodológica consagrada entre avaliação e
“o escopo dessas duas atividades é diferente: enquanto
monitoramento. No entanto, por mais que haja uma
a avaliação deve explorar em profundidade os aspectos
distinção entre esses processos, a ênfase adotada por
sobre os quais incide, o monitoramento não tem como
esse guia na utilidade da avaliação para melhorar a
alcançar tal profundidade, devido à sua necessidade de
gestão de um programa evidencia que avaliação pode
celeridade dos achados, para que possa subsidiar
ser vista como um esforço permanente que permeia
decisões sobre a condução das políticas, programas e
todo o ciclo de vida de um programa: do planejamento
projetos.” (idem).
e execução à replicação e disseminação. Ela deve ser
Januzzi et alli (2009) afirmam que, enquanto etapa encarada como uma tarefa por meio da qual dados são
do ciclo de vida das políticas públicas, a avaliação é continuamente coletados para basear a tomada de
tradicionalmente colocada após a implementação, decisões, não apenas como uma atividade posterior.
consistindo num momento mais reflexivo para decidir Pensado dessa maneira, o monitoramento nada mais é
acerca da continuidade de um programa. Distingue-se, que um processo de avaliação contínuo realizado
portanto, das atividades de monitoramento e avaliação, durante a implementação de um programa, uma fase
que se realizam ao longo de todo ciclo, sobretudo interna conduzida pelas equipes gestora e técnica,
durante a implementação. focando em parâmetros de curto e médio prazo que
A avaliação vista como etapa posterior à implantação possam avaliar a implementação e propor soluções
é chamada por muitos autores de avaliação somativa, e corretivas a tempo hábil.
10 l CADERNO DE PLANEJAMENTO 3

Essa abordagem tem três grandes vantagens. Em monitoramento, já começam a serem levantadas
primeiro lugar, pressupõe informações que, ao menos em questões suscetíveis de maior aprofundamento em uma
parte, já estão disponíveis para a equipe do programa, fase posterior. Em terceiro lugar, é uma forma de se definir
mesmo que não estejam organizadas ou sendo usadas de forma precisa o que se está avaliando antes de avaliar
para atividades de monitoramento e avaliação. Em os possíveis impactos; primeiro avalia-se a implantação do
segundo, ao desenhar um programa tendo isso em programa, para depois observar se os impactos se
mente, ou reorganizar os dados disponíveis para o relacionam com a política implementada.

COMEÇANDO A ESTRUTURAR UM SISTEMA


DE INDICADORES: DIAGNÓSTICO,
MONITORAMENTO E AVALIAÇÃO

A abordagem aqui seguida se justifica porque se políticas sociais nas diferentes esferas de governo,
entende que quando monitoramento e avaliação são possibilitam o monitoramento das condições de vida e
vistos dessa forma, esses processos são melhores bem-estar da população por parte do poder público e
assimilados pela equipe que deverá criar e alimentar sociedade civil (...). Em uma perspectiva programática, o
sistemas de monitoramentos. Nesse sentido, o uso de indicador social é um instrumento operacional para
uma série de medidas que indiquem os rumos do monitoramento da realidade social, para fins de
programa executado oferece subsídios tanto para a formulação e reformulação de políticas públicas.” (idem).
gestão do programa quanto insumos para uma avaliação
É de suma importância destacar que os indicadores
mais profunda que se pretenda realizar. Permitem não
são utilizados ao longo de todo o ciclo de vida de um
só corrigir a tempo os rumos de um programa como
programa. Ainda durante a fase de diagnóstico para
ajuda a desenhar pesquisas de avaliação mais
elaboração de programas, uma enorme variedade de
aprofundadas para entender por que determinados
indicadores de divulgação pública pode ser usada para
processos não estão acontecendo conforme o planejado
retratar a situação que se deseja mudar e especificar o
inicialmente (Januzzi et alli, 2009). Ao leitor atento,
público alvo e o foco do programa. A partir do
ficará claro que essas medidas indicativas do rumo de
diagnóstico, a elaboração do programa já deve
um programa nada mais são do que os indicadores,
contemplar a especificação de indicadores a partir dos
objeto desse guia.
quais o andamento do programa será monitorado. Deve
Nesse momento, é importante buscar definir o ser pensado um conjunto específico de indicadores úteis
conceito de indicador: ao nível da gestão, que permitam acompanhar as ações
planejadas, que serão o eixo do processo de
“Um indicador social é uma medida em geral
monitoramento e avaliação.
quantitativa dotada de significado social substantivo,
usado para substituir, quantificar ou operacionalizar um A esse respeito, cabe um lembrete útil para se pensar
conceito social abstrato, de interesse teórico (para nos indicadores para monitoramento: quase todos os
pesquisa acadêmica) ou programático (para formulação programas contam com registros administrativos que,
de políticas). É um recurso metodológico, empiricamente se bem organizados, podem ser uma fonte
referido, que informa algo sobre um aspecto da realidade fundamental para se estabelecer os indicadores-chave.
social ou sobre mudanças que estão se processando na Dessa forma, o sistema de indicadores para
mesma.” (Januzzi, 2002). monitoramento, ao contrário do que muitos pensam,
não exige um trabalho extra separado da gestão do
O foco desse guia recai nessa perspectiva
programa. Ao contrário, devem ser aproveitados os
programática, a qual consiste no uso dos indicadores
dados produzidos ao longo da execução do programa, o
para a gestão de programas governamentais:
que muitas vezes exige a (re)organização da gestão da
“Os indicadores sociais se prestam a subsidiar as informação para que se possam identificar os aspectos
atividades de planejamento público e formulação de relevantes a serem monitorados.
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 11

Faz-se necessário, também, distinguir um sistema de indicadores de processos e ações mais importantes.”
indicadores de monitoramento de um sistema de gestão (Januzzi et alli, 2009, p. 118-9)
operacional de um programa:
Esse sistema de monitoramento deve, sempre que
“Um sistema de monitoramento vale-se do(s) possível, contemplar não só indicadores que
sistema(s) de gestão dos programas para buscar monitorem a execução das ações do programa como
informações (...), sintetizá-las em indicadores e conferir- também seus resultados. Fica evidente, desde já, que
lhes significado analítico. (...) Um sistema de os indicadores podem medir as mais variadas etapas
monitoramento não é, pois, um conjunto exaustivo de de implantação de um programa, assunto que será
medidas desarticuladas, mas uma seleção de abordado adiante.

POR QUE A CLASSIFICAÇÃO DE


INDICADORES PODE SER ÚTIL?

Existem muitas formas de se classificar os Indicadores de processo: indicam o andamento das


§
indicadores e esse guia não pretende tratar de todas atividades do programa e o esforço feito para a
elas. Ao contrário, propõe tratar algumas delas e obtenção dos resultados. Portanto, são medidas
mostrar que as classificações podem ser muito úteis aferidas durante a implementação do programa.
para construir um conjunto de indicadores para um Indicadores de produto: medem a entrega dos
§
programa. Devido a esse motivo, o guia defende que a produtos (bens e serviços) ao público-alvo, o alcance
classificação quanto ao fluxo de implementação de das metas físicas estabelecidas para o programa. São
políticas públicas é a mais útil para construir medidas que, em geral, podem ser aferidas no curto-
indicadores de programa. prazo após a implementação do programa.

Indicadores de Gestão do Fluxo de Indicadores de resultado: indicam, direta ou


§
Implementação de Políticas Públicas indiretamente, os benefícios para o público alvo
decorrentes das ações executadas e dos produtos
Essa forma de se classificar os indicadores entregues pelo programa. Tipicamente, são
relaciona-se diretamente às etapas de implantação de indicadores que aferem as consequências da
uma política pública, que pode ser simplificada na implementação do programa no curto/médio prazo.
fórmula INSUMOS > PROCESSOS > PRODUTOS >
§Indicadores de impacto: são medidas de natureza
RESULTADOS > IMPACTOS.
abrangente e multidimensional que medem um
Assim, como veremos na 1ª etapa do passo-a-passo conjunto de ações, não podendo ser relacionadas à
para a construção de indicadores, essa forma de classificar execução de um programa específico. Assim, medem
ajuda tanto a pensar em indicadores de abrangência um conjunto de iniciativas governamentais no
distinta que deem conta das diversas etapas de um médio/longo prazo. Por esse motivo, são medidas pouco
programa quanto a verificar se temos um programa usadas/úteis para a gestão de um programa específico,
organizado de acordo com um modelo lógico claro, mesmo que se espere que a implementação desse
ajudando-nos a precisar esse modelo lógico, se necessário. programa contribua de alguma forma para a alteração
Dessa forma, fazendo algumas adaptações do Guia desse tipo de indicador.
Federal (BRASIL, 2012), podemos distinguir os seguintes Na próxima página, vejamos um exemplo
conjuntos de indicadores: hipotético de um programa de construção de unidades
Indicadores de insumo: possuem relação direta com habitacionais voltadas para a população de baixa
§
os recursos (humanos, materiais e financeiros) renda, cujo objetivo é melhorar as condições de
necessários para a implementação do programa. Eles habitabilidade em determinado município que possui
medem a disponibilidade desses recursos antes da uma grande população de rua ou em condições de
implementação do programa. habitação inadequadas:
12 l CADERNO DE PLANEJAMENTO 3

Indicadores de gestão para um programa de construção de unidades habitacionais:

INSUMO PROCESSO PRODUTO RESULTADO IMPACTO

Orçamento Percentual Número de Déficit Expectativa


necessário; de execução unidades habitacional de vida.
das obras; habitacionais no município.
Número de construídas.
integrantes Percentual
da equipe de recursos
técnica; financeiros
liberados;
Etc.
Etc.

Normalmente, não há dúvidas quanto aos alcançados. Segundo essa classificação, os indicadores
indicadores de insumo (antes) e processo (durante). As podem ser de (BRASIL, 2012):
distinções entre indicadores de produto, resultado e Economicidade: medem os gastos envolvidos na
§
impacto, no entanto, costumam suscitar mais dúvidas. obtenção dos insumos (materiais, humanos,
Vamos analisar o exemplo acima: financeiros etc.) necessários às ações que produzirão
O indicador de produto afere o alcance da meta física os resultados planejados.
estabelecida pelo programa (a construção de unidades Eficiência: essa medida possui estreita relação com
§
habitacionais). Com a entrega dessas unidades, produtividade, diz respeito ao quanto se consegue
esperamos alcançar como resultado a diminuição do produzir com os meios disponibilizados.
déficit habitacional do município. No entanto, pode ser
que por motivos alheios ao programa (um desastre local Eficácia: aponta o grau com que um programa atinge
§
que destrua residências no município, migração as metas e objetivos planejados.
intermunicipal, etc) se observe que mesmo que se atinja Efetividade: mede os efeitos positivos ou negativos na
§
a meta do indicador de produto, não seja atingido o realidade que sofreu a intervenção, aponta se houve
resultado esperado quanto à redução do déficit mudanças socioeconômicas, ambientais ou
habitacional. Isto porque enquanto o indicador de institucionais decorrentes dos resultados obtidos pela
produto mede as entregas no curto prazo, o indicador política, plano ou programa.
de resultado afere os benefícios concretos decorrentes
Alguns ainda acrescentam a esses tipos os
dessas entregas.
indicadores de (BONNEFOY & ARMIJO, 2005):
Por fim, expectativa de vida foi colocada como Qualidade: aponta a capacidade da instituição
§
indicador de impacto porque se espera que habitações responder de forma rápida e direta às necessidades de
com acesso adequado à rede de água e esgoto seus usuários. São características da qualidade fatores
contribuam para a melhora das condições de vida da como: oportunidade, acessibilidade, precisão e
população. No entanto, o programa não é capaz de continuidade na entrega de serviços.
responder sozinho pelas variações desse indicador:
outras políticas – saúde, educação, segurança, etc – Essa forma de classificar os indicadores possui uma
interferem na expectativa de vida da população. relação menos direta com a “linguagem” de um
Portanto, esse indicador de impacto não pode ser programa. No entanto, ela sinaliza a importância de
relacionado exclusivamente a esse programa, sendo pensarmos em indicadores para diferentes dimensões
pouco útil do ponto de vista da gestão cotidiana do de desempenho.
mesmo. No entanto, ele pode ser melhor utilizado como Além do mais, podem ser feitas correlações entre essa
indicador de um conjunto de ações governamentais. forma de se classificar os indicadores. Por exemplo, os
indicadores de eficácia são, tipicamente, indicadores de
Indicadores de Avaliação de Desempenho produto, pois quantificam o grau de atingimento das metas
Há várias outras formas de se classificar indicadores, e planejadas, ou seja, das entregas de bens e serviços. Já os
vale a pena fazer menção à mais conhecida delas. Trata-se indicadores de efetividade são tipicamente indicadores de
da classificação quanto à avaliação de desempenho, com resultado ou impacto, por aferirem as consequências
foco na avaliação dos recursos alocados e nos resultados concretas para o público alvo do programa.
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 13

CONSTRUINDO INDICADORES DE PROGRAMAS:


OS SETE PASSOS BÁSICOS

Não há um procedimento padrão para a construção de 6) Recolher as informações necessárias:


indicadores de programas. Como já foi abordado, um
Qual a metodologia que usaremos para recolher os dados?
programa bem elaborado já contempla a especificação dos
indicadores por meio dos quais ele será monitorado. No 7) Validar os indicadores:
entanto, é importante observar alguns requisitos básicos Os indicadores atendem aos critérios técnicos necessários?
que assegurem que o conjunto de indicadores dê conta do
monitoramento e avaliação dos aspectos principais do 1º Passo: Identificar ou revisar os produtos e
programa em questão. Propomos nesse guia sete passos
objetivos a serem medidos
para a construção de indicadores de programa, pensando
especificamente em programas governamentais, A primeira etapa na construção de indicadores é
inspirados pela metodologia proposta pela CEPAL fundamental, uma vez que nela se realiza a definição ou
(BONNEFOY & ARMIJO, 2005) para a construção de validação dos aspectos centrais do programa para os
indicadores de desempenho em instituições públicas3. quais serão construídos os indicadores. Por isso, nos
deteremos um pouco mais nela. Nessa etapa, busca-se
É importante ter em conta, desde já, que os passos
responder as seguintes perguntas:
propostos não acontecem sempre de forma separada e
consecutiva, podendo ocorrer simultaneamente e se a) os objetivos, os produtos e o público-alvo do
retroalimentar. Idealmente, eles devem fazer parte do programa estão identificados?
momento de elaboração dos programas. Portanto, os
passos aqui propostos pretendem ser uma metodologia b) o programa está desenhado de forma lógica e
para auxiliar a equipe de um programa a refletir sobre coerente?
todas as questões relevantes envolvidas na construção
de indicadores de programa. c) os objetivos podem ser expressos em metas
mensuráveis e factíveis?
Nesta seção, focamos na metodologia de sete passos e
na seção seguinte, construímos os indicadores para um Delimitando o programa que será avaliado
programa hipotético, seguindo esses mesmos passos.
Ao tratar da construção de indicadores para programas
1) Identificar ou revisar os produtos e objetivos a serem governamentais pré-existentes, muitas vezes é necessária
medidos: uma reflexão sobre a coerência do programa em questão.
Qual é o programa que será avaliado? O termo programa aqui é usado numa definição ampla,
significando “um conjunto de recursos e atividades
2) Identificar as etapas e dimensões que se pretende direcionados para um ou mais objetivos comuns” que
avaliar: “pode consistir em um conjunto reduzido de atividades em
O que se mede? um determinado órgão ou envolver ações complexas que
envolvem diferentes atores governamentais” (tradução
3) Estabelecer as responsabilidades organizacionais:
livre de Newcomer et al, 2010, p.5).
Quem será responsável pelo monitoramento?
Essa definição é necessária para marcar a distinção das
4) Estabelecer as referências para comparação dos definições mais formais adotada pelas administrações
resultados: públicas, de um programa como um conjunto de ações
orçamentárias e não orçamentárias e parte integrante de
Com o que e como compararemos os resultados atingidos?
seus Planos Plurianuais. Esse ponto é importante para
5) Definir os atributos dos indicadores: usarmos essa etapa da construção de indicadores como
um momento de se (re)pensar os próprios programas.
Qual o significado dos nossos indicadores?
Para fins de monitoramento e avaliação, pode ser que se
deseje focar numa ação específica ou determinado
conjunto de atividades dentro de um programa.
14 l CADERNO DE PLANEJAMENTO 3

Nesse momento, pode ser que seja identificado que os relações causais entre eles. Mesmo que o sistema de
programas, tal qual definidos no Plano Plurianual, reúnem monitoramento por indicadores não dê conta, por si só,
ações tão diversas que é difícil reconhecer o objetivo da avaliação global de um programa, quando ele é bem
principal por trás delas. Pode mesmo ser que se perceba desenhado e o modelo lógico do programa é coerente e
que diferentes iniciativas foram inadequadamente claro, os dados gerados pela aferição dos indicadores
reunidas como um programa único. Ou, frequentemente, o podem ser, sim, interpretados em termos dos resultados
“programa” foi pensado apenas seguindo uma lógica de um programa.
orçamentária, de reunir ações que possuem uma fonte de
Essa é a razão pela qual os responsáveis pela
recursos específica. Em todos esses casos, a equipe
construção dos indicadores devem considerar rever o
responsável pela sistemática de construção e
modelo lógico do programa nessa etapa. Muitas vezes,
monitoramento dos indicadores precisará definir qual a
mesmo quando ele já está claramente definido, se
abrangência do que será foco da avaliação por indicadores.
observa que ele não corresponde à forma por meio da
É preciso verificar se há uma lógica clara por trás do
qual o programa está sendo executado. Infelizmente, na
programa, de forma a conseguir elaborar um conjunto
Administração Pública encontramos muitas vezes
coerente de indicadores.
dificuldades nesse processo. A pressa em executar
(Re)definindo o modelo lógico, objetivos e produtos determinada política pode fazer com que a lógica do
do programa programa não seja discutida e pactuada com toda a
equipe. E, muitas vezes, ao longo da execução há
Um programa bem formulado pode ser visto como mudanças não registradas que desviam das intenções
uma hipótese: a partir de um diagnóstico inicial, se o originais. Se não observados, esses fatores
programa for executado conforme o planejado serão comprometerão a interpretação de um indicador que
atingidos determinados resultados. Dessa forma, o supostamente é afetado por um programa.
modelo lógico é um “modelo de como o programa
funcionará sob determinadas condições para resolver Definindo as metas do programa
problemas identificados” (McLaughlin and Jordan,
Finalmente, uma vez clarificados os produtos e
2010, p. 56). Assim, um modelo lógico ajuda a tornar
resultados esperados de um programa, é possível que se
explícitas as pressuposições feitas quando um programa
especifiquem suas metas. As metas constituem a
é desenhado: a relação entre os insumos usados, as
expressão concreta e quantificável dos resultados que
atividades (processos) executadas, os produtos
se deseja alcançar em determinado período de tempo,
entregues e os resultados finais esperados.
com relação aos objetivos previamente definidos.
O modelo lógico retoma, dessa forma, alguns
As metas devem, portanto, atender aos seguintes
aspectos abordados pela classificação dos indicadores
requisitos:
quanto ao fluxo de implantação do programa. É
importante se distinguir entre os produtos e os a) abranger o conjunto de dimensões de
resultados esperados do programa. Os produtos são os desempenho: eficiência, eficácia,
bens e serviços entregues ao público. É o que o efetividade, etc;
programa entrega à sociedade para atingir determinado b) serem definidas com base em compromissos
resultado. Junto com os insumos e as atividades, os internos, ou seja, seu cumprimento não deve
produtos fazem parte da estrutura do programa. Por depender de fatores exógenos;
outro lado, os resultados do programa são as mudanças
c) serem realistas, alcançáveis com os recursos
concretas que se espera atingir com a implantação do disponíveis.
programa e dos produtos entregues. Os programas
podem, assim, possuir resultados múltiplos e Nessa etapa, é fundamental que a equipe do
sequenciais divididos no curto, médio e longo prazo, programa trace metas claras e quantificáveis. Como
compondo a estrutura dos resultados. será visto adiante, tendo metas bem formuladas, a
construção dos indicadores será muito facilitada. O
Ter um modelo lógico bem desenhado é crucial para quadro da próxima página dá 3 exemplos de metas
que se possa desenhar os indicadores para os diferentes ambíguas e/ou mal formuladas e de metas adequadas.
componentes do modelo e, posteriormente, avaliar as
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 15

METAS AMBÍGUAS OU METAS CLARAS E


MAL FORMULADAS QUANTIFICÁVEIS

1 Compraremos a maior quantidade Comprar 500 livros por ano para cada uma das 13
§
de livros possíveis para as escolas. escolas da rede, totalizando 26.000 livros ao fim
dos 4 anos do programa.

2 Estimularemos a Aumentar em 20% o número de visitas às


§
leitura na população. bibliotecas locais até o dia 31/12/2015.

3 Teremos o melhor Reduzir em 50% o número de reclamações dos


§
serviço de ônibus usuários ao término de 1 ano do programa;
da região. Reduzir
§ em 20% o tempo de espera dos
passageiros no terminal (ao término de 1 ano);
Renovar 30% da frota de ônibus ao término de
§
4 anos do programa.

Esse quadro dá uma breve ideia dos erros mais a) limitar o número de indicadores a uma
comuns cometidos ao se estipular as metas. O exemplo quantidade que permita mensurar o
1 mostra que uma meta não pode apenas traduzir uma essencial e captar os objetivos das diferentes
intenção vaga. Deve, sempre que possível, estipular pessoas interessadas;
como e em que período serão entregues os produtos. O b) cobrir as diferentes etapas de implantação do
exemplo 2 possui uma meta aparentemente de difícil programa atendendo aos interesses de
quantificação (como podemos medir o “estímulo à diferentes esferas decisórias: estratégica,
leitura”?) que foi traduzida numa meta que, ao menos gestão e operacional;
em parte, dá conta do objetivo, é possível de ser c) permitir conhecer o desempenho dos
mensurada e possui um prazo para ser atingida. Por fim, processos, para identificar os gargalos. Os
o exemplo 3 evidencia que uma meta muito geral pode e indicadores de processo são úteis para
deve ser desdobrada em outras metas parciais que identificar os aspectos centrais da gestão do
sejam quantificáveis. programa;
d) ser em quantidade tal que sejamos capazes
2º Passo: Identificar as etapas e dimensões que de utilizar e controlar, por que muita
se pretende avaliar informação pode voltar-se contra os
Uma vez definidas as metas dos programas, chega o objetivos do programa.
momento de identificar as etapas e dimensões que se
pretende avaliar. Certamente, a amplitude dos
3º Passo: Estabelecer as responsabilidades
indicadores que serão construídos depende de fatores organizacionais
tais como: (i) os tipos de metas que serão monitoradas; Com a definição das metas e das dimensões e etapas
(ii) a priorização da informação para fins internos ou que serão monitoradas, devem ser estabelecidas as
externos; (iii) os recursos disponíveis. O ideal é que responsabilidades organizacionais pelo cumprimento das
sejam monitoradas todas as etapas do fluxo de diferentes tarefas contidas no programa. Dessa forma, um
implantação de um programa (insumo, processo, requisito fundamental para a operacionalização dos
produto, resultado/impacto) e as variadas dimensões indicadores é a divisão dos produtos, metas e
de desempenho (economicidade, eficiência, eficácia, indicadores para as áreas responsáveis.
efetividade, qualidade). No entanto, as limitações
cotidianas impõem restrições, e temos que seguir alguns Se possível, sobretudo em programas que envolvem
critérios sobre quantos indicadores construir: uma gama abrangente de atividades e/ou órgãos em sua
execução, é importante se especificar “centros de
16 l CADERNO DE PLANEJAMENTO 3

responsabilidade” (ou alguma esfera correlata) que b) Comparação com outros programas
serão responsáveis por um subconjunto de indicadores. similares ou comparáveis:
Para organizar o fluxo de informações e zelar pela Há algum programa (de preferência que tenha
coordenação geral das atividades de monitoramento, obtido uma experiência de sucesso) com o qual
deve existir uma “unidade de monitoramento” que podemos comparar o programa em questão?
tenha uma posição central, com acesso às dimensões Quais foram os resultados obtidos por esse outro
estratégicas e operacionais do programa. Vale destacar programa? Eles podem balizar as referências e
que o importante aqui não é a existência de núcleos metas do nosso programa?
formalmente constituídos com essa denominação, mas c) Comparação com o histórico e índices de
sim que haja uma definição clara de responsabilidades, referência
de forma a poder se identificar os responsáveis por
determinada informação. Vejamos abaixo uma Em primeiro lugar, deve ser observada a
sugestão dos papéis de cada uma dessas esferas: interferência de algum fator externo ao programa
que possa influenciar o comportamento do
Centros de responsabilidade: indicador. Essa informação é relevante para
delimitar as bases de comparação dos resultados.
Possui produtos claramente identificados;
§ Em segundo lugar, sobretudo em casos de
Os objetivos estão traduzidos em metas factíveis;
§ indicadores de processo e produto, os resultados
podem variar em função do estágio de execução
Possui não só a responsabilidade, mas também a
§ do programa. Pode ser o caso de que seja
autoridade para tomar decisões necessárias para esperado um avanço significativo de um indicador
atingir os objetivos a ele atribuídos; no curto prazo, seguido de avanços graduais, ou o
Dotado dos recursos humanos, materiais e financeiros
§
contrário, melhoras graduais no curto prazo
necessários para atingir as metas. seguidas de um avanço significativo apenas ao
final do programa.
Unidade de monitoramento:
As referências para comparação impactarão, assim,
Localização estratégica, junto ao responsável pela
§ na frequência da “medição”, que não é necessariamente
gestão do programa, com acesso às instâncias diretivas na qual os dados estão disponíveis, e sim quando
e operacionais; estabeleceremos metas parciais. Essa frequência deve ser
Responsável por coordenar os centros de
§ pequena o suficiente para permitir a correção de rumos
responsabilidade; do programa em tempo hábil e grande o suficiente para
permitir uma comparação significativa. Normalmente,
Permanente retroalimentação de informações entre
§
indicadores distintos possuem frequências de apuração
as diferentes esferas do programa;
distintas. A frequência possuirá relação com:
Dotado de recursos suficientes para desenvolver um
§
sistema de informação que permita o fluxo adequado a) O tipo de indicador (quanto ao fluxo de
implantação do programa e/ou de
de informações.
desempenho): indicadores de processo
tendem a ser monitorados mais regularmente
4º Passo: Estabelecer as referências para do que de resultado por possuírem maior
comparação dos resultados variação no curto prazo, por exemplo;
A partir da definição das responsabilidades sobre as b) O uso da informação (externa/interna; nível
diferentes etapas e dimensões do programa, devem ser estratégico/operacional): a equipe executora
estabelecidas as referências com as quais se comparará precisa acompanhar constantemente as
os resultados obtidos pelos indicadores. É fundamental informações, o nível estratégico tende a
que as referências sejam estabelecidas de forma receber informações mais agregadas em
participativa, de modo que as equipes táticas e prazos especificados;
operacionais possam contribuir com seu conhecimento. c) Os custos associados à medição: medir tudo
a todo tempo não é factível porque custa
Alguns fatores devem ser observados nessa etapa:
tempo e dinheiro.
a) Comparação com as metas planejadas:
5º Passo: Definir os atributos dos indicadores
Envolve um diagnóstico da situação atual e
comparação com as metas traçadas. A diferença Uma vez que se tem clareza das dimensões, das
deve expressar o objetivo de uma melhora concreta responsabilidades e de como vamos nos utilizar dos
que seja, ao mesmo tempo, realista e factível; dados, é importante formalizar os indicadores que serão
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 17

criados. As informações devem ser condensadas num ou expressar uma razão ou relação entre duas variáveis
conteúdo mínimo de informações que irão compor a quantificáveis.
ficha do indicador. Muitas informações podem ser Unidade de Medida: padrão escolhido para
§
agregadas à ficha dos indicadores, mas, seguindo o Guia mensuração da relação adotada como indicador. Está
de Indicadores do PPA federal (BRASIL, 2012), devemos diretamente ligada à fórmula de cálculo do indicador.
focar num conteúdo mínimo de informações4:
Esses quatro atributos são um conjunto mínimo de
Denominação: forma pela qual o indicador será
§ informações que devemos identificar para construir
chamado e apresentado ao público. É importante que
nosso indicador. Quando inserimos o indicador nas
o nome seja claro e autoexplicativo.
atividades de monitoramento de um programa
Fonte: órgão responsável pelo registro ou produção
§ devemos agregar mais uma informação:
das informações necessárias para a apuração do
Índice de Referência: valor de referência mais recente
§
indicador e sua divulgação periódica. Pode ser tanto
do indicador que pretendemos alterar com o
fontes externas (por exemplo, diferentes instituições
programa. Consiste na aferição do indicador em um
públicas de pesquisa) quanto fontes internas (os
dado momento, mensurado com a unidade de medida
registros administrativos de um programa). O que é
escolhida.
fundamental é que ela seja claramente identificável.
Abaixo, damos um breve exemplo fictício de como
Fórmula de cálculo: fórmula utilizada para calcular o
§
esses atributos estão intimamente ligados. Um
indicador, com a definição clara de todos seus
indicador mal conceituado e identificado compromete a
componentes. Pode ser uma variável unidimensional
clareza de todas as outras informações:

INDICADOR MAL CRÍTICA INDICADOR


FORMULADO CLARO

Denominação Pacientes jovens atendidos. O nome não deixa claro Porcentagem de


quem é o público-alvo. pacientes atendidos
Qual a definição de jovens? menores de 15 anos.
Estamos falando de número
absoluto, porcentagem?

Fonte Setor responsável. “Quem” é o setor? Registros


administrativos do
programa “Saúde Feliz”
(a cargo da Diretoria de
Atendimento Básico).

Fórmula ? Devido às dúvidas acima, Pacientes atendidos


de cálculo não é possível saber. menores de 15 anos.
Público-alvo
a ser atendido.

Unidade ? Idem %
de medida

Índice de ? XX
Referência
18 l CADERNO DE PLANEJAMENTO 3

6º Passo: Recolher as informações necessárias 7º Passo: Validar os indicadores


O passo de definir como serão recolhidas as O último passo para a construção dos indicadores é
informações está diretamente ligado às definições dos verificar se eles atendem a alguns requisitos técnicos,
atributos do indicador do passo anterior. Em geral, a de forma a garantir a qualidade das medidas escolhidas
técnica de obtenção dos dados está diretamente ligada para se avaliar o desempenho dos programas. Veremos
aos tipos de indicadores que foram escolhidos. Nesse que a atenção a esses aspectos retomam vários pontos
momento, a equipe do programa deve pesar uma série já explorados nos passos anteriores. Seguimos aqui a
de fatores, tais como a identificação das informações interessante divisão proposta no Guia de Indicadores do
pertinentes, os custos de se obter os dados e realizar PPA Federal (BRASIL, 2012), que divide as propriedades
pesquisas, a disponibilidade de sistemas de informação dos indicadores em essenciais e complementares5.
adequados e muitos outros.
Propriedades essenciais: são nossos critérios
Não é possível, no espaço desse guia, aprofundar as básicos de escolha, características que devem
diferentes técnicas de pesquisa que podem ser utilizadas obrigatoriamente ser observadas e que todo indicador
pela equipe gestora do programa. É importante, apenas, deve apresentar:
chamar a atenção para dois conjuntos gerais de
1. Utilidade: como foi explorado anteriormente,
metodologias para obtenção de dados:
os indicadores devem ser úteis ao nível da
Técnicas quantitativas: usada para estabelecer
§ gestão do programa, servindo como base para
comparações estatísticas. Podem ser tanto pesquisas a tomada de decisões seja no nível
ou levantamentos externos (surveys, censos, operacional, tático ou estratégico.
pesquisas amostrais) quanto registros administrativos 2. Validade: o indicador deve ser capaz de
do próprio órgão ou equipe gestora do programa. representar de forma significativa a realidade
Técnicas qualitativas: amplamente utilizadas para que se deseja medir, deve ser pertinente ao
§
que está sendo avaliado.
avaliar a percepção sobre a qualidade dos serviços.
3. Confiabilidade: as fontes dos indicadores
O que é fundamental é que haja clareza e uma
devem ser confiáveis e utilizar metodologias
definição prévia de como a informação será obtida. Se
reconhecidas e transparentes.
possível, uma combinação de métodos garante maior
riqueza de informações, mas os custos de obtenção 4. Disponibilidade: os dados para aferição dos
(tempo, recursos financeiros) devem sempre ser indicadores devem ser fáceis de serem
considerados. Algumas iniciativas são importantes para obtidos.
se garantir o sucesso de um sistema de monitoramento: As propriedades essenciais acima são o mínimo
a) Prever recursos para construção de sistemas que se espera de um bom indicador. Se um indicador
de informação; não é útil, válido, confiável ou disponível, ele
certamente não é um indicador bom para um
b) Prever recursos para realização de estudos e programa. Além dessas propriedades, é importante
pesquisas, se necessário;
que a equipe se debruce também em outras
c) Integração dos sistemas de informação com os propriedades complementares dos indicadores.
sistemas de administração financeira;
Propriedades complementares: são requisitos e
d) Realizar acordos de colaboração com critérios também muito importantes, mas que podem ser
instituições estatísticas e de pesquisa; objeto de escolha em função de cada situação particular:
e) Conhecer sistemas de monitoramento de 5. Publicidade: indicadores devem ser,
programas similares. preferencialmente, acessíveis tantos aos
demais entes da Administração Pública
Mais uma vez, é importante repetir um ponto:
quanto à sociedade como um todo.
mesmo que haja limitações financeiras, de pessoal ou
expertise e não seja possível montar o sistema ideal, 6. Temporalidade: utilizado ao nível da gestão do
muita coisa pode ser feita com as informações geradas programa, os indicadores devem observar
pela implantação do programa e demais informações algumas questões temporais: quando serão
de divulgação pública. À equipe do programa cabe aferidos e a possibilidade de que por meio
deles seja acompanhado (e corrigido a tempo,
garantir zelar pelo recolhimento e fluxo das
se for o caso) a implantação do programa.
informações, conforme os passos aqui descritos.
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 19

7. Viabilidade: os dados necessários para a 11. Desagregabilidade: já que a dimensão


medição são informações geradas no âmbito territorial é um componente importante na
da gestão do programa e são obtidos em implementação de políticas públicas, quanto
momentos adequados e com uma mais desagregável regionalmente um
periodicidade que equilibre a necessidade da indicador, melhor. Dessa forma, diferentes
informação com os recursos disponíveis. impactos podem ser observados em áreas
geográficas distintas.
8. Simplicidade: indicadores devem ser de fácil
construção, obtenção e entendimento pelo 12. Economicidade: a comparação entre o custo
público em geral. de obtenção do indicador e os benefícios dele
decorrentes deve ser favorável.
9. Clareza: a fórmula do indicador (mais
comumente uma razão entre duas variáveis 13. Estabilidade: a série histórica do indicador
básicas) deve ser o mais clara possível. No deve ser estável, de forma a permitir seu
entanto, ela pode eventualmente ser complexa monitoramento com mínima interferência de
e possuir muitas variáveis. Nesses casos, é fatores externos.
importante que a construção da fórmula seja
clara e que se justifique porque é necessário 14. Mensurabilidade: capacidade de ser
chegar a esse nível de complexidade. mensurado quando necessário, com a maior
precisão possível.
10. Sensibilidade: como o objetivo é usar
indicadores para a gestão de programas, 15. Auditabilidade: qualquer pessoa deve poder
eles devem ser sensíveis às intervenções verificar a correta construção, obtenção e
realizadas, sendo capaz de refletir as divulgação dos indicadores.
mudanças.

CONSTRUINDO INDICADORES SEGUINDO


O PASSO-A-PASSO: UM EXEMPLO

A fim de facilitar a compreensão da metodologia dos envolve um conjunto de atividades que consistem em
sete passos, é interessante demonstrar rapidamente oferecer apoio técnico, financeiro e operacional ao
como seria seguir os passos para um programa desenvolvimento de projetos e convênios com ONGs,
governamental existente. Para tanto, vamos usar o caso universidades e organizações locais.
de um Programa de Prevenção a DST/AIDS6. Não
Os grupos populacionais vulneráveis consistem no
pretendemos entrar nos detalhes que a execução de um
público-alvo do programa, e são especificados: pessoas
programa envolve, mas apresentar as linhas gerais que
que vivem com HIV/AIDS; pessoas privadas de liberdade;
são importantes para a construção de indicadores.
efetivos da polícia; homens que fazem sexo com homens
(HSH); trabalhadoras sexuais; travestis/transgêneros.
1) Identificar ou revisar os produtos e objetivos a
serem medidos Para cada um desses públicos, são traçados objetivos
específicos que se traduzem em metas quantificáveis.
Nessa etapa, é importante delimitar os produtos e Por exemplo, para a população HSH o objetivo é
objetivos do programa, verificar se possuímos um contribuir para a redução da incidência de AIDS na
modelo lógico consistente. Nosso programa de população HSH, e os objetivos específicos são: a)
prevenção a HIV/AIDS em questão tem como objetivo aumentar o acesso da população HSH aos serviços de
aumentar a qualidade e ampliar a cobertura das ações saúde especializados em HIV/AIDS; b) aumentar o uso
de prevenção da epidemia entre grupos populacionais do preservativo durante a última relação sexual na
vulneráveis. Para atingir esse objetivo, o programa população HSH alcançado pelas ações de prevenção.
20 l CADERNO DE PLANEJAMENTO 3

Podemos, assim, definir os insumos, processos, quadro resumido do programa, a partir do qual
produtos, resultados e impactos de um programa de poderemos construir os indicadores:
prevenção. Observemos, desde já, como ele oferece um

INSUMOS PROCESSOS PRODUTOS RESULTADOS IMPACTOS

Equipe Capacitação Educadores Aumento no uso Diminuição da


técnica a técnica de capacitados de preservativos incidência de
cargo de educadores durantes as HIV
capacitações Oficinas relações sexuais
Realização de realizadas Diminuição da
Equipe oficinas de Aumento do taxa de
técnica a multiplicação Pessoas conhecimento transmissão
cargo de de informação alcançadas das formas vertical de
atividades de sobre pelas ações corretas de HIV
campo prevenção educativas prevenção a
HIV/AIDS Diminuição da
Preservativos Ações Preservativos
discriminação
educativas in distribuídos Aumento da e do estigma
Material de loco percepção
informação, Material de IEC
distribuído acerca da
educação e Distribuição de qualidade dos
comunicação preservativos serviços públicos
(IEC) no trabalho de de saúde
campo prestados
Distribuição de
material de IEC
durante o
trabalho de
campo

2) Identificar as etapas e dimensões que se frequentemente, lidamos com restrições e/ou focos
pretende avaliar distintos e escolhas são necessárias.

Consideradas as limitações de se monitorar todos os No nosso exemplo, pode ser que o foco seja o
aspectos relevantes de um programa, nessa etapa monitoramento cotidiano da execução do programa.
devemos nos perguntar qual o foco do monitoramento e Nesse caso, focaríamos nos indicadores de insumo,
a quem ele se dirige. Como ressaltamos anteriormente, o processo e produto, ou seja, em indicadores da
ideal é que sejam construídos indicadores que deem estrutura do programa, num quadro semelhante ao
conta de todas as etapas de um programa. Mas, abaixo:

INDICADORES INDICADORES INDICADORES


DE INSUMO DE PROCESSO DE PRODUTO
Número de integrantes das Percentual de educadores Número de educadores
equipes responsáveis pelas capacitados capacitados
capacitações
Percentual de oficinas de Número de oficinas
Número de integrantes das multiplicação realizadas realizadas
equipes responsáveis pelas
atividades de campo Percentual de ações Número de pessoas
educativas in loco realizadas alcançadas pelas ações
Número de preservativos educativas
disponíveis para distribuição Percentual de pessoas
atingidas pela ação Quantidade de
Quantidade de cartilhas educativa sobre o planejado preservativos distribuídos
informativas impressas
Percentual de preservativos Quantidade de cartilhas
distribuídos por semana distribuídas
Percentual de cartilhas
distribuídas por bimestre
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 21

Observemos, no exemplo, que os indicadores que Observemos ainda que os indicadores de produto
começamos a construir são formas de quantificar os medem a eficácia das entregas dos bens e serviços, mas
componentes do modelo lógico do nosso programa. não dizem nada acerca da efetividade do programa.
Conforme os objetivos da equipe do programa, podem Para esse fim, temos que pensar num outro conjunto de
ser selecionados alguns desses indicadores, ou definidos indicadores, que deem conta dos resultados e impactos
muitos outros. Por exemplo: caso seja importante focar do programa.
no custo de produção de cada componente do
Assim, se o foco do monitoramento for a estrutura de
programa, podemos especificar indicadores de
resultados do nosso modelo lógico, temos que pensar nos
eficiência voltados para esse ponto, tais como:
indicadores de resultado e impacto do programa. Junto
Número de pessoas atingidas pela ação educativa
§ com os indicadores de produto, esses são, tipicamente, os
/custo da ação indicadores que interessam no monitoramento do PPA.
Número de educadores capacitados / custo de Isso porque enquanto os anteriores são de caráter mais
§
realização da oficina operacional, os indicadores de resultado e impacto são mais
interessantes ao nível estratégico:

INDICADORES DE RESULTADO INDICADORES DE IMPACTO


Porcentagem da população que reporta ter usado Taxa de incidência de HIV
preservativos em sua última relação sexual
Taxa de transmissão vertical de HIV
Porcentagem da população com conhecimentos
corretos sobre os mecanismos de transmissão do HIV
Porcentagem de pessoas entrevistadas que reportam
ter recebido serviços de saúde de qualidade

É importante frisar que os indicadores não precisam 4) Estabelecer as referências para comparação
ser apresentados em quadros distintos. Poderíamos tê- dos resultados
los disposto em um mesmo quadro, como fizemos com a
estrutura do programa. Separamos aqui, apenas, para Seguindo o passo anterior, caberá a cada centro de
evidenciar que os indicadores atendem a propósitos responsabilidade, em conjunto com a unidade
diferentes, e em função das necessidades, pode ser responsável pelo monitoramento, estabelecer as
interessante focar em um ou mais etapas. referências para comparação dos resultados. A definição
das metas e da frequência de aferição dos indicadores
3) Estabelecer as responsabilidades organizacionais variará em função de suas especificidades.

A definição das responsabilidades pelo As referências para o estabelecimento de metas


monitoramento depende diretamente da abrangência e para os indicadores de insumo, processo e produto
complexidade das atividades do programa. No nosso podem ser baseadas em programas similares de
exemplo em questão, é sugerido que seja atribuído a sucesso, e sua frequência de aferição deve atender
uma pessoa ou a uma pequena equipe a tarefa de ao objetivo de ajudar na gestão do programa.
recompilar, organizar e reportar os dados sobre cada Vejamos os exemplos dos indicadores de processo
indicador. Essa pessoa terá que ficar em contato com as abaixo:
demais pessoas envolvidas no programa, que serão Percentual de pessoas atingidas pela ação educativa
§
responsáveis por um subconjunto de indicadores. sobre o planejado
Podemos, por exemplo, definir um centro de Nesse caso, a meta (o planejado) pode ser o número
responsabilidade para monitorar os indicadores de pessoas atingidas por um programa similar que já
relativos às capacitações e outro para monitorar os foi implementado. Dessa forma, conseguiremos
indicadores relativos ao trabalho de campo. A unidade monitorar não só o andamento do programa, mas
responsável pelo monitoramento será responsável por compará-lo a um outro programa já executado.
garantir o fluxo da informação e acompanhar os Percentual de preservativos distribuídos por semana
§
indicadores de resultado e impacto que, muitas vezes,
são produzidos externamente ao programa.
22 l CADERNO DE PLANEJAMENTO 3

Percentual de cartilhas distribuídas por bimestre


§ Já no caso dos indicadores de impacto, no nosso
No caso desses dois indicadores, a equipe do exemplo poderia ser que a meta se iguale ao valor médio
programa achou que a distribuição de preservativos do indicador para a região a que pertence um
deveria ter um acompanhamento mais frequente, determinado município onde o programa foi
com aferição semanal. A distribuição de cartilhas, ao implementado. Isso faria com que a meta fosse, por
contrário, será acompanhada bimestralmente. exemplo, reduzir em 17 % a Taxa de Incidência de HIV e em
A definição das metas dos indicadores de resultado e 29% a Taxa de Transmissão Vertical de HIV, três anos após
impacto também varia. Os indicadores de resultados a implementação do programa. Sempre lembrando que,
escolhidos no nosso exemplo dependem de um por serem indicadores de impacto, são indicadores
levantamento prévio do cenário em que estamos, e da sensíveis no médio/longo prazo, e outros fatores externos
definição de metas da onde queremos chegar: ao programa podem impactar positivamente ou
negativamente no atingimento das metas.
Porcentagem da população que reporta ter usado
§
preservativos em sua última relação sexual 5) Definir os atributos dos indicadores
Meta: Aumentar em 20% o valor encontrado no início
da implementação do programa Nesse momento, cada responsável pelos indicadores
deve definir os atributos mínimos dos indicadores:
Porcentagem da população com conhecimentos
§ denominação, fonte, fórmula de cálculo e unidade de
corretos sobre os mecanismos de transmissão do HIV
medida. Alguns serão de preenchimento simples, para
Meta: Aumentar em 30% o valor encontrado no início
outros – é o caso de indicadores compostos – será
da implementação do programa
necessário maior atenção na definição dos termos.
Porcentagem de pessoas entrevistadas que reportam
§ Fornecemos abaixo alguns exemplos de atributos dos
ter recebido serviços de saúde de qualidade indicadores do programa em questão:
Meta: Aumentar em 40% o valor encontrado no início
da implementação do programa

DENOMINAÇÃO FONTE FÓRMULA DE UNIDADE


CÁLCULO DE MEDIDA

1 Quantidade de cartilhas Registros Número de cartilhas Unidade


informativas impressas administrativos da impressas
equipe de comunicação

2 Percentual de pessoas Registros Número de pessoas atingidas %


atingidas pela ação administrativos da pela ação educativa
educativa sobre o equipe responsável
Número total planejado de
planejado pelas ações de campo
pessoas a serem atingidas

3 Razão entre o número Registros Número de educadores Pessoa/R$


de educadores administrativos da capacitados em uma oficina
capacitados e o custo de equipe de capacitação
Custo total de realização
realização da oficina
da oficina

4 Porcentagem da Pesquisa qualitativa a População que reporta ter %


população que reporta ter cargo da unidade de usado preservativo em sua
usado preservativos em monitoramento última relação sexual
sua última relação sexual
População entrevistada total

5 Taxa de incidência Ministério da Número de casos de Casos/100 mil


de HIV7 Saúde/CENEPI: AIDS confirmados
Sistema de Informação em residentes
x 100 mil
de Agravos Notificáveis
População total
(SINAN) e bases
residente
demográficas do IBGE
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 23

6) Recolher as informações necessárias checagem final acerca da validade dos indicadores


escolhidos. Como exercício, vamos nos centrar na
Como etapa diretamente ligada à anterior, fica
análise dos três indicadores de resultado escolhidos,
evidente que cada indicador é aferido segundo uma
que serão aferidos por meio de uma pesquisa qualitativa
metodologia específica. Se observarmos o campo
planejada pela equipe do programa:
“fonte” na tabela acima, vemos que os três primeiros
indicadores (não sem surpresa os indicadores de Porcentagem da população que reporta ter usado
§
insumo, processo e produtos) serão recolhidos preservativos em sua última relação sexual
internamente, nos registros administrativos das equipes Porcentagem da população com conhecimentos
§
responsáveis pela implantação do programa. A grande corretos sobre os mecanismos de transmissão do HIV
vantagem de contar com os registros administrativos é
Porcentagem de pessoas entrevistadas que reportam
§
o custo baixo ou inexistente de obtenção. A
ter recebido serviços de saúde de qualidade
desvantagem é que com eles apenas não temos ideia
dos resultados efetivos do programa. Focando nas propriedades essenciais, eles
certamente são indicadores úteis e válidos. Eles serão
O 4º indicador da tabela será aferido por meio de
tão confiáveis quanto for transparente a metodologia da
uma pesquisa qualitativa planejada pela equipe do
pesquisa qualitativa. Para tanto, deve se dar publicidade
programa, que deverá ser feita antes, em uma etapa
às perguntas do questionário e às respostas,
intermediária, e após a implantação do programa. A
resguardando-se o anonimato dos respondentes. A
grande vantagem é ter uma informação mais rica, que
disponibilidade será definida de acordo com a
dê conta dos resultados do programa, do atingimento
periodicidade de aplicação do questionário.
dos objetivos para os quais o programa foi formulado.
No entanto, é uma informação que possui um custo Observemos que a metodologia de obtenção desses
alto de obtenção, e isso deve ser considerado no indicadores colocam em xeque duas propriedades
planejamento orçamentário do programa. complementares: a viabilidade e a economicidade. Por
isso ressaltamos que os custos e o esforço de obtenção
O 5º indicador da tabela, um indicador de impacto,
dessas informações devem ser considerados desde o
possui uma fonte externa à equipe do programa. É
começo. Nesse caso, a equipe do programa refletiu e
extremamente importante acompanhar os dados
decidiu que a relevância da informação obtida supera os
oficiais de saúde, pois eles dão conta do retrato geral da
possíveis inconvenientes em sua obtenção.
situação e permitem comparar com outras localidades.
É, também, uma informação pública e de fácil Considerando o modelo lógico do programa, um
obtenção. No entanto, como se trata de um indicador de componente colocado na etapa dos impactos não foi
impacto, essa não pode ser a única forma de refletido no quadro de indicadores: Diminuição da
monitoramento: muitas vezes, fica-se sujeito à discriminação e do estigma. Vamos refletir por quê?
periodicidade de divulgação dos dados, que não Certamente, este é um componente essencial do
permitem alterações ao nível da gestão do programa. programa, um de seus objetivos centrais. No entanto,
seria impossível pensar num indicador como “taxa de
7) Validar os indicadores discriminação e do estigma”. Ele não atenderia a quase
nenhuma das propriedades e, se ele tivesse sido criado,
Se todos os passos anteriores tiverem sido seguidos
certamente seria descartado em nossa validação final.
com atenção, restará pouco trabalho na nossa
24 l CADERNO DE PLANEJAMENTO 3

CONSIDERAÇÕES FINAIS
Esse Guia pretende ser uma iniciação à temática dos qualquer “repulsa” que possa existir em relação a essa
indicadores, um manual do tipo “faça você mesmo” que temática. Convidamos os leitores a se aprofundarem no
ajude na construção de indicadores úteis para a gestão tema e na bibliografia utilizada no Guia, torcendo para
de programas governamentais. Esperamos que ele sirva que esse seja um primeiro e importante passo no uso de
não apenas como um estímulo ao uso de indicadores na indicadores de programas.
Administração Pública mas também para afastar

BIBLIOGRAFIA
BONNEFOY, J.C & ARMIJO, M. Indicadores de desempeño en el sector público / ILPES/CEPAL, Serie Manuales, nº 45 –
Santiago de Chile, 2005. 106p. Disponível em: http://www.eclac.cl/publicaciones/xml/2/23572/manual45.pdf
BRASIL. Ministério do Planejamento, Orçamento e Gestão. Secretaria de Orçamento Federal. Secretaria de
Planejamento e Investimentos Estratégicos. Indicadores: Guia Metodológico / Ministério do Planejamento, Orçamento
e Gestão. – Brasília: MP, 2010. 128 p. Disponível em: http://www.planejamento.gov.br/secretarias/upload/
Arquivos/spi/publicacoes/100324_indicadores_programas-guia_metodologico.pdf
BRASIL. Ministério do Planejamento, Orçamento e Gestão. Secretaria de Orçamento Federal. Secretaria de
Planejamento e Investimentos Estratégicos. Indicadores - Orientações Básicas Aplicadas à Gestão Pública / Ministério
do Planejamento, Orçamento e Gestão. Coordenação de Documentação e Informação – Brasília: MP, 2012. 64 p.
Disponível em: http://www.planejamento. gov.br/secretarias/upload/Arquivos/spi/PPA/2012/
121003_orient_indic_triangular.pdf
JANNUZZI, P.M. Indicadores Sociais na Formulação e Avaliação de Políticas Públicas. 2002. Disponível em:
http://www.cedeps.com.br/wp-content/uploads/2011/02/INDICADORES-SOCIAIS-JANUZZI.pdf
JANNUZZI, P. M., SILVA, M. R. F. M., SOUSA, M. A. F., e RESENDE, L. M. “Estruturação de sistemas de monitoramento e
especificação de pesquisas de avaliação, os problemas dos programas públicos no Brasil são” in Reflexões para Ibero-
América: Avaliação de Programas Sociais, ENAP, 2009, 168p.
MURRAY, L. e ROSSI, L. Guía de Monitoreo y Evaluacíon. Pact Brasil, 2007. Disponível em:
http://www.monitoreoyevaluacion.info/biblioteca/MVI_100.pdf
NEWCOMER, K. E., HATRY, H. P., and WHOLEY, J. S. “Planning and Designing Useful Evaluations” in Wholey, J. S., Hatry, H.
P., Newcomer, K. E., Handbook of Practical Program Evaluation, Jossey-Bass Publishers, 3rd ed., 2010, p. 5-29.
PRESKIL, H. S., and CATSAMBAS, T. T., Reframing Evaluation through Appreciative Inquiry. Sage, 2006.
RESOLUÇÃO SEPLAG Nº 894/2013. Disponível em: http://download.rj.gov.br/documentos/10112/ 1587843/DLFE-
61786.pdf/RES.SEPLAG894REGIMENTOINTERNOVERSAOFINAL.pdf
RUA, M. G. Avaliação de políticas, programas e projetos: notas introdutórias. 2010. Mimeografado. Disponível em:
http://jacksondetoni.files.wordpress.com/2014/05/texto-apoio-05-_-grac3a7as-rua.pdf
SCHEIRER, M. A. Expanding Evaluative Thinking: Evaluation through the Program Life Cycle, American Journal of
Evaluation, June 2012, 33, p. 263-277.
INDICADORES DE PROGRAMAS: POR QUE E COMO USAR? l 25

NOTAS
1 Instituído pelo Decreto 45.160, de 06 de Fevereiro de 2015.
2 A bibliografia sobre o tema de monitoramento, avaliação e indicadores é muito extensa. Esse guia não cobre,
certamente, todas as nuances desses assuntos. Recomendamos aos leitores que, interessados em aprofundar
em determinado aspecto, recorram à bibliografia mencionada ao longo desse guia. Sobre a temática de
indicadores, mais especificamente, as duas versões do Guia de Indicadores Federal (BRASIL 2010; 2012) são uma
boa fonte para se aprofundar. O foco consciente desse guia é apresentar uma proposta didática de fácil
compreensão e que possa ser aplicada imediatamente na gestão de programas governamentais.
3 Toda essa seção é diretamente inspirada pelos nove passos de BONNEFOY & ARMIJO (2005), com pequenas
alterações. O guia adapta os nove passos para a construção de indicadores de desempenho em instituições
públicas para sete passos para construção de indicadores de programas governamentais. Além das alterações de
escopo necessárias, foi reduzido o número de passos para focarmos exclusivamente na construção de
indicadores, deixando os momentos de monitoramento, avaliação e comunicação para etapas posteriores.
4 A RIPSA (Rede Interagencial de Informações para a Saúde), por exemplo, coloca outros atributos em sua ficha de
qualificação de indicadores, tais como interpretação (explicação sucinta do tipo de informação obtida e seu
significado), usos (principais finalidades de utilização dos dados, a serem consideradas na análise do indicador) e
limitações (fatores que restringem a interpretação do indicador, referentes tanto ao próprio conceito quanto às
fontes utilizadas). Entendemos que essas informações são de grande utilidade e podem ser agregadas sempre
que possível. Disponível em: http://www.ripsa.org.br/php/level.php?lang=pt&component=68&item=2.
5 Seguimos à risca as propriedades propostas pelo Guia Federal (BRASIL, 2012), optando apenas por não separar as
propriedades complementares em dois subconjuntos e denominar de viabilidade a propriedade antes chamada
de factibilidade.
6 Para esse exemplo, nos utilizamos o “Guia de Monitoramento e Avaliação” do Programa de Prevenção a
Enfermidades de Transmissão Sexual do Peru, implementado pela Pact com recursos da Agência dos Estados
Unidos para o Desenvolvimento Internacional (USAID/Peru). Utilizamos as informações disponíveis no Guia,
adaptando seu conteúdo à metodologia aqui proposta.
7 Para a elaboração do exemplo, utilizamos as informações disponíveis em http://tabnet.datasus.gov.br/cgi/
idb2000/fqd02_1.htm.
Avenida Erasmo Braga, 118
Centro • Rio de Janeiro • RJ

Você também pode gostar