Escolar Documentos
Profissional Documentos
Cultura Documentos
Este trabalho foi elaborado durante o curso The Theory and Operation of a Modern National Economy,
ministrado na George Washington University, no mbito do Programa Minerva, em 2006.
estudos
constituem-se
em
ferramenta
para
gestores,
formuladores
inclua estabilidade econmica, maior equidade, alocao mais efetiva dos recursos
pblicos e crescimento econmico sustentvel.
No Brasil, ainda podem ser citadas outras razes para a demanda por avaliaes.
Em primeiro lugar, a crise fiscal brasileira diminuiu a capacidade de gasto dos governos e
aumentou a presso por maior eficincia. Nesta questo, o fim do processo inflacionrio
teve importante papel, pois acabou com as receitas financeiras dos governos e exps os
problemas das finanas pblicas. Em segundo, o aprofundamento da democracia trouxe
novos atores sociais e reivindicaes aos governos. Em terceiro, a longa crise econmica
brasileira aumentou a desigualdade social e a busca pelos programas sociais do governo.
Por ltimo, pode ser citada a desestruturao da funo de planejamento, que deixou os
governantes sem elementos de informao e avaliao (Garcia, 1997).
Segundo Silva (1999), o motivo mais imediato do interesse pela avaliao de
atividades de governo seria a preocupao com a efetividade, isto , com a aferio dos
resultados esperados e no-esperados alcanados pela implementao dos programas. O
segundo motivo seria o de entender o processo pelo qual os programas alcanaram ou no
esses resultados, analisando a dinmica da interveno estatal e os problemas concretos
advindos da implementao. Outros motivos relevantes seriam a aprendizagem
organizacional das instituies pblicas sobre suas atividades, a tomada de deciso sobre
a continuidade ou no dos programas e, ainda, a transparncia, qualidade e accountability
na gesto dos recursos pblicos (responsabilizao dos gestores por decises e aes
implementadas).
Assim, as questes imediatas e centrais a serem respondidas pelos estudos de
avaliao seriam: Em que medida os objetivos propostos na formulao do programa so
ou foram alcanados na implementao? Como o programa funciona e quais os motivos
que levam ou levaram a atingir ou no os resultados? (Silva, 1999, p.38 e Silva, 2002,
p.15) A partir dessas questes gerais, os estudos podem responder tpicos mais
especficos, relacionados s informaes para o processo decisrio e aprendizagem
organizacional.
A partir de diferentes motivaes para avaliar, so definidos diferentes estudos
avaliativos entre vrias possibilidades e conceitos, abordados a seguir.
2- Principais Conceitos
2.1- Definio de Avaliao
A definio do que seja avaliao parece ser quase consensual. De acordo com a
UNICEF (1990), por exemplo, trata-se do exame sistemtico e objetivo de um projeto ou
programa, finalizado ou em curso, que contemple o seu desempenho, implementao e
resultados, com vistas determinao de sua eficincia, efetividade, impacto,
sustentabilidade e a relevncia de seus objetivos. O propsito da avaliao guiar os
tomadores de deciso, orientando-os quanto continuidade, necessidade de correes ou
mesmo suspenso de uma determinada poltica ou programa. (Costa e Castanhar, 2003,
p.972).
De acordo com o Government Accountability Office (GAO), dos Estados Unidos,
avaliaes de programas so estudos sistemticos, conduzidos periodicamente ou ad hoc,
para analisar quo bem um programa est funcionando. As avaliaes podem ser
conduzidas por especialistas externos ou por gerentes de programas. Para o GAO, elas
examinam a performance dos programas quanto ao alcance de seus objetivos e o contexto
em que isto ocorre.
A Organizao para a Cooperao e o Desenvolvimento Econmico (OCDE), em
seu Glossrio de Termos em Avaliao e Gesto por Desempenho, utiliza as mesmas
idias-chave para a definio de avaliao, adicionando que a mesma deve prover
informaes com crdito e utilidade, permitindo o aprendizado no processo de tomada de
decises. O Glossrio da OCDE ressalta, tambm, que a avaliao constitui-se na
determinao de valor ou significncia de uma atividade, poltica ou programa. um
julgamento, to sistemtico e objetivo quanto possvel, a respeito das intervenes
governamentais.
Entretanto, autores como Ala-Harja e Helgason chamam a ateno para o fato de
que no h um acordo sobre o que avaliao, em funo de que o conceito definido de
mltiplas, e s vezes contraditrias, maneiras, e por uma variedade de disciplinas, tais
como economia, poltica, administrao e sociologia. Alm disso, a avaliao serve a
uma ampla gama de necessidades, discusses, clientes, instituies e praticantes. Como a
Poltica Silva (2002, p. 18) define a fase de formulao de polticas como sendo
o estgio onde as propostas ganham forma e estatuto, recebendo tratamentos
formais mnimos, ao serem definidos metas, objetivos e recursos. As polticas
transformam-se
em
programas
quando
explicitada
estratgia
de
acesso aos dados necessrios torna-se mais difcil e os que vo ter seu trabalho avaliado
podem se colocar em posio defensiva, fornecendo informaes parciais e minimizando
o efeito de melhoria dos programas. Alega-se, tambm, que o conhecimento da
metodologia de avaliao pode no substituir o conhecimento sobre as especificidades do
programa, e que no existe uma nica metodologia aplicvel a todos os casos.
Avaliao interna realizada dentro da instituio responsvel, com maior
colaborao das pessoas que participam do programa. Citam-se como vantagens a
eliminao da resistncia natural a um avaliador externo, a possibilidade de reflexo e
aprendizagem e compreenso sobre a atividade realizada dentro da instituio. Mas podese perder muito em objetividade, j que os que julgam esto, tambm, envolvidos, tendo
formulado e executado o programa. Se a avaliao for realizada internamente
instituio, mas por pessoas que no participam do programa, na tentativa de diminuir a
subjetividade, a situao torna-se anloga do avaliador externo.
Avaliao mista procura combinar os tipos de avaliao anteriores, fazendo com
que os avaliadores externos tenham contato estreito com os participantes do programa a
ser avaliado, na tentativa de manter as vantagens e superar as desvantagens das
avaliaes apresentadas acima.
Avaliao participativa usada principalmente para pequenos projetos, prev a
participao dos beneficirios das aes no planejamento, na programao, execuo e
avaliao dos mesmos.
Quanto natureza, as avaliaes podem ser:
Avaliaes formativas esto relacionadas formao do programa. Adotadas
durante a implementao, so voltadas para a anlise e produo de informao sobre as
etapas de implementao. Geram informaes para os que esto diretamente envolvidos
com o programa, com o objetivo de fornecer elementos para a realizao de correes de
procedimentos para melhorar o programa.
Avaliaes somativas esto relacionadas anlise e produo de informaes
sobre etapas posteriores. So realizadas quando o programa est sendo implementado h
algum tempo ou aps a sua implementao, para verificar a sua efetividade e fazer o
julgamento do seu valor geral.
10
11
ou
acompanhamento.
Pois,
enquanto
acompanhamento
ou
12
Quadro 1
DIFERENA ENTRE AVALIAO E OUTROS MECANISMOS DE FEEDBACK
Estudos cientficos
Auditoria tradicional
Monitoramento
Mensurao de desempenho
forma de avaliao).
Anlise das polticas
As avaliaes esto centradas na anlise ex-post. Essa
anlise das polticas s vezes definida como uma
avaliao prvia, para o estudo de polticas possveis
no futuro.
Fonte: Ala-Harja e Helgason, 2000, p.9.
14
Na sua primeira fase, nos anos 60 e 70, o processo de avaliao esteve ligado ao
planejamento e programao em pases europeus como Sucia e Alemanha. Nos anos 80,
a avaliao passou a se ocupar das questes de resultado e distribuio de recursos
oramentrios, no Reino Unido, Pases Baixos, Noruega e Sucia, ficando a questo do
impacto para um segundo plano. Neste perodo, a avaliao passou a ser um assunto de
interesse tambm do Parlamento. As nuanas da avaliao variaram em cada pas
segundo a obrigao legal do Executivo informar ao Legislativo, a independncia ou
autonomia dos avaliadores, bem como o grau de centralizao ou regionalizao dos
governos (Derlien, 2001).
Na Sucia, as primeiras avaliaes foram realizadas na dcada de 50 por
comisses encarregadas da formulao de polticas e tomada de decises. A partir da
dcada de 60, rgos de pesquisa e outras agncias foram fundados tendo a avaliao
como atividade principal. Nos anos 80, as atividades avaliativas foram sistematizadas e
ligadas mais firmemente ao processo oramentrio. Um dos objetivos era fazer das
avaliaes prvias ad hoc um componente formal para a tomada de decises. Os rgos
pblicos deveriam apresentar um relatrio anual com os resultados e realizar revises
aprofundadas a cada trs anos. Atualmente, revises aprofundadas s so conduzidas
mediante solicitao formal dos ministrios. Os rgos so solicitados a avaliar e
apresentar um relatrio de desempenho e resultados, que so utilizados principalmente
para ajustes de polticas.
Nos Pases Baixos o governo estabeleceu, no incio da dcada de 90, que as
avaliaes seriam feitas em nvel ministerial, e seriam externas, internas, ex-ante, em
nvel intermedirio e ex-post. O Ministrio da Fazenda e as diretorias oramentrias
tornaram-se responsveis pelas orientaes e pela coordenao das avaliaes, bem como
15
16
pblico britnico tradicional passou por uma transformao profunda, perdeu os traos
burocrticos e adquiriu caractersticas gerenciais.
A reforma da administrao pblica na Gr-Bretanha teve trs dimenses
principais: primeiramente, o poder do servio pblico civil foi diminudo para fazer o
aparato de estado responder mais prontamente s decises polticas; em segundo, prticas
de gerncia do setor privado foram introduzidas, para promover a economia e a eficincia
no governo; e, em terceiro, os cidados tiveram a sua liberdade de escolha aumentada
quanto entrega de servios pblicos, contrapondo-se ao controle e dominao do estado
sobre os projetos pblicos. O foco na segunda dimenso trouxe as maiores mudanas no
projeto organizacional e na prtica gerencial, tendo por resultado o que veio a ser
chamado de Nova Administrao Pblica ou Administrao Pblica Gerencial.
A nova administrao pblica advoga a aplicao de princpios e instrumentos
gerenciais clssicos (de Taylor e Fayol) na organizao pblica,. Por exemplo, a distino
clara entre a poltica e a administrao, tendo por resultado uma separao prtica e fsica
entre o processo poltico de tomada de deciso (realizado pelos Gabinetes, Ministrios e
Parlamento) e a execuo administrativa destas decises (concentradas nas agncias,
colocadas em uma determinada distncia dos Ministrios) (Mierlo, 1996). Mas os
esforos para melhorar tanto o controle externo quanto o interno da burocracia pela
poltica, tiveram um resultado de menor sucesso e muito distante do esperado pelas
modernas teorias da administrao pblica, segundo Mierlo (1996).
A abordagem de Thatcher foi rapidamente adotada, nos anos 80, por outros
governos ocidentais que identificaram prioridades similares: a reduo da despesa
pblica, do dficit, a reverso do srio declnio na confiana do pblico no governo, e a
necessidade em modernizar e dinamizar a gerncia do servio pblico na nova era da
competio global. As mudanas na administrao pblica resultaram no deslocamento
do seu modelo burocrtico tradicional, clssico (hierarquia, controle, cautela e base em
regras fixadas) a um modelo ps-burocrtico de organizao, envolvendo a inovao, a
flexibilidade, menos controle central, empowerment, competio, aprendizagem contnua,
qualidade de servios e orientao para resultados.
Assim, uma nova forma de gerncia pblica tem evoludo nas ltimas duas
dcadas. A nfase na flexibilidade foi aumentada, a responsabilidade realada. O
17
gerenciamento dos recursos e dos programas requer que os servidores pblicos, gerentes
e equipe de funcionrios, estejam preparados para demonstrar as habilidades bsicas de
risco, de inovao, e de planejamento criativo.
Estas transformaes do setor pblico foram adotadas mais entusiasticamente por
alguns do que por outros. Encontram-se tentativas de reforma com graus variados de
sucesso. Pases tais como o Reino Unido, Austrlia, Nova Zelndia, Canad e os Estados
Unidos, tm se esforado para revitalizar, modernizar e at reinventar seus servios
pblicos.
18
19
20
21
22
23
de dados para a fixao das metas quantitativas e para a avaliao de seu alcance.
Toledo Silva destaca tambm que o National Partnership for Reinventing
Government, com sua nfase na avaliao de satisfao dos usurios, acaba por
desconsiderar o alcance mais amplo das polticas e aes governamentais, atendo-se ao
resultado imediato do programa. O foco da NPR na satisfao dos usurios importante
para a legitimao da reforma junto ao pblico. No entanto, esta no pode ser vista como
substituta dos indicadores de eficcia social da poltica pblica, pois nem sempre o
objetivo principal desta restrito ao universo de usurios diretos (Toledo Silva, 2000,
p.113).
Observa-se assim que, apesar dos esforos, a produo de informaes teis e
utilizveis para fins de reviso e correo de rumos dos programas governamentais
continua um desafio aberto, em que pesem os esforos sucessivos de aprimoramento dos
sistemas de controle, acompanhamento e avaliao.
24
alto na rea social, porm com baixa eficincia e efetividade nos seus programas sociais.
No Chile, a partir do processo de democratizao, a funo avaliao recobrou
importncia, juntamente com o objetivo de modernizar a gesto pblica. Embora no Chile
no haja um sistema nico de avaliao governamental, a tarefa est institucionalmente
atribuda aos Ministrios do Planejamento, da Fazenda e Secretaria Geral da
Presidncia da Repblica, que atuam articuladas no Programa de Avaliao de Projetos
Governamentais (PAPG), originado em 1997 em funo de demandas do Congresso.
A Colmbia implantou o Sistema Nacional de Avaliao da Gesto e Resultados
(SINERGIA), em 1991, como instrumento de acompanhamento e avaliao dos planos
nacionais de desenvolvimento. Porm, as circunstncias polticas do Pas tornaram os
pilares de sistema de mensurao uma atividade burocrtica.
No Brasil, a Constituio Federal de 1988 estabeleceu que o Executivo deve
submeter aprovao do Legislativo um Plano Plurianual (PPA), abrangendo quatro anos
e contendo as diretrizes, os objetivos e as metas da administrao pblica federal para as
despesas de capital e para os programas de longa durao. Alm do PPA, a Constituio
estabeleceu que fossem institudos as Leis de Diretrizes Oramentrias (LDO) e o
Oramento Geral da Unio (OGU) como componentes de um sistema integrado de
planejamento e oramento. Todos os demais planos e programas nacionais, regionais e
setoriais tambm devem ser subordinados ao PPA. O perodo de vigncia do plano
encontra-se deslocado em relao ao mandato presidencial, de forma que no primeiro ano
de governo o Presidente da Repblica executa as aes previstas no mandato anterior e
elabora o plano para os prximos quatro anos.
No entanto, nos primeiros anos aps a Constituio, a inflao acelerada tornava
invivel o planejamento de mdio e longo prazos. O primeiro PPA (1991 a 1995) no
teve o carter de um plano, mas sim de consolidao de oramentos, seguindo os moldes
da legislao anterior. O segundo PPA (1996 a 1999) teve como marco principal a
implementao do Programa Brasil em Ao.
De acordo com Silva e Costa (2002), a poltica definida pelo governo federal para
o PPA 1996-1999 foi a tentativa mais abrangente de ao de poltica pblica para a
viabilizao de objetivos estratgicos de modernizao do Estado, reduo de
desequilbrios espaciais e sociais e insero competitiva do pas( p.38). A lei que
25
26
ministrios; (2) integrar o Plano com o Oramento Geral da Unio; (3) organizar todas as
aes governamentais em programas, que passaram a ser a unidade de gesto; (4)
estruturar os programas com objetivos, pblico-alvo, valores, prazos, metas fsicas e
indicadores definidos, com vistas ao acompanhamento e avaliao; (5) adotar um modelo
de gerenciamento moderno, visando a obteno de resultados; (6) designar um gerente
para cada programa; (7) propor a avaliao anual dos resultados alcanados por cada
programa.
A lei que estipulou o Avana Brasil disps que a avaliao anual da execuo
do PPA deve estar disponvel para fundamentar as eventuais revises do Plano, a Lei de
Diretrizes Oramentrias e o Oramento anual. As revises do Plano so feitas atravs da
LDO, que encaminhada ao Congresso no ms de abril, tornando bastante exguo o
prazo para a avaliao. Segundo a legislao, o relatrio anual de avaliao deve conter:
(1) avaliao do desempenho das variveis macroeconmicas que fundamentaram a
elaborao do Plano; (2) demonstrativo da execuo fsica, financeira e regionalizada dos
programas; (3) demonstrativo do desempenho dos indicadores de cada programa; (4)
avaliao do alcance das metas fsicas e financeiras e da evoluo dos indicadores de
cada programa (Lei 9.989/2000).
No entanto, as premissas da avaliao permaneceram genricas e imprecisas at o
incio da implementao do PPA, quando foram tomadas as primeiras decises sobre a
sistemtica a ser utilizada. Alm disso, o prazo para a reestruturao dos rgos de
planejamento nos ministrios e para a elaborao dos programas foi insuficiente para o
porte da mudana proposta. As falhas nas etapas anteriores a de avaliao culminaram em
problemas nos enunciados dos objetivos e indicadores dos programas e na inconsistncia
de seus outros elementos, como metas e recursos (Toledo Silva, 2002).
Aliaram-se a estes fatos a dimenso do trabalho, visto que haviam cerca de 350
gerentes para um universo de 380 programas do Plano. Enfim, a forma do processo de
avaliao a ser desenvolvido ficou definida em trs etapas:
27
28
SIGPLAN
foi
implantado
para
apoiar
planejamento,
execuo,
29
30
31
32
33
34
35
regionais; (3) promoo da incluso social; e (4) modernizao da gesto e dos servios
pblicos.
A inteno expressa nas instrues para elaborao do PPA foi a de que cada
programa fosse concebido para atacar problemas da sociedade. No entanto, os programas
j estavam praticamente concebidos por cada rgo quando, ento, se procurou uma
justificativa para sua existncia. Desta forma, em muitos programas as aes refletem
mais a estrutura administrativa dos rgos do que as relaes de causalidade e as vrias
frentes de ao necessrias para a resoluo de um problema. Outra dificuldade relativa
ao desenho foi a indefinio de indicadores, sua no apurao e sua inadequao em
relao aos objetivos do programa. Muitas vezes as metas foram transformadas em
indicadores e vice-versa.
Os coordenadores de programa, que foram uma adaptao da funo de gerente
de programa do governo federal, igualmente no tm responsabilizao pelos resultados e
nem autonomia administrativa. No caso do Estado, boa parte dos coordenadores so
tcnicos designados para preencher as informaes no SIGPLANRS, e no
coordenadores de programa propriamente ditos. Esse fato acarreta em atrasos na
atualizao do SIGPLANRS, j que estes coordenadores no detm informaes sobre os
programas, tendo que busc-las em instncias superiores. No Rio Grande do Sul
realizado o monitoramento de algumas aes prioritrias, com recorte diferente dos
programas do PPA e por outro sistema informatizado, sem integrao com o
SIGPLANRS at o momento.
Inicialmente houve resistncia dos rgos na integrao do PPA com o
oramento, j que a vinculao entre aes dos programas do Plano e os projetos ou
atividades do oramento anual tornam necessrio um planejamento que no usualmente
praticado pelos rgos pblicos estaduais. H dificuldade na alocao de custos e
conseqente predomnio na alocao de custos em despesas administrativas gerais.
A primeira reviso do Plano foi realizada para proceder a correo de alguns erros
tcnicos contidos na verso inicial do PPA, bem como para buscar uma maior vinculao
com os projetos e atividades do oramento. A reviso parte integrante do ciclo gerencial
do PPA. No entanto, seja pela novidade, seja pela incompreenso, a primeira reviso do
plano provocou muitas crticas e uso poltico por parte do Legislativo do Estado.
36
37
Consideraes Finais
O interesse do governo na avaliao dos programas e das polticas pblicas est
relacionado preocupao com a eficcia, a eficincia, a efetividade e a accountability de
suas aes. Os estudos de avaliaes podem fornecer aos gerentes e administradores
pblicos respostas sobre a qualidade de seu trabalho, bem como a possibilidade de
mostrar os resultados de seu trabalho sociedade e ao Legislativo.
De acordo com a anlise de experincias estrangeiras, os principais interesses das
atuais avaliaes so os resultados, a alocao oramentria racional e a reorganizao
dos programas de modo a alcanar os objetivos de planejamento. Estas so as respostas
que as avaliaes podem oferecer como subsdio ao processo de tomada de decises,
durante a execuo dos programas e das polticas.
As iniciativas do Governo Federal brasileiro, quanto ao processo da avaliao de
programas, seguem as tendncias internacionais, visando s presses sociais para a
melhoria da qualidade na proviso dos servios pblicos e s demandas para reduo das
despesas pblicas. A aplicao sistemtica da avaliao de programas uma prtica nova
na administrao pblica brasileira, tanto federal como estadual, especialmente com a
abrangncia de todos os programas do Plano Plurianual.
O tipo de avaliao adotado pelo governo federal brasileiro e pelo Estado do Rio
Grande do Sul pode ser caracterizado como uma avaliao intermediria, de natureza
formativa, conduzida, em sua maior parte, dentro das instituies responsveis pelos
programas. Este tipo de avaliao visa auxiliar e advertir aos planejadores e aos gerentes
e seus colaboradores sobre problemas e necessidades de melhoria do programa.
38
39
Referncias Bibliogrficas:
Ala-Harja, Marjukka; Helgason, Sigurdur. Em Direo s Melhores Prticas de Avaliao.
Braslia, Revista do Servio Pblico, ano 51, n. 4, out./dez., 2000.
Barbosa, Frederico; Garcia, Ronaldo C. A Propsito da Avaliao do PPA: lies da primeira
tentativa. Braslia, IPEA, Boletim de Polticas Sociais: acompanhamento e anlise, n. 3, ago.,
2001.
Bozzi, Sonia O. Evaluacin de la Gestion Pblica: conceptos y aplicaciones em el caso
latinoamericano. Braslia, Revista do Servio Pblico, ano 52, n.1, jan./mar., 2001.
Brasil. Ministrio do Planejamento, Oramento e Gesto. Relatrio de Avaliao Plano
Plurianual 2000-2003 Exerccios 2000 a 2003. http://www.planejamento.gov.br/
planejamento_investimento/conteudo/relatorio_ppa/index_relatorio_ppa.htm.
Brasil. Ministrio do Planejamento, Oramento e Gesto. Relatrio de Avaliao Plano
Plurianual
2004-2007
Exerccio
2004.
http://www.planejamento.gov.br/
planejamento_investimento/conteudo/relatorio_ppa/index_relatorio_ppa.htm.
Bresser Pereira, Luiz C. A Administrao Pblica Gerencial: estratgia e estrutura para um novo
Estado. Braslia, ENAP, 1996 (Texto para Discusso).
Calmon, Katya M. N.; Gusso, Divonzir A. A Experincia de Avaliao do Plano Plurianual
(PPA) do Governo Federal no Brasil. Braslia, Planejamento e Polticas Pblicas, n. 25,
jun./dez., 2002.
Cavalcanti, Bianor S.; Otero, Roberto B. Novos Padres Gerenciais no Setor Pblico: medidas do
governo americano. Braslia, ENAP, 1997 (Texto para Discusso).
Cohen, Ernesto; Franco, Rolando. Avaliao de Projetos Sociais. Petrpolis, Vozes, 2004.
Costa, Frederico L.; Castanhar, Jos C. Avaliao de Programas Pblicos: desafios conceituais e
metodolgicos. Rio de Janeiro, Revista de Administrao Pblica, 37 (5), set./out., 2003.
Cotta, Tereza C. Metodologias de Avaliao de Programas e Projetos Sociais: anlise de
resultados e de impacto. Braslia, Revista do Servio Pblico, ano 49, n. 2, abr./jun., 1998.
Derlien, Hans-Ulrich. Uma Comparacin Internacional em la Evaluacin de ls Polticas
Pblicas. Braslia, Revista do Servio Pblico, ano 52, n.1, jan./mar., 2001.
European Commission. Evaluating EU Expenditures Programmes: A Guide to Ex Post and
Intermediate Evaluation. Luxembourg. January, 1997.
Fitz-Gibbon, Carol T.,; Morris, Lyn L. How to Design a Program Evaluation? Beverly Hills, Sage
Publications, 1978.
Garcia, Ronaldo C. Avaliao de Aes Governamentais: pontos para um comeo de conversa.
Braslia, IPEA/CENDEC, out., 1997.
Garcia, Ronaldo C. A Reorganizao do Processo de Planejamento do Governo Federal: o PPA
200-2003. Braslia, IPEA, maio, 2000 (Texto para Discusso n.726).
Garcia, Ronaldo C. Subsdios para Organizar Avaliaes da Ao Governamental. Braslia,
IPEA, jan., 2001 (Texto para Discusso n.776).
Gartenkraut, Michal. Brasil: uma anlise do Plano Plurianual PPA 2000/2003. Relatrio
Tcnico. Cooperao Tcnica BID-IPEA. Braslia, IPEA, 2002.
40
Hatry, Harry P. Where the Rubber Meets the Road: Performance Measurement for State and
Local Public Agencies. In: Newcomer, K. (ed.) Using Performance Measurements to
Improve Public and Nonprofit Programs. San Francisco, Jossey-Bass, 1997.
Jannuzzi, Paulo de M. Indicadores Sociais no Brasil: conceitos, fontes de dados e aplicaes.
Campinas, Editora Alnea, 2. ed., 2003.
Kettl, Donald F. The Global Public Management Revolution: a report on the transformation of
governance. Washington D.C., Brookings Institute, 2000.
Lynn Jr., Laurence. Requiring Bureaucracies to Perform: what have we learned from the US
Government Performance and Results Act (GPRA)? The University of Chicago, 1998.
http://harrisschool.uchicago.edu/About/publications/working-papers/pdf/wp-lynn.pdf.
Mierlo, J.G.A. The Experience of OECD Countries with Public Management Reform and its
Relevance to Central and Eastern Europe. The University of Maastricht, 1996.
http://ideas.repec.org/p/dgr/umamet/199621.
Mokate, Karen M.. Convirtiendo el Monstruoen Aliado: la evaluacin como herramienta de la
gerencia social. Braslia, Revista do Servio Pblico, ano 53, n. 1, jan./mar., 2002.
Newcomer, Kathryn. Using Performance Measurement to Improve Programs. In: Newcomer, K.
(ed.) Using Performance Measurements to Improve Public and Nonprofit Programs. San
Francisco, Jossey-Bass, 1997.
Rio Grande do Sul. Secretaria da Coordenao e Planejamento. PPA 2004-2007. Relatrio Anual
de Avaliao. Exerccio 2004.
Silva, Pedro L. B. (coord.) Modelo de Avaliao de Programas Sociais Prioritrios: relatrio
final. Programa de Apoio Gesto Social no Brasil. Campinas, NEPP-UNICAMP, 1999.
Silva, Pedro L. B.; Costa, Nilson R. A Avaliao de Programas Pblico: reflexes sobre a
experincia brasileira. Relatrio Tcnico. Cooperao Tcnica BID-IPEA. Braslia, IPEA,
2002.
Silva, Pedro L. B.; Melo, Marcus A. B. O Processo de Implementao de Polticas Pblicas no
Brasil: caractersticas e determinantes da avaliao e programas e projetos. Campinas, NEPPUNICAMP, 2000.
Toledo Silva, Ricardo. Eficincia e Eficcia da Ao Governamental: uma anlise comparativa de
sistemas de avaliao. Relatrio Tcnico. Cooperao Tcnica BID-IPEA. Braslia, IPEA,
2002.
United States. General Accounting Office (GAO). The results act. An evaluators guide to
assessing agency annual performance plans. GAO/GGD-10.1.20, 1998.
41