Escolar Documentos
Profissional Documentos
Cultura Documentos
net/publication/279639634
CITATIONS READS
19 220
1 author:
SEE PROFILE
Some of the authors of this publication are also working on these related projects:
They belong to a permantent investigation about qualitative approach in health, I have since 1993. View project
All content following this page was uploaded by Maria Cecília de Souza Minayo on 11 August 2015.
RESUMO - Neste texto promove-se uma discussão sobre “avaliação qualitativa” de projetos e programas sociais e de saúde e suas várias formas
de abordagem, mas sem separar essa atividade técnica, acadêmica e social do contexto das investigações avaliativas. Por isso, o artigo dá ênfase
à questão histórica da prática de avaliar; aos conceitos principais de avaliação; às tipologias; às fases e a seu sentido social, pragmático e ético.
Do ponto de vista da avaliação qualitativa se discutem as bases teóricas, as modalidades e as questões de validade, especificamente levando-se
em conta a triangulação de perspectivas e a inclusão de todos os atores no processo. Aprofunda-se a proposta do chamado RAP (Rapid
Assessment to Projects). A conclusão do texto leva a considerar a importância de incluir os diversos atores com suas crenças e expectativas no
processo avaliativo para que ele se constitua num ato de aprendizagem para todos os envolvidos.
Palavras-chave: Avaliação em saúde; avaliação de programas sociais; avaliação; avaliação qualitativa; pesquisa avaliativa.
ABSTRACT - This text promotes a discussion on the "qualitative evaluation" of social and health and social programs and projects and their
various approaches, but without separating this technical, academic and social activity from the context of the evaluative research.
This article emphasizes the historical questions of the practice of assessment, the main concepts of evaluation, the types, the stages and
its social, pragmatic and ethical sense. From the standpoint of qualitative assessment, the theoretical foundations, the modalities and the issues
of validity are discussed, specifically considering the triangulation of perspectives and the inclusion of all stakeholders in the process.
The proposal called the RAP (Rapid Assessment to Projects) goes deeper. The conclusion of the text leads to the consideration of the
importance of including diverse actors, with their own beliefs and expectations, in the evaluation process so that it becomes
an act of learning for all involved..
Keywords: Evaluation in health; evaluation of social programs, qualitative evaluation, evaluative research
1. INTRODUÇÃO
A prática avaliativa tem sido introduzida em
O hábito de avaliar instituições, programas e projetos
diferentes ambientes e de várias formas, ora como
com métodos e técnicas científicas é relativamente
uma ação externa que analisa determinada
recente no mundo e no Brasil. Tornou-se freqüente
intervenção ou problema, ora como etapa do
após a Segunda Guerra Mundial nos países centrais
planejamento e da gestão das instituições, de
do capitalismo, acompanhando os maciços
programas e projetos e no seu sentido mais nobre,
investimentos em políticas públicas de bem estar
acompanhando concomitantemente as ações
social.
voltadas a mudanças desde o seu primeiro desenho.
É com essa inserção na realidade que a 3
Segundo Scriven , a avaliação deve ser
avaliação passou, nos últimos 60 anos, a fazer parte
considerada, na atualidade, não apenas como uma
da pauta de investimentos teóricos e práticos, ao lado
técnica, mas como uma “transdisciplina”, ou seja, um
das metodologias e modelos de pesquisas sociais,
campo de estudo próprio que ao mesmo tempo
visando à maior eficiência na aplicação de recursos e
oferece instrumentos de reflexão para outras áreas
à efetividade nas ações institucionais, sociais e
1,2.
econômicas Autor correspondente
Maria Cecília de Souza Minayo
Pesquisadora titular da Fundação Oswaldo Cruz
Centro Latino Americano de Estudos sobre Violência e Saúde Jorge Careli
Av. Brasil, 4036 sala 700 - Manguinhos
CEP:21040-361 Rio de Janeiro-RJ
Tel.: (21) 2290.4893 - Fax: (21) 3882.9151
cecília@claves.fiocruz.br
Artigo encaminhado 17/02/2011
Aceito para publicação em 28/04/2011
Sau. & Transf. Soc., ISSN 2178-7085, Florianópolis, v.1, n.3, p.02-11, 2011.
3
Sau. & Transf. Soc., ISSN 2178-7085, Florianópolis, v.1, n.3, p.02-11, 2011.
4
de determinados parâmetros que já estão hoje Do ponto de vista técnico, é preciso que a
11
universalmente consolidados cientificamente . organização de uma avaliação leve em conta o
desenvolvimento teórico já consolidado
Do ponto de vista da sua utilidade prática,
universalmente nessa área, para que todo o
uma boa avaliação visa a reduzir incertezas, a
instrumental utilizado seja qualitativamente
melhorar a efetividade das ações e a propiciar a
adequado aos objetivos propostos.
tomada de decisões relevantes por meio de lições
1,12,13
aprendidas no processo . Uma avaliação deve Do ponto de vista ético, a avaliação de
permitir identificar pontos fracos e fortes e destacar o intervenções e de investimentos se dirige para
que é mais produtivo visando a: (1) oferecer mudanças que precisam ser construídas no chão da
respostas aos beneficiários, à instituição, à sociedade realidade social: a população brasileira anseia por
e ao governo – atendendo ao ator social que a diminuir as desigualdades e ver erradicados o
encomendou - sobre o uso dos recursos empregados; mandonismo e o autoritarismo político, institucional e
(2) orientar os investidores sobre as melhores acadêmico. A competente análise de um projeto,
aplicações de seus recursos visando ao programa ou conjunto de programas deve tornar
desenvolvimento de pessoas, instituições e setores; mais evidente para as instituições e a sociedade a
(3) responder aos interesses das instituições, de seus aplicação de seus recursos, evitando ou denunciando
gestores e de seus técnicos; (4) buscar sempre uma desperdícios. Essa orientação é tanto mais eficaz
1
melhor adequação das estratégias e das práticas . quanto mais o conceito e a prática avaliativa forem
Quanto a sua utilidade, uma avaliação costuma ser cientificamente compreensivos e fundamentados e
enquadrada em três tipos: a diagnóstica, que passarem a fazer parte do cotidiano das instituições.
proporciona informações acerca da situação; a
formativa que visa a socializar o entendimento dos
problemas existentes para possíveis soluções; e a 2. CONCEITOS QUE FUNDAMENTAM AVALIAÇÕES
somativa cujo propósito é oferecer uma visão geral QUALITATIVAS E QUANTITATIVAS
do processo de intervenção ou de solução de um
Tipologias de avaliação - O desenvolvimento do
problema, considerando as etapas em seu conjunto.
campo da avaliação trouxe o aprimoramento de
Essa última é uma modalidade bastante utilizada na
alguns termos próprios que devem fazer parte das
área de educação.
abordagens quantitativas ou qualitativas. São eles:
É importante enaltecer tanto o sentido como eficiência, eficácia, efetividade e, mais
a orientação prática social, pois, como lembra Penna contemporaneamente, sustentabilidade. Esses
11
Firme , nem toda avaliação é produtiva: “avaliar termos permeiam a linguagem de todas as estratégias
pode ser um empreendimento de sucesso, mas e instrumentos de avaliação.
também de fracasso; pode conduzir a resultados
O conceito de eficiência é oriundo da noção
significativos ou a respostas sem sentido; pode
11:p.1 de otimização dos recursos disponíveis: ou seja, obter
defender ou ameaçar” , dependendo de seus
a custo mínimo possível o máximo de benefício. A
propósitos e da postura ética com que é feita. Ou
avaliação de eficiência vem transbordando cada vez
seja, podem existir avaliações tendenciosas, mal
mais seu nicho econômico, incluindo estratégias e
elaboradas e superficiais que poucos resultados
instrumentos para analisar custos sociais, políticos e
trazem para a aprendizagem das instituições. Essas
ambientais – alguns deles intangíveis - provocados
correm o risco de prejudicá-las quando as inferências
por projetos de intervenção institucional, de políticas
não são contextualizadas e compreensivas. Deve-se
públicas ou do setor privado nas comunidades e no
ressaltar, no entanto, que mesmo uma avaliação bem
meio ambiente. Muitas agências, atualmente,
realizada e cercada de cuidados, sozinha, não
incluem na avaliação de eficiência, pesquisas
consegue solucionar os problemas da prática, pois
qualitativas ou quantitativas de satisfação da
solucioná-los é uma tarefa da administração e de
população atingida pelos projetos, com o intuito de
outros responsáveis operacionais.
saber se sua aplicação está sendo social, política e
Para ser viável, uma avaliação deve ter ambientalmente eficiente.
condições de realização do ponto de vista financeiro,
A avaliação de eficácia consiste na análise do
técnico, e gerencial. Toda avaliação precisa de
cumprimento das metas traçadas por um
orçamento compatível com o nível de profundidade
determinado projeto. É o tipo mais simples, comum e
que seu propósito e o objeto estudado requer.
difundido de análise de determinada intervenção,
geralmente realizada pelos próprios órgãos
Sau. & Transf. Soc., ISSN 2178-7085, Florianópolis, v.1, n.3, p.02-11, 2011.
5
encarregados de execução da proposta. Enquadram- conceito em construção - por isso, alvo de muitas
se aqui os dados apresentados nos relatórios anuais controvérsias - ele representa a idéia de que o avanço
das entidades e as estatísticas que elas produzem de uma dada sociedade é medido não somente por
com o intuito de demonstrar que "cumpriram as sua capacidade de gerar riqueza (dimensão
expectativas", no que se refere ao volume e à econômica), mas também pelas condições de divisão
quantidade do produto esperado. O critério de da riqueza gerada (dimensão social), da preservação e
sucesso mais comumente usado é o da eficácia conservação do meio ambiente (dimensão
objetiva, isto é, a constatação de que as metas ambiental), quanto ao conhecimento e inovação
atingidas são iguais, superiores ou inferiores às metas (dimensão conhecimento) e do investimento nas
propostas. Os estudos de eficácia geralmente são instituições e pessoas para promovê-lo (dimensão
15
metrificados, ou seja, se apresentam com dados institucional) . A avaliação de sustentabilidade vem
quantitativos, ilustrados com gráficos, figuras e sendo incorporada à análise de projetos e aprimorada
tabelas. Mas também podem incluir análises de teórica e tecnicamente. E, o termo sustentabilidade
14
eficácia subjetiva que constituem abordagens tornou-se um aposto imprescindível às propostas de
qualitativas que corroboram ou criticam a consecução desenvolvimento.
das metas a que custo social e emocional para os que
Especificidade do monitoramento - O
trabalham na instituição ou para os que são os seus
monitoramento pode ser interpretado como uma
destinatários.
etapa da avaliação e, ao mesmo tempo, tem o sentido
A avaliação de efetividade é mais profunda específico de acompanhar a eficiência do processo de
que a avaliação de eficácia. Ela capta os efeitos de um implantação e implementação de uma proposta de
projeto ou programa e tem por finalidade aferir as intervenção, mas também, a eficácia de seus
mudanças quantitativas e qualitativas promovidas resultados. O monitoramento da implantação e da
pela intervenção. Considera o antes e o depois da implementação constitui um olhar mais constante e
execução de uma proposta ou compara os resultados próximo sobre a realização da ação proposta, por
obtidos com outra situação em condições meio de indicadores que permitam sugerir
semelhantes, sobre a qual não houve intervenção. As adequações durante o processo e dar ciência aos
avaliações de efetividade têm vários pressupostos, financiadores, implementadores e beneficiários sobre
porém o mais básico é de que a ocorrência de o andamento das intervenções. Geralmente, esse
mudanças não é suficiente para referendar acompanhamento é registrado em relatórios curtos e
conclusões a respeito do êxito de uma proposta: é diretos contendo: (a) análise da situação; (b) dados
necessário demonstrar que elas não ocorreriam (total sobre os investimentos feitos; (c) identificação dos
ou parcialmente) sem a existência da intervenção em problemas e da busca de soluções; (d) garantia de
pauta. Geralmente, as análises de efetividade são que as atividades previstas estejam sendo executadas
5
realizadas por meio de estudos de impacto que corretamente ou sobre o porquê da proposta não
captam os efeitos e as alterações efetivas de uma estar sendo bem sucedida; (e) análise crítica voltada
intervenção em relação aos objetivos estabelecidos, para apreciar se o projeto em execução vem sendo o
empiricamente: (a) se os resultados esperados foram mais apropriado para a resolução do problema em
alcançados; b) que resultados não esperados questão.
ocorreram; © e se os resultados são positivos,
O monitoramento da eficácia, que ocorre ao
negativos, ou até perversos no médio ou longo prazo
final do projeto, apresenta informações sobre as
frente ao problema que se quis enfrentar. A avaliação
metas alcançadas e se elas correspondem ou
qualitativa costuma ser largamente utilizada nos
divergem do que havia sido proposto no início do
estudos de efetividade, para que o destinatário final
projeto. O relatório desse monitoramento constitui
(usuário, cliente e outros) se pronuncie sobre os
um dos elementos importantes para o processo de
resultados de uma intervenção ou de mudanças.
avaliação como um todo, mas particularmente para
A avaliação da sustentabilidade se os estudos de impacto que vierem a ser feitos,
fundamenta na construção de indicadores para também depois do projeto concluído.
analisar padrões sustentáveis de desenvolvimento
Ciclo de Avaliação - Uma avaliação completa
quanto a aspectos técnicos, ambientais, econômicos e
é aquela que incorpora um ciclo inteiro de análise de
sociais. Fundamenta-se no termo “desenvolvimento
determinada intervenção ou ação, iniciando-se antes
sustentável” que substitui o conceito de progresso
que uma intervenção ocorra (ex-ante), passando pelo
como sinônimo de crescimento apenas econômico.
acompanhamento do processo de implantação e
Embora desenvolvimento sustentável ainda seja um
implementação (monitoramento) e pela análise dos
Sau. & Transf. Soc., ISSN 2178-7085, Florianópolis, v.1, n.3, p.02-11, 2011.
6
efeitos e resultados (monitoramento e avaliação ex- Dentre suas vantagens, ainda é possível citar
post). No entanto, uma avaliação pode privilegiar o fato de que (1) o quadro lógico permite colocar foco
apenas um momento da realização de uma política nos resultados; (2) facilita o monitoramento de
pública, intervenção ou ação institucional. Por alcance das metas e o uso prudente dos recursos; (3)
exemplo, pode-se avaliar: (a) apenas o processo de facilita a elaboração de relatórios e documentos
implantação de uma proposta; (b) somente sua baseados nos resultados alcançados e nas lições
implementação; (c) um problema institucional aprendidas. Mas o modelo, como todo modelo é
específico que requer análise; (d) ou somente os também é alvo de muitas críticas, sobretudo pelo seu
16
resultados de uma ação. Em todos os casos é caráter estático, positivista e simplificado .
importante ter em mente todas as etapas do
Etapa de avaliação e o monitoramento da
processo e, no caso de avaliação institucional, o
implantação e da implementação - corresponde à
estudo da origem, da história e do contexto em que
análise do processo de realização das atividades
ela atua é fundamental, sobretudo quando se trata de
previstas no momento ex-ante, por meio de
uma entidade consolidada em que será impossível
indicadores e acompanhamento das metas
reconstituir o “ex-ante”.
estabelecidas. O objetivo concreto dessa etapa é
O estudo da etapa ex-ante é muito promover ajustes e correções para que o projeto
recomendado quando se pretende obter produza os resultados previstos.
conhecimento sobre o impacto de determinada
A avaliação da implantação é uma atividade
intervenção ou mudança, para tornar possível a
importante para assegurar a eficiência inicial que
comparação do estado inicial com as metas atingidas
corresponde ao ajuste entre as necessidades de
ao final. Para a preparação dessa etapa, um
recursos (humanos, materiais e de poder) e o começo
instrumento que vem sendo muito utilizado hoje é o
16 das atividades de intervenção no tempo e na medida
chamado “quadro lógico” . Esse se constitui num
certa. A análise da implementação corresponde ao
dispositivo que visa à organização racional de uma
acompanhamento do desenvolvimento da proposta
proposta de intervenção, tanto para sua
de intervenção por meio de indicadores e,
apresentação como para seu acompanhamento e
eventualmente, por meio de avaliações extensas,
avaliação. Esse instrumento, desenvolvido nos anos
inclusive, avaliação qualitativa realizada com os
1960 nos Estados Unidos, passou a ser utilizado pela
17 realizadores da proposta e com os clientes ou
maioria das agências internacionais para delinear o
usuários que são seu alvo, levando em conta os
momento inicial de seus empréstimos e
pontos críticos para correção de rumos durante o
investimentos a fim de compará-lo com os efeitos
processo.
gerados.
Em geral são objeto de avaliação da
Na elaboração do quadro lógico se
implantação e da implementação os seguintes
estabelecem o ponto de partida ou a linha de base,
elementos: (a) as estruturas necessárias para que o
assim como as metas e indicadores que deverão ser
projeto ocorra sem atropelos: obtenção de
acompanhados durante o processo e avaliados ao
informações sobre recursos físicos, humanos,
final de determinada intervenção. Na sua
materiais, formas de organização e de funcionamento
organização, esse instrumento possui uma lógica
(normas e procedimentos), especificação de
vertical que clarifica a razão pela qual o projeto foi
equipamentos e tecnologias disponíveis; (b) os
concebido e como será executado (objetivo superior,
processos e movimentos de encaminhamento das
objetivo do projeto, resultados esperados e
atividades pelos diferentes atores com suas funções
atividades). E uma lógica horizontal que explica como
específicas e níveis hierárquicos, para garantir que as
os resultados do projeto serão expressos de forma
operações de intervenção tenham sucesso; (c) os
clara, realista e verificável (indicadores, meios de
resultados e efeitos parciais: esperados ou não
verificação e fatores externos). Embora não forneça
esperados de acordo com as metas estabelecidas (d)
resposta a todas as perguntas, o uso do quadro lógico
a participação e as percepções dos diferentes atores
permite clarificar as seguintes questões: (1) Por que o
que influenciam os processos e os resultados, seja no
projeto deve ser realizado; (2) Qual é o seu propósito
sentido positivo ou negativo.
e quais as mudanças a serem alcançadas; (3) Como se
pretende produzir melhorias; (4) Quais são as As avaliações de processo trabalham,
condições externas que influenciam o alcance dos sobretudo, com indicadores de eficiência, no entanto,
resultados e dos seus efeitos; (5) Como é possível muitas instituições como é o caso do Banco
18
identificar o alcance das melhorias e mudanças. Mundial , promovem avaliação de impacto mesmo
Sau. & Transf. Soc., ISSN 2178-7085, Florianópolis, v.1, n.3, p.02-11, 2011.
7
Sau. & Transf. Soc., ISSN 2178-7085, Florianópolis, v.1, n.3, p.02-11, 2011.
8
Sau. & Transf. Soc., ISSN 2178-7085, Florianópolis, v.1, n.3, p.02-11, 2011.
9
Sau. & Transf. Soc., ISSN 2178-7085, Florianópolis, v.1, n.3, p.02-11, 2011.
10
Sau. & Transf. Soc., ISSN 2178-7085, Florianópolis, v.1, n.3, p.02-11, 2011.
11
21. Zucker LG. Institutional theories of organization. Annual 47. Samaja J. La Combinación de Métodos: Pasos para una
Review of Sociology 1987; 13, 443-464. Comprensión Dialectica del Trabajo Interdisciplinario.
22. Zucker LG. The role of institutionalization in cultural Educación Medico-Social 1992; 26 (1), 4-34.
persistence. In: Powell WW, Dimaggio PJ. (editors). The new 48. Minayo MCS, Cruz Neto O. Triangulación de métodos en da
institutionalism in organizational analysis. Chicago: The evaluación de programas y servicios de salud. 65-80. In:
University of Chicago Press;1991. p.83-107. Bronfman M, Castro R. (org). Salud, cambio social y política:
23. Giddens A. The constitution of society. Berckeley: University of perspectivas desde América Latina. México: Edamex; 1999.
California Press; 1984. p.65-80.
24. Demo P. Avaliação qualitativa. São Paulo: Editora Cortez; 1999. 49. Minayo MCS, Sanches O. Quantitativo-Qualitativo; oposição ou
25. Silva LMV, Formigli VLA. Avaliação em saúde: limites e complementaridade? Cad Saúde Pública 1993; 9 (supl.1), 239-
perspectivas. Cad Saúde Pública 1994; 10 (2), 80-91. 262.
26. Trotter R, Needle RH, Goosby E, Bates C, Singer M. A 50. Minayo MCS, Souza E, Assis SG, Cruz Neto O, Deslandes SF,
methodological model por rapid assessment, responses and Silva CMPF. Avaliação dos Centros de Orientação e Apoio
evaluation: the RARE program in public health. Field Methods Sorológico/CTA/COAS da Região Nordeste. Cad Saúde Pública
2001; 13(2),137-139. 1999;15(1),355-367.
27. Scrimshaw S, Hurtado E. Rapid Assessment Procedures for
Nutrition and Primary Health Care: anthropological approaches
to improving program effectiveness. Tokio: The United Nations
University; 1987.
28. Patton MQ. How to use qualitative methods in evaluation.
Newbury Park: Sage Publications; 1987.
29. Minayo MCS. Abordagem Antropológica para Avaliação de
Políticas Sociais. Rev Saude Publica 1991; 25 (3),233-238.
30. Minayo MCS, D’Elia JC, Svitone E. Programa Agentes de Saúde
do Ceará: Estudo de Caso. Fortaleza: UNICEF; 1990.
31. Atkinson S. 1993. Anthropology in research on the quality of
health services. Cad Saude Publica 1993;9(2),283-299.
32. Nuto SS, Nations MK.. Avaliação qualitativa dos serviços com
processo de construção de cidadania. Ação Coletiva 1999;
2,25-29.
33. Heaver R. Participative rural appraisal: potential applications to
family planning, health and nutrition programs. Washington
DC: Technical Department Asia Region World; 1991.
34. Stohlgren TJ, Chong GW, Kalkhan MA, Shell LD. Rapid
assessment of plant diversity patterns: a methodology for
landscape. Environment monitoring and assessment 1997; 4
(1), 25-43.
35. International Epidemiological Association. Rapid epidemiologic
assessment. Official Journal or the International
Epidemiological Association 1989;18 (supl.2).
36. Malilay J, Flanders WD, Brogan DA. Método modificado de
mostreo por conglomerados para evaluación rápida de
necesidades después de un desastre. Revista Pan Americana de
Salud Pública 1997; 2(1),7-12.
37. Lee T, Price T. Indicators and research methods for rapid
assessment of a tuberculosis control program: case study of a
rural area of South Africa. Tubercle Lung Diseases 1995;
76(5),441-449.
38. World Health Organization. Rapid evaluation method:
guidelines for maternal and child health, family planning and
other health services. Geneva: WHO; 1993.
39. Denzin NK, Lincoln YS. Handbook of qualitative research.
Thousand Oaks: Sage Publications; 1994.
40. Denzin NK. The research act. Chicago: Aldine Publishing
Company, 1979.
41. Bebe J. Basic concepts and techniques of rapid appraisal.
Human Organization 1995; 54: 42-51.
42. Brandão CR. Repensando a pesquisa qualitativa. São Paulo:
Editora Brasiliense; 1985.
43. Gajardo M. Pesquisa participante na América Latina. São Paulo:
Editora Brasiliense; 1987.
44. Habermas J. Teoría de la Acción Comunicativa. I, II. Madrid:
Taurus Editorial;1987.
45. Kant I. Crítica à Razão Pura. Coleção os Pensadores. São Paulo:
Editora Abril;1980.
46. Jick TD. Mixing Quantitative and Qualitative Methods:
triangulation and action. Administrative Science Quarterly
1979; 24, 602-611.
Sau. & Transf. Soc., ISSN 2178-7085, Florianópolis, v.1, n.3, p.02-11, 2011.