Escolar Documentos
Profissional Documentos
Cultura Documentos
Brasil.
ndice
1.
2.
3.
4.
5.
6.
7.
8.
9.
1. Objetivos da pesquisa
Objetivos
* Nesta pesquisa o ONG se refere s organizaes da sociedade civil, sem fins lucrativos, que atuam com
projetos sociais.
2. Consideraes Metodolgicas
Metodologia
Pblico alvo
rea
Realizao
do campo
Abrangncia nacional
Amostra
Seleo da
Amostra
Total de
entrevistas
PORTE
CENTRO
OESTE
NORDESTE
NORTE
SUDESTE
SUL
TOTAL
GERAL
1A9
27
70
18
123
10 A 49
27
116
26
181
50 A 99
17
29
MAIOR
100
20
30
TOTAL
GERAL
12
66
223
53
363
Amostra
Representividade
da Amostra
*Pesquisa sobre Fundaes e Associaes Privadas Sem Fins Lucrativos no Brasil, desenvolvida a partir da
parceria entre IBGE, IPEA, ABONG e GIFE.
Amostra
Representividade
da Amostra
Regio
Norte
Nordeste
Sudeste
Sul
Centro-Oeste
Total
Universo
2.519
9.708
36.805
14.602
5.641
69.275
%
4%
14%
53%
21%
8%
100%
Entrev. Realizadas
9
66
223
53
12
363
%
2%
18%
61%
15%
3%
100%
Universo
5.506
7.822
75.089
88.417
%
6%
9%
85%
100%
Entrev. Realizadas
17
68
278
363
%
5%
19%
77%
100%
Universo
48.978
14.628
5.669
69.275
%
71%
21%
8%
100%
Entrev. Realizadas
123
181
59
363
%
34%
50%
16%
100%
Natureza Jurdica
Fundaes Privadas
Org. Social + Oscip
Outras Formas de Associaes
Total
Fonte: RAIS 2005
Porte
1a9
10 a 49
50e+
Total
Fonte: Fasfil 2005
10
Ponderao
Ponderao
11
Regio
Fator
1a9
Norte
1,8000000
10e+
Norte
1,0000000
1a9
Nordeste
1,3333333
10 a 49
Nordeste
0,4074074
50e+
Nordeste
0,3333333
1a9
Sudeste
1,9142857
10 a 49
Sudeste
0,3620690
50e+
Sudeste
0,4594595
1a9
Sul
3,0555556
10 a 49
Sul
0,6153846
50e+
Sul
0,6666667
1a9
Centro-Oeste
7,3333333
10 a 49
Centro-Oeste
0,6250000
50e+
Centro-Oeste
2,0000000
12
13
Perfil da Amostra
(%)
Natureza Jurdica
74
OSCIP
21
14
14
Perfil da Amostra
(%)
Regio
Centro Oeste
8%
Norte
4%
Nordeste
14%
Sul
21%
15
Sudeste
53%
Perfil da Amostra
(%)
de 50 at 99
4%
100 ou mais
5%
de 20 at 49
11%
de 10 at 19
17%
16
At 9
63%
Perfil da Amostra
(%)
Tempo de atuao
(amostra do estudo)
Antes de 1980
1981-1990
1991-2000
2001-2008
Tempo de atuao
(FASFIL 2005)
13,1
15
19
40
41,5
36
26,3
17
*At 2005
Perfil da Amostra
(%)
Somente
financiadora
2%
Financiadora
e executora
40%
Somente
executora
58%
Base: Amostra (363)
18
21. De que forma a sua organizao atua com projetos sociais? (RESPOSTA NICA)
Projetos Avaliados
19
(%)
rea de atuao
Abrangncia territorial
29
Educao
25
Assistncia Social
16
Cultura e Arte
10
Meio Ambiente
Sade
Esporte e recreao
Desenvolvimento e moradia
Local
Regional
22
Estadual
16
Nacional
Internacional
20
52
21
Desafios Institucionais
(%)
85,4%
Captao de recursos
37,7%
Estrutura fsica
Comunicao
35,2%
33,6%
Mobilizao comunitria
33,3%
30,3%
Planejamento estratgico
Avaliao de projetos
28,1%
Formao da equipe
27,6%
Participao em redes
23,7%
20,4%
Atuao do conselho
19,1%
18,2%
Transio de lideranas
16,7%
14,4%
Relaes internas
13,8%
9,5%
5,8%
22
Recursos e
infra-estrutura
Planejamento
e avaliao
Mobilizao
poltica
Anlise de
cenrio
Gesto
interna
30%
20%
20%
16%
13%
Captao de
recursos
Infra-estrutura
fsica
Formao
equipe
Planejamento
estratgico
Planejamento de
atividades do
projeto
Avaliao
Comunicao
Relaes
comunitrias
Formao da equipe
Participao em
redes
Relaes com o
governo
* Ver Anexos
23
22. Quais os principais desafios que a organizao enfrenta atualmente? (aceita mais de
uma resposta).
Anlise do
contexto ambiental
Anlise da
legislao
Participao em
redes
Atuao do
conselho
Transio de
lideranas
Relaes
internas
24
25
Importncia da Avaliao
Maior entre ongs do NE e N/CO (97%)
Importncia...
80
10
(%)
Nota
1
3 1
1 1
Nota
Mdia
Mdia
9,49
9,49
Escala 1 a10
1 = Pouco importante
10 = Muito Importante
Sim
96
26
P20. Pensando em todas as suas experincias com avaliaes de projetos, voc tem a
inteno de realizar avaliaes em projetos futuros?
No
> freqncia
27
Mdia
uma parte essencial dos processos de
planejamento estratgico
79
77
75
74
28
36
37
10
8
8
14
9 2111
9,50
9 3 211
9,49
12
8 32
9,48
15
43
8,39
13 23
7,98
6,95
33 8 3
7,14
Nota
14
12 1 4 3
10 3
15
5 3 9 114
7 1
25
30
9,45
55
9 2231
16
3
13
No sabe
Nota
Mdia
6
Programas so avaliados porque financiadores
requisitam
10 3 11
8 2 7 52 8
Escala 1 a10
1 = Discorda Totalmente
10 = Concorda Totalmente
29
19
6 44
5 4
4 1 6 2 6 2 3 10
8 4
31112 11 2 9
24
59
52
12
4,86
3,56
2,60
2,48
11 5 22 6 2 6
62
2,35
1 4 314 3 8
10
59
2,25
10
Nota
No sabe
Nota
Aprendizado
30
31
Avaliao como
ferramenta de
promoo dos
projetos
Avaliao como
desperdcio de
recursos
no vale a pena o
investimento
ajuda no planejamento
estratgico
fazemos porque
financiadores solicitam
simblico
ajuda a melhorar os
servios prestados
orienta decises
programticas
integra as prticas de
gesto
no temos
conhecimento suficiente
desvia o projeto de sua
principal razo de ser
* Modelo apresentado por: Carman, Joanne G. & Fredericks, Kimberly A. (2008). Nonprofits
and evaluation: Empirical evidence from the field. New Directions For Evaluation. P 5171.
32
40
33
35
30
26
23
25
18
20
15
10
5
0
Avaliao como desperdcio Avaliao como obrigao Avaliao como ferramenta Avaliao como ferramenta
de tempo/recurso
formal e burocrtica
de promoo dos projetos
estratgica
No existe conhecimento
ou competncias para
realizar avaliaes de
qualidade.
A quantia de tempo e
dinheiro investidos no
compensam.
Os recursos investidos
desviam o projeto de seu
foco principal.
33
Base: Amostra (363)
uma obrigao
imposta pelos
financiadores
uma formalidade
No consegue
refletir os resultados
do trabalho realizado
por uma organizao
Resultados
utilizados para atrair
financiadores e
recursos.
feita para que as
organizaes e
projetos se
promovam
positivamente
Ajuda a melhorar a
qualidade dos servios
Os resultados devem ser
utilizados para tomar
decises
Ajuda a fazer escolhas
estratgicas
parte essencial dos
processos de planejamento
estratgico
40
33
35
30
25
26
23
18
20
15
10
5
0
Avaliao como desperdcio Avaliao como obrigao Avaliao como ferramenta Avaliao como ferramenta
de tempo/recurso
formal e burocrtica
de promoo dos projetos
estratgica
+ OSCIP
+ Fundao/
Instituto
Empresarial
E
+ OSCIP
34
Base: Amostra (363)
+
Norte/CentroOeste
Aprendizado
35
7. Papel do avaliador
36
64
62
55
53
53
10
52
24
10
19
14
5 6
12
7 3 11 1211 8,46
6 4
5
15
P04) A seguir temos uma srie de frases sobre o papel do(a) avaliador(a) e gostaramos que voc
apontasse o quanto concorda ou discorda com cada uma delas
13 113 8,28
7 4 11 2211 8,38
Nota
8 3 6 1112 8,66
5 5
17
6 3 6 111 8,88
15
14
37
11 22 11 21 8,82
2
13
14
35
Escala 1 a10
1 = Discorda Totalmente
10 = Concorda Totalmente
10
45
Mdia
1
12 3 4 1 9,17
17
343
4
12 112 3 8,00
3 32 7,68
6,06
19
2
Nota
Posturas do avaliador
Modelo terico de referncia
As Quatro Geraes de Avaliao. Guba e Lincoln, 1985 *
1 gerao Medio
Desenvolver e
aplicar
instrumentos de
mensurao
2 Gerao
descrio
(ou dos objetivos)
Descrever
relaes entre
pontos fortes e
fracos de
programas - em
relao a
determinados
objetivos.
3 gerao
Julgamento
Atribuir um
valor, julgar
programas.
4 gerao
Construtivista e
responsiva
Facilitar o
dilogo e
negociaes entre
interessados.
Habilidades do avaliador
Educador
Gera espaos de reflexo e
aprendizagem
Garante a comunicao dos
resultados
Juiz Especialista
Tcnico-cientista
Sabe metodologia
Emite pareceres e
recomendaes
39
Sabe construir
instrumentos
Papel do Avaliador
Anlise Fatorial & Cluster
Foco no resultado
Foco no processo
57%
43%
D respostas
40
4. A seguir temos uma srie de frases sobre o papel do (a) avaliador (a) e gostaramos que voc apontasse o
quanto concorda ou discorda com cada uma delas. Para isto pense em uma escala de 1 at 10, onde 1 significa
que voc Discorda totalmente da frase e 10 significa que Concorda totalmente com a frase. Voc pode
tambm utilizar qualquer nmero entre 1 e 10 para expressar a sua opinio.
Papel do Avaliador
Anlise Fatorial & Cluster
Foco no resultado
Foco no processo
57%
43%
+ com at 9
colaboradores
41
4. A seguir temos uma srie de frases sobre o papel do (a) avaliador (a) e gostaramos que voc apontasse o
quanto concorda ou discorda com cada uma delas. Para isto pense em uma escala de 1 at 10, onde 1 significa
que voc Discorda totalmente da frase e 10 significa que Concorda totalmente com a frase. Voc pode
tambm utilizar qualquer nmero entre 1 e 10 para expressar a sua opinio.
Aprendizado
Juiz
Especialista
42
Tcnicocientista
Reflexes
Teoricamente o potencial benefcio da avaliao depende principalmente: (i) do
foco de atuao do avaliador (seja avaliador interno ou externo) e (ii) do
envolvimento da equipe do projeto no processo de avaliao em si
Ao assumir um processo de avaliao, o avaliador focado no resultado prioriza a
entrega de um produto no final. A incorporao dos resultados seria de
responsabilidade da equipe do projeto. Se a equipe no se apropriar desses
resultados, o produto poder servir apenas para promoo dos projetos.
Avaliao no apenas pesquisa, os resultados devem ser apreendidos pelas
pessoas, para serem incorporados nos projetos.
Nesse sentido, o avaliador focado no processo potencializa o uso da avaliao,
ao compartilhar saberes e atuar colaborativamente na gesto da avaliao. Com
isso, o avaliador responsabiliza e d autonomia equipe envolvida no projeto.
Dessa forma, a equipe incorpora, durante o processo de avaliao, os prprios
resultados e tem mais facilidade de implementar as potenciais mudanas.
Finalmente, quando o foco no processo e a equipe se envolve, a avaliao gera
todos os seus potenciais benefcios.
A pesquisa confirma esse entendimento terico, pois organizaes que buscam
um avaliador com foco no processo tendem a enxergar na avaliao o seu
potencial estratgico, enquanto as organizaes que buscam um avaliador com
foco nos resultados tendem a se aproximar mais da percepo de avaliao como
promoo dos projetos ou como uma atividade burocrtica-formal.
43
8. Prtica de avaliao:
Principais caractersticas metodolgicas de avaliaes realizadas por ONGs
Quem decide sobre a avaliao e como se do as relaes de poder
Principais desafios e dificuldades que as ONGs encontram na avaliao
44
Realizao de avaliaes
Razes para no realizar
Realiza avaliao?
(%)
No tnhamos equipe
75
9
91
68
63
34
No
Somos uma equipe/ no h necessidade
23
17
Resistncia da equipe
No desenvolvemos projetos prprios
Confiam nas organizaes que realizam o
projeto
7
6
Ind.
Ind. Mult
Mult
3,12
3,12
45
P6. - Em relao aos ltimos 5 anos, voc considera que a sua organizao fez avaliao de seus
programas ou projetos? P6a. Por quais motivos sua organizao no realizou nenhuma avaliao dos
projetos nos ltimos 5 anos?
+ Somente financiadora
Sim
42
+ desafio institucional de
planejamento e avaliao
58
No
+ Fundao/Instituto Empresarial
+ Porte 100 ou mais colaboradores
46
Formao em avaliao
Sim
45
55
No
47
P19. Voc ou algum outro colaborador regular da organizao tem ou fez algum tipo de
formao para avaliao de projetos?
Aprendizado
48
Atividades realizadas
(%)
Mdia
Prestao de contas para os financiadores
84
7 4 32
4,70
84
10 212
4,73
13 3 3
4,72
9 52
4,49
68
20
9 12
4,51
67
22
8 2
4,52
9 22
4,47
81
75
65
41
Auditoria financeira
39
33
Sempre (5)
s vezes (3)
Nunca (1)
49
22
25
17
26
15
11
15
26
13
18
13 1
3,81
3,43
3,76
Tipos de atividades
Atividades de
acompanhamento
interno
Atividades de
prestao de contas
a financiadores
Atividades de
prestao de contas
ao pblico amplo
+
frequente
50
frequente
Desenho da avaliao
(%)
Coleta de dados
Sobre o pblic o benefic iado ao final do
c ic lo do projeto
70
70
64
13
13
11
51
P11. De maneira geral, qual das alternativas abaixo caracterizou a coleta de dados das avaliaes destes
projetos?
nd.
nd. Mult.
Mult.
2,40
2,40
Aprendizado
A grande maioria das organizaes opta por desenhos que realizam a coleta de
informaes sobre o grupo beneficiado ANTES, DURANTE e DEPOIS de sua
participao no projeto.
52
Durao (avaliao)
%
29
15
6
24
6
20
Mdia
Mdia
10
10 meses
meses
Meses
At 3
4a6
7 a 11
12
Mais de 12
No soube estimar
53
de uma avaliao para cada um dos projetos? // P8. Qual foi a durao aproximada (em meses) da avaliao?
Origem da demanda
(%)
A prpria
organizao
54
35
Ambos
rgo
financiador
+ financiadoras e executoras
+ Executoras
54
43
34
22
55
+ financiadoras e executoras
+ Executoras
Equipe de avaliao
(%)
85
22
Avaliador
independente
19
Universidade/
Instituto de
pesquisa
ligado
42
24
ONG
17
Empresa
17
56
77
Deciso
encaminhamentos/aes
aps resultados
75
+ avaliao como
ferramenta
estratgica
71
Coleta de dados
68
Deciso sobre a
metodologia a ser
utilizada
Deciso sobre a escolha
da equipe de avaliao
Especialmente
financiadoras e
executoras
63
Especialmente
financiadoras
e executoras
+ avaliao
como autopromoao
53
nd.
nd. Mult.
Mult.
4,09
4,09
Base: Fez avaliao (574)
P12. Agora pensando no processo de avaliao desses projetos como um todo, em quais
momentos sua organizao participou ativamente?
57
Utilidade da avaliao
80
74
69
69
69
59
57
54
48
39
10
+ financiadoras e executoras
+ financiadoras e executoras
+executoras
58
+ executoras
37
nd.
nd. Mult.
Mult.
6,68
6,68
Sim
7
93
No
(%)
Pblicos
PARA FINANCIADORES DO PROJETO/
DA ORGANIZAO
74
73
70
69
56
52
48
33
30
Mdia
Mdia
5,06
5,06
59
Construir indicadores
40
36
Desenvolver instrumentos
33
Coletar informaes
27
24
23
Comunicar os resultados
60
31
Analisar os resultados
Nenhuma
Tcnico
Gesto
Baixa competio
Alta competio
12
12
05 (5)
21
04 (4)
21
03 (3)
Mdia
Mdia
2,48
2,48
34
02 (2)
Nota
01 (1)
Nota
Escala 1 a 5
5= Competiu muito com outras atividades do projeto
1 = No competiu em nada com outras atividades do projeto
61
Avaliao da experincia
(%)
+ financiadoras e executoras
+ executoras
78
05 (5)
04 (4)
14
03 (3)
02 (2)
Nota
01 (1)
Nota
Escala 1 a 5
1 = Totalmente negativa
5 = Totalmente positiva
62
Mdia
Mdia
4,69
4,69
63
64
Financiar avaliaes.
Tendncias da avaliao
65
Instituto Fonte
para o Desenvolvimento Social
Diretor Executivo
Superintendente
Isabel Cristina Santana
Daniel Brando
Martina Rillo Otero
Gerente
Coordenadores do Projeto
Assistente de coordenao
Ibope Inteligncia
Silvia Cervellini
Diretora de Atendimento e Planejamento
Katya Mora
Atendimento e Planejamento
66
Diretora Executiva
Projeto Avaliao
avaliacao@fonte.org.br
67
10. Anexos
Analise fatorial
Analise de cluster
Amostra da pesquisa e perfil das associadas ABONG
68
Anlise fatorial
O que anlise fatorial?
Muitas vezes temos um nmero muito grande de atributos/frases nas perguntas, o que
dificulta a anlise e at a identificao do que realmente importante.
Freqentemente, estes atributos/frases ainda se sobrepem e apresentam significados
muito similares para o entrevistado.
A proposta da anlise fatorial reduzir o nmero de atributos/frases ao agrupar todos
aqueles que possuem significado parecido.
69
*anlise que compara o padro de resposta de duas informaes para checar se esta
relao existe ou no
Anlise de Cluster
70
15,9
At 1980
1981 - 1990
45,1
35,6
1991 - 2000
depois de
2000
1,5
71
Centro-Oeste
6,9%
Norte
6,4%
Sul
8,4%
Nordeste
39,6%
Sudeste
38,6%
72