Você está na página 1de 99

BLOCO

Mtodos de pesquisa em Cincias Sociais

QUANTITATIVO
Mtodos de pesquisa em Cincias Sociais:
Bloco Quantitativo

Sesc So Paulo/CEBRAP
So Paulo, 2016
SUMRIO

ABERTURA
03 Danilo Santos de Miranda e Angela Alonso

APRESENTAO
08 Daniela Ribas Ghezzi e Jaime Santos Jnior

10 Introduo aos mtodos quantitativos em Cincias Sociais


Mrcia Lima

32 Introduo Amostragem
Murillo Marschner Alves de Brito

52 Questionrios on-line
Danilo Torini

76 Abordagens qualitativas e quantitativas na avaliao de polticas pblicas


Vera Schattan Ruas Pereira Coelho
Abertura

A questo do mtodo
Esta publicao nasceu do encontro de duas instituies, o Servio Social do
Comrcio Sesc e o Centro Brasileiro de Anlise e Planejamento Cebrap. As
instituies tem cada qual sua especificidade, mas compartilham o compromis-
so em contribuir para a contnua compreenso e transformao da realidade
brasileira, seja por meio da ao sociocultural, com nfase na educao perma-
nente, seja mediante a pesquisa cientfica, com foco na formulao, implemen-
tao e avaliao de polticas pblicas. O tema das metodologias de pesquisa, a
que se refere esta publicao, nasce desta confluncia.

A reflexo sobre questes de mtodo de fundamental importncia para a


produo de conhecimento. As cincias se constituem enquanto tal pela formu-
lao de problemas e hipteses, testadas mediante observaes empricas. Esse
procedimento exige contnuas decises metodolgicas, sobre recortes da reali-
dade e tcnicas mais adequadas para apreend-la. Cada pesquisa, cada investi-
gao, solicita uma metodologia especfica que se coadune ao objeto. Decises
de mtodo esto, pois na base das pesquisas e contribuem para a construo do
saber tanto terico quanto da experincia cotidiana.

Esta srie de publicaes apresenta e discute vantagens e limites dos mtodos


qualitativos e quantitativos mais difundidos nas humanidades. Esperamos que
o leitor encontre nela um roteiro inicial de leitura, que permita encaminhar d-
vidas, suscitar questes e estimular o interesse pela pesquisa. Porque investigar
a sociedade j um ato criador, no sentido mesmo em que desafia o conheci-
mento dado, imediato.

Angela Alonso
Presidente do Cebrap

Danilo Santos de Miranda


Diretor Regional do Sesc So Paulo
Organizadores

Alexandre Abdal
Professor do Departamento de Gesto Pblica da Escola de Administrao
de Empresas de So Paulo da Fundao Getlio Vargas (GEP-FGV/EAESP) e
pesquisador do Centro Brasileiro de Anlise e Planejamento (Cebrap). Possui
formao em Cincias Sociais e Sociologia, com doutorado (2015), mestra-
do (2008) e graduao (2005) pela Faculdade de Filosofia, Letras e Cincias
Humanas da Universidade de So Paulo (FFLCH-USP). Trabalha com pes-
quisas nas reas de Sociologia do Desenvolvimento, Sociologia Econmica,
Economia Regional e Avaliao de Polticas Pblicas, com nfase nos seguin-
tes temas: desenvolvimento urbano e regional, cidades, planejamento regional
e urbano, inovao, conhecimento, mercado de trabalho e ensino superior.
autor do livro So Paulo, desenvolvimento e espao: a formao da Macrome-
trpole Paulista, pela editora Papagaio.

Maria Carolina Vasconcelos Oliveira


Pesquisadora do Ncleo de Desenvolvimento do Centro Brasileiro de Anlise
e Planejamento (Cebrap). mestre e doutora em Sociologia pela Faculdade de Fi-
losofia, Letras e Cincias Humanas da Universidade de So Paulo (FFLCH-USP).
Atua em diversos temas associados a cultura e desenvolvimento. coautora do
livro Cidadania e participao cultural: A experincia da III Conferncia Municipal
de Cultura de So Paulo, desenvolvido em parceria com a Secretaria Municipal de
Cultura de So Paulo.

Daniela Ribas Ghezzi


Pesquisadora em Cincias Sociais e Humanas III no Centro de Pesquisa e
Formao do Servio Social do Comrcio de So Paulo (CPF/Sesc-SP), onde
atua na pesquisa e na qualificao em Gesto Cultural. Leciona cursos na rea
de Gesto Cultural e Polticas Pblicas de Cultura na Fundao Escola de So-
ciologia e Poltica de So Paulo (FESP-SP). Doutora em Sociologia pela Uni-
camp (2011) e graduada em Histria pela Unesp (1998). Vem apresentando
trabalhos em congressos internacionais na rea de Gesto Cultural e minis-
trando palestras sobre Formao de Pblico para a Msica em eventos e con-
venes. Entre 2011 e 2015 foi conselheira de Cultura em So Roque-SP, atu-
ando na elaborao da poltica cultural local, do Plano Municipal de Cultura
(em construo), e na superviso de equipes de peritos pareceristas dos editais
da cidade. Vem atuando tambm como parecerista de editais pblicos em ou-
tros municpios e estados brasileiros. Em 2015 comps a equipe de elaborao
do Plano de Cultura da UFRGS. diretora da Sonar Cultural (Consultoria e
Pesquisa em Gesto Cultural).
Jaime Santos Jnior
Pesquisador no Centro de Pesquisa e Formao do Servio Social do Co-
mrcio de So Paulo (CPF/Sesc-SP) e pesquisador colaborador vinculado ao
Programa de Ps-Graduao em Cincias Humanas e Sociais da Universida-
de Federal do ABC (UFABC), onde desenvolve o projeto de pesquisa Am-
bivalncias e Disjunes em Transmisses Intergeracionais: Trabalhadores
nordestinos no ABC paulista. Possui graduao em Cincias Sociais (2003) e
mestrado em Sociologia (2007) pela Universidade Federal de Sergipe (UFS), e
doutorado em Sociologia (2014) pela Faculdade de Filosofia, Letras e Cincias
Humanas da Universidade de So Paulo (FFLCH-USP). membro do grupo
de pesquisa Trabalho, Sindicalismo e Sociedade, vinculado ao CNPq. Possui
experincia na rea de Sociologia do Trabalho e atua, principalmente, nos se-
guintes temas: relaes de trabalho, migraes, culturas operrias e identida-
des do trabalho.

Autores

Danilo Torini
Coordenador de Pesquisa Pedaggica na Escola Superior de Propaganda e
Marketing (ESPM-SP) e pesquisador do Centro Brasileiro de Anlise e Planeja-
mento (Cebrap). Mestre em Sociologia pela Faculdade de Filosofia, Letras e Ci-
ncias Humanas da Universidade de So Paulo (FFLCH-USP) e ps-graduado
em Pesquisa de Marketing, Opinio Pblica e Mdia pela Fundao Escola de
Sociologia e Poltica de So Paulo, bacharel e licenciado em Cincias Sociais
pela USP. Tem como principais temas de pesquisa a transio escola-trabalho de
jovens no Brasil e as recentes transformaes na educao superior brasileira.

Mrcia Lima
Professora doutora do Departamento de Sociologia da Faculdade de Filoso-
fia, Letras e Cincias Humanas da Universidade de So Paulo (FFLCH-USP) e
pesquisadora snior associada ao Centro Brasileiro de Anlise e Planejamen-
to (Cebrap) e ao Centro de Estudos da Metrpole (CEM/Cebrap). editora
da Revista Brasileira de Informao Bibliogrfica em Cincias Sociais (BIB) e
membro da diretoria da Sociedade Brasileira de Sociologia, gesto 2015-2017.
Possui graduao em Cincias Sociais pela Universidade Federal do Rio de Ja-
neiro (1992), mestrado em Sociologia pelo Instituto Universitrio de Pesquisas
do Rio de Janeiro-IUPERJ (1994) e doutorado em Sociologia pela Universidade
Federal do Rio de Janeiro (2001). Realizou ps-doutorado na University of Co-
lumbia (2011-2012). Seus temas de investigao so: desigualdades sociais, de-
sigualdades raciais e de gnero, relaes raciais, educao, mercado de trabalho,
polticas de ao afirmativa no ensino superior e mulheres negras.
Murillo Marschner Alves de Brito
Professor do Departamento de Educao da Pontifcia Universidade Cat-
lica do Rio de Janeiro (Puc-Rio) e pesquisador do Centro Brasileiro de Anlise
e Planejamento (Cebrap) e do Centro de Estudos da Metrpole (CEM/Ce-
brap). Tem graduao em Cincias Sociais pela Universidade Federal de Mi-
nas Gerais (UFMG), mestrado pela mesma instituio em Sociologia e dou-
torado em Sociologia pela Faculdade de Filosofia, Letras e Cincias Humanas
da Universidade de So Paulo (FFLCH-USP). Sua agenda de pesquisa e suas
publicaes mais recentes circulam entre alguns temas principais, entre os
quais destacam-se: sociologia da educao, estratificao e mobilidade social,
sociologia do trabalho, desigualdades sociais e avaliao de polticas pblicas.

Vera Schattan Ruas Pereira Coelho


Professora do programa de ps-graduao em Polticas Pblicas da Uni-
versidade Federal do ABC (UFABC), coordenadora do Grupo de Cidadania,
Sade e Desenvolvimento do Centro Brasileiro de Anlise e Planejamento
(Cebrap) e pesquisadora do Centro de Estudos da Metrpole (CEM/Cebrap).
Tem graduao em Cincias Sociais pela Universidade Estadual de Campi-
nas (Unicamp), doutorado pela mesma instituio em Cincias Sociais, com
especializao na rea de Estado e Polticas Pblicas, e ps-doutoranda na
UFABC. Suas reas de interesse so: sistemas de sade, desigualdades na
sade, polticas sociais, a participao do cidado no processo poltico e seu
envolvimento nos processos decisrios. Trabalha com mtodos de pesquisa
quantitativos e qualitativos e tem vasta experincia na avaliao de polticas
pblicas e coordenao de projetos de investigao no nvel local, nacional e
internacional. Entre as instituies para as quais prestou consultoria esto o
Ministrio da Sade do Brasil, a Secretaria Municipal de Sade de So Paulo
e a Fundao Ford.
Apresentao

Durante o primeiro semestre de 2015, o Centro de Pesquisa e Formao do


Sesc em So Paulo (CPF Sesc) sediou dois blocos de oficinas de mtodos e tcni-
cas de pesquisa. Os cursos foram uma parceria entre o Sesc, instituio de abran-
gncia nacional e que h 69 anos se dedica ao social com foco na educao e
na cultura, e o Centro Brasileiro de Anlise e Planejamento (Cebrap), tradicional
e conceituada instituio de pesquisa, fundada h mais de 45 anos, e pela qual
passaram importantes nomes da Cincia Social brasileira e internacional.

O CPF Sesc foi implantado em agosto de 2012 com o intuito de ampliar o


compromisso do Sesc no campo da cultura e compreender a educao como
uma ao permanente. Voltado para a gesto cultural e composto por trs
ncleos, o CPF Sesc se constitui como um espao articulado entre produo
de conhecimento, formao e difuso. Assim, o Ncleo de Pesquisas se volta
para estudos tericos e empricos relacionados construo de bases de dados
e diagnsticos, com foco nas aes culturais e nos pblicos. O Ncleo de For-
mao se responsabiliza por promover palestras, seminrios, oficinas e cursos
livres de curta e longa durao. E o Ncleo de Difuso busca disponibilizar
trabalhos nacionais e internacionais que ofeream subsdios para a qualifica-
o de gestores e pesquisadores.

O Cebrap, desde o seu surgimento, vem se dedicando a articular o conheci-


mento cientfico produzido nas diversas reas de humanidades a projetos com
impacto na realidade brasileira como pesquisas que geram insumos para a
formulao e implementao de polticas pblicas ou, mesmo, a avaliao de
polticas pblicas. A combinao entre teoria e prtica, nesse sentido, sempre
foi um dos focos da instituio.

A proposta das oficinas em Mtodos e Tcnicas de Pesquisa, desenvolvida


em parceria com o CPF, alinha-se a esse foco, j que o seu principal objetivo
foi apresentar, descentralizar e disponibilizar algumas ferramentas quantita-
tivas e qualitativas de pesquisa, tipicamente usadas nas Cincias Sociais, para
pblicos mais amplos que no necessariamente desenvolvem, ou iro desen-
volver, uma trajetria tipicamente acadmica.

A proposta das oficinas, ento, foi abordar algumas ferramentas de pesqui-


sa de modo introdutrio e acessvel, tendo em vista capacitar os participantes
a compreender os pressupostos e mtodos envolvidos nos diferentes tipos de
pesquisa. Alguns dos participantes das oficinas tinham interesse em dar in-
cio a uma trajetria de estudos que os capacitasse a realizar as suas prprias
pesquisas no futuro; outros, que j trabalham com dados, buscavam entender
melhor os desenhos e ferramentas de pesquisa para qualificar suas demandas
e sua leitura; enquanto outros, da universidade, buscavam esse conhecimento
para complementar seus estudos. A variedade de pblicos e interesses possi-
bilitou que as oficinas se configurassem como uma experincia bastante rica
de troca de conhecimentos e experincias de pesquisa.

Esta publicao resultante do ciclo de oficinas realizado no primeiro se-


mestre de 2015. Cada um de seus dois volumes corresponde a um dos blo-
cos de aulas; o primeiro abordando tcnicas e ferramentas quantitativas, e o
segundo, qualitativas. Dentro de cada volume, cada captulo corresponde a
um encontro do respectivo mdulo de oficinas. Os captulos, ento, seguem
a estrutura das aulas e foram redigidos pelos professores que as ministraram.

No primeiro volume (Ferramentas Quantitativas), Mrcia Lima traz uma


introduo aos mtodos quantitativos nas cincias sociais, abordando as suas
possibilidades de aplicao e os seus limites. Em seguida, Murilo Marschner
apresenta um captulo sobre amostragem e construo de bancos de dados.
Depois, Danilo Torini faz uma reflexo sobre questionrios on-line, com n-
fase na utilizao de novas plataformas como redes sociais. E, por fim, Vera
Schattan Coelho discorre sobre construo de indicadores, com foco em ava-
liao de polticas pblicas.

No segundo volume (Ferramentas Qualitativas), Angela Alonso abre uma


discusso introdutria aos mtodos qualitativos, mostrando as principais tc-
nicas e as suas possibilidades. Depois, Mrcia Lima aborda o tema dos de-
poimentos e entrevistas diretivas e no-diretivas, tecendo reflexes sobre o
processo de construo de roteiros, aplicao e anlise. Em seguida, Ronal-
do Almeida discorre sobre estudos de caso, apontando as suas possibilidades
analticas e os seus limites de generalizao. E, por fim, o mesmo autor aborda
a ferramenta dos grupos focais, bastante utilizada em pesquisas de mercado e
em pesquisas acadmicas.

Esperamos, com este material, colaborar para a disseminao do conheci-


mento sobre tcnicas e ferramentas de pesquisa para pblicos amplos e hete-
rogneos, alcanando pesquisadores e pessoas interessadas em pesquisa em-
prica que estejam em diferentes estgios de suas carreiras.
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

Introduo aos mtodos quantitativos em


Cincias Sociais
Mrcia Lima
Pesquisadora do Cebrap e Professora do
Departamento de Sociologia da FFLCH, USP

1 - Introduo
O objetivo deste texto tecer consideraes introdutrias acerca dos prin-
cpios bsicos que fundamentam a pesquisa quantitativa nas Cincias Sociais.
Espera-se que, ao final da leitura deste captulo, o/a leitor/a tenha apreendido
qual a especificidade da abordagem quantitativa nas Cincias Sociais e quais
so os aspectos imprescindveis para a boa conduo desse tipo de investigao.

O captulo est divido em trs partes. Na primeira ser tratada a questo da


especificidade da pesquisa nas Cincias Sociais, discutindo dois aspectos que
esto fortemente entrelaados: a construo do conhecimento e a construo
do objeto de pesquisa em Cincias Sociais.

Na segunda parte sero identificadas as especificidades da pesquisa quanti-


tativa, considerando as suas fontes de dados e as suas formas de coleta e tendo
em vista a necessidade de construir uma matriz de dados. Essa etapa do texto
ser marcada por uma nfase especial operacionalizao de conceitos, mo-
mento-chave do processo de construo de dados quantitativos.

A terceira e ltima parte do captulo se dedicar apresentao da princi-


pal ferramenta de coleta de dados quantitativos: a elaborao do questionrio.
O questionrio uma pea crucial da pesquisa, pois , ao mesmo tempo, uma
ferramenta de coleta e de mensurao dos dados. Sem um bom questionrio,
todo o processo de construo e de anlise de dados fica comprometido.

2. A construo do conhecimento e do objeto de in-


vestigao em Cincias Sociais
Tratar da questo dos mtodos e das tcnicas de investigao em Cincias
Sociais nos leva a considerar, ainda de que forma breve, o contexto do surgi-
mento das Cincias Sociais como disciplina. Ela se constituiu num contex-
to de profundas transformaes, que reconfiguraram as diferentes esferas da
vida social (famlia, diviso do trabalho, religio, Estado etc.) e tornaram-se
problemas de investigao. As Cincias Sociais passam, desde os seus primr-
dios, a ocupar o lugar de um pensamento que procura dar sentido s trans-
formaes no seu entorno sem se render s interpretaes de senso comum.
Como lembra Ianni,

10
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

A histria das cincias sociais pode ser vista como a


histria do desencantamento do mundo. A economia,
poltica, geografia, sociologia, antropologia, psicologia e
histria desenvolvem-se como disciplinas cientficas, con-
quistando espaos que antes eram ocupados pela tradio,
o senso comum, a religio, a filosofia. A impresso causada
pela histria de cada uma e todas as cincias sociais a de
que elas emergem e afirmam-se em um largo combate a
essas formas de pensamento. (Ianni, 1989: 208)

Nesse sentido, desde a sua criao, colocam-se como desafios analticos


para o cientista social compreender as transformaes de sua prpria realida-
de e distinguir ou aproximar os seus mtodos dos mtodos j constitudos das
investigaes das cincias da natureza. O Positivismo, que tem como seu prin-
cipal expoente Augusto Comte, apostava na crena em um nico mtodo para
todas as cincias, na busca de leis e de explicaes causais como o objetivo
maior de todo mtodo cientfico. Portanto, dever-se-iam adotar os mtodos
das Cincias da Natureza nas Cincias Sociais.

Inmeros autores que se dedicam a tratar da histria da sociologia fazem


meno a esses aspectos, pois eles ainda norteiam o debate acerca da especi-
ficidade da pesquisa em Cincias Sociais e as dificuldades subjacentes pro-
duo de conhecimento nessa rea. George Simmel, ao tratar das questes
fundamentais da Sociologia, afirma que o primeiro desafio para a cincia da
sociedade lidar com o ttulo de cincia, devido complexidade envolvida
na construo e delimitao do seu objeto de investigao (Simmel, 2006).

Como produzir conhecimento sobre uma realidade da qual fazemos parte?


Qual a diferena entre essa forma de conhecimento e o conhecimento pro-
duzido pelas Cincias Naturais? Como se d a relao entre pesquisador e
universo de pesquisa quando as questes prementes de pesquisa so parte da
vida do prprio investigador? Como coletar dados sobre formas de agir e de
pensar dos indivduos que, em geral, so relatadas por eles prprios? Como
seus achados transformam ou no a percepo daqueles que fazem parte do
universo investigado? Essas questes nortearam e ainda norteiam o debate
sobre metodologia nas Cincias Sociais.

H alguns aspectos que precisam ser ressaltados para que se possam des-
fazer equvocos bastante comuns quando nos dedicamos a discutir questes
metodolgicas nas Cincias Sociais. O primeiro equvoco a ser desfeito a
dicotomia entre teoria e pesquisa. Toda e qualquer pesquisa, mesmo as que
no so desenvolvidas no mbito acadmico, tem uma pergunta a ser respon-
dida. As pesquisas de carter estritamente acadmico s se tornam viveis
na medida em que selecionamos nossas observaes, orientados por algum
conceito especfico. A teoria nos ajuda a entender questes e a tomar decises
de pesquisa, nos auxilia na coleta de dados e no entendimento da natureza e

11
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

dos pressupostos de nossa investigao. Os mtodos, por sua vez, validam em-
piricamente nossas perguntas e nos ensinam a testar hipteses teoricamente
construdas.

Outro papel importante da teoria a sua contribuio para a reduo de


possveis vieses no desenho da pesquisa. Conforme apontado acima, o cientista
social se dedica ao entendimento daquilo que est no seu entorno e sobre o qual
existem muitas opinies, inclusive a do prprio investigador. O aporte terico
auxilia a construo de dados, evitando o uso de apriorismos na formulao das
nossas indagaes iniciais. Bourdieu, Passeron e Chamboredon (2004), no livro
O ofcio do socilogo, definem esse processo como um momento de ruptura.
Os aportes tericos nos auxiliam a romper: (i) com o saber imediato, forma de
conhecimento autoevidente que explica o mundo social tal como ele aceito
e compartilhado pela maioria; (ii) com o senso comum, conjunto de noes
evidentes e bvias; e (iii) com as noes prvias ao processo de conhecimento
sistemtico e autocontrolado das cincias. Em sntese, uma boa definio con-
ceitual nos ajuda a identificar os fenmenos envolvidos na anlise.

Um segundo equivoco a ser evitado tratar mtodo quantitativo e mto-


do qualitativo como estratgias opostas (ou quase rivais) de abordagem. A
definio de uma pesquisa com abordagem quantitativa ou qualitativa no
uma escolha pessoal e de empatia do pesquisador, e sim uma deciso tomada
a partir das perguntas colocadas na pesquisa. Por exemplo, se desejo investi-
gar o perfil de usurios de um centro cultural, no posso tentar constru-lo
atravs de uma pesquisa etnogrfica.1 Da mesma forma que observar as in-
teraes entre jovens frequentadores desse mesmo espao, o desenho de um
survey com aplicao de questionrio estruturado no trar as respostas mais
adequadas ao meu problema de investigao. O artigo de Igncio Cano sobre
mtodos quantitativos e qualitativos ilustra bem esta questo:

(...) embora o conhecimento ou desconhecimento da


ferramenta estatstica possa representar uma diferencia-
o entre os cientistas sociais, os dilemas epistemolgicos
centrais enfrentados so comuns para o etngrafo e para
o profissional que trabalha com surveys. A observao e
o registro do comportamento humano, o problema das
fontes, os vieses de apresentao pblica das pessoas e os
introduzidos pelos pesquisadores, o teste de hipteses ini-
ciais sem se deixar levar pela tentao autoconfirmatria,
a interpretao de evidncias ambguas, o surgimento de
questes de pesquisa que no tinham sido previstas, entre
muitos outros, so problemas universais. (Cano, 2012: 108)

1 Etnografia uma tcnica qualitativa de pesquisa que se caracteriza pelo nvel mais local de co-
nhecimento possvel e por um longo trabalho de descrio. Para isso, a presena do pesquisador
no campo deve ser longa, cotidiana para que possa captar com profundidade a complexidade das
prticas sociais dos pesquisados. Para essa discusso, ver Weber & Beaud (2014).

12
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

Outra falsa dicotomia metodolgica considera que a deciso por uma


abordagem quantitativa ou qualitativa deve ser tomada a partir da natureza
dos dados observados: observao da estrutura versus observao da ao.
Tal pressuposto assume que a abordagem quantitativa se dedica a anlise de
fenmenos estruturais (desigualdades, estratificao, mobilidade social etc.)
e a abordagem qualitativa se dedica ao estudo acerca dos valores, compor-
tamentos e atitudes dos indivduos. Muitos so os exemplos de estudos que
demonstram que esse princpio no se sustenta. H pesquisas de opinio que
usam mtodos de survey pesquisas de inteno de voto, avaliao de go-
verno, amplamente utilizadas pelos institutos de pesquisa e h estudos que
tratam de mudanas estruturais como os estudos de sociologia histrica e
anlise documental que fazem amplo uso tcnicas qualitativas. Um bom
exemplo de estudo qualitativo que faz uma abordagem de transformaes his-
tricas o livro de Norbert Elias O processo civilizatrio.

A pesquisa em Cincias Sociais desvenda padres recorrentes do comporta-


mento social, estabelece relaes entre fenmenos e, ao mesmo tempo, lida com
as singularidades das experincias individuais. Conforme afirmou Simmel:

Qualquer cincia extrai dos fenmenos uma srie ou


uma parte da totalidade ou da imediaticidade vivida, e a
subsume a um conceito especfico. A sociologia no pro-
cede de maneira menos legtima que todas as demais cin-
cias ao dissipar as existncias individuais para novamente
reuni-las segundo um conceito que lhe seja prprio, e as-
sim perguntar: o que ocorre com os seres humanos e se-
gundo que regras eles se movimentam no exatamente
quando eles desenvolvem a totalidade de suas existncias
individuais inteligveis, e sim quando eles, em virtude de
seus efeitos mtuos, formam grupos e so determinados
pela existncia em grupo? Assim ser permitido sociolo-
gia tratar da histria do casamento sem precisar analisar a
vida conjugal de casais especficos; estudar o princpio da
organizao burocrtica sem que seja necessrio descrever
o dia a dia na repartio; ou fundamentar as leis e os resul-
tados das lutas de classe sem entrar nos detalhes do curso
de uma greve ou das negociaes em torno de uma taxa
salarial. (Simmel, 2006: 19)

Nesse sentido, a construo de um problema de pesquisa feita pela iden-


tificao de determinados aspectos da realidade social que sero submetidas
a uma observao. A Figura 1 resume as diversas etapas da construo de
um dado de pesquisa. Embora na prtica cotidiana da pesquisa esse esquema
seja complexo para ser posto em prtica, ele demonstra um aspecto crucial
da metodologia que foi sintetizada por Earl Babbie: os cientistas sociais no
coletam dados, eles criam dados (Babbie, 2003: 181). Esse aspecto impor-
tante porque, se o pesquisador no estiver atento a isto, em todas as etapas da
pesquisa, seus achados podem ser comprometidos.

13
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

Figura 1 A construo do dado

Fonte: Adaptado de Galtung, J., 1965, p. 21.

A sequncia estmulo-resposta-dado diz respeito a uma percepo mais


imediata do processo de pesquisa: formula-se uma pergunta, obtm-se uma
resposta que se transforma em um dado. Entretanto, preciso estar atento
justamente ao modo como se produz o estmulo. Estmulos mal construdos
produzem respostas inadequadas e geram um dado comprometido. A sequn-
cia apresentao-manifestao-percepo-registro representa as tcnicas de
coleta de dados que so extremamente importantes para a qualidade do regis-
tro que ser um dado de pesquisa. Como eu formulo uma pergunta, quais as
opes de resposta e em que ambiente eu coleto essa informao so aspectos
relacionados parte tcnica da pesquisa.

O princpio de que o dado uma construo ajuda tambm a minimizar o


risco que toda e qualquer pesquisa deve evitar: produzir vis. O vis significa
uma distoro durante o processo de pesquisa e pode ocorrer tanto na cole-
ta das informaes como na anlise de dados. No caso do vis de coleta de
dados, h duas possibilidades: (i) podemos definir unidades de observao
inadequadas pessoa, empresa, cidade, evento, a depender do desenho da
pesquisa, assim como problemas no desenho da amostra; ou (ii) podemos
produzir um estmulo inadequado e obter uma resposta que no represente
aquilo que se est interessado em analisar. Uma boa pesquisa deve ter baixo
vis e alta preciso.

Quando analisamos dados oriundos de pesquisa quantitativa, lidamos


sempre com a presena de vis. Mas um vis que seja mensurvel. por isso
que, nas anlises quantitativas, utilizamos as margens de erro. Um exemplo
concreto so as pesquisas de inteno de voto. Sempre que so divulgadas pela
mdia, apontam a margem de erro e o intervalo de confiana. A margem de
erro representa quanto que aquele resultado pode estar distante do parmetro
da populao e o intervalo de confiana expressa a preciso das estatsticas
em termos de nveis de confiana, estabelecendo que essas estatsticas esto
dentro de um intervalo especificado no parmetro. Por exemplo, em uma pes-

14
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

quisa em que um candidato tem 30% das intenes de voto, afirma-se que a
pesquisa tem uma margem de erro de 3 pontos percentuais para mais ou para
menos e 95% de confiana. Isso significa dizer que, com 95% de confiana, a
proporo dos eleitores que iro votar no candidato X encontra-se no interva-
lo de 30% +/- 3% (27% a 33%).

O vis de anlise pode ocorrer pela m interpretao dos dados ou por uma lei-
tura equivocada daquilo que foi realmente estimulado como questo de pesquisa.
Quando precisamos elaborar perguntas para um questionrio ou quando vamos
selecionar variveis de um banco de dados j existente, um truque interessante
perguntar: a qual questo esta resposta realmente responde? Um exemplo:

Pesquisa sobre prtica cultural se estamos interessados em identificar os


indivduos que podem ser considerados praticantes culturais, como devemos
proceder? O primeiro passo definir o conceito de praticante cultural e me
desvencilhar daquilo que eu pessoalmente considero um praticante cultural.
Outro ponto importante: no delegar ao entrevistado que ele se autodefina
como um praticante cultural. necessrio, portanto: (i) investigar como os
estudos sobre prticas culturais definem as caractersticas de um praticante
cultural e quais so as atividades que compem tais prticas; (ii) definir um
conjunto de prticas que vo compor minha definio operacional e, poste-
riormente, coletar e mensurar essa informao. Se coleto essas informao
entre populao adulta do pas ou entre jovens estudantes universitrios, os
resultados sero diferentes. Por isso tambm necessrio definir o escopo da
pesquisa, ou seja, em que universo desejamos investigar as prticas culturais.

3. A pesquisa quantitativa
Nesta publicao, boa parte dos captulos dedica-se a discutir tcnicas de
coleta de dados para a anlise quantitativa. Nossa tarefa neste captulo de
abertura um pouco distinta daquelas dos captulos posteriores, pois ele tem
o objetivo de introduzir os desafios mais comuns construo de uma pes-
quisa em Cincias Sociais. Na primeira seo tratamos das especificidades
de produzir pesquisa em Cincias Sociais e da importncia de identificar os
possveis vieses produzidos pela posio do investigador das Cincias Sociais.
Nesta seo, nossos esforos se concentraro em caracterizar os princpios
norteadores da pesquisa quantitativa.

Mtodos e tcnicas so definies que se complementam, mas que de for-


ma alguma podem ser consideradas sinnimos. Os mtodos dizem respeito
a uma forma de abordagem, de observao e produo de conhecimento, ou
seja, so um recurso que definimos como quantitativo e qualitativo. As tcni-
cas so modelos padronizados de coletar e analisar dados que so escolhidos
a partir da abordagem, tais como a aplicao de questionrios padronizados,

15
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

execuo de entrevistas em profundidade, a observao participante, entre


outras. Pode-se considerar que a principal distino entre mtodos quantita-
tivos e qualitativos diz respeito natureza dos dados coletados e, consequen-
temente, s possibilidades de anlise desses dados.

A pesquisa quantitativa tem como principal caracterstica a unicidade da


forma de coleta e tratamento dos dados. Para isso, necessita coletar um con-
junto de informaes comparveis e obtidas para um mesmo conjunto de uni-
dades observveis. Em geral, essas unidades so os indivduos, mas podem ser
tambm instituies, empresas, cidades, entre outras, sempre a depender do
problema de pesquisa investigado. O que crucial para a pesquisa quantitati-
va que tais unidades sejam comparveis.

O segundo aspecto importante relaciona-se com os seus objetivos. Em


geral, os estudos quantitativos permitem lidar com predio (inferncia es-
tatstica) e buscar identificar regularidades (perfil e tendncias). Destaca-se,
ainda, a vantagem de ser possvel formular generalizaes a respeito de uma
populao a partir de uma amostra probabilstica (ver o captulo de autoria de
Murillo Marschner Alves de Brito, sobre amostragem e construo de banco
de dados). A anlise de dados quantitativos permite um controle maior dos
seus achados, pois se baseia em procedimentos estatsticos cuja principal ca-
racterstica estimar o erro. Essas caractersticas contribuem para que seja
possvel a realizao de um teste de hipteses de modo mais conclusivo.

3.1. As fontes de dados


As pesquisas quantitativas podem ser realizadas a partir de duas fontes
de dados: primrios e secundrios. Consideramos dados primrios os dados
que o prprio pesquisador (ou equipe de pesquisa) delineou para sua cole-
ta a partir das suas prprias questes de pesquisa. Nos estudos quantitativos
so aplicados questionrios estruturados. A vantagem dos dados primrios
que nesse tipo de coleta o pesquisador tem mais liberdade para formular suas
questes e desenvolver mais o questionrio dentro de seu tema de interesse.

Entretanto, a utilizao de dados primrios em pesquisa quantitativa prev


um investimento alto em termos de tempo, recursos financeiros, pesquisado-
res habilitados para a realizao de estudos quantitativos, pois ser necessrio
desenvolver e aplicar um survey. Ou seja, desenhar uma amostra represen-
tativa da populao a ser investigada, desenvolver questionrios padroniza-
dos, formar e treinar a equipe de entrevistadores, realizar pr-testes, tabular
questionrios, verificar e testar a consistncia dos dados e montar e finalizar o
banco de dados. Nas pesquisas acadmicas, os surveys so bastante utilizados
para mensurar opinies, valores, percepes e relatos de experincias dos in-
divduos. Constituem a principal abordagem quantitativa focada nos sujeitos.
Para alm do universo acadmico, os surveys so muito comuns em pesquisas
eleitorais, avaliao de servios e produtos e em pesquisas de mercado.

16
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

As fontes secundrias de pesquisa so as mais utilizadas nas pesquisas quan-


titativas. De forma geral, podem-se considerar como fontes secundrias registros
estatsticos, fontes documentais pessoais e documentos de comunicao em mas-
sa coletados para os mais diversos fins e que podem ser utilizados como fonte de
pesquisa quantitativa, ou seja, que possam ser adequados a uma matriz de dados.
Os dados secundrios tm como vantagens a regularidade em termos de coleta, os
custos mais baixos para o pesquisador (uma vez que no precisar coletar dados)
e, como se trata de um conjunto de informaes j coletadas para outros fins, a
possibilidade de conjunto de informaes ser isento de interesses e valores do pes-
quisador. Entretanto, esse ltimo aspecto pode constituir tambm uma desvan-
tagem, pois o desenho do levantamento no responde de maneira imediata aos
interesses do pesquisador, e a qualidade da coleta no pode ser controlada por ele.

Quadro 1 Principais fontes de dados secundrios no Brasil


Dados demogrficos e socioeconmicos
s Principal Fonte: IBGE (www.ibge.gov.br)
s Principais pesquisas:
s Censo Agropecurio
s Censo Demogrfico
s Contagem da Populao
s Contas Nacionais Trimestrais
s Contas Regionais do Brasil
s Economia Informal Urbana
s Estatsticas do Registro Civil
s Perfil dos Municpios Munic
s Pesquisa de Informaes Bsicas Municipais
s Pesquisa de Inovao Tecnolgica Pintec
s Pesquisa Mensal de Emprego PME
s Pesquisa Nacional de Sade PNS
s Pesquisa Nacional por Amostra de Domiclios Pnad
Educao
s Principal fonte: INEP (http://portal.inep.gov.br/web/acesso-a-informacao/
acoes-e-programas)
s Principais pesquisas:
s Censo Escolar da Educao Bsica
s Censo da Educao Superior
s Censos Especiais
s Provinha Brasil
s Sistema Nacional de Avaliao da Educao Bsica Saeb
s Exame Nacional do Ensino Mdio Enem
s Exame Nacional de Certificao de Competncias de Jovens e Adultos Encceja
s Sistema Nacional de Avaliao da Educao Superior SINAES
s Exame Nacional de Desempenho de Estudantes Enade
s PISA
s Estatsticas Internacionais Comparadas
Mercado de trabalho
s Principal fonte: (http://portal.mte.gov.br/geral/estatisticas.htm)
s Cadastro Geral de Empregados e Desempregados CAGED
s Relao Anual de Informaes Sociais Rais

17
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

3.2. O tratamento dos dados


Conforme apontado anteriormente, o aspecto crucial para o desenho de
uma pesquisa quantitativa a comparabilidade dos dados. Galtung (1965), ao
introduzir o tema da matriz de dados, apresenta trs princpios fundamen-
tais e indissociveis de uma matriz de dados que so o cerne do desenho da
abordagem quantitativa. Ao coletar dados para uma pesquisa quantitativa o
investigador deve ter em mente que ir construir uma matriz de dados, com o
seguinte formato e princpios.

Figura 2 Matriz de dados (ou base de dados)

E1 E2 E3 E4 E5
01 R11 R12 R13 R14 R15

02 R21 R22 R23 R24 R25

03 R31 R32 R33 R34 R35

04 R41 R42 R43 R44 R45

05 R51 R52 R53 R54 R55

06 R61 R62 R63 R64 R65

0m Rm1 Rm2 Rm3 Rm4 Rm5

Fonte: Adaptado de Galtung, J., 1965, p. 3.

1. Princpio da integridade: em uma matriz de dados no pode haver la-


cunas ou vazios de informao. Para toda unidade de anlise observada (O)
deve haver valores registrados (R). Esse valor emprico deve existir mesmo
quando a resposta no sabe ou no quis responder.

2. Princpio da comparabilidade: em uma matriz de dados, para cada va-


rivel, as alternativas de resposta esto sempre codificadas (determinadas), ou
porque foram colhidas de modo pr-codificado (fechadas) ou porque foram
codificadas depois da coleta (quando esta se deu de forma aberta). As alterna-
tivas de resposta so sempre conhecidas e finitas, no podendo haver respos-
tas invlidas, isto , fora das alternativas codificadas ou determinadas (antes
ou depois da coleta).

18
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

Figura 3 Matriz de dados: integridade e comparabilidade

Fonte: PSPP (Software livre). Elaborao prpria.

3. Princpio da classificao: todo e qualquer caso (O) deve poder ter a


sua resposta classificada em uma das alternativas de resposta que foram deter-
minadas para cada uma das variveis que se quer analisar. As alternativas de
resposta devem ser exaustivas, permitindo classificar as respostas manifestas
por cada um dos casos observados em todas as variveis. Se as classificaes
que estruturam as respostas no forem adequadas (exaustivas), no ser pos-
svel comparar os casos. No exemplo abaixo, possvel observar a classificao
da varivel cor/raa da PNAD.

Figura 4 Matriz de dados: classificao

Fonte: PSPP (Software livre). Elaborao prpria.


19
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

O ltimo aspecto importante no que diz respeito construo da matriz


de dados a definio da unidade de anlise e dos tipos de varivel, que em
alguns casos podem ser escolhidas quando elaboramos um questionrio.
A unidade de anlise corresponde ao que o pesquisador quer observar. Por
exemplo, no questionrio da Pesquisa Nacional de Amostra por Domiclio
(PNAD), o Instituto Brasileiro de Geografia e Estatstica (IBGE) coleta dados
sobre os domiclios e sobre as pessoas que neles residem. So, portanto, duas
unidades de anlise distintas: caractersticas da unidade do domiclio (carac-
tersticas do domiclio, acesso a servios de saneamento bsico) e caractersti-
cas dos moradores (condio na famlia, cor/raa etc.).

Quanto varivel, trata-se de um conceito emprico ou terico que pode as-


sumir diversos valores e para a qual, mediante observaes, possvel especificar
o valor que ela assume no problema especfico investigado. As variveis podem
possuir um referente diretamente observvel no mundo emprico. Exemplos:
idade, nmero de cmodos no domiclio, nmero de filhos. Mas nem sempre
possuem referentes empricos diretamente observveis. Elas podem ser comple-
xas, podem conter muitas dimenses, como, por exemplo, participao poltica,
vulnerabilidade, status social. Portanto, ser necessrio estabelecer um conjunto
de variveis que possam especificar esses fenmenos de observao indireta.

H dois conjuntos de variveis. As variveis quantitativas e as categricas.


Consideram-se variveis quantitativas aquelas que resultam de mensuraes
(contnuas) e aquelas que resultam de contagens (discretas). As variveis ca-
tegricas so aquelas que descrevem alguma caracterstica da populao es-
tudada sem que necessariamente representem uma medida. Alguns exemplos
ajudam a entender melhor essa distino.

A renda uma varivel quantitativa que, a depender do modo como for coletada,
pode ser discreta ou contnua. A renda em valores absolutos (R$ 2.350,00) uma
varivel contnua. J a renda em salrios mnimos completos uma varivel discreta,
pois resulta de uma contagem. A varivel categrica nominal aquela que descre-
ve um atributo de uma unidade de observao sem que haja uma ordenao: cor/
raa e sexo so variveis categricas nominais. J as variveis categricas ordinais so
aquelas em que a ordenao faz parte da classificao. Em geral elas so utilizadas
em escalas de Likert (concorda totalmente, parcialmente, discorda totalmente, par-
cialmente) ou so fruto de classificaes posteriores. Retomemos aqui o exemplo da
renda. A renda tanto como varivel contnua quanto como varivel discreta pode
ser transformada em varivel ordinal. Basta, para isso, recodificar a renda em alta,
mdia e baixa. Mas essa seria uma varivel construda segundo critrios estatsticos.

3.3. A construo das variveis: operacionalizao dos conceitos


Uma etapa crucial para o desenho de pesquisa quantitativa diz respeito
transformao das nossas perguntas de pesquisa em variveis de uma matriz de
dados. Ao longo deste captulo, procuramos demonstrar a importncia de or-

20
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

ganizarmos uma investigao considerando quais so os conceitos e problemas


que a norteiam, quais as hipteses que queremos testar e os princpios elemen-
tares de uma matriz de dados (unidades de observao, estmulo e resposta).

Resta-nos entender como passar das definies tericas s definies opera-


cionais procurando assegurar que as perguntas formuladas ou as variveis esco-
lhidas meam o conceito que necessitamos traduzir operacionalmente. uma
tarefa que permeia todo o desenvolvimento do projeto de pesquisa, pois parti-
mos de decises tericas at chegarmos a decises operacionais que vo resultar
na elaborao do questionrio e/ou na escolha de variveis que correspondam
adequadamente ao problema de pesquisa. O aspecto importante aqui definir
os indicadores que compe um conceito. Januzzi (2001) d a seguinte definio:

Um indicador social uma medida em geral quanti-


tativa dotada de significado social substantivo, usado pra
substituir, quantificar ou operacionalizar um conceito social
abstrato, de interesse terico (para pesquisa acadmica) ou
programtico (para formulao de polticas pblicas). um
recurso metodolgico, empiricamente referido, que informa
algo sobre um aspecto da realidade social ou sobre mudan-
as que esto se processando na mesma. (Januzzi, 2001: 15)

Tomemos como exemplo o conceito de classe social. Para interpretar diferen-


as de opinies, valores e atitudes, assim como para entender processos estruturais
de transformao das sociedades contemporneas, a classe social um indicador
imprescindvel dos mais diferentes estudos, sejam eles de cunho acadmico ou
no, pois seu poder explicativo alto. Entretanto, o conceito de classe social ex-
tremamente complexo, envolvendo um conjunto de questes e decises tericas.
Se considerarmos a teoria sociolgica clssica e contempornea, deparamos com
conceitos distintos para o sentido de classe. Consequentemente, h diferentes for-
mas de medi-lo: renda, posio ocupacional, educao e poder de consumo so
alguns dos indicadores que o pesquisador pode eleger como variveis de classe.

Apresentando de forma bastante sintetizada, apenas a ttulo de ilustrao,


tomemos a definio de classe social para Karl Marx e Max Weber. Tais autores
formularam distintas concepes de classe, uma vez que suas preocupaes te-
ricas e questes de investigao eram diferentes. De acordo com Marx, as classes
sociais representam a estratificao social no mundo moderno. Elas so defi-
nidas pela diviso social do trabalho e da propriedade, pela relao econmica
de explorao, alm de terem um papel central na mudana social. Segundo o
autor, o desenvolvimento capitalista apontava para uma homogeneizao pola-
rizada entre proprietrios e no proprietrios de meios de produo, ainda que
tal polarizao comportasse zonas intermedirias (Marx & Engels, 1998).

Em Weber, a situao de classe relaciona-se a oportunidades de vida e situ-


aes de interesse semelhantes. Segundo esse autor, uma classe consiste em um

21
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

nmero de pessoas que tm em comum um componente causal especfico de


suas chances de vida na medida em que esse componente representado ex-
clusivamente por interesses na posse de bens e oportunidades de renda e repre-
sentado sob as condies de mercadoria e mercados de trabalho (Weber, 1982).

Com base nessa conceituao, a sociologia contempornea procurou ope-


racionalizar o conceito de classe social tendo como referncia as formulaes
tericas de seus principais autores. A partir da varivel ocupao estabeleceu-
se um conjunto de critrios que ordenaram a escolha das dimenses presentes
nessa varivel considerando as preocupaes tericas de cada um dos autores
clssicos.2 Vejamos como isso foi feito.

Os socilogos Robert Erikson, John H. Goldthorpe e Lucienne Portocare-


ro construram um conjunto de categorias ocupacionais que representa uma
estrutura de classes segundo os princpios da teoria weberiana. As ocupaes
foram classificadas a partir de duas situaes:
1. Situao de mercado: recursos e nveis salariais, grau de seguridade
econmica e chances de melhoria econmica;
2. Situao de trabalho: suas posies dentro do sistema de autoridade e
controle que governa o processo de produo no qual eles esto engajados.

Tal definio operacional resultou nas seguintes categorias ocupacionais:

Quadro 2 Classificao ocupacional (EGP) 3


Dados demogrficos e socioeconmicos
s Classe I Profissionais, administradores e officials de alto nvel; gerentes de
grandes indstrias e grandes proprietrios
s Classe II Profissionais de baixo nvel, tcnicos de alto nvel, administradores
de baixo nvel, gerentes em grandes estabelecimentos industriais e de
servios; e supervisores de trabalhadores no manuais
s Classe III Empregados no setor no manual de rotina
s Classe IVa Pequenos proprietrios, artesos com empregados
s Classe IV b Pequenos proprietrios, artesos sem empregados
s Classe IV c - Agricultores e pequenos agricultores; trabalhadores por conta prpria
s Classe V/VI Tcnicos de baixo nvel e supervisores de trabalhadores
manuais; e trabalhadores manuais qualificados na indstria
s Classe VIIa Trabalhadores manuais semiqualificados ou sem qualificao
s Classe VIIb Trabalhadores na agricultura
Fonte: Erikson, Goldthorpe & Portocarero, 1979, p. 420.

2 A varivel ocupao a principal varivel utilizada pelos estudos de classe e mobilidade social.
A classificao ocupacional realizada de modo a tornar compatveis os estudos internacionais
sobre o tema. No caso brasileiro, a Classificao Brasileira de Ocupaes (CBO) feita pela Con-
cla (Comisso Nacional de Classificao) e segue os princpios da International Standard Classi-
fication of Occupations (ISCO). O Ministrio do Trabalho e Emprego responsvel pela gesto e
manuteno da Classificao Brasileira de Ocupaes.

3 A classificao EGP de ocupaes refere-se aos autores Robert Erikson, John H. Goldthorpe e
Lucienne Portocarero, que publicaram, em 1979, o artigo Intergenerational class mobility in Three
Western European societies: England, France and Sweden, no The British Journal of Sociology.

22
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

No caso das categorias ocupacionais pautadas na teoria de Karl Marx, te-


mos o trabalho do socilogo Erik Olin Wright (1997). Os critrios que nor-
tearam a construo das categorias ocupacionais foram, em primeiro lugar,
a diviso entre proprietrios e no proprietrios dos meios de produo. A
partir da, o autor estabeleceu critrios de classificao que focaram a posio
na organizao (ter controle sobre o prprio trabalho e/ou sobre o trabalho de
outros) e a qualificao. Ou seja, os critrios de propriedade/no propriedade
dos meios de produo, qualificao e autoridade so dimenses que esto
presentes nas categorias ocupacionais que as tornam comparveis e classific-
veis. Tais critrios resultaram na seguinte classificao:

Quadro 3 Classificao ocupacional, segundo Erik Ollin Wright


Proprietrios dos meios de produo
s Burguesia
s Pequenos empregadores
s Pequena burguesia
No proprietrios (qualificao e autoridade)
s Gerentes especialistas
s Supervisores especialistas
s No gerentes especialistas

s Gerentes qualificados
s Supervisores qualificados
s Trabalhadores qualificados

s Gerentes no qualificados
s Supervisores no qualificados
s Trabalhadores no qualificados
Fonte: Santos, Jos Alcides Figueiredo, 1998.

Esses exemplos sintetizam um passo muito importante da pesquisa quan-


titativa: os pressupostos tericos que orientaram uma escolha operacional.
importante frisar que a escolha de um ou outro critrio operacional para a
anlise do caso brasileiro, por exemplo, no alterar o padro de estrutura de
classes do pas, e sim as dimenses da estrutura de classe que o pesquisador
conseguir observar.

Uma terceira possibilidade de definir classe social a partir das classificaes


utilizadas pelos institutos de pesquisa de mercado e de opinio. No Brasil, a
Associao Brasileira de Empresas de Pesquisa (ABEP)4 criou o Critrio Brasil,
uma tipologia de classes sociais que utilizada nas pesquisas realizadas por essas
empresas. Vejamos como classe social operacionalizada, segundo esse critrio.

4 http://www.abep.org/criterio-brasil.

23
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

Segundo a ABEP, a metodologia de desenvolvimento do Critrio Brasil de


2015 tomou como referncia um estudo sobre estratificao baseado na Pes-
quisa de Oramento Familiar (POF), do IBGE, intitulado Estratificao socio-
econmica e consumo no Brasil, de Wagner Kamakura e Jos Afonso Mazzon.
A classificao de domiclios utilizada pela ABEP resulta da adaptao da me-
todologia desse estudo s condies operacionais da pesquisa de mercado no
Brasil. O Critrio Brasil definiu grandes classes que atendam s necessidades
de segmentao (por poder aquisitivo), utilizada pela maioria das empresas
de pesquisa. Nota-se que o critrio que norteia a construo de classe social
completamente distinto do que foi visto nos exemplos anteriores. Consideran-
do, ento, a importncia do poder aquisitivo das famlias, os indicadores utili-
zados foram itens de conforto do domiclio, escolaridade do responsvel pelo
domiclio e a existncia ou no de acesso a servios pblicos (gua encanada e
rua pavimentada). Utilizando o sistema de pontos, o Critrio Brasil classifica
as famlias brasileiras segundo as seguintes classes: A, B, B2, C1, C2, D/E.

Figura 5 Composio das classes sociais do Critrio Brasil-ABEP

Fonte: http://www.abep.org/codigos-e-guias-da-abep.

Esse procedimento de operacionalizao o que nos permite passar de


uma representao do conceito, especific-lo definindo suas dimenses, at
chegarmos escolha dos indicadores empricos que so observveis. Foi pos-
svel perceber a importncia da orientao conceitual para definir variveis,
seja para uma pesquisa acadmica ou no. Sem uma definio de classe, ne-
nhum dos trs exemplos acima poderia se tornar mensurvel. Para isso, preci-
samos construir boas variveis a partir das nossas perguntas.

24
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

4. O questionrio
A parte final deste captulo se dedica a chamar a ateno do leitor para
mais uma importante etapa da pesquisa quantitativa. Uma vez escolhidos os
indicadores que iro operacionalizar nossos conceitos, como traduzi-los em
perguntas de um questionrio? Conforme apontado anteriormente, o dado
de pesquisa uma construo que comea com a produo de estmulos, ou
seja, com a definio das perguntas que devem ser feitas. Se no temos boas
perguntas (seja em um questionrio estruturado, seja em um roteiro de entre-
vistas), os resultados da investigao ficaro comprometidos.

Nas pesquisas quantitativas utilizamos o questionrio estruturado, pois


nosso intuito que as respostas sejam comparveis, ou seja, parte-se do princ-
pio de que todas as unidades observadas recebero o mesmo estmulo e tero
um conjunto limitado de respostas. Quando optamos por realizar um survey,
a etapa crucial da pesquisa a construo do questionrio, em especial a for-
mulao das perguntas. Elas devem ser adequadas ao contedo do fenmeno
estudado e capacidade de resposta do entrevistado. Aqui importante estar
atento a um aspecto destacado por Bourdieu et al. (2004) acerca da pertinn-
cia das questes que esto sendo levantadas, principalmente, se o objetivo da
pesquisa for captar as experincias e opinies dos indivduos. Devemos estar
atentos ao risco de impor aos sujeitos determinadas questes que no fazem
parte da experincia deles.

H dois princpios bsicos que norteiam a formulao das perguntas: men-


surar caractersticas diretas (demogrficas e socioeconmicas) e mensurar
caractersticas indiretas ou subjetivas (opinio, valores e atitudes), sendo esse
ltimo o que traz maiores desafios. Se o pesquisador pretende mensurar o que
uma pessoa diz ou pensa, seus valores e princpios, como ele deve abord-los?

4.1. Questes de mensurao direta


Entre as perguntas consideradas de mensurao direta h um conjunto de
questes que caracterizam o entrevistado em termos de perfil. Embora tais
questes estejam bastante padronizadas nas pesquisas quantitativas, h algu-
mas orientaes que merecem destaque: questes de posio social (ocupa-
o, nvel de escolaridade, idade) e indicadores de posio (propriedade ou
no de bens e quantidade dos mesmos). Procure sempre colet-las da forma
mais simples e desagregada possvel.

25
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

Figura 6 Exemplos de mensurao direta

Fonte: http://censo2010.ibge.gov.br/images/pdf/censo2010/questionarios/questionario_
amostra_cd2010.pdf.

Alm delas, a varivel renda, que varivel de mensurao direta e de


grande importncia, pode apresentar problemas de fidedignidade da respos-
ta, pois comum encontrar resistncia por parte dos entrevistados a declarar
a sua renda. Algumas pesquisas optam por coletar essa informao na forma
de classes de renda como Em qual faixa de renda o Sr./Sra se encaixa?. Essa
pergunta pode ser respondida, tambm, atravs do uso de um carto conten-
do as respostas, o que minimiza o efeito da declarao da renda.

4.2. Questes de mensurao indireta


As questes de opinies, atitudes, satisfao, preferncias, crenas e moti-
vaes so bastante utilizadas em pesquisas de survey e so as mais complexas
de construir. H um conjunto de orientaes no que diz respeito s perguntas,
e as opes de respostas devem ser bem elaboradas.

No caso de opinio, o ideal formular de maneira clara e concisa, evitando


o uso de formulao negativa ou que pode gerar interpretao dbia, como
O Sr./Sra. favorvel proibio. As respostas que sero fornecidas como
possibilidades devem ser objeto de ateno. Procure evitar respostas dicot-
micas (sim ou no) e opte sempre que possvel por escalonar as alternativas.
No caso das perguntas de opinio, as alternativas mais comuns so: concor-
dar/discordar, totalmente/parcialmente. Algumas pesquisas incluem a opo
no concordo nem discordo como possibilidade. Mas h controvrsias acer-
ca do uso dessa escala, que pode tornar seus resultados evasivos. Tais decises
sempre devem ser acompanhadas considerando o problema de pesquisa que
est sendo investigado. Identificar um conjunto de respondentes que no tm
opinio formada sobre um determinado assunto ou no querem opinar sobre
ele pode ser um achado relevante de pesquisa.

As pesquisas de inteno de voto devem ter uma preocupao com a sequ-


ncia de apresentao dos candidatos para evitar o vis de escolha. Ao elen-
car os nomes dos candidatos, deve-se procurar no induzir o entrevistado a
escolher os primeiros nomes citados. Para isso, h duas estratgias mais ade-

26
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

quadas. A primeira aplicar o rodzio na leitura de respostas: o entrevistador


alterna o primeiro nome da lista em cada aplicao e segue a sequncia. A se-
gunda forma mais recomendada usar um disco com o nome dos candidatos,
pois o formato circular elimina a ordenao.

Figura 7 Carto-resposta para pesquisa de inteno de voto. Eleies presidenciais, 2010

Fonte: http://pesqele.tse.jus.br/pesqele/publico/CarregarArquivoQuestionario.
abrir?id=20465.

Um terceiro conjunto de questes diz respeito s questes comportamen-


tais, ou seja, que descrevem a prtica/experincia dos respondentes. possvel
identificar ao menos duas situaes distintas em torno de comportamentos:
(i) comportamentos socialmente aceitos e/ou rotineiros; e (ii) comportamen-
tos socialmente reprovados e/ou que envolvem situaes de vitimizao. As
questes sobre comportamentos rotineiros enfrentam o problema da mem-
ria. Pesquisas sobre o uso de servios coletivos, por exemplo, que mensuram o
uso pela quantidade, devem remeter a referncias temporais como: na ltima
semana ou no ltimo ms. Evite deixar a cargo do entrevistado classificar
essa frequncia como alta, mdia ou baixa. Isso cabe ao pesquisador.

27
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

Exemplo de pergunta sobre comportamento


P39. Quando voc est em casa, quais das seguintes atividades voc costu-
ma praticar e com que frequncia:
(ler as atividades uma a uma e classificar a respectiva resposta)
Menos de 2 Entre 3 e 6
ATIVIDADES Nunca Todos os dias
vezes/sem. vezes/sem.
a. Assistir
televiso
b. Escutar
msica
c. Ler jornais
ou revistas
d. Ler livros
no didticos
e. Assistir
filmes em
DVD/vdeo
f. Culinria
(cozinhar)
Fonte: Questionrio da pesquisa Perfil dos alunos da USP. Depto de Sociologia, USP, 2009.

No caso de questes que envolvam comportamentos socialmente reprova-


dos, ou nas quais o entrevistado necessite relatar uma experincia de vitimiza-
o, o desafio justamente fazer com que o entrevistado no omita ou subes-
time a informao. Os cuidados nessa situao devem levar em conta desde o
ambiente (local de aplicao do questionrio) at a postura do entrevistador
(minimizar o carter excepcional de certos comportamentos). Quanto a for-
mato das perguntas, h duas estratgias interessantes: usar questes indiretas
do tipo voc conhece algum que e alternar experincias e comportamentos
entre desejveis e indesejveis. As perguntas abaixo foram retiradas de um
questionrio da OMS.5

5 Esse instrumento faz parte do KIT FORMATURA do curso SUPERA, promovido pela Secretaria
Nacional de Polticas sobre Drogas SENAD, do Ministrio da Justia, e executado pela Uni-
versidade Federal de So Paulo UNIFESP. http://www.supera.senad.gov.br/pluginfile.php/62085/
mod_resource/content/3/Assist.pdf.

28
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

1. Na sua vida qual(is) desta(s) substncia(s) voc j usou? (somente uso


no prescrito pelo mdico)
No Sim
b. bebidas alcolicas
c. maconha
d. cocana, crack
e. anfetaminas ou xtase
f. inalantes
g. hipnticos/sedativos
h. alucingenos
i. opioides/opiceos
j. outras (especificar)

2. Durantes os trs ltimos meses, com que frequncia voc utilizou essa(s)
substncias que mencionou? (primeira droga, depois a segunda droga)
Diariamente/
1 ou 2 Mensal- Sema-
Nunca quase todos
vezes mente nalmente
os dias
a. derivados de tabaco 0 2 3 4 6
b. bebidas alcolicas 0 2 3 4 6
c. maconha 0 2 3 4 6
d. cocana, crack 0 2 3 4 6
e. anfetaminas ou xtase 0 2 3 4 6
f. inalantes 0 2 3 4 6
g. hiponticos/sedativos 0 2 3 4 6
h. alucingenos 0 2 3 4 6
i. opioides/opiceos 0 2 3 4 6
j. outras (especificar) 0 2 3 4 6
Fonte: Adaptao e validao para o Brasil por HENRIQUE, I. F. S. et al. Validao da verso
brasileira do teste de triagem do envolvimento com lcool, cigarro e outras substncias (AS-
SIST). Rev. Assoc. Med. Bras., 50:199-206 (2004).

Outra alternativa para melhor captar esse tipo de comportamento usar


questionrios autoaplicveis, o que pode contribuir para que o entrevistado
sinta-se menos constrangido para declarar o uso de substncias psicoativas
legalmente proibidas. Mas o tema do comportamento indesejvel no se refere
apenas a consumo de drogas. A prtica de aborto, que tambm um tema de-
licado de pesquisa, deve seguir as mesmas recomendaes. H ainda de viti-
mizao como violncia domstica e outros tipos de situao violenta em que
a sensibilidade do pesquisador e a formatao do questionrio so cruciais
para o bom andamento da investigao.

29
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

5. Consideraes finais
Este texto, de carter introdutrio, destacou os principais aspectos do for-
mato de uma pesquisa quantitativa que permitem ao/ leitor(a) dar incio a
um aprendizado mais especfico das tcnicas que envolvem esse tipo de abor-
dagem. Como consideraes finais, alguns aspectos ganharo nfase com o
intuito de chamar ateno para as principais questes tratadas no texto.

O dado como uma construo um aspecto crucial para o entendimento


do processo de pesquisa em Cincias Sociais. Desde a escolha do referencial
terico at a operacionalizao do conceito, o pesquisador deve ter em mente
essa considerao. Como desdobramento desse primeiro aspecto, necessrio
assinalar que o fato de um dado ser construdo no significa que esse processo
seja subjetivo. As tomadas de deciso so tericas e operacionais: a formula-
o das perguntas, as opes de resposta, a sequncia do questionrio, o uso
de variveis quantitativas e qualitativas so questes cruciais para a qualidade
da mensurao.

A aplicao do questionrio, mesmo que altamente padronizado, deve ser


objeto de ateno do pesquisador, pois tambm um processo de interao
que, ao contrrio das tcnicas qualitativas onde a interao observador-sujeito
da pesquisa compem a tcnica, na aplicao de questionrio esta interao
deve ser minimizada e no desconsiderada. O entrevistado no deve se sentir
julgado e, mesmo nas questes mais delicadas, a liberdade da expresso deve
ser garantida ao mximo.

O terceiro e ltimo aspecto a ser ressaltado a necessidade do aprendizado


do uso das tcnicas de anlise quantitativa. Neste texto foi abordado o proces-
so de construo do dado quantitativo. A etapa seguinte como analis-lo.

6. Referncias bibliogrficas
BABBIE, E. Mtodos de pesquisa de survey. Belo Horizonte: Ed. UFMG,
2003.

BEAUD, S. & WEBER, F. Guia para pesquisa de campo: produzir e analisar


dados etnogrficos. Petrpolis, RJ: Vozes, 2014.

BOURDIEU, P., PASSERON, J.C. e CHAMBOREDON, J.C. O ofcio do so-


cilogo. 4 edio. Rio de Janeiro, Ed. Vozes, 2004.

CANO, I. Nas trincheiras do mtodo: o ensino da metodologia das cin-


cias sociais no Brasil. Sociologias, Porto Alegre, ano 14, n 31, set./dez. 2012,
pp. 94-119.

30
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS

COMBESSIE, J. C. O mtodo em sociologia. So Paulo: Edies Loyola,


2004.

ERIKSON, R., GOLDTHORPE, J. & PORTOCARERO, L. Intergeneratio-


nal class mobility in three Western European Societies: England, France and
Sweden. The British Journal of Sociology, vol. 30, n 4. Special Issue. Current
Research on Social Stratification, December, 1979, pp. 415-441.

GALTUNG, J. La matriz de datos. In: Teora y mtodos de la investigacin


social, Buenos Aires: Editorial Universitaria de Buenos Aires, 1965, vol. I, cap.
V, pp.1-34.

IANNI, O. Sociologia da sociologia. So Paulo: tica, 1989.

KAMAKURA, W. A.; MAZZON, J. A. Estratificao socioeconmica e


consumo no Brasil. So Paulo: Blucher, 2013.

LAZARSFELD, P. De los conceptos a los ndices empricos. In: BOU-


DON,R.; LAZARSFELD,P. (eds.). Metodologa de las ciencias sociales 1.
Conceptos e ndices. Barcelona: Ed. Laia, 1985, pp. 35-46.

MARX, KARL e ENGELS, FRIEDRICH. Manifesto do Partido Comunista.


Revista do Instituto de Estudos Avanados, n 34, set./dez. 1998, sees 1 e 2.

MEDEIROS, M. Questionrios: recomendaes para formatao. Texto


para discusso, 1063. Braslia: IPEA, 2005.

SANTOS, J. A. A teoria e a tipologia de classe neomarxista de


Erik Olin Wright. Dados, vol. 41, n 2, Rio de Janeiro, 1998. Dispo-
nvel em: <http://www.scielo.br/scielo.php?script=sci_arttext&pi-
d=S0011-52581998000200004&lng=en&nrm=iso>. access on 23 Sept. 2015.
http://dx.doi.org/10.1590/S0011-52581998000200004>.

SELLTIZ, C.; WRIGHTSMAN, L.; COOK, S.; KIDDER, L. Mtodos de


pesquisa nas relaes sociais. Vol. 2 Medidas na pesquisa social. So Paulo:
EPU Editora Pedaggica e Universitria Ltda., 1987.

SIMMEL, G. Questes fundamentais da sociologia. Rio de Janeiro: Zahar,


2006.

WEBER, Max. Classe, estamento e partido. In: Ensaios de sociologia. Rio


de Janeiro: LTC, 1982, pp. 211-228.

WRIGHT, E. Class counts: Comparative studies in class analysis. Cambrid-


ge: Cambridge University Press, 1997.

31
INTRODUO AMOSTRAGEM

O uso da entrevista na pesquisa emprica


Murillo Marschner Alves de Brito
Pesquisador do Cebrap e do CEM/Cebrap e Professor
do Departamento de Educao da PUC-Rio

1. Introduo
A utilizao de mtodos de amostragem algo muito frequente em nosso
cotidiano. Amostrar nada mais do que utilizar informaes sobre parte de
um universo para inferir caractersticas sobre a totalidade do universo. Assim,
quando ouvimos de nossos amigos que certo restaurante excelente, vamos at
o restaurante e escolhemos um entre vrios pratos do cardpio para testar se
o restaurante de fato bom ou no. Dependendo do que achamos do prato,
confirmamos ou no a hiptese de que o restaurante bom, a partir de uma
amostra do cardpio.

Muitas vezes, quando vamos ao mdico, a fim de investigar o que provoca


o mal-estar que nos motiva a visit-lo, ele nos pede um exame de sangue. No
laboratrio, com uma agulha deliciosamente afiada, o tcnico extrai uma
amostra do nosso sangue. A partir dessa amostra, o mdico faz inferncias a
respeito do que pode explicar os sintomas que descrevemos a ele.

Um chef de cozinha, preparando um molho, pega com a colher um pouco


do contedo da panela, coloca-o na mo e o prova, para se assegurar de que
est com o sabor que ele deseja: esse chef est amostrando o molho que cozi-
nha e inferindo se a totalidade do contedo da panela est saborosa ou no de
acordo com aquela amostra que ele coletou (Bussab, Morettin, 2010).

O proprietrio de um apartamento pretende vender o imvel, mas no faz


ideia do valor pelo qual pode colocar o imvel venda. Para obter uma res-
posta, ele visita vrios apartamentos venda na mesma regio similares ao
dele em tamanho e, a partir dessa amostra de imveis, define um preo que
considera competitivo para que a venda de seu imvel se efetive.

Procedimentos de amostragem fazem parte de nosso dia a dia de maneira


mais frequente do que poderamos supor inicialmente. Estamos em diversos
momentos buscando inferir caractersticas a respeito de uma populao (seja
ela de restaurantes, de molhos, de clulas sanguneas, de imveis, de indiv-
duos etc.) a partir de pequenos pedaos, ou amostras, dessas populaes. Es-
ses procedimentos de seleo amostral podem ser sistemticos ou no, e as
concluses que podemos extrair das caractersticas da populao a partir das
amostras que selecionamos iro variar de acordo com os procedimentos que
utilizamos para selecion-las.

Esse no um problema to grande quando falamos em experimentar o


molho, mas pode ter srias consequncias quando queremos investigar fen-

32
INTRODUO AMOSTRAGEM

menos que tipicamente interessam s cincias sociais, tais como eleies ou


desemprego pois indivduos so muito mais heterogneos em suas caracte-
rsticas do que uma panela de molho, e uma amostra ser to mais precisa em
caracterizar a populao a que pretende representar quanto maior for a sua
capacidade de captar a heterogeneidade caracterstica dessa populao.

2. Por que amostrar?


Pesquisas amostrais se contrapem a levantamentos censitrios porque so
esforos de levantamento de informaes sobre uma parcela da populao de
interesse, ao passo que os levantamentos censitrios so esforos de obteno
de informaes a respeito de todos os indivduos (elementos) que compem
uma populao de interesse.

Muitas vezes uma aproximao dos parmetros de interesse pode ser o su-
ficiente para os objetivos da investigao, e a obteno de uma amostra (e no
um levantamento censitrio) pode ser muito menos dispendiosa trata-se de
pensar em um equilbrio entre a preciso necessria das estimativas e o custo
de pesquisa necessrio para sua obteno.

A temporalidade necessria para a obteno da informao outro fator


que muitas vezes constrange os esforos de pesquisa, e a operao reduzida
em que consistem pesquisas amostrais, com relao aos censos, permite que
a informao seja gerada com mais rapidez. Uma estimativa aproximada, a
tempo, muito melhor do que informao censitria que chega tarde demais.
A economia de recursos e tempo permite que se obtenham tambm informa-
es mais detalhadas (Parsons, 1974).

Um exemplo claro disso como a aplicao de surveys domiciliares amos-


trais conta com questionrios estruturados muito mais detalhados do que
aqueles utilizados nos censos demogrficos, tambm domiciliares. A ttulo
de ilustrao, o questionrio bsico do Censo Demogrfico 2010 demorava,
em mdia, 10 minutos para ser aplicado; o questionrio da Pesquisa Nacional
por Amostragem de Domiclios (PNAD), mais extenso, demora entre 30 e 40
minutos, em mdia, para ser aplicado. Se a complexidade dos questionrios
dos surveys amostrais, junto s necessidades de qualificao e treinamento dos
pesquisadores, fosse transposta aos censos demogrficos, os custos seriam ab-
solutamente proibitivos.

Alguns so mais diretos em afirmar que h duas razes principais para que
se adotem procedimentos de amostragem em vez de levantamentos censit-
rios: tempo e custo (Babbie, 1999). No h dvida de que os custos de aplica-
o de um questionrio a uma amostra dos domiclios do estado de So Paulo
de, digamos, 50.000 domiclios sero muito menores do que os de um levan-

33
INTRODUO AMOSTRAGEM

tamento censitrio que levante informaes primrias junto a cada um dos,


aproximadamente, 12 milhes de domiclios do estado (IBGE, 2010). No h
dvida tambm de que uma pesquisa amostral desse universo de domiclios
levaria muito menos tempo para ser executada do que um levantamento cen-
sitrio. Assim, uma pesquisa amostral economizaria tempo e dinheiro e, de-
pendendo de seu desenho, possibilitaria controlar os erros das estimativas que
dela resultassem.

H, tambm, outras razes recorrentemente levantadas que justificam a


utilizao de amostras (Slonim, 1967): para certos fenmenos ou processos,
um levantamento censitrio exigiria tanta coordenao logstica que seria im-
possvel realiz-lo sem que ocorressem erros que introduzissem vieses nas es-
timativas dos parmetros populacionais de interesse. Ao fim e ao cabo, como
as amostras esto mais sujeitas ao controle das fontes de variao conhecidas,
podem inclusive gerar estimativas mais precisas dos parmetros de interesse
de uma populao do que um censo, que est mais sujeito a vieses de mensu-
rao decorrentes de erros no amostrais.

Um exemplo de vis tpico decorrente das dificuldades logsticas (ou seja,


um erro no amostral) de realizao de um censo a mensurao da parti-
cipao no mercado de trabalho: se o levantamento em campo se estender
entre, digamos, julho e dezembro de um mesmo ano, como as taxas de desem-
prego prximas ao Natal so tipicamente mais baixas, uma estimativa de de-
semprego decorrente de um levantamento que se estenda por 7 meses estar
inevitavelmente enviesada.

Existem tambm situaes nas quais a realizao de um censo impossvel,


e qualquer investigao deve, necessariamente, ser amostral. Em certos casos
o universo simplesmente infinito. Pense em uma investigao sobre padres
de viagens no metr. Se diariamente em grandes cidades acontecem milhes
de viagens, a totalidade do universo de viagens j ocorridas simplesmente
inalcanvel s resta ao pesquisador (ou ao planejador urbano) investigar
tais padres a partir da seleo de uma amostra dessas viagens; um censo
impossvel de ser realizado. Existem at situaes em que o processo de
amostragem , ele prprio, destrutivo. Uma indstria de barras de ferro para
construo civil testa a resistncia de suas barras selecionando uma amostra
e submetendo-a a um teste que pressiona a barra at que ela se rompa. Nesse
caso no h sentido em realizar um censo para estimar os parmetros de resis-
tncia do universo de barras produzidas pela empresa (Parsons, 1974).

Existem, portanto, inmeras razes para utilizar procedimentos de amos-


tragem em investigaes empricas. Uma vez definido que o processo de inves-
tigao se dar por amostragem, o prximo passo refletir sobre a articulao
entre os procedimentos amostrais e os objetivos da investigao. O mtodo de
obteno de amostras muito relevante para determinar a robustez e a vali-

34
INTRODUO AMOSTRAGEM

dade de resultados empricos. Existem tantas maneiras de realizar a definio


de uma amostra que h especialidades dentro da Estatstica que se dedicam
investigao dos melhores mtodos para faz-lo, sendo Amostragem e Plane-
jamento de Experimentos as duas mais conhecidas (Bussab, Morettin, 2010).
Mas, antes de definir qualquer procedimento de seleo amostral, impor-
tante ter clareza sobre alguns conceitos bsicos aplicados ao planejamento da
investigao.

3. Conceitos bsicos
Ao descrevermos a generalidade da existncia de procedimentos amostrais
(como eles so frequentes no nosso dia a dia) e apresentarmos algumas das
razes pelas quais a utilizao de procedimentos de amostragem vantajosa,
j trouxemos alguns dos conceitos bsicos que devem ser tomados em consi-
derao quando da definio de procedimentos de amostragem.

O primeiro deles o conceito de elemento ou unidade de anlise. Trata-se


da unidade bsica de obteno da informao. Em uma pesquisa eleitoral, a
unidade de anlise so os indivduos aptos a votar (eleitores); em uma pesqui-
sa sobre a desigualdade na distribuio do PIB entre naes, as unidades de
anlise so as naes. muito importante que, antes de definir um desenho
de pesquisa, o pesquisador tenha clareza a respeito da unidade de anlise de
seu estudo.

O conjunto total agregado das unidades de anlise compe o que deno-


minamos populao. A populao , portanto, a agregao dos elementos a
partir dos quais ser extrada uma amostra. Se uma prefeitura est interessada
em estimar caractersticas da populao que utiliza determinado equipamen-
to urbano pblico a partir de uma amostra, a populao de referncia a tota-
lidade de indivduos que frequentam o equipamento urbano em certo perodo
de tempo.

As unidades de amostra so o conjunto de elementos considerados na se-


leo de alguma etapa de amostragem. Em uma seleo aleatria de estgio
nico, unidades de anlise coincidem com elementos; em uma seleo amos-
tral de mltiplos estgios, como tpico em surveys domiciliares, tem-se uma
unidade de amostra para cada estgio de seleo: no primeiro estgio, sele-
cionam-se, por exemplo, os quarteires dentro de um municpio (aqui a uni-
dade de amostra o quarteiro), e, dentro dos quarteires, selecionam-se os
domiclios (nesse estgio, a unidade de amostra o domiclio). Geralmente,
referimo-nos s unidades de amostra dos diferentes estgios como unidades
amostrais primria, secundria, e assim por diante.

35
INTRODUO AMOSTRAGEM

Figura 1 Processo de amostragem em mltiplos estgios, com mltiplas unidades amostrais

Um caso recorrentemente referido na literatura muito til para ilustrar a


importncia de uma definio precisa desses conceitos na operacionalizao
do desenho de pesquisa. Na eleio para presidente dos Estados Unidos em
1936, a Literary Digest pesquisou uma amostra de 2 milhes de eleitores atra-
vs de instrumentos enviados pelo correio, e fundamentou a seleo de sua
amostra em catlogos telefnicos e listas de registros de automveis. A pre-
dio da pesquisa sobre o resultado da eleio uma vitria do republicano
Landon sobre o democrata Roosevelt por mais de 15 pontos percentuais foi
absolutamente equivocada.

Esse erro na estimativa foi atribudo incorreo do procedimento de


amostragem utilizado: o universo de donos de telefones e automveis poca
no era representativo do universo de eleitores, pois, na esteira da depresso
econmica ps-1929, uma grande populao de pessoas mais pobres (que no
tinham nem telefone nem carro), entre as quais era mais frequente o voto
nos democratas, compareceu s urnas. Assim, o problema da estimativa da
Literary Digest estava na suposio de que as listas de onde foram retiradas
as amostras coincidiam com a populao de eleitores. A histria demonstrou
que esta suposio no se sustentava, e Roosevelt venceu a eleio, o que a
amostra da revista no foi capaz de prever.

Assim, para que tenhamos estimativas robustas, importante estarmos se-


guros de que os procedimentos de seleo amostral se baseiam em uma defi-
nio clara e inequvoca da totalidade da populao a ser amostrada, com uma
definio objetiva a respeito das caractersticas que marcam essa seleo. No
caso da previso da Literary Digest, a populao considerada para a extrao
da amostra da pesquisa cumpria os requisitos de idade e outros que definiam
quem podia e quem no podia votar nos Estados Unidos, mas exclua todos os
indivduos que cumpriam os pr-requisitos mas no tinham nem carro nem
telefone. Com esse vis na seleo amostral, dificilmente tal amostra geraria
estimativas confiveis a respeito da populao que pretendia representar o
total de eleitores (Slonim, 1967; Parsons, 1974; Babbie, 1999).

36
INTRODUO AMOSTRAGEM

4. Tipos de amostra
Uma vez que o pesquisador define os dados que devero ser recolhidos e o
instrumento (questionrio estruturado, por exemplo) a utilizar para a coleta,
o passo seguinte consiste em definir um processo de amostragem adequado
ao tipo de dados e aos interesses da pesquisa.1

necessrio que se estabelea de sada um plano de amostragem de acordo


com a populao-alvo, com a definio da populao pesquisada e com um
processo adequado de organizao da pesquisa e, portanto, de obteno das
informaes junto populao. Dados coletados de forma descuidada podem
ser to inteis que nenhum procedimento estatstico consegue salv-los (Trio-
la, 1999).

As metodologias mais habitualmente utilizadas de seleo amostral podem


ser classificadas em dois tipos principais: probabilsticas e no probabilsticas.
A grande diferena entre ambas que nas amostras probabilsticas sabemos,
de antemo, as chances que cada elemento da populao tem de ser seleciona-
do para a amostra independentemente de haver chances iguais ou no. Nas
amostras no probabilsticas, essas chances no so conhecidas de antemo.

4.1. Amostras probabilsticas


Amostras probabilsticas so aquelas nas quais o pesquisador dispe de
uma listagem dos elementos que compem a populao do estudo e, a partir
dessa listagem, pode estimar as chances de cada um dos elementos pertencer
amostra os elementos da populao podem, portanto, ser selecionados de
acordo com uma probabilidade predefinida, e uma amostra tende a ser repre-
sentativa da populao se todos os elementos tiverem chances iguais de sele-
o. Em amostras desse tipo, a teoria da probabilidade nos permite estimar a
preciso ou a representatividade da amostra em relao ao total da populao
de interesse. A seleo aleatria (ou randmica) dos elementos amostrados
uma caracterstica importante desse tipo de procedimento amostral.

Existem alguns tipos de amostragem probabilstica. Uma amostra aleat-


ria simples aquela em que cada elemento da populao tem a mesma chance
de ser selecionado para a amostra. Nesse tipo de processo de amostragem, se
h uma amostra de N elementos a ser selecionada a partir da populao, cada
uma entre todas as amostras de tamanho N que poderiam ser selecionadas tm
oportunidade igual de ser retirada da populao. Para tanto, necessrio que

1 A discusso sobre os tipos de procedimento amostral que apresentamos aqui baseia-se fun-
damentalmente em Slonim (1969), Parsons (1974), Richardson (1985), Triola (1999), Babbie (1999) e
Bussab e Morettin (2010). Trata-se de uma leitura generalista dessa discusso, que de maneira al-
guma apresenta seus termos de forma exaustiva. Mesmo entre esses autores existem variaes
sutis na construo das tipologias, e ao leitor interessado em aprofundar-se nessas questes
recomenda-se o recurso a essas referncias.

37
INTRODUO AMOSTRAGEM

cada elemento da populao seja identificado atravs de um nmero nico, o


que significa que o pesquisador deve ter em mos uma listagem de todos os
elementos da populao. Uma vez tendo-se atribudo um nmero a cada ele-
mento da populao, sorteiam-se aleatoriamente os casos que sero utilizados
para compor a amostra.

Uma amostra sistemtica aquela na qual h uma populao finita e em


que o pesquisador decide escolher os casos amostrados de acordo com um
dado intervalo. Nesse tipo de procedimento de amostragem, se contamos com
uma populao de 100 elementos e queremos uma amostra com 30% do total,
selecionamos um de cada trs elementos, em ordem (por exemplo, o 3, de-
pois o 6, depois o 9, e assim por diante), ou seja, selecionamos o k elemento
da lista total no caso do nosso exemplo, sempre o 3 elemento aps o ltimo
selecionado, at o fim da lista da populao. Empiricamente, os resultados de
uma seleo amostral sistemtica so virtualmente idnticos aos resultados
obtidos atravs de procedimentos de amostragem aleatria simples.

Ao adotar esse procedimento de amostragem, o pesquisador deve atentar


para a organizao da listagem na qual se baseia a seleo, verificando se no
h nela alguma estrutura implcita. Se, por exemplo, uma empresa contrata-
da para realizar uma pesquisa junto a jogadores profissionais de futebol, rece-
be dos clubes uma listagem de seus 11 jogadores na qual eles esto ordenados
por posio (primeiro o goleiro, depois os zagueiros, meios-campos e atacan-
tes) e decide realizar uma amostra sistemtica com intervalos de 11 elementos
(o 1, depois o 12, depois o 23 e assim por diante), o elemento selecionado
ser sempre da mesma posio, o goleiro, no caso, o que introduziria um vis
na amostra selecionada.

Amostras estratificadas no so necessariamente um tipo diferente de


amostragem probabilstica (com relao aleatria e sistemtica), mas sim
uma forma um pouco diferente de fazer uso de amostragens aleatrias. Esse
tipo de seleo amostral o mais adequado quando o pesquisador est seguro
de que h, em sua populao, subconjuntos (dois ou mais) homogneos da
populao, mas heterogneos se comparados uns aos outros em termos dos
interesses da pesquisa.

Uma vez identificadas as caractersticas que definem o pertencimento dos


elementos aos grupos relativamente homogneos que devem, necessariamen-
te, ser mutuamente exclusivos , aplicam-se tcnicas de seleo aleatria de
elementos dentro de cada estrato. Suponhamos que o Ministrio da Sade
contrate uma pesquisa que pretende investigar hbitos relacionados sade
reprodutiva da populao beneficiria de um certo programa. Como sabemos
que tais hbitos tendem a ser diferentes entre homens e mulheres, esse estudo
poderia adotar um procedimento de seleo amostral dos beneficirios estra-
tificado por sexo.

38
INTRODUO AMOSTRAGEM

Em outro exemplo, suponhamos que uma Secretaria Municipal de Cultura


queira estimativas sobre hbitos de utilizao de seus equipamentos espalha-
dos pelo municpio. As caractersticas de tais equipamentos variam signifi-
cativamente o municpio conta com bibliotecas, centros culturais, teatros,
cinemas, entre outros e a administrao municipal quer entender se h di-
ferenas nas caractersticas da populao que frequenta esses equipamentos.
Nesse caso, o desenho de pesquisa pode se beneficiar de procedimentos de
amostragem estratificada por tipos de equipamento, selecionando aleatoria-
mente usurios de bibliotecas, de teatros, e assim por diante, buscando repre-
sentatividade da amostra de indivduos por tipo de equipamento.

4.1.1. Combinando procedimentos de seleo amostral


Muitas vezes as pesquisas empricas contam com um desenho amostral
em mais de uma etapa, combinando tcnicas que assegurem a seleo de uma
amostra representativa da populao de interesse. Consultando documentos
tcnicos entre algumas das grandes pesquisas domiciliares no pas, podemos
obter informaes sobre o planejamento amostral de cada uma delas. A se-
guir, apresentamos alguns exemplos.

A Pesquisa de Emprego e Desemprego (PED) do Departamento Intersin-


dical de Estatstica e Estudos Socioeconmicos (DIEESE http://www.diee-
se.org.br/analiseped/ped.html) um survey domiciliar que tem por objetivo
mensurar caractersticas da populao economicamente ativa, e de sua ativi-
dade no mercado de trabalho. O documento tcnico sobre o planejamento
amostral descreve:

(...) se utiliza amostragem em dois estgios, sendo ne-


cessrio dimensionar adequadamente o nmero de uni-
dades primrias de sorteio (conglomerados, em geral
coincidentes com setores censitrios) e o de unidades se-
cundrias, ou seja, domiclios. Toma-se como sistema de
referncia original a relao mais recente disponvel, no
momento de implantao da pesquisa, dos setores censi-
trios definidos pelo IBGE. De acordo com a estratificao
adotada, este sistema de referncia organizado, etapa na
qual se eliminam os setores rurais e outros que no consti-
tuem interesse da pesquisa.2

O planejamento amostral da PED prev unidades primrias de sorteio (os


setores censitrios) e unidades secundrias (os domiclios). Trata-se de um
procedimento de seleo amostral em dois estgios: no primeiro estgio sor-
teiam-se os setores censitrios, e dentro dos setores censitrios sorteiam-se
os domiclios. Por causa do desenho amostral da PED, que permite represen-

2 Bussab, Dini e Mancini (2003).

39
INTRODUO AMOSTRAGEM

tatividade sobre o total da populao em 6 das regies metropolitanas brasi-


leiras (So Paulo, Porto Alegre, Salvador, Fortaleza, Recife e Belo Horizonte),
Guimares, Alves de Brito e Silva (2010) realizam um estudo que investiga
diferenas na vinculao entre estratgias de obteno de trabalho e qualidade
das ocupaes obtidas em trs regies metropolitanas do pas, evidenciando
as diferenas regionais na dinmica de procura e procura efetiva de trabalho
no pas.

A Pesquisa Nacional por Amostragem de Domiclios (PNAD) um sur-


vey domiciliar nacional que realiza levantamento domiciliar. Conta, em sua
estrutura permanente, com informaes sobre caractersticas gerais da po-
pulao (migrao, educao, trabalho, estrutura familiar, condies habita-
cionais). Realizada pelo IBGE desde a dcada de 1970, ocasionalmente conta
com levantamentos suplementares, como mobilidade social (1976, 1982, 1988
e 1996), segurana alimentar (2004 e 2009), trabalho infantil (2001), sade
(1998, 2003 e 2008), vitimizao e justia (2009), transferncia de renda e pro-
gramas sociais (2006), entre outros. Assim como a PED, a PNAD tem um
desenho amostral com mais de um estgio:

(...) trata-se de um modelo aleatrio, em 3 estgios de


seleo (municpios, setores e domiclios), com estratifi-
cao das unidades de 1 estgio e com probabilidades de
seleo proporcionais ao tamanho para os municpios e se-
tores, enquanto que os domiclios sero selecionados com
probabilidades iguais dentro dos setores.3

No caso da PNAD o desenho amostral conta com 3 estgios, todos ale-


atrios, porm proporcionais ao tamanho (em populao) das unidades no
1 estgio (municpios) e no 2 estgio (setores censitrios). No 3 estgio, o
sorteio dos domiclios dentro do setor, a amostragem aleatria, sorteando-se
os domiclios pesquisados todos os domiclios dentro de um setor censit-
rio tm a mesma chance de ser selecionados, o que no ocorre nos primeiros
dois estgios, em que a seleo aleatria porm proporcional ao tamanho
dos setores censitrios e dos municpios. A produo acadmica brasileira se
apropria extensamente da PNAD, muito devido ao fato de que seu desenho
amostral, representativo no nvel dos estados (portanto tambm por grandes
regies e em nvel nacional) permite inferncias robustas a respeito de diver-
sos fenmenos da vida social e econmica da populao brasileira.

3 Para a PNAD 2011, ver IBGE (2011).


4 A amostragem da PNAD um pouco mais complexa do que descreve a citao. Optamos aqui
por apresent-la em termos gerais para fins de exposio. Mais detalhes podem ser encontrados
em IBGE (2011).

40
INTRODUO AMOSTRAGEM

Entre os temas que vm mais sistematicamente sendo tratados com a uti-


lizao das informaes provenientes dessa pesquisa esto educao (Ha-
senbalg e Valle Silva, 1990; Castro, 2000; Valle Silva, 2003; Valle Silva e Ha-
senbalg, 2000; Rios-Neto e Guimares, 2010; Marteleto, Carvalhes e Hubert,
2012; Comin e Barbosa, 2011; Alves de Brito, 2014), sade (Barros, Csar,
Carandina e Torre, 2006; Ribeiro, Barata, Almeida e Silva, 2006; Santos, 2011;
Miquilin, Marn-Len, Monteiro e Correa-Filho, 2013; Camargos e Gonzaga,
2015), renda e trabalho (Paes de Barros, Henriques e Mendona, 2000; Bider-
man e Guimares, 2004; Corseuil e Foguel, 2002; Soares, 2006; Souza, Ribeiro
e Carvalhes, 2010), acesso a polticas pblicas (Campelo e Neri, 2013), entre
diversos outros temas de pesquisa, especialmente aqueles voltados ao planeja-
mento de polticas pblicas.

Box 1 - Setores censitrios


Os setores censitrios so as unidades bsicas de amostragem desen-
volvidas pelo IBGE para os Censos Demogrficos, Trata-se de subdivi-
ses intramunicipais do territrio brasileiro, contguas espacialmente,
que so utilizadas no apenas pelo Censo, mas por diversas outras pes-
quisas, como unidades bsicas de amostragem por serem razoavelmente
homogneos do ponto de vista socioeconmico. A definio do IBGE
trata o setor censitrio como a unidade territorial de coleta de dados: a
unidade de controle cadastral formada por rea contnua, situada em um
nico quadro urbano ou rural, com dimenso e nmero de domiclios ou
de estabelecimentos que permitam o levantamento das informaes por
um nico Agente Credenciado, segundo o cronograma estabelecido. O
Setor Censitrio a unidade territorial de coleta do Censo Demogrfico
2010 (IBGE, 2010). No Censo de 2010, o IBGE dividiu o territrio bra-
sileiro em 316.574 setores censitrios.

Nos mapas abaixo apresentamos a distribuio dos setores censitrios


do municpio de Campinas. Nota-se como os setores censitrios urbanos
so geralmente menores em rea do que os setores censitrios rurais. O
mapa esquerda mostra a totalidade do municpio, e o mapa direita
destaca a aglomerao dos setores censitrios na regio central da cidade:

41
INTRODUO AMOSTRAGEM

Mapas 1 e 2: Setores censitrios Campinas

Fonte: IBGE, Google.

42
INTRODUO AMOSTRAGEM

Cada setor censitrio uma pequena diviso territorial dentro do


municpio. No caso de So Paulo, h uma correspondncia entre a con-
formao dos distritos da cidade e os limites dos setores censitrios que
os compem podemos pensar nos distritos como agregaes dos seto-
res censitrios. Os dois mapas abaixo demonstram isso. direita, temos
um mapa com os setores censitrios que compem o distrito da S, e
esquerda, o mapa que representa a distribuio do setores censitrios
no distrito da Bela Vista:

Mapas 3 e 4: Setores censitrios So Paulo Distritos da Bela


Vista e da S

43
INTRODUO AMOSTRAGEM

A Pesquisa por Amostragem de Domiclios de Minas Gerais (PAD-MG)


tambm um survey amostral realizado pela Fundao Joo Pinheiro (http://
www.fjp.mg.gov.br/index.php/indicadores-sociais/-pesquisa-por-amostra-
de-domicilios-pad-mg) que recobre todo o territrio do estado de Minas Ge-
rais e voltado para o planejamento das aes e polticas pblicas do governo
do estado. No relatrio metodolgico que descreve o plano amostral da pes-
quisa (FJP, 2010), l-se:

A populao de interesse para a pesquisa constitu-


da pelos domiclios mineiros, tanto em situao urbana
quanto na rural. A base de dados composta pela lista-
gem dos setores censitrios feita pelo Censo Demogrfico
de 2000, com a eliminao de setores compostos apenas
de domiclios coletivos. A unidade de seleo amostral o
domiclio (...) entre os critrios de estratificao daremos
maior nfase, no planejamento da amostra, ao critrio das
Mesorregies.

Trata-se, tambm, de uma pesquisa domiciliar que utiliza os setores censit-


rios como unidades primrias de amostragem. Mesmo que os setores censit-
rios sejam as unidades primrias, o domiclio a unidade de anlise. A descrio
deixa tambm explcita a inteno de utilizar as mesorregies (definies admi-
nistrativas territoriais utilizadas pelo governo de Minas Gerais) como critrio
de estratificao da amostra nesse caso, a inteno que a amostragem seja
capaz de representar a heterogeneidade que marca as diferentes mesorregies
do estado. Tal desenho de amostra permite, por exemplo, a anlise apresentada
em Fundao Joo Pinheiro (2011), sobre as desigualdades nas condies de
vida da populao idosa (60 anos ou mais) entre as diferentes mesorregies do
estado, permitindo assim o planejamento de aes mais localizadas em termos
de polticas pblicas estaduais voltadas a essa populao.

Mas claro que nem todas as pesquisas amostrais tm os domiclios como


unidade de anlise. O PISA Programme for International Student Asses-
sment um estudo amostral que tem como principal objetivo avaliar a
aprendizagem de estudantes a partir de testes padronizados. Trata-se de uma
pesquisa da OCDE (Organizao para a Cooperao e Desenvolvimento Eco-
nmico) que ocorre em diversos pases e avalia a proficincia dos estudantes
em lnguas, matemtica e cincias. Para garantir comparabilidade internacio-
nal, a OCDE define regras a serem seguidas pelos desenhos amostrais da pes-
quisa em cada pas participante.

O relatrio tcnico do PISA 2012 (OCDE, 2014) descreve da seguinte ma-


neira, em linhas gerais, o desenho bsico de amostragem da investigao, com
alguns dos critrios mnimos de seleo amostral que deveriam ser seguidos
por todos os pases participantes:

44
INTRODUO AMOSTRAGEM

A populao-alvo do PISA, em cada pas participante,


constituda de estudantes com 15 anos de idade que fre-
quentam instituies de ensino na 7 srie ou acima (...) deve
ser selecionado um mnimo de 150 escolas em cada pas; se
um pas participante tiver menos de 150 escolas, ento todas
sero selecionadas. Dentro de cada escola participante, ser
selecionado aleatoriamente um nmero predeterminado de
estudantes (habitualmente 35) com probabilidades iguais.
(...) Ao todo, uma amostra com no mnimo 4.500 estudantes
deve ser alcanada, ou toda a populao, caso seja menor do
que 4.500 estudantes. Deve haver, ao menos, 20 estudantes
selecionados em cada escola, de modo a garantir preciso
suficiente para a estimao dos componentes de varincia
intraescolar e entre escolas um importante objetivo anal-
tico do PISA. (Traduo do autor)

Para a amostra de estudantes do PISA, a populao de interesse so os estu-


dantes de 15 anos. O desenho em cada pas deve selecionar, no mnimo, uma
amostra de 150 escolas. Dentro das escolas, selecionam-se aletoriamente, no
mnimo, 35 alunos. A amostra total de alunos deve tambm ter no mnimo
4.500 estudantes para a totalidade do pas. Para a realizao desse procedi-
mento de amostragem em dois estgios primeiro as escolas, depois, dentro
das escolas, os alunos os responsveis pelo PISA em cada pas devem ter em
seu poder (a) uma listagem de todas as escolas e (b) uma listagem de todos os
alunos dentro de cada escola. Segundo dados do INEP (Instituto Nacional de
Estudos e Pesquisas Educacionais Ansio Teixeira), rgo vinculado ao MEC
(Ministrio da Educao) responsvel pela realizao do PISA no Brasil, fo-
ram amostradas 950 escolas e 20.127 alunos na edio de 2009 da pesquisa.

Diversos trabalhos se utilizaram dessa pesquisa para inferir caractersticas


e processos empiricamente observveis da dinmica educacional do pas. As
robustas concluses analticas de Bonamino, Alves e Franco (2013) sobre os
efeitos dos diferentes tipos de capital sobre resultados educacionais no se-
riam possveis se no pudessem contar com um desenho amostral representa-
tivo dos estudantes brasileiros tal como se apresenta no PISA.

Todos os exemplos que trouxemos nesta seo trataram at aqui de proce-


dimentos probabilsticos de seleo amostral. Como mencionamos anterior-
mente, a caracterstica distintiva desses tipos de desenho de amostragem o
fato de que conhecemos as probabilidades que cada elemento da populao
de interesse tem de ser amostrado. Mas nem todas as definies de amostra
dependem desse pressuposto. Muitos desenhos de pesquisa tm, muitas vezes,
objetivos que no se relacionam diretamente a obter estimativas representati-
vas de toda uma populao. Por vezes a inteno evidenciar processos muito
localizados mas de grande valor analtico. Nesses casos, so utilizadas amos-
tras no probabilsticas.

45
INTRODUO AMOSTRAGEM

4.2. Amostras no probabilsticas


Amostras no probabilsticas so aquelas nas quais no sabemos de ante-
mo as probabilidades que cada elemento da populao tem de ser amostrado
o que ocorre, em geral, em situaes nas quais o julgamento do pesquisador
o que determina a pertinncia dos casos amostrados para os interesses de
pesquisa. Quando estudantes de uma especializao em negcios exploram
estudos de caso a respeito de empreendimentos bem-sucedidos, a amostra
desses empreendimentos no randmica h interesses, nesse caso, de
aprendizagem em negcios, que justificam a escolha dos casos.

H muitas razes para considerar que o estudo de casos especficos se justi-


fica em determinados desenhos de pesquisa. Se um pesquisador tem interesse
em investigar a emergncia de polticas de transferncia de renda, no lhe in-
teressa uma amostra aleatria das polticas pblicas, nem, muito menos, uma
amostra aleatria de todos os programas de transferncia de renda implemen-
tados, pois uma enorme parcela deles pode ser muito incipiente e localizada...
Enfim, talvez seja mais interessante investigar somente as iniciativas de maior
relevncia.

E o que relevncia seno uma definio mais ou menos subjetiva de


certos critrios para a seleo dos casos que compem o desenho da investi-
gao? Amostrar de forma probabilstica ou no probabilstica depende, por-
tanto, dos objetivos do desenho de pesquisa. Em amostras no probabilsticas,
a unidade elementar de interesse determinada subjetivamente pelo analista
e tem, portanto, um carter mais intuitivo.

Na amostragem intencional ou por julgamento, selecionam-se os casos a


partir de conhecimentos prvios a respeito dos elementos da populao. Nes-
ses casos o pesquisador julga que os elementos selecionados possuem carac-
tersticas tpicas representativas da populao que lhe interessa, podendo essa
populao de interesse ser mais ou menos coincidente com populao geral
ou absolutamente desviante.5

Esse tipo de situao de pesquisa muito comum entre institutos de pes-


quisa de mercado. Empresas esto sempre interessadas em roubar clientes
de suas concorrentes. Se determinada empresa quer entender quais as diferen-
as entre os seus servios e os da concorrente, para ela interessante investigar
uma amostra de usurios da concorrente h um critrio, subjetivamente de-
finido, adjacente aos interesses do desenho de pesquisa, que orienta a seleo
dos casos que compem a amostra.

5 No se discutir aqui o estudo das situaes de desvio nas Cincias Sociais. Interessados
podem ver, por exemplo, a discusso que Howard Becker faz das amostras no probabilsticas
em Segredos e truques de pesquisa (1998) e o interessante estudo sobre o estigma de Erving
Goffman (1963).

46
INTRODUO AMOSTRAGEM

Mas, obviamente, essa lgica no se aplica somente a estudos de mercado.


Se um pesquisador tem, por exemplo, interesse em entender o processo legis-
lativo que definiu a Lei n 12.711/2012 que rege a distribuio de vagas em
universidades federais por critrios raciais , no interessa obter uma amostra
probabilstica de todos os projetos de lei a respeito de aes afirmativas nas
universidades brasileiras; o que importa mesmo aquele caso especfico de
projeto de lei, escolhido como caso amostral por um julgamento subjetivo do
pesquisador, que est colado aos interesses da sua investigao. Muitas vezes,
no o interesse da pesquisa generalizar para o total da populao seus acha-
dos, mas sim evidenciar certos processos, mecanismos e representaes que
contribuem para a compreenso dos sentidos que orientam prticas que so
especficos a certos segmentos da populao, ou, de maneira mais geral, a cer-
tas dimenses da realidade social ou seja, no h interesse em generalizao
dos fenmenos, mas sim em expresses de sua especificidade.

A fim de avaliar os processos de transformao do trabalho industrial


ocorridos no Brasil entre meados dos anos 1990 e incio dos anos 2000, Gui-
mares (2004) debrua-se sobre as evidncias trazidas pela trajetria dos tra-
balhadores no setor qumico-petroqumico brasileiro, espao privilegiado de
observao por representar de forma robusta as complexas relaes tpicas de
cadeias produtivas industriais modernas. Abdal e Navarra (2014), analisando
uma poltica pblica de acesso ao ensino superior, investigam, atravs de uma
amostra intencional (de jovens beneficirios do programa), a forma como
deslocamentos e distncias podem explicar padres de escolha de instituies
de ensino superior.

Amostragens no probabilsticas tambm podem ser obtidas atravs de


procedimentos de amostragem por cotas. Esse tipo de amostragem, em vez
de partir de uma listagem do total de elementos que compem uma popula-
o como o caso das amostras probabilsticas , comea com uma matriz
descrevendo as caractersticas da populao-alvo (Babbie, 1999). Aps a cria-
o dessa matriz (sexo por idade, por exemplo), procura-se preencher cada
uma das clulas com casos que conjuguem as caractersticas delimitadas. Esse
o caso de um estudo sobre padres de criao dos filhos entre classes de-
senvolvido por Lareau (2007). Nesse trabalho, o interesse analtico da autora
comparar os mecanismos de reproduo da posio de classe, partindo de
uma suposta diferena de classe e raa no padro de criao dos filhos como
hiptese explicativa sobre a transmisso da posio social. Para isso ela define
uma amostra de famlias que cruza raa e classe (6 estudos de caso 3 classes
sociais e 2 categorias raciais) para o desenvolvimento de seu trabalho de ob-
servao etnogrfica e de realizao de entrevistas semiestruturadas.

Existem tambm as amostras de tipo bola de neve (snowball), em geral


utilizadas em estudos exploratrios, nos quais o pesquisador, no dispe, de

47
INTRODUO AMOSTRAGEM

antemo, de informaes detalhadas sobre o universo de anlise, ou no tem


acesso direto populao pesquisada. Nesses casos, o pesquisador deve ao
menos ter um conjunto inicial de indivduos a serem pesquisados. A partir
da, pede-se aos primeiros entrevistados que indiquem novos nomes para
compor a amostra. A amostra vai assim crescendo como uma bola de neve
medida que os sujeitos da investigao vo indicando novos nomes ao inves-
tigador. Trata-se de um tipo de amostragem muito til quando a populao de
interesse muito especfica (por exemplo, cirurgies especialistas em um tipo
especfico de cirurgia gstrica; ou moradores de rua em determinada regio
da cidade). importante que o investigador tenha em mente possveis vieses
nesse tipo de amostragem, pois os indivduos tendem a indicar outros que
lhes so socialmente prximos e, portanto, similares em uma srie de aspectos
(como em nvel socioeconmico, por exemplo).

Atravs da exposio dessa tipologia de procedimentos de seleo de amos-


tras buscou-se evidenciar que h uma srie de procedimentos de seleo de
casos para pesquisas, consagrados pela literatura, que tm papel central na es-
truturao dos achados, e que dependem fundamentalmente dos interesses da
pesquisa que est sendo desenvolvida. As pesquisas que se fundamentam em
mtodos de obteno de dados qualitativos entrevistas em profundidade, gru-
pos focais, algumas pesquisas documentais, entre outros geram dados no
estruturados. As pesquisas que tm como instrumento questionrios estrutu-
rados e, portanto, geram dados estruturados seguem uma lgica de construo
especfica. Mais detalhes sobre procedimentos de organizao e estruturao de
informaes obtidas atravs de mtodos quantitativos e qualitativos de pesquisa
podem ser consultadas nos demais captulos desta publicao.

5. Consideraes finais
Neste captulo buscamos apresentar a pesquisadores alguns dos conceitos
bsicos em amostragem e em construo de bases de dados. Tambm foi in-
teno do captulo evidenciar como a definio de desenhos de amostragem
de estudos e a estruturao de bases de dados depende diretamente do dese-
nho da pesquisa, de seus objetivos e das perguntas que pretende responder.
No h desenho amostral correto ou incorreto, mas desenhos amostrais mais
ou menos adequados aos objetivos da pesquisa.

Espera-se que com este captulo os interessados tenham tomado contato


com alguns conceitos bsicos e com tipologias de procedimento amostral que
lhes sejam teis no planejamento de seus processos de investigao. H mui-
ta literatura disponvel a quem tenha interesse em aprofundar seus conheci-
mentos nesses temas, que obviamente no se esgotam nos termos deste texto.
Mos obra!

48
INTRODUO AMOSTRAGEM

6. Referncias bibliogrficas
ABDAL, A.; NAVARRA, J. Uni por Uni escolhi a que era do lado da minha
casa Deslocamentos cotidianos e o acesso, a permanncia e a fruio da uni-
versidade por bolsistas do ProUni no Ensino Superior privado. Novos estudos
Cebrap, n 99, 2014.

ALVES DE BRITO, M. M. A dependncia na origem Desigualdades no


sistema educacional brasileiro e a estruturao social das oportunidades. Tese
de Doutorado. FFLCH/USP. Programa de Ps-Graduao em Sociologia. So
Paulo, 2014.

BABBIE, E. Mtodos de pesquisas de survey. Belo Horizonte: Editora UFMG,


1999.

BARROS, M. B. A.; CSAR, C. L. G.; CARANDINA, L.; TORRE, G. D. De-


sigualdades sociais na prevalncia de doenas crnicas no Brasil, PNAD-2003.
Cincia e Sade Coletiva, n 11, vol. 4, 2006.

BECKER, H. Segredos e truques da pesquisa. Rio de Janeiro: Jorge Zahar


Editor, 2008.

BIDERMAN, C.; GUIMARES, N. A. Na ante-sala da discriminao: O


preo dos atributos de sexo e cor no Brasil (1989-1999). Estudos Feministas, vol.
12 (2), 2004.

BONAMINO, A.; ALVES, F.; FRANCO, C. Os efeitos das diferentes formas


de capital no desempenho escolar: Um estudo luz de Bourdieu e de Coleman.
Revista Brasileira de Educao, vol. 15 (45), 2010.

BUSSAB, W. O.; DINI, N. P.; MANCINI, S. R. Plano Amostral Pesquisa


Emprego e Desemprego. So Paulo em Perspectiva, vol 17 (3-4), 2003.

BUSSAB, W. O.; MORETTIN, P. Estatstica bsica. 7 ed. So Paulo: Editora


Saraiva. 2010.

CAMARGOS, M. C. S.; GONZAGA, M. R. Viver mais e melhor? Estima-


tivas de expectativa de vida saudvel para a populao brasileira. Cadernos de
Sade Pblica. vol. 31 (7), 2015.

CAMPELLO, T.; NERI, M. C. Programa Bolsa Famlia Uma dcada de in-


cluso e cidadania. Braslia: IPEA, 2013.

CASTRO, M. H. G. As desigualdades regionais no sistema educacional bra-


sileiro. In. HENRIQUES, R. (org.). Desigualdade e pobreza no Brasil. Rio de
Janeiro: IPEA, 2000.

COMIN, A.; BARBOSA, R. J. Trabalhar para estudar. Sobre a pertinncia da


noo de transio escola-trabalho no Brasil. Novos estudos Cebrap, n 91, 2011.

49
INTRODUO AMOSTRAGEM

CORSEUIL, C. H.; FOGUEL, M. N. Uma sugesto de deflatores para rendas


obtidas a partir de algumas pesquisas domiciliares do IBGE. Texto para discus-
so n 897. IPEA, 2002.

Fundao Joo Pinheiro. Perfil da populao idosa em Minas Gerais. Bole-


tim PAD. Belo Horizonte: Fundaao Joao Pinheiro, 2011.

GOFFMAN, E. Estigma Notas sobre a manipulao da identidade deterio-


rada So Paulo: Ed. LTC,. 1988.

GUIMARES, N. A. Caminhos cruzados: estratgias de empresas e trajetrias


de trabalhadores. So Paulo: Ed. 34, 2004.

GUIMARES, N. A.; ALVES DE BRITO, M. M.; SILVA, P. H. Como se che-


ga s oportunidades de trabalho? Os caminhos em Salvador, So Paulo e Porto
Alegre. In: BRAGA, T.; VIDAL, F.; NEVES, L. (orgs.). Trabalho em questo. S-
rie Estudos e Pesquisas, n 86. Salvador: SEI, 2010.

HASENBALG, C.; VALLE SILVA, N. Raa e oportunidades educacionais no


Brasil. Cadernos de Pesquisa, vol. 73, 1990.

IBGE. Pesquisa Nacional por Amostragem de Domiclios. Volume 31. Rio de


Janeiro: IBGE, 2011.

_____. Metodologia do Censo Demogrfico 2010. Srie Relatrios Metodo-


lgicos, vol. 41. Rio de Janeiro: IBGE, 2013.

LAREAU, A.; A Desigualdade Invisvel: o papel da classe social na criao


dos filhos em famlias negras e brancas. In: Educao em Revista. N. 46. 2007.

MARTELETO, L.; CARVALHAES, F.; HUBERT, C. Desigualdades de opor-


tunidades educacionais dos adolescentes no Brasil e no Mxico. Revista Brasilei-
ra de Estudos Populacionais, vol. 29 (2), 2012.

MOORE, D. S.; NOTZ, W. I.; FLIGNER, M. A. The basic principles of statisti-


cs. 4th Edition Nova York: W. H. Freeman and Company, 2013.

MIQUILIN, I. O. C.; MARN-LEN, L.; MONTEIRO, M. I.; CORREA FI-


LHO, H. R. Desigualdades no acesso e uso dos servios de sade entre traba-
lhadores informais e desempregados: anlise da PNAD 2008, Brasil. Cadernos
de Sade Pblica, vol. 29 (7), 2013.

OECD. Pisa 2012 technical report, 2014.

PAD-MG Plano Amostral, Mtodos de Ponderao e Metodologia. Belo


Horizonte: Fundao Joo Pinheiro, 2010.

PAES DE BARROS, R.; HENRIQUES, R.; MENDONA, R. Desigualdade


e pobreza no Brasil: Retrato de uma estabilidade inaceitvel. Revista Brasileira
de Cincias Sociais, vol. 15 (42), 2000.

50
INTRODUO AMOSTRAGEM

PARSONS, R. Statistical analysis: A decision-making approach. 1st Edition


Nova York: Harper & Row, Publishers, 1974.

RIBEIRO, M. C. S. A.; BARATA, R. B.; ALMEIDA, M. F.; SILVA, Z. P. Perfil


sociodemogrfico e padro de utilizao de servios de sade para usurios e
no-usurios do SUS PNAD 2003. Cincia e Sade Coletiva, n 11, vol. 4,
2006.

RICHARDSON, R. J. et al. Pesquisa social Mtodos e tcnicas. 3 ed. So


Paulo: Editora Atlas, 1999.

RIOS-NETO, E. L. G.; GUIMARES, R. R. M. The demography of educa-


tion in Brazil: Inequality of educational opportunities based on grade progres-
sion probability. Vienna Yearbook of Population Research, vol. 8, 2010.

SANTOS, J. A. F. Classe social e desigualdade de sade no Brasil. Revista


Brasileira de Cincias Sociais, vol. 26, n 75, 2011.

SLONIM, M. J. Sampling: A quick, reliable guide to practical statistics. 2nd


Edition. Nova York: Simon and Schuster, 1967.

SOARES, J. F.; ALVES, M. T. G. Desigualdades raciais no sistema brasileiro


de educao bsica. Educao e Pesquisa, vol. 29 (1), 2003.

SOARES, S. S. D. Distribuio de renda no Brasil de 1976 a 2004 com nfase


no perodo entre 2001 e 2004. Texto para discusso n 1166, 2006.

SOUZA, P. F.; RIBEIRO, C. A. C.; CARVALHAES, F. Desigualdade de opor-


tunidades no Brasil: Consideraes sobre classe, educao e raa. Revista Brasi-
leira de Cincias Sociais, vol. 25 (73), 2010.

TRIOLA, M. Introduo estatstica. So Paulo: LTC, 1999.

VALLE SILVA, N. Expanso escolar e estratificao educacional no Brasil.


In: VALLE-SILVA, N.; HASENBALG, C. (org.). Origens e destinos, 2003.

VALLE SILVA, N.; HASENBALG, C. Tendncias da desigualdade educacio-


nal no Brasil. Dados, vol. 43 (3), 2000.

VALLE SILVA, N.; SOUZA, A. M. Um modelo para a anlise da estratifica-


o educacional no Brasil. Cadernos de Pesquisa, n 58, 1986.

51
QUESTIONRIOS ON-LINE

Questionrios on-line
Danilo Torini
Pesquisador do Cebrap e Coordenador
de Pesquisa Pedaggica na ESPM

1. Introduo
O advento da chamada web 2.0,1 em meados dos anos 2000, passou a per-
mitir de forma mais significativa a colaborao dos internautas na produo
de contedos em sites e servios virtuais, bem como a intensa troca de infor-
maes entre os usurios da internet. nesse contexto de desenvolvimento da
Tecnologia da Informao que est inserida a disseminao de uma nova for-
ma de coleta de dados pela internet: a dos formulrios e questionrios on-line.
Embora a ideia de levantar informaes dos usurios seja to antiga quanto
a prpria existncia da rede mundial de computadores, bastante recente a
expanso e popularizao de servios que permitem a qualquer pessoa, com
conhecimento tcnico mnimo, criar os seus prprios documentos on-line,
compartilh-los com os demais usurios e at mesmo coletar informaes
acerca de outras pessoas. Tudo de forma virtual. Essa tarefa se tornou ainda
mais fcil com a expanso da chamada computao em nuvem, cujo grande
diferencial a capacidade de armazenar virtualmente dados e documentos em
grande escala, sem que isso esteja necessariamente guardado fisicamente e
ocupando a memria de qualquer dispositivo dos usurios.

Utilizado primeiramente por institutos de pesquisa de marketing, opinio


e mdia, o questionrio on-line no demorou a integrar o leque de ferramentas
de pesquisas no campo das cincias sociais. Ainda que de forma inicialmente
mais tmida, no so raras no Brasil as pesquisas acadmicas que j utilizam,
de algum modo, a aplicao de instrumentos virtuais para o levantamento
de dados. Como ser detalhado neste captulo, o emprego do questionrio
on-line especialmente interessante quando h dificuldades tcnicas e/ou re-
cursos escassos (de tempo, de pessoal ou financeiros) para que se lance mo
de entrevistas presenciais ou por telefone. Tambm pode ser utilizado em
complementariedade a essas outras estratgias de coleta, de forma a ampliar a
amostra e o alcance de diferentes perfis de respondentes (Box 1).

1 O termo web 2.0 comumente utilizado para descrever a chamada segunda gerao da
internet, caracterizada, principalmente, pela possibilidade de troca de informaes e cola-
borao de usurios na elaborao de contedos em sites e outros servios virtuais. Dife-
rentemente dos primeiros anos de utilizao da internet, hoje qualquer internauta pode gerar
contedos na rede, por meio de sites, blogs, redes sociais, repositrios de autoria coletiva
(como o caso da enciclopdia on-line Wikipedia) e muitas outras ferramentas colaborativas
disposio.

52
QUESTIONRIOS ON-LINE

Assim como quaisquer outros mtodos ou tcnicas de investigao, a apli-


cao de questionrios pela internet possui limitaes relevantes e no ade-
quada para todos os tipos ou escopos de pesquisa. Ela apropriada, na verda-
de, para determinados desenhos de investigao e possui particularidades que
sero discutidas mais frente.

Box 1: O uso de questionrios on-line como estratgia comple-


mentar de coleta de dados

Pense nas seguintes situaes: a) voc faz parte de uma equipe de


pesquisa que ainda dispe de uma lista pequena de contatos para cobrir
os diferentes perfis de entrevistados de que necessita para a sua inves-
tigao; b) voc precisa construir uma amostra referente a determina-
do grupo da populao, mas nem sequer sabe o tamanho do universo
de pessoas que pretende pesquisar; c) sua equipe de pesquisa necessita
mensurar um segmento especfico de empresas no Brasil, mas, antes,
necessita refinar uma lista prvia de contatos que possui, filtrando algu-
mas informaes sobre o pblico-alvo de sua investigao.

Essas trs situaes so reais e fizeram parte de cenrios de pesquisas


desenvolvidas recentemente pelo Cebrap em que o uso de questionrios
on-line serviu como ferramenta complementar de coleta de dados, jun-
tamente com outras tcnicas de investigao.

Na pesquisa Polticas de incluso e transio no mercado de traba-


lho O caso do Programa Universidade para Todos (ProUni), coordena-
da pela profa. dra. Mrcia Lima, a equipe de pesquisadores enviou um
questionrio on-line para milhares de ex-alunos do ProUni por meio
das redes sociais a fim de selecionar alguns perfis para uma posterior
etapa de entrevistas qualitativas presenciais em So Paulo. O resultado
do levantamento foi a criao de um verdadeiro banco de dados com in-
formaes bsicas sobre centenas de estudantes e ex-estudantes do todo
o pas, que auxiliou a equipe no apenas na melhor compreenso sobre
a variedade de perfis de ex-bolsistas existente mas tambm na seleo
das experincias mais interessantes e pertinentes para os propsitos da
investigao. O estudo foi aprofundado, posteriormente, por meio de
entrevistas pessoais, presenciais e por telefone.

Com o intuito de realizar um mapeamento das empresas de biotec-


nologia no Brasil, uma equipe de pesquisadores do Cebrap, liderada por
Carlos Torres-Freire, buscou refinar uma lista com mais de 1.000 orga-
nizaes por meio de dados secundrios e chegou a um grupo de 237
empresas que, a priori, se enquadravam no perfil pertinente investiga-
o. Os pesquisadores se dedicaram, ento, aplicao de um questio-

53
QUESTIONRIOS ON-LINE

nrio on-line a essas empresas, que foi precedida de contatos telefnicos


realizados para que se pudessem confirmar algumas informaes, apre-
sentar a pesquisa, explicar os seus detalhes e, em alguns casos, sanar
eventuais dvidas acerca do preenchimento do questionrio.

Outro exemplo de uso de questionrio on-line como ferramenta


complementar de coleta de dados pode ser observado em pesquisa de
mestrado realizada por mim (Torini, 2012), cujo objetivo principal era
analisar a trajetria profissional de egressos dos cursos de Cincias So-
ciais no pas. Como no possvel saber exatamente (por fontes oficiais)
quantos e quais so os perfis dos ex-alunos dos cursos em diferentes
geraes, um questionrio on-line foi aplicado por meio de redes sociais
em grupos virtuais ligados ao curso. No total, mais de 2.200 egressos de
distintas geraes responderam ao instrumento, o que propiciou no
apenas refinar o mapeamento construdo como tambm selecionar al-
guns desses perfis para a realizao de entrevistas em profundidade com
40 desses egressos.

Os detalhes para acesso a esses estudos constam no final do captulo.

importante ressaltar que o questionrio on-line no pode ser considera-


do, em si, uma nova tcnica de pesquisa ou de coleta de dados, mas apenas um
novo tipo de ferramenta, plataforma e/ou recurso material que se junta aos j
existentes, como o questionrio em papel e outros tipos de formulrio eletr-
nico geralmente utilizados em surveys. Sendo assim, esse novo tipo de instru-
mento segue praticamente as mesmas regras e orientaes j conhecidas da
aplicao de questionrios em papel, com a adio de algumas especificidades
prprias ao mundo virtual. Este texto tem justamente o objetivo de discutir as
principais questes que envolvem o planejamento, a elaborao e a aplicao
de questionrios on-line, bem como as suas implicaes para checagem, crti-
ca e anlise dos dados coletados com esse tipo de ferramenta.

2. O que so questionrios on-line e para que servem?


Imagine um pesquisador que precise levantar quaisquer tipos de informa-
o acerca de uma populao que vive em diferentes localidades, muito dis-
tantes entre si. At a virada do ltimo sculo, esse pesquisador provavelmente
teria trs possibilidades: a) deslocar-se fisicamente por esses diferentes lugares
a fim de entrevistar as pessoas desejadas, b) entrevist-las por telefone ou c)
enviar os questionrios pelo correio com a expectativa de que fossem preen-
chidos e postados novamente por seus respondentes. Em qualquer uma dessas

54
QUESTIONRIOS ON-LINE

opes, certamente, os custos da pesquisa e o tempo de realizao do campo


seriam significativamente elevados, principalmente se a amostra a ser cons-
truda fosse numerosa. Hoje, caso o desenho da pesquisa permita e alguns
critrios tcnicos de qualidade sejam seguidos, essa mesma pesquisa pode ser
realizada por meio da internet a custos muito baixos e sem a necessidade de
nenhum deslocamento por parte do pesquisador. Essa a prerrogativa princi-
pal da utilizao de um tipo especfico de instrumento eletrnico de coleta de
dados comumente conhecido como questionrio on-line.

Mas como se define e que caractersticas principais possui esse tipo de


questionrio? Trata-se, em termos gerais, de um tipo especfico de question-
rio enviado/recebido e preenchido pelos respondentes por meio da internet.
Assim como um questionrio em papel recebido pelo correio, o questionrio
on-line deve ser respondido e, de alguma forma, reenviado pelo respondente
ao pesquisador, com a diferena de que tudo isso feito eletronicamente.2
Nem todos os instrumentos eletrnicos de pesquisa e coleta de dados podem
ser denominados de questionrios on-line. H trs tipos principais de ques-
tionrios eletrnicos que fazem uso da internet em pelo menos uma de suas
etapas de aplicao:

a) Mscaras e arquivos de bases de dados: consistem em instrumentos


eletrnicos construdos, aplicados e respondidos de forma off-line, isto , que
no necessitam da internet para o preenchimento. O respondente geralmen-
te recebe a mscara do questionrio em arquivo executvel ou de editor de
texto/planilha (como Word, Excel, Power Point) e, aps o seu preenchimen-
to, envia os dados por e-mail ou outro servio de transferncia eletrnica de
arquivos. A internet, portanto, s se faz necessria nos momentos do recebi-
mento da mscara e do envio dos dados. Um exemplo de instrumento deste
tipo so alguns dos questionrios eletrnicos aplicados pelo IBGE, como os
das Pesquisas Anuais do Comrcio (PAC), da Indstria (PAIC e PIA) e de
Servios (PAS).

2 O fato de o questionrio on-line ser preenchido pela internet propicia vantagens e desvan-
tagens ao pesquisador, alm de supor um conhecimento tcnico mnimo de ferramentas de
internet seja para o pesquisador, seja para o pesquisado. O domnio dessas tcnicas, em
especial, pode representar um grande desafio para determinados perfis de respondentes.
Esses e outros pontos sero discutidos com mais detalhes na seo 4.

55
QUESTIONRIOS ON-LINE

Figura 1 Exemplo de interface de mscara de questionrio eletrnico

b) Aplicativos para dispositivos mveis: so programas para celulares,


smartphones e tablets cujos questionrios tambm podem ser respondidos
de forma off-line e para os quais o uso da rede tambm s se faz necessrio
no momento do envio das respostas. A peculiaridade deste tipo de ques-
tionrio eletrnico o fato de possurem uma interface que facilita o envio
automtico desses dados (geralmente por meio de um boto), sem que haja
a necessidade de transferir os arquivos por e-mail ou por qualquer outra
ferramenta externa de transferncia de dados. Este o modelo utilizado,
por exemplo, pelos maiores institutos de pesquisa de opinio e de mercado
no Brasil, e recentemente passou a ser adotado pela Receita Federal brasi-
leira para o preenchimento e o envio das informaes relativas Declara-
o Anual de Imposto de Renda.

Figura 2 Exemplo de interface de aplicativo de questionrio eletrnico

56
QUESTIONRIOS ON-LINE

Figura 3 Exemplo de interface de plataforma de questionrio on-line

Existem hoje, na internet, mais de 80 plataformas que oferecem servios


de construo de questionrios on-line e realizao de web surveys. A maio-
ria desses servios possui verses gratuitas, mas, diferentemente das opes
premium, oferecem uma quantidade limitada de ferramentas para elaborao
do questionrio e coleta dos dados. Na lista abaixo, h alguns dos principais
servios disponveis no Brasil que oferecem as ferramentas mais completas
para a construo e aplicao de questionrios on-line. Todos os servios ci-
tados oferecem opes gratuitas em suas plataformas e verses adaptveis a
dispositivos mveis.

Google Formulrios Trata-se da plataforma mais popular para a


construo de formulrios e questionrios on-line. Embora tenha um
conjunto limitado de ferramentas para a elaborao dos formulrios e
poucas opes de formatao, o servio totalmente gratuito e no tem
limite de questionrios aplicados.

Lime Survey Com ferramentas muito mais sofisticadas, esta a pla-


taforma de cdigo aberto mais completa hoje disposio dos pesquisa-
dores. No entanto, ela exige conhecimentos bsicos em programao e
design de pginas da internet.

Survey Monkey Bastante amigvel e intuitiva, possui um leque


completo de ferramentas, das mais simples s mais complexas. O pes-
quisador tem disposio dezenas de modelos de questes, e basta sele-
cionar as perguntas desejadas para montar rapidamente o questionrio.

57
QUESTIONRIOS ON-LINE

Qualtrics Juntamente com a anterior, a plataforma mais completa


e intuitiva disposio hoje para aqueles que no dominam a linguagem
de programao e desejam montar um questionrio mais complexo.
Alm de dezenas de ferramentas de coleta, tambm oferece tcnicas de
metrificao sofisticadas e automticas que so bastante teis.

Sphinx Online Verso on-line de um dos mais populares progra-


mas de digitao e montagem de bancos de dados.

Survio Verso muito semelhante Survey Monkey e Qualtrics,


com a vantagem de oferecer gratuitamente a elaborao de um nmero
ilimitado de questes.

Box 2: Exemplos de plataformas pblicas que fazem uso de ques-


tionrios on-line

Censo da Educao Superior (INEP/MEC) Desde 1995, o Insti-


tuto Nacional de Estudos e Pesquisas Educacionais (INEP) realiza um
censo com as instituies de educao superior (IES) de todo o pas,
coletando informaes sobre seu funcionamento, seus cursos de gradu-
ao presencial ou a distncia, bem como dados sobre todos os seus alu-
nos e docentes. Todas as publicaes derivadas dessa coleta podem ser
acessadas pelo link: http://portal.inep.gov.br/web/censo-da-educacao-
superior. possvel tambm ter acesso completo aos instrumentos de
coleta e microdados de todas as pesquisas j realizadas pelo INEP, bem
como aos seus relatrios e resumos tcnicos.

Plataforma do Sistema Nacional de Cultura (SNC) O Ministrio


da Cultura (MinC) instituiu uma plataforma on-line que busca coletar e
monitorar os dados de todos os municpios e estados que fazem parte do
SNC e que aderiram s metas do Plano Nacional de Cultura (PNC). Tra-
ta-se de uma complexa plataforma que busca agregar os dados oriundos
de diferentes formulrios on-line preenchidos pelos gestores munici-
pais, estaduais e federais. As anlises dos indicadores de cada municpio
e os demais estudos produzidos esto disponveis no site do MinC.

Pesquisa Anual de Museus Realizada pelo Instituto Brasileiro de


Museus (Ibram/MinC), a pesquisa aplica um questionrio on-line a ins-
tituies de todo o pas a fim de construir um diagnstico detalhado do
setor museal brasileiro. A pesquisa coleta informaes sobre caracteri-
zao fsica, acervo, exposies, atividades educativas e culturais, pro-

58
QUESTIONRIOS ON-LINE

duo cientfica, arquivos histricos e bibliotecas, bem como dados so-


bre a gesto de riscos, de pessoas, oramento e acessibilidade. Alm dos
questionrios on-line e de todas as publicaes ligadas pesquisa, o site
https://www.museus.gov.br/ disponibiliza as informaes detalhadas dos
museus e os indicadores gerados a partir da coleta dos dados.

InPACTO Com o apoio da OIT (Organizao Internacional do Tra-


balho) e do MTE (Ministrio do Trabalho e Emprego), o Instituto Pacto
Nacional pela Erradicao do Trabalho Escravo (InPACTO) realiza um
monitoramento anual, por meio da aplicao de um questionrio on-line,
em que empresas de todo o pas respondem sobre suas aes diante dos
compromissos assumidos pela erradicao do trabalho escravo no Brasil.

3. O passo a passo do trabalho com questionrios on-line


A grande maioria das etapas relacionadas ao uso de questionrios on-li-
ne idntica quelas pertinentes ao planejamento, elaborao e aplicao de
qualquer instrumento quantitativo de coleta de dados. No planejamento de
uma pesquisa quantitativa (de natureza acadmica ou no acadmica), h im-
portantes pontos a considerar e decises a tomar que so anteriores prpria
construo de um questionrio, seja ele on-line ou em papel. Ao menos cinco
passos terico-metodolgicos so essenciais at que o pesquisador possa de-
cidir pela viabilidade do uso de um questionrio on-line:

1. Definio do problema e dos objetivos da pesquisa trata-se da inda-


gao principal ou do conjunto de questes que o pesquisador busca investi-
gar com a realizao de uma nova pesquisa.

2. Escolha do objeto e/ou do pblico-alvo isto , do universo a ser pes-


quisado e dos indivduos e grupos que o compem.

3. Deliberao sobre a coleta de dados imprescindvel verificar se exis-


tem dados secundrios (j coletados em outros levantamentos) que podem
ser utilizados para o estudo do problema ou se ser necessria a produo de
dados primrios (uma nova coleta de dados).

4. Definio do mtodo de pesquisa uma vez que o pesquisador opte


pela produo de dados primrios, preciso definir se eles sero coletados de
forma quantitativa ou qualitativa.

59
QUESTIONRIOS ON-LINE

5. Construo da amostra se o pesquisador optar pelo percurso quanti-


tativo, necessrio refletir sobre o tamanho, a abrangncia e a composio da
amostra da pesquisa. Isso tem impacto direto sobre o tipo, a extenso e o estilo
do questionrio a ser elaborado.3

6. Elaborao dos instrumentos de coleta apenas aps a definio dos


cinco pontos anteriores possvel, ento, decidir sobre quais sero os princi-
pais temas, questes e variveis que iro compor o questionrio a ser cons-
trudo e sobre a sua forma de aplicao: se presencial, por telefone ou por
autopreenchimento o respondente (em papel ou on-line).

O quadro a seguir resume esse passo a passo, desde o planejamento at a


aplicao da pesquisa.

Figura 4 Etapas da construo de uma pesquisa com questionrio on-line

3 No captulo Introduo Amostragem e Construo de Banco de Dados desta publi-


cao, h detalhes sobre o conceito de amostragem e os tipos de amostras que podem ser
construdas em um survey.

60
QUESTIONRIOS ON-LINE

a partir da fase de aplicao do questionrio que a opo pelo instru-


mento on-line passa a ter implicaes mais diretas sobre as etapas que se su-
cedero. Primeiramente, extremamente recomendado que haja a realizao
de um pr-teste, isto , a aplicao de um piloto do questionrio com um
nmero reduzido de respondentes a fim de verificar possveis erros de cons-
truo, fluxo e dificuldades de compreenso do questionrio.

Uma vez realizado o pr-teste e feitas as devidas correes, passa-se apli-


cao, de fato, da verso finalizada do questionrio. Inicia-se, portanto, a rea-
lizao do campo da pesquisa, isto , o processo de coleta dos dados. Aps
o envio do convite para a listagem de potenciais respondentes, o pesquisador
pode acompanhar simultaneamente o preenchimento dos questionrios, veri-
ficando a chegada dos dados em uma planilha on-line gerada automaticamen-
te pela ferramenta. Em alguns casos,4 possvel obter grficos e tabelas em
tempo real com os resultados provisrios das respostas j registradas (Figura
3). Algumas recomendaes importantes sobre o processo de aplicao do
questionrio on-line sero melhor detalhadas na seo 5, Cuidados essenciais
na utilizao de questionrios on-line.

Figura 5: Tela de processamento automtico de dados Google Forms

Assim que for encerrado o perodo de coleta dos dados, tem-se um banco
de dados completo com todas as respostas registradas. Geralmente, a cada
opo de resposta do questionrio atribudo um cdigo numrico no banco
de dados, para facilitar o processamento estatstico. Na maioria dos servios
hoje disponveis, h a opo de baixar os dados em um arquivo compatvel
com programas de anlise estatstica, como o Excel, SPSS, Matlab, SAS, R,
Stata, entre outros.

4 Esse recurso est disponvel nas plataformas Google Formulrios, Survey Monkey, Qualtri-
cs e Survio.

61
QUESTIONRIOS ON-LINE

De posse da base de dados, inicia-se a etapa de checagem, crtica e consis-


tncia, em que as informaes so revisadas em busca de possveis incoern-
cias ou erros de preenchimento. Se houver no instrumento de coleta algum
tipo de questo que permita mltiplas respostas ou que abra a possibilidade
de citaes no definidas previamente no questionrio (as chamadas ques-
tes abertas), necessrio atribuir um cdigo para cada resposta diferente que
aparecer. Essa a etapa da codificao.

Por fim, nos casos em que o questionrio aplicado em papel, uma nova
etapa de processamento ainda necessria: a digitao das respostas na base
de dados. No entanto, essa etapa no existe na aplicao do questionrio on
-line, j que tudo registrado automaticamente. O quadro a seguir resume o
caminho a ser percorrido desde a elaborao das perguntas do questionrio
at a sua transformao em variveis no banco de dados.

Figura 6: Do questionrio ao banco de dados

A prxima seo vai retomar com mais detalhes algumas dessas etapas, a
fim de discutir as principais vantagens e desvantagens da utilizao dos ins-
trumentos on-line, em comparao com a realizao de entrevistas com ques-
tionrios de papel.

4. Vantagens e desvantagens da utilizao de questionrios on-line


O fcil acesso a ferramentas on-line de construo de questionrios tem
ampliado muito, nos ltimos anos, o nmero de usurios dessas plataformas.
No Brasil, estima-se que apenas o Google Forms, servio lder na produo de
questionrios on-line, tenha mais de 2 milhes usurios cadastrados, segundo

62
QUESTIONRIOS ON-LINE

dados do portal Alexa.com, que mede as estatsticas de acesso no pas. Qual-


quer pessoa, com uma conta simples (e gratuita) da empresa estaduniden-
se, pode criar um formulrio em poucos minutos e gerar um link para a sua
aplicao. No entanto, embora oferea algumas vantagens inquestionveis em
relao aplicao de instrumentos de coleta em papel, o uso de questionrios
on-line tambm possui limitaes e carece de alguns cuidados especficos, so-
bretudo na realizao de pesquisas acadmicas e cientficas. Esses pontos po-
sitivos e negativos so detalhados a seguir.

Entre as principais vantagens da utilizao de questionrios on-line, des-


tacam-se:

Alcance global Uma vez que utiliza a web para o seu preenchimento
ou autopreenchimento, os questionrios on-line permitem, ao menos em
tese, o alcance potencial de respondentes em qualquer parte do planeta,
desde que haja uma conexo de internet disponvel.

Baixo custo Justamente porque possibilita o preenchimento a distn-


cia, a utilizao de questionrios on-line reduz drasticamente o custo da
pesquisa com deslocamento de pesquisadores e impresso de question-
rios em papel. De fato, alm do eventual custo inicial para a sua elaborao
(com a contratao de um dos servios disponveis), o valor unitrio gasto
para a replicao do questionrio prximo de zero.

Obteno de grandes amostras Dado o seu alcance global e o custo


muito reduzido de sua aplicao, o questionrio on-line possibilita a cons-
truo de grandes amostras. Do ponto de vista do uso da tecnologia, no
h diferena na coleta de 30, 300 ou 3.000 questionrios, por exemplo.

Economia de tempo de aplicao Comparativamente ao uso de ques-


tionrios em papel, a aplicao de questionrios on-line pode ocorrer de
forma muito mais rpida, j que permite o registro concomitante de milha-
res de pessoas. Alm disso, aps o preenchimento do questionrio, no h a
necessidade de aguardar o retorno do pesquisador ou a remessa dos papis
para ter acesso aos materiais. Os dados so recebidos imediatamente aps
o trmino da aplicao, independentemente da cidade, estado ou pas onde
ela ocorreu.

Flexibilidade no preenchimento Alm de possibilitar o preenchi-


mento em qualquer horrio e por meio de qualquer dispositivo que tenha
acesso internet, muitas ferramentas de construo de questionrios on-li-
ne oferecem a possibilidade de o respondente pausar o preenchimento do
instrumento e retornar, no ponto em que parar, quando lhe for mais con-
veniente. Isso especialmente til em pesquisas cujo questionrio muito
extenso ou complexo.

63
QUESTIONRIOS ON-LINE

Menor erro de fluxo Uma das vantagens mais significativas da apli-


cao do questionrio on-line a possibilidade de predefinio automtica
de pulos e saltos de lgica, o que diminui sensivelmente a probabilidade de
ocorrncia de erros de fluxo na aplicao. Nos questionrios em papel, esse
controle est mais sujeito a equvocos, uma vez que depende exclusivamente
da ateno do pesquisador em realizar esses pulos de acordo com as respos-
tas dos entrevistados.

Agilidade na tabulao Indubitavelmente, uma das etapas da pesqui-


sa em que a utilizao de instrumentos on-line de coleta mais se destaca em
comparao ao uso de questionrios em papel a de tabulao dos dados.
Como j foi destacado, com a aplicao do questionrio em papel, neces-
sria uma etapa complementar de digitao das respostas em uma planilha
eletrnica; com a aplicao do questionrio on-line os dados so enviados
de forma imediata e automtica, e j organizados na planilha conforme a
configurao e/ou formatao desejada pelo pesquisador. Assim, boa parte
do trabalho e do tempo destinados digitao poupada.

Acompanhamento simultneo do campo Embora a utilizao de


questionrios on-line no dispense a necessidade de conferncia, de crtica
e de realizao de testes de consistncia dos dados coletados, possvel
conferir as respostas e a coerncia dos dados informados imediatamente
aps o trmino do preenchimento. Isso permite, por exemplo, o acompa-
nhamento mais atento da realizao do campo e a realizao de eventuais
correes de rota ou adaptaes da composio da amostra, caso surja al-
guma dificuldade no decorrer do processo. Se, por exemplo, o retorno de
determinado perfil de pessoas pesquisadas estiver abaixo do esperado, o
acompanhamento em tempo real favorece a definio de novas estratgias
para a conquista de mais respondentes enquanto a pesquisa ainda est em
andamento.

Oportunidade de correes imediatas no questionrio Essa possibili-


dade de acompanhamento simultneo tambm permite a correo de even-
tuais erros no questionrio, assim que estes so detectados. Se o erro for mui-
to grave, essa alterao no questionrio pode, evidentemente, ter implicaes
importantes no posterior tratamento e na anlise desses dados. Mas, se o erro
for em algum termo ou palavra, ou mesmo de formatao, a correo ime-
diata e sem custo pode evitar problemas de interpretao e preenchimento.
Essa agilidade de correo muito prejudicada na aplicao de questionrios
em papel.

Possibilidade de apresentar diversos estmulos audiovisuais Por


fim, por ser uma ferramenta eletrnica, o questionrio on-line favorece o
uso mais amplo de recursos audiovisuais, alm de formataes mais di-
nmicas. Grficos e tabelas podem, por exemplo, apresentar movimentos

64
QUESTIONRIOS ON-LINE

ou mesmo ser apresentados na forma de vdeos. Isso pode contribuir para


maior interesse e compreenso do respondente.

A despeito dos inegveis pontos positivos, o trabalho com questionrios


on-line tambm apresenta algumas limitaes e desafios que devem ser igual-
mente levados em conta pelo pesquisador no planejamento de uma pesquisa.
Entre as suas principais desvantagens, destacam-se:

Percepo de spam O envio de e-mail com link por um desconhe-


cido pode suscitar dvidas e/ou desconfiana de quem o recebe, fazendo
com que muitas pessoas optem por nem abrir o questionrio. Alm disso,
muitos servios de webmail possuem hoje tecnologia para identificar men-
sagens enviadas por contatos desconhecidos ou por ferramentas de e-mail
marketing,5 direcionando-as imediatamente para a caixa de mensagens
suspeitas. Caso a listagem de pessoas convidadas para a pesquisa no seja
muito extensa, essas perdas podem afetar o sucesso do campo.

Controle amostral O preenchimento de um questionrio a distncia


e pela internet, sem o contato direto com o pesquisador, dificulta o controle
das condies nas quais os indivduos pesquisados respondem s questes.
Em muitas situaes, no possvel sequer comprovar se realmente o ques-
tionrio foi respondido pela pessoa a quem era direcionado. Outro proble-
ma que, caso no haja qualquer controle do acesso ao questionrio on-li-
ne (por meio de senha, por exemplo), outras pessoas, de posse do mesmo
link, podem preencher o instrumento e enviesar a amostra. Quando h a
interao face a face, geralmente existe maior possibilidade de controlar
esses possveis vieses.

Impessoalidade Ainda que o pesquisador possa escrever uma carta


para se apresentar, explicar os objetivos da pesquisa e solicitar o preenchi-
mento do questionrio (isso extremamente indicado!), no h nenhuma
interao real entre entrevistador e entrevistado durante a aplicao do
questionrio on-line. Em uma entrevista face a face, o pesquisador pode
fazer uso, por exemplo, de vrios recursos persuasivos para convencer o
respondente a participar da pesquisa e/ou a seguir o questionrio at o fim.
No so raros os estudos da literatura que ressaltam a importncia de cons-
truir um ambiente empatia e confiana entre entrevistador e entrevistado,
a fim de diminuir resistncias e aumentar as chances de sucesso da entre-

5 E-mail marketing o termo mais utilizado para definir o conjunto de ferramentas de en-
vio automtico de e-mail para uma lista extensa de contatos. Por meio de planilhas com os
dados dos destinatrios, a ferramenta envia um texto-padro para a lista de contatos, per-
sonalizando a mensagem com o nome da pessoa que ir receb-la. Trata-se de um recurso
muito utilizado como estratgia de marketing direto por grandes redes de vendas no varejo
ou prestadores de servios. H ferramentas disponveis no mercado capazes de enviar au-
tomaticamente uma mesma mensagem para dezenas ou centenas de milhares de pessoas.

65
QUESTIONRIOS ON-LINE

vista (Gil, 1999; Babbie, 2005; Malhotra, 2006). Esse tipo de recurso no
possvel na realizao de uma pesquisa com questionrios on-line, em que
h, de fato, um distanciamento muito maior com quem est respondendo
s questes.

Baixa taxa de resposta Justamente pelos fatores citados anteriormen-


te, uma pesquisa realizada com a aplicao de um questionrio on-line tem
maior probabilidade de enfrentar recusa e baixa taxa de resposta do que
aquelas realizadas pessoalmente ou por telefone (Babbie, 2005; Malhotra,
2006; Callegaro et al., 2015). De fato, muito simples e fcil para o res-
pondente interromper o preenchimento on-line ou mesmo abort-lo: basta
fechar a janela do navegador. No h, nesse caso, nenhuma possibilidade
de interpelao por parte do pesquisador. Alm disso, muito comum que
a listagem de contatos para uma pesquisa on-line tenha muitos endereos
de e-mail desatualizados ou incompletos, o que pode reduzir ainda mais a
taxa de resposta. Nesses casos, o respondente nem sequer chega a receber
o convite, o que constatado posteriormente com a avalanche de mensa-
gens de erro recebidas pelo pesquisador em sua caixa de e-mail. No h,
de fato, consenso na literatura acerca de qual seria uma taxa aceitvel de
retorno em aplicaes de questionrio on-line, mas a maioria das publi-
caes aponta para um percentual que varia de 10% a 30% dos potenciais
respondentes. Assim, dependendo do tamanho da amostra que se pretende
construir, necessria uma listagem bastante extensa de contatos. A bai-
xa taxa de retorno pode, de fato, comprometer o andamento da pesquisa,
principalmente se atingir perfis de respondentes essenciais investigao e
o pesquisador no tiver outros meios para completar a amostra (utilizan-
do-se, por exemplo, de aplicao em papel, entrevista presencial ou por
telefone). Nesses casos, o ideal redesenhar parte do campo (ou a amostra)
ou lanar mo, se possvel, de tcnicas qualitativas (como grupos focais e
discusses em grupo, por exemplo) para complementar a coleta de dados.

Falta de compreenso ou habilidade dos respondentes A realiza-


o de uma pesquisa on-line, sem a interao real entre pesquisador e res-
pondente, tambm no permite a confirmao, por parte do pesquisador,
de que o respondente de fato compreendeu a pergunta. Se a construo
da questo no for suficientemente clara (o que um srio problema em
qualquer tipo de questionrio), o efeito pode ser ainda mais prejudicial em
uma pesquisa on-line, uma vez que no h como oferecer nenhum tipo
de esclarecimento adicional ao respondente que no compreender corre-
tamente a questo. Alm disso, preciso considerar que o preenchimento
de um questionrio on-line exige um conhecimento mnimo, por parte dos
respondentes, de como manusear corretamente o dispositivo e os progra-
mas utilizados para acessar a internet/responder ao instrumento. Esse
um ponto que deve ser levado em conta, dado que parcela significativa

66
QUESTIONRIOS ON-LINE

da populao brasileira no tem acesso internet ou a dispositivos eletr-


nicos. Ainda que tenha crescido nos ltimos anos, o acesso internet no
Brasil atingiu, em 2013, apenas metade (49,4%) da populao com 10 anos
ou mais de idade (Grfico 1), segundo dados da Pnad (Pesquisa Nacional
por Amostra de Domiclios, do IBGE). O acesso ainda mais baixo nas
faixas da populao com menor escolaridade/renda e maior idade.6 Trata-
se, portanto, de um significativo gargalo que pode se configurar como um
grande desafio ao pesquisador, sobretudo se o pblico-alvo da pesquisa
for majoritariamente formado pelas parcelas da populao para as quais o
acesso a esse tipo de tecnologia ainda muito restrito.

Grfico 1 Percentual de pessoas que utilizaram a internet por meio de microcomputador


e somente por outros equipamentos, no perodo de referncia dos ltimos trs meses na
populao de 10 anos ou mais de idade Brasil 2005/2013

Fonte: IBGE, Pnad 2005/2013.


(1) A investigao da utilizao da internet passou a contemplar em 2013 outros equipa-
mentos de acesso, alm do microcomputador (como telefone mvel celular e tablets).

Dependncia de recursos tecnolgicos e da qualidade da rede Por


se tratar de um instrumento que tem todas as suas etapas de realizao
completamente atreladas ao uso da internet, o sucesso da aplicao do
questionrio on-line depende diretamente da disposio de recursos tec-
nolgicos minimamente adequados e da qualidade do acesso rede. A des-
peito de o acesso internet banda larga ter crescido significativamente no
pas, h ainda parcelas da populao que possuem contato precrio com as

6 De acordo com os dados da Pnad 2013, apenas 33,8% das pessoas com renda familiar per
capita de at meio salrio mnimo e 34,5% das pessoas com at 7 anos de estudo acessam a
internet no Brasil. Alm disso, enquanto o acesso internet atinge 75,7% dos jovens de 15 a
17 anos, ele apenas de 12,6% na faixa etria acima de 60 anos.

67
QUESTIONRIOS ON-LINE

ferramentas da tecnologia da informao. Segundo dados da Pnad 2013,


embora o acesso internet banda larga fixa seja de 77,1% dos domiclios
com internet no pas, ele ainda bastante desigual regionalmente, atingin-
do apenas 47,1% dos domiclios na Regio Norte, por exemplo.

4. 1. Maior ou menor risco de vis?


Indubitavelmente, a aplicao de questionrios on-line pode agravar al-
guns riscos de vis que tambm esto presentes em entrevistas pessoais ou
por telefone. No decorrer da aplicao de questionrios on-line, alm da exis-
tncia de questes de difcil entendimento cujas dvidas no podem ser sa-
nadas, h maior possibilidade de o respondente conhecer todas as perguntas
do questionrio com antecedncia e se preparar melhor para aquilo que ele
pensa ser a resposta desejvel. Tambm maior a probabilidade de que res-
ponda as questes com menor sinceridade ou coerncia, uma vez que no h
possibilidade de ser questionado imediatamente quanto a essas incoerncias
pelo entrevistador. H, por outro lado, maior garantia de anonimato (o que
fundamental em algumas situaes) e menor risco de influncia do entrevis-
tador ou mesmo fraude nas respostas, j que o questionrio on-line auto-
preenchido.7 O quadro a seguir, adaptado de Mattar et al. (2014), sintetiza as
principais fontes de vis do questionrio on-line, em comparao s entrevis-
tas pessoais e telefnicas.

Figura 7 Fontes de vis em entrevistas pessoais, por telefone e on-line

7 O anonimato tende a ser mais garantido em um questionrio autopreenchido, se compa-


rado a um questionrio aplicado e com interao pessoal entre pesquisador e entrevistador.
Contudo, o anonimato no total, uma vez que muitas ferramentas de questionrio on-line
permitem, por exemplo, captar o endereo de IP do computador do respondente, possibilitan-
do localizar com exatido de onde est chegando cada resposta.

68
QUESTIONRIOS ON-LINE

5. Cuidados essenciais na utilizao de questionrios


on-line
Como foi detalhado anteriormente, ainda que possuam algumas vanta-
gens evidentes em relao aos questionrios de papel, os instrumentos on-line
apresentam algumas limitaes que no so triviais e que precisam ser leva-
das em conta no momento de planejamento da pesquisa. Existem, contudo,
formas de minimizar algumas dessas limitaes, o que reduz tambm o risco
de que possam gerar algum vis nos resultados. So indicados a seguir alguns
cuidados essenciais na elaborao e aplicao de questionrios on-line.

a) No momento de planejamento e elaborao do questionrio:

Priorizar a objetividade e a conciso Se, em qualquer investigao,


a objetividade e a conciso do questionrio so fundamentais para o
bom andamento da pesquisa, elas so ainda mais imprescindveis na
aplicao on-line. Caso o respondente se depare com pargrafos ou pe-
rodos muito longos e/ou complexos, bastante provvel que ele fique
tentado a abandonar o preenchimento. Veja o exemplo a seguir.

Na pergunta acima, os textos de cada item so bastante longos e con-


templam, em cada opo de resposta, situaes muito diferentes, que
no podero ser desagregadas e distinguidas em uma anlise posterior.
O ideal simplificar os itens e desagreg-los em outras opes, a fim de
no confundir o respondente e garantir que a resposta escolhida seja
mais fiel situao dele.

Evitar perguntas muito longas preciso sempre estar atento


para o fato de que, em uma pesquisa on-line, no h a possibilidade
de influncia imediata do pesquisador para convencer o respondente
a continuar a entrevista, caso este esteja propenso a abandon-la. Por
isso, sempre que possvel, recomendado que no se utilizem perguntas
muito longas ou baterias interminveis de questes. Quanto mais fluido
for o questionrio, maiores so as chances de xito da pesquisa. Veja os
exemplos a seguir.

69
QUESTIONRIOS ON-LINE

Do modo como esto formatadas, as duas questes acima so per-


feitamente adequadas para um questionrio aplicado presencialmen-
te por um pesquisador/entrevistador, mas no so pertinentes em
um questionrio on-line, pois elas exigem esforo e ateno dema-

70
QUESTIONRIOS ON-LINE

siados do respondente. Se no fosse possvel diminuir a extenso da


bateria de itens, seria interessante dividir cada questo em dois enun-
ciados diferentes: o primeiro questionando sobre a existncia do fe-
nmeno e o segundo referente caracterizao/detalhamento dele.
Uma das grandes vantagens das ferramentas on-line justamente a
maior interatividade entre as questes. Sendo assim, o pesquisador
poderia optar, por exemplo, por criar algumas caixas dinmicas que
surgiriam na tela com as opes de detalhamento do item apenas nos
casos em que o respondente escolhesse a opo sim.

b) No momento de envio do convite:

Utilizar canais institucionais Sempre que possvel, prefer-


vel que o pesquisador faa uso de e-mails, sites ou mesmo perfis em
redes sociais que sejam institucionais (e no pessoais) no momento
do envio do convite aos potenciais respondentes. Isso garante maior
credibilidade pesquisa e oferece canais mais confiveis para que a
pessoa convidada possa confirmar a procedncia do convite.

Enviar carta de apresentao Alm do uso de canais institu-


cionais, indispensvel o envio de uma carta de apresentao (Figu-
ra 8) em que o pesquisador se identifique, explique brevemente os
objetivos e o escopo da pesquisa e, assim, solicite a colaborao do
respondente.

Figura 8 Exemplo de carta de apresentao

71
QUESTIONRIOS ON-LINE

Disponibilizar os contatos da equipe Juntamente com a car-


ta de apresentao, recomendvel que o pesquisador disponibilize
canais para contato com os membros da equipe de pesquisa, como
e-mails, telefones e sites. A incluso de um breve currculo dos inte-
grantes tambm pode garantir maior credibilidade ao convite.

Evitar ferramentas de spam Sempre que possvel, o ideal evi-


tar o uso de ferramentas de e-mail marketing ou outros recursos de
disparo automtico de mensagens, optando por mensagens personali-
zadas. Alm de garantir que a mensagem no seja transferida automa-
ticamente para a lixeira pelas caixas de e-mail, isso demonstra maior
preocupao do pesquisador em obter a colaborao do respondente.

Atentar para os dias e horrios mais adequados Ao contrrio


do que possa parecer, os respondentes esto menos predispostos a
preencher questionrios em finais de semana ou feriados. Por isso,
sempre que haja possibilidade, o ideal enviar convites em dias teis
e em horrios nos quais o acesso do pblico-alvo da pesquisa seja
mais provvel.

No enviar sucessivos convites Nada mais desagradvel do


que ser importunado vrias vezes por algum desconhecido, em sua
prpria caixa de e-mail ou em seu perfil em rede social. Por isso, o
ideal que o pesquisador aguarde alguns dias para realizar um novo
convite, caso o potencial respondente no tenha preenchido o ques-
tionrio. Embora no exista uma regra predefinida, recomendvel
que no se ultrapasse o nmero de trs convites enviados.

c) E, por fim, no momento de aplicao do questionrio:

Utilizar ferramentas de controle de respostas Embora nem todos


os servios ofeream ferramentas avanadas para evitar fraudes durante
o preenchimento do questionrio on-line, muitos deles j disponibili-
zam ferramentas para a verificao da procedncia das respostas (como
a identificao da localizao, IP, e mesmo endereo de e-mail do res-
pondente), criao de links diferentes para cada pessoa pesquisada (e
que no funcionam se forem encaminhados a terceiros), alm do con-
trole rigoroso do preenchimento das cotas predefinidas para o campo.
Ferramentas como essas podem ser muito teis nas etapas de checagem,
crtica e consistncia das respostas no banco de dados.

Evidentemente, os cuidados citados acima no impedem totalmente a


ocorrncia de vieses ou erros de preenchimento, aos quais pesquisas de qual-
quer natureza so suscetveis, mas ao menos evitam inconsistncias ou incoe-
rncias bsicas que podem afetar gravemente os resultados da investigao ou
mesmo inviabilizar uma anlise confivel dos dados.

72
QUESTIONRIOS ON-LINE

7. Consideraes finais e alguns estudos exemplares


Este texto, de carter introdutrio, buscou apresentar caractersticas bsi-
cas que envolvem o processo de planejamento, construo e aplicao de um
questionrio on-line, bem como discutir brevemente suas principais e vanta-
gens em comparao a outras tcnicas de coleta de dados. Longe de esgotar a
discusso sobre o tema, ele consiste, assim, em um convite para a leitura e o
aprofundamento dos principais pontos mencionados ao longo do captulo. A
fim de facilitar a imerso no universo dos web surveys, so sugeridos a seguir
alguns estudos e pesquisas exemplares (do Brasil e do exterior) que utilizam
questionrios on-line como principais ferramentas de coleta de dados:

O Caso ProUni (Cebrap) A pesquisa Polticas de incluso e transio


no mercado de trabalho o caso do ProUni, realizada pelo Centro Brasi-
leiro de Anlise e Planeamento (Cebrap), buscou analisar o processo de
implantao do ProUni e seus primeiros efeitos na trajetria dos bene-
ficirios, tanto no ensino superior como na sua insero profissional. A
pesquisa um bom exemplo do uso de questionrios on-line em comple-
mentao a tcnicas de pesquisa qualitativa, como a entrevista em profun-
didade. O questionrio utilizado na pesquisa pode ser acessado pelo link:
https://goo.gl/ho5UCz e os detalhes do projeto esto no site do Cebrap:
http://www.cebrap.org.br/v2/researches/view/85.

Brazil Biotech Map 2011 (Cebrap) O estudo, produzido pelos pes-


quisadores do Cebrap em parceria com a Apex-Brasil (Agncia Brasileira
de Promoo de Exportaes e Investimentos), teve como objetivo pri-
mordial identificar as empresas que tm a biotecnologia como atividade
principal, alm de organizaes que desenvolvem projetos em biotecnolo-
gia. A partir da aplicao de um questionrio on-line s empresas (prece-
dido de ligaes telefnicas), a pesquisa levantou e analisou informaes
e indicadores como: nmero de empresas de biotecnologia no Brasil; os
clusters de biotecnologia brasileiros; a rea de atuao dessas empresas;
seu tamanho (faturamento e quadro de funcionrios); exportao e im-
portao do setor; parcerias com institutos de pesquisa; e origem dos re-
cursos para Pesquisa e Desenvolvimento.

Formao e identidade profissional: a trajetria de egressos de Cincias


Sociais nesta dissertao de mestrado, que visa a investigar as trajetrias
profissionais dos egressos do curso de Cincias Sociais no Brasil, realizo (em
carter exploratrio) a aplicao de um questionrio on-line a cientistas so-
ciais de diferentes geraes e percursos de formao. No total, mais de 2.200
egressos responderam ao questionrio, o que acabou constituindo um ver-
dadeiro banco de dados sobre a temtica (Torini, 2012).

73
QUESTIONRIOS ON-LINE

Perfil Socioeconmico e Cultural dos Estudantes de Graduao


das Universidades Federais Brasileiras este estudo, realizado pela
Associao Nacional dos Dirigentes das Instituies Federais de Ensino
Superior (Andifes), teve o objetivo de mapear a vida social, econmica
e cultural dos estudantes de graduao presencial das universidades fe-
derais brasileiras. A implantao da pesquisa teve incio em 2010 com
a aplicao de um questionrio on-line que foi respondido por quase
20 mil estudantes dessas universidades federais. Trata-se de um bom
exemplo de complementao do uso de questionrio on-line com ou-
tras estratgias de coleta de dados.

Web Survey Methodology O livro, publicado em maio de 2015,


resultado de uma parceria da Google com cientistas sociais europeus e
apresenta uma compilao de algumas das mais relevantes pesquisas aca-
dmicas que fizeram uso de questionrio on-line no campo das cincias
sociais europeias. Trata-se no apenas de um manual, mas de um mate-
rial de referncia sobre as principais ferramentas utilizadas em pesquisas
cientficas construdas a partir de surveys on-line (Callegaro et al., 2015).

Smartphones as Locative Media Publicada em maro de 2015, esta


uma das produes mais recentes do Centre for Mobilities Research
(CeMoRe), da Universidade de Lancaster. O livro apresenta alguns dos
estudos mais recentes realizados pelos pesquisadores do CeMoRe e que
so baseados nos chamados mtodos mveis de coleta de dados, como
o uso intensivo de websurveys, ferramentas de georreferenciamento on-li-
ne e outras tcnicas automticas de registro de informaes. Os principais
projetos de pesquisa desenvolvidos pelo centro podem ser acessados pelo
link: http://www.lancaster.ac.uk/fass/centres/cemore/ . (Frith, 2015).

Comparing a Cell Phone Survey and a Web Survey of University


Students Este artigo, tambm de 2015, analisa os resultados de um
survey realizado com estudantes de uma universidade na Coria do Sul
por meio de dois tipos de questionrio eletrnico: on-line e off-line (por
celulares). O estudo compara as diferentes taxas de resposta e recusa e
os problemas mais relevantes ocorridos a partir da utilizao das duas
tcnicas (Woo et al., 2015).

74
QUESTIONRIOS ON-LINE

7. Referncias
BABBIE, E. Mtodos de pesquisas em survey. Belo Horizonte-MG: Editora
UFMG, 2005.

CALLEGARO, M.; LOZAR MANFREDA, K.; VEHOVAR, V. Web survey


methodology. Londres: Sage, 2015.

FRITH, J. Smartphones as locative media. Cambridge: Polity, 2015.

GIL, Antnio Carlos. Mtodos e tcnicas de pesquisa social. 5 ed. So Paulo:


Atlas, 1999.

GNTHER, Hartmut. Pesquisa qualitativa versus pesquisa quantitativa:


Esta a questo? Psic.: Teor. e Pesq., Braslia, v. 22, n 2, pp. 201-209, ago.
2006. Disponvel em <http://www.scielo.br/scielo.php?script=sci_arttext&pi-
d=S0102-37722006000200010&lng=en&nrm=iso>. Acesso em 30 de junho
de 2015.

MALHOTRA, Naresh. Pesquisa de marketing: Uma orientao aplicada. 4


ed. Porto Alegre: Bookman, 2006.

MATTAR, F. N.; MOTTA, S. L. S.; OLIVEIRA, B. Pesquisa de marketing


Metodologia, planejamento, execuo e anlise. 7 ed, Rio de Janeiro: Elsevier,
2014.

MINAYO, Maria Cecilia de S.; SANCHES, Odcio. Quantitativo-qualita-


tivo: Oposio ou complementaridade? Disponvel em <http://www.scielosp.
org/scielo.php?pid=S0102-311X1993000300002&script=sci_arttext>. Acesso
em 30 de junho de 2015.

TORINI, Danilo Martins. Formao e identidade profissional: A trajetria


de egressos de Cincias Sociais.137 f. Dissertao (Mestrado em Sociologia).
Faculdade de Filosofia, Letras e Cincias Humanas, Universidade de So Pau-
lo, So Paulo, 2012.

WOO, Y.; KIM, Sunwoong; COUPER, M. P. Comparing a cell phone sur-


vey and a web survey of university students. Social Science Computer Review,
June 2015, 33: 399-410.

75
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

Abordagens qualitativas e quantitativas na


avaliao de polticas pblicas
Vera Schattan Ruas Pereira Coelho1
Pesquisadora do Cebrap e do CEM/Cebrap
e professora da UFABC

Introduo
Este captulo est organizado em trs partes.

A primeira introduz o tema da avaliao de polticas pblicas enfocando a


sua importncia e diferentes abordagens.

Na segunda parte, so discutidas trs pesquisas que avaliaram diferentes


aspectos da poltica de sade, valendo-se de estratgias metodolgicas distin-
tas. A primeira pesquisa apresenta um estudo qualitativo que avaliou aspectos
associados incluso, deliberao e influncia dos processos participativos
na poltica de sade. A segunda pesquisa, de natureza quantitativa, avaliou a
trajetria das desigualdades em sade entre municpios brasileiros nos lti-
mos 30 anos. A terceira pesquisa, tambm quantitativa, investigou o impacto
da contratao de Organizaes Sociais de Sade (OSSs) nos indicadores de
sade e de acesso a servios bsicos no estado de So Paulo.

Na terceira parte feita uma sntese dos processos de pesquisa apresenta-


dos nas sees anteriores.

Desde 1997 coordeno projetos de pesquisa na rea de poltica e polticas


pblicas. Alguns desses projetos olharam para dentro do municpio de So
Paulo, outros para o estado de So Paulo e outros, ainda, para o pas como um
todo. Houve tambm projetos que buscaram comparar processos em anda-
mento na Amrica Latina e aqueles que compararam processos em andamen-
to na Amrica Latina, na frica e na sia. Nesses trabalhos acabei me valendo
ora de estratgias quantitativas, ora de estratgias qualitativas para responder
s variadas questes que foram sendo colocadas.

Neste captulo apresento um panorama das possibilidades abertas pelos estu-


dos qualitativos que, contando com os dados de um pequeno nmero de casos,

1 Este captulo apresenta pesquisas desenvolvidas pelo Ncleo de Cidadania, Sade e De-
senvolvimento do Cebrap entre 2001 e 2015: Polticas pblicas de sade e participao
social na cidade de So Paulo; Trajetrias das desigualdades no Brasil e Equidade e
contratualizao de servios no SUS, financiadas pela Fundao de Amparo Pesquisa do
Estado de So Paulo (FAPESP) processos 2011/20641-5 e 2013/07616-7. As opinies, hipte-
ses e concluses ou recomendaes expressas so de responsabilidade da autora. Agra-
deo a generosa contribuio de Edgard Fusaro, estatstico e pesquisador do Seade e do
CEM; juntos ministramos a Oficina Metodolgica que deu origem a este captulo. Agradeo
tambm Alexandre Ferraz, Marina Barbosa, Maria Carolina Oliveira e Alexandre Abdal pela
colaborao na preparao da oficina e dos originais.

76
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

permitiram uma formulao rigorosa dos problemas de pesquisa que enfrentei


e uma leitura e interpretao sistemtica dos resultados. Apresento, tambm,
duas diferentes abordagens quantitativas que tive a oportunidade de utilizar
nesses trabalhos, buscando chamar ateno para as suas especificidades.

Com este trabalho espero contribuir para deixar mais clara a conexo en-
tre as metodologias de pesquisa, apresentadas, em muitos cursos, a partir de
uma perspectiva excessivamente terica, e o processo de pesquisa propria-
mente dito. Ao mostrar como fui me apropriando de diferentes metodologias
para responder s variadas questes com que tenho trabalhado, quero chamar
ateno para a importncia de o pesquisador se apropriar do seu objeto de
estudo, refletir sobre as perguntas que pretende responder, avaliar os recur-
sos disponveis e, sobretudo, tomar as decises que julgar adequadas, mesmo
quando elas forem pouco usuais e envolverem algum risco. Com isso, convido
o leitor a fazer o mesmo, isto , a refletir com liberdade sobre que metodolo-
gias que podem ajud-lo a enfrentar seus problemas de pesquisa.

Avaliando polticas pblicas


A primeira pergunta a ser enfrentada por um pesquisador interessado em
avaliar polticas pblicas : o que se quer avaliar?

As respostas podem variar de um sistema de polticas a uma poltica espe-


cfica ou determinados aspectos dessa poltica. Por exemplo, pretende-se ava-
liar o sistema de proteo social? O sistema de sade? Uma poltica de sade
especfica, como o Programa de Sade da Famlia? Uma poltica cultural? Que
benefcios so esperados de um sistema de polticas ou de uma poltica espe-
cfica? Esses sistemas e polticas esto entregando o que esperado?

A seguir preciso indagar sobre os parmetros que balizaro a avaliao,


uma vez que a pesquisa associada avaliao carrega um julgamento de valor.
Diferentemente da pesquisa que busca entender, descrever relaes e mecanis-
mos e caracterizar processos sem necessariamente valor-los, a pesquisa asso-
ciada avaliao sempre acompanhada de um julgamento sobre a adequao
daquilo que foi descrito a certos parmetros ou critrios. Ademais, esse julga-
mento poder orientar decises sobre a continuidade, as mudanas de rota ou,
mesmo, a descontinuidade da poltica ou ao que est sendo avaliada.

Na avaliao podemos nos perguntar se os insumos so adequados, ou se a


qualidade do que est sendo entregue satisfatria. Essa avaliao importan-
te para justificar, por exemplo, o gasto pblico. Afinal, o dinheiro arrecadado
com impostos est sendo bem gasto? A avaliao tambm permite identificar
aspectos da poltica ou do sistema de polticas que precisam ser melhorados.

Se queremos avaliar a qualidade de uma poltica cultural, de educao ou


de sade etc., temos de saber que aspectos dessa poltica queremos avaliar e
77
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

que critrios balizaro essa avaliao, pois, ao final do trabalho, deveremos


ser capazes de emitir um julgamento. Por exemplo: a poltica cultural tem
recebido recursos adequados e ineficiente, ou a poltica de sade conta com
equipamentos de sade adequados, porm o nmero de profissionais de sade
insuficiente para operar esses equipamentos.

Perspectivas de avaliao
Imagino que ao ler o ltimo pargrafo o leitor tenha-se perguntado: como
so feitas essas avaliaes? Afinal, como definir se os recursos para a poltica
cultural, de sade ou de educao so adequados e, ainda, como aferir se essas
polticas so efetivas? Para responder a essas questes temos que comear dis-
tinguindo avaliao de insumos, de processo e de resultado.

Nas polticas sociais, os indicadores de insumo e processo so indicadores


intermedirios, que traduzem em medidas quantitativas o esforo de alocar
recursos humanos, fsicos ou financeiros para a obteno de melhorias efeti-
vas de bem-estar. Esses indicadores avaliam se o processo de implementao
de uma poltica est de acordo seja com o que foi planejado, seja com o que
considerado teoricamente adequado.

O nmero de profissionais contratados em uma escola, ou de homens-hora


dedicados a um programa social ou a quantidade de equipamentos culturais por
concentrao populacional so usados como indicadores de insumo. J o nme-
ro de aulas ministradas ou de consultas bsicas ou de espetculos oferecidos por
ms so indicadores de processo. Em alguns contextos, os indicadores de insumo
e processo costumam ser chamados de indicadores de esforo, e os indicadores
de resultados so normalmente chamados de indicadores-produto. A distino
importante, pois possvel que um processo seja bom e, ainda assim, no leve aos
resultados esperados. Alm dos indicadores de processo de natureza mais quanti-
tativa h tambm indicadores qualitativos como, por exemplo, os que medem se o
tratamento dado aos alunos e pacientes respeitoso e humanitrio.

No caso das polticas sociais, os indicadores-produto so aqueles que se refe-


rem s variveis resultantes de processos sociais complexos, como a esperana
de vida ao nascer, a proporo de crianas fora da escola, o nvel de conheci-
mento de matemtica e portugus dos jovens, o grau de pobreza ou o aumen-
to do acesso da populao a bens culturais. So medidas representativas das
condies de sade, nvel de escolaridade e de cultura, assim como do nvel de
renda da populao, as quais se acredita que esto associadas s polticas sociais
em questo, e que apontam seja para avanos, seja para retrocessos nas condi-
es de vida. Ou seja, enquanto os indicadores-insumo quantificam os recursos
disponibilizados nas diversas polticas sociais, os indicadores-produto retratam
condies de vida efetivas que, acredita-se, so afetadas por essas polticas.

78
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

Outra forma de abordar a questo da adequao entre meios e fins nas


polticas sociais aquela que diferencia os indicadores segundo trs aspectos
relevantes na avaliao de programas sociais: a eficincia, a eficcia e a efeti-
vidade. A eficincia diz respeito aos custos dos meios e recursos empregados
em vista dos resultados obtidos. A eficcia diz respeito capacidade do pro-
grama de cumprir as metas prometidas. J a efetividade social do programa
avaliada em termos dos efeitos do programa, isto , da sua capacidade de gerar
efeitos de bem-estar para a sociedade (Cardoso, 1999). Um programa pblico
de reurbanizao de favelas, por exemplo, pode ter sua eficincia avaliada em
termos do volume de investimentos por unidade de rea fsica; a eficcia, por
indicadores relacionados melhoria das condies de moradia, infraestrutura
e acessibilidade do local; e sua efetividade social, por indicadores de mortali-
dade infantil e nvel de criminalidade na rea.

O Quadro 1 apresenta alguns exemplos desses indicadores.


Quadro 1 Exemplos de indicadores de insumo, processo, resultado, eficincia, eficcia e
efetividade

Insumos Processo Produto


s Gasto por usurio
s Variao
do Sistema nico
s Nmero de na taxa de
de Sade (SUS) na
Poltica de consultas internao
Ateno Bsica
Sade bsicas por por causas
s Nmero de equipes
usurio SUS/ano sensveis a
de sade da famlia
ateno bsica
por 3.500 habitantes
s Gasto por criana s Nmero
s Variao nos
em idade escolar de aulas
indicadores
s Nmero de ministradas
Poltica de do Sistema
profissionais de por crianas
Educao de Avaliao
educao por 100 inscritas no 1
em Educao
crianas no ensino ano do ensino
Bsica
fundamental fundamental
s % do PIB municipal s Nmero de s Variao no
destinado cultura espetculos nmero de
Poltica s Nmero de musicais espetculos
Cultural equipamentos patrocinados pela culturais
culturais por 1.000 Secretaria de consumidos por
habitantes Cultura em 2014 habitante/ano
s Indicadores
de eficcia
e efetividade
Eficincia / s Indicadores de eficincia relacionam
relacionam
Eficcia e indicadores de insumo com indicadores
resultados a
Efetividade de processo
metas e efeitos
sobre o bem-
estar
Elaborao prpria.

79
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

Como avaliar
Como se aferem os indicadores utilizados para medir a adequao entre in-
sumos e produtos? E a eficincia, a eficcia ou efetividade de uma poltica? H,
em cada poltica, indicadores universais para avaliar processo e resultado?

As respostas para essas perguntas devem ser buscadas na literatura, seja na


literatura mais terica e normativa, seja nos resultados de estudos empricos.
Um bom balano da literatura deve permitir ao leitor identificar os consensos
que j existem em cada rea de poltica, isto , sobre o que desejvel e razo-
vel esperar tanto em termos de processo quanto de resultados.

Uma das grandes dificuldades envolvidas no processo de avaliao como


garantir que existe, de fato, uma relao de causalidade entre a poltica ava-
liada e os resultados esperados. Para ilustrar essa dificuldade, Januzzi (2002)
chama ateno para o erro de buscar avaliar as condies de sade de uma
populao a partir da oferta de servios ou de recursos humanos disponveis
na rea de sade. Afinal, um maior coeficiente de mdicos por 1.000 habi-
tantes ou uma taxa maior de consultas por habitante podem ser indicativos
de que as condies de sade da populao so to graves que levaram a um
maior esforo de alocao de recursos. Esses indicadores seriam, pois, mais
apropriados para retratar as condies de oferta de servios de sade. Para
o primeiro conceito condies de sade indicadores de falta de sade,
retratados pelas taxas de morbidade, mortalidade infantil ou mortalidade por
causas especficas, seriam certamente mais vlidos (Januzzi, 2002: 7).

Para lidar com os riscos envolvidos no processo de avaliao sempre


importante se perguntar sobre o porqu de acreditar que os resultados ob-
servados se devem poltica que est sendo avaliada. Se o leitor comear a
enfrentar essa questo sistematicamente, ver que h pouca reflexo sobre a
estrutura de causalidade entre as dimenses sociais estudadas. Outro fator
importante a ser considerado o tempo. Afinal, h efeitos que demoram para
se manifestar, pois nem sempre o efeito esperado se segue imediatamente in-
terveno. E h, ainda, outra questo fundamental, que a da disponibilidade
e confiabilidade dos dados.

No Brasil h um conjunto importante de estatsticas sociais, econmicas e


demogrficas que podem ser usadas para viabilizar a avaliao sobre as pol-
ticas sociais sendo produzidas, compiladas e divulgadas por agncias federais,
estaduais e municipais como, por exemplo, o Instituto Brasileiro de Geografia
e Estatstica (IBGE) e o Sistema Estadual de Anlise de Dados (Seade), os mi-
nistrios da Cultura (MinC), do Desenvolvimento Social (MDS) ou da Sade
(MS) e, ainda, as secretarias estaduais e municipais.

Embora possamos contar com um conjunto importante de dados e indi-


cadores sociais que so produzidos por essas agncias, devemos ter sempre

80
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

presente o fato de no se poder confiar cegamente nas informaes dispo-


nibilizadas. Indicadores podem estar sujeitos a erros sistemticos advindos
do processo de coleta dos dados usados na sua construo, alm de, eventu-
almente, erros amostrais, se construdos a partir de dados provenientes de
pesquisas de campo (Januzzi, 2002). Por exemplo, em uma de nossas pesqui-
sas, que apresentaremos neste captulo, comeamos a analisar a mortalidade
por faixa etria para todos os municpios brasileiros e, segundo esses dados, a
longevidade era maior nos municpios mais pobres e no estado de So Paulo
as crianas brancas morriam mais que as pretas. Ou seja, achados que devem
ser atribudos subnotificao e precariedade dos dados disponveis e no
efetividade da poltica social nessas reas.

Outro cuidado a ser tomado levar em conta o contexto em que essas in-
formaes so produzidas. Por exemplo, quando se busca comparar os nveis
de emprego em diferentes localidades devem-se levar em conta as diferenas
no grau de formalizao do mercado de trabalho, pois se isso no for feito
pode-se chegar a concluses pouco condizentes com a realidade. Quando h
pouca confiana nos dados disponveis ou se necessita de informaes no
disponveis nos sistemas oficiais, deve-se considerar a possibilidade de fazer
pesquisa primria para levantar os dados.

To importante quanto definir o que se pretende avaliar, com quais critrios


se far a avaliao e com quais dados se trabalhar decidir sobre o mtodo
de avaliao a ser utilizado. A seguir apresentarei trs abordagens metodolgi-
cas diferentes, procurando chamar ateno para a possibilidade de fazer ava-
liaes rigorosas tanto a partir de pesquisas qualitativas quanto de pesquisas
quantitativas. No primeiro caso apresento um estudo qualitativo envolvendo
lgica binria, no segundo caso so utilizados modelos de regresso linear
mltipla, e no terceiro caso emprega-se o mtodo da diferena-em-diferenas.

Construo de indicadores e avaliao em pesquisa qualitativa


Economistas e estatsticos chamam ateno para o fato de que boas avalia-
es dependem da disponibilidade e da possibilidade de analisar um grande
nmero de observaes, pois s a partir de um grande nmero de casos come-
am a ficar claras as caractersticas da populao, tornando-se possvel chegar,
com uma maior margem de segurana, a concluses sobre essas caractersti-
cas. Eles tm razo.

Em muitas situaes no possvel, no entanto, coletar informaes sobre


um grande nmero de casos, tornando-se necessrio seguir caminhos alter-
nativos e em que se trabalha com poucos casos. Os resultados obtidos em
estudos dessa natureza so indicativos e no podem ser tomados como re-
presentativos da populao. Eles podem, porm, ser muito teis para testar a
plausibilidade de hipteses sobre as caractersticas dessa populao. Darei, a

81
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

seguir, um exemplo sobre como estruturar uma avaliao rigorosa no contex-


to de uma pesquisa qualitativa e com poucos casos.

O que avaliar
No ano de 2001 foram criados, no municpio de So Paulo, centenas de
conselhos nas unidades de sade, dezenas de conselhos nas subprefeituras,
alm de se ter buscado dinamizar o Conselho Municipal de Sade. O leitor j
ouviu falar desses conselhos?

Os conselhos nacional, estaduais e municipais de sade foram insti-


tudos pela Constituio Federal de 1988, que os definiu como mecanismos
paritrios responsveis por reunir organizaes da sociedade civil, provedores
de servios e administradores pblicos na gesto do sistema de sade. Esses
conselhos operam em todos os estados e em quase todos os municpios bra-
sileiros, lidando com questes de prestao de servios, acompanhamento do
oramento e estabelecimento de prioridades. Hoje, alm deles, h conselhos
de unidade e, nas grandes cidades, conselhos locais.

Como disse acima, os conselhos locais, isto , das subprefeituras, e os de


unidade comearam a ser implantados no municpio de So Paulo em 2001.
Essa experincia coincidia com um movimento nacional e internacional de
valorizao da participao social. Apostava-se que, se as autoridades atuas-
sem mais perto da populao, isso contribuiria para a definio de polticas
pblicas mais efetivas e responsivas s necessidades dessa populao.

O problema que, se o conceito de participao social est associado,


por um lado, a movimentos sociais representativos, democrticos e que tm
impacto sobre a poltica pblica, por outro lado, ele vago. Afinal, quando,
exatamente, se requer maior participao? Quem deve ser includo? Quem
efetivamente includo? Qual o risco de que apenas parcela da populao seja
ouvida e beneficiada?

Para enfrentar essas questes organizamos um levantamento junto aos 31


recm-criados conselhos de sade das subprefeituras. Queramos saber quem
estava participando desses conselhos, como e com que resultados.

Nossos primeiros resultados mostraram que em 16 das 31 subprefeituras


havia razovel diversidade associativa, j em 15 havia uma predominncia
quase absoluta de conselheiros ligados ao PT. O que exatamente significava
esse resultado? Em reas onde havia mais diversidade associativa a popula-
o estava representada mais adequadamente? A maior diversidade deveria
contribuir para ampliar a probabilidade de que o conselho conseguisse ter

2 Nesses conselhos, 50% dos participantes representam a sociedade civil, 25% representam
os prestadores de servios e 25% representam os gestores pblicos.

82
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

impacto sobre a poltica de sade da subprefeitura ou do municpio? Ou, pelo


contrrio, nas reas onde havia maior preponderncia de conselheiros petistas
encontraramos maior clareza quanto aos objetivos a ser alcanados, o que
facilitaria o dilogo e a negociao com as autoridades sanitrias?

Para responder a essas perguntas, definimos como nosso prximo passo de


pesquisa buscar novos elementos que permitissem considerar com mais cui-
dado tanto a questo da capacidade de incluso e representao dos conselhos
quanto a de seu impacto sobre a poltica de sade.

Nessa etapa, restringimos o nmero de subprefeituras estudadas de 31 para


6, todas elas localizadas em reas perifricas com indicadores socioeconmi-
cos inferiores. Adicionalmente, introduzimos uma varivel de controle, o his-
trico de mobilizao social em torno da questo da sade nessas subprefei-
turas, pois queramos investigar se esse histrico estava associado a conselhos
mais eficazes. O Mapa 1 mostra a distribuio do Indicador de Desenvolvi-
mento Humano (IDH-M) calculado para cada uma das 31 subprefeituras e as
6 subprefeituras selecionadas para a pesquisa. MBoi Mirim, Parelheiros e So
Miguel correspondem s subprefeituras com histrico prvio de mobilizao
social na rea da sade.

Mapa 1 31 Subprefeituras do municpio de So Paulo classificadas pelo IDH-M e 6 subpre-


feituras selecionadas

Fonte: SEMDET, 2007

83
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

Quatro mtodos foram empregados para caracterizar e comparar os con-


selhos locais de sade das 6 subprefeituras selecionadas: anlise de um to-
tal de 83 minutas de reunies dos conselhos referentes ao perodo de janeiro
de 2006 a agosto de 2007,3 aplicao de questionrio junto a 85 conselheiros
representando usurios e gestores de servios de sade,4 observao partici-
pante das reunies e pesquisa bibliogrfica para reconstituio da histria da
mobilizao popular nas localidades sob estudo.

Essa pesquisa se desdobrou em vrias etapas. Nesta seo falarei apenas da par-
te da pesquisa dedicada questo quem estava participando, enfocando como
lidamos com a questo da incluso e representatividade dos conselhos locais.

Como avaliar: critrios e sua operacionalizao


Como operacionalizamos essa avaliao? Que critrios usamos para avaliar
incluso e representatividade? Quando um conselho deve ser considerado como
representativo da populao? Responder a essas questes no fcil, pois h uma
considervel diversidade de concepes acerca do tipo de incluso e representa-
o que um projeto participativo deve proporcionar.

As regulamentaes dos conselhos de sade estipulam que o conselho ser


representativo na medida em que garantir uma representao adequada da so-
ciedade civil organizada, isto , das organizaes e dos movimentos sociais j
mobilizados. Alguns autores se contrapem a essa viso, enfatizando a necessida-
de de promover a incluso de setores sociais historicamente marginalizados dos
processos polticos, o que significa dar ateno aos segmentos populacionais no
organizados e pouco mobilizados (Gaventa, 2006; Cornwall, 2007). H, ainda,
autores que preconizam um mtodo seletivo em que o perfil sociodemogrfico
dos representantes espelhe aquele da populao (Fishkin e Luskin, 1999). Esse
mtodo, conforme se argumenta, evitaria o favorecimento daqueles com mais re-
cursos, assim como a monopolizao dos debates por atores coletivos altamente
politizados e com posies polarizadas.

Ou seja, a definio sobre o tipo de incluso e representao que se deseja al-


canar objeto de intensa disputa. Nesse cenrio, o pesquisador tem que se posi-
cionar e fazer escolhas. Entre os muitos critrios possveis para definir um maior
grau de incluso e representao, adotamos indicadores que refletem os seguintes
critrios: um perfil demogrfico que espelha o da populao, um perfil socioe-
ducacional com presena significativa dos menos favorecidos e, ainda, um perfil
mais plural nos aspectos associativo e poltico.

3 Um formulrio-padro foi elaborado a fim de nortear a coleta e a anlise dos dados nessas
minutas
4 Esses questionrios esto disponveis em: http://www.centrodametropole.org.br/dados/
saude/questionario_conselheiros_gest_logos.pdf e http://www.centrodametropole.org.br/
dados/saude/questionario_conselheiros_usu_logos.pdf.

84
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

Para construir esses indicadores nos valemos de dados primrios, colhidos


atravs de entrevistas feitas com todos os conselheiros usurios das 6 subprefeitu-
ras selecionadas para o estudo, e de dados secundrios disponibilizados por agn-
cias governamentais, como o IBGE e o Seade.

A seguir tomo a varivel gnero para explicar de forma mais detalhada como
procedemos. Inicialmente definimos que conselhos que espelhassem a distribui-
o de gnero da populao deveriam ser considerados como mais representati-
vos, tendo sido estipulada uma margem de 20% de tolerncia. A Tabela 1 mostra
a distribuio de gnero na subprefeitura, a distribuio de gnero presente nos
conselhos das 6 subprefeituras selecionadas e o valor assumido pelo indicador (1
= similar; 0 = discrepante). Por exemplo, no conselho da Casa Verde 90% dos con-
selheiros so do sexo feminino, enquanto na subprefeitura 52,5% dos moradores
so mulheres. Ou seja, dada a margem de 20% de tolerncia, consideraramos que
nesse conselho est espelhada a distribuio de gnero da populao residente na
subprefeitura se at 63% dos conselheiros fossem mulheres. Como esse valor era
de 90%, consideramos que esse conselho no espelha a distribuio de gnero
presente na subprefeitura e atribumos o valor zero a esse indicador.

Fonte: Projeto de pesquisa Polticas pblicas de sade e participao social na cidade de So


Paulo (2006-2007), Cebrap/CEM/NCD/CDRC. Elaborao CEM/Cebrap.

85
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

Resultados
Procedimentos semelhantes foram realizados para as outras cinco variveis
consideradas na dimenso incluso e representao: cor, educao, renda, di-
versidades associativa e poltica. Ou seja, definimos o critrio, encontramos
uma forma de operacionalizar a aferio desse critrio e recorremos lgica
binria, atribuindo o valor 1 para indicar quando essa varivel contribua para
ampliar a incluso e representatividade (de acordo com os critrios constru-
dos a partir da reviso bibliogrfica) e zero quando no contribua. Com isso,
pudemos somar o valor atribudo a cada varivel, o que nos permitiu agre-
gar dimenses muito diferentes e chegar a uma concluso sobre quais subpre-
feituras eram, segundo nossos critrios, mais inclusivas. A Tabela 2 apresenta
os valores atribudos a cada uma dessas variveis nos 6 Conselhos Locais estu-
dados, com achados mais positivos codificados como 1.

Fonte: Projeto de pesquisa Polticas pblicas de sade e participao social na cidade de So


Paulo (2006-2007), Cebrap/CEM/NCD/CDRC. Elaborao CEM/Cebrap.

Esses resultados mostram que h maior incluso de pessoas com menor


grau de escolaridade, de mulheres e de no brancos nos conselhos situados em
localidades que possuem um histrico de mobilizao mais expressivo (MBoi
Mirim, Cidade Tiradentes e So Miguel). Por outro lado, ao observarmos os
perfis poltico e associativo dos conselheiros constatamos que h maior plu-
ralidade de representao nos conselhos situados em reas com menor expe-
rincia de mobilizao, as quais aparecem em azul na tabela. O conjunto das
caractersticas observadas indica que o conselho de sade de So Miguel era,
naquele momento, mais inclusivo e representativo, corroborando as nossas
expectativas de que conselhos em localidades com maior experincia de mo-
bilizao social apresentassem maior incluso.

86
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

Tratamento semelhante foi realizado para avaliar outras trs dimenses


que a literatura aponta como relevantes para promover a efetividade da parti-
cipao social: (i) a dinmica participativa; (ii) as conexes do conselho com
o poder pblico, entes privados e organizaes da sociedade civil; e (iii) as
decises promulgadas pelos conselhos5.

Avaliao em pesquisa quantitativa


Nesta seo introduzo duas tcnicas que so muito utilizados para fazer
pesquisa em geral e avaliao de polticas em particular. Ambas envolvem
modelos de regresso que buscam aferir, no caso da avaliao de polticas, a
significncia estatstica da relao entre, por um lado, indicadores de insumo
e processo, que so as variveis independentes, e, por outro, os indicadores de
resultado, que so as variveis dependentes.

Apresento uma pesquisa que discute a relao entre diferentes polticas e


a reduo das desigualdades em sade entre municpios brasileiros (Pesquisa
1) e, a seguir, outra que discute o impacto das Organizaes Sociais de Sade
na Ateno Bsica Sade no estado de So Paulo (Pesquisa 2). A Pesquisa 1
recorreu a uma tcnica muito disseminada e utilizada (regresso linear mlti-
pla), enquanto na Pesquisa 2 se trabalha com uma tcnica quase-experimental
(diferena-em-diferenas), a qual vem sendo crescentemente utilizada por
agncias nacionais e internacionais interessadas na promoo de polticas ba-
seadas em evidncia.

O que avaliar? Pesquisa 1


Em 2012, quando j estavam disponveis os dados do Censo 2010, nos
reunimos no Centro de Estudos da Metrpole (CEM/Cebrap)6 para dar an-
damento a um projeto de avaliao sobre a trajetria das desigualdades no
Brasil, nas ltimas dcadas, em vrias reas, entre elas: educao, sade, infra-
estrutura urbana e participao poltica. Nesse projeto fiquei responsvel por
enfrentar perguntas relativas s condies de sade e ao comportamento das
desigualdades em sade.

Sabemos que entre 1980 e 2010 a taxa de mortalidade infantil no Brasil caiu
de 69,1 para 16 por 1.000 nascidos vivos. Com relao expectativa de vida, o
pas tambm registrou expressivos ganhos, com a taxa passando de 62,6 anos,
em 1980, para 73,4 anos, em 2010. H, no entanto, evidncias de que as desi-
gualdades em sade permaneceram expressivas. Nos anos 1990, a probabili-
dade de uma criana negra falecer antes de completar um ano de vida era 1,8
vez maior do que a de uma criana branca, enquanto a mortalidade materna

5 Os resultados desse trabalho podem ser encontrados em Vera Schattan Ruas Pereira Coe-
lho (2011). Disponvel em: http://www.scielo.br/pdf/nec/n86/n86a07.pdf.
6 www.fflch.usp.br/centrodametropole/.

87
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

entre mes negras era 3,6 vezes mais elevada que aquela entre as mes brancas
(Cunha, 2008). Segundo Menegolla (2008), a mortalidade infantil entre crian-
as indgenas era o dobro daquela registrada para crianas brancas, enquanto
a incidncia de tuberculose entre indgenas era trs vezes mais elevada do que
para a populao total. Diante desse quadro, a primeira questo que quera-
mos responder era: as desigualdades em sade esto diminuindo?

A partir da definimos um estudo que buscou: (i) descrever o comporta-


mento da taxa de mortalidade infantil e da expectativa de vida para o conjun-
to dos 5.570 municpios brasileiros no perodo 1980-2010; (ii) avaliar se as
desigualdades entre municpios estavam sendo reduzidas; e, finalmente, (iii)
identificar a relao entre o comportamento dessas variveis e o da renda, da
desigualdade de renda, da oferta de servios pblicos, do saneamento bsico
e da escolaridade. A escolha dessas variveis foi feita a partir de uma ampla
reviso da bibliografia que discute os fatores que impactam a sade e as desi-
gualdades em sade.

Como avaliar?
Para levar a pesquisa adiante examinamos um conjunto de dados demo-
grficos e de sade para os anos de 1980 a 2010 disponibilizados por IBGE,
Instituto de Pesquisas Econmica Aplicada (Ipea), Programa das Naes Uni-
das para o desenvolvimento (PNUD) e DATASUS para as regies, estados e
municpios. A escolha dessas unidades de anlise em detrimento dos indi-
vduos se deu tanto em funo da limitada disponibilidade de informaes
sobre mortalidade fornecidas pelos Censos Demogrficos quanto pelas difi-
culdades para realizar clculos diretos das taxas de mortalidade.

Para avaliar a contribuio das diferentes polticas para a reduo das de-
sigualdades de sade recorremos anlise de regresso linear mltipla. Esses
modelos buscam aferir a intensidade e a direo da relao linear entre vari-
veis quantitativas. Foram construdos, para cada um dos anos do Censo (1980,
1991, 2000 e 2010), modelos que tomaram como variveis dependentes a taxa
de mortalidade infantil (Datasus) e a esperana de vida ao nascer (IBGE). Em
termos de variveis independentes foram utilizadas informaes sobre infra-
estrutura e saneamento (cobertura de gua e esgoto por rede geral Censo
Demogrfico, IBGE), caractersticas econmicas e sociodemogrficas (tama-
nho da populao, renda mdia, desigualdade da renda domiciliar per capi-
ta, escolarizao Censo Demogrfico, IBGE) e servios de sade (nmero
de mdicos por 1.000 habitantes Pesquisa de Assistncia Mdico-Sanitria,
IBGE e cobertura do Programa de Sade da Famlia e estabelecimentos de
sade que no fazem internao por 1.000 habitantes DAB, MS).

88
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

importante ressaltar que foram considerados tanto modelos que possi-


bilitaram a comparao para todos os anos analisados (os quais fizeram uso
somente de variveis disponveis para toda a srie em tela, isto , os dados de
infraestrutura, saneamento e caractersticas socioeconmicas obtidos a partir
do Censo Demogrfico) quanto aqueles que utilizaram todas as variveis ex-
plicativas, listadas anteriormente (os quais permitiram a anlise apenas para
os anos em que havia dados disponveis: 2000 e 2010).7

A seguir apresentarei alguns dos resultados que mostram o comportamen-


to das desigualdades em sade e, em seguida, os resultados da anlise de re-
gresso mltipla para mortalidade infantil em que se avaliou o peso de dife-
rentes polticas nos resultados apresentados.

Resultados
O Grfico 1 mostra a evoluo das taxas de mortalidade infantil nas cinco
grandes regies brasileiras e permite constatar a expressiva queda das desi-
gualdades regionais. Comparando a regio que historicamente apresenta os
piores indicadores de mortalidade infantil (Nordeste) com aquela de melho-
res ndices (Sul), observa-se que entre 1980 e 2010 a relao entre as taxas
mdias da primeira e da segunda caiu de 2,4 para 1,6, o que equivale a uma
queda de 33%.

Grfico 1 Taxa de mortalidade infantil (por 1.000 nascidos vivos). Regies brasileiras,
1980 a 2010

Fonte: Mortalidade infantil (Ipeadata; MS/SVS Sistema de Informaes sobre Mortalida-


de SIM e Sistema de Informaes sobre Nascidos Vivos SINASC); Esperana de vida
(IBGE/ Fundo de Populao das Naes Unidas UNFPA/BRASIL). Elaborao: tabulaes
especiais do CEM/Cebrap.

7 Nos dois tipos de modelo, foram acrescentados efeitos fixos para os 27 estados. Todas as
variveis foram centralizadas nos valores mdios observados em cada um dos anos censit-
rios, com o intuito de verificar se valores altos de determinadas caractersticas explicativas
estavam associados a patamares mais baixos ou mais elevados da mortalidade e da espe-
rana de vida.

89
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

Entre os municpios (ordenados pela renda per capita nas tabelas 3 e 4 ) tam-
bm ocorreu melhora acentuada nesse indicador, acompanhada de pequena
reduo das desigualdades. Entre 1980 e 2000, os municpios com maior renda
per capita tiveram maior reduo da taxa de mortalidade infantil que os muni-
cpios com menor renda, situao que se inverteu na dcada de 2000. Graas a
essa inverso, em 2010 havia decrescido a desigualdade entre municpios.

Fonte: Ipeadata; Programa das Naes Unidas para o Desenvolvimento PNUD. Elabora-
o: tabulaes especiais do CEM/Cebrap.

Diante dessas evidncias, que apontavam para a reduo das desigualdades


relativas mortalidade infantil, passamos a enfrentar a questo de aferir a
contribuio de diferentes polticas para esse resultado. Para tanto, nos vale-
mos de um modelo de regresso linear mltipla.

Fonte: Projeto Trajetrias das Desigualdades no Brasil, CEM/Cebrap. Elaborao prpria.

8 Em cada perodo, ordenamos a totalidade dos municpios pela renda mdia per capita, e os
dividimos em quartos. Na tabela apresentamos apenas o primeiro (municpios mais pobres)
e o ltimo desses quartos (municpios mais ricos). A composio desses quartos muda ao
longo do tempo, no apenas porque novos municpios foram criados mas tambm porque os
municpios podem mudar de posio no ordenamento de um ano para outro.

90
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

Os resultados mostrados na Tabela 4 apontam para uma forte associao


entre maior renda mdia dos municpios e menores taxas de mortalidade
infantil no pas. Mostram, tambm, que h uma associao estatisticamen-
te significativa, mas que perde fora ao longo do perodo, entre as taxas de
mortalidade infantil e outros dois indicadores: a desigualdade de renda in-
tramunicipal e a porcentagem de mulheres com 15 anos ou mais com ensino
fundamental completo. Por fim, esses modelos no captam associaes sig-
nificativas entre a ampliao da oferta de servios pblicos de saneamento e
sade e a reduo das taxas de mortalidade infantil.

difcil aceitar alguns desses resultados, como, por exemplo, aquele que
sugere no haver associao entre a expanso da oferta de servios pblicos de
sade e a queda na taxa de mortalidade infantil. Eles confirmam, no entanto,
os achados de boa parte dos estudos que analisaram essa relao.9 Nessa linha,
Martin et al. (2008: 827) comentam: Enquanto uma associao robusta entre
melhores indicadores de sade e fatores socioeconmicos tem sido identifi-
cada de forma recorrente, tornou-se um tema persistente na literatura o fato
de essa associao no aparecer quando se analisa a relao entre a oferta de
servios de sade e os indicadores de sade.

Acreditamos que esses resultados refletem, ao menos em parte, dificulda-


des metodolgicas associadas mensurao das intervenes em sade. Nes-
sa linha, Januzzi (2002: 57) comenta: Trabalhos desta natureza so prdigos
em apontar, por exemplo, que no h associao entre desemprego e pobreza,
violncia e condies de vida, sem questionar se, na realidade, a falta de sig-
nificncia estatstica na correlao (linear, vale lembrar) entre os indicadores
empregados deriva de falta de validade da medida em representar as dimen-
ses sociais referidas. Ou seja, bastante razovel supor que esses resultados
reflitam mais problemas com os dados e com os mtodos de anlise do que
com a falta de impacto da oferta de servios de sade sobre as taxas de mor-
talidade infantil.

Para lidar com esse e outros limites foram sendo desenvolvidos novos mto-
dos de avaliao. A Pesquisa 2, relatada a seguir, apresenta um desses mtodos.

9 McGuire (2006) cita como excees que encontraram uma associao positiva entre inves-
timento em sade pblica e reduo da mortalidade infantil os seguintes estudos: Przeworski
et al. (2000), Rajkumar e Swaroop (2002), Gupta et al. (2003) e Wagstaff (2003).

91
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

O que avaliar? Pesquisa 2


Nacional e internacionalmente tem-se ampliado a preocupao em disponibi-
lizar evidncias que possam ser utilizadas pelos formuladores de polticas pbli-
cas, tendo os estudos experimentais ou quase-experimentais sido crescentemente
mobilizados nesse movimento.10 Apresento, a seguir, um exemplo de uma avalia-
o de impacto que usa uma dessas tcnicas, a diferena-em-diferenas.

Apesar dos avanos alcanados no estado de sade da populao nos l-


timos 30 anos, a expectativa de vida no Brasil ainda est abaixo da mdia e a
taxa de mortalidade de crianas abaixo de 5 anos ainda est acima da mdia
quando comparada aos sete maiores pases da Amrica Latina (Victora et al.,
2011a). Diante de resultados como esses, nosso sistema pblico de sade, o
SUS, tem sido criticado por no fornecer atendimento de sade suficiente e de
qualidade para a populao (Victora et al., 2011b).

Na rea da sade, assim como em vrias outras reas, tem sido proposta a
contratao de Organizaes Sociais (OSs), ou outras organizaes sem fins
lucrativos, como forma de promover a melhora dos servios pblicos. Argu-
menta-se que essas organizaes passariam a concorrer entre si para fornecer
servios especficos predefinidos pelas autoridades governamentais e que essa
concorrncia seria benfica para os usurios. Argumenta-se, tambm, que as
OSs, alm de disporem de maior flexibilidade para gerir e prestar servios,
trariam maior flexibilidade gesto pblica na medida em que ela poderia,
com maior facilidade, renovar contratos com bons fornecedores e cancel-los
com aqueles que apresentam resultados insatisfatrios.

A contratao indireta suscita, no entanto, ampla controvrsia ideolgica,


poltica, econmica e jurdica. Se, por um lado, agncias multilaterais e gover-
nos de matizes ideolgicos diversos promoveram esse modelo (Mills, 1998) e
pesquisadores como Domberger and Jensen (1997) encontraram evidncias
quanto a sua contribuio para a reduo de gastos pblicos, no faltam, por
outro lado, aqueles que se opem com veemncia a essa alternativa. Assim, ao
lado de autores que tm expressado o temor de que o recurso a prestadores
privados tenha efeitos negativos sobre a qualidade e a equidade do sistema
(Burstrom, 2009), h os sindicatos de servidores pblicos e os partidos de es-
querda que, com frequncia, chamam ateno para os riscos de contaminao
da administrao pblica pela lgica do lucro (Lpez-de-Silanes et al., 1997).

10 Estudos experimentais seguem o mtodo das experincias aleatrias controladas (rando-


mised controlled trial, RCT). So estudos prospectivos em que o efeito de uma interveno em
uma populao avaliado a partir da anlise do que acontece no grupo tratado e naquele
que no recebeu o tratamento (controle). Para que o estudo seja experimental necessrio
que os integrantes dos dois grupos tenham sido selecionados aleatoriamente na populao.
Os estudos quase-experimentais buscam garantir a validade do experimento, mas no fazem
uma seleo aleatria dos que participaro dos grupos tratado e controle.

92
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

Diante desse quadro, propusemos avaliar se a adoo de contratos de gesto com


OSs tem contribudo para aumentar a oferta de servios bsicos oferecidos pelo SUS
nos 645 municpios do estado de So Paulo (indicadores de processo), bem como
para melhorar as condies de sade que so sensveis s intervenes da ateno
bsica (indicadores de resultado). Para tanto, definimos duas hipteses, a primeira
relativa eficcia do processo e a segunda efetividade da interveno:

H1: A adoo da contratao indireta (convnios de servios e contratos de


gesto) contribuiu para aumentar a oferta de servios bsicos oferecidos pelo SUS.
H2: A adoo da contratao indireta contribuiu para melhorar a sade e as
condies que so sensveis s intervenes da ateno bsica.

Como avaliar
Para definir os critrios que permitiriam avaliar os impactos na ateno bsica da
contratao de OSSs, ou outras entidades sem fim lucrativo, pelo SUS, buscamos, na
literatura, estudos indicando os impactos esperados e observados a partir da imple-
mentao de programas de ateno bsica (Shy, 2012).

Como indicador de oferta de servios, selecionamos o nmero de consultas de


atendimento primrio. Embora um aumento nas consultas de atendimento primrio
possa refletir uma melhora na oferta de servios, no evidente que esse aumento
venha a se traduzir em um uso mais efetivo dos servios de sade. Por isso, tambm
analisamos o impacto da contratao de servios bsicos em diversos indicadores
de sade e de atendimento sade, quais sejam: a taxa de mortalidade infantil e na
infncia, a taxa de internao de crianas por doenas respiratrias e a taxa de inter-
nao por doenas evitveis.

Para levar esse estudo adiante utilizamos dados fornecidos por Ministrio da Sade,
Agncia Nacional de Sade Suplementar (ANS), IBGE e Seade. Utilizamos dados re-
ferentes aos 645 municpios do estado de So Paulo. Esses municpios foram divididos
em dois grupos: os que tm 10% ou mais dos seus profissionais de sade em Ateno
Bsica contratados por Organizaes Sociais de Sade (OSSs) e, como o grupo contro-
le, aqueles que tm menos de 10% dos seus profissionais de sade em Ateno Bsica
contratados por OSSs. A anlise dos dados cobre dois perodos: 2001-2004 (anterior
contratao) e 2005-2012 (posterior ao tratamento).11 Portanto, considerou-se que
nenhum dos municpios foi afetado pelo tratamento no ano de 2004.

11 A medida de contratao indireta para a criao dos dois grupos de municpios s apresenta da-
dos disponveis para o perodo de 2009 a 2012. Trabalhamos, assim, com a suposio de que a difuso
da contratao indireta comea, de fato, a ganhar fora a partir das gestes municipais que come-
aram em 2005 e que nenhum dos municpios foi afetado pelo tratamento no ano de 2004. A deciso
de trabalhar com 2005 se baseou na ampliao do uso, pela Secretaria Municipal de Sade de So
Paulo, de convnios a partir de 2001 e de contratos de gesto a partir de 2005 (Dowbor e Houtzager,
2014; Coelho, 2014) e na difuso desses modelos para outros municpios (Coelho, 2015). Todos os mo-
delos com pr-observaes de 2002 foram estimados e os resultados foram praticamente os mesmos
quando se escolheu 2002 ou 2004 como ano anterior ao incio da contratao indireta.

93
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

Para analisar o efeito da contratao indireta sobre as variveis dependen-


tes, utilizamos o mtodo conhecido como diferena-em-diferenas, que
baseado no clculo de uma dupla subtrao: a primeira refere-se diferena
das mdias da varivel de resultado entre os perodos anterior e posterior ao
programa, para o grupo de tratamento e para o de controle; e a segunda re-
fere-se diferena da primeira diferena calculada entre esses dois grupos.
Um exemplo hipottico apresentando esse conjunto de procedimentos apre-
sentado na Tabela 6, na qual se compara o nmero de consultas oferecidas
em uma unidade em que h contratao indireta de profissionais de sade
(tratados) e outra em que todos os profissionais so contratados diretamente
pela administrao pblica (controle). O Grfico 2 permite comparar qual te-
ria sido a tendncia da variao no nmero de consultas oferecidas no grupo
tratado caso o programa no tivesse sido implementado (AE), com aquilo que
ocorreu aps o tratamento (AF).

Elaborao prpria.

Grfico 2 Representao grfica da tcnica diferena-em-diferenas

Elaborao prpria.

94
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

A principal hiptese para o uso dessa tcnica que a trajetria temporal da


varivel de resultado para o grupo de controle representa o que ocorreria com
o grupo tratado caso no houvesse interveno (CD). A ideia bsica que, se
as trajetrias se assemelham antes da introduo do tratamento (note no Gr-
fico 2 que essas trajetrias so paralelas at a introduo do tratamento), ento
parece razovel supor que a evoluo do grupo de controle aps a introduo
do tratamento represente com fidedignidade o que ocorreria, em termos de
tendncia, com o grupo de tratados, caso esses ltimos no tivessem recebido
o tratamento. Tal hiptese foi investigada e considerada vlida para todas as
variveis da anlise no perodo de 2001 a 2004.

Os grficos 3 e 4 mostram visualmente que o comportamento da oferta de


consultas bsicas e da mortalidade na infncia para perodos anteriores ado-
o dos contratos tanto para municpios que adotaram esse tipo de contrato,
quanto para os municpios controle similar.

Grfico 3 Consultas de atendimento primrio por usurio do SUS por status de tratamen-
to contratao (CO) e no contratao (sem CO). Mdias mveis, 2002-2011

Fonte: Elaborado por Vera S. Coelho e Jane Greve para a pesquisa Equidade e contratuali-
zao de servios no SUS, NCD/Cebrap.

Grfico 4 Taxa de mortalidade na infncia por status do tratamento, contratao (CO) e


no contratao (sem CO). Mdias mveis, 2002-2011

Fonte: Elaborado por Vera S. R. P Coelho e Jane Greve para a pesquisa Equidade e contra-
tualizao de servios no SUS, NCD/Cebrap.

95
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

Vrios testes foram feitos para corroborar esse achado, o que nos permitiu
testar a hiptese de tendncia comum e assim validar a estratgia da diferen-
a-em-diferenas.

Resultados
O modelo de diferena-em-diferenas mostrou que a contratao de OSSs
na ateno bsica no estado de So Paulo contribuiu para um aumento, respec-
tivamente, de 1,1 e 1,4 consulta por usurio do SUS ao ano para os modelo 1 e
2. A estimativa por ponto tambm indicou um efeito redutor na mortalidade e
na internao por causas sensveis ateno bsica. Entretanto, essas estimati-
vas pontuais so pequenas e poucas apresentam significncia estatstica. Esses
resultados so apresentados na Tabela 6, abaixo. Os resultados para mortalidade
infantil e na infncia e a internao de crianas esto em logs, sendo possvel
interpret-los como mudanas na porcentagem desses ndices.

Tabela 6 Resultados diferena-em-diferenas. Coeficiente da dummy de tratamento

(1) (2) (3) (4) (5)


Log da Taxa Log da
Log de TM Consultas de Int. por Taxa de
Log da TMI
na Infncia de AP doenas int. por
evitveis resp.
Modelo 112

(1) (2) (3) (4) (5)


Observaes -0,075 -0,050 1,100*** -0,090* -0,061
(0,071) (0,071) (0,412) (0,049) (0,073)
985 1,006 1,284 1,289 1,225
Modelo 2

(1) (2) (3) (4) (5)


Observaes -0,067 -0,041 1,391*** -0,092* -0,046
(0,073) (0,073) (0,416) (0,050) (0,074)
417 431 639 644 589
Fonte: Elaborao NCD/Cebrap a partir da pesquisa Equidade e contratualizao de servi-
os no SUS, Coelho e Greve (2015).

12 O modelo 1 controla efeitos fixos para os municpios, isto , controla caractersticas no


observadas e fixas no tempo que podem afetar os resultados. O modelo 2, alm de controlar
esses efeitos fixos, leva em conta que as condies iniciais so diferentes no grupo que
recebeu o tratamento e naquele que no o recebeu, e, portanto, que essas condies podem
ter influncia sobre os resultados ou na prpria deciso de aderir ao tratamento.como ano
anterior ao incio da contratao indireta.

96
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

Ao discutirmos esses resultados com gestores pblicos de sade, dois me-


canismos foram apontados para explic-los. Em primeiro lugar, a adoo de
contratos indiretos permite maior flexibilidade na contratao de pessoal e
essa agilidade contribui para garantir a presena de profissionais nas unidades
de sade e, assim, para ampliar a oferta de servios prestados. Em segundo
lugar, os fornecedores de sade ligados a contratos indiretos tm mais incen-
tivos para registrar o atendimento de maneira precisa, j que o contrato prev
alcanar objetivos predeterminados e os pagamentos ficam na dependncia
de essas metas serem alcanadas. Esse fato pode ter contribudo para o au-
mento no nmero de consultas registradas nos municpios que adotaram a
contratao indireta.

Consideraes sobre o processo de pesquisa


As trs pesquisas apresentadas nas sees anteriores buscaram respon-
der a perguntas muito diferentes e se valeram de tcnicas tambm diferentes
para enfrent-las. Buscou-se identificar conselhos de sade que pudessem ser
considerados inclusivos e representativos; identificar fatores que estejam as-
sociados reduo das desigualdades em sade; e, ainda, avaliar o impacto
da contratao de Organizaes Sociais de Sade na ateno bsica oferecida
pelo SUS. Nesse percurso, em que tantas perguntas, metodologias e tcnicas
diferentes foram apresentadas, procurei chamar ateno para algo que foi bas-
tante similar nos trs casos: o processo de pesquisa.

Em todos os casos partiu-se de um problema de pesquisa e buscaram-se na


literatura respostas tericas, normativas e experimentais a esse problema, bem
como parmetros que balizassem avaliaes capazes de responder s nossas
perguntas. Nesse processo, os problemas foram sendo reformulados e os m-
todos e tcnicas de pesquisa, definidos.

Os estudos qualitativos permitem que nos aprofundemos no estudo do ob-


jeto e possamos caracterizar vrias de suas dimenses, bem como avaliar a
plausibilidade dos nossos pressupostos. Uma desvantagem que no pode-
mos, a partir deles, tirar concluses sobre caractersticas da populao com
que estamos trabalhando.

Os modelos de regresso linear mltipla, em estudos no experimentais,


usados para avaliar a associao entre as variveis independentes e dependen-
tes, permitem investigar situaes complexas que envolvem muitas variveis
a partir de um conjunto de informaes que j foram processadas e muitas
vezes corrigidas ou ajustadas por outros pesquisadores. Um limite importante
nesse tipo de anlise que, por mais cuidado que se tome no sentido de se-
lecionar variveis em que seja plausvel esperar relaes de causalidade, nada
garante que o resultado observado se refira, de fato, a uma relao causal e no
apenas a uma correlao entre dois fenmenos independentes.

97
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

Os modelos de diferena-em-diferenas so, nesse sentido, mais promis-


sores, pois, sendo modelos experimentais ou quase-experimentais, buscam
controlar as condies de modo a garantir que haja relaes de causalidade
entre os fenmenos observados. Por isso mesmo so modelos mais comple-
xos que exigem uma preparao muito maior do material a ser analisado que
nos modelos no experimentais, demandando uma quantidade expressiva de
recursos para serem implementados.

Trata-se, portanto, de um processo trabalhoso, complexo e em que se en-


frentam vrios constrangimentos, tais como a escassez de recursos humanos e
financeiros e a precariedade dos dados. Apesar disso, esse um processo rico
e desafiador e que, se bem conduzido, pode trazer ao pesquisador a satisfa-
o de responder de forma criteriosa e objetiva s questes de pesquisa, bem
como de contribuir para o aperfeioamento das polticas pblicas.

Bibliografia
ANGRIST, J. D.; PISCHKE, J. S. Mostly harmless econometrics. Princeton e
Oxford: Princeton University Press, 2009.

BURSTROM, B. Looking to Europe: Will Swedish healthcare reforms af-


fect equity?. Britsh Medical Journal, v. 340, n 7737, pp. 79-80, 2010.

CARDOSO, R L. S. Elaborao de indicadores de desempenho institucional


e organizacional no setor pblico. So Paulo: Cepam, 1999.

Coelho V, Ferraz A.; Fanti, F.; Ribeiro, M. Mobilizao e participao: Um


jogo de soma zero?. Novos Estudos Cbrap, v. 86, maro, 121-139. So Paulo:
Editora Brasileira de Cincias, 2010.

COELHO, V. S. R.P.; DIAS, M. F.(2014). Sade e desigualdades no Brasil.


In: ARRETCHE, M. (org.). Trajetrias da desigualdade: Quanto o Brasil mu-
dou nos ltimos 50 anos. So Paulo: Editora Unesp, no prelo.

COELHO, V. S. R.P.; SZABZON, F.; DIAS, M. F. Poltica municipal e aces-


so a servios de sade So Paulo 2001-2012, quando as periferias ganharam
mais que o centro. Novos Estudos Cebrap, n 100, pp. 139-161, nov. 2014.

CUNHA, E.M.G.P. O recorte racial no estudo das desigualdades em sa-


de. So Paulo em Perspectiva, So Paulo, Fundao Seade, v. 22, n 1, pp. 79-
91, jan./jun. 2008.

DEPARTAMENTO de Assistncia Bsica. Avaliao da implementao do


programa de sade da famlia em dez grandes centros urbanos. Braslia: Editora
Ministrio da Sade, 2002.

98
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS

DOMBERGER, S; JENSEN, P. (1997). Contracting out by the public sec-


tor: Theory, evidence and prospects. Oxford Review of Economic Policy, 4:67-
78, 1997.

DOWBOR, M.; HOUTZAGER, P. The role of professionals in policy re-


form: Cases from the city level, So Paulo. Latin American Politics and Society,
v. 56, Issue 3:14-162, 2014

FISHKIN, J. S.; LUSKIN, R. C. (1999). Bringing deliberation to democrat


dialogue. In: Mc COMBS, M.; REYNOLD, A. The poll with a human face.
The National Issues Convention in Political Communication. Mahwah, NJ:
Erlbaum, 1999.

JANUZZI, P. M. Indicadores sociais no Brasil: conceitos, fonte de dados e


aplicaes. Campinas: Alnea, 2001.

___. Consideraes sobre o uso, mau uso e abuso dos indicadores sociais
na formulao e avaliao de polticas pblicas municipais. RAP. Rio de Ja-
neiro 36(1):51-72, jan. /fev. 2002.

LPEZ-DE-SILANES, F.; SHLEIFER, A; VISHNY, RW. Privatization in


the United States. Rand Journal of Economics, Santa Monica, v. 28, pp. 447-
471, 1997.

MACINKO, J.; SOUZA, M. F. M.; GUANAIS, F. C.; SIMES, C. C. S.


Going to scale with community-based primary care: An analysis of the Fa-
mily health program and infant mortality in Brazil, 1999-2004. Social Science
and Medicine, n 65:2070-80, 2007.

MCGUIRE, J. W. Basic health care provision and under-5 mortality: A


cross-national study of developing countries. World Development, vol. 34, n
3, pp. 405-425. Elsevier, 2005

MENEGOLLA, I. Perfil epidemiolgico das populaes indgenas do Bra-


sil. In: Consrcio IDS-SSL-Cebrap. Diagnstico situacional da sade indgena
no Brasil. Relatrio de pesquisa, 2008.

MILLS, A. To contract or not contract Issues for low and middle income
countries. Health Policy and Planning, Oxford, v. 13, n 1, pp. 31-40, 1998.

SHI, L. The impact of primary care: A focused review. Scientifica, v. 2012,


article ID 432892, 22 p., 2012. <http://dx.doi.org/10.6064/2012/432892>.

VICTORA, C. G. et al. Health conditions and health-policy innovations


in Brazil: The way forward. The Lancet, v. 377, pp. 2042-53, 2011a.

VICTORA, C. G. et al. Maternal and child health in Brazil: Progress and


challenges. The Lancet, v. 377, pp. 1863-86, 2011b.

99