Escolar Documentos
Profissional Documentos
Cultura Documentos
com
Eu não estava destinado a ser economista. Como filha de um matemático, tinha quase certeza
de que me tornaria uma acadêmica. Meus heróis eram Gauss, o gênio matemático, e Emmanuel
Le Roy Ladurie, o historiador quantitativo que achava os camponeses interessantes, em vez de
reis. Mas, como filha de um médico que passou muito tempo tentando ser útil em países onde
crianças eram vítimas de guerra, eu também aspirava ser um agente de mudanças. Senti que a
única retribuição pela incrível sorte que tive em minha vida era fazer tudo o que pudesse para
tentar melhorar a vida de muitas pessoas que não tiveram essa sorte. Meus heróis foram Madre
Teresa e Albert Schweitzer. Claro, eu não tinha ideia de como combinar essas duas aspirações,
mas esperava que um dia encontrasse uma maneira.
Até bem tarde na minha carreira universitária, a economia não me parecia um caminho
plausível para atingir esses objetivos. Eu havia estudado economia na graduação, mas,
como a maioria das pessoas, não confiava em economia nem em economistas. De fato,
uma pesquisa YouGov de 2017 no Reino Unido mostra que os economistas estão entre os
profissionais menos confiáveis em relação ao seu próprio campo de especialização:
apenas 25% dos entrevistados da pesquisa confiam nos economistas sobre economia
(Smith 2017). Isso é metade da confiança dos meteorologistas profissionais. Apenas os
políticos são vistos com mais desconfiança.
Meu eu de 20 anos compartilhava muito dessa desconfiança. Munido de apenas algumas
aulas introdutórias, pensei em economia como uma fraude elaborada (ou, na melhor das
hipóteses, uma ilusão panglossiana) destinada a justificar o mundo e mantê-lo exatamente como
era; usar matemática simples para descrever alguma versão muito rudimentar dele e “provar”
que qualquer tentativa de intervir contra o bom funcionamento do mercado causaria estragos. A
economia certamente não parecia ser um campo para um aspirante a criador de mudanças.
E, no entanto, aqui estou eu, um economista. Escolhi esse campo porque, em última análise, passei
a acreditar que a ciência econômica poderia ser alavancada para fazer uma mudança positiva no
mundo.
Ayear passado trabalhando na Rússia como assistente de pesquisa para equipes de economistas
acadêmicos em 1993-1994 me levou a descobrir - com uma mistura de horror e fascínio - o
de 2019, quando recebeu o Prêmio Banco da Suécia em Ciências Econômicas em memória de Alfred Nobel. Este artigo
é copyright © The Nobel Foundation 2019 e é publicado aqui com permissão da Nobel Foundation. Vá para https://
doi.org/10.1257/aer.110.7.1952 para visitar a página do artigo.
1952
VOL. 110 NO. 7 DUFLO: EXPERIMENTOS DE CAMPO E A PRÁTICA DA POLÍTICA 1953
enorme influência que alguns economistas acadêmicos têm no mundo. Na época, parecia
que vários experimentos em grande escala estavam sendo conduzidos na economia russa,
sem muito controle. Em 1994, esses experimentos já estavam enfrentando sérias
dificuldades. No entanto, foi incrível testemunhar a disposição dos formuladores de
políticas em ouvir os pronunciamentos e recomendações abrangentes dos economistas
para mudanças no atacado, que aparentemente tinham pouco respaldo empírico. Percebi
então que a economia era o caminho para combinar uma carreira acadêmica com a chance
de ter uma influência no mundo, e também aprendi a ter cuidado com essa influência.
Resolvi aprender economia para realizar meu objetivo de tornar o mundo um pouco
melhor, mas também para agir com cautela e humildade.
Quase três décadas depois, trabalhando com muitos outros (pesquisadores, profissionais de
ONGs, funcionários do governo, doadores), eu realmente me tornei um agente de mudanças. O
Laboratório de Ação contra a Pobreza Abdul Latif Jameel (ou J-PAL), a rede que Abhijit Banerjee,
Sendhil Mullainathan e eu começamos em 2003, e que foi inicialmente liderado por Rachel
Glennerster, e agora por Iqbal Dhaliwal, afetou as políticas em vários maneiras e em todos os
continentes. Pela nossa contagem (que tentamos manter conservadora), mais de 400 milhões de
pessoas foram alcançadas por programas que foram ampliados após serem avaliados (e
considerados eficazes) por pesquisadores afiliados ao J-PAL. Existem também muitas maneiras,
menos facilmente quantificáveis, em que o J-PAL influenciou a política. Pessoas foram afetadas
indiretamente como resultado de políticas ineficazes sendo reduzidas. Estados inteiros decidiram
adotar políticas diferentes por causa de um conjunto de evidências. Esses efeitos são tão difusos
que não tentamos contar as pessoas afetadas por esses canais.
O processo pelo qual J-PAL (e suas afiliadas) influenciou a política é bastante diferente
do processo que testemunhei na Rússia, com professores voando de um lado para outro
entre Moscou e os Estados Unidos, fornecendo conselhos para a macroeconomia
consistentes com a teoria econômica (ou sua intuição). É também muito diferente da
influência dos “Chicago boys” que assessoraram em política macroeconômica no Chile (cujo
escritório J-PAL América Latina está, ironicamente, ocupando atualmente).
A abordagem da J-PAL é menos sobre grandes ideias e mais sobre sugestões específicas. Levamos a
sério os princípios orientadores e as realidades menos glamorosas, mas ainda cruciais, da
implementação de políticas no dia a dia. Pois, quando os economistas têm a oportunidade de ajudar os
governos em todo o mundo a projetar novas políticas e regulamentações, eles devem assumir a
responsabilidade de obter o quadro geral e o projeto amplo corretos. Além disso, como esses projetos
são implementados no mundo, eles também são responsáveis pelos muitos detalhes sobre os quais
seus modelos e teorias dão pouca orientação. Este é um papel que os pesquisadores de RCT abraçaram
em colaboração com o governo.
Nesta palestra, gostaria de discutir como esse trabalho de política acontece na prática para
pesquisadores que realizam ensaios clínicos randomizados. Espero esclarecer como podemos
alavancar a boa ciência para melhorar a eficácia das políticas que atendem aos pobres em todo o
mundo e também como podemos usar os desafios colocados pelo mundo como fontes de
inspiração para nossa ciência.
I. O Strawman
Obtenha os resultados
Figura 1. O Strawman
Deaton e Cartwright 2018, Pritchett e Sandefur 2013). Essas críticas argumentam que os resultados de pequenos experimentos “banhados a ouro” podem não se aplicar
quando os programas são executados em escala por pessoas menos que perfeitas. Primeiro, continua o argumento, os resultados podem ser altamente dependentes do
contexto. Em segundo lugar, o processo de arquivar o que não funciona pode levar a um viés de seleção, refletindo mais a sorte do pesquisador do que a realidade. Terceiro,
mesmo os experimentos mais cuidadosamente controlados podem ter problemas que impedem a obtenção de percepções robustas: a amostra pode ser muito pequena
para tirar conclusões precisas, a conformidade com a atribuição do tratamento pode ser imperfeita, algumas pessoas podem se perder durante o acompanhamento.
Quarto, implementar um programa em escala pode afetar os resultados que não são alterados por uma intervenção RCT de menor escala (conforme discutido em detalhes
em nosso próprio trabalho, ver Banerjee et al. 2017, Muralidharan e Niehaus 2017): por exemplo, os preços podem responder, transbordamento os efeitos podem afetar os
não participantes, as reações da economia política podem alterar os efeitos do programa e assim por diante. Finalmente, os formuladores de políticas provavelmente não
prestarão atenção às recomendações dos pesquisadores, a menos que essas recomendações correspondam às suas políticas. Mesmo que o fizessem, os motivos descritos
acima os impediriam de generalizar as percepções de um contexto experimental para outro. A ideia de que você pode ir de um pequeno experimento para uma adoção
generalizada seria, portanto, sob esse espantalho, um mito. E nós somos 2017, Muralidharan e Niehaus 2017): por exemplo, os preços podem responder, os efeitos
colaterais podem afetar os não participantes, as reações da economia política podem alterar os efeitos do programa, e assim por diante. Finalmente, os formuladores de
políticas provavelmente não prestarão atenção às recomendações dos pesquisadores, a menos que essas recomendações correspondam às suas políticas. Mesmo que o
fizessem, os motivos descritos acima os impediriam de generalizar as percepções de um contexto experimental para outro. A ideia de que você pode ir de um pequeno
experimento para uma adoção generalizada seria, portanto, sob esse espantalho, um mito. E nós somos 2017, Muralidharan e Niehaus 2017): por exemplo, os preços
podem responder, os efeitos colaterais podem afetar os não participantes, as reações da economia política podem alterar os efeitos do programa, e assim por diante.
Finalmente, os formuladores de políticas provavelmente não prestarão atenção às recomendações dos pesquisadores, a menos que essas recomendações correspondam às
suas políticas. Mesmo que o fizessem, os motivos descritos acima os impediriam de generalizar as percepções de um contexto experimental para outro. A ideia de que você
pode ir de um pequeno experimento para uma adoção generalizada seria, portanto, sob esse espantalho, um mito. E nós somos os formuladores de políticas provavelmente não prestarão atenção às recome
VOL. 110 NO. 7 DUFLO: EXPERIMENTOS DE CAMPO E A PRÁTICA DA POLÍTICA 1955
desperdiçando dinheiro valioso em uma série de experimentos que nunca levam a qualquer influência política
significativa.
Essas críticas teriam alguma mordida se refletissem com precisão o caminho de
influência política perseguido pelo J-PAL e seus pesquisadores afiliados (e outros
“randomistas”). No entanto, a realidade é bem diferente: não se faz simplesmente um
experimento, redige o resumo da política e desaparece enquanto a política está sendo
ampliada. O diálogo político real no movimento RCT seguiu um caminho bastante diferente.
seu caminho na mídia. Essa mudança na narrativa impactou a política. Em outubro de 2010, apenas
dois meses após a bem-sucedida IPO da SKS, uma importante microemprestadora com fins lucrativos
na Índia, o governo de Andhra Pradesh culpou-a pelo suicídio de 57 agricultores, alegando que as
práticas coercitivas de recuperação dos agentes de crédito colocaram os clientes sob pressão
insuportável . O governo prendeu alguns agentes de crédito e aprovou uma lei proibindo a cobrança
semanal de empréstimos. Em novembro, todos os oficiais de crédito de todas as principais MFIs
estavam parados e as perdas aumentavam. Anedotas descrevendo tomadores de empréstimo bem-
sucedidos pouco ajudaram a SKS neste momento.
Quando esses eventos se desenrolaram, muitos de nós já procurávamos há algum tempo um
parceiro para avaliar o impacto desse programa tão importante. Mas quando abordamos as IMFs
(começando por volta de 2002) com a proposta de avaliar rigorosamente seus produtos, sua resposta
usual foi: “Por que precisamos ser avaliados mais do que um vendedor de maçã?” Com isso, eles
queriam dizer que o microcrédito tinha que ser benéfico, contanto que os clientes continuassem
voltando para mais. É claro que isso ignorou o fato de que o microfinanciamento costuma ser
implicitamente subsidiado, bem como o fato de que tomadores irracionais podem tomar emprestado
mais do que é bom para eles.
A verdadeira razão para a resistência inicial foi provavelmente que as IMFs não viam
nenhuma razão para balançar o barco: elas estavam sendo saudadas por seus sucessos e não
desejavam correr o risco de potencialmente refutar uma narrativa positiva com dados. Mas, sob
crescente pressão dos críticos das microfinanças, e especialmente dos formuladores de políticas,
algumas IMFs decidiram que a avaliação valia a pena.
Realizamos uma das primeiras avaliações de microfinanças com a Spandana em
Hyderabad. Considerada uma das organizações mais lucrativas do setor de microfinanças,
a Spandana foi o principal alvo do ativismo governamental (na verdade, acabou fechando
durante outra grande crise de microfinanças induzida por políticas públicas em 2010).
Nossa avaliação abrangeu a expansão da Spandana em algumas áreas da cidade de
Hyderabad. De 104 bairros, 52 foram escolhidos aleatoriamente para a entrada da
organização. O resto foi deixado como um grupo de comparação.
Quando comparamos as famílias nesses dois conjuntos de bairros 20 meses depois que
Spandana começou a emprestar, encontramos evidências claras de que o
microfinanciamento estava fazendo, em muitos aspectos, o que se poderia esperar. As
famílias nos bairros cobertos por Spandana tinham mais negócios e eram mais propensas
a comprar grandes bens duráveis, como bicicletas, geladeiras e televisores. Não havia
nenhuma evidência clara dos gastos imprudentes que alguns observadores temiam que
resultariam. Na verdade, vimos exatamente o oposto; famílias começaram a gastarmenos
dinheiro para o que consideravam um pequeno gasto “inútil”, como chá e lanches.
Ao mesmo tempo, não havia sinais de transformação radical nas vidas dos tomadores
de microcrédito. Não encontramos evidências de que as mulheres estavam se sentindo
mais capacitadas, pelo menos em dimensões mensuráveis. Nem vimos diferenças nos
gastos com educação ou saúde. Não houve efeito sobre o consumo das famílias. Mesmo os
efeitos comerciais vieram de famílias iniciarem mais negócios, se já fossem proprietários
de empresas, e não de novas famílias se tornarem empreendedores. Esses novos negócios
eram pequenos. Três anos depois, os efeitos foram praticamente os mesmos e a maioria
das novas empresas foi fechada.
O estudo irritou algumas penas. Seus resultados foram citados principalmente para as descobertas
negativas e como prova de que o microfinanciamento não era a panaceia que parecia ser. Embora
algumas IMFs aceitassem os resultados pelo que eram, a grande empresa internacional
VOL. 110 NO. 7 DUFLO: EXPERIMENTOS DE CAMPO E A PRÁTICA DA POLÍTICA 1957
BHM posterior
Filipinas
OLS
México
No
Ethio
Bos
Revenu
Pró %
Expenditur $
Consumptio
Durável de consumo
-25 0 25
gastos em bens “tentadores”, como cigarros. No geral, conforme ilustrado nas Figuras 2 e 3, ela
encontra efeitos geralmente pequenos e muito incertos (cerca de 7 por cento do resultado médio, com
zero um impacto muito provável para todas as variáveis). Essa análise confirmou amplamente nossas
descobertas iniciais desanimadoras do estudo da Spandana e também (infelizmente) mostrou que o
único resultado positivo que havíamos encontrado - um declínio nos gastos com produtos tentadores -
não era, em geral, robusto em todos os contextos.
Uma descoberta robusta, no entanto, é que as famílias que eram donas de empresas
antes da entrada do microcrédito (e que, portanto, provaram sua natureza
empreendedora) realmente se beneficiaram do microfinanciamento. Na verdade,
continuamos a segui-los em Hyderabad e descobrimos que estavam experimentando
grandes aumentos nas receitas, lucros e consumo médio das empresas 10 anos após a
introdução do microcrédito (Banerjee et al. 2019).
A conclusão geral do conjunto de evidências acima foi, portanto, não que o microcrédito
seja prejudicial ou mesmo que ninguém se beneficie de sua introdução. Em vez,
VOL. 110 NO. 7 DUFLO: EXPERIMENTOS DE CAMPO E A PRÁTICA DA POLÍTICA 1959
em uma variedade de contextos, não permite que a pessoa média saia da pobreza ou experimente uma
transformação impressionante em seu estilo de vida. Mesmo assim, alguns empresários (existentes) se
beneficiam muito com os empréstimos de microfinanciamento e muitos outros os usam como financiamento
para o consumo.
A reação da comunidade de IMFs ao corpo de evidências acumulado foi bastante
diferente do que os primeiros estudos. Organizamos uma conferência conjunta com o
CGAP em Washington DC, seguida por outra na Harvard Business School. Ambos foram
bem atendidos por profissionais de microfinanças. Os participantes se concentraram em
redesenhar as microfinanças usando percepções dos estudos, em vez de tentar matar seus
resultados. Surpreendentemente, até mesmo a mídia foi avaliada em sua cobertura do
evento e da pesquisa subjacente, comO economista por exemplo, descrevendo os
resultados em um artigo intitulado “A Partial Marvel”.
Os resultados dos ECRs de microfinanças conseguiram desviar o debate sobre políticas de
gritaria entre "desastre" ou "milagre", mudaram a visão de muitos promotores de microfinanças,
1e eventualmente mudou as próprias microfinanças. O objetivo dos pesquisadores, é claro,
nunca foi minar o microfinanciamento: na verdade, muito da economia do desenvolvimento
moderno se baseia no fato de que os mercados financeiros funcionam muito mal para os pobres
e que isso restringe sua escolha ocupacional e leva a armadilhas da pobreza (por exemplo, ,
Banerjee e Newman 1993). O que esses resultados sugerem, no entanto, é que a abordagem de
"tamanho único" que tem sido a marca registrada do movimento de microfinanças desde
Muhammad Yunus (um empréstimo, concedido uma vez por ano, e pago em prestações
semanais de igual tamanho) talvez não fosse o ideal, dada a extrema heterogeneidade nas
necessidades e tipos dos mutuários. Enquanto algumas pessoas precisavam de financiamento
para consumo ou apenas de bons produtos de poupança, uma minoria de empresários reais
precisava de empréstimos comerciais com empréstimos maiores e mais flexíveis.
A segunda onda de estudos de microfinanças foi muito focada nesses tópicos. Eles
procuraram perguntar não se o microfinanciamento funcionava, mas como modificá-lo
para torná-lo melhor. Por exemplo, alguns pesquisadores perguntaram se a estrutura do
grupo, que é bastante restritiva, é realmente necessária (Giné e Karlan 2014), alguns
experimentaram um período de carência de um mês antes do início do reembolso (Field et
al. 2013), e com mudanças na frequência de reembolso (Field et al. 2012). Uma pesquisa
recente enfoca a melhor forma de identificar os clientes mais empreendedores usando
informações da comunidade (Hussam, Rigol e Roth 2016).
A principal contribuição da agenda geral de pesquisa não foi prescrever a ampliação ou
redução das microfinanças (na verdade, o número de clientes de microfinanças continuou
a crescer após os primeiros estudos), mas sim ajudar o setor e os formuladores de políticas
a pensar sobre as microfinanças. de uma forma mais rica e sutil. Pode-se ver que o
caminho dosRCTs para a influência política não foi simples. Envolveu vários estudos e
análises cuidadosas. Não culminou com uma recomendação do tipo “polegar para cima” ou
“polegar para baixo”, mas sim um convite para repensar os serviços financeiros e o
financiamento dos empresários. Esse repensar está em andamento e combina uma
pesquisa estimulante com um design de produto inovador.
1Mais notavelmente CGAP, que ampliou seu mandato para ser um promotor de inclusão financeira de forma mais geral e
colocou sua energia em um programa de transferência de ativos para os ultra-pobres, descrito na palestra Nobel de Abhijit
Banerjee (Banerjee 2019).
1960 A REVISÃO ECONÔMICA AMERICANA JULHO DE 2020
A partir de 2008, Pratham e J-PAL embarcaram em uma série de novas avaliações para testar
a abordagem da Pratham quando integrada ao sistema escolar do governo. Dois ensaios clínicos
randomizados foram conduzidos nos estados indianos de Bihar e Uttarakhand ao longo dos dois
anos letivos de 2008–2009 e 2009–2010. Embora as avaliações cobrissem apenas algumas
centenas de escolas, elas foram incorporadas em um esforço de expansão total: em junho de
2009, o programa Read India em Bihar estava sendo executado em 28 dos 38 distritos de Bihar,
atingindo 2 milhões de crianças em aproximadamente
40.000 escolas. Em Uttarakhand, antes do lançamento das avaliações, a Pratham
trabalhava em todas as 12.150 escolas em 95 “blocos”. Para os experimentos em Bihar e
Uttarakhand, “esculpimos” um distrito onde algumas escolas foram mantidas como o
grupo de controle, permitindo-nos avaliar a eficácia de um programa executado em escala.
Essa abordagem de avaliação em escala é diametralmente oposta à descrita no espantalho
que discutimos antes. Aqui, o programa é executado em escala e a amostra de controle é
mantida pequena. Isso ajuda a garantir que todos os problemas associados à ampliação de um
programa sejam resolvidos. Na verdade, este projeto anula muitas das preocupações expressas
no espantalho (o revestimento de ouro, a validade externa, as preocupações de economia
política). Muito pode ser aprendido com esse tipo de experimentação.
Na primeira intervenção (avaliada apenas em Bihar durante junho de 2008), a instrução
corretiva foi fornecida durante um acampamento de verão de um mês, administrado em prédios
escolares por professores de escolas do governo, que foram pagos a mais pelo governo. Esta
avaliação (que, para ser totalmente honesto, foi um acréscimo de última hora ao projeto de
pesquisa, possibilitada pela grande atenção de Rukmini Banerji e MichaelWalton sobre como o
programa se desdobrou no terreno e ação rápida para preservar a possibilidade de um
experimento (Banerji 2019)) mostrou ganhos significativos em linguagem e matemática. Em
apenas algumas semanas de acampamento de verão, o tratamento sobre os efeitos tratados foi
da ordem de 0,4 desvios-padrão.
As outras três intervenções foram realizadas durante o ano letivo. O primeiro modelo
distribuiu materiais da Pratham sem nenhum treinamento ou suporte adicional. O segundo
incluiu materiais, treinamento de professores na metodologia da Pratham e monitoramento pela
equipe da Pratham. Os professores foram treinados para melhorar o ensino em todos os níveis
por meio de um melhor direcionamento e instrução mais envolvente. A terceira e mais intensiva
intervenção incluiu materiais, treinamento e apoio voluntário. A parte do voluntário foi uma
replicação do modelo de sucesso avaliado em Jaunpur, em que os voluntários conduziram
acampamentos noturnos de aprendizagem com foco na instrução corretiva para alunos dirigida
a eles por professores.
Os resultados foram surpreendentes e, na sua maioria, decepcionantes. As intervenções de
materiais isolados e materiais mais professores não tiveram efeito em Bihar ou Uttarakhand. O
tratamento com materiais-professores-voluntários em Uttarakhand também não teve impacto
perceptível. Apenas a intervenção materiais-professores-voluntários em Bihar encontrou impactos
significativos nas notas de leitura e matemática, comparáveis aos resultados anteriores de Jaunpur.
Portanto, o modelo padrão da Pratham funcionou, mas a transferência para professores do governo
não foi bem-sucedida.
Nesse ponto, alguém pode ter ficado tentado a supor que os professores simplesmente não conseguiam
ou não queriam implementar uma intervenção que realmente se concentrasse na aprendizagem das crianças.
Mas o impacto positivo dos acampamentos de verão, liderados por professores,
VOL. 110 NO. 7 DUFLO: EXPERIMENTOS DE CAMPO E A PRÁTICA DA POLÍTICA 1963
tem a discrição de convertê-lo de volta para o horário normal das aulas. Esta nova versão
do programa foi avaliada em 400 escolas durante o ano letivo de 2012–2013; 200 dessas
escolas estavam no grupo tratado e receberam o programa. Os resultados desta vez foram
positivos. As pontuações dos testes de hindi aumentaram 0,15 desvios-padrão (significativo
no nível de 1 por cento) (o programa não cobria matemática).
Um modelo alternativo era evitar completamente os professores e, em vez disso, usar voluntários para
ensinar nas escolas em um modelo de “campo de aprendizagem”. Os Acampamentos de Aprendizagem são
explosões intensivas de atividades de ensino-aprendizagem usando a metodologia da Pratham. Os voluntários
e a equipe da Pratham os administram durante o horário escolar, quando o ensino regular está
temporariamente suspenso. Esses acampamentos eram mantidos por 50 dias por ano. Em “dias de
acampamento”, as crianças da 3ª à 5ª série eram agrupadas de acordo com seu nível de habilidade e ensinadas
hindi e matemática por voluntários por cerca de 1,5 horas.
O modelo foi testado em uma avaliação aleatória em Uttar Pradesh no ano de 2013–2014. Uma
amostra de escolas foi selecionada e dividida aleatoriamente em dois grupos de tratamento de
acampamento, um grupo de controle e uma intervenção apenas com materiais, com aproximadamente
120 escolas por braço. Os grupos de intervenção do acampamento de aprendizagem variaram a
duração do acampamento, com um recebendo quatro rodadas de 10 dias de acampamento, e o
segundo recebendo duas rodadas de 20 dias. As duas intervenções tiveram impacto semelhante, com
ganhos de pontuação de teste de 0,6 a 0,7 desvios-padrão.
E. Ampliando
Foram necessários cinco ensaios clínicos randomizados na Índia e vários anos para
superar a distância entre o conceito e uma política que poderia ter sucesso em escala. Mas
tem sido eficaz: desde 2013–2014, quando o Haryana RCT foi concluído, as parcerias
formais com o governo para expandir um modelo de “estilo Haryana” nas escolas
alcançaram 21,3 milhões de crianças em todo o país. E a escalada não parou por aí.
Paralelamente aos experimentos da Índia, os pesquisadores avaliaram abordagens
semelhantes ou idênticas na África (no Quênia, as crianças foram acompanhadas por dois
anos de acordo com as notas do primeiro semestre; em Gana, equipes do ministério da
educação visitaram Pratham e o modelo Pratham foi testado nas escolas) . TARL se tornou
um dos poucos projetos selecionados pela Co-Impact ("uma colaboração global para
mudança de sistemas, focado em melhorar a vida de milhões de pessoas em todo o mundo
”) para uma escala massiva por meio do governo. A Figura 4 mostra locais em toda a África
onde a TARL Africa (uma joint venture da J-PAL e da Pratham) está trabalhando com o
governo para expandir o TARL.
4. Melhorar os programas que são executados em grande escala, por ajudar o governo a abordar
“Problemas de encanamento”
As seções acima nos dão uma ideia do que é necessário para ir da prova de conceito a uma
política escalonável. Uma lição é que são necessários muitos experimentos. Outra lição clara é
que o papel do pesquisador não se restringe a dar conselhos de uma espécie de pedestal. Junto
com o governo, os pesquisadores tentam e errar em conjunto. Eles co-criam.
VOL. 110 NO. 7 DUFLO: EXPERIMENTOS DE CAMPO E A PRÁTICA DA POLÍTICA 1965
A pesquisadora não foi particularmente útil se ela apenas fornecer uma ideia geral sem se
envolver com o processo confuso de implementação. A cocriação agora está acontecendo
também com os governos. Muito do trabalho realizado pelas afiliadas da J-PAL, IPA ou outras
organizações que administram RCTs, agora ajuda os governos a projetar e implementar melhor
seus próprios programas.
Eu chamei essa abordagem de abordagem de “encanamento” (Duflo 2017). Nos
problemas de encanamento, o governo não se pergunta se deve investir em saúde ou
educação, ou mesmo em alguma intervenção específica. Em vez disso, é uma pergunta do
tipo: “Estamos executando este programa específico e há problemas com ele. O que
podemos fazer para resolver esses problemas e alcançar nossos objetivos? ”
Tentar responder a essa pergunta não é o ponto ideal para a maioria dos economistas. Banerjee
(2007) escreve que os economistas tendem a pensar no “modo máquina”: eles querem
encontrar o botão para ligar a máquina e identificar a causa raiz do que faz o mundo
girar. Ele escreve:
A razão pela qual gostamos tanto desses botões, parece para mim, é que eles nos
poupam o trabalho de entrar na máquina. Assumindo que a máquina funciona por
conta própria ou não funciona, evitamos ter que procurar onde as rodas estão
presas e descobrir quais pequenos ajustes seriam necessários para que a máquina
funcionasse corretamente. Dizer que precisamos mudar para um sistema de
vouchers não nos obriga a descobrir como fazê-lo funcionar - como garantir que os
pais não negociem os vouchers por dinheiro(porque eles não atribuem valor
suficiente à educação de seus filhos) e que as escolas não levam os pais para
passear (porque os pais podem não saber o que é uma boa educação). E como
fazer com que as escolas privadas sejam mais eficazes? Afinal, pelo menos na Índia
, mesmo as crianças que vão para escolas particulares estão longe do nível de
escolaridade. E muitos outros detalhes confusos que todo programa real tem que
enfrentar.
Em contraste, um economista que se preocupa com os detalhes da implementação da política deve levar
em conta as complicações que podem aparecer muito abaixo de seu nível de pagamento (por exemplo, o
tamanho da fonte em cartazes) ou muito além de seu nível de especialização (por exemplo, a complexidade do
orçamento do governo em um governo federal sistema). Ela deve aplicar sua mente economista para enfrentar
1966 A REVISÃO ECONÔMICA AMERICANA JULHO DE 2020
incentivos, informações, racionalidade imperfeita, etc. Ela deve ficar de olho no impacto de
qualquer mudança recomendada. O que torna esse processo de implementação semelhante ao
encanamento é que o economista normalmente nem mesmo terá a rede de segurança de um
conjunto limitado de suposições. Ela sabe que não saberá com certeza os determinantes do
sucesso. No entanto, ela dará o melhor de si: usando seu conhecimento da ciência, o
conhecimento contextual de sua organização parceira e a experiência anterior. Permanecerá
uma incerteza genuína sobre a melhor maneira de proceder em muitos detalhes, porque a
solução depende de uma série de fatores que não são fáceis de quantificar, ou às vezes mesmo
de identificar, de forma abstrata. (Estas são as “incógnitas desconhecidas”: todas as questões que
não podemos prever, mas sabemos que irão surgir). Na busca pela boa implementação de
políticas públicas, o economista está disposto a mexer e tentar novamente. E na presença de
incerteza, a experimentação de campo torna-se sua ferramenta de escolha: a melhor maneira de
determinar o que funciona e de ajustar. Os formuladores de políticas também estão
frequentemente dispostos a experimentar questões de implementação, porque reconhecem que
não têm um caminho claro a seguir.
Um exemplo de projeto para melhorar a qualidade da implementação é oferecido pelo programa de distribuição de arroz na Indonésia (Banerjee et al. 2018). Este
programa (então chamado de Raskin) é enorme, alcançando mais de 17,5 milhões de famílias. É financiado centralmente, mas administrado localmente. Como acontece com
muitos programas dessa escala, ele enfrenta muitos problemas com a implementação. Por exemplo, muitas famílias elegíveis não recebem o programa, muitas que o
recebem acabam pagando mais e recebendo menos do que deveriam, e uma parte substancial do orçamento do programa “vaza” para os bolsos dos funcionários do
governo responsáveis pela implementação. Como resultado, os beneficiários potenciais recebem apenas cerca de 30% dos benefícios a que têm direito. O governo da
época acreditava que a falta de informações sobre a elegibilidade era uma das principais razões para esses problemas. Rema Hanna e Ben Olken, os co-líderes do escritório
do J-PAL no Sudeste Asiático na Indonésia, estabeleceram uma colaboração de longa data com o governo indonésio, o que leva o governo a frequentemente trazer esses
tipos de preocupações ao J-PAL e para colaborar em projetos de pesquisa orientados para políticas. Neste caso específico, o governo originalmente queria distribuir cartões
para aumentar a conscientização sobre a elegibilidade do programa. Os pesquisadores (Ben e Rema, acompanhados por Abhijit Banerjee, Jordan Kyle e Sudarno Sumarto, o
líder de um Think Tank da Indonésia) fizeram questão de explorar essa ideia em um experimento em grande escala que explorou o alcance do programa, dado que
distribuir cartões baratos. Eles propuseram uma avaliação que permitiu a eles e ao governo não apenas aprender os co-líderes do escritório da J-PAL no Sudeste Asiático na
Indonésia estabeleceram uma colaboração de longa data com o governo indonésio, o que leva o governo a levantar frequentemente esses tipos de preocupações com a J-
PAL e a colaborar em políticas projetos de pesquisa orientados. Neste caso específico, o governo originalmente queria distribuir cartões para aumentar a conscientização
sobre a elegibilidade do programa. Os pesquisadores (Ben e Rema, acompanhados por Abhijit Banerjee, Jordan Kyle e Sudarno Sumarto, o líder de um Think Tank da
Indonésia) fizeram questão de explorar essa ideia em um experimento em grande escala que explorou o alcance do programa, dado que distribuir cartões baratos. Eles
propuseram uma avaliação que permitiu a eles e ao governo não apenas aprender os co-líderes do escritório da J-PAL no Sudeste Asiático na Indonésia estabeleceram uma
colaboração de longa data com o governo indonésio, o que leva o governo a levantar frequentemente esses tipos de preocupações com a J-PAL e a colaborar em políticas
projetos de pesquisa orientados. Neste caso específico, o governo originalmente queria distribuir cartões para aumentar a conscientização sobre a elegibilidade do
programa. Os pesquisadores (Ben e Rema, acompanhados por Abhijit Banerjee, Jordan Kyle e Sudarno Sumarto, o líder de um Think Tank da Indonésia) fizeram questão de
explorar essa ideia em um experimento em grande escala que explorou o alcance do programa, dado que distribuir cartões baratos. Eles propuseram uma avaliação que
permitiu a eles e ao governo não apenas aprender estabeleceram uma colaboração de longa data com o governo indonésio, o que leva o governo a levantar frequentemente esses tipos de preocupações com
as cartas fizeram a diferença, mas também Como as para estruturar o conteúdo do cartão e sua
distribuição.
Eles fizeram uma série de perguntas pertinentes. O cartão deve informar aos destinatários o
preço correto? Todos na aldeia deveriam receber um cartão físico ou é suficiente entregá-lo a um
subconjunto de indivíduos, mas postar publicamente a lista completa de beneficiários? Se uma
aldeia receber cartazes, de modo que, além de os beneficiários saberem de sua elegibilidade, os
funcionários também saibam que os beneficiários sabem, e os moradores, por sua vez, sabem
que os funcionários sabem que eles sabem, e assim por diante, criando “ conhecimento comum
”(potencialmente mudando a forma como as pessoas negociam)? O cartão deve ter cupons de
recorte que os funcionários são obrigados a enviar aos seus supervisores para melhorar a
percepção de responsabilidade?
VOL. 110 NO. 7 DUFLO: EXPERIMENTOS DE CAMPO E A PRÁTICA DA POLÍTICA 1967
(GPCB) para ajudá-los a reformar e reviver um sistema de auditoria ambiental de terceiros. Gujarat é o estado indiano com o crescimento
industrial mais rápido e, em parte como consequência, é também o estado com o crescimento mais rápido da poluição. Alguns dos lugares
mais poluídos do planeta estão em Gujarat. Há alguns anos, a Suprema Corte ordenou que o governo estabelecesse um sistema de auditoria
de terceiros, em que cada fábrica em setores altamente poluentes teria que obter (e pagar por) uma auditoria anual administrada por uma
empresa privada. O relatório da auditoria seria compartilhado com o GPCB, que poderia impor sanções. Esta é uma ótima ideia em princípio,
uma vez que força o poluidor a pagar e permite ao governo aproveitar competências privadas que não possui. Infelizmente, porém, a
estrutura do programa criou um conflito natural de interesses entre o auditor e a empresa: uma vez que a empresa opta por contratar e
pagar o auditor, este tem todos os motivos para apresentar-lhes um atestado de saúde limpo. Essa disfunção era de conhecimento comum
no início de nossa colaboração com o GPCB. Os sócios comerciais estavam até processando o governo para remover o esquema,
argumentando que as informações coletadas eram tão inúteis que as auditorias acabaram servindo como um imposto extra. o último tem
todos os motivos para dar-lhes um atestado de saúde. Essa disfunção era de conhecimento comum no início de nossa colaboração com o
GPCB. Os sócios comerciais estavam até processando o governo para remover o esquema, argumentando que as informações coletadas
eram tão inúteis que as auditorias acabaram servindo como um imposto extra. o último tem todos os motivos para dar-lhes um atestado de
saúde. Essa disfunção era de conhecimento comum no início de nossa colaboração com o GPCB. Os sócios comerciais estavam até
processando o governo para remover o esquema, argumentando que as informações coletadas eram tão inúteis que as auditorias acabaram
Um advogado da GPCB iniciou contato com um de nós (Rohini Pande) durante uma
visita à Harvard Kennedy School. Eles estavam interessados em reformar o sistema para
1968 A REVISÃO ECONÔMICA AMERICANA JULHO DE 2020
Auditorias
20
Massa: 0,3913
15
Por cento
10
0
0 100 200 300 400
Backchecks
20
Massa: 0,1449
15
Por cento
10
0
0 100 200 300 400
dê mais mordida. Para verificar se o sistema realmente não estava funcionando, começamos coletando
“dados de verificação anterior” das empresas auditadas. Como parte dessas “verificações
retrospectivas”, enviamos uma segunda equipe de auditoria (composta por alunos e professores de
uma faculdade de engenharia local) para coletar informações sobre o mesmo poluente examinado na
auditoria original (administrada por empresa privada). Conforme ilustrado na Figura 5, houve um
grande contraste entre o relatório de auditoria e a verificação. Enquanto a maioria dos relatórios de
auditoria mostrou níveis de poluição logo abaixo do limite aceitável, os verdadeiros níveis de poluição
eram muito diferentes. Muitas empresas foram consideradas no back-check como poluentes muito
mais do que na auditoria original, enquanto outras estavam poluindo muito menos. Ficou claro que os
auditores nem mesmo se preocuparam em visitar as fábricas para coletar amostras: eles estavam
apenas inventando um número que parecia plausível. Isso tinha a vantagem extra de tornar a auditoria
muito barata ... a taxa normal de um relatório de auditoria não era nem suficiente para cobrir o custo
do teste das amostras.
Após extensas conversas com o GPCB durante muitos meses (que se tornou uma colaboração
frutífera ao longo de vários anos), propusemos uma solução em três partes para aliviar o
aparente conflito de interesses e tornar o auditor leal à sociedade em oposição à empresa
auditada. Primeiro, propusemos quebrar o vínculo financeiro entre a empresa auditada e o
auditor, criando um pool central a partir do qual os auditores seriam pagos. Em segundo lugar,
propusemos fazer o monitor se sentir responsável pela precisão. No primeiro ano, isso foi
conseguido ameaçando descontinuar sua participação no esquema por baixa precisão e, no
segundo ano, recompensando-os com um pagamento mais alto por alta precisão. Terceiro,
começamos a medir a precisão por meio de verificações anteriores. Projetamos um ensaio clínico
randomizado para testar este novo sistema: as empresas elegíveis para auditoria foram
aleatoriamente designadas para o sistema status quo ou para o novo sistema. Encontramos
relatórios de auditoria como sendo
VOL. 110 NO. 7 DUFLO: EXPERIMENTOS DE CAMPO E A PRÁTICA DA POLÍTICA 1969
Massa: 0,7297
Por cento
Backchecks
20
Massa: 0,1892
Por cento
10
0
100 200 300 400
muito mais preciso no novo sistema. Isso é ilustrado para um determinado poluente
na Figura 6, onde mostramos que o novo sistema faz com que a massa excedente
para empresas supostamente poluidoras logo abaixo do nível aceitável desapareça.
Além disso, talvez devido a um maior escrutínio, a poluição (medida em uma pesquisa
final independente) também diminuiu, especialmente para os piores criminosos (Duflo
et al. 2013).
Com base nesses resultados, o GPCB conseguiu convencer o tribunal e a administração
estadual a mudar as regras que regem a implementação do esquema. Essas mudanças
entraram em vigor em 2015, com novas diretrizes exigindo a atribuição aleatória de
auditores ambientais às empresas, instituindo verificações anteriores e impondo uma
tabela de taxas.
Neste exemplo, combinamos o conhecimento básico dos princípios econômicos fundamentais com
um conhecimento profundo das realidades terrestres (obtido a partir de extensas entrevistas
qualitativas com a equipe do GPCB) para ajudar o governo a redesenhar as regras para resolver um
problema de encanamento muito específico: garantir que o sistema de auditoria atinja seus objetivos
declarados.
A colaboração entre o GPCB e a equipa de investigação não se limitou a esta política. Em
outro projeto, estudamos o impacto das inspeções e a maneira ideal de atribuí-las
(aleatoriamente ou usando discrição) (Duflo et al. 2018). Ao contrário do nosso próprio
instinto (e de muitos economistas e formuladores de políticas), descobrimos que a equipe
do GPCB tem e usa informações significativamente relevantes para “pescar” os piores
criminosos pela poluição. Portanto, seria ineficiente exigir que eles randomizassem a
primeira inspeção. Hoje, Rohini Pande, Michael Greenstone e Nick Ryan continuam
trabalhando com o GPCB; eles estão testando um novo Esquema de Comércio de Emissões
que pode ser um modelo para a Índia e outros países.
A escala e a ambição da colaboração dos pesquisadores com o GPCB vão muito além de um
conjunto de recomendações. Ao estabelecer um relacionamento de longo prazo baseado em
1970 A REVISÃO ECONÔMICA AMERICANA JULHO DE 2020
confiança e colaboração, eles são capazes de testar ideias que seriam impossíveis de
implementar e testar em qualquer outro ambiente. Ter colaboradores de pesquisa também
permite que o governo tente mudanças nas políticas que, de outra forma, eles não teriam a
largura de banda para implementar.
A relação pesquisa-governo também ajuda burocratas e políticos a criar um espaço para
inovação no processo de formulação de políticas: com a experimentação explícita, eles têm
a licença para experimentar coisas novas ou fazer as coisas de forma diferente. Eles não
precisam mais inflar os benefícios de um projeto recomendado, pois ele pode ser
encerrado se não produzir os ganhos esperados. O fracasso não é mais estigmatizado. Esta
cultura de aprendizagem será talvez a influência política mais profunda e duradoura da J-
PAL. O sucesso final, é claro, seria que essa cultura de inovação e tentativa e erro se
tornasse tão arraigada que ocorre mesmo na ausência do J-PAL.
Obviamente, o objetivo final desse tipo de trabalho político é chegar a um ponto em
que, como organização, seríamos amplamente irrelevantes, porque a cultura de
aprendizagem e a capacidade de fazer esse trabalho seriam tão difundidas que os
governos assumiriam todo o projeto em si. Estamos trabalhando nisso: é por isso que o
terceiro pilar do J-PAL é o treinamento. O treinamento assume muitas formas, desde cursos
executivos curtos a cursos online de um semestre, e até mesmo um programa de mestrado
combinado no MIT, chamado "Dados e Economia para Política de Desenvolvimento", onde
os alunos fazem um semestre de aulas online, com base no qual eles são admitidos no MIT.
Para ser totalmente honesto, estamos longe de poder declarar nosso trabalho concluído e
fechar nossos escritórios. Mas há sinais de progresso. No Peru, o ministério da educação
criou uma unidade chamada “Minedu Lab” que se dedica à inovação e avaliação de políticas
e está ativamente envolvida em ECRs. Em Tamil Nadu, Índia, o governo tem um
memorando de entendimento de longo prazo com a J-PAL, por meio do qual
departamentos ou pesquisadores podem propor inovações políticas para testar e inovar.
Cada uma dessas parcerias nos leva para mais perto de um mundo onde nossa influência
política final será a de que não somos mais necessários.
Deve ficar claro com esta palestra que não me tornei o tipo de acadêmico ou o tipo de
agente de mudanças que sempre sonhei ser. Não fiz diferença por meio da busca solitária
pela ciência. E eu não sou um salvador ou um herói. A única razão pela qual conseguimos
mudar a prática da economia, como Abhijit Banerjee (2019) descreve em sua palestra, ou a
prática da política, como descrevo aqui, é porque fazíamos parte de um movimento. Esse
movimento não é constituído apenas de acadêmicos: embora o acadêmico desempenhe
um papel fundamental, eles não poderiam nem mesmo fazer seu trabalho sem seus
parceiros e seus funcionários, que muitas vezes são muito mais experientes do que eles
nas realidades do terreno.
Cada projeto descrito aqui envolveu várias pessoas: pesquisadores, assistentes de
pesquisa e equipe de campo, liderança e equipe da J-PAL, e os líderes e equipe de ONGs.
Esses indivíduos às vezes, mas nem sempre, são co-autores em um artigo final, mas seu
papel nunca começa ou termina com o artigo. Eles são essenciais em todas as etapas, para
preparar o projeto, implementá-lo e garantir o seu acompanhamento.
Esta palestra não estaria completa se eu não tentasse listar as pessoas que
participaram desses projetos. Quando dei a palestra em Estocolmo, perguntei àqueles
VOL. 110 NO. 7 DUFLO: EXPERIMENTOS DE CAMPO E A PRÁTICA DA POLÍTICA 1971
Zoe Hitzig, Shehla Imran, Seema Kacker, Dan Keniston, Nurzanty Khadijah,
Chaerudin Kodir, Dhruva Kothari, Gabriel Kreindler, Sanjib Kundu, Zakia Lalaoui,
Christian Larroulet, Alyssa Lawther, Eric Lewis, Taylor Lewis, Tracy Li, Yuanjian
Li, Adrien Lorenceau, Lina Marliani, Jonathan Mazumdar, Richard McDowell,
Jacqueline Merriam, Aditi Nagaraj, Sam Norris, Purwanto Nugroho, Aurélie Ouss,
Cecilia Peluffo, Mukesh Prajapati, Manaswini Rao, Kevin Rowe, Hector Salazartz
Way, Kevin Rowe, Hector Salazartz Way, Mitra Samya, , Paribhasha Sharma,
Kartini Shastry, Joseph Shields, Marc Shotland, Zakaria Siddiqui, Bondan Sikoki,
Freida Siregar, Stefanie Stantcheva, Sneha Stephen, Laura Stilwell, Cecep
Sumantri, Yuta Toyama, Yashas Vaidya, Pankaj Verma, Melanie Wasserman, Fatim
-Zahra Zaim e Gabriel Zucker.
REFERÊNCIAS
Angelucci, Manuela, Dean Karlan e Jonathan Zinman. 2015. “Microcredit Impacts: Evidence from a
Randomized Microcredit Program Placement Experiment by Compartamos Banco.” American
Economics Journal: Applied Economics 7 (1): 151–82.
ASER Center. 2015 Relatório Anual da Situação da Educação (Rural) 2014. Nova Delhi: Centro ASER.
Attanasio, Orazio, Britta Augsburg, Ralph De Haas, Emla Fitzsimons e Heike Harmgart. 2015. “The
Impacts of Microfinance: Evidence from Joint-Liability Lending in Mongolia.” American
Economic Journal: Applied Economics 7 (1): 90–122.
Augsburg, Britta, Ralph De Haas, Heike Harmgart e Costas Meghir. 2015. “The Impacts of Microcredit:
Evidence from Bosnia and Herzegovina.” American Economic Journal: Applied Economics
7 (1): 183–203.
Banerjee, Abhijit. 2007 Fazendo o trabalho de ajuda. Cambridge, MA: MIT Press.
Banerjee, Abhijit. 2019. “Experimentos de campo e a prática da economia”. Palestra do Prêmio Nobel. https://
www.nobelprize.org/prizes/economic-sciences/2019/banerjee/lecture.
Banerjee, Abhijit, Rukmini Banerji, James Berry, Esther Duflo, Harini Kannan, Shobhini Mukerji,
Marc Shotland e Michael Walton. 2017. “Da Prova de Conceito às Políticas Escaláveis: Desafios
e Soluções, com uma Aplicação.” Journal of Economic Perspectives 31 (4): 73–102.
Banerjee, Abhijit, Rukmini Banerji, Esther Duflo, Rachel Glennerster e Stuti Khemani. 2010. “Pitfalls
of Participatory Programs: Evidence from a Randomized Evaluation in Education in India.”
American Economic Journal: Economic Policy 2 (1): 1–30.
Banerjee, Abhijit, Emily Breza, Esther Duflo e Cynthia Kinnan. 2019. “Can Microfinance Unlock a
Poverty Trap for Some Entrepreneurs?” NBERWorking Paper 26346.
Banerjee, Abhijit, Shawn Cole, Esther Duflo e Leigh Linden. 2007. “Remedying Education: Evidence
from Two Randomized Experiments in India.” Quarterly Journal of Economics 122 (3): 1235–64.
Banerjee, Abhijit e Esther Duflo. 2011 Economia pobre: uma reformulação radical da maneira de lutar
Pobreza global. NewYork: PublicAffairs.
Banerjee, Abhijit, Esther Duflo, Rachel Glennerster e Cynthia Kinnan. 2015. “The Miracle of
Microfinance? Evidência de uma avaliação aleatória. ”American Economic Journal: Applied
Economics 7 (1): 22–53.
Banerjee, Abhijit, Rema Hanna, Jordan Kyle, BenjaminA. Olken e Sudarno Sumarto.2018. “Tangible
Information and Citizen Empowerment: Identification Cards and Food Subsidy Programs in
Indonesia.” Journal of Political Economy 126 (2): 451–91.
Banerjee, Abhijit e Andrew F. Newman. 1993. “Escolha Ocupacional e o Processo de
Desenvolvimento.” Journal of Political Economy 101 (2): 274–98.
Banerji, Rukmini. 2019. “Banerjee and Duflo's Journey with Pratham.” Ideias para a Índia. https: // www.
ideasforindia.in/topics/human-development/banerjee-and-duflo-s-journey-with-pratham.html. 13 de
novembro de 2019.
Banerji, Rukmini e Madhav Chavan. 2020. “A Twenty-Year Partnership of Practice and Research: The
Nobel Laureates and Pratham in India.” Desenvolvimento Mundial 127
Co-impacto. https://www.co-impact.org/ (acessado em 27 de janeiro de 2020).
Crépon, Bruno, Florencia DeVoto, Esther Duflo e William Parienté. 2015. “Estimando o impacto do
microcrédito sobre aqueles que o adotam: evidências de um experimento aleatório em Marrocos.”
American Economic Journal: Applied Economics 7 (1): 123–50.
VOL. 110 NO. 7 DUFLO: EXPERIMENTOS DE CAMPO E A PRÁTICA DA POLÍTICA 1973