Escolar Documentos
Profissional Documentos
Cultura Documentos
Estas cifras no reflejan con fidelidad el desarrollo del proyecto, debido a que usualmente se refieren a la etapa de
implementacin del proyecto (en la cual se construye la infraestructura, se instala el equipo, y se establecen los
sistemas del servicio). Poco se conoce acerca de qu tan bien pueden los proyectos brindar los servicios a travs
del tiempo y menos an sobre hasta qu punto pueden los proyectos producir los impactos deseados.
La necesidad de tal informacin ha crecido considerablemente en los ltimos aos debido a que los gobiernos y las
agencias donantes estn bajo gran presin de formular estrategias de desarrollo que contribuyan a objetivos
amplios, tales como proteger el medio ambiente, aliviar la pobreza y mejorar la participacin econmica, social y
poltica de la mujer, lo cual requiere un claro entendimiento de las complejas interacciones entre un proyecto y su
entorno. Como muchos gobiernos se estn dando cuenta de que las limitaciones sobre sus recursos van en
aumento, tambin se ven presionados a usar tales recursos eficientemente.
En vista de estos problemas, se ha convertido en una necesidad que los gobiernos y agencias donantes aprendan
tanto como sea posible de las experiencias pasadas para que los posibilite a identificar los tipos de proyectos y
sistemas que tienen ms posibilidades de xito y los factores que ms contribuyen al mismo. Como resultado, se
est dando ms atencin al seguimiento y evaluacin (SyE), de hasta qu punto el desarrollo de los proyectos es
costo-efectivo y logra sus objetivos.
Afortunadamente, la necesidad de mejores sistemas de seguimiento y evaluacin viene en un momento cuando las
naciones industrializadas han hecho grandes avances en la teora y prctica de la evaluacin de programas. En los
Estados Unidos y en otras naciones industrializadas, la evaluacin de programas est emergiendo como una
ciencia social independiente y como una disciplina de la administracin. Desde el inicio de los aos 70 se ha
convertido en una prctica estndar en los Estados Unidos, monitorear y evaluar la mayora de los proyectos
federales y financiados por el estado, y los resultados de estas evaluaciones son ampliamente analizadas por
personas de apoyo y oponentes de los mismos (Chelismsky 1988; Rossi y Freeman 1993; Wholey 1979). La
General Accounting Office publica ms de una evaluacin de programa al da en los Estados Unidos, muchas de
las cuales influyen sobre las decisiones presupuestarias y la formulacin de nuevos programas (Chelimsky 1987).
La creciente presencia de los especialistas en evaluacin se puede notar en sus publicaciones, en organizaciones
profesionales tales como la Asociacin Americana de Evaluacin -AEA- (que actualmente cuenta con ms de 2500
miembros) y en el nmero de cursos sobre seguimiento y evaluacin (ofrecidos en al menos cuarenta y seis
universidades en los Estados Unidos).
En la opinin de muchos practicantes de la evaluacin, se han hallado soluciones satisfactorias a los problemas
bsicos de evaluacin, diseo y anlisis, al menos para pases como los Estados Unidos. Es posible producir
evaluaciones metodolgicamente relevantes y tiles en cuanto a su operacionalizacin para un amplio margen de
programas de desarrollo. Rossi y Wright (1984:3320 concluyeron lo siguiente en una investigacin de desarrollo:
El campo de la investigacin sobre la evaluacin est comenzando a alcanzar niveles ms altos de logro
intelectual, es decir, coincide con las publicaciones de las mejores investigaciones sobre evaluacin de las
dcadas prsperas. El desarrollo en las tcnicas y en la metodologa parecen prometer elevar la calidad no
solo de las evaluaciones sino tambin de otras reas de investigacin social. Los evaluadores han aprendido
cmo conducir experimentos de campo en forma exitosa y como analizar los datos obtenidos, as como
tambin han comenzado a brindar soluciones a algunos de los ms serios problemas de validez de las
investigaciones no experimentales.
Quizs cerca de 100 pases en vas de desarrollo llevan a cabo algn tipo de seguimiento y evaluacin. Tales
actividades van desde sistemas de evaluacin nacional en pases como India y Malasia hasta el monitoreo bsico
de ciertos proyectos en muchos pases de Africa y el Medio Oriente. Los sistemas nacionales en Sur Asia (Ver tabla
1-1) tienen una agencia central o ms, responsable por la coordinacin y sntesis de los datos monitoreados (y de
los evaluados aunque son menos frecuentes), los cuales son tomados de los principales proyectos (Amhed y
Bamberger 1989; Khan 1989). Muchos de estos pases tambin estn desarrollando redes nacionales de SyE para
aumentar su capacidad de recoleccin de datos y anlisis.
Mucho del mpetu original detrs del esfuerzo hacia el monitoreo y evaluacin en pases en desarrollo vino de las
organizaciones de ayuda internacionales, la mayora de las cuales requieren al SyE como parte de sus proyectos.
La Organization for Economic Co-operation and Development (OECD 1986) ha estimado que una agencia donante
promedio conduce de 10 a 30 evaluaciones al ao mientras que USAID y el Banco Mundial conducen cerca de 250
al ao (Baum y Tolber 1985). Las agencias internacionales han tenido un efecto tanto positivo como negativo en la
forma en que los sistemas de SyE han evolucionado y son usados en pases en desarrollo.
Tabla 1-1 Organizacin y Funciones de las Agencias Centrales de Monitoreo y Evaluacin en Sur Asia (a Dic 1997)
Bangladesh
India
La Project Monitoring Division del Ministerio de Implementacin de Programas (MOPI por sus siglas
en ingls) se estableci en 1985 para monitorear megaproyectos (con costos superiores a los 200
millones de rupias) as como tambin el programa del primer ministro sobre erradicacin de la
pobreza. El Management Information Division y otras de la comisin de planeamiento monitorean
todos los proyectos patrocinados. El Programme Evaluation Organization de la Comisin de
Planeamiento evala los programas sociales.
Nepal
Pakistn
Un pequeo pero creciente nmero de pases han comenzado a usar SyE para el control de sus proyectos,
planeamiento financiero y anlisis de polticas (estos pases incluyen a Chile, Colombia, Brasil, India y Malasia). El
Banco Mundial, entre otros, est ayudando a los pases seleccionados a desarrollar esta capacidad a travs de su
Evaluation Capability Development Program (World Bank 1991:12). Sin embargo, la OECD concluye que, con
excepcin de un pequeo nmero de pases, el inters en la evaluacin tiende a ser ms fuerte entre aquellos que
buscan recursos que entre aquellos que los usan.
Cuando se aplica de manera apropiada, la informacin obtenida en los estudios SyE puede resultar til, en al
menos en cuatro formas, para los gerentes y hacedores de poltica. Primero, puede ayudar a un pas a desarrollar
mtodos para identificar y seleccionar proyectos y programas, asegurando que tales esfuerzos sern consistentes
con los objetivos nacionales de desarrollo, que tendrn una buena posibilidad de xito y que se utilizara la mejor
estrategia de costo-efectividad para lograr los objetivos. En segundo lugar, los estudios SyE pueden determinar si
el proyecto est siendo implementado de forma eficiente; si ofrece respuesta a las preocupaciones de los
beneficiarios. Asimismo, se detectar los problemas potenciales tan pronto como sea posible, para corregirlos. En
tercer lugar, el SyE mide si los proyectos y programas estn logrando sus objetivos econmicos y sociales y si
estn contribuyendo a los objetivos nacionales y sectoriales de desarrollo. Por ltimo, los estudios evaluativos,
pueden determinar el impacto de los proyectos en el marco de objetivos ms amplios de desarrollo tales como: la
proteccin del medio ambiente y el manejo de los recursos naturales; el alivio a la pobreza y la provisin, a las
mujeres, de participacin econmica, social y poltica en todos los aspectos del desarrollo. Los ejemplos dados a lo
largo de este libro, ilustran cmo los estudios de SyE se usan en pases en desarrollo en sectores sociales distintos
y en varias regiones geogrficas.
A pesar el creciente nfasis en sistemas nacionales de SyE, el foco en estudios en este campo, tiende a ser
limitado. Asimismo, en la mayora de los pases en desarrollo, la informacin es sub-utilizada y la contribucin al
manejo del proyecto y planeamiento nacional de desarrollo resulta limitada. Una gran porcin de recursos del SyE
se destinan al monitoreo de la implementacin fsica y financiera de grandes proyectos, en tanto que se presta poca
atencin a valorar la sostenibilidad de los mismos; la calidad de los proyectos de desarrollo social; la distribucin de
los beneficios del proyecto entre varios grupos socioeconmicos y regiones geogrficas; la medida en que los
proyectos han alcanzado los impactos previstos; y los efectos que las estrategias de desarrollo han tenido en el
medio ambiente. Asimismo, tampoco se han aplicado, en otros pases, los aportes que sobre metodologas de
evaluacin se han alcanzado en los Estados Unidos. La seccin F descubre algunos de los problemas
organizacionales, gerenciales y metodolgicos que afectan el diseo, la implementacin y uso del seguimiento y de
la evaluacin en los pases en desarrollo.
Otros programas pueden focalizarse directamente en "empoderamiento" por medio del fortalecimiento de
organizaciones comunales, motivacin de las mujeres para su participacin en actividades de desarrollo o en el
alivio de la pobreza.
Las agencias de desarrollo difieren en su percepcin de la naturaleza y de los objetivos de los programas sociales y
de como stos se comparan con los programas convencionales de inversin de capital. Esta diferenciacin en las
perspectivas, determina como la evaluacin de programas sociales es enfocada.
Por ejemplo, algunas agencias donantes consideran la salud y la educacin como una inversin en capital humano
y evalan ex - ante, disean y monitorean tales proyectos casi de la misma manera como manejan un proyecto de
inversin de capital. Tales agencias asumen que ciertos aspectos definidos con precisin por medio de una
metodologa particular de implementacin, producirn resultados predeterminados que generarn mejoras medibles
en indicadores de capital humano como: logros educacionales; ganancias en el mercado laboral; tasas de
mortalidad, etc. Un proyecto educacional sera evaluado ex -ante, con base en su tasa interna de retorno y tendra
un cronograma de implementacin fcil de monitorear. Este mismo enfoque podra usarse para un proyecto en
salud, aunque su evaluacin ex - ante se hara tal vez usando un anlisis de costo-efectividad antes que la tasa
interna de retorno. Sin embargo, tal y como se discuti en el captulo 4, en slo un pequeo nmero de casos, son
definidos y usados, con claridad, lo indicadores de resultados e impactos en proyectos de educacin y salud. La
evaluacin tiende a concentrrsenos en los insumos o en los posibles resultados fsicos.
Un segundo enfoque adoptado por muchos gobiernos, por agencias de las Naciones Unidas, organizaciones
bilaterales y organizaciones no gubernamentales (ONGs) se basa en el concepto de que los rubros como
alfabetismo, salud primaria, vivienda y agua potable, son derechos humanos bsicos que no requieren de
justificaciones econmicas. Las evaluaciones, si se conducen, tienden a enfocarse en el costo-efectividad de los
sistemas de distribucin y en el acceso a estos servicios por parte de los grupos meta. Evaluaciones rigurosas,
sobre los impactos, son raramente llevadas a cabo porque los programas no estn justificados con base en un
impacto econmico determinado.
Los enfoques arriba citados son supply-driven, lo cual quiere decir que el gobierno o el donante decide qu
servicios debe recibir la poblacin y cules son sus necesidades bsicas.
Un tercer enfoque adoptado por muchas ONGs, donantes bilaterales, UNICEF y recientemente por el Banco
Mundial, se basa en que el objetivo principal del desarrollo social debiera ser el de apoyar a comunidades indgenas
o grupos no privilegiados (como mujeres, campesinos sin tierras, personas sin hogar) a desarrollar la capacidad de
organizacin y el conocimiento requerido para identificar y satisfacer sus propias necesidades.
Los objetivos de muchos proyectos sociales y programas involucran aspectos como: el desarrollo de
capacidades locales sostenibles; la promocin de la participacin; la concientizacin y la motivacin de
estrategias de auto-ayuda. Cmo se pueden medir estos objetivos? Cules son los propsitos de evaluar este
tipo de proyectos? Son acaso las evaluaciones de estos proyectos diferentes de la de aquellos proyectos ms
convencionales?
En tanto estamos frente a estrategias de desarrollo que son diferentes de aquellas que enfatizan la produccin,
se requieren de nuevas tcnicas y mtodos de evaluacin. Estamos frente a un marco cambiante de relaciones
entre actores que estn involucrados en los procesos de desarrollo. Asimismo, frente a un ambiente social y
cientfico cambiante, en donde las ideas ortodoxas, asociadas con los principios de desarrollo econmico
liberal del Norte, ya no pueden ser sostenidas. Se estn negociando nuevas formas para analizar el valor, y
nuevas metodologas que permitan entender (de forma mas apropiada) la efectividad de las intervenciones en
nombre del desarrollo social (Marsden y Oackley 199:1-2)
Dada la gran diversidad de programas de desarrollo social y la amplia gama de objetivos y de orientaciones
sociales y polticas de las organizaciones involucradas, no existe una forma estndar de evaluar los programas
mencionados arriba. Cierta flexibilidad ser siempre deseable. Esta emergiendo un numero considerable de
nuevos preceptos y aunque algunos han desatado controversia, rpidamente estn ganando apoyo. A estos se les
brinda una mayor atencin en este libro.
En primer lugar, muchas autoridades reconocen que los principales actores, en particular los supuestos
beneficiarios (as como tambin grupos que pueden verse afectados como resultado del proyecto) deben estar
activamente involucrados en la identificacin, seguimiento y evaluacin del proyecto. Las metodologas de
Beneficiary assessment (evaluacin del beneficiario) usadas desde hace mucho tiempo por ONGs, estn siendo
ahora adoptadas por agencias internacionales (Salmen 1987, 1992).
La metodologa de beneficiary assessment es una herramienta gerencial orientada a mejorar la calidad de las
operaciones de desarrollo. Este es un enfoque para la recoleccin de informacin, el cual estudia el valor de
una actividad tal y como es percibida por sus principales usuarios. El enfoque es cualitativo en tanto que
derivar el anlisis sobre la base de una experiencia compartida y de observacin. Asimismo, otorga prioridad
al punto de vista de las otras personas. En tanto que el Banco Mundial y otras agencias comprometidas en
desarrollo, buscan mejorar sus intervenciones, un indicador clave ser cmo el cliente meta o supuesto
beneficiario percibe el valor de su trabajo, proyecto o poltica, en relacin a como su vida es afectada. La
iluminacin de este cliente/usuario, a travs de sus apreciaciones, es el objetivo primario del benericiary
assessment (Salmen 1992:1)
Hasta hace poco, el beneficiary assessment se diriga, principalmente, a los beneficiarios de bajos ingresos. Sin
embargo, en la actualidad, estos mtodos se estn usando para entender mejor las perspectivas de otros grupos de
inters como agencias gubernamentales y proveedores de servicios privados. La evaluacin del impacto ambiental,
es probablemente el rea en donde las opiniones de todos loa actores se encuentran sistemticamente
entrelazadas.
En segundo lugar, la evaluacin de impacto social (llamada tambin anlisis social) se usa antes del inicio o
durante la implementacin de los proyectos, para evaluar como los diferentes grupos sociales y econmicos sern
afectados por el proyecto o el programa (Asian Development Bank 1991; Ingersol 1990). Una de las reas en las
que se ha incrementado el uso de la evaluacin de impacto social, es en el anlisis del gnero (Asian Development
Bank 1991; Maya Tech Corporation 1991; Overholt y otros 1985). Muchas agencias multilaterales y bilaterales
actualmente demandan anlisis de gnero y algunas veces anlisis mayores de impacto social. Esto como parte de
las actividades de programacin, o como parte del proceso de aprobacin del proyecto.
En tercer lugar, se han hecho esfuerzos para fortalecer el uso de mtodos cualitativos en la evaluacin de
programas internacionales de desarrollo y; por lo tanto para romper con los enfoques convencionales de evaluacin
basados en indicadores cuantitativos. Aunque ya se evidencian avances significativos, an no se han resuelto las
diferencias entre los defensores de ambos enfoques. Como resultado, pocos han sido los estudios de evaluacin
que han logrado integrar ambos enfoques. An queda mucho trabajo por hacer para lograr que los operadores de
proyectos que emplean evaluaciones convencionales cuantitativas, acepten mtodos cualitativos.
En cuarto lugar, se evidencia un creciente inters en procedimientos de evaluacin rpidos (tambin conocidos
como Rapid Social Assessment o Rapid Rural Appraisal), los cuales son ms costo efectivos que la mayora de
los otros mtodos. Asimismo, ms correspondientes con los ambientes socioculturales de los proyectos (Kumar)
En quinto lugar, existe presin por evaluaciones ms "holsticas" que hagan posible entender la compleja
interaccin entre un proyecto y el medio ambiente social, cultural, poltico y econmico en el que esta inserto
(Marsden y Oakley 1990)
Aunque ya se han logrado avances en estas reas, la evaluacin de los programas sociales no se ha integrado
totalmente dentro de los sistemas SyE desarrollados en la mayora de los pases en desarrollo. Al mismo tiempo sin
embargo, las ONGs estn desempeando un papel muy importante en la ejecucin y evaluacin de programas
sociales. Muchos creen que las ONGs pueden contribuir a una perspectiva de evaluacin con un mayor nfasis en
enfoques holsticos y mtodos cualitativos (ACVAFS 1983; Marsden y Oakley 1990). Sin embargo, estos nuevos
enfoques han tenido hasta ahora muy poco impacto sobre la forma en que los gobiernos y las agencias
internacionales evalan los programas sociales. Por estas razones, las metodologas y sistemas para evaluar
programas sociales no se han desarrollado en el mismo grado o tan sistemticamente como los llamados mtodos
convencionales de evaluacin.
En contraste, la evaluacin puede ser llevada a cabo, dentro de la agencia de implementacin del proyecto o por
una organizacin externa. La evaluacin puede ser utilizada para evaluar y mejorar el desempeo de proyectos o
programas ya concluidos ( evaluacin del impacto y evaluacin de la eficiencia). Con la finalidad de evaluar la
pertinencia de mtodos de diseo e implementacin, la informacin es recolectada durante la implementacion del
proyecto (por medio de estudios de diagnstico o evaluaciones de procesos). Los estudios de diagnstico se basan
en el seguimiento de un problema real o potencial que ha sido identificado por el seguimiento de insumos o de
resultados. Por ejemplo, el gerente puede requerir un estudio de diagnstico cuando un reporte de seguimiento ha
mostrado que pese a lo previsto, solo un pequeo nmero de familias solicitan viviendas; que existe un porcentaje
menor de mujeres que de hombres asistiendo a una nueva escuela primaria; o que la tasa de retorno de los
crditos es muy baja. Los resultados de un programa se miden por el grado en que logra sus objetivos, por otros
impactos que produce, por el costo-beneficio y por sus productos. Asimismo, por los problemas ocasionados por la
mala calidad de la implementacin, por no haber alcanzado los objetivos propuestos.
Podemos entonces definir evaluacin como una actividad gerencial interna o externa que tiene como propsito
asegurar la pertinencia del diseo de un programa de sus mtodos de implementacin para lograr tanto
objetivos especficos como generales. Asimismo, para evaluar los resultados del programa, previstos como no
previstos y para analizar los factores que afectan el nivel y la distribucin de los beneficios producidos
Surge una pregunta importante concerniente a la relacin seguimiento y evaluacin. Aunque es costumbre referirse
a los dos juntos (como en el trmino SyE) muchas agencias de ayuda y de implementacin de proyectos los
perciben como actividades distintas conducidas por agencias separadas y con objetivos tambin diferenciados.
Casley y Kumar (1987:8) apoyan esta divisin:
Son el seguimiento y la evaluacin funciones diferentes, que sirven a usuarios distintos como para que sean
consideradas independientes? La respuesta a esta pregunta, a la luz de las definiciones dadas, es positiva. De aqu
que no aprobemos el uso del acrnimo universal S&E ya que implica que estamos trabajando con una sola
funcin.
Cuando las dos funciones se mantienen por separado, sin embargo, pareciera que hubiera apoyo suficiente para el
seguimiento pero un apoyo limitado para la evaluacin. La evaluacin se le da mucha menos prioridad porque es
vista como una actividad que sera recomendable apoyar siempre y cuando el tiempo y los recursos lo permitan, lo
cual, desafortunadamente, ocurre muy raras veces. Como resultado, se han hecho muy pocos esfuerzos por
evaluar hasta qu punto los proyectos han logrado sus objetivos o usado la experiencia de otros proyectos
concluidos para mejorar la seleccin y diseo de otros futuros.
En contraste con el planeamiento anterior, la mayora de la literatura sobre evaluacin en los Estados Unidos
asume el seguimiento y la evaluacin como ntimamente relacionados y con frecuencia se usa el trmino
evaluacin de programas para referirse tanto al seguimiento como a la evaluacin, como en el trabajo de Hatry,
Winnie y Fisk (1981:4): La evaluacin de programas es el examen sistemtico de un programa gubernamental
especfico, orientado a proveer informacin sobre todo el rango de efectos producidos, tanto de corto como largo
plazo. Aun cuando la evaluacin de un programa puede incluir medida sobre volmenes de trabajo, procedimientos
operativos o personal, su nfasis principal est en la medicin del impacto del programa. Esta opinin tambin la
comparten Morris y Fitz-Gibbon (1978), Rossi y Reeman (1993) y Wholey (1979). En los Estados Unidos, algunas
organizaciones como el General Accounting Office (Chelimsky 1987,1988) alientan la integracin del seguimiento y
de la evaluacin por medio de la creacin de bancos de datos de ambos campos, para la evaluacin de impactos
potenciales sobre programas nuevos (evaluacin prospectiva)
En estudios sobre pases en desarrollo, Freeman, Rossi y Wright (1979) usan el trmino seguimiento y evaluacin
de proyectos" para enfatizar los vnculos entre ambos campos. Middleton, Terry y Bloch (1989:38) buscan integrar
ambos sistemas con una capacidad central y con fuertes vnculos verticales para mediar entre unidades
administrativas y escuelas. EL grupo de trabajo, ACC Task Force de la NNUU (1984) tambin promueve un
sistema integrado como se refleja en su constante uso del acrnimo S&E.
De la misma manera, creemos que el monitoreo y la evaluacin deben considerarse partes complementarias de un
sistema integrado. La evaluacin tiene mucho que ver tanto con las lecciones derivadas de la implementacin del
proyecto como con el nivel de los impactos logrados. Consecuentemente, la evaluacin debe llevarse a cabo tanto
en forma continua como peridica, desde la formulacin del proyecto, hasta la implementacin y la fase operativa.
Asimismo, el seguimiento alimenta el sistema nacional de SyE para lograr una base de datos nacional que pueda
ser usada para mejorar la seleccin y diseo de futuros proyectos.
Por lo tanto el acrnimo SyE es utilizado a lo largo de este libro, excepto en los casos en que sea necesario
referirse especficamente o al seguimiento o la evaluacin.
Estamos conscientes, por supuesto, que las limitaciones en los recursos fuerzan a muchos pases a concentrarse
en el seguimiento de los proyectos y frente a prohibitivas evaluaciones sistemticas. Pero, tambin hay muchos
pases en donde se rechaza la evaluacin, no por limitaciones de recursos sino porque sta es poco entendida. Tal
y como se plantea en este libro hay mtodos simples y econmicos ahora disponibles para evaluar impactos de los
proyectos y muchos de estos mtodos pueden usarse en pases con un limitado expertizaje en evaluacin o
escasos recursos financieros.
Identificacin y preparacin
Planeamiento y diseo
Implementacin
Evaluacin de la implementacin y
transicin hacia las operaciones
Debe hacerse una valoracin preliminar de cada uno de los proyectos para determinar su potencial viabilidad. Esto
sobre la base de criterios econmicos, financieros, tcnicos, institucionales, sociales, de pobreza, medio ambiente
y de gnero (ver lista de chequeo en el captulo 2, cuadro 2-3).
Etapa 2: Evaluacin exante, seleccin y negociacin del proyecto
Esta etapa evala la factibilidad econmica, financiera y tcnica del proyecto. Muchas agencias de cooperacin
conducen anlisis econmicos (ver captulo 2) y calculan la tasa interna de retorno (TIR) para determinar si el
proyecto alcanzar una TIR mnima aceptable en relacin con los recursos invertidos (Gittinger 1982:314)
Los mtodos convencionales de evaluacin exante generalmente sufren variaciones para su aplicacin en
programas sociales. Los anlisis de gnero, evaluaciones de impacto social y de impacto ambiental se encuentran
dentro de os nuevos enfoques analticos que se discuten en este libro.
Se deban tomar decisiones con respecto a la organizacin del proyecto, la agencia que lo dirigir, la institucin
que lo ejecutar, otros organismos involucrados y los sistemas de coordinacin del mismo. Otra decisin
importante se refiere a la participacin de los beneficiarios del proyecto en el planeamiento, implementacin y
manejo del mismo.
Los recursos financieros, materiales y humanos requeridos para el proyecto debern ser adquiridos y
movilizados. Debido a que los procedimientos para las adquisiciones y para la contratacin de asistencia
tcnica que son complejos y probablemente extraos para los prestatarios, esta fase tiende a devenir en
excesos en los costos y demoras que pueden afectar la calidad y mantenimiento del equipo
Se debe supervisar la implementacin fsica y la entrega de servicios. Asimismo se debe establecer un sistema
de control financiero para todos los aspectos de la implementacin del proyecto.
La figura 1-2 muestra una forma simplificada de un modelo de implementacin del proyecto. Indica tambin los
componentes principales a tener en cuenta durante el seguimiento y la evaluacin de insumos, estrategias,
resultados e impactos. Para los propsitos del seguimiento y evaluacin, es conveniente utilizar una definicin
simple de lo que es la implementacin de un proyecto:
Insumos
Estrategias
Resultados
Impactos
Tipos de estudios
Grficos Gantt
Marco lgico
Los reportes de avance son discutidos en reuniones de evaluacin. Se discuten e identifican los
retrasos, costos adicionales y se identifican problemas afines.
10
Pueden requerirse estudios de seguimiento si las razones de los retrasos no estn claras
La informacin se enva a agencias centrales y financieras en donde es agregada a otros reportes para
brindar un panorama global de la condicin de todos (o de los principales) proyectos de desarrollo
Los insumos son los recursos financieros, humanos y materiales disponibles para implementar el
proyecto segn lo planeado
Los resultados son los servicios o productos que un proyecto entrega a una poblacin meta para
producir los impactos esperados.
La tabla 1-2 indica el contexto en que los estudios de S/E de insumos y de resultados se llevan a cabo. Las
siguientes son algunas preguntas que los clientes pueden formular: Estn los recursos financieros a
tiempo? Se ajusta el sistema de adquisiciones de equipos y materiales al cronograma y al presupuesto?
Existen excesos en los costos? .Cuando los proyectos cuentan con recursos externos, es probable que los
ministerios quieran saber en qu forma los retrasos afectarn los desembolsos futuros.
Los informes de seguimiento son discutidos en reuniones gerenciales. En stas se presta atencin a los retrasos,
costos adicionales y otros tipos de problemas. Los estudios de seguimiento non para obtener retroalimentacin
sobre las causas y posibles soluciones a problemas identificados.
La tabla 1-3 indica el contexto en el que se llevan a cabo los estudios de diagnstico.
Por qu ciertos componentes del proyecto se encuentran atrasados o incurren en costos adicionales?
Por qu se presentan grandes diferencias entre comunidades en los intereses sobre los prstamos y en los
cargos por servicios?
Qu impactos tiene el proyecto en distintos grupos? Quin se beneficia y quien no? Han resultado algunos
grupos afectados como consecuencia del proyecto?
Tipos de estudios
Observacin participante
Encuestas rpidas
Observacin directa
Durante la implementacin, cuando los problemas han sido identificados por los reportes de seguimiento
Estudios continuos para proveer constante retroalimentacin sobre la actitud de los beneficiarios
11
Estudios ad hoc llevados acabo cada vez que la gerencia requiera un mayor entendimiento sobre determinados
aspectos del proyecto.
Durante la identificacin del proyecto, los estudios ayudan a identificar componentes y servicios de inters para
los beneficiarios. As como tambin las comunidades que respondan favorablemente al proyecto.
Durante la implementacin se examinan los problemas y se recomiendan soluciones. Se obtiene una constante
retroalimentacin de los beneficiarios y se hacen ajustes en la implementacin y en la entrega de servicio del
proyecto. Se obtiene asimismo, retroalimentacin sobre grupos dejados por fuera o afectados en forma
negativa, y se procede a hacer los ajustes necesarios.
Tabla 1-4 El Contexto en el que los estudios para evaluar la eficiencia del proyecto sobre los resultados e
impactos, se conducen
Cmo afectara al costo-efectividad del proyecto una replicacin del mismo a larga escala?
Podran los resultados haber tenido un mayor impacto si se hubieran invertido en un proyecto distinto?
12
Cmo se distribuyen los beneficios de proyecto entre distintos grupos geogrficos y sociales?
Tipos de estudios
Estudios de costo-efectividad
Durante la identificacin y evaluacin exante del proyecto con el fin de determinar los costos y beneficios de
proyectos alternativos.
Cuando el proyecto ha estado en operacin por varios aos, con el fin de re-evaluar la tasa econmica de
retorno como un indicador de sostenibilidad del proyecto.
Ayudar en la seleccin de proyectos y de sistemas de entrega que ofrezcan mayor potencial para la obtencin
de resultados y beneficios a los menores costos
Valorar (antes de iniciar el proyecto) y evaluar (una vez concluido el mismo) la distribucin de los beneficios.
La tabla 1-5 se refiere al contexto en los estudios de evaluacin de impacto y las preguntas en la mente de los
clientes, son formulados y realizados.
Los resultados de los estudios de preliminares de impacto (llevados a cabo durante la fase de
implementacin) se usan para evaluar si los impactos sern logrados y beneficiarn a los grupos meta. Si las
proyecciones no parecen muy positivas, se tomarn las medidas correctivas del caso. La mayora de los estudios
de impacto se llevan a cabo despus de la operacin de los proyectos. Sin embargo su propsito central es ayudar
a mejorar la seleccin y diseo de futuros proyectos.
Tabla 1-5 Contexto en el que se llevan a cabo los estudios de evaluacin de impactos
Preguntas en la mente de los clientes
13
Tipos de estudio
Diseos quasi-experimentales rigurosos, con mediciones antes y despus con un grupo de control
seleccionado cuidadosamente.
Es posible hacer estimados preliminares del impacto durante la implementacin del proyecto
Para los diseos quasi-experimentales ser neesario tener una lnea de base al inicio e idealmente varias
repeticiones durante la implementacin.
Pueden conducirse evaluaciones rpidas en cualquier momento siempre y cuando el proyecto haya entrado
en su etapa de operacin.
Los estudios preliminares de impacto se usan para evaluar si los impactos se lograrn o no. Se pueden tomar
medidas correctivas con base en stos.
Las evaluaciones cualitativas y los estudios de informantes pueden identificar en una etapa temprana a los
grupos que no se estn beneficiando o a los que estn siendo afectados negativamente por el proyecto.
El propsito central de los estudios de impacto es apoyar una mejor seleccin y diseo de futuros proyectos.
Los macro estudios se usan para monitorear los impactos ambientales y para tomar medidas correctivas a
escalas locales, regionales o nacionales.
Pocas veces se toma como base la informacin obtenida de los S/E al seleccionar y disear futuros proyectos. El
captulo 12 discute este tema y explica cmo se pueden crear bancos de datos para utilizar las lecciones
aprendidas en proyectos anteriores.
En vista de la rpida proliferacin de los sistemas de seguimiento y evaluacin no es de extraar que muchos de
ellos hayan tenido dificultades de satisfacer las demandas puestas en ellos. Muchos sistemas de SyE han sido
criticados por su ineficiencia y limitada utilidad. En algunos casos la informacin no llega oportunamente; no
contesta las preguntas precisas; o es muy costosa. En otros, la atencin se enfoca en ciertos aspectos cuantitativos
y financieros de los proyectos, y la mayor parte de la informacin se refiere solamente al perodo de implementacin
fsica. Estos problemas pueden clasificarse en cuatro grupos principales, los cuales se describirn a travs del
presente libro.
14
Aunque las polticas de evaluacin de programas han sido ampliamente discutidas en los Estados Unidos
(Palumbo 1987) las dimensiones polticas de evaluacin han sido largamente rechazadas en pases en desarrollo.
Dems esta decir que no se espera entender la dinmica de la evaluacin de programas sin reconocer que
muchas agencias de seguimiento y evaluacin (CMEA por sus siglas en ingls) ejercen una influencia considerable
sobre la asignacin de recursos y sobre las decisiones concernientes al futuro de los programas que evalan. Sin
embargo, los CMEA son percibidos con frecuencia como una amenaza o como un recurso poderoso que necesita
ser controlado (Bamberger 1988). Como resultado, los CMEA son cambiados constantemente de un ministerio o
de un departamento a otro, o ven su poder o sus recursos disminuidos. Ahmed y Mamberger(1989) no encontraron,
en el Sur Asia, un CMEA que haya estado operando como tal por ms de tres aos.
Algunos otros problemas organizacionales surgen cuando las funciones de SyE son localizados en una agencia
inapropiada, cuando las funciones se asignan a agencias distintas, haciendo difcil la coordinacin, o cuando los
problemas de coordinacin restringen el flujo de informacin entre la agencia central y los presuntos usuarios. El
captulo 12 discute en ms detalle los vnculos entre la localizacin y organizacin del M/E y los tipos de estudios
producidos y cmo se diseminan. Es asimismo comn encontrar organizaciones no gubernamentales muchas de
las cuales cuentan con una vasta experiencia en evaluacin- excluidas de colaborar en la evaluacin de los
programas del sector pblico.
Las agencias donantes tienen una influencia considerable sobre el contenido y la organizacin de los sistemas
SyE. El hecho de que los donantes y prestatarios requieren diferente tipo de informacin puede crear a su vez un
mayor numero de problemas.
Problemas administrativos/gerencias
Muchas agencias de SyE al nivel de proyecto, sectorial o nacional no han logrado establecer procedimientos claros
para identificar a los usuarios principales de la informacin que producen, o para comparar la importancia de los
estudios requeridos por distintas organizaciones nacionales e internacionales o an para definir los tipos de
informacin requerida por cada usuario potencial. Como consecuencia, los usuarios potenciales se quejan de que
los estudios no proveen la informacin que requieren o que la informacin llega muy tarde o de una forma que no
es clara de entender. La naturaleza centralizada de muchos de los CMEA implica que la informacin del SyE sea
usada principalmente por las agencias gubernamentales para controlar unidades de lnea de los ministerios y de los
proyectos, por lo tanto no es considerada como una herramienta gerencial. En este campo, muchos gerentes
perciben el SyE como una amenaza, o como una inconveniencia, y no estn dispuestos a cooperar en la
recoleccin de datos o en el anlisis de los mismos. Esto tambin ha creado preocupacin acerca de la calidad y
confiabilidad de la informacin del SyE provista por las agencias encargadas. La mayora de estos problemas
tambin se encuentran en los Estados Unidos. Aunque un amplio rango de programas federales y estatales tienen
como mandato conducir tales evaluaciones, y aunque se ha reconocido la utilidad potencial de las evaluaciones,
an muchos gerentes rehusan iniciar evaluaciones. Las siguientes son algunas razones (Carlson y Crane 1989)
Minimizacin de la responsabilidad. La presin por reducir el tamao del estado ha trado consigo un nuevo
sentido de riesgo. Los gerentes estn conscientes de que los legisladores y los departamentos de presupuesto
buscan reducir o disminuir la escala de los programas. Consecuentemente, existe el temor de que cualquier
tipo de evaluacin podra ser usada como justificacin para cerrar un programa. Al mismo tiempo, no se
esperan beneficios de una evaluacin positiva.
Falta de confianza en que los productos de la evaluacin lleven a beneficios prcticos que excedan sus costos
15
Tiempo requerido para iniciar una evaluacin. En las agencias gubernamentales de los Estados Unidos, el
proceso para obtener la aprobacin para llevar a cabo una evaluacin, y luego el proceso para contratar a los
consultores son usualmente muy lentos. Muchos gerentes no sienten que los resultados de la evaluacin
justificaran los esfuerzos que se requieren para invertir.
Otro grupo de problemas gerenciales, est relacionado con las dificultades existentes para reclutar y mantener
personal calificado para las unidades de SyE. Frecuentemente, el perfil de profesionales requerido por estas
unidades no est definido con propiedad en la administracin publica. Como consecuencia, resulta difcil ofrecer
condiciones de trabajo competitivas. Asimismo, las posibilidades de hacer carrera, no esta claramente definido para
los evaluadores; esto puede desmotivar a personal calificado que podra estar en posibilidades de ingresar en este
campo.
Problemas de enfoque
Los CMEA usualmente priorizan el seguimiento de la implementacin del proyecto. Por lo tanto, muy pocos
estudios se llevan a cabo para determinar cmo operan los programas, si son sostenibles o si sern capaces de
producir los impactos esperados. As pues, aunque gran cantidad de informacin sobre la implementacin puntual
de los proyectos y sus presupuestos es recolectada, limitadamente si se llega a conocer si lograron los objetivos
propuestos por los programas masivos de desarrollo social y econmico o si producen los beneficios o cambios
para los que fueron diseados (Bamberger 1989)
Una razn para este sesgo es que en la mayora de los pases en desarrollo el presupuesto de capital de inversin
(para la construccin de nuevos caminos, escuelas, fbricas y hospitales) usualmente es mayor que el destinado a
las operaciones o retornos. Esta rea es en la que se requiere un cuidadoso monitoreo debido a que la mayora de
los recursos gubernamentales se destinan a la implementacin de los proyectos. Asimismo, debido a que las
agencias internacionales de ayuda estn usualmente involucradas con la implementacin del proyecto, ellas
tambin se muestran ms interesadas en el monitoreo de este ltimo. Por consiguiente, muchas unidades de SyE
se encuentran localizadas en estas agencias destinadas a velar por la implementacin de los proyectos y, como
muchas de ellas se desintegran una vez completada la implementacin, no pueden llevar a cabo evaluaciones de
impacto en el largo plazo.
Otra limitacin en el uso de la evaluacin es el hecho de que la mayora de los gobiernos y agencias se centran
ms en la evaluacin de los insumos antes que en la de resultados y productos. Esto limita la demanda de
evaluaciones de la calidad o del costo-efectividad de los resultados o de la estimacin de los impactos.
Un problema mayor surge del hecho que la mayora de los gobiernos y los administradores encargados de disear
las polticas operan dentro de un horizonte de uno o dos aos plazo. Muchos pases continan operando con
presupuestos anuales y por lo tanto los planificadores y las agencias tienden a restringirse a objetivos de corto
plazo. Esto explica el por qu, raramente se conducen evaluaciones prospectivas de largo plazo. Osborne y
Gaebler (1992) sealan que un reciente avance en el gobierno estadounidense es que algunas autoridades locales
y estatales ms innovadoras se han aventurado a planear a diez aos plazo. Este enfoque, al ser combinado con el
planeamiento estratgico, puede generar una gran demanda por evaluaciones prospectivas y retrospectivas
orientadas a apoyar a planificadores y gerentes a proyectar el futuro, sobre la base de un anlisis sistemtico de
experiencias pasadas y presentes.
Problemas metodolgicos
Durante la dcada de los 70, agencias internacionales de ayuda, financiaron un cierto nmero de evaluaciones de
impacto a gran escala que usaban diseos casi experimentales. Los sectores involucrados eran salud, vivienda y
agricultura entre otros. Los resultados de la mayora de estas evaluaciones fueron desilucionantes. Como
resultado, hoy en da muchas autoridades gubernamentales y donantes manifiestan que es imposible que las
evaluaciones rigurosas de impacto sean costo-efectivas y tiles operativamente hablando. As pues, los propulsores
de las evaluaciones de impacto deben defender la factibilidad y rigurosidad tcnica de impacto y responder al
mismo tiempo a las crticas que dicen que los resultados de tales evaluaciones son muy acadmicas, o que llegan
muy tarde para ser usadas.
16
Algunos otros problemas metodolgicos que se discuten en captulos subsiguientes incluyen el sesgo de monometodo que surge al trabajar con un solo (o un pequeo nmero de) mtodo(s) de recoleccin de datos; la
preferencia por mtodos cuantitativos; la tendencia a ignorar mtodos cualitativos valiosos, la preferencia por
comparaciones estticas entre periodos antes que por el anlisis de procesos de cambi, y la excesiva
dependencia en computadoras y la falta de conciencia sobre las limitaciones que la computacin impone en el tipo
de datos que se recogen o en la calidad y validez de los mismos.
El seguimiento y evaluacin de programas de desarrollo social puede ir de la mano con otros problemas de una
naturaleza menos general.
Es esencial involucrar a todos los actores en el proceso de evaluacin desde la etapa de identificacin de
necesidades hasta la definicin de los objetivos.
Sin descartar evaluaciones de insumos y de procesos se debe prestar una mayor atencin a la evaluacin de
resultados y de productos. No debe olvidarse que los programas estn diseados y planteados para lograr
ciertos objetivos; por lo tanto, una evaluacin efectiva debe proveer a los encargados de polticas y gerentes de
una retroalimentacin consistente sobre el grado de alcance de los objetivos y sobre los factores que pueden
estar interfiriendo en alcanzarlos.
17
Se debe prestar ms atencin a la evaluacin de la calidad de los programas antes que limitarse a examinar
indicadores cuantitativos de insumos y resultados.
Los evaluadores deben ayudar a los gerentes a entender cmo la evaluacin puede convertirse en una
herramienta gerencial para mejorar el desempeo. Los evaluadores deben, asimismo, mantener una relacin
ms estrecha con los gerentes.
Debe darse ms nfasis a la evaluacin de polticas. Uno de los ms grandes usos potenciales de los datos
obtenidos en la evaluacin es el anlisis sistemtico de lo que se conoce acerca de un problema particular o
tipo de programa. Esto con la finalidad de ayudar a los encargados del diseo de polticas a seleccionar el
programa que ms se adapte a los objetivos deseados.
Aunque es importante incorporar los programas sociales dentro de sistemas establecidos de SyE a escala nacional,
tales sistemas deben ser impulsados de tal forma que reflejen las caractersticas particulares de los programas de
desarrollo social.
Los presuntos beneficiarios deben estar involucrados en el planeamiento, ejecucin e interpretacin de los
estudios de SyE. Esto significa que las perspectivas de los diferentes actores deber ser identificada e
incorporada en el planeamiento e interpretacin de los estudios. Los mtodos de evaluacin de los beneficiarios
desarrollado por el Banco Mundial estn entre los muchos ejemplos de aplicacin de este enfoque.
El anlisis social debe incorporarse como un componente estndar en la evaluacin ex - ante de un proyecto.
As pues, la evaluacin de la relevancia social e institucional de un proyecto debe conducirse en la misma
forma en que se lleva a cabo para los campos econmico y financiero.
Los proyectos de desarrollo social estn con frecuencia ms relacionados con el desarrollo de capacidades en
el mbito comunal y local que con el logro de resultados definidos y precisos. Como consecuencia, se presta
mayor atencin a la evaluacin de los procesos de seleccin, implementacin, operacin y replicacion del
proyecto. Estrechamente relacionado a lo anterior, esta el nfasis en la evaluacin institucional. Sin embargo,
estos proyectos debieran tambin prestar atencin a los resultados que esperan sostener.
Se deben desarrollar mtodos de evaluacin rpida y estandarizarlos de modo que puedan usarse
regularmente para la recoleccin de datos y para el anlisis durante las etapas de evaluacin ex - ante,
monitoreo y diagnstico.
Se debe introducir una mayor flexibilidad en el proceso de SyE reconociendo el hecho de que los objetivos del
programa evolucionarn conforme el programa se desarrolle. Lo anterior significa que la evaluacin debe
describir y evaluar tanto el proceso de implementacin como los resultados.
Siempre ser til desarrollar un modelo del proceso de implementacin. Tal modelo (descrito en el captulo 3)
identifica la premisa sobre la que se basa el proyecto, describe los supuestos en los que subyace el proyecto,
describe las estrategias de implementacin e identifica los vnculos entre insumos, implementacin, resultados
e impactos. El modelo previsto es luego comparado con la experiencia real de implementacin, y establece las
razones de los desvos y explica y examina los resultados no previstos.
Se debe pedir a las organizaciones no gubernamentales que participen en todas las etapas de la evaluacin.
Las distintas estrategias para mejorar los procesos de SyE son el tema central de este libro.
18