Escolar Documentos
Profissional Documentos
Cultura Documentos
CENTRO DE TECNOLOGIA
PROGRAMA DE ENGENHARIA DE PRODUÇÃO
por
AGOSTO, 2006
APROVADO POR:
______________________________________________________________
Prof. Rubens Eugênio Barreto Ramos, D.Sc. – Orientador, Presidente
______________________________________________________________
Prof. Sérgio Marques Júnior – Membro Examinador
______________________________________________________________
Prof. Elton Fernandes, Dr. – Membro Examinador Externo
Divisão de Serviços Técnicos
ii
SOBRE O AUTOR
iii
Aos meus pais, Sebastião e Juçara.
iv
AGRADECIMENTOS
A Deus, autor e consumador da minha fé, Aquele que era antes de tudo vir a existir e sem
O qual nada do que foi feito se fez. Ao Senhor todo poderoso seja a honra, a glória e o
louvor na minha vida antes de tudo.
Aos meus pais, presentes de Deus, que muito além de provedores são grandes amigos,
incentivadores, conselheiros que sempre me animaram, protegeram e estiveram ao meu
lado quando eu precisei, a vocês todo meu amor e gratidão.
Ao Prof. Dr. Rubens Eugênio Barreto Ramos, orientador que me deu as primeiras lições
e acompanhou até o fim dessa minha jornada, a caminho do mestrado.
Ao colega de curso e amigo Marcos Pena Junior, com quem troquei muitas idéias e que
me ajudou na elaboração de papers e pesquisas.
Aos meus tios Misael e Stela e primas Ulliana e Myrian, que me deram suporte quando
precisei e estavam sempre ao meu dispor.
Aos meus irmãos, Luciano e Harlanne; à minha namorada, Érica; amigos e irmãos
em Cristo, que me ajudaram incentivaram e oraram por mim.
v
Resumo da Tese apresentada à UFRN/PEP como parte dos requisitos necessários para a
obtenção do grau de Mestre em Ciências em Engenharia de Produção.
Agosto/2006
vi
Abstract of Master Thesis presented to UFRN/PEP as fulfillment of requirements to the
degree of Master of Science in Production Engineering
August/2006
This Master of Science Thesis deals with applying DEA (Data Envelopment Analysis) to
the academic performance evaluation of graduate programs in Brazil, exploring it on a
Mechanical and Production Engineering Program 2001-2003 data. The data used is that of
the national assessment carried by CAPES, the governmental body in charge for graduate
program assessment and certification. It is used the CCR output oriented DEA model, the
CCR-Output with Assurance Region, and Window Analysis. The main findings are first
that the CCR has the concerning problem of zero values of weights of outputs that is not
appropriate in a sense that a graduate program has the higher efficiency score zeroing some
output (e.g., number of academic papers published). Secondly, the Assurance Region
method proved useful. Third, the Window Analysis also gave some light to the consistency
of the performance in the time frame analysed. Also, the analysis results in the
understanding that the Mechanics and Production Engineering should not be assessed
jointly like currently applied by CAPES and rather should be assessed in its own field
separately. Finally, the result of the DEA analysis showed some serious inconsistencies
with the CAPES method. Graduate programs considered excellent has got low
performance score and vice versa. This Thesis provides a strong argument in order to use
DEA at least as a complimentary methodology for graduate program performance
evaluation in Brazil.
vii
SUMÁRIO
CAPÍTULO 1 INTRODUÇÃO....................................................................................................................... 1
viii
4.3.2 Engenharia de Produção............................................................................................................... 50
4.4 RETIRANDO AS DMU'S (OUTSTANDING)............................................................................................ 51
4.4.1 Avaliação Engenharia Mecânica sem as outstanding................................................................... 51
4.4.2 Avaliação Engenharia de Produção sem as outstanding .............................................................. 53
4.5 ANÁLISE COMPARADA COM A AVALIAÇÃO CAPES ............................................................................... 54
4.5.1 Engenharia Mecânica ................................................................................................................... 54
4.5.2 Engenharia de Produção............................................................................................................... 55
REFERÊNCIAS............................................................................................................................................. 60
ANEXOS......................................................................................................................................................... 64
ix
LISTA DE TABELAS
Tabela 2.1 O caso de um insumo e dois produtos (Cooper, Seiford, Tone, 2006) .........15
Tabela 2.2 Análise de Janela com Janela de Três Meses (Charnes et al., 1994) ............21
x
LISTA DE FIGURAS
Figura 2.4 Superficie envoltória do CCR orientado a insumos (Charnes et al., 1994) ....... 15
Figura 2.5 O caso de um insumo e dois produtos (Cooper, Seiford e Tone, 2006) ............ 16
Figura 2.7 Superfície envoltória para o modelo BCC orientado a insumos (Charnes et al.,
1994)............................................................................................................................... 18
xi
LISTA DE EQUAÇÕES
xii
LISTA DE SIGLAS, NOMES E ACRÔNIMOS
AR – Assurance Region
xiii
ANEXOS
xiv
Anexo 10 Avaliação Mecânica Janela AR-O-C............................................................ 102
xv
Capítulo 1
Introdução
1.1 Contextualização
1
mudanças técnicas ou TFP. Ambas as metodologias assumem que todas as firmas são
tecnicamente eficientes. Os dois últimos, em outra mão, são mais freqüentemente aplicados
para dados em uma amostra de firmas (em um ponto no tempo) e provê medidas de
eficiência relativa entre essas firmas. Por esta razão, esses dois últimos métodos não
assumem que todas as firmas são tecnicamente eficientes. Todavia o índice TFP
multilateral pode também ser usado para comparar a produtividade relativa de um grupo de
firmas em um ponto no tempo. Também a DEA e a Fronteira Estocástica podem ser usadas
para medir ambas a variação técnica e a variação de eficiência, se o quadro de dados está
disponível.
Deste modo se observa que as quatro metodologias acima citadas podem ser
associadas em concordância, quer reconheçam ineficiências ou não. Um caminho
alternativo para associar as metodologias é notar que os modelos econométricos de
mínimos quadrados e a fronteira estocástica envolvem estimação econométrica de funções
paramétricas, enquanto os índices de produtividade total dos fatores (TFP) e a DEA não.
Esses dois grupos podem, por esta razão, ser denominados metodologias “paramétricas” e
“não paramétricas” respectivamente. Esses dois métodos podem também ser distinguidos
de outras formas, tais como, pelas exigências dos dados, pelas suposições comportamentais
e por eles reconhecerem ou não erros casuais nos dados (Coelli et al, 2005).
Para este estudo será utilizada a metodologia DEA por ser apropriada de acordo
com as características citadas acima, ter sido concebida a princípio com fim de avaliar
programas educacionais e por já haver estudos similares no Brasil.
Alguns estudos usando DEA para programas de pós-graduação no Brasil foram
realizados, especialmente em Engenharia, tais como Albani Neto (2000), Silva (2001) e
Souza (2004), o que é comentado no capítulo 2. Neste trabalho, procura-se aplicar a
metodologia DEA (Data Envelopment Analysis – Análise de Envoltória de Dados) para
avaliar os programas e realizar uma discussão que pode lançar novas visões sobre o
processo, fazendo uma discussão específica da área de Engenharias III no triênio 2001-
2003.
1.1.2 A Metodologia da Avaliação CAPES
A avaliação de desempenho de programas de pós-graduação no Brasil é realizada
institucionalmente por uma instância do Ministério da Educação denominada CAPES
(Coordenação de Aperfeiçoamento de Pessoal de Nível Superior ). Essa avaliação é trienal
e a sistemática de avaliação para o período 2001-2003 é sumarizada aqui.
2
Os Programas de Pós-Graduação no Brasil são avaliados pela CAPES, sendo
atribuídos notas de 1 a 7. Os Programas de Engenharia são divididos em quatro grupos, dos
quais a Engenharias III inclui em um mesmo conjunto a Engenharia de Produção e a
Engenharia Mecânica. Esta avaliação é baseada em um modelo aditivo multi-critérios. Os
critérios e respectivos pesos são apresentados na Tabela 1.1
Critério Peso
Proposta do Programa -
II – Corpo Docente 10%
III – Atividades de Pesquisa 10%
IV – Atividades de Formação 10%
V – Corpo Discente 20%
VI – Teses e Dissertações 20%
VII – Produção Intelectual 30%
Fonte: CAPES (2004a)
Para cada indicador há uma definição da forma de sua pontuação, p.ex., a Tabela
1.2 apresenta os indicadores com respectivos pesos do critério VII Produção Intelectual, e
a Tabela 1.3 as formas de pontuação dos indicadores 2 (Qualidade...) e 3 (Quantidade...).
3
Tabela 1.3. Cálculo dos indicadores dos itens 2 e 3
Item Equação Detalhe
2 Índice = A/B A = 1,0 x Int. A + 0,75 x Int. B + 0,5 x Nac. A
B = Número total de docentes e pesquisadores
3 Índice = A/B A = 1,0 x Periódicos [Int. (1,0A+0,8B+0,4C) + Nac. (0,6A+0,4B)] + 0,6 x
Anais [Int. (1,0A+0,6B+0,4C) + Nac. (0,6A+0,4B)] + 3 x Livro + 1,0
x Capt. Livro + 0,5 x Coletânea + 1,0 x Trad. Livro
B = Número total de docentes do NRD6
1.2 Objetivo
1.3 Relevância
Na área acadêmica:
4
ao meio acadêmico com o estudo de sistemáticas de avaliação institucional através de uma
avaliação não convencional, podendo esta avaliação, confirmada sua relevância, servir de
base para uma simplificação do processo da avaliação CAPES em sua etapa quantitativa.
5
Finalmente, os anexos apresentam as tabelas com escores e pesos das DMU’s a
que se referem.
6
Capítulo 2
7
Farrel (1957) tinha como propósito prover uma medida satisfatória da eficiência
produtiva que levasse em conta todos os insumos e ainda evitasse os problemas de
números índices. Para exemplificar seus conceitos de eficiência Farrel supõe que a função
de produção eficiente seja conhecida; isso é, o produto que uma firma perfeitamente
eficiente poderia obter de qualquer dada combinação de insumos. Na figura 1, o ponto P
representa as quantidades dos dois fatores, por unidade de produto, que a firma é observada
usa. A isoquanta SS’ representa as várias combinações dos dois fatores que uma firma
perfeitamente eficiente poderia usar para produzir uma unidade de produto.
Agora o ponto Q representa uma firma eficiente usando os dois fatores na mesma
proporção que P. Pode ser visto que ela produz o mesmo produto que P usando apenas
uma fração OQ/OP tanto de cada fator. Poderia também ser pensado que produz OP/OQ
vezes de tanto produto das mesmas quantidades de insumos. Parece assim natural definir
OQ/OP como a eficiência técnica da firma P.
Entretanto, se necessita também uma medida da extensão com que uma firma usa
os vários fatores de produção nas melhores proporções, em vista de seus preços. Assim, na
figura 2.1, se AA' tem uma inclinação igual à razão dos preços dos dois fatores, Q' e não Q
é o método ótimo de produção; embora ambos pontos representem 100 por cento de
eficiência técnica, os custos de produção em Q' serão apenas uma fração OR/OQ daqueles
de Q. É natural definir esta razão como a eficiência de preço de Q.
Mas como Farrel comenta, é muito difícil especificar uma função de produção
eficiente teórica para um processo muito complexo. Assim, embora o padrão teórico fosse
8
perfeitamente válido e tivesse seu uso próprio, Farrel se preocupou em estabelecer a função
produção a partir do padrão observado, preocupando-se em estimar uma função de
produção eficiente das observações dos insumos e produtos de um número de firmas nos
mesmos pressupostos de antes, onde cada firma pode ser representada por um ponto sobre
um diagrama de isoquanta, tal que um número de firmas produzirá uma dispersão de
pontos, como representado na Figura 2.2.
produto virtual
insumo virtual
onde,
9
O modelo denominado CCR teve suma forma matemática básica de programação
linear dada por Charnes, Cooper e Rhodes (1978)
s
∑u
r =1
r y ro
max ho = m
(2)
∑v x
i =1
i io
sujeito a:
∑u
r =1
r y rj
m
≤ 1; j = 1, ..., n,
∑v x
i =1
i ij
u r , vi ≥ 0; r = 1, ..., s; i = 1, ..., m.
onde, yrj (todos positivos) são os produtos (outputs) conhecidos e xrj (todos positivos) são
os insumos (insumos) da j-ésima DMU, e o ur, vi ≥ 0 são os pesos variáveis a serem
determinados pela solução deste problema.
Os pesos ótimos podem (e geralmente irão) variar de uma DMU para outra DMU.
Assim, os “pesos” em DEA são derivados dos dados em vez de serem fixados antes. A
cada DMU é atribuído um melhor conjunto de pesos com valores que podem variar de uma
DMU para outra.
10
excluindo os outliers, a DEA inversamente busca identificar os pontos extremos. A Figura
2.3 ilustra a diferença entre DEA e regressão.
16
14
12
10
Produto
0
0 2 4 6 8 10 12 14 16
Insumo
11
dos termos e fatores ganhando valor de seu produto marginal. A DEA calcula uma medida
máxima de desempenho para cada DMU em relação às outras do mesmo conjunto e
simplesmente indica quais DMU’s formam a fronteira extrema e são referências para as
demais abaixo da fronteira. A eficiência técnica relativa de cada DMU é calculada pela
formação da razão da soma ponderada dos produtos pela soma ponderada dos insumos,
onde os pesos para ambos produtos e insumos são selecionados de uma maneira que
calcule a medida de eficiência de Pareto para cada DMU sujeita à restrição de que
nenhuma delas tenha um valor de eficiência relativa maior que a unidade. Os cálculos da
DEA buscam maximizar o escore de eficiência relativa de cada DMU, condicionado ao
fato de que o conjunto de pesos obtido desta maneira para cada DMU seja o mesmo para
todas as outras incluídas no cálculo (Charnes et al., 1994).
12
onde o modelo CCR é formulado como um problema de PL com o vetor linha v para os
multiplicadores de insumos e o vetor linha u como multiplicadores de produtos, yo e xo são
os vetores de produtos e insumos da DMUo em análise, e Y e X a matriz de vetores de
produtos e insumos de todas as DMUs. Os multiplicadores u e v são tratados como
variáveis para o caso do problema de programação linear (PL) do modelo CCR orientado a
insumos.
onde,
1
t= ,t>0 (4)
νX o
tem-se o programa linear equivalente (Cooper et al., 2006),
(PLo) max µy o (5)
ν ,µ
sujeito a νxo = 1
− νX + µY ≤ 0
ν ≥ 0, µ ≥ 0.
O problema dual do PLo (5) é expresso com uma variável real θ e a transposta, T,
de um vetor não negativo λ = (λ1, ..., λn)T de variáveis como segue (Cooper et al., 2006):
(DPLo) min θ (6)
θ ,λ
sujeito a θxo − Xλ ≥ 0
Yλ ≥ y o
λ ≥ 0.
13
A análise CCR pode também ser orientada a produto, ou seja, dado um nível de
insumo, qual o máximo produto que pode ser alcançado. A formulação de PL em forma de
envoltória para o modelo orientado a produto é dada por (Cooper et al., 2006),
(PLOo) max η (7)
η ,µ
sujeito a x o − Xµ ≥ 0
η y o − Yµ ≤ 0
µ ≥ 0.
A solução ótima do PLOo (7) pode ser obtida diretamente de uma solução ótima do
modelo CCR orientado a insumo dado em (6) como segue (Cooper et al., 2006).
Seja
λ = µ / η, θ=1/η
Então o PLOo (7) torna-se
(PLOo) min θ (8)
θ ,λ
sujeito a θxo − Xλ ≥ 0
y o − Yλ ≤ 0
λ ≥ 0.
que é o modelo CCR orientado a insumo. Assim, uma solução ótima de um modelo
orientado a produto relaciona-se àquela do modelo orientado a insumo via:
η∗ = 1 / θ∗, µ∗ = λ∗ / θ∗ (9)
A Figura 2.4 apresenta uma ilustração da aplicação gráfica do modelo CCR para
um conjunto de DMUs para o caso de 1 produto e 1 insumo (Charnes et al., 1994), onde a
DMU2 é eficiente e todas as demais ineficientes.
14
10
P4 (9,8)
8
P3 (6,7)
P7 (10,7)
P2 (3,5)
Y
P5 (5,3)
P1 (2,2)
2
P6 (4,1)
0
0 2 4 6 8 10 12
X
Figura 2.4 Superfície envoltória do CCR orientado a insumos (Charnes et al., 1994)
A Tabela 2.1 e a Figura 2.5 ilustram a aplicação do modelo CCR para um caso de
dois produtos e um insumo (Cooper, Seiford e Tone., 2006). Os valores de insumos foram
unitarizados para simplificar a análise gráfica.
Tabela 2.1 O caso de Um Insumo e Dois Produtos (Cooper, Seiford e Tone, 2006)
Loja A B C D E F G
Empregados x 1 1 1 1 1 1 1
Clientes y1 1 2 3 4 4 5 6
Vendas y2 5 7 4 3 6 5 2
15
8
B
7
Fronteira Eficiente
E
6
Vendas / Empregados
F
5 A
4
C
3
D
G
2
Conjunto de Possibilidade de Produção
1
0
0 1 2 3 4 5 6 7
Clientes / Empregados
Figura 2.5 O Caso de Um Insumo e Dois Produtos (Cooper, Seiford e Tone, 2006)
d (O, D)
= 0,75
d (O, P)
8
Q B
7
E
6
Vendas / Empregados
F
5 A
P
4
C
3
D G
2
0
0 1 2 3 4 5 6 7
Clientes / Empregados
16
Pela observação da Figura 2.6, pode-se perceber que o ponto P é a projeção radial
do ponto D sobre a fronteira eficiente e suas coordenadas são dadas por:
A Figura 2.7 apresenta para o mesmo conjunto de DMUs da Figura 2.4 a análise
BCC (Charnes et al., 1994).
17
10
P4 (9,8)
8
P3 (6,7) P7 (10,7)
6
Y
P2 (3,5)
P5 (5,3)
P1 (2,2)
2
P6 (4,1)
0
0 2 4 6 8 10 12
X
Figura 2.7 Superfície envoltória para o modelo BCC orientado a insumos (Charnes et
al., 1994)
Além dos modelos CCR e BCC, os principais da literatura DEA, surgem modelos
adicionais denominados Multiplicativos (Charnes et al., 1982, 1983 apud Charnes et al.,
1994) e Aditivo (Charnes et al., 1985 apud Charnes et al.,1994), os quais tentam
aproximar-se de análise econômicas tradicionais (multiplicativos) e que resolvem o
inconveniente de escolha de orientação (aditivo). Estes modelos serão sumarizados aqui e
suas formulações matemáticas serão omitidas devido ao escopo deste trabalho (ver
Charnes et al., 1982, 1983, e Charnes et al., 1985). Uma visão destes modelos em uma
mesma notação matemática pode ser encontrada em Charnes et al. (1994).
O modelo Aditivo (Charnes et al., 1985 apud Charnes et al., 1994) e o modelo
Aditivo Extendido (Charnes et al., 1987 apud Charnes et al., 1994) relacionam a DEA às
primeiras análises de ineficiências de Charnes-Cooper (1957), apud Charnes et al., (1994)
18
e no processo relacionam os resultados de eficiência ao conceito econômico de T.
Koopmans (1949) apud Charnes et al., (1994). Para o modelo Aditivo os retornos de escala
são variáveis como conseqüência da geometria da superfície envoltória. Segundo Cooper et
al. (2006) o modelo aditivo tem a vantagem sobre o CCR de realizar simultaneamente a
análise de eficiência com ambas as orientações – insumos e produtos. Tem porém a
desvantagem de usar uma medida de distância à fronteira de eficiência adotada do tipo l1
(também denominada distância de quadra), a qual não serve para fins de benchmarking.
2.3.1 Categorias
Na maior parte das aplicações da DEA considera-se que todos os insumos e
produtos são variáveis contínuas, mas, em situações reais, existe a freqüente possibilidade
de surgirem variáveis ordinais, e se torna importante incorporar apropriadamente tais
variáveis para que não haja algum tipo de má contextualização da DMU e por
conseqüência uma avaliação que não reflita a realidade.
O conceito de categorias pode ser usado para evitar os problemas citados, onde há
um alinhamento natural ou hierarquia de categorias e onde cada DMU deveria ser
comparada apenas com DMU’s em sua categoria ou em situação mais desvantajosa,
aquelas operando sob as mesmas ou piores condições, muito embora todas as DMU’s
tivessem os mesmos tipos de insumos e produtos. Se as categorias não são comparáveis,
então uma análise separada deveria ser realizada para cada categoria.
2.3.2 Análise de Janela
Uma outra ótica serve como extensão da DEA. De acordo com Charnes et al.
(1994), em geral cada DMU é observada apenas uma vez, mas em casos reais as DMU’s
podem ser observadas em períodos de tempo, e é importante analisar tais DMU’s nessas
janelas e focar as mudanças da eficiência ao longo do tempo, onde a mesma DMU é vista
como uma DMU “diferente” em cada período de tempo.
19
Charnes et al. (1994) ilustram essa extensão com um estudo sobre manutenção de
caças da Força Aérea dos Estados Unidos. Os dados foram obtidos para 14 (n = 14)
esquadrões de caças táticos da Força Aérea dos EUA em um período de sete (p = 7) meses.
Para realisar a análise usando janelas de três meses (w = 3), se procede como segue.
Cada DMU é representada como se fosse uma DMU diferente para cada um dos
três meses sucessivos na primeira janela (M1, M2, M3), e uma análise de 42 (nw = 3 x 14)
DMUs é realizada. A janela então muda um período e uma análise é realizada no segundo
conjunto de três meses (M2, M3, M4) de 42 DMUs. O processo continua desta maneira,
mudando a janela para frente um período a cada vez e concluindo com a análise final
(quinta) de 42 DMUs para os últimos três meses (M5, M6, M7). Em geral se realiza p – w
+ 1 análises separadas, onde cada análise examina nw DMUs. A Tabela 2.2 ilustra o
resultado desta análise.
20
Tabela 2.2 Análise de Janela com Janela de Três Meses (Charnes et al.1994)
21
2.3.3 Restrição de Pesos – Região de Garantia (Assurance Region)
Em geral em um modelo com retorno constante de escala, não há, a princípio,
restrição aos pesos, podendo os mesmos, variarem a partir de zero.
O modelo básico CCR, por exemplo, tem como pressuposto o retorno constante de
escala, ou seja, o tamanho da DMU não altera a relação de transformação entre insumos e
produtos. Este modelo pode ser orientado a insumos ou produtos, ou seja, em termos de
minimizar os insumos para dado nível de produto, ou maximizar produtos dado
determinado nível de insumos, respectivamente modelo orientado a insumo, ou CCR-I
(Input), e orientado a produto, ou CCR-O (Output).
u2
L2,1 ≤ ≤ U 2,1 (11)
u1
onde L2,1 é o limite inferior (Lower) para a razão dos pesos de produtos u2/u1, e U2,1 o
limite superior (Upper) para a mesma razão. Outras estratégias são apresentadas por Dyson
e Thanassoulis (1988), Charnes et al. (1990) e Roll, Cook e Golany (1991).
22
quantidade de produtos que podem ser produzidos de uma combinação de vários insumos –
ou alternativamente, a mínima combinação de vários insumos necessária para produzir um
dado nível de produtos.
A construção dos conjuntos de dados, que nem sempre estão à disposição, muitas
vezes precisam ser construídos e para tanto se deve escolher quais são as variáveis de
insumo e produto mais relevantes e o nível e correlação entre elas, assim como considerar
a precisão dos dados.
As soluções da DEA, que são freqüentemente mal interpretadas, são tratadas como
prescrições deterministas, porém deveriam ser entendidas como resultado da projeção da
DMU ineficiente sobre a fronteira de eficiência, e, portanto, um indicativo para os gestores
na direção onde atuar.
23
Como todos os cálculos de programação matemática, os cálculos de DEA podem
ser afetados por ótimos alternados e degeneração, portanto se faz necessário que medidas
preventivas sejam tomadas.
Apesar de todas essas questões e singularidades, vale notar que a metodologia DEA
provê uma nova abordagem para a organização e análise de dados, e para deixar os dados
falarem por si mesmos diretamente.
Bandeira (2000) utiliza a DEA para avaliar a eficiência dos departamentos de uma
universidade federal, cujos resultados premitem: destacar alguns pontos de ineficiência,
que podem ser melhorados; identificar características de departamentos mais eficientes,
que possam ser repassadas aos menos eficientes, para que estes elevem seu desempenho; e
contribuir para a homogeneização da eficiência de todos os departamentos acadêmicos da
UFRGS, com o intuito de aperfeiçoar a universidade como um todo. Belloni (2000) propõe
uma metodologia, baseada na DEA, para avaliar a eficiência produtiva de universidades
federais. Como resultado encontra seis das 33 universidades federais sob análise
consideradas tecnicamente eficientes. Para cada uma das demais 27 instituições a
24
metodologia proposta identificou ações e estratégias de melhoria da produtividade
baseadas em metas de produção construídas a partir de um conjunto de universidades de
referência e um conjunto de relações de valor entre as variáveis consideradas. As maiores
possibilidades de crescimento da produtividade do Sistema de Instituições Federais de
Ensino Superior concentram-se em alterações nos projetos acadêmicos da maioria das
universidades, na direção de aumentar as atividades de pesquisa. Dalmas (2000) utilizou a
DEA para avaliar o desempenho do curso de graduação em Administração da região Sul do
Brasil que participaram do Exame Nacional de Cursos em 1998. Guedes (2002) utiliza a
DEA para avaliar a eficiência na formação de alunos dos cursos de engenharia civil das
universidades brasileiras. Lopes (1998) propôs, através da DEA, uma metodologia para
avaliar o desempenho, produtividade e qualidade de departamentos acadêmicos de uma
universidade brasileira. Os resultados sugerem que 15 dos 58 departamentos da
universidade apresentam um baixo grau de pertinência no conjunto de indicadores.
Resultados adicionais do estudo são como segue: correlação virtualmente zero entre as
produtividades departamentais em ensino, pesquisa e extensão; correlação positiva, embora
fraca, entre produtividade em pesquisa e qualidade; fracos efeitos de escala em
produtividade em pesquisa (positivo), em ensino (negativo) e qualidade (positivo). Nunes
(1998) utiliza a DEA para construir uma fronteira de eficiência produtiva sobre os dados
referentes à produção científica e ao corpo docente dos departamentos de ensino da
Universidade Federal de Santa Catarina do período 1991 a 1994, para servir como
orientações fornecidas aos chefes dos departamentos para auxiliá-los na definição de metas
que lhes permitam reduzir a ineficiência observada.
25
DEA procura avaliar a eficiência das instituições brasileiras de ensino superior. Quaresma
(2000) aplica a DEA para mensurar a eficiência de 62 departamentos em 9 centros de uma
universidade federal no ano de 1996. Santos (2003) utiliza a DEA para avaliar a eficiência
produtiva de quatorze departamentos de ensino de uma universidade estadual sendo que ao
final foram apresentadas as metas a serem atingidas pelos departamentos ineficientes e
uma comparação entre os anos de 2001 e 2002 das eficiências atingidas pelos
departamentos de ensino. Silva (2001) utiliza a DEA para avaliar a eficiência dos
programas de pós-graduação em engenharia no Brasil no ano de 1998, de modo compatível
com os parâmetros de avaliação da CAPES. Souza (2004) propõe uma avaliação de
produtividade dos cursos de pós-graduação existentes no Brasil, através da DEA, com
vistas a ampliar as formas de avaliação atualmente em vigor.
Souza (2004)
26
deles onde haviam aplicado as metodologias DEA e COLS a dados simulados. Depois de
uma avaliação do comentário feito por Ruggiero (2003) os autores acordam que as
conclusões primárias do estudo original permanecem, pois se o conjunto de dados
administrativos usados nos programas de contabilidade da escola tem montantes
significantes de erros de medidas, e se os métodos usados para estimar a eficiência
requerem insumos exógenos, então medidas de eficiência estudantil podem ser
completamente enganosas.
Caballero et al. (2004) em seu artigo propõem uma metodologia para servir como
um mecanismo guia para a alocação e gerenciamento de recursos financeiros universitários
tendo como seu objetivo a eficiência. Especificamente um modelo auxiliar é fornecido para
tomada de decisão, o planejamento de política de staff dentro das garantias universitárias,
um igual tratamento de todas as unidades de ensino e pesquisa e uma maior transparência
na alocação de recursos financeiros, tanto quanto uma monitoração racional de alocações
executadas e seus efeitos nos níveis de eficiência da universidade. O modelo fornecido é
baseado no uso de duas técnica quantitativas: DEA e o múltiplo critério de tomadas de
decisões (MCDM) ambas as técnicas estão ligadas em um caminho que torna possível
transferir informações de um para o outro.
Glass et al. (2006) destacam que alvos políticos para o ensino superior no Reino
Unido encorajam as universidades publicamente a se tornarem mais especializadas e
maiores em tamanho sem comprometer a qualidade dos produtos e que por isso, ganhos em
eficiência são esperados para, a partir desse aumento na especialização, ter resultados de
acordo com a força comparativa de pesquisa e ensino das universidades. Uniões para obter
ganhos de economia de escala estão também sendo ativamente encorajados. Dado este
27
cenário, o artigo investiga se medidas de eficiência de melhores práticas baseadas em DEA
fornecem suporte empírico para os alvos políticos correntes. O artigo também avalia se tal
suporte é dependente de tipos específicos de medidas de eficiência usada na modelagem
DEA. A avaliação encontrou que uma seleção de nove medidas de eficiência variante
comumente usadas, geralmente dão suporte aos alvos políticos correntes. O artigo também
usa a principal estrutura para explorar as questões envolvidas no uso de escores de
eficiência computados pela DEA para avaliações de políticas e possível direcionamento de
fundos no ensino superior no Reino Unido.
Em outro artigo Johnes (2005) aplica a Análise envoltória de Dados (DEA) a 2547
graduados em economia das universidades do Reino Unido em 1993, em ordem, para
avaliar a eficiência de ensino. Na metodologia adotada cada eficiência individual é
decomposta em duas componentes: uma atribuível a universidade na qual o estudante
28
estudou, e a outra atribuível ao próprio estudante. A partir da componente padrão, uma
medida de eficiência de ensino de cada instituição é derivada e comparada aos escores de
eficiência derivados de uma aplicação convencional de DEA usando cada departamento de
Economia como uma unidade de tomada de decisão (DMU). Os resultados sugerem que as
eficiências derivadas da DEA realizadas em um nível agregado incluem ambas as
componentes, institucional e individual, e são, por essa razão, enganosas. Deste modo, a
unidade de análise em DEA é altamente importante. Além disso, uma análise em nível
individual pode dar vislumbramentos institucionais, quer sejam eles o esforço próprio dos
estudantes ou eficiência das instituições que são um limite no aumento de eficiência. Isto
tem implicações para a escolha da estratégia para melhorar a eficiência.
29
pesquisadas que envolviam a utilização da DEA de uma forma geral e particularmente com
aplicação em universidades.
Uma visão atualizada dos principais aspectos metodológicos além do escopo desta
Tese podem ser encontradas em Cooper, Seiford e Tone (2006), que também contém em
CD-ROM uma bibliografia abrangente de DEA.
Para esta pesquisa, como se verá a seguir, os pontos abordados neste capítulo são
os necessários.
30
Capítulo 3
Metodologia da Pesquisa
3.2 Dados
31
Tabela 3.1 Lista de DMU’s e dados CAPES (CAPES, 2004)
2001 2002 2003
DMU IES Programa Cursos Nota
Doc Tit Prod Doc Tit Prod Doc Tit Prod
1 IME Mecânica M 3 8 0,5 2,300 9 0,4 3,800 7 0,5 2,500
2 PUC/MG Mecânica M 4 12 0,8 0,360 10 0,8 3,800 11 1,3 3,500
3 PUC/PR Mecânica M 4 10 0,5 2,000 10 0,5 1,600 12 1,1 1,900
4 PUC/Rio Mecânica MD 6 22 1,2 13,000 20 2,7 12,800 23 3,1 11,300
5 UFES Mecânica M 3 12 0,4 2,100 12 0,7 0,960 9 0,6 3,050
6 UFF Mecânica M 4 11 1,2 3,000 14 1 7,800 17 2 8,500
7 UFMG Mecânica MD 4 25 1,9 4,500 25 2,5 6,800 25 3 9,400
8 UFPA Mecânica M 3 12 0,3 0,480 10 0,4 2,400 14 0,4 2,700
9 UFPB/JP Mecânica MD 4 18 1 3,400 23 3,8 6,000 22 3,2 3,800
10 UFPE Mecânica M 4 18 0,9 5,000 20 0,5 3,800 22 1,2 7,500
11 UFPR Mecânica M 4 15 0,001 7,700 19 0,4 8,200 22 1,3 8,000
12 UFRGS Mecânica MD 5 23 2,6 9,700 22 2,9 5,900 26 3,8 9,800
13 UFRJ Mecânica MD 6 26 3,1 8,600 23 2,7 21,400 24 3,4 17,600
14 UFRN Mecânica M 4 13 0,7 0,910 13 0,8 6,200 14 0,7 17,700
15 UFSC Mecânica MDF 6 40 6,5 10,400 41 5,8 9,400 51 8,2 25,300
16 UFU Mecânica MD 5 25 2,3 6,500 28 2,2 8,400 29 3,3 13,300
17 UNB Mecânica M 4 12 0,4 6,000 19 0,6 8,700 14 0,5 5,000
18 UNESP/G Mecânica MD 4 26 1,1 6,500 23 2,3 15,900 29 2,5 19,100
19 UNESP/IS Mecânica M 3 13 1,1 0,001 15 0,8 0,750 16 1 5,300
20 UNICAMP Mecânica MDF 6 52 11,5 24,400 51 8,3 28,600 58 11,7 49,300
21 UNIFEI Mecânica MD 4 12 0,9 0,720 12 1,1 0,001 12 1 4,300
22 USP/SC Mecânica MD 5 29 3,1 7,000 32 5,1 14,700 33 6,4 13,500
23 USP/SP Mecânica MD 5 27 3 7,300 40 5,5 7,600 34 3,2 8,500
24 PUC/Rio Produção MDF 4 10 2,3 4,500 11 3,2 0,880 12 2,3 1,200
25 UFF Produção M 4 24 1,8 0,480 24 3,2 7,200 22 4,1 4,700
26 UFMG Produção M 4 10 0,4 0,001 9 1,1 0,001 11 1,1 0,530
27 UFPB/JP Produção M 3 6 1,5 1,700 11 1,9 0,001 17 0,7 0,570
28 UFPE Produção MDF 5 13 1,3 1,200 15 1,6 2,000 15 2,2 0,880
29 UFRGS Produção MD 5 13 0,6 4,900 12 1,1 3,400 13 2,9 4,600
30 UFRJ Produção MD 5 28 15 8,100 30 15,4 12,300 33 13,4 24,800
31 UFRN Produção M 3 7 0,9 0,001 11 1,3 0,001 14 1,6 0,001
32 UFSCAR Produção MD 4 27 1,9 7,100 28 2,4 7,300 29 3,9 9,800
33 UFSM Produção M 3 24 4,1 0,001 24 4,3 2,400 25 6,8 1,000
34 UNIFEI Produção M 3 18 2,3 0,001 9 1,2 0,001 9 2,2 2,500
35 UNIMEP Produção MD 4 13 1,6 2,700 14 1,4 2,700 19 2,2 5,600
36 UNIP Produção M 3 12 1,3 3,000 14 1,4 1,800 15 1,5 2,600
37 USP/SC Produção MD 4 14 1,5 1,700 12 1,6 1,600 17 2,7 2,100
38 USP/SP Produção MD 5 26 3,4 5,200 28 5 2,200 28 4,5 10,300
Legenda:
M – Mestrado, D – Doutorado, F – Mestrado Profissional
Doc – Total de Docentes do NRD6 (Docente com 40h de contrato com a IES e participação no Pograma de Pós-Graduação em mais de
30% do seu tempo de trabalho ao longo dos 12 meses do ano)
Tit – Soma dos Mestres e Doutores Titulados no ano
Prod – Pontuação da produção científica pontuada = 1,0 x Int. A + 0,75 x Int. B + 0,5 Nac. A, Int. e Nac. referem-se a periódicos
Internacionais e Nacionais, respectivamente, e A e B são classificação do periódico conforme tabela QUALIS da CAPES para a área
Notas:
1. Não foram incluídos programas que não eram apenas Engenharia de Produção ou Engenharia Mecânica
2. Foram atribuídos valores 0,001 para casos de valores nulos, para fins de computação.
3. Não foram incluídos os Programas novos e com menos de três anos de avaliação.
32
Observa-se que a CAPES avalia sete quesitos, sendo que ela mesma cita como
especiais os quesitos de produção científica e teses e dissertações (egressos). Entende-se,
portanto, que os quesitos utilizados para este estudo são os insumos e produtos mais
relevantes.
Considerando esses quesitos como as únicas variáveis de observação, busca-se
uma simplificação na avaliação quantitativa, que uma vez sendo confirmada representará
uma economia de tempo e recursos que poderão ser canalizados para a avaliação
qualitativa ou qualquer outra que se julgar necessária e conveniente.
Os dados foram coletados junto à Coordenação de Aperfeiçoamento de Pessoal de
Nível Superior (CAPES), através do relatório referente à avaliação tri-anual da Área das
Engenharias III (2001-2003). Devido a questões de sensibilidades da DEA os dados
referentes à titulação são divididos por 10 para que se tornem semelhantes, em magnitude,
aos demais dados de produto (outputs).
O modelo utilizado para análise é o CCR orientado a produto (output) tal como
apresentado no PLOo (7) no Capítulo 2 mas que será estudado na formulação orientada a
insumo tal como apresentado no PLOo (8) para análise similar do escore de eficiência:
(PLOo) min θ (12)
θ ,λ
sujeito a θxo − Xλ ≥ 0
y o − Yλ ≤ 0
λ ≥ 0.
33
Para ilustrar a aplicação, tomando-se a DMU24 (Tabela 3.1) e analisando apenas a
Engenharia de Produção no ano 2001, o modelo para análise da mesma é dado por
min θ (13)
θ ,λ
sujeito a
θ.10 – 10λ24 – 24λ25 – 10λ26 – 6λ27 – 13λ28 – 13λ29 – 28λ30 – 7λ31 – 27λ32 – 24λ33 – 18λ34
– 13λ35 – 12λ36 – 14λ37 – 26λ38 ≥ 0
2,3 – 2,3λ24 – 1,8λ25 – 4λ26 – 1,5λ27 – 1,3λ28 – 6λ29 – 15λ30 – 9λ31 – 1,9λ32 – 4,1λ33 –
2,3λ34 – 1,6λ35 – 1,3λ36– 1,5λ37 – 3,4λ38 ≤ 0
4,5 – 4,5λ24 –0,48λ25 – 0,001λ26 – 1,7λ27 – 1,2λ28 – 4,9λ29 – 8,1λ30 – 0,001λ31 – 7,3λ32 –
0,001λ33 – 0,001λ34 – 2,7λ35 – 3λ36– 1,7λ37 – 5,2λ38 ≤ 0
λ≥0
O resultado para esta análise é
θ∗ = 1
λ∗24 = 1, todos os outros λ∗j = 0, j = 24,..., 38.
34
Para dirimir qualquer dúvida serão utilizados, a princípio, os dois métodos, CCR e
AR-O-C, e então após a verificação se seguirá com aquele mais adequado a este estudo.
Como critério para indicar os possíveis fora de série, consideram-se aqueles que
foram em pelo menos dois anos referência para seus conjuntos e que seriam candidatas a
notas 6 ou 7 na metodologia CAPES.
35
Capítulo 4
Resultados e Discussão
O anexo 4 apresenta os escores e pesos CCR-O para os anos 2002 e 2003, nos
quais se repete este mesmo padrão.
36
Tabela 4.1 Escores e Pesos, Análise CCR –O, 2001 em conjunto
DMU Escore v(1) Doc u(1) Tit u(2) Prod
1 0,523 0,239188 0,23986 0,382639
2 0,124 0,669643 1,25 0
3 0,370 0,270206 0,270964 0,432259
4 1,000 4,55E-02 4,56E-02 7,27E-02
5 0,313 0,265917 0,266663 0,425398
6 0,546 0,166595 0,167062 0,266508
7 0,364 0,10984 0,110148 0,175715
8 0,089 0,935701 0,938327 1,496879
9 0,358 0,155233 0,155669 0,248333
10 0,495 0,112344 0,112659 0,179721
11 0,869 0,076741 0 0,12987
12 0,788 5,52E-02 5,53E-02 8,83E-02
13 0,649 5,93E-02 5,95E-02 0,094847
14 0,166 0,46345 0,464751 0,7414
15 0,579 4,32E-02 4,33E-02 6,91E-02
16 0,508 7,87E-02 7,89E-02 0,125917
17 0,846 0,09850 0 0,166667
18 0,442 0,086946 0,08719 0,139091
19 0,158 0,487013 0,909091 0
20 0,972 1,98E-02 1,98E-02 3,16E-02
21 0,171 0,486774 0,488141 0,778713
22 0,493 0,069896 7,01E-02 0,111816
23 0,544 6,81E-02 6,83E-02 0,108926
24 0,951 0,105205 0,1055 0,1683
25 0,140 0,297619 0,555556 0
26 0,075 1,339286 2,5 0
27 0,704 0,236755 0,23742 0,378747
28 0,248 0,310237 0,311108 0,4963
29 0,649 0,118478 0,11881 0,189533
30 1,000 3,57E-02 6,67E-02 0
31 0,240 0,595238 1,111111 0
32 0,491 7,54E-02 7,56E-02 0,120612
33 0,319 0,130662 0,243902 0
34 0,239 0,232919 0,434783 0
35 0,456 0,168811 0,169285 0,270054
36 0,509 0,163857 0,164317 0,262129
37 0,302 0,236755 0,23742 0,378747
38 0,451 8,53E-02 0,085504 0,136401
Legenda: DMU – Decision Making Unit; v(1) – peso do insumo (1); u(1), u(2) – peso do produtos (1) e (2)
Para evitar os pesos com valor zero utiliza-se a análise com o modelo Região de
Garantia, orientado a produtos com retornos constantes de escala, AR-O-C.
Porém para a utilização desse método é necessário impor limites aos pesos para
que se possa assegurar que a variação dos mesmos ficará restrita à esta região de garantia.
37
Neste estudo adota-se inicialmente como peso mínimo o peso dado ao critério na
avaliação CAPES, ou seja, no mínimo o critério terá seu desempenho ponderado com o
peso atribuído na avaliação, para titulação, 0,3 × 0,2 = 0,06, e para produção científica,
0,3 × 0,3 = 0,09. Estes valores foram usados por serem aqueles definidos na avaliação
CAPES, todavia outros limites poderiam ser estabelecidos ou utilizados para testes de
sensibilidade. A Tabela 4.2 ilustra o resultado no mesmo escopo da Tabela 4.1, agora com
os respectivos pesos sem valor zero.
38
4.2 Análise AR-O-C, Ano a Ano
A partir deste momento são demonstrados os dados gerados da avaliação feita ano a
ano dos cursos de Engenharia Mecânica, Engenharia de Produção e ambos os cursos em
conjunto.
Os dois principais dados extraídos dentre outros são: as DMU’s eficientes a cada
ano e o desempenho de cada DMU ano a ano.
4.2.1 Engenharia Mecânica e Produção em Conjunto
39
Tabela 4.3 Escores e Referências, Ano a Ano, em conjunto
2001 2002 2003
DMU
Escore Posição Referência Escore Posição Referência Escore Posição Referência
1 0,523 14 4; 30 0,453 12 13 0,344 24 14; 30
2 0,123 36 30 0,447 13 13; 30 0,365 20 14; 30
3 0,370 23 4; 30 0,208 34 13; 30 0,223 35 30
4 1,000 1 4 0,754 4 13; 30 0,513 11 14; 30
5 0,313 26 4; 30 0,144 37 13; 30 0,325 27 14; 30
6 0,546 12 4; 30 0,600 7 13; 30 0,501 12 14; 30
7 0,364 24 4; 30 0,372 19 13; 30 0,411 18 14; 30
8 0,089 37 4; 30 0,270 28 13; 30 0,175 37 14; 30
9 0,358 25 4; 30 0,441 14 13; 30 0,338 25 30
10 0,495 17 4; 30 0,205 35 13; 30 0,314 30 14; 30
11 0,864 5 4 0,462 11 13 0,336 26 14; 30
12 0,788 7 4; 30 0,407 16 13; 30 0,440 15 14; 30
13 0,649 10 4; 30 1,000 1 13 0,701 4 14; 30
14 0,166 33 4; 30 0,514 9 13; 30 1,000 1 14
15 0,579 11 4; 30 0,383 17 13; 30 0,545 8 14; 30
16 0,508 16 4; 30 0,372 20 13; 30 0,466 13 14; 30
17 0,845 6 4 0,490 10 13 0,306 31 14; 30
18 0,442 22 4; 30 0,758 3 13; 30 0,586 5 14; 30
19 0,150 34 30 0,111 38 13; 30 0,315 29 14; 30
20 0,972 3 4; 30 0,714 5 13; 30 0,853 3 14; 30
21 0,171 32 4; 30 0,166 36 30 0,358 21 14; 30
22 0,493 18 4; 30 0,617 6 13; 30 0,515 10 14; 30
23 0,544 13 4; 30 0,342 22 13; 30 0,289 32 14; 30
24 0,951 4 4; 30 0,540 8 30 0,420 17 30
25 0,136 35 30 0,438 15 13; 30 0,432 16 30
26 0,071 38 30 0,221 32 30 0,218 36 30
27 0,704 8 4; 30 0,312 25 30 0,093 38 30
28 0,248 29 4; 30 0,252 29 13; 30 0,317 28 30
29 0,649 9 4; 30 0,372 18 13; 30 0,537 9 30
30 1,000 1 30 1,000 1 30 1,000 1 30
31 0,228 30 30 0,213 33 30 0,238 34 30
32 0,491 19 4; 30 0,344 21 13; 30 0,398 19 14; 30
33 0,303 27 30 0,341 23 30 0,574 6 30
34 0,226 31 30 0,241 30 30 0,566 7 30
35 0,456 20 4; 30 0,299 26 13; 30 0,345 23 14; 30
36 0,509 15 4; 30 0,240 31 13; 30 0,244 33 30
37 0,302 28 4; 30 0,284 27 13; 30 0,356 22 30
38 0,451 21 4; 30 0,336 24 30 0,448 14 14; 30
40
4.2.2 Engenharia Mecânica
A Tabela 4.4 apresenta a análise tomando apenas os programas de Engenharia
Mecânica em separado. Observa-se que duas DMU’s foram referências para as demais a
cada ano, DMU’s 4 e 20 em 2001, DMU’s 13 e 20 em 2002 e DMU’s 14 e 20 em 2003.
O que se observa aqui é que DMU’s que eram ineficientes na análise em conjunto
tornaram-se eficiente na análise apenas contra programas da mesma área.
41
1,000
0,800
0,600
Escore
0,400
0,200
0,000
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23
42
Tabela 4.5 Escores, Ano a Ano, Engenharia de Produção
Eng Produção
DMU 2001 2002 2003
Escore Referência Escore Referência Escore Referência
24 1,000 24 0,540 30 0,420 30
25 0,136 30 0,697 30 0,432 30
26 0,071 30 0,221 30 0,218 30
27 0,726 24; 30 0,312 30 0,093 30
28 0,254 24; 30 0,317 30 0,317 30
29 0,817 24 0,653 30 0,537 30
30 1,000 30 1,000 30 1,000 30
31 0,228 30 0,213 30 0,238 30
32 0,576 24 0,601 30 0,446 30
33 0,303 30 0,341 30 0,574 30
34 0,226 30 0,241 30 0,566 30
35 0,477 24; 30 0,450 30 0,389 30
36 0,553 24 0,305 30 0,244 30
37 0,311 24; 30 0,320 30 0,356 30
38 0,471 24; 30 0,336 30 0,486 30
1,000
0,800
Escore
0,600
0,400
0,200
0,000
24 25 26 27 28 29 30 31 32 33 34 35 36 37 38
43
4.2.4 Síntese Comparativa
As tabelas 4.6, 4.7 e 4.8 apresentam os resultados das duas análises. Estes
resultados apontam para três observações.
A terceira é que algumas DMU’s não alteraram seus escores quando lançadas em
conjunto, ao passo que outras alteraram. Esta observação demonstra que aquelas DMU’s
que não variaram, considerando as aproximações, mantiveram a mesma referencia do seu
curso quando avaliadas em separado, no caso a referência que permaneceu quando
passaram a ser avaliadas em conjunto. Já aquelas que variaram, mudaram a referência ou
estão sendo influenciadas também pela outra DMU que é referência quando avaliadas em
conjunto.
44
Tabela 4.6 Síntese Comparativa, 2001
Síntese Comparativa - 2001
DMU
Mecânica Produção Em Conjunto
1 0,528 0,523
2 0,260 0,123
3 0,375 0,370
4 1,000 1,000
5 0,316 0,313
6 0,559 0,546
7 0,373 0,364
8 0,108 0,089
9 0,364 0,358
10 0,498 0,495
11 0,864 0,864
12 0,800 0,788
13 0,662 0,649
14 0,227 0,166
15 0,703 0,579
16 0,519 0,508
17 0,845 0,845
18 0,445 0,442
19 0,316 0,150
20 1,000 0,972
21 0,302 0,171
22 0,506 0,493
23 0,557 0,544
24 1,000 0,951
25 0,136 0,136
26 0,071 0,071
27 0,726 0,704
28 0,254 0,248
29 0,817 0,649
30 1,000 1,000
31 0,228 0,228
32 0,576 0,491
33 0,303 0,303
34 0,226 0,226
35 0,477 0,456
36 0,553 0,509
37 0,311 0,302
38 0,471 0,451
45
Tabela 4.7 Síntese Comparativa, 2002
Síntese Comparativa - 2002
DMU
Mecânica Produção Em Conjunto
1 0,453 0,453
2 0,547 0,447
3 0,302 0,208
4 0,922 0,754
5 0,304 0,144
6 0,604 0,600
7 0,582 0,372
8 0,300 0,270
9 0,875 0,441
10 0,209 0,205
11 0,462 0,462
12 0,726 0,407
13 1,000 1,000
14 0,518 0,514
15 0,752 0,383
16 0,498 0,372
17 0,490 0,490
18 0,798 0,758
19 0,267 0,111
20 1,000 0,714
21 0,420 0,166
22 0,939 0,617
23 0,716 0,342
24 0,540 0,540
25 0,697 0,438
26 0,221 0,221
27 0,312 0,312
28 0,317 0,252
29 0,653 0,372
30 1,000 1,000
31 0,213 0,213
32 0,601 0,344
33 0,341 0,341
34 0,241 0,241
35 0,450 0,299
36 0,305 0,240
37 0,320 0,284
38 0,336 0,336
46
Tabela 4.8 Síntese Comparativa, 2003
Síntese Comparativa - 2003
DMU
Mecânica Produção Em Conjunto
1 0,394 0,344
2 0,524 0,365
3 0,376 0,223
4 0,642 0,513
5 0,372 0,325
6 0,586 0,501
7 0,550 0,411
8 0,193 0,175
9 0,569 0,338
10 0,350 0,314
11 0,375 0,336
12 0,642 0,440
13 0,800 0,701
14 1,000 1,000
15 0,734 0,545
16 0,557 0,466
17 0,325 0,306
18 0,638 0,586
19 0,358 0,315
20 1,000 0,853
21 0,418 0,358
22 0,820 0,515
23 0,416 0,289
24 0,420 0,420
25 0,432 0,432
26 0,218 0,218
27 0,093 0,093
28 0,317 0,317
29 0,537 0,537
30 1,000 1,000
31 0,238 0,238
32 0,446 0,398
33 0,574 0,574
34 0,566 0,566
35 0,389 0,345
36 0,244 0,244
37 0,356 0,356
38 0,486 0,448
47
4.3 Análise em Janela
Essa análise demonstrou também que a DMU 20 teve uma queda de desempenho
no ano de 2002 em relação a ela mesma, pois como já foi visto, quando considerada na
avaliação ano a ano em separado, ela é referência, mas na avaliação em janela, onde ela é
comparada consigo mesma, não alcança o escore máximo em um dos anos. Isso mostra a
importância da analise em janela, pois ela mostra a variação no desempenho das DMU’s
mesmo que tenha sido sempre referência do conjunto.
48
Tabela 4.9 Análise de Janela, Engenharia Mecânica
49
4.3.2 Engenharia de Produção
Assim como aconteceu com a engenharia mecânica, no geral as DMU’s na
Engenharia de Produção tiveram um comportamento instável (Tabela 4.10), à exceção da
DMU30.
No conjunto de DMU’s referência a DMU 24 destaca-se pela grande quebra nos
valores do escore, já a DMU 30 por manter o escore máximo em todos os anos, o que
indica um comportamento de um fora de série (outlier), o que será tratado em outro tópico.
50
4.4 Retirando as DMU’s Outstanding
Uma análise proposta para este estudo está baseada na possibilidade de DMU’s
outstanding obscurecerem um desempenho relativo mais equilibrado entre as demais
DMU’s que compõem o seu conjunto, pois essas outstanding, elevariam o nível do
desempenho para as DMU’s eficientes. Como conseqüência haveria um quadro com
poucas DMU’s referência. Isto sugeriria que tais DMU’s outstanding estejam em uma
condição avaliada superior em relação às demais, também no que diz respeito à avaliação
CAPES. Na metodologia da CAPES, estas DMUs poderiam ser aquelas candidatas às notas
6 e 7.
51
Tabela 4.12 Análise sem as Outstanding, Eng. Mecânica
Eng Mecânica
DMU 2001 2002 2003
Escore Referência Escore Referência Escore Referência
1 0,625 4; 12 0,453 13 0,496 13; 22
2 0,370 15 0,561 13 0,652 13; 22
3 0,460 4; 12 0,314 13 0,458 22
4 1,000 4 0,947 13 0,823 13; 22
5 0,363 4; 12 0,316 13 0,467 13; 22
6 0,795 12; 15 0,604 13 0,763 13; 22
7 0,541 12; 15 0,606 13 0,695 13; 22
8 0,154 15 0,304 13 0,231 13; 14
9 0,468 12; 15 0,912 13 0,693 22
10 0,564 4; 12 0,209 13 0,423 13; 14
11 0,864 4 0,462 13 0,454 13; 14
12 1,000 12 0,756 13 0,796 13; 22
13 0,911 12; 15 1,000 13 1,000 13
14 0,323 15 0,519 13 1,000 14
15 1,000 15 0,784 13 0,926 13; 22
16 0,709 12; 15 0,517 13 0,722 13; 22
17 0,845 4 0,490 13 0,363 13; 14
18 0,497 4; 12 0,804 13 0,745 13; 14
19 0,450 15 0,278 13 0,446 13; 14
21 0,430 15 0,438 13 0,543 13; 22
22 0,747 12; 15 0,978 13 1,000 22
23 0,801 12; 15 0,746 13 0,517 13; 22
1,000
0,800
0,600
Escore
0,400
0,200
0,000
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 21 22 23
52
4.4.2 Avaliação Engenharia de Produção sem as Outstanding
Observando a tabela 4.13 se percebe que, com a ausência da DMU 30, houve
aumento e diversificação das DMU’s referência, e todos os escores se elevaram
consideravelmente e alguns de forma extrema como o da DMU 38, que em 2003 atingiu
um valor maior que o dobro do seu escore anterior (0,486), atingindo o escore máximo.
1,000
0,800
0,600
Escore
0,400
0,200
0,000
24 25 26 27 28 29 31 32 33 34 35 36 37 38
53
4.5 Análise comparada com a avaliação CAPES
Das quatro DMU’s com nota 6, três foram pelo menos em um ano referência para
as demais. Uma das que não atingiram o escore máximo em nenhum ano, foi a DMU 15
cujo escore variou entre 0,703 e 0,752. A exceção se manifestou com o desempenho da
DMU 20 que obteve escore máximo em todos os anos, o que foi compatível com sua nota
6.
54
associação positiva forte, com r = 0,85654417. Embora através de algumas alterações nas
notas esse índice de correlação r pudesse ser ainda maior, o mesmo se mostra satisfatório.
4.5.2 Engenharia de Produção
De acordo com a tabela 4.15 se observa uma grande diferença entre a avaliação da
CAPES e a gerada pela DEA, pois dentre os cursos que obtiveram nota 5, dois obtiveram
escore superior a 0,700, sendo que um desses obtive tal escore em apenas um dos três anos.
Mas, discrepantes foram as diferenças relativas à DMU 28, que não obteve se quer um dos
escores superior a 0,400, e à DMU 38 que não obteve escore superior a 0,500 e ainda assim
foram consideradas nota 5.
E o grande destaque foi a DMU 30 que sempre foi referência em todos os anos,
quando considerada em separado, como quando considerada em conjunto e ainda assim
obter apenas nota 5, sendo que foi referência em todos os anos para todas as DMU’s nota
6, com exceção da DMU 4 em 2001 e a DMU 13 em 2002 conforme a Tabela 4.3.
55
associação positiva forte. E se ainda alterasse a DMU 30 nota 5 para 6, atingiria o r =
0,847693106.
56
Capítulo 5
Conclusões e Recomendações
Este capítulo está estruturado em seis tópicos: síntese dos principais resultados,
análise crítica quanto aos resultados, limitações do trabalho, direções da pesquisa,
recomendações e conclusões finais.
57
Em termos de comparação com o método da CAPES, os resultados apontam
importantes inconsistências, com programas bem avaliados com escores baixos e vice-
versa. Mostrou em alguns casos consistência no caso da Engenharia Mecânica, onde um
Programa com nota 6 é destacadamente um Outstanding em seu conjunto, mas o inverso
ocorreu na Engenharia de Produção, onde um Outstanding teve nota 5 pelo método da
CAPES.
Aplicar a mesma pesquisa dentro das áreas definidas pela CAPES afim de
identificar as categorias existentes.
5.5 Recomendações
58
avaliação de desempenho acadêmico de instituições de ensino. Ressaltando a preocupação
com todas as observações feitas durante este estudo, tais como: as escolhas das variáveis,
método, orientação, restrições de pesos, sensibilidade dos métodos, entre outras.
As escolhas supra citadas são fundamentais, porém não são definitivas, pois os
interesses dos proprietário, gestores e tomadores de decisão são diferentes, e devem ser
levados em consideração no momento da definição das variáveis e do direcionamento da
pesquisa.
5.6 Conclusões
Seus resultados mostram que a metodologia utilizada se adequou bem ao que foi
proposto, resultados esses que demonstraram a existência de DMU’s Outstanding dentro
dos conjuntos observados, o que deveria ser indicativo para um conceito (nota) elevado e
servir de parâmetro para a avaliação das demais DMU’s.
Endente-se que, com vistas aos resultados obtidos, a metodologia DEA para a
avaliação de eficiência de instituições de ensino superior é consistente e eficaz, e pode
contribuir para a evolução da avaliação das IES e no caso deste estudo, na avaliação dos
programas de pós-graduação, de forma objetiva, deixando que os dados falem por si
mesmos relativamente dentro de seus conjuntos.
59
Referências
ALBANI NETO, Luiz. Uma aplicação de DEA nos programas de mestrado em engenharia
civil nas instituições de ensino superior no Brasil. 2000, 110p. Dissertação de Mestrado
em Engenharia de Produção, Universidade Federal de Santa Catarina.
AMARAL, Odete dos Santos. Avaliação da eficiência produtiva das Unidades Acadêmicas
da Universidade do Amazonas nos anos de 1994 e 1995 empregando Analise Envoltória de
Dados. 1999, 93p. Dissertação de Mestrado em Engenharia de Produção, Universidade
Federal de Santa Catarina.
CABALLERO, Rafael et al. Budgetary allocations and efficiency in the human resources
policy of a university following multiple criteria. Economics of Education Review, nº 23,
p.67-74, 2004.
60
CHARNES, Abraham, COOPER, William, LEWIN, Arie Y., SEIFORD, Lawrence M.
Data Envelopment Analysis: Theory, Methodology, and Application. Boston/ Dordrecht/
London: Kluwer Academic Publishers, 1994.
COOPER, William W.; SEIFORD, Lawrence M.; TONE, Kaoru. Introduction to Data
Envelopment Analysis and its uses – with DEA-Solver software and references. Springer,
2006.
GIL, Antonio Carlos. Como elaborar Projetos de Pesquisa. 4. ed. São Paulo: Atlas, 2002.
GLASS, J. Colin et al. Implications of variant efficiency measures for policy evaluations in
UK higher education. Socio-Economic Planning Sciences, nº40, p. 119-142, 2006.
61
GUEDES, Luís Eduardo Madeiro. Uma análise na eficiência na formação de alunos dos
cursos de Engenharia Civil das instituições de ensino superior brasileiras. 2002, 161p.
Dissertação de Mestrado em Engenharia de Produção, Universidade Federal do Rio de
Janeiro.
JOHNES, Jill. Data envelopment analysis and its application to the measurement of
efficiency in higher education. Economics of Education Review, 2005.
LINS, Marcos P.E.; ALMEIDA, Bernardo F.; BARTHOLO JÚNIOR, Roberto (2004)
Avaliação de desempenho na pós-graduação utilizando a Análise Envoltória de Dados: o
caso da Engenharia de Produção, Revista Brasileira de Pós-Graduação, N. 1, julho 2004,
41-56.
62
relevantes no emprego da Análise Envoltória de Dados para avaliação da eficiência técnica
de instituições de ensino superior. 1999, 85p. Dissertação de Mestrado em Engenharia de
Produção, Universidade Federal de Santa Catarina.
ROLL, Y.; COOK, W.D.; GOLANY, B. (1991), Controlling Factor Weights in Data
Envelopment Analysis, IIE Transactions 23, pp. 2-9.
SOTERIOU, Andréas C. Using DEA to evaluate the efficiency of secondary schools: the
case of Cyprus. International Journal of Educational Management, nº X, p. 65-73, 1998.
SOUZA, Sérgio Henrique Lopes de. Análise Envoltória de Dados e cálculos probabilístico
de produtividades globais na avaliação de cursos. 2004. Dissertação de Mestrado em
Engenharia de Produção, Universidade Federal Fluminense.
THOMPSON, R.G.; SINGLETON, F.D.; THRALL JUNIOR, R.M.; SMITH, B.A. (1986),
Comparative Site Evaluations for Locating a High-Energy Physics Lab in Texas, Interfaces
16, pp. 35-49.
63
Anexos
64
Anexo 1 – Metodologia da Avaliação CAPES
Fonte: Transcrito integralmente de CAPES (2004), pp. 7-8
65
mesmas equipes e, portanto, a partir de um mesmo critério. Ao final desta etapa, a
avaliação de cada quesito foi anotada em uma única Ficha de Avaliação para cada um dos
Programas. A seguir estas equipes de quesitos foram desfeitas e foram formadas novas
equipes de duplas para análise dos Programas. Cada equipe de Programa ficou responsável
pela análise de oito ou nove Programas. Estas equipes analisaram as propostas dos
Programas e os demais quesitos previamente avaliados pelas equipes que cuidaram de cada
quesito. Assim, cada Programa foi avaliado por dois consultores. Estas apreciações
individuais foram confrontadas e redigiu-se conjuntamente uma apreciação final para o
Programa com os resultados colocados na Ficha de Avaliação. Particular atenção foi
dedicada à síntese evolutiva feita através da comparação com os relatórios das avaliações
continuadas realizada em 2002 e 2003, bem como considerando os Relatórios de Visita.
Em um segundo momento, as equipes que analisaram cada Programa relataram aos demais
membros da Comissão de Avaliação suas apreciações que foram amplamente discutidas e,
de forma consensual, os pareceres finais foram finalmente consolidados e emitidos.
66
Anexo 2 – Critérios da Avaliação CAPES
Fonte: Transcrito integralmente de CAPES (2004), pp. 8-20
Itens Pesos
Este é um quesito cuja avaliação é puramente qualitativa. Além dos itens listados
anteriormente para o quesito, na análise da proposta do Programa foram anotadas as
principais informações fornecidas pelo Coordenador tais como convênios internacionais,
eventos organizados pelo Programa, principais projetos aprovados, itens de infra-estrutura,
bolsistas de Produtividade em Pesquisa do CNPq, etc.
67
II – Corpo Docente (Peso 10%)
Itens Pesos
5 Qualificação do NRD6. 10
Item 1:
Item 2:
Item 4:
68
Índice = (A+B+C)/D x 100
Item 5:
Quesito II MB B R F D
Este quesito foi avaliado considerando-se a distribuição dos docentes entre as áreas
de concentração, suas formações básicas, tempo de titulação, distribuição da carga letiva
na graduação e pós-graduação, orientação acadêmica e participação em projetos.
69
A análise quantitativa do presente quesito foi feita utilizando-se como base o
Núcleo de Referência Docente 6 (NRD6) mas os Programas foram alertados que nem
sempre o NRD6 representava o real Núcleo Permanente de docentes do Programa.
Itens Pesos
Item 3:
Índice = A/B
Item 4:
70
Índice = A/B x 100
Quesito III MB B R F D
71
IV - Atividades de Formação (Peso 10%)
Itens Pesos
Observação – A redação dos ítens 3 e 4 foi alterada em relação ao que é proposto pela
CAPES. A redação mostrada anteriormente é a que foi adotada no processo de avaliação.
Nas fichas de avaliação preenchidas foi incluída uma errata indicando a alteração.
Quesito IV MB B R F D
120-150 150-180
120-150 150-180
72
Ao longo do triênio foi observada uma série de dificuldades no fornecimento de
dados requeridos para análise deste quesito. As coordenações dos Programas muitas vezes
não forneceram as ementas dos cursos ministrados, as bibliografias recomendadas, e tão
pouco a designação do professor para cada disciplina. Este fato foi mais acentuado na
avaliação referente a 2001.
A maioria dos Programas possui uma carga letiva média na graduação acima
daquela preconizada pelos critérios adotados nas Engenharias III. Isto necessariamente
não pode ser considerado danoso aos Programas, pois nem sempre prejudica os demais
indicadores de produtividade. Um outro aspecto a ressaltar é a participação docente em
atividades de orientação na graduação, que de uma maneira geral tem ficado um pouco
aquém do desejado.
Itens Pesos
Observação – A redação dos itens 2 e 3 foi alterada em relação ao que é proposto pela
CAPES. A redação mostrada anteriormente é a que foi adotada no processo de avaliação.
Item 1:
Índice = (A+B)/C
73
Item 2:
Item 3:
Item 4:
Quesito V MB B R F D
74
associado ao grau de titulação no corpo discente. O item 4 é também importante como
resultado de desempenho, mostrando a qualidade do corpo discente.
Itens Pesos
Observação – A redação do item 4 foi alterada em relação ao que é proposto pela CAPES.
A redação mostrada anteriormente é a que foi adotada no processo de avaliação. Nas
fichas de avaliação preenchidas foi incluída uma errata indicando a alteração.
Item 1:
Item 2:
Índice = {[(A/24)xE][(2+B)/3]+[(C/48)xF][(4+D)/5]}/(E+F)
75
Item 3:
Índice = (A+2B)/C
Item 4:
Índice = (A+B)/C
Quesito VI MB B R F D
(3) 1,5-4 1-1,5 ou 4–6 0,7-1,0 ou 6–8 0,4-0,7ou 8-10 <0,4 ou >10
(5) - - - - -
Itens Pesos
5 Produção técnica 20
76
Observação – A redação do item 4 foi alterada em relação ao que é proposto pela CAPES.
A redação mostrada anteriormente é a que foi adotada no processo de avaliação. Nas
fichas de avaliação preenchidas foi incluída uma errata indicando a alteração.
Item 2:
Índice = A/B
Item 3:
Índice = A/B
Item 4:
77
Item 5:
Índice = A/B
Quesito VII MB B R F D
>95%
78
Considerando-se a produção científica global da área, que inclui artigos completos
em anais de congressos, capítulos de livros, e artigos em periódicos de circulação mais
restrita, os índices melhoraram. Isto indica que, em linhas gerais, os docentes e
pesquisadores das Engenharias III ainda não estão convertendo seus artigos de
conferências em publicações de maior impacto. De uma maneira geral, observa-se que os
índices de produção técnica dos Programas melhoraram em relação aos do triênio anterior.
Entretanto, também se observa que diversos Programas não dão a devida atenção ao
preenchimento dos dados relativos a este item da avaliação.
Vale observar finalmente que o item 1 deste quesito, que mede vínculo das
publicações com as Áreas e Linhas de Pesquisa, tornou-se pouco significativo, já que um
grande número de Programas obtive o conceito “muito bom” para todo o triênio. Sugere-
se, portanto, que a importância deste item seja minimizada em avaliações futuras.
Produção Intelectual
• Publicação e produção artística de circulação internacional;
• Distribuição da produção intelectual/científica de forma equilibrada entre os
docentes;
• Publicação qualificada de livros e capítulos de livros;
• Evidência de impacto da produção como número de citações, impacto regional,
impacto em políticas públicas e outros indicadores específicos de cada Área;
Participações Internacionais
• Participação qualificada em eventos científicos internacionais;
• Colaborações internacionais importantes tais como consultoria internacional
docente e editoria de periódicos qualificados de circulação internacional;
• Participação como convidado em eventos internacionais;
• Participação em comitês e diretorias de associações, sociedades científicas e
programas internacionais;
79
• Participação em intercâmbios e convênios de cooperação internacional;
• Captação de recursos nacionais e internacionais em situação de competitividade em
projetos de pesquisa (PRONEX, Instituto do Milênio, National Science Foundation,
etc.);
Indicadores Discentes
• Participação de alunos estrangeiros no Programa;
• Inserção destacada dos egressos do Programa;
Indicadores Diversos
• Número expressivo de pesquisadores CNPq-I no Programa;
• Premiações nacionais e internacionais qualificadas;
• Realização de eventos internacionais;
80
Anexo 3 – Indicadores do Apêndice C do Relatório CAPES
(2004)
APÊNDICE C
ENGENHARIAS III
Tit/NRD6 – Número de alunos titulados (M+2D), tendo o mestrado como base, por
docente do NRD6 (NRD6 corr);
NRD6 corr - Número de docentes NRD6 corrigido pelo critério adotado pela Área para o
Programa;
Total tituld - Total de alunos titulados, tendo o mestrado como base (M+2D);
81
Ano de 2001
Programa Tit/NRD6 Indx/NRD6 NRD6 decl NRD6 corr Total tituld Total indx
82
Ano de 2001
Programa Tit/NRD6 Indx/NRD6 NRD6 decl NRD6 corr Total tituld Total indx
Podução UFAM 0 0 0
83
Ano de 2002
Programa Tit/NRD6 Indx/NRD6 NRD6 decl NRD6 corr Total tituld Total indx
84
Ano de 2002 (continuação)
Programa Tit/NRD6 Indx/NRD6 NRD6 decl NRD6 corr Total tituld Total indx
85
Ano de 2003
Programa Tit/NRD6 Indx/NRD6 NRD6 decl NRD6 corr Total tituld Total indx
86
Ano de 2003 (continuação)
Programa Tit/NRD6 Indx/NRD6 NRD6 decl NRD6 corr Total tituld Total indx
87
Ano de 2003 (continuação)
Programa Tit/NRD6 Indx/NRD6 NRD6 decl NRD6 corr Total tituld Total indx
88
Anexo 4 Avaliação CCR-O
A4-1 Mec/Pro – CCR-O 2002
DMU Escore v(1) Doc u(1) Tit u(2) Prod
1 0,454 0,24485 0,00000 0,26316
2 0,447 0,22359 0,02709 0,20612
3 0,208 0,48056 0,05823 0,44302
4 0,754 0,06635 0,00804 0,06117
5 0,144 0,57696 0,06991 0,53189
6 0,600 0,11901 0,01442 0,10972
7 0,372 0,10755 0,01303 0,09915
8 0,270 0,37075 0,04493 0,34179
9 0,441 0,09866 0,01195 0,09095
10 0,205 0,24337 0,02949 0,22436
11 0,464 0,11347 0,00000 0,12195
12 0,407 0,11169 0,01353 0,10297
13 1,000 0,04348 0,00527 0,04008
14 0,514 0,14959 0,01813 0,13790
15 0,383 0,06372 0,00772 0,05874
16 0,372 0,09606 0,01164 0,08856
17 0,492 0,10695 0,00000 0,11494
18 0,758 0,05732 0,00695 0,05285
19 0,111 0,60212 0,07296 0,55508
20 0,714 0,02745 0,00333 0,02531
21 0,179 0,46667 0,09091 0,00000
22 0,617 0,05068 0,00614 0,04672
23 0,342 0,07315 0,00886 0,06743
24 0,567 0,16042 0,03125 0,00000
25 0,438 0,09510 0,01152 0,08767
26 0,238 0,46667 0,09091 0,00000
27 0,336 0,27018 0,05263 0,00000
28 0,252 0,26437 0,03204 0,24372
29 0,372 0,22385 0,02712 0,20636
30 1,000 0,03333 0,00649 0,00000
31 0,230 0,39487 0,07692 0,00000
32 0,344 0,10376 0,01257 0,09565
33 0,349 0,11938 0,02326 0,00000
34 0,260 0,42778 0,08333 0,00000
35 0,299 0,23892 0,02895 0,22026
36 0,240 0,29799 0,03611 0,27471
37 0,284 0,29293 0,03550 0,27005
38 0,348 0,10267 0,02000 0,00000
89
A4-2 Mec/Pro – CCR-O 2003
DMU Escore v(1) Doc u(1) Tit u(2) Prod
1 0,344 0,41499 0,04472 0,31055
2 0,365 0,24874 0,02681 0,18614
3 0,226 0,36915 0,09091 0,00000
4 0,513 0,08477 0,00914 0,06343
5 0,325 0,34141 0,03679 0,25549
6 0,501 0,11742 0,01265 0,08787
7 0,411 0,09739 0,01050 0,07288
8 0,175 0,40790 0,04396 0,30525
9 0,358 0,12689 0,03125 0,00000
10 0,314 0,14481 0,01561 0,10836
11 0,336 0,13536 0,01459 0,10129
12 0,440 0,08750 0,00943 0,06548
13 0,701 0,05940 0,00640 0,04445
14 1,000 0,07143 0,00770 0,05345
15 0,545 0,03601 0,00388 0,02695
16 0,466 0,07402 0,00798 0,05539
17 0,306 0,23361 0,02518 0,17482
18 0,586 0,05887 0,00634 0,04405
19 0,315 0,19826 0,02137 0,14837
20 0,853 0,02020 0,00218 0,01512
21 0,358 0,23280 0,02509 0,17421
22 0,515 0,05882 0,00634 0,04402
23 0,289 0,10194 0,01099 0,07629
24 0,472 0,17655 0,04348 0,00000
25 0,459 0,09904 0,02439 0,00000
26 0,246 0,36915 0,09091 0,00000
27 0,101 0,58009 0,14286 0,00000
28 0,361 0,18457 0,04545 0,00000
29 0,549 0,14002 0,03448 0,00000
30 1,000 0,03030 0,00746 0,00000
31 0,281 0,25379 0,06250 0,00000
32 0,398 0,08668 0,00934 0,06487
33 0,670 0,05971 0,01471 0,00000
34 0,602 0,18457 0,04545 0,00000
35 0,345 0,15240 0,01642 0,11405
36 0,246 0,27071 0,06667 0,00000
37 0,391 0,15039 0,03704 0,00000
38 0,448 0,07963 0,00858 0,05959
90
Anexo 5 Avaliação em Conjunto AR-O-C
A5-1 Mec/Pro AR-O-C 2002
DMU Escore v(1) Doc u(1) Tit u(2) Prod
1 0,453 0,24518 0,01669 0,26140
2 0,447 0,22359 0,27093 0,20612
3 0,208 0,48056 0,58232 0,44302
4 0,754 0,06635 0,08040 0,06117
5 0,144 0,57696 0,69913 0,53189
6 0,600 0,11901 0,14421 0,10972
7 0,372 0,10755 0,13032 0,09915
8 0,270 0,37075 0,44926 0,34179
9 0,441 0,09866 0,11955 0,09095
10 0,205 0,24337 0,29490 0,22436
11 0,462 0,11403 0,00776 0,12157
12 0,407 0,11169 0,13534 0,10297
13 1,000 0,04348 0,05268 0,04008
14 0,514 0,14959 0,18126 0,13790
15 0,383 0,06372 0,07721 0,05874
16 0,372 0,09606 0,11641 0,08856
17 0,490 0,10734 0,00730 0,11444
18 0,758 0,05732 0,06946 0,05285
19 0,111 0,60212 0,72961 0,55508
20 0,714 0,02745 0,03327 0,02531
21 0,166 0,50348 0,90901 0,08990
22 0,617 0,05068 0,06141 0,04672
23 0,342 0,07315 0,08864 0,06743
24 0,540 0,16851 0,30423 0,03009
25 0,438 0,09510 0,11524 0,08767
26 0,221 0,50348 0,90901 0,08990
27 0,312 0,29150 0,52629 0,05205
28 0,252 0,26437 0,32035 0,24372
29 0,372 0,22385 0,27125 0,20636
30 1,000 0,03333 0,06018 0,00595
31 0,213 0,42603 0,76917 0,07607
32 0,344 0,10376 0,12573 0,09565
33 0,341 0,12207 0,22039 0,02180
34 0,241 0,46153 0,83326 0,08241
35 0,299 0,23892 0,28951 0,22026
36 0,240 0,29799 0,36109 0,27471
37 0,284 0,29293 0,35495 0,27005
38 0,336 0,10616 0,19166 0,01896
91
A5-2 Mec/Pro AR-O-C 2003
DMU Escore v(1) Doc u(1) Tit u(2) Prod
1 0,344 0,41499 0,44723 0,31055
2 0,365 0,24874 0,26807 0,18614
3 0,223 0,37300 0,77645 0,07679
4 0,513 0,08477 0,09135 0,06343
5 0,325 0,34141 0,36793 0,25549
6 0,501 0,11742 0,12655 0,08787
7 0,411 0,09739 0,10496 0,07288
8 0,175 0,40790 0,43959 0,30525
9 0,338 0,13434 0,27966 0,02766
10 0,314 0,14481 0,15606 0,10836
11 0,336 0,13536 0,14588 0,10129
12 0,440 0,08750 0,09430 0,06548
13 0,701 0,05940 0,06402 0,04445
14 1,000 0,07143 0,07698 0,05345
15 0,545 0,03601 0,03881 0,02695
16 0,466 0,07402 0,07977 0,05539
17 0,306 0,23361 0,25177 0,17482
18 0,586 0,05887 0,06344 0,04405
19 0,315 0,19826 0,21366 0,14837
20 0,853 0,02020 0,02177 0,01512
21 0,358 0,23280 0,25089 0,17421
22 0,515 0,05882 0,06339 0,04402
23 0,289 0,10194 0,10986 0,07629
24 0,420 0,19861 0,41345 0,04089
25 0,432 0,10524 0,21907 0,02167
26 0,218 0,41685 0,86774 0,08582
27 0,093 0,63512 1,32210 0,13076
28 0,317 0,21005 0,43725 0,04324
29 0,537 0,14319 0,29807 0,02948
30 1,000 0,03030 0,06308 0,00624
31 0,238 0,30022 0,62496 0,06181
32 0,398 0,08668 0,09341 0,06487
33 0,574 0,06963 0,14495 0,01434
34 0,566 0,19630 0,40862 0,04041
35 0,345 0,15240 0,16424 0,11405
36 0,244 0,27339 0,56911 0,05629
37 0,356 0,16521 0,34392 0,03401
38 0,448 0,07963 0,08582 0,05959
92
Anexo 6 Avaliação Mecânica AR-O-C
A6-1 Mecânica AR-O-C 2001
DMU Escore v(1) Doc u(1) Tit u(2) Prod
1 0,528 0,23666 0,27403 0,37521
2 0,260 0,32020 1,19674 0,11836
3 0,375 0,26668 0,30878 0,42280
4 1,000 0,04545 0,05263 0,07206
5 0,316 0,26368 0,30530 0,41804
6 0,559 0,16271 0,18840 0,25797
7 0,373 0,10713 0,12404 0,16985
8 0,108 0,77002 2,87793 0,28463
9 0,364 0,15271 0,17682 0,24211
10 0,498 0,11149 0,12909 0,17676
11 0,864 0,07719 0,00829 0,12987
12 0,800 0,05438 0,06297 0,08622
13 0,662 0,05806 0,06722 0,09205
14 0,227 0,33869 1,26582 0,12519
15 0,703 0,03554 0,13283 0,01314
16 0,519 0,07711 0,08928 0,12225
17 0,845 0,09865 0,01059 0,16596
18 0,445 0,08636 0,10000 0,13692
19 0,316 0,24322 0,90901 0,08990
20 1,000 0,01923 0,07187 0,00711
21 0,302 0,27549 1,02964 0,10183
22 0,506 0,06809 0,07883 0,10794
23 0,557 0,06646 0,07695 0,10536
93
A6-2 Mecânica AR-O-C 2002
DMU Escore v(1) Doc u(1) Tit u(2) Prod
1 0,453 0,24518 0,01669 0,26140
2 0,547 0,18286 0,78974 0,09690
3 0,302 0,33150 1,51920 0,15025
4 0,922 0,05422 0,23417 0,02873
5 0,304 0,27449 1,25795 0,12441
6 0,604 0,11832 0,51098 0,06269
7 0,582 0,06878 0,31521 0,03117
8 0,300 0,33342 1,43996 0,17667
9 0,875 0,04967 0,22761 0,02251
10 0,209 0,23964 1,03494 0,12698
11 0,462 0,11403 0,00776 0,12157
12 0,726 0,06264 0,28707 0,02839
13 1,000 0,04348 0,18777 0,02304
14 0,518 0,14836 0,64074 0,07861
15 0,752 0,03242 0,14860 0,01470
16 0,498 0,07167 0,30954 0,03798
17 0,490 0,10734 0,00730 0,11444
18 0,798 0,05447 0,23525 0,02886
19 0,267 0,24961 1,14393 0,11314
20 1,000 0,01961 0,08986 0,00889
21 0,420 0,19835 0,90901 0,08990
22 0,939 0,03329 0,15258 0,01509
23 0,716 0,03490 0,15996 0,01582
94
A6-3 Mecânica AR-O-C 2003
DMU Escore v(1) Doc u(1) Tit u(2) Prod
1 0,394 0,36241 0,70643 0,25871
2 0,524 0,17361 0,60748 0,06008
3 0,376 0,22190 0,77645 0,07679
4 0,642 0,06776 0,23710 0,02345
5 0,372 0,29879 0,58241 0,21330
6 0,586 0,10034 0,19558 0,07163
7 0,550 0,07273 0,25447 0,02517
8 0,193 0,36939 0,72003 0,26370
9 0,569 0,07992 0,27966 0,02766
10 0,350 0,12999 0,25337 0,09279
11 0,375 0,12129 0,23642 0,08658
12 0,642 0,05992 0,20968 0,02074
13 0,800 0,05211 0,10157 0,03720
14 1,000 0,07143 0,13923 0,05099
15 0,734 0,02670 0,09344 0,00924
16 0,557 0,06192 0,21667 0,02143
17 0,325 0,22007 0,42897 0,15710
18 0,638 0,05403 0,10532 0,03857
19 0,358 0,17444 0,34002 0,12452
20 1,000 0,01724 0,06033 0,00597
21 0,418 0,19925 0,38838 0,14224
22 0,820 0,03695 0,12928 0,01279
23 0,416 0,07073 0,24748 0,02448
95
Anexo 7 Avaliação Produção AR-O-C
A7-1 Produção AR-O-C 2001
DMU Escore u(1) Doc u(1) Tit u(2) Prod
24 1,000 0,10000 0,09208 0,17516
25 0,136 0,30546 0,54128 0,05353
26 0,071 1,41046 2,49938 0,24719
27 0,726 0,22942 0,21125 0,40184
28 0,254 0,30313 0,27912 0,53095
29 0,817 0,09410 0,01293 0,20250
30 1,000 0,03571 0,06329 0,00626
31 0,228 0,62696 1,11099 0,10988
32 0,576 0,06435 0,00884 0,13848
33 0,303 0,13764 0,24390 0,02412
34 0,226 0,24535 0,43476 0,04300
35 0,477 0,16122 0,14846 0,28240
36 0,553 0,15072 0,02070 0,32436
37 0,311 0,22942 0,21125 0,40184
38 0,471 0,08171 0,07524 0,14312
96
A7-3 Produção AR-O-C 2003
DMU Escore v(1) Doc u(1) Tit u(2) Prod
24 0,420 0,19861 0,41345 0,04089
25 0,432 0,10524 0,21907 0,02167
26 0,218 0,41685 0,86774 0,08582
27 0,093 0,63512 1,32210 0,13076
28 0,317 0,21005 0,43725 0,04324
29 0,537 0,14319 0,29807 0,02948
30 1,000 0,03030 0,06308 0,00624
31 0,238 0,30022 0,62496 0,06181
32 0,446 0,07736 0,00635 0,09951
33 0,574 0,06963 0,14495 0,01434
34 0,566 0,19630 0,40862 0,04041
35 0,389 0,13543 0,01112 0,17420
36 0,244 0,27339 0,56911 0,05629
37 0,356 0,16521 0,34392 0,03401
38 0,486 0,07343 0,00603 0,09445
97
Anexo 8 Avaliação Mecânica sem Outstanding AR-O-C
A8-1 Mecânica AR-O-C 2001 Sem Outstanding
DMU Escore v(1) Doc u(1) Tit u(2) Prod
1 0,625 0,19986 0,77201 0,26696
2 0,370 0,22524 1,19674 0,11836
3 0,460 0,21725 0,83922 0,29020
4 1,000 0,04545 0,17558 0,06072
5 0,363 0,22988 0,88797 0,30705
6 0,795 0,11430 0,47229 0,14442
7 0,541 0,07387 0,30525 0,09334
8 0,154 0,54167 2,87793 0,28463
9 0,468 0,11865 0,49028 0,14992
10 0,564 0,09847 0,38038 0,13153
11 0,864 0,07719 0,00829 0,12987
12 1,000 0,04348 0,17966 0,05494
13 0,911 0,04224 0,17453 0,05337
14 0,323 0,23825 1,26582 0,12519
15 1,000 0,02500 0,13283 0,01314
16 0,709 0,05644 0,23323 0,07132
17 0,845 0,09865 0,01059 0,16596
18 0,497 0,07733 0,29872 0,10329
19 0,450 0,17109 0,90901 0,08990
21 0,430 0,19379 1,02964 0,10183
22 0,747 0,04618 0,19082 0,05835
23 0,801 0,04625 0,19112 0,05844
98
A8-2 Mecânica AR-O-C 2002 Sem Outstanding
DMU Escore v(1) Doc u(1) Tit u(2) Prod
1 0,453 0,24518 0,01669 0,26140
2 0,561 0,17810 0,85047 0,08411
3 0,314 0,31814 1,51920 0,15025
4 0,947 0,05280 0,25215 0,02494
5 0,316 0,26343 1,25795 0,12441
6 0,604 0,11822 0,56452 0,05583
7 0,606 0,06601 0,31521 0,03117
8 0,304 0,32856 1,56897 0,15517
9 0,912 0,04767 0,22761 0,02251
10 0,209 0,23910 1,14178 0,11292
11 0,462 0,11403 0,00776 0,12157
12 0,756 0,06012 0,28707 0,02839
13 1,000 0,04348 0,20762 0,02053
14 0,519 0,14818 0,70762 0,06998
15 0,784 0,03112 0,14860 0,01470
16 0,517 0,06910 0,32995 0,03263
17 0,490 0,10734 0,00730 0,11444
18 0,804 0,05408 0,25823 0,02554
19 0,278 0,23955 1,14393 0,11314
21 0,438 0,19036 0,90901 0,08990
22 0,978 0,03195 0,15258 0,01509
23 0,746 0,03350 0,15996 0,01582
99
Anexo 9 Avaliação Produção sem Outstanding AR-O-C
A9-1 Produção AR-O-C 2001 Sem Outstanding
DMU Escore v(1) Doc u(1) Tit u(2) Prod
24 1,000 0,10000 0,35211 0,04225
25 0,277 0,15049 0,54128 0,05353
26 0,144 0,69488 2,49938 0,24719
27 1,000 0,16667 0,59947 0,05929
28 0,393 0,19597 0,70488 0,06971
29 0,817 0,09410 0,01293 0,20250
31 0,463 0,30888 1,11099 0,10988
32 0,576 0,06435 0,00884 0,13848
33 0,614 0,06781 0,24390 0,02412
34 0,460 0,12087 0,43476 0,04300
35 0,521 0,14761 0,51975 0,06237
36 0,553 0,15072 0,02070 0,32436
37 0,429 0,16667 0,59947 0,05929
38 0,545 0,07058 0,24851 0,02982
100
A9-3 Produção AR-O-C 2003 Sem Outstanding
DMU Escore v(1) Doc u(1) Tit u(2) Prod
24 0,735 0,11342 0,40999 0,04751
25 0,764 0,05949 0,18449 0,05182
26 0,382 0,23819 0,86101 0,09978
27 0,163 0,36112 1,30539 0,15128
28 0,555 0,12017 0,43441 0,05034
29 1,000 0,07692 0,23854 0,06701
31 0,414 0,17246 0,62496 0,06181
32 0,916 0,03763 0,00635 0,09951
33 1,000 0,04000 0,14495 0,01434
34 1,000 0,11111 0,40165 0,04655
35 0,799 0,06587 0,01112 0,17420
36 0,485 0,13754 0,07650 0,34048
37 0,626 0,09399 0,33975 0,03937
38 1,000 0,03571 0,01986 0,08841
101
Anexo 10 Avaliação Mecânica Janela AR-O-C
A10-1 Mecânica AR-O-C, Janela 2001-2002
DMU Ano Escore v(1) Doc u(1) Tit u(2) Prod
1 2001 0,389 0,32112 0,98284 0,22112
2 2001 0,260 0,32020 1,19674 0,11836
3 2001 0,291 0,34393 1,05267 0,23683
4 2001 0,634 0,07173 0,00488 0,07647
5 2001 0,223 0,37448 1,14618 0,25787
6 2001 0,522 0,17426 0,53335 0,11999
7 2001 0,357 0,11218 0,34336 0,07725
8 2001 0,108 0,77002 2,87793 0,28463
9 2001 0,300 0,18512 0,56659 0,12747
10 2001 0,344 0,16135 0,49385 0,11111
11 2001 0,547 0,12181 0,00829 0,12987
12 2001 0,636 0,06832 0,20910 0,04704
13 2001 0,593 0,06489 0,19862 0,04468
14 2001 0,227 0,33869 1,26582 0,12519
15 2001 0,703 0,03554 0,13283 0,01314
16 2001 0,461 0,08684 0,26579 0,05980
17 2001 0,535 0,15566 0,01059 0,16596
18 2001 0,302 0,12751 0,39026 0,08780
19 2001 0,316 0,24322 0,90901 0,08990
20 2001 1,000 0,01923 0,07187 0,00711
21 2001 0,302 0,27549 1,02964 0,10183
22 2001 0,493 0,06989 0,21391 0,04813
23 2001 0,526 0,07038 0,21541 0,04846
1 2002 0,453 0,24518 0,01669 0,26140
2 2002 0,507 0,19742 0,60425 0,13595
3 2002 0,263 0,37992 1,16283 0,26162
4 2002 0,854 0,05855 0,17922 0,04032
5 2002 0,248 0,33658 1,25795 0,12441
6 2002 0,602 0,11860 0,36300 0,08167
7 2002 0,493 0,08108 0,24815 0,05583
8 2002 0,288 0,34759 1,06388 0,23935
9 2002 0,714 0,06090 0,22761 0,02251
10 2002 0,207 0,24114 0,73804 0,16605
11 2002 0,462 0,11403 0,00776 0,12157
12 2002 0,592 0,07681 0,28707 0,02839
13 2002 1,000 0,04348 0,13307 0,02994
14 2002 0,517 0,14886 0,45560 0,10250
15 2002 0,613 0,03976 0,14860 0,01470
16 2002 0,447 0,07989 0,24451 0,05501
17 2002 0,490 0,10734 0,00730 0,11444
18 2002 0,782 0,05559 0,17015 0,03828
19 2002 0,218 0,30607 1,14393 0,11314
20 2002 0,884 0,02217 0,06787 0,01527
21 2002 0,343 0,24322 0,90901 0,08990
22 2002 0,804 0,03886 0,11895 0,02676
23 2002 0,584 0,04280 0,15996 0,01582
102
A10-2 Mecânica AR-O-C, Janela 2002-2003
DMU Ano Escore v(1) Doc u(1) Tit u(2) Prod
1 2002 0,388 0,28634 0,55814 0,20441
2 2002 0,427 0,23408 0,45627 0,16710
3 2002 0,230 0,43417 1,51920 0,15025
4 2002 0,720 0,06944 0,13536 0,04957
5 2002 0,232 0,35951 1,25795 0,12441
6 2002 0,537 0,13302 0,25930 0,09496
7 2002 0,444 0,09008 0,31521 0,03117
8 2002 0,249 0,40112 0,78189 0,28635
9 2002 0,668 0,06505 0,22761 0,02251
10 2002 0,184 0,27120 0,52863 0,19360
11 2002 0,349 0,15075 0,29385 0,10762
12 2002 0,554 0,08204 0,28707 0,02839
13 2002 0,893 0,04869 0,09490 0,03476
14 2002 0,460 0,16707 0,32567 0,11927
15 2002 0,574 0,04247 0,14860 0,01470
16 2002 0,379 0,09430 0,32995 0,03263
17 2002 0,388 0,13550 0,26412 0,09673
18 2002 0,688 0,06316 0,12311 0,04509
19 2002 0,204 0,32693 1,14393 0,11314
20 2002 0,764 0,02568 0,08986 0,00889
21 2002 0,321 0,25979 0,90901 0,08990
22 2002 0,717 0,04361 0,15258 0,01509
23 2002 0,547 0,04571 0,15996 0,01582
1 2003 0,394 0,36241 0,70643 0,25871
2 2003 0,524 0,17361 0,60748 0,06008
3 2003 0,376 0,22190 0,77645 0,07679
4 2003 0,642 0,06776 0,23710 0,02345
5 2003 0,372 0,29879 0,58241 0,21330
6 2003 0,586 0,10034 0,19558 0,07163
7 2003 0,550 0,07273 0,25447 0,02517
8 2003 0,193 0,36939 0,72003 0,26370
9 2003 0,569 0,07992 0,27966 0,02766
10 2003 0,350 0,12999 0,25337 0,09279
11 2003 0,375 0,12129 0,23642 0,08658
12 2003 0,642 0,05992 0,20968 0,02074
13 2003 0,800 0,05211 0,10157 0,03720
14 2003 1,000 0,07143 0,13923 0,05099
15 2003 0,734 0,02670 0,09344 0,00924
16 2003 0,557 0,06192 0,21667 0,02143
17 2003 0,325 0,22007 0,42897 0,15710
18 2003 0,638 0,05403 0,10532 0,03857
19 2003 0,358 0,17444 0,34002 0,12452
20 2003 1,000 0,01724 0,06033 0,00597
21 2003 0,418 0,19925 0,38838 0,14224
22 2003 0,820 0,03695 0,12928 0,01279
23 2003 0,416 0,07073 0,24748 0,02448
103
Anexo 11 Avaliação Produção Janela AR-O-C
A11-1 Produção AR-O-C, Janela 2001-2002
DMU Ano Escore v(1) Doc u(1) Tit u(2) Prod
24 2001 1,000 0,10000 0,02926 0,20727
25 2001 0,136 0,30546 0,54128 0,05353
26 2001 0,071 1,41046 2,49938 0,24719
27 2001 0,660 0,25237 0,07385 0,52308
28 2001 0,221 0,34872 0,10204 0,72279
29 2001 0,817 0,09410 0,01293 0,20250
30 2001 1,000 0,03571 0,06329 0,00626
31 2001 0,228 0,62696 1,11099 0,10988
32 2001 0,576 0,06435 0,00884 0,13848
33 2001 0,303 0,13764 0,24390 0,02412
34 2001 0,226 0,24535 0,43476 0,04300
35 2001 0,466 0,16490 0,04825 0,34178
36 2001 0,553 0,15072 0,02070 0,32436
37 2001 0,283 0,25237 0,07385 0,52308
38 2001 0,453 0,08494 0,02486 0,17606
24 2002 0,530 0,17168 0,30423 0,03009
25 2002 0,664 0,06276 0,00862 0,13506
26 2002 0,217 0,51298 0,90901 0,08990
27 2002 0,306 0,29700 0,52629 0,05205
28 2002 0,308 0,21675 0,06342 0,44926
29 2002 0,622 0,13391 0,01839 0,28817
30 2002 1,000 0,03333 0,05656 0,01049
31 2002 0,209 0,43406 0,76917 0,07607
32 2002 0,573 0,06235 0,00856 0,13417
33 2002 0,335 0,12421 0,21075 0,03907
34 2002 0,236 0,47023 0,83326 0,08241
35 2002 0,429 0,16650 0,04872 0,34511
36 2002 0,296 0,24152 0,07067 0,50059
37 2002 0,315 0,26424 0,07732 0,54768
38 2002 0,330 0,10816 0,19166 0,01896
104
A11-2 Produção AR-O-C, Janela 2002-2003
DMU Ano Escore v(1) Doc u(1) Tit u(2) Prod
24 2002 0,540 0,16851 0,30423 0,03009
25 2002 0,397 0,10500 0,00862 0,13506
26 2002 0,221 0,50348 0,90901 0,08990
27 2002 0,312 0,29150 0,52629 0,05205
28 2002 0,231 0,28818 0,44879 0,14097
29 2002 0,372 0,22403 0,01839 0,28817
30 2002 1,000 0,03333 0,06018 0,00595
31 2002 0,213 0,42603 0,76917 0,07607
32 2002 0,342 0,10431 0,00856 0,13417
33 2002 0,341 0,12207 0,22039 0,02180
34 2002 0,241 0,46153 0,83326 0,08241
35 2002 0,256 0,27871 0,02288 0,35850
36 2002 0,219 0,32671 0,50880 0,15982
37 2002 0,273 0,30540 0,47561 0,14939
38 2003 0,336 0,10616 0,19166 0,01896
24 2003 0,364 0,22900 0,41345 0,04089
25 2003 0,395 0,11515 0,17933 0,05633
26 2003 0,189 0,48063 0,86774 0,08582
27 2003 0,081 0,73047 1,13760 0,35733
28 2003 0,275 0,24218 0,43725 0,04324
29 2003 0,521 0,14779 0,23016 0,07229
30 2003 1,000 0,03030 0,04719 0,01482
31 2003 0,206 0,34616 0,62496 0,06181
32 2003 0,446 0,07736 0,00635 0,09951
33 2003 0,498 0,08029 0,14495 0,01434
34 2003 0,517 0,21510 0,33498 0,10522
35 2003 0,389 0,13543 0,01112 0,17420
36 2003 0,241 0,27717 0,43165 0,13559
37 2003 0,309 0,19049 0,34392 0,03401
38 2003 0,486 0,07343 0,00603 0,09445
105