A Bibliometria e a Avaliação da Produção Científica:
indicadores e ferramentas
Teresa Costa Sílvia Lopes, Fernando Maria João Amante,
Fundação para a Computação Fernández-Llimós Pedro Faria Lopes Científica Nacional Depto. Sócio-Farmácia, Faculdade de ISCTE - Instituto Universitário de Inst. Investigação e Formação Farmácia, Universidade de Lisboa Lisboa Avançada, Universidade de Évora, Av. Prof. Gama Pinto Av. Forças Armadas FCCN, Av. do Brasil, n.º 101 1640-003 Lisboa 1649-026 Lisboa 1700-066 Lisboa Tel: 217946484 Tel: 217903082/ Tel: 300005184 E-mail: {slopes, f-llimos}@ff.ul.pt Email: {maria.amante, pedro.lopes} E-mail: teresa.costa@fccn.pt @iscte.pt
development of several scientific areas and patterns of
RESUMO authorship, publication and use of research results. An A bibliometria é uma técnica quantitativa e estatística evaluation of scientific production, important for the para medir índices de produção e disseminação do recognition of researchers from the scientific conhecimento, bem como acompanhar o community, is made by applying several bibliometric desenvolvimento de diversas áreas científicas e os indicators, which are divided into quality indicators, padrões de autoria, publicação e uso dos resultados de scientific importance and impact. The limitations and investigação. A avaliação da produção científica, controversies mentioned by several authors have put importante para o reconhecimento dos investigadores doubts about the validity of their application. As a result junto da comunidade científica, é feita através da of the criticisms raised about the main bibliometric aplicação de diversos indicadores bibliométricos, que se indicators in recent years new indicators have emerged. dividem em indicadores de qualidade, importância e Thus, at the first stage of this study, we intend to impacto científicos. As limitações e controvérsias characterize and compare the main bibliometric apontadas por vários autores vêm colocar dúvidas acerca indicators taking into account their advantages and da validade da aplicação dos mesmos. Como resultado limitations as well as scope. Currently there are various das críticas levantadas sobre os principais indicadores databases that use bibliometric indicators and provide bibliométricos, nos últimos anos têm surgido novos results of bibliometric analysis, being the most well indicadores. Assim, numa primeira fase deste estudo, known the Web of Science (WoS) of Thomson pretende-se caracterizar e comparar os principais Reuteurs. Until recently, WoS was the main tool used to indicadores bibliométricos tendo em atenção as suas conduct citation analysis. This situation, however, no vantagens e limitações bem como campo de aplicação. longer applies, since there are currently other tools that Atualmente são várias as bases de dados que utilizam also provide data based on citations. In this study we indicadores bibliométricos e disponibilizam resultados emphasize two of them: the Elsevier's Scopus and de análise bibliométrica, sendo a mais conhecida a Web Google Scholar Metrics (GSM) with an analysis and of Science (WoS) da Thomson Reuteurs. Até comparison in terms of the characteristics, advantages recentemente, a WoS foi a principal ferramenta utilizada and disadvantages of these three databases with the aim para a realização de análise de citações. Esta situação, no of understand whether they are competing or entanto, já não se verifica, uma vez se existem complementary. atualmente outras ferramentas que também fornecem dados com base nas citações. No presente estudo KEYWORDS: Bibliometrics, Scientific evaluation, destacamos duas delas: a Scopus da Elsevier e o Google bibliometric indicators and tools Scholar Metrics (GSM) sendo feita uma análise e comparação ao nível das características, vantagens e INTRODUÇÃO desvantagens destas três bases de dados com vista a A produção científica reveste-se da maior importância perceber se são concorrentes ou complementares. no conjunto das actividades académicas e de investigação sendo um instrumento pelo qual a PALAVRAS-CHAVE: Bibliometria, Avaliação da comunidade científica mostra os resultados, a produção científica, Indicadores e ferramentas pertinência e a relevância da investigação. Nesse bibliométricos sentido, é o espelho do desempenho da instituição e dos docentes e investigadores, no conjunto das suas ABSTRACT actividades de ensino e de investigação. The bibliometry is a technique for measuring Como conclusão de um estudo, HALLIDAY (2001) quantitative and statistical indices of production and considera que o resultado das actividades de dissemination of knowledge, and monitor the investigação deve cumprir com os seguintes critérios: ser credível, ser divulgado e estar acessível. Segundo A avaliação da produção científica, factor primordial este autor para que a produção científica tenha para o reconhecimento dos investigadores junto da credibilidade é altamente desejável que uma vez comunidade científica, nacional e internacional, e das publicada, não seja modificada, que diferentes versões agências financiadoras, faz-se através da aplicação de estejam claramente identificadas e que a credibilidade diversos indicadores bibliométricos (SANCHO, 2002). se baseie em critérios de avaliação reconhecidos, como o peer-review (arbitragem científica). Também é conveniente que cada publicação tenha pelo menos um INDICADORES BIBLIOMÉTRICOS autor identificável. Os indicadores bibliométricos são ferramentas de Relativamente à divulgação, é aconselhável que as avaliação e podem ser divididos em: publicações tenham metadados e é altamente desejável Indicadores de qualidade científica que o público-alvo tenha conhecimento da sua Indicadores de actividade científica existência. Para cumprir os critérios de acessibilidade, é Indicadores de impacto científico essencial que a publicação tenha um formato de registo Indicadores de associações temáticas durável e seguro, que seja recuperável ao longo do tempo, que exista o compromisso de não retirar a Os indicadores de qualidade científica baseiam-se na publicação, que esta esteja acessível publicamente, percepção ou opinião dos pares que avaliam as independentemente do acesso ser gratuito ou de publicações pelos seus conteúdos. Indicadores de implicar algum pagamento. Finalmente, será altamente actividade científica permitem contabilizar a actividade desejável que a publicação tenha identificadores científica desenvolvida, nomeadamente o nº e persistentes (HALLIDAY, 2001). distribuição dos trabalhos publicados, a produtividade Importa, portanto, compreender o que é considerado dos autores, a colaboração na autoria dos trabalhos, o nº “produção científica”. Assim, os tipos de produção mais e distribuição das referências entre trabalhos e autores, relevantes são (CORTEZ, 2011, 3): entre outros. Os indicadores de impacto científico Livros podem subdividir-se em dois tipos: indicadores de Teses impacto dos trabalhos e indicadores de impacto das Capítulos de livros fontes. Como exemplo de indicador de impacto dos Artigos publicados em revistas científicas trabalhos temos o nº de citações recebidas. Por outro Comunicações em atas de conferências lado, como indicadores de impacto das fontes temos o Relatórios técnicos, materiais pedagógicos, factor de impacto das revistas, o índice de citação white papers e páginas web imediata e a influência das revistas. Associações E podem: temáticas também podem ser importantes. A análise de Ter ou não arbitragem científica (peer-review) citações e a análise de referências comuns são exemplos Ser de âmbito nacional ou internacional de indicadores de associações temáticas (SANCHO, 2002, 83). Uma vez identificado o que se considera produção É importante realçar que todos os indicadores deverão científica, torna-se importante compreender de que ser aplicados de forma cuidada dado o conjunto de forma pode ser avaliada. características e limitações que acarretam. Por outro lado, é fundamental considerar que os principais BIBLIOMETRIA resultados de investigação se transmitem através da Surge pela primeira vez em 1917 quando Cole e Eales comunicação formal, que os trabalhos publicados publicam uma análise estatística da história da representam o volume de investigação produzida e que disciplina de anatomia comparada (SANCHO, 2002, estes trabalhos (fontes primárias) são indexados em 80; OKUBO, 1997, 10; VANTI, 2002, 153), o conceito bases de dados (fontes secundárias), ferramentas que de bibliografia estatística, actualmente designada por permitem recuperar informação publicada em qualquer bibliometria. Trata-se de uma técnica quantitativa e área científica. estatística que permite medir índices de produção e disseminação do conhecimento, acompanhar o Factor de Impacto desenvolvimento de diversas áreas científicas e os Trata-se de um indicador de avaliação do impacto de padrões de autoria, publicação e uso dos resultados de revistas, que determina a frequência com que um artigo investigação (OKUBO, 1997, 8; ARAÚJO, 2006, 12). é citado. Foi criado por Eugene Garfield em 1955 para Inicialmente utilizada na medição estatística de classificar e avaliar as revistas incluídas na Science monografias (exemplares, edições, etc.) com especial Citation Index, do Institute for Scientific Information utilidade nas bibliotecas, rapidamente a sua aplicação (ISI). passou a contemplar também a análise de outra Na prática, o factor de impacto (FI) contabiliza as documentação como periódicos e artigos científicos. citações efectuadas, num dado ano, a documentos Actualmente, é utilizada para avaliar a produtividade publicados nos 2 anos anteriores. dos autores e realizar estudos de citações (ARAÚJO, Para uma dada revista, a fórmula de cálculo do FI é: 2006, 13). Desta forma, facilmente se percebe a sua importância e benefícios práticos (SANCHO, 2002; citações n 2 citações n1 FI n ARAÚJO, 2006, 13): artigos n 2 artigos n1 nas bibliotecas – no desenvolvimento das colecções e na gestão da informação Assim, o FI dessa revista no ano 2011 é: na comunidade académica e científica - na análise e avaliação da sua produção. citações 2009 citações 2010 FI 2011 artigos 2009 artigos 2010 Ou seja, o FI da dada revista em 2011, contabiliza o nº correspondem necessariamente ao FI da revista onde o de citações ocorridas em 2011, a documentos artigo é publicado. publicados em 2009 e 2010. No entanto, existem diversas e importantes limitações H-index apontadas ao FI que condicionam a credibilidade do Criado por J. Hirch em 2005, o h-index (hi) é uma mesmo. A primeira grande limitação relaciona-se com a proposta para quantificar a produtividade e o impacto fórmula de cálculo. Assim, vejamos as diferenças entre dos investigadores, baseando-se nos seus artigos mais o que é contabilizado no numerador e o que é tido em citados. Corresponde ao número de artigos de um conta no denominador. No numerador entram todos os determinado autor com, pelo menos, o mesmo número documentos citáveis, isto é, tudo o que é publicado: de citações (COSTAS et al., 2007, 193). Ou seja, se o hi artigos originais, artigos de revisão, relatórios, de um investigador for 16, quer dizer que, da totalidade editoriais, cartas, resumos, etc. enquanto no de artigos publicados, esse investigador, tem 16 artigos denominador apenas são contabilizados os “meaty com, cada um deles, pelo menos 16 citações. items”: artigos originais, artigos de revisão e relatórios O cálculo do hi é efectuado a partir da lista de artigos do (GARFIELD, 1986, 445; FERNANDEZ-LLIMÓS, investigador. Esta lista deverá ser apresentada por 2003, 43; McVEIGH et al., 2009, 1107). ordem decrescente do nº de citações recebidas. Quando Como resultado desta limitação na fórmula de cálculo, o nº de ordem na lista iguala o nº de citações recebidas, podemos verificar que revistas com uma maior obtém-se o h-index (Fig.1).
Figura 1: Exemplo do cálculo do h-index
percentagem de editoriais, cartas e resumos publicados conseguem obter valores de FI superiores. Por outro lado, existem diferenças no nº de citações por Existem diversas vantagens associadas ao h-index, artigo entre diferentes áreas temáticas. Por exemplo, a nomeadamente o facto de combinar medidas de média de citações por artigo na bioquímica é de 1,12 quantidade (publicações) e de impacto (citações), e de enquanto na botânica é de 0,43. Há ainda a considerar poder ser aplicado a grupos de investigação, que existem diferenças na obsolescência dos trabalhos departamentos e/ou países. Permite ainda criar entre áreas do conhecimento distintas e, por essa razão, “rankings” de Universidades, analisando e comparando a vida média de citação (VMC) (mediana da universidades produtivas e de baixo impacto versus antiguidade das referências) também varia entre áreas universidades menos produtivas e maior impacto. científicas. Assim, é incorrecto efectuar comparações No entanto, também é alvo de críticas na avaliação dos entre diferentes áreas já que diferentes padrões de investigadores, uma vez que não entra em linha de citação não têm a ver com qualidade mas sim com o conta com alguns factores importantes como a enquadramento/dinâmica de cada área temática. longevidade da carreira bem como a estratégia de O FI tende, portanto, a beneficiar periódicos das áreas publicação do investigador e as diferenças existentes científicas com ritmo mais acelerado de renovação do entre áreas científicas (COSTAS et al., 2007, 194). conhecimento, ao contabilizar apenas as citações dos 2 Utilizando o hi para avaliar investigadores em início de anos seguintes à sua publicação. carreira, com baixa produção e/ou com uma estratégia O facto de o FI ser calculado apenas a partir dos de publicação mais selectiva podemos estar a incorrer conteúdos da Science Citation Index é outra importante em alguns erros (Fig.2). desvantagem. Existem limitações quer idiomáticas quer geográficas na inclusão de periódicos nesta fonte Investigador Nº Artigos Nº Citações H-index secundária (FERNANDEZ-LLIMÓS, 2003, 49), com Inv. 1 1 500 1 predomínio de revistas de língua inglesa (de origem Inv. 2 5 5 5 americana) (MARZIALE et al., 2002, 466) e a ausência Inv. 3 30 1 1 de revistas de carácter regional, nomeadamente em áreas como Saúde Pública, Botânica, Geologia ou Figura 2: Exemplo de comparação entre 3 investigadores Astronomia. através do h-index Finalmente é de registar a utilização incorrecta do FI como indicador de impacto dos trabalhos, uma vez que De modo a colmatar as falhas associadas ao hi, Hirch este indicador pretende medir o impacto das revistas. Os apresentou o “Parâmetro m” para que se possam trabalhos mais citados nem sempre são publicados em comparar investigadores de diferentes áreas científicas e revistas com FI e as citações dos artigos não com distintos tempos de carreira: hi que têm sido identificadas algumas críticas no que se h refere à robustez do algoritmo utilizado (idêntico ao m utilizado pelo Google na ordenação das páginas web) em que: hi = h-index; m = nº de anos desde a 1ª quando em causa estão valores mais baixos de nº de publicação do autor. citações (VILLAR, 2011, 94). Apesar das melhorias introduzidas, mantêm-se algumas Relativamente ao AI, VILLAR (2011) considera que críticas. Documentos altamente citados têm importância este é um excelente indicador a ter em conta uma vez relativa: entram para a contagem, mas o nº de citações é que evita comparar revistas que publicam dezenas de irrelevante. As auto-citações dos próprios podem artigos por ano com as revistas que publicam centenas. enviesar os resultados, introduzindo um risco de Assim, alguns autores consideram que este é o método aumento desmesurado do valor do índex em benefício alternativo à utilização do FI (VILLAR, 2011, 90). dos próprios. À semelhança de outros indicadores, Para além de todas as características já identificadas, existem limitações técnicas como a dificuldade de pode ser ainda referido que o EF (e por conseguinte o identificar todas as publicações dos autores (devido às AI) gera uma classificação temática endógena e unívoca variantes dos nomes e ao facto de ser calculado apenas em 87 categorias, permitindo que cada periódico a partir do que está indexado nas bases de dados). pertença a apenas uma categoria, usa a mesma fonte do No entanto, o h-index é considerado um bom indicador FI – o Journal Citation Reports (JCR), e está acessível bibliométrico, preferível a usar apenas o nº total de gratuitamente na Web (VILLAR, 2011, 93). trabalhos produzidos, o nº total de citações, o nº citações por artigo ou o nº de artigos mais citados SCImago Journal Rank (SJR) indicator (COSTAS et al., 2007, 194). O indicador SJR é um recurso em acesso aberto e que lista um conjunto considerável de títulos de revistas de TM Eigenfactor Metrics uma grande variedade de países e idiomas já que se TM Eigenfactor Metrics são medidas de prestígio e baseia na base de dados Scopus (FALAGAS et al., credibilidade das revistas que utilizam o Eigenfactor TM 2008, 2623). Mede o prestígio de uma revista, através score (EF) e o Article InfluenceTM score (AI) das referências que um periódico faz a outros ou a si (Eigenfactor, 2012). próprio. No entanto, de forma a prevenir o uso O EF mede o grau de importância de revistas científicas excessivo de auto-citações da revista, destas apenas são calculando o número de citações recebidas por essas consideradas no máximo de 33% do total de citações revistas a partir de outras publicações. Baseia-se no (GONZÁLEZ-PEREIRA et al., 2009, 5). Utiliza um número de vezes que artigos publicados numa dada algoritmo semelhante ao Google PageRank e expressa o revista, nos cinco anos anteriores, são citados no ano número médio de citações ponderadas recebidas num mais recente e exclui as auto-citações das revistas. determinado ano, através de documentos publicados na O AI determina a influência média de um artigo revista nos três anos anteriores (SCImago, 2007; publicado em determinada revista, nos primeiros 5 anos FALAGAS et al., 2008, 2623; GONZÁLEZ-PEREIRA após ter sido publicado. O cálculo de AI é baseado no et al., 2009, 5). Ao contrário do que acontece com o EF: cálculo do FI, o indicador SJR considera no denominador da sua fórmula de cálculo, o total de Eigenfacto r AI documentos publicados no periódico. Portanto, o Ta indicador SJR apresenta-se como uma boa alternativa ao FI sendo que, para além das características já em que Ta – Total de artigos publicados. mencionadas, também se destaca pela avaliação da O EI considera “a qualidade das revistas citadas qualidade das citações (FALAGAS et al., 2008, 2623). ponderando as suas citações através do seu impacto na comunidade científica (…) assumindo que a literatura FERRAMENTAS BIBLIOMETRICAS científica constitui uma vasta rede de artigos ligados São pois várias as métricas e os indicadores utilizados, uns aos outros através das citações (…) e usa a estrutura estando associados a diversas bases de dados que são da rede para medir o impacto relativo das revistas” ferramentas muito úteis para o desenvolvimento de (DURIEUX et al., 2010, 347). Franceschet (2010) estudos bibliométricos. Podem fornecer pistas sobre a identifica um conjunto de vantagens no uso deste investigação de um tema, pesquisando um tópico, sobre indicador, nomeadamente, o facto de ponderar citações as mudanças de orientação que o mesmo possa ter tendo em conta a importância das revistas citadas, sofrido ao longo do tempo, a evolução de um autor, etc. considerar a quantidade de referências das revistas Assim, e sendo usadas como meios, não como fins, citadas, ter em consideração uma janela temporal de 5 podem fornecer aos investigadores uma preciosa ajuda anos, explorar a totalidade da rede de citações, ignorar aquando dos seus trabalhos de investigação. as auto-citações das revistas, estar fortemente Atualmente são três as ferramentas bibliométricas mais relacionada com outras métricas, ser um indicador que usadas: a Web of Science, a Scopus e o recente Google pode ser aplicado em diversos contextos e estar Scholar Metrics. Estas cobrem uma gama de diferentes disponível gratuitamente num conjunto significativo de dados e usam diferentes métricas, pelo que tal deve ser fontes secundárias (FRANCESCHET, 2010, 556). No sempre mantido em mente aquando da sua utilização. entanto, Durieux e Gevenois (2010) consideram que embora o EI se baseie “numa ideia muito promissora, o Web of Science seu papel potencial na avaliação das revistas científicas A Web of Science (WoS) da Thomson Reuters é uma não ter sido ainda suficientemente estudado” das bases de dados mais importante ao nível das revistas (DURIEUX et al., 2010, 347). Serrano (2004) salienta científicas e foi durante mais de quarenta anos a maior base de dados bibliométrica (ARCHAMBAULT, 2009, Scopus 1320). É multidisciplinar e contém o Science Citation Contrariamente ao que acontece com a WoS, a Scopus Index, o Social Sciences Citation Index e o Arts & não foi projetada como um índice de citações, mas Humanities Citation Index. Indexa mais de 12.700 inclui citações de artigos desde 1996. A sua principal periódicos, nas diferentes áreas científicas, contendo intenção é a pesquisa por autor e assunto. Procura ter informação desde início do século XX, sendo atualizada uma cobertura detalhada desde 1996 até à atualidade. semanalmente. Conteúdos de outras bases de dados da Elsevier, desde É a partir destas bases de dados que é calculado o fator 1966, têm sido seletivamente incluídos na Scopus, de de impacto das publicações periódicas, bem como modo a aumentar e melhorar a cobertura. outros indicadores bibliométricos presentes no JCR. A equipa da Scopus tem melhorado o seu Journal Este é a ferramenta de classificação de periódicos, foi Analyzer tendo acordado com a SCImago que o cálculo desenvolvido na década de 1950, e é a ferramenta líder do SJR esteja incluído na base de dados. de mercado dos rankings de periódicos. Como principais vantagens podemos indicar: É um recurso essencial para a avaliação e comparação indexa mais de 18.000 títulos de periódicos de periódicos, recolhendo dados referentes a mais de inclui títulos em Acesso Aberto, conferências, 9.000 periódicos científicos a nível mundial. páginas web, patentes e livros O JCR permite conhecer dados bibliométricos dos a funcionalidade “more” permite visualizar diferentes periódicos e compará-los dentro de uma rapidamente os registos órfãos mesma área científica. cobertura muito forte ao nível das revistas de O FI é a medida mais comummente utilizada, porém ciência e tecnologia convém relembrar que este é um indicador de qualidade contém ferramentas úteis para identificação dos periódicos que permite, ainda que com alguns dos autores cuidados, comparar/avaliar revistas dentro de uma gera automaticamente o h-índex mesma área, não devendo ser aplicado aos tem mais conteúdos europeus que a WoS, e investigadores. inclui mais idiomas para além do Inglês - 60% A WoS foi projetada desde início como uma base de de cobertura é de fora dos EUA dados de citação (índice de citações). Permite, além da pesquisa habitual por ocorrência de palavras no registo, Ao nível das desvantagens podem indicar-se: também a pesquisa de artigos relacionados e o a cobertura temporal não é muito significativa, estabelecimento de ligações entre artigos que citam uma vez que no caso de muitas revistas só outros ou são citados por outros. indexa os últimos 5 anos Como principais vantagens desta base de dados cobertura deficiente das áreas das artes e podemos indicar: humanidades, mas maior que a da WoS excelente cobertura temporal (a partir de 1900- a maior parte das citações remonta a 1996. Tal presente para algumas revistas) resulta num enviesamento do h-index para um grande número de registos é enriquecido investigados com carreiras mais longas com as referências citadas citações de artigos pré-1996 feitas em artigos melhorou a cobertura regional e muito publicados depois de 1996 não estão incluídas recentemente adicionou 700 periódicos no cálculo no h-index, não sendo regionais contabilizadas, o que limita de duas formas – primeira base de dados a incorporar o h-índex citação e citado. pode ver-se h-index negativo (apenas do primeiro autor) Relativamente à análise e ranking de periódicos fornece inclui conference proceedings duas métricas principais: o SJR e o Source Normalised inclui monografias Impact Per Paper (SNIP) que podem dar resultados pode ver registros órfãos usando a opção de bastante variados. Ao contrário do JCR, não fornece pesquisa “cited references” listas ordenadas de revistas por área temática. No entanto, o site SCImago, de utilização gratuita, baseia- Como principais desvantagens tem: se nos dados Scopus para fornecer este tipo de listagem melhor cobertura na área das ciências do que (SCImago, 2007). das artes e humanidades c. 80% dos conteúdos são da áreas das Google Scholar Metrics Ciências Em abril passado, o Google lançou o Google Scholar pouca cobertura de conteúdos em Acesso Metrics (GSM), uma nova ferramenta que fornece Aberto métricas de impacto de revistas científicas, obtidas a as opções/alternativas para encontrar e partir da contagem de citações e que, por ser de acesso distinguir autores não são grandes gratuito, se apresenta como uma alternativa muito falta de estandardização de autores e apetecível. instituições/afiliação O GSM fornece acesso ao h-index de uma ampla gama privilegia os conteúdos anglo-saxónicos de revistas científicas e outras fontes de informação mas não aplica a investigadores, contrariamente às duas A WoS manteve o seu domínio enquanto base de bases de dados já referidas. indicadores bibliométricos até 2004, ano em que a editora Elsevier lançou a Scopus. Vantagens: CONSIDERAÇÕES FINAIS a principal vantagem desta ferramenta é para já A bibliometria e os indicadores bibliométricos, no seu o facto de ser gratuita, uma vez que vai conjunto, são utilizados para avaliar a produtividade dos estimular a competição entre os vários autores, realizar estudos de citações e avaliar a fornecedores qualidade dos periódicos científicos. como também adotou como indicador o h- Apesar da quantidade de indicadores existentes e das index, pode encorajar a adoção deste indicador inúmeras críticas que surgem relativamente à sua na e para a avaliação de periódicos utilização estes evidenciam benefícios práticos na análise e avaliação da produção da comunidade académica e científica. São muitas as desvantagens apontadas a este novo Nos últimos anos têm surgido novas ferramentas e produto do Google, que não inclui todos os periódicos novos indicadores o que ilustra que, apesar das criticas indexados no Google Scholar. apresentadas, estes acabam por estar enraizados na Segundo Delgado-López-Cózar et al. (2012) “It is avaliação da comunicação científica. Estas ferramentas disappointing to see how Google has delivered a e indicadores têm surgido com vista a avaliar não só as product that is so unambitious and full of mistakes. publicações mas também os investigadores, pelo que é Google should be aware that producing professional importante ter alguns cuidados a quando da sua bibliometric tools requires effort and infrastructure utilização. beyond algorithms and robots that automatically Como exemplo, temos o h-index que é utilizado e produce results.” (DELGADO-LÓPEZ-CÓZAR, et al., disponibilizado nas diversas bases de dados. Porém, e 2012, 425). apesar de ser comum, pode divergir quanto aos Assim, como desvantagens temos: resultados ou quanto ao âmbito de aplicação já que, no cobertura temporal limitada a artigos caso do GSM, é aplicado às publicações. publicados nos últimos cinco anos (2007- A avaliação destas conta também com diversos 2011), inclui as citações recebidas até Abril de indicadores distintos nos parâmetros utilizados o que 2012. tem consequências no resultado final. junta periódicos científicos com outras fontes A utilização das bases de dados bibliométricas é hoje como repositórios, bases de dados, proceedings uma realidade. No entanto há que ter em consideração e working papers que as mesmas não só divergem nos conteúdos que não fornece uma lista de periódicos cobertos indexam, ao nível de tipologia de documento (artigos, (peer-reviewed ou não) periódicos, patentes, livros, etc.), como também ao falta de estandardização dos títulos dos nível das coberturas temática, temporal, geográfica e idiomática. Há um predomínio da área das ciências e periódicos tecnologias com um considerável défice das artes e apresenta erros na identificação de autores, humanidades, nas bases de dados mais recentes a periódicos e outros dados bibliográficos.~ cobertura temporal é significativamente reduzida e desconhece-se a periodicidade com que faz abundam os conteúdos anglo-saxónicos com atualização dos dados predomínio de conteúdos norte americanos. Podemos então concluir que mais do que concorrentes as O uso de distintas bases de dados pode conduzir a diferentes bases de dados são complementares. É de diferentes resultados de uma mesma publicação e/ou salientar que, no caso das três bases de dados investigador. São vários os aspetos a que deve estar analisadas, duas são de subscrição. Porém, de referir atento. que associado às mesmas existe um conjunto de Veja-se, por exemplo, o caso da revista Scientometrics, ferramentas e indicadores disponíveis gratuitamente, no que se refere aos diversos indicadores (Fig. 3). como o SJR e o Eigenfactor. No caso do GSM, apesar de gratuito, sendo ainda muito recente, a sua Indicador Valor qualidade/aplicação é reduzida. Todavia é de salientar a JCR IF 1.966 iniciativa do Google no desenvolvimento e SCOPUS SRJ 0.066 disponibilização desta ferramenta em acesso aberto. SCOPUS SNIP 1.418 REFERÊNCIAS GSM H5-INDEX 38 ARAÚJO, Carlos Alberto – Bibliometria: evolução Figura 3: Cálculo de indicadores para a revista Scientometrics histórica e questões atuais. Em Questão. Porto Alegre. [Em linha]. Vol.12, nº 1 (2006), p.11-32. [Consult. 21 de Abril 2012]. Disponível em www: Também no caso do estudo de citações de autores os http://revistas.univerciencia.org/index.php/revistaemque valores podem divergir. Veja-se o exemplo apresentado stao/article/viewFile/3707/3495 na Fig.4, para o autor Andras Schubert. ARCHAMBAULT, Éric et al. – Comparing Bibliometric Statistics Obtained From the Web of h-index Science and Scopus. Journal of the American Society WoS 28 for Information Science and Technology. [Em linha]. SCOPUS 22 Vol. 60, nº 7 (2009), p.1320-1326. [Consult. 8 Setembro GSM n.a 2012]. Disponível em www: Figura 4: Cálculo do h-index para autor Andras Schubert http://onlinelibrary.wiley.com/doi/10.1002/asi.21062/pd f CORTEZ, Paulo – Some scholarly communication guidelines: teaching report. Guimarães: Department of Information Systems of University of Minho, 2011. 471. [Consult. 21 de Abril 2012]. Disponível em www: [Consult. 24 de Abril 2012]. Disponível em www: http://www.scielo.br/pdf/rlae/v10n4/13356.pdf http://hdl.handle.net/1822/11599 McVEIGH, Marie E; MANN, Stephen J. – The Journal COSTAS, Rodrigo; BORDONS, María – The h-index: Impact Factor Denominator: Defining Citable advantages, limitations and its relation with other (Counted) Items. Journal of the American Medical bibliometric indicators at the micro level. Journal of Association. Vol. 302, nº 10 (2009), p.1107-1109. Informetrics [Em linha]. Vol. 1 (2007), p. 193-203. OKUBO, Yoshiko – Bibliometric indicators and [Consult. 21 de Abril 2012]. Disponível em www: analysis of research systems: methods and examples. http://www.liquidpub.org/mediawiki/upload/1/11/Journ OECD Science, Technology and Industry Working al_of_Informetrics_1(3).pdf Papers. [Em linha]. Nº 1 (1997). [Consult. 21 de Abril DELGADO-LÓPEZ-CÓZAR, Emilio; CABEZAS- 2012]. Disponível em www: CLAVIJO, Álvaro – Google Scholar Metrics: na http://dx.doi.org/10.1787/208277770603 unreliable tool for assessing scientific journals. El SANCHO, Rosa – Indicadores bibliométricos utilizados Professional de la información. [Em linha]. Vol.21, n.º4 en la evaluación de la ciencia y la tecnologia: revisión (2012), p. 419-425. [Consult. 27 Agosto 2012]. bibliográfica. In Inteligencia competitiva: documentos Disponível em www: de lecture. [Em linha]. Barcelona: Fundació per a la http://elprofesionaldelainformacion.metapress.com/med Universitat Oberta de Catalunya, 2002, p.77-106. ia/2gurm834tjdxqneejmfk/contributions/q/0/3/g/q03gk6 [Consult. 21 de Abril 2012]. Disponível em www: v6u5875872.pdf http://www.tramasoft.com/documentos/I+D+i/UND2/L DURIEUX, Valérie; GEVENOIS, Pierre Alain – ecturas%20complementarias/79059.Inteligencia%2520 Bibliometric indicators: quality measurements of Competitiva.Lecturas.pdf#page=77 scientific publication. Radiology. [Em linha]. Vol. 255, VANTI, Nadia Aurora Peres - Da bibliometria à nº 2 (2010), p. 342-351. [Consult. 21 de Abril 2012]. webometria: uma exploração conceitual dos Disponível em www: mecanismos utilizados para medir o registro da http://radiology.rsna.org/content/255/2/342.full.pdf+ht informação e a difusão do conhecimento. Ciência da ml Informação. Brasília. [Em linha]. Vol. 31, nº 2 (2002), Eigenfactor.org: ranking and mapping scientific p.152-162. [Consult. 21 de Abril 2012]. Disponível em knowledge [Em linha]. Washington: University of www: http://www.scielo.br/pdf/ci/v31n2/12918.pdf Washington, 2012. [Consult. 21 de Abril 2012]. VILLAR, Antonio - El «eigenfactor»: un nuevo y Disponível em www: http://www.eigenfactor.org potente instrumento bibliométrico para evaluar la FALAGAS, Matthew E. et al. – Comparison of investigación. Aula Abierta [Em linha]. Vol. 39, nº 3 SCImago journal rank indicator with journal impact (2011), pp. 85-96. [Consult. 20 de Setembro 2012]. factor. The FASEB Journal [Em linha]. Vol. 22, nº 8 Disponível em www: (2008), p. 2623-2628. [Consult. 21 de Abril 2012]. http://www.uniovi.net/ICE/publicaciones/Aula_Abierta/ Disponível em www: numeros_anteriores/i17/10._AA_vol39_n3_sept_2011 http://www.fasebj.org/content/22/8/2623.full.pdf+html SCImago. SJR — SCImago Journal & Country Rank FERNANDÉZ-LLIMÓS, Fernando – Análisis de la [Em linha]. Spain: SCImago, 2007. [Consult. 24 de cobertura del concepto de Pharmaceutical Care en Setembro 2012]. Disponível em www: fuentes primarias y secundarias de información. http://www.scimago.com Granada: Universidad de Granada, 2003. Tesis de doutorado apresentado à Universidad de Granada. FRANCESCHET, Massimo – Ten good reasons to use the EigenfactorTM metrics. Information Processing and Management. [Em linha]. Vol. 46, nº 5 (2010), p.555- 558. [Consult. 21 de Abril 2012]. Disponível em www: http://www.sciencedirect.com/science/article/pii/S0306 457310000075 GARFIELD, Eugene – Journal Impact vs Influence: A need for five-year impact factors. Information Processing & Management. Vol. 22, nº5 (1986), p. 445. GONZÁLEZ-PEREIRA, Borja; GUERRERO-BOTE, Vicente P.; MOYA-ANEGÓN, Félix – The SJR indicator: A new indicator of journals' scientific prestige. [Em linha] [Consult. 21 de Abril 2012]. Disponível em www: http://arxiv.org/ftp/arxiv/papers/0912/0912.4141.pdf HALLIDAY, Leah L. – Scholarly communication, scholarly publication and status of emerging formats. Information Research [Em linha]. Vol. 6, nº 4 (2001). [Consult. 24 de Abril 2012]. Disponível em www: http://InformationR.net/paper111.html MARZIALE, Maria Helena P.; MENDES, Isabel Amélia C. – O fator de impacto das publicações científicas. Revista Latino-Americana de Enfermagem. Ribeirão Preto. [Em linha]. Vol. 10, nº 4 (2002), p.466-
Fernando Leite, Adriano Codato (2013) Autonomização e Institucionalização Da Ciência Política Brasileira: o Papel Do Sistema Qualis-Capes. Agenda Política, 2013