Desafios da IA responsável

na pesquisa científica
Virgílio Almeida
Elen Nas
Freepik
 resumo abstract

A inteligência artificial está cada Ar tif icial intelligence is gaining

vez mais presente em praticamente prominence across every sector of
todas as áreas da ciência e tecnologia. science and technology. Leveraging
O uso de tecnologias de IA tem o AI technologies holds promise for
potencial de acelerar a produtividade boosting researchers’ productivity and
dos pesquisadores e reduzir custos cutting down on scientific research
da pesquisa científica. Apesar dos costs. However, concerns have emerged
benefícios, preocupações surgem em regarding the lack of transparency in
relação à opacidade das ferramentas de AI tools, which may result in adverse
IA, que podem levar a consequências outcomes like discrimination, scientific
negativas, como discriminação, misinformation, and eroded public trust
falsidades e desinformação científica, in science. This article delves into how
comprometendo a conf iança research organizations are adopting
pública na ciência. O artigo explora responsible AI principles to mitigate
a implementação dos princípios de potential negative effects on science.
IA responsável nas organizações de
pesquisa visando minimizar possíveis Keywords: responsible AI; artificial
impactos negativos da IA na ciência. intelligence; transparency; ethical AI;
centrality of the human.
Palavras-chave: IA responsável;
transparência; inteligência artificial; IA
ética; centralidade do humano.
Sketchepedia /Freepik
O
destino das tecnolo- e a inovação. Mas é também fundamen-
gias de inteligência tal avaliar os riscos e as consequências
artificial não está da IA em países em desenvolvimento,
previamente determi- como o Brasil.
nado; há um elevado Inteligência artificial, com seus siste-
grau de incerteza e mas algorítmicos e robôs, tem sido usada
imprevisibilidade em de muitas maneiras socialmente benéficas,
relação ao seu uso e como, por exemplo, antecipar necessidades
desenvolvimento. O de saúde, auxiliar gerência de tráfego em
futuro está em aberto centros urbanos, otimizar o uso de recur-
e depende em boa sos escassos, facilitar decisões financei-
medida do que o país ras e aumentar a eficiência de serviços
for capaz de formular governamentais. Algoritmos têm sido tam-
e construir. É essencial compreender o bém usados para tomar decisões críticas
potencial de utilização e progresso da
IA no Brasil, especialmente considerando
a desigualdade econômica e o baixo
nível de escolaridade, que representam
desafios para a implementação das novas VIRGÍLIO ALMEIDA é professor emérito do
Departamento de Ciência da Computação
tecnologias no país. Ao analisar o papel da UFMG e professor associado ao Berkman
da IA no contexto brasileiro, é preciso Klein Center da Universidade de Harvard.
entender como essas tecnologias afetam ELEN NAS é pesquisadora da Cátedra Oscar Sala
a produtividade, o mercado de trabalho do Instituto de Estudos Avançados (IEA) da USP.

Revista USP • São Paulo • n. 141 • p. 17-28 • abril/maio/junho 2024 19

dossiê inteligência artificial na pesquisa científica

para indivíduos, com impacto direto na analisar grandes volumes de dados com o
vida das pessoas. Baseados em grandes objetivo de classificar, categorizar, iden-
massas de dados, algoritmos operam as tificar padrões, prever e tomar decisões
plataformas de mídia social, controlando baseadas em evidências. O desenvolvi-
o fluxo de informações para diferentes mento e aplicação da IA ocorre em dife-
setores da sociedade, com impactos na rentes aspectos das ciências, incluindo
formação social, cultural e política dos biologia, física, matemática e ciências
indivíduos e no comportamento coletivo sociais. O uso das tecnologias de IA na
da sociedade. Spotify, Twitter, You- ciência, como aprendizado de máquina,
Tube, Waze, Netflix, Facebook, TikTok, aprendizado profundo, processamento
Amazon são algumas das plataformas de linguagem natural e tecnologias de
algorítmicas que impactam bilhões de IA generativa tem o potencial de ace-
vidas em todo o mundo, influenciando lerar a produtividade de pesquisadores,
hábitos, culturas e valores compartilha- reduzir custos de experimentos e levar
dos por diferentes grupos sociais. Há, qualidade e segurança à pesquisa cien-
no entanto, uma preocupação crescente tífica. Por exemplo, formular e testar
em relação ao papel dos algoritmos na hipóteses são etapas fundamentais do
sociedade, em particular com a tomada método científico, que demandam tempo
de decisão algorítmica sobre indivíduos e conhecimento nas pesquisas científi-
e grupos sociais. Por exemplo, algorit- cas. Os métodos de IA podem contribuir
mos projetados para filtrar, selecionar em várias fases do processo de geração
e exibir a grande quantidade de infor- de hipóteses, a partir da identificação
mações disponíveis online, combinados de padrões e expressões simbólicas em
com a tendência das pessoas de buscar grandes massas de dados experimentais.
ambientes sociais similares, podem induzir Essas tecnologias de IA são capazes de
a vieses em grupos da sociedade, alimen- acelerar a identificação de contraexem-
tando racismo, preconceitos, discriminação plos que contradizem uma conjectura
e desinformação. Inteligência artificial, teórica (Wang, 2023). Há a expectativa
robôs e demais máquinas operadas por de que a IA possa levar a um aumento
algoritmos mediam cada vez mais nossas de produtividade necessária para a ciên-
interações profissionais, sociais, culturais, cia avançar na compreensão dos grandes
econômicas e políticas. Compreender o desafios globais da humanidade, como
comportamento dos algoritmos e siste- mudanças climáticas, poluição, escassez
mas de inteligência artificial é essencial de recursos e doenças infecciosas.
para nossa capacidade de governar suas Os avanços da inteligência artificial na
ações, colher benefícios e minimizar seus pesquisa são evidenciados pelo aumento
impactos negativos (Mendonça; Filgueiras; de publicações científicas que mencionam
Almeida, 2023). IA nos títulos e resumos. Um levanta-
As tecnologias de inteligência artifi- mento da revista Nature mostra que a
cial já afetam vários aspectos da ciência proporção de artigos na base de dados
e tecnologia. São tecnologias que podem Scopus mencionando termos referentes

20 Revista USP • São Paulo • n. 141 • p. 17-28 • abril/maio/junho 2024

à IA nos títulos ou resumos agora é de quisa de universidades públicas, federais
8%, um aumento de 2% em relação a e estaduais (Moura, 2019).
uma década atrás. A pesquisa da Nature
coletou opiniões sobre o papel da IA ao
entrevistar mais de 1.600 pesquisado-
ENTENDENDO A IA RESPONSÁVEL
res de todo o mundo. Os pesquisadores
identificaram várias formas positivas de A IA responsável visa ao desenvolvi-
uso das ferramentas de IA na pesquisa mento de sistemas algorítmicos que bene-
científica. Dois terços dos entrevistados ficiem indivíduos, sociedades e o meio
observaram que a IA acelera o processa- ambiente. Abrange os aspectos éticos,
mento de grandes massas de dados, 58% legais e técnicos do desenvolvimento e
informaram que a IA permite a execução implementação de tecnologias de IA bené-
de cálculos que anteriormente não eram ficas. Isso inclui garantir que o sistema
viáveis e 55% mencionaram economia de de IA não cause danos, não interfira na
tempo e recursos nos projetos de pesquisa agência humana, não discrimine e não
(Van Noorden, 2023). desperdice recursos. Assim, a IA respon-
Ao mesmo tempo que a maioria dos sável é uma área de pesquisa multidisci-
pesquisadores mostrou aspectos positi- plinar, em que cientistas da computação,
vos no uso de IA na pesquisa científica, éticos, juristas, sociólogos, psicólogos e
foram também identificadas preocupações muitos outros especialistas trabalham
com essas tecnologias, que incluem prin- juntos para moldar o futuro da tecnolo-
cipalmente a opacidade das ferramentas gia, visando ao bem-estar humano como
de IA, consideradas por muitos “caixas- principal objetivo (Baeza-Yates, 2022).
-pretas”, das quais não é possível enten- No ambiente de pesquisa científica,
der as razões subjacentes aos resultados há necessidade de formular estratégias
gerados por IA. As preocupações tam- visando apoiar as equipes de pesquisa
bém abrangem a existência de vieses, bem científica para o desenvolvimento e imple-
como as possibilidades de estudos com mentação de IA responsável, com funda-
resultados falsos e propagação de desin- mentos éticos, responsabilidades morais e
formação científica. A consequência des- sociais, que estabeleçam limites de pro-
ses aspectos potencialmente negativos é teção para sociedade e meio ambiente.
o comprometimento da confiança pública As organizações de pesquisa científica
na ciência e nos resultados científicos. que estão envolvidas no desenvolvimento,
Este artigo explora as possibilidades implementação e uso de ferramentas de IA
de se adequar os fundamentos e práti- têm observado potenciais conflitos entre
cas da inteligência artificial responsável avanço tecnológico e preocupações éticas
(IAR) ao contexto das organizações de e sociais com o impacto dessas novas
pesquisa, principalmente dentro de uni- tecnologias. A tendência em direção à IA
versidades, pois no Brasil mais de 95% responsável nessas instituições destaca um
da produção científica nas bases inter- crescente foco na incorporação de consi-
nacionais deve-se à capacidade de pes- derações éticas no processo de design e

Revista USP • São Paulo • n. 141 • p. 17-28 • abril/maio/junho 2024 21

dossiê inteligência artificial na pesquisa científica

desenvolvimento de ferramentas de IA, Responsáveis (Council, 2022), dado que

promovendo valores fundamentais como os algoritmos de IA estão sendo cada
responsibilities, transparência, justiça e vez mais utilizados por empresas, gover-
inclusão social. nos e cidadãos, com impactos signifi-
Os fundamentos básicos da IA respon- cativos sobre indivíduos e sociedade.
sável buscam garantir que os sistemas de O documento da ACM apresenta um
IA sejam seguros, aceitos e confiáveis. conjunto de princípios fundamentais
Para isso, o sistema deve ser projetado para a criação de sistemas de IA res-
levando em consideração princípios éti- ponsáveis. Esse conjunto abrange os
cos e as consequências morais de suas seguintes princípios: 1) legitimidade
ações e decisões, de maneira responsável e competência; 2) minimização de
e transparente (Dignum, 2017). Diversas danos; 3) segurança e privacidade; 4)
organizações internacionais têm elaborado transparência; 5) interpretabilidade e
conjuntos de princípios fundamentais para explicabilidade; 6) manutenibilidade;
a adoção responsável da inteligência arti- 7) contestabilidade e auditabilidade;
ficial. Estes princípios visam mitigar os 8) responsabilidade (accountability);
riscos específicos associados ao uso des- e 9) limitação de impactos ambientais
sas tecnologias, tais como equidade, viés, (Council, 2022).
autonomia, privacidade, proporcionalidade Implementar diretrizes de IA respon-
e responsabilidade. A minimização dos sável e ética requer transformar prin-
riscos da inteligência artificial requer o cípios abstratos em medidas concretas,
estabelecimento de normas e princípios procedimentos e práticas que possam ser
relacionados à transparência, interpreta- incorporados aos sistemas, ferramentas
bilidade, explicabilidade e auditabilidade, e f luxos de trabalho de uma organiza-
entre outros aspectos. Tais princípios ção. Uma implementação eficiente dos
servem como diretrizes para orientar o princípios conduz a uma maior trans-
desenvolvimento de aplicações de inte- parência e confiança entre os usuários
ligência artificial em diversos domínios, e as partes interessadas, diminuindo a
como ciência, saúde, educação, finanças distância entre os conceitos teóricos e
e mídias sociais, apenas para mencionar sua aplicação no mundo real.
algumas áreas impactadas por essa tec- Os países da Organização para a
nologia. É fundamental que os princípios Cooperação e Desenvolvimento Eco-
de inteligência artificial responsável sejam nômico (OCDE) adotaram a Recomen-
complementados por uma governança ade- dação do Conselho sobre Inteligência
quada dos dados e modelos de IA, além Artificial. Os princípios da OCDE sobre
do treinamento das pessoas capacitadas Inteligência Artificial promovem uma IA
para sua implementação. inovadora, confiável e que respeite os
O Conselho de Políticas Tecnológi- direitos humanos e os valores democráti-
cas da ACM (Association for Computing cos. Esses princípios se aplicam aos ato-
Machinery) elaborou uma Declaração de res de IA e a todo o governo, incluindo
Princípios para Sistemas Algorítmicos a implementação de IA (Yeung, 2020).

22 Revista USP • São Paulo • n. 141 • p. 17-28 • abril/maio/junho 2024

A OCDE estabeleceu os seguintes prin- aprimorar a eficiência dos sistemas, refi-
cípios para a administração responsável nar tomadas de decisão e melhorar a pres-
de IA confiável: tação de serviços. As universidades estão
começando a adotar ferramentas habilita-
 crescimento inclusivo, desenvolvimento das por IA para tarefas que variam desde
sustentável e bem-estar, visando enga- administração até ensino e pesquisa. No
jar os agentes proativamente na busca entanto, o uso de IA pode acarretar riscos
responsável de uma IA confiável em significativos. A Universidade da Califór-
busca de resultados benéficos para as nia (UC), como uma grande universidade
pessoas e o planeta; pública, desenvolveu uma estratégia para
 valores centrados no ser humano e justiça, orientar a implantação das tecnologias de
que devem respeitar os direitos humanos IA, de maneira a proteger a comunidade
e os valores democráticos ao longo do e refletir os valores da instituição, que
ciclo de vida dos sistemas de IA; incluem não discriminação, segurança
 transparência e explicabilidade, que bus- e privacidade. Assim, a UC adotou um
cam oferecer uma compreensão geral conjunto de recomendações para orien-
dos sistemas de IA, para permitir que tar a implantação segura e responsável
aqueles afetados por um sistema de IA da inteligência artificial e estabeleceu
entendam os resultados que lhes afetam; os seguintes princípios para aquisição,
 robustez e segurança, que devem desenvolvimento, implementação e moni-
garantir sistemas de IA seguros em toramento de ferramentas de IA dentro
relação aos dados e decisões tomadas dos diversos campi da universidade (Uni-
por esses sistemas; versity of California, 2021):
 responsabilidade, visando tornar os agen-
tes de IA responsáveis pelo funciona-  avaliação cuidadosa dos benefícios e
mento adequado dos sistemas de IA. riscos da IA, considerando que as neces-
sidades das pessoas afetadas são essen-
Esses princípios da OCDE ressal- ciais para decidir sobre sua aplicação;
tam pontos que são comuns a vários  transparência é fundamental; as pessoas
outros documentos sobre IA responsá- devem ser informadas sobre o uso de fer-
vel, que são os pilares fundamentais: ramentas de IA e capazes de entender os
transparência, responsabilização, expli- resultados e contestá-los, se necessário;
cabilidade e justiça. Além dos princí-  as ferramentas de IA devem ser eficazes,
pios, há também ênfase na importância precisas e seguras para seu propósito,
de mon itora mento per ma nente das ao longo de sua vida útil;
aplicações de I A e na necessidade  é crucial avaliar e mitigar preconceitos e
de investimentos públicos e privados discriminação nas ferramentas de IA, ado-
em pesquisa e desenvolvimento para tando procedimentos para remediar danos;
estimular a inovação em IA responsável.  privacidade e segurança dos dados
Cada vez mais, IA está sendo implan- devem ser priorizadas no design das
tada em ambientes de ensino superior para ferramentas habilitadas por IA;

Revista USP • São Paulo • n. 141 • p. 17-28 • abril/maio/junho 2024 23

dossiê inteligência artificial na pesquisa científica

 desenvolvimento e uso de IA devem a guiar o uso de ferramentas de IA em

respeitar valores humanos e direitos projetos de pesquisa científica, desde o
civis e humanos, observando as leis e design até a produção e publicação de
princípios aplicáveis; resultados de pesquisa.
 as ferramentas de IA devem promo- Um estudo publicado pelas Academias
ver benefícios equitativos para todos, Nacionais dos Estados Unidos, que inclui
incluindo aspectos sociais, econômicos as academias de Medicina, Engenharia
e ambientais; e Ciências, explora questões éticas e de
 a Universidade da Califórnia deve ser governança relacionadas às consequências
responsável pelo desenvolvimento e uso individuais e sociais da pesquisa em com-
ético de sistemas de IA em seus servi- putação e suas aplicações, que incluem
ços, de acordo com os princípios acima. inteligência artificial (National Academies
of Sciences, 2022). Quando os resulta-
dos da pesquisa em computação, como
GOVERNANÇA DE IA RESPONSÁVEL IA, são incorporados em sistemas com
potencial impacto social, várias dimen-
A existência de conjuntos de princí- sões da responsabilidade social precisam
pios destinados a orientar pesquisadores ser abordadas por meio de mecanismos
e professores no desenvolvimento e na de governança e por órgãos reguladores.
implementação de tecnologias de IA é um Para evoluir em direção ao uso respon-
ponto de partida útil, porém insuficiente, sável de IA, as instituições, sejam elas
pois não estão associados a explicações laboratórios ou universidades, devem for-
sobre como os princípios poderiam ser necer orientações sobre estratégias para
implementados na prática. A questão fun- identificar e avaliar os riscos de ferra-
damental a ser explorada é: que tipos de mentas habilitadas por IA e estabelecer
estruturas de governança precisam estar mecanismos de governança apropriados
em vigor para garantir o uso responsável para a instituição se adequar às políticas
de IA na pesquisa científica? e normas para uso de IA (Bano, 2023).
A IA responsável ajudará a minimizar
consequências indesejáveis e não inten-
cionais, como danos à sociedade, ao meio
TREINAMENTO
ambiente e à confiança que a sociedade
tem nos resultados científicos. À medida É essencial avaliar a compreensão dos
que o uso de IA permeia uma parcela conceitos de ética e responsabilidade em
maior de laboratórios e organizações de IA dentro de uma organização de pesquisa,
pesquisa, é necessário gerenciar o risco para orientar estratégias personalizadas,
do uso dessas tecnologias emergentes. modelos de governança e programas de
Os princípios são importantes, mas só treinamento adaptados às necessidades
proporcionarão o que as organizações de específicas do grupo de pesquisadores.
pesquisa precisam se forem combinados Um estudo conduzido junto a pesquisado-
com práticas de governança que ajudem res do CSIRO (Commonwealth Scientific

24 Revista USP • São Paulo • n. 141 • p. 17-28 • abril/maio/junho 2024

and Industrial Research Organization), na governança de IA que criam estruturas,
Austrália, oferece informações importan- regras, normas e leis para governar dis-
tes sobre a percepção de pesquisadores positivos, serviços e aplicações de IA.
e professores referentes a ética e respon- No mundo digital, a governança deriva
sabilidades em projetos de pesquisa que das ações de diferentes atores que defi-
fazem uso das tecnologias de IA. Os pro- nem políticas e constroem um complexo
jetos avaliados, usando tecnologias de IA, conjunto de normas formais e informais
situam-se em vários domínios da ciência. que organizam as diferentes camadas e
Os resultados apontam para a neces- processos envolvidos na construção de
sidade de maior conscientização e apoio infraestruturas digitais, plataformas, ser-
para abordar questões éticas nessas áreas viços e aplicações usadas pela sociedade.
científicas. As respostas indicam que Há também uma necessidade pre-
70% dos entrevistados relataram não ter mente de desenvolver estruturas de
usado qualquer documento de ética em governança para pesquisas científicas
IA, enquanto 17% expressaram desconhe- que fazem uso de IA, de forma a mini-
cimento da existência de documentação mizar consequências que decorrem das
para análise de aspectos éticos das fer- atividades de pesquisa que fazem uso
ramentas de IA. Em uma outra análise, das ferramentas de IA (Batool, 2023).
foi observado que 83% dos entrevista- A governança da IA busca reconhecer
dos admitiram não ter utilizado recur- a intrincada interconexão entre ciência,
sos adicionais para garantir a concepção tecnologia e sociedade para compreender
ou desenvolvimento ético da inteligência e supervisionar as extensas repercussões
artificial (Bano, 2023). Em ambientes de dos algoritmos de IA sobre indivíduos,
pesquisa, como universidades e laborató- comunidades e instituições.
rios, são essenciais iniciativas de treina- A governança é um conceito com mui-
mento e conscientização sobre os impactos tos significados, que pode ser implemen-
éticos do uso das tecnologias de IA em tada através de diferentes arranjos insti-
pesquisas científicas. tucionais (Filgueiras, 2022). Um arranjo
abrangente para diferentes formas de
regulação pode ser estruturado em uma
NÍVEIS DE GOVERNANÇA DE IA hierarquia de níveis de governança. No
nível mais alto da estrutura de governança
Há uma crescente demanda para imple- de IA estão legislações nacionais, que
mentar regulamentações de IA visando estabelecem o contexto para as regula-
minimizar os riscos para a segurança e ções de IA em instituições. Por exemplo,
preservar os direitos humanos, de forma o “AI Act’” aprovado pela União Euro-
a garantir que seus benefícios contribuam peia define regras para promover uma
para a solução de desafios globais, como IA confiável na Europa e garantir que
desenvolvimento econômico, desigualdade os sistemas de IA respeitem os direitos
e mudança climática. Em resumo, mui- fundamentais, a segurança e os princípios
tos países estão discutindo modelos de éticos (European Parliament, 2023). A lei

Revista USP • São Paulo • n. 141 • p. 17-28 • abril/maio/junho 2024 25

dossiê inteligência artificial na pesquisa científica

atribui aplicações de IA a três catego- Poder Executivo ou Legislativo. É justa-

rias de risco. Primeiro, as aplicações e mente o nível inicial de regulação que
sistemas que criam um risco inaceitável. laboratórios, universidades e institutos
Aplicações de IA para calcular pontua- de pesquisa devem adotar para implan-
ção social a ser usada por governos são tação das tecnologias de IA. Nesse pri-
proibidas. Segundo, as aplicações de alto meiro nível, as organizações de pesquisa
risco, como uma ferramenta de análise têm oportunidade de estabelecer regras
de currículos que classifica os candida- e normas, quando ainda não se tem no
tos a emprego, estão sujeitas a requisitos país legislações aprovadas por Congresso
legais específicos. Por fim, as aplicações e governo, que usualmente necessitam de
não explicitamente proibidas ou listadas mais tempo para formar arranjos políticos
como de alto risco são em grande parte requeridos para aprovação de legislações.
deixadas sem regulamentação. Esse deve ser o ponto de partida das ins-
No nível intermediário de regulação tituições de pesquisa e ensino superior no
de IA estão princípios e boas práticas Brasil para avançar responsavelmente no
para o desenvolvimento de sistemas res- uso e aplicação das tecnologias de IA.
ponsáveis de IA. Um bom exemplo de
iniciativas de governança nesse nível inter-
mediário é a Ordem Executiva sobre o
CONCLUSÃO
Desenvolvimento Seguro, Responsável e
Confiável da Inteligência Artificial do Existem muitas definições de gover-
governo americano, publicada em outu- nança digital, sem consenso na literatura
bro de 2023 (Biden, 2023), que estabelece acadêmica. Conforme proposto por Fil-
princípios e prioridades para orientar o gueiras e Almeida (2020), a governança
governo sobre o desenvolvimento e usos digital é a capacidade de instituições poli-
da IA. A Ordem Executiva atribui a mais cêntricas no mundo digital de governar (de
alta urgência à governança do desenvol- maneira legítima, inclusiva e segura) o uso
vimento e uso da IA de forma segura e dos bens digitais comuns para produzir
responsável, e promove uma abordagem serviços sustentáveis e políticas públicas
coordenando diferentes setores do governo implementadas por governos e empresas
para alcançar o objetivo de uma IA global. de maneira não territorial e orientada por
Em uma abordagem botton-up para resultados. IA responsável é um indica-
governança, o nível inicial da hierarquia tivo de medidas preventivas que buscam
de governança de IA começa com regras, compor uma estrutura de governança com
normas e políticas para uso de ferramen- múltiplas instituições, princípios, políti-
tas de IA dentro de cada instituição. É cas, ferramentas e processos, de modo
importante ressaltar que a governança de a garantir que os sistemas de IA sejam
IA em uma instituição deve estar alinhada desenvolvidos em conformidade com as
com os princípios, práticas e legislações leis e princípios éticos fundamentais. A
especificadas nos níveis superiores, ou governança da IA responsável deve forta-
seja, legislação nacional determinada por lecer na prática valores essenciais como

26 Revista USP • São Paulo • n. 141 • p. 17-28 • abril/maio/junho 2024

transparência, justiça, explicabilidade, O avanço da IA nas instituições de
privacidade e segurança. ensino superior no Brasil deverá ser acom-
A inteligência artificial responsável aju- panhado de um processo de governança,
dará a minimizar consequências indesejáveis incluindo documentação e ferramentas de
e não intencionais na pesquisa científica, apoio aos pesquisadores e professores, de
como, por exemplo, danos à imagem e cre- modo a ser eticamente responsável. Ope-
dibilidade da ciência. À medida que a IA racionalizar diretrizes de IA responsável
permeia várias áreas das ciências, gerenciar significa transformar princípios abstratos
os riscos se torna cada vez mais importante. em ações concretas, processos e práticas
Princípios para uma IA responsável são um que podem ser incorporados aos siste-
ponto de partida, mas só fornecerão o que as mas nos laboratórios e universidades. Isso
instituições precisam se forem combinados aumenta a transparência e a confiança
com práticas de governança que ajudem entre os usuários e partes interessadas,
efetivamente a guiar o desenvolvimento e diminuindo a distância entre os conceitos
uso de aplicações de IA. teóricos e sua aplicação prática na IA.

REFERÊNCIAS

BAEZA-YATES, R.; VILLOSLADA, P. Human vs. artificial intelligence. IEEE 4th International
Conference on Cognitive Machine Intelligence (CogMI). 14/dez./2022, pp. 40-8.
BANO, M. et al. “Investigating responsible AI for scientific research: an empirical study”.
arXiv preprint arXiv:2312.09561, 2023.
BATOOL, A.; ZOWGHI, D.; BANO, M. “Responsible AI governance: a systematic literature
review”. arXiv preprint arXiv:2401.10896, 2023.
BIDEN, J. R. Executive order on the safe, secure, and trustworthy development and use of
artificial intelligence. 2023.
COUNCIL, US Public Policy. “Statement on principles for responsible algorithmic
systems”. Communications of the ACM, 2022.
DIGNUM, V. “Responsible autonomy”. arXiv preprint arXiv:1706.02513, 2017, pp. 4.698-704.
EITEL-PORTER, R. “Beyond the promise: implementing ethical AI”. AI and Ethics, v. 1, 2021,
pp. 73-80.

Revista USP • São Paulo • n. 141 • p. 17-28 • abril/maio/junho 2024 27

dossiê inteligência artificial na pesquisa científica

EUROPEAN PARLIEMENT. Artificial Intelligence Act: deal on comprehensive rules for

trustworthy AI. 2023. Disponível em: [Link]
room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-
trustworthy-ai. Acesso em: 3/mar./2024.
FILGUEIRAS, F.; ALMEIDA, V. “Governance for the digital world: neither more state nor
more market”. Springer Nature, 2020.
KITANO, H. “Nobel Turing Challenge: creating the engine for scientific discovery”. npj
Systems Biology and Applications, v. 7, n. 1, 2021, p. 29.
MENDONÇA, R. F.; ALMEIDA, V.; FILGUEIRAS, F. Algorithmic institutionalism: the changing
rules of social and political life. Oxford, Oxford University Press, 2023.
MOURA, M. “Universidades públicas respondem por mais de 95% da produção científica
do Brasil”. Academia Brasileira de Ciências. Online. 2019. Disponível em: https://
[Link]/2019/04/15/universidades-publicas-respondem-por-mais-de-95-da-
producao-cientifica-do-brasil/. Acesso em: 3/mar./2024.
NATIONAL ACADEMIES OF SCIENCES, ENGINEERING, AND MEDICINE et al. Fostering
responsible computing research: Foundations and practices. 2022.
RAKOVA, B. et al. “Where responsible AI meets reality: practitioner perspectives on
enablers for shifting organizational practices”. Proceedings of the ACM on Human-
Computer Interaction, v. 5, n. CSCW1, 2021, pp. 1-23.
UNIVERSITY OF CALIFORNIA. Recommendations to guide the University of California’s
artificial intelligence strategy. Presidential Working Group on AI, Final Report, out./2021.
VAN NOORDEN, R.; PERKEL, J. M. “AI and science: what 1,600 researchers think”. Nature,
v. 621, n. 7980, 2023, pp. 672-5.
WANG, H. et al. “Scientific discovery in the age of artificial intelligence”. Nature, v. 620,
n. 7.972, 2023, pp. 47-60.
YEUNG, K. “Recommendation of the Council on Artificial Intelligence (OECD)”.
International Legal Materials, v. 59, n. 1, 2020, pp. 27-34.

28 Revista USP • São Paulo • n. 141 • p. 17-28 • abril/maio/junho 2024