Aspectos Bioéticos Da Utilização de Sistemas de Inteligência Artificial No Campo

Machine Translated by Google
Aspectos bioéticos del uso de sistemas de inteligencia artificial en el campo de la salud: un estudio exploratorio
Evelise S. Duarte et al.,
Rev Bio y Der. 2023; 57: 263285 DOI 10.1344/rbd2023.57.35146
Revista Bioética y Derecho
Perspectivas bioéticas
www.bioeticayderecho.ub.edu – ISSN 1886 –5887
ARTÍCULO
Aspectos bioéticos de los sistemas de inteligencia artificial en el campo de salud: un estudio exploratorio
Cuestiones de bioética relacionadas con la Inteligencia Artificial en Salud: un estudio exploratorio
EVELISE S. DUARTE, FAGNER SUTEL DE MOURA, LEONARDO PESTILLO DE OLIVEIRA, LUCAS FRANÇA GARCIA
*Evelise S. Duarte. Biomédica, Magíster en Promoción de la Salud de la Universidad Cesumar (UniCesumar). Correo electrónico:
liseduartte@hotmail.com. ORCID: https://orcid.org/0000000293451470.
*
Fagner Sutel de Moura. Científico social. Especialista en ciencia de datos. Correo electrónico: fagnersutel@outlook.com.
ORCID: https://orcid.org/0000000257214005.
*Leonardo Pestillo de Oliveira. Psicóloga, Doctora en Psicología por la PUC/SP. Profesor del Programa de Postgrado en
Promoción de la Salud de la UniCesumar. Beca de Productividad del Instituto Cesumar de Ciencia, Tecnología e
Innovación (ICETIUniCesumar). Correo electrónico: leopestillo@gmail.com. ORCID: https://orcid.org/0000000152780676.
*
Lucas França García. Científico social. Doctor en Medicina: Ciencias Médicas por la Universidad Federal de Rio Grande
do Sul. Profesor del Programa de Postgrado en Promoción de la Salud de la UniCesumar. Beca de Productividad del
Instituto Cesumar de Ciencia, Tecnología e Innovación (ICETIUniCesumar). Correo electrónico: lucasfgarcia@gmail.com.
ORCID: https://orcid.org/0000000258156150.
Este trabajo es el resultado de la tesis de maestría académica desarrollada por la científica biomédica Evelise S.
Duarte y supervisada por el Prof. Dr. Lucas França García en el Programa de Postgrado en Promoción de la Salud
de la Universidad Cesumar (UniCesumar). Financiamiento: Beca de Productividad del Instituto Cesumar de Ciencia,
Tecnología e Innovación (ICETIUniCesumar).
Copyright (c) 2023 Evelise S. Duarte, Fagner Sutel de Moura, Leonardo Pestillo de Oliveira,
Lucas França García. Este trabajo está bajo una licencia Creative Commons Reconocimiento
No ComercialSin Derivada 4.0 Internacional.
Evelise S. Duarte et al, – Rev Bio y Der. 2023; 57: 263285
| 264
DOI 10.1344/rbd2023.57.35146
Resumen
Objetivo: analizar la percepción de los usuarios de redes sociales sobre el uso de sistemas de IA en el campo de la salud y los aspectos bioéticos
asociados a este uso. Método: Estudio de método mixto, descriptivoexploratorio. El camino metodológico se dividió en dos etapas: (1) recopilación
de información sobre los principales aspectos bioéticos involucrados en el uso de la IA y (2) elaboración de escenarios de toma de decisiones. Los
datos cuantitativos se analizaron mediante estadística descriptiva con el fin de caracterizar la muestra desde el punto de vista sociodemográfico,
así como caracterizar el perfil de toma de decisiones de la muestra con
sobre cuestiones bioéticas asociadas al uso de sistemas de IA. El análisis cualitativo de los datos se realizó mediante el análisis de contenido de
Bardin. Resultados: en relación al perfil sociodemográfico, se puede observar una muestra de adultos, del sexo femenino, con título de educación
superior. En cuanto a las preocupaciones éticas asociadas a los escenarios aplicados, las principales preocupaciones fueron en primer lugar la
privacidad y confidencialidad de los datos, seguidas de las preocupaciones relacionadas con la responsabilidad asociada al uso de estas
tecnologías, así como el consentimiento informado. Conclusión: De esta manera, se destaca la importancia de nuevos estudios empíricos
exploratorios como este, que evalúen la percepción, actitudes y opiniones de públicos especializados, como profesionales del área de la salud,
derecho, humanidades, con el fin de obtener evidencia concreta para el desarrollo de programas de gestión y gobernanza de sistemas de IA,
especialmente en el escenario brasileño, con su escasez de recursos.
Palabras clave: inteligencia artificial; bioética; promoción de la salud;
Resumen
El objetivo fue: analizar la percepción de los usuarios de xarxes sociales sobre los sistemas de IA en el campo de salud y los aspectos bioéticos
asociados a esta cuestión. Método: Estudio de método mixto, del tipus descriptiuexploratori. El camino metodológico se divide en dos pasos: (1)
recopilar información sobre los principales aspectos bioéticos involucrados en la AI y (2) elaborar escenarios de decisión. Los datos cuantitativos
son un análisis de estadística descriptiva para caracterizar la muestra desde un punto de vista sociodemográfico y luego caracterizar el perfil de
toma de decisiones de la muestra que plantea cuestiones bioéticas asociadas a los sistemas de IA. El análisis de datos cualitativos es muy útil en
el análisis de contingencia de Bardin. Resultados: en cuanto al perfil sociodemográfico, se puede observar una muestra de adultos y graduados
universitarios. Para aquellas preocupaciones asociadas con los escenarios de aplicación, las principales preocupaciones se identificarán en primer
lugar con la privacidad y confidencialidad de sus datos, seguidas de preocupaciones relacionadas con una amplia gama de responsabilidades
asociadas con estas tecnologías, y luego con la información del consentimiento. Conclusión: De esta manera, se destaca la importancia de
nuestros estudios empíricos exploratorios con una encuesta, que evalúa la percepción, actos y opiniones de públicos especializados, con
profesionales de la salud, la salud y las humanidades, con el fin de obtener evidencia concreta para el desarrollo. programas de gestión y
gobernanza de sistemas de IA, especialmente en el escenario brasileño, donde los recursos son escasos.
Paraules clau: inteligencia artificial; bioética; promoción de la salud.
Resumen
asociados a este uso. Método: método mixto, tipo descriptivoexploratorio. El camino metodológico se divide en dos etapas: (1) recolección de
información sobre los principales aspectos bioéticos involucrados en el uso de la IA y (2) elaboración de escenarios para la toma de decisiones.
Los datos cuantitativos se analizaron mediante estadística descriptiva para caracterizar la muestra desde el punto de vista sociodemográfico, así
como para caracterizar el perfil de toma de decisiones de la muestra con respecto a cuestiones bioéticas asociadas al uso de sistemas de IA. El
análisis cualitativo de los datos se llevó a cabo mediante el análisis de contenido de Bardin. Resultados: en el perfil sociodemográfico se observó
una muestra de mujeres adultas con título universitario. En cuanto a las preocupaciones éticas asociadas a los escenarios aplicados, las principales
preocupaciones fueron en primer lugar la privacidad y confidencialidad de los datos, seguidas de las preocupaciones relacionadas con la
responsabilidad asociada al uso de estas tecnologías, así como el consentimiento informado. Conclusión: De esta manera, se destaca la
importancia de nuevos estudios empíricos exploratorios como este, que evalúan la percepción, actitudes y opiniones de públicos especializados,
como profesionales de la salud, derecho, humanidades, con el objetivo de obtener evidencia concreta para el desarrollo. de programas de gestión
y gobernanza de sistemas de IA, especialmente en el escenario brasileño, donde los recursos son escasos.
Palabras clave: inteligencia artificial; bioética; promoción de la salud.
Abstracto
asociados a este uso. Método: Estudio de método mixto, del tipo descriptivoexploratorio. El camino metodológico se dividió en dos etapas: (1)
recopilación de información sobre los principales aspectos bioéticos involucrados en el uso de la IA y (2) elaboración de escenarios de toma de
decisiones. Los datos cuantitativos se analizaron mediante estadística descriptiva con el fin de caracterizar la muestra desde el punto de vista
sociodemográfico, así como caracterizar el perfil de toma de decisiones de la muestra respecto a cuestiones bioéticas asociadas al uso de sistemas
de IA. El análisis cualitativo de los datos se realizó mediante el análisis de contenido de Bardin. Resultados: con respecto a la
Perfil sociodemográfico, se puede observar una muestra de mujeres adultas con título universitario. En cuanto a las preocupaciones éticas
asociadas a los escenarios aplicados, las principales preocupaciones fueron en primer lugar la privacidad y confidencialidad de los datos, seguidas
de las preocupaciones relacionadas con la responsabilidad asociada al uso de estas tecnologías, así como el consentimiento informado.
Conclusión: De esta manera, se resalta la importancia de nuevos estudios empíricos exploratorios como este, que evalúen la percepción, actitudes
y opiniones de públicos especializados, como profesionales de la salud, derecho, humanidades, con el fin de obtener evidencia concreta para el
desarrollo. de programas de gestión y gobernanza de sistemas de IA, especialmente en el escenario brasileño, donde los recursos son escasos.
Palabras clave: inteligencia artificial; bioética; promoción de la salud.
www.bioeticayderecho.ub.edu ISSN 18865887

| 265
DOI 10.1344/rbd2023.57.35146
1. Introducción
Los sistemas de Inteligencia Artificial (IA), aunque datan de la década de 1940, con las propuestas
teóricos y prácticos de Alan Turing(Marquis et al., 2020), se consideran una tecnología reciente,
aún en construcción (Ekmekci & Arda, 2020; Haenlein & Kaplan, 2019). Los sistemas de IA pueden
definirse como sistemas autónomos, que simulan, modelan, procesos de toma de decisiones,
basado en la inteligencia humana (Johnson, 2019). Estos sistemas también pueden ser
supervisado o autónomo; y también puede combinar otras tecnologías, como el aprendizaje
de máquinas y redes neuronales (Haenlein & Kaplan, 2019).
Aunque se remonta a la década de 1940, los sistemas de IA han ganado reconocimiento y aplicación.
práctica solo en las últimas décadas, especialmente desde 1990 (Haenlein & Kaplan, 2019). Hacia
sus aplicaciones van desde sistemas de toma de decisiones automatizados y autónomos
legal; toma de decisiones en el mercado de valores y bolsa de valores; automatización y
optimización de procesos gerenciales e industriales; así como aplicaciones en el ámbito sanitario
(Johnson, 2019; Kaul et al., 2020; Marquis et al., 2020).
En cuanto a las aplicaciones de los sistemas de IA en el ámbito sanitario, podemos destacar
algunos usos muy consolidados(Johnson, 2019), como el cribado de enfermedades
transmisible, por ejemplo, en la pandemia de COVID19(Martin et al., 2020; Soltan et al.,
2021; Tsiknakis et al., 2020); monitoreo y vigilancia en tiempo real de la información en el
internet y redes sociales, en busca de brotes de enfermedades y conductas de riesgo (Husnayain
et al., 2020; Visweswaran et al., 2020; Woo et al., 2016); También se utiliza en exámenes de lectura.
laboratorio e imagenología; además de ser utilizado en el diagnóstico y pronóstico de algunas
enfermedades(Chianca et al., 2021; Do et al., 2020; Faleiros et al., 2020; Weikert et al., 2020), como
por ejemplo (LópezJiménez et al., 2020). Otra aplicación de los sistemas de IA que
que ha ido ganando terreno en la última década son los relacionados con las tecnologías mHealth y
Las tecnologías portátiles, también conocidas como “wearables”, no son
Estas aplicaciones recopilan el seguimiento de los signos vitales y las variables del estilo de vida y
procesado por sistemas de IA, que recomiendan planes personalizados para mejorar
calidad de vida y el bienestar general de las personas, así como recomendar acciones prácticas para
cambios en el estilo de vida (Chianca et al., 2021; Yetisen et al., 2018; Zhang et al., 2020), especialmente
de enfermedades crónicas no transmisibles (ENT), en las que este es un factor importante para su
control.
A pesar de todos los beneficios asociados destacados por la literatura especializada sobre
del uso de sistemas de IA, son muchos los aspectos bioéticos que se plantean respecto a la
su uso (Morley et al., 2020). Cuestiones relacionadas con el consentimiento informado y el respeto

| 266
DOI 10.1344/rbd2023.57.35146
a las decisiones autónomas de los individuos(Astromskė et al., 2020), la responsabilidad médica o sanitaria
profesional de la salud, así como de las instituciones asistenciales que utilicen este
tecnología (Cath et al., 2018); además, cuestiones relacionadas con la gobernanza de los datos recopilados, o
es decir, la privacidad y confidencialidad de estos datos, ya sea a través de registros médicos electrónicos
o monitorear aplicaciones en teléfonos inteligentes (Baig et al., 2020; Price & Cohen, 2019; Reddy
et al., 2020); además de preguntas que involucran hallazgos secundarios, que pueden o no tener un
impacto en la terapia del paciente (Uusitalo et al., 2020). De este modo, la bioética compleja, cuyo
El objetivo es “realizar una reflexión compleja, compartida e interdisciplinar sobre la adecuación
“acciones que involucran vida y vivir” se hicieron necesarias, como marco teórico, en
razón de las diferentes facetas que tiene el uso de estas nuevas tecnologías en el ámbito sanitario
presente (Goldim, 2006, 2009).
A pesar del creciente uso de estos sistemas, en diferentes áreas del conocimiento, y en
especialmente en el campo de la salud, sin embargo, existen pocos estudios que aborden la percepción, opinión
y actitudes de profanos y profesionales de diferentes áreas respecto al uso de los sistemas
de la IA, especialmente en relación con sus implicaciones éticas, sociales y legales (Blease et al., 2019;
Liyanage et al., 2019a). Existe una cantidad considerable de estudios que abordan aspectos técnicos.
y teóricos sobre la gobernanza éticamente apropiada de este tipo de tecnología, sin embargo, los estudios
Los estudios empíricos aún son escasos. Por lo tanto, este estudio tuvo como objetivo analizar, a través de
estudio de métodos mixtos, la percepción de los usuarios de redes sociales online respecto a la
uso de sistemas de IA en el campo de la salud y los aspectos bioéticos asociados a este
usar.
2. Materiales y yo todo
2.1 Diseño
Estudio de método mixto, descriptivoexploratorio (Creswell & Clark, 2015).
2.2 Etapa 1: Estrategia sistemática de búsqueda de información
En la etapa 1 se realizó una búsqueda sistemática de información en bases de datos (Pubmed,
Scielo, WoS, EBSCO) con los términos IA, asistencia sanitaria, promoción de la salud y bioética, mapeando así
IA utilizada en el sector salud, cuyo objetivo era desarrollar escenarios de toma de decisiones
decisión.

| 267
DOI 10.1344/rbd2023.57.35146
2.3 Paso 2: Elaboración de escenarios de toma de decisiones sobre el uso

IA en la promoción de la salud
A partir de la búsqueda realizada en la Etapa 1, creamos escenarios de toma de decisiones
Decisiones (bio)éticas sobre el uso de la IA en diferentes campos de la salud, abordando las
principales temas y usos de los sistemas de inteligencia artificial identificados en el Paso 1. Por
Utilizando estos escenarios, creamos un cuestionario, que se administró a través de Google Forms. A
Fue divulgado en las redes sociales en línea Facebook®, Instagram® y Whatsapp®. A
El uso de este medio de recolección de datos se debió a la pandemia de Covid19 y nuestro objetivo fue
evaluar la percepción de los usuarios de estas redes sociales respecto al uso de sistemas de IA en
Procedimientos asistenciales en el ámbito sanitario. El uso de este medio de recolección de datos resultó en
debido a la pandemia de COVID19, con el objetivo de evaluar la percepción de los usuarios de estas redes
Cuestiones sociales relativas al uso de sistemas de IA en los procedimientos asistenciales en el ámbito de la

salud.
A continuación presentamos una descripción de cada uno de los escenarios discutidos con los participantes.
de la investigación. Los escenarios tuvieron como objetivo evaluar la percepción de los participantes sobre el presente.
estudio sobre aspectos bioéticos asociados al uso de sistemas de inteligencia
artificiales, como el consentimiento informado, la relación médicopaciente, la privacidad y
confidencialidad, responsabilidad profesional e institucional, así como cuestiones asociadas
el riesgo de utilizar este tipo de tecnología.
2.3.1 Escenario de toma de decisiones 1:
Tema tratado: IA y consulta médica
Acude a una institución de salud para una cita médica de rutina. Es
institución, así como su médico tratante, utiliza registros médicos electrónicos, integrados con
los demás sistemas y servicios/sectores/departamentos del hospital. Debido al gran volumen de
datos recopilados, esta institución ha invertido cada vez más en el procesamiento de estos datos para
que optimice el trabajo de los profesionales de la salud, además de mejorar la calidad de
asistencia brindada al paciente.
Cuando llegue a su cita, su médico cargará sus registros médicos y confirmará su información.
Todos tus datos, a partir de este momento, están siendo analizados y tratados y al final del
su atención, su médico tratante hace observaciones personalizadas basadas en la
recomendaciones procesadas por los sistemas de inteligencia artificial de la institución.

Evelise S. Duarte et al, – Rev Bio y Der. 2023; 57: 263285 | 268
DOI 10.1344/rbd2023.57.35146
Con base en lo anterior, ¿qué cuestiones éticas señalaría usted como importantes,
¿Está considerando el uso de inteligencia artificial en una consulta de rutina?
Tema tratado: IA y recopilación de datos en tiempo real a través de dispositivos
Dispositivos inteligentes como teléfonos inteligentes y relojes inteligentes.
El uso de dispositivos inteligentes, que monitorizan en todo momento nuestras señales, es cada vez más popular
más extendido, ya sea a través de dispositivos específicos como relojes inteligentes, o incluso
por teléfonos inteligentes.
Con la recopilación masiva de estos datos sobre salud y estilo de vida por parte de grandes
corporaciones tecnológicas, como Google, Apple y Amazon, por ejemplo, varias
Han surgido aplicaciones cuyo objetivo es mejorar la calidad de vida de las personas –e incluso
incluso con el objetivo de “cambiar” el “estilo de vida” de los individuos, a estilos de vida
considerado más saludable.
En este sentido, una serie de aplicaciones pretenden ofrecer resultados objetivos, prácticos,
personalizado, a través del análisis de sus datos personales, recopilados durante un período determinado,
y procesados a través de algoritmos y sistemas de inteligencia artificial específicos para estos
corporaciones.
considerando el uso de inteligencia artificial a través de la recopilación y el procesamiento de datos
¿Desde dispositivos inteligentes, como teléfonos inteligentes y relojes, por ejemplo?
Tema tratado: IA e interpretación de exámenes
Su médico tratante le pide que se someta a una serie de pruebas de imagen y de laboratorio.
para confirmar o refutar la hipótesis diagnóstica
hospital donde está siendo atendido, ya que todos los sistemas son electrónicos e integrados.
La mayoría de estos exámenes serán procesados por máquinas que utilizan inteligencia
artificial. Tras esta tramitación informarán al técnico responsable sobre la
resultados y el técnico puede o no respaldar estos resultados e informar los resultados de

exámenes en el sistema.

DOI 10.1344/rbd2023.57.35146
Sus resultados coincidieron con la hipótesis diagnóstica del médico. De
De estos resultados, y de la hipótesis diagnóstica X, el sistema de inteligencia artificial del hospital realiza
algunas recomendaciones al médico tratante, de acuerdo con la información proporcionada en el
sistema, que decide avalar las recomendaciones del sistema de inteligencia artificial, considerando
información concreta y su experiencia profesional.
considerando el uso de inteligencia artificial para procesar exámenes de imágenes y

¿laboratorio?
2.3.4 Escenario de toma de decisiones 4
Tema tratado: IA, interpretación de exámenes y hallazgos secundarios
Su médico tratante le pide que se someta a una serie de pruebas de imagen y de laboratorio.
para confirmar o refutar la hipótesis diagnóstica
hospital donde está siendo atendido, ya que todos los sistemas son electrónicos e integrados.
La mayoría de estos exámenes serán procesados por máquinas que utilizan inteligencia
artificial. Tras esta tramitación informarán al técnico responsable sobre la
resultados y el técnico puede o no respaldar estos resultados e informar los resultados de

exámenes en el sistema.
Sus resultados coincidieron con la hipótesis del médico, pero los resultados
Se encontraron elementos inesperados, que pueden o no ser relevantes para la hipótesis diagnóstica.
en cuestión. Este resultado inesperado sólo fue posible gracias al sistema de inteligencia artificial.
del sistema, que identificó un patrón en los resultados previamente no identificado por la “inteligencia
humana”.
considerando el uso de inteligencia artificial para procesar exámenes de imágenes y

¿laboratorio?
2.4 Análisis de datos
Los datos cuantitativos se analizaron mediante estadística descriptiva, con la ayuda de
software SPSS 21®, con el fin de caracterizar la muestra desde el punto de vista sociodemográfico, así como

| 270
DOI 10.1344/rbd2023.57.35146
caracterizar el perfil de toma de decisiones de la muestra en relación con cuestiones bioéticas
asociados con el uso de sistemas de IA.
El análisis de datos cualitativos se realizó mediante análisis de contenido temático de
Bardín (Bardín, 2011). Las tres etapas del análisis de contenido de bardin(Bardin,
2011), a saber: preanálisis, exploración del material e interpretación y tratamiento de
resultados. El análisis de los datos se realizó con la ayuda del software de método mixto QSR.
NVIVO 12 para Windows (Bazeley, 2013; Bazeley y Jackson, 2013).
2.5 Aspectos éticos
El presente estudio fue evaluado y aprobado por el Comité de Ética en Investigación en Humanos.
de la Universidad de Cesumar bajo CAEE nº 33771520.2.0000.5539. El proceso de consentimiento
La información se obtuvo electrónicamente, utilizando un formulario de Google Forms, siguiendo las
lineamientos de las Resoluciones 466 de 2012 y 510 de 2016 del Consejo Nacional de Salud (CNS) y de la
Comisión Nacional de Ética en Investigación (CONEP).
3. Resultados
Este trabajo tuvo como objetivo analizar, a través de un estudio de métodos mixtos, la percepción de los usuarios
de las redes sociales online sobre el uso de sistemas de IA en el ámbito sanitario y los aspectos
bioética asociada a este uso. A continuación se presentan los datos sociodemográficos de la
participantes de la investigación.
3.1 Caracterización de la muestra
La muestra estuvo compuesta por 39 participantes, cuya edad promedio fue 39 años, con desviación estándar
+13 años, y edades comprendidas entre 22 y 67 años. En cuanto al grupo de edad, el 56% (n=22) son
si tiene entre 20 y 39 años; 33,3% (n=13) entre 40 y 59 años; y 10,3% (n=4) en el rango
60 años o más. Además, la mayoría son mujeres, 69,2% (n=27) y autodeclaran
blancos, 82,1% (n=32), según las categorías del IBGE. En cuanto al estado civil,
El 61,5% (n=24) declaró estar casado y el 33,3% (n=13) soltero al momento de la encuesta. Con
En cuanto a la educación, la mayoría de los participantes, el 89,7% (n=35) tenía educación superior.

| 271
DOI 10.1344/rbd2023.57.35146
completado, ser docente (25,6%, n=10), cirujano dentista (10,3%, n=4), abogado (10,3%,
n=4) las profesiones más frecuentes (tabla 1).
Tabla 1: Datos sociodemográficos de los participantes en el presente estudio.
Porcentaje
Rango de edad Frecuencia
(n=39)
2039 22 56,4
4059 13 33.3
60 o más 4 10.3
Sexo
Femenino 27 69.2
Masculino 12 30,8
Carrera*
Blanco 32 82.1
marrón 6 15.4
Negro 1 2.6
Estado civil
Casado 24 61,5
Divorciado 1 2.6
Separado 1 2.6
Soltero 13 33.3
Educación
Completado la escuela secundaria 7.7
Educación Superior Completa 3 35 89,7
Enseñanza superior 1 2.6
Incompleto
*Según categorías del IBGE.
Para evaluar si los participantes tenían conocimientos previos sobre lo que
serían sistemas de IA, el 71,8% (n=28) afirmó tener conocimientos previos sobre
Qué es esta tecnología. Cuando se les preguntó si estos mismos sistemas de IA podrían afectar la
relación médicopaciente, la gran mayoría dijo que sí, 97,4% (n=38). Finalmente, cuando
Se les preguntó si creían que los sistemas de IA se utilizarían desde un punto de vista
especializada u holística, el 56,4% (n=22) respondió la primera opción, mientras que el 43,6% (n=17),
respondió el segundo.

| 272
DOI 10.1344/rbd2023.57.35146
Tabla 2: Conocimiento sobre sistemas de IA
Frecuencia Porcentaje (n=39)

Conocimiento previo
Sí 28 71,8
No 11 28.2
¿Impacta la relación médicopaciente?

Sí 38 97,4
No 1 2.6
¿Visión integral u holística?

Holístico 22 56,4
Especializado 17 43,6
En cuanto al análisis de contenido realizado con fundamento, no hay respuestas a la pregunta “¿qué es
"
¿Inteligencia artificial para ti? las principales definiciones relacionadas con la inteligencia
artificiales con programas informáticos, que son capaces de realizar actividades o tareas
humano a través del procesamiento de información y algoritmos (Figura 1).
Figura 1: 20 palabras utilizadas con mayor frecuencia por los participantes de la investigación para caracterizar
qué es la inteligencia artificial
A continuación presentamos algunas afirmaciones utilizadas por los participantes de la investigación con el objetivo de
Para poder definir qué es la inteligencia artificial:
"Es un conglomerado de tecnologías que simulan el pensamiento humano".
"Es el uso de la tecnología, el uso de máquinas para realizar tareas humanas".
'Sistemas informáticos capaces de realizar tareas y tomar decisiones basadas en
algoritmos”.
“Se trata de programas informáticos capaces de establecer determinados resultados
según la información ingresada en sus bases de datos. Los resultados obtenidos

| 273
DOI 10.1344/rbd2023.57.35146
Depende del problema a resolver, de la forma en que la inteligencia
artificial ha sido programado y los datos disponibles”.
El escenario 1 tuvo como objetivo analizar la percepción de los participantes de la investigación con la
sobre el uso de sistemas de IA en una consulta médica de rutina. Cuando se le pidió que
respecto de qué cuestiones bioéticas se identificaron asociadas al uso de esta tecnología
En el ambiente de una consulta de rutina, los participantes expresaron preocupación por la
privacidad y confidencialidad de los datos recabados en el caso descrito (92,3%); además de esto,
preocupaciones demostradas sobre cuestiones relacionadas con la responsabilidad profesional y
institucional para el uso de esta tecnología, en el sector salud (71,8%); Finalmente, el
El consentimiento informado aparece como la tercera mayor preocupación relacionada con los aspectos
bioéticos del uso de sistemas de IA en una consulta médica de rutina (66,7%). Y
Es importante resaltar que los participantes podrán marcar más de una respuesta a esta pregunta,
por lo tanto, un mismo participante puede haber marcado más de una alternativa.
Figura 2: preocupaciones éticas planteadas por los participantes de la investigación con respecto al uso de
sistemas de IA en una consulta médica de rutina
Cuando se les preguntó por qué estas eran sus preocupaciones éticas,
Los participantes de la investigación mencionaron que la seguridad en la protección de la confidencialidad y
La privacidad de sus datos fue el tema más sensible, enfatizando la posibilidad de romper la
confidencialidad de estos datos mediante ciberataques y filtración de los mismos a
la tercera; Además, señalan la responsabilidad de la institución en la protección de estos datos, así como
mencionar también el consentimiento informado en el sentido de saber que un sistema de IA
se está utilizando para procesar su información médica. A continuación se muestran algunos

líneas relacionadas con el escenario 1:

| 274
DOI 10.1344/rbd2023.57.35146
“Privacidad y Confidencialidad, ya que no habría seguridad en cómo funciona la institución.
bloquearía el acceso de otras personas a mis datos o contendría posibles filtraciones
de información."
“Filtración de información privada a terceros y, además, posibles

“vender” mis datos en internet”.
"Consentimiento informado. Todos tenemos derecho a saber cómo llegó el médico.

llegar a una conclusión”.
“Consentimiento del paciente, considerando que los datos son tratados y
analizado por una máquina, el riesgo comparativo de posibles errores no fue informado
por el análisis del médico”
con respecto al uso de sistemas de IA en dispositivos inteligentes, como teléfonos inteligentes y
relojes inteligentes y aplicaciones que cambian el estilo de vida. Cuando se le preguntó sobre el
uso de datos personales por aplicaciones basadas en sistemas de IA, cuyo objetivo es cambiar
hábitos y estilo de vida, los participantes también expresaron preocupación, en primer lugar
primero, con cuestiones de privacidad y confidencialidad en el uso de estos datos (76,9%); en
En segundo lugar, la preocupación por cuestiones relacionadas con el consentimiento informado en origen.
recogida de datos por estos dispositivos y aplicaciones (66,7%); y finalmente, también demostraron
preocupación por la responsabilidad por las recomendaciones dadas por estos aplicados
(48,7%).
Figura 3: preocupaciones éticas planteadas por los participantes de la investigación con respecto al uso de
sistemas y aplicaciones de IA para cambiar hábitos y estilos de vida

DOI 10.1344/rbd2023.57.35146
Cuando se les preguntó por qué estas eran sus preocupaciones éticas
asociado con el uso de sistemas de inteligencia artificial en aplicaciones de monitoreo y cambio de estilo
vida, los participantes de la investigación mencionaron nuevamente que la seguridad, la protección y la vigilancia
de datos recogidos en tiempo real y de forma constante como aspecto bioético más importante
sensibles, enfatizando la posibilidad de utilizar estos datos de manera inapropiada, es decir, para
fines distintos de los definidos en el alcance de las solicitudes; Además, mencionan la cuestión del “derecho a
saber para qué se utilizan sus datos y con qué finalidad, así como la cuestión de
consentimiento informado. A continuación se presentan algunas declaraciones relacionadas con el escenario 2:
“Privacidad, considerando el potencial uso de esta información de manera inapropiada
y sin un consentimiento verdaderamente informado”.
“Privacidad y Confidencialidad, ya que no habría seguridad en cómo la aplicación
estaría procesando la información y con quién se comparten mis datos”.
"Privacidad y confidencialidad. Todos tenemos derecho a saber cuál es el
datos que se recopilan”.
“Considerando el consentimiento informado de quienes utilizan la aplicación ya con
el objetivo de mejorar la calidad de vida, creo que la responsabilidad del
proveedor de la aplicación o quien recoge y procesa los datos a través de
La inteligencia artificial es la mayor preocupación ética en este caso, dado el riesgo
que asume “induciendo” al consumidor a practicar ciertos hábitos conocidos como
saludable."
sobre el uso de sistemas de IA en el procesamiento e interpretación de exámenes de imágenes y
laboratorios. Cuando se le preguntó sobre el uso de sistemas de IA en el procesamiento
de tales exámenes, ya sean de laboratorio o de imágenes, las dos mayores preocupaciones de
Los participantes fueron responsabilidad y confianza, ambos con un 79,5% cada uno. Todavía,
preocupaciones demostradas relacionadas con el riesgo asociado con este tipo de actividad, así como
cuestiones de privacidad y confidencialidad de los datos recopilados y procesados por los sistemas
de IA, ambas con un 33,3% cada una.

DOI 10.1344/rbd2023.57.35146
Figura 4: preocupaciones éticas destacadas por los participantes de la investigación con respecto a
uso de sistemas de IA en la interpretación de exámenes de laboratorio y de imagen
asociado con el uso de sistemas de IA en la lectura, procesamiento e interpretación de exámenes
imagen y laboratorio, los participantes de la investigación mencionaron la responsabilidad de
profesional en el sentido de respaldar el análisis y los resultados del sistema de IA, no anular
decisión del profesional del área; Además, también mencionan justificaciones relacionadas con la
confianza, en el sentido de que todo el proceso fue impulsado por la máquina, así como en relación con
la exactitud de estos resultados y posibles errores. A continuación se muestran algunos discursos.

relacionado con el escenario 3:
"Responsabilidad. Uso de sistemas de inteligencia artificial en el desarrollo de
diagnósticos pueden inducir al médico a abdicar de su responsabilidad por la

ellos mismos."
“Responsabilidad, los datos provenientes de la inteligencia artificial no deben
anular la decisión del profesional, ya que tiene la oportunidad de realizar análisis
clínica del paciente”.
“Confíe, ya que no habría forma de saber si los resultados de las pruebas fueron realmente
analizado por una persona y si las sugerencias de la IA son las mejores para el tratamiento”.
“Confianza, el procesamiento de datos puede ser engañoso, hay que probarlo
de forma exhaustiva y no requiere de un profesional debidamente cualificado”.

| 277
DOI 10.1344/rbd2023.57.35146
El escenario 4 tuvo como objetivo analizar la percepción de los participantes de la investigación sobre la relación
el uso de sistemas de IA en el procesamiento e interpretación de exámenes de imágenes y
pruebas de laboratorio, en el caso de hallazgos secundarios, que pueden o no tener importancia clínica
junto con la hipótesis diagnóstica. Cuando se le preguntó sobre las principales preocupaciones respecto a
a hallazgos secundarios, es decir, hallazgos inesperados, la respuesta principal fue preocupación
con la confianza de este resultado (84,6%), seguido de la responsabilidad asociada a este hallazgo,
clínicamente relevante o no (74,4%); y finalmente, preocupaciones sobre la privacidad y
confidencialidad de estos datos.
Figura 5: preocupaciones éticas destacadas por los participantes de la investigación con respecto al uso de sistemas de
IA en la interpretación de pruebas de laboratorio y de imágenes y hallazgos secundarios a la hipótesis diagnóstica
asociado con el uso de sistemas de IA en la lectura, procesamiento e interpretación de exámenes
hallazgos de imágenes y de laboratorio y hallazgos secundarios, mencionaron los participantes de la investigación
una vez más la confianza y la responsabilidad del profesional ante estos hallazgos secundarios y
su posible importancia clínica. A continuación se presentan algunas declaraciones relacionadas con el escenario.
4:
“La mayor preocupación ética en este caso radica en la responsabilidad médica
investigando los nuevos patrones encontrados en los resultados de los exámenes realizados, con el fin de
poner en práctica lo que realmente hay que hacer para mejorar al paciente”.
“El patrón puede ser el resultado de una asociación espuria, con significación estadística,
pero sin relevancia clínica”.
“La discreción del médico para aceptar o refutar la información de AI,
según la condición clínica del paciente”.

| 278
DOI 10.1344/rbd2023.57.35146
“Principalmente la responsabilidad por el resultado del posible examen, así como la
confiabilidad de esta hipótesis diagnóstica”.
4. Discusión
El uso de sistemas de IA en el ámbito sanitario se ha generalizado cada vez más y
defendido(Emanuel & Wachter, 2019; Racine et al., 2019), ya sea por grupos de pacientes,
asociaciones hospitalarias o grandes empresas tecnológicas. Aunque son prometedores
las aplicaciones de los sistemas de IA desde la atención primaria hasta la cirugía robótica(Ayoub & Pulijala,
2019; Blease et al., 2019; Lin et al., 2019; Liyanage et al., 2019b), existen muchas cuestiones éticas
planteadas por el uso de esta tecnología (Morley et al., 2020), uno de cuyos objetivos es la
Simulación de la inteligencia humana en los procesos de toma de decisiones en el ámbito sanitario. En esto
En este sentido, la bioética compleja emerge como una importante herramienta teóricometodológica para
reflexionar sobre este tema, ya que su propósito es realizar una “reflexión compleja,
compartido e interdisciplinario sobre las acciones que involucran la vida y el vivir (Goldim, 2006,
2009)”. Desde una perspectiva bioética compleja, podemos utilizar siete referentes teóricos de la ética.
analizar las cuestiones bioéticas asociadas con el uso de sistemas de IA en el campo de la salud,
a saber, la ética de las virtudes de Aristóteles; la ética de las intenciones, de Pedro Abelardo; ética
utilitario, de Mill y Bentham; la ética de los principios, de Beauchamp y Childress; la ética de
derechos humanos, de Marshall; así como la ética de la responsabilidad, de Hans Jonas y la ética de la
alteridad de Emanuel Levinas (Goldim, 2006, 2009).
Liyanage et. al.(Liyanage et al., 2019b) en un estudio cuyo objetivo fue establecer un consenso
sobre el uso de sistemas de IA en la atención primaria de salud (APS), celebró un panel de
jueces, utilizando la metodología Delphi, para evaluar la percepción, actitudes, opiniones y desafíos de los
implementación de esta tecnología en la APS. Los autores identificaron cuatro temas
predominante durante los paneles, a saber, (1) uso de IA para mejorar el proceso de
toma de decisiones en APS, (2) uso de IA para reconocer patrones en
procesamiento e interpretación de exámenes de imágenes, (3) uso de IA para modelos
predicciones para el desarrollo de determinadas enfermedades a través de datos recopilados en la APS
y (4) utilizar IA para análisis de mercado para proveedores de atención primaria de salud. Las preguntas
La ética planteada por el panel de expertos fue (1) los sistemas de IA actualmente disponibles.
Aún no son lo suficientemente competentes para reemplazar el componente humano en el proceso.
toma de decisiones clínicas; (2) el riesgo de error médico asociado con el uso no crítico de este
tecnología; (3) el riesgo de sesgos humanos en la programación de estos sistemas; y (4) el riesgo

| 279
DOI 10.1344/rbd2023.57.35146
de consecuencias y efectos imprevistos del uso de sistemas de IA, como el uso
inadvertidamente por aseguradoras de salud sin el conocimiento y consentimiento del cliente. Blease y
al.(Blease et al., 2019), en una encuesta realizada con médicos generales en Inglaterra, evaluaron actitudes
y sus opiniones sobre el uso de sistemas de IA y la especificidad de su uso.
de estos. Las cuestiones éticas planteadas por los participantes del estudio fueron (1) falta de empatía
y la importancia de la relación cara a cara en la relación médicopaciente; (2) escepticismo respecto
capacidad de razonamiento clínico de los sistemas de IA; (3) cinismo respecto de la capacidad de este
tecnología para brindar una atención que respete las preferencias, necesidades y valores del paciente en el
proceso de toma de decisiones. Aunque nuestro estudio no se llevó a cabo con un
población de expertos, como la de Liyanage et al. (Liyanage et al., 2019b) y Blease et al (Blease
et al., 2019), se pudo observar que la mayoría de los participantes de la investigación tenían
conocimientos previos sobre qué es la IA, así como definirlas como sistemas que simulan
la capacidad o inteligencia humana para tomar decisiones, reconociendo el potencial y
limitaciones en el uso de esta tecnología. Además, la mayoría también respondió que cree
que el uso de sistemas de IA en el ámbito sanitario tendrá un impacto en la relación médicopaciente,
así como el uso de esta tecnología tiende a hacerse dentro de un ámbito especializado, en
en contraposición a un enfoque holístico del paciente.
El uso de sistemas de IA en el escenario de consultas médicas de rutina, así como en
uso de datos por aplicaciones de cambio de hábitos y estilos de vida, planteó preguntas
La privacidad y la confidencialidad son fundamentales para el procesamiento de datos sensibles de las personas, así como
como cuestiones relacionadas con la responsabilidad profesional y el proceso de consentimiento
informados en el uso de esta tecnología. Preocupación por la privacidad de los usuarios de
los sistemas de salud, así como los pacientes de las instituciones del campo de la salud, es uno de los principales
temas discutidos en la literatura, especialmente relacionados con posibles violaciones a la privacidad de
individuos (Morley et al., 2020; Price & Cohen, 2019). En este sentido, Price II y Cohen(Price & Cohen,
2019) proponen formas de trabajar de forma éticamente apropiada respetando la privacidad de los
paciente cuando utiliza sistemas de IA. Los autores destacan la importancia del proceso
del consentimiento informado, en el sentido de informar a las personas sobre cómo estos datos
se utilizarán, con qué fines y cómo se almacenarán. También proponen la
propuesta de dos tipos de consentimiento informado, uno específico, para una situación determinada,
y otro ampliado, para usos múltiples, para garantizar la privacidad de estos datos en el ámbito de
salud. Finalmente, propone un modelo de gobernanza compartida entre diferentes profesionales,
basados en los principios de equidad, justicia y consentimiento informado. Johnson(Johnson, 2019),
analizando la legislación de los países anglosajones, se identifica que países como Estados Unidos, Reino Unido,
Australia, por ejemplo, ya establece en su legislación cómo deben

Aspectos bioéticos del uso de sistemas de inteligencia artificial en el campo de la salud: un estudio exploratorio | 280
DOI 10.1344/rbd2023.57.35146
administrarse y qué principios éticos, legales y sociales deben guiar su uso. En Brasil,
Es importante mencionar la Ley General de Protección de Datos (LGPD) del 14 de agosto de 2018(Brasil,
2018) que prevé
“el procesamiento de datos personales, incluso en medios digitales, por una persona física
o por una persona jurídica de derecho público o privado, con el objetivo de proteger
derechos fundamentales de libertad y privacidad y el libre desarrollo de
personalidad de la persona natural”
Aún en relación a la privacidad y confidencialidad, es importante resaltar que Bandman y
Bandman(Bandman & Bandman, 1984) y la Declaración de Bioética y Derechos Humanos de
La UNESCO (UNESCO, 2009) ya sitúa la privacidad como un derecho humano de los seres humanos
y el deber que tienen instituciones y profesionales de diferentes áreas, especialmente la salud, hacia
en relación con el mantenimiento de la confidencialidad de los datos sensibles de pacientes y usuarios de
sistemas de salud. Lo que nos plantea como desafíos el escenario de los sistemas de IA es precisamente
cómo garantizar la privacidad como un derecho humano, dentro de una gobernanza éticamente sólida
adecuada y orientada al bien común, como propone Floridi et al. (Floridi et al., 2018) en
Proyecto “AI4People”. El consentimiento informado es uno de los principios fundamentales de la bioética (T.
Beauchamp, 2010; TL Beauchamp y Childress, 2013). Pacientes y usuarios de aplicaciones sanitarias.
cambios de hábitos y estilo de vida tienen derecho a ser informados sobre qué datos
se recopilarán, cómo se almacenarán y procesarán (Astromskė et al., 2020). En esto
En este sentido, se debe orientar el uso de sistemas de IA por parte de los profesionales sanitarios.
informar al paciente sobre los beneficios y posibles riesgos asociados con
uso de esta tecnología.
El uso de sistemas de IA en el procesamiento e interpretación de pruebas de laboratorio y
las imágenes ya están bien establecidas en la comunidad biomédica (Cui & Zhang, 2021; Oren et al.,
2020; Tang, 2020). Como se observó en las respuestas de los participantes de nuestra investigación, la
Las principales cuestiones éticas destacadas en la literatura están asociadas con la responsabilidad y
confianza en el procesamiento de estos exámenes por parte de sistemas de IA (Larson et al., 2020). A
La responsabilidad puede ser discutida, en el contexto de las nuevas tecnologías en el campo de la salud, en el
perspectiva tanto de los profesionales que utilizan estas tecnologías como de la
responsabilidad que tienen las empresas que desarrollan estas tecnologías, especialmente aquellas que
realizar la interpretación de datos de imágenes y de laboratorio (Cath et al., 2018; Coeckelbergh, 2020; Risling
& Low, 2019). Es importante señalar que, según la perspectiva de la alteridad
por Emanual Levinas, en este contexto todos somos corresponsables, profesionales, sociedad,
paciente (Goldim, 2016; Jonas, 2006). De esta manera, la importancia de
gobernanza, compartida por diferentes profesionales y actores sociales, cuyo propósito es

DOI 10.1344/rbd2023.57.35146
monitorear constantemente el uso de sistemas de IA en el campo de la salud e investigar posibles
errores y ajustes al proceso, buscando siempre trabajar dentro de la lógica de la responsabilidad
prospectivo, es decir, en identificar la causa del error, para que no se produzcan nuevos errores similares.
suceder (Goldim, 2016; Jonas, 2006).
5. Consideraciones finales
Dado el escaso número de estudios empíricos que evalúan la percepción, opinión y actitudes de
profesionales, pacientes y público en general sobre el uso de sistemas de IA en el campo de la
salud, este estudio tuvo como objetivo analizar, a través de un estudio de métodos mixtos, la percepción de
usuarios de redes sociales en línea sobre el uso de sistemas de IA en el campo de la salud y el
respectivos aspectos bioéticos asociados a este uso.
Se pudo observar, en la muestra estudiada, que:
Los participantes de la investigación demuestran conocimiento de qué sistemas son
IA y cuáles son sus principales aplicaciones;
Además, creen que los sistemas de IA han provocado cambios en la relación médico
paciente, y darse cuenta de que el uso de esta tecnología puede intensificar la
información especializada sobre las condiciones clínicas del paciente
Respecto a las principales cuestiones éticas planteadas por los participantes de este
investigación destaca la preocupación por la privacidad y confidencialidad, siendo el proceso
del consentimiento, con la atribución de responsabilidad en el uso de los sistemas de IA,
en escenarios de consultas médicas de rutina, uso de datos por parte de las aplicaciones del dispositivo
Procesamiento inteligente de imágenes y exámenes de laboratorio mediante sistemas de IA.
De esta manera, se resalta la importancia de nuevos estudios empíricos del tipo encuesta que evalúen la
percepciones, actitudes y opiniones de públicos especializados, como profesionales de la salud,
derecho, humanidades, con el fin de obtener evidencia concreta para la elaboración de
programas de gestión y gobernanza de sistemas de IA, especialmente en el escenario brasileño,
escasez de recursos. Además, esta evidencia puede servir como elementos para crear
programas de educación sanitaria para informar a la población sobre el uso
de estas tecnologías y sus beneficios y riesgos asociados.

| 282
DOI 10.1344/rbd2023.57.35146
Agradecimientos
A ICETIUniCEsumar por el Programa de Becas de Productividad Docente otorgado a
profesores Lucas França García y Leonardo Pestillo de Oliveira.
Referencias
Astromskė, K., Peičius, E. y Astromskis, P. (2020). Desafíos éticos y legales del consentimiento informado
aplicando inteligencia artificial en consultas de diagnóstico médico. IA y SOCIEDAD. https://doi.org/10.1007/
s00146020010089.
Ayoub, A. y Pulijala, Y. (2019). La aplicación de la realidad virtual y la realidad aumentada en Cirugía Oral y
Maxilofacial. BMC Salud bucal, 19, 1–8. https://doi.org/10.1186/s12903019
09378.
Baig, MA, Almuhaizea, MA, Alshehri, J., Bazarbashi, MS y AlShagathrh, F. (2020). Necesidad urgente de
desarrollar un marco para la gobernanza de la IA en la atención sanitaria. Estudios en Tecnología e
Informática de la Salud, 272, 253–256. https://doi.org/10.3233/SHTI200542.
Bandman, E. L. y Bandman, B. (1984). Bioética y derechos humanos: una lectura para la salud
Profesionales. Univ Pr de Amer.
Bardín, l. (2011). Análisis de Contenido https:// (2ª ed.). Ediciones 70.
books.google.com.br/books?id=AFpxPgAACAAJ.
Bazeley, P. (2013). ANÁLISIS CUALITATIVO DE DATOS: ESTRATEGIAS PRÁCTICAS. SABIO
Publicaciones, Inc.
Bazeley, P. y Jackson, K. (2013). Análisis de datos cualitativos con Nvivo. Publicaciones SAGE, Inc.
Beauchamp, T. (2010). Apoyándose en principios. Prensa de la Universidad de Oxford.
Beauchamp, TL y Childress, JF (2013). Principios de ética biomédica (7ª ed.). Oxford
Prensa universitaria.
Blease, C., Kaptchuk, TJ, Bernstein, MH, Mandl, KD, Halamka, JD y Desroches, CM
(2019). La inteligencia artificial y el futuro de la atención primaria: estudio cualitativo exploratorio de las
opiniones de los médicos generales del Reino Unido. Revista de investigación médica en Internet, 21 (3).
https://doi.org/10.2196/12802.
Brasil. (2018). Ley General de Protección de Datos Personales (LGPD). DOU, 14 de agosto de 2018. http://
www.planalto.gov.br/ccivil_03/_ato20152018/2018/lei/l13709.htm.
Cath, C., Wachter, S., Mittelstadt, B., Taddeo, M. y Floridi, L. (2018). Inteligencia artificial y la 'buena sociedad':
el enfoque de EE. UU., la UE y el Reino Unido. Ética de la ciencia y la ingeniería, 24(2), 505–
528. https://doi.org/10.1007/s1194801799017.
Chianca, V., Cuocolo, R., Gitto, S., Albano, D., Merli, I., Badalyan, J., Cortese, M.C., Messina, C., Luzzati, A.,
Parafioriti, A., Galbusera, F., Brunetti, A. y Sconfienza, LM (2021). Clasificadores radiómicos de aprendizaje
automático en tumores óseos de la columna vertebral: un estudio de múltiples software y múltiples escáneres.
Revista Europea de Radiología, 137, 109586. https://doi.org/10.1016/j.ejrad.2021.109586.
Coeckelbergh, M. (2020). Inteligencia artificial, atribución de responsabilidad y justificación relacional de la
explicabilidad. Ética de la ciencia y la ingeniería, 26 (4), 2051–2068. https://doi.org/10.1007/s11948019001468.

Aspectos bioéticos del uso de sistemas de inteligencia artificial en el campo de la salud: un estudio exploratorio | 283
DOI 10.1344/rbd2023.57.35146
Creswell, J. . y Clark, VLP (2015). Investigación con métodos mixtos (2a). Creo que editor.
Cui, M. y Zhang, DY (2021). Inteligencia artificial y patología computacional. Investigación de
laboratorio, 101(4), 412–422. https://doi.org/10.1038/s41374020005140.
Do, HM, Spear, LG, Nikpanah, M., Mirmomen, SM, Machado, LB, Toscano, AP, Turkbey, B., Bagheri,
MH, Gulley, JL y Folio, LR (2020). El flujo de trabajo aumentado del radiólogo mejora el valor de los
informes y ahorra tiempo: un modelo potencial para la implementación de la inteligencia artificial.
Radiología académica, 27(1), 96–105. https://doi.org/10.1016/j.acra.2019.09.014.
Ekmekci, PE y Arda, B. (2020). Historia de la inteligencia artificial (págs. 1 a 15).
https://doi.org/10.1007/9783030524487_1.
Emanuel, EJ y Wachter, RM (2019). Inteligencia artificial en la atención sanitaria. JAMA, 321(23),
2281. https://doi.org/10.1001/jama.2019.4914.
Faleiros, MC, NogueiraBarbosa, MH, Dalto, VF, Júnior, JRF, Tenório, APM, LuppinoAssad, R.,
LouzadaJunior, P., Rangayyan, RM, & de AzevedoMarques, PM (2020 ). Técnicas de aprendizaje
automático para la clasificación asistida por computadora de sacroileitis inflamatoria activa en
imágenes por resonancia magnética. Avances en Reumatología, 60(1), 25. https://doi.org/10.1186/
s42358020001268.
Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R.,
Pagallo, U., Rossi, F. , Schafer, B., Valcke, P. y Vayena, E. (2018). AI4People: un marco ético para
una buena sociedad de IA: oportunidades, riesgos, principios y recomendaciones.
Mentes y máquinas, 28(4), 689–707. https://doi.org/10.1007/s1102301894825.
Goldim, J.R. (2006). Bioética: orígenes y complejidad. Rev HCPA, 26(2).
_______ (2009). [Bioética compleja: un enfoque integral del proceso de toma de decisiones].
Revista AMRIGS, 53(1), 58–63.
_______ (2016). La bioética después de Levinas. En eLS (págs. 1 a 4). John Wiley & Sons, Ltd.
https://doi.org/10.1002/9780470015902.a0026694.
Haenlein, M. y Kaplan, A. (2019). Una breve historia de la inteligencia artificial: sobre el pasado,
presente y futuro de la inteligencia artificial. Revisión de la gestión de California, 61(4), 5–14. https://
doi.org/10.1177/0008125619864925.
Husnayain, A., Shim, E., Fuad, A. y Su, ECY. (2020). Comprensión de las percepciones de riesgo de
la comunidad ante el brote de COVID19 en Corea del Sur: estudio de infodemiología. Revista de
investigación médica en Internet, 22(9), e19788. https://doi.org/10.2196/19788.
Johnson, SLJ (2019). IA, aprendizaje automático y ética en la atención sanitaria. La Revista de
Medicina Legal, 39(4), 427–441. https://doi.org/10.1080/01947648.2019.1690604.
Jonás, H. (2006). El principio de responsabilidad: un ensayo sobre una ética para la civilización
tecnológico. Contrapunto.
Kaul, V., Enslin, S. y Gross, SA (2020). Historia de la inteligencia artificial en medicina.
Endoscopia gastrointestinal, 92(4), 807–812. https://doi.org/10.1016/j.gie.2020.06.040.
Larson, DB, Magnus, DC, Lungren, MP, Shah, NH y Langlotz, CP (2020). Ética del uso y intercambio de datos
de imágenes clínicas para la inteligencia artificial: un marco propuesto.
Radiología, 192536. https://doi.org/10.1148/radiol.2020192536.
Lin, SY, Mahoney, MR y Sinsky, CA (2019). Diez formas en que la inteligencia artificial transformará
la atención primaria. Revista de Medicina Interna General. https://doi.org/10.1007/s11606019
050351.
Liyanage, H., Liaw, S.T., Jonnagaddala, J., Schreiber, R., Kuziemsky, C., Terry, A. y de Lusignan,
S. (2019a). Inteligencia artificial en la atención primaria de salud: percepciones, problemas y desafíos.
Anuario de Informática Médica. https://doi.org/10.1055/s00391677901.

DOI 10.1344/rbd2023.57.35146
Liyanage, H., Liaw, S.T., Jonnagaddala, J., Schreiber, R., Kuziemsky, C., Terry, AL y de Lusignan, S. (2019b). Inteligencia
artificial en la atención primaria de salud: percepciones, problemas y desafíos. Anuario de Informática Médica, 28(01), 041–
046. https://doi.org/10.1055/s 00391677901.
LópezJiménez, F., Attia, Z., ArrudaOlson, A.M., Carter, R., Chareonthaitawee, P., Jouni, H., Kapa, S., Lerman, A., Luong,
C. , Medina Inojosa, JR, Noseworthy, PA, Pellikka, PA, Redfield, MM, Roger, VL, Sandhu, GS, Senecal, C. y Friedman, PA
(2020). Inteligencia artificial en cardiología: presente y futuro. Actas de Mayo Clinic, 95(5), 1015–1039. https://doi.org/
10.1016/j.mayocp.2020.01.038.
Marquis, P., Papini, O. y Prade, H. (2020). Elementos para una historia de la inteligencia artificial. En Una visita guiada a la
investigación en inteligencia artificial (págs. 1 a 43). Publicaciones internacionales Springer. https://doi.org/
10.1007/9783030061647_1.
Martin, A., Nateqi, J., Gruarin, S., Munsch, N., Abdarahmane, I., Zobel, M. y Knapp, B. (2020).
Una defensa de primera línea basada en inteligencia artificial contra el COVID19: examinar digitalmente a los ciudadanos
en busca de riesgos a través de un chatbot. Informes científicos, 10(1), 19012. https://doi.org/10.1038/s41598020
75912x.
Morley, J., Machado V, C.C., Burr, C., Cowls, J., Joshi, I., Taddeo, M. y Floridi, L. (2020). La ética de la IA en la atención
sanitaria: una revisión cartográfica. CIENCIA SOCIAL Y MEDICINA, 260. https://doi.org/10.1016/j.socscimed.2020.113172.
Oren, O., Gersh, BJ y Bhatt, DL (2020). Inteligencia artificial en imágenes médicas: pasar de datos patológicos radiográficos
a criterios de valoración clínicamente significativos. The Lancet Digital Health, 2(9), e486–e488. https://doi.org/10.1016/
S25897500(20)301606.
Price, WN 2nd y Cohen, IG (2019). Privacidad en la era del big data médico. Medicina de la naturaleza, 25 (1), 37–43. https://
doi.org/10.1038/s4159101802727.
Racine, E., Boehlen, W. y Sample, M. (2019). Usos sanitarios de la inteligencia artificial: desafíos y oportunidades de
crecimiento. Foro de gestión sanitaria, 32 (5), 272–275. https://doi.org/10.1177/0840470419843831.
Reddy, S., Allan, S., Coghlan, S. y Cooper, P. (2020). Un modelo de gobernanza para la aplicación de la IA en la asistencia
sanitaria. Revista de la Asociación Estadounidense de Informática Médica, 27(3), 491–497. https://doi.org/10.1093/jamia/
ocz192.
Risling, TL y Low, C. (2019). Abogando por una atención segura, de calidad y justa: lo que los líderes de enfermería deben
saber sobre la inteligencia artificial en la prestación de atención médica. Liderazgo en enfermería (Toronto, Ontario), 32(2),
31–45. https://doi.org/10.12927/cjnl.2019.25963.
Soltan, AAS, Kouchaki, S., Zhu, T., Kiyasseh, D., Taylor, T., Hussain, ZB, Peto, T., Brent, AJ, Eyre, DW y Clifton, DA (2021).
Triaje rápido para COVID19 utilizando datos clínicos de rutina para pacientes que acuden al hospital: desarrollo y validación
prospectiva de una prueba de detección de inteligencia artificial. The Lancet Digital Health, 3(2), e78–e87. https://doi.org/
10.1016/S25897500(20)302740.
Tang, X. (2020). El papel de la inteligencia artificial en la investigación de imágenes médicas. BJR|Abierto, 2(1),
20190031. https://doi.org/10.1259/bjro.20190031.
Tsiknakis, N., Trivizakis, E., Vassalou, E., Papadakis, G., Spandidos, D., Tsatsakis, A., Sánchez Gãrcíã, J., López González,
R., Pãpãnikolãou, N., Kãrãntãnãs, A. y Mãriãs, K. (2020).
Marco de inteligencia artificial interpretable para la detección de COVID19 en radiografías de tórax.
Experimental y terapéutico 20(2), 727–735. https://doi.org/10.3892/etm.2020.8797.
Medicamento,
UNESCO. (2009). La Declaración Universal de la UNESCO sobre Bioética y Derechos Humanos

DOI 10.1344/rbd2023.57.35146
Antecedentes, principios y aplicación (HAMJ ten Have & MS Jean (eds.)). Naciones Unidas para la Educación. http://
www.unescochairbioethics.org/wpcontent/uploads/2015/08/The UNESCOUniversalDeclarationonBioethicsand
HumanRightsBackgroundPrinciples andApplication.pdf.
Uusitalo, S., Tuominen, J. y Arstila, V. (2020). Mapear las cuestiones filosóficas de la <scp>IA</scp> y la práctica
clínica en el diagnóstico y tratamiento de los trastornos mentales. Revista de Evaluación en la Práctica Clínica,
jep.13485. https://doi.org/10.1111/jep.13485.
Visweswãrãn, S., Colditz, J.B., O'Hãllorãn, P., Hãn, N.R., Taneja, SB, Welling, J., Chu, K.H., Sidani, JE y Primack,
B.A. (2020). Clasificadores de aprendizaje automático para la vigilancia del vapeo en Twitter: estudio comparativo de
aprendizaje automático. Revista de investigación médica en Internet, 22(8), e17478. https://doi.org/10.2196/17478.
Weikert, T., Winkel, DJ, Bremerich, J., Stieltjes, B., Parmar, V., Sauter, AW y Sommer, G.
(2020). Detección automatizada de embolia pulmonar en angiografías pulmonares por TC mediante un algoritmo
impulsado por IA. 30(12), 6545–6553. Europeo Radiología,
https://doi.org/10.1007/s00330020069980.
Woo, H., Cho, Y., Shim, E., Lee, J.K., Lee, C.G. y Kim, SH (2016). Estimación de brotes de influenza utilizando datos
de consultas de motores de búsqueda y datos de redes sociales en Corea del Sur. Revista de investigación médica
en Internet, 18(7), e177. https://doi.org/10.2196/jmir.4955.
Yetisen, AK, MartinezHurtado, JL, Ünal, B., Khademhosseini, A. y Butt, H. (2018).
Usables en Medicamento. Avanzado materiales, 30(33), 1706910.
https://doi.org/10.1002/adma.201706910.
Zhang, J., Oh, YJ, Lange, P., Yu, Z. y Fukuoka, Y. (2020). Modelo de cambio de comportamiento de chatbot de
inteligencia artificial para diseñar chatbots de inteligencia artificial para promover la actividad física y una dieta
saludable: punto de vista. Revista de investigación médica en Internet, 22(9), e22845. https://doi.org/10.2196/22845.
Cierre de recepción: 26 de mayo de 2021
Cierre de aceptación: 25 de octubre de 2022
Cierre de publicación: 14 de febrero de 2023

Aspectos Bioéticos Da Utilização de Sistemas de Inteligência Artificial No Campo

Enviado por

Dados do documento

Título original

Direitos autorais

Formatos disponíveis

Compartilhar este documento

Compartilhar ou incorporar documento

Opções de compartilhamento

Você considera este documento útil?

Este conteúdo é inapropriado?

Direitos autorais:

Formatos disponíveis

Aspectos Bioéticos Da Utilização de Sistemas de Inteligência Artificial No Campo

Enviado por

Direitos autorais:

Formatos disponíveis

Machine Translated by Google

Revista Bioética y Derecho

www.bioeticayderecho.ub.edu – ISSN 1886 –5887

Cuestiones de bioética relacionadas con la Inteligencia Artificial en Salud: un estudio exploratorio

Paraules clau: inteligencia artificial; bioética; promoción de la salud.

Palabras clave: inteligencia artificial; bioética; promoción de la salud.

www.bioeticayderecho.ub.edu ­ ISSN 1886­5887

supervisado o autónomo; y también puede combinar otras tecnologías, como el aprendizaje

de máquinas y redes neuronales (Haenlein & Kaplan, 2019).

sus aplicaciones van desde sistemas de toma de decisiones automatizados y autónomos

legal; toma de decisiones en el mercado de valores y bolsa de valores; automatización y

optimización de procesos gerenciales e industriales; así como aplicaciones en el ámbito sanitario

(Johnson, 2019; Kaul et al., 2020; Marquis et al., 2020).

En cuanto a las aplicaciones de los sistemas de IA en el ámbito sanitario, podemos destacar

algunos usos muy consolidados(Johnson, 2019), como el cribado de enfermedades

transmisible, por ejemplo, en la pandemia de COVID­19(Martin et al., 2020; Soltan et al.,

2021; Tsiknakis et al., 2020); monitoreo y vigilancia en tiempo real de la información en el

internet y redes sociales, en busca de brotes de enfermedades y conductas de riesgo (Husnayain

laboratorio e imagenología; además de ser utilizado en el diagnóstico y pronóstico de algunas

Las tecnologías portátiles, también conocidas como “wearables”, no son

www.bioeticayderecho.ub.edu ­ ISSN 1886­5887

El objetivo es “realizar una reflexión compleja, compartida e interdisciplinar sobre la adecuación

presente (Goldim, 2006, 2009).

y actitudes de profanos y profesionales de diferentes áreas respecto al uso de los sistemas

uso de sistemas de IA en el campo de la salud y los aspectos bioéticos asociados a este

Estudio de método mixto, descriptivo­exploratorio (Creswell & Clark, 2015).

2.2 Etapa 1: Estrategia sistemática de búsqueda de información

En la etapa 1 se realizó una búsqueda sistemática de información en bases de datos (Pubmed,

www.bioeticayderecho.ub.edu ­ ISSN 1886­5887

2.3 Paso 2: Elaboración de escenarios de toma de decisiones sobre el uso

A partir de la búsqueda realizada en la Etapa 1, creamos escenarios de toma de decisiones

Decisiones (bio)éticas sobre el uso de la IA en diferentes campos de la salud, abordando las

Fue divulgado en las redes sociales en línea Facebook®, Instagram® y Whatsapp®. A

Cuestiones sociales relativas al uso de sistemas de IA en los procedimientos asistenciales en el ámbito de la

estudio sobre aspectos bioéticos asociados al uso de sistemas de inteligencia

artificiales, como el consentimiento informado, la relación médico­paciente, la privacidad y

confidencialidad, responsabilidad profesional e institucional, así como cuestiones asociadas

el riesgo de utilizar este tipo de tecnología.

2.3.1 Escenario de toma de decisiones 1:

Tema tratado: IA y consulta médica

Acude a una institución de salud para una cita médica de rutina. Es

los demás sistemas y servicios/sectores/departamentos del hospital. Debido al gran volumen de

que optimice el trabajo de los profesionales de la salud, además de mejorar la calidad de

asistencia brindada al paciente.

su atención, su médico tratante hace observaciones personalizadas basadas en la

recomendaciones procesadas por los sistemas de inteligencia artificial de la institución.

www.bioeticayderecho.ub.edu ­ ISSN 1886­5887

¿Está considerando el uso de inteligencia artificial en una consulta de rutina?

2.3.2 Escenario de toma de decisiones 2:

Tema tratado: IA y recopilación de datos en tiempo real a través de dispositivos

Dispositivos inteligentes como teléfonos inteligentes y relojes inteligentes.

por teléfonos inteligentes.

corporaciones tecnológicas, como Google, Apple y Amazon, por ejemplo, varias

y procesados a través de algoritmos y sistemas de inteligencia artificial específicos para estos

considerando el uso de inteligencia artificial a través de la recopilación y el procesamiento de datos

¿Desde dispositivos inteligentes, como teléfonos inteligentes y relojes, por ejemplo?

2.3.3 Escenario de toma de decisiones 3:

Tema tratado: IA e interpretación de exámenes

para confirmar o refutar la hipótesis diagnóstica

artificial. Tras esta tramitación informarán al técnico responsable sobre la

resultados y el técnico puede o no respaldar estos resultados e informar los resultados de

www.bioeticayderecho.ub.edu ­ ISSN 1886­5887

Sus resultados coincidieron con la hipótesis diagnóstica del médico. De

www.bioeticayderecho.ub.edu ISSN 18865887

transmisible, por ejemplo, en la pandemia de COVID19(Martin et al., 2020; Soltan et al.,

www.bioeticayderecho.ub.edu ISSN 18865887

Estudio de método mixto, descriptivoexploratorio (Creswell & Clark, 2015).

www.bioeticayderecho.ub.edu ISSN 18865887

artificiales, como el consentimiento informado, la relación médicopaciente, la privacidad y

www.bioeticayderecho.ub.edu ISSN 18865887

www.bioeticayderecho.ub.edu ISSN 18865887

www.bioeticayderecho.ub.edu ISSN 18865887

www.bioeticayderecho.ub.edu ISSN 18865887

www.bioeticayderecho.ub.edu ISSN 18865887

¿Impacta la relación médicopaciente?

www.bioeticayderecho.ub.edu ISSN 18865887

www.bioeticayderecho.ub.edu ISSN 18865887

www.bioeticayderecho.ub.edu ISSN 18865887