A partir del trabajo de los autores, es decir, el análisis de la bibliografía existente, combinado con las opiniones de expertos en ética, regulación, ciencias políticas, profesionales sanitarios y tecnológicos, así como pacientes y asociaciones de pacientes, fue posible resumir algunas de las cuestiones más relevantes que deben analizarse en relación con los retos éticos relacionados con el uso de la inteligencia artificial en soluciones sanitarias y las posibles formas de mitigarlos.

Muchos estudios se basan en muestras sesgadas de pacientes y pequeños conjuntos de datos de una sola organización, sin validación externa (Bhowmik & Eskreis-Winkler, 2022), lo que lleva a cuestionar la precisión de las herramientas de I.A. En este sentido, las bases de datos compartidas entre instituciones pueden ayudar a resolver algunas de estas dificultades, siempre que se garantice la privacidad del paciente (Houssami et al., 2019).

Además, muchos estudios sobre herramientas basadas en la inteligencia artificial son retrospectivos y carecen de poder predictivo (Gong et al., 2022; Liang et al., 2022; Vedantham et al., 2023). Se necesitan estudios prospectivos multicéntricos a gran escala con datos exhaustivos y directrices de evaluación de la calidad para avanzar hacia la integración en la práctica clínica (Bhowmik y Eskreis-Winkler, 2022; Malherbe, 2021).

Sin embargo, la creciente abundancia de datos que se requiere también está planteando retos cada vez mayores a los sistemas sanitarios. A menudo, los centros sanitarios no disponen de un número adecuado de expertos formados para anotar estos datos, lo cual es esencial para los modelos de I.A. (como se explica en Goisauf y Cano Abadía, 2022). Tanto los conjuntos de datos de entrenamiento como los de prueba requieren una anotación meticulosa y el etiquetado de metadatos, utilizando formatos estandarizados para permitir la evaluación y optimización de la equidad algorítmica (Chua et al., 2021). Por otro lado, garantizar la total privacidad de los datos de los pacientes es una prioridad clara, tanto a efectos de cumplimiento legal como ético. Sin embargo, anonimizar completamente los datos es un reto importante y a menudo significa que los resultados obtenidos por la I.A. no pueden compararse con la evolución clínica del paciente, lo que obstaculiza la investigación y las oportunidades de seguir aprendiendo. El aprendizaje federado es uno de los enfoques utilizados actualmente para eludir las restricciones de privacidad (Kandati & Anusha, 2023), ya que permite el entrenamiento colaborativo de algoritmos sin compartir historiales médicos confidenciales, puesto que los datos permanecen almacenados en los servidores originales.

Esta necesidad de grandes conjuntos de datos y de profesionales altamente cualificados preocupa a los sistemas sanitarios, especialmente cuando se trata de herramientas patentadas basadas en la inteligencia artificial, ya que estas solo pueden estar al alcance de instituciones con mayores recursos financieros. Esto podría agravar las desigualdades en el acceso a la mejor atención sanitaria, como destacan Goisauf y Cano Abadía (2022). Además, la falta de análisis coste-efectividad y de investigación basada en la evidencia sobre las herramientas de I.A. hace que no sean fáciles de incluir en los planes de reembolso y en los paquetes de seguros. Según los expertos consultados, para ganarse la confianza de los pagadores, una herramienta basada en la I.A. debe ser más eficiente, tener menos errores y ser capaz de trabajar 24 horas al día, en comparación con la mano de obra humana. Además, los gastos asociados a las herramientas basadas en I.A. tienen el potencial de aumentar la disparidad entre las personas más ricas y aquellas con menores ingresos, si los conjuntos de datos utilizados para entrenar estas herramientas no incluyen datos de personas con un estatus socioeconómico más bajo, como señalan Cui et al. (2019), y por lo tanto no consideran variables potencialmente relevantes para las personas en situación de vulnerabilidad.

Otro reto emergente es la inclusión de la I.A. en la aplicación nacional del Reglamento sobre los Productos Sanitarios (Radley-Gardner et al., 2016). Los procedimientos no son uniformes en toda Europa y los equipos de investigación carecen de directrices y procedimientos claros sobre este tema. También desde el punto de vista de la investigación, la mayoría de los formularios de consentimiento informado obtenidos por las organizaciones sanitarias en relación con los datos de los pacientes no incluyen específicamente la formación en algoritmos, ya que la mayoría de estos consentimientos se recogieron hace mucho tiempo y no constituían una necesidad clara en ese momento. ¿Significa esto que los datos no pueden utilizarse para este fin? ¿Existe alguna excepción de interés público que se aplique a pesar de la falta de consentimiento claro para este fin? (Reddy et al., 2020). En otro aspecto relacionado con el consentimiento, autores como Hickman et al. (2021) plantearon la cuestión de si “antes de realizar cálculos como el riesgo de desarrollar una enfermedad, el paciente debería tener que aprobar este análisis tras recibir asesoramiento por parte de un profesional sanitario, de forma similar a los procedimientos previstos actualmente para las pruebas genéticas”. ¿Debería tenerse en cuenta la opinión del paciente a la hora de utilizar este tipo de herramientas? Todas estas cuestiones abiertas, así como los aspectos normativos relacionados, son por tanto ámbitos clave para seguir investigando y elaborando políticas.

El uso de herramientas de I.A. también plantea la cuestión de la responsabilidad (D’Amore et al., 2021; Houssami et al., 2019; Pesapane et al., 2022): ¿quién debe ser considerado responsable en caso de errores de clasificación? ¿Son los algoritmos comprensibles, incluso para profesionales experimentados, como señalan Iqbal y sus colegas (2021)?

Se espera que una herramienta de I.A. proporcione asesoramiento y que la decisión final recaiga en la experiencia del profesional sanitario. Sin embargo, pueden darse situaciones en las que la tecnología sea tan precisa y fiable que la confianza en sus datos resulte inevitable. Esto pone de relieve la compleja relación entre confianza y responsabilidad en el contexto de la asistencia sanitaria basada en la I.A. Por ello, la madurez de la propia tecnología desempeña un papel importante a la hora de asignar responsabilidades (Retos de la responsabilidad en las tecnologías médicas de IA, 2022). Aunque la legislación vigente intenta identificar a los posibles responsables de predicciones “erróneas” (programadores, médicos, proveedores de hardware), la cuestión sigue siendo ambigua, especialmente con modelos de inteligencia artificial cada vez más complejos (Schneeberger et al., 2020).  Para navegar por este panorama en evolución, son importantes varias estrategias clave. En primer lugar, contar con una legislación nacional e internacional adecuada y/o directrices hospitalarias que se actualicen a un ritmo más rápido y estén vinculadas a resultados basados en la evidencia. Además, promover enfoques colaborativos de toma de decisiones que incluyan a médicos, pacientes y otros profesionales relevantes puede mitigar los riesgos y garantizar la responsabilidad compartida (Hamilton et al., 2016). Siempre que sea posible, dar a los pacientes la oportunidad de participar activamente en las decisiones de tratamiento fomenta la confianza y la transparencia durante todo el proceso.

Aplicando estas medidas, podemos garantizar que las herramientas de I.A. no sólo mejoren los resultados clínicos, sino que también funcionen dentro de un marco de principios éticos y jurídicos claros.