Un equipo de investigadores vinculados a la Universidad de Sevilla, el Joint Research Centre (JRC) de la Comisión Europea y del Hospital Universitario Virgen del Rocío acaba de presentar un estudio pionero en el mundo en el que proponen la primera clasificación científica de las distintas tecnologías, usos y aplicaciones de la Inteligencia Artificial (IA) en el ámbito de la Medicina y la Salud, desde el punto de vista de su implicación social y su alcance ético. La presentación de este estudio ha tenido lugar en el marco de la II HUMAINT Winter School on Fairness, Accountability and Transparency in Artificial Intelligence, celebrada en Sevilla.
Los últimos avances en sistemas de IA aplicados a la Medicina y la Salud presentan oportunidades extraordinarias en áreas de tan profundo interés social como la Oncología, la Genética y las Neurociencias, junto con algunos inconvenientes no menos extraordinarios y numerosas interrogantes que exigen un debate sereno y riguroso sobre su implementación, antes de que los efectos no deseados sean irreversibles, según defienden los autores del estudio.
La novedad del estudio radica en la visión global que aporta sobre los aspectos sociales de la IA aplicada en Medicina y Salud. Hasta ahora sólo existían algunas clasificaciones parciales desde el punto de vista tecnológico y de funcionamiento de los algoritmos que rigen los sistemas.
En la actualidad quedan pocas actividades humanas que sean completamente ajenas a las tecnologías basadas en la IA. En el ámbito de la Medicina y la Salud, la implementación de éstas es enorme y su crecimiento vertiginoso, con resultados potencialmente muy poderosos, que pueden afectar mucho al ser humano y a la sociedad en su conjunto, tanto de manera positiva (básicamente, por una mayor eficiencia) como negativamente (limitando el libre albedrío, por ejemplo, o abriendo la posibilidad de que sistemas autónomos adopten decisiones vitales para las personas).
El trabajo toma como punto de partida el informe técnico «Social Impact of Artificial Intelligence (AI) in Medicine and Health: An overwiew of the state-of-the-art and current trends from a European perspective» («Impacto social de la Inteligencia Artificial (IA) en Medicina y Salud: Una visión general de las últimas investigaciones y tendencias actuales desde una perspectiva europea»), un estudio realizado en 2019 por los profesores Emilio Gómez González, de la Escuela Técnica Superior de Ingeniería de la Universidad de Sevilla; Emilia Gómez Gutiérrez, del Joint Research Center, en el marco del proyecto de investigación HUMAINT con sede en el Centro de Estudios Avanzados del JRC de la Comisión Europea; Javier Márquez Rivas, neurocirujano del Hospital Universitario Virgen del Rocío; y María José Mayorga Buiza, anestesióloga del mismo hospital. Este proyecto tiene como objetivo general el estudio del impacto de los sistemas de IA en las personas y los aspectos éticos y sociales relacionados.
El estudio se ha difundido de manera inicial tanto en inglés, en una prestigiosa plataforma preprint, como en su traducción en español y puede consultarse en los siguientes enlaces: Artículo original en inglés y la traducción en español.
Rápido desarrollo
La IA aplicada a la Medicina y la Salud abarca un campo muy amplio, que va desde la existencia de software para interpretación de imágenes médicas hasta su integración en prácticamente todas las áreas clínicas y administrativas. La radiología y diferentes ramas de la cirugía que utilizaban dispositivos de realidad aumentada y robots quirúrgicos han estado al frente de esta transformación. Pero en la actualidad, la IA alcanza, de una manera u otra, a todas las especialidades.
En la clasificación propuesta en el estudio, los investigadores establecen un continuo desde las aplicaciones «positivas» de la IA en el campo de la Medicina y la Salud (software para soporte de decisiones que mejoran la eficiencia del diagnóstico, por ejemplo), a las «negativas» (la posibilidad de generar armas biológicas contra el conjunto de la población o una parte de ella), pasando por las que denominan «controvertidas» (la posibilidad de que personas no suficientemente formadas decidan sobre su propia salud o la de otros, o el marketing a medida en cuestiones relacionadas con la salud).
El objetivo del informe en el que se basa el estudio no es establecer líneas rojas a la implementación de la IA en el ámbito de la Medicina y la Salud, sino someter el asunto a un debate científico, serio y riguroso que tenga en cuenta elementos que hasta ahora sólo muy parcialmente han sido considerados en la literatura existente.
Hay aspectos, como la privacidad, la responsabilidad legal o los efectos en el empleo que han sido o están siendo analizados en relación con la aplicación de la Inteligencia Artificial en otros ámbitos, como las redes sociales, el comercio electrónico, la automatización de procesos fabriles o los vehículos autónomos. Sin embargo, existen otros aspectos directamente afectados por el uso de estos sistemas en el ámbito de la Medicina y la Salud que, o no han sido abordados (la generación de nuevas formas de vida artificial, la decodificación de las señales cerebrales y la posibilidad de «leer» el pensamiento, la edición genética y la autoexperimentación, o la adopción de decisiones sobre la vida o la muerte de las personas por parte de sistemas autónomos), o no lo han sido suficientemente (la confianza del paciente en su médico o los cambios legislativos necesarios, por ejemplo, para garantizar la explicabilidad de unos tratamientos diseñados por sistemas autónomos en vez de por los facultativos humanos y los propios procedimientos de evaluación del rendimiento de dichos sistemas).
La clasificación presentada también incluye una nueva ‘Escala de Disponibilidad de la Tecnología’ que permite conocer, de forma cualitativa y fácilmente comprensible, en qué medida los sistemas están disponibles, de acuerdo con la información publicada en los sectores científico, académico, industrial y en medios de comunicación. Es una escala de 10 niveles, que van desde considerado «no factible» a «disponible para el público general», similar pero complementaria a la «Escala de Madurez de las Tecnologías», de uso habitual en los ámbitos de I+D+i.