La OMS indica cómo regular la inteligencia artificial para la salud

La inteligencia artificial (IA) es un fenómeno imparable que puede tener muchas ventajas, pero también numerosos inconvenientes si no se utiliza de forma adecuada. Tal vez por ello la Organización Mundial de la Salud (OMS) ha publicado un nuevo informe en el que propone una serie de consideraciones regulatorias sobre la IA en el ámbito de la salud que considera fundamentales.

En este informe los expertos de la OMS ponen de manifestó la importancia de establecer la seguridad y eficacia de los sistemas de inteligencia artificial y de que los sistemas apropiados se pongan cuanto antes a disposición de quienes los necesiten, además de favorecer el diálogo entre las partes interesadas, incluidos desarrolladores, reguladores, fabricantes, profesionales de la salud y pacientes.

Pros y contras del uso de IA en el ámbito de la salud

Las herramientas de inteligencia artificial podrían transformar el sector de la salud gracias a la cada vez mayor disponibilidad de datos sobre atención médica y al progresivo avance de las técnicas analíticas (ya sean de aprendizaje automático, basadas en lógica o estadísticas). La OMS reconoce el potencial de la IA para mejorar los resultados de salud por su contribución en los ensayos clínicos y en la mejora del diagnóstico médico, el tratamiento, el autocuidado y la atención centrada en la persona, y porque constituye un complemento a los conocimientos, habilidades y competencias de los profesionales sanitarios.

“La inteligencia artificial es muy prometedora para la salud, pero también plantea serios desafíos, incluida la recopilación de datos poco ética, amenazas a la ciberseguridad y amplificación de los sesgos o la desinformación”

Por ejemplo, la IA podría ser beneficiosa en entornos donde hubiera una escasez de especialistas médicos y ayudar, por ejemplo, en la interpretación de escáneres de retina e imágenes radiológicas, entre otras muchas aplicaciones. Sin embargo, existe un ‘lado oscuro’ porque las tecnologías de inteligencia artificial se están implementando con demasiada rapidez, y a veces sin comprender completamente su funcionamiento, lo que podría beneficiar o perjudicar a los usuarios finales, incluidos los profesionales de la salud y los pacientes.

Al utilizar datos de salud, los sistemas de IA podrían tener acceso a información personal confidencial, y esto hace necesario establecer marcos legales y regulatorios que garanticen la privacidad, la seguridad y la integridad, algo que pretende ayudar a establecer y mantener la nueva publicación de la OMS.

“La inteligencia artificial es muy prometedora para la salud, pero también plantea serios desafíos, incluida la recopilación de datos poco ética, amenazas a la ciberseguridad y amplificación de los sesgos o la desinformación”, ha afirmado el Dr. Tedros Adhanom Ghebreyesus, Director General de la OMS. “Esta nueva guía ayudará a los países a regular la IA de manera efectiva para aprovechar su potencial, ya sea en el tratamiento del cáncer o en la detección de la tuberculosis, minimizando al mismo tiempo los riesgos”.

Los sistemas de IA son complejos y no solo dependen del código con el que están diseñados, sino también de los datos con los que están entrenados, que proceden de entornos clínicos y de interacciones con los usuarios, por ejemplo. Una mejor regulación puede ayudar a controlar los riesgos que supone que la IA pueda amplificar los sesgos en los datos de entrenamiento.

Por ejemplo, puede resultar difícil para los modelos de IA representar con precisión la diversidad de poblaciones, lo que genera sesgos, imprecisiones, o incluso fracasos. Para ayudar a mitigar estos riesgos se pueden emplear regulaciones para garantizar que se incluya información sobre las características (como el género, la raza y el origen étnico) de las personas que aparecen en los datos de capacitación y que los conjuntos de datos se hagan representativos de forma intencionada.

Propuestas de la OMS para regular la IA para la salud

La nueva publicación de la OMS tiene como objetivo plantear los principios clave en los que se pueden basar los gobiernos y las autoridades reguladoras para desarrollar nuevas orientaciones o adaptar las orientaciones existentes sobre IA a nivel nacional o regional, y describe seis áreas para la regulación de la IA para la salud.

• Para fomentar la confianza, la publicación enfatiza la importancia de la transparencia y la documentación, por ejemplo, documentando todo el ciclo de vida del producto y rastreando los procesos de desarrollo.

• Para la gestión de riesgos, cuestiones como el “uso previsto”, el “aprendizaje continuo”, las intervenciones humanas, los modelos de formación y las amenazas a la ciberseguridad deben abordarse de forma integral, con modelos lo más simples posible.

• Validar los datos externamente y tener claro el uso previsto de la IA ayuda a garantizar la seguridad y facilitar la regulación.

• Un compromiso con la calidad de los datos, por ejemplo, mediante una evaluación rigurosa de los sistemas antes del lanzamiento, es vital para garantizar que los sistemas no amplifiquen los sesgos y los errores.

• Los desafíos que plantean regulaciones importantes y complejas, como el Reglamento General de Protección de Datos (GDPR) en Europa y la Ley de Responsabilidad y Portabilidad del Seguro Médico (HIPAA) en EE. UU., se abordan haciendo hincapié en la comprensión del alcance de la jurisdicción y requisitos de consentimiento, al servicio de la privacidad y la protección de datos.

• Fomentar la colaboración entre organismos reguladores, pacientes, profesionales de la salud, representantes de la industria y socios gubernamentales puede ayudar a garantizar que los productos y servicios cumplan con la regulación durante todo su ciclo de vida.

Fuente: Organización Mundial de la Salud (OMS)