Los controles europeos no son suficientes para paliar el sesgo de los sistemas de inteligencia artificial en salud

2025/05/26 Elhuyar Zientzia Iturria: Elhuyar aldizkaria

• Medikuntza
• Etika
• Adimen artifiziala

Los controles que establece Europa para paliar el sesgo en los sistemas de salud basados en la inteligencia artificial no son suficientes. Así lo han deducido, entre otros, los investigadores Iñigo de Miguel Beriain (UPV/EHU) y Guillermo Lazcoz Moratinos (Instituto de Salud Carlos III), en un estudio publicado en la revista Bioethics. Los investigadores han propuesto políticas alternativas para hacer frente al problema de descuelgue que existe en estos sistemas.

Los sistemas de inteligencia artificial son cada vez más utilizados para ayudar a realizar diagnósticos o para recomendar tratamientos que mejor se adapten a los pacientes. Pero estos sistemas también tienen riesgos. Uno de los principales problemas son los sesgos. Por ejemplo, supongamos que utilizamos un sistema entrenado con personas de una población donde predomina una piel muy clara, que tiene un sesgo evidente, ya que no funciona bien con pieles más bronceadas. Los sesgos constituyen un problema grave en el ámbito sanitario ya que, además de la imprecisión, afectan especialmente a determinados sectores de la población.

De Miguel y Lazcoz han analizado las políticas para paliar estos sesgos. Estas políticas están recogidas en las nuevas normativas europeas sobre Inteligencia Artificial y el Marco Europeo de Datos de Salud (ODEE). Y los investigadores han observado que la normativa europea sobre productos sanitarios puede resultar inadecuada para hacer frente a un reto no sólo técnico, sino también social. Han subrayado que muchas formas de comprobar los productos sanitarios son en un momento en el que no existía IA.

Los investigadores consideran que el mejor camino para corregir los problemas de sesgo no es aumentar el número de datos. Es una solución reduccionista, con sus olores. Y, además, esa estrategia tiene riesgos, sobre todo los relacionados con la privacidad. Por otra parte, advierten de que si se necesitan más datos, hay que analizar bien dónde y cómo se procesan esos datos.

Por otro lado, los investigadores han sugerido en el artículo la posibilidad de introducir mecanismos de valoración obligatorios. Estos mecanismos se aplicarían no solo en las fases de diseño y desarrollo sino también después de su comercialización. Por ejemplo, proponen que, al igual que el funcionamiento de los nuevos medicamentos se prueba a pequeña escala, los sistemas AA, en lugar de probarlos a gran escala, deberían ser probados en un único hospital. Y después de ver que funcionan, que son seguros, etc., deberían abrirse a otros lugares.