Els controls europeus no són suficients per a pal·liar el biaix dels sistemes d'intel·ligència artificial en salut

2025/05/26 Elhuyar Zientzia Iturria: Elhuyar aldizkaria

• Medikuntza
• Etika
• Adimen artifiziala

Els controls que estableix Europa per a pal·liar el biaix en els sistemes de salut basats en la intel·ligència artificial no són suficients. Així ho han deduït, entre altres, els investigadors Iñigo de Miguel Beriain (UPV/EHU) i Guillermo Lazcoz Moratinos (Institut de Salut Carles III), en un estudi publicat en la revista Bioethics. Els investigadors han proposat polítiques alternatives per a fer front al problema de despengi que existeix en aquests sistemes.

Els sistemes d'intel·ligència artificial són cada vegada més utilitzats per a ajudar a realitzar diagnòstics o per a recomanar tractaments que millor s'adaptin als pacients. Però aquests sistemes també tenen riscos. Un dels principals problemes són els biaixos. Per exemple, suposem que utilitzem un sistema entrenat amb persones d'una població on predomina una pell molt clara, que té un biaix evident, ja que no funciona bé amb pells més bronzejades. Els biaixos constitueixen un problema greu en l'àmbit sanitari ja que, a més de la imprecisió, afecten especialment a determinats sectors de la població.

De Miguel i Lazcoz han analitzat les polítiques per a pal·liar aquests biaixos. Aquestes polítiques estan recollides en les noves normatives europees sobre Intel·ligència Artificial i el Marc Europeu de Dades de Salut (ODEE). I els investigadors han observat que la normativa europea sobre productes sanitaris pot resultar inadequada per a fer front a un repte no sols tècnic, sinó també social. Han subratllat que moltes maneres de comprovar els productes sanitaris són en un moment en el qual no existia IA.

Els investigadors consideren que el millor camí per a corregir els problemes de biaix no és augmentar el nombre de dades. És una solució reduccionista, amb les seves olors. I, a més, aquesta estratègia té riscos, sobretot els relacionats amb la privacitat. D'altra banda, adverteixen que si es necessiten més dades, cal analitzar bé on i com es processen aquestes dades.

D'altra banda, els investigadors han suggerit en l'article la possibilitat d'introduir mecanismes de valoració obligatoris. Aquests mecanismes s'aplicarien no sols en les fases de disseny i desenvolupament sinó també després de la seva comercialització. Per exemple, proposen que, igual que el funcionament dels nous medicaments es prova a petita escala, els sistemes AA, en lloc de provar-los a gran escala, haurien de ser provats en un únic hospital. I després de veure que funcionen, que són segurs, etc., haurien d'obrir-se a altres llocs.