Os controis europeos non son suficientes para paliar o rumbo dos sistemas de intelixencia artificial en saúde

2025/05/26 Elhuyar Zientzia Iturria: Elhuyar aldizkaria

• Medikuntza
• Etika
• Adimen artifiziala

Os controis que establece Europa para paliar o rumbo nos sistemas de saúde baseados na intelixencia artificial non son suficientes. Así o deduciron, entre outros, os investigadores Iñigo de Miguel Beriain (UPV/EHU) e Guillermo Lazcoz Moratinos (Instituto de Saúde Carlos III), nun estudo publicado na revista Bioethics. Os investigadores propuxeron políticas alternativas para facer fronte ao problema de descolgue que existe nestes sistemas.

Os sistemas de intelixencia artificial son cada vez máis utilizados para axudar a realizar diagnósticos ou para recomendar tratamentos que mellor se adapten aos pacientes. Pero estes sistemas tamén teñen riscos. Un dos principais problemas son os rumbos. Por exemplo, supoñamos que utilizamos un sistema adestrado con persoas dunha poboación onde predomina unha pel moi clara, que ten un rumbo evidente, xa que non funciona ben con peles máis bronceadas. Os rumbos constitúen un problema grave no ámbito sanitario xa que, ademais da imprecisión, afectan especialmente a determinados sectores da poboación.

De Miguel e Lazcoz analizaron as políticas para paliar estes rumbos. Estas políticas están recollidas nas novas normativas europeas sobre Intelixencia Artificial e o Marco Europeo de Datos de Saúde (ODEE). E os investigadores observaron que a normativa europea sobre produtos sanitarios pode resultar inadecuada para facer fronte a un reto non só técnico, senón tamén social. Subliñaron que moitas formas de comprobar os produtos sanitarios son nun momento no que non existía IA.

Os investigadores consideran que o mellor camiño para corrixir os problemas de rumbo non é aumentar o número de datos. É unha solución reduccionista, cos seus cheiros. E, ademais, esa estratexia ten riscos, sobre todo os relacionados coa privacidade. Por outra banda, advirten de que si se necesitan máis datos, hai que analizar ben onde e como se procesan eses datos.

Doutra banda, os investigadores suxeriron no artigo a posibilidade de introducir mecanismos de valoración obrigatorios. Estes mecanismos aplicaríanse non só nas fases de deseño e desenvolvemento senón tamén despois da súa comercialización. Por exemplo, propoñen que, do mesmo xeito que o funcionamento dos novos medicamentos próbase a pequena escala, os sistemas AA, en lugar de probalos a gran escala, deberían ser probados nun único hospital. E despois de ver que funcionan, que son seguros, etc., deberían abrirse a outros lugares.