Texto redactado en euskara e traducido automaticamente por Elia e sen posterior revisión. VER ORIXINAL

A metade da información de saúde que proporcionan os chatbots é incorrecta ou incompleta

A metade da información de saúde que se obtén consultando aos chatbots é incorrecta ou incompleta. Esta é a principal conclusión dun estudo que acaba de publicarse en BMJ Open. Os investigadores advirten que existe un alto risco de que aumente a desinformación se se seguen utilizando estas ferramentas sen o control e a educación axeitados.

«As ferramentas ChatGPT, Grok, Gemini, Deep Seek e Meta AI proporcionan respostas defectuosas en temas de saúde»

O estudo realizouse con cinco chatbots: Xémini, Deep Seek, Meta AI, ChatGPT e Grok. Cada un foi sometido a 250 preguntas de cinco categorías: cancro, vacinas, células nai, alimentación e rendemento físico. Algunhas preguntas eran pechadas — pedíase unha resposta concreta — e outras abertas. Posteriormente, analizouse si estas respostas eran “non -problemáticas”, “algo problemáticas” ou “moi problemáticas”, onde se consideraba problemático cando os usuarios normais seguían estas respostas para elixir tratamentos ineficaces ou mesmo correr o risco de sufrir danos.

Pois viron que o 30% das respostas dadas polos chatbots eran algo problemáticas e o 20% moi problemáticas. Non se observaron grandes diferenzas entre os chatbots, pero foi Grok quen xerou o maior número de respostas problemáticas, mentres que Gemini obtivo os mellores resultados. En canto ás áreas, as respostas sobre vacinas e cancro foron as máis fiables, mentres que en nutrición, rendemento deportivo e ao redor de células nai detectar o maior número de deficiencias.

«Lembran que os chatbots non razoan e non consideran as evidencias.»

Ademais, os investigadores subliñan que é preocupante como os chatbots presentan as respostas: con total seguridade e certeza, con poucas advertencias ou excepcións. Lembran que os chatbots non xustifican e non toman en conta as evidencias. As fontes de datos utilizadas para o adestramento inclúen foros e redes sociais, e a investigación científica a miúdo limítase a publicacións de acceso aberto (ao redor do 30-50% dos estudos publicados).

En consecuencia, os expertos chaman a tomar medidas para que a educación da poboación e a normativa axeitada sexan necesarias para que a intelixencia artificial favoreza a saúde pública en lugar de prexudicala.