Bilatzailea
La meitat de la informació de salut que proporcionen els bots és incorrecta o incompleta
La meitat de la informació de salut que s'obté consultant als bots és incorrecta o incompleta. Aquesta és la principal conclusió d'un estudi que acaba de publicar-se en BMJ Open. Els investigadors adverteixen que existeix un alt risc que augmenti la desinformació si es continuen utilitzant aquestes eines sense el control i l'educació adequats.
«Les eines ChatGPT, Grok, Gemini, Deep Seek i Meta AI proporcionen respostes defectuoses en temes de salut»
L'estudi s'ha realitzat amb cinc bots: Bessons, Deep Seek, Meta AI, ChatGPT i Grok. Cadascun va ser sotmès a 250 preguntes de cinc categories: càncer, vacunes, cèl·lules mare, alimentació i rendiment físic. Algunes preguntes eren tancades — es demanava una resposta concreta — i altres obertes. Posteriorment, es va analitzar si aquestes respostes eren “no -problemàtiques”, “una mica problemàtiques” o “molt problemàtiques”, on es considerava problemàtic quan els usuaris normals seguien aquestes respostes per a triar tractaments ineficaços o fins i tot córrer el risc de sofrir danys.
Perquè van veure que el 30% de les respostes donades pels bots eren una mica problemàtiques i el 20% molt problemàtiques. No es van observar grans diferències entre els bots, però va ser Grok qui va generar el major nombre de respostes problemàtiques, mentre que Gemini va obtenir els millors resultats. Quant a les àrees, les respostes sobre vacunes i càncer van ser les més fiables, mentre que en nutrició, rendiment esportiu i al voltant de cèl·lules mare es van detectar el major nombre de deficiències.
«Recorden que els bots no raonen i no consideren les evidències.»
A més, els investigadors subratllen que és preocupant com els bots presenten les respostes: amb total seguretat i certesa, amb pocs advertiments o excepcions. Recorden que els bots no justifiquen i no tenen en compte les evidències. Les fonts de dades utilitzades per a l'entrenament inclouen fòrums i xarxes socials, i la recerca científica sovint es limita a publicacions d'accés obert (al voltant del 30-50% dels estudis publicats).
En conseqüència, els experts criden a prendre mesures perquè l'educació de la població i la normativa adequada siguin necessàries perquè la intel·ligència artificial afavoreixi la salut pública en lloc de perjudicar-la.
Buletina
Bidali zure helbide elektronikoa eta jaso asteroko buletina zure sarrera-ontzian
