É hora de que as máquinas teñan en conta a diversidade humana e a inclusión

Na maioría dos casos, os investigadores utilizan cidadáns txuris de alto nivel socioeconómico paira desenvolver interfaces e posteriormente, cometen erros no rexistro e interpretaci&oa

Os investigadores están a facer un gran esforzo para que as máquinas poidan identificar facilmente aos seres humanos e manter una comunicación cada vez máis eficaz con eles. A mellora continua das interfaces foi denunciada por investigadores da Universidade de Purdue (EE.UU.) na revista Science por seguir sen ter en conta a diversidade humana. Non só no que respecta á etnia, senón tamén no que se refire á clase social e ás capacidades. Din que se segue fomentando a exclusión da tecnoloxía.

Á hora de deseñar as investigacións hai que ter en conta a diversidade humana, de non ser así as interfaces reproducen os mesmos prexuízos e erros que os investigadores. Por iso, os grupos de investigación sobre a relación entre máquinas e seres humanos destacaron a necesidade de contar con científicos capaces de afrontar a hexemonía cultural. Pola contra, as máquinas non se integrarán na nosa contorna natural, virtual, psicolóxico, económico ou social.

Con todo, na maioría dos casos, os investigadores utilizan a cidadáns e cidadás txuris de alto nivel socioeconómico no proceso de desenvolvemento de interfaces e, por tanto, comprobaron que moitos grupos delas quedan fóra destas tecnoloxías.

Por exemplo, as interfaces constantemente cometen erros no rexistro e interpretación dos datos. Non só cando as persoas interaccionan activamente coas máquinas (por exemplo, cun vehículo autónomo), senón tamén no caso de usuarios conscientes da interacción pero pasivos (como ocorre cos dispositivos que toman datos paira o diagnóstico médico), ou naqueles casos nos que non son conscientes e ademais convértense en usuarios non autorizados da tecnoloxía (tecnoloxías utilizadas pola policía paira a análise de caras).

As consecuencias son graves: ao adestrarse as interfaces de identificación de enfermidades cutáneas con persoas de pel branca, prodúcense grandes erros nas peles escuras; os algoritmos de recoñecemento facial non identifican ben a persoas racializadas; e un longo etcétera.

Por tanto, nos procesos de adestramento de interfaces solicitouse aos investigadores que por fin integren a cidadáns de baixo nivel socioeconómico, minorías étnicas, migrantes e persoas con diversidade funcional.