¿La inteligencia artificial es neutral?

Parece claro que no, que esta tecnología no es un ente autónomo y que opera bajo las instrucciones y los datos con los que han sido entrenada. En esta entrega de Campo Base, Cristina Aranda, lingüista y experta en diversidad y alfabetización digital, se une a Xavi González para desmantelar el mito de la neutralidad en la IA. A través de su experiencia en iniciativas como Mujeres Tech, Cristina nos alerta sobre cómo los sesgos de quienes diseñan estos sistemas, mayoritariamente perfiles homogéneos, se filtran en los algoritmos, impactando directamente en la justicia social y en la forma en que las entidades del tercer sector interactúan con la tecnología.

A lo largo de la charla, exploramos la necesidad de una mirada feminista y diversa en el desarrollo tecnológico para evitar el "ethical-wahsing" de las grandes corporaciones. Cristina detalla cómo el entrenamiento de modelos de lenguaje con datos extraídos de internet sin control de calidad reproduce estereotipos.

Además, abordamos conceptos clave como la IA explicable y la importancia de la ciberseguridad en los procesos de las ONG, subrayando que la innovación no debe ser una excusa para detener la regulación necesaria que salvaguarda los derechos ciudadanos.

Cristina comparte ejemplos esperanzadores, desde el uso de avatares multilingües para hacer contenidos accesibles, hasta sistemas que detectan la dislexia o ayudan en el reparto equitativo de alimentos en campos de refugiados. La clave no es adoptar la tecnología por moda, sino entender qué procesos necesitan realmente ser optimizados y cómo hacerlo sin perder el espíritu crítico. Es una invitación a las organizaciones sociales a ser críticas, priorizando siempre a las personas y el propósito por encima de las herramientas.

Descubre más sobre innovación con impacto social en:⁠⁠ www.praxialab.com⁠⁠

¿Te ha interesado este debate? Suscríbete a Campo Base y comparte este episodio con otras profesionales del sector para seguir construyendo un camino propio en la era digital.