¿Se puede decolonizar la IA?: Martín Tironi y Camila Albornoz publican «Decolonizing AI? Lessons from a failed experiment» en Big Data & Society

Recientemente, la destacada revista Big Data & Society publicó el artículo “Decolonizing AI? Lessons from a failed experiment” escrito por el director del Núcleo Milenio FAIR Martín Tironi Rodó y Camila Albornoz (LMU). Esta publicación muestra los resultados de una investigación cuyo objetivo era proponer herramientas metodológicas para lograr una mayor diversidad e inclusión en el desarrollo tecnológico y de los imaginarios a través de una práctica crítica y situada. Concretamente, mediante un workshop de diseño especulativo que fue aplicado a un grupo de profesionales que trabajan en el área de la IA y de las smart cities.

La investigación de Tironi y Albornoz se sitúa sobre la idea de que el desarrollo técnico tiene sobre las transformaciones culturales una agencia radical en cuanto la producción de conocimiento y de sentido. En esta línea, cuestionar las máximas de progreso y digitalización con las que se tiende a mirar el futuro de la IA se vuelve central para una práctica descentrada y alternativa a los marcos de sentido capitalistas y del Norte Global. En este contexto, la propuesta de este experimento fue decolonizar los imaginarios de la IA mediante un workshop especulativo que hiciera «hablar» a la máquina de una manera diferente.

Sin embargo, los resultados del experimento revelaron un sesgo insuperable de los imaginarios disponibles por las inteligencias artificiales, profundizado además por la opacidad de las cajas negras dentro de las que estas operan. Este ejercicio mostró un fracaso del objetivo de generar una identidad alternativa y decolonizada. Este resultado fallido, no obstante, trajo consigo dos principales aprendizajes: en primer lugar que las metodologías decoloniales propuestas no fueron suficientes para superar las rígidas estructuras que fundamentan las respuestas de la IA. Y, en segundo lugar, la importancia de desarrollar formas de investigación basadas en la producción-de-problemas para la efectiva interrogación de metalenguajes y conocimientos cristalizados de expertos. En palabras de los autores:

“El fracaso del workshop nos invita a “quedarnos con el problema” (Haraway, 2018), a repensar las preguntas, y a recomponer el problema. En nuestro caso, la incapacidad para descentrar los imaginarios no fue simplemente un fallo técnico, sino, como Haraway (2018) lo hubiera descrito, una implosión: una convergencia de los regímenes afectivos, epistémicos y culturales que se resisten a transformación.”