Celia Lury, Martín Tironi y Matías Valderrama participan de artículo publicado por Valuation Studies
El artículo “Valoración digital: lecciones relevantes a partir de la creación de prototipos de una aplicación de recomendación” (título original en inglés “Digital Valuation: Lessons in relevance from the prototyping of a recommendation app”), co–escrito por nuestra investigadora senior Celia Lury como autora principal, nuestro director Martín Tironi y nuestro estudiante doctoral Matías Valderrama, fue publicado por la revista Valuation Studies. También aparecen como co-autores los destacados investigadores Sophie Day (Goldsmiths, University of London), Andre Simon (co-creador de la app Big Sister) y Scott Wark (Goldsmiths, previamente University of Kent).
Este artículo muestra los resultados del proyecto de investigación Identidades algorítmicas, una colaboración internacional e interdisciplinaria entre académicos de la Pontificia Universidad Católica de Chile y la Universidad de Warwick, cuyo objetivo amplio es estudiar la configuración de las identidades a través de los datos digitales y las predicciones algorítmicas desde la computación, la sociología y el diseño. Otro artículo disponible sobre este estudio está publicado en español en la revista Palabra Clave.
El proyecto se centró en estudiar la relación entre nuestras identidades y los algoritmos que en la jerga computacional se conocen como “sistemas recomendadores”, que podemos encontrar en buscadores, aplicaciones de citas o servicios de streaming como Netflix o Spotify. Estos algoritmos se basan en grandes volúmenes de datos, pueden integrar procesos de aprendizaje automatizado o semiautomatizado y su objetivo es identificar(nos), ranquear(nos), clasificar(nos) y recomendar(nos) todo tipo de cosas. Comúnmente estos sistemas algorítmicos son percibidos como verdaderas cajas negras: es muy difícil comprender cómo llegan a determinadas recomendaciones, tanto para los usuarios como también a veces para los desarrolladores.
Es por esto que el proyecto Identidades algorítmicas decidió desarrollar un prototipo de aplicación (Big Sister), para provocar reacciones y problematizaciones en las personas mediante el diseño. Big Sister es una app que recopila posteos de redes sociales y otros textos escritos o seleccionadas por la persona usuaria para realizar perfiles y recomendaciones musicales. Ese prototipo se probó con participantes voluntarios por algunas semanas. El artículo “Digital Valuation: Lessons in relevance from the prototyping of a recommendation app” describe y reflexiona en torno a las experiencias, problemas y sorpresas de los participantes ante los resultados del perfilamiento.
Para el doctorando FAIR y co-autor del artículo, Matías Valderrama, esta investigación ofrece varias contribuciones para la investigación sobre las implicancias sociales de la IA.
“Primero, abordamos las complejas relaciones de las personas con los sistemas algorítmicos, profundizando en cómo interpretan los perfilamientos y recomendaciones que recibimos cotidianamente y que apelan a nuestras identidades de diferentes formas (pensemos, por ejemplo, en los videos algorítmicamente recomendados en TikTok bajo el título “Para ti”). En nuestro estudio, encontramos múltiples relaciones con los algoritmos, ya sea en tanto sujetos que interactúan con objetos a “educar”, pero también en tanto participantes que son parte de categorías y contextos más amplios y en constante cambio (pensemos en el estallido social) que las apps no logran capturar. En lugar de simplemente sugerir que la IA debiese hacerse más sensible a los contextos, problematizamos que estas relaciones siempre se dan en paralelo y siempre con excesos que establecen una parcialidad en lo que se puede o no predecir o recomendar con estos sistemas algorítmicos”.
En segundo lugar, Valderrama destaca el uso de prototipos en la investigación de IA desde las ciencias sociales y humanidades. La integración del diseño en la metodología de estos estudios permite no solo hacer una crítica externa sino también involucrarse y desarrollar alternativas.