Project

Algorithmic Identities aims to contribute to the social studies of data and algorithms. In this emerging field, considerable attention has been paid to the social and technical aspects of algorithms themselves. Far less attention has been paid to how users perceive and understand algorithms. In response, we devised this project to understand how people from Chile and the United Kingdom feel about the extraction of digital data and the algorithmic inferences that are made about them.

But algorithms are difficult to study. The major platforms we use every day are proprietary, opaque, and inscrutable. To study these algorithms, we have adopted an inventive, interdisciplinary approach (Lury & Wakeford, 2012; Lury et al. 2018). In collaboration with computer scientists, sociologists and designers, we made a prototype (Corsín Jimenez, 2014; Tironi, 2020) – a smartphone app called Big Sister.

Big Sister is a smartphone app that emulates a profiling and recommendation system. We decided to call our app Big Sister to invoke and play on the figure of Big Brother – who’s always watching – whilst also recognizing the digital expressions of power that Shoshana Zuboff calls Big Other (2015). If Big Br/Other generate recommendations by collecting your data without your knowledge and with minimal consent, we want Big Sister to show you how these processes work.

We have devised this project as a participatory experiment in prototyping. We combine techniques of digital trace collection, qualitative methods and visualization to open up questions about participation, use and users, habit, and the binary of subjects and objects. By asking participants to use Big Sister and tell us about their experiences, we aim to start conversations about practices of data extractivism that pervade our daily lives.

“Algorithmic Identities” is being conducted under the auspices of the Fondecyt project N°1180062: “Datafication of urban environments and individuals: an analysis of the designs, practices and discourses of the production and management of digital data in Chile”, and People Like You: Contemporary Figures of Personalisation, funded by a Collaborative Award in the Medical Humanities and Social Sciences from the Wellcome Trust Foundation 2018–2022 (205456/Z/16/Z). It has also been supported by the “Interdisciplinary Research 2018 Funding” from the Vice-Rectory for Research (VRI) of the Pontificia Universidad Católica de Chile.

Proyecto

Los sistemas de perfilamiento y recomendación algorítmica son una parte fundamental en los servicios online que usamos cotidianamente. Nos suelen informar de lo que otras personas como nosotros compran por Internet, o a sugerir personas similares a nosotros que podríamos conocer en redes sociales, o a recomendar canciones, libros, películas o programas de televisión que otras personas como nosotros han disfrutado.A veces, estos sistemas de perfilamiento y recomendación algorítmica pueden ser sorpresivamente muy certeros, logrando “aprender” de nuestros gustos. A veces, pueden fallar de manera graciosa y no hacer sentido alguno, llegando a inferir conclusiones extrañas o incluso cómicas sobre quiénes somos a partir de lo que hacemos online. A veces estos sistemas algorítmicos parecen conocernos demasiado bien, mientras que otras veces parecen fallar completamente.

Big Sister es una app diseñada para explorar la relación entre nuestras identidades y los múltiples sistemas de perfilamiento y recomendación algorítmica que invaden nuestra vida cotidiana. A través del análisis de las cuentas en Facebook o Twitter o textos escritos por participantes voluntarios, la app hace inferencias sobre la personalidad para generar recomendaciones de canciones que les podrían gustar. En el proceso, hace más transparente a estos sistemas de perfilamiento y recomendación algorítmica, dando a los participantes una mejor comprensión sobre cómo la identidad es moldeada y puesta en escena en un mundo crecientemente mediado por tecnologías digitales opacas.

Big Sister fue desarrollada gracias a la colaboración de un equipo interdisciplinario de investigadores de la Pontificia Universidad Católica de Chile y de la Universidad de Warwick, bajo el proyecto “Identidades Algorítmicas: temas y reacciones a la recopilación de datos digitales e inferencias algorítmicas en la vida cotidiana”.

Recogiendo elementos de los campos de la informática, el diseño y la sociología, hemos concebido Big Sister como un “prototipo”: una aplicación que no sólo nos permite probar cómo funcionan estos sistemas algorítmicos, sino también producir conocimientos sobre las prácticas de elaboración de perfiles y recomendaciones en el proceso de probarlos. Nuestro objetivo es testear la recomendación: tanto para entender mejor cómo funciona como para entender cómo es comprendida por las personas al mediar nuestras identidades cada vez más algorítmicas.

El proyecto “Identidades algorítmicas” es llevado a cabo bajo los auspicios del proyecto Fondecyt N°1180062: “Dataficación de entornos urbanos e individuos: un análisis de los diseños, prácticas y discursos de la producción y gestión de datos digitales en Chile”, y el proyecto People Like You: Contemporary Figures of Personalisation, financiado por un Premio de Colaboración en las Humanidades Médicas y las Ciencias Sociales de la Fundación Wellcome Trust 2018-2022 (205456/Z/16/Z). También ha sido financiado por el “Fondo de Investigación Interdisciplinaria 2018” de la Vicerrectoría de Investigación (VRI) de la Pontificia Universidad Católica de Chile.