¿Cómo determinan los algoritmos la forma en que interactuamos con nuestros recuerdos?
Es una cuestión propia del siglo XXI y está lejos de estar resuelta.
En un nuevo artículo en la revista. Memoria, mente y medios, Concordia Ph.D. El candidato Chrys Vilvang sostiene que la forma en que las empresas de tecnología almacenan, empaquetan y comparten contenido personal con los usuarios es opaca. Y, dada una controversia reciente, está abierta a preguntas importantes sobre la selección y la representación.
El artículo de Vilvang analiza la discusión que surgió de un artículo de abril de 2022 en 9to5Mac, un sitio de noticias tecnológicas dedicado a todo lo relacionado con Apple. Sus periodistas tuvieron acceso a la actualización beta de iOS 15.5 y descubrieron que bloqueaba la aparición de fotografías de una docena de ubicaciones específicas en los Recuerdos de la aplicación Fotos del iPhone. Esta es la función que crea álbumes de reproducción cortos con música generalmente diseñada para provocar sonrisas y tocar las fibras del corazón.
Los periodistas descubrieron rápidamente que la docena de sitios estaban todos relacionados con el Holocausto. Varios eran verdaderos campos de concentración, incluidos Auschwitz-Birkenau, Treblinka y Dachau. Pero otros fueron sitios conmemorativos del Holocausto como Yad Vashem en Israel, la Casa de Ana Frank en Ámsterdam y el Museo Conmemorativo del Holocausto de los Estados Unidos en Washington, DC.
Vilvang recurrió a la sección de comentarios del artículo para analizar la evolución de la percepción pública de las tecnologías de memoria automatizadas y sus posibles consecuencias. Los lectores de 9to5Mac están profundamente interesados en la tecnología importa, y Vilvang quedó impresionado por el escepticismo casi universal ante la decisión de Apple.
“La mayoría parecía muy recelosa de lo que esto podría indicar para el futuro o de cómo podría usarse para privilegiar cierto tipo de representación”, dice. "Pero me impresionó lo profundamente que la gente estaba dispuesta a llegar para expresar sus problemas únicos y cómo estaban dispuestas a especular sobre lo que podría indicar, sin hablar específicamente sobre el Holocausto".
Mis fotos, mi agencia.
Vilvang cita a varios comentaristas en su artículo, la mayoría de los cuales expresan su molestia por la eliminación de su poder de decidir lo que pueden y no pueden ver.
“No quiero que nadie más decida qué es 'sensible'... y tal vez QUIERO un recuerdo de un lugar particularmente conmovedor que me mantenga con los pies en la tierra”, escribe uno.
“[Dejemos que] la gente se haga cargo de sus recuerdos”, escribe otro. “Yo, por mi parte, visité Dachau y tomé fotografías…. No me molesta en lo más mínimo cuando aparecen. Todo lo contrario, sirven como un poderoso recordatorio”.
Vilvang dice que no ha escuchado ningún comentario de Apple sobre la actualización, pero sospecha que proviene de buena fe.
"Creo que la motivación probablemente sea bien intencionada y probablemente sencilla: supongo que no pensaron que temas que tienen tal grado de gravedad deberían estar representados en una herramienta que esté orientada en gran medida a interacciones positivas".
A pesar de lo avanzada que está la tecnología hoy en día, añade, los algoritmos de Apple todavía no pueden decidir qué podría ser subjetivamente relevante para un individuo sobre otro. Al intentar mantener la función Recuerdos asociada a la felicidad, toma decisiones deliberadamente en nombre de sus usuarios, bloqueando fotos de sitios que considera problemáticos.
El futuro de este tipo de aplicaciones sigue siendo tan turbio como sus algoritmos actuales, añade Vilvang. Si Apple decide bloquear fotografías con temas del Holocausto, ¿qué podría bloquear a continuación?
“Esto ilustra el grado de intervención e intención que implica bloquear estos sitios específicos por razones que no han sido articuladas. Y si sabemos que las empresas están dispuestas a intervenir de este tipo de formas, entonces debemos cuestionar críticamente nuestras propias interacciones con nuestro pasado, sabiendo que está mediado por algo sobre lo que no tenemos control”.