Hoe bepalen algoritmen de manier waarop we omgaan met onze herinneringen?
Het is een vraag die uniek is voor de 21e eeuw en die nog lang niet is opgelost.
In een nieuw artikel in het tijdschrift Geheugen, geest en media, Concordia Ph.D. kandidaat Chrys Vilvang stelt dat de manier waarop technologiebedrijven persoonlijke inhoud opslaan, verpakken en delen met gebruikers ondoorzichtig is. En gezien een recente controverse staat het open voor belangrijke vragen over selectie en vertegenwoordiging.
In het artikel van Vilvang wordt gekeken naar de discussie die voortvloeit uit een artikel uit april 2022 over 9to5Mac, een technische nieuwssite gewijd aan alles wat met Apple te maken heeft. De journalisten kregen toegang tot de bèta-update van iOS 15.5 en ontdekten dat deze de weergave van foto's van een tiental specifieke locaties in de Memories van de iPhone Photos-app blokkeerde. Dit is de functie waarmee korte afspeelalbums worden gemaakt op muziek die meestal is ontworpen om een glimlach op te wekken en harten te prikkelen.
De journalisten ontdekten al snel dat de tientallen sites allemaal verband hielden met de Holocaust. Verschillende waren echte concentratiekampen, waaronder Auschwitz-Birkenau, Treblinka en Dachau. Maar andere waren Holocaust-herdenkingsplaatsen zoals Yad Vashem in Israël, het Anne Frank Huis in Amsterdam en het United States Holocaust Memorial Museum in Washington, DC.
Vilvang wendde zich tot de commentaarsectie van het artikel om de veranderende publieke perceptie van geautomatiseerde geheugentechnologieën en hun potentiële gevolgen te analyseren. Er is diep geïnvesteerd in 9to5Mac-lezers technologie zaken, en Vilvang werd getroffen door het vrijwel universele scepticisme over Apple's beslissing.
“De meesten leken erg wantrouwig over wat dit zou kunnen betekenen voor de toekomst of hoe het zou kunnen worden gebruikt om een bepaald soort representatie te bevoorrechten”, zegt hij. “Maar ik was onder de indruk van hoe diep mensen bereid waren te gaan om hun unieke problemen ermee uit te drukken en hoe ze bereid waren te speculeren wat het zou kunnen betekenen, zonder specifiek over de Holocaust te spreken.”
Mijn foto's, mijn bureau
Vilvang citeert verschillende commentatoren in zijn artikel, van wie de meesten hun ergernis uiten over het wegvallen van hun macht om te beslissen wat ze wel en niet kunnen zien.
"Ik wil niet dat iemand anders beslist wat 'gevoelig' is... en misschien WIL ik een herinnering aan een bijzonder ontroerende plek om me met beide benen op de grond te houden", schrijft iemand.
“[Laat] mensen de baas zijn over hun herinneringen”, schrijft een ander. “Ik heb bijvoorbeeld Dachau bezocht en foto’s gemaakt…. Het stoort mij niet in het minst als ze verschijnen. Integendeel, ze dienen als een krachtige herinnering.”
Vilvang zegt dat hij geen enkel commentaar van Apple heeft gehoord over de update, maar hij vermoedt dat deze uit goede trouw kwam.
“De motivatie is volgens mij waarschijnlijk goed bedoeld en waarschijnlijk eenvoudig: ik neem aan dat ze niet vonden dat onderwerpen die een dergelijke ernst hebben, vertegenwoordigd moesten worden in een instrument dat grotendeels gericht is op positieve interacties.”
Hoe geavanceerd de technologie vandaag de dag ook is, voegt hij eraan toe, de algoritmen van Apple kunnen nog steeds niet beslissen wat subjectief relevant is voor het ene individu boven het andere. Door te proberen de functie Herinneringen geassocieerd te houden met geluk, maakt het bewust keuzes namens zijn gebruikers door foto's te blokkeren van sites die het als problematisch beschouwt.
De toekomst voor dit soort toepassingen blijft net zo duister als de huidige algoritmen, voegt Vilvang toe. Als Apple besluit foto's met een Holocaust-thema te blokkeren, wat zou het dan vervolgens kunnen blokkeren?
“Dit illustreert de mate van interventie en intentie die gepaard gaat met het blokkeren van deze specifieke sites om redenen die niet zijn gearticuleerd. En als we weten dat bedrijven bereid zijn om op dit soort manieren in te grijpen, dan moeten we onze eigen interacties met ons verleden kritisch in vraag stellen, wetende dat dit wordt gemedieerd door iets waarover we geen controle hebben.”