Como os algoritmos determinam a maneira como interagimos com nossas memórias?
É uma questão única do século XXI e está longe de ser resolvida.
Em um novo artigo no jornal Memória, Mente e Mídia, Concórdia Ph.D. o candidato Chrys Vilvang argumenta que a forma como as empresas de tecnologia armazenam, empacotam e compartilham conteúdo pessoal com os usuários é opaca. E, dada uma controvérsia recente, está aberto a questões importantes sobre seleção e representação.
O artigo de Vilvang analisa a discussão decorrente de um artigo de abril de 2022 no 9to5Mac, um site de notícias de tecnologia dedicado a tudo relacionado à Apple. Seus jornalistas tiveram acesso à atualização beta do iOS 15.5 e descobriram que ela estava bloqueando a exibição de fotos de uma dúzia de locais específicos nas memórias do aplicativo Fotos do iPhone. Esta é a função que cria álbuns curtos de reprodução com músicas geralmente projetadas para provocar sorrisos e tocar as cordas do coração.
Os jornalistas descobriram rapidamente que os doze sites estavam todos relacionados com o Holocausto. Vários eram verdadeiros campos de concentração, incluindo Auschwitz-Birkenau, Treblinka e Dachau. Mas outros eram locais memoriais do Holocausto, como o Yad Vashem em Israel, a Casa de Anne Frank em Amesterdão e o Museu Memorial do Holocausto dos Estados Unidos em Washington, DC.
Vilvang recorreu à seção de comentários do artigo para analisar a evolução da percepção pública das tecnologias de memória automatizada e suas possíveis consequências. Os leitores 9to5Mac estão profundamente investidos em tecnologia questões, e Vilvang ficou impressionado com o ceticismo quase universal em relação à decisão da Apple.
“A maioria parecia muito desconfiada sobre o que isso poderia indicar para o futuro ou como poderia ser usado para privilegiar um certo tipo de representação”, diz ele. “Mas fiquei impressionado com o quão profundamente as pessoas estavam dispostas a expressar seus problemas únicos com isso e como estavam dispostas a especular o que isso poderia indicar, sem falar especificamente sobre o Holocausto.”
Minhas fotos, minha agência
Vilvang cita vários comentadores no seu artigo, a maioria dos quais expressa aborrecimento com a remoção do seu poder de decidir o que podem ou não ver.
“Não quero que outra pessoa decida o que é 'sensível'... e talvez EU QUERO uma lembrança de um lugar particularmente comovente para me manter com os pés no chão”, escreve um deles.
“[Deixe] as pessoas cuidarem de suas memórias”, escreve outro. “Eu, por exemplo, visitei Dachau e tirei fotos…. Não me incomoda nem um pouco quando eles aparecem. Muito pelo contrário, servem como um lembrete poderoso.”
Vilvang diz que não ouviu nenhum comentário da Apple sobre a atualização, mas suspeita que ela veio de boa fé.
“Acho que a motivação é provavelmente bem intencionada e provavelmente direta: presumo que eles não achavam que tópicos com tal grau de gravidade deveriam ser representados em uma ferramenta amplamente voltada para interações positivas.”
Por mais avançada que seja a tecnologia hoje, acrescenta ele, os algoritmos da Apple ainda não conseguem decidir o que pode ser subjetivamente relevante para um indivíduo em detrimento de outro. Ao tentar manter a função Memórias associada à felicidade, está deliberadamente fazendo escolhas em nome de seus usuários, bloqueando fotos de sites que considera problemáticos.
O futuro deste tipo de aplicação permanece tão obscuro quanto os seus algoritmos atuais, acrescenta Vilvang. Se a Apple decidir bloquear fotos com o tema do Holocausto, o que poderá bloquear a seguir?
“Isso ilustra o grau de intervenção e intenção que envolve o bloqueio desses sites específicos por razões que não foram articuladas. E se sabemos que as empresas estão dispostas a intervir desta forma, então precisamos de questionar criticamente as nossas próprias interações com o nosso passado, sabendo que ele está a ser mediado por algo sobre o qual não temos controlo.”