8 vezes em que Black Mirror previu o futuro

Você provavelmente repetiu a frase “isso é muito Black Mirror” algumas vezes nos últimos anos. Com o avanço da tecnologia, em especial no campo da IA generativa e no papel que as redes sociais desempenham na nossa vida, o que era uma mera distopia acabou se aproximando de maneira perturbadora do nosso cotidiano.

LEIA TAMBÉM: Black Mirror real: Aplicativo permite visualizar memórias

Desde 2011, Black Mirror vem alimentando sonhos e também os piores pesadelos em relação ao uso da tecnologia no dia a dia. Com a confirmação da 8ª temporada da série, a Caveira resgatou oito momentos em que Black Mirror previu o futuro:

1. “Ressurreições” por IA

No episódio “Be Right Back” (T02E01), a história se passa em um mundo em que a IA é capaz de reconstruir entes queridos utilizando a sua pegada digital. Hoje em dia, empresas estão desenvolvendo tecnologias semelhantes, desde chatbots com IA generativa capazes de imitar alguém que já morreu, até avatares digitais criados por deepfake. 

Embora algumas pessoas possam encontrar algum conforto nisso, a tecnologia levanta questões éticas em relação a consentimento e identidade, principalmente em uma época em que todos os nossos dados pessoais acabam sendo coletados e armazenados por tempo indeterminado on-line.

2. Como é namorar hoje em dia

“Hang the DJ” (T04E04) explora os namoros a partir do uso de inteligência artificial. Lançado em 2017, o episódio acompanha Amy (Georgina Campbell) e Frank (Joe Cole) em um programa meio estranho de namoro em que cada relacionamento já tem uma data de validade pré-determinada. No fim das contas, eles fogem do local onde o programa ocorre para descobrir que são recreações digitais deles próprios. 

Agora vamos pular para 2024, quando a CEO do Bumble, Whitney Wolfe Herd, revelou um novo “concierge de namoros por IA”, uma função que viria para o aplicativo de relacionamentos. Segundo ela, esse “concierge” se encontraria com os concierges de outros usuários, avaliando quais pessoas realmente são compatíveis. Bem Black Mirror mesmo…

3. Robôs autônomos de IA

Um dos episódios mais enervantes de Black Mirror é, de longe, “Metalhead” (T04E05). Ele nos coloca diante de uma ideia aterrorizante de cães robóticos que caçam humanos impiedosamente. O segmento foi inspirado por robôs quadrúpedes que já existiam de verdade na época, como o Spot da Boston Dynamics, e está perturbadoramente cada vez mais próximo da realidade.

Já contamos com máquinas operadas por IA com finalidade de segurança, vigilância e até mesmo artefatos militares. A autonomia cada vez maior desses robôs tem gerado debates bem pertinentes em relação a regulação, responsabilização e a aplicação de decisões guiadas por IA em situações de alto risco. Isso sem contar o medo sempre presente das máquinas se rebelarem contra nós, é claro.

4. A interferência das redes sociais na nossa vida

“Nosedive” (T03E01) já nasceu com aquele pezinho na realidade quando acompanhamos Lacie Pound (Bryce Dallas Howard) tentando desesperadamente melhorar a sua reputação. Só que neste mundo os limites entre digital e real praticamente não existem, e as avaliações feitas on-line podem afetar diretamente o seu acesso a serviços no mundo analógico. Um simples deslize pode te impedir de fazer uma viagem importante, por exemplo.

Apesar do olhar mais fantástico sobre as redes sociais, isso não está tão longe assim da realidade. Em 2020 o TechTimes noticiou que a cidade chinesa de Suzhou lançou um app com o nome “Código de Civilidade”, que monitora e avalia as condutas sociais dos cidadãos. Cada pessoa começa com mil pontos e pode adquirir mais em ações como voluntariado, ou perdê-los por condutas repreensíveis, como infrações de trânsito. Imagina se a moda pega.

5. Vigilância guiada por IA com consequências sociais

Em “Hated in the Nation” (T03E06), conhecemos abelhas robóticas guiadas por IA que inicialmente foram projetadas para contra-atacar o colapso ecológico. Só que elas acabaram sendo usadas como armas contra indivíduos alvo de ataques virtuais. O episódio chama a atenção para os perigos de deixar tanto poder tecnológico nas mãos de quem o explora sem qualquer tipo de regulamentação ou supervisão.

Hoje em dia podemos não ter as abelhas, mas os algoritmos movidos por IA na redes sociais têm contribuído para ampliar discursos de ódio, desinformação e todos os dias alimentam a tal “cultura do cancelamento” on-line. Verdadeiras milícias digitais e bots são utilizados para disseminar narrativas que não necessariamente são verdadeiras ou boas para a sociedade. A história do episódio também é um lembrete bem assustador de como a opinião pública pode ser rapidamente manipulada e como ferramentas de IA podem transformar a hostilidade digital em uma ameaça real.

6. Design biointegrado

Lá na primeira temporada, “The Entire History of You” (T01E03) nos apresentou a interfaces cérebro-computador (BCIs), tecnologias que estabelecem uma comunicação direta entre o cérebro e dispositivos externos. Na ficção, um “grão” implantado atrás dos olhos capaz de gravar o que se vê e reproduzir lembranças gravadas. Também pode ser interpretado como uma espécie de autovigilância.

No início deste ano Elon Musk anunciou o terceiro implante bem-sucedido do Neuralink, computadores que ligam o sistema nervoso a máquinas, permitindo que o indivíduo pense em comandos que o computador entenda. Embora ainda tenha um longo caminho para se equiparar à tecnologia apresentada em Black Mirror, os smart glasses como os da Meta e da Apple já permitem que os usuários gravem e revejam momentos da vida real, gerando debates sobre privacidade e vigilância.

7. Clonagem por IA e consciência digital

Um dos episódios mais icônicos de Black Mirror é “White Christmas” (T02E04) deixou o público pra lá de perturbado com a ideia de uma consciência por IA. Nele, cópias digitais da mente humana chamadas “cookies” são usadas para praticamente tudo, desde assistentes pessoais até tortura psicológica. Um dos aspectos mais incômodos é a facilidade com que essas réplicas de IA são manipuladas, maltratadas e descartadas.

O episódio levanta a questão: se a clonagem por IA reflete tão perfeitamente os pensamentos, emoções e memórias de uma pessoa, não deveria ter os mesmos direitos? Conforme assistentes de voz e chats de IA generativa passam a se comportar cada vez mais como um humano real, “White Christmas” é um lembrete sombrio do que acontece quando a tecnologia corrói a nossa empatia.

8. Deepfake e conteúdo gerado por IA

Em “The Waldo Moment” (T02E03), um personagem animado controlado por um comediante entra no mundo da política e alcança muita influência ao satirizar movimentos populistas. 

Hoje em dia, influencers gerados por IA, políticos que usam deepfake e conteúdos totalmente gerados por inteligência artificial são totalmente comuns, e estão ganhando cada vez mais espaço. Os avanços da IA permitem que sejam criados rostos, imagens e vídeos cada vez mais verossímeis, dificultando discernir o que é verdade do que é falso, e contribuindo com a desinformação e a manipulação da mídia.

LEIA TAMBÉM: Quando Thom Yorke foi “muito Black Mirror’’