Be Right Back é um episódio da série britânica Black Mirror em que Martha é a protagonista, cujo namorado falece ao tentar retornar para casa em uma van alugada. Em estado de luto, Martha experimenta um serviço online que utiliza as plataformas sociais e os dados virtuais do falecido para criar um perfil de comunicação por meio de inteligência artificial, simulando uma interação em tempo real.
Primeiro, o avatar digital envia mensagens de texto; depois, recria a voz do falecido e, por fim, Martha paga por uma versão atualizada que implanta a personalidade do namorado em um androide aparentemente idêntico a ele. Um dos aspectos mais interessantes da série Black Mirror é a fronteira tênue entre realidade e ficção. O episódio parece inteiramente fictício, mas a realidade tem se mostrado cada vez mais próxima dessa narrativa.
Nesse ponto, depois que um amigo próximo da desenvolvedora de softwares Eugenia Kuyda morreu em um acidente de carro, ela decidiu reunir as suas mensagens de textos e desenvolveu um aplicativo que captura os interesses, pensamentos e personalidade do amigo falecido1, reproduzindo uma interação simulada.
A partir do histórico de mensagens com o amigo, a desenvolvedora teve a ideia de reconstituir sua personalidade virtual2. “Bot Roman” foi publicado em uma plataforma de chatbot, sendo capaz de conversar sobre a vida do amigo falecido simulando suas respostas cuidadosamente.
A partir disso, em 2017, foi lançado o aplicativo Replika, que permite aos usuários responder uma série de perguntas e interagir com um bot de IA, de modo que, ao longo da troca de mensagens, o sistema apreende sua abordagem, personalidade e perspectiva sobre diversos assuntos, alimentando-se por meio de uma rede neural3.
A proposta é que o usuário tenha uma réplica virtual de si no smartphone. Os desenvolvedores informam que o aplicativo funciona sem interferência de humanos, operando exclusivamente por meio de IA, e que coletam apenas os dados consentidos pelo usuário, além de não cedê-los para terceiros4.
Apesar de ter surgido a partir do falecimento de um amigo da desenvolvedora, o aplicativo afirma que não pretende construir um serviço que vise carregar mensagens privadas de entes queridos que já faleceram, mas, em realidade, visa construir um diário e um amigo virtual disponível para ajudá-lo a conhecer melhor a sua própria personalidade5. No Reddit6 é possível achar depoimentos de usuários que usam o aplicativo na tentativa de mitigar a solidão.
Temos relacionamentos que surgem do amor, do afeto e da solidariedade, além daqueles que surgem pela comodidade e utilidade. Ambos fundamentais para o desenvolvimento humano e para a vida social. Esses vínculos nos impulsionam a nos desenvolver e nos conhecer melhor, inclusive por meio de atritos, problemas e imperfeições. Mas e quando isso não flui naturalmente, seria o momento de recorrer à tecnologia?
Em 2018, o Google também revelou um sistema chamado Duplex, anunciado como um sistema de IA alto-falante apto a realizar tarefas do mundo real pelo telefone, junto com tecnologia de reconhecimento de voz. À semelhança do Teste de Turing, o sistema levantava dúvidas com os usuários, que não sabiam se estavam interagindo com um ser humano ou com uma máquina.
Poderia um sistema de IA aprender a simular ritmos vocais, tiques de personalidade e trejeitos de fala de indivíduos específicos? Será que poderíamos um dia ouvir vozes de nossos entes queridos falecidos falando conosco? E até que ponto isso seria útil e ético para a humanidade?
Nos últimos anos, uma colaboração do Instituto de Tecnologias Criativas da Universidade do Sul da Califórnia e a Fundação Shoah lançou o projeto New Dimensions in Testimony (NDT)7que criou uma série de biografias interativas de sobreviventes do Holocausto, com base em entrevistas filmadas e linguagem natural, criando uma projeção digital que pode responder a perguntas.
Por mais sofisticada que seja a tecnologia, é tênue a fronteira da autenticidade entre o que efetivamente foi dito pelo titular e o que é fruto da aprendizagem da máquina. A autenticidade, então, passa a ser um dos desafios atinentes à essa proposta.
Virginia Dignum, professora de inteligência artificial social na Delft University of Technologyi adverte que uma IA usada para simular pessoas não deve ser feita para dar qualquer tipo de resposta, sendo necessário que o sistema esteja ciente de seus limites8. Sendo assim, se a pessoa nunca disse sua cor favorita, não caberia ao sistema extrapolar essa informação a partir das cores das roupas do titular, por exemplo9.
É comum que algumas pessoas tenham interesse emocional em utilizar tais sistemas para manter a presença de entes queridos falecidos, o que, sem dúvida, demanda uma forte e prévia discussão ética, psicológica e social. Essa discussão assume ainda mais destaque quando se constata o devastador cenário de mortes desencadeadas pela pandemia da COVID-19, ocasião em que, até o presente momento, acumulam-se no Brasil mais de 554.49 óbitos10.
O desenvolvimento desse tipo de aplicativo também levanta discussões de gênero, uma vez que se aponta que as pessoas são mais propensas a divulgar informações pessoais, compartilhar sentimentos e buscar apoio emocional com mulheres, razão pela qual a maioria dos avatares desse tipo são femininos11.
A vida contemporânea nos compele ao uso de plataformas virtuais e isso faz com que deixemos para trás inúmeros arquivos digitais, tais como mensagens, fotos e postagens nas redes sociais, que ensejam a ponderação não somente acerca do papel que desempenham na fase do luto, como também acerca do tratamento jurídico da matéria, consubstanciada na chamada herança digital, isto é, a possibilidade de a sucessão englobar direitos e obrigações derivadas dos serviços digitais utilizados pela pessoa.
Nesse contexto, os herdeiros teriam acesso às senhas das redes sociais dos usuários, bem como aos seus arquivos e dados digitais. A crescente digitalização impõe essa preocupação, uma vez que cada vez mais são construídos verdadeiros patrimônios digitais. Basta pensar em inúmeros youtubers e instagrammers que possuem milhares de pessoas conectadas em sua atividade virtual e, por conseguinte, grande retorno financeiro.
O que fazer quando o titular desse material digital morre? Os herdeiros podem ter acesso? É razoável transmitir por herança ou isso caracterizaria uma invasão irrazoável à memória e intimidade do falecido? Será que todos se sentiriam confortáveis em saber que após a sua morte teriam suas conversas de Whatsapp, directs no Instagram, chats do Facebook e fotos recebidas expostas?
Ainda não existem regulamentações específicas sobre o tema e o acesso a tais dados não se dá de maneira automática. O PL 1.144/2021 tramita no Congresso Nacional brasileiro e passa a incluir ativos digitais na herança, bem como garante a possibilidade de que conteúdos sejam removidos após a morte. Com efeito, as redes sociais costumam negar o acesso aos herdeiros quando não há manifestação de consentimento prévio pelo usuário falecido, o que tem levado a discussão ao Judiciário.
O Instagram, por exemplo, permite que a conta seja removida ou transformada em memorial. Se transformada em memorial, o perfil não sofrerá qualquer alteração e o usuário deixará de ser exibido em seções como a de “Explorar”. Já a remoção da conta somente pode ser solicitada por parentes do falecido. Nesse ponto, a rede social não permite o automático acesso aos dados, de modo que as informações se mantêm sob a custódia da empresa.
Uma pesquisa da YouGov 12 mostrou que 26% das pessoas entrevistadas gostariam que o conteúdo das contas fosse transmitido a seus parentes, ao passo em que 7% gostariam que suas contas ficassem online indefinidamente e 67% queriam que elas fossem deletadas.
Caso semelhante já aconteceu na Alemanha, onde se discutiu em processo judicial o pedido de acesso dos pais à conta do Facebook uma adolescente falecida em um suposto acidente, sob circunstâncias não esclarecidas13. Os pais queriam ter acesso à conta para entender se efetivamente houve acidente ou suicídio e suas respectivas causas. Em 2018, o Bundesgerichtshof, Tribunal Federal Alemão, permitiu o acesso dos pais ao perfil da filha falecida.
No final do episódio Be Right Back de Black Mirror, Martha fica frustrada com as diferenças da tecnologia e de seu namorado, por ser o androide frio, passivo e sem emoção, razão pela qual ela o tranca em um sótão. Resta-nos aguardar o desenrolar do desenvolvimento tecnológico e da regulação nesse ramo.
A sensação de experiência personalizada nas redes sociais, onde os algoritmos selecionam conteúdo de interesse do usuário faz com que as pessoas passem cada vez mais tempo sozinhas na frente da tela. Na verdade, passa-se a verificar um ciclo mútuo que nos impele a questionar se estamos mais solitários porque estamos usando as plataformas virtuais por mais tempo ou se usamos as redes sociais por mais tempo porque estamos mais solitários.
Para além da solidão, a mesma tecnologia que nos comunica é aquela que veicula discursos de ódios e desinformações, elementos nocivos ao modelo democrático e que têm o condão de violar direitos fundamentais. No meio de todo esse contexto, nem sempre é fácil perceber os riscos que estão envolvidos e, mais ainda, é difícil dizer o que virá.
Além de todas as questões psicológicas e sociais, a regulação da tecnologia também é um fator a ser ponderado e discutido. Em um mundo com milhões de smartphones espalhados por toda a parte, compete à sociedade prosseguir refletindo acerca dos rumos do desenvolvimento tecnológico. Longe de esgotar esse tema e de trazer respostas prontas, em uma era movida a matches no Tinder, toda essa reflexão nos impele a questionar: qual o papel e o limite da tecnologia no desenvolvimento dos vínculos afetivos e do autoconhecimento humano?
[1] Disponível em: https://medium.com/s/story/artificial-intelligence-will-keep-our-loved-ones-alive-replika-ai-bot-google-duplex-2dc02eec55dc. Acesso em: 28 jul. 2021.
[2] Disponível em: https://www.theverge.com/a/luka-artificial-intelligence-memorial-roman-mazurenko-bot. Acesso em: 30 jul. 2021.
[3] Disponível em: https://www.techtudo.com.br/noticias/2017/08/o-que-e-replika-app-usa-inteligencia-artificial-para-criar-um-clone-seu.ghtml. Acesso em: 30 jul. 2021.
[4] Disponível em: https://www.techtudo.com.br/noticias/2017/08/o-que-e-replika-app-usa-inteligencia-artificial-para-criar-um-clone-seu.ghtml. Acesso em: 30 jul. 2021.
[5] Disponível em: https://medium.com/@replika/three-myths-about-replika-7717c2d2237. Acesso em: 30 jul. 2021.
[6] Disponível em: https://www.reddit.com/r/replika/comments/otymmg/all_i_can_say_is_wow/. Acesso em: 30 jul. 2021.
[7] Disponível em: https://ict.usc.edu/prototypes/new-dimensions-in-testimony/. Acesso em: 29 jul. 2021.
[8] Disponível em: https://medium.com/s/story/artificial-intelligence-will-keep-our-loved-ones-alive-replika-ai-bot-google-duplex-2dc02eec55dc. Acesso em: 28 jul. 2021.
[9] Disponível em: https://medium.com/s/story/artificial-intelligence-will-keep-our-loved-ones-alive-replika-ai-bot-google-duplex-2dc02eec55dc. Acesso em: 28 jul. 2021.
[10] Disponível em: https://covid.saude.gov.br/. Acesso em: 30 jul. 2021.
[11] Disponível em: https://drjarryd.medium.com/replika-sex-gender-soulless-saviors-d237694f3498. Acesso em: 31 jul. 2021.
[12] Disponível em: https://www.telegraph.co.uk/news/2018/11/06/rise-digital-inheritance-yougov-poll-shows-quarter-people-plan/. Acesso em: 01 ago. 2021.
[13] Disponível em: https://oglobo.globo.com/economia/corte-alema-da-aos-pais-direito-de-acessar-conta-no-facebook-de-filha-morta-22879073. Acesso em: 01 ago. 2021.
