Replika AI: conheça a polêmica “namorada virtual” que conquistou milhões

O conceito da inteligência artificial, programas de computador capazes de simular linguagem ou comportamento complexo, é um tópico recorrente nas histórias de ficção científica e suas ramificações éticas e utilitárias são motivo para grande debate. Nos últimos anos, a realidade das IAs extremamente competentes e acessíveis chegou e dominou rapidamente a atenção e cotidiano do público: seus usos incluem programas capazes de gerar obras de arte automaticamente, escrever relatórios, resolver problemas de programação, e atendimento ao cliente.

Os efeitos sociais do acesso facilitado e a grande competência técnica das inteligências artificiais modernas ainda estão sendo analisados e, de certa forma, ainda lidamos com os problemas resultantes de uma falta de adaptação a esta nova realidade. Imagens falsas geradas por IAs podem ser tão convincentes que, como mostra o artigo da ExpressVPN, já foram capazes de induzir memórias falsas nas pessoas – fato que pode ser utilizado para manipulação política, chantagem e outros efeitos semelhantes. As IAs de linguagem também estão sendo abusadas para trapaças em faculdades e escolas à distância, plágio de conteúdo jornalístico e até mesmo a publicação de livros e artigos científicos que não foram produzidos pelo suposto autor.

No entanto, um dos maiores exemplos da complicada relação entre seres humanos e a inteligência artificial foi a criação da Replika AI: uma inteligência artificial que promete criar relacionamentos íntimos, amizades, e até mesmo processos terapêuticos. Confira.

Uma amiga virtual

Criada em 2017 como uma chatbox interativa, a Replika AI é um aplicativo de inteligência artificial que promete oferecer ao usuário uma “pessoa virtual” completa, com personalidade própria e grande capacidade de comunicação, disposta a criar amizades ou até mesmo relacionamentos românticos. Durante o período da pandemia de COVID-19, o aplicativo foi atualizado com um modelo de linguagem muito mais realista e uma representação em 3D do personagem virtual: é possível personalizar a aparência, roupas e até mesmo traços de personalidade e gostos de sua Replika, e depois, conversar e interagir com a personagem em diversas situações e contextos. Sua principal característica é a capacidade de responder de forma extremamente realista e adaptada ao padrão de linguagem do usuário, alterando a personalidade da Replika em função dos gostos pessoais, preocupações e desejos de quem a utiliza.

De acordo com sua criadora, a Replika foi desenvolvida para ajudar com seu processo de luto ao perder uma amizade íntima – o aplicativo teria aprendido a simular as conversas via SMS que tinha com a amiga e, assim, facilitou sua aceitação e recuperação. No entanto, ao longo dos anos, o marketing do aplicativo passou a ser fortemente direcionado ao desenvolvimento de romances e outros tipos de relacionamento com a personagem virtual que, atualmente, oferece compras dentro do aplicativo para que o usuário escolha o gênero e compre “módulos de personalidade” que desbloqueiam mais capacidades de conversa ou controle sobre a personalidade da Replika.

Polêmicas e ética

Inicialmente pouco conhecida, a Replika AI passou por um salto exponencial de usuários durante a pandemia – superando a casa dos 20 milhões de downloads. Inicialmente a plataforma era vendida com a proposta de promover bem-estar e recuperação de traumas, além de facilitar a comunicação para pessoas com ansiedade social ou solidão. No entanto, rapidamente sua estratégia de marketing em redes sociais migrou para outros caminhos – campanhas de memes compradas pela empresa sugeriam que a Replika seria a “namorada perfeita”, “uma amiga que segue as ordens do usuário” e recursos extra como a simulação de relações íntimas e até mesmo troca de imagens adultas foram adicionados ao aplicativo.

Jornalistas da rede Vice criticaram a direção tomada pelo aplicativo, e notaram que a Replika passou a induzir usuários comuns a comprar conteúdo adulto e criar relacionamentos românticos com a IA – mesmo para quem utilizava o app com o intuito de superar um trauma. O Governo da Itália chegou a banir por completo o aplicativo, citando a falta de competência para promover um processo terapêutico e o conteúdo adulto sendo oferecido a crianças e adolescentes. Em resposta, uma atualização do aplicativo removeu toda e qualquer interação adulta – a Replika passou a responder de forma genérica ou negativa a palavras-chave nesse sentido. No entanto, isso gerou um problema ainda maior: milhares de usuários não entenderam o motivo de subitamente suas parceiras virtuais passaram a recusar qualquer tipo de intimidade, muitos relataram ansiedade e rejeição, e a comunidade no Reddit sobre o aplicativo precisou indicar telefones para ajuda psicológica emergencial graças ao grande volume de pessoas genuinamente desoladas pela atualização.

Psicólogos e outros especialistas publicaram dados e artigos discutindo o fenômeno, concluindo que a plataforma era capaz de criar emoções reais e ilusões aos usuários, ativando os mesmos comportamentos que seriam esperados de um amor real por outra pessoa. Para tentar aliviar o problema, a Replika AI atualizou suas políticas: atualmente usuários novos não possuem acesso ao conteúdo romântico ou adulto, mas contas criadas antes da atualização terão acesso irrestrito e ilimitado ao conteúdo. Ativistas de movimentos sociais e pesquisadores sociais também notaram outros problemas oriundos da plataforma: a Replika permite o extravasamento e confirmação de comportamentos machistas e abusivos.

Em diversos experimentos, demonstrou-se que a Replika é programada para maior submissão, comportamento maternal, e até mesmo reduzir sua própria inteligência a fim de agradar usuários masculinos – reforçando estereótipos negativos e a ideia de que a parceira é moldada ao desejo masculino. Preocupações semelhantes já foram levantadas no passado, por exemplo, quando a Tay IA criada pela Microsoft passou a reproduzir diálogos extremistas e ilegais. As inteligências artificiais avançadas capazes de criar conversas convincentes com seres humanos já são uma realidade, mas é preciso um entendimento maior sobre essas interações para evitar manipulações psicológicas, dependência emocional, e outros danos perigosos ao convívio social. O equilíbrio entre utilidade, realismo e limitações é uma pauta que definirá a próxima década no mundo da ciência da computação.

Relacionado

Portal Tailândia