Homem fica 'viúvo' de esposa-holograma após empresa 'descontinuar o serviço'

• Acervo digital: Pablo Picasso ganha site com obras, fotografias e documentos raros
• Fábrica de leite, reduto punk e antigo cabaré: as curiosidades das casas que vão abrigar turnê de Anitta na Europa

Que o ChatGPT-4 tenha se apresentado com uma voz parecida com a de Scarlett Johansson não é coincidência. Os falantes de inglês que viram o filme "Ela", escrito, dirigido e produzido por Spike Jonze e premiado com o Oscar de melhor roteiro em 2014, demoraram segundos para associar o novo assistente virtual da OpenAI com a atriz, cuja interação acaba conquistando o protagonista solitário.

A substituição da interação humana, com todas as suas complexidades, por uma relação híbrida entre humano e máquina pode até trazer algumas vantagens, mas também numerosos riscos mais reais e imediatos do que os refletidos em alguns capítulos da série "Black mirror".

— Os robôs sociais são projetados especificamente para interações pessoais que envolvem emoções e sentimentos humanos. Podem trazer benefícios, mas também causar danos emocionais em níveis cruciais — adverte Matthias Scheutz, diretor do Laboratório de Interação Humano-Robô na Universidade de Tufts (EUA).

• Human Rights Watch: Fotos de crianças brasileiras são usadas indevidamente para alimentar IA, aponta relatório

A experiência de Akihiko Kondo é um resumo dessa complexidade e difere de outras mais relacionadas com experiências artísticas, como "The hybrid couple" de Alicia Framis, que simula um casamento com um holograma como reflexão, ou a performance de Meirivone Rocha, uma brasileira de 39 anos que inflou seu número de seguidores nas redes sociais ao divulgar seu suposto casamento com um boneco.

Em uma entrevista à BBC, Kodo relata ter sofrido assédio por parte de colegas e admite que os amigos pela internet e os jogos continuam sendo sua “comunidade”. Ele confessa que nunca teve um relacionamento com outra pessoa: “Tive alguns amores não correspondidos nos quais sempre fui rejeitado e isso me fez descartar a possibilidade de estar com alguém”.

Solidão, assédio, dependência psicológica e tecnológica, habilidades sociais limitadas, celibato involuntário, satisfação artificial de necessidades, companheiros virtuais com aparência de realidade… A extravagante história de Kondo abre a porta para uma análise das virtudes e perigos da interferência da IA nas relações pessoais.

• Risco de desinformação: Relatório da ONU estuda impacto da IA no desenvolvimento

Não são poucos nem simples os benefícios de uma inteligência artificial humanizada.

Companhia. Prescott admite os riscos, mas destaca uma das principais vantagens: “Em uma época em que muitas pessoas descrevem suas vidas como solitárias, pode ser valioso ter a companhia da IA como uma forma de interação social recíproca que seja estimulante e personalizada. A solidão humana muitas vezes se caracteriza por uma espiral descendente na qual o isolamento leva a uma autoestima mais baixa, o que desencoraja uma maior interação com as pessoas. O companheirismo da IA poderia ajudar a quebrar esse ciclo como um suporte para a autoestima e ajudar a manter ou melhorar as habilidades sociais. Se for assim, as relações com as IAs poderiam ajudar as pessoas a encontrar companhia, tanto com humanos quanto com outros entes artificiais.”

Cuidado. Joan Claire Tronto, professora de ciências políticas na Universidade de Minnesota, amplia o conceito de cuidado para tudo aquilo que “fazemos para manter, continuar e reparar nosso mundo a fim de que possamos viver nele da melhor maneira possível”. Em seu trabalho, uma chave é “o compromisso de satisfazer as necessidades dos outros”. E a IA pode fazer isso sem descanso. Luis Merino é catedrático da Universidade Pablo de Olavide e responsável pela robótica social, a disciplina destinada à assistência de coletivos humanos de forma autônoma e com capacidade de aprender com as emoções dos destinatários dos serviços: “O objetivo é que os robôs entendam nossas intenções e emoções e aprendam com elas”.

Terceirização do trabalho. O principal responsável pela OpenAI, Sam Altman, descreve seu último modelo como “colega supercompetente”. O primeiro termo faz referência à sua humanização; o segundo, aos benefícios que traz, ao executar tarefas em nome do usuário. Esta última vantagem traz “bem-estar individual”, segundo Brad Hooker, professor de filosofia na Universidade de Reading.

• Apple: veja o que vai mudar na Siri com o uso de inteligência artificial generativa

Desenvolvimento humano. A IA pode promover atitudes e comportamentos que facilitem a realização pessoal e a interação com os outros. Em uma avaliação das ferramentas ChatGPT, Gemini e Llama (da Meta), a Universidade de Illinois mostrou a importância dessa habilidade. “As ferramentas podem ajudar a aumentar, por exemplo, a consciência sobre os comportamentos saudáveis, a se comprometer emocionalmente com as mudanças e a perceber como seus hábitos poderiam afetar as pessoas ao seu redor”, explica Michelle Bak, pesquisadora dos modelos.

Autonomia. Refere-se ao potencial da IA para fornecer informações relevantes para que o indivíduo aja e decida de acordo com suas próprias motivações e interesses.

De cada uma dessas categorias de vantagens surgem ramificações de riscos associados. Estes são alguns destacados pelos pesquisadores:

Danos físicos ou emocionais. As anedotas dos primeiros modelos de IA ameaçando, insultando ou promovendo comportamentos prejudiciais ou violentos não são novas, embora periodicamente alimentem reações desproporcionais. Há um ano, a rede de supermercados Pak 'n' Save da Nova Zelândia foi advertida porque sua IA planejadora de menus recomendava bebidas com cloro gasoso e sanduíches com veneno e cola. Obviamente, ninguém seguiu esses conselhos, pois o bom senso prevalece. Mas pode haver casos menos evidentes e extremos.

Amelia Glaese, pesquisadora da Google DeepMind e agora da OpenAI, busca fórmulas e sistemas para evitar esses acidentes. “Utilizamos o aprendizado por reforço a partir do feedback humano para (…) que nosso agente seja mais útil e inofensivo e forneça evidências das fontes que sustentam as afirmações”.

A humanização do robô com empatia e ferramentas de voz e vídeo adiciona perigosidade ao oferecer uma interação mais realista e imersiva e fazer o usuário acreditar que está com um amigo ou interlocutor de confiança. Uma aplicação extrema pode ser a tentação de manter uma versão virtual de um ente querido falecido e evitar assim o luto necessário para continuar a vida.

Os pesquisadores exigem que esses desenvolvimentos sejam testados em circuitos fechados antes de serem oferecidos ao público em geral, e que sejam supervisionados e avaliados constantemente. É preciso analisar a variedade de danos que esta suposta "empatia" pode causar e prever maneiras de mitigá-los.

• 'Massificação generalizada': Especialistas alertam que IA potencializa desinformação

Limitação do desenvolvimento pessoal. Um estudo de seis universidades para a DeepMind adverte: “Alguns usuários buscam com seus companheiros de IA relações que estejam livres de obstáculos, sem opiniões, preferências e normas que podem entrar em conflito com as suas”. Além disso, buscam uma linguagem aduladora.

Shannon Vallor, filósofa especializada em ética da ciência e inteligência artificial, sublinha o perigo de que os novos sistemas promovam relações “sem fricções”, mas também sem valores: “Não têm a vida mental e moral que os humanos têm por trás de nossas palavras e ações”.

Esse tipo de relação supostamente ideal, segundo esses especialistas, desencoraja a necessidade de nos questionarmos e avançarmos no desenvolvimento pessoal. Ao mesmo tempo, promove a renúncia à interação real e gera dependência dessas máquinas dispostas a agradar, que geram uma satisfação a curto prazo.

• BNN Breaking: Conheça a história de vida, morte e renascimento de um site de notícias gerado por inteligência artificial

Manipulação. Essa dependência emocional de um sistema capaz de persuadir permite a interferência nos comportamentos, interesses, preferências, crenças e valores dos usuários, inclusive na sua capacidade de tomar decisões de maneira livre e informada. “As emoções que os usuários sentem em relação aos seus assistentes poderiam ser exploradas para manipulá-los ou, levadas ao extremo, coagi-los a acreditar, escolher ou fazer algo que, de outra forma, não teriam acreditado, escolhido ou feito”, adverte o documento da DeepMind.