Após resultados 'estranhos', Google limita escopo de buscas feitas por IA

• Crimes digitais: FBI diz ter derrubado um gigantesco exército de ‘computadores zumbis’
• Novas regras: União Europeia cria comitê de especialistas para regular o uso da inteligência artificial

Em uma postagem feita no blog da empresa, a chefe de buscas do Google, Liz Reid, admitiu resultados "bizarros" e imprecisos do AI Overview, e informou que a companhia iria limitar o escopo de pesquisas que recebem textos feitos pelo sistema.

"Pessoas nas redes sociais compartilharam algumas visões gerais estranhas e errôneas", afirmou a executiva. "Observando exemplos das últimas semanas, conseguimos determinar padrões em que não acertamos e fizemos mais de uma dúzia de melhorias técnicas em nossos sistemas", acrescentou.

A executiva do Google explicou que foram adotadas ações como limitar o uso de conteúdo gerado por usuários nas respostas, porque podem conter sugestões enganosas. Ela ressaltou ainda que a empresa busca não usar o AI Overviews em buscas sobre notícias factuais, nas quais o relato de acontecimentos recentes e a acuidade das informações são essenciais. E disse que, no caso de pesquisas sobre saúde, foram criados mecanismos de refinamento adicionais.

Nas últimas semanas, viralizaram resultados absurdos criados pela ferramenta. Em um caso, a inteligência artificial recomendou para o usuário que comer pedras poderia "ser bom". Em outro, sugeriu usar cola não tóxica para engrossar o molho de pizza. Outra imagem que viralizou mostrava o AI Overview alegando que Barack Obama foi o primeiro presidente muçulmano dos EUA, reproduzindo uma teoria da conspiração popular entre a extrema-direita americana.

• IA na vida real: executivos vão da euforia à difícil missão de aplicar nova tecnologia nos negócios

Segundo Reid, as falhas reais do sistema foram acompanhadas de "grande número de capturas de tela falsas" que circularam nas redes. A empresa, no entanto, admitiu que a IA gerou textos "esquisitos, incorretos ou sem utilidade".

O texto no blog do Google também justifica que resultados absurdos - como a dieta de pedras e o molho de cola - são fruto de pesquisas incomuns e raras, que teriam a intenção de produzir os resultados errados. O conteúdo nonsense, no entanto, pode indicar problemas mais profundos do sistema, já que os resumos usaram postagens de fóruns on-line e sites satíricos para gerar respostas. O uso desse tipo de site para alimentar a ferramenta também será limitado.

Segundo Liz, algumas perguntas intencionalmente sem sentido mostram o desafio de interpretação do AI Overviews. Ela cita como exemplo a pergunta “Quantas pedras eu deveria comer?” e argumenta que, antes das capturas de tela viralizarem, “ninguém perguntava essas coisas ao Google.”

Anunciado no início de maio, o AI Overview inclui nos resultados de busca do Google resumos prontos gerados por inteligência artificial, a partir de informações disponíveis na internet. Desde que foi apresentado, o AI Overview tem gerado alerta de especialistas para o risco de deterioração da qualidade de informações apresentadas no buscador. Criadores de conteúdo também têm levantado preocupações sobre o impacto do sistema no tráfego para os sites.

Em postagem após os problemas com o sistema, a empresa informou que vai seguir monitorando as avaliações de usuários e fazendo ajustes. Ao anunciar o AI Overview, o Google informou que o sistema seria para bilhões de usuários ao longo do ano. Ainda não há data para o lançamento no Brasil.

Além de respostas absurdas, o Google admitiu também que o sistema gerou textos que violam as políticas de conteúdo da própria empresa. De acordo com Reid, os desvios aconteceram em um "pequeno número" de buscas, menos de uma em cada 7 milhões de consultas com o AI Overview. Os resultados incluíram informações potencialmente prejudiciais e obscenas.