O Google vai promover mudanças em sua ferramenta de inteligência artificial que gera respostas resumidas para buscas, depois de resultados sem sentido e incorretos viralizarem na internet. Disponível para os usuários dos Estados Unidos, o AI Overview chegou a informar que uma dieta de pedras poderia ser saudável e que o uso de cola é uma boa opção para engrossar o molho de pizzas.
Em uma postagem feita no blog da empresa, a chefe de buscas do Google, Liz Reid, admitiu resultados "bizarros" e imprecisos do AI Overview, e informou que a companhia iria limitar o escopo de pesquisas que recebem textos feitos pelo sistema.
"Pessoas nas redes sociais compartilharam algumas visões gerais estranhas e errôneas", afirmou a executiva. "Observando exemplos das últimas semanas, conseguimos determinar padrões em que não acertamos e fizemos mais de uma dúzia de melhorias técnicas em nossos sistemas", acrescentou.
O jogo dos seis erros da inteligência artificial
![O que foi informado ao sistema: imagem hiper-realista retrata um homem tirando uma selfie com os amigos em um cinema lotado. As pessoas assistem a uma comédia e riem muito — Foto: Imagem gerada por Midjourney](https://s2-oglobo.glbimg.com/iMoTPHt3O9ExJUHARME6INKXdCA=/0x0:689x529/648x248/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/O/g/0AfkXETSefvFzCYpVhBw/106073085-ec-credito-imagem-gerada-por-ia-midjourney-prompt-the-hyperrealistic-image-depicts-the-ma.jpg)
![O que foi informado ao sistema: imagem hiper-realista retrata um homem tirando uma selfie com os amigos em um cinema lotado. As pessoas assistem a uma comédia e riem muito — Foto: Imagem gerada por Midjourney](https://s2-oglobo.glbimg.com/TkhlvrytsKlogH0eXZY-fb4mPF0=/689x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/O/g/0AfkXETSefvFzCYpVhBw/106073085-ec-credito-imagem-gerada-por-ia-midjourney-prompt-the-hyperrealistic-image-depicts-the-ma.jpg)
O que foi informado ao sistema: imagem hiper-realista retrata um homem tirando uma selfie com os amigos em um cinema lotado. As pessoas assistem a uma comédia e riem muito — Foto: Imagem gerada por Midjourney
![No cinema. A figura que segura o celular tem as mãos deformadas — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/vqNfZeZZF1m0mGH_iEKNrYjqSow=/0x0:1316x915/323x182/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/Q/3/YOLFuJTWuG2HaoaVE25g/106073085-ec-credito-imagem-gerada-por-ia-midjourney-prompt-the-hyperrealistic-image-depicts-the-ma-1-.jpg)
![No cinema. A figura que segura o celular tem as mãos deformadas — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/x-Xn4bu1ktM76c625ZuiKkkWk38=/1316x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/Q/3/YOLFuJTWuG2HaoaVE25g/106073085-ec-credito-imagem-gerada-por-ia-midjourney-prompt-the-hyperrealistic-image-depicts-the-ma-1-.jpg)
No cinema. A figura que segura o celular tem as mãos deformadas — Foto: Imagem gerada por IA/Midjourney
Publicidade
![Harmonia: Um maestro conduz uma orquestra, rege com energia, a câmera está de costas para o maestro, os músicos estão de frente para a câmera, ele toca a Nona Sinfonia de Beethoven - Foto: imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/JGn0rzYKl56kvwjd40tgdu83Mr0=/0x0:788x605/323x182/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/w/w/WbJWvdQH6rEcsxxhBhzQ/106073097-ec-credito-imagem-gerada-por-ia-midjourney-prompt-a-conductor-leads-an-orchestra-conducts.jpg)
![Harmonia: Um maestro conduz uma orquestra, rege com energia, a câmera está de costas para o maestro, os músicos estão de frente para a câmera, ele toca a Nona Sinfonia de Beethoven - Foto: imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/jchLBnz4xv3Bk7rLH-0NfAtxGQg=/788x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/w/w/WbJWvdQH6rEcsxxhBhzQ/106073097-ec-credito-imagem-gerada-por-ia-midjourney-prompt-a-conductor-leads-an-orchestra-conducts.jpg)
Harmonia: Um maestro conduz uma orquestra, rege com energia, a câmera está de costas para o maestro, os músicos estão de frente para a câmera, ele toca a Nona Sinfonia de Beethoven - Foto: imagem gerada por IA/Midjourney
![Regência. A imagem exibe mão direita do maestro com dedo alongado. E a batuta se assemelha a um arco de violino — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/DZLWWJiGRqcfNaAAtDvy8PaSXFc=/1248x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/6/L/arZQ3aSguk4I4UnjeBBg/106073097-ec-credito-imagem-gerada-por-ia-midjourney-prompt-a-conductor-leads-an-orchestra-conducts.jpg)
Regência. A imagem exibe mão direita do maestro com dedo alongado. E a batuta se assemelha a um arco de violino — Foto: Imagem gerada por IA/Midjourney
Publicidade
![O que foi informado ao sistema de inteligência artificial: imagem exibe uma pessoa com os braços cruzados, não foi solicitado que aparecesse o rosto - foto: imagem criada por IA/Midjourney](https://s2-oglobo.glbimg.com/NRKfo0zYSxhP5Tf9WnLMjOQ5qWE=/625x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/P/q/XLsEZlQeOQQSVhw7lcwA/106073077-ec-credito-imagem-gerada-por-ia-midjourney.-prompt-with-arms-crosse.jpg)
O que foi informado ao sistema de inteligência artificial: imagem exibe uma pessoa com os braços cruzados, não foi solicitado que aparecesse o rosto - foto: imagem criada por IA/Midjourney
![Em excesso. Imagem gerada por inteligência artificial mostra uma pessoa com mais um braço — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/_03jsUgiFSELbHOApAdOu0Szk3A=/1600x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/R/E/2Rz8DUTJA8EZNPyQCoEQ/106073077-ec-credito-imagem-gerada-por-ia-midjourney.-prompt-with-arms-crosse.jpg)
Em excesso. Imagem gerada por inteligência artificial mostra uma pessoa com mais um braço — Foto: Imagem gerada por IA/Midjourney
Publicidade
![Alegria: Uma criança sorri imensamente feliz e até grita de boca aberta de tanta felicidade quando recebe um presente. Esta imagem serve como uma prova do poder da felicidade — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/wI8JxbOb8dcgOdtOZMMMPznBg5I=/1272x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/B/8/8rXBM7S5K4mld8A9KYiA/106073063-ec-dente1jpg-credito-imagem-gerada-por-ia-midjourney-prompt-a-child-smiles-immensely-happ.jpg)
Alegria: Uma criança sorri imensamente feliz e até grita de boca aberta de tanta felicidade quando recebe um presente. Esta imagem serve como uma prova do poder da felicidade — Foto: Imagem gerada por IA/Midjourney
![Sorriso assustador. O dente da criança que recebe o presente se confunde com a gengiva — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/AZmP2OoerFUa1c-QQ7A4C8Hrmhw=/1600x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/d/t/0mbdcPQcK2iBCko4ATCA/106073063-ec-dente1jpg-credito-imagem-gerada-por-ia-midjourney-prompt-a-child-smiles-immensely-happ-1-.jpg)
Sorriso assustador. O dente da criança que recebe o presente se confunde com a gengiva — Foto: Imagem gerada por IA/Midjourney
Publicidade
![Dueto inusitado: Produção exibe a cantora brasileira Anitta cantando com o líder do Coldplay, Crhis Martin, dançando e cantando no palco, com luz de neon — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/TOHoW1u2hh7JwrU9maiGjOmbbUY=/1000x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/i/m/sdP1QyQlCy3MhKLcoJ0g/106073079-ec-credito-imagem-gerada-por-ia-midjourney.-prompt-production-still-of-a-brazilian-singe-1-.jpg)
Dueto inusitado: Produção exibe a cantora brasileira Anitta cantando com o líder do Coldplay, Crhis Martin, dançando e cantando no palco, com luz de neon — Foto: Imagem gerada por IA/Midjourney
![Atenção ao vocalista. A mão direita do cantor Chris Martin aparece com seis dedos — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/BcA_XwDkmnX0bgqhK_35uJQmVEQ=/1600x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/n/c/WGBKgDQw67slQEjTU0NQ/106073079-ec-credito-imagem-gerada-por-ia-midjourney.-prompt-production-still-of-a-brazilian-singe.jpg)
Atenção ao vocalista. A mão direita do cantor Chris Martin aparece com seis dedos — Foto: Imagem gerada por IA/Midjourney
Publicidade
![Apreciando a vista. Um grupo de capivaras com a cidade do Rio de Janeiro ao fundo, em um dia de garoa, imagem no estilo de publicações voltadas para a vida animal — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/czI_fBnJgzlc6905ED71t-s7Cw0=/1600x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/B/O/bp8KovREqBQ5Pvb5AGjg/106086327-production-still-a-hundred-capybara-the-city-of-rio-de-janeiro-in-the-background-rain-driz.jpg)
Apreciando a vista. Um grupo de capivaras com a cidade do Rio de Janeiro ao fundo, em um dia de garoa, imagem no estilo de publicações voltadas para a vida animal — Foto: Imagem gerada por IA/Midjourney
![É esse animal mesmo? Capivara aparece de rabo e mais parece um rato — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/ijWsS4rwau69tZ3V7M16bPt_YR4=/1304x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/k/H/QAJqWJRlyhC5cEASVPCA/106086327-production-still-a-hundred-capybara-the-city-of-rio-de-janeiro-in-the-background-rain-driz-2-.jpg)
É esse animal mesmo? Capivara aparece de rabo e mais parece um rato — Foto: Imagem gerada por IA/Midjourney
Publicidade
A executiva do Google explicou que foram adotadas ações como limitar o uso de conteúdo gerado por usuários nas respostas, porque podem conter sugestões enganosas. Ela ressaltou ainda que a empresa busca não usar o AI Overviews em buscas sobre notícias factuais, nas quais o relato de acontecimentos recentes e a acuidade das informações são essenciais. E disse que, no caso de pesquisas sobre saúde, foram criados mecanismos de refinamento adicionais.
Nas últimas semanas, viralizaram resultados absurdos criados pela ferramenta. Em um caso, a inteligência artificial recomendou para o usuário que comer pedras poderia "ser bom". Em outro, sugeriu usar cola não tóxica para engrossar o molho de pizza. Outra imagem que viralizou mostrava o AI Overview alegando que Barack Obama foi o primeiro presidente muçulmano dos EUA, reproduzindo uma teoria da conspiração popular entre a extrema-direita americana.
Segundo Reid, as falhas reais do sistema foram acompanhadas de "grande número de capturas de tela falsas" que circularam nas redes. A empresa, no entanto, admitiu que a IA gerou textos "esquisitos, incorretos ou sem utilidade".
IA violou política de conteúdo do Google
O texto no blog do Google também justifica que resultados absurdos - como a dieta de pedras e o molho de cola - são fruto de pesquisas incomuns e raras, que teriam a intenção de produzir os resultados errados. O conteúdo nonsense, no entanto, pode indicar problemas mais profundos do sistema, já que os resumos usaram postagens de fóruns on-line e sites satíricos para gerar respostas. O uso desse tipo de site para alimentar a ferramenta também será limitado.
Segundo Liz, algumas perguntas intencionalmente sem sentido mostram o desafio de interpretação do AI Overviews. Ela cita como exemplo a pergunta “Quantas pedras eu deveria comer?” e argumenta que, antes das capturas de tela viralizarem, “ninguém perguntava essas coisas ao Google.”
Anunciado no início de maio, o AI Overview inclui nos resultados de busca do Google resumos prontos gerados por inteligência artificial, a partir de informações disponíveis na internet. Desde que foi apresentado, o AI Overview tem gerado alerta de especialistas para o risco de deterioração da qualidade de informações apresentadas no buscador. Criadores de conteúdo também têm levantado preocupações sobre o impacto do sistema no tráfego para os sites.
Em postagem após os problemas com o sistema, a empresa informou que vai seguir monitorando as avaliações de usuários e fazendo ajustes. Ao anunciar o AI Overview, o Google informou que o sistema seria para bilhões de usuários ao longo do ano. Ainda não há data para o lançamento no Brasil.
Além de respostas absurdas, o Google admitiu também que o sistema gerou textos que violam as políticas de conteúdo da própria empresa. De acordo com Reid, os desvios aconteceram em um "pequeno número" de buscas, menos de uma em cada 7 milhões de consultas com o AI Overview. Os resultados incluíram informações potencialmente prejudiciais e obscenas.
Essa é a segunda vez neste ano que o lançamento de uma nova ferramenta de IA do Google gera uma crise para a empresa. No início do ano, a companhia suspendeu a geração de imagens no Gemini depois do sistema apresentar erros raciais e históricos - como soldados negros na Alemanha nazista de 1943.