O novo recurso AI Overviews do Google deseja fornecer resumos organizados dos resultados de pesquisa, pesquisados e escritos em poucos segundos pela IA generativa. Até agora tudo bem. O problema é que às vezes as coisas ficam erradas.
Com que frequência? É difícil dizer ainda, embora os exemplos tenham se acumulado rapidamente na semana passada. Mas mesmo um erro ocasional é uma má aparência para uma ferramenta que deveria ser mais inteligente e rápida do que você e eu. Considere estes erros:
Quando questionado sobre como manter o queijo na pizza, sugeriu adicionar um oitavo de xícara de cola atóxica . Essa é uma dica que surgiu de um comentário de 11 anos no Reddit.
E em resposta a uma pergunta sobre a ingestão diária de pedras por uma pessoa, recomendou que comêssemos “pelo menos uma pedra pequena por dia”. Esse conselho veio de uma história de 2021 no The Onion.
Leia também: ChatGPT pode administrar empresa e criar aplicativos ‘sozinho’
Essencialmente, é uma nova variação das alucinações de IA , que ocorrem quando um modelo generativo de IA fornece informações falsas ou enganosas e as apresenta como fatos. As alucinações resultam de dados de treinamento falhos, erros algorítmicos ou interpretações errôneas do contexto.
O grande modelo de linguagem por trás dos motores de IA, como os do Google, Microsoft e OpenAI, está “prevendo estatisticamente os dados que poderá ver no futuro com base no que viu no passado”, disse Mike Grehan, CEO da agência de marketing digital Chelsea Digital. “Então, há um elemento de ‘merda dentro, merda fora’ que ainda existe.”
É uma má aparência para o Google, pois ele está tentando se firmar nas areias movediças da era da IA generativa que se desenrola.
O mecanismo de busca que estreou em 1998 controla cerca de 86% do mercado. Os concorrentes do Google não chegam nem perto: o Bing controla 8,2%, o Yahoo tem 2,6%, o DuckDuckGo tem 2,1%, o Yandex tem 0,2% e a AOL tem 0,1%.
Mas o advento da IA generativa e o seu crescimento entre os consumidores – a adoção está projetada para atingir quase 78 milhões de utilizadores, ou cerca de um quarto da população dos EUA, até 2025 – ameaça indiscutivelmente o domínio do Google no mercado, o que se traduz em cerca de 8,5 milhões de utilizadores. bilhões de pesquisas por dia e US$ 240 bilhões em receita anual de publicidade.
O Google tem seu próprio chatbot de geração de IA, Gemini , que está competindo com o avô de todos eles, ChatGPT , e uma série de outros da Perplexity , Anthropic , Microsoft e muito mais. Todos estão lutando pela relevância à medida que nosso acesso à informação muda novamente, assim como aconteceu com a introdução do Google há 26 anos.
A última coisa que o Google precisa é perder a confiança de milhões de pessoas que fazem pesquisas no Google.
Em comunicado, um porta-voz do Google disse que a maioria das visões gerais de IA fornece informações precisas com links para verificação. Muitos dos exemplos que aparecem nas redes sociais são o que ela chamou de “consultas incomuns”, bem como “exemplos que foram adulterados ou que não conseguimos reproduzir”.
“Realizamos testes extensivos antes de lançar esta nova experiência e, como acontece com outros recursos que lançamos na Pesquisa, agradecemos o feedback”, disse o porta-voz. “Estamos tomando medidas rápidas quando apropriado de acordo com nossas políticas de conteúdo e usando esses exemplos para desenvolver melhorias mais amplas em nossos sistemas, algumas das quais já começaram a ser implementadas”.
O que são visões gerais de IA?
AI Overviews é uma nova versão da pesquisa do Google e só agora está começando a ser implementada nos EUA.
O Google há muito mexe em sua página de resultados de mecanismo de pesquisa para melhorar a experiência do usuário e gerar receita. Após o início com 10 links azuis em 1998, o Google introduziu links e anúncios patrocinados alguns anos depois e realmente agitou as coisas com a adição do Knowledge Graph em 2012. Essa é a caixa que dá uma resposta sobre uma pessoa, lugar ou coisa para responder mais rapidamente à sua consulta (e para evitar que você clique).
AI Overviews é a atualização mais recente nesse sentido.
Em vez de dividir uma consulta em várias perguntas, você pode perguntar algo mais complexo antecipadamente. O Google usa o exemplo de busca por um estúdio de ioga popular entre os habitantes locais, conveniente para seu deslocamento e com desconto para novos membros. Teoricamente, o que costumavam ser três pesquisas agora é uma.
O objetivo geral da geração AI aqui é tornar a pesquisa mais visual, interativa e social.
“À medida que as ferramentas de geração de imagens e vídeos baseadas em IA se tornam populares e os consumidores testam os recursos de pesquisa múltipla, os rich media das SERPs irão capturar efetivamente a atenção dos consumidores”, disse Nikhil Lai, analista sênior da empresa de pesquisa Forrester. “Afinal, 90% da informação transmitida ao nosso cérebro é visual.”
AJ Kohn, proprietário da empresa de marketing digital Blind Five Year Old, comparou as visões gerais de IA a um resumo dos resultados de pesquisa tradicionais. (O Google fornece links para sites que ajudam a informar a Visão Geral.) Os resultados regulares aos quais estamos acostumados aparecem em cada Visão Geral da IA.
“Embora o resumo generativo seja um tanto complexo, o usuário final está realmente obtendo uma espécie de TL;DR para essa pesquisa, o que pode tornar mais fácil para alguns encontrarem uma resposta satisfatória”, disse Kohn.
Os erros que a AI Overviews está cometendo
Para ser claro, o AI Overviews acerta muitas coisas. Quando perguntei como se livrar de uma dor de garganta, com que frequência manchar uma cerca de madeira e até mesmo por que a IA tem alucinações, as respostas foram todas certeiras.
Mas também listou – erroneamente – os benefícios para a saúde de correr com uma tesoura e tomar banho com uma torradeira, bem como o número de presidentes muçulmanos e se um cachorro já jogou na NHL. (A resposta do AI Overviews aparentemente nos faria acreditar que a resposta é sim, seu nome era Pospisil e ele foi escolhido na quarta rodada do draft em 2018.) Uma conta X relativamente nova, @Goog_Enough , tem uma contagem contínua.
Algumas dessas respostas ruins são uma resposta ao que Kohn chamou de “perguntas muito improváveis”.
Parece claro que, pelo menos em alguns casos, a Visão Geral da IA está coletando material de postagens de paródias, piadas de mau gosto e sites satíricos como o The Onion.
“Mas o que isso ressalta”, disse Kohn, “é como é fácil inserir conteúdo ilusório na Visão Geral da IA”.
Em última análise, revela um problema com o conteúdo de fundamentação e verificação de fatos nas visões gerais de IA.
Em sua análise do chatbot Gemini do Google, que está impulsionando a nova experiência de pesquisa, Imad Khan da CNET disse que a propensão do modelo para alucinar deveria vir com um aviso: “Honestamente, para estar seguro, basta pesquisar no Google”.
Acho que devemos acrescentar a isso: Google à moda antiga e depois pesquisar os links. Peter Butler, da CNET, tem conselhos sobre como obter os resultados de pesquisa antigos do Google.
Como os poderosos caem?
Mesmo antes de os erros começarem a aparecer nas visões gerais da IA, nem todos ficaram satisfeitos com a mudança. (“ Para mim, faz mais sentido pesquisar no TikTok ”, escreve minha colega Katelyn Chedraoui.)
Enquanto isso, os editores e outros sites estão preocupados com a perda de tráfego .
De acordo com Grehan, é possível que os sites vejam um declínio nas visitas orgânicas, se as pessoas pararem de rolar abaixo dos resumos.
“Duvido disso porque, como todo comportamento humano em geral – mesmo que o resumo forneça muitos detalhes antecipadamente – você provavelmente também desejará uma segunda opinião”, disse ele.
Os erros da Visão Geral da IA são um forte argumento para obter essa segunda opinião.
Por sua vez, Liz Reid, vice-presidente e chefe da Pesquisa Google, escreveu na semana passada, em uma postagem de blog anunciando o que as visões gerais de IA podem fazer, que o uso inicial em seus experimentos do Search Labs no ano passado mostra que os usuários estão visitando uma “maior diversidade de sites” com visões gerais de IA e os links incluídos “obtêm mais cliques do que se a página tivesse aparecido como uma listagem tradicional da web para aquela consulta”.
Mas apenas três meses depois de outro constrangimento público – a funcionalidade de geração de imagens do Gemini foi suspensa porque retratava imprecisões históricas, como pessoas de cor em uniformes nazistas – permanece a questão se estamos começando a ver rachaduras nos alicerces do outrora onipotente potência de pesquisa.
Em sua postagem, Reid também escreveu: “Aperfeiçoamos meticulosamente nossos principais sistemas de qualidade da informação para ajudá-lo a encontrar o que há de melhor na web”.
Aparentemente, isso permanece aberto ao debate.
Fonte: CNET
