Saber como os user agents do Google interagem com seu site pode ajudar a fazer com que suas páginas mais importantes apareçam em mais lugares no ecossistema do Google, sem sobrecarregar seus servidores. Seja você proprietário ou desenvolvedor de um site, esta documentação oferece mais controle sobre como seu site é rastreado.
É possível verificar se um rastreador da Web ou um coletor que acessa seu servidor é realmente do Google, como o Googlebot.
Os rastreadores do Google se ajustam automaticamente ao seu site e servidor para encontrar e mostrar de maneira eficiente o conteúdo mais recente e de melhor qualidade. Para ajudar você a gerenciar situações urgentes relacionadas ao seu servidor e ao rastreamento, é possível reduzir proativamente a taxa de rastreamento, se necessário.
É possível usar um arquivo robots.txt para permitir ou impedir o rastreamento de páginas individuais ou de todo o site.

Como as preferências de rastreamento afetam onde seu site aparece no Google

A infraestrutura de rastreamento do Google é compartilhada em vários produtos. Isso significa que seguir as práticas recomendadas ajuda seu conteúdo da Web a ser descoberto com mais eficiência e exibido no Google.
A Pesquisa Google usa o Googlebot para rastrear seu site e encontrar conteúdo relevante para os usuários.
O Google-Extended é usado pelos apps do Gemini e pela API Vertex AI para Gemini. Saiba mais sobre o Google-Extended.
As preferências de rastreamento direcionadas ao user agent Storebot-Google afetam todas as plataformas do Google Shopping.
O Rastreador do AdSense visita os sites participantes para mostrar anúncios relevantes.
As preferências de rastreamento direcionadas ao user agent Googlebot-News afetam o produto Google Notícias, incluindo news.google.com e o app Google Notícias.
O coletor Google-NotebookLM solicita URLs individuais que os usuários do NotebookLM enviaram como origens para os projetos.