O que é rastreamento? Como o Google descobre e lê as páginas do seu site
Rastreamento é o processo em que os robôs de um buscador, como o Googlebot, visitam URLs, baixam o conteúdo e seguem os links para encontrar novas páginas. É a primeira etapa da busca: uma página que o Google não rastreia não entra no índice e, portanto, não aparece nos resultados.
Muitos problemas de SEO começam aqui. Uma página nova que demora semanas para aparecer no Google, um bloqueio esquecido no robots.txt ou um servidor lento que derruba a frequência de visitas são falhas de rastreamento, e nenhuma otimização de conteúdo resolve isso sozinha.
Como funciona o rastreamento
O Google mantém uma lista de URLs conhecidas e decide quais visitar, com que frequência e em que ordem. O ciclo segue quatro passos:
- Descoberta. O Google encontra URLs novas por links de páginas já conhecidas, pelo sitemap XML e por envios no Search Console.
- Consulta ao robots.txt. Antes de acessar uma URL, o robô lê o arquivo robots.txt do domínio para saber se tem permissão.
- Download. O robô faz a requisição, recebe o código de status HTTP e baixa o HTML e os recursos da página, como CSS e JavaScript.
- Extração de links. Os links encontrados entram na fila, e o ciclo recomeça.
A frequência não é igual para todo site. O Google ajusta o ritmo de acordo com a saúde do servidor: respostas rápidas aumentam o número de visitas, enquanto erros 5xx e respostas 429 fazem o robô desacelerar. Páginas que mudam com frequência e têm muitos links também são visitadas mais vezes.
Rastreamento, renderização e indexação
São três etapas diferentes, e confundir uma com a outra leva a diagnósticos errados:
- Rastreamento: o robô acessa a URL e baixa o conteúdo.
- Renderização: o Google executa o JavaScript da página para enxergar o conteúdo como o navegador mostra.
- Indexação: o Google analisa o conteúdo e decide se a página entra no índice, a base de onde saem os resultados.
Uma página rastreada não é necessariamente indexada. O status "Rastreada, mas não indexada atualmente" no Search Console mostra exatamente isso: o Google visitou a URL e decidiu não incluí-la, o que costuma acontecer com thin content e páginas muito parecidas com outras.
O contrário também acontece. Uma URL bloqueada no robots.txt continua podendo aparecer nos resultados, sem descrição, se outros sites linkarem para ela. O robots.txt controla o rastreamento, não a indexação. Para tirar uma página do índice, a instrução é a tag noindex, e o robô precisa rastrear a página para ler essa tag.
Por que o rastreamento importa para SEO
Nos dados do SE Ranking para o Brasil, "crawler" tem 3.200 buscas por mês e "crawling" tem 5.700, as duas com dificuldade acima de 90. Na prática, o rastreamento afeta o SEO em três pontos:
- Velocidade de entrada no Google. Um site bem rastreado coloca páginas novas no índice em dias, não em semanas.
- Atualização dos resultados. Quando você muda um título ou um preço, o Google só mostra a versão nova depois de rastrear a página de novo.
- Uso do orçamento de rastreamento. Em sites grandes, filtros, parâmetros e conteúdo duplicado consomem visitas do robô que deveriam ir para as páginas importantes. Esse limite é chamado de crawl budget.
Como verificar o rastreamento do seu site
- Abra o relatório Estatísticas de rastreamento no Search Console, em Configurações. Ele mostra o total de requisições por dia, o tempo médio de resposta e a distribuição por código de status e tipo de arquivo.
- Use a Inspeção de URL para uma página específica. O relatório informa a data do último rastreamento, se o rastreamento foi permitido e qual versão do Googlebot visitou a página. O botão "Testar URL publicada" faz uma visita em tempo real.
- Revise o robots.txt em seudominio.com.br/robots.txt. Confira se nenhuma regra
Disallowbloqueia pastas importantes, como/blog/ou/produtos/. O guia de robots.txt explica cada diretiva. - Envie e mantenha o sitemap XML atualizado no Search Console, só com URLs que respondem 200 e que você quer indexar. O guia de sitemaps mostra como montar o arquivo.
- Rastreie o site com o Screaming Frog para simular o caminho do robô e encontrar links quebrados, redirecionamentos em cadeia e páginas órfãs, que não recebem nenhum link interno.
- Analise os logs do servidor em sites grandes. Os logs mostram quais URLs o Googlebot visita de verdade e quais ele ignora.
Um exemplo comum: uma loja virtual lança 200 produtos novos e, depois de um mês, só uma parte aparece no Google. A Inspeção de URL mostra "URL desconhecida para o Google" nos produtos faltantes. A causa é que eles só são acessíveis pela busca interna da loja, sem link em nenhuma categoria e fora do sitemap. A correção é linkar os produtos nas categorias e incluí-los no sitemap.
Se você quer saber quantas páginas do seu site o Google está deixando de rastrear, o diagnóstico de SEO gratuito da ASM Digital cruza o rastreamento do site com os dados do Search Console.
Erros comuns
- Bloquear CSS e JavaScript no robots.txt. O Google não consegue renderizar a página e enxerga um layout quebrado.
- Usar robots.txt para tirar páginas do índice. O bloqueio impede o robô de ler a tag noindex.
- Deixar páginas importantes sem link interno. O robô descobre páginas seguindo links, e uma página órfã depende só do sitemap.
- Ignorar a lentidão do servidor. Tempo de resposta alto reduz o número de páginas que o Google visita por dia.
Perguntas frequentes
Quanto tempo o Google leva para rastrear uma página nova?
Não existe prazo fixo. Em sites com bom histórico e links internos para a página nova, o rastreamento acontece em poucos dias. Pedir a indexação pela Inspeção de URL no Search Console ajuda a acelerar páginas prioritárias.
Como pedir para o Google rastrear meu site de novo?
Para uma página, use a Inspeção de URL e clique em "Solicitar indexação". Para muitas páginas, atualize o sitemap XML com a data de modificação correta e reenvie no Search Console.
Rastreamento e indexação são a mesma coisa?
Não. O rastreamento é a visita do robô à página. A indexação é a decisão de guardar a página no índice e mostrá-la nos resultados. Toda página indexada foi rastreada, mas nem toda página rastreada é indexada.
Termos relacionados
Quer um site que o Google rastreia e indexa sem desperdício? Conheça o SEO técnico da ASM Digital.
