Pular para o conteúdo

Verificador de robots.txt e sitemap

robots.txt & Sitemap Checker

Busca o robots.txt e o sitemap, testa se uma URL pode ser rastreada e valida o formato do sitemap.

Busca o robots.txt e o sitemap de um site e depois decide se um dado caminho é rastreável — por rastreador, mostrando qual grupo e qual regra decidiram. Responde “por que esta página não está indexada” na única camada que bloqueia todo o resto em silêncio.

☁️ Usa o nosso servidorseorobotssitemapcrawl

Nosso servidor faz esta requisição por você. Enviamos a ele apenas a URL que você digitou — nenhum dos seus cookies nem seu login vai junto. O servidor só se conecta a endereços públicos e recusa os privados e internos.

Busca o robots.txt e o sitemap deste site e depois decide se cada rastreador pode rastrear o caminho que você deu.

Como usar

  1. Cole a URL da página, não o domínio

    O caminho é o que é julgado. O robots.txt é buscado automaticamente do host dessa URL.

  2. Leia o veredito por rastreador

    Googlebot, Bingbot, os rastreadores de IA e qualquer User-agent que você adicionar são julgados separadamente, porque o robots.txt os agrupa separadamente. A regra decisiva aparece com o número da linha.

  3. Confira o sitemap junto

    O sitemap é buscado da linha Sitemap:, ou de /sitemap.xml se não houver nenhuma, e suas entradas e problemas são listados. Um sitemap que devolve 404 é o que o Search Console relata como impossível de buscar.

Perguntas frequentes

O robots.txt tira uma página dos resultados de busca?

Não — ele impede o rastreamento, não a listagem. Uma URL bloqueada para a qual outros sites apontam ainda pode aparecer, sem descrição, porque o rastreador está proibido de ler o noindex que você colocou nela. Para remover uma página, permita o rastreamento e sirva noindex.

Meu robots.txt devolve 500 — isso importa?

Muito. Pela RFC 9309, um 5xx significa que o arquivo está indisponível, e um rastreador trata o site inteiro como proibido em vez de presumir o melhor. Um erro de servidor nesse único arquivo pode tirar um site inteiro da busca.

Duas regras batem com o meu caminho — qual vence?

A correspondência mais longa, e Allow vence o empate (RFC 9309 §2.2.2). A tabela nomeia a regra que de fato decidiu, que costuma ser a surpresa.

Os rastreadores obedecem mesmo a isso?

Os nomeados obedecem. O robots.txt é uma convenção, não um controle de acesso — qualquer coisa que o ignore busca a página do mesmo jeito, então um caminho que não pode ser público precisa de autenticação, não de uma linha Disallow.

Pode receber de

Em seguida

Estas aceitam o que esta ferramenta produz, então o resultado pode ir direto.