Saltar al contenido

Comprobador de robots.txt y sitemap

robots.txt & Sitemap Checker

Descarga el robots.txt y el sitemap, comprueba si una URL es rastreable y valida el formato del sitemap.

Descarga el robots.txt y el sitemap de un sitio, y luego dictamina si una ruta dada es rastreable — por rastreador, mostrando qué grupo y qué regla lo decidieron. Responde «por qué esta página no está indexada» en la única capa que bloquea todo lo demás en silencio.

☁️ Usa nuestro servidorseorobotssitemapcrawl

Nuestro servidor hace esta solicitud por ti. Solo se le envía la URL que escribiste: ninguna de tus cookies ni tu sesión iniciada viaja con ella. El servidor solo se conecta a direcciones públicas y rechaza las privadas e internas.

Descarga el robots.txt y el sitemap de este sitio y luego dictamina si cada rastreador puede rastrear la ruta que has dado.

Cómo se usa

  1. Pega la URL de la página, no el dominio

    La ruta es lo que se juzga. El robots.txt se descarga automáticamente del host de esa URL.

  2. Lee el veredicto por rastreador

    Googlebot, Bingbot, los rastreadores de IA y cualquier User-agent que añadas se juzgan por separado, porque robots.txt los agrupa por separado. La regla que decide se muestra con su número de línea.

  3. Revisa el sitemap junto a él

    El sitemap se descarga de la línea Sitemap:, o de /sitemap.xml si no hay ninguna, y se listan sus entradas y sus problemas. Un sitemap que devuelve 404 es lo que Search Console informa como no recuperable.

Preguntas frecuentes

¿El robots.txt saca una página de los resultados de búsqueda?

No: detiene el rastreo, no el listado. Una URL bloqueada a la que enlazan otros sitios puede seguir apareciendo, sin descripción, porque al rastreador se le prohíbe leer el noindex que le pusiste. Para quitar una página, permite el rastreo y sirve noindex.

Mi robots.txt devuelve un 500: ¿importa?

Mucho. Según el RFC 9309 un 5xx significa que el archivo no está disponible, y un rastreador trata el sitio entero como prohibido en lugar de suponer lo mejor. Un error de servidor en este único archivo puede sacar un sitio entero de la búsqueda.

Dos reglas coinciden con mi ruta: ¿cuál gana?

La coincidencia más larga, y Allow gana un empate (RFC 9309 §2.2.2). La tabla nombra la regla que decidió de verdad, que suele ser la sorpresa.

¿Los rastreadores obedecen esto de verdad?

Los que tienen nombre, sí. robots.txt es una convención, no un control de acceso: cualquier cosa que lo ignore descargará la página igual, así que una ruta que no debe ser pública necesita autenticación y no una línea Disallow.

Puede recibir de

Después

Estas aceptan lo que produce esta herramienta, así que el resultado puede pasar directamente.