Rastreo: cómo los bots de búsqueda solicitan y descubren URL

Proceso mediante el que un buscador descubre y solicita URL para recoger contenido y señales; el rastreo es distinto de la indexación, el posicionamiento y los informes.

Proceso mediante el que el rastreador de un buscador descubre y solicita URL para recoger contenido y señales; el rastreo es distinto de la indexación, el posicionamiento y los informes.

La decisión y sus límites

El rastreo es la fase de recuperación en la que un buscador descubre URL a través de enlaces, sitemaps y otras señales, y las solicita. Una descarga correcta no significa que la página vaya a indexarse, mostrarse o posicionarse. Y al revés: una URL indexada puede no volver a descargarse de inmediato tras un cambio. El trabajo útil consiste en que las URL importantes sean descubribles y accesibles, tengan enlaces internos y sean coherentes con la política de canonical y de control de indexación.

El diagrama destaca los puntos de decisión principales del rastreo: cómo los bots de búsqueda solicitan y descubren URL.

Qué revisar

Define un conjunto de URL antes de rastrear: plantillas, directorios importantes, sitemaps y rutas antiguas conocidas. Registra el código de respuesta, la URL final, la canonical, las directivas de robots, la disponibilidad del contenido renderizado y la profundidad de enlace. Compara la salida del rastreo con los datos del sitemap y de Google Search Console sin tratar sus poblaciones como intercambiables. Marca de forma explícita las URL inaccesibles o no medidas.

Una ruta de implementación práctica

Enlaza las páginas importantes con enlaces HTML normales desde las páginas hub relevantes, usa el sitemap como declaración de las URL finales indexables y mantén las reglas de robots alineadas con la política de rastreo que quieres. Corrige los errores de respuesta y las cadenas de redirecciones antes de pedir un nuevo rastreo. Después de un cambio, repite el mismo rastreo acotado e inspecciona los datos del servidor o de Search Console sobre la muestra definida, en lugar de sacar conclusiones para todo el sitio a partir de una sola URL.

Errores y límites de la medición

La confusión habitual es decir que el rastreo causó el posicionamiento, o que un bloqueo por robots es una solución de indexación. El rastreo, la indexación y el posicionamiento son fases separadas con evidencias distintas. No des por válida una respuesta 200 hasta haber comprobado también la URL final, la canonical y el contenido visible de la página.

Ejemplo práctico de rastreo. Al lanzar una categoría nueva, anota su URL canónica, la respuesta esperada, el enlace desde la página padre, su inclusión en el sitemap, la política de robots y el requisito de renderizado. Rastrea la página padre y la categoría con un user-agent definido y un modo de renderizado concreto, y compara la URL recogida con el estado previsto. Si el rastreador encuentra una redirección, un recurso bloqueado o una canonical distinta, investiga esa condición en lugar de dar la categoría por rastreada. Rastrear una sola URL no demuestra que toda una familia de plantillas sea descubrible.

Criterios de comprobación. Un registro de rastreo útil indica el conjunto de partida, la fecha, el tratamiento de las respuestas, las suposiciones sobre el renderizado, los límites, los fallos y la política de normalización de URL. En las URL importantes, revisa el estado, la cadena de redirecciones, la URL final, la canonical, las directivas de indexación, el origen del enlace y si se renderizó el contenido esencial. Compara el rastreo con las entradas del sitemap y con el informe de cobertura de Google Search Console con cautela, porque responden a preguntas distintas y pueden usar marcas de tiempo diferentes. Mantén visibles las poblaciones que no coinciden.

Errores habituales. No uses robots.txt para ocultar una URL esperando que transmita una regla noindex. No tomes una respuesta 200 como destino de rastreo válido si tiene una canonical incorrecta, un cuerpo renderizado pobre o recursos con redirección. Evita decir que un rastreador «encontró todas las páginas» sin un alcance documentado. El descubrimiento, la descarga, la indexación y el posicionamiento deben seguir separados en el informe.

FAQ

¿El rastreo significa que una página está indexada?
No. El rastreo es un proceso de descubrimiento y descarga. La indexación y el posicionamiento son decisiones separadas.
¿Cómo ayudo a que una página importante sea descubierta?
Usa enlaces internos relevantes, incluye la URL canónica final en un sitemap cuando proceda y haz que la página sea accesible para los rastreadores.
¿Qué debe incluir un registro de rastreo?
La URL solicitada y la final, la respuesta, la canonical, las directivas de robots, el estado del renderizado, el contexto por el que se descubre cada enlace, y el alcance y las lagunas.