Scanner di sitemap e liste di URL

Oltre a seguire i link, SpiderHead può scansionare le URL dichiarate da un sitemap o da una lista esplicita, e riconciliare ciò che dice il sitemap con ciò che ha trovato la scansione.

Cosa fa

Modalità sitemap, lista e file di URL

sitemap-crawl espande un sitemap in un albero di URL. Accetta una URL di sitemap oppure la root di un sito: legge allora le righe Sitemap in robots.txt e ripiega su /sitemap.xml. Per una scansione, crawl-site --sitemap semina e riconcilia le URL del sitemap, --sitemap-only scarica solo quei membri, e --urls o --urls-file scaricano una lista esplicita senza seguire i link.

  • Indici di sitemap, urlset, sitemap in testo semplice e gzip
  • Le URL duplicate tra sitemap vengono segnalate

Sitemap contro scansione

L'audit confronta l'insieme di URL del sitemap con l'insieme scansionato. Segnala le URL che reindirizzano, rotte e non indicizzabili dentro il sitemap, e le pagine indicizzabili che mancano. I codici di risposta delle URL dichiarate vengono dalla scansione, non da sitemap-crawl.

  • URL nel sitemap senza link interni
  • Insiemi di URL fuori sincrono

Tre passaggi, una scansione salvata

  1. Leggi il sitemap

    Dai una URL di sitemap. Indici, sitemap figli, liste testuali e file gzip vengono seguiti fino alle voci URL.

  2. Controlla ogni URL dichiarata

    sitemap-crawl legge i file del sitemap e riporta le voci dichiarate, duplicate e non valide. Per avere un codice di risposta per ogni URL dichiarata, scansionale con crawl-site --sitemap o --sitemap-only.

  3. Confronta con la scansione

    L'audit mette a confronto le URL del sitemap con le pagine scansionate e segnala ciò che è fuori sincrono.

Controlli di questa funzionalità

ControlloCosa significaGravitàEvidenza
SITEMAP_URL_4XX_5XXUna URL del sitemap restituisce una risposta 4xx o 5xxCriticalURL del sitemap e suo codice di stato
SITEMAP_URL_3XXUna URL del sitemap reindirizza invece di rispondere 200ImportantURL del sitemap e suo stato di redirect
SITEMAP_URL_NON_INDEXABLEIl sitemap elenca una URL non indicizzabileImportantVoce del sitemap
SITEMAP_DESYNCGli insiemi di URL del sitemap e della scansione non corrispondonoImportantInsieme del sitemap contro insieme della scansione
URL_NOT_IN_SITEMAPUna pagina indicizzabile manca dal sitemapTipURL canonical scansionata
SITEMAP_STALE_LASTMODIl sitemap ha valori lastmod stantii o da boilerplateTipValori lastmod nel sitemap
Anche nel registro dei controlli
SITEMAP_URL_NON_CANONICALSITEMAP_ORPHANSITEMAP_URL_DUPLICATEDSITEMAP_TOO_MANY_URLS

Un solo comando

bash
seohead sitemap-crawl --url https://example.com/sitemap.xml

Prima installa SpiderHead: guida all'installazione. Ogni comando funziona anche come strumento MCP per agenti AI.

Cosa ti serve

  • Una URL di sitemap oppure la root di un sito
  • Per il confronto: una scansione avviata con --sitemap
  • Per una lista fissa: un file TXT, CSV, XLSX o XML di URL

Limiti

  • sitemap-crawl legge solo i file del sitemap; non richiede ogni URL dichiarata
  • I controlli di desync e orfane richiedono una scansione con cui confrontare
  • I sitemap molto grandi vengono troncati e il troncamento è segnalato

Domande

Quali formati di sitemap legge?
Indici di sitemap, file urlset, sitemap in testo semplice (una URL per riga) e file gzip, sia file .gz sia risposte codificate gzip. Gli indici annidati sono seguiti fino in fondo.
Posso dargli una lista di URL invece di un sitemap?
Sì, in una scansione: crawl-site --urls prende una lista separata da virgole e --urls-file un file TXT, CSV, XLSX o XML, senza scoperta di link. Per aggiungere una lista a una scansione salvata usa scan-import-urls, che prima crea un backup verificato.
Cambia qualcosa sul sito?
No. Richiede i file del sitemap e, in una scansione, le pagine che chiedi tu. Non modifica il sitemap né le pagine.
Il comando del sitemap da solo trova desync o URL orfane?
No. Quei controlli richiedono l'insieme di URL scansionato, quindi girano quando una scansione viene riconciliata con il sitemap (crawl-site --sitemap). Il comando da solo restituisce l'albero di URL con i valori lastmod.