Modalità sitemap, lista e file di URL
sitemap-crawl espande un sitemap in un albero di URL. Accetta una URL di sitemap oppure la root di un sito: legge allora le righe Sitemap in robots.txt e ripiega su /sitemap.xml. Per una scansione, crawl-site --sitemap semina e riconcilia le URL del sitemap, --sitemap-only scarica solo quei membri, e --urls o --urls-file scaricano una lista esplicita senza seguire i link.
- Indici di sitemap, urlset, sitemap in testo semplice e gzip
- Le URL duplicate tra sitemap vengono segnalate

