Modos de sitemap, lista e arquivo de URLs
O sitemap-crawl expande um sitemap em uma árvore de URLs. Ele aceita uma URL de sitemap ou a raiz de um site: nesse caso, lê as linhas Sitemap do robots.txt e usa /sitemap.xml como alternativa. Em um rastreamento, o crawl-site --sitemap usa as URLs do sitemap como ponto de partida e as cruza com o resultado; o --sitemap-only busca apenas esses membros; e --urls ou --urls-file buscam uma lista explícita sem seguir links.
- Índice de sitemap, urlset, sitemaps em texto simples e sitemaps em gzip
- URLs duplicadas entre sitemaps são informadas

