サイトマップ・URLリスト・URLファイルの各モード
sitemap-crawlは、1つのサイトマップをURLツリーに展開します。入力はサイトマップのURLでもサイトのルートでも構いません。ルートを指定した場合は、robots.txtのSitemap行を読み、見つからなければ/sitemap.xmlを試します。クロールでは、crawl-site --sitemapがサイトマップのURLを起点にして結果を突き合わせます。--sitemap-onlyはサイトマップ記載のURLだけを取得し、--urlsまたは--urls-fileはリンクをたどらずに指定したリストを取得します。
- サイトマップインデックス、urlset、テキスト形式、gzip形式のサイトマップに対応
- 複数のサイトマップにまたがる重複URLを報告

