完全一致の重複と類似コンテンツ
完全一致のコピーは、コンテンツハッシュで検出します。類似コンテンツの検出にはsimhashとLSHを使うため、ページを総当たりで比較することはありません。類似度のしきい値の初期値は0.92です。検出結果にはページのグループが一覧で出るので、残すページを1つ選んで、ほかを統合できます。
- コンテンツハッシュによる完全一致の重複
- 0から1の間で設定できるしきい値を超える類似コンテンツ
- 比較するのは、インデックス可能なページだけです(--all-pagesを指定した場合を除く)
- グループごとにページを一覧表示

