Doublons exacts et quasi-doublons
Les copies exactes sont repérées grâce à un hash de contenu. Les quasi-doublons sont détectés avec simhash et LSH : les pages ne sont donc pas comparées une à une. Le seuil de similarité vaut 0,92 par défaut. Chaque constat liste le groupe de pages concernées, ce qui permet de choisir celle à conserver et de consolider les autres.
- Doublons exacts par hash de contenu
- Quasi-doublons au-dessus d’un seuil réglable de 0 à 1
- Seules les pages indexables sont comparées, sauf si vous passez --all-pages
- Groupes listés avec leurs pages

