J'ai une grande collection de musique et il y a quelques copies. Est-il possible de trouver des fichiers en double? Au minimum, faites un hachage et voyez si deux fichiers ont le même hachage.

Des points bonus pour la recherche de fichiers portant le même nom en plus de l’extension - je pense avoir des chansons avec les versions au format mp3 et ogg.

Je suis heureux d'utiliser la ligne de commande si c'est le moyen le plus simple.

Je l'utilise fdupespour cela. C'est un programme en ligne de commande qui peut être installé à partir des dépôts avec sudo apt install fdupes. Vous pouvez l'appeler comme fdupes -r /dir/ect/oryceci et une liste de dupes sera imprimée. fdupes a aussi une simple page d'accueil et un article Wikipedia , qui énumère quelques programmes supplémentaires.

FSlint a une interface graphique et quelques autres fonctionnalités. L'explication de l'algorithme de vérification des doublons de leur FAQ:

1. exclude files with unique lengths
2. handle files that are hardlinked to each other
3. exclude files with unique md5(first_4k(file))
4. exclude files with unique md5(whole file)
5. exclude files with unique sha1(whole file) (in case of md5 collisions).

sls

Liste de programs/scripts/bash-solutions, qui peut trouver des doublons et courir sous nix:

1. dupedit : Compare plusieurs fichiers à la fois sans checksum. Évite de comparer des fichiers avec eux-mêmes lorsque plusieurs chemins pointent vers le même fichier.
2. dupmerge : fonctionne sur diverses plateformes (Win32 / 64 avec Cygwin, * nix, Linux, etc.)
3. dupseek : Perl avec algorithme optimisé pour réduire les lectures.
4. fdf : basé sur Perl / c et s’appuyant sur la plupart des plateformes (Win32, * nix et probablement d’autres). Utilise MD5, SHA1 et d'autres algorithmes de somme de contrôle
5. freedups : script shell, qui effectue une recherche dans les répertoires que vous spécifiez. Lorsqu'il trouve deux fichiers identiques, il les lie ensemble. Maintenant, les deux fichiers ou plus existent toujours dans leurs répertoires respectifs, mais une seule copie des données est stockée sur le disque; les deux entrées du répertoire pointent sur les mêmes blocs de données.
6. fslint : possède une interface de ligne de commande et une interface graphique.
7. liten : outil de ligne de commande de déduplication Python Pure et bibliothèque utilisant les sommes de contrôle md5 et un nouvel algorithme de comparaison d'octets. (Linux, Mac OS X, * nix, Windows)
8. liten2 : une réécriture du liten d'origine, toujours un outil de ligne de commande mais avec un mode interactif plus rapide utilisant les sommes de contrôle SHA-1 (Linux, Mac OS X, * nix)
9. rdfind : L'un des rares qui classe les doublons en fonction de l'ordre des paramètres d'entrée (répertoires à analyser) afin de ne pas supprimer les sources "originales / connues" (si plusieurs répertoires sont donnés). Utilise MD5 ou SHA1.
10. rmlint : Fast Finder avec une interface en ligne de commande et de nombreuses options pour rechercher d'autres peluches (utilise MD5)
11. ua : outil de ligne de commande Unix / Linux, conçu pour fonctionner avec find (et ainsi de suite).
12. findrepe : outil de ligne de commande Java gratuit conçu pour une recherche efficace des fichiers en double, il peut effectuer une recherche dans des zips et des fichiers JAR (GNU / Linux, Mac OS X, * nix, Windows).
13. fdupe : un petit script écrit en Perl. Faire son travail rapidement et efficacement. 1
14. ssdeep : identifie les fichiers presque identiques à l'aide du hachage par fragmentation déclenchée par contexte

Si votre tâche est Déduplication la musique liée, exécutez d' abord la picard application pour identifier correctement et étiqueter votre musique ( de sorte que vous trouverez les fichiers en double .mp3 / ogg même si leurs noms sont incorrects). Notez que picard est également disponible sous forme de paquet Ubuntu.

Cela fait, en fonction de la musicip_puidbalise, vous pouvez facilement trouver toutes vos chansons en double.

Un autre script qui fait ce travail est rmdupe . De la page de l'auteur:

rmdupe utilise les commandes linux standard pour rechercher des fichiers en double dans les dossiers spécifiés, quel que soit le nom du fichier ou son extension. Avant que les candidats en double ne soient supprimés, ils sont comparés octet par octet. rmdupe peut également vérifier les doublons par rapport à un ou plusieurs dossiers de référence, peut supprimer des fichiers au lieu de les supprimer, permet une commande de suppression personnalisée et peut limiter sa recherche aux fichiers de la taille spécifiée. rmdupe inclut un mode de simulation qui indique ce qui sera fait pour une commande donnée sans supprimer aucun fichier.

As-tu essayé

finddup

ou

finddup -l

Je suppose que cela fonctionne bien.

Pour les doublons liés à la musique, l’identification et la suppression de Picard et Jaikoz par http://musicbrainz.org/ est la meilleure solution. Je crois que Jaikoz marque automatiquement votre musique en fonction des données du fichier de la chanson. Vous n'avez même pas besoin du nom de la chanson pour l'identifier et lui attribuer toutes les métadonnées. Bien que la version gratuite ne puisse étiqueter qu’un nombre limité de chansons en une fois, vous pouvez l’exécuter autant de fois que vous le souhaitez.

J'utilise komparator - sudo apt-get install komparator( Ubuntu 10.04+ ) - comme outil graphique pour rechercher des doublons en mode manuel.