Transfert d'environ 300 Go de fichiers d'un serveur à un autre

J'ai environ 200 000 fichiers que je transfère vers un nouveau serveur aujourd'hui. Je n'ai rien fait à une si grande échelle auparavant et je voulais obtenir des conseils sur la façon de procéder. Je les déplace entre deux distributions Centos 6, et elles se trouvent à différents endroits du pays. Je n'ai pas assez d'espace sur le disque dur sur le serveur d'origine pour tarer tous les répertoires et fichiers dans une seule archive tar, alors ma question est de savoir comment dois-je transférer tous ces fichiers? rsync? une façon spéciale d'utiliser rsync? Toute entrée / suggestion sur la façon de le faire serait incroyable.

Merci

EDIT: Pour ceux qui se demandent, je suggère fortement d'utiliser un screenlors de l'exécution d'une grande rsynccommande comme celle-ci. Surtout quand quelque chose de stupide peut se produire et que vous perdez la connexion au serveur A à partir duquel vous exécutez la rsynccommande. Détachez ensuite l'écran et reprenez-le plus tard.

Juste pour étoffer la réponse de Simon , rsyncest l'outil parfait pour le travail:

   Rsync  is  a  fast  and extraordinarily versatile file copying
   tool.  It can copy locally,  to/from  another  host  over  any
   remote  shell,  or to/from a remote rsync daemon.  It offers a
   large number of options  that  control  every  aspect  of  its
   behavior  and permit very flexible specification of the set of
   files to be copied.  It is famous for its delta-transfer algo‐
   rithm,  which reduces the amount of data sent over the network
   by sending only the differences between the source  files  and
   the  existing  files in the destination.  Rsync is widely used
   for backups and mirroring and as an improved copy command  for
   everyday use.

En supposant que vous avez un accès ssh à la machine distante, vous voudriez faire quelque chose comme ceci:

rsync -hrtplu path/to/local/foo [email protected]:/path/to/remote/bar

Cela va copier le répertoire path/to/local/foopour /path/to/remote/barle serveur distant. Un nouveau sous-répertoire nommé bar/foosera créé. Si vous souhaitez uniquement copier le contenu d'un répertoire, sans créer un répertoire de ce nom sur la cible, ajoutez une barre oblique de fin:

rsync -hrtplu path/to/local/foo/ [email protected]:/path/to/remote/bar

Cela copiera le contenu de foo/dans le répertoire distant bar/.

Quelques options pertinentes:

 -h,                         output numbers in a human-readable format 
 -r                          recurse into directories
 -t, --times                 preserve modification times
 -p, --perms                 preserve permissions
 -l, --links                 copy symlinks as symlinks
 -u, --update                skip files that are newer on the receiver
 --delete                    delete extraneous files from dest dirs
 -z, --compress              compress file data during the transfer
 -C, --cvs-exclude           auto-ignore files in the same way CVS does
 --progress                  show progress during transfer
 --stats                     give some file-transfer stats

Cela dépend de la vitesse à laquelle il doit être copié et de la quantité de bande passante disponible.

Pour une mauvaise connexion réseau, considérez la bande passante d'un camion rempli de bandes. (Lisez: envoyez un disque dur de 2,5 pouces par la poste ou installez-le vous-même. 300 lecteurs gigabits devraient être faciles à trouver).

Si c'est moins critique en temps ou si vous avez beaucoup de bande passante, alors rsync est génial. S'il y a une erreur, vous pouvez simplement continuer sans recopier les fichiers précédents.

[Modifier] J'ai oublié d'ajouter que vous pouvez exécuter rsync plusieurs fois si vos données sont utilisées pendant la copie.

Exemple:
1) Données utilisées. Rsync -> Toutes les données sont copiées. Cela peut prendre un certain temps.
2) Réexécutez rsync, seuls les fichiers modifiés sont copiés. Cela devrait être rapide.

Vous pouvez le faire plusieurs fois jusqu'à ce qu'il n'y ait aucun changement, ou vous pouvez le faire de manière intelligente / sûre en rendant les données en lecture seule pendant la copie. (par exemple, s'il se trouve sur un ensemble partagé utilisé qui partage en lecture seule. Ou resynchronisez les données, puis la nuit, définissez le partage en lecture seule pendant que vous l'exécutez une deuxième fois).

J'irais pour rsync! Je l'utilise pour sauvegarder mon serveur sur un serveur hors site et cela fonctionne bien. Habituellement, il y a quelques Mo à copier, mais certains jours, cela va jusqu'à 20-30 Go et cela a toujours fonctionné sans problème.

rsync sur NFS utilisant une connexion Gigabit prendra environ 10h. Il sera préférable de copier les données sur le disque dur et de les déplacer entre les serveurs. Si vous devez faire une copie un-à-un du disque réel, utilisez dd ou quelque chose comme ça pour créer une image brute du disque. L'utilisation de ssh (scp) entraîne une énorme surcharge. Testé empiriquement sur une connexion Gigabit. rsync est efficace pour effectuer une synchronisation incrémentielle entre deux serveurs utilisés en haute disponibilité ou en mode de sauvegarde. Je suppose.

utiliser NFS et tar / untar pour la première fois (NFS est le protocole le plus rapide dans ce cas, tar pour économiser la bande passante du réseau en utilisant davantage le processeur)

tar cf - * | ( cd /target; tar xfp -)

la prochaine fois, utilisez rsync