Datensicherung mit einer Reihe von FreeFileSync und 7-zip

Anamnese sozusagen:

Fujitsu rx300 s6 Server, RAID6 von 6 1 TB Festplatten, XenServer 6.2 ist aktiv, mehrere Server drehen sich, darunter Ubunta mit mehreren Bällen, 3,5 Millionen Dateien, 1,5 TB Daten, all dies wächst und schwillt allmählich an.

Aufgabe: Konfigurieren Sie die Sicherung von Daten vom Dateiserver, teilweise täglich, teilweise wöchentlich.
Wir haben einen Windows-Backup-Computer mit RAID5 (in Bezug auf Armut eine reguläre Systemeinheit mit einem in die Mutter integrierten RAID-Controller) sowie eine separate 2-TB-Festplatte zum Zwischenkopieren des aktuellen Dateistatus. Sie können jede Linux-Distribution verwenden, aber dieser Computer war bereits mit einem RAID-Array und einer Windows-Lizenz auf Lager.

Wir installieren FreeFileSync auf dem Sicherungsserver und konfigurieren den "Spiegel" von allem in einer Reihe aus dem gesamten Dateiserverball einmal täglich abends nach 18 Stunden, indem wir den Scheduler durchlaufen.

Ein wichtiger Punkt: Wenn Sie eine Batch-Aufgabe speichern, müssen Sie das Kontrollkästchen „Schließen Sie das Aufgabenfenster nach Abschluss“ markieren, da sich sonst die Prozesse immer weiter vervielfachen.

Wir werfen temporäre Dateien in Maskenausnahmen: * .dwl, * .dwl2, * .tmp.

FreeFileSync nutzt das Netzwerk sehr gut, das Kopieren dauert mehrere Streams, die Geschwindigkeit erreicht 80 Mbit / s beim Kopieren großer Dateien, bei kleinen Dateien wurde kein Verstopfen festgestellt.

Wir werden die Archivierung bereits auf dem lokalen Sicherungsserver anstelle des zuvor verwendeten TheCopier durchführenmit Archivierung in einem Netzwerk. TheCopier ist übrigens großartig! Bei solchen Volumes hat es jedoch einfach keine Zeit, alles zu übertragen, trotz der 1-GB-Schnittstelle im Backup und der 2-GB-Schnittstelle in der Dateischnittstelle (die Verbindung zweier Netzwerkkarten). SyncToy wurde

ebenfalls zuvor verwendet , aber mit einer Anzahl von mehr als 1,5 bis 2 Millionen Dateien funktionierte es nicht mehr normal, konnte es einfach nicht bewältigen. Um die erforderlichen Ordner zu archivieren, schreiben wir eine Batch-Datei für 7-zip : set now =% TIME: ~ 0, -3% set now =% now :: =.% Set now =% now: = 0% set now =% DATE: ~ - 4%.% DATE: ~ 3,2%.% DATE: ~ 0,2% _% jetzt% C: \ "Programme" \ 7-Zip \ 7z.exe a -tzip -mx = 1 -mmt = on -mtc = off -ssw D: \ Backups \ All \% now% _10-04.zip E: \ 10-04








C:\«Program Files»\7-Zip\7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:\backups\All\%now%_35-110.zip E:\35-110
C:\«Program Files»\7-Zip\7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:\backups\All\%now%_asu.zip E:\asu
C:\«Program Files»\7-Zip\7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:\backups\All\%now%_director.zip E:\director
C:\«Program Files»\7-Zip\7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:\backups\All\%now%_gpr.zip E:\gpr
C:\«Program Files»\7-Zip\7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:\backups\All\%now%_otiz.zip E:\otiz
C:\«Program Files»\7-Zip\7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:\backups\All\%now%_ps.zip E:\ps
C:\«Program Files»\7-Zip\7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:\backups\All\%now%_pto.zip E:\pto
C:\«Program Files»\7-Zip\7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:\backups\All\%now%_rza.zip E:\rza
C:\«Program Files»\7-Zip\7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:\backups\All\%now%_smeta.zip E:\smeta

:: a —
:: -tzip -t7z — ( zip 1.5-2 )
:: -mx=1 — (1 , 9 x=[0 | 1 | 3 | 5 | 7 | 9 ])
:: -mmt=on —
:: -mtc=off — ( , ..)
:: -ssw — ,
:: -xr!.Sync* — BtSync ,


Mit der Konstruktion von set now =% usw. können Sie das Zeiterfassungsformat im Dateinamen speichern, ohne dass Probleme auftreten, wenn der Tag oder Monat kleiner als 10 ist. Das heißt, wir ersetzen die Null.

Kommentar -xr! .Sync * ist der Überrest des ursprünglich verwendeten BTSync .

Bis zu 500 GB und 700-800.000 Dateien funktionierte BTSync immer noch nicht, wurde im laufenden Betrieb synchronisiert, aber bei aktuellen Volumes verbrauchte es Speicher- und Prozessorressourcen sowohl auf dem Ubunt-Dateiserver als auch auf dem Windows-Backup, auf dem es vom Dienst gestartet und einfach vergewaltigt wurde ein Plattensystem mit konstantem Lese- / Schreibzugriff.

Obwohl der Archivierer 7-zip ist, archivieren wir ihn im Zip-Format anstelle des nativen 7z, da er viel schneller ist und es praktisch keinen Unterschied in der Komprimierung mit mx = 1 gibt. Er wurde durch viele Experimente getestet.

Archive werden nacheinander ausgeführt.

Das Bereinigen des Archivordners erfolgt auch über die geplante Aufgabe mit dem Dienstprogramm fpurge, sodass die Archive nicht älter als eine Woche sind.
Als Ergebnis haben wir eine Kopie der Dateien für den vorherigen Tag sowie Archive für die letzte Woche. FreeFileSync legt die gelöschten Dateien in den Papierkorb.

Source: https://habr.com/ru/post/undefined/


All Articles