stefankittel
Goto Top

Tool zum synchronisieren von Daten über das Internet gesucht (Client - Server)

Hallo,

ich suche ein Tool um größere Datenbestände über das Internet zu synchronisieren zu können.

Auf beiden Seiten läuft ein Windows Server mit ADSL und fester IP.

Die Datenmenge beträgt ca. 8 GB mit 300.000 Dateiein.
Dabei ändern sich aber nur ca. 50 Dateiein mit 5 MB (die gepackt 500KB groß sind).

Ich habe schon verschiedenes über FTP und Co probiert, aber allein der Ableich dauert dort Stunden bis Tage.

RSync und Co sollen nicht zum Einsatz kommen (nicht meine Entscheidung).

Das ganze darf auch was kosten.

Eigentlich müßte das Programm ja "nur"
- auf beiden Servern eine Liste erstellen
- auf dem Remote diese Liste komprimieren
- die Listen vergleich
- die geänderten Dateien komprimieren, übertragen und entpacken

Ich habe aber gar nichts in der Form im Internet gefunden.
Ich nichts im professionellen Bereich.

Ist das ne Marktlücke oder übersehe ich da was.

Für mich Interessehalber: könnte rsync das (vor allem das mit dem komprimieren?)

Danke

Stefan

Content-Key: 102923

Url: https://administrator.de/contentid/102923

Printed on: April 23, 2024 at 12:04 o'clock

Member: sysad
sysad Nov 28, 2008 at 22:36:40 (UTC)
Goto Top
rsync macht das gut, aber es komprimiert m.W. nicht.
Member: n.o.b.o.d.y
n.o.b.o.d.y Nov 28, 2008 at 23:38:37 (UTC)
Goto Top
Hallo,

schon mal über Terminalserver/Citrix nachgedacht?
Member: dog
dog Nov 29, 2008 at 01:58:04 (UTC)
Goto Top
Windows Server können sich mit dem DFS von Haus aus synchronisieren, wenn Sie in einer Domäne sind.
Dann solltest du aber ein Site-to-Site-VPN benutzen.

Grüße

Max
Member: StefanKittel
StefanKittel Nov 29, 2008 at 08:00:49 (UTC)
Goto Top
Zitat von @n.o.b.o.d.y:
schon mal über Terminalserver/Citrix nachgedacht?
Ja, funktioniert in diesem Fall aber nicht da die Software nicht TS fähig ist (NEXT sei dank)
Member: StefanKittel
StefanKittel Nov 29, 2008 at 08:01:57 (UTC)
Goto Top
Zitat von @dog:
Windows Server können sich mit dem DFS von Haus aus
synchronisieren, wenn Sie in einer Domäne sind.
Dann solltest du aber ein Site-to-Site-VPN benutzen.
DFS ist leider kaum schneller als ein FTP Sync
Member: n.o.b.o.d.y
n.o.b.o.d.y Nov 29, 2008 at 09:40:29 (UTC)
Goto Top
Hallo,

hab eben mal geschaut, selbst robocopy kann nicht komprimieren.
Aber bei 5 MB Änderungsvolumen am Tag (?) brauchst Du doch keine Komprimierung, das sollte doch auch über ADSL gehen.
Oder sollen wir das wirklich so verstehen, dass Du erstmal die ganzen 8 GB über die Leitung pusten willst?
Member: sysad
sysad Nov 29, 2008 at 09:40:45 (UTC)
Goto Top
Zitat von @StefanKittel:
> Zitat von @n.o.b.o.d.y:
> schon mal über Terminalserver/Citrix nachgedacht?
Ja, funktioniert in diesem Fall aber nicht da die Software nicht TS
fähig ist (NEXT sei dank)

Dann wird es schwierig bis unmöglich. Wir verwenden i.d.R. auch TS wo immer es geht, weil durch das RDP die Datenmenge, die auf Reisen geht, sehr gering ist (manchmal muss man MS auch loben, das haben sie gut hingekriegt).
Früher gab es Modeme, die haben automatisch komprimiert. Vielleicht gibt es ja so was auch für Netzwerkkarten.
Member: StefanKittel
StefanKittel Nov 29, 2008 at 11:30:26 (UTC)
Goto Top
Zitat von @n.o.b.o.d.y:
hab eben mal geschaut, selbst robocopy kann nicht komprimieren.
Aber bei 5 MB Änderungsvolumen am Tag (?) brauchst Du doch keine
Komprimierung, das sollte doch auch über ADSL gehen.
Oder sollen wir das wirklich so verstehen, dass Du erstmal die ganzen
8 GB über die Leitung pusten willst?
Das Problem ist nicht das übertragen. Sonder der Abgleich.
Per FTP dauert das (wenn die Verbindung nicht wieder mal abreist) ca 8 Stunden!
Die Menge der Dateien machts
Member: aqui
aqui Nov 29, 2008 at 12:53:36 (UTC)
Goto Top
..wie bereits erwähnt: rsync sollte das machen oder das SyncToy von MS selber:
http://technet.microsoft.com/de-de/magazine/cc162483.aspx
Member: n.o.b.o.d.y
n.o.b.o.d.y Nov 29, 2008 at 13:13:36 (UTC)
Goto Top
Hallo,

für den initialen Datenabgleich kann man die 8 GB doch sicher offline kopieren, oder?
Denn mit dem geringen upstream vom ADSL....

google ist dein "freund":
http://truemirror.schlichtherle.de/en/
Member: StefanKittel
StefanKittel Nov 29, 2008 at 13:20:33 (UTC)
Goto Top
Zitat von @n.o.b.o.d.y:
für den initialen Datenabgleich kann man die 8 GB doch sicher
offline kopieren, oder?
Denn mit dem geringen upstream vom ADSL....
klar...

setzt ein Netzwerklaufwerk vorraus -> abgleich wird wieder schweinelangsam sein (so wie netzwerklaufwerke mit vpn)
Member: sysad
sysad Nov 29, 2008 at 13:42:43 (UTC)
Goto Top
Zitat von @aqui:
..wie bereits erwähnt: rsync sollte das machen oder das
SyncToy von MS selber:
http://technet.microsoft.com/de-de/magazine/cc162483.aspx


SyncToy hat mir schon zweimal beide Datenbestände gelöscht, wenn die Netzverbindung instabil war. Ich verwende das nur noch bei stabiler Kabelverbindung. Ich denke auch, dass SyncToy irgendwie bei rsync abgekupfert ist.
Member: n.o.b.o.d.y
n.o.b.o.d.y Nov 29, 2008 at 21:07:35 (UTC)
Goto Top
Zitat von @sysad:

Ich denke auch, dass SyncToy irgendwie bei
rsync abgekupfert ist.

m.W. nach ist das schlicht eine GUI von MS für robocopy.
Member: StefanKittel
StefanKittel Dec 20, 2008 at 23:47:17 (UTC)
Goto Top
Hallo,

ich halte mal fest, dass es anscheinend für das von mir beschriebene Szenarion kein Programm gibt. Weder Freeware noch Kommerziell.
Selbst rsync braucht ewig für den Abgleich. Es müssen ja nur wenige MB kopiert werden. Aber welche von den 300.000 Dateien...

Ich habe mal ein working Sample erstellt.
Das braucht für diesen Abgleich ca. 17 Sekunden und ist beim kopieren sogar schneller als rsync.

Wenn ich mal Zeit habe überlege ich das fertig zu programmieren.

Stefan
Member: sysad
sysad Dec 21, 2008 at 11:32:00 (UTC)
Goto Top
Zitat von @StefanKittel:
Hallo,

ich halte mal fest, dass es anscheinend für das von mir
beschriebene Szenarion kein Programm gibt. Weder Freeware noch
Kommerziell.
Selbst rsync braucht ewig für den Abgleich. Es müssen ja
nur wenige MB kopiert werden. Aber welche von den 300.000 Dateien...

Wenn erst mal der initiale Vollsync gelaufen ist macht Rsync das extrem schnell, jedenfalls bei mir. Was dauert ist die erstmalige 1:1 Kopie. Die würde ich w.o. beschrieben auch nicht mit Rsync machen sondern physisch, wenn möglich.


Ich habe mal ein working Sample erstellt.
Das braucht für diesen Abgleich ca. 17 Sekunden und ist beim
kopieren sogar schneller als rsync.

Schön, aber als IT-Vernatwortlicher würde ich nur ausnahmsweise eine Bastellösung nehmen, weil ich nicht weiss, wer das für wie lange warten wird.
Member: StefanKittel
StefanKittel Dec 21, 2008 at 11:36:40 (UTC)
Goto Top
Zitat von @sysad:
Wenn erst mal der initiale Vollsync gelaufen ist macht Rsync das
extrem schnell, jedenfalls bei mir.
Bei welcher Datenmenge (primär Anzahl der Dateien) und welcher Verbindung?
Bei mir sind es ca. 300.000 und auf jeder Seite einen DSL 16.000 mit Fastpath

Zitat von @sysad:
Was dauert ist die erstmalige 1:1
Kopie. Die würde ich w.o. beschrieben auch nicht mit Rsync machen
sondern physisch, wenn möglich.
Ja. Das lasse ich bei meiner Betrachtung auch aussen vor

Zitat von @sysad:
Schön, aber als IT-Vernatwortlicher würde ich nur
ausnahmsweise eine Bastellösung nehmen, weil ich nicht weiss, wer
das für wie lange warten wird.
Nee... das war nur für mich zum testen was technisch möglich ist.