remedin
Goto Top

Speicher-Projekt min 400TB mit Backup Lösung

Hallo,
ich bin dabei einen Netzwerkshare aufzubauen der min 400TB groß sein soll und auf mindestens 1000TB erweitert werden kann(mir persönlich wäre eine unbegrenzte Erweiterbarkeit lieber).
ich hatte dafür von Synology die RC18015xs+ mit 5X RXD1215sas vorgesehen.
für Backups haben wir uns überlegt das ganze mit einem Bandroboter zu realisieren, dazu brauche ich vermutlich dann noch einen Server.
wobei ich gestehen muss mit Bandrobotern und Bandsicherungen allgemein hatte ich noch nichts zu tun das ist neuland für mich.

oder sollte man bei so einer Größe eventuell gleich auf ein richtiges Fileserver System setzen?

das ganze wird über einen 10Gbit Anschluss am Core Switch angebunden

Budget habe ich aktuell für ca 55K€ die Freigabe erhalten.

es greifen maximal 10 Anwender gleichzeitig drauf zu
gespeichert werden darauf hauptsächlich Mess- und Simulationsdaten

Content-ID: 589177

Url: https://administrator.de/contentid/589177

Ausgedruckt am: 22.11.2024 um 03:11 Uhr

aqui
aqui 20.07.2020 um 14:56:26 Uhr
Goto Top
oder sollte man bei so einer Größe eventuell gleich auf ein richtiges Fileserver System setzen?
Dann kannst du ja auch ein 2tes baugleiches NAS nehmen und replizieren. Wozu einen "Server" Overhead ?
emeriks
emeriks 20.07.2020 um 15:06:18 Uhr
Goto Top
Zitat von @aqui:
Dann kannst du ja auch ein 2tes baugleiches NAS nehmen und replizieren. Wozu einen "Server" Overhead ?
Wobei ein einfaches Replikat kein Backup im Sinne von Versionierung ist!
Remedin
Remedin 20.07.2020 um 15:10:06 Uhr
Goto Top
das Bandlaufwerk hätte den charme dass ich ggf verscheidene versionsstände aufbewahren kann. das könnte man beim Synology zwar auch über die Versionierung da geht es aber dann zu lasten der gesammtkapazität.
und ich weiß nicht in wie weit mich das vor z.B. einem Verschlüsselungstrojaner schützt - nur als beispiel.

Was wir uns auch überlegt hatten: es gibt Projekte an denen nicht mehr aktiv gearbeitet wird die sollten aber trotzdem viele Jahre aufbewahrt werden.
diese könnte man dann auf ein Band sichern und bei Bedarf wieder einspielen.
it-frosch
it-frosch 20.07.2020 aktualisiert um 15:26:22 Uhr
Goto Top
Hallo Remedin,

wenn du wirklich ein Backup einrichten und nur eine Kopie der Daten vorhalten willst,
dann solltest du das professionell angehen.

D.h.
Tages- und Wochensicherungen und solange aufheben wie notwendig. (Aufbewahrungsfristen beachten)
Tagessicherungen meist differentiell und am Wochenende eine Vollsicherung.
Die Monatssicherungen legst du weg und beschriftest sie mit Monat / Jahr für das Archiv.

Was die techn. Durchführung der Sicherung betrifft gibt es sicherlich die Festplatten gegen Band Argumentation.
Ich bin mehr für Band, da es auch mal runterfallen kann und für die Mengen sicherlich preiswerter ist.
Es gibt Bandlaufwerke, da kannst du einen ganzen Wochensatz oder sogar noch mehr einlegen und brauchst nicht so häufig zu wechseln.
Bandlaufwerke haben den Vorteil, dass sie mehrer Bandformate lesen/schreiben können so dass man später auch auf ein größeres Format wechseln kann. Stichwort ist hier Tapelibrary

Monitoring für die Sicherung (per E-Mail oder Monitoring System) wäre zu empfehlen, damit man sich nicht in falscher Sicherheit wiegt.

Bei der Auswahl des Sicherungsprogramms bitte daran denken, dass du bei einem Wechsel (freiwillig oder gezwungen) des Programms alle archivierten Sicherungen "umspulen" musst.

Ein korrektes Backup der Daten ist nur der erste Schritt, der zweite ist ein regelmäßiges Backup (Image) des Betriebssystems.

Das sollte erst einmal reichen, damit du reinkommst. face-wink

grüße vom it-frosch
em-pie
em-pie 20.07.2020 um 15:25:22 Uhr
Goto Top
Moin,

Also bei 400TB+ würde ich nicht auf Synology o.Ä. gehen.

Da würde ich was von HP, Dell/ EMC, Lenovo, IBM, etc. Nehmen.

Dort Nearline-Platten (6TB und nur 7.200 upm) rein und fertig.
Dann kannst du alles via FC oder iSCSI anbinden, hast redundante Controller/ Netzteile und kannst Features wie Deduplication nutzen. Erweitert werden die Controller dann um Expansions via SAS.
Und bei 400TB auf Band: das sind schon mal ein paar Tapes. Da würde ich über eine Robotic in einem eigenen Brandabschnitt nachdenken... LTO 7 ist mittlerweile bezahlbar, da LTO8 aktuell am Markt ist...

Die Frage ist auch, wie das tägliche Wachstum aussieht....

Gruß
em-pie
emeriks
emeriks 20.07.2020 um 15:37:25 Uhr
Goto Top
NetApp mit SnapVault könnte auch ne Variant sein.
Andere SAN-Hersteller haben da sicherlich ähnliches im Programm.
it-frosch
it-frosch 20.07.2020 um 15:51:38 Uhr
Goto Top
Noch ein Hinweis zu den Tapes.

LTO
Besonders auf die Punkt Lesen und Schreiben von älteren Formaten achten!

grüße vom it-frosch
maxblank
maxblank 20.07.2020 um 16:28:37 Uhr
Goto Top
Servus,
schau dir mal noch Nutanix an.

https://www.google.de/amp/s/searchconvergedinfrastructure.techtarget.com ...

https://www.nutanix.com/de

Backup mit Veeam und Tape Library mit LTO-8 abbilden.

Grüße
Maxblank
nachgefragt
nachgefragt 20.07.2020 um 18:33:26 Uhr
Goto Top
Zitat von @Remedin:
für Backups haben wir uns überlegt das ganze mit einem Bandroboter zu realisieren, dazu brauche ich vermutlich dann noch einen Server.
wobei ich gestehen muss mit Bandrobotern und Bandsicherungen allgemein hatte ich noch nichts zu tun das ist neuland für mich.
Hallo,
beinhaltet dein Backup denn die 3-2-1 Regel und/oder das GFS Prinzip?

oder sollte man bei so einer Größe eventuell gleich auf ein richtiges Fileserver System setzen?
Da es sich hauptsächlich um Mess- und Simulationsdaten handelt braucht es das nicht, sowas die Deduplizierung bringt dann wenig. Es liest sich eher so als das die Kollegen immer neue Daten hinzupacken; und das die produktiven Daten immer auf der SSD der Workstation in Arbeit sind.

das ganze wird über einen 10Gbit Anschluss am Core Switch angebunden
Ok für das erste backup-to-disk, aber bei 400TB+++.

Es wird dir jemand incremental forever vorschlagen bei der Datenmenge, sei skeptisch, es liegt in deiner Verantwortung liegt. Die wichtigste Prüfung der Datensicherung ist mMn die regelmäßige Wiederherstellung.

Bei LTO7 rechne mal besser nicht mit den theoretischen 300MB/s, eher mit der Hälfte.
Aber so ein Bandroboter kann u.a. 4 Laufwerke gleichzeitig laufen lassen.

Ich würde Backup-Server und Roboter vom gleichen Support anschaffen, sonst schieben die sich gegenseiten den schwarzen Peter zu.
maxblank
maxblank 20.07.2020 um 20:16:29 Uhr
Goto Top
Hier sollte auf LTO-8 Typ M gegangen werden.
Fabezz
Fabezz 20.07.2020 um 20:46:00 Uhr
Goto Top
Ahoi,
schau dir mal den deutschen Hersteller an.
https://rnt.de/bigfoot-storage-xxl/
Skalierbar und wird deinen Ansprüchen nach angepasst. Basierend auf Supermicro Boards. Kostet alles net so viel im Vergleich zu den großen Hersteller hat aber je nachdem mehr Performance.
Darauf noch ne SDS Lösung wie Open-E oder ähnliches (Versionierung mittels SnapShots).
Dann hättest ein Fileserver welcher so gut wie alle Protokolle spricht.

Grüße
Dani
Dani 20.07.2020 aktualisiert um 21:15:59 Uhr
Goto Top
Moin,
Die wichtigste Prüfung der Datensicherung ist mMn die regelmäßige Wiederherstellung.
viel wichtiger ist, wie schnell muss bei einem Disaster Recovery die Datenmenge wieder zur Verfügung stehen. Je nachdem kommst du an Technologien wie z.B. Netapp Metrocluster nicht mehr vorbei.

Und bei 400TB auf Band: das sind schon mal ein paar Tapes. Da würde ich über eine Robotic in einem eigenen Brandabschnitt nachdenken... LTO 7 ist mittlerweile bezahlbar, da LTO8 aktuell am Markt ist...
Käme für mich nur als Backup von Backup in Frage. Damit zwei unterschiedlichen Medien zum Einsatz kommen und daher Softwareprobleme oder Bugs unwahrscheinlich sind. Alleine schon die Anzahl der notwendigen Tapes, der Flaschenhals von 10Gbit/s und den restlichen Unbekannten läuft das Backup ein paar Stunden.

Budget habe ich aktuell für ca 55K€ die Freigabe erhalten.
Das ist relativ... denn du hast u.a. nicht definiert, wie die 400TB+ bereitgestellt werden sollen. Fängt beim Typ an (SATA, SAS, SSD) wie Protokoll wie NFS, iSCSI, SMB und deren Verfügbarkeit. Normalerweise erstellt man zuerst verschiedene Konzepte mit den notwendigen Rahmenbedingungen, damit man sozusagen Echtkosten vorliegen hat. Damit bildet man eine Entscheidungsgrundlage für die Geschäftsführung.


Gruß,
Dani
bandit1976
bandit1976 21.07.2020 um 10:42:47 Uhr
Goto Top
Hi,

ich würde das 400TB Volume in mehere kleinere aufteilen und dann den Usern per z.b. DFS als ein gesammtes zur Verfügung stellen.

Hat den Vorteil das wenn ein Share/Volume defekt ist nicht alles restored werden muss und die restl. Shares weiter funktionieren.

Außerdem ist die max. Größe der Volumes bei deiner Synolgy auf 200TB beschränkt (bei 32GB RAM).Netapp hat glaube ich 640TB als max für ein Volume.
Dani
Dani 21.07.2020 um 12:19:42 Uhr
Goto Top
Moin,
Netapp hat glaube ich 640TB als max für ein Volume.
dieser Wert bezieht sich auf FlexClone Technologie.


Gruß,
Dani
mbradm
mbradm 21.07.2020 um 14:02:03 Uhr
Goto Top
Ceph ist nahezu unlimitiert skalierbar, hat auch iSCSI Adapter, man bräuchte halt mindestens 3 Monitor Nodes und 3 OSD Nodes und die ODS sollte sehr gut angebunden werden untereinander (mindestens 10G). Aber dann sind die PBs kein Problem mehr.

Ich glaube SUSE hat da sogar business support für eine ceph basierte Lösung.

Ich habe ca. ein Jahr privat eine minimale ceph Installation mit 7 Nodes betrieben zum experimentieren basierend auf Ubuntu als OS. Hatte es als file system auf meinem docker host eingebunden, hat super und stabil funktioniert. Habe auch diverse upgrade cycle gefahren ohne Probleme.
Deepsys
Deepsys 21.07.2020 um 15:57:51 Uhr
Goto Top
Hi,

ein aktuelles LTO8 Band kann komprimiert 30TB aufnehmen, unkomprimiert 12TB.
Da die meisten Backup Lösungen schon selber komprimieren landest du je nach Datentyp irgendwo dazwischen.
Gehen wie mal von 15 TB pro Band aus, sind es schon 27 Bänder bei 400TB a ca. 110€ = 2970 €

Ich würde bei der Größen auch mit Leuten sprechen die davon Ahnung haben.
Dafür kann ich dir die Firma EUROstor https://www.eurostor.com/ empfehlen.
Ich arbeite da nicht, aber haben jetzt schon mehrere verschiedene Speichersysteme dort bestellt und waren damit zufrieden.
Auch Overland LTO Backup Loader bekommst du dort.

Ein Gefrickel mit Synology wird dich wahrscheinlich nicht weit bringen, und es kommt auch an wie schnell die Daten gespeichert und abgerufen werden.

Viele Grüße,
Deepsys
em-pie
em-pie 21.07.2020 um 16:08:13 Uhr
Goto Top
Neben den Dingen wie Backup-to-[Irgendwas]-to-Tape fällt mir gerade wieder der Hesteller Fast-LTA ein.
https://www.fast-lta.de/de/produkte/

Ich habe, zugegebener Maßen selbst keine Erfahrung mit den Systemen, aber Live-Demos sahen hier sehr vielversprechend aus.
Vielleicht wäre das ja auch noch etwas, sofern es ins Budget passt!?


Gruß
em-pie
maxblank
maxblank 21.07.2020 um 18:01:15 Uhr
Goto Top
Bei Fast LTA wirst du mit dem Budget eher nicht weit kommen. Wir setzen den Silent Cube von denen als revisionssicheres Backup für unser Firmenarchiv ein. Daher sind die regelmäßig zu Besuch und der Spaß kostet mehr als hier im Budget genannt wurde.

Grüße
maxblank
MysticFoxDE
MysticFoxDE 21.07.2020 aktualisiert um 19:31:29 Uhr
Goto Top
Moin Remedin,
für deine Anforderung kann ich dir wärmstens eine Infortrend GS 3060 Gen 2 empfehlen.
https://www.infortrend.com/global/products/families/gs/3000

Das ist ein ausgewachsenes Enterprise SAN mit redundanten Controllern, wo du alleine in den 4HE hohen Storagehead bereits 60 x 3.5“ Laufwerke verbauen kannst. (Aber Vorsicht, für diese Unit muss dein Serverschrank mindestens 1m lang sein!)

Mit ~ 8.000 MB/s Leseperformance und ~4.000 MB/s Schreibperformance sollte die Unit auch schnell genug für deine 10 Clients sein, im Normalfall sind diese sogar immer mindestens einen Tick schneller wie die Herstellerangaben. 🙃

Für die Netto 400TB benötigst du z.B. etwa 32 x 16 TB EXOS HDD’s und hättest noch im Storagehead platz für weitere 28 Laufwerke. Bei 16 TB HDDs kommst du somit in Summe, je nach RAID Level auf etwa 750 TB alleine über den Storagehead!

Wenn dir das nicht mehr ausreichen sollte, so kannst du die Unit auf bis zu 896 Laufwerke über JBOD’s erweitern.

4 x 10G RJ45 sind bereits onboard pro Controller vorhanden.

Und mit dem Budget von 55K und 400TB sehe ich auch absolut keine Probleme.

Die Unit kann sowohl blockbasierten Speicherplatz (iSCSI oder SAS oder FC oder FCoE) zur Verfügung stellen, als auch filebasiert (SMB & Co) wie auch eine Synology, nur a bissl schneller.

Weitere wichtige Infos:

gs 3060

Wink rum, wenn du Interesse hast, dann kann ich mit nem guten Angebot zurückwinken.

Grüsse aus BaWü

Alex
MysticFoxDE
MysticFoxDE 21.07.2020 aktualisiert um 19:34:28 Uhr
Goto Top
Moin Emeriks,

Zitat von @emeriks:

Zitat von @aqui:
Dann kannst du ja auch ein 2tes baugleiches NAS nehmen und replizieren. Wozu einen "Server" Overhead ?
Wobei ein einfaches Replikat kein Backup im Sinne von Versionierung ist!

👍👍

ich würde das ganze sogar etwas schärfer formulieren.
Je nach Fehlerfall stellt ein Replikat überhaupt kein Backup dar!

Wenn nur die Hardware flöten geht (Erbeben, Überschwemmung, Brand, Diebe, Godzilla & Co ), dann kann ein Replikat durchaus hilfreich sein.
Für die alltäglichen Probleme reicht aber im Normalfall eine Unit mit redundanter Hardware meistens vollkommen aus. (Damit ist nicht Backup gemeint)
Bei vielen eher auftretenden Problemen, insbesondere wenn es darum geht, dass die Daten auf dem Speicher beschädigt oder verschlüsselt oder gelöscht wurden, hilf ein Replikat absolut gar nicht, da die beschädigten/verschlüsselten/gelöschten Daten auch auf die andere(n) Unit(s) repliziert werden.

Grüsse aus BaWü

Alex