Debian Linux Fileserver mit ZFS, openZFS oder BTRFS?

Hallo,

ZFS sagt man meist 1 GB pro TB.

https://unraid.net/

https://www.truenas.com/blog/zfs-vs-openzfs/

Ich würde bei so einer Sache fast schon zu reinen File Systemen tendieren. Updates etc. sind da immer auf die Systeme zugeschnitten.

Für zu Hause oder Firma? Plugins gibt es auch für Media Streaming auf TV - emby z.b.

100 TB ist so eine Sache. Bei RAID generell macht ja erst eine gewisse Anzahl an Platten Sinn.

Die Frage ist, wie viele Daten du hast. Ggf. auch in Verbindung mit z.B. Veeam und immutable Backup.

Selbst wenn man DaSi mal weglässt hast du einen Single-Point-of-Failure durch nur 1x System. Erstmal X-Platten könnte man auch umformulieren: estmal nur 1x System.

RAID ist ja Ausfallsicherheit, aber keine Datensicherung. Ein großes System klingt immer verlockend. Nur im Fall von Hadrware Schäden oder Virenbefall nicht ohne.

Die Daten sollten dann ja trotzdem wohin gesichert werden. Viele sind skalierbar. 2x Systeme schützen dich vor Hardwarefehlern. Aber nicht vor Feuer....


Da gibt es noch ein paar Punkte zu betrachten. Aucht mit Bordmitteln lassen sich manche Attacken vereiteln. XFS + immutable Flag - wenn zur rechten Zeit gesetzt...

TrueNAS war früher FreeNAS. Da reichte aber auch ein kleiner PC. Die Zeiten sind vorbei. Und durch Hackerangriffe etc. müssen nochmal Punkte betrachtet werden.

Man muss ja nicht gleich bei 50.000 Euro raus kommen. Aber denke durch verünfitge Aufteilung auf 2x Systeme mit geeigneter Software macht es runder.

Moin,

würde auch eher zu truenas Scale(Auf Ubuntu/Debian Basis) raten.

Mach das ganze deutlich einfacher in der Verwaltung, unter anderem Updates.
Zudem hast du dort schon eigentlich alles was du brauchst.

Und flexibel genug bist du eigentlich auch.

LG
Nils

Hallo,

das Wichtigste teilst du nicht mit... den Anwendungsbereich.
Reden wir hier von Hobby/SoHo oder Business critical??!
Welche Vorkenntnis bestehen und wie viel Zeit hast du, in ZFS und die Implementierung zu versenken?

Generell halte ich ZFS für ein Buch mit sieben Siegeln.
Nicht umsonst hatte Sun microsystems es für Rechenzentren und zwar GROßE Rechenzentren entwickelt.
Größer als 100 TB... sehr viel größer.

Meine Meinung:

Hobby und SoHo: Niemals nicht ZFS. Lohnt den Aufwand, die Ressourcen und die Komplexität nicht.
Wenn du hier Fehler machst, kommt du nicht mehr an deine Daten. Aus die Maus.
Deshalb tut es hier ein hardware-basiertes RAID 5 oder 10 mit Batterie-Pufferung im Controller allemal.

Business critical: Kann man drüber reden. Aber hier würde ich dann eher auf einen versierten externen Dienstleister und Service Subscription setzen.
Auch hier besteht m.E. keine Notwendigkeit zu ZFS, wenn man es denn nicht unbedingt um jeden Preis möchte.
Deshalb tut es auch hier ein RAID 5 oder 10 allemal.

Quarks, wenn ich kann nutze ich nur noch ZFS. Das macht vieles einfacher und performanter.
Nur auf ECC RAM sollte man nicht verzichten. Das kann nach hinten los gehen.

Bezüglich der Verwaltung schlage ich auch TrueNAS Scale vor. Einfacher geht es nicht.

Naja, entweder man kann es oder nicht...

Komplex? Dann hat man vlt. den falschen Job. Dienstleister tauschen auch nur meist dann defekte Platten aus. Das Grundkonzept muss stimmen. Sonst helfen auch die Experten nix.

Wie @Spirit-of-Eli schon sagt gibt es gute Gründe für ZFS.

Btw.: Hat nicht HPE mal einges an Daten ins Nirvana geschossen?
https://www.golem.de/news/hpe-patch-zerstoert-77-tbyte-an-forschungsdate ...

Es gibt auch gute Gründe einfach mal was selber zu machen

Ich nutze für meinen Heimserver BTRFS...hab keine grossen Veränderungen bei den Daten.
Ein zeitlang hab ich auch auf BTRFS meine Backups gesichert....keine so gute Idee...weiss gar nicht wann ich das letzte mal eine Platte defragmentieren musste.

Hi,
kleiner Zusatz: Bei der Faustregel zählt die absolute Festplattenmenge, also wenn du insgesamt 200TB an Festplatten hast für 100TB an Nutzdaten, sollten es mindestens 256GB RAM sein (je mehr desto besser).
Und ich würde auch zu TrueNAS Scale raten, allerdings werde ich persönlich mit der Software einfach nicht warm, aber mir fällt sonst auch keine bessere ZFS-Alternative ein. Rockstore nutzt BTRFS und Openmediavault nutzt standardmäßig MD, ZFS ist aber als Community Addon installierbar.
Für die ultimative Bastelei: debian + cockpit + smb Addon = NAS

Ein Fertig-NAS von Synology oder QNAP ist keine Option?

MfG

Ich würde gern mal wissen, wo wir sind! Firma, Heimarbeitsplatz, Mischbetrieb....

Vor Jahren war es ja mal anders. "Homebrew" nennt sich sowas. Auch Debian auf NAS installieren etc. Da hatten die weinigsten mehr als 4 GB RAM.

Ist auch die Frage wie viele User damit arbeiten und ob Performance eine große Rolle spielt. Vieles lässt sich trimmen und ggf. für etwas benutzen, für dass es nicht gedacht war.

Debian + RAID Controller + Platten + XFS schafft teils 4 - 6 GBit/s. Merkt man aber nur wenn entsprechend über 10 Gig versorgt ist. Kenne ich aus der Praxis. Aber wäre auch nur normaler Transfer - ohne dedup o.ä.

Die Frage ist, was man mit dem Speicher anstellen will.

Beim RAID geht es nicht nur um Redundanz, sondern auch um Geschwindigkeitsvorteil. Irgendwie einen RAID zusammenschustern geht immer. Nur sind es Faktoren wie Overhead, Geschwindigkeit, etc. die doch die Entscheidung ausmachen sollten.

Nicht immer sind wenige riesige Platten Optimal. Wie viele Slots hat man? Oder genauer: Wie viele hat die Backplane? Fahre ich mit mehr Platten etwas kleinerer Kap. besser, wenn das Netto über alles stimmig ist, ich aber mehr als nur RAID 10 machen kann.


Wenn es klar um die Planung geht, so würde ich mich nicht vor TrueNAS und wie sie alle heißen verschließen! Debian ist eine gute Linux Distri. Nur betreibt man ja keinen Webserver o.ä. darauf.

Nur für den Falle von Dateiverwaltung, Verteilung mit versch. Methoden gibt es einfach bessere, in sich geschlossene Systeme!

Wenn selber bauen, dann z.B. was von Thomas-Krenn für True NAS empfohlen wird. Es gibt auch immer mehr Reseller für True NAS. Rümpft man da wegen Preis die Nase, empfiehlt einen teils der gute Herr am anderen Ende eine Synology. Selber mal erlebt.

SMB, iscsi, VMware ESXi, Hyper-V, eigener Cloud/ Streamingdienst, etc. etc. Systeme wie TrueNAS oder Unraid bieten da so schon viel mehr und sind abgestimmt.

Wenn du so viel Kap. hast - Glückwunsch. Kann man nie genug haben. Aber ich würde dann mehr Richtung dieser kompletten Systeme gehen.

Ggf. sind wir hier auch die falsche Seite und du bist in Debian Foren und Mailing-Listen damit besser aufgehoben. Um den Stand an Features und Stabilität wie bei TrueNAS, unraid, etc. zu erreichen sind ggf. mehr Überlegungen fällig, als nur über ZFS nachzudenken.

Für den Zwecke des Fileservers haben sich TrueNAS, Unraid etc. einfach auch bewährt. Selbst wenn du den erfolgreich mit Debian aufgebaut hast bleibt da ggf. noch ein fader Beigeschmack.

Ich mag Debian auch. Auch wie Ubuntu. Wo ist das Klavier? Aber damit das Ganze nicht als Groschengrab endet rate ich dringend nochmal über die anderen Systeme nachzudenken.

ZFS und TrueNAS - einfacher ginge es nicht. Ahja. Sehr interessant.

Und was machst derjenige, dessen TrueNAS nicht mehr bootet?

Wenn TrueNAS nicht mehr bootet, dann installiere ich es neu und binde den Datestore halte neu ein.
Backups macht das System von sich selbst und meine Daten sind eh offsite gesichert.

Wenn ich Support will, dann kauf ich den halt ein.

Würde ich nicht alles virtuell vorhalten, dann hätte ich Privat auch wieder ein TrueNAS System am laufen.
Aber ZFS in einer VM macht einfach 0,0 Sinn.

Ist das ein Scherz oder wirklich ernst gemeint? Sorry, aber hier ist nicht Facebook - auch wenn Freitag ist!

Was machst du wenn alte Kernels Linux verstopfen? Rufen wir dann immer jemanden an? Bei allen Systemen besteht immer die Gefahr dass die auf einen Hammer laufen! Ist zum Teil auch der Job des einen oder anderen hier.

Wie @Spirit-of-Eli schon sagte, gibt es da so eine Methode. Ansonsten Tools zur RAID Wiederherstellung. Das hat man doch bei jedem System. RAID ist eh keine Daten-Sicherung. Darum erwähnte ich auch 2x Systeme. Wenn man es auf die Spitze treibt kommen noch Brandabschnitte oder eigenes RZ hinzu....

JEDES System hat ein OS. Bei JEDEM besteht die nicht so abstrakte Gefahr dass das OS schlapp macht. Was passiert denn bei Firmware Updates? Wir haben ständig eine OP am offenen Herzen. Man merkt es mal mehr, mal weniger stark.

Darum schaffen wir ja geraden Bedingungen die Gefahren minimieren oder gar nicht erst entstehen lassen. Aber gleich eine komplette Technik deswegen beiseite zu schieben ist schlichtweg falsch.

Dann dürfte auch Docker und andere Systeme nicht in die Hände von Hobbyisten fallen. Unter H. muss man leider auch einige Kollegen zählen. In der Praxis kommt einen ja so einiges unter.

Die Frage was ist wenn - stellen sich einige oftmals zu wenig oder ruhen sich auf externen Dienstleistern oder Kollegen aus. Wenn wir schon so anfangen, dann dürften einige nicht mal mit Active Directory oder Exchange arbeiten - Datenbanken. Was passiert wenn hier etwas inkonsistent wird brauch ich ja wohl nicht zu erwähnen!

Die geladene Waffe haben somit so einige in der Hand und somit ist diese für viele, viele, viele Kollegen ein Ausschluss-Kriterium! Man kann und muss hinterfragen ob Debian geeignet ist. Etablierte Open Source Technik wie TrueNAS ist aber immer eine Option.

Vor über 15 Jahren war NAS noch simpel und auf alter Hardware einsetzbar. Die Zeiten ändern sich. Darum ist es ja auch durch aus legitim zu hinterfragen ob ein Linux OS und viele Platten wirklich Sinn machen. Einen Mehrwert bieten da nun einmal die anderen Systeme. Er fügte ja hinzu: in Planung. Wenn man schon einiges an HW in den Raum wirft, so kann man auch Systeme benennen, die diese besser ausreizen.

Wenn @coltseavers mal endlich seine Badewanne verlassen würde kämen wir vlt. auch mal weiter hier.

Betrifft ja eh alles. Acronis Cyber Backup und der Vault. Ist letzterer auf anderer Partition/ Plattenverband gilt das gleiche. Hier ist noch die Hürde die erweiterten Lizenzen vorher einzuspielen und es geht weiter.

Da wären wir im übrigen bei Windows Server NTFS. Korrektes Design und es läuft. Was war früher? ESXi auf USB Stick installiert oder mal diese neue SSD mit 60 GB reingehängt. Die Daten lagen woanders. An diese Grundsätzen hat sich bis heute nix geändert und verringern die Fallhöhe enorm.

Alles so "Skills" die man spätestens mit dem ersten Dual-Boot OS hat. Geht einen irgendwann in Fleisch und Blut über.

Also mal generell:

1. ZFS ist heutzutage fast überall immer OpenZFS. Nur wenn man noch wirklich Solaris oder Illumos laufen hat, ist es was anderes.
2. ZFS wurde 2005 veröffentlicht, es ist erprobt und sehr stabil. Für COW-Dateisysteme ist es bis heute DER Standard. Allerdings merkt man ihm eben auch seine Herkunft aus dem Rechenzentrum an, denn es hat so einige Schrullen, wie z.B. wenn man mehr Platz in einem Pool will, dann muss man alle Platten des Pools durch größere ersetzen. (Das ist ein Aspekt, den Btrfs anders löst. Unraid auch.)
3. Btrfs ist eine schlechte Kopie von ZFS, und man muss genau hinschauen, welche Funktionen man davon benutzt. RAID 1 und 0 sind stabil, der Rest kommt drauf an. Die meisten Linuxnutzer haben schon seit langem die Hoffnung aufgegeben, dass es jemals damit besser werden wird und nutzen statt dessen lieber ZFS oder Bcachefs.

Anekdote am Rande: Btrfs war mal für die Linuxdistribution Fedora CoreOS, deren Dateinszweck Containerisierung hatte, eine Weile das Standarddateisystem. Nach nur knapp einem Jahr wurde diese Entscheidung wieder rückgängig gemacht, da es es einfach viel zu instabil lief und viel zu viel Fragen nach Support in den Mailinglisten auslöste.

Also bei deiner Datenmenge heißt die Lösung ganz klar ZFS - mit entsprechender Planung natürlich.