12
LTO7: zu niedriger Datendurchsatz
Hallo,
wir setzten bei uns im Unternehmen BackupExec als Backuplösung ein.
Wir sichern unsere Daten (komplette VMs) auf Plattenvolumes des physischen Backupserver (3xRaid 6 Volumes mit je 8 SATA-Platten), und von dort werden die Backupsätze auf die Bänder kopiert. Am Backupserver ist eine Tapelibrary (Dell ML 3) mit einem LTO 7 SAS Lafwerk angeschlossen.
Leider erreiche ich nicht den Datendurchsatz, der eigentlich mit unserer Tapelibrary (oder besser gesagt mit dem Laufwerk) möglich sein müsste. Die Durchsatzraten schwanken je nach Backjob zwischen 49 MB/s - 162 MB/s. Theoretisch sind hier 300 MB/s (ohne Komprimierung durch das Laufwerk) möglich
Die Datensätze werden bereits beim Backup ToDisk komprimiert . Nachdem alle BackupToDisk Jobs abgeschlossen sind laufen die CopyToTape Jobs.
Ob ich bei CopyToTape Komprimierung einschalte oder nicht ist hier schon fast egal für die Performance, da die Backupsätze ja bereits beom BackupToDisk komprimiert wurden.
Ich habe mit dem IBM Test Dignostic Tool den Datendurchsatz getestet (Full Write Test) und komme bei komprimierbaren Daten auf einen Durchsatz von 448 MB/s und bei nicht komprimierbaren Daten auf 282 MB/s. Also relativ gute Werte, aber weit von dem entfernt , was ich mit der Backupsoftware erreiche.
Hat jemand eine Idee, wo das Problem liegen könnte?
Gruß
Anton
wir setzten bei uns im Unternehmen BackupExec als Backuplösung ein.
Wir sichern unsere Daten (komplette VMs) auf Plattenvolumes des physischen Backupserver (3xRaid 6 Volumes mit je 8 SATA-Platten), und von dort werden die Backupsätze auf die Bänder kopiert. Am Backupserver ist eine Tapelibrary (Dell ML 3) mit einem LTO 7 SAS Lafwerk angeschlossen.
Leider erreiche ich nicht den Datendurchsatz, der eigentlich mit unserer Tapelibrary (oder besser gesagt mit dem Laufwerk) möglich sein müsste. Die Durchsatzraten schwanken je nach Backjob zwischen 49 MB/s - 162 MB/s. Theoretisch sind hier 300 MB/s (ohne Komprimierung durch das Laufwerk) möglich
Die Datensätze werden bereits beim Backup ToDisk komprimiert . Nachdem alle BackupToDisk Jobs abgeschlossen sind laufen die CopyToTape Jobs.
Ob ich bei CopyToTape Komprimierung einschalte oder nicht ist hier schon fast egal für die Performance, da die Backupsätze ja bereits beom BackupToDisk komprimiert wurden.
Ich habe mit dem IBM Test Dignostic Tool den Datendurchsatz getestet (Full Write Test) und komme bei komprimierbaren Daten auf einen Durchsatz von 448 MB/s und bei nicht komprimierbaren Daten auf 282 MB/s. Also relativ gute Werte, aber weit von dem entfernt , was ich mit der Backupsoftware erreiche.
Hat jemand eine Idee, wo das Problem liegen könnte?
Gruß
Anton
Share on Facebook
Share on Twitter
Share on Reddit
Share on LinkedinPlease also mark the comments that contributed to the solution of the article
Content-Key: 3916197708
Url: https://administrator.de/contentid/3916197708
Printed on: April 19, 2024 at 23:04 o'clock
12 Comments
Latest comment
Moin,
Meine Kristallkugel sagt:
Ich würde zum Testen mal eine enzelne SSD als "Quelle" des Backups nehmen und schauen, ob dann das Backup auch so "lahm" ist.
lks
Meine Kristallkugel sagt:
- Komprimierung ist kontraproduktiv, weil der Versuch weiter zu komprimieren Performance kostet
- RAID 6 bremst.
Ich würde zum Testen mal eine enzelne SSD als "Quelle" des Backups nehmen und schauen, ob dann das Backup auch so "lahm" ist.
lks
2
Moin,
Deine SATA-Platten sind das Problem.
Welche Platten und welcher RAID-Controller kommt zum Einsatz?
Wenn es lahme SATA-Disks sind und ein billiger RAID-Controller ist, überrascht es nicht.
Und wie LKS schon anmerkte: RAID6 ist lahm und macht nur bei vielen Platten wirklich Sinn (wir hatten unsere Storages damals in einem R6-Verbund laufen, dabei kamen 23 Platten zum Einsatz zzgl. 1x HotSpare). Denn dann können die vielen Spindeln die Trägheit etwas abfedern.
Deine SATA-Platten sind das Problem.
Welche Platten und welcher RAID-Controller kommt zum Einsatz?
Wenn es lahme SATA-Disks sind und ein billiger RAID-Controller ist, überrascht es nicht.
Und wie LKS schon anmerkte: RAID6 ist lahm und macht nur bei vielen Platten wirklich Sinn (wir hatten unsere Storages damals in einem R6-Verbund laufen, dabei kamen 23 Platten zum Einsatz zzgl. 1x HotSpare). Denn dann können die vielen Spindeln die Trägheit etwas abfedern.
1
jupp, ziemlich sicher das raid-konstrukt. das sind zu wenig disks pro array
mach doch mal einen performance test davon.
mach doch mal einen performance test davon.
1
Hallo,
Und ist dort auch ein Cachemodul am Raid-Controller installiert worden?
Hängt die Library am selben Raid Controller dran? Also mehrere interne und ein oder zwei externe Anschlüsse?
Dobby
(3xRaid 6 Volumes mit je 8 SATA-Platten),
Drehen die mit 5.400, 7.200, 10.000 oder gar 15.000 Umdrehungen?Und ist dort auch ein Cachemodul am Raid-Controller installiert worden?
Hängt die Library am selben Raid Controller dran? Also mehrere interne und ein oder zwei externe Anschlüsse?
Dobby
Zitat von @Lochkartenstanzer:
Moin,
Meine Kristallkugel sagt:
Ich würde zum Testen mal eine enzelne SSD als "Quelle" des Backups nehmen und schauen, ob dann das Backup auch so "lahm" ist.
lks
Moin,
Meine Kristallkugel sagt:
- Komprimierung ist kontraproduktiv, weil der Versuch weiter zu komprimieren Performance kostet
- RAID 6 bremst.
Ich würde zum Testen mal eine enzelne SSD als "Quelle" des Backups nehmen und schauen, ob dann das Backup auch so "lahm" ist.
lks
Moin vielen Dank für dein Feedback
Wie gesagt die Komprimierung fällt hier in der Praxis nicht ins Gewicht, der Durchsatz ist hier immer (mehr oder weniger) der gleiche. Es macht aber nicht soviel Sinn diese anzubehalten, da gebe ich dir Recht (vielleicht macht sich das bei höheren Durchsatzraten bemerkbar).
Auf dem Server läuft das Systemvolume auf SSDs .Habe dort mal ein 50 GB Backupsatz abgelegt und auf das Tape kopiert der durchschnittliche Durchsatz lag bei 172MB/s auf dem SATA RAID hatte ich 162MB/s. habe es noch mal mit einem anderen Backupsatz probiert (60GB) kam dabei auf 175 MB/s beim Kopieren von der SSD und von dem SATA RAID 121 MB/s. Andere Backupsätze, bei dennen ich noch wesentlich schlechtere Performance hatte, konnte ich nicht testen, da diese zu groß waren, um diese auf die SSD zu packen.
Zitat von @em-pie:
Moin,
Deine SATA-Platten sind das Problem.
Welche Platten und welcher RAID-Controller kommt zum Einsatz?
Wenn es lahme SATA-Disks sind und ein billiger RAID-Controller ist, überrascht es nicht.
Raid Controller ist ein LSI MegaRaid SAS 9272-8iMoin,
Deine SATA-Platten sind das Problem.
Welche Platten und welcher RAID-Controller kommt zum Einsatz?
Wenn es lahme SATA-Disks sind und ein billiger RAID-Controller ist, überrascht es nicht.
Platten: 7200U/Min ,128 MB Cache
Zitat von @108012:
Hallo,
Und ist dort auch ein Cachemodul am Raid-Controller installiert worden?
Hängt die Library am selben Raid Controller dran? Also mehrere interne und ein oder zwei externe Anschlüsse?
Dobby
7200 U/MinHallo,
(3xRaid 6 Volumes mit je 8 SATA-Platten),
Drehen die mit 5.400, 7.200, 10.000 oder gar 15.000 Umdrehungen?Und ist dort auch ein Cachemodul am Raid-Controller installiert worden?
Hängt die Library am selben Raid Controller dran? Also mehrere interne und ein oder zwei externe Anschlüsse?
Dobby
Cachemodul 1 Gb
Die Library hängt an einer separaten SAS-Karte mit externen SAS Anschlüssen
Dann wird es wohl eher an den HDDs (7200 U/Min) liegen.
- RAID5 plus eine HotSpare
- 10k oder 15k HDDs
- SSDs
Alternativ:
- 10 Gbit/s Anbindung für Server und LTO
Dobby
- RAID5 plus eine HotSpare
- 10k oder 15k HDDs
- SSDs
Alternativ:
- 10 Gbit/s Anbindung für Server und LTO
Dobby
Hi,
was ich prüfen würde wäre die Blockanzahl, Puffergröße, Pufferzahl und Oberer Schwellwert beim Bandlaufwerk.
Standard sind die Werte auf 64 / 64 / 10 / 0. Zumindest bei mit mit Backup Exec 20.6
Hier sind bestimmt 20% drin. Am besten bin ich gefahren mit:
Blockgröße: 256 KB
Puffergröße: 512 KB
Pufferzahl: 30
Oberer Schwellwert: 2
was ich prüfen würde wäre die Blockanzahl, Puffergröße, Pufferzahl und Oberer Schwellwert beim Bandlaufwerk.
Standard sind die Werte auf 64 / 64 / 10 / 0. Zumindest bei mit mit Backup Exec 20.6
Hier sind bestimmt 20% drin. Am besten bin ich gefahren mit:
Blockgröße: 256 KB
Puffergröße: 512 KB
Pufferzahl: 30
Oberer Schwellwert: 2
Zitat von @qngmbh:
Hi,
was ich prüfen würde wäre die Blockanzahl, Puffergröße, Pufferzahl und Oberer Schwellwert beim Bandlaufwerk.
Standard sind die Werte auf 64 / 64 / 10 / 0. Zumindest bei mit mit Backup Exec 20.6
Hier sind bestimmt 20% drin. Am besten bin ich gefahren mit:
Blockgröße: 256 KB
Puffergröße: 512 KB
Pufferzahl: 30
Oberer Schwellwert: 2
Hi,
was ich prüfen würde wäre die Blockanzahl, Puffergröße, Pufferzahl und Oberer Schwellwert beim Bandlaufwerk.
Standard sind die Werte auf 64 / 64 / 10 / 0. Zumindest bei mit mit Backup Exec 20.6
Hier sind bestimmt 20% drin. Am besten bin ich gefahren mit:
Blockgröße: 256 KB
Puffergröße: 512 KB
Pufferzahl: 30
Oberer Schwellwert: 2
Hi, Danke für den Tipp. Puffergröße und Pufferzahl hatte ich bereits beim Bandlaufwerk erhöht , aber nicht so hoch, wie du. Ich werde mal dein Setting ausprobieren ...
Kannst du mir vielleicht verraten welche Durchsatzraten du bei den BackupToTape-Jobs erreichst . Welche (wieviele) Platten und welcher RaidLevel kommen bei dir zum Einsatz? Nutzt du auch Dedup? Ich hatte davon ertmal die Finger gelassen , da sich das ja noch stärker nachteilig auf die BackupToTape Performance auswirkt.
Hi,
ohne diese Werte Lande ich bei ca. 217 MB/s. Mit diesen Werten bei ca. 257 MB/s. Bandlaufwerk ist ein HPE 1/8 Autlloader LTO8. Jetzt mit LTÓ8 Bändern. Wurde aber am Anfang mit LTO7 Bändern betrieben. hier war die Geschwindigkeit ca. 10-20 MB/s langsamer.
Storage besteht aus 14x 8TB im Raid 6.
OS ist auf SSDs im Raid 1. Hier ist die Geschwindigkeit noch 20 MB/s höher als über das Raid 6.
Denke das Limit mit 300 MB/s ist einfach das theoretische maximum was aber in der Praxis nie erreicht wird.
ohne diese Werte Lande ich bei ca. 217 MB/s. Mit diesen Werten bei ca. 257 MB/s. Bandlaufwerk ist ein HPE 1/8 Autlloader LTO8. Jetzt mit LTÓ8 Bändern. Wurde aber am Anfang mit LTO7 Bändern betrieben. hier war die Geschwindigkeit ca. 10-20 MB/s langsamer.
Storage besteht aus 14x 8TB im Raid 6.
OS ist auf SSDs im Raid 1. Hier ist die Geschwindigkeit noch 20 MB/s höher als über das Raid 6.
Denke das Limit mit 300 MB/s ist einfach das theoretische maximum was aber in der Praxis nie erreicht wird.
Storage besteht aus 14x 8TB im Raid 6.
Nur SSDs?OS ist auf SSDs im Raid 1. Hier ist die Geschwindigkeit noch 20 MB/s höher als über das Raid 6.
NVMEs?Denke das Limit mit 300 MB/s ist einfach das theoretische maximum was aber in der Praxis nie erreicht wird.
NVMEs oder nur SSDs mit stärkerer CPU und schnellerem RAM?Nach oben ist immer irgend wie Platz!
Dobby
