superfun2k24
Goto Top

HP SSD-RAID10 langsam

Hallo,

ich habe ein Anliegen zur Leistung meines DL380p Gen10 Plus.

Ich hatte kürzlich ein Thema zur Migration von HDD-Raid auf SSD-Raid, welches sich zwischenzeitlich erübrigt hat, da mit dem SSD-Raid von RAID-5 auf RAID-10 gewechselt wurde.

Nun zum "Problem":

Verbaut sind SAS 12GB DELL (KIOXIA PM5-R) SSD 1,92TB mit 2100mb/s lesen und schreiben

Im RAID-10 sollte sich die Geschwindigkeit bei 8 Platten, also 4x RAID-0 ja vervielfachen.
Laut einem RAID-Rechner müsste irgendwas um die 6000-7000mb/s rauskommen, ich erreiche aber nur ca 850-900mb/s bei Datentransfers.

Das bremst nach wie vor meine Datenbanken aus, zwar nicht so extrem wie das vorherige HDD-Raid-5, aber dennoch.

Was könnte ich noch optimieren? Wo könnte der Engpass liegen?

SSD Smart-Path wurde schon testweise aktiviert und auch deaktiviert, momentan läuft er mit aktivierten Schreib-Cache, auch ohne Backup-Batterie, da der Server von einer USV abgesichert ist.
Aber auch der Schreib-Cache macht nicht viel Unterschied, wenn auch etwas mehr als der Smart-Path.

Ich würde mich über Tipps und Hinweise freuen face-smile

Content-ID: 671152

Url: https://administrator.de/forum/hp-ssd-raid10-langsam-671152.html

Ausgedruckt am: 12.03.2025 um 11:03 Uhr

Spirit-of-Eli
Spirit-of-Eli 05.02.2025 um 19:38:12 Uhr
Goto Top
Moin,

welcher Controller ist denn verbaut? Kann dieser diese Bandbreite supporten?
Was läuft da noch für ein OS drauf?

Ein Schreib-Cache ohne Batterie macht keinen Sinn. Dann wir der Cache nicht genutzt.
Aber selbst wenn sollte dieser eher negative Folgen auf deine Performance haben.

Deine errechnete Performance ist eher mit ZFS und ohne Controller möglich.
Ich würde hier eher einen simplen HBA vorschlagen. Damit bekommst du Performance auf die Straße.
Solltest du das in einer einzigen Maschine brauchen, würde ich Proxmox dazwischen als Hypervisor betreiben.
Hier funktioniert ZFS ohne große Probleme.
Ich denke Baremetal willst du das wohl eher nicht betreiben. ZFS macht nur unter Linux wirklich Sinn.

Aber gerade lässt sich mit den wenigen Infos nur mit Vermutungen glänzen.

Gruß
Spirit
Globetrotter
Globetrotter 05.02.2025 um 20:06:31 Uhr
Goto Top
Hi..
Ich vermute.. sorry...
Ich denke mal, Du hast die SAS SSD's an den internen SAS gehängt. Hier ist nach FW Updates zu schauen und einzuspielen. Auch die FW der SSD's ist zu berücksichtigen.
Des Weiteren gibt es etliche BIOS-Einstellungen (vllt. von Bedeutung bei SAS SSD's)...
Ich würde dann einen Speedtest unter Linux unterziehen (boot von (CD/DVD/USB) )
... Und ansonsten hast Du doch Deinen Dienstleister bzw. HPE ?
i hope this helps ;)

Gruss Globe!
Pjordorf
Pjordorf 05.02.2025 um 20:27:30 Uhr
Goto Top
Hallo,

Zitat von @superfun2k24:
Verbaut sind SAS 12GB DELL (KIOXIA PM5-R) SSD 1,92TB mit 2100mb/s lesen und schreiben
Welche genau sind es denn? Dir ist schon klar das deine SSDs nicht wirklich deine Geschwindigkeit am SAS Port bringen können?

Im RAID-10 sollte sich die Geschwindigkeit bei 8 Platten, also 4x RAID-0 ja vervielfachen.
Sollte, Sollte, Sollte, Sollte, Sollte, Sollte - tut es aber trotzdem nicht.

Laut einem RAID-Rechner müsste irgendwas um die 6000-7000mb/s rauskommen, ich erreiche aber nur ca 850-900mb/s bei Datentransfers.
Manche rechnen auch mit 1 EUR und behaupten "Ich bin schon fast Millionär"

Cache, auch ohne Backup-Batterie, da der Server von einer USV abgesichert ist.
Eine USV hat mit den Cache eines Hardware RAID Controllers nix zu tun. Wenn die USV hinsxhmeisst ist dein RAID Cache trotzdem hin und sogar Datenverlust kann eintreten.

Aber auch der Schreib-Cache macht nicht viel Unterschied, wenn auch etwas mehr als der Smart-Path.
Nutze mal den RAID Cache mit einer korrekten Spannungsquelle und nicht deine USV.

Bilde dich fort in SAS, SSD, RAID Cache und deren voraussetzungen.
https://de.wikipedia.org/wiki/Serial_Attached_SCSI
https://de.wikipedia.org/wiki/Solid-State-Drive
https://de.wikipedia.org/wiki/Battery_Backup_Unit
https://de.wikipedia.org/wiki/BBWC
https://de.wikipedia.org/wiki/Festplattencache

Gruss,
Peter
Vision2015
Vision2015 05.02.2025 um 20:35:21 Uhr
Goto Top
Moin...

du hast echt Dell SAS SSDs in nen HP Server gesteckt? die ist schon klar, das die Dell Platten ne angepasste Firmware haben... oder?
mit 2100mb/s lesen und schreiben
das ist der Max. sequenzieller Durchsatz!

Im RAID-10 sollte sich die Geschwindigkeit bei 8 Platten, also 4x RAID-0 ja vervielfachen.
du hättest beser NVMEs genommen.... und wenn es nur eine Samsung 1725 etc... gewesen wäre.

Frank
em-pie
em-pie 05.02.2025 um 20:38:39 Uhr
Goto Top
Moin,

Das bremst nach wie vor meine Datenbanken aus,
Und du bist sicher, dass das primäre Problem die Datenträger sind?
Normalerweise freut sich ein DB-Server über RAM. Und wenn es der nicht ist, dann noch mehr RAMface-wink
Klar, wenn du zu wenig hast, gehen die Anfragen „zu früh“ auf die Datenträger dadrunter.


Und wie die Kollegen oben schon sagten/ erfragten: welcher RAID-Controller kommt denn zum Einsatz?
Und welcher Server so grundsätzlich? Also etwas mehr Eckdaten bitte face-smile
potsbits
potsbits 05.02.2025 um 21:03:14 Uhr
Goto Top
12g sas schaffen pro Port 12gbit, da die lokalen Controller Single Port an der ssd hängen wäre dein maximaler Lese-Durchsatz 8x12gbit.

Aber nur wenn der Controller auch von allen 8 ssds im array liest und du keinen anderen Flaschenhals hast

Bei hp ssd sas raid kannst du den cache und smarthpath deaktivieren.

Womit hast du den Durchsatz ermittelt?

Welcher raid Controller? Cpu(s)?

Gibt viele variablen- denke es sollten 4-6 GB/s in seq Lesevorgängen möglich sein, bei random IO oder mixed Workload deutlich weniger

Grüße
Avoton
Avoton 05.02.2025 um 21:41:01 Uhr
Goto Top
8x12gbit

Die du nie erreichen wirst, weil dann das Interface am Controller weit vorher der limitierende Faktor ist...

Gruß,
Avoton
Lochkartenstanzer
Lochkartenstanzer 05.02.2025 um 23:46:18 Uhr
Goto Top
Zitat von @superfun2k24:

... momentan läuft er mit aktivierten Schreib-Cache, auch ohne Backup-Batterie, da der Server von einer USV abgesichert ist.

Moin,

es ist egal, ob der Rechner mit einer USV abgesichert ist oder nicht. die BBU des Controllers ist dazu da, daß alle daten noch ordentlich auif der HDD/SSD landen, auch wenn der Server mal außer der Reihe hart abgeschaltet wird, z.B. durch Stecker ziehen, wenn gar nichts mehr geht. oder hart runterfahren, wenn er hängt.

Auch wenn meistens nichts passiert, ist so eine Konfiguration ein Spiel mit dem feuer.

lks
potsbits
potsbits 05.02.2025 um 23:53:58 Uhr
Goto Top
exakt. deswegen write Cache ausmachen ohne BBU, Enterprise SSDs haben normale den DriveWriteCache aktiviert weil dieser über intern Kondensatoren gestützt wird.
Pjordorf
Pjordorf 06.02.2025 um 00:42:17 Uhr
Goto Top
Hallo,

Zitat von @Lochkartenstanzer:
es ist egal, ob der Rechner mit einer USV abgesichert ist oder nicht. die BBU des Controllers ist dazu da, daß alle daten noch ordentlich auif der HDD/SSD landen, auch wenn der Server mal außer der Reihe hart abgeschaltet wird, z.B. durch Stecker ziehen, wenn gar nichts mehr geht. oder hart runterfahren, wenn er hängt.
Ergänzung: Eine HDD bleibt nicht innerhalb einer pico Sekunde (0,000000000001 Sek.) nach einen Stromausfall stehen, deren Masse sorgt noch Sekunden lang mit abnehmender Drehzahl für einen Nachlauf, bei SSDs gehts halt doch etwas schneller, aber deren Kondensatoren helfen auch deren Daten am Leben zu erhalten.

Auch wenn meistens nichts passiert, ist so eine Konfiguration ein Spiel mit dem feuer.
Haben schon viele nachher Blöd auf ihre USV geschaut nachdem ihre Daten gestorben waren...

Gruss,
Peter
Lochkartenstanzer
Lochkartenstanzer 06.02.2025 um 01:02:41 Uhr
Goto Top
Zitat von @Pjordorf:

Hallo,

Zitat von @Lochkartenstanzer:
es ist egal, ob der Rechner mit einer USV abgesichert ist oder nicht. die BBU des Controllers ist dazu da, daß alle daten noch ordentlich auif der HDD/SSD landen, auch wenn der Server mal außer der Reihe hart abgeschaltet wird, z.B. durch Stecker ziehen, wenn gar nichts mehr geht. oder hart runterfahren, wenn er hängt.
Ergänzung: Eine HDD bleibt nicht innerhalb einer pico Sekunde (0,000000000001 Sek.) nach einen Stromausfall stehen, deren Masse sorgt noch Sekunden lang mit abnehmender Drehzahl für einen Nachlauf, bei SSDs gehts halt doch etwas schneller, aber deren Kondensatoren helfen auch deren Daten am Leben zu erhalten.


Aber man weiß nie, wieviel der Daten, die noch im Schreibcache waren, es auf das Medium noch geschafft haben, wenn man keinen Cache mut BBU hat. face-sad
Pjordorf
Pjordorf 06.02.2025 um 06:44:20 Uhr
Goto Top
Hallo,

Zitat von @Lochkartenstanzer:
Aber man weiß nie, wieviel der Daten, die noch im Schreibcache waren, es auf das Medium noch geschafft haben, wenn man keinen Cache mut BBU hat. face-sad
ACK.

Gruss,
Peter
Vision2015
Vision2015 06.02.2025 um 08:32:24 Uhr
Goto Top
Moin....

Haben schon viele nachher Blöd auf ihre USV geschaut nachdem ihre Daten gestorben waren...

wiso auf die USV schauen, ich würde als erstes die Datensicherung nutzen wollen face-smile

Frank
user217
user217 06.02.2025 um 08:48:40 Uhr
Goto Top
MaxQueueDepth heißt das, hier steht per default eine 4 was min. auf 64-128 gesetzt werden kann.
godlie
godlie 06.02.2025 um 10:12:56 Uhr
Goto Top
Hallo,

wenn die DB ohne Indexe läuft, oder schlichtweg besch... aufgebaut ist, oder kein 64bit kann weil so alt, kannst du drunterschnallen was du willst, es wird nicht besser.

Bei so etwas muss man sich die Software ansehen und nicht gleich die HW darunter austauschen ....

grüße