Frage zum NIC-Teams und SMB3 Multichannel
Hallo,
ich habe einen Windows-Server 2022 mit mehreren 1Gbit NICs, welche ich gerne zwecks Lastverteilung und Ausfallsicherheit bündeln möchte.
Ich bin beim Testen auf ein Verhalten gestoßen, welches ich mir nicht so recht erklären kann:
Testszenario:
- Server: 2x 1Gbit NIC als Team „Switchunabhängig“, Lastenausgleich „Dynamisch“
- 2 Clients mit je 1Gbit NIC
Beim zeitgleichen Herunterladen großer Dateien vom Server zu den beiden Clients erreiche ich pro Client, also pro Datenstrom ziemlich genau 1Gbit. Genauso wie erwartet.
Kopiere ich jedoch Dateien zum Server, dann teilen sich die Clients die Bandbreite von 1Gbit. Ich hätte jedoch erwartet, dass ich je Datenstrom 1Gbit erreichen kann.
Wenn ich vier 1Gbit NICs am Server zu einem Team verbinde, ergibt sich dasselbe Bild. Vier 1Gbit Clients können zeitgleich mit je 1Gbit herunterladen, aber nur mit je 250Mbit in Richtung Server kopieren.
Ich habe auch den Lastenausgleich „Adresshash“ getestet mit dem gleichen Ergebnis.
Dann habe ich den Switch entsprechend konfiguriert und das gleiche mit dem Teammodus „Statischer Teamvorgang“ und auch „LACP“ probiert. Jeweils mit den Lastenausgleichsmodus „Adresshash“ und „Dynamisch“. In allen Varianten dasselbe Ergebnis: Beim Lesen vom Server werden die NICs im Team hervorragend ausgelastet (bei der entsprechenden Anzahl der Datenströme), beim Schreiben auf den Server teilen sich alle Datenströme die Bandbreite eines NICs.
Ich habe dann das ganze über SMB3 Multichannel probiert und siehe da: bei 2 NICs im Server erreiche ich bei zwei Datenströmen knapp 2Gbit beim Lesen und ca. 1,8Gbit beim Schreiben.
Bei 4 NICs im Server entsprechend ähnlich: Beim Lesen (über vier Datenströme) ca. 3,5Gbit und Schreibend auch fast 3,5Gbit.
Auffallend ist, dass bei SMB3 Multichannel die Datenrate der Clients rechts stark schwankt, also nicht so gleichmäßig ist wie bei den Teams. Aber dennoch beim Schreiben deutlich höher, bei Lesen etwas niedriger.
Kann mir jemand sagen weshalb sich bei den Teams die Bandbreite beim eingehenden Trafic (mehrere Datenströme) nach der Bandbreite eines einzelnen NICs im Team richtet?
Hat jemand SMB3 Multichannel im produktiven Einsatz? Gibt es dabei irgendwelche Nachteile?
Gruß,
Denny
ich habe einen Windows-Server 2022 mit mehreren 1Gbit NICs, welche ich gerne zwecks Lastverteilung und Ausfallsicherheit bündeln möchte.
Ich bin beim Testen auf ein Verhalten gestoßen, welches ich mir nicht so recht erklären kann:
Testszenario:
- Server: 2x 1Gbit NIC als Team „Switchunabhängig“, Lastenausgleich „Dynamisch“
- 2 Clients mit je 1Gbit NIC
Beim zeitgleichen Herunterladen großer Dateien vom Server zu den beiden Clients erreiche ich pro Client, also pro Datenstrom ziemlich genau 1Gbit. Genauso wie erwartet.
Kopiere ich jedoch Dateien zum Server, dann teilen sich die Clients die Bandbreite von 1Gbit. Ich hätte jedoch erwartet, dass ich je Datenstrom 1Gbit erreichen kann.
Wenn ich vier 1Gbit NICs am Server zu einem Team verbinde, ergibt sich dasselbe Bild. Vier 1Gbit Clients können zeitgleich mit je 1Gbit herunterladen, aber nur mit je 250Mbit in Richtung Server kopieren.
Ich habe auch den Lastenausgleich „Adresshash“ getestet mit dem gleichen Ergebnis.
Dann habe ich den Switch entsprechend konfiguriert und das gleiche mit dem Teammodus „Statischer Teamvorgang“ und auch „LACP“ probiert. Jeweils mit den Lastenausgleichsmodus „Adresshash“ und „Dynamisch“. In allen Varianten dasselbe Ergebnis: Beim Lesen vom Server werden die NICs im Team hervorragend ausgelastet (bei der entsprechenden Anzahl der Datenströme), beim Schreiben auf den Server teilen sich alle Datenströme die Bandbreite eines NICs.
Ich habe dann das ganze über SMB3 Multichannel probiert und siehe da: bei 2 NICs im Server erreiche ich bei zwei Datenströmen knapp 2Gbit beim Lesen und ca. 1,8Gbit beim Schreiben.
Bei 4 NICs im Server entsprechend ähnlich: Beim Lesen (über vier Datenströme) ca. 3,5Gbit und Schreibend auch fast 3,5Gbit.
Auffallend ist, dass bei SMB3 Multichannel die Datenrate der Clients rechts stark schwankt, also nicht so gleichmäßig ist wie bei den Teams. Aber dennoch beim Schreiben deutlich höher, bei Lesen etwas niedriger.
Kann mir jemand sagen weshalb sich bei den Teams die Bandbreite beim eingehenden Trafic (mehrere Datenströme) nach der Bandbreite eines einzelnen NICs im Team richtet?
Hat jemand SMB3 Multichannel im produktiven Einsatz? Gibt es dabei irgendwelche Nachteile?
Gruß,
Denny
Please also mark the comments that contributed to the solution of the article
Content-ID: 669355
Url: https://administrator.de/contentid/669355
Printed on: December 7, 2024 at 17:12 o'clock
2 Comments
Latest comment
Nähere Infos zu LACP LAGs findest du auch HIER.
LACP LAGs verteilen rein auf Basis des Hash Algorithmus, was dann in hohem Maße abhängig ist von deiner Adress Entropie im Netz. Einige Hersteller bringen zusätzlich noch VLAN ID und TCP/UDP Ports in die Berechnung was die Verteilung etwas granulaerer macht. Eine gleichmässig, homogene Verteilung des Traffics ist mit LACP LAGs aber aufgrund des Hashings nicht möglich.
Da SMB Multichannel ein komplett anderes, protokollspezifisches Verfahren ist, kann man die Ergebnisse auch nicht vergleichen. Äpfel und Birnen...
LACP LAGs verteilen rein auf Basis des Hash Algorithmus, was dann in hohem Maße abhängig ist von deiner Adress Entropie im Netz. Einige Hersteller bringen zusätzlich noch VLAN ID und TCP/UDP Ports in die Berechnung was die Verteilung etwas granulaerer macht. Eine gleichmässig, homogene Verteilung des Traffics ist mit LACP LAGs aber aufgrund des Hashings nicht möglich.
Da SMB Multichannel ein komplett anderes, protokollspezifisches Verfahren ist, kann man die Ergebnisse auch nicht vergleichen. Äpfel und Birnen...
Wenn es das denn nun war bitte deinen Thread dann auch als erledigt schliessen!
How can I mark a post as solved?
How can I mark a post as solved?