sommelier
Goto Top

Viel zu geringe Netzwerkgeschwindigkeit trotz 10GBits NICs

Guten Tag,
wir haben leider das Problem, dass der Datendurchsatz zu Unserem Server viel zu niedrig ist.
Im normalen Gigabit-Netzwerk ist alles in Ordnung.

Wir betreiben einen Win Server 2012 R2 und Win10 Clients.

Das Problem besteht zwischen einem Rechner der über 2x 10GBit/s an einem Switch hängt. Am gleichen Switch (T1700G-28TQ) hängt auch der Server mit 2x10 Gbit/s. Der Rechner ist nur für Testzwecke, bevor hier fragen kommen.
Jedoch liegt eben die Netzwerkgeschwindigkeit bei lachhaften 5Gbit/s in SUMME aus beiden NIC. Nutze ich nur einen Netzwerkadapter auf beiden Seiten, komme ich auf die gleiche Geschwindigkeit.
Zudem wurde mit "NetIO" getestet, hierbei kommen aber völlig falsche (noch sehr viel niedrigere) Werte heraus. An meinen Festplatten liegt es hoffentlich nicht (Server Raid 0 aus zwei Sandisk extreme Pro NVME 500GB, Client Samsung NVME SSD).

Ich frage mich, wo mein Problem ist.
Könnt ihr mir hierbei helfen?


MfG Sommelier
Kommentar vom Moderator tomolpi am 28.02.2020 um 15:14:46 Uhr
Titel aussagekräftiger gemacht face-wink

Content-ID: 552688

Url: https://administrator.de/contentid/552688

Ausgedruckt am: 25.11.2024 um 19:11 Uhr

Looser27
Looser27 28.02.2020 um 14:21:02 Uhr
Goto Top
Moin,

wurde auf Server und Client das Teaming korrekt eingerichtet? Ist der Switch entsprechend konfiguriert?
WAS wurde WIE eingerichtet?

Gruß

Looser
Sommelier
Sommelier 28.02.2020 um 14:31:43 Uhr
Goto Top
Dank SMB 3.0 wird kein Teaming benötigt. Zudem ist Teaming seit Wind 10 clientseitig nicht mehr möglich, wenn mich nicht alles täuscht. Dementsprechend haben beide Netzwerkkarten jeweils zwei eigene IPs. Alles andere sollte THEORETISCH ja nicht wichtig sein. Falls doch, Asche auf mein Haupt.
P.S.: Jumbo Frames wurden testweise aktiviert/deaktiviert.
Vision2015
Vision2015 28.02.2020 um 14:58:36 Uhr
Goto Top
moin...
Zitat von @Sommelier:

Guten Tag,
wir haben leider das Problem, dass der Datendurchsatz zu Unserem Server viel zu niedrig ist.
was ist das für ein Server, und was genau ist zu niedrig- und mit was...
hast du mit Iperf und dergleichen schon mal gemessen?
Im normalen Gigabit-Netzwerk ist alles in Ordnung.
wie hoch ist der durchsatz da?

Wir betreiben einen Win Server 2012 R2 und Win10 Clients.
ok,,

Das Problem besteht zwischen einem Rechner der über 2x 10GBit/s an einem Switch hängt. Am gleichen Switch (T1700G-28TQ) hängt auch der Server mit 2x10 Gbit/s. Der Rechner ist nur für Testzwecke, bevor hier fragen kommen.
wieso 2 X 10GBit/s? reicht einmal nicht?
Jedoch liegt eben die Netzwerkgeschwindigkeit bei lachhaften 5Gbit/s in SUMME aus beiden NIC. Nutze ich nur einen Netzwerkadapter auf beiden Seiten, komme ich auf die gleiche Geschwindigkeit.
5Gbit/s ist ja schon mal was....
Zudem wurde mit "NetIO" getestet, hierbei kommen aber völlig falsche (noch sehr viel niedrigere) Werte heraus. An meinen Festplatten liegt es hoffentlich nicht (Server Raid 0 aus zwei Sandisk extreme Pro NVME 500GB, Client Samsung NVME SSD).
was ist das für ein Server genau? kann der die leistung für 10 Gbit/s aufbringen?
von was für Netzwerk Karten reden wir genau?
was für kabel und transreciver?
mit dem TP T1700G-28TQ bekommst du mit 5Gbit/s gut raus... der macht eh nur max 7Gbit netto... aus dem cache!
wenn dein Raid 0 ein windows fake raid ist, und NVME über den Bus rennt, hat die cpu auch etwas spass... das bremst schon gut!
alles in

Ich frage mich, wo mein Problem ist.
Könnt ihr mir hierbei helfen?


MfG Sommelier
frank
Vision2015
Vision2015 28.02.2020 aktualisiert um 15:00:10 Uhr
Goto Top
moin...

Dementsprechend haben beide Netzwerkkarten jeweils zwei eigene IPs.
was soll das bringen?
mach das wech... das brauchst du nicht

Frank
Sommelier
Sommelier 28.02.2020 um 15:22:28 Uhr
Goto Top
Zitat von @Vision2015:
was ist das für ein Server, und was genau ist zu niedrig- und mit was...
Der Durchsatz von PC zu Server. ich komme auf maximal 500 -600 MB/s
hast du mit Iperf und dergleichen schon mal gemessen? Ja, aber wie gesagt, hier kommen Werte raus, die niemals stimmen (100-300 MB/s)
wie hoch ist der durchsatz da?
ca. 112MB/s, mehr gibt Gigabit eben nicht her
wieso 2 X 10GBit/s? reicht einmal nicht?
Leider nicht, haben hier sehr große Datenmengen zu bewältigen.
5Gbit/s ist ja schon mal was....
Ja, aber eben zu wenig. Da hätte ich dann keine zweifach Netzwerkkarten und so einen Switch gebraucht.
was ist das für ein Server genau? kann der die leistung für 10 Gbit/s aufbringen?
Server ist Eigenbau, verbaut sind ein i5 und 16GB DDR4 RAM. Ist wie gesagt auch nur ein Testaufbau das alles.
von was für Netzwerk Karten reden wir genau?
Broadcom BCM57810 NetXtreme II, 10 GigE
was für kabel und transreciver?
Kabel und Transreceiver sind was derartiges:
https://www.amazon.de/gp/product/B007N5FZWI/ref=ppx_yo_dt_b_asin_title_o ...
https://www.amazon.de/gp/product/B07CMZ9PVP/ref=ppx_yo_dt_b_asin_title_o ...
mit dem TP T1700G-28TQ bekommst du mit 5Gbit/s gut raus... der macht eh nur max 7Gbit netto... aus dem cache!
Wirklich nur?! Wozu dann vier 10Gbit/s SFP+ Ports?? Der hat doch eine Kapazität von 128Gbit/s, da sollte er ja wohl 20 Gbit/s locker flockig aus dem Ärmel schütteln...
wenn dein Raid 0 ein windows fake raid ist, und NVME über den Bus rennt, hat die cpu auch etwas spass... das bremst schon gut!
Also CPU Auslastung liegt bei etwa 10 Prozent

mach das wech... das brauchst du nicht
Warum? Jeder Netzwerkadapter bekommt doch eben eine eigene IP??
Also so in etwa:
NW-Karte Client Port 1: 10.0.0.20
NW-Karte Client Port 2: 10.0.0.21
NW-Karte Server Port 1: 10.0.0.30
NW-Karte Server Port 2: 10.0.0.31


Sommelier
SeaStorm
SeaStorm 28.02.2020 um 15:22:46 Uhr
Goto Top
Hi

na bei der Hardware .... der Switch ist bei 5GBit schon kurz vor seinem technischen Limit. Von daher wird das wohl nicht viel besser werden.
Und bei 10 GBit darf man sich dann schon mal um MTUs unterhalten. Wie sind die da eingestellt ?
Sommelier
Sommelier 28.02.2020 um 15:34:17 Uhr
Goto Top
Die MTUs, also die maximale Paketgröße, falls du das meinst, wurden auf 9KB sprich 9216Bytes eingestellt. Hilft mir aber auch nciht weiter. Gleiches Ergebnis 1518Bytes (kleiner geht nicht).
Looser27
Looser27 28.02.2020 um 15:41:27 Uhr
Goto Top
Wirklich nur?! Wozu dann vier 10Gbit/s SFP+ Ports?? Der hat doch eine Kapazität von 128Gbit/s, da sollte er ja wohl 20 Gbit/s locker flockig aus dem Ärmel schütteln...

Die Switching-Kapazität wird aber nur mit 40GBit/s angegeben. Wenn da sonst noch was drauf läuft, bleibt halt nicht mehr viel übrig.
Vision2015
Vision2015 28.02.2020 um 15:45:00 Uhr
Goto Top
moin,,,
Zitat von @Sommelier:

Zitat von @Vision2015:
was ist das für ein Server, und was genau ist zu niedrig- und mit was...
Der Durchsatz von PC zu Server. ich komme auf maximal 500 -600 MB/s
das ist mit deiner hardware schon ein guter wert...
hast du mit Iperf und dergleichen schon mal gemessen? Ja, aber wie gesagt, hier kommen Werte raus, die niemals stimmen (100-300 MB/s)
wie hoch ist der durchsatz da?
ca. 112MB/s, mehr gibt Gigabit eben nicht her
richtig...
wieso 2 X 10GBit/s? reicht einmal nicht?
Leider nicht, haben hier sehr große Datenmengen zu bewältigen.
dan arbeitest du mit der falschen technik....
5Gbit/s ist ja schon mal was....
Ja, aber eben zu wenig. Da hätte ich dann keine zweifach Netzwerkkarten und so einen Switch gebraucht.
das mit den zweifach Netzwerkkarten ist ja auch sinnfrei... und der switch ist halt billig...
was ist das für ein Server genau? kann der die leistung für 10 Gbit/s aufbringen?
Server ist Eigenbau, verbaut sind ein i5 und 16GB DDR4 RAM. Ist wie gesagt auch nur ein Testaufbau das alles.
aus dem bauch sage ich dir, wird das nicht mehr an leistung...
von was für Netzwerk Karten reden wir genau?
Broadcom BCM57810 NetXtreme II, 10 GigE
was für kabel und transreciver?
Kabel und Transreceiver sind was derartiges:
https://www.amazon.de/gp/product/B007N5FZWI/ref=ppx_yo_dt_b_asin_title_o ...
https://www.amazon.de/gp/product/B07CMZ9PVP/ref=ppx_yo_dt_b_asin_title_o ...
mit dem TP T1700G-28TQ bekommst du mit 5Gbit/s gut raus... der macht eh nur max 7Gbit netto... aus dem cache!
Wirklich nur?! Wozu dann vier 10Gbit/s SFP+ Ports?? Der hat doch eine Kapazität von 128Gbit/s, da sollte er ja wohl 20 Gbit/s locker flockig aus dem Ärmel schütteln...
ja.. kann er ja auch... aus dem cache face-smile
wenn dein Raid 0 ein windows fake raid ist, und NVME über den Bus rennt, hat die cpu auch etwas spass... das bremst schon gut!
Also CPU Auslastung liegt bei etwa 10 Prozent

mach das wech... das brauchst du nicht
Warum? Jeder Netzwerkadapter bekommt doch eben eine eigene IP??
Also so in etwa:
NW-Karte Client Port 1: 10.0.0.20
NW-Karte Client Port 2: 10.0.0.21
NW-Karte Server Port 1: 10.0.0.30
NW-Karte Server Port 2: 10.0.0.31
das bringt dir nix....
keiner deiner komponenten kann die leistung bringen, die du möchtest!


Sommelier
Frank
Sommelier
Sommelier 28.02.2020 um 15:47:15 Uhr
Goto Top
Wo hast du das her?
https://www.tp-link.com/de/business-networking/smart-switch/t1700g-28tq/ ...

Was für einen Switch kannst du sonst empfehlen mit vier SFP+ Ports und ca. 20 1GBit/s RJ45 Ports?
Sommelier
Sommelier 28.02.2020 um 15:55:38 Uhr
Goto Top
.... das bringt dir nix....
keiner deiner komponenten kann die leistung bringen, die du möchtest!

Sehr traurig diese Antwort.
Wo muss ich dann deiner Meinung nach investieren, damit das besser klappt?
Also Switch hab ich verstanden, aber was für einen? Gigabit reicht + 4 SFP+ Ports mit 10Gbit/s.
Und an welchem Ende noch? Der Client wirds sicher nicht sein, der hat mehr als genug Dampf.
Sind die Netzwerkkarten schuld oder der Prozessor samt Unterbau im Server?
aqui
aqui 28.02.2020 aktualisiert um 16:10:35 Uhr
Goto Top
einem Rechner der über 2x 10GBit/s an einem Switch hängt.
WIE ist das realisiert ? Spanning Tree oder LACP LAG ??
hängt auch der Server mit 2x10 Gbit/s.
Auch hier wieder die Frage: WIE ist das realisiert ?
Dazu kommt von dir leider keinerlei zielführende Beschreibung so das man nur frei raten kann... face-sad
Vergiss nicht das du mit der TP Link Gurke allerbilligste Infrastruktur auf Grasnarben Niveau einsetzt, die massiv überbucht ist intern. Die 4 mal 10G Ports sharen intern im ASIC einen einzigen 10G Port.
Hier solltest du also schon mal massiv deine Performance Erwartungshaltung zurückschrauben wenn du mit solcher Hardware arbeitest.
mit vier SFP+ Ports und ca. 20 1GBit/s RJ45 Ports?
Auf keinen Fall einen aus dem Websmart Billigsegment denn die sind alle intern überbucht.
Einen der 10G Wirespeed auf den Ports problemlos schafft ist z.B. ein Ruckus ICX 7150
https://www.commscope.com/globalassets/digizuite/61729-ds-icx-7150.pdf
Brauchst du mehr 10G Ports greifst du zum ICX 7250 mit 8 mal 10G.

Netzwerkkarten zwingend welche mit Intel oder Broadcom Chipsatz und keine mit Realtek die CPU Last erzeugen usw.
Zwingend sollte man zudem Jumbo Framing global auf dem Switch aktivieren. Bei 10Gig Ist Jumbo Framing ein Muss
Die Ports ohne LACP LAG Bündelung zu betreiben ist natürlich ebenso katastrophal, denn damit droht ein Loop im Netzwerk. Ist schon viel sehr falsch gelaufen oben vom Setup was die Kommentatoren ja zu recht schon angesprochen haben.
Statt NetIO solltest du mit IPerf3 messen in dem Umfeld.
Vision2015
Vision2015 28.02.2020 um 16:32:58 Uhr
Goto Top
moin...

einem Rechner der über 2x 10GBit/s an einem Switch hängt.
WIE ist das realisiert ? Spanning Tree oder LACP LAG ??
hängt auch der Server mit 2x10 Gbit/s.
Auch hier wieder die Frage: WIE ist das realisiert ?

ich vermute der TO will Multichannel mit SMB3!
was dem TO wohl fehlt ist RDMA, das können NICs. nicht, die Client & Server Hardware ist aus dem Consumer umfeld, bringen die leistung auf dauer nicht! der switch sowiso nicht!
im kleinem brot und butter segment ist das alle ok, 500 -600 MB/s sind da schon ein gute leistung!
aber auch nur wenn diese auch durchgängig ist... übertrage mal files mit 600GB größe!

Frank
Sommelier
Sommelier 28.02.2020 um 16:50:26 Uhr
Goto Top
Ja so ist es SMB mit Multichannel.
Mir ging es vorerst auch nicht um 24/7 Betrieb mit durchgehender Last sondern erstmal um die Machbarkeit.
Scheinbar ist dies mit der geringen Budgetvorgabe so nicht machbar, was bedeutet, dass entweder mehr Geld fließen muss, oder man sich mit geringerer Geschwindigkeit begnügen muss.

Danke euch für die Hilfe!
aqui
aqui 28.02.2020 aktualisiert um 17:13:26 Uhr
Goto Top
Wie immer...wer billig kauft, kauft zweimal !!

Case closed.
Wie kann ich einen Beitrag als gelöst markieren?