RB4011, CRS112, CRS326 - Wie miteinander verbinden
Hallo zusammen.
Ich möchte zwei Switche mit einem Router verbinden, bin mir aber nicht sicher, welche der drei möglichen Optionen aus performance-technischer Sicht die empfehlenswerte ist. Könnt ihr mich bitte beraten? Vielen Dank.
Ich möchte zwei Switche mit einem Router verbinden, bin mir aber nicht sicher, welche der drei möglichen Optionen aus performance-technischer Sicht die empfehlenswerte ist. Könnt ihr mich bitte beraten? Vielen Dank.
Bitte markiere auch die Kommentare, die zur Lösung des Beitrags beigetragen haben
Content-ID: 1542314333
Url: https://administrator.de/forum/rb4011-crs112-crs326-wie-miteinander-verbinden-1542314333.html
Ausgedruckt am: 14.04.2025 um 03:04 Uhr
12 Kommentare
Neuester Kommentar
Warten auf Godot ähh @aqui
Ich würde ja vermuten, dass Du auf unterschiedlichen Switch-Chips die Ausfallwahrscheinlichkeit optimierst und gleichzeitig die "Last" besser verteilst und mit dem RB4011 die allgemein leistungsfähigste Kiste ins Zentrum stellst (Option 1)
Hüstl, hüstl
Hüstl, hüstl

Von Variante 1 und 2 fällt die erste schon mal als erstes weg. Der Grund: Die Daten gehen bei in diesem Fall von einem Switch-Chip zum anderen immer zwangsweise durch die CPU und dieser Interconnect ist ebenfalls auf 2,5GBits begrenzt. Bei Variante 2 liegen beide CRS Switches in einer VLAN-Bridge des Mikrotik, da der RB4011 aber kein Hardware-Offload bei aktiviertem VLAN-Filtering supported geht hierbei der Traffic zwischen den VLANs ebenfalls zwingend durch die CPU ist also ebenfalls nicht die schnellste Lösung.
Hardware Offload bei aktiviertem VLAN-Filtering supported aber der CRS326, der würde sich also als Routing-Device anbieten, ja wenn da nicht seine begrenzte CPU-Leistung für sonstige Aufgaben Firewalling etc. wären.
Ist also alles nicht Fisch noch Fleisch wenn egal welche Variante du wählst Routen würde immer der RB4011 und da begrenzt eben das non supported Hardware-Offload mit VLANs. Am ehesten Variante 2 wenn ich wählen müsste und kein andere Hardware kaufen dürfte.
Ebenfalls sollte man vielleicht auch noch erwähnen das der RB4011 insgesamt nicht mehr wie 7GBit's mit seiner Quad 1,4GHZ CPU wuppen kann, der 10GBit's Port lässt sich also alleine ebenfalls nicht im vollen ausreizen.
https://wiki.mikrotik.com/wiki/Manual:Switch_Chip_Features
Bildquelle: Mikrotik
Hardware Offload bei aktiviertem VLAN-Filtering supported aber der CRS326, der würde sich also als Routing-Device anbieten, ja wenn da nicht seine begrenzte CPU-Leistung für sonstige Aufgaben Firewalling etc. wären.
Ist also alles nicht Fisch noch Fleisch wenn egal welche Variante du wählst Routen würde immer der RB4011 und da begrenzt eben das non supported Hardware-Offload mit VLANs. Am ehesten Variante 2 wenn ich wählen müsste und kein andere Hardware kaufen dürfte.
Ebenfalls sollte man vielleicht auch noch erwähnen das der RB4011 insgesamt nicht mehr wie 7GBit's mit seiner Quad 1,4GHZ CPU wuppen kann, der 10GBit's Port lässt sich also alleine ebenfalls nicht im vollen ausreizen.
https://wiki.mikrotik.com/wiki/Manual:Switch_Chip_Features
Bildquelle: Mikrotik
Hallo,
steht bei mir fast genau so zur Umsetzung an, nur mit einem 5009er. Hatte aber noch keine Zeit. Zu den Facts:
Kollege @149569 hat schon die wesentlichen Tretminen beschrieben. Zutreffend wird (willst Du ja auch) über den 4011 geroutet. HW-Offload ist für den Usecase im Router an dieser Stelle irrelevant, der soll ja routen und das macht MT eben durch die CPU. Gehst Du also mit je einem Trunk aus den Switchen auf einen gemeinsamen Switch-Chip in den Router, gehen immerhin 1 Gbit/s über die Leitung. Das schafft die CPU locker, vermutlich kann sie auch alle Ports eines Switch-Chips in Wirespeed bedienen, wenn die von Kollege @149569 genannte Zahl von 7 Gbit/s zutrifft.
In Deinem Szenario hieße das aber, wenn Du mit je einer Trunk-Leitung von den Switchen in den 4011 gehst (Variante 2), begrenzt die Leitung die Performance auf 1 Gbit/s je Switch. Wenn Dir das reicht, ist das der Weg. Reicht es nicht, hilft Bonding (alle auf den einen Switch-Chip im 4011, dann immerhin 2x2 Gbit/s, bei max 2,5 Gbit/s.) oder (wenn baulich umsetzbar) der Königsweg (Variante 3 mit) SFP+:
Sowohl der 4011 als auch der 326 können 10 Gbit/s über FC. Hänge also den Trunk aus dem 326 per FC an den 4011 und Du hast richtig Feuer auf der Leitung. Da der 326 dann artig offloaded, verteilt er das auch ohne seine CPU-Bremse auf die Ports. Nur der 112 hängt dann mit einem Trunk hinten am 326 etwas lahmer, kannst Du aber wahrscheinlich auch bonden.
Alternativ kannst Du wahrscheinlich neuerdings auch den 326 im L3 HW Offload die VLANs routen lassen, aber Deine Frage zielte ja auf die Anbindung der Switche an den 4011 und ein bisschen Firewalling zwischen den Netzen ist ja vielleicht auch ganz schön. Der 4011 hat also durchaus seine Berechtigung.
Viele Grüße, commodity
steht bei mir fast genau so zur Umsetzung an, nur mit einem 5009er. Hatte aber noch keine Zeit. Zu den Facts:
Kollege @149569 hat schon die wesentlichen Tretminen beschrieben. Zutreffend wird (willst Du ja auch) über den 4011 geroutet. HW-Offload ist für den Usecase im Router an dieser Stelle irrelevant, der soll ja routen und das macht MT eben durch die CPU. Gehst Du also mit je einem Trunk aus den Switchen auf einen gemeinsamen Switch-Chip in den Router, gehen immerhin 1 Gbit/s über die Leitung. Das schafft die CPU locker, vermutlich kann sie auch alle Ports eines Switch-Chips in Wirespeed bedienen, wenn die von Kollege @149569 genannte Zahl von 7 Gbit/s zutrifft.
In Deinem Szenario hieße das aber, wenn Du mit je einer Trunk-Leitung von den Switchen in den 4011 gehst (Variante 2), begrenzt die Leitung die Performance auf 1 Gbit/s je Switch. Wenn Dir das reicht, ist das der Weg. Reicht es nicht, hilft Bonding (alle auf den einen Switch-Chip im 4011, dann immerhin 2x2 Gbit/s, bei max 2,5 Gbit/s.) oder (wenn baulich umsetzbar) der Königsweg (Variante 3 mit) SFP+:
Sowohl der 4011 als auch der 326 können 10 Gbit/s über FC. Hänge also den Trunk aus dem 326 per FC an den 4011 und Du hast richtig Feuer auf der Leitung. Da der 326 dann artig offloaded, verteilt er das auch ohne seine CPU-Bremse auf die Ports. Nur der 112 hängt dann mit einem Trunk hinten am 326 etwas lahmer, kannst Du aber wahrscheinlich auch bonden.
Alternativ kannst Du wahrscheinlich neuerdings auch den 326 im L3 HW Offload die VLANs routen lassen, aber Deine Frage zielte ja auf die Anbindung der Switche an den 4011 und ein bisschen Firewalling zwischen den Netzen ist ja vielleicht auch ganz schön. Der 4011 hat also durchaus seine Berechtigung.
Viele Grüße, commodity
Routen würde immer der RB4011 und da begrenzt eben das non supported Hardware-Offload mit VLANs.
Na ja, "Option 4" wäre dann da die Alternative:- Die beiden CRSe direkt verbinden mit dem SFP+ und DAC/Twinax oder bei Längen größer 10m mit VRRP_Failover routen.
- 4011er mit je einem Bein auf je einen der CRSe legen und mit einem Transfer VLAN und ECMP Routing ankoppeln.
Hier gibt's immer was zu lernen 
Verstehe erstmal nur Bahnhof.
Setup war
Internet Router > 4011 > Switch 1 (326) > Endgeräte a,b,c
_________________________> Switch 2 (112) > Endgeräte d, e
Der 4011 soll die VLANs routen. Ich nehme mal an, an den Switchen hängen diverse Endgeräte (a-c und d,e).
Was bewirkt dann ein VRRP Failover? Fällt einer der Switche aus, gibt es doch für die daran hängenden Endgeräte keine Rettung. Da bringt dann der SFP+ zwischen den Switchen auch nichts.
Und wie sich das Routing mit den Transfernetzen abspielt, ist mir auch nicht klar. ECMP macht doch nur Sinn, wenn Endgeräte mehrere Wege zur Verfügung haben, zB über Access- und Core-Switche. Auch wäre der 4011 dann ja mit jeweils nur 1 Gbit/s angebunden. Wie kann das dann performanter sein von a nach b zu routen als über FC? Oder auch von a nach e, wenn a gebondet mit z.B. 4 Gbit/s über den 326 und dann per FC zum 4011 läuft?
Please Help! Was habe ich nicht verstanden?
Viele Grüße, commodity
Verstehe erstmal nur Bahnhof.
Setup war
Internet Router > 4011 > Switch 1 (326) > Endgeräte a,b,c
_________________________> Switch 2 (112) > Endgeräte d, e
Der 4011 soll die VLANs routen. Ich nehme mal an, an den Switchen hängen diverse Endgeräte (a-c und d,e).
Was bewirkt dann ein VRRP Failover? Fällt einer der Switche aus, gibt es doch für die daran hängenden Endgeräte keine Rettung. Da bringt dann der SFP+ zwischen den Switchen auch nichts.
Und wie sich das Routing mit den Transfernetzen abspielt, ist mir auch nicht klar. ECMP macht doch nur Sinn, wenn Endgeräte mehrere Wege zur Verfügung haben, zB über Access- und Core-Switche. Auch wäre der 4011 dann ja mit jeweils nur 1 Gbit/s angebunden. Wie kann das dann performanter sein von a nach b zu routen als über FC? Oder auch von a nach e, wenn a gebondet mit z.B. 4 Gbit/s über den 326 und dann per FC zum 4011 läuft?
Please Help! Was habe ich nicht verstanden?
Viele Grüße, commodity
So war das gemeint:
Beide CRS arbeiten im L3 Mode, routen also lokal die VLANs in Hardware.
Wenn nur einer routen würde hättest du einen Single Point of Failure und das Netz steht sollte der einmal ausfallen oder seine L3 Funktion z.B. beim Firmware Update usw.
Damit das nicht passiert koppelt man sie per VRRP und einer virtuellen Gateway IP, die dann die Gateway IP alle Endgeräte ist und zwischen beiden Systemen geshared wird.
So erreicht man eine vollständige Gateway Redundanz im Netzwerk. VRRP ist ein reines Protokoll zur Gateway Redundanz für Endgeräte in einem L3 Netzwerk.
Dann nimmt man je CRS ein Transfer Netz auf den RB4011 und nutzt ein ECMP (Equal Cost MultiPathing) fähiges Routing was dann den gesamten Internet Traffic routingtechnisch homogen auf beide RB4011er Links verteilt.
Leider supportet MT ja (noch) kein Stacking bzw. Full Stack. Dann würde natürlich ein VRRP und das ECMP entfallen und man könnte mit einfachen LACP LAGs arbeiten.
Hoffe das macht das Setup für dich etwas klarer... ?!

Wenn nur einer routen würde hättest du einen Single Point of Failure und das Netz steht sollte der einmal ausfallen oder seine L3 Funktion z.B. beim Firmware Update usw.
Damit das nicht passiert koppelt man sie per VRRP und einer virtuellen Gateway IP, die dann die Gateway IP alle Endgeräte ist und zwischen beiden Systemen geshared wird.
So erreicht man eine vollständige Gateway Redundanz im Netzwerk. VRRP ist ein reines Protokoll zur Gateway Redundanz für Endgeräte in einem L3 Netzwerk.
Dann nimmt man je CRS ein Transfer Netz auf den RB4011 und nutzt ein ECMP (Equal Cost MultiPathing) fähiges Routing was dann den gesamten Internet Traffic routingtechnisch homogen auf beide RB4011er Links verteilt.
Leider supportet MT ja (noch) kein Stacking bzw. Full Stack. Dann würde natürlich ein VRRP und das ECMP entfallen und man könnte mit einfachen LACP LAGs arbeiten.
Hoffe das macht das Setup für dich etwas klarer... ?!
Danke 
Ja, ich (denke, ich) verstehe den Aufbau, aber nicht den Sinn der Lösung.
Wenn ich es richtig verstehe, sollen die Switche routen und der RB4011 macht den Uplink ins Internet.
Nur,
1) was soll das bringen? In dem Szenario ist der SPoF der 4011er. In dem anderen Szenario wäre es dazu noch der zwischen geschaltete 326er. Das könnte man aber vermeiden, wenn man den 112er parallel zum per FC angebundenen 326er direkt an den 4011er dockt. Außerdem ist das in dem Mini-Setup wahrscheinlich nicht relevant. Fällt der 326er aus, ist das Netz wahrscheinlich ohnehin unbrauchbar.
2) geht das m.E. technisch nicht so.
a) Routen die CRS total langsam, jedenfalls der 112er (und der L3 HW-Offload beim 326er ist auch noch ganz frisch).
b) wäre der Link zwichen den Switchen SFP (der 112er kann kein SFP+)
c) würde Firewalling zwischen den Vlans nicht performant laufen, weil die Switch-CPUs viel zu lahm sind.
Viele Grüße, commodity
Ja, ich (denke, ich) verstehe den Aufbau, aber nicht den Sinn der Lösung.
Wenn ich es richtig verstehe, sollen die Switche routen und der RB4011 macht den Uplink ins Internet.
Nur,
1) was soll das bringen? In dem Szenario ist der SPoF der 4011er. In dem anderen Szenario wäre es dazu noch der zwischen geschaltete 326er. Das könnte man aber vermeiden, wenn man den 112er parallel zum per FC angebundenen 326er direkt an den 4011er dockt. Außerdem ist das in dem Mini-Setup wahrscheinlich nicht relevant. Fällt der 326er aus, ist das Netz wahrscheinlich ohnehin unbrauchbar.
2) geht das m.E. technisch nicht so.
a) Routen die CRS total langsam, jedenfalls der 112er (und der L3 HW-Offload beim 326er ist auch noch ganz frisch).
b) wäre der Link zwichen den Switchen SFP (der 112er kann kein SFP+)
c) würde Firewalling zwischen den Vlans nicht performant laufen, weil die Switch-CPUs viel zu lahm sind.
Viele Grüße, commodity
Wenn ich es richtig verstehe, sollen die Switche routen und der RB4011 macht den Uplink ins Internet.
Richtig. Es ist nur eine Variante wenn man zentral auf den Switches routen will mit Redundnaz.Die Problematik die auch der Kollege @149569 oben schon angesprochen hat sind die 2 Switchchips im RB zwischen den man Performance bedingt nicht switchen sollte. Option 2 hier also bevorzugt.
Gravierender Nachteil ist das mit einem VLAN Setup der RB nur einen Bruchteil der Performance hat die er als Router hat. Routing ist dann nicht in HW möglich. Sprich lokales VLAN Routing auf dem RB scheidet aus und der sollte immer als dedizierter Router ohne VLAN laufen wenn es um Performance geht.
Bringt dann das VLAN Routing wieder zurück auf die CRS....
Um dort Redundanz im lokalen VLAN Routing zu haben ist VRRP eigentlich ein Muss. Auch wenn der RB natürlich ebenso ein SPoF ist betrifft das dann aber nur das Internet und NICHT das lokale Routing im Netz zw. den VLANs was ja erheblich wichtiger ist aufrecht zu erhalten. Folglich sollte man, wenn auf den LAN Switches geroutet wird (und nur dann) VRRP machen sofern die Verfügbarkeit des lokalen Netze hier eine Rolle spielt.
Fazit:
Vermutlich sind die CRS im VLAN L3 Durchsatz etwas besser als der RB, das ist aber erstmal auch nur geraten weil da konkrete Daten fehlen.
Ich komme gerade leider nicht dazu, das zu testen, bleibe aber dran.
Das wäre dann der sicherste Weg das optimale Setup zu finden indem man einmal iPerf3 auf so ein Design loslässt.