Hyper-V Server 2022 - Netzwerklayout

dertowa
Goto Top
Hallo allerseits,

mit Server 2016 wurde Switch Embedded Teaming (SET) eingeführt und man sollte LBFO nicht mehr verwenden.
Nun sitze ich hier gerade vor einem neuen Hyper-V System und wusel mich so durch das Netzwerk.

...gestolpert bin ich schon über den Server 2022 Bug hinsichtlich sconfig und IP-Adresszuweisung. :D
Da muss man einfach mal nur wieder wissen, dass es da ein Problem gibt (auch mit aktuellstem Patchlevel):

https://paularquette.com/windows-server-2022-core-networking-error/

Aber zurück zu meiner Problematik, ich habe hier einen Supermicroserver mit:
  • 2x 10G Broadcom onBoard
  • 4x 1G Intel PCIe Card

Nun scheint Microsoft mit "SET" die Art und Weise geändert zu haben und möchte gemäß diverser Grafiken die
ich im Netz nun gefunden habe, alle virtuellen Netze über ein SET führen:
https://charbelnemnom.com/deploying-switch-embedded-teaming-set-on-hyper ...

Nach ein wenig Lesestoff hier, hier und hier und den durchaus verwirrenden Basisinfos von Microsoft habe ich mir mal ein solches SET aus den beiden 10G Karten erstellt.
...mit 1G soll man das angeblich nicht machen...

Nun raucht der Kopf, denn aus der ehemaligen Map(in meinem Fall ohne iSCSI) bleibt nun wenig übrig:
  • Schmeiß ich die 1G Adapter nun raus?
  • Nutze ich die 1G trotzdem sinnvoll für Livemigration oder Management / Backup?
  • Verzichte ich da auf Ausfallsicherheit und weise nur ein eine Netzwerkkarte zu?
  • Gebe ich gewissen Servern einfach zwei virtuelle Switche mit jeweils 1x 1G und kopple diese dann in der VM?
  • Womit erreiche ich einen Failover für das Management / den Host selbst?
10g
Klar kann ich beim Anlegen sagen, dass das SET auch vom Host genutzt werden kann, aber ist das sinnvoll?
  • VLAN IDs gebe ich dann wo mit, wenn auf dem SET nicht möglich?

Grüße aus dem verwirrten Büro
ToWa

Content-Key: 2666527087

Url: https://administrator.de/contentid/2666527087

Ausgedruckt am: 12.08.2022 um 23:08 Uhr

Mitglied: LauneBaer
LauneBaer 02.05.2022 um 15:49:46 Uhr
Goto Top
Servus,

wenn du ne Stunde Zeit hast, würde ich dir das zu dem Thema empfehlen: Klick mich!

Grüße
Mitglied: dertowa
dertowa 02.05.2022 um 20:13:49 Uhr
Goto Top
Zitat von @LauneBaer:
wenn du ne Stunde Zeit hast, würde ich dir das zu dem Thema empfehlen: Klick mich!

Servus,
oh mal ein sinnvoller Youtube-Beitrag? face-smile
Die Stunde nehme ich mir morgen gern.

Danke schon mal.
Mitglied: MysticFoxDE
MysticFoxDE 03.05.2022 um 02:03:50 Uhr
Goto Top
Moin ToWa,

...mit 1G soll man das angeblich nicht machen...

geht auch, manchmal sogar besser als mit 10G NIC's. 🤪

* Schmeiß ich die 1G Adapter nun raus?
  • Nutze ich die 1G trotzdem sinnvoll für Livemigration oder Management / Backup?

Kannst es so oder so machen.
Ich würde folgende machen.
10G-1 --> VM's
10G-2 --> Backup
1G-1 --> Management
1G-2 --> Cluster-Uplink
1G-3 --> Live-Migration
1G-4 --> DMZ & Co

* Verzichte ich da auf Ausfallsicherheit und weise nur ein eine Netzwerkkarte zu?

👍

* Womit erreiche ich einen Failover für das Management / den Host selbst?

Hyper-V HA Cluster

Beste Grüsse aus BaWü
Alex
Mitglied: dertowa
dertowa 04.05.2022 um 13:16:56 Uhr
Goto Top
Zitat von @LauneBaer:
wenn du ne Stunde Zeit hast, würde ich dir das zu dem Thema empfehlen: Klick mich!

Hallo,
das Video war sehr hilfreich, allerdings scheint es hinsichtlich SET ein paar Dinge zu beachten zu geben welche im Video nicht erwähnt werden.
Dass die Adapterkarten, Firmware und Treiber identisch sein muss ist soweit klar, gewisse Featuresets werden aber nicht von allen Netzwerkkarten unterstützt, dazu fehlt mir aber detaillierter Input.

Das System hat:
  • 2x 10G am Mainboard, Broadcom BCM57416 - welche seit Server 2022 built-in Treiber besitzen und als "Supermicro 10GBASE-T" erkannt werden.
  • 4 Ports mit 1 Gbit via Intel i350-T4

Da es kein SAN gibt wird es auch kein HA Cluster geben, ich habe heute noch einiges gelesen und beschränke mich bei der nicht all zu großen Umgebung auf zwei Serversysteme mit Live-Migrationskonfiguration.
Im Falle eines Ausfalls müsste auf das Veeam-Backup zurückgegriffen werden.

Hyper-V Replica soll zwar auch über WAN realisierbar sein (ich hätte eine "freie" 250 Mbit Richtfunkstrecke dafür) aber dann müsste ich auch zwei Datacenterlizenzen inkl. SA haben?
Aktuell ist lizenztechnisch nur:
  • 1x Server 2022 Datacenter inkl. SA
  • 1x Server 2022 Standard
vorhanden.
Mitglied: MysticFoxDE
MysticFoxDE 04.05.2022 um 14:08:43 Uhr
Goto Top
Moin ToWa,

das Video war sehr hilfreich, allerdings scheint es hinsichtlich SET ein paar Dinge zu beachten zu geben welche im Video nicht erwähnt werden.
Dass die Adapterkarten, Firmware und Treiber identisch sein muss ist soweit klar, gewisse Featuresets werden aber nicht von allen Netzwerkkarten unterstützt, dazu fehlt mir aber detaillierter Input.

damit das (SDN) beim Server 2019 und neuer halbwegs korrekt per default initialisiert wird, müssen die NICs unter Anderem RSS, VMQ und VMMQ beherrschen. Erschwerend kommt noch hinzu, dass die Features von Hersteller zu Hersteller anders heissen können. 😔

und beschränke mich bei der nicht all zu großen Umgebung auf zwei Serversysteme mit Live-Migrationskonfiguration.

Live-Migration geht nur mit SAN oder S2D!

Im Falle eines Ausfalls müsste auf das Veeam-Backup zurückgegriffen werden.

Dabei verlierst du aber unter Umständen eine menge Deltadaten.

Hyper-V Replica soll zwar auch über WAN realisierbar sein (ich hätte eine "freie" 250 Mbit Richtfunkstrecke dafür) aber dann müsste ich auch zwei Datacenterlizenzen inkl. SA haben?
Aktuell ist lizenztechnisch nur:
  • 1x Server 2022 Datacenter inkl. SA
  • 1x Server 2022 Standard
vorhanden.

Bitte berücksichtigen, dass Hyper-V Replica keine Echtzeitreplikation ist!

Beste Grüsse aus BaWü
Alex
Mitglied: dertowa
dertowa 04.05.2022 um 14:33:30 Uhr
Goto Top
Zitat von @MysticFoxDE:
damit das (SDN) beim Server 2019 und neuer halbwegs korrekt per default initialisiert wird, müssen die NICs unter Anderem RSS, VMQ und VMMQ beherrschen. Erschwerend kommt noch hinzu, dass die Features von Hersteller zu Hersteller anders heissen können. 😔
Das hatte ich befürchtet und eine Übersicht habe ich bislang leider nicht gefunden.
Nun könnte man schlussfolgern, dass ein built-in Treiber zu einer Netzwerkkarte diese Funktionalitäten bieten muss, aber das ist mit Sicherheit zu weit hergeholt. face-big-smile

Live-Migration geht nur mit SAN oder S2D!
Das ist die weitläufige Meinung, ist aber offensichtlich keine Grundvoraussetzung dafür, zumindest wird es von MS nicht erwähnt:
https://docs.microsoft.com/de-de/windows-server/virtualization/hyper-v/d ...
https://docs.microsoft.com/de-de/windows-server/virtualization/hyper-v/m ...

Faktisch werde ich es ausprobieren, es muss auch nicht "live" im sinne von "VM is running" sein, mir genügt eine Offlinemigration. Ist eingerichtet und wird ausprobiert.

Im Falle eines Ausfalls müsste auf das Veeam-Backup zurückgegriffen werden.
Dabei verlierst du aber unter Umständen eine menge Deltadaten.
Dessen bin ich mir bewusst, aber die Infrastruktur gibt an diversen Stellen keine Bereitstellung eines SANs her, zudem ist der Kosten/Nutzen-Faktor nicht verhältnismäßig - ich hatte beim ehem. Arbeitgeber zwei SAN-Systeme (Falconstor und NetApp).

Bitte berücksichtigen, dass Hyper-V Replica keine Echtzeitreplikation ist!
Klar soweit und auch da gilt wieder einiges zu differenzieren - gerade was Datenbanksysteme angeht.
Die 1000% Lösung gibt es auch einfach nicht.

Grüße
ToWa
Mitglied: MysticFoxDE
Lösung MysticFoxDE 05.05.2022 aktualisiert um 07:52:53 Uhr
Goto Top
Moin ToWa,

zuerst das Wichtigste.
Nach der gestrigen Aktion darfs du dich gerne auch mit NGISCMNMBS (NGIS-Certified-Microsoft-Netzwerk-Murks-Beseitigungsspezialist) betiteln. 🤪

Nun könnte man schlussfolgern, dass ein built-in Treiber zu einer Netzwerkkarte diese Funktionalitäten bieten muss, aber das ist mit Sicherheit zu weit hergeholt. face-big-smile

Nein keineswegs, diese Funktionalitäten sind quasi in Hardware gegossen und müssen wenn vorhanden,
dann nur richtig von den (built-in)Treibern angesprochen werden.

Live-Migration geht nur mit SAN oder S2D!
Das ist die weitläufige Meinung, ist aber offensichtlich keine Grundvoraussetzung dafür, zumindest wird es von MS nicht erwähnt:
https://docs.microsoft.com/de-de/windows-server/virtualization/hyper-v/d ...
https://docs.microsoft.com/de-de/windows-server/virtualization/hyper-v/m ...

Faktisch werde ich es ausprobieren, es muss auch nicht "live" im sinne von "VM is running" sein, mir genügt eine Offlinemigration. Ist eingerichtet und wird ausprobiert.

Vorsicht, wir sprechen hier von zwei unterschiedlichen Dingen.
Natürlich kannst du LiveMigration ohne SAN und HA-Cluster dazu benutzen,
um eine VM von einem Hyper-V Node auf den anderen umzuziehen.
Das hat mit "LiveMigration" bei einem HA-Cluster und einem SAN dahinter,
aber nicht wirklich viele Gemeinsamkeiten.

Wenn du bei deinem (geplanten) Konstrukt von einem Node auf den anderen Wechseln musst, dann muss der Node auf den du schwenken möchtest, sowohl CPU-, RAM- als auch die Diskapazitäten für die entsprechende VM bereitstellen. Sprich, du benötigst bei zwei Nodes schon mal doppelt so viel Diskkapazität.
Ausserdem funktioniert "LiveMigration" in diesem Fall nur, wenn beide Nodes betriebsbereit sind.

Wenn du ein HA-Cluster mit einem SAN dahinter hast, dann musst du im falle einer Live-Migration nur sicherstellen,
das der Ziel-Node ausreichend CPU und RAM Ressourcen hat und die Live-Migration geht auch wesentlich schneller,
weil nicht ständig auch die Disk Ressourcen mitverschoben werden müssen.
Wenn dir bei einem HA-Cluster ein Node wegfliegt, dann musst du im besten Fall gar nichts machen,
weil die VM's automatisch auf den noch zu Verfügung stehenden Nodes, automatisch neu gestartet werden.
Ja, OK, das Letztere hat mit LiveMigration jetzt nicht wirklich etwas zu tun, ich wollte es dennoch mal erwähnt haben.

Dessen bin ich mir bewusst, aber die Infrastruktur gibt an diversen Stellen keine Bereitstellung eines SANs her, zudem ist der Kosten/Nutzen-Faktor nicht verhältnismäßig - ich hatte beim ehem. Arbeitgeber zwei SAN-Systeme (Falconstor und NetApp).

Falconstor und NetApp 😨 ... 😱 ... Ja, OK, ich verstehe deine Sorgen um das Budget.
Nein, diese überteuerten Spielzeuge und damit meine ich vor allem das letztere, würde ich dir niemals empfehlen.

Ich denke da eher an so was.
https://www.infortrend.com/de/products/families/esds/1000
Eine DS1024R2CB um genau zu sein.

Das reicht für zwei Nodes und eure Grösse vollkommen aus und selbst mit jedem Schnickschnack,
kommst du bei diesem SAN (exclusive Datenträger), nicht über 10K hinaus. 😉
Wenn du dann noch berücksichtigst, dass du bei dem SAN nicht den doppelten Speicherplatz bereitstellen musst
und mit einer Laufzeit von 5 Jahren rechnest, dann kommst du pro Jahr maximal auf Mehrkosten von 1000,- - 1500,- €. Hast dafür mitunter aber ein ganz anderes Level an Ausfallsicherheit und sparst dir am Ende auch noch einige Menge an Arbeitszeit, weil du dieses Konstrukt z.B. viel eleganter warten kannst.

Beste Grüsse aus BaWü
Alex
Mitglied: dertowa
dertowa 05.05.2022 um 10:15:25 Uhr
Goto Top
Hallo Alex,
vielen Dank für die Backgroundinfos von gestern.
Es ist eine vollständige Seite an Network-Setting-Doku in Schriftgröße 8 geworden, ich würde dennoch auf den dankend auf den Titel NGISCMNMBS (NGIS-Certified-Microsoft-Netzwerk-Murks-Beseitigungsspezialist) verzichten. face-big-smile

Zur Umsetzung habe ich eine volle Timeline, weiß nun aber eher wo ich dran bin.

Der Rest (LiveMigration, SAN, NAS) geht an diesem Thread vorbei und ist auch nicht ganz so "ohne" was die Struktur angeht.
Dafür braucht es deutlich mehr Background zur Firmenpolitik und zur Vernetzung als ich hier in irgendeiner Art und Weise verdeutlichen könnte.

Vielleicht bietet sich die Gelegenheit bei einem Essen oder ein paar Wasser mal um ein wenig zu lästern. face-big-smile
Faktisch es ist eben nicht alles Gold was glänzt und produktive Industriebetriebe sind einfach keine "grüne Wiese".

Ich setze den Thread auf "hold" und gebe Feedback wenn ich einen Eindruck zur Performance habe.

Besten Dank soweit.
Mitglied: MysticFoxDE
MysticFoxDE 06.05.2022 um 07:52:40 Uhr
Goto Top
Moin dertowa,
vielen Dank für die Backgroundinfos von gestern.

sehr gerne, ich muss mein Wissen nicht mit ins Grab nehmen.
Ich hoffe doch inständig, dass mich dort kein Microsoft Windows mehr erwartet, sondern eher was chilligeres.
Aber bis dahin kann ich hoffentlich noch ein paar Jahrzehnte hier verweilen und unter anderem MS für Ihren Murks weiterärgern bis die es begriffen haben, oder ich wie oben angesprochen habe, irgendwann auf das hoffentlich entspanntere Next-Live-OS wechsle. 🤪

Es ist eine vollständige Seite an Network-Setting-Doku in Schriftgröße 8 geworden, ich würde dennoch auf den dankend auf den Titel NGISCMNMBS (NGIS-Certified-Microsoft-Netzwerk-Murks-Beseitigungsspezialist) verzichten. face-big-smile

Der ist auch nicht wirklich für den Alltag gedacht, ist aber nützlich, wenn du den einen oder anderen MVP schnell zur Weißglut bringen möchtest. 😜

Der Rest (LiveMigration, SAN, NAS) geht an diesem Thread vorbei und ist auch nicht ganz so "ohne" was die Struktur angeht.
Dafür braucht es deutlich mehr Background zur Firmenpolitik und zur Vernetzung als ich hier in irgendeiner Art und Weise verdeutlichen könnte.

Vielleicht bietet sich die Gelegenheit bei einem Essen oder ein paar Wasser mal um ein wenig zu lästern. face-big-smile
Faktisch es ist eben nicht alles Gold was glänzt und produktive Industriebetriebe sind einfach keine "grüne Wiese".

Gerne, sag einfach bescheid wen du in der Nähe bist.

Beste Grüsse aus BaWü
Alex