Kubernetes Load Balancing und Skalierung langlebiger Verbindungen

Ein bisschen darüber, wie der Verkehr in Kubernetes umverteilt wird 

1. In der folgenden Abbildung sehen Sie drei Instanzen derselben Anwendung und einen Load Balancer:
   
   
   
2. Der Load Balancer heißt Service, ihm wird eine IP-Adresse zugewiesen. Jede eingehende Anfrage wird an einen der Pods umgeleitet:
   
   
   
3. Das Bereitstellungsskript bestimmt die Anzahl der Anwendungsinstanzen. Sie müssen fast nie direkt unter bereitstellen:
   
   
   
4. Jedem Pod wird eine eigene IP-Adresse zugewiesen:
   
   
   

1. Es gibt eine Curl-Anfrage 10.96.45.152 an den Service:
   
   
   
2. Der Dienst wählt eine der drei Pod-Adressen als Ziel aus:
   
   
   
3. Der Datenverkehr wird zu einem bestimmten Pod umgeleitet:
   
   
   

1. Unter 1 fordert die interne Backend-Komponente an. Anstatt eine bestimmte für das Backend auszuwählen, wird eine Serviceanforderung ausgeführt:
   
   
   
2. Der Dienst wählt einen der Backend-Pods als Zieladresse aus:
   
   
   
3. Der Verkehr geht von Herd 1 zu Herd 5, der vom Dienst ausgewählt wurde:
   
   
   
4. Unter 1 weiß es nicht genau, wie viele solcher Herde wie unter 5 hinter dem Dienst versteckt sind:
   
   
   

Balancing in Kubernetes Services

1. Stellen Sie sich einen Cluster aus drei Knoten vor. Auf jedem Knoten befinden sich Pods:
   
   
   
2. Strickherde in Beige sind Teil des Service. Da der Dienst nicht als Prozess vorhanden ist, ist er ausgegraut:
   
   
   
3. Der erste fragt nach dem Service und sollte auf einen der zugehörigen Herde fallen:
   
   
   
4. Aber der Dienst existiert nicht, es gibt keinen Prozess. Wie funktioniert es?
   
   
   
5. Bevor die Anforderung den Knoten verlässt, durchläuft sie die iptables-Regeln:
   
   
   
6. Die iptables-Regeln wissen, dass kein Dienst vorhanden ist, und ersetzen die IP-Adresse durch eine der IP-Adressen der diesem Dienst zugeordneten Pods:
   
   
   
7. Die Anfrage erhält eine gültige IP-Adresse als Zieladresse und wird normalerweise verarbeitet:
   
   
   
8. Abhängig von der Netzwerktopologie erreicht die Anforderung schließlich den Herd:
   
   
   

Können iptables die Last ausgleichen?

1. Wählen Sie die erste mit einer Wahrscheinlichkeit von 33%, andernfalls fahren Sie mit der nächsten Regel fort.
2. Wählen Sie die zweite mit einer Wahrscheinlichkeit von 50%, andernfalls fahren Sie mit der nächsten Regel fort.
3. Wählen Sie die dritte unter.

Langlebige Verbindungen in Kubernetes werden standardmäßig nicht skaliert

• In Node.js am Leben bleiben
• Im Frühlingsstiefel am Leben bleiben
• In Python am Leben bleiben
• In .NET am Leben bleiben

1. Das erste Sub sendet eine Anfrage an den Dienst:
   
   
   
2. Sie wissen bereits, was als nächstes passieren wird. Der Dienst existiert nicht, aber es gibt iptables-Regeln, die die Anforderung verarbeiten:
   
   
   
3. Einer der Backend-Pods wird als Zieladresse ausgewählt:
   
   
   
4. Die Anfrage erreicht den Herd. Zu diesem Zeitpunkt wird eine permanente TCP-Verbindung zwischen den beiden Pods hergestellt:
   
   
   
5. Jede nächste Anfrage vom ersten Pod geht über eine bereits hergestellte Verbindung:
   
   
   

1. Rufen Sie die Liste der Endpunkte vom Dienst ab.
2. Öffnen Sie für jeden Endpunkt eine dauerhafte Verbindung.
3. Wenn Sie eine Anfrage stellen müssen, verwenden Sie eine der offenen Verbindungen.
4. Aktualisieren Sie regelmäßig die Liste der Endpunkte, erstellen Sie neue oder schließen Sie alte dauerhafte Verbindungen, wenn sich die Liste ändert.

1. Anstatt die erste Anforderung an den Dienst zu senden, können Sie Anforderungen auf der Clientseite ausgleichen:
   
   
   
2. Sie müssen Code schreiben, der fragt, welche Pods Teil des Dienstes sind:
   
   
   
3. Sobald Sie die Liste erhalten haben, speichern Sie sie auf der Clientseite und stellen Sie damit eine Verbindung zu den Pods her:
   
   
   
4. Sie selbst sind für den Lastausgleichsalgorithmus verantwortlich:
   
   
   

Clientseitiger Lastausgleich

var mysql = require('mysql');
var poolCluster = mysql.createPoolCluster();

var endpoints = /* retrieve endpoints from the Service */

for (var [index, endpoint] of endpoints) {
  poolCluster.add(`mysql-replica-${index}`, endpoint);
}

// Make queries to the clustered MySQL database

• WebSockets und gesicherte WebSockets
• HTTP / 2
• gRPC
• RSockets
• AMQP

Ausgleich langlebiger Verbindungen in Kubernetes

1. Clusterip
2. NodePort
3. Lastenausgleicher
4. Kopflos

1. Die Verwaltungsschicht weist ihr eine IP-Adresse zu.
2. Kube-Proxy bildet die notwendigen iptables-Regeln.

Service Mesh wird Ihnen helfen

1. Ruft eine Liste der IP-Adressen vom Dienst ab.
2. Öffnet und verwaltet einen Verbindungspool.
3. Aktualisiert den Pool regelmäßig und fügt Endpunkte hinzu oder entfernt sie.

1. Wählt eine verfügbare Verbindung unter Verwendung einer Logik aus (z. B. Round-Robin).
2. Erfüllt die Anfrage.

1. Sucht automatisch nach IP-Adressen von Diensten.
2. Überprüft Verbindungen wie WebSockets und gRPC.
3. Gleicht Anforderungen mit dem richtigen Protokoll aus.

Was passiert, wenn Sie Ausgleichsprobleme ignorieren?

Fazit

1. Drei Ebenen der automatischen Skalierung in Kubernetes und deren effektive Verwendung . 
2. Kubernetes im Geiste der Piraterie mit einer Implementierungsvorlage .
3. Kubernetes .