Kubernet memuat load balancing dan menskalakan koneksi yang berumur panjang

Sedikit tentang bagaimana lalu lintas didistribusikan kembali di Kubernetes 

1. Dalam diagram di bawah ini, Anda melihat tiga contoh aplikasi yang sama dan penyeimbang beban:
   
   
   
2. Penyeimbang beban disebut Layanan, itu diberikan alamat IP. Setiap permintaan masuk dialihkan ke salah satu pod:
   
   
   
3. Skrip penerapan menentukan jumlah instance aplikasi. Anda hampir tidak perlu menggunakan langsung di bawah:
   
   
   
4. Setiap pod diberi alamat IP sendiri:
   
   
   

1. Ada permintaan curl 10.96.45.152 ke layanan:
   
   
   
2. Layanan memilih salah satu dari tiga alamat pod sebagai tujuan:
   
   
   
3. Lalu lintas dialihkan ke pod tertentu:
   
   
   

1. Di bawah 1 meminta komponen internal backend. Alih-alih memilih yang spesifik untuk backend, ia melakukan permintaan layanan:
   
   
   
2. Layanan memilih salah satu pod backend sebagai alamat tujuan:
   
   
   
3. Lalu lintas beralih dari perapian 1 ke perapian 5 yang dipilih oleh layanan:
   
   
   
4. Di bawah 1, ia tidak tahu persis berapa banyak perapian seperti di bawah 5 yang tersembunyi di balik layanan:
   
   
   

Menyeimbangkan dalam Layanan Kubernetes

1. Pertimbangkan sekelompok tiga simpul. Ada pod pada setiap node:
   
   
   
2. Perapian rajutan yang dicat krem ​​adalah bagian dari layanan ini. Karena layanan tidak ada sebagai suatu proses, maka layanan ini berwarna abu-abu:
   
   
   
3. Yang pertama meminta layanan dan harus jatuh pada salah satu perapian terkait:
   
   
   
4. Tetapi layanan tidak ada, tidak ada proses. Bagaimana cara kerjanya?
   
   
   
5. Sebelum permintaan meninggalkan node, ia melewati aturan iptables:
   
   
   
6. Aturan iptables tahu bahwa tidak ada layanan, dan ganti alamat IP-nya dengan salah satu alamat IP dari pod yang terkait dengan layanan ini:
   
   
   
7. Permintaan menerima alamat IP yang valid sebagai alamat tujuan dan biasanya diproses:
   
   
   
8. Bergantung pada topologi jaringan, permintaan akhirnya mencapai perapian:
   
   
   

Apakah iptables dapat menyeimbangkan beban?

1. Pilih yang pertama dengan probabilitas 33%, jika tidak pergi ke aturan berikutnya.
2. Pilih yang kedua dengan probabilitas 50%, jika tidak pergi ke aturan berikutnya.
3. Pilih yang ketiga di bawah.

Koneksi berumur panjang di Kubernetes tidak menskala secara default

• Tetap hidup di Node.js
• Tetap hidup di boot musim semi
• Tetap hidup dengan python
• Tetap hidup di .NET

1. Sub pertama mengirimkan permintaan ke layanan:
   
   
   
2. Anda sudah tahu apa yang akan terjadi selanjutnya. Layanan tidak ada, tetapi ada aturan iptables yang akan menangani permintaan:
   
   
   
3. Salah satu pod backend akan dipilih sebagai alamat tujuan:
   
   
   
4. Permintaan mencapai perapian. Pada titik ini, koneksi TCP permanen antara dua pod akan dibuat:
   
   
   
5. Setiap permintaan berikutnya dari pod pertama akan melalui koneksi yang sudah ada:
   
   
   

1. Dapatkan daftar titik akhir dari layanan.
2. Untuk setiap titik akhir, buka koneksi persisten.
3. Saat Anda perlu membuat permintaan, gunakan salah satu koneksi terbuka.
4. Secara teratur perbarui daftar titik akhir, buat yang baru, atau tutup koneksi yang lama jika daftar berubah.

1. Alih-alih mengirim permintaan pertama ke layanan, Anda dapat menyeimbangkan permintaan di sisi klien:
   
   
   
2. Anda perlu menulis kode yang menanyakan pod mana yang merupakan bagian dari layanan:
   
   
   
3. Segera setelah Anda menerima daftar, simpan di sisi klien dan gunakan untuk terhubung ke pod:
   
   
   
4. Anda sendiri yang bertanggung jawab atas algoritma load balancing:
   
   
   

Penyeimbangan beban sisi klien

var mysql = require('mysql');
var poolCluster = mysql.createPoolCluster();

var endpoints = /* retrieve endpoints from the Service */

for (var [index, endpoint] of endpoints) {
  poolCluster.add(`mysql-replica-${index}`, endpoint);
}

// Make queries to the clustered MySQL database

• WebSockets dan WebSockets yang diamankan
• HTTP / 2
• gRPC
• RSockets
• AMQP

Menyeimbangkan koneksi berumur panjang di Kubernetes

1. Clusterip
2. NodePort
3. Loadbalancer
4. Tanpa kepala

1. Lapisan manajemen memberinya alamat IP.
2. Kube-proxy membentuk aturan iptables yang diperlukan.

Service Mesh akan membantu Anda

1. Mendapat daftar alamat IP dari layanan.
2. Membuka dan memelihara kumpulan koneksi.
3. Memperbarui kumpulan secara berkala, menambah atau menghapus titik akhir.

1. Memilih koneksi yang tersedia menggunakan semacam logika (mis. Round-robin).
2. Memenuhi permintaan.

1. Secara otomatis mencari alamat IP layanan.
2. Memeriksa koneksi seperti WebSockets dan gRPC.
3. Saldo permintaan menggunakan protokol yang benar.

Apa yang terjadi jika Anda mengabaikan masalah keseimbangan?

Kesimpulan

1. Tiga tingkat autoscaling di Kubernetes dan cara menggunakannya secara efektif . 
2. Kubernet dalam semangat pembajakan dengan templat implementasi .
3. Kubernetes .