👃🏽 💂🏼 ❓ लोकी - प्रोमेथियस दृष्टिकोण का उपयोग करके लॉग एकत्र करना 🍖 🏇🏼 🤔

सलाम, खब्रोवित्स! DevOps प्रथाओं और उपकरण पाठ्यक्रम के लिए एक नए सेट की शुरुआत की प्रत्याशा में , हमने आपके लिए दिलचस्प सामग्री का अनुवाद तैयार किया है।

यह लेख लोकी का संक्षिप्त परिचय है। लोकी परियोजना को ग्राफाना द्वारा समर्थित किया गया है और इसका उद्देश्य लॉग को सर्वरों या कंटेनरों से एकत्र करना है।

लोकी के लिए प्रेरणा का मुख्य स्रोत प्रोमेथियस था जिसके लॉग प्रबंधन दृष्टिकोणों को लागू करने के विचार से:

डेटा भंडारण के लिए लेबल (लेबल) का उपयोग
कम संसाधन की खपत

हम प्रोमेथियस के सिद्धांतों पर लौटेंगे और कुबेरनेट्स के संदर्भ में इसके उपयोग के कुछ उदाहरण देंगे।

प्रोमेथियस के बारे में कुछ शब्द

लोकी कैसे काम करता है, इसे पूरी तरह से समझने के लिए, एक कदम वापस लेना और प्रोमेथियस को थोड़ा याद रखना महत्वपूर्ण है।

प्रोमेथियस की विशिष्ट विशेषताओं में से एक संग्रह बिंदुओं (निर्यातकों के माध्यम से) से मैट्रिक्स की निकासी है और उन्हें लेबल के रूप में मेटाडेटा के अतिरिक्त के साथ TSDB (टाइम सीरीज डेटा बेस, टाइम सीरीज़ डेटाबेस) में संग्रहीत करना है।

क्यों जरूरी है?

हाल ही में, प्रोमेथियस कंटेनर और कुबेरनेट्स की दुनिया में वास्तव में मानक बन गया है: इसकी स्थापना बहुत सरल है, और कुबेरनेट्स क्लस्टर में शुरू में प्रोमेथियस के लिए एक समापन बिंदु है। प्रोमेथियस कुछ टैग्स को बरकरार रखते हुए, एक कंटेनर में तैनात अनुप्रयोगों से मैट्रिक्स भी प्राप्त कर सकता है। इसलिए, अनुप्रयोगों को लागू करना निगरानी करना बहुत आसान है।

दुर्भाग्य से, लॉग को प्रबंधित करने के लिए अभी भी कोई टर्नकी समाधान नहीं है, और आपको अपने लिए एक समाधान खोजना होगा:

लॉग्स को केंद्रीकृत करने के लिए प्रबंधित क्लाउड सेवा (AWS, Azure या Google)
सेवा की निगरानी सेवा के रूप में निगरानी (उदाहरण के लिए, डेटाडॉग)
अपनी खुद की लॉग संग्रह सेवा बनाना।

तीसरे विकल्प के लिए, मैंने इस तथ्य के बावजूद कि मैं हमेशा इससे खुश नहीं था (विशेषकर इसकी गंभीरता और सेटिंग्स की जटिलता) के बावजूद, एलिटिक्स खोज का पारंपरिक रूप से उपयोग किया।

लोकी को निम्नलिखित सिद्धांतों के अनुसार कार्यान्वयन को सरल बनाने के लिए डिज़ाइन किया गया था:

आरंभ करना आसान है
कुछ संसाधनों का उपभोग करें
बिना किसी विशेष रखरखाव के स्वतंत्र रूप से काम करें
कीड़े की जांच में मदद करने के लिए प्रोमेथियस को पूरक करें

हालांकि, यह सरलता कुछ समझौतों के माध्यम से हासिल की जाती है। उनमें से एक सामग्री को अनुक्रमित करने के लिए नहीं है। इसलिए, पाठ खोज बहुत प्रभावी या समृद्ध नहीं है और पाठ की सामग्री पर आंकड़े की अनुमति नहीं देता है। लेकिन चूँकि लोकी जीआरपी के बराबर होना चाहता है और प्रोमेथियस का पूरक है, यह कोई दोष नहीं है।

घटना की जांच पड़ताल

यह समझने के लिए कि लोकी को इंडेक्सिंग की आवश्यकता क्यों नहीं है, आइए लोकनी डेवलपर्स द्वारा उपयोग की जाने वाली घटना जांच विधि पर वापस जाएं:

1 अलर्ट → 2 डैशबोर्ड → 3 एडहॉक क्वेरी → 4 लॉग एग्रीगेशन → 5 डिस्ट्रिब्यूटेड ट्रेसिंग → 6 फिक्स!
(1 चेतावनी → 2 डैशबोर्ड → 3 एडहॉक क्वेरी → 4 लॉग एग्रीगेशन → 5 डिस्ट्रिब्यूटेड ट्रेसिंग → सही करना!)

विचार यह है कि हमें कुछ चेतावनी मिलती है (स्लैक नोटिफिकेशन, एसएमएस इत्यादि) और उसके बाद:

Grafana
(, Prometheus)
(, Elasticsearch)
, (Jaeger, Zipkin .)
, , .

यहां, ग्रेफाना + प्रोमेथियस + इलास्टिसर्च + जिपकिन स्टैक के मामले में, आपको चार अलग-अलग टूल का उपयोग करना होगा। समय कम करने के लिए, इन सभी चरणों को एक उपकरण के साथ निष्पादित करने में सक्षम होना अच्छा होगा: ग्राफाना। यह ध्यान देने योग्य है कि अनुसंधान के इस दृष्टिकोण को 6. संस्करण के बाद से ग्राफाना में लागू किया गया है। इस प्रकार, सीधे तौर पर प्रोमेथियस के डेटा को ग्राफाना से एक्सेस करना संभव हो जाता है।

प्रोमेथियस और लोकी के बीच एक्सप्लोरर स्क्रीन विभाजन

इस स्क्रीन पर, आप प्रोमीथियस मैट्रिक्स से संबंधित लोकी लॉग को विभाजित स्क्रीन अवधारणा का उपयोग करके देख सकते हैं। संस्करण 6.5 से शुरू होकर, ग्राफाना आपको अपने पसंदीदा वितरित ट्रैकिंग टूल (जेगर) के लिंक का पालन करने के लिए लोकी लॉग प्रविष्टियों में ट्रेस पहचानकर्ता को संसाधित करने की अनुमति देता है।

लोकी लोकल टेस्ट

लोकी का स्थानीय स्तर पर परीक्षण करने का सबसे आसान तरीका डॉकटर-कम्पोज़ का उपयोग करना है। डॉकटर-कम्पोज़ फ़ाइल लोकी भंडार में है। आप निम्न आदेश का उपयोग करके भंडार प्राप्त कर सकते हैं git:

$ git clone https://github.com/grafana/loki.git

फिर आपको उत्पादन निर्देशिका में जाने की आवश्यकता है:

$ cd production

उसके बाद, आप डॉकर चित्रों का नवीनतम संस्करण प्राप्त कर सकते हैं:

$ docker-compose pull

अंत में, लोकी स्टैक निम्न कमांड के साथ लॉन्च किया गया है:

$ docker-compose up

लोकी वास्तुकला

यहां लोकी आर्किटेक्चर के साथ एक छोटा आरेख है: लोकी आर्किटेक्चर के

सिद्धांत

वेब क्लाइंट सर्वर पर एप्लिकेशन लॉन्च करता है, प्रोमलेट लॉग इकट्ठा करता है और उन्हें लोकी भेजता है, वेब क्लाइंट भी मेटाडेटा को लोकी भेजता है। लोकी सब कुछ एकत्र करता है और इसे ग्राफाना में स्थानांतरित करता है।
लोकी उठ रही है और चल रही है। उपलब्ध घटकों को देखने के लिए, निम्न कमांड चलाएँ:

$ docker ps

एक नए सिरे से स्थापित डॉकर के मामले में, कमांड को निम्नलिखित परिणाम वापस करना चाहिए:

IMAGE               PORTS                  NAMES
grafana/promtail:                          production_promtail_1
grafana/grafana: m  0.0.0.0:3000->3000/tcp production_grafana_1
grafana/loki: late  80/tcp,0.0.0.0:3100... production_loki_1

हम निम्नलिखित घटक देखते हैं:

प्रोमेलेट: लॉग को केंद्रीकृत करने के लिए एजेंट
ग्राफाना: एक प्रसिद्ध डैशबोर्ड टूल
लोकी: एक डेटा केंद्रीकरण डेमॉन

एक शास्त्रीय बुनियादी ढांचे के ढांचे के भीतर (उदाहरण के लिए, आभासी मशीनों पर आधारित), प्रत्येक मशीन पर एक प्रॉमेट एजेंट को तैनात किया जाना चाहिए। ग्राफाना और लोकी को एक ही मशीन पर स्थापित किया जा सकता है।

Kubernetes परिनियोजन

कुबेरनेट पर लोकी घटक स्थापित करना निम्नानुसार होगा:

daemonSet सर्वर क्लस्टर में प्रत्येक मशीन पर Promatel एजेंट की तैनाती के लिए
तैनाती लोकी
और अंत में, ग्रेफाना की तैनाती।

सौभाग्य से, लोकी एक हेल्म पैकेज के रूप में उपलब्ध है, जिससे इसे तैनात करना आसान हो जाता है।

हेल्म के माध्यम से स्थापना

हेल्म पहले से ही स्थापित किया जाना चाहिए। इसे प्रोजेक्ट के GitHub रिपॉजिटरी से डाउनलोड किया जा सकता है। यह उस आर्काइव को खोलकर स्थापित किया गया है जो आपकी वास्तुकला से मेल खाता है और इसमें पतवार जोड़ रहा है $PATH।

नोट: हाल ही में 3.0.0 संस्करण जारी किया गया था। चूंकि इसमें बहुत सारे बदलाव थे, इसलिए पाठक को सलाह दी जाती है कि पहले इसका इस्तेमाल करने से पहले थोड़ा इंतजार करें ।

हेल्म के लिए एक स्रोत जोड़ना

पहला कदम निम्नलिखित कमांड के साथ "लॉकी" भंडार को जोड़ना है:

$ helm add loki https://grafana.imtqy.com/loki/charts

उसके बाद, आप "लोकी" नामक संकुल खोज सकते हैं:

$ helm search loki

परिणाम:

loki/loki       0.17.2 v0.4.0 Loki: like Prometheus, but for logs.
loki/loki-stack 0.19.1 v0.4.0 Loki: like Prometheus, but for logs.
loki/fluent-bit 0.0.2  v0.0.1 Uses fluent-bit Loki go plugin for...
loki/promtail   0.13.1 v0.4.0 Responsible for gathering logs and...

इन पैकेजों में निम्नलिखित विशेषताएं हैं:

लोकी / लोकी पैकेज केवल लोकी सर्वर से मेल खाता है
loki / fluent-bit पैकेज आपको प्रोमटेल के बजाय लॉग को इकट्ठा करने के लिए धाराप्रवाह-बिन का उपयोग करके डेमोंसेट को तैनात करने की अनुमति देता है
पैकेज लोकी / प्रोमोलेट में कलेक्शन एजेंट लॉग फाइल होती है
लोकी / लोकी-स्टैक पैकेज आपको तुरंत प्रोमी के साथ लोकी को तैनात करने की अनुमति देता है।

लोकी स्थापना

लोकी को कुबेरनेट्स में तैनात करने के लिए, "निगरानी" नामस्थान में निम्न कमांड चलाएँ:

$ helm upgrade --install loki loki/loki-stack --namespace monitoring

डिस्क पर सहेजने के लिए, विकल्प जोड़ें --set loki.persistence.enabled = true:

$ helm upgrade --install loki loki/loki-stack \
              --namespace monitoring \
              --set loki.persistence.enabled=true

नोट: यदि आप एक ही समय में ग्राफाना को तैनात करना चाहते हैं, तो पैरामीटर जोड़ें--set grafana.enabled = true

जब आप यह आदेश चलाते हैं, तो आपको निम्न आउटपुट प्राप्त करने चाहिए:

LAST DEPLOYED: Tue Nov 19 15:56:54 2019
NAMESPACE: monitoring
STATUS: DEPLOYED
RESOURCES:
==> v1/ClusterRole
NAME AGE
loki-promtail-clusterrole 189d
…
NOTES:
The Loki stack has been deployed to your cluster. Loki can now be added as a datasource in Grafana.
See <a href="http://docs.grafana.org/features/datasources/loki/">http://docs.grafana.org/features/datasources/loki/</a> for more details.

"निगरानी" नामस्थान में चूल्हों की स्थिति को देखते हुए, हम देखेंगे कि सब कुछ विस्तारित है:

$ kubectl -n monitoring get pods -l release=loki

परिणाम:

NAME                 READY  STATUS   RESTARTS  AGE
loki-0               1/1    Running  0         147m
loki-promtail-9zjvc  1/1    Running  0         3h25m
loki-promtail-f6brf  1/1    Running  0         11h
loki-promtail-hdcj7  1/1    Running  0         3h23m
loki-promtail-jbqhc  1/1    Running  0         11h
loki-promtail-mj642  1/1    Running  0         62m
loki-promtail-nm64g  1/1    Running  0         24m

सभी फली चल रही है। अब कुछ परीक्षण करने का समय है!

ग्राफाना से कनेक्ट करें

कुबरनेट्स के तहत ग्राफाना से जुड़ने के लिए, आपको इसके नीचे एक सुरंग खोलने की आवश्यकता है। Grafana चूल्हा के लिए पोर्ट 3000 खोलने के लिए निम्नलिखित आदेश है:

$ kubectl -n port-forward monitoring svc/loki-grafana 3000:80

एक अन्य महत्वपूर्ण बिंदु ग्राफ्टाना व्यवस्थापक पासवर्ड को पुनर्प्राप्त करने की आवश्यकता है। आधार loki-grafanaक्षेत्र .data.admin-userप्रारूप में पासवर्ड को गुप्त रखा जाता है ।

इसे पुनर्स्थापित करने के लिए, आपको निम्न कमांड चलाना होगा:

$ kubectl -n monitoring get secret loki-grafana \
 --template '{{index .data "admin-password" | base64decode}}'; echo

इस पासवर्ड का उपयोग डिफ़ॉल्ट व्यवस्थापक खाते (व्यवस्थापक) के साथ करें।

ग्राफाना में एक लोकी डेटा स्रोत को परिभाषित करना

सबसे पहले, सुनिश्चित करें कि लोकी डेटा स्रोत (कॉन्फ़िगरेशन / डेटासोर्स) बनाया गया है।
यहाँ एक उदाहरण है:

लोकी के लिए एक डेटा स्रोत स्थापित करने का उदाहरण

"टेस्ट" पर क्लिक करके आप लोकी के साथ कनेक्शन की जांच कर सकते हैं।

लोकी से अनुरोध कर रहे हैं

अब ग्रेफाना के "एक्सप्लोर" सेक्शन में जाएं। कंटेनरों से लॉग प्राप्त करते समय, लोकी कुबेरनेट्स से मेटाडेटा जोड़ता है। इस प्रकार, एक विशिष्ट कंटेनर के लॉग को देखना संभव हो जाता है।

: उदाहरण के लिए, कंटेनर लॉग्स का चयन करने के लिए निम्न क्वेरी प्रोमलेट का उपयोग किया जाना चाहिए {container_name = "promtail"}।
इसके अलावा, यहां अपने लोकी डेटा स्रोत का चयन करना सुनिश्चित करें।

यह अनुरोध कंटेनरों की गतिविधि को निम्नानुसार

लौटाएगा: ग्राफाना में अनुरोध का परिणाम

डैशबोर्ड में जोड़ना

Grafana 6.4 से शुरू होकर, आप सीधे डैशबोर्ड पर लॉग के बारे में जानकारी डाल सकते हैं। उसके बाद, उपयोगकर्ता अपनी साइट पर आवेदन की संख्या के लिए अनुरोधों की संख्या के बीच जल्दी से स्विच करने में सक्षम होगा।

निम्नलिखित डैशबोर्ड का एक उदाहरण है जो इस इंटरैक्शन को लागू करता है: प्रोमेथियस मेट्रिक्स और लोक लॉग के साथ डैशबोर्ड का एक

उदाहरण

भावी लोकी

मैंने संस्करण 0.1 के साथ मई / जून में लोकी का उपयोग करना शुरू कर दिया। आज संस्करण 1 पहले से ही जारी है, और यहां तक कि 1.1 और 1.2 भी।

बेशक, संस्करण 0.1 पर्याप्त रूप से स्थिर नहीं था। लेकिन 0.3 में पहले से ही परिपक्वता के वास्तविक संकेत दिखाई दिए, और अगले संस्करणों (0.4, फिर 1.0) ने केवल इस धारणा को मजबूत किया।

1.0.0 के बाद, इस अद्भुत उपकरण का उपयोग न करने के लिए किसी के पास कोई बहाना नहीं हो सकता है।

आगे के सुधारों को लोकी की चिंता नहीं करनी चाहिए, बल्कि उत्कृष्ट ग्रेफाना के साथ इसके एकीकरण की भी। वास्तव में, ग्राफाना 6.4 में पहले से ही डैशबोर्ड के साथ अच्छा एकीकरण है।

Grafana 6.5, जिसे हाल ही में जारी किया गया था, JSON प्रारूप में लॉग की सामग्री को स्वचालित रूप से पहचानकर इस एकीकरण को और बेहतर बनाता है।

निम्न वीडियो इस तंत्र का एक छोटा उदाहरण दिखाता है:

Grafana में प्रदर्शित लोकी स्ट्रिंग्स का उपयोग करना

JSON फ़ील्ड्स में से किसी एक का उपयोग करना संभव हो जाता है, उदाहरण के लिए, इसके लिए:

बाहरी उपकरण लिंक
फ़िल्टरिंग सामग्री

उदाहरण के लिए, आप Zipkin या Jaeger पर जाने के लिए ट्रेसआईड पर क्लिक कर सकते हैं।

परंपरागत रूप से, हम आपकी टिप्पणियों की प्रतीक्षा कर रहे हैं और हम आपको एक खुले वेबिनार में आमंत्रित करते हैं , जहां हम इस बारे में बात करेंगे कि 2019 के दौरान देवओप्स उद्योग कैसे विकसित हुआ और 2020 के लिए संभावित विकास मार्गों पर चर्चा की गई।

लोकी - प्रोमेथियस दृष्टिकोण का उपयोग करके लॉग एकत्र करना