🛠️ 👴🏽 🤹🏼 Cloudflare दसवीं पीढ़ी के एज सर्वर के लिए AMD प्रोसेसर का चयन करता है 🧑🏽‍🤝‍🧑🏽 🏙️ 🤭

एक अरब से अधिक अद्वितीय आईपी पते रोजाना क्लाउडफेयर नेटवर्क से गुजरते हैं; यह प्रति सेकंड 11 मिलियन से अधिक HTTP अनुरोधों पर कार्य करता है; यह इंटरनेट आबादी के 95% से 100 एमएस से अधिक की दूरी पर स्थित है। हमारा नेटवर्क 90 से अधिक देशों में 200 शहरों तक फैला है, और हमारी इंजीनियरिंग टीम ने एक बहुत तेज़ और विश्वसनीय बुनियादी ढाँचा बनाया है।

हमें अपने काम पर बहुत गर्व है और इंटरनेट को बेहतर और सुरक्षित बनाने में मदद करने के लिए प्रतिबद्ध हैं। क्लाउडफ़ेयर इंजीनियर, जिनका काम हार्डवेयर से संबंधित है, इसकी दक्षता को अधिकतम करने के लिए सर्वोत्तम उपकरणों को समझने और चुनने के लिए सर्वर और उनके घटकों में पारंगत हैं।

हमारा सॉफ्टवेयर स्टैक अत्यधिक भरी हुई कंप्यूटिंग को संभालता है और यह सीपीयू की गति पर बहुत निर्भर है, यही वजह है कि हमारे इंजीनियरों को स्टैक के सभी स्तरों पर क्लाउडफेयर की दक्षता और विश्वसनीयता का लगातार अनुकूलन करना पड़ता है। सर्वर की ओर से, सीपीयू कोर को जोड़कर कंप्यूटिंग शक्ति बढ़ाने का सबसे आसान तरीका है। अधिक कोर आप एक सर्वर में फिट कर सकते हैं, और यह डेटा को संसाधित कर सकता है। यह हमारे लिए महत्वपूर्ण है, क्योंकि समय के साथ हमारे उत्पादों और ग्राहकों की विविधता बढ़ती है, और अनुरोधों की वृद्धि के लिए उत्पादकता बढ़ाने के लिए सर्वर की आवश्यकता होती है। उनकी उत्पादकता बढ़ाने के लिए, हमें नाभिक के घनत्व को बढ़ाने की आवश्यकता है - और यह ठीक वही है जो हमने पूरा किया है। नीचे हम उन सर्वरों के लिए प्रोसेसर डेटा का विवरण प्रदान करते हैं जिन्हें हम 2015 से तैनात कर रहे हैं, जिसमें कोर की संख्या भी शामिल है:

---	जनरल ६	जनरल 7	जनरल 8	जनरल 9
काम की शुरुआत	2015	2016	2017	2018
सी पी यू	इंटेल Xeon E5-2630 v3	इंटेल Xeon E5-2630 v4	इंटेल एक्सॉन सिल्वर 4116	इंटेल Xeon प्लेटिनम 6162
भौतिक कोर	२ x 8	2 एक्स 10	2 x 12	2 x 24
तेदेपा	2 एक्स 85 डब्ल्यू	2 एक्स 85 डब्ल्यू	2 एक्स 85 डब्ल्यू	2 एक्स 150 डब्ल्यू
प्रति कोर टीडीपी	10.65W	8.50W	7.08W	6.25W

2018 में, हमने 9 वीं पीढ़ी के साथ प्रति सर्वर कोर की कुल संख्या में बड़ी छलांग लगाई। 8 वीं पीढ़ी की तुलना में पर्यावरणीय प्रभाव 33% कम हो गया, जिससे हमें प्रति रैक वॉल्यूम और कंप्यूटिंग शक्ति बढ़ाने का अवसर मिला। थर्मल डिजाइन पावर (टीडीपी) डिजाइन आवश्यकताओं का उल्लेख इस बात पर जोर देने के लिए किया जाता है कि हमारी ऊर्जा दक्षता समय के साथ बढ़ी है। यह सूचक हमारे लिए महत्वपूर्ण है: सबसे पहले, हम वातावरण में कम कार्बन उत्सर्जित करना चाहते हैं; दूसरी बात, हम डेटा केंद्रों की ऊर्जा का सर्वोत्तम उपयोग करना चाहते हैं। लेकिन हम जानते हैं कि हमें किस चीज के लिए प्रयास करना है।

हमारा मुख्य परिभाषित मीट्रिक प्रति वाट अनुरोधों की संख्या है। हम कोर जोड़कर प्रति सेकंड अनुरोधों की संख्या बढ़ा सकते हैं, लेकिन हमें अपने ऊर्जा बजट के भीतर रहने की आवश्यकता है। हम डेटा केंद्रों की शक्ति के बुनियादी ढांचे द्वारा सीमित हैं, जो हमारे चयनित ऊर्जा वितरण मॉड्यूल के साथ मिलकर हमें प्रत्येक सर्वर रैक के लिए एक निश्चित ऊपरी सीमा प्रदान करता है। सर्वर को एक रैक में जोड़ने से बिजली की खपत बढ़ जाती है। यदि हम किसी रैक की ऊर्जा सीमा से परे जाते हैं तो परिचालन लागत नाटकीय रूप से बढ़ जाएगी और हमें नए रैक जोड़ने होंगे। हमें कंप्यूटिंग शक्ति बढ़ाने की आवश्यकता है, उसी ऊर्जा रेंज में शेष, जो प्रति वाट अनुरोधों की संख्या में वृद्धि करेगा - हमारी प्रमुख मीट्रिक।

जैसा कि आपने अनुमान लगाया होगा, हमने डिजाइन चरण में ऊर्जा खपत का सावधानीपूर्वक अध्ययन किया है। ऊपर दी गई तालिका से पता चलता है कि हमें अधिक ऊर्जा-भूखे सीपीयू को तैनात करने में समय बर्बाद नहीं करना चाहिए, यदि प्रति कोर टीडीपी वर्तमान पीढ़ी से अधिक है - यह हमारे मीट्रिक पर प्रति वाट अनुरोध की संख्या को नकारात्मक रूप से प्रभावित करेगा। हमने बाजार पर हमारी जेनरेशन एक्स के लिए तैयार-टू-ऑपरेट सिस्टम की सावधानीपूर्वक जांच की और निर्णय लिया। हम अपने सर्किट से 48 इंटेल Xeon प्लेटिनम 6162 कोर और दो सॉकेट से एक सॉकेट के साथ 48-कोर एएमडी ईपीवाईसी 7642 पर आगे बढ़ रहे हैं।

---	इंटेल	एएमडी
सी पी यू	Xeon प्लेटिनम 6162	ईपीवाईसी 7642
माइक्रोआर्किटेक्चर	"Skylake"	"ज़ेन 2"
संकेत नाम	"स्काइलेक एसपी"	"रोम"
प्रक्रिया प्रौद्योगिकी	14nm	7nm
कोर	2 x 24	48
आवृत्ति	1.9 गीगा	2.4 GHz
L3 कैश / सॉकेट	24 x 1.375MiB	16 x 16MiB
मेमोरी / सॉकेट	6 चैनल, DDR4-2400 तक	8 चैनल, DDR4-3200 तक
तेदेपा	2 एक्स 150 डब्ल्यू	225W
PCIe / सॉकेट	48 लेन	128 लेन
एक है	x86-64	x86-64

विनिर्देशों से यह स्पष्ट है कि एएमडी से चिप हमें कोर की समान संख्या को छोड़ने की अनुमति देगा, टीडीपी को कम करेगा। 9 वीं पीढ़ी में, प्रति कोर टीडीपी 6.25 वाट था, और दसवीं पीढ़ी में यह 4.69 वाट होगा। 25% की कमी। आवृत्ति में वृद्धि के कारण, और, संभवतः, एकल सॉकेट के साथ एक सरल सर्किट, हम मान सकते हैं कि एएमडी चिप व्यापार में बेहतर साबित होगी। जबकि हम यह समझने के लिए विभिन्न परीक्षण और सिमुलेशन कर रहे हैं कि एएमडी कितना बेहतर प्रदर्शन करेगा।

इस बीच, हम ध्यान दें कि टीडीपी निर्माता के विनिर्देशों से एक सरलीकृत मीट्रिक है, जिसका उपयोग हमने सर्वर डिजाइन और सीपीयू चयन के शुरुआती चरणों में किया था। एक त्वरित Google खोज दर्शाती है कि AMD और Intel में TDP की परिभाषा के अलग-अलग दृष्टिकोण हैं, यही वजह है कि यह विनिर्देश विश्वसनीय नहीं है। सीपीयू की वास्तविक बिजली की खपत, और, अधिक महत्वपूर्ण बात, सर्वर की बिजली की खपत, वह है जो हम वास्तव में अंतिम निर्णय लेते समय उपयोग करते हैं।

पारिस्थितिकी तंत्र की तैयारी

अगले प्रोसेसर को चुनने की हमारी यात्रा की शुरुआत में, हमने विभिन्न निर्माताओं से सीपीयू के एक बड़े वर्गीकरण का अध्ययन किया जो हमारे सॉफ़्टवेयर स्टैक और सेवाओं (सी, लुआजिट और गो में लिखे गए) के लिए अच्छी तरह से अनुकूल थे। हमने पहले ही अपने ब्लॉग में एक लेख में गति को मापने के लिए उपकरणों के एक सेट का विस्तार से वर्णन किया है । इस मामले में, हमने उसी सेट का उपयोग किया - यह हमें उचित समय में सीपीयू की प्रभावशीलता का मूल्यांकन करने की अनुमति देता है, जिसके बाद हमारे इंजीनियर हमारे कार्यक्रमों को एक विशिष्ट प्रोसेसर के लिए अनुकूलित करना शुरू कर सकते हैं।

हमने विभिन्न प्रोसेसर को कोर, सॉकेट्स और फ़्रीक्वेंसी की विभिन्न संख्याओं के साथ परीक्षण किया। चूंकि यह लेख बताता है कि हम एएमडी ईपीवाईसी 7642 पर क्यों बसे हैं, इस ब्लॉग के सभी ग्राफिक्स इस बात पर ध्यान केंद्रित करते हैं कि एएमडी प्रोसेसर इंटेल एक्सॉन प्लेटिनम 6162 की तुलना में कैसे प्रदर्शन करते हैंहमारी 9 वीं पीढ़ी ।

परिणाम प्रत्येक प्रोसेसर संस्करण के साथ एक सर्वर के संचालन के माप के अनुरूप होते हैं - अर्थात, इंटेल से दो 24-कोर प्रोसेसर के साथ, या एएमडी से 48-कोर प्रोसेसर के साथ (दो के लिए इंटेल के साथ सर्वर और एक के साथ एएमपी ईपीवाईसी के लिए सर्वर)। BIOS में, हम काम करने वाले सर्वर के अनुरूप पैरामीटर सेट करते हैं। ये AMD के लिए 3.03 GHz और Intel के लिए 2.5 GHz हैं। बहुत सरल करते हुए, हम उम्मीद करते हैं कि समान संख्या में कोर के साथ AMD इंटेल की तुलना में 21% बेहतर परिणाम दिखाएगा।

क्रिप्टोग्राफी

यह एएमडी के लिए आशाजनक लग रहा है। यह सार्वजनिक कुंजी क्रिप्टोग्राफी पर 18% बेहतर काम करता है। एक सममित कुंजी के साथ, यह एईएस -128-जीसीएम एन्क्रिप्शन विकल्प के लिए खो देता है, लेकिन सामान्य तौर पर यह खुद को तुलनीय दिखाता है।

दबाव

किनारे के सर्वर पर, हम बैंडविड्थ को बचाने और सामग्री वितरण की गति बढ़ाने के लिए बहुत सारे डेटा को संपीड़ित करते हैं। हम zlib और brotli C पुस्तकालयों के माध्यम से डेटा पास करते हैं। सभी परीक्षण blog.cloudflare.com HTML फ़ाइल की स्मृति में हुए।

गज़िप का उपयोग करते समय एएमडी ने औसतन 29% जीता। ब्रेटली के मामले में, गुणवत्ता 7 के साथ परीक्षण पर परिणाम और भी बेहतर हैं, जिसका उपयोग हम गतिशील संपीड़न के लिए करते हैं। ब्रतली -9 परीक्षण पर एक तेज गिरावट आती है - हम इस तथ्य को ध्यान में रखते हैं कि ब्रेटली बहुत सारी मेमोरी खाती है और कैश को ओवरफ्लो करती है। हालांकि, एएमडी एक बड़े अंतर से जीतता है।

हमारी कई सेवाएं गो में लिखी गई हैं। निम्नलिखित ग्राफ़ में, हम स्ट्रिंग के पुस्तकालय का उपयोग करते हुए 32 केबी लाइनों पर RegExp के साथ क्रिप्टोग्राफी और संपीड़न दरों का पुन: परीक्षण करते हैं।

क्रिप्टोग्राफी पर जाएं

संपीड़न जाओ

जाओ rexxp

तार जाना

AMD ECDSA P256 साइन को छोड़कर गो के साथ सभी परीक्षणों में सबसे अच्छा परिणाम दिखाता है, जहां यह 38% पीछे है - जो अजीब है, यह देखते हुए कि यह सी में 24% बेहतर परिणाम दिखाता है। यह पता लगाने लायक है कि वहां क्या चल रहा है। लेकिन सामान्य तौर पर, एएमडी ज्यादा नहीं जीतता है, लेकिन फिर भी सबसे अच्छा परिणाम दिखाता है।

Luajit

हम अक्सर स्टैक में LuaJIT का उपयोग करते हैं। यह क्लाउडफ्लेयर के सभी हिस्सों को पकड़े हुए गोंद है। और हमें खुशी है कि एएमडी ने यहां जीत हासिल की।

सामान्य तौर पर, परीक्षण बताते हैं कि ईपीवाईसी 7642 दो एक्सोन प्लेटिनम 6162 से बेहतर प्रदर्शन करता है। एएमडी परीक्षण की एक जोड़ी पर हार जाता है - उदाहरण के लिए, एईएस -128-जीसीएम और गो ओपनएसएसएल ईसीडीएसए-पी 256 साइन इन करें: हालांकि, यह औसतन 25% से अन्य सभी पर जीतता है। ।

वर्कलोड सिमुलेशन

हमारे एक्सप्रेस परीक्षणों के बाद, हमने सर्वर को सिमुलेशन के एक और सेट के माध्यम से चलाया, जिसमें सॉफ्टवेयर लोड स्टैक पर सिंथेटिक लोड लागू होता है। यहां हम विभिन्न प्रकार के प्रश्नों के साथ स्क्रिप्ट के एक वर्कलोड का अनुकरण करते हैं जो वास्तविक कार्य में पाए जा सकते हैं। विभिन्न प्रकार के चरों से डेटा वॉल्यूम, HTTP या HTTPS प्रोटोकॉल, WAF, वर्कर्स स्रोत और अन्य के संदर्भ में भिन्नताएँ हैं। नीचे दो सीपीयू के थ्रूपुट की तुलना उन अनुरोधों के प्रकारों के लिए की गई है, जिन्हें हम सबसे अधिक बार पाते हैं।

आरेख पर परिणाम इंटेल प्रोसेसर के साथ 9 वीं पीढ़ी की मशीनों के बुनियादी संकेतकों द्वारा मापा जाता है, एक्स अक्ष के साथ 1.0 के मूल्य के लिए सामान्यीकृत। उदाहरण के लिए, HTTPS के माध्यम से 10 KiB के सरल अनुरोधों को लेते हुए, हम देख सकते हैं कि AMD प्रति सेकंड अनुरोधों की संख्या के मामले में इंटेल की तुलना में 1.5 गुना बेहतर है। औसत से, एएमडी ने इंटेल की तुलना में दिए गए परीक्षणों के लिए 34% बेहतर प्रदर्शन किया। यह देखते हुए कि एक एकल AMD EPYC 7642 के लिए TDP 225 W के बराबर है, और दो इंटेल प्रोसेसर - 300 W के लिए, यह पता चलता है कि "प्रति वाट अनुरोध" के संदर्भ में AMD इंटेल से 2 गुना बेहतर परिणाम दिखाता है!

इस बिंदु पर, हम स्पष्ट रूप से AMD EPYC 7642 के लिए हमारे भविष्य के CPU के रूप में जेनरेशन X के लिए एक एकल सॉकेट के विकल्प की ओर झुक रहे थे। हमें यह जानने में बहुत दिलचस्पी थी कि AMD EPYC सर्वर वास्तविक कार्य में कैसे व्यवहार करते हैं, और हमने तुरंत कुछ सर्वरों को कुछ सर्वरों में बदल दिया। डेटा केंद्रों से।

असली काम

बेशक, पहली बात यह थी कि सर्वर को वास्तविक परिस्थितियों में काम के लिए तैयार करना था। हमारे बेड़े की सभी मशीनें समान प्रक्रियाओं और सेवाओं के साथ काम करती हैं, जिससे यह प्रदर्शन की तुलना करने के लिए एक शानदार अवसर है। जैसा कि अधिकांश डेटा केंद्रों में होता है, हमारे पास कई पीढ़ियों के सर्वर तैनात होते हैं, और हम अपने सर्वरों को क्लस्टर में इकट्ठा करते हैं ताकि प्रत्येक वर्ग में लगभग समान पीढ़ी के सर्वर शामिल हों। कुछ मामलों में, इसके परिणामस्वरूप उपयोग घटता समूहों के बीच भिन्न हो सकता है। लेकिन हमारे साथ नहीं। हमारे इंजीनियरों ने सभी पीढ़ियों के लिए सीपीयू उपयोग को अनुकूलित किया है ताकि सीपीयू के किसी विशेष मशीन पर 8 कोर हों या 24, सीपीयू का उपयोग आमतौर पर बाकी से अलग नहीं है।

ग्राफ हमारी टिप्पणी को उपयोग की समानता पर दिखाता है - जनरल एक्स सर्वर में एएमडी सीपीयू के उपयोग और जनरल 9 सर्वर में इंटेल प्रोसेसर के उपयोग के बीच कोई महत्वपूर्ण अंतर नहीं है। इसका मतलब है कि परीक्षण और कोर सर्वर दोनों समान रूप से लोड किए गए हैं। ठीक। यह वही है जो हम अपने सर्वर के काम में हासिल करते हैं, और हमें एक ईमानदार तुलना के लिए इसकी आवश्यकता है। नीचे दो रेखांकन एक सीपीयू कोर और सर्वर स्तर पर सभी कोर द्वारा संसाधित अनुरोधों की संख्या दिखाते हैं।

करने के लिए प्रश्नों

सर्वर से सर्वर प्रश्नों

यह देखा जा सकता है कि औसत एएमडी 23% अधिक अनुरोधों को संसाधित करता है। बिल्कुल बुरा नही! हमने अक्सर अपने ब्लॉग पर Gen 9 के प्रदर्शन को बढ़ाने के तरीकों के बारे में लिखा था। और यहाँ हमारे पास कोर की संख्या समान है, लेकिन AMD कम ऊर्जा के साथ अधिक काम कर रहा है। कोर और टीडीपी की संख्या के विनिर्देशों के तुरंत बाद यह देखा जा सकता है कि एएमडी अधिक ऊर्जा दक्षता के साथ अधिक गति प्रदान करता है।

लेकिन, जैसा कि हमने पहले ही उल्लेख किया है, टीडीपी मानक विनिर्देश नहीं है, और यह सभी निर्माताओं के लिए समान नहीं है, तो आइए ऊर्जा के वास्तविक उपयोग को देखें। प्रति सेकंड अनुरोधों की संख्या के साथ सर्वर की ऊर्जा खपत को मापकर, हमें निम्नलिखित ग्राफ मिला है:

प्रति वाट प्रति सेकंड अनुरोधों की संख्या से, AMD प्रोसेसर पर Gen X सर्वर 28% अधिक कुशल है। एक और उम्मीद की जा सकती है, यह देखते हुए कि एएमडी का टीडीपी 25% कम है, हालांकि, यह याद रखना चाहिए कि टीडीपी एक अस्पष्ट विशेषता है। हमने देखा कि एएमडी की वास्तविक ऊर्जा खपत लगभग टीडीपी के साथ आधार के ऊपर एक आवृत्ति पर मेल खाती है; इंटेल के पास ऐसा नहीं है। यह एक और कारण है कि टीडीपी ऊर्जा की खपत का एक विश्वसनीय अनुमान नहीं है। हमारे जनरल 9 सर्वर में इंटेल सीपीयू को मल्टीकोड सिस्टम में एकीकृत किया गया है, जबकि एएमडी सीपीयू मानक 1 यू फॉर्म फैक्टर सर्वर में काम करते हैं। यह AMD के पक्ष में नहीं है, क्योंकि बहुराष्ट्रीय सर्वरों को प्रति नोड कम बिजली की खपत के साथ अधिक घनत्व प्रदान करना चाहिए, हालांकि AMD अभी भी प्रति नोड ऊर्जा खपत के मामले में इंटेल से बेहतर प्रदर्शन कर रहा है।

विनिर्देशों, परीक्षण सिमुलेशन और वास्तविक कार्य पर अधिकांश तुलनाओं में, 1P AMD EPYC 7642 का कॉन्फ़िगरेशन 2P Intel Xeon 6162 की तुलना में बहुत बेहतर साबित हुआ। कुछ स्थितियों में, AMD 36% बेहतर काम कर सकता है, और हमें विश्वास है कि हार्डवेयर और कार्यक्रमों का अनुकूलन करके, हम हम निरंतर आधार पर इस तरह के सुधार को प्राप्त कर सकते हैं।

यह पता चला है कि एएमडी जीता।

अतिरिक्त रेखांकन 24 घंटे के लिए NGINX ऑपरेशन में औसत देरी और p99 देरी दिखाते हैं। औसतन, एएमडी प्रक्रियाएं 25% तेजी से चलीं। पी 99 में, यह दिन के समय के आधार पर 20-50% तेजी से चलता है।

निष्कर्ष

क्लाउडफ़ेयर के हार्डवेयर और प्रदर्शन इंजीनियर हमारे ग्राहकों के लिए सर्वश्रेष्ठ सर्वर कॉन्फ़िगरेशन का चयन करने के लिए महत्वपूर्ण परीक्षण और शोध करते हैं। हम यहां काम करना पसंद करते हैं क्योंकि हम ऐसे भव्य कार्यों को हल कर सकते हैं, और आपकी समस्याओं को सर्वर रहित एज-कंप्यूटिंग और सुरक्षा समस्याओं के समाधान की एक सरणी के साथ हल करने में भी मदद करते हैं, विशेष रूप से, मैजिक ट्रांजिट, अर्गो टनल और डीडीओएस सुरक्षा । Cloudflare नेटवर्क के सभी सर्वर विश्वसनीय संचालन के लिए कॉन्फ़िगर किए गए हैं, और हम हमेशा अगली पीढ़ी के प्रत्येक सर्वर को पिछले वाले से बेहतर बनाने की कोशिश कर रहे हैं। हम मानते हैं कि जेन ईपीवाईसी 7642 जनरल एक्स के लिए प्रोसेसर चुनने के बारे में सवाल का जवाब है।

Cloudflare Workers सेवा का उपयोग करते हुए, डेवलपर्स ने अपने अनुप्रयोगों को हमारे नेटवर्क पर तैनात किया, दुनिया भर में विस्तार किया। जब हम क्लाउड में सुरक्षा और विश्वसनीयता पर काम करते हैं तो हमें अपने ग्राहकों को कोड लिखने पर ध्यान केंद्रित करने का अवसर प्रदान करने में गर्व होता है। और आज हम यह घोषणा करते हुए और भी प्रसन्न हैं कि उनका कार्य हमारे जेन एक्स पीढ़ी के सर्वर पर तैनात किया जाएगा जो दूसरी पीढ़ी के AMD EPYC प्रोसेसर चला रहे हैं।

EPYC 7642 प्रोसेसर, कोडनेम "रोम" [रोम]

AMD के EPYC 7642 का उपयोग करते हुए, हम अपनी गति बढ़ाने और नए शहरों में नेटवर्क के विस्तार की सुविधा प्रदान करने में सक्षम थे। रोम एक दिन में नहीं बनाया गया था, लेकिन जल्द ही यह आप में से कई लोगों के करीब होगा।

पिछले कुछ वर्षों में, हमने Intel और AMD से कई x86 चिप्स और साथ ही साथ ARM से प्रोसेसर का प्रयोग किया है। हम उम्मीद करते हैं कि भविष्य में, ये सीपीयू निर्माता हमारे साथ मिलकर काम करेंगे ताकि हम एक बेहतर इंटरनेट का निर्माण कर सकें।

Cloudflare दसवीं पीढ़ी के एज सर्वर के लिए AMD प्रोसेसर का चयन करता है