डीपफेक और डीप मीडिया: सुरक्षा के लिए एक नया युद्ध का मैदान

यह लेख VB के एक विशेष अंक का हिस्सा है। पूरी श्रृंखला यहां पढ़ें: एआई और सुरक्षा ।

डिपहाक्स की संख्या - मीडिया जो एक मौजूदा फ़ोटो, ऑडियो या वीडियो लेती है और किसी अन्य व्यक्ति के AI के उपयोग से उस पर उसके व्यक्तित्व को प्रतिस्थापित करती है - तेजी से बढ़ रही है। यह चिंताजनक है, न केवल इसलिए कि इस तरह के फेक का इस्तेमाल चुनावों के दौरान लोगों की राय को प्रभावित करने या किसी को अपराधों में फंसाने के लिए किया जा सकता है, बल्कि इसलिए भी क्योंकि उन्हें पहले ही नकली पोर्न बनाने और एक ब्रिटिश ऊर्जा कंपनी के निदेशक को धोखा देने के लिए दुर्व्यवहार किया गया है ।

इस तरह की नई वास्तविकता को दर्शाते हुए, शैक्षणिक संस्थानों, प्रौद्योगिकी फर्मों और गैर-लाभकारी संस्थाओं का संघ एआई द्वारा उत्पन्न भ्रामक मीडिया की पहचान करने के तरीके विकसित कर रहा है। उनके काम से पता चलता है कि पता लगाने के उपकरण केवल एक अल्पकालिक व्यवहार्य समाधान हैं, जबकि डिप्थैटिक हथियारों की दौड़ अभी शुरुआत है।

डुबकी पाठ

इससे पहले, एआई द्वारा बनाया गया सबसे अच्छा गद्य उपन्यास "बंच ऑफ क्रोध" की तुलना में गेम मैड लिब्स के ग्रंथों की तरह अधिक था , लेकिन आधुनिक भाषा के मॉडल अब उन ग्रंथों को लिख सकते हैं जो किसी व्यक्ति द्वारा लिखे गए प्रस्तुति और प्रस्तुति के करीब हैं। उदाहरण के लिए, सैन फ्रांसिस्को की ओपनएआई रिसर्च फर्म द्वारा जारी GPT-2 मॉडल , सेकंड के एक मामले में ब्रेनस्टॉर्मिंग के लिए न्यू यॉर्कर- स्टाइल लेख या स्क्रिप्ट की शैली में टुकड़े बनाता है । शोधकर्ताओं मिडलबरी इंस्टीट्यूट ऑफ टेररिज्म, एक्सट्रीमिज़्म एंड काउंटर-टेररिज्म ने सुझाव दिया कि जीपीटी -2 और इसी तरह के अन्य मॉडल को सफेद नस्ल, जिहादी इस्लामवाद और अन्य धमकी देने वाली विचारधाराओं की श्रेष्ठता की वकालत करने के लिए स्थापित किया जा सकता है - और यह और भी अधिक चिंता पैदा करता है।

ऊपर: फ्रंटेंड GPT-2, रिसर्च फर्म OpenAI से एक प्रशिक्षित भाषा मॉडल।
छवि सौजन्य: OpenAI

सिंथेटिक सामग्री का पता लगाने में सक्षम प्रणाली की खोज में, वाशिंगटन विश्वविद्यालय में पॉल जी एलन स्कूल ऑफ कंप्यूटर साइंस एंड इंजीनियरिंग के शोधकर्ताओं और एलन्ट इंस्टीट्यूट ऑफ आर्टिफिशियल इंटेलिजेंस ने ग्रोवर का विकास किया , एक एल्गोरिथ्म जो वे दावा करते हैं कि परीक्षण में 92% डिप्हाज का चयन करने में सक्षम है। आम क्रॉल कॉर्पस ओपन डेटा से बना एक सेट। टीम ने अपनी सफलता को एक कॉपी राइटिंग दृष्टिकोण के साथ समझाया, जिसने उनके अनुसार, एआई द्वारा बनाई गई भाषा की विशेषताओं को समझने में मदद की।

हार्वर्ड और एमआईटी-आईबीएम वाटसन एआई लैब के वैज्ञानिकों की एक टीम ने अलग से द जाइंट लैंग्वेज मॉडल टेस्ट रूम जारी किया, एक वेब वातावरण जो यह निर्धारित करने का प्रयास करता है कि क्या पाठ एक AI मॉडल का उपयोग करके लिखा गया था। शब्दार्थ के संदर्भ में, वह भविष्यवाणी करती है कि कौन से शब्द एक वाक्य में प्रकट होने की सबसे अधिक संभावना है, अनिवार्य रूप से अपना पाठ लिख रहे हैं। यदि परीक्षण किए जा रहे नमूने के शब्द 10, 100 या 1000 सबसे अधिक संभावित शब्दों के अनुरूप हैं, तो सूचक क्रमशः हरा, पीला या लाल हो जाता है। वास्तव में, वह कृत्रिम रूप से उत्पन्न सामग्री की पहचान के लिए एक दिशानिर्देश के रूप में अपने स्वयं के पूर्वानुमानित पाठ का उपयोग करती है।

डुबकी वीडियो

आधुनिक एआई, वीडियो बनाना, उतना ही खतरनाक है और उतना ही है, यदि महान नहीं है, तो इसके प्राकृतिक समकक्ष के रूप में क्षमताएं। हांगकांग स्थित स्टार्टअप सेंसटाइम, नानयांग प्रौद्योगिकी विश्वविद्यालय और चीनी विज्ञान अकादमी के ऑटोमेशन इंस्टीट्यूट द्वारा प्रकाशित एक अकादमिक लेख में उस रूपरेखा का विवरण दिया गया है जो यथार्थवादी वीडियो को संश्लेषित करने के लिए ऑडियो का उपयोग करके फुटेज को संपादित करता है। और सियोल में हाइपरकनेक्ट के शोधकर्ताओं ने हाल ही में मारियोनेट टूल को विकसित किया है , जो एक ऐतिहासिक व्यक्ति, राजनेता या सीईओ की चेहरे की विशेषताओं में हेरफेर कर सकता है, जो किसी अन्य व्यक्ति के आंदोलनों द्वारा एनिमेटेड चेहरे का संश्लेषण कर सकता है।

हालांकि, यहां तक ​​कि सबसे यथार्थवादी डिपफेक में कलाकृतियां हैं जो उन्हें जारी करती हैं। साइबर स्पेस डीप इंस्टिंक्ट के डीप ट्रेनिंग ग्रुप के प्रमुख ईशाय रोसेनबर्ग का कहना है, "जेनरेटर सिस्टम द्वारा बनाए गए डिपफैक्स एक वीडियो में वास्तविक छवियों के एक सेट का अध्ययन करते हैं, जिसमें आप नई छवियों को जोड़ते हैं और फिर नई छवियों के साथ एक नया वीडियो बनाते हैं।" “परिणामी वीडियो कृत्रिम रूप से उत्पन्न डेटा के वितरण और मूल वीडियो में डेटा के वितरण में परिवर्तन के परिणामस्वरूप थोड़ा अलग है। ये तथाकथित "मैट्रिक्स में झलकते हैं," क्या द्विध्रुवी डिटेक्टर भेद करने में सक्षम हैं।

ऊपर: सबसे उन्नत तकनीकों का उपयोग करके बनाए गए दो नकली वीडियो।
की छवि शिष्टाचार: SenseTime

पिछली गर्मियों में, बर्कले में कैलिफ़ोर्निया विश्वविद्यालय और दक्षिणी कैलिफ़ोर्निया विश्वविद्यालय की एक टीम ने "चेहरे की कार्रवाई की इकाइयों" की सटीक रूप से खोज करने के लिए एक मॉडल तैयार किया - ऊपरी होंठ को उठाने और लोगों के सिर को मोड़ने सहित चेहरे के आंदोलनों, टिक और अभिव्यक्तियों पर डेटा। frown - 90% से अधिक की सटीकता के साथ नकली वीडियो की पहचान करने के लिए। इसी तरह, अगस्त 2018 में, यूएस डिफेंस एडवांस्ड रिसर्च प्रोजेक्ट्स एजेंसी (DARPA) के मीडिया फोरेंसिक्स प्रोग्राम में प्रतिभागियों ने परीक्षण किए गए सिस्टमअप्राकृतिक निमिष, अजीब सिर आंदोलनों, असामान्य आंखों का रंग और बहुत कुछ जैसे संकेतों के आधार पर एआई-जनित वीडियो का पता लगाने में सक्षम।

कई स्टार्टअप वर्तमान में नकली वीडियो छवियों का पता लगाने के लिए इसी तरह के उपकरणों के व्यवसायीकरण की प्रक्रिया में हैं। एम्स्टर्डम प्रयोगशाला दीप्ति्रेस लैब्स डिपफेक को वर्गीकृत करने के उद्देश्य से निगरानी उपकरणों का एक सेट प्रदान करती है जो सोशल नेटवर्क, वीडियो होस्टिंग प्लेटफॉर्म और डिसइन्फॉर्मेशन नेटवर्क पर अपलोड किए जाते हैं। डेसा ने नकली वीडियो सेट पर प्रशिक्षित नकली डिटेक्टरों को बेहतर बनाने के तरीकों का प्रस्ताव दिया है । और जुलाई 2018 में ट्रूपिक ने $ 8 मिलियन जुटाए।वीडियो और फ़ोटो में नकली की गहरी पहचान के लिए इसकी सेवा को वित्त देना। दिसंबर 2018 में, कंपनी ने स्टार्टअप फोरंडिक्स का अधिग्रहण किया, जिसकी नकली छवि डिटेक्टर ने DARPA लाइसेंस प्राप्त किया।

ऊपर: एआई द्वारा संपादित डिपफेक इमेज।

पूरी तरह से प्रशिक्षित प्रणालियों को विकसित करने के अलावा, कई कंपनियों ने इस उम्मीद में पाठ वाहिनी प्रकाशित की है कि अनुसंधान समुदाय नकली तरीकों का पता लगाने के लिए नए तरीके विकसित करेगा। इस प्रक्रिया में तेजी लाने के लिए, अमेज़ॅन वेब सर्विसेज (AWS), AI पर साझेदारी और कई विश्वविद्यालयों के शिक्षाविदों के साथ फेसबुक ने डीपफेक डिटेक्शन चैलेंज का नेतृत्व किया। कार्यक्रम में लेबल के साथ वीडियो नमूनों का एक सेट है जो दर्शाता है कि उनमें से कुछ कृत्रिम बुद्धि से प्रभावित थे। सितंबर 2019 में, Google ने विज़ुअल फेक का संग्रह जारी कियाफेसफॉरेंसिक्स परीक्षण के एक भाग के रूप में, जिसे म्यूनिख के तकनीकी विश्वविद्यालय और नेपल्स फेडेरिको II विश्वविद्यालय द्वारा बनाया गया था। और हाल ही में, सिंगापुर में नानयांग यूनिवर्सिटी ऑफ टेक्नोलॉजी के साथ मिलकर सेंसटाइम के शोधकर्ताओं ने डेपरफोरेंसिक्स -१० का विकास किया है, जो कि फेक का पता लगाने के लिए एक डेटा सेट है जो वे दावा करते हैं कि यह अपनी तरह का सबसे बड़ा है।

डुबकी ऑडियो

एआई और मशीन लर्निंग न केवल वीडियो और टेक्स्ट को संश्लेषित करने के लिए उपयुक्त हैं, वे आवाज़ों को भी कॉपी कर सकते हैं। अनगिनत अध्ययनों से पता चला है कि एक छोटा डेटा सेट एक व्यक्ति के भाषण को फिर से बनाने के लिए आवश्यक है। वाणिज्यिक प्रणाली जैसे रेसेम्बे और लियरबर्ड को कुछ मिनटों की ऑडियो रिकॉर्डिंग की आवश्यकता होती है, जबकि परिष्कृत मॉडल, जैसे नवीनतम Baidu डीप वॉयस कार्यान्वयन, केवल 3.7-सेकंड के नमूने से आवाज की प्रतिलिपि बना सकते हैं।

ऑडियो डिपाक्स का पता लगाने के लिए बहुत सारे उपकरण नहीं हैं, लेकिन समाधान दिखाई देने लगे हैं।



कुछ महीने पहले, रेम्बेम्ड टीम ने रेसेम्फ़ज़र नामक एक ओपन-सोर्स टूल जारी किया, जो उच्च-स्तरीय आवाज़ के नमूनों को प्राप्त करके डिपफेक का पता लगाने के लिए एआई और मशीन लर्निंग का उपयोग करता है और भविष्यवाणी करता है कि वे असली या नकली हैं। भाषण के साथ एक ऑडियो फ़ाइल प्राप्त करने के बाद, वह रिकॉर्ड की गई आवाज़ की विशेषताओं को सारांशित करते हुए एक गणितीय प्रतिनिधित्व करता है। यह डेवलपर्स को दो वोटों की समानता की तुलना करने या यह पता लगाने की अनुमति देता है कि फिलहाल कौन बात कर रहा है।

जनवरी 2019 में, Google समाचार पहल के हिस्से के रूप में, Google ने टेक्स्ट-टू-स्पीच मॉडल का उपयोग करके बोली जाने वाली "हजारों" वाक्यांश युक्त एक कोष जारी किया। विभिन्न बोली में 68 विभिन्न सिंथेटिक आवाज़ों द्वारा पढ़े जाने वाले अंग्रेजी लेखों से नमूने लिए गए। मामला ASVspoof 2019 के सभी प्रतिभागियों के लिए उपलब्ध है , एक प्रतियोगिता जिसका लक्ष्य नकली भाषण के खिलाफ काउंटरमेशर्स को बढ़ावा देना है।

बहुत कुछ खोना है

डिटेक्टरों में से किसी ने भी सटीक सटीकता हासिल नहीं की है, और शोधकर्ताओं ने अभी तक यह पता नहीं लगाया है कि नकली लेखक की पहचान कैसे करें। डीप इंस्टिंक्ट रोसेनबर्ग को उम्मीद है कि इससे बुरे अभिनेताओं को फेक प्रचार करने की प्रेरणा मिलेगी। "यहां तक ​​कि अगर एक हमलावर द्वारा बनाई गई एक द्विध्रुवीय का पता लगाया जाता है, तो केवल द्विध्रुवीय जोखिमों का खुलासा किया जाता है," उन्होंने कहा। "एक अभिनेता के लिए, पकड़े जाने का जोखिम कम से कम है, इसलिए नकली बनाने के खिलाफ कुछ अड़चनें हैं।"

रोसेनबर्ग के सिद्धांत को एक डिप्रेस रिपोर्ट द्वारा समर्थित किया गया है , जिसने जून और जुलाई 2019 में अपनी सबसे हालिया गिनती के दौरान 14,698 फर्जी वीडियो ऑनलाइन पाए। सात महीने की अवधि में, उनकी संख्या में 84% की वृद्धि हुई। उनमें से अधिकांश (96%) महिलाओं की विशेषता वाले अश्लील वीडियो हैं।

इन आंकड़ों को देखते हुए, रोसेनबर्ग का तर्क है कि डिपाकेज़ के कारण "बहुत कुछ खोना" वाली कंपनियों को अपने उत्पादों में गहरी पहचान तकनीक को विकसित करना और लागू करना चाहिए, जो कि उनकी राय में, एंटीवायरस प्रोग्राम के समान है। और इस क्षेत्र में बदलाव दिखाई दिया है; फेसबुक ने जनवरी की शुरुआत में घोषणा की थी कि वह नकली सामग्री का पता लगाने के लिए स्वचालित और मैनुअल सिस्टम के संयोजन का उपयोग करेगा, और ट्विटर ने हाल ही में फ्लैगिंग डिपाक्स और उन लोगों को हटाने का सुझाव दिया जो हानिकारक हो सकते हैं।

बेशक, डिपफेक की पीढ़ी में अंतर्निहित प्रौद्योगिकियां सिर्फ उपकरण हैं, और उनके पास अच्छे कार्यों के लिए बहुत संभावनाएं हैं। परामर्श देने वाली कंपनी एक्सेस पार्टनरशिप में डेटा एंड ट्रस्ट के प्रमुख माइकल क्लोजर ने कहा कि चिकित्सा निदान और कैंसर का पता लगाने, ब्रह्मांड की मैपिंग में अंतराल भरने और मानव रहित वाहनों के प्रशिक्षण में सुधार करने के लिए प्रौद्योगिकी का उपयोग पहले से ही किया जा रहा है। इसलिए, वह सामान्य अभियानों के उपयोग के खिलाफ जेनेरिक एआई को अवरुद्ध करने की चेतावनी देता है।

“चूंकि नेताओं ने राजनयिक मामलों के मामलों में मौजूदा कानूनी मानदंडों को लागू करना शुरू कर दिया है, इसलिए मूल्यवान तकनीकों से छुटकारा पाना बहुत महत्वपूर्ण नहीं है।नकली से छुटकारा पा रहा है, ”क्लोजर ने कहा। "आखिरकार, इस नई तकनीक के उपयोग के मामले में कानून और सामाजिक मानदंड उज्ज्वल लाल रेखाओं को बनाने के लिए पर्याप्त नहीं हैं जो उचित उपयोग और दुरुपयोग को उजागर करते हैं।"