मेटा ने भारत में अधिक सक्रिय रूप से ‘रिवेंज पोर्न’ से निपटने के लिए प्लेटफॉर्म लॉन्च किया

‘रिवेंज पोर्न’ या महिलाओं की गैर-सहमति वाली अंतरंग तस्वीरों को साझा करना एक ऐसी समस्या है जो बढ़ती ही जा रही है। और अब मेटा भारत में StopNCII.org नामक एक नए प्लेटफॉर्म के साथ अधिक सक्रिय तरीके से इससे निपटने की उम्मीद कर रहा है। प्लेटफॉर्म, यूके स्थित ‘रिवेंज पोर्न हेल्पलाइन’ के साथ साझेदारी में, महिलाओं को संभावित अंतरंग छवियों, वीडियो तक पहुंचने और ध्वजांकित करने देगा, जिन्हें अपलोड किया जा सकता है। फेसबुक, महिलाओं की सहमति के बिना इंस्टाग्राम।

मेटा में ग्लोबल सेफ्टी पॉलिसी की निदेशक करुणा नैन ने बताया कि कैसे लोगों के “दुर्व्यवहार के इस रूप का सामना करने” के “बहुत कठोर कदम” उठाने के दुर्भाग्यपूर्ण उदाहरण सामने आए हैं। indianexpress.com, ने कहा: “… यह पूरी तरह से एक नया जीवन लेता है क्योंकि आप सामाजिक परिस्थितियों में बातचीत करने के बारे में हैं क्योंकि आप चिंतित हैं कि क्या दूसरे व्यक्ति ने मेरी छवि को वहां देखा है।”

StopNCII.org एक प्रकार के बैंक के रूप में कार्य करता है जहां पीड़ित अपनी तस्वीरों, वीडियो के ‘हैश’ साझा कर सकते हैं, जो खतरे में हैं या उजागर हो चुके हैं। हैश एक अद्वितीय डिजिटल फ़िंगरप्रिंट है जो साझा किए गए प्रत्येक फ़ोटो या वीडियो से जुड़ा होता है।

इसके बाद हैश को फेसबुक, इंस्टाग्राम के साथ साझा किया जाता है और यदि कोई हैश से मेल खाने वाला वीडियो या छवि अपलोड करने का प्रयास करता है, तो उस अपलोड को कंपनी की सामग्री नीति का उल्लंघन करने वाले के रूप में चिह्नित किया जाता है।

मेटा का कहना है कि जब कोई पीड़ित उन्हें अपलोड कर रहा होता है तो चित्र या वीडियो डिवाइस को नहीं छोड़ते हैं। इसके बजाय केवल उक्त हैश अपलोड किया जाता है। जिस तरह से मेटा इसे देखता है, नया प्लेटफॉर्म उनके लिए एक प्रमुख के रूप में कार्य कर सकता है और उन्हें अंतरंग छवि के दुरुपयोग से बेहतर तरीके से निपटने में मदद कर सकता है।

यह ध्यान में रखा जाना चाहिए कि StopNCII.org की वेबसाइट स्पष्ट रूप से बताती है कि विचाराधीन छवियों को एक अंतरंग सेटिंग में होना चाहिए। यह ऐसी तस्वीरें और वीडियो हो सकते हैं जहां पीड़ित नग्न है, अपने गुप्तांग दिखा रहा है, यौन गतिविधियों में लिप्त है या पोज़ दे रहा है, या समझौता करने की स्थिति में अंडरवियर पहने हुए है।

यह 18 वर्ष से अधिक उम्र की वयस्क महिलाओं तक भी सीमित है, जिसका अर्थ है कि चाइल्ड पोर्नोग्राफी की शिकार इस प्लेटफॉर्म पर संपर्क या भरोसा नहीं कर सकती हैं। नैन के अनुसार, बाल यौन शोषण की छवियों के लिए, वे केवल उन चुनिंदा गैर सरकारी संगठनों के साथ काम कर सकते हैं जो अधिकृत हैं और जिनके पास ऐसा करने के लिए कानूनी कवर है। यही कारण है कि StopNCII 18 वर्ष से अधिक उम्र की महिलाओं तक ही सीमित है।

लेकिन क्या हैश सही होगा यदि कोई व्यक्ति अंतरंग छवि को अपलोड करने से पहले उसे बदल दे या बदल दे? दुर्भाग्य से यही वह जगह है जहाँ वास्तव में चुनौती है। मेटा जिस तकनीक का उपयोग कर रहा है – वह जो पूरे उद्योग में व्यापक रूप से उपयोग की जाती है – सटीक या निकट मैचों पर काम करती है।

“तो अगर कोई है जो उस तस्वीर या वीडियो के कुछ गंभीर परिवर्तन करता है, तो यह हमें प्राप्त हैश के लिए सटीक मिलान नहीं होगा। और इसलिए व्यक्ति को एक नज़र रखने की आवश्यकता होगी और संभवत: उस बदली हुई सामग्री के हैश को अपलोड करने के लिए सिस्टम का फिर से उपयोग करना चाहेगा,” नैन ने स्वीकार किया।

यह भी ध्यान दिया जाना चाहिए कि हैश को अपलोड करने से स्वचालित रूप से यह गारंटी नहीं होगी कि सामग्री फेसबुक या इंस्टाग्राम पर समाप्त नहीं होती है। या कि यह अपने आप बंद हो जाएगा।

नैन के अनुसार, फेसबुक या इंस्टाग्राम की समीक्षा टीम अभी भी सामग्री के माध्यम से जाएगी और देखेंगी कि जब कोई सामग्री हैश से मेल खाती है तो क्या यह उनकी नीतियों का उल्लंघन करती है। न ही मेटा इन मामलों को हल करने के लिए एक निश्चित समय-सीमा या अवधि का वादा कर रहा है।

हालांकि समीक्षा दल इस सामग्री से जुड़ी उच्च गंभीरता को देखते हुए इस सामग्री को प्राथमिकता देते हैं, लेकिन वे इस बात की गारंटी नहीं दे सकते कि समस्या का समाधान सीमित समय में हो जाएगा। मेटा ऐसी सामग्री के साथ व्यवहार करते समय क्या होता है, इस पर तीन संभावित परिदृश्य देखता है।

पहले में, सामग्री पहले से ही साझा की गई थी और प्लेटफॉर्म पर रिपोर्ट की गई थी और हैश प्राप्त होने के बाद, सिस्टम स्वचालित रूप से आगे बढ़ रहा है। इसलिए यदि कोई इसे फिर से अपलोड करने का प्रयास करता है, तो यह टैग हो जाता है और तेजी से अवरुद्ध हो जाता है।

दूसरे और थोड़े अधिक समस्याग्रस्त उदाहरण में, सामग्री को Facebook या Instagram पर अपलोड किया गया था और स्वचालित पहचान प्रणाली द्वारा फ़्लैग नहीं किया गया था।

नैन ने समझाया, “चूंकि इस मेल खाने वाली सामग्री को या तो कभी रिपोर्ट नहीं किया गया है या हमारे द्वारा सक्रिय रूप से पता लगाया गया है, इसलिए हमें इसे हमारी समीक्षा टीमों को यह जांचने के लिए भेजना होगा कि क्या हो रहा है।” यह कहते हुए कि केवल एक बार समीक्षा टीम निर्धारित करती है कि यह उल्लंघन है हटा दिया जाए। तो अपने आप उत्पन्न होने वाला हैश हटाने की कोई गारंटी नहीं है।

हालांकि, एक बार सामग्री के एक टुकड़े को उल्लंघन के रूप में चिह्नित करने के बाद, प्रक्रिया स्वचालित रूप से आगे बढ़ती है।

और फिर एक तीसरा परिदृश्य है जहां किसी ने हैश की गई सामग्री को प्लेटफॉर्म पर बिल्कुल भी साझा नहीं किया है या फेसबुक जो कहता है वह प्रतीक्षा और घड़ी है। “केवल जब कोई उस सामग्री को अपलोड करने का प्रयास करता है तो इसका पता लगाया जाएगा और क्या हम उस मेल खाने वाली सामग्री को लेने और हमारी समीक्षा टीमों को यह जांचने के लिए भेज पाएंगे कि क्या हो रहा है,” उसने जोर दिया।

अभी StopNCII.org फेसबुक और इंस्टाग्राम तक ही सीमित है। मेटा उम्मीद कर रहा है कि अन्य तकनीकी खिलाड़ी भी बोर्ड पर आएंगे और पीड़ितों के लिए इसे आसान बनाने के लिए मंच से जुड़ेंगे क्योंकि अभी उन पर यह सुनिश्चित करने की जिम्मेदारी है कि छवि कई प्लेटफार्मों पर समाप्त न हो।

.

Source

Leave a Comment

Your email address will not be published. Required fields are marked *