AI का गलत इस्तमाल, महिलाओं की फोटो से कपड़े हटा रहे ऐप्स

Artificial Intelligence: आर्टिफिशियल इंटेलिजेंस इन दिनों चर्चा में बना हुआ है जंहा एक तरफ इसका इस्तमाल अच्छे के लिए किया जा रहा है तो वहीं दूसरी तरफ इसका इस्तमाल आजकल बड़ी संख्या में गलत कामों क लिए हो रहा है। AI की मदद से महिलाओं की नग्न तस्वीरें बनाई जा रही हैं और उन्हें प्रमोट किया जा रहा है। डीपफेक वीडियो में भी इसका इस्तेमाल किया जा रहा है।

Graphika नेटवर्क एनालिसिस कंपनी ने बताया

आर्टिफिशियल इंटेलिजेंस, का इस्तेमाल कई गलत कामों में शुरू हो चुका है। Graphika नाम की सोशल नेटवर्क एनालिसिस कंपनी ने इस बारे में एक रिपोर्ट पेश की है रिपोर्ट में बताया गया है आर्टिफिशियल इंटेलिजेंस के जरिए महिलाओं की नग्न तस्वीरें क्रिएट करने वाले ऐप्स और वेबसाइट्स की पॉपुलैरिटी तेजी से बढ़ रही है।

Graphika के मुताबिक, सितंबर महीने में 2.4 करोड़ यूजर्स ने इस तरह की वेबसाइट्स को विजिट किया है। इनमें से ज्यादातर ‘न्यूडिफाई’ सर्विसेस की मार्केटिंग के लिए पॉपुलर सोशल नेटवर्क्स का इस्तेमाल किया जा रहा है। इस साल की शुरुआत से अब तक सोशल मीडिया प्लेटफॉर्म्स पर इस तरह के लिंक्स के ऐड्स में 2400 परसेंट की बढ़ात हुई है।

सोशल मीडिया पर हो रहा इस्तमाल

Also Read: कम्यूटर चलाना नहीं आता कैसे चलाएंगे देश? लोकसभा अकाउंट का पासवर्ड तक याद नहीं

इनका प्रचार सोशल मीडिया प्लेटफॉर्म Reddit और X पर भी किया जा रहा है। ये सर्विसेस AI का इस्तेमाल तस्वीर को रिक्रिएट करने के लिए करती हैं, जिसमें किसी शख्स के कपड़ों को रिमूव किया जा सकता है। इनमें से बहुत सी सर्विसेस सिर्फ महिलाओं की फोटो पर काम करती हैं। इन ऐप्स की वजह से किसी का अश्लील वीडियो बनाकर उसे प्लेटफॉर्म्स पर डिस्ट्रिब्यूट किया जा सकता है। ऐप्स AI की मदद से किसी का आपत्तिजनक वीडियो बनाने की क्षमता रखते हैं।

इससे पॉर्नोग्राफी को बढ़ावा मिलता है

अगर आसान भाषा में कहें, तो इनका इस्तेमाल डीपफेक पॉर्नोग्राफी में किया जाता है। इस तरह के वीडियो क्रिएट करने के लिए फोटोज को सोशल मीडिया प्लेटफॉर्म से भी उठाया जा सकता है और उन्हें गलत इरादे से डिस्ट्रिब्यूट किया जा सकता है।

इस तरह की एक तस्वीर को X पर पोस्ट करके उसका प्रचार किया जा रहा है। पोस्ट में बताया गया है कि ऐसी फोटोज एक अनड्रेसिंग
ऐप का इस्तेमाल करके क्रिएट की जा सकती हैं। एक ऐप ने Google के YouTube पर स्पॉन्सर कंटेंट के लिए भुगतान किया है और ‘nudify’ शब्द से सर्च करने पर यह पहले दिखाई देता है।

इस मामले में गूगल के एक स्पोकपर्सन ने कहा है कि कंपनी ऐसे ऐड्स को प्रामोट नहीं करती है, जिसमें स्पष्ट सेक्सुअल कंटेंट शामिल होता है। उन्होंने बताया कि जिस ऐड को लेकर सवाल किया गया है, हमने उसे रिव्यू किया है और जो भी ऐड्स हमारी पॉलिसी का उल्लंघन करते हैं, उन्हें रिमूव किया जा रहा है। हालांकि, इस मामले में X और Reddit ने कोई जवाब नहीं दिया है।

Also Read: 300 करोड़ रूपये कैश और सोने के जेवरों से भरे बैग, रांची में कांग्रेस सांसद पर IT की रेड