लॉन्जरी वाली इस तस्वीर को तो झेल गईं इटली की प्रधानमंत्री जॉर्जिया मेलोनी, पर कई खुद की जान लेने को हो जाते हैं मजबूर: जानिए AI का यह खेल कितना खतरनाक

                                          जॉर्जिया मेलोनी की AI से बने तस्वीर पर विवाद
इटली की प्रधानमंत्री जॉर्जिया मेलोनी की डीपफेक और अश्लील तस्वीरें आर्टिफिशियल इंटेलिजेंस के जरिए बनाकर शेयर की जा रही हैं। उन्होंने खुद सोशल मीडिया पर अपनी एक ऐसी ही तस्वीर शेयर कर ना सिर्फ नाराजगी जताई बल्कि इसे समाज के लिए एक खतरनाक संकेत भी बताया है। उन्होंने डीपफेक को लेकर कहा कि वह तो सक्षम हैं लेकिन बहुत से लोग इससे अपना बचाव नहीं कर सकते हैं। इससे AI के गलत इस्तेमाल को लेकर चल रही बहस एक बार फिर तेज हो गई है।

जॉर्जिया मेलोनी ने क्या कहा?

 मेलोनी ने अपने सोशल मीडिया अकाउंट्स पर अपनी एक डीपफेक फोटो शेयर कर एक लंबा संदेश लिखा है। इस तस्वीर में वह लॉन्जरी पहने हुए बेड पर बैठी दिख रही हैं। उन्होंने लिखा, “पिछले कुछ दिनों से मेरी कई फर्जी तस्वीरें फैलाई जा रही हैं। ये AI से बनाई गई हैं लेकिन असली बताकर शेयर किया जा रहा है।” मेलोनी ने हल्के-फुल्के अंदाज में कहा कि जिसने भी उनकी ये तस्वीरें बनाई हैं, उसने उनके लुक को निखार दिया है लेकिन उन्होंने इस पर चिंता भी जताई है।

मेलोनी ने इससे जुड़ा एक गंभीर मुद्दा उठाया है। उन्होंने कहा कि वह खुद तो अपनी रक्षा करने की स्थिति में हैं लेकिन बहुत से लोग ऐसे नहीं हैं। उन्होंने लोगों से अपील की कि किसी भी चीज को सच मानने या आगे शेयर करने से पहले उसकी सच्चाई जरूर जाँच लें। मेलोनी ने कहा, “यह मुद्दा सिर्फ मुझ तक सीमित नहीं है। डीपफेक एक खतरनाक हथियार है। क्योंकि यह किसी को भी धोखा दे सकता है, उसे गुमराह कर सकता है और नुकसान पहुँचा सकता है। मैं अपनी रक्षा कर सकती हूँ लेकिन बहुत से लोग ऐसा नहीं कर सकते।”

Girano in questi giorni diverse mie foto false, generate con l’intelligenza artificiale e spacciate per vere da qualche solerte oppositore.

Devo riconoscere che chi le ha realizzate, almeno nel caso in allegato, mi ha anche migliorata parecchio. Ma resta il fatto che, pur di… pic.twitter.com/or44qru2qj

— Giorgia Meloni (@GiorgiaMeloni) May 5, 2026

डीपफेक के डर से अपनी जान ले रहे लोग

मेलोनी ने जो कहा है वो वाकई गंभीर है और उस पर अधिक चर्चा किए जाने की जरूरत है। मेलोनी प्रधानमंत्री है, मानसिक रूप से ऐसे हमलों के लिए तैयार होती हैं लेकिन आम लोगों के लिए यह खतरा बहुत गंभीर है। यह खतरा किसी एक देश तक सीमित नहीं है, दुनियाभर में डीपफेक का खतरा लोगों के लिए जानलेवा तक बन जाता है। आम लोग मानसिक रूप से ऐसी स्थितियों से निपटने के लिए तैयार नहीं हो पाते हैं और कई बार अपना जीवन तक ले लेते हैं। इसे कुछ उदाहरणों से समझने की कोशिश करते हैं।

अप्रैल 2025 में महाराष्ट्र के नागपुर में एक 28 वर्षीय महिला ने ऐसे ही एक फर्जी वीडियो के चलते आत्महत्या कर ली थी। महिला ने अपने सुसाइड नोट में लिखा कि उसे एक फर्जी वीडियो के जरिए फँसाया जा रहा था जिसमें उसकी कोई हमशक्ल थी। उसकी कथित धार्मिक टिप्पणी की वीडियो बनाकर उसे धमकाया जाने लगा और डर से महिला ने अपनी जीवन लीला समाप्त कर ली।

अक्टूबर 2025 में हरियाणा के फरीदाबाद से भी एक ऐसा ही मामला सामने आया। फरीदाबाद में एक 19 साल के लड़के ने आत्महत्या कर ली क्योंकि आरोपितों ने AI से उसकी व उसकी बहन की फेक तस्वीरें बन ली थीं और उससे पैसों की माँग कर रहे थे। वो युवक दबाव को नहीं सह पाया और उसने अपनी जान दे दी। ये केवल भारत की बात नहीं है, दुनियाभर में ऐसा हो रहा है।

ब्रिटेन में जनवरी 2024 में 14 साल की स्कूली छात्रा मिया जानिन ने स्नैपचेट पर उसकी नकली न्यूड तस्वीरें पोस्ट किए जाने के बाद आत्महत्या कर ली थी। लड़कों ने लड़कियों के चेहरों को पोर्नोग्राफी कलाकारों के शरीर पर फोटोशॉप किया और उन्हें शेयर कर दिया। उन छात्रों को शायद से छोटी शरारत लगी होगी लेकिन यह मिया के लिए जानलेवा साबित हुई, वो इस दबाव को नहीं झेल पाई और आत्महत्या कर ली।

अमेरिका में फरवरी 2025 में 16 साल के एलिजा हीकॉक ने आत्महत्या कर ली थी। उसे AI से बनी अपनी ही एक न्यूड तस्वीर मिली थी, जिसके साथ एक धमकी भरा मैसेज था जिसमें 2.5 लाख रुपए ($3,000) की माँग की गई थी। कहा गया कि अगर वो पैसे नहीं दे पाएगा तो यह तस्वीर दोस्तों रिश्तेदारों को भेज दी जाएगी। बच्चा दबाव नहीं झेल सका और उसने आत्महत्या कर ली।

AI के या डीपफेक के या मार्फ्ड तस्वीरों के जरिए किए ब्लैकमेल के ऐसे मामलों में पीड़ित व्यक्ति, खासकर किशोर और महिलाएँ समाज में बदनामी के डर से टूट जाते हैं। उन्हें लगता है कि उनकी सामाजिक पहचान खत्म हो जाएगी, परिवार और समाज उन्हें स्वीकार नहीं करेगा। यही डर कई बार उन्हें एक ऐसे अंधेरे रास्ते पर धकेल देता है। जहाँ वे आत्महत्या जैसा कदम उठा लेते हैं।

डीपफेक के निशाने पर महिलाएँ: 98% पोर्नोग्राफी, 99% में महिलाएँ

डीपफेक के निशाने पर सबसे अधिक महिलाएँ हैं और इसके केस तेजी से बढ़ रहे हैं। UN Women ने 2023 की एक रिपोर्ट के हवाले से बताया है कि ऑनलाइन मौजूद सभी डीपफेक वीडियो में से 98% डीपफेक पोर्नोग्राफी थी और 99% में महिलाओं को दिखाया गया था। अनुमान लगाया गया है कि 2023 में डीपफेक वीडियो 2019 के मुकाबले 550% ज्यादा थे। कई बड़ी हस्तियों को AI का शिकार बनाया गया है।

क्या होता है डीपफेक और कैसे करता है काम?

डीपफेक वह वीडियो, फोटो या ऑडियो होता है जो असली जैसा दिखता या सुनाई देता है लेकिन उसे AI की मदद से बदला गया होता है। इस तकनीक के जरिए किसी का चेहरा बदलना, चेहरे के हाव-भाव बदलना, नया चेहरा बनाना या आवाज तैयार करना संभव होता है। ‘द गार्जियन’ की एक रिपोर्ट के मुताबिक, डीपफेक सबसे पहले सोशल मीडिया एप रेडिट (Reddit) पर सामने आया था। तब एक Deepfake नाम के यूजर ने टेलर स्विफ्ट जैसी कई अभिनेत्रियों के फर्जी पोर्न क्लिप डाल दिए। इसके बाद से ऐसे वीडियो की बाढ़ आ गई।

डीपफेक तकनीक दो प्रोग्राम जनरेटर (Generator) और डिस्क्रिमिनेटर (Discriminator) पर काम करती है। जहाँ जनरेटर असली फोटो, वीडियो और आवाज से सीखकर नकली कंटेंट बनाता है जबकि डिस्क्रिमिनेटर यह जाँचता है कि वह कितना असली लग रहा है और अपनी फीडबैक देकर जनरेटर को सुधारने में मदद करता है इसी आपसी ‘मुकाबले’ को Generative Adversarial Networks (GANs) कहा जाता है।

इसमें दोनों बार-बार सीखते हैं और धीरे-धीरे इतना रियलिस्टिक कंटेंट तैयार कर देते हैं कि असली और नकली में फर्क करना मुश्किल हो जाता है। इसके लिए बहुत ज्यादा डेटा (तस्वीरें, वीडियो, ऑडियो) जरूरी होता है यानी जितना ज्यादा डेटा, उतना बेहतर डीपफेक और जहाँ पहले इसे बनाने के लिए महँगे सॉफ्टवेयर, ताकतवर कंप्यूटर और एक्सपर्ट स्किल्स की जरूरत होती थी तो वहीं आज यह तकनीक काफी आसान हो गई है और कई टूल्स फ्री में साधारण डिवाइस या क्लाउड प्लेटफॉर्म पर भी उपलब्ध हैं।

सजा से क्यों बच जाते हैं डीपफेक बनाने वाले

UN की एक रिपोर्ट बताती है कि डीपफेक से नुकसान बहुत बड़ा होता है लेकिन ऐसे मामलों में सजा कम मिलती है। सबसे बड़ी वजह यह है कि कानून अभी इस तकनीक के हिसाब से अपडेट नहीं हुए हैं। कई देशों में डीपफेक से जुड़ा कोई साफ कानून ही नहीं है और पुराने ‘रिवेंज पोर्न’ कानून भी इसमें पूरी तरह लागू नहीं होते। इससे पीड़ित लोग समझ नहीं पाते कि उनके साथ हुआ गलत काम अपराध है या नहीं।

दूसरी समस्या है जाँच में कमी एजेंसियों के पास डिजिटल सबूत जुटाने, दूसरे देशों से सहयोग लेने और प्लेटफॉर्म से डेटा हासिल करने के लिए पर्याप्त संसाधन नहीं होते। इस दौरान सबूत जल्दी गायब हो जाते हैं और कंटेंट तेजी से फैलता रहता है। अपराधी अक्सर अपनी पहचान छिपा लेते हैं या दूसरे देशों में रहकर बच जाते हैं। वहीं, सोशल मीडिया प्लेटफॉर्म भी जिम्मेदारी से बचते हैं, कंटेंट हटाने में देर करते हैं और पीड़ितों को बार-बार शिकायत करने के लिए मजबूर करते हैं, जिससे उन्हें और परेशानी होती है।

क्या हो आगे की राह

डीपफेक के दुरुपयोग को रोकने के लिए सरकार, संस्थान और टेक कंपनियों को मिलकर तुरंत कदम उठाने होंगे। सबसे पहले ऐसे साफ और मजबूत कानून बनने चाहिए जो AI से बने कंटेंट और सहमति (consent) को स्पष्ट करें, अपराधियों को जिम्मेदार ठहराएँ और प्लेटफॉर्म को तय समय में कंटेंट हटाने के लिए मजबूर करें।

साथ ही अलग-अलग देशों के बीच कार्रवाई आसान होनी चाहिए। न्याय व्यवस्था को भी मजबूत करना जरूरी है ताकि पुलिस और जाँच एजेंसियों को सही ट्रेनिंग, तकनीक और संसाधन मिल सकें और वे डिजिटल सबूत ठीक से इकट्ठा कर सकें।

टेक कंपनियों को भी जिम्मेदारी लेनी होगी कि उन्हें खुद ऐसे कंटेंट पहचानकर जल्दी हटाना चाहिए और कानून एजेंसियों के साथ सहयोग करना चाहिए, वरना उन पर जुर्माना लगे। पीड़ितों को भी सही मदद मिलनी चाहिए जैसे कानूनी सहायता और संवेदनशील व्यवहार। इसके अलावा लोगों को डिजिटल सुरक्षा और सहमति के बारे में जागरूक करना भी बहुत जरूरी है।