वीडियो में काली पोशाक पहने एक महिला को लिफ्ट में प्रवेश करते हुए दिखाया गया है। हालाँकि, DeepFake वीडियो में उनका चेहरा अभिनेता Rashmika Mandanna के चेहरे में बदल जाता है
)
लिफ्ट में प्रवेश करने के एक साधारण वीडियो के कारण प्रौद्योगिकी के दुरुपयोग पर भारी विवाद हो गया है। सोशल मीडिया पर प्रसारित हो रहे Rashmika Mandanna के एक DeepFake वीडियो ने केंद्रीय मंत्री राजीव चंद्रशेखर को सोशल मीडिया प्लेटफार्मों को ऐसी गलत सूचनाओं से सख्ती से निपटने के लिए चेतावनी देने के लिए प्रेरित किया।
वीडियो में काली पोशाक पहने एक महिला को लिफ्ट में प्रवेश करते हुए दिखाया गया है। हालाँकि, DeepFake वीडियो में उसका चेहरा अभिनेता के चेहरे से बदल जाता है। वीडियो में मूल रूप से ब्रिटिश-भारतीय प्रभावशाली ज़ारा पटेल को दिखाया गया था। वीडियो को शुरुआत में 9 अक्टूबर को शेयर किया गया था।
AltNews के फैक्टचेक पत्रकार अभिषेक कुमार ने पुष्टि की कि क्लिप में मंदाना नहीं थी। एक्स पर एक पोस्ट में उन्होंने कहा, “भारत में DeepFake से निपटने के लिए एक कानूनी और नियामक ढांचे की तत्काल आवश्यकता है। आपने इंस्टाग्राम पर अभिनेत्री Rashmika Mandanna का यह वायरल वीडियो देखा होगा। लेकिन रुकिए, यह एक DeepFake वीडियो है ज़ारा पटेल का”।
DeepFake क्या हैं?
DeepFake विज़ुअल और ऑडियो डेटा उत्पन्न करने के लिए एआई तकनीक का उपयोग करते हैं, जिसका उपयोग किसी व्यक्ति के कुछ करने और कहने के यथार्थवादी वीडियो बनाने के लिए किया जा सकता है जो उन्होंने नहीं किया या कहा है। DeepFake प्रोग्राम आम तौर पर डेटा उत्पन्न करने के लिए “जेनरेटिव एडवरसैरियल नेटवर्क” का उपयोग करते हैं जो मूल से लगभग अप्रभेद्य होता है और हेरफेर या गलत सूचना के लिए आसानी से उपयोग किया जाता है।
आईटी मंत्री राजीव चन्द्रशेखर की चेतावनी
एक्स पर, पूर्व में ट्विटर पर, केंद्रीय मंत्री राजीव चंद्रशेखर ने कहा कि अप्रैल 2023 में अधिसूचित आईटी नियमों के तहत, किसी भी उपयोगकर्ता या सरकार द्वारा रिपोर्ट किए जाने पर किसी भी गलत सूचना को हटाना प्लेटफॉर्म का कानूनी दायित्व है। चंद्रशेखर ने कहा, “Deep Fake गलत सूचना का नवीनतम और उससे भी अधिक खतरनाक और हानिकारक रूप है और प्लेटफार्मों द्वारा इससे निपटने की जरूरत है।” उन्होंने कहा कि भारतीय दंड संहिता के प्रावधानों के तहत, यदि प्लेटफॉर्म आईटी नियमों का पालन नहीं करते हैं, तो पीड़ित व्यक्ति द्वारा प्लेटफॉर्म को अदालत में ले जाया जा सकता है।
DeepFake वीडियो पर Rashmika Mandanna की प्रतिक्रिया
एक्स पर पोस्ट किए गए एक बयान में, Rashmika Mandanna ने कहा कि इस मुद्दे को “तत्कालता से संबोधित किया जाना चाहिए, इससे पहले कि हममें से अधिक लोग इस तरह की पहचान की चोरी से प्रभावित हों”। “मुझे इसे साझा करते हुए वास्तव में दुख हो रहा है और मुझे ऑनलाइन फैलाए जा रहे मेरे DeepFake वीडियो के बारे में बात करनी है। ऐसा कुछ न केवल मेरे लिए बल्कि हममें से प्रत्येक के लिए ईमानदारी से बेहद डरावना है, जो आज इसके कारण बहुत अधिक नुकसान की चपेट में है। प्रौद्योगिकी का किस प्रकार दुरुपयोग किया जा रहा है।
आज, एक महिला और एक अभिनेता के रूप में, मैं अपने परिवार, दोस्तों और शुभचिंतकों की आभारी हूं जो मेरी सुरक्षा और सहायता प्रणाली हैं। लेकिन अगर मेरे साथ ऐसा तब हुआ जब मैं स्कूल या कॉलेज में थी , मैं वास्तव में कल्पना नहीं कर सकती कि मैं इससे कैसे निपट सकती हूं। हमें एक समुदाय के रूप में और तत्काल इस पर ध्यान देने की जरूरत है, इससे पहले कि हममें से अधिक लोग इस तरह की पहचान की चोरी से प्रभावित हों,” उन्होंने लिखा।