आज के डिजिटल जमाने में इंटरनेट पर हर तरह की तस्वीर और वीडियो बहुत तेजी से फैलती है। लेकिन अब एक नई समस्या उभरकर सामने आई है — AI-जनरेटेड इमेज और डीपफेक यानी ऐसे चित्र और वीडियो जो Artificial Intelligence (AI) की मदद से असली जैसा दिखते हैं, लेकिन असल में नकली होते हैं। इनका उपयोग न केवल मज़े के लिए होता है, बल्कि कभी-कभी गलत सूचना फैलाने, किसी की छवि खराब करने या समाज में अशांति फैलाने के लिए भी किया जाता है।
इसी समस्या से निपटने के लिए भारत सरकार ने एआई-जनरेटेड इमेज और डीपफेक कंटेंट के खिलाफ सख़्त कार्रवाई करने का निर्णय लिया है — ताकि इंटरनेट पर भरोसा बना रहे और लोगों की निजता सुरक्षित रहे।
एआई-जनरेटेड कंटेंट और डीपफेक क्या है?
एआई-जनरेटेड कंटेंट वह मीडिया होता है जिसे कंप्यूटर या AI टूल्स की मदद से बनाया जाता है। ये तस्वीरें, वीडियो या ऑडियो इतनी उन्नत होती हैं कि अक्सर इनको असली से अलग पहचानना मुश्किल हो जाता है।
डीपफेक एक विशेष तरह का एआई-जनरेटेड वीडियो या इमेज होता है जिसमें किसी असली व्यक्ति की आवाज़ या चेहरा बदलकर नकली वीडियो बना दिया जाता है — कभी-कभी इंसानों को गलत बयान देते या नकारात्मक रूप में दिखाने के लिए।
सरकार ने क्या कदम उठाए हैं?
1. AI कंटेंट पर लेबल लगाना अनिवार्य
भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने प्रस्तावित नियमों के अनुसार कहा है कि
👉 हर एआई-जनरेटेड या सिंथेटिक कंटेंट पर स्पष्ट रूप से लेबल दिखाना होगा।
👉 यह लेबल कम से कम 10% हिस्से पर दिखाई देना चाहिए — ताकि उपयोगकर्ता आसानी से पहचान सकें कि यह वास्तविक नहीं बल्कि AI द्वारा बनाया गया है।
इसका उद्देश्य यह सुनिश्चित करना है कि लोग जानें कि वे जो तस्वीर या वीडियो देख रहे हैं वह नकली है — इससे ग़लत जानकारी फैलने की संभावना कम होगी।
2. कानूनी जिम्मेदारी और दंड
सरकार न केवल एआई-जनरेटेड कंटेंट पर लेबलिंग चाहती है, बल्कि
✔ अगर कोई व्यक्ति किसी की निजता या प्रतिष्ठा को हानि पहुँचाने के लिए AI-वीडियो बनाए या साझा करे, तो उसके खिलाफ जुर्माना और जेल जैसे क़दम उठाए जा सकें।
✔ सोशल मीडिया प्लेटफॉर्म से ऐसे नकली कंटेंट को हटाने की प्रक्रिया तेज होगी।
भारत में पहले से ही आईटी अधिनियम (IT Act) के तहत ऐसे मामलों में कड़ी सज़ा हो सकती है, जिसमें किसी की तस्वीर या वीडियो बिना अनुमति के शेयर करना शामिल है।
3. प्लेटफॉर्म की ज़िम्मेदारी
सोशल मीडिया प्लेटफॉर्म जैसे फेसबुक, ट्विटर (अब X), इंस्टाग्राम, यूट्यूब और दूसरे प्लेटफॉर्म को यह ज़रूरी किया जा रहा है कि वे:
1. एआई-जनरेटेड कंटेंट की पहचान करें।
2. इसका लेबल दिखाएँ।
3. अगर कोई ग़लत जानकारी फैलाए, तो उसे हटाने के लिए उचित कदम उठाएँ।
अगर प्लेटफॉर्म यह नहीं करता, तो उसके खिलाफ सख़्त कार्रवाई भी हो सकती है।
नए नियम क्यों ज़रूरी हैं?
• मिसइन्फॉर्मेशन का खतरा
AI-जनरेटेड इमेज और डीपफेक वीडियो को देखकर अक्सर पता नहीं चलता कि वे असली हैं या नकली। इससे गलत खबरें फैल सकती हैं, लोकप्रियता को नुकसान पहुंच सकता है और समाजिक बिखराव भी हो सकता है।
AI एक शानदार तकनीक है, लेकिन जब इसका दुरुपयोग नकली तस्वीरें और वीडियो तैयार करने में हो रहा है, जो समाज को ग़लत दिशा में ले जाने की क्षमता रखते है। इसी खतरे को देखते हुए भारत सरकार ने AAI-जनरेटेड इमेज और डीपफेक सामग्री के खिलाफ सख़्त कदम उठाए हैं — जिसमें लेबलिंग, कानूनी कार्रवाई, और सोशल मीडिया प्लेटफॉर्म की जवाबदेही शामिल है।
इस तरह के कदम से डिजिटल दुनिया अधिक सुरक्षित, पारदर्शी और भरोसेमंद बनेगी — जिससे सत्य और झूठ में फर्क करना आसान होगा और दुरुपयोग रोकने में मदद मिलेगी।
