सरकार ने कानूनी सुरक्षा उपायों, प्लेटफॉर्म की जवाबदेही और नागरिक सुरक्षा के माध्यम से कृत्रिम बुद्धिमत्ता से उत्पन्न डीपफेक का मुकाबला करने के लिए ढांचे को मजबूत किया है।

सरकार कृत्रिम बुद्धिमत्ता (एआई) द्वारा संचालित डीपफेक से उत्पन्न खतरों के प्रति सचेत है, जिसमें कृत्रिम ऑडियो, वीडियो और टेक्स्ट शामिल हैं। उपयोगकर्ताओं के लिए एक खुला, सुरक्षित, विश्वसनीय और जवाबदेह साइबरस्पेस सुनिश्चित करने के उद्देश्य से, भारत सरकार ने डीपफेक की चुनौती के विभिन्न पहलुओं से निपटने के लिए निम्नलिखित कानून और नियम बनाए हैं:

सूचना प्रौद्योगिकी अधिनियम, 2000 (“आईटी अधिनियम”)

• इसमें पहचान की चोरी (धारा 66सी), प्रतिरूपण (धारा 66डी), निजता का उल्लंघन (धारा 66ई), अश्लील या यौन रूप से स्पष्ट सामग्री का प्रकाशन या प्रसारण (धारा 67, 67ए) जैसे अपराध शामिल हैं।
• मध्यस्थों को विशिष्ट सूचना/लिंक तक पहुंच को अवरुद्ध करने के लिए अवरोध आदेश जारी करने का प्रावधान (धारा 69ए)
• अवैध कृत्य करने के लिए उपयोग की जा रही जानकारी को हटाने के लिए मध्यस्थों को नोटिस जारी करने का प्रावधान (धारा 79)
• इसके अलावा, अधिनियम पुलिस को अपराधों की जांच करने का अधिकार भी देता है (धारा 78 और 80)।

भारतीय न्याय संहिता,2023 (“बीएनएस”)

• धारा 353 का उद्देश्य गलत सूचना और भ्रामक जानकारी के प्रसार को रोकना है, जिसके तहत झूठे या भ्रामक बयान, अफवाहें या रिपोर्ट बनाने के कृत्य को दंडित किया जाता है जो सार्वजनिक उपद्रव या भय का कारण बन सकते हैं।
• डीपफेक सामग्री से जुड़े संगठित साइबर अपराधों पर भी धारा 111 के तहत मुकदमा चलाया जा सकता है।

सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 (“आईटी नियम”)

आईटी नियमों में मध्यस्थों पर अपने कर्तव्यों का निर्वहन करते समय उचित सावधानी बरतने का विशिष्ट दायित्व डाला गया है और उन्हें कंप्यूटर संसाधनों के उपयोगकर्ताओं को यह सूचित करना होगा कि वे किसी भी ऐसी जानकारी को होस्ट, प्रदर्शित, अपलोड, संशोधित, प्रकाशित, प्रसारित, अपडेट या साझा न करें जो

• अश्लील, पोर्नोग्राफिक, निजता का उल्लंघन करने वाला, या घृणा या हिंसा को बढ़ावा देने वाला;
• बच्चों को नुकसान पहुंचाता है;
•  जो गुमराह करता है या धोखा देता है, जिसमें डीप-फेक के माध्यम से भी शामिल है;
•  कृत्रिम बुद्धिमत्ता सहित अन्य लोगों का रूप धारण करता है;
• राष्ट्रीय सुरक्षा या सार्वजनिक व्यवस्था को खतरा;
•  किसी भी लागू कानून का उल्लंघन करता है।

मध्यस्थों को सेवा की शर्तों और उपयोगकर्ता समझौतों के माध्यम से उपयोगकर्ताओं को गैरकानूनी सामग्री साझा करने के परिणामों के बारे में स्पष्ट रूप से सूचित करना चाहिए, जिसमें सामग्री को हटाना, खाते को निलंबित करना या समाप्त करना शामिल है।

भारत में 50 लाख या उससे अधिक पंजीकृत उपयोगकर्ता आधार वाले सोशल मीडिया मध्यस्थों (एसएसएमआई) को निम्नलिखित अतिरिक्त दायित्वों का पालन करना आवश्यक है:

• संदेश भेजने की सेवाएं प्रदान करने वाले सामाजिक-आर्थिक माध्यमों (एसएसएमआई) को कानून प्रवर्तन एजेंसियों को गंभीर या संवेदनशील सामग्री के मूल रचनाकारों का पता लगाने में मदद करनी चाहिए।
• अवैध सामग्री के प्रसार का पता लगाने और उसे सीमित करने के लिए स्वचालित उपकरणों का उपयोग करना।
• अनुपालन रिपोर्ट प्रकाशित करें, स्थानीय अधिकारियों की नियुक्ति करें और अनुपालन और कानून प्रवर्तन समन्वय के लिए भारत में स्थित भौतिक पते साझा करें।
• स्वैच्छिक उपयोगकर्ता सत्यापन, आंतरिक अपील और स्वतः संज्ञान लेने से पहले निष्पक्ष सुनवाई का प्रावधान करें।

शिकायत निवारण तंत्र:

मध्यस्थों को शिकायत अधिकारी नियुक्त करना और निर्धारित समय सीमा के भीतर शिकायतों का समाधान करना अनिवार्य है। यदि मध्यस्थों के शिकायत अधिकारियों द्वारा उनकी शिकायतों का समाधान नहीं किया जाता है, तो उपयोगकर्ता https://www.gac.gov.in पर ऑनलाइन अपील कर सकते हैं। जीएसी   सामग्री मॉडरेशन संबंधी निर्णयों में जवाबदेही और पारदर्शिता सुनिश्चित करते हैं।

पुलिस में दर्ज शिकायतों की जांच संबंधित कानून प्रवर्तन एजेंसियों (एलईए) द्वारा प्रासंगिक वैधानिक ढांचे के तहत की जाती है। भारत के संविधान की सातवीं अनुसूची के अनुसार, ‘पुलिस’ और ‘सार्वजनिक व्यवस्था’ राज्य के विषय हैं, इसलिए साइबर अपराध सहित अपराधों की रोकथाम, पता लगाने, जांच और अभियोजन के लिए मुख्य रूप से राज्य/केंद्र शासित प्रदेश जिम्मेदार हैं।

हाल के संशोधन:

10 फरवरी, 2026 को सरकार ने कृत्रिम रूप से उत्पन्न सूचना (एसजीआई) से होने वाले नुकसानों से निपटने के लिए आईटी नियम, 2021 में संशोधन करके नियामक ढांचे को मजबूत किया, जिसमें डीपफेक और एआई-जनित सामग्री शामिल है।

संशोधन से संबंधित मुख्य बिंदु निम्नलिखित हैं: –

• मध्यस्थों को यह सुनिश्चित करना आवश्यक है कि अनुमत एआई-जनित सामग्री के लिए स्पष्ट लेबलिंग और पता लगाने योग्य मेटाडेटा उपलब्ध हो, ताकि उपयोगकर्ता कृत्रिम रूप से उत्पन्न सामग्री को आसानी से पहचान सकें और धोखाधड़ी या दुरुपयोग को रोक सकें।
• यह उपयोगकर्ता की जवाबदेही और प्लेटफॉर्म की उचित सावधानी को और मजबूत करता है, जिसमें गैरकानूनी एआई-जनित सामग्री के कानूनी परिणामों के बारे में उपयोगकर्ताओं की अनिवार्य जागरूकता और सोशल मीडिया मध्यस्थों के लिए मजबूत अनुपालन दायित्व शामिल हैं।
• महत्वपूर्ण बात यह है कि दिशानिर्देशों में स्पष्ट रूप से बाल यौन शोषण सामग्री, बिना सहमति के अंतरंग चित्र, प्रतिरूपण और अन्य हानिकारक एआई-जनित सामग्री को शामिल किया गया है, जिसमें प्लेटफार्मों को ऐसी सामग्री को रोकने और पता चलने पर तुरंत कार्रवाई करने की आवश्यकता होती है।
• अनुपालन के लिए समयसीमा को सुदृढ़ करना, जिसमें उचित सरकार या न्यायालय के आदेशों से वैध तर्कसंगत सूचना मिलने पर गैरकानूनी जानकारी को हटाने की समयसीमा को कम करना (समयसीमा 36 घंटे से घटाकर 3 घंटे कर दी गई है) और शिकायत निवारण (जिसमें नग्नता/पहचान छिपाना आदि जैसी विशेष श्रेणियां शामिल हैं) के लिए समयसीमा को कम करना (संवेदनशील मामलों के लिए समयसीमा क्रमशः 72 घंटे से घटाकर 36 घंटे और 24 घंटे से घटाकर 2 घंटे कर दी गई है)।
• मध्यस्थों का यह दायित्व है कि वे उचित और उपयुक्त तकनीकी उपाय अपनाएं, जिनमें स्वचालित उपकरण या अन्य उपयुक्त तंत्र शामिल हैं, ताकि किसी भी उपयोगकर्ता को कृत्रिम रूप से उत्पन्न ऐसी कोई भी जानकारी बनाने, उत्पन्न करने, संशोधित करने, बदलने, प्रकाशित करने, प्रसारित करने, साझा करने या फैलाने की अनुमति न दी जाए जो उस समय लागू किसी भी कानून का उल्लंघन करती हो।
• आईटी नियमों के अनुसार, महत्वपूर्ण सोशल मीडिया मध्यस्थों (एसएसएमआई) को उचित तकनीकी उपाय करने के लिए उचित प्रयास करने होंगे, जिनमें स्वचालित उपकरण या अन्य उपयुक्त तंत्र शामिल हैं, ताकि ऐसी जानकारी की पहचान की जा सके जो किसी भी रूप में बलात्कार, बाल यौन शोषण या दुर्व्यवहार को दर्शाती हो, चाहे वह स्पष्ट हो या अस्पष्ट, या ऐसी कोई भी जानकारी जो सामग्री में पहले से हटाई गई जानकारी के बिल्कुल समान हो।

सूचना प्रौद्योगिकी नियमों में दिए गए कानूनी दायित्वों का पालन न करने की स्थिति में, मध्यस्थों को सूचना प्रौद्योगिकी अधिनियम की धारा 79 के तहत प्राप्त तृतीय पक्ष सूचना से छूट समाप्त हो जाती है। वे किसी भी मौजूदा कानून के तहत दंडात्मक कार्रवाई या अभियोजन के लिए उत्तरदायी होंगे।

सलाह और मानक संचालन प्रक्रिया (एसओपी):

सरकार ने सोशल मीडिया मध्यस्थों सहित सभी मध्यस्थों को कई सलाह जारी की हैं, जिनमें सूचना प्रौद्योगिकी अधिनियम और सूचना प्रौद्योगिकी नियमों के तहत उचित सावधानी बरतने के दायित्वों के पालन पर जोर दिया गया है। जारी की गई सलाहों और तैयार किए गए मानक संचालन प्रक्रियाओं (एसओपी) का विवरण इस प्रकार है:

• दिनांक 29.12.2025 की सलाह के माध्यम से, सरकार ने मध्यस्थों को सूचना प्रौद्योगिकी अधिनियम और सूचना प्रौद्योगिकी नियमों के तहत वैधानिक उचित सावधानी बरतने के दायित्वों का पालन करने के लिए दोहराया, ताकि उनके प्लेटफार्मों पर अश्लील, अभद्र, आपत्तिजनक, पोर्नोग्राफिक और अन्य गैर-कानूनी सामग्री की मेजबानी, प्रकाशन, प्रसारण, साझाकरण या अपलोडिंग को रोका जा सके। इसने मध्यस्थों को अपने आंतरिक अनुपालन ढांचे, सामग्री नियंत्रण प्रथाओं और उपयोगकर्ता प्रवर्तन तंत्रों की तत्काल समीक्षा करने और सूचना प्रौद्योगिकी अधिनियम और सूचना प्रौद्योगिकी नियमों के प्रावधानों का कड़ाई से और निरंतर पालन सुनिश्चित करने की भी सलाह दी।
• धार्मिक मामलों से संबंधित सूचनाओं के ज़िम्मेदारीपूर्ण प्रबंधन के संबंध में मध्यस्थों को दिनांक 09.02.2026 को एक सलाह जारी की गई थी। मध्यस्थों को सलाह दी गई थी कि वे धार्मिक सामग्री के उचित संवेदनशीलता, सटीकता और सम्मान के साथ व्यवहार सुनिश्चित करने के लिए तत्काल उन्नत निगरानी और जवाबदेही ढांचे लागू करें, और यह भी कि उनके प्लेटफार्मों पर किसी भी प्रकार की विकृत, भ्रामक या गैर-कानूनी धार्मिक सामग्री का प्रसार न हो। साथ ही, मध्यस्थों द्वारा वैधानिक उचित सावधानी दायित्वों का पालन न करने पर सूचना प्रौद्योगिकी अधिनियम की धारा 79 के अंतर्गत दी गई छूट समाप्त हो सकती है और लागू कानूनों के तहत परिणामी कानूनी कार्रवाई का सामना करना पड़ सकता है।
• दिनांक 16.03.2026 को मध्यस्थों को अपमानजनक, मानहानिकारक, आपत्तिजनक, निंदनीय और भ्रामक कृत्रिम रूप से उत्पन्न जानकारी के निर्माण, होस्टिंग, प्रकाशन, प्रसारण, साझाकरण या अपलोड करने के संबंध में एक सलाह जारी की गई थी।
• ऑनलाइन प्लेटफॉर्म पर गैर-सहमति से प्राप्त अंतरंग छवियों (NCII) के प्रसार को रोकने के लिए एक मानक संचालन प्रक्रिया (“SoP”) तैयार की गई है और इसे 11.11.2025 को जारी किया गया है। SoP पीड़ितों, मध्यस्थों और कानून प्रवर्तन एजेंसियों को विस्तृत मार्गदर्शन प्रदान करती है ताकि बिना सहमति के साझा की गई अंतरंग या रूपांतरित छवियों सहित NCII सामग्री के ऑनलाइन प्रसार के खिलाफ त्वरित और एकसमान कार्रवाई सुनिश्चित की जा सके।

भारत की सांस्कृतिक विरासत के संरक्षण के लिए स्वदेशी एआई-आधारित उपकरण

ज्ञान भारतम वेब पोर्टल भारत की हस्तलिखित विरासत तक बुद्धिमत्तापूर्ण पहुंच प्रदान करने के लिए कृत्रिम बुद्धिमत्ता (एआई) से लैस तकनीकों का उपयोग करता है, जिनमें लार्ज लैंग्वेज स्क्रिप्ट मॉडल (एलएलएसएम), ऑप्टिकल कैरेक्टर रिकग्निशन (ओसीआर), हस्तलिखित पाठ पहचान (एचटीआर), लिपि पहचान, सिमेंटिक सर्च और मशीन-सहायता प्राप्त अनुवाद शामिल हैं।

ज्ञान मित्रम , ज्ञान भारतम वेब पोर्टल का एआई-संचालित ज्ञान इंटरफ़ेस है जो पांडुलिपि छवियों, प्रतिलेखों और अनुवादों को एकीकृत करके पांडुलिपियों की बुद्धिमान व्याख्या, प्रासंगिककरण और अन्वेषण को सक्षम करने के लिए एलएलएसएम, ओसीआर, एचटीआर, स्क्रिप्ट पहचान, सिमेंटिक खोज और मशीन-सहायता प्राप्त अनुवाद का उपयोग करता है।

भारतीयजीपीटी ने ज्ञान भारतम वेब पोर्टल पर “पांडुलिपि से संवादात्मक एआई” की सुविधा उपलब्ध कराई है, जो पांडुलिपि विरासत को एआई-तैयार, मशीन-पठनीय ज्ञान में परिवर्तित करती है और “टॉक टू मैन्युस्क्रिप्ट” सुविधा के माध्यम से पाठ, ऑडियो और आवाज-आधारित बातचीत सहित बहुभाषी और बहुआयामी पहुंच प्रदान करती है, जिससे भारत की ज्ञान परंपराएं विद्वानों, छात्रों, शोधकर्ताओं और आम जनता के लिए अधिक सुलभ हो जाती हैं।

डीपफेक सामग्री का पता लगाना

इंडियाएआई मिशन का सुरक्षित और विश्वसनीय एआई स्तंभ स्वदेशी शासन ढांचे, मानकों, उपकरणों और मूल्यांकन तंत्रों के माध्यम से एआई के जिम्मेदार विकास, तैनाती और अपनाने को बढ़ावा देना चाहता है। देश भर के शैक्षणिक संस्थानों में 13 जिम्मेदार एआई परियोजनाओं को मंजूरी दी गई है, जिनमें डीपफेक का पता लगाना भी शामिल है।

डीपफेक का पता लगाने से संबंधित प्रमुख पहलों में निम्नलिखित शामिल हैं:

• साक्ष्य, आईआईटी जोधपुर और आईआईटी मद्रास द्वारा विकसित एक मल्टी-एजेंट फ्रेमवर्क है जिसका उपयोग डीप फेक डिटेक्शन के लिए किया जाता है।
•  ऑडियो-विजुअल जालसाजी पहचान प्रणाली में सुधार के लिए एआई विश्लेशक
•  आईआईटी खड़गपुर की रियल-टाइम वॉयस डीपफेक डिटेक्शन सिस्टम पर परियोजना 

जागरूकता अभियान:

सूचना सुरक्षा शिक्षा एवं जागरूकता (आईएसईए) – सरकार सूचना सुरक्षा क्षेत्र में मानव संसाधन सृजित करने और साइबर स्वच्छता एवं साइबर सुरक्षा के विभिन्न पहलुओं के बारे में आम जनता में जागरूकता पैदा करने के लिए ‘सूचना सुरक्षा शिक्षा एवं जागरूकता (आईएसईए)’ परियोजना लागू कर रही है। अब तक, देशभर में 6,650 जागरूकता कार्यशालाएं आयोजित की जा चुकी हैं, जिनमें स्कूल/कॉलेज के छात्रों, शिक्षकों, कानून प्रवर्तन अधिकारियों, सरकारी कर्मचारियों और आम जनता सहित 11.37 लाख से अधिक प्रतिभागियों ने भाग लिया है।

इसके अलावा, पुस्तिकाओं, लघु वीडियो, पोस्टर, ब्रोशर, बच्चों के लिए कार्टून कहानियों आदि के रूप में बहुभाषी जागरूकता सामग्री प्रिंट, इलेक्ट्रॉनिक, सोशल मीडिया और www.isea.gov.in और https://staysafeonline.in/ के माध्यम से प्रकाशित और प्रसारित की गई ।

CERT-In : भारतीय कंप्यूटर आपातकालीन प्रतिक्रिया टीम (ICT) नियमित रूप से AI से संबंधित खतरों और उनसे बचाव के उपायों पर दिशानिर्देश जारी करती है, जिनमें डीपफेक भी शामिल है। यह अपनी आधिकारिक वेबसाइटों और सोशल मीडिया हैंडल पर सुरक्षा संबंधी सुझाव, जागरूकता पोस्टर, इन्फोग्राफिक्स और वीडियो साझा करती है और इसका उद्देश्य इंटरनेट उपयोगकर्ताओं को साइबर सुरक्षा हमलों और धोखाधड़ी के बारे में जागरूक करना है, जिसमें बच्चों के लिए ऑनलाइन सुरक्षा उपाय भी शामिल हैं। इसने नवंबर 2024 में डीपफेक के खतरों और उनसे सुरक्षित रहने के लिए अपनाए जाने वाले उपायों पर एक सलाह प्रकाशित की थी।

यह जानकारी केंद्रीय राज्य मंत्री श्री जितिन प्रसाद ने 29.07.2026 को लोकसभा में प्रस्तुत की थी।