सोशल मीडिया पर AI वीडियो लाखों लोगों को गुमराह कर रहे हैं

-Uttarakhand  Himalaya Desk-

कृत्रिम बुद्धिमता ( AI )  के नए ऐप Sora से बनाए गए वीडियो दिखाते हैं कि किस तरह कुछ सरल प्रॉम्प्ट्स की मदद से वास्तविकता जैसी दिखने वाली वैकल्पिक दुनिया तैयार की जा सकती है और इससे जनमानस की धारणा को आसानी से प्रभावित किया जा सकता है।

Sora के लॉन्च होने के दो महीनों में, धोखाधड़ी वाले वीडियो X, YouTube, Facebook और Instagram पर तेजी से बढ़े हैं, ऐसा इनकी निगरानी करने वाले विशेषज्ञों का कहना है। इस बाढ़ ने दुष्प्रचार और फर्जी सामग्री की नई पीढ़ी को लेकर चिंता बढ़ा दी है।

अधिकांश बड़ी सोशल मीडिया कंपनियों के पास ऐसी नीतियाँ हैं जो AI सामग्री के खुलासे की आवश्यकता बताती हैं। वे यह भी कहती हैं कि धोखे के उद्देश्य से बनाई गई AI सामग्री पर प्रतिबंध है। लेकिन विशेषज्ञों का कहना है कि ये सुरक्षा उपाय तेजी से उभर रही टेक्नॉलजी के सामने बेहद कमजोर साबित हो रहे हैं।

कई वीडियो अभी भी बच्चों और पालतू जानवरों के मीम की तरह निर्दोष लगते हैं, लेकिन अन्य वीडियो राजनीतिक बहसों में नफरत और विवाद को भड़काने के लिए बनाए जा रहे हैं। कुछ को पहले ही विदेशी प्रभाव अभियानों में इस्तेमाल किया जा चुका है। शोधकर्ताओं का कहना है कि AI-जनित फर्जी वीडियो इतनी तेजी से फैल रहे हैं कि अब कंपनियों पर यह जिम्मेदारी है कि वे सुनिश्चित करें कि लोग असल और नकली में फर्क कर सकें।

AI शोधकर्ता सैम ग्रेगोरी कहते हैं, “क्या प्लेटफॉर्म दुष्प्रचार की निगरानी और लेबलिंग में बेहतर कर सकते हैं? बिल्कुल, लेकिन वे इस तकनीक के स्तर को देखते हुए अभी तैयार नहीं हैं।”

AI वीडियो बनाने वाली कंपनियाँ, जैसे OpenAI का Sora और Google का Veo, वीडियो पर दिखाई देने वाले वॉटरमार्क लगाती हैं। Sora अपने हर वीडियो पर “Sora” का लेबल लगाता है और मेटाडेटा भी जोड़ता है जिससे कंप्यूटर वीडियो के स्रोत का पता लगा सके। उद्देश्य यह है कि दर्शक जान सकें कि जो वे देख रहे हैं वह असली नहीं, बल्कि डिजिटल रूप से तैयार किया गया है।

कुछ प्लेटफॉर्म इस तकनीक का उपयोग कर रहे हैं। YouTube Sora के अदृश्य वॉटरमार्क का उपयोग करता है और सामग्री पर “altered or synthetic” का लेबल लगाता है ताकि पारदर्शिता बनी रहे।

लेकिन उपयोगकर्ता यह भी सीख चुके हैं कि इन खुलासों को कैसे हटाया जाए। कुछ लोग वॉटरमार्क हटाने के लिए तकनीकों का इस्तेमाल करते हैं। कई कंपनियाँ ऐसे टूल भी बेच रही हैं जो लोगो और वॉटरमार्क हटाते हैं।

OpenAI का कहना है कि वह Sora के भ्रामक या दुष्प्रचार फैलाने वाले उपयोग पर रोक लगाता है और नीतियों का उल्लंघन करने वालों पर कार्रवाई करता है। कंपनी ने बताया कि उसका ऐप ऐसे कई वीडियो बनाने के लिए उपयोग किया गया है जिन्हें वास्तविक मान लिया गया क्योंकि वे अत्यंत वास्तविक लगते हैं।

Meta, जो Facebook और Instagram संचालित करती है, कहती है कि वह हर AI-जनित वीडियो को लेबल करने के लिए संभावनाओं की तलाश कर रही है।