जैसे-जैसे एआई अधिक मुख्यधारा बनता जा रहा है, डीपफेक वीडियो और छवियां बढ़ रही हैं। भारत के साथ-साथ अन्य देशों में भी AI-जनित सामग्री बढ़ रही है और उनका दुरुपयोग भी बढ़ रहा है। इसे ध्यान में रखते हुए, मेटा -की मूल कंपनी फेसबुक, Instagram – एआई-जनित छवियों की पहचान करने और उन्हें लेबल करने की अपनी योजना का खुलासा किया है। निक क्लेगअध्यक्ष, वैश्विक मामलें, मेटा का मानना है कि जेनरेटिव एआई उपकरण बड़े अवसर प्रदान करते हैं, और इन प्रौद्योगिकियों को पारदर्शी और जवाबदेह तरीके से विकसित करना संभव और आवश्यक दोनों है। “इसलिए हम लोगों को यह जानने में मदद करना चाहते हैं कि एआई का उपयोग करके फोटोरिअलिस्टिक छवियां कब बनाई गई हैं, और हम जो संभव है उसकी सीमाओं के बारे में भी खुले क्यों हैं,” उन्होंने कहा। क्लेग एक ब्लॉग पोस्ट में.
जब फोटोरिअलिस्टिक छवियों का उपयोग करके बनाया जाता है मेटा एआई सुविधा, कंपनी ने बताया कि यह सुनिश्चित करने के लिए कि लोगों को पता चले कि एआई शामिल है, वह कई चीजें करती है, जिसमें दृश्यमान मार्कर लगाना शामिल है जिसे आप छवियों पर देख सकते हैं, और अदृश्य वॉटरमार्क और छवि फ़ाइलों के भीतर एम्बेडेड मेटाडेटा दोनों शामिल हैं। क्लेग ने कहा, “इस तरह से अदृश्य वॉटरमार्किंग और मेटाडेटा दोनों का उपयोग करने से इन अदृश्य मार्करों की मजबूती में सुधार होता है और अन्य प्लेटफार्मों को उन्हें पहचानने में मदद मिलती है।”
इसके अलावा, मेटा लोगों के लिए एआई-जनरेटेड वीडियो या ऑडियो साझा करने पर खुलासा करने के लिए एक सुविधा भी जोड़ रहा है ताकि वह इसमें एक लेबल जोड़ सके। मेटा को लोगों से इस प्रकटीकरण और लेबल टूल का उपयोग करने की भी आवश्यकता होगी जब वे किसी फोटोरिअलिस्टिक वीडियो या यथार्थवादी-ध्वनि वाले ऑडियो के साथ कार्बनिक सामग्री पोस्ट करते हैं जो डिजिटल रूप से बनाया या बदला गया था, और यदि वे ऐसा करने में विफल रहते हैं तो हम जुर्माना लगा सकते हैं। “यदि हम यह निर्धारित करते हैं कि डिजिटल रूप से बनाई गई या परिवर्तित छवि, वीडियो या ऑडियो सामग्री किसी महत्वपूर्ण मामले पर जनता को धोखा देने का विशेष रूप से उच्च जोखिम पैदा करती है, तो यदि उचित हो तो हम एक अधिक प्रमुख लेबल जोड़ सकते हैं, ताकि लोगों के पास अधिक जानकारी और संदर्भ हो।” क्लेग ने कहा.
जब फोटोरिअलिस्टिक छवियों का उपयोग करके बनाया जाता है मेटा एआई सुविधा, कंपनी ने बताया कि यह सुनिश्चित करने के लिए कि लोगों को पता चले कि एआई शामिल है, वह कई चीजें करती है, जिसमें दृश्यमान मार्कर लगाना शामिल है जिसे आप छवियों पर देख सकते हैं, और अदृश्य वॉटरमार्क और छवि फ़ाइलों के भीतर एम्बेडेड मेटाडेटा दोनों शामिल हैं। क्लेग ने कहा, “इस तरह से अदृश्य वॉटरमार्किंग और मेटाडेटा दोनों का उपयोग करने से इन अदृश्य मार्करों की मजबूती में सुधार होता है और अन्य प्लेटफार्मों को उन्हें पहचानने में मदद मिलती है।”
इसके अलावा, मेटा लोगों के लिए एआई-जनरेटेड वीडियो या ऑडियो साझा करने पर खुलासा करने के लिए एक सुविधा भी जोड़ रहा है ताकि वह इसमें एक लेबल जोड़ सके। मेटा को लोगों से इस प्रकटीकरण और लेबल टूल का उपयोग करने की भी आवश्यकता होगी जब वे किसी फोटोरिअलिस्टिक वीडियो या यथार्थवादी-ध्वनि वाले ऑडियो के साथ कार्बनिक सामग्री पोस्ट करते हैं जो डिजिटल रूप से बनाया या बदला गया था, और यदि वे ऐसा करने में विफल रहते हैं तो हम जुर्माना लगा सकते हैं। “यदि हम यह निर्धारित करते हैं कि डिजिटल रूप से बनाई गई या परिवर्तित छवि, वीडियो या ऑडियो सामग्री किसी महत्वपूर्ण मामले पर जनता को धोखा देने का विशेष रूप से उच्च जोखिम पैदा करती है, तो यदि उचित हो तो हम एक अधिक प्रमुख लेबल जोड़ सकते हैं, ताकि लोगों के पास अधिक जानकारी और संदर्भ हो।” क्लेग ने कहा.
