सामग्री हाताळणी नवीन काही नसली तरी त्यासाठी गंभीर कौशल्याची आवश्यकता असते. बनावट सामग्री तयार करण्यासाठी आपल्यास एक शक्तिशाली संगणक आणि खरोखर चांगले कारण (किंवा फक्त खूप मोकळा वेळ) आवश्यक आहे. फेकअॅप सारखे डीपफेक क्रिएशन सॉफ्टवेअर विनामूल्य आहे, शोधणे सोपे आहे आणि त्यासाठी जास्त संगणक सामर्थ्याची आवश्यकता नाही. आणि हे सर्व कार्य स्वतःहून केल्यामुळे, आपल्याला खरोखर वास्तविक डीपफेक मीडिया बनविण्यासाठी कुशल संपादक असणे आवश्यक नाही.

यामुळेच सर्वसाधारण जनता, सेलिब्रिटी, राजकीय संस्था आणि सरकारे डीपफेक आंदोलनाची चिंता करीत आहेत. चुकीच्या हातात, मूर्ख निकोलस केज मेम्सपेक्षा बरेच काही खोटे सांगण्यासाठी डीपफेक क्रिएशनचा वापर केला जाऊ शकतो. अशी कल्पना करा की कोणी बनावट बातम्या तयार करीत आहे किंवा एखादा व्हिडिओ पुरावा आणत आहे. आपण समस्येमध्ये बनावट आणि बदला अश्लील जोडू शकता. गोष्टी गोंधळलेल्या वास्तविक द्रुत होऊ शकतात.

डीपफेक सामग्रीबद्दल चिंता करण्याचे आणखी एक कारण म्हणजे महत्त्वाच्या व्यक्तिमत्त्वे मागील कृती नाकारू शकतात. डीपफेक व्हिडिओ इतके वास्तविक दिसत असल्याने, कोणीही दावा करू शकतो की वास्तविक क्लिप म्हणजे डीपफेक आहे.

हेही वाचा: नीतिशास्त्र आणि एआय च्या गुंतागुंत

तोडगा शोधत आहे

अगदी वास्तविकतेजवळ असले तरीही, प्रशिक्षित डोळा अजूनही लक्ष देऊन एक बनावट व्हिडिओ शोधू शकतो. चिंता अशी आहे की भविष्यात काही वेळा आम्ही फरक सांगू शकणार नाही.

ट्विटर, पोर्नहब, रेडडिट आणि इतरांनी अशी सामग्री काढून टाकण्याचा अयशस्वी प्रयत्न केला आहे. अधिक अधिकृत बाजूने, डीएआरपीए (डिफेन्स प्रगत संशोधन प्रकल्प एजन्सी) संशोधन संस्था आणि कोलोरॅडो विद्यापीठात डीपफेक्स शोधण्याचा मार्ग तयार करण्यासाठी कार्यरत आहे.

डीपफेक व्हिडिओंचा मुकाबला करण्यासाठी आम्ही जे करू शकतो ते अधिक पाळलेले आणि कमी चंचल असणे आहे.