अमेरिकी सीनेट ने वास्तविक लोगों की सहमति के बिना उनकी गहरी अश्लीलता के निर्माण पर प्रतिबंध लगाने वाला एक विधेयक पारित किया है। ब्लूमबर्ग की रिपोर्ट के अनुसार, दस्तावेज़ पीड़ितों को हर्जाना मांगने और दस्तावेजों के आगे प्रसार के खिलाफ अदालत के आदेश की मांग करने का अधिकार देता है।
यह पहल एक नियम पर आधारित है जिसके तहत डिजिटल प्लेटफॉर्म को फोटो में दर्शाए गए व्यक्ति की शिकायत के 48 घंटे के भीतर ऐसे डीपफेक को हटाना होगा। उल्लंघन के मामले में, पीड़ित न केवल डीपफेक के लेखकों पर मुकदमा कर सकते हैं, बल्कि उनके निर्माण और वितरण की समय पर रोकथाम की मांग भी कर सकते हैं।
विधायिका की प्रतिक्रिया का कारण एलोन मस्क के ग्रोक चैटबॉट से जुड़ा घोटाला था, जिसने सोशल नेटवर्क एक्स (पूर्व में ट्विटर) के अंदर नकली अश्लील सामग्री बनाई थी। परिणामस्वरूप, सेवा को मलेशिया और इंडोनेशिया में अवरुद्ध कर दिया गया है, और प्लेटफ़ॉर्म में छवि निर्माण और संपादन कार्य सीमित हैं, जिससे सेवा शुल्क योग्य हो गई है।
समानांतर में, यूके संचार नियामक ऑफकॉम ने, सरकार के अनुरोध पर, उपयोगकर्ताओं को अवैध एआई सामग्री से बचाने के लिए आवश्यकताओं के अनुपालन के लिए एक्स की गतिविधियों की जांच शुरू की।
