एलन मस्कको आर्टिफिसियल इन्टेलिजेन्स (एआई) प्लेटफर्म ‘ग्रोक’ गम्भीर विवादमा तानिएको छ। सामाजिक सञ्जाल एक्समा उपलब्ध यो एआई च्याटबट प्रयोग गरी महिलाहरूका तस्बिरबाट डिजिटल रूपमा लुगा हटाइ अर्धनग्न तथा यौनजन्य अवस्थाजस्तै देखाइने घटना सार्वजनिक भएको हो।

बीबीसीसँग कुरा गर्दै समान्था स्मिथ नामकी एक महिलाले आफ्नो तस्बिर अनुमतिबिना परिमार्जन भएपछि आफूलाई ‘अपमानित र वस्तु जस्तो’ महसुस भएको बताएकी छन्। उनले एक्समा यसबारे पोस्ट गरेपछि केही प्रयोगकर्ताले उल्टै ग्रोकलाई उनका थप यस्तै तस्बिर बनाउन आग्रह गरेको स्मिथको भनाइ छ। ती तस्बिरहरूमा आफू नभए पनि देख्दा उस्तै देखिने भएकाले वास्तविक नग्न तस्बिर सार्वजनिक भएजस्तै पीडादायी र हिंसात्मक अनुभूति भएको उनले बताइन्।

घटनाप्रति बेलायतको गृह मन्त्रालयले कडा प्रतिक्रिया दिएको छ। मन्त्रालयका प्रवक्ताका अनुसार ‘न्युडिफिकेसन’ (डिजिटल रूपमा लुगा हटाउने) प्रविधि वा औजार उपलब्ध गराउने जोसुकैलाई नयाँ फौजदारी कानुनअन्तर्गत जेल सजाय र ठुलो जरिवाना गरिनेछ। बेलायतको नियामक निकाय ‘अफकम’ ले पनि गैरसहमतिमा बनाइएका ‘डिपफेक’ तथा यौनजन्य सामग्री अवैध भएको स्पष्ट गर्दै प्रविधि कम्पनीहरूले यस्ता सामग्री रोक्न प्रभावकारी कदम चाल्नुपर्ने जनाएको छ।

तर, यस विषयमा ग्रोकको कम्पनी एक्सएआईले कुनै ठोस प्रतिक्रिया दिएको छैन। बीबीसीले प्रतिक्रिया माग्दा कम्पनीबाट ‘लेगेसी मिडियाले झुट बोल्छ’ भन्ने स्वचालित जवाफ मात्र आएको जनाइएको छ। डरहम विश्वविद्यालयकी कानुन प्राध्यापक क्लेयर म्याग्लिनले चाहेको खण्डमा एक्सले यस्ता दुरुपयोग रोक्न सक्ने भए पनि बेवास्ता गरिरहेको आरोप लगाएकी छन्।

यसअघि पनि ग्रोकमाथि गायिका टेलर स्विफ्टको यौनजन्य ‘डिपफेक’ सामग्री बनाएको आरोप लागिसकेको छ। एक्सको आफ्नै नीतिले कुनै पनि व्यक्तिको अश्लील तस्बिर वा भिडियो निर्माण निषेध गरे पनि व्यवहारमा भने प्रविधिको दुरुपयोग रोक्न नसकिएको आलोचना बढ्दै गएको छ।