न्युयोर्क । एलन मस्कको कम्पनी एक्स (X) अन्तर्गतको एआई मोडल ‘ग्रोक’ ले अब वास्तविक मानिसहरूको अर्धनग्न वा अश्लील तस्बिर सम्पादन गर्न नदिने व्यवस्था लागू गरेको छ। बेलायत, अमेरिका लगायतका देशहरूमा एआईबाट सिर्जना हुने अश्लील ‘डीपफेक’ तस्बिरप्रति बढ्दो चिन्ता र कानुनी दबाबका बीच कम्पनीले कडाइ गरेको हो।
एक्सले जारी गरेको सूचनाअनुसार अब ग्रोक प्रयोग गरेर वास्तविक मानिसहरूलाई बिकिनी, भित्री वस्त्र वा यस्तै प्रकृतिका कपडामा देखाइने तस्बिरहरू सम्पादन गर्न मिल्ने छैन। यो प्रतिबन्ध सशुल्क (पेड) प्रयोगकर्तासहित सबै प्रयोगकर्तामा लागू हुनेछ। कम्पनीले दुरुपयोग रोक्न विशेष प्राविधिक उपायहरू लागू गरिएको जनाएको छ।
क्यालिफोर्नियाका महान्यायाधिवक्ताले एआई मोडेलमार्फत बालबालिका र महिलासम्बन्धी अश्लील डीपफेक सामग्री फैलिएको विषयमा छानबिन भइरहेको जानकारी दिएको केही घण्टापछि नै एक्सले यो निर्णय सार्वजनिक गरेको हो। महान्यायाधिवक्ता रोब बोन्टाले यस्ता सामग्रीहरू उत्पीडन, धम्की र बदनाम गर्ने प्रयोजनमा प्रयोग भइरहेको भन्दै गम्भीर चिन्ता व्यक्त गरेका थिए।
एक्सले तस्बिर सम्पादनजस्ता उन्नत सुविधाका लागि सशुल्क प्रयोगकर्ता प्रणाली कायम रहने स्पष्ट पारेको छ। कम्पनीका अनुसार यसले कानुन तथा प्लेटफर्म नीतिको उल्लङ्घन गर्ने प्रयासहरूलाई नियन्त्रण गर्न, प्रयोगकर्तालाई जवाफदेही बनाउन र सुरक्षाको अतिरिक्त तह थप्न मद्दत गर्नेछ।
नयाँ व्यवस्थाअनुसार प्रयोगकर्ताले आफ्नो क्षेत्राधिकारका कानुन विपरीत हुने गरी ग्रोक प्रयोग गरेर वास्तविक मानिसहरूको अर्धनग्न, यौनजन्य वा उस्तै प्रकृतिका तस्बिर सिर्जना वा सम्पादन गर्न खोजेमा ती प्रयासहरू स्वतः रोकिनेछन्।
यसअघि यस्तै विवादास्पद सामग्रीका कारण मलेसिया र इन्डोनेसियाले ग्रोक च्याटबोटमाथि प्रतिबन्ध लगाइसकेका छन्। उता बेलायतका प्रधानमन्त्री सर कियर स्टारमरले एआईद्वारा सिर्जित यौनजन्य तस्बिरहरूलाई लिएर एक्सले स्वनियमनको अधिकार गुमाउन सक्ने चेतावनी दिएका छन्। बेलायतको मिडिया नियामक अफकमले पनि एक्सले यौनजन्य सामग्रीसम्बन्धी बेलायती कानुनको पालना गरे/नगरेको विषयमा अनुसन्धान गर्ने जनाएको छ।
एआई प्रविधिको तीव्र विकाससँगै त्यसको दुरुपयोग रोक्न अन्तर्राष्ट्रिय तहमा नियमन र निगरानी कडा बनाउने दबाब बढ्दै गएको सन्दर्भमा एक्सको यो कदमलाई महत्वपूर्ण मानिएको छ।
