गुगलको कृत्रिम बौद्धिकता (एआई) मोडल ‘जेमिनाइ’ ले साइबर सुरक्षा क्षमताको परीक्षणका क्रममा तीनवटा वास्तविक कम्पनीको प्रणालीमा अनधिकृत पहुँच (ह्याक) बनाएको गुगलले पुष्टि गरेको छ। एआई प्रविधिको स्वायत्तता र सुरक्षालाई लिएर विश्वभर बहस चलिरहेका बेला सार्वजनिक भएको यो घटनालाई गम्भीर रूपमा लिइएको छ।

द वाल स्ट्रिट जर्नल र बीबीसीका अनुसार यो घटना गत मे महिनामा घटेको हो। साइबर सुरक्षा मूल्यांकन गर्ने स्वायत्त कम्पनी ‘इर्रेगुलर’ ले काल्पनिक कम्पनीको सूचना संकलन गर्ने जिम्मा दिएर जेमिनाइको परीक्षण गरिरहेको थियो। सोही क्रममा मोडललाई गल्तीले इन्टरनेटमा पहुँच प्राप्त भएको थियो। परीक्षणका दौरान जेमिनाइले इन्टरनेटमा सार्वजनिक रूपमा उपलब्ध जानकारीको प्रयोग गर्दै पासवर्ड अनुमान गरी सुरक्षित प्रणालीमा प्रवेश गरेको थियो।

गुगलकी सुरक्षा इन्जिनियरिङ उपाध्यक्ष हेथर एड्किन्सले जेमिनाइले इन्टरनेटमा उपलब्ध सार्वजनिक सूचना खोजेर परीक्षणको हिस्सा ठानेका वेबसाइटहरूमा प्रवेश गर्न प्रमाणहरू अनुमान गरेको बताएका छन् । यद्यपि, यी तीनवटै घटनामा जेमिनाइले आफ्नो गतिविधि पूरा गर्नुअघि नै आफैँ रोकेको गुगलले स्पष्ट पारेको छ। प्रभावित कम्पनीहरूलाई यस विषयमा समयमै जानकारी गराइएको र तालिम साझेदारमार्फत परीक्षण प्रक्रियामा सुधार गरिएको गुगलको भनाइ छ। गुगलले यसलाई मोडलको उद्देश्य र व्यवहारबीचको गम्भीर असन्तुलन (‘मिसअलाइनमेन्ट’) को रूपमा भने लिन नपर्ने बताएको छ।

इर्रेगुलरसँगको परीक्षणका क्रममा एआई मोडलहरू नियन्त्रण बाहिर गएका यस्ता घटना अन्य कम्पनीहरूमा पनि देखिएका छन्। यसअघि मेटा, एन्थ्रोपिक र ओपनएआईले पनि आफ्ना मोडलहरूले परीक्षणका क्रममा अनुचित पहुँच बनाएका घटनाहरू सार्वजनिक गरेका थिए। एन्थ्रोपिकको ‘क्लाउड’ मोडलले त वास्तविक कम्पनीको प्रणालीमा पहुँच गरेपछि पनि गतिविधि नरोकेको बताइएको छ। यस्ता घटनाले एआई एजेन्टहरूले थप स्वायत्तता र इन्टरनेट पहुँच प्राप्त गर्दै जाँदा आवश्यक पर्ने सुरक्षा कवज (सेफगार्ड्स) बारे गम्भीर प्रश्न उठाएका छन्।

एआईको सुरक्षित विकास र यसले निम्त्याउन सक्ने जोखिमलाई लिएर प्रविधि जगतमा दुई धार देखिएका छन्। एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत डारियो अमोडेईले एआई विकासको गति केही सुस्त बनाउनुपर्ने र यसले मानवतालाई विनाशकारी जोखिम निम्त्याउन सक्ने चेतावनी दिएका छन्। उक्त चेतावनीलाई ओपनएआईका सीईओ साम अल्टम्यान र अर्बपति इलन मस्कले समर्थन गरेका छन्।

तर, अर्कोतर्फ एनभिडियाका सीईओ जेन्सेन हुआङले भने एआई विकासलाई सकेसम्म छिटो गतिमा अगाडि बढाउनुपर्ने बताएका छन्। अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्पले पनि एआई विकासमा थप नियन्त्रण लगाउन अस्वीकार गर्दै त्यसो गर्दा अमेरिकाले चीनसँगको प्रतिस्पर्धामा पछि पर्न सक्ने चिन्ता व्यक्त गर्नुभएको छ।