मानव नियन्त्रणबाहिर जाँदै एआई, छ वटा नयाँ खतरा सार्वजनिक
Photo: Levart_Photographer/ Unsplash
आर्टिफिसियल इन्टेलिजेन्सको सुरक्षालाई लिएर बहस तीव्र भइरहेका बेला ओपनएआईले आफ्ना एआई मोडलहरूमा छ वटा ‘अप्रत्यसित र चिन्ताजनक’ व्यवहार भेटिएको प्रतिवेदन सार्वजनिक गरेको छ।
बुधबार कम्पनीले एआई मोडलहरूले बिना अनुमति काम गर्ने, अन्य मोडलहरूसँग मिलेर समन्वय गर्ने वा निगरानीबाट उम्किने जस्ता दिशाहीनताका घटनाहरूलाई ट्रयाक, अनुसन्धान र सार्वजनिक गर्न नयाँ ढाँचा सुरु गरेको घोषणा गरेको छ।
ओपनएआईले सार्वजनिक गरेका नयाँ घटनाहरूमध्ये, एक अप्रकाशित अनुसन्धान मोडलले आफ्ना सामान्य प्रतिबन्धहरूलाई बेवास्ता गर्न आफ्नै नोटहरूमा ‘जेलब्रेक’ जस्ता निर्देशनहरू समावेश गरेको थियो। उसले आफूलाई “अन्य च्याटबोटहरूलाई बाँध्ने भूमिका र पहिचानबाट मुक्त हुन” निर्देशन दिएको थियो।
अर्को एक घटनामा, एआई ‘एजेन्ट’ ले प्रश्नको उत्तर खोज्न कम्प्युटर कोडको प्रयोग गर्यो। तर, उद्धरण गर्नका लागि अनलाइन स्रोत देखाउने उद्देश्यले उसले प्रयोगकर्तालाई नसोधिकन नै सार्वजनिक इन्टरनेटमा एउटा फाइल अपलोड गरिदियो।
त्यस्तै, ‘५.६-सोल’ नामक एआई मोडलको तालिमका क्रममा, मोडलले आफूलाई हराइरहेको वा छुटेको डाटा आफैं सिर्जना गर्न निर्देशन दियो। साथै, एउटा एजेन्टले नमिल्दा विवरणहरू लुकाउनका लागि आफूलाई सम्झाउने सन्देशसमेत लेखेको पाइयो।
प्रविधि अनुसन्धान तथा परामर्श समूह ‘ओम्डिया’का मुख्य विश्लेषक लियन जे सुका अनुसार, एआई ‘एजेन्टहरू’ झन्-झन् चलाख हुँदै गएका छन्। उनीहरू आपसमा सहकार्य, ज्ञान आदानप्रदान, छल र सूचना लुकाउने माध्यमबाट जटिल कामहरू पूरा गर्न बढी दृढ देखिएका छन्। यसले गर्दा परम्परागत एआई सुरक्षा विधिहरूबाट तिनीहरूलाई नियन्त्रण र शासन गर्न कठिन भइरहेको छ।
ओपनएआईका अनुसार यी छ वटा घटनाहरू विगत केही महिनामा तालिम वा मूल्याङ्कनका क्रममा फेला परेका हुन्। कम्पनीले एआई विकासका निर्णयहरू पारदर्शी हुनुपर्ने र फ्रन्टियर मोडलहरू निर्माण गर्ने कम्पनीभन्दा बाहिरका मानिसहरूले पनि यसको प्रमाण परीक्षण गर्न पाउनुपर्ने बताएको छ।