एआईको सुरक्षा कमजोरीप्रति अमेरिकी सांसदको चिन्ता, कडा कानुन बनाउने तयारी
एआईको सुरक्षा कमजोरीले ठुलो मानवीय क्षति र आक्रमणको जोखिम बढाएको भन्दै अमेरिकामा कडा कानुन बनाउने बहस तीव्र बनेको छ
Photo: Immo Wegmann/ Unsplash
अमेरिकी कृत्रिम बुद्धिमत्ता मोडेलहरूले सुरक्षा अवरोधहरूलाई छल्दै अतिवादीहरूलाई ठुलो मानवीय क्षति हुने गरी आक्रमणको योजना र विस्फोटक पदार्थ बनाउने तरिका सिकाउन सक्ने एक सरकारी अनुसन्धानले देखाएको छ। बुधबार सार्वजनिक गरिएको अमेरिकी सरकारको उत्तरदायित्व कार्यालय जीएओको प्रतिवेदनअनुसार, अनुसन्धानकर्ताहरूले चारवटा प्रमुख एआई च्याटबटहरूको सुरक्षा प्रणाली तोडेर हिंसा भड्काउने र देशका आर्थिक संस्थाहरूमाथि आक्रमण गर्न प्रयोग हुनसक्ने सूचनाहरू निकाल्न सफल भएका हुन्।
डेमोक्र्याटिक सिनेटर म्यागी हसनको अनुरोधमा गरिएको उक्त अध्ययनमा ओपनएआईको ‘च्याटजीपीटी’, एन्थ्रोपिकको ‘क्लाउड’, गुगलको ‘जेमिनी’ र स्पेसएक्सएआईको ‘ग्रोक’ समावेश थिए। यद्यपि, यस्ता प्रयोगहरू अरूले नदोहोऱ्याऊन् भन्ने उद्देश्यले कुन मोडेलले कुन परीक्षणमा कस्तो नतिजा दियो भन्नेबारे प्रतिवेदनमा स्पष्ट खुलाइएको छैन।
अध्ययनका क्रममा पहिचान नखुलाइएका दुईवटा एआई मोडेलले ठुलो जनधनको क्षति पुऱ्याउने गरी कामचलाउ विस्फोटक पदार्थ बनाउने र विस्फोट गराउने तरिकाबारे जानकारी दिएका थिए। त्यसैगरी, अन्य दुई मोडेलले आर्थिक क्षति पुऱ्याउने उद्देश्यले ड्रोन वा हतियार प्रयोग गरी विद्युत् ग्रिडमा आक्रमण गर्ने योजनालाई सघाउ पुग्ने सूचना उपलब्ध गराएका थिए।
प्रतिवेदनमा भनिएको छ, “प्रत्येक प्लेटफर्मले आक्रमण गर्न सकिने निश्चित लक्ष्य, स्थान, समय र आक्रमणका तरिकाजस्ता विस्तृत जानकारी उपलब्ध गराएका थिए।” यी सबै आक्रमणका योजनाहरू १२ घण्टाभन्दा कम समयमै तयार पारिएको प्रतिवेदनमा उल्लेख छ। परीक्षण गरिएका मोडेलहरूले कतिपय अवस्थामा आक्रमण गर्ने मिति र समय, अधिकतम क्षति पुऱ्याउने तरिका, नक्सा र रेखाचित्रसमेत उपलब्ध गराएका थिए।
सुरुमा अनुसन्धानकर्ताहरूले प्रश्न सोध्दा ती प्लेटफर्मका सुरक्षा प्रणाली सक्रिय भई जवाफ अस्वीकार गर्ने र खाता निलम्बन गर्ने जस्ता कदम चालेका थिए। तर, अनुसन्धानकर्ताहरूले सामान्य ‘सेफगार्ड-बाइपासिङ’ प्रविधि प्रयोग गरेर ती अवरोधहरू पार गरेका थिए।
यस प्रतिवेदनप्रति प्रतिक्रिया दिँदै एन्थ्रोपिक, गुगल, ओपनएआई र स्पेसएक्सएआईले आफूहरू एआई सुरक्षाका विषयमा गम्भीर रहेको बताएका छन्। खराब नियत भएका व्यक्तिहरूले सुरक्षा नियम छल्ने प्रयास गर्दा जोखिम उत्पन्न हुने स्वीकार गर्दै उनीहरूले आफ्ना पछिल्ला संस्करणहरूमा दुरुपयोग रोक्न थप सुधार गरिएको दाबी गरेका छन्।
सिनेटर म्यागी हसनले एआईबाट उत्पन्न सार्वजनिक सुरक्षाको खतरा अब केवल सिद्धान्तमा मात्र सीमित नरहेको बताइन्। “एक आतंकवादीले एआई प्लेटफर्ममा लग-इन गरेर १२ घण्टाभन्दा कम समयमै घातक आक्रमण गर्ने ठोस कार्ययोजना लिएर निस्कन सक्छ,” उनले भनिन्। आगामी वर्ष सिनेटको होमल्यान्ड सेक्युरिटी तथा सरकारी मामिला समितिको नेतृत्व गर्न लागेकी हसनले एआईको सुरक्षा जोखिम र नियमनका लागि कानुन निर्माण गर्ने विषयमा समितिले पहिलो सुनुवाइ गर्ने जानकारी दिइन्।
मध्यावधि निर्वाचनमा डेमोक्र्याटिक पार्टीको जितसँगै नयाँ कंग्रेसमा एआई नियमनको विषयले प्राथमिकता पाउने देखिएको छ। यद्यपि, राष्ट्रपति डोनाल्ड ट्रम्प र रिपब्लिकन सांसदहरूले भने एआईमा कडा नियमन गर्ने विषयमा खासै चासो देखाएका छैनन् र सुरक्षा चिन्तालाई बढाइचढाइ गरिएको मान्दै आएका छन्।
आतंकवादी सञ्जालहरूले एआईको प्रयोग बढाउँदै लगेको विषय अमेरिकी सुरक्षा अधिकारीहरूका लागि चिन्ताको विषय बनेको छ। यसअघि बोको हरामजस्ता अतिवादी समूहले युद्धमैदानमै एआई उपकरणको मद्दत लिएको तथा एन्थ्रोपिकको क्लाउड प्रयोग गरी चीन, रुस र यमनबाट परम्परागत हतियार, क्षेप्यास्त्र र सशस्त्र ड्रोन बनाउने सफ्टवेयर तयार पार्ने प्रयास भएको तथ्यहरू सार्वजनिक भएका थिए।





