Google Introduces Project Naptime for AI-Powered Vulnerability Research – OfficialSarkar
गूगल ने एक नया फ्रेमवर्क विकसित किया है जिसका नाम है प्रोजेक्ट नैपटाइम इसमें कहा गया है कि यह एक बड़े भाषा मॉडल (एलएलएम) को भेद्यता अनुसंधान करने में सक्षम बनाता है, जिसका उद्देश्य स्वचालित खोज दृष्टिकोणों में सुधार करना है।
गूगल प्रोजेक्ट जीरो के शोधकर्ता सर्गेई ग्लेज़ुनोव और मार्क ब्रैंड ने कहा, “नैपटाइम आर्किटेक्चर एआई एजेंट और लक्ष्य कोडबेस के बीच बातचीत के इर्द-गिर्द केंद्रित है।” कहा“एजेंट को विशेष उपकरणों का एक सेट प्रदान किया जाता है जो मानव सुरक्षा शोधकर्ता के वर्कफ़्लो की नकल करने के लिए डिज़ाइन किया गया है।”
इस पहल का यह नाम इसलिए रखा गया है क्योंकि यह मनुष्यों को “नियमित रूप से झपकी लेने” की अनुमति देता है, जबकि यह भेद्यता अनुसंधान और स्वचालित वैरिएंट विश्लेषण में सहायता करता है।
इस दृष्टिकोण का मूल उद्देश्य कोड समझ और LLMs की सामान्य तर्क क्षमता में हुई प्रगति का लाभ उठाना है, जिससे उन्हें सुरक्षा कमजोरियों की पहचान करने और उन्हें प्रदर्शित करने के मामले में मानवीय व्यवहार को दोहराने की अनुमति मिलती है।
इसमें कई घटक शामिल हैं जैसे कि कोड ब्राउज़र टूल जो AI एजेंट को लक्ष्य कोडबेस के माध्यम से नेविगेट करने में सक्षम बनाता है, फ़ज़िंग के लिए सैंडबॉक्स वाले वातावरण में पायथन स्क्रिप्ट चलाने के लिए एक पायथन टूल, विभिन्न इनपुट के साथ प्रोग्राम व्यवहार का निरीक्षण करने के लिए एक डीबगर टूल और किसी कार्य की प्रगति की निगरानी करने के लिए एक रिपोर्टर टूल।
गूगल ने कहा कि साइबरसेवल 2 बेंचमार्क के अनुसार, नैपटाइम मॉडल-अज्ञेयवादी और बैकएंड-अज्ञेयवादी भी है, बफर ओवरफ्लो और एडवांस्ड मेमोरी करप्शन दोषों को चिह्नित करने में बेहतर है। साइबरसेवल 2, मेटा के शोधकर्ताओं द्वारा इस अप्रैल की शुरुआत में जारी किया गया, एक है मूल्यांकन सूट एलएलएम सुरक्षा जोखिमों का आकलन करना।
खोज दिग्गज द्वारा खामियों को पुनः उत्पन्न करने और उनका फायदा उठाने के लिए किए गए परीक्षणों में, दो भेद्यता श्रेणियों ने 1.00 और 0.76 के नए शीर्ष स्कोर हासिल किए, जो ओपनएआई जीपीटी-4 टर्बो के लिए क्रमशः 0.05 और 0.24 से अधिक थे।
शोधकर्ताओं ने कहा, “नैपटाइम एलएलएम को भेद्यता अनुसंधान करने में सक्षम बनाता है जो मानव सुरक्षा विशेषज्ञों के पुनरावृत्त, परिकल्पना-संचालित दृष्टिकोण की बारीकी से नकल करता है।” “यह आर्किटेक्चर न केवल एजेंट की कमजोरियों को पहचानने और उनका विश्लेषण करने की क्षमता को बढ़ाता है, बल्कि यह भी सुनिश्चित करता है कि परिणाम सटीक और पुनरुत्पादित हों।”
Source: TheHackerNews
