यूएस-मुख्यालय वाली साइबर सुरक्षा कंपनी नेटस्कोप के संस्थापक और मुख्य कार्यकारी अधिकारी (सीईओ) संजय बेरी ने कहा, सभी कृत्रिम बुद्धिमत्ता (एआई) संचालित स्वायत्त एजेंटों को, डिफ़ॉल्ट रूप से, उन्हें तैनात करने वाली कंपनियों और उद्यमों द्वारा “शून्य-विश्वास” श्रेणी में रखा जाना चाहिए।
नैस्डैक-सूचीबद्ध फर्म नेटस्कोप का बाजार पूंजीकरण 10 बिलियन डॉलर से अधिक है।
अपनी भारत यात्रा के दौरान बिजनेस स्टैंडर्ड के साथ बातचीत में, बेरी ने कहा कि आखिरकार, इन एआई एजेंटों को तैनात करने वाले सभी उद्यमों को उल्लंघन के लिए जिम्मेदार ठहराया जाना होगा, भले ही कोई अन्य कंपनी उन्हें विकसित करे।
बेरी ने कहा, “पहली बात जो ज्यादातर लोग भूल जाते हैं वह यह है कि एक एआई एजेंट किसी इंसान का प्रतिस्थापन नहीं है। एक एआई एजेंट के पास कोई नैतिकता नहीं है, कोई भावनात्मक भागफल नहीं है, क्या सही है या क्या गलत है, इसकी कोई समझ नहीं है। आप कभी भी (एआई) एजेंट या एलएलएम (बड़े भाषा मॉडल) पर भरोसा नहीं कर सकते।”
उनका मानना है कि एआई एजेंट अपने लक्ष्य को हासिल करने के लिए कुछ भी करेंगे, जिसमें मानव या अन्य एआई एजेंट का “झूठ बोलना और चालाकी करना” शामिल है, क्योंकि वे लक्ष्य-उन्मुख हैं और उनका फोकस सिर्फ उसी पर है।
हालांकि इन एजेंटों को तैनात करने वाले उद्यम एआई एजेंटों को बनाते और उपयोग करते समय बेहद सावधान रह सकते हैं, बेरी ने कहा कि उन्हें अभी भी हर समय नियंत्रण, निगरानी और ओवरराइड तंत्र की आवश्यकता होती है।
उन्होंने कहा कि इन एआई एजेंटों को तैनात करने वाले उद्यमों के अलावा, इन एलएलएम और एजेंटों को विकसित करने वाली अग्रणी एआई कंपनियों को भी अपनी क्षमताओं के बारे में अधिक स्पष्ट होना चाहिए, ताकि सही प्रशासन मानकों को लागू किया जा सके।
बेरी ने कहा, “साझा जिम्मेदारी की एक अवधारणा है, जहां अग्रणी एआई कंपनी की कुछ जिम्मेदारी है, लेकिन अंततः यह वह उद्यम है जो इसे तैनात कर रहा है जो मानकों के अनुरूप होगा।”
उन्होंने कहा कि एआई एजेंटों द्वारा परीक्षण किए जा रहे सैंडबॉक्स से बाहर निकलने और उन कार्यों को पूरा करने के लिए गलत तरीके से काम करने की घटनाएं, जिन्हें करने के लिए उनसे नहीं कहा गया था, खराब प्रशासन संरचनाओं और कमजोर परीक्षण वातावरण के उदाहरण हैं।
बेरी ने कहा, चूंकि भारत और दुनिया भर में उद्यम एआई चैटबॉट्स और एजेंटों का अधिक गहराई से और व्यापक रूप से उपयोग करते हैं, नेटस्कोप जैसी कंपनियों को साइबर जोखिम के मानवीय तत्व को कम करने के लिए और अधिक प्रयास करने की आवश्यकता होगी।
“तो, मान लीजिए कि एक कर्मचारी अपने काम के दौरान संवेदनशील कंपनी डेटा अपलोड करने के लिए एक व्यक्तिगत एआई चैटबॉट खाते का उपयोग करता है। उन्हें डांटने के बजाय, हम उन्हें उसी समय प्रशिक्षित कर सकते हैं कि इसकी अनुमति क्यों नहीं है। एआई को डेटा घुसपैठ या डेटा हानि का अधिकांश हिस्सा दुर्भावनापूर्ण इरादे के कारण नहीं है, “उन्होंने कहा।
बेरी ने कहा कि एजेंटिक एआई आर्किटेक्चर के आगमन ने साइबर सुरक्षा समस्याओं की जटिलता को बढ़ा दिया है, क्योंकि बुरे कलाकार उसी मालिकाना डेटा को हथियाने की कोशिश करने के लिए छाया एआई एजेंटों को भी तैनात कर रहे हैं जो पहले कमजोर नेटवर्क एंडपॉइंट या मानवीय त्रुटि के कारण खतरे में थे।
उन्होंने कहा, भारत जैसे देशों में, नेटस्कोप नए बुनियादी ढांचे के निर्माण और बेहतर प्रतिभाओं को काम पर रखने में भारी निवेश कर रहा है ताकि यह सुनिश्चित किया जा सके कि वहां काम करने वाली कंपनियां समय आने पर डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम सहित नवीनतम वैश्विक मानकों का अनुपालन करेंगी।
बेरी ने कहा, कंपनी ने पिछले कुछ वर्षों में भारत में हर साल करीब 100 मिलियन डॉलर का निवेश किया है, और अपने मौजूदा 1,300 कर्मचारियों को जोड़ने के लिए और अधिक लोगों को नियुक्त करना जारी रखेगी, जिनमें से आधे से अधिक नेटस्कोप की इंजीनियरिंग प्रतिभाएं हैं।
