एआईएसआई ने नवंबर 2023 में स्थापित होने के तुरंत बाद, सार्वजनिक रिलीज से पहले, नवीनतम फ्रंटियर एआई मॉडल के जोखिमों का मूल्यांकन करना शुरू कर दिया था।
लेकिन वह था सितंबर में रिपोर्ट की गई, बाहरी व्हाइट हाउस ने कुछ प्रमुख अमेरिकी प्रयोगशालाओं से कहा था कि वे अपने मॉडल अनुसंधान संगठन के साथ तब तक साझा न करें जब तक कि उसके अपने परीक्षण पूरे न हो जाएं।
उस समय इस कदम को एआईएसआई के लिए एक झटके के रूप में देखा गया था – जिसे यूके सरकार और उसके सहयोगियों ने खुले, रचनात्मक और सहयोगात्मक एआई परीक्षण को आगे बढ़ाने के लिए समर्थन दिया है।
माइक्रोसॉफ्ट के अध्यक्ष ब्रैड स्मिथ हाल ही में बीबीसी को बताया संस्थान ने यूके को वैश्विक विनियमन को आगे बढ़ाने के लिए सर्वोत्तम देश के रूप में मजबूत करने में मदद की थी।
सोमवार को, नारायण ने कहा कि पिछले कुछ हफ्तों में, सरकार ने “ब्रिटेन के एआईएसआई को सबसे शक्तिशाली एआई मॉडल जारी होने से पहले उन तक पहुंच बनाए रखने के लिए” अमेरिका के साथ काम किया था।
उन्होंने यह भी कहा कि यूके साइबर सुरक्षा और लचीलापन बिल के माध्यम से मजबूत सुरक्षा बनाने पर भी गौर करेगा, खासकर इस बात पर कि कैसे गंभीर एआई घटनाओं की पहचान की जा सकती है और रिपोर्ट की जा सकती है।
यह घोषणा एआई एजेंटों से जुड़ी घटनाओं की एक श्रृंखला के बाद हुई है OpenAI जैसी प्रमुख कंपनियाँ और anthropic मानव नियंत्रण से बाहर कार्य करना और बाहरी सिस्टम को हैक करना।
9 सितंबर को, एंथ्रोपिक के शीर्ष सुरक्षा शोधकर्ता इवान हुबिंगर ने कहा, आगाह एक्स पर एक पोस्ट में उन्होंने कहा कि एआई इतनी तेजी से आगे बढ़ रहा है कि 10% से अधिक संभावना है कि यह अगले दशक के भीतर “सभी मनुष्यों को मार सकता है”।
एंथ्रोपिक, ओपनएआई और गूगल डीपमाइंड जैसे यूएस-आधारित एआई दिग्गजों के मालिकों के पास सब कुछ है एआई विकास में मंदी के विचार का समर्थन किया.
हालाँकि, कंपनियों और उनकी प्रौद्योगिकी को विनियमित करने के लिए वर्तमान में कोई वैश्विक सुरक्षा नियम नहीं हैं।
इस बीच, राष्ट्रपति ट्रम्प ने इस क्षेत्र से खुद को विनियमित करने का आह्वान किया है ताकि अमेरिकी कंपनियां चीनी प्रतिद्वंद्वियों से न हारें।
