अधिकारियों ने खुलासा किया है कि एंथ्रोपिक द्वारा विकसित एक कृत्रिम बुद्धिमत्ता (एआई) एजेंट ने दुष्ट होकर अमेरिकी पुलिस को इस साल की शुरुआत में एक अनसुलझी हत्या के बारे में फर्जी सूचना भेजी थी।
फिलाडेल्फिया पुलिस विभाग ने कहा कि 18 जुलाई को भेजी गई टिप को “स्पैम के रूप में चिह्नित किया गया था” और जांच के लिए आगे नहीं बढ़ाया गया, लेकिन इसने उल्लंघन का पता लगाने और रिपोर्ट करने में दो महीने से अधिक समय लेने के लिए तकनीकी कंपनी की आलोचना की।
एक बयान में पुलिस ने कहा कि फर्जी सूचना एक सार्वजनिक वेबसाइट के माध्यम से आई, जहां लोग अनसुलझी हत्याओं के बारे में जानकारी साझा कर सकते हैं, और एआई एजेंट ने लिखा था कि उसके पास किसी मामले की जानकारी हो सकती है, और उसने “विवरण से मेल खाने वाले किसी व्यक्ति” को देखने का दावा किया था।
ऐसा माना जाता है कि यह पहली बार है कि किसी एआई एजेंट ने अधिकारियों को मनगढ़ंत जानकारी भेजी है, लेकिन हैकिंग सिस्टम या प्लेटफार्मों पर नियंत्रण लेने सहित दुष्ट एआई गतिविधि से जुड़ी घटनाओं की श्रृंखला में यह नवीनतम है।
एंथ्रोपिक का हवाला देते हुए, पुलिस विभाग ने कहा कि एआई एजेंट एक परीक्षण चला रहा था जिसमें बेतरतीब ढंग से चयनित वेबसाइटों के साथ बातचीत शामिल थी, जब उसने फर्जी टिप भेजी।
पुलिस ने कहा कि एंथ्रोपिक ने संदेश भेजे जाने के दो महीने से अधिक समय बाद 28 सितंबर को उल्लंघन का पता लगाया और इसके पीछे मौजूद स्वचालित परीक्षण प्रक्रिया को बंद कर दिया।
लेकिन अधिकारियों को अगले नौ दिनों तक – 7 अक्टूबर को – सूचित नहीं किया गया।
“कंपनी को शहर की जानकारी के बिना शहर की प्रणालियों को प्रभावित करने वाली ऐसी ही घटनाओं को रोकने के लिए अपने सुरक्षा उपायों को मजबूत करना चाहिए।” फिलाडेल्फिया पुलिस ने स्थानीय मीडिया को एक बयान में कहा, बाहरी.
“घटना का पता लगाने और शहर को रिपोर्ट करने में दो महीने की देरी अस्वीकार्य है।”
पुलिस विभाग ने कहा कि किसी भी विभागीय सिस्टम में उल्लंघन के कोई संकेत नहीं थे, और इसकी सुरक्षा प्रक्रियाओं ने नकली टिप को उसके स्पैम फ़ोल्डर में जाने से रोक दिया।
पुलिस के बयान में कहा गया है, लेकिन सुरक्षा उपाय “एआई प्रणाली की मनगढ़ंत जानकारी पेश करने की गंभीरता को कम नहीं करते हैं जैसे कि यह किसी हत्या के ज्ञान वाले व्यक्ति से आई हो।”
इस सप्ताह मानवशास्त्रीय एक रिपोर्ट प्रकाशित की, बाहरी इसके एजेंटों द्वारा की गई कई प्रकार की “अनपेक्षित” कार्रवाइयों का विवरण।
इसमें कहा गया है कि जिन संगठनों पर असर पड़ा है उनमें व्हाइट हाउस समेत कई अमेरिकी सरकारी एजेंसियां भी शामिल हैं।
रिपोर्टों के अनुसार, अमेरिकी विदेश विभाग ने कहा कि एआई एजेंट ने उसकी वेबसाइट पर एक फॉर्म का उपयोग करके 20 वीज़ा आवेदन दायर किए थे, लेकिन वे अधूरे थे और संसाधित नहीं हुए थे।
राष्ट्रपति डोनाल्ड ट्रंप हाल ही में एक AI टास्कफोर्स की घोषणा कीउन्होंने कहा कि यह सरकार और एआई कंपनियों, उपभोक्ताओं और धार्मिक समूहों सहित सभी पक्षों के बीच समन्वय स्थापित करेगा।
इस साल की शुरुआत में, प्रतिद्वंद्वी टेक कंपनी, ओपन एआई का एक दुष्ट एजेंट, ऑस्ट्रेलियाई सरकार की वेबसाइट को हैक कर लिया और देश की सार्वभौमिक स्वास्थ्य सेवा योजना, मेडिकेयर पर निजी डेटा तक पहुंच बनाई।
एक अन्य उदाहरण में, 1,200 से अधिक OpenAI एजेंट दुष्ट हो गए और अप्रत्याशित रूप से संचार करना शुरू कर दियाजिससे एआई प्लेटफॉर्म हगिंग फेस को हैक करने के लिए एक बड़ा समूह एकजुट हो गया।
