एंथ्रोपिक वेबसाइट के पन्ने। फ़ाइल | फोटो साभार: एपी
अधिकारियों और एंथ्रोपिक ने कहा कि एक एंथ्रोपिक आर्टिफिशियल इंटेलिजेंस मॉडल ने अमेरिका में फिलाडेल्फिया पुलिस की वेबसाइट पर एक अनसुलझे हत्याकांड के बारे में झूठी सूचना दी।
यह एआई मॉडल का अनपेक्षित तरीके से काम करने और परीक्षणों के दौरान सरकार और अन्य वेबसाइटों में हेरफेर करने का नवीनतम उदाहरण है। शुक्रवार को एक रिपोर्ट में, एंथ्रोपिक ने एक अलग घटना का भी खुलासा किया जिसमें उसके एआई मॉडल ने फॉर्म जमा करने से पहले रुकने के बजाय एक अज्ञात सरकारी वेबसाइट पर फॉर्म जमा कर दिए।
एंथ्रोपिक ने कहा कि फिलाडेल्फिया में घटना 18 जुलाई को हुई जब एआई मॉडल क्लाउड हाइकू 4.5 को बेतरतीब ढंग से चयनित वेबपेजों पर उदाहरण कार्य तैयार करने और निष्पादित करने का काम सौंपा गया था।
क्लाउड ने पुलिस साइट PhillyUnsolvedMurders.com पर एक फॉर्म भरा, जिसमें संकेत दिया गया कि साइट पर सूचीबद्ध एक अनसुलझी हत्या के बारे में जानकारी हो सकती है।
फिलाडेल्फिया पुलिस ने एक बयान में कहा कि वे इस घटना से तब तक अनजान थे जब तक एंथ्रोपिक ने उन्हें बुधवार को सूचित नहीं किया। फिर उन्होंने वेबसाइट के टिप रिकॉर्ड में सबमिशन पाया और पुष्टि की कि इसे स्पैम के रूप में चिह्नित किया गया था और पुलिस को कभी भी अग्रेषित नहीं किया गया था।
एआई कंपनियों के अनियंत्रित एआई एजेंटों द्वारा अमेरिकी सरकार की वेबसाइटों से लेकर स्वास्थ्य देखभाल डेटा तक हर चीज में हस्तक्षेप के बारे में चिंताएं बढ़ रही हैं। आलोचक अधिक विनियमन की माँग करते रहे हैं।
सितंबर में, एक अन्य एआई कंपनी, ओपनएआई ने कृत्रिम-बुद्धि मॉडल में “अप्रत्याशित या चिंताजनक” व्यवहार की छह रिपोर्टों का खुलासा किया।
फिलाडेल्फिया पुलिस विभाग ने एक बयान में कहा, “अनसुलझे मामलों में वास्तविक पीड़ित, दुखी परिवार और जवाब सुरक्षित करने के लिए काम कर रहे जांचकर्ता शामिल हैं।” “प्रौद्योगिकी कंपनियों को अपने सिस्टम को कानून प्रवर्तन के लिए गलत जानकारी प्रस्तुत करने से रोकने के लिए सभी आवश्यक कदम उठाने चाहिए।”
एंथ्रोपिक ने अपनी रिपोर्ट में कहा कि अधिकांश रिपोर्ट किए गए व्यवहार “दृढ़ता” के रूप हैं – “जिसमें क्लाउड, जब दिए गए कार्य को पूरा नहीं कर पाता है, तो रुकने के बजाय प्रतिबंध के आसपास काम करता है।”
कंपनी ने कहा कि वह “आगे दुर्व्यवहार की संभावना को कम करने” के लिए अपने प्रशिक्षण में संशोधन कर रही है।
एंथ्रोपिक ने कहा कि उसने व्हाइट हाउस को ऐसे मामलों की जानकारी दी, जिनमें संघीय, राज्य और स्थानीय स्तर पर अमेरिकी सरकारी एजेंसियां शामिल थीं और इसमें शामिल प्रत्येक एजेंसी को सूचित किया गया था।
प्रकाशित – 11 अक्टूबर, 2026 04:55 पूर्वाह्न IST
