एक शोधकर्ता ने शुक्रवार को कहा कि ऐप्पल के पास हजारों शब्दों और वाक्यांशों की एक अज्ञात बहुभाषी ग्रे सूची है, जिसे उसका आईओएस कीबोर्ड स्वत: पूर्ण या स्वाइप-टाइप नहीं करेगा।
सूची कोई प्रतिबंध नहीं है. iPhone उपयोगकर्ता ईमेल और टेक्स्ट का मसौदा तैयार करते समय अभी भी वही टाइप कर सकते हैं जो उन्हें पसंद है। लेकिन ज्यादातर मामलों में सूची के शब्दों को स्वत: पूर्ण या स्वाइप-टाइपिंग के माध्यम से उपयोगकर्ताओं को नहीं सुझाया जाएगा, जिससे यह पता चलेगा कि ऐप्पल अपने उपकरणों को उपयोगकर्ताओं को आक्रामक या राजनीतिक रूप से चार्ज किए गए सुझाव देने से रोकने और वे क्या कहना चाह रहे हैं, के बीच व्यापार को कैसे प्रबंधित करता है।
हाल ही में सूची की खोज करने वाले स्वतंत्र शोधकर्ता डेरिक कॉफ़मैन के अनुसार, चिह्नित शब्द और वाक्यांश अत्यधिक अश्लील या आक्रामक हैं या ड्रग्स, सेक्स या हिंसा से संबंधित हैं। लेकिन अन्य वाक्यांश केवल राजनीतिक रूप से महत्वपूर्ण हैं, जैसे “तानाशाह ट्रम्प” और “स्लीपी जो”।
दुनिया भर में करोड़ों लोग iPhone का उपयोग करते हैं, इसलिए Apple का कीबोर्ड इस बारे में निर्णय ले सकता है कि उसका कीबोर्ड किन शब्दों का सुझाव देता है, जिससे वे आसानी से संवाद कर सकें। शोधकर्ता ने कहा, ऐप्पल ने सार्वजनिक रूप से सूची का खुलासा नहीं किया है।
एक ईमेल में, ऐप्पल ने कॉफ़मैन के निष्कर्षों पर सीधे टिप्पणी नहीं की, जिसमें उसकी सूची का आकार या संरचना, या कुछ राजनीतिक शर्तों को चिह्नित करने के कारण शामिल थे। इसमें कहा गया है कि इसका कीबोर्ड ऐसे सुझावों से बचने के लिए स्थापित किया गया था जो अनुचित या आपत्तिजनक हो सकते हैं। कॉफ़मैन के अनुसार, आईओएस की पूर्वानुमानित पाठ सुविधाओं से बाहर किए गए अन्य वाक्यांशों में “दक्षिणपंथी साजिश” के साथ-साथ “तिब्बती स्वतंत्रता” और “संयुक्त आयरलैंड” शामिल हैं।
गैर-अंग्रेजी भाषाओं में अलग-अलग चिह्नित शब्द या वाक्यांश हैं।
उन्होंने कहा कि फ्रांसीसी भाषी फ्रांसीसी वाक्यांश “आव्रजन बहुत अधिक” को स्वाइप-टाइप नहीं कर सकते हैं और हिब्रू भाषी “कब्जे वाले क्षेत्रों” को स्वाइप-टाइप नहीं कर सकते हैं।
कॉफ़मैन ने कहा, “हर प्रमुख भाषा में इसका कोई न कोई संस्करण होता है।”
कॉफ़मैन ने कहा कि यह समझ में आता है कि ऐप्पल उपयोगकर्ताओं को गलती से अश्लील संदेश या भड़काऊ नारे भेजने से रोकना चाहता था। लेकिन उन्होंने कहा कि ऐप्पल ने इस सुविधा को कैसे लागू किया, इसमें विसंगतियां थीं। उदाहरण के लिए, उन्होंने कहा कि “रीड स्मट” को स्वाइप-टाइप किया जा सकता है जबकि “रीड गे स्मट” को नहीं।
कॉफ़मैन ने कहा, “यह सेंसरशिप का एक बहुत ही हल्का-फुल्का रूप है।”
“लेकिन जिस पैमाने पर एप्पल काम कर रहा है, वहां बड़ा प्रभाव डालने के लिए हल्के स्पर्श की ही जरूरत होती है।”
सूची की खोज कैसे की गई
कॉफ़मैन ने कहा कि उन्हें यह सूची सितंबर में यह देखने के बाद मिली कि उनकी स्वाइप-टाइपिंग “कीबोर्ड पर प्रत्येक शब्द को अलग-अलग चुनने के बजाय एक उंगली को आगे-पीछे घुमाने की प्रथा” कुछ वाक्यांशों पर अटक जाती है, जैसे “बुरा लड़का” या “सफेद आदमी”, लेकिन “बुरी लड़की” या “काला आदमी” नहीं। उनकी जिज्ञासा बढ़ गई, कॉफ़मैन ने कहा कि उन्होंने ओपनएआई के कोडेक्स और एंथ्रोपिक के क्लाउड कोड के संयोजन का उपयोग किसी कारण की तलाश के लिए किया, अंततः ऐप्पल के ऑपरेटिंग सिस्टम के “गहराई में” संग्रहीत एक संग्रह पर ठोकर खाई। उन्होंने कहा कि ग्रे-सूचीबद्ध शब्दों और वाक्यांशों की संख्या और उनके विभिन्न क्रमपरिवर्तनों को गिनने के अलग-अलग तरीके हैं, लेकिन एक रूढ़िवादी अनुमान के अनुसार चीनी अक्षरों को शामिल नहीं करते हुए उन्हें लगभग 100,000 रखा जाएगा।
रॉयटर्स ने आईफोन पर कॉफ़मैन द्वारा पहचाने गए वाक्यांशों के एक छोटे उपसमूह का परीक्षण किया और पाया कि उन सभी को स्वाइप-टाइपिंग के माध्यम से दर्ज करना मुश्किल था या स्वत: पूर्ण के माध्यम से सुझाया नहीं गया था।
उदाहरण के लिए, “संयुक्त आयरलैंड” या “तिब्बती स्वतंत्रता” टाइप करने के प्रयासों से अक्सर “संयुक्त आइसलैंड” या “तिब्बती स्वतंत्रता” प्राप्त होती है। “व्हाइट मैन” को स्वाइप-टाइप करने का प्रयास करने पर “व्हाइट मीन” प्राप्त होगा, जबकि “रेड मैन” या “ब्लू मैन” को बिना किसी कठिनाई के स्वाइप-टाइप किया जा सकता है। “स्लीपी जो” से “स्लीपी होप” निकलेगा।
“तानाशाह ट्रम्प” को स्वाइप-टाइप किया जा सकता था, लेकिन “ट्रम्प” लोअरकेस था और कीबोर्ड पर स्वत: पूर्ण में वाक्यांश का सुझाव नहीं दिया गया था, इसके बजाय “तानाशाह ट्रम्प” का सुझाव दिया गया था। स्वाइप-टाइपिंग “रीड गे स्मट” से “रीड गे स्मिट” प्राप्त होगा। “रीड स्मट” को बिना किसी समस्या के स्वाइप-टाइप किया जा सकता है।
एजेंटिक एआई साइबर सुरक्षा कंपनी टॉल्मो के एक इंजीनियर मैट सुइच ने कहा कि वह स्वतंत्र रूप से उसी ग्रे लिस्ट को पुनर्प्राप्त करने और ऐप्पल के आंतरिक डेटा के खिलाफ कॉफ़मैन के निष्कर्षों को क्रॉस-रेफरेंस करने में सक्षम थे। उन्होंने कहा कि उन्हें लगभग परफेक्ट मैच मिल गया है।
सुइच ने कहा कि ऐप्पल सूची वर्षों से स्पष्ट रूप से छिपी हुई थी, जो इस बात पर एक दिलचस्प नज़र डालती है कि कैसे “मैसेजिंग ऐप्स के अंदर वर्षों से मानव संचार संभावित रूप से प्रभावित और फ़िल्टर किया गया है”।
पारदर्शिता का आह्वान
कॉफ़मैन अकेले नहीं हैं जिन्होंने iOS के प्रेडिक्टिव टेक्स्ट फ़ीचर से संकेत प्राप्त किए हैं। वर्षों से, सोशल मीडिया उपयोगकर्ताओं को आश्चर्य हुआ है कि वे कुछ वाक्यांशों को स्वाइप-टाइप क्यों नहीं कर सकते। इस सप्ताह की शुरुआत में, एक नॉर्वेजियन सिस्टम प्रशासक ने स्वतंत्र रूप से ऐप्पल की ग्रे सूची में शब्दों की एक सूची की खोज की, जिसमें “अल-कायदा”, “ऑशविट्ज़” और “हूटर” शामिल थे, लेकिन संवेदनशील वाक्यांशों की एक व्यापक सूची के अस्तित्व की सूचना यहां पहली बार दी गई है।
अन्य तकनीकी कंपनियों की तरह, Apple पहले भी मुसीबत में पड़ चुका है जब पूर्वानुमानित तकनीक उपयोगकर्ताओं को शर्मनाक या विवादास्पद पाठ सुझाती है। अल्फाबेट के स्वामित्व वाली Google की स्वत: पूर्ण सुविधा नियमित रूप से आलोचना को आकर्षित करती है और कभी-कभी इसके सुझाए गए खोज शब्दों पर मुकदमेबाजी भी करती है।
पिछले साल, Apple ने मीडिया का ध्यान आकर्षित किया था जब उपयोगकर्ताओं ने रिपोर्ट किया था कि उनके iPhones पर “नस्लवादी” शब्द निर्देशित करने से उनकी स्क्रीन पर “ट्रम्प” शब्द संक्षेप में फ्लैश हो जाएगा। Apple ने उस समय कहा था कि यह समस्या एक त्रुटि थी और इसे ठीक कर दिया गया है।
डिजिटल नागरिक स्वतंत्रता समूह, इलेक्ट्रॉनिक फ्रंटियर फाउंडेशन के वरिष्ठ वकील डेविड ग्रीन ने कहा कि जबकि उनके एक हिस्से को शब्द सूची “डरावना” लगी और उन्होंने ऐप्पल के निर्णय कॉल के बारे में सोचा, वह अवांछित या भड़काऊ सुझावों को रोकने के लिए इसे एक उपयोगी तरीका होने का तर्क देख सकते थे।
“लेकिन अगर वे ऐसा करने जा रहे हैं, तो यह कुछ ऐसा है जिसके बारे में उपयोगकर्ताओं को वास्तव में अच्छी तरह से पता होना चाहिए और उन्हें अनुकूलित करने की कुछ क्षमता होनी चाहिए,” ग्रीन ने कहा। “यह कुछ ऐसा है जिसे गुप्त नहीं रखा जाना चाहिए”।
