आप पर चेहरे की पहचान का उपयोग करने से पहले फेसबुक आखिरकार अनुमति मांगेगा
तकनीक के आपके सोशल मीडिया अनुभव का हिस्सा बनने के वर्षों बाद आपको ऑप्ट-इन करने के लिए कहा जा रहा है।
यह कहानी कहानियों के एक समूह का हिस्सा है जिसे कहा जाता है 
अच्छा करने के सर्वोत्तम तरीके खोजना।
फेसबुक बदल रहा है कि वह चेहरे की पहचान तकनीक का उपयोग कैसे करता है - मंच पर वह सुविधा जो चेहरों को तस्वीरों में टैग करने की अनुमति देती है। अब से, यदि आप चाहते हैं कि यह सुविधा आपके सोशल मीडिया अनुभव का हिस्सा बने, तो आपको इसे चालू करने का विकल्प चुनना होगा। यह सभी नए उपयोगकर्ताओं के लिए डिफ़ॉल्ट रूप से बंद हो जाएगा, और वर्तमान उपयोगकर्ताओं के लिए जो बदलाव के बारे में आगामी नोटिस प्राप्त होने पर कुछ भी नहीं करते हैं, फेसबुक ने मंगलवार को घोषणा की ब्लॉग भेजा .
यह कंपनी की बढ़ती जागरूकता का संकेत है कि इसे एक अधिक गोपनीयता-सचेत छवि पेश करने की आवश्यकता है - और चेहरे की पहचान तकनीक के प्रति जनता की बढ़ती सतर्कता, जो छवियों में, वीडियो में या वास्तविक रूप में अपने चेहरे की विशेषताओं का विश्लेषण करके किसी व्यक्ति की पहचान कर सकती है। समय।
फेसबुक ने वर्षों पहले चेहरे की पहचान को एक ऐसे संदर्भ में लोकप्रिय बनाया जो पूरी तरह से निर्दोष लग रहा था: इसने हमारे दोस्तों के चेहरों को हमारे लिए उन तस्वीरों में टैग किया जिन्हें हमने सोशल मीडिया नेटवर्क पर पोस्ट किया था। यह हम में से कई लोगों के लिए, चेहरे की पहचान के लिए पहला परिचय था, और हमने मुश्किल से सुविधाजनक तकनीक को दूसरा विचार दिया।
2019 के लिए तेजी से आगे, और सुर्खियों में लोग इसके दुष्परिणामों की आलोचना कर रहे हैं। प्रौद्योगिकी अब एक भूमिका निभाती है पुलिस और निगरानी , और एआई विशेषज्ञ यह दिखाते हुए सबूतों की ओर इशारा करते हैं कि यह कर सकता है रंग के लोगों को असमान रूप से नुकसान पहुंचाते हैं . Apple, Amazon, और Microsoft जैसी Behemoth कंपनियां तकनीक को लेकर विवादों में घिर गई हैं। सैन फ्रांसिस्को, ओकलैंड और सोमरविले जैसे कुछ शहरों ने पहले ही इस पर स्थानीय प्रतिबंध लगा दिए हैं।
पिछले महीने, डेमोक्रेटिक राष्ट्रपति पद के उम्मीदवार सेन बर्नी सैंडर्स ने पुलिसिंग के लिए चेहरे की पहचान सॉफ्टवेयर के उपयोग पर पूरे देश में प्रतिबंध लगाने का आह्वान किया। सेन एलिजाबेथ वारेन कहा कि वह एक टास्क फोर्स बनाएगी चेहरे की पहचान सहित निगरानी तकनीक के लिए रेलिंग और उपयुक्त गोपनीयता सुरक्षा स्थापित करना।
और जैसे-जैसे तकनीक हमारे अपार्टमेंट की इमारतों से लेकर हमारे हवाई अड्डों तक हर जगह आती है, यह नागरिकों के बीच तेजी से विवाद पैदा कर रहा है। उदाहरण के लिए, ब्रुकलिन के काले किरायेदारों को लें, जो अपने मकान मालिक द्वारा अपने किराए पर स्थिर भवन में तकनीक स्थापित करने की योजना पर आपत्ति जताई . या यात्री जिसने ट्विटर के माध्यम से शिकायत की कि जेटब्लू ने चेहरे की पहचान का उपयोग करके उसे अपनी उड़ान में चेक किया था उसकी सहमति के बिना।
इस पृष्ठभूमि के खिलाफ, इसमें कोई आश्चर्य की बात नहीं है कि फेसबुक विवादास्पद तकनीक के उपयोग के बारे में अधिक विवेकपूर्ण होने के लिए (या कम से कम ऐसा प्रतीत होता है) कर रहा है। कंपनी एक में उलझी हुई है गोपनीयता घोटालों की श्रृंखला - जिनमें से कैम्ब्रिज एनालिटिका केवल सबसे चकाचौंध है - और आखिरी चीज जो इसे चाहिए वह अधिक आरोप है कि यह उपयोगकर्ताओं की गोपनीयता को गंभीरता से लेने में विफल रहा है।
वास्तव में, फ़ेडरल ट्रेड कमिशन के फ़ेसबुक के ख़िलाफ़ हालिया आरोपों में से एक यह था कि कंपनी ने यूजर्स को किया गुमराह वर्षों पहले चेहरे की पहचान के इसके उपयोग को ठीक से न समझाकर। फेसबुक जुलाई में FTC के साथ 5 अरब डॉलर का समझौता करने के लिए कंपनी को उस तकनीक के उपयोग पर स्पष्ट होने की आवश्यकता है।
अपने मंगलवार के ब्लॉग पोस्ट में, प्राइवेसी मैटर्स नामक एक सेक्शन के तहत, फेसबुक ने नोट किया: हमने फेसबुक पर गोपनीयता विशेषज्ञों, शिक्षाविदों, नियामकों और लोगों के साथ जुड़ना जारी रखा है कि हम चेहरे की पहचान का उपयोग कैसे करते हैं और इसे नियंत्रित करने के लिए आपके पास विकल्प हैं।
कंपनी ने इसे वापस समझाया दिसंबर 2017 , इसने कुछ उपयोगकर्ताओं को चेहरे की पहचान के व्यापक सेट के लिए एक आसान चालू या बंद स्विच प्रदान करने के लिए एक नई सेटिंग दी थी, जैसे कि फेसबुक पर आपकी पहचान को सुरक्षित रखने में आपकी मदद करने के लिए अगर कोई आपके चेहरे की तस्वीर का उपयोग अपनी प्रोफ़ाइल फ़ोटो के रूप में कर रहा है .
अभी तक, प्रत्येक उपयोगकर्ता - केवल कुछ ही नहीं - को यह सेटिंग प्राप्त होगी जो हमें फेसबुक पर चेहरे की पहचान तकनीक के सभी उपयोगों को चुनने या बाहर रहने के लिए प्रेरित करेगी।
फेसबुक की अधिसूचना ऑप्ट इन करने के पेशेवरों पर जोर देती है। इसमें कहा गया है कि निर्णय लेने का मतलब है कि हम आपकी तस्वीर का उपयोग करने वाले किसी व्यक्ति के खिलाफ आपकी रक्षा करने में मदद कर सकते हैं और जब आप स्क्रीन रीडर के माध्यम से किसी फ़ोटो या वीडियो में होते हैं तो हम दृष्टिहीन लोगों को बता सकते हैं। लेकिन जिस हद तक इस तकनीक को अपनाने का अर्थ है इसे और सामान्य बनाना, विचार करने के लिए कुछ बहुत ही गंभीर नुकसान हैं।
चेहरे की पहचान तकनीक को इतना विवादास्पद क्या बनाता है?
सबसे पहले, हर कोई नहीं सोचता कि चेहरे की पहचान तकनीक जरूरी समस्याग्रस्त है। अधिवक्ता कहते हैं कि सॉफ्टवेयर लापता बच्चों और बुजुर्ग वयस्कों को खोजने या अपराधियों और आतंकवादियों को पकड़ने जैसे योग्य उद्देश्यों में मदद कर सकता है। माइक्रोसॉफ्ट के अध्यक्ष ब्रैड स्मिथ ने कहा है कि यह होगा निर्दयी सरकारी एजेंसियों को सॉफ्टवेयर की बिक्री पूरी तरह से बंद करने के लिए। यह शिविर तकनीक को विनियमित देखना चाहता है, लेकिन प्रतिबंधित नहीं।
लेकिन अच्छी तरह से प्रलेखित तथ्य पर विचार करें कि मानव पूर्वाग्रह एआई में रेंग सकता है। अक्सर, यह एआई में जाने वाले प्रशिक्षण डेटा के साथ एक समस्या के रूप में प्रकट होता है: यदि डिजाइनर ज्यादातर सफेद पुरुष चेहरों के सिस्टम उदाहरणों को खिलाते हैं, और अपने डेटा में विविधता लाने के बारे में नहीं सोचते हैं, तो सिस्टम महिलाओं और लोगों को ठीक से पहचानना नहीं सीखेंगे। रंग का। और वास्तव में, हमने पाया है कि अक्सर चेहरे की पहचान प्रणाली गलत पहचान वे समूह, जिनके कारण कानून प्रवर्तन एजेंसियों द्वारा तकनीक का उपयोग करने पर उन्हें असमान रूप से पूछताछ के लिए रखा जा सकता है।
2015 में, Google की छवि पहचान प्रणाली अफ्रीकी अमेरिकियों को गोरिल्ला के रूप में लेबल किया। तीन साल बाद, अमेज़ॅन की पहचान प्रणाली गलत है कांग्रेस के 28 सदस्यों का आपराधिक मग शॉट्स से मिलान किया . एक और अध्ययन पाया गया कि तीन चेहरे की पहचान प्रणाली - आईबीएम, माइक्रोसॉफ्ट, और चीन की मेगवी - में हल्की चमड़ी वाले लोगों की तुलना में गहरे रंग के लोगों (विशेषकर महिलाओं) के लिंग की गलत पहचान करने की अधिक संभावना थी।
भले ही सभी तकनीकी मुद्दों को ठीक कर दिया जाए और चेहरे की पहचान तकनीक पूरी तरह से पक्षपातपूर्ण हो, क्या यह सॉफ्टवेयर को वास्तविक दुनिया में तैनात होने पर हमारे समाज को नुकसान पहुंचाने से रोकेगा? जरूरी नहीं, जैसा एआई नाउ इंस्टीट्यूट की एक हालिया रिपोर्ट बताते हैं।
मान लीजिए कि तकनीक अश्वेत लोगों की पहचान करने में उतनी ही अच्छी है जितनी कि गोरे लोगों की पहचान करने में। यह वास्तव में एक सकारात्मक बदलाव नहीं हो सकता है। यह देखते हुए कि अमेरिका में अश्वेत समुदाय पर पहले से ही अधिक पाबंदी है, इस तकनीक के लिए काले चेहरों को अधिक सुपाठ्य बनाना और फिर पुलिस को तकनीक देना केवल भेदभाव को बढ़ा सकता है। जैसा ज़ोए समुदज़ी ने डेली बीस्ट में लिखा , काले लोगों को सॉफ्टवेयर के लिए समान रूप से दृश्यमान बनाना सामाजिक प्रगति नहीं है जो अनिवार्य रूप से हमारे खिलाफ और अधिक हथियार बन जाएगा।
वुडरो हार्टज़ोग और इवान सेलिंगर, एक कानून के प्रोफेसर और एक दर्शनशास्त्र के प्रोफेसर, क्रमशः, तर्क दिया पिछले साल कि चेहरे की पहचान तकनीक स्वाभाविक रूप से हमारे सामाजिक ताने-बाने के लिए हानिकारक है। उन्होंने लिखा, चेहरे की पहचान प्रणाली का अस्तित्व, जो अक्सर अदृश्य होता है, नागरिक स्वतंत्रता को नुकसान पहुंचाता है, क्योंकि लोग अलग तरह से कार्य करेंगे यदि उन्हें संदेह है कि उनका सर्वेक्षण किया जा रहा है। चिंता की बात यह है कि अभिव्यक्ति, सभा और धर्म की स्वतंत्रता पर इसका ठंडा प्रभाव पड़ेगा।
माइक्रोसॉफ्ट रिसर्च मॉन्ट्रियल के लिए काम करने वाले एक डिजिटल मीडिया विद्वान ल्यूक स्टार्क ने हाल के एक लेख में एक और तर्क दिया जिसका शीर्षक है चेहरे की पहचान एआई का प्लूटोनियम है। एक रेडियोधर्मी तत्व के लिए सॉफ्टवेयर की तुलना शीर्ष पर लग सकती है, लेकिन स्टार्क जोर देकर कहते हैं कि सादृश्य उपयुक्त है। प्लूटोनियम जैविक रूप से विषाक्त तत्व है जिसका उपयोग परमाणु बम बनाने के लिए किया जाता है, और जिस तरह इसकी विषाक्तता इसकी रासायनिक संरचना से आती है, वैसे ही चेहरे की पहचान का खतरा इसके भीतर संरचनात्मक रूप से अंतर्निहित है, क्योंकि यह मानवीय चेहरे को संख्यात्मक मान देता है। वो समझाता है:
डेटा के माध्यम से मानव शरीर को नेत्रहीन रूप से वर्गीकृत करने के लिए चेहरे की पहचान प्रौद्योगिकियां और अन्य प्रणालियां अनिवार्य रूप से हैं और हमेशा इसका मतलब है कि एक निर्मित श्रेणी के रूप में जाति को परिभाषित और दृश्यमान बनाया जाता है। मनुष्यों को सुपाठ्य, हेरफेर करने योग्य संकेतों के सेट में कम करना कई सौ वर्षों से चली आ रही वैज्ञानिक और प्रशासनिक तकनीकों के नस्लीयकरण की एक बानगी रही है।
उनका कहना है कि मानव चेहरे की विशेषताओं को संख्यात्मक रूप से वर्गीकृत और योजनाबद्ध करने का मात्र तथ्य खतरनाक है, क्योंकि यह सरकारों और कंपनियों को हमें विभिन्न जातियों में विभाजित करने में सक्षम बनाता है। यह उस क्षमता से कुछ समूहों को अधीनस्थ के रूप में मानने के लिए संख्यात्मक कारणों को खोजने के लिए एक छोटी छलांग है, और फिर अधीनता का दावा करने के लिए 'संख्याओं के करिश्मे' का उपयोग करके उस अधीनता को फिर से परिभाषित करना एक 'स्वाभाविक' तथ्य है।
दूसरे शब्दों में, नस्लीय वर्गीकरण भी अक्सर नस्लीय भेदभाव को बढ़ावा देता है। यह कोई दूर की कल्पना नहीं है, बल्कि वर्तमान वास्तविकता है: चीन पहले से ही उइगर मुसलमानों को उनकी उपस्थिति के आधार पर ट्रैक करने के लिए चेहरे की पहचान का उपयोग कर रहा है, एक प्रणाली में दी न्यू यौर्क टाइम्स स्वचालित नस्लवाद करार दिया है। यह प्रणाली चीन के लिए उइगरों को घेरने और उन्हें नजरबंदी शिविरों में बंद करना आसान बनाती है।
फेसबुक की सुविधाजनक फोटो-टैगिंग सुविधा के रूप में एक ही सांस में एक सत्तावादी सरकार के अल्पसंख्यक के दमन के बारे में बात करना अजीब लग सकता है। लेकिन यह बिल्कुल सही बात है: एक ही तकनीक उन दोनों को रेखांकित करती है, और एक को अनजाने में सामान्य करने का जोखिम यह है कि हम एक ऐसी दुनिया की ओर बढ़ते हैं जहां दूसरा अधिक प्रचलित हो जाता है।
फ्यूचर परफेक्ट न्यूजलेटर के लिए साइन अप करें। सप्ताह में दो बार, आपको हमारी सबसे बड़ी चुनौतियों से निपटने के लिए विचारों और समाधानों का एक राउंडअप मिलेगा: सार्वजनिक स्वास्थ्य में सुधार, मानव और पशु पीड़ा को कम करना, भयावह जोखिमों को कम करना, और - सीधे शब्दों में कहें तो - अच्छा करने में बेहतर होना।
