फोटो ऐप फेसएप ने अपने "जातिवादी" स्किन-लाइटनिंग फिल्टर के लिए माफी मांगी

यदि आपने यह देखने के लिए फेसएप के साथ खिलवाड़ किया है कि आप एक दोस्त या एक बुजुर्ग महिला के रूप में क्या दिखेंगे, तो आप जानते हैं कि ऐप बहुत मनोरंजक है (थोड़ा डरावना नहीं है - जाहिर तौर पर मैं देखूंगा बिल्कुल सही 60 साल में मेरी दादी की तरह)। लेकिन हाल ही में, कुछ उपयोगकर्ताओं ने आपको गर्म दिखने के लिए डिज़ाइन किए गए फ़िल्टर के साथ एक गंभीर समस्या की ओर इशारा किया। ऐप का एल्गोरिथम केवल उपयोगकर्ताओं को सफेद दिखने देता है।

पूर्व उपयोगकर्ता टेरेंस जॉनसन ने हॉट फिल्टर के माध्यम से चलाए गए उसी फोटो के साथ अपनी असंपादित सेल्फी ट्वीट की। उन्होंने नोट किया कि फ़िल्टर ने उनकी त्वचा को हल्का कर दिया और उनकी नाक का रूप बदल दिया।

अन्य उपयोगकर्ताओं को भी ऐप के साथ ऐसा ही अनुभव हुआ।

जैसा कि अधिक उपयोगकर्ताओं ने शिकायत की, फेसएप के संस्थापक और सीईओ यारोस्लाव गोंचारोव ने एक माफी को ईमेल किया टेकक्रंच.

"हमें इस निर्विवाद रूप से गंभीर मुद्दे के लिए गहरा खेद है," उन्होंने एक बयान में लिखा। "यह प्रशिक्षण सेट पूर्वाग्रह के कारण अंतर्निहित तंत्रिका नेटवर्क का एक दुर्भाग्यपूर्ण दुष्प्रभाव है, न कि इच्छित व्यवहार। समस्या को कम करने के लिए, हमने इससे जुड़े किसी भी सकारात्मक अर्थ को बाहर करने के लिए प्रभाव का नाम बदल दिया है। हम पूर्ण सुधार पर भी काम कर रहे हैं जो जल्द ही आ जाना चाहिए।"

अनुवाद: फेसएप एल्गोरिथम को यह जानने के लिए डिज़ाइन किया गया था कि श्रृंखला के आधार पर किन चेहरों को "हॉट" माना जाता है गोंचारोव की टीम द्वारा प्रदान की गई तस्वीरों की - और उन तस्वीरों में स्पष्ट रूप से पर्याप्त गैर-सफेद "गर्म" शामिल नहीं था चेहरे के। समस्याग्रस्त, क्या आपको नहीं लगता?

इस बीच, विचाराधीन फ़िल्टर को अब हॉट के बजाय स्पार्क कहा जाता है।

हन्ना ओरेनस्टीन सेवेंटीन डॉट कॉम में सहायक फीचर संपादक हैं। उसका अनुसरण करें ट्विटर तथा instagram!