De foto-app FaceApp verontschuldigde zich voor zijn "racistische" huidverlichtende filter

Als je met FaceApp hebt gerommeld om te zien hoe je eruit zou zien als een kerel of een oudere vrouw, weet je dat de app behoorlijk vermakelijk is (om nog maar te zwijgen van een beetje griezelig - blijkbaar zal ik kijken precies zoals mijn oma in 60 jaar). Maar onlangs wezen sommige gebruikers op een ernstig probleem met het filter dat is ontworpen om je er heter uit te laten zien. Het algoritme van de app zorgt ervoor dat gebruikers er gewoon witter uitzien.

Voormalig gebruiker Terrance Johnson tweette zijn onbewerkte selfie naast dezelfde foto die door het Hot-filter liep. Hij merkte op dat het filter zijn huid lichter maakte en het uiterlijk van zijn neus veranderde.

Andere gebruikers hadden soortgelijke ervaringen met de app.

Naarmate meer gebruikers klaagden, e-mailde de oprichter en CEO van FaceApp, Yaroslav Goncharov, een verontschuldiging naar TechCrunch.

"Het spijt ons zeer voor deze ongetwijfeld ernstige kwestie", schreef hij in een verklaring. "Het is een ongelukkig neveneffect van het onderliggende neurale netwerk dat wordt veroorzaakt door de vooringenomenheid van de trainingsset, niet door bedoeld gedrag. Om het probleem te verhelpen, hebben we het effect hernoemd om elke positieve connotatie die ermee verbonden is, uit te sluiten. We werken ook aan de volledige oplossing die binnenkort zou moeten komen."

Vertaling: Het FaceApp-algoritme is ontworpen om op basis van een serie te leren welke gezichten als "hot" werden beschouwd van foto's geleverd door het team van Goncharov - en die foto's bevatten blijkbaar niet genoeg niet-witte "hot" gezichten. Problematisch, vind je niet?

Inmiddels heet het betreffende filter nu Spark in plaats van Hot.

Hannah Orenstein is de assistent-hoofdredacteur bij Seventeen.com. Volg haar op Twitter en Instagram!