We leven in een wereld vol hippe technologische snufjes. Op straat worden we automatisch herkend door camera’s die kunnen voorspellen in wat voor stemming we zijn. Als we een foto online zetten, herkennen de algoritmes van de site vaak de gezichten op de foto. Deuren gaan automatisch open. Lichten gaan aan. Muziek klinkt harder of zachter, en robots begroeten je als je binnenkomt.
Bijna alles wat je doet, wordt geregistreerd…. Als je wit bent.
Videos by VICE
Veel technologie die jou op de een of andere manier zou moeten herkennen, heeft het er verdomd lastig mee als je geen witte huid hebt. Onbedoeld racisme terzijde, is dat ook een praktisch probleem.
Deze zeepdispenser die niet reageert op de hand van een zwarte man is daar een heel pijnlijk voorbeeld van. Zijn hand lijkt te donker om door de dispenser te worden herkend. De mannen in de video kunnen er gelukkig nog om lachen, maar hier is iets heel erg mis.
Het gaat hier om veelgebruikte technologie die niet werkt omdat het niet is ingesteld op het herkennen van mensen die niet wit zijn. En in een wereld waarin wit een kleine minderheid is, is dat gewoon een behoorlijk praktisch probleem.
De technologische sector staat sowieso niet echt bekend om z’n diversiteit. Als advocaat van de duivel zou je kunnen zeggen dat dit niet per se een probleem is, zolang ze maar goed werk afleveren. Maar technologie die alleen werkt voor witte mensen kun je onmogelijk goed werk noemen. Kijk dit:
Nu weet ik ook nooit welke secret handshake ik moet gebruiken om zo’n apparaat eens normaal aan de praat te krijgen, maar dit is anders. Als zijn witte vriend zijn hand onder het apparaat houdt, spuugt het braaf een kwakje zeep uit. Het is geen incident. Om en om houden ze hun hand eronder. Bij de witte man werkt het zonder problemen, maar zijn zwarte vriend moet het telkens zonder zeep doen.
Volgens een vertegenwoordiger van het bedrijf zou het kunnen komen door een slechte sensor. De dispenser werkt met een infraroodlamp, legt hij uit. Als je je hand onder de dispenser houdt, kaatst die het infraroodlicht terug naar een sensor. Bij voldoende teruggekaatst licht geeft de sensor door dat het apparaat zeep moet spuiten. Een donkerdere huid zou er dus in theorie voor kunnen zorgen dat er niet genoeg licht wordt teruggekaatst naar de sensor. Maar volgens de vertegenwoordiger is dat waarschijnlijk niet het geval, want het kleurverschil in de handpalmen van beide mannen is volgens hem ook weer niet zo gek groot.
Maar stel dat het wel aan de sensor ligt. Dan nog is er zo veel technologie die compleet faalt bij mensen die niet wit zijn, dat het gênant is. Gezichtsherkenningssoftware bijvoorbeeld.
De voorbeelden zijn even tragisch als ze wrang zijn. Wat te denken van de onderzoekster van het MIT Media Lab, die een gezichtsherkenningsalgoritmes op maat liet maken. Ze had het algoritme dat ze voor haar eigen onderzoek zou gaan gebruiken door anderen laten maken. De makers hadden alleen geen rekening gehouden met haar zwarte huidskleur en gezichtsstructuur. Het resultaat: het algoritme dat ze nodig had voor haar eigen onderzoek herkende haar niet.
Het probleem is dus dat er onder de ontwikkelaars van de technologie een te eenduidig beeld bestaat van wat mensen zijn. Technologie wordt niet, of veel te weinig, getest op mensen met een andere huidskleur. Daardoor herkennen de algoritmes van sommige apparaten niet-witte mensen niet als mens. In andere woorden: de racistische zeepdispensers van deze wereld lijden waarschijnlijk niet onder slechte sensoren, maar zijn gewoon niet goed afgestemd op de miljarden mensen die niet wit zijn.
Het is dus meer dan een gelijkheidsprobleem. Door het te eenduidige beeld van technologische ontwikkelaars kan een gigantische groep mensen bepaalde technologie niet of minder goed gebruiken. In een samenleving die intussen bijna compleet afhankelijk is van technologische ontwikkelingen, kan dat al gauw hele praktische problemen opleveren, zoals ook deze Amerikaanse collega’s meemaakten.
