Facebook onderzoekt racisme eigen algoritmes

Facebook Mark Zuckenberg

Sociaal netwerk Facebook gaat een onderzoek starten over het racisme van hun eigen algoritmes. Dat zegt de techreus tegen de Amerikaanse Wall Street Journal.

De bedoeling is dat ze erachter komen welk effect de door AI getrainde algoritmes hebben op minderheidsgroepen. Facebook stelt dat dat nodig is om te zorgen voor een eerlijk en inclusief netwerk. Ook Facebook-dochter Instagram gaat op die manier onder de loep.

De maatregelen tegen racisme volgen op aanhoudende kritiek op de techreus vanwege algoritmes waarin lelijke vooroordelen geprogrammeerd zitten. Zwarte gebruikers kregen bijvoorbeeld bepaalde vacatures niet in hun tijdlijn en nieuwsoverzicht. Aan de adverteerderskant speelde dat ook. Zo kon je als werkgever bijvoorbeeld aanvinken dat gebruikers met een bepaalde huidskleur of religie hun advertenties niet zouden zien. Dat gebeurde bijvoorbeeld bij makelaars die hun te koop staande huizen op die manier konden weghouden bij bepaalde bevolkingsgroepen.

Druk opgevoerd

Dat beleid leverde de laatste maanden niet alleen forse kritiek op maar ook veel pressie. Een groeiend aantal grote bedrijven zegt niet meer te willen adverteren op het netwerk totdat de problemen zijn opgelost. Het gaat dan om bedrijven als Unilever, The North Face en Verizon,.

Er is nog niet bekend wat de reactie is op het voornemen van Facebook.

Begin dit jaar nam het netwerk al wel de maatregel om deepfakes te verbieden. Deepfakes worden volgens het platform nog niet veel gebruikt. Het bedrijf wil de destructieve hype echter voor zijn. Dat gebeurt juist omdat deepfakes niet altijd goed zijn te onderscheiden van echt.

Gerelateerde berichten...

X