Een paar maanden geleden verliet Twitter zijn AI-aangedreven software voor het bijsnijden van foto’s nadat werd vastgesteld dat er een aantal behoorlijk significante raciale vooroordelen in waren ingebouwd. Sindsdien heeft het bedrijf een bug bounty-competitie gehouden waar gebruikers kunnen proberen meer te weten te komen over interne AI-bias.
De resultaten van de wedstrijd zijn gepresenteerd en lijken eerdere bevindingen van raciale vooroordelen te bevestigen. Maar raciale vooroordelen zijn niet het enige type vooroordelen die gebruikers tijdens wedstrijden tegenkomen. De onderzoekers vonden ook verschillende andere gebieden waar de kunstmatige intelligentie van Twitter de voorkeur zou geven aan het een boven het ander.
Uit de eerste inzending van de wedstrijd bleek dat Twitter’s algoritme voor het bijsnijden van foto’s niet alleen raciaal bevooroordeeld was, maar ook de neiging had om de voorkeur te geven aan afbeeldingen van jongere, dunnere mensen die door de samenleving als mooi worden geclassificeerd. Een ander item vond dat de software de voorkeur gaf aan Engelse letters boven Arabische.
Dit zijn natuurlijk behoorlijk schokkende bevindingen. Dergelijke sociale vooroordelen bestaan al een tijdje, maar het is een beetje ontmoedigend om te zien hoe ze worden gerepliceerd in de AI-software die de meesten van ons dagelijks gebruiken. Maar dit programma en de wedstrijd brengen een kleine hoop met zich mee dat er misschien een oplossing komt.
De wedstrijd zelf was een prachtige strategie voor Twitter. De mogelijkheid om een probleem te identificeren en externe gebruikers in te schakelen om andere potentiële problemen aan het licht te brengen, lijkt een goede aanpak.
De kunstmatige intelligentie van het bedrijf vertoont ernstige gebreken, maar door deze wedstrijd te hosten, heeft Twitter laten zien dat het toegewijd is aan het identificeren en corrigeren van eventuele vooroordelen in zijn systeem.
Heb je hier enig idee van? Laat het ons hieronder weten in de comments of neem de discussie mee naar onze Twitter of Facebook.
