Twitter onthult details van zijn bias-bounty terwijl het het publiek uitdaagt om zijn code te onderzoeken en ethische fouten te vinden in zijn algoritme voor het bijsnijden van afbeeldingen. De wedstrijd komt omdat een tijdje geleden werd ontdekt dat het algoritme een lichte vooringenomenheid zou kunnen hebben tegen zwarte mensen, iets dat het bedrijf probeert uit te roeien door ongecoupeerde afbeeldingsvoorbeelden te testen.
Twitter begon de ‘slimme oogst’ in 2018 te gebruiken, maar gebruikers zeggen dat het de voorkeur geeft aan mensen met een lichte huid en zelfs vrouwen boven mannen. Het relevantie-algoritme maakt gebruik van machine learning om afbeeldingen bij te snijden, zodat voorvertoningen in tweets een constante grootte behouden. Nu zoekt het bedrijf hulp om de vooroordelen in zijn machine learning-model te vinden voordat het meer ‘onbedoelde ethische schade’ veroorzaakt.
Voor codeurs die geïnteresseerd zijn, zijn er drie geldprijzen variërend van $ 500 (~ RM2.112) tot $ 3.500 (~ RM14.789) en twee speciale geldprijzen ter waarde van $ 1.000 (~ RM4.225) voor innovatie en generalisatie (zijnde van toepassing op meer algoritmen). De winnaars worden bekendgemaakt tijdens de DEF CON AI Village-workshop op 8 augustus en de winnaars zullen hun bevindingen aan het publiek presenteren.
“In mei hebben we onze aanpak voor het identificeren van vooroordelen in ons salience-algoritme (ook bekend als ons algoritme voor het bijsnijden van afbeeldingen) gedeeld en onze code beschikbaar gemaakt voor anderen om ons werk te reproduceren”, schreef Twitter in een blogpost. “We willen dit werk een stap verder brengen door de gemeenschap uit te nodigen en aan te moedigen om de mogelijke schade van dit algoritme te helpen identificeren die verder gaat dan wat we zelf hebben geïdentificeerd.”
Rumman Chowdhury, directeur van Twitter’s Machine Learning Accountability, Transparency and Ethics-team, tweette dat de reden voor de beloning is omdat “we vinden dat mensen moeten worden beloond voor het identificeren van deze problemen, en we kunnen deze uitdagingen niet alleen oplossen.” De wedstrijd begon voor inzendingen op 30 juli en loopt tot 6 augustus.
(Bron: Twitter)
