Twitter heeft besloten zijn software voor het bijsnijden van afbeeldingen te staken nadat bleek dat de software behoorlijk significante vooroordelen bevatte. Gebruikers ontdekten dat de software de neiging had om blanke mensen bovenop zwarte mensen te laten zien in de preview van de afbeelding in een tweet.
In een blogpost op de website van de sociale-mediagigant publiceerde Rumman Chowdhury, directeur van software-engineering voor het META-team (machine learning-ethiek, transparantie en verantwoording) van het bedrijf de bevindingen van het team dat ze in feite enige vooringenomenheid in de software vonden. op basis van ras en geslacht.
Deze bevindingen komen voort uit maandenlang onderzoek dat teruggaat tot eind vorig jaar, toen gebruikers het probleem voor het eerst opmerkten. Eén gebruiker in het bijzonder, @bascule, plaatste een experiment dat de vooringenomenheid aantoonde.
Ze voegden een foto toe met Barack Obama en Mitch McConnell om te zien op welk gezicht het Twitter-algoritme zich zou concentreren. Ongeacht de positie van de gezichten koos de software altijd het gezicht van Mitch McConnell, tenzij de kleuren omgekeerd waren.
Twitter reageerde snel en zei dat er interne tests waren uitgevoerd voordat de functie werd uitgebracht, maar dat er duidelijk meer moest worden gedaan. In samenwerking met verschillende derde partijen voerde het bedrijf een onderzoek uit dat uiteindelijk belangrijke bugs in de software aantrof.
Vanaf nu heeft het bedrijf deze software bijna volledig verlaten. Twitter gebruikt momenteel een model dat waar mogelijk de volledige afbeelding toont. Voor afbeeldingen die te groot zijn, snijdt de app ze in het midden bij tot de maximaal mogelijke grootte.
Zoals eerder vermeld in de blogpost van het bedrijf, is hier echt geleerd dat machine learning niet altijd het antwoord is. Alleen omdat het kan, wil nog niet zeggen dat je het moet doen. Als het gaat om zaken als afbeeldingen van sociale media, is een meer praktische benadering misschien de beste optie.
Heb je hier enig idee van? Laat het ons hieronder weten in de comments of neem de discussie mee naar onze Twitter of Facebook.
