Sensity, een inlichtingenbureau gevestigd in Amsterdam, ontdekte deze week dat de mobiele app, Telegram, wordt gebruikt om vrouwen uit te buiten. Het opzienbarende rapport, Deepfake-bots op Telegram, beweert dat de foto’s van slachtoffers worden geüpload naar een bot die deepfake-naaktafbeeldingen maakt.
Volgens BuzzFeed News waren iets minder dan 700.000 vrouwen het doelwit geweest van mensen die de bot gebruikten. De meeste vrouwen die het doelwit zijn, zijn geen beroemdheden, zoals je misschien denkt, maar particulieren die geen idee hebben dat hun afbeeldingen op zo’n manier worden gebruikt.
Een vernietigend verslag
Dit is de eerste keer dat Sensity zoiets als deze bot tegenkomt op het Telegram-platform. In plaats van een ruimte te zijn waar mensen expliciete afbeeldingen delen (wat we hier bij KnowTechie ook niet goedkeuren), is de bot geïntegreerd in de site. Het bedrijf ontdekte een Telegram-netwerk van 101.080 gebruikers in verband met de bot. Ongeveer 70.750 van deze profielen lijken te zijn gevestigd in Rusland en Oost-Europa.
Dit is anders dan deepfake-video’s. Ze gebruiken slechts één afbeelding van het slachtoffer om deepfake-inhoud te maken, in plaats van duizenden afbeeldingen nodig te hebben. Dit verhoogt het risico op uitbuiting en intimidatie, simpelweg omdat het zoveel gemakkelijker te realiseren is. Volgens het rapport zijn er ongeveer 105.000 afbeeldingen van vrouwen op de site geüpload. Hiervan blijkt een deel van de slachtoffers minderjarig te zijn. Oh!
Deepfakes zijn niet alleen politiek
Afbeelding: Christian Wiediger op Unsplash
We hebben de laatste tijd veel gesproken over deepfakes. De meesten van hen hebben echter een politieke figuur als Donald Trump of Vladimir Poetin als onderwerp. Nu zien we hoe deepfakes het leven van duizenden onschuldige vrouwen beginnen binnen te dringen. Als dit al niet rampzalig genoeg is, kan het in de toekomst alleen nog maar rampzaliger worden.
Dit opent een geheel nieuw gevolg van deepfake-technologie. In landen met meer conservatieve sociale praktijken, zouden we kunnen zien dat vrouwen het slachtoffer worden van meer intimidatie vanwege deze zeer valse beelden, vooral als ze in publieke handen terechtkomen. Dankzij deze beelden kunnen vrouwen hun baan verliezen of het slachtoffer worden van huiselijk geweld door een jaloerse partner. Ze kunnen mogelijk worden gebruikt om een vrouw te dwingen iets te doen wat ze anders niet zou doen.
De online wereld moet veranderen. Snel.
Vrouwen worden dagelijks uitgebuit en lastiggevallen via verschillende online platforms. Het leven van onschuldige vrouwen wordt verwoest door allerlei vormen van online misbruik, en dat mag niet doorgaan. Hoe meer we dit soort objectivering van vrouwen normaliseren, hoe langer we deze sinistere kant van de ruimte zullen hebben die oorspronkelijk voor iedereen bedoeld was.
Het is zo toegankelijk en gemakkelijk te gebruiken, wat deze Telegram-bot zo gevaarlijk maakt. Met zoveel mensen die sociale media gebruiken, een ware goudmijn aan originele afbeeldingen voor gebruikers van dit soort software, moeten we precies inschatten hoe belangrijk onze socialemediaplatforms echt voor ons zijn, met strengere regelgeving voor dit soort inhoud en aanzienlijk meer om de makers en gebruikers van deze sites te pakken en te straffen.
Heb je hier enig idee van? Laat het ons hieronder weten in de comments of neem de discussie mee naar onze Twitter of Facebook.
Aanbevelingen van de redactie:
