De laatste tijd hebben veel bedrijven aandacht besteed aan de bestrijding van cyberpesten (dwz opzettelijke intimidatie of vernedering) op internet. Dit betreft in de eerste plaats de eigenaren van grote sociale netwerken en vergelijkbare internetsites. Zo lanceert Facebook, het bedrijf dat eigenaar is van het populaire Instagram-platform, een nieuwe functie om intimidatie van gebruikers tegen te gaan. Het is vermeldenswaard hier niet zozeer dat het reacties op berichten zal volgen, maar dat het zal werken op basis van kunstmatige intelligentie-algoritmen.
Hoe werkt de anti-cyberpestfunctie van Instagram?
Sinds 16 december hebben sommige Instagram-gebruikers deze optie al gekregen (zelfs zonder hun medeweten). Het zal mensen op de hoogte stellen wanneer bijschriften bij hun foto’s of video’s “mogelijk als aanstootgevend worden beschouwd”. Instagram-managers zeggen dat ze een AI hebben “ontwikkeld en getest” die “verschillende vormen van pesten kan herkennen” binnen het sociale netwerk. Voordat dergelijke opmerkingen worden gepubliceerd, zal het algoritme gebruikers er eerst over informeren, als het dit nodig acht.
Onze testresultaten waren veelbelovend en we ontdekten dat deze aanpak gebruikers vaak dwingt hun woorden te heroverwegen. – verklaarde in de persdienst van Instagram.
Maar hoe werkt deze functie? Laten we een voorbeeld nemen: wanneer u een handtekening maakt voor uw eigen bericht of dat van iemand anders, bepaalt een AI-algoritme of uw inhoud mogelijk aanstootgevend of gevaarlijk is. U kunt een hint krijgen die u hierover informeert. U krijgt dan de gelegenheid om te bewerken wat u hebt geschreven. Hoewel het niet nodig is. Als je wilt, kun je alles laten zoals oorspronkelijk gepland. Klinkt niet erg overtuigend, toch? Maar niet alles is zo gemakkelijk. Het punt is dat zelfs als je een opmerking of bericht plaatst en na verdere analyse beledigende uitspraken blijken te bevatten, andere platformgebruikers het gewoon niet zullen zien. Wat vind je van deze kans? Schrijf uw mening in onze chat op Telegram. Daar zal niemand uw opmerkingen verbergen.
Instagram-functionarissen zeggen dat de functie al beschikbaar is in sommige regio’s en de komende maanden geleidelijk wereldwijd zal worden uitgerold. Maar ik wil hier graag over praten. We kennen allemaal nogal vreemde gevallen van gebruikers van platforms zoals Twitch of YouTube die werden verbannen voor dit soort uitspraken, wat in feite niet altijd het geval was.
Dus, waar is de garantie dat een woord goed gezelschap een nieuwe “sanctie” wordt voor een buitensporige angst om verschillende segmenten van de bevolking te beledigen? En in plaats van terechte kritiek of harde maar eerlijke uitspraken door het “AI-filter” te sturen, zal Instagram dan niet iedereen gaan “verbannen” in de hoop een “regenbogen en eenhoorns”-platform van het sociale netwerk te maken? Er zijn zeker een soort aanpassingsmechanismen nodig. Maar wie controleert de mechanismen die onze communicatie beheersen?
