De IBM Model 5150 is een legende voor velen van ons, oude mensen, die rondhangen met iPads die praten als computers en die geweldige verhalen vertellen. Het punt is dat als het op computers aankomt, IBM een begrip is. In de afgelopen jaren is Watson de naam die je het meest hebt gehoord over IBM. Watson is het kunstmatige intelligentiesysteem van IBM, dat voor een miljard dingen wordt gebruikt. Een ding waar het niet langer voor zal worden gebruikt, is gezichtsherkenningstechnologie.
In een brief aan het Congres, gericht aan senatoren Cory Booker (D-NJ), Kamala Harris (D-CA) en vertegenwoordigers Karen Bass (D-CA), Hakeem Jeffries (D-NY) en Jerrold Nadler (D-NY ) IBM-CEO Arvind Krishna merkte op dat het gebruik van gezichtsherkenningstechnologie raciaal vooringenomen is en stelde hervormingen voor die nodig zijn om verantwoord gebruik van dergelijke technologie door wetshandhavers te overwegen. Het is duidelijk dat de brief zegt dat “IBM zijn softwareproducten voor gezichtsherkenning en analyse voor algemeen gebruik heeft uitgefaseerd.”
De nauwkeurigheid van de AI-gezichtsherkenning is op zijn zachtst gezegd verdacht. Als het niet verdacht is, dan is het verdomd duister. Met elke vooruitgang in gezichtsherkenningssystemen met kunstmatige intelligentie, komt de samenleving dichter bij het beroven van onze persoonlijke vrijheden die we nog hebben. Gezichtsherkenningssoftware heeft niet alleen raciale vooroordelen aangetoond, maar ook leeftijd en etniciteit. Kortom, op dit moment is het gewoon een gigantische schending van burgerrechten die op het punt staat ons dorp van persoonlijke privacy te vernietigen.
“IBM is sterk gekant tegen het gebruik van technologie, inclusief gezichtsherkenningstechnologie die wordt aangeboden door andere leveranciers, voor massasurveillance, rassendiscriminatie, schendingen van fundamentele mensenrechten en vrijheden, of enig doel dat niet in overeenstemming is met onze waarden en principes van Vertrouwen en Transparantie”, zei Krishna in de brief. “We zijn van mening dat het nu tijd is om een nationale dialoog aan te gaan over de vraag of en hoe gezichtsherkenningstechnologie moet worden gebruikt door nationale wetshandhavingsinstanties.”
Krishna suggereerde enkele manieren waarop IBM met het Congres zou kunnen samenwerken om raciale gelijkheid te bereiken, met betrekking tot beleid:
Politiehervorming: nieuwe federale regels moeten de politie meer verantwoordelijk maken voor wangedrag. Verantwoord technologiebeleid: technologie kan de transparantie vergroten en de politie helpen gemeenschappen te beschermen, maar mag geen discriminatie of raciale onrechtvaardigheid bevorderen. Mogelijkheden uitbreiden: training en opleiding voor veelgevraagde vaardigheden is de sleutel tot het vergroten van de economische kansen voor gekleurde gemeenschappen.
Wat dat laatste punt betreft, bood Krishna P-TECH (IBM’s schoolmodel waarbij studenten tegelijkertijd hun middelbare schooldiploma en AA in STEM kunnen behalen zonder schulden te maken) en een krachtig duwtje in de rug dat de beschikbaarheid van Pell Grant moet worden uitgebreid met training in niet-universitaire vaardigheden . en arbeidscertificeringsprogramma’s.
Dus het enige bedrijf dat we konden vertrouwen met gezichtsherkenningstechnologie, stapt uit de ring. Dat maakt de weg vrij voor Amazon, een bedrijf dat geen idee heeft hoeveel politiediensten zijn gezichtsherkenningssoftware, Rekognition, gebruiken om de markt te domineren. Laten we de gezichtsherkenningstechnologie van Facebook niet vergeten, die afkomstig is van een bedrijf dat ongeveer net zo betrouwbaar is als een kat vragen niet op je toetsenbord te zitten.
Amazon verkoopt consumentisme. Facebook verkoopt leugens. Dit zijn de bedrijven die de uiteindelijke staat van permanent toezicht zullen creëren. Dit zou wetgevers moeten afschrikken, en daarom moeten de mensen aan wie de brief is gericht het standpunt van IBM serieus nemen. IBM loopt vanaf het begin voorop op het gebied van computergebruik, kunstmatige intelligentie en alle bijbehorende technologie. Het is belangrijk dat IBM denkt dat hervormingen nodig zijn voordat gezichtsherkenningstechnologie op grote schaal wordt gebruikt.
Maar als de regering ons iets heeft laten zien, dan is het wel dat ze in het algemeen doet wat het beste is voor degenen die baat hebben bij een besluit, in plaats van wat het beste is voor de belangen van de mensen. IBM roept terecht op tot politiehervormingen en raciale gelijkheid, het is waar het land nu voor vecht. Maar tegelijkertijd zijn er gekkere, minder moreel gerichte bedrijven die meer dan bereid zijn op te treden en producten te leveren die, met de zegen van wetgevers, onze vrijheden zullen wegnemen als een verdomde pleister.
Juich je IBM toe om dit te doen of denk je dat we toch allemaal gedoemd zijn te mislukken? Heb je hier enig idee van? Laat het ons hieronder weten in de comments of neem de discussie mee naar onze Twitter of Facebook.
Aanbevelingen van de redactie:
