Vorig jaar keek een Business Insider-rapport naar Walmart’s anti-winkeldiefstal AI-technologie van het in Ierland gevestigde technologiebedrijf Everseen. Nu onthult een nieuw rapport van Wired hoe gebrekkig de software kan zijn, volgens Walmart-experts.
Wired ontving een tip per e-mail van een groep die zichzelf ‘Concerned Associates of the Home Office’ noemde. Dit is een verwijzing naar het hoofdkantoor van Walmart, gevestigd in Arkansas, dat algemeen bekend staat als het ‘Home Office’. De e-mail bevatte een video die is geproduceerd en bewerkt door de groep en die laat zien hoe gebrekkig kunstmatige-intelligentiesoftware is als het gaat om het identificeren van echte dieven bij zelfcontrolestations.
Afgezien van het simpelweg missen van echte gevallen van winkeldiefstal (de video toont leden van Concerned Home Office Associates die verschillende tests uitvoeren om te laten zien hoe gemakkelijk het is om de software voor de gek te houden), het grootste probleem, volgens de groep, en Huffington-rapporten. Post, is dat valse positieven werknemers onnodig in gevaar brengen.
In de video, die helaas niet beschikbaar is om te bekijken, laat het zien hoe het systeem diefstalproblemen niet detecteert, maar vervolgens in de war raakt wanneer de persoon zijn smartphone op de self-checkout-scanner plaatst. Hij waarschuwt Walmart-medewerkers voor het probleem en vertelt de klant hulp te verwachten. Dit is geen definitief bewijs dat het hele systeem een mislukking is, maar in een wereld van COVID-19 kunnen deze valse positieven zowel werknemers als klanten een extra risico opleveren.
Dit sentiment wordt gedeeld door enkele bedrijfsmedewerkers van het bedrijf in rapporten van Wired en Huffington Post. Een (niet nader genoemde) werknemer merkte op dat werknemers hierdoor gevaar liepen en vroeg zich af of AI-technologie al dan niet moet worden uitgeschakeld, aangezien we allemaal met COVID-19 te maken hebben en nauwe interacties met andere mensen tot een minimum beperken.
De verklaring van Walmart over deze kwestie weerspiegelt de typische bedrijfsspraak en zegt tegen Wired: “We evalueren onze technologie regelmatig en, zoals blijkt uit de grootschalige implementatie van Eversen in de hele keten, zijn we ervan overtuigd dat deze momenteel aan onze normen voldoet.” Ze gingen verder met te zeggen dat valse positieven niet wijdverbreid waren.
Over het algemeen is het een interessant gesprek en een denkoefening over persoonlijk contact in de nasleep van COVID-19. Dat gezegd hebbende, heeft een Walmart-woordvoerder gezegd dat ze niet hebben overwogen Eversen op een van hun locaties te sluiten.
Als je hier meer over wilt lezen, bekijk dan zeker het uitgebreide rapport op Wired.
Wat denk je? Denk je dat dit een probleem is? Moet Walmart voorlopig stoppen met Everseen? Laat het ons hieronder weten in de comments of neem de discussie mee naar onze Twitter of Facebook.
Aanbevelingen van de redactie:
