Jacksons Food Store-kunden Denise Diharce blev förvånad över att höra att Tacoma-platsen hon besöker för odds och slut testar ett högteknologiskt system som, före inträde, kommer att jämföra henne med bilder på tidigare brottsmisstänkta.

Innan kunder kan gå in i den grundläggande närbutiken i hörnet av South 38th Street och Pacific Avenue, en kamera under en röd markis kommer att ta en bild och använda artificiell intelligens (AI) för att avgöra om bilden stämmer överens med någon i en databas över kända rånare och butikssnattare på den platsen.

"Det är en integritetsintrång eftersom du bör meddelas om det, " Diharce sa på en morgon nyligen. "De borde ha en skylt för att meddela dig att de jämför det med foton av brottslingar."

Jacksons talesperson Russ Stoddard sa att när den är fullt fungerande, systemet kommer att fungera från 20.00-06.00. Det är nu inaktiverat efter ett nyligen genomfört test, men när den slås på igen, en skylt på framsidan av butiken kommer att meddela kunder att ansiktsigenkänningsteknik används, och en talare kommer att be kunderna att titta på kameran. Dörren låses inte upp om någon bär en mask eller om personen tidigare har flaggats för brottslig verksamhet av kamerabilder i butik.

En kund som heter May, som bad att hennes efternamn inte skulle användas, sa att hon inte hade några problem med övervakningsverktyget, men ifrågasatte dess syfte i en hörnbutik.

"Det är en liten butik - jag förstår inte varför de behöver något sådant, sa May när hon stod på Jacksons parkeringsplats.

Testerna på Jacksons, rapporterades först av KIRO 7, är en del av en större trend där återförsäljare, liksom regeringar, vänder sig till AI-kameror för att bekämpa kriminell verksamhet och för att observera människors vanor för andra ändamål. Det är en utveckling som har integritetsförespråkare som undrar om insatserna mot brott uppväger riskerna för medborgerlig frihet.

Big box-återförsäljare som Target, Walmart och Lowes har också använt AI -kameror för att förhindra kriminell verksamhet, och en färsk rapport från analysföretaget CB Insights fann att butiker inte alltid kommer om deras användning av tekniken. AI-kameror kan titta på mer än bara snattare:På en Long Island Walmart, Associated Press rapporterade, tusentals högupplösta kameror har nyligen installerats för att övervaka lager på hyllor och till och med fruktens mognad.

Medborgerliga frihetsgrupper oroar sig för att om det blir oreglerat, den ökade användningen av programvara för ansiktsigenkänning i butiker och på andra ställen kan vidmakthålla fördomar och leda till massövervakning.

Ansiktsigenkänningsprogrammet på Jacksons är skapat av Blue Line Technology, en Fenton, Mo.-baserat företag som samarbetar med Dell och Axis för att tillhandahålla videosäkerhetssystemet.

Plattformen är inte kopplad till en kriminell databas, så en butikschef måste flagga en misstänkt snattares bild för att få ett meddelande när personen närmar sig butiken igen. Namn och personuppgifter samlas inte in av systemet, och företaget rekommenderar sina användare att endast lagra bilder av icke-flaggade kunder i 24-48 timmar, medan misstänkta snattare förvaras i databasen.

Detaljhandel kan vara en farlig bransch:Enligt branschpublikationen The D&D Daily, 424 människor dog våldsamt i butiker under 2017.

Blue Line Technologys seniorpartner Tom Sawyer sa att de mer än 20 detaljhandelsföretagen som använder dess mjukvaruplattform över hela landet har rapporterat en 95 % minskning av polissamtal, och butiksstölder halveras.

En video av ett rånförsök förra sommaren visade två maskerade personer springa från synen efter att de nekats inträde i en Yakima AMPM-butik som använder Blue Lines system.

"Vi förstår stigmat bakom ansiktsigenkänning, sade Sawyer. Allt vi vill göra är att stoppa rånare.

Jacksons i Tacoma är det Idaho-baserade företagets andra plats för att installera videoövervakningssystemet, sa Vice President of Operations Jill Linville i ett mejl. En annan Jacksons i Portland, Malm., har använt tekniken i ungefär ett år, och företagets talesman Stoddard sa att kriminell aktivitet har minskat kraftigt tack vare systemet.

När den är helt installerad i Tacoma-butiken, AI-säkerhetssystemet kommer att fungera som en testplats för användning på dess andra platser i fem västerländska stater, även om Linville sa att det inte skulle distribueras i alla nästan 245 butiker.

Blue Line Technologys säkerhetsplattform vidtar den begränsade åtgärden att låsa en dörr på misstänkta snattare, som skiljer sig från system som strävar efter att analysera vad människor gör i realtid, kallas ibland videoanalys.

En annan uppstart av AI-säkerhetskamera, Austin, Texas-baserade Athena Security, använder videoanalys för att upptäcka vapen eller kriminell aktivitet på företag, skolor och gudstjänstlokaler, varnar sedan polisen om den potentiella faran.

Företaget säger att det försöker förhindra rasprofilering och insamling av personlig information genom att suddiga ut ämnen innan AI -systemet analyserar videon. Förra månaden, startupen installerade sina AI-drivna kameror i Al-Noor-moskén i Christchurch, Nya Zeeland, efter mordet på 50 tillbedjare vid två moskéer där i mars.

"A.I.-kärnan som driver Athena Security skrapar bara på ytan av vad den kan för att mildra brott och rädda liv, men färdplanen är också full av onda gropar som vi kommer att behöva storleksanpassa och ta rätt kurs, "Chris Ciabarra, CTO och medgrundare av Athena Security, sa i ett mejl.

En ny ACLU-rapport som beskriver oro för intelligent videoövervakningsteknik visar att AI-säkerhetssystem blir allt vanligare eftersom det blir enklare och snabbare att bygga system som känner igen människor och analyserar bilder. Tiden det tar att träna en artificiellt intelligent maskin att känna igen objekt i bilder har minskat från en timme till några minuter, enligt en rapport från Stanford University.

Utbredningen av AI -övervakningsteknologi kan inleda "ett samhälle där allas offentliga rörelser och beteende är föremål för konstant och omfattande utvärdering och bedömning av myndighetsagenter - kort sagt, ett samhälle där alla är bevakade, " varnade Jay Stanley, rapportförfattaren och senior policyanalytiker med ACLU Speech, Integritet, och teknikprojekt.

Blue Line Technology-programvarufilmer nås endast av brottsbekämpande myndigheter om butiksledningen väljer att dela dem. Amazons smarta dörrklocka företag Ring, å andra sidan, använder en app som heter Neighbours för att dela grannskapsvideor och tips med brottsbekämpande myndigheter.

Jake Laperruque, senior jurist vid det DC-baserade ideella Project on Government Oversight, säger att fler butiker använder övervakningsteknik för att observera shoppares vanor och stävja snatteri, även om han kallade Jacksons användning av AI-teknik för att tillåta inträde "lite extrem."

Ett annat exempel på AI-användning i detaljhandeln är att övervaka varor. ACLU-rapporten citerade Targets användning av AI-videoanalys för att meddela butikssäkerhet när kunder tillbringar lång tid framför vissa föremål.

Target berättade för The Seattle Times att det slutade använda videoanalyssystemet i den butik där det testades; detaljhandelsjätten slutade också testa mjukvara för ansiktsigenkänning för att förhindra bedrägeri och stöld i ett litet antal butiker förra året.

"Som vi alltid gör, vi kommer att fortsätta att testa och lära av ny teknik som har potential att hålla våra gäster och teammedlemmar säkra, ", skrev Targets talesperson Danielle Schumann i ett uttalande via e-post.

Lowe's beslutade också att inte använda ansiktsigenkänningsteknik för något syfte efter att ha genomfört ett tre månader långt test i tre butiker för fyra år sedan, sade företagets taleskvinna Maureen Wallace.

Förutom säkerhetssystem, videoanalys används i en rad maskiner av kommersiella eller statliga skäl, som att driva autonoma bilar eller robotar.

Den oöverträffade potentialen för massövervakning uppmanar beslutsfattare att hitta en delikat balans mellan den konstitutionella rätten till privatliv och yttrandefrihet när de skapar regler, säger Stanley.

För att förhindra utbredd missbruk av videoanalyssystem, Stanley rekommenderar att statliga myndigheter öppet diskuterar användningen av tekniken innan den implementeras. Videoanalys bör endast användas i nödvändiga situationer, han föreslår, och att inte fatta beslut som kan förändra människors liv utan deras godkännande. Inte heller ska privata företag använda videoanalys för att samla in kunddata av marknadsföringsskäl.

Laperruque från projektet om statlig tillsyn uttryckte oro över bristen på reglering över användningen av ansiktsigenkänning i detaljhandeln. Ansiktsövervakningsteknik har visat sig felidentifiera kvinnor och mörkhyade personer i högre takt än ljushyade män.

Även om Blue Line Technologys talesperson Sawyer sa att programvaran aldrig har felidentifierat någon, Laperruque sa att dess användning på Jacksons "inte verkar vara en bra sak för något annat än en diskrimineringsprocess."

©2019 The Seattle Times
Distribueras av Tribune Content Agency, LLC.