När en CIA-stödd riskkapitalfond intresserade sig för Rana el Kalioubys ansiktsskanningsteknik för att upptäcka känslor, datavetenskapsmannen och hennes kollegor gjorde själslig sökning-och tackade sedan nej till pengarna.

"Vi är inte intresserade av applikationer där du spionerar på människor, "sa el Kaliouby, VD och medgrundare av Boston startup Affectiva. Företaget har utbildat sina artificiella intelligenssystem för att känna igen om individer är glada eller ledsna, trött eller arg, använder ett fotografiskt arkiv med mer än 6 miljoner ansikten.

De senaste framstegen inom AI-driven datorsyn har påskyndat loppet om självkörande bilar och drivit de allt mer sofistikerade fototagningsfunktionerna som finns på Facebook och Google. Men när dessa nyfikna AI "ögon" hittar nya applikationer i butikens kassarader, poliskroppar och krigszoner, teknikföretagen som utvecklar dem kämpar för att balansera affärsmöjligheter med svåra moraliska beslut som kan stänga av kunder eller deras egna arbetare.

El Kaliouby sa att det inte är svårt att föreställa sig att använda ansiktsigenkänning i realtid för att upptäcka oärlighet-eller i händerna på en auktoritär regim, att övervaka reaktionen på politiskt tal för att utrota oenighet. Men det lilla företaget, som sprang av från ett MIT -forskningslaboratorium, har satt gränser för vad den ska göra.

Företaget har undvikit "någon säkerhet, flygplats, till och med lögndetektering, sa el Kaliouby. Affectiva har samarbetat med biltillverkare som försöker hjälpa trötta förare att hålla sig vaken, och med konsumentmärken som vill veta om människor svarar på en produkt med glädje eller avsky.

Sådan oro återspeglar nya betänkligheter kring möjligheterna och eventuella övergrepp mot allseende, tittar alltid på AI -kamerasystem - även när myndigheterna blir allt mer ivriga att använda dem.

Omedelbart efter torsdagens dödliga skottlossning mot en tidning i Annapolis, Maryland, polisen sa att de vände sig till ansiktsigenkänning för att identifiera den misstänkta som inte samarbetade. De gjorde det genom att trycka på en statlig databas som innehåller muggbilder av tidigare gripna och, mer kontroversiellt, alla som registrerat sig för ett Maryland -körkort.

Ursprunglig information till brottsbekämpande myndigheter sade att polisen hade vänt sig till ansiktsigenkänning eftersom den misstänkte hade skadat sina fingeravtryck i ett uppenbart försök att undvika identifiering. Rapporten visade sig vara felaktig och polisen sa att de använde ansiktsigenkänning på grund av förseningar med att få fingeravtrycksidentifiering.

I juni, Orlando International Airport tillkännagav planer på att kräva ansiktsidentifiering av passagerare på alla ankommande och avgående internationella flygningar i slutet av detta år. Flera andra amerikanska flygplatser har redan använt sådana skanningar för några, men inte allt, avgående internationella flyg.

Kinesiska företag och kommuner använder redan intelligenta kameror för att skämma ut jaywalkers i realtid och för att övervaka etniska minoriteter, utsätta vissa för förvar och politisk indoktrinering. Närmare hemmet, Overheadkamerorna och sensorerna i Amazons nya kassafri butik i Seattle syftar till att göra snatteri föråldrade genom att spåra varje objekt som köpare hämtar och lägger ner.

Oro över tekniken kan skaka även de största teknikföretagen. Google, till exempel, sade nyligen att det kommer att avsluta ett försvarskontrakt efter att anställda protesterat mot den militära tillämpningen av företagets AI -teknik. Arbetet innebar datoranalys av drönare från Irak och andra konfliktzoner.

Liknande farhågor om regeringskontrakt har väckt intern oenighet hos Amazon och Microsoft. Google har sedan publicerat AI -riktlinjer med betoning på användningsområden som är "socialt fördelaktiga" och som undviker "orättvis partiskhet".

Amazon, dock, har hittills avböjt det växande trycket från anställda och integritetsförespråkare för att stoppa igenkänning, ett kraftfullt verktyg för ansiktsigenkänning som det säljer till polisavdelningar och andra myndigheter.

Säg nej till lite arbete, självklart, betyder vanligtvis att någon annan kommer att göra det. Drone-footage-projektet som involverar Google, kallad Project Maven, syftade till att påskynda arbetet med att leta efter "livsmönster, saker som är misstänkta, indikationer på potentiella attacker, "sa Robert Work, en före detta Pentagon -tjänsteman som startade projektet 2017.

Även om det gör ont att förlora Google eftersom de är "väldigt, mycket bra på det, "Arbetet sa, andra företag kommer att fortsätta dessa ansträngningar.

Kommersiellt och statligt intresse för datorsyn har exploderat sedan genombrott tidigare under detta decennium med hjälp av ett hjärnliknande "neuralt nätverk" för att känna igen objekt i bilder. Att utbilda datorer för att identifiera katter i YouTube -videor var en tidig utmaning 2012. Nu, Google har en smartphone -app som kan berätta vilken ras.

Ett stort forskningsmöte - den årliga konferensen om datorsyn och mönsterigenkänning, som hölls i Salt Lake City i juni - har förvandlats från en sömnig akademisk sammankomst av "nördiga människor" till en guldrusning affärsutställning som lockar stora företag och statliga myndigheter, sa Michael Brown, en datavetare vid Torontos York University och en konferensarrangör.

Brown sa att forskare har erbjudits högbetalda jobb på plats. Men några av de tusentals tekniska dokument som lämnats till mötet behandlar bredare allmänna oro kring integritet, partiskhet eller andra etiska dilemman. "Vi har förmodligen inte så mycket diskussion som vi borde, " han sa.

Start -ups går sina egna vägar. Brian Brackeen, VD för det Miami-baserade mjukvaruföretaget Kairos för ansiktsigenkänning, har fastställt en allmän policy mot att sälja tekniken till brottsbekämpning eller för statlig övervakning, argumenterar i en nyligen uppsats att det "öppnar dörren för grovt oredlighet av de moraliskt korrupta".

Boston-baserad start Neurala, däremot, bygger programvara för Motorola som hjälper polisbärda kroppskameror att hitta en person i en folkmassa baserat på vad de bär och hur de ser ut. VD Max Versace sa att "AI är en spegel av samhället, "så företaget väljer bara principiella partners.

"Vi är inte en del av den totalitära, Orwellian schema, " han sa.

© 2018 Associated Press. Alla rättigheter förbehållna.