De allra flesta människor i utvecklade länder har nu en smartphone överallt. Och medan många av oss redan är väl medvetna om sekretessproblem i samband med smartphones, som deras förmåga att spåra våra rörelser eller till och med ta smygbilder, ett ökande antal människor börjar oroa sig för att deras smartphone faktiskt lyssnar på allt de säger.

Det kanske inte finns mycket bevis för detta men, det visar sig, det är inte långt från sanningen. Forskare över hela världen har börjat utveckla många typer av kraftfulla AI-algoritmer för ljudanalys som kan extrahera mycket information om oss från enbart ljud. Även om denna teknik bara har börjat dyka upp i den verkliga världen, dessa växande möjligheter – tillsammans med dess 24/7 närvaro – kan få allvarliga konsekvenser för vår personliga integritet.

Istället för att analysera varje ord folk säger, mycket av den lyssnande AI som har utvecklats kan faktiskt lära sig en svindlande mängd personlig information bara från ljudet av vårt tal. Det kan avgöra allt från vem du är och var du kommer ifrån, din nuvarande plats, ditt kön och ålder och vilket språk du talar - allt bara från hur din röst låter när du talar.

Om det inte är läskigt nog, andra ljud-AI-system kan upptäcka om du ljuger, analysera din hälsa och konditionsnivå, ditt nuvarande känslomässiga tillstånd, och om du är berusad eller inte. Det finns till och med system som kan upptäcka vad du äter när du talar med munnen full, plus en mängd forskning som undersöker diagnostisering av medicinska tillstånd utifrån ljud.

AI-system kan också exakt tolka händelser från ljud genom att lyssna på detaljer som bilolyckor eller skott, eller miljöer från deras bakgrundsljud. Andra system kan identifiera en talares attityd i en konversation, plocka upp outtalade meddelanden eller upptäcka konflikter mellan talare. Ett annat AI-system som utvecklades förra året kan förutsäga, bara genom att lyssna på tonen ett par använde när de talade till varandra, om de kommer att stanna tillsammans eller inte. Dessa är alla exempel på aktuell AI -teknik som utvecklats i forskningslaboratorier över hela världen.

Alla dessa tekniker – oavsett vad de försöker lära sig om dig – använder maskininlärning. Detta innebär att man tränar en algoritm med stora mängder data som har märkts för att indikera vilken information data innehåller. Genom att bearbeta tusentals eller miljontals inspelningar, Algoritmen börjar gradvis sluta sig till vilka egenskaper hos datan – ofta bara små fluktuationer i ljudet – som är förknippade med vilka etiketter.

Till exempel, ett system som används för att identifiera ditt kön skulle spela in tal från din smartphone, och bearbeta den för att extrahera "funktioner" – en liten uppsättning distinkta värden som kompakt representerar en större talinspelning. Vanligtvis, egenskaper representerar amplitud- och frekvensinformation i varje på varandra följande 20 millisekunders talperiod. Sättet att dessa fluktuerar över tiden kommer att vara något annorlunda för manligt eller kvinnligt tal.

Maskininlärningssystem kommer inte bara att titta på dessa funktioner, men också hur mycket, hur ofta, och på vilket sätt funktionerna ändras med tiden. Medan inspelningen sker i själva smarttelefonen, klipp skickas till internetservrar som extraherar funktioner, beräkna deras statistik, och hantera maskininlärningsdelen.

AI skapades först för att utföra konceptuella uppgifter som normalt kräver mänsklig intelligens. Just nu, de flesta AI-system utför analys och förståelseuppgifter, vilket innebär att de tillhandahåller information för människor att agera på, snarare än att agera automatiskt.

Till exempel, ljud-AI-system för vägövervakning kan uppmärksamma trafikledare på ljudet av en fordonskrasch, och ljudbaserad medicinsk diagnos AI skulle varna en läkare om orosfynd. Men en människa skulle fortfarande behöva fatta ett beslut baserat på informationen från AI:n.

Men nya AI-tekniker förändras. Många AI-system börjar överträffa mänskliga förmågor, med vissa enheter som till och med kan agera utan mänsklig inblandning. Amazon Echo och Google Home är båda exempel på AI som har tankeförmåga. Denna typ av AI kan svara på kommandon direkt och kan också agera på dessa kommandon, som när vi ber Alexa att tända lamporna eller dra våra smarta gardiner.

Medan de flesta AI-system idag är designade för att hjälpa människor, i fel händer, dessa tekniker skulle kunna se ut mer som Thought Police från George Orwells 1984 . Ljudövervakning (och video) kan redan upptäcka våra handlingar, men AI-systemen vi har nämnt börjar upptäcka vad som ligger bakom dessa åtgärder – vad vi tänker, även om vi aldrig säger det högt.

De flesta teknikföretag säger att deras enheter inte spelar in oss om vi inte beordrar dem att, men det har funnits exempel på att Alexa gjort inspelningar av misstag. Och forskare har visat att det inte krävs mycket för att göra din telefon till en permanent mikrofon. Det kan bara vara en tidsfråga innan annonsörer och bedragare börjar använda den här tekniken för att förstå exakt hur vi tänker, och rikta in våra privata svagheter.

Organisationer som World Privacy Forum, Fight for the Future och Electronic Frontier Foundation arbetar för att säkerställa att människor har rätt till integritet från digitala avkänningssystem, eller har rätt att välja bort kommersiell övervakning. Sålänge, nästa gång du installerar en app eller ett spel på din smartphone och den ber om åtkomst till alla sensorer på din enhet, kom bara ihåg vad du eventuellt registrerar dig för.

Dessa datainsamlare kan lära sig att förstå dig såväl som din närmaste vän och förmodligen bättre, eftersom din telefon åker med dig överallt, potentiellt lyssna på varje ljud du gör. Men även om vi kan lita på en sann vän med vårt liv, kan vi säga detsamma för dem som samlar in vår data idag?

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.