Under 2019, världen var orolig över att algoritmer nu känner oss bättre än vi känner oss själva. Inget koncept fångar detta bättre än övervakningskapitalism, en term som myntats av den amerikanska författaren Shoshana Zuboff för att beskriva en dyster ny era där sådana som Facebook och Google tillhandahåller populära tjänster medan deras algoritmer hökar våra digitala spår.

Förvånande, Zuboffs oro sträcker sig inte till algoritmerna på finansmarknaderna som har ersatt många av människorna på handelsgolven. Automatiserad algoritmisk handel tog fart runt början av 2000-talet, först i USA men snart även i Europa.

En viktig drivkraft var högfrekvent handel, som körs i bländande hastigheter, ner till miljarddels sekund. Det erbjöd investerare möjligheten till ett försprång gentemot sina rivaler, samtidigt som de hjälper till att tillhandahålla likviditet till en marknad genom att se till att det alltid fanns någon villig att köpa och sälja till ett visst pris. Högfrekvent handel ligger nu bakom mer än hälften av volymerna på både aktie- och terminsmarknaderna. På andra marknader, som utländsk valuta, algoritmer har en mindre men ändå betydande närvaro, utan tecken på att de kommer att avta i framtiden.

Enheters laster

Människor programmerar fortfarande algoritmerna och utformar sina handelsstrategier, även om uppkomsten av djupinlärning hotar även denna roll. Men i samma ögonblick som algoritmerna går live på marknader, de agerar på egen hand utan mänsklig inblandning, dansar med varandra på svindlande och ofta oväntade sätt.

Vid första ögonkastet, de har lite gemensamt med oss. De kan inte tänka eller känna, och trots hypen kring maskininlärning, det är fortfarande omtvistat och komplicerat att beskriva dem som intelligenta. Som människohandlare, dock, de fattar beslut, observera andra fatta beslut, och anpassa sitt beteende som svar.

I hastigheter många gånger snabbare än vad människor förmodligen någonsin kommer att uppbringa, dessa algoritmer skapar lätt förväntningar på varandras förväntningar när de lägger sina köp- och säljorder.

Till exempel, en algoritm kan försöka manipulera en annans förväntningar om prisrörelser genom att skicka ett stort antal order för att antingen köpa eller sälja en viss tillgång. Den första algoritmen kommer då snabbt att avbryta sina beställningar, efter att förhoppningsvis ha lurat sin rival att göra fel satsning om vilken väg marknaden är på väg.

Intressant, sociologer anser att denna typ av ömsesidig förväntan är ett centralt inslag i vad det innebär för människor att vara sociala. De har länge sett marknader som mycket sociala arenor. Under handelsgolvens storhetstid, läser andra handlares sociala ledtrådar korrekt – en grimas eller flin, oroliga toner, till och med larmet på handelsgolvet – stavade ofta skillnaden mellan rikedom och katastrof.

Men om maskiner kan vara sociala, hur likt eller annorlunda är det från hur människor umgås egentligen? Det finns uppenbara skillnader, självklart. Medan de mänskliga handlarna från det förflutna ofta kände varandra väl, och hängde ofta tillsammans efter jobbet, algoritmer handlar anonymt. När de skickar order om att köpa eller sälja tillgångar, inga andra handlare vet om det kommer från en man eller en maskin.

Verkligen, det är just därför de är programmerade att skapa förväntningar på varandra. Ansiktssignaler är inte längre tillgängliga, men hela strategier har utvecklats som försöker ta reda på om ett antal order kan ha lagts av en och samma algoritm – och sedan försöka förutsäga vad dess nästa drag kan bli.

För att undvika sådana försök, Algoritmer är ofta utformade för att inte kännas igen som algoritmer av andra algoritmer. Som den skotske sociologen Donald MacKenzie har uttryckt det, de kan engagera sig i dissimuleringsstrategier och/eller försöka ge en speciell presentation av sitt "jag" offentligt. Dessa är återigen attribut som sociologer länge har ansett nyckelaspekter av storstadslivet.

Lavin!

Tillsammans med kollegor, Jag har tillbringat de senaste åren i stora finansiella knutpunkter för att intervjua handlare, programmerare, regulatorer, utbytestjänstemän och andra finansexperter om dessa handelsalgoritmer. Detta har dragit fram några andra intressanta likheter mellan mänskliga och automatiserade handlare.

Programmerare erkänner gärna att när deras algoritmer börjar interagera med andra, de rycks med och agerar oförutsägbart, som om de var i en mobb. Sociologer sedan slutet av 1800-talet har studerat hur människor blir hänförda av folkmassor och låter sin autonomi glida i "sociala laviner, Men vi har hittills i stort sett ignorerat det faktum att finansiella maskiner gör något liknande.

"Flash-kraschen" den 6 maj 2010 illustrerar bäst vad jag menar här. Om fyra och en halv minut, den frenetiska interaktionen av helautomatiska handelsalgoritmer satte de amerikanska marknaderna i en djupdykning, genererade cirka 1 biljon USD (768 miljarder pund) i förluster tills handeln snabbt avbröts.

De flesta av dessa inblandade affärer avbröts senare som "uppenbart felaktiga". Absolut ingen handlare eller programmerare hade planerat att skapa denna enorma prisförändring, men årtionden av sociologisk forskning säger oss att den här sortens beteende förväntas i stora grupper. Vi måste förstå hur våra finansiella algoritmer samverkar innan våra egna verktyg blir vår undergång.

Självklart, inte alla former av social interaktion är beundransvärda eller fördelaktiga. Som människor, Algoritmer interagerar med varandra på sätt som sträcker sig från omtänksam och fridfull till kall och våldsam:från att tillhandahålla likviditet och upprätthålla marknadsstabilitet till att göra manipulativa order och utlösa vild handelsaktivitet.

Att ta tag i dessa interaktioner är inte bara nyckeln till att förstå modern handel och försöka förhindra framtida flashkrascher. Algoritmer pratar med varandra inom allt fler områden idag. Att förstå hur de beter sig som folksamlingar kommer förhoppningsvis att kasta ljus i områden där de precis börjar komma till sin rätt – tänk självkörande trafiksystem eller automatiserad krigföring, till exempel. Det kan till och med uppmärksamma oss på laviner som ligger och väntar, för.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.