På kvällen den 17 februari 2018, Professor Mary Beard publicerade på Twitter ett fotografi av sig själv som gråter. Den framstående klassikern vid University of Cambridge, som har nästan 200, 000 Twitter-följare, var upprörd efter att ha fått en storm av övergrepp på nätet. Detta var reaktionen på en kommentar hon hade gjort om Haiti. Hon twittrade också:"Jag talar från hjärtat (och naturligtvis kan jag ha fel). Men skiten jag får som svar är bara inte på, verkligen inte."

Under dagarna som följde, Beard fick stöd från flera högprofilerade personer. Greg Jenner, en annan kändishistoriker, twittrade om sin egen upplevelse av en Twitterstorm:"Jag kommer alltid att minnas hur traumatiskt det var att plötsligt bli hatad av främlingar. Oavsett moral – jag kan ha haft fel eller rätt enligt min åsikt – blev jag förvånad (senare, när jag återhämtade mig) på hur psykologiskt destabiliserande det var för mig."

De som twittrade stöd för Beard – oavsett om de höll med om hennes första tweet som hade utlöst de kränkande svaren – var då själva måltavla. Och när en av Beards kritiker, Cambridge akademiker Priyamvada Gopal, en kvinna med asiatiskt arv, redogjorde för hennes svar på Beards ursprungliga tweet i en onlineartikel, hon fick sin egen ström av övergrepp.

Det finns överväldigande bevis för att kvinnor och medlemmar av etniska minoritetsgrupper är oproportionerligt mycket måltavla för Twitter-missbruk. Där dessa identitetsmarkörer skär varandra, mobbningen kan bli särskilt intensiv, som upplevt av den svarta kvinnliga parlamentsledamoten Diane Abbott, som ensam mottog nästan hälften av alla kränkande tweets som skickades till kvinnliga parlamentsledamöter under upptakten till riksdagsvalet i Storbritannien 2017. Svarta och asiatiska kvinnliga parlamentsledamöter fick i genomsnitt 35 procent fler kränkande tweets än sina vita kvinnliga kollegor även när Abbott exkluderades från totalen.

Den ständiga störtfloden av övergrepp, inklusive dödshot och hot om sexuellt våld, tystar folk, driva bort dem från onlineplattformar och ytterligare minska mångfalden av onlineröster och åsikter. Och det visar inga tecken på att avta. En undersökning förra året visade att 40 procent av amerikanska vuxna hade personligen upplevt övergrepp online, nästan hälften av dem utsätts för allvarliga former av trakasserier, inklusive fysiska hot och förföljelse. 70 procent av kvinnorna beskrev trakasserier på nätet som ett "stort problem".

Affärsmodellerna för sociala medieplattformar, som YouTube och Facebook, främja innehåll som är mer benägna att få svar från andra användare eftersom mer engagemang innebär bättre möjligheter för reklam. Men detta har en konsekvens av att gynna splittrande och starkt känslomässigt eller extremt innehåll, som i sin tur kan fostra "bubblor" online av grupper som reflekterar och förstärker varandras åsikter, hjälpa till att driva på spridningen av mer extremt innehåll och tillhandahålla en nisch för "falska nyheter". Under de senaste månaderna, forskare har avslöjat många sätt att olika egenintressen, inklusive ryska agenter, har försökt manipulera den allmänna opinionen genom att infiltrera bubblor i sociala medier.

Vår mänskliga förmåga att kommunicera idéer över nätverk av människor gjorde det möjligt för oss att bygga den moderna världen. Internet erbjuder ett oöverträffat löfte om samarbete och kommunikation mellan hela mänskligheten. Men istället för att anamma en massiv utvidgning av våra sociala kretsar online, vi verkar återgå till tribalism och konflikter, och tron ​​på internets potential att föra mänskligheten samman i ett härligt samarbetsnätverk börjar nu verka naivt. Även om vi i allmänhet utför våra verkliga interaktioner med främlingar artigt och respektfullt, online kan vi vara hemska. Hur kan vi lära oss om de samarbetstekniker som gjorde det möjligt för oss att hitta en gemensam grund och frodas som art?

"Tänk inte för mycket, tryck bara på knappen!"

Jag klickar på ett belopp, utarma mig själv på ett ögonblick, och gå snabbt vidare till nästa fråga, medvetna om att vi alla spelar mot klockan. Mina lagkamrater är långt borta och okända för mig. Jag har ingen aning om vi alla är i det tillsammans eller om jag spelas för en dåre, men jag trycker på, att veta att de andra är beroende av mig.

Jag spelar i ett så kallat allmännyttigt spel på Yale Universitys Human Cooperation Lab. Forskarna här använder det som ett verktyg för att förstå hur och varför vi samarbetar, och om vi kan förbättra vårt prosociala beteende.

Över åren, forskare har föreslagit olika teorier om varför människor samarbetar så bra att vi bildar starka samhällen. De evolutionära rötterna till vår allmänna trevlighet, de flesta forskare tror nu, återfinns i den individuella överlevnadsfördel människor upplever när vi samarbetar som grupp. Jag har kommit till New Haven, Connecticut, i en snörik februari, att besöka ett kluster av labb där forskare använder experiment för att ytterligare utforska vår extraordinära impuls att vara snäll mot andra även på vår egen bekostnad.

Spelet jag spelar, på Amazons Mechanical Turk onlineplattform, är ett av labbets pågående experiment. Jag är i ett team på fyra personer på olika platser, och var och en av oss får samma summa pengar att spela med. Vi ombeds välja hur mycket pengar vi ska bidra med till en grupppott, under förutsättning att denna pott sedan kommer att dubblas och delas lika mellan oss.

Den här sortens sociala dilemma, som allt samarbete, förlitar sig på en viss nivå av tillit till att de andra i din grupp kommer att vara trevliga. Om alla i gruppen bidrar med alla sina pengar, alla pengar fördubblas, omfördelas på fyra sätt, och alla dubblar sina pengar. Vinn-vinn!

"Men om du tänker på det ur en individs perspektiv, " säger labbchefen David Rand, "för varje dollar du bidrar med, den fördubblas till två dollar och delas sedan på fyra sätt – vilket innebär att varje person bara får 50 cent tillbaka för dollarn de bidragit med."

Även om alla har det bättre kollektivt genom att bidra till ett gruppprojekt som ingen skulle kunna hantera ensam – i verkligheten, detta kan vara att betala för en sjukhusbyggnad, eller gräva ett kommunalt bevattningsdike – det finns en kostnad på individnivå. Ekonomiskt, du tjänar mer pengar på att vara mer självisk.

Rands lag har kört det här spelet med tusentals spelare. Hälften av dem tillfrågas, som jag var, att bestämma sitt bidrag snabbt – inom 10 sekunder – medan den andra hälften ombeds att ta sig tid och noggrant överväga sitt beslut. Det visar sig att när folk går med magen, de är mycket mer generösa än när de ägnar tid åt att överväga.

"Det finns många bevis för att samarbete är ett centralt inslag i mänsklig evolution, " säger Rand. Individer gynnas, och är mer benägna att överleva, genom att samarbeta med gruppen. Och att få stanna i gruppen och dra nytta av det är beroende av vårt rykte om att uppträda kooperativt.

"I de småskaliga samhällen som våra förfäder levde i, alla våra interaktioner var med människor som du skulle se igen och interagera med inom den närmaste framtiden, " säger Rand. Det höll i schack varje frestelse att agera aggressivt eller dra fördel av andra människors bidrag. "Det är vettigt, på ett egenintresse sätt, att vara samarbetsvillig."

Samarbete föder mer samarbete i en ömsesidigt fördelaktig cykel. Istället för att varje gång ta reda på om det ligger i vårt långsiktiga intresse att vara trevlig, det är mer effektivt och mindre ansträngning att ha grundregeln:var snäll mot andra människor. Det är därför vårt otänkande svar i experimentet är generöst.

Under hela våra liv, vi lär oss av samhället omkring oss hur samarbetsvilliga vi ska vara. Men våra inlärda beteenden kan också förändras snabbt.

De i Rands experiment som spelar quickfire-rundan är oftast generösa och får generösa utdelningar, förstärker deras generösa syn. Medan de som överväger sina beslut är mer själviska, vilket resulterar i en mager grupppott, förstärker en idé om att det inte lönar sig att förlita sig på gruppen. Så, i ett ytterligare experiment, Rand gav lite pengar till personer som hade spelat en omgång av spelet. De fick då frågan hur mycket de ville ge till en anonym främling. Den här gången, det fanns inget incitament att ge; de skulle agera helt välgörande.

Det visade sig att det var stora skillnader. Människorna som hade vant sig vid att samarbeta i det första steget gav dubbelt så mycket pengar i det andra steget som de människor som hade vant sig vid att vara själviska gjorde. "Så vi påverkar människors inre liv och beteende, " säger Rand. "Sådan de beter sig även när ingen tittar och när det inte finns någon institution på plats för att straffa eller belöna dem."

Rands team har testat hur människor i olika länder spelar spelet, för att se hur styrkan hos sociala institutioner – såsom regering, familj, utbildning och rättssystem – påverkar beteendet. I Kenya, där den offentliga sektorns korruption är hög, spelare gav initialt mindre generöst till främlingen än spelare i USA, som har mindre korruption. Detta tyder på att människor som kan lita på relativt rättvisa sociala institutioner beter sig på ett mer allmänt hållet sätt; de vars institutioner är mindre tillförlitliga är mer protektionistiska. Dock, efter att ha spelat bara en omgång av den samarbetsfrämjande versionen av spelet för allmänna nyttigheter, Kenyanernas generositet var lika med amerikanernas. Och det skar åt båda hållen:amerikaner som tränades att vara själviska gav mycket mindre.

Så är det något med sociala medier online-kultur som får vissa människor att bete sig elak? Till skillnad från forntida jägare-samlare-samhällen, som förlitar sig på samarbete och delning för att överleva och ofta har regler för när man ska erbjuda mat till vem i sitt sociala nätverk, sociala medier har svaga institutioner. De erbjuder fysiskt avstånd, relativ anonymitet och liten risk för anseende eller straff för dåligt beteende:om du är elak, ingen du känner kommer att se.

Jag traskar ett par kvarter genom körande snö för att hitta Molly Crocketts Psychology Lab, där forskare undersöker moraliskt beslutsfattande i samhället. Ett område de fokuserar på är hur sociala känslor förvandlas online, i synnerhet moralisk upprördhet. Hjärnavbildningsstudier visar att när människor agerar utifrån sin moraliska upprördhet, deras hjärnas belöningscentrum är aktiverat – de mår bra av det. Detta förstärker deras beteende, så de är mer benägna att ingripa på liknande sätt igen. Så, om de ser någon agera på ett sätt som bryter mot en social norm, genom att låta sin hund smutsa ner en lekplats, till exempel, och de konfronterar förövaren offentligt om det, de mår bra efteråt. Och även om det finns risker att utmana en överträdare av ditt samhälles sociala normer – du kan bli attackerad – ökar det också ditt rykte.

I våra relativt fridfulla liv, vi möter sällan upprörande beteende, så vi ser sällan moralisk upprördhet uttryckas. Öppna Twitter eller Facebook och du får en helt annan bild. Ny forskning visar att meddelanden med både moraliska och känslomässiga ord är mer benägna att spridas på sociala medier – varje moraliskt eller känslomässigt ord i en tweet ökar sannolikheten för att det retweetas med 20 procent.

"Innehåll som utlöser upprördhet och som uttrycker upprördhet är mycket mer sannolikt att delas, " säger Crockett. Det vi har skapat online är "ett ekosystem som väljer det mest upprörande innehållet, tillsammans med en plattform där det är lättare än någonsin att uttrycka upprördhet”.

Till skillnad från offlinevärlden, det finns ingen personlig risk i att konfrontera och avslöja någon. Det tar bara några få klick på en knapp och du behöver inte vara fysiskt i närheten, så det finns mycket mer upprördhet på nätet. Och den livnär sig själv. "Om du straffar någon för att ha brutit mot en norm, som gör att du verkar mer pålitlig för andra, så att du kan sända din moraliska karaktär genom att uttrycka upprördhet och straffa överträdelser av sociala normer, " Crockett säger. "Och människor tror att de sprider gott genom att uttrycka upprördhet - att det kommer från en plats av moral och rättfärdighet.

"När du går från offline – där du kan öka ditt rykte för den som råkar stå runt just nu – till online, där du sänder det till hela ditt sociala nätverk, då förstärker det dramatiskt de personliga belöningarna av att uttrycka upprördhet."

Detta förvärras av feedbacken folk får på sociala medier, i form av likes och retweets och så vidare. "Vår hypotes är att utformningen av dessa plattformar kan göra att uttrycka upprördhet till en vana, och en vana är något som görs utan hänsyn till dess konsekvenser – den är okänslig för vad som händer härnäst, det är bara ett blindt svar på en stimulans, " förklarar Crockett.

"Jag tycker att det är värt att föra en konversation som samhälle om huruvida vi vill att vår moral ska vara under kontroll av algoritmer vars syfte är att tjäna pengar till gigantiska teknikföretag, " tillägger hon. "Jag tror att vi alla skulle vilja tro och känna att våra moraliska känslor, tankar och beteenden är avsiktliga och inte knäna på vad som än placeras framför oss som vår smartphonedesigner tror kommer att ge dem mest vinst."

På uppsidan, de lägre kostnaderna för att uttrycka upprördhet online har möjliggjort marginaliserade, mindre bemyndigade grupper för att främja saker som traditionellt har varit svårare att främja. Moralisk upprördhet på sociala medier spelade en viktig roll för att fokusera uppmärksamheten på sexuella övergrepp mot kvinnor från högstatusmän. Och i februari 2018, Tonåringar i Florida som skrämde på sociala medier mot ännu en skjutning på gymnasiet i deras delstat hjälpte till att förändra den allmänna opinionen, samt att skämma ut ett antal stora företag att avstå från sina rabattsystem för National Rifle Association-medlemmar.

"Jag tror att det måste finnas sätt att upprätthålla fördelarna med onlinevärlden, säger Crockett, "samtidigt som man funderar mer noggrant på att omforma dessa interaktioner för att göra sig av med några av de mer kostsamma bitarna."

Någon som har tänkt mycket på utformningen av våra interaktioner i sociala nätverk är Nicholas Christakis, chef för Yales Human Nature Lab, ligger bara några fler snöiga kvarter bort. Hans team studerar hur vår position i ett socialt nätverk påverkar vårt beteende, och till och med hur vissa inflytelserika individer dramatiskt kan förändra kulturen i ett helt nätverk.

Teamet undersöker sätt att identifiera dessa individer och värva dem i folkhälsoprogram som kan gynna samhället. I Honduras, de använder detta tillvägagångssätt för att påverka vaccinationsregistreringen och mödravården, till exempel. Uppkopplad, sådana människor har potential att förvandla en mobbningskultur till en stödjande kultur.

Företag använder redan ett grovt system för att identifiera så kallade Instagram influencers för att marknadsföra sina varumärken för dem. Men Christakis tittar inte bara på hur populär en individ är, men också deras position i nätverket och formen på det nätverket. I vissa nätverk, som en liten isolerad by, alla är nära sammankopplade och du lär känna alla på en fest; i en stad, däremot människor kan leva närmare med som helhet, men det är mindre troligt att du känner alla på en fest där. Hur väl sammankopplat ett nätverk är påverkar hur beteenden och information sprids runt det, han förklarar.

"Om du tar kolatomer och sätter ihop dem på ett sätt, de blir grafit, som är mjuk och mörk. Ta samma kolatomer och sätt ihop dem på ett annat sätt, och det blir diamant, vilket är hårt och tydligt. Dessa egenskaper för hårdhet och klarhet är inte egenskaperna hos kolatomerna – de är egenskaperna för samlingen av kolatomer och beror på hur du kopplar kolatomerna till varandra, " säger han. "Och det är samma sak med mänskliga grupper."

Christakis har designat mjukvara för att utforska detta genom att skapa tillfälliga konstgjorda samhällen online. "Vi släpper in folk och sedan låter vi dem interagera med varandra och se hur de spelar ett allmännyttigt spel, till exempel, att bedöma hur snälla de är mot andra människor."

Sedan manipulerar han nätverket. "Genom att konstruera deras interaktioner på ett sätt, Jag kan göra dem riktigt söta mot varandra, fungerar bra tillsammans, och de är friska och glada och de samarbetar. Eller så tar du samma människor och kopplar ihop dem på ett annat sätt och de är elaka idioter mot varandra och de samarbetar inte och de delar inte information och de är inte snälla mot varandra."

I ett experiment, han slumpmässigt tilldelade främlingar att spela allmännyttiga spel med varandra. I början, han säger, ungefär två tredjedelar av människorna var samarbetsvilliga. "Men några av människorna de interagerar med kommer att dra nytta av dem och, eftersom deras enda alternativ är att antingen vara snäll och samarbetsvillig eller att vara en avhoppare, de väljer att hoppa av för att de har fastnat i att dessa människor utnyttjar dem. Och i slutet av experimentet är alla en idiot för alla andra."

Christakis vände på detta helt enkelt genom att ge varje person lite kontroll över vem de var kopplade till efter varje omgång. "De var tvungna att fatta två beslut:är jag snäll mot mina grannar eller är jag inte; och håller jag mig med den här grannen eller gör jag inte det." Det enda varje spelare visste om sina grannar var om var och en hade samarbetat eller hoppat av i omgången innan. "Vad vi kunde visa är att människor skar banden till avhoppare och knyter band till samarbetspartners, och nätverket kopplade om sig självt och omvandlade sig till en diamantliknande struktur istället för en grafitliknande struktur." Med andra ord, en kooperativ prosocial struktur istället för en okooperativ struktur.

I ett försök att skapa mer samarbetsvilliga online-gemenskaper, Christakis team har börjat lägga till bots till sina tillfälliga samhällen. Han tar mig över till en bärbar dator och ställer in mig på ett annat spel. I det här spelet, anonyma spelare måste arbeta tillsammans som ett team för att lösa ett dilemma som plattsättare kommer att känna till:var och en av oss måste välja en av tre färger, men färgerna på spelare som är direkt kopplade till varandra måste vara olika. Om vi ​​löser pusslet inom en tidsgräns, vi får alla en del av prispengarna; om vi misslyckas, ingen får något. Jag spelar med minst 30 andra personer. Ingen av oss kan se hela nätverket av anslutningar, bara de människor vi är direkt kopplade till – ändå, vi måste samarbeta för att vinna.

Jag är ansluten till två grannar, vars färger är gröna och blå, så jag väljer rött. Min vänstra granne byter då till rött så jag byter snabbt till blått. Spelet fortsätter och jag blir allt mer spänd, förbannar mina långsamma reaktionstider. Jag måste ofta byta färg, reagera på osynliga förändringar någon annanstans i nätverket, som skickar en kaskad av förändringar längs anslutningarna. Tiden är ute innan vi löser pusslet, få upprörda svar i spelets kommentarsfält från fjärrspelare som fördömer alla andras dumhet. Personligen, Jag är lättad över att det är över och att det inte längre finns någon som är beroende av mina skickliga spelkunskaper för att tjäna pengar.

Christakis berättar att vissa av nätverken är så komplexa att pusslet är omöjligt att lösa inom tidsramen. Min lättnad är kortvarig, dock:den jag spelade var lösbar. Han spolar tillbaka spelet, avslöjar för första gången hela nätverket för mig. Jag ser nu att jag var på en lägre gren utanför nätverkets huvudnav. Några av spelarna var kopplade till bara en annan person, men de flesta var kopplade till tre eller fler. Tusentals människor från hela världen spelar dessa spel på Amazon Mechanical Turk, dras av den lilla avgift de tjänar per omgång. Men när jag tittar på spelet jag just spelade utvecklas, Christakis avslöjar att tre av dessa spelare faktiskt är planterade bots. "Vi kallar dem "dum AI", " han säger.

Hans team är inte intresserade av att uppfinna supersmart AI för att ersätta mänsklig kognition. Istället, planen är att infiltrera en population av smarta människor med dumb-bots för att hjälpa människorna att hjälpa sig själva.

"Vi ville se om vi kunde använda dumb-bots för att få folk att lossna så att de kan samarbeta och koordinera lite mer – så att deras inhemska förmåga att prestera bra kan avslöjas med lite hjälp, " säger Christakis. Han upptäckte att om robotarna spelade perfekt, det hjälpte inte människorna. Men om botarna gjorde några misstag, de låste upp gruppens potential att hitta en lösning.

"Några av dessa bots gjorde kontraintuitiva val. Även om deras grannar alla hade grönt och de borde ha plockat orange, istället plockade de också grönt." När de gjorde det, det tillät en av de gröna grannarna att plocka apelsin, "som låser upp nästa kille, han kan välja en annan färg och, Wow, nu löser vi problemet". Utan boten, de mänskliga spelarna skulle förmodligen alla ha fastnat för grönt, insåg inte att det var problemet. "Att öka konflikterna tillfälligt gör att deras grannar kan göra bättre val."

Genom att lägga till lite brus i systemet, botarna hjälpte nätverket att fungera mer effektivt. Kanske en version av denna modell skulle kunna innebära att man infiltrerar partisanernas nyhetsflöden med enstaka föremål som erbjuder ett annat perspektiv, hjälpa till att flytta bort människor från deras sociala mediers komfortbubblor och tillåta samhället som helhet att samarbeta mer.

Mycket antisocialt beteende online härrör från anonymiteten i internetinteraktioner - kostnaderna för att vara elak är mycket lägre än offline. Här, bots kan också erbjuda en lösning. Ett experiment fann att nivån av rasistiska övergrepp som twittrades mot svarta användare kunde minskas dramatiskt genom att använda botkonton med vita profilbilder för att svara på rasistiska tweeters. Ett typiskt botsvar på en rasistisk tweet skulle vara:"Hej man, kom bara ihåg att det finns riktiga människor som blir sårade när du trakasserar dem med den typen av språk." Att bara odla lite empati hos sådana tweeters minskade deras rasistiska tweets nästan till noll i veckor efteråt.

Ett annat sätt att ta itu med de låga anseendekostnaderna för dåligt beteende online är att utforma någon form av social bestraffning. Ett spelföretag, League of Legends, gjorde det genom att introducera en "Tribunal"-funktion, där negativt spel straffas av andra spelare. Företaget rapporterade att 280, 000 spelare "reformerades" på ett år, vilket innebär att de efter att ha blivit straffade av tribunalen ändrat sitt beteende och sedan uppnått en positiv ställning i samhället. Utvecklare kan också bygga in sociala belöningar för gott beteende, uppmuntra mer kooperativa element som hjälper till att bygga relationer.

Forskare har redan börjat lära sig hur man förutsäger när ett utbyte är på väg att bli dåligt – det ögonblick då det skulle kunna dra nytta av förebyggande intervention. "Du kanske tror att det finns en minoritet av sociopater online, som vi kallar troll, som gör all denna skada, " säger Cristian Danescu-Niculescu-Mizil, vid Cornell Universitys institution för informationsvetenskap. "Vad vi faktiskt finner i vårt arbete är att vanliga människor, precis som du och jag, kan ägna sig åt sådant asocialt beteende. Under en viss tidsperiod, du kan faktiskt bli ett troll. Och det är förvånande."

Det är också alarmerande. Jag bläddrar mentalt tillbaka genom mina egna senaste tweets, hoppas att jag inte har övergått till mobbning i något besvärligt försök att framstå som rolig eller cool för mina onlineföljare. Trots allt, det kan vara väldigt frestande att misshandla någon långt borta, som du inte känner, om du tror att det kommer att imponera på din sociala grupp.

Danescu-Niculescu-Mizil har undersökt kommentarsektionerna under onlineartiklar. Han identifierar två huvudtriggers för trolling:utbytets sammanhang – hur andra användare beter sig – och ditt humör. "Om du har en dålig dag, eller om det råkar vara måndag, till exempel, du är mycket mer benägen att trolla i samma situation, " säger han. "Du är trevligare på en lördagsmorgon."

Efter att ha samlat in data, inklusive från personer som hade ägnat sig åt trollingbeteende tidigare, Danescu-Niculescu-Mizil byggde en algoritm som förutsäger med 80 procents noggrannhet när någon är på väg att bli kränkande online. Detta ger en möjlighet att, till exempel, införa en fördröjning i hur snabbt de kan skicka sitt svar. Om folk måste tänka två gånger innan de skriver något, som förbättrar sammanhanget för utbytet för alla:du är mindre benägna att se människor som beter sig illa, och så mindre benägna att bete sig illa.

Den goda nyheten är att trots det hemska beteendet många av oss har upplevt online, majoriteten av interaktionerna är trevliga och samarbetsvilliga. Berättigad moralisk upprördhet är användbar för att utmana hatiska tweets. En nyligen genomförd brittisk studie som tittade på antisemitism på Twitter visade att inlägg som utmanar antisemitiska tweets delas mycket mer än de antisemitiska tweetarna själva. De flesta hatiska inlägg ignorerades eller delades bara inom en liten ekokammare av liknande konton. Kanske har vi redan börjat göra robotarnas arbete själva.

Som Danescu-Niculescu-Mizil påpekar, vi har haft tusentals år på oss att finslipa vår person-till-person-interaktion, men bara 20 år av sociala medier. "Off-line, vi har alla dessa ledtrådar från ansiktsuttryck till kroppsspråk till tonhöjd... medan vi online diskuterar saker bara genom text. Jag tror att vi inte borde bli förvånade över att vi har så stora svårigheter att hitta rätt sätt att diskutera och samarbeta online."

As our online behaviour develops, we may well introduce subtle signals, digital equivalents of facial cues, to help smooth online discussions. Sålänge, the advice for dealing with online abuse is to stay calm, it's not your fault. Don't retaliate but block and ignore bullies, or if you feel up to it, tell them to stop. Talk to family or friends about what's happening and ask them to help you. Take screenshots and report online harassment to the social media service where it's happening, and if it includes physical threats, report it to the police.

If social media as we know it is going to survive, the companies running these platforms are going to have to keep steering their algorithms, perhaps informed by behavioural science, to encourage cooperation rather than division, positive online experiences rather than abuse. As users, we too may well learn to adapt to this new communication environment so that civil and productive interaction remains the norm online as it is offline.

"I'm optimistic, " Danescu-Niculescu-Mizil says. "This is just a different game and we have to evolve."

This article first appeared on Mosaic and is republished here under a Creative Commons licence.