Anthony Pinter, en doktorsexamen student i informationsvetenskap vid University of Colorado Boulder, avslutade nyligen en studie om människors upplevelser med upprörande och oväntade påminnelser om ett ex på Facebook.

Hans teams resultat är exempel på algoritmisk grymhet - fall där algoritmer är utformade för att göra något och göra det bra, men slutar slå tillbaka eftersom de inte helt kan förstå nyanserna i mänskliga relationer och beteende.

Hur har sociala medier försvårat uppbrott?

Anthony Pinter: Att bryta upp med en älskad har alltid inneburit att göra svåra val:vem får soffan, vem får kylskåpet, som får katten.

Men innan sociala medier, när de röriga detaljerna var sorterade, det var inte för svårt att skapa det fysiska, mentala och känslomässiga utrymmen som forskning har visat sig hjälpa till med läkningsprocessen. Förr, du kan helt enkelt sluta gå till ditt ex favoritkafé. Du kan packa upp foton och förvara dem.

Sociala medier har komplicerade saker. Plattformar som Facebook är utformade för att uppmuntra anslutning till ditt nätverk och påminna om det förflutna. Den rekommenderar kommande evenemang, föreslår att folk lägger till som vänner, återuppstår gamla minnen och foton och belyser vad dina vänner gör.

Men efter ett uppbrott, du vill förmodligen inte bli varnad om en ny vän som ditt ex har fått på ditt nyhetsflöde. Du vill inte heller se att ett gammalt foto med ditt ex återkommer som ett "minne". Och med tillgång till ditt ex online liv bara en sökning och ett klick bort, det är lätt att ge efter för former av "Facebook -stalking, "där du regelbundet checkar in på deras profil för att se vad de sysslar med och vem de umgås med.

Inte överraskande, Facebook har visat sig förlänga läkningsprocessen för ett uppbrott. Omvänt, du kanske också börjar inse att ditt ex redan har gått vidare, vilket kan vara lika smärtsamt.

"Blockera bara ditt ex, "kommer du att höra folk säga. Varför räcker inte det här?

Pinter :Först, blockering eller ovän är inte så enkelt som det låter. Det kan göras på så lite som tre klick. Men när du väl har gjort det, det är svårt att gå tillbaka från; om du någonsin bestämmer dig för att låsa upp någon eller vänja dem igen, sociala medieplattformar kommer ofta att varna det ex som du har gjort - vilket kan skicka tvetydiga signaler och förväntningar.

Men ja, plattformar som Facebook, Twitter och Instagram har funktioner som är avsedda att förhindra dessa oönskade möten - följ inte upp, ovän eller blockera. Några år sedan, Facebook utvecklade till och med en funktion som heter Take A Break, som effektivt stänger av någon under en viss tid.

Dock, människor ser fortfarande påminnelser om sina ex i sociala medier - även när de aktivt har utnyttjat funktioner som förmodligen förhindrar dessa möten.

Mina kollegor och jag genomförde djupintervjuer med 19 personer som hade en oväntad och upprörande påminnelse om ett ex på Facebook.

En deltagare nämnde att modern till en exs nya partner föreslogs som en möjlig vän. En annan såg deras ex kommentera en gemensam väns inlägg. I ett fall, ett gammalt foto som Facebook dök upp igen via funktionen Memories - från en strandsemester de två hade tagit när de hade varit ett par - innehöll inte ens en bild av intervjupersonens ex. Men att bli ombedd att tänka på den semestern var upprörande nog.

Vad händer egentligen här?

Pinter: Detta händer eftersom algoritmerna fortfarande inte helt förstår människor.

Även om du kan berätta för Facebook att du inte vill se ditt ex längre, algoritmen inser inte att detta också kan inkludera perifera påminnelser om ditt ex, som ett foto av hans eller hennes bästa vän, eller en kommentar han eller hon har gjort på en gemensam väns vägg.

Sammanhang är viktigt, men algoritmer har ofta inte förmågan att förstå det. Även om det fotot från stranden kanske inte har någon i det, den är laddad med minnen som du helst inte vill tänka på.

I vårt arbete, vi vill uppmärksamma det vi kallar den "sociala periferin" - satelliterna i ett förhållande, romantiskt eller på annat sätt. System som Facebook är byggda för att odla gemenskap, men algoritmerna som ligger till grund för systemet förlitar sig ofta på förenklade representationer av människors upplevelser som "relationsstatus" eller "blockerad". Funktioner som är avsedda att förhindra störande möten i kölvattnet av ett uppbrott eller andra fula händelser på samma sätt förlitar sig på dessa förenklade inställningar, ignorerar verkligheten i en social periferi.

Till algoritmen, förslaget från ex:s nya partners mamma är ett helt rimligt förslag - du delar förmodligen gemensamma vänner som varnar någon form av internt mått. Men en människa skulle veta bättre än att göra det förslaget.

Varför spelar dessa fynd någon roll?

Pinter: Algoritmer blir mer integrerade i våra vardagsliv, och sociala medier är inte det enda stället där vi ser dessa oönskade resultat inträffa. Till exempel, när människor börjar lita mer på röstassistenter som Siri eller Alexa för att skicka texter, vi stöter oundvikligen på situationer där programmen misslyckas med oss ​​och, till exempel, skicka ett väldigt olämpligt meddelande till en chef eller förälder.

Våra resultat utgör en utmaning för designers och utvecklare:Hur kan vi skapa algoritmer som är bättre anpassade till djupet, upplevelser av människor som kommer att använda dessa system? Det är osannolikt att det finns en lösning som passar alla. På Facebook, funktioner som Take a Break eller blockering kan ses som viktiga steg. Men det är klart att det finns mycket mer arbete att göra.

Denna artikel publiceras från The Conversation under en Creative Commons -licens. Läs originalartikeln.