Mobildejtingappar som låter användare filtrera sina sökningar efter ras – eller förlita sig på algoritmer som kopplar ihop personer av samma ras – förstärker rasuppdelningar och fördomar, enligt en ny artikel av Cornell-forskare.

När fler och fler relationer börjar online, Dejting- och anslutningsappar bör motverka diskriminering genom att erbjuda användarna andra kategorier än ras och etnicitet för att beskriva sig själva, posta inkluderande communitymeddelanden, och skriva algoritmer som inte diskriminerar, sa författarna.

"Serendipity går förlorad när människor kan filtrera bort andra människor, " sa Jevan Hutson '16, M.P.S. '17, huvudförfattare till "Debiasing Desire:Addressing Bias and Discrimination on Intimate Platforms, " skrivet tillsammans med Jessie G. Taft '12, M.P.S. '18, en forskningskoordinator på Cornell Tech, och Solon Barocas och Karen Levy, biträdande professorer i informationsvetenskap. "Dejtingplattformar har möjlighet att störa särskilda sociala strukturer, men du förlorar de fördelarna när du har designfunktioner som gör att du kan ta bort människor som är annorlunda än du."

Pappret, som författarna kommer att presentera vid ACM-konferensen om datorstödt kooperativt arbete och social datoranvändning den 6 november, citerar befintlig forskning om diskriminering i dejtingappar för att visa hur enkla designbeslut kan minska partiskhet mot människor i alla marginaliserade grupper, inklusive funktionshindrade eller transpersoner. Även om partnerpreferenser är extremt personliga, författarna hävdar att kultur formar våra preferenser, och dejtingappar påverkar våra beslut.

"Det är verkligen en aldrig tidigare skådad tid för dejting och möten online. Fler människor använder dessa appar, och de är kritiska infrastrukturer som inte får mycket uppmärksamhet när det kommer till partiskhet och diskriminering, sa Hutson, nu student vid University of Washington School of Law. "Intimitet är väldigt privat, och med rätta, men våra privata liv har effekter på större socioekonomiska mönster som är systemiska."

Femton procent av amerikanerna rapporterar att de använder dejtingsajter, och vissa undersökningar uppskattar att en tredjedel av äktenskapen – och 60 procent av samkönade relationer – började online. Tinder och Grindr har tiotals miljoner användare, och Tinder säger att det har underlättat 20 miljarder anslutningar sedan lanseringen.

Forskning visar att rasmässiga ojämlikheter i onlinedejting är utbredda. Till exempel, svarta män och kvinnor är 10 gånger mer benägna att skicka meddelanden till vita än vita människor är att skicka meddelanden till svarta. Låter användare söka, sortera och filtrera potentiella partners efter ras tillåter inte bara människor att enkelt agera utifrån diskriminerande preferenser, det hindrar dem från att få kontakt med partners som de kanske inte insåg att de skulle vilja.

Appar kan också skapa fördomar. Tidningen citerar forskning som visar att män som använde plattformarna i hög grad betraktade mångkulturalism mindre positivt, och sexuell rasism som mer acceptabel.

Användare som får meddelanden från människor av andra raser är mer benägna att delta i utbyten mellan olika raser än de skulle ha gjort annars. Detta tyder på att design av plattformar för att göra det lättare för människor av olika raser att träffas skulle kunna övervinna fördomar, sa författarna.

Den Japan-baserade gay hookup-appen 9Monsters grupperar användare i nio kategorier av fiktiva monster, "som kan hjälpa användare att se förbi andra former av skillnader, som ras, etnicitet och förmåga, " står det i tidningen. Andra appar använder filter baserade på egenskaper som politiska åsikter, relationshistoria och utbildning, snarare än ras.

"Det finns definitivt mycket utrymme att komma på olika sätt för människor att lära sig om varandra, " sa Hutson.

Algoritmer kan införa diskriminering, avsiktligt eller inte. 2016, en Buzzfeed-reporter fann att dejtingappen CoffeeMeetsBagel visade användarna endast potentiella partners av samma ras, även när användarna sa att de inte hade någon preferens. Ett experiment som drivs av OKCupid, där användarna fick höra att de var "mycket kompatibla" med personer som algoritmen faktiskt ansåg som dåliga matchningar, fann att användare var mer benägna att ha framgångsrika interaktioner när de fick höra att de var kompatibla – vilket indikerar förslagets starka kraft.

Förutom att tänka om hur sökningar utförs, publicera policyer eller meddelanden som uppmuntrar en mer inkluderande miljö, eller uttryckligen förbjuder visst språk, kan minska partiskheten mot användare från alla marginaliserade grupper. Till exempel, Grindr publicerade en artikel med titeln "14 Messages Trans People Want You to Stop Sending on Dating Apps" på sin mediasajt, och gay dating-appen Hornet hindrar användare från att hänvisa till ras- eller raspreferenser i sina profiler.

Förändringar som dessa kan ha stor inverkan på samhället, författarna sa, eftersom populariteten för dejtingappar fortsätter att växa och färre relationer börjar på platser som barer, stadsdelar och arbetsplatser. Trots att fysiska utrymmen är föremål för lagar mot diskriminering, onlineappar är det inte.

"En slumpmässig bar i North Dakota med 10 kunder om dagen är föremål för fler medborgarrättsdirektiv än en plattform som har 9 miljoner människor som besöker varje dag, " sade Hutson. "Det är en obalans som inte är vettig."

Fortfarande, författarna sa, domstolar och lagstiftare har visat ovilja att engagera sig i intima relationer, och det är osannolikt att dessa appar kommer att regleras när som helst snart.

"Med tanke på att dessa plattformar blir allt mer medvetna om vilken inverkan de har på rasdiskriminering, vi tror att det inte är en stor ansträngning för dem att ta ett mer rättviseorienterat förhållningssätt i sin egen design, " sa Taft. "Vi försöker öka medvetenheten om att detta är något designers, och människor i allmänhet, borde tänka mer på."