Ett team av forskare, inklusive fakulteten vid Binghamton University, har utvecklat maskininlärningsalgoritmer som framgångsrikt kan identifiera mobbare och angripare på Twitter med 90 procents noggrannhet.

Effektiva verktyg för att upptäcka skadliga handlingar på sociala medier är få, eftersom denna typ av beteende ofta är tvetydig till sin natur och/eller uppvisas via till synes ytliga kommentarer och kritik. Syftet är att ta itu med denna klyfta, ett forskarlag med Binghamton Universitys datavetare Jeremy Blackburn analyserade beteendemönstren som uppvisade av missbrukande Twitter-användare och deras skillnader från andra Twitter-användare.

"Vi byggde sökrobotar – program som samlar in data från Twitter via olika mekanismer, ", sa Blackburn. "Vi samlade in tweets från Twitter-användare, deras profiler, såväl som (sociala) nätverksrelaterade saker, som vem de följer och vem som följer dem."

Forskarna utförde sedan naturlig språkbehandling och sentimentanalys på själva tweetarna, samt en mängd olika sociala nätverksanalyser om kopplingarna mellan användare. Forskarna utvecklade algoritmer för att automatiskt klassificera två specifika typer av stötande onlinebeteende, dvs. nätmobbning och nätaggression. Algoritmerna kunde identifiera kränkande användare på Twitter med 90 procents noggrannhet. Detta är användare som ägnar sig åt trakasserande beteende, t.ex. de som skickar dödshot eller gör rasistiska kommentarer till användare.

"I ett nötskal, Algoritmerna "lär sig" hur man ser skillnaden mellan mobbare och typiska användare genom att väga vissa egenskaper när de visas fler exempel, sa Blackburn.

Även om denna forskning kan hjälpa till att lindra nätmobbning, det är bara ett första steg, sa Blackburn.

"Ett av de största problemen med cybersäkerhetsproblem är att skadan görs på människor, och är mycket svår att ångra, "" Sa Blackburn. "Till exempel, vår forskning visar att maskininlärning kan användas för att automatiskt upptäcka användare som är cybermobbare, och därmed kan hjälpa Twitter och andra sociala medieplattformar att ta bort problematiska användare. Dock, ett sådant system är i slutändan reaktivt:det förhindrar inte till sin natur mobbning, det identifierar bara att de äger rum i stor skala. Och den olyckliga sanningen är att även om mobbningskonton raderas, även om alla deras tidigare attacker raderas, offren såg fortfarande och var potentiellt påverkade av dem."

Blackburn och hans team undersöker för närvarande proaktiva begränsningstekniker för att hantera trakasseringskampanjer.

Studien, "Att upptäcka nätmobbning och cyberaggression i sociala medier, " publicerades i Transaktioner på webben .