Forskare finner AI-genererade recensioner och kommentarer utgör ett betydande hot mot konsumenter, men maskininlärning kan hjälpa till att upptäcka förfalskningar.

Webbplatser som TripAdvisor, Yelp och Amazon visar användarrecensioner av produkter och tjänster. Konsumenter är uppmärksamma:nio av tio personer läser dessa peer reviews och litar på vad de ser. Faktiskt, upp till 40 procent av användarna bestämmer sig för att göra ett köp baserat på endast ett par recensioner, och bra recensioner får människor att spendera 30 procent mer på sina inköp.

Ändå är inte alla recensioner legitima. Falska recensioner skrivna av riktiga människor är redan vanliga på recensionssajter, men mängden förfalskningar som genereras av maskiner kommer sannolikt att öka avsevärt.

Enligt doktoranden Mika Juuti vid Aalto-universitetet, falska recensioner baserade på algoritmer är nuförtiden lätt, exakt och snabbt att generera. För det mesta, människor kan inte se skillnaden mellan äkta och maskingenererade falska recensioner.

"Företag som inte beter sig kan antingen försöka öka sin försäljning genom att skapa en positiv varumärkesimage på konstgjord väg eller genom att generera falska negativa recensioner om en konkurrent. Motivationen är, självklart, pengar:online -recensioner är ett stort företag för resmål, hotell, tjänsteleverantörer och konsumentprodukter, säger Mika Juuti.

Under 2017, forskare från University of Chicago beskrev en metod för att träna en maskininlärningsmodell, ett djupt neuralt nätverk, med en datauppsättning med tre miljoner riktiga restaurangbetyg på Yelp. Efter utbildningen, modellen genererade falska restaurangrecensioner karaktär för karaktär.

Det var en liten hicka i metoden, dock; det hade svårt att hålla sig till ämnet. För en recension av en japansk restaurang i Las Vegas, modellen skulle kunna göra referenser till en italiensk restaurang i Baltimore. Den här typen av fel är självklart, lätt att upptäcka av läsarna.

För att hjälpa recensationsgeneratorn att hålla sig på marken, Juuti och hans team använde en teknik som kallas neural maskinöversättning för att ge modellen en känsla av sammanhang. Med hjälp av en textsekvens med "recensionsklassificering, restaurangens namn, stad, stat, och matetiketter, " de började få trovärdiga resultat.

"I användarstudien vi genomförde, vi visade deltagarna riktiga recensioner skrivna av människor och falska maskingenererade recensioner och bad dem att identifiera förfalskningarna. Upp till 60 procent av de falska recensionerna ansågs av misstag vara verkliga, säger Juuti.

Juuti och hans kollegor tog sedan fram en klassificerare som skulle kunna upptäcka förfalskningarna. Klassificeraren visade sig fungera bra, särskilt i fall där mänskliga utvärderare hade svårast att avgöra om en recension är verklig eller inte.

Studien genomfördes i samarbete med Aalto-universitetets forskargrupp Secure Systems och forskare från Waseda University i Japan. Den presenterades vid 2018 års European Symposium on Research in Computer Security i september.