Kredit:CC0 Public Domain
Alla är inte rädda för våra maskinöverherrar. Faktiskt, enligt Penn State forskare, när det gäller privat information och tillgång till finansiell information, människor tenderar att lita på maskiner mer än människor, vilket kan leda till både positiva och negativa beteenden på nätet.
I en studie, personer som litade på maskiner var betydligt mer benägna att lämna över sina kreditkortsnummer till en datoriserad resebyrå än en mänsklig resebyrå. En partiskhet om att maskiner är mer pålitliga och säkra än människor - eller maskinheuristiska - kan ligga bakom effekten, sa S. Shyam Sundar, James P. Jimirro professor i medieeffekter, meddirektör för Media Effects Research Laboratory och dotterbolag till Penn State's Institute for CyberScience (ICS).
"Denna tendens att lita på maskinagenten mer än den mänskliga agenten var mycket starkare för människor som var högt uppsatta i tron på maskinheuristiken, " sa Sundar. "För människor som inte trodde på maskinheuristiken, det gjorde ingen skillnad om resebyrån var en maskin eller en människa."
Detta tyder på att närvaron av en maskinagent på gränssnittet fungerade som en ledtråd för att trigga heuristiken eller den invanda tron att maskiner är överlägsna, enligt Sundar, som arbetade med Jinyoung Kim, tidigare doktorand i masskommunikation och för närvarande forskare på Amazon.
Att tro på maskiner kan utlösas för att människor tror att maskiner inte skvallrar, eller har olaglig design på sin privata information. Dock, Sundar sa att även om maskiner kanske inte har bakomliggande motiv för sin information, människorna som utvecklar och kör dessa datorer kan tära på denna godtrogenhet för att extrahera personlig information från intet ont anande användare, till exempel, genom nätfiskebedrägerier, som är försök från brottslingar att skaffa användarnamn, lösenord, kreditkortsnummer och andra delar av privat information genom att utge sig för att vara pålitliga källor.
"Denna studie bör fungera som en varning för människor att vara medvetna om hur de interagerar online, ", sade Sundar. "Människor bör vara medvetna om att de kan ha en blind tro på maskinöverlägsenhet. De bör titta på sig själva när de använder online med robotgränssnitt. "
Å andra sidan, eftersom vissa människor litar mer på maskiner, utvecklare kan använda resultaten för att skapa mer användarvänliga webbplatser och applikationer som får människor att känna sig mer bekväma med att genomföra transaktioner online, enligt forskarna, som rapporterar sina resultat idag (7 maj) vid ACM CHI-konferensen om mänskliga faktorer i datorsystem i Glasgow, STORBRITANNIEN.
"Ett sätt vi kan utnyttja denna heuristik, speciellt för design, är, om du vill skapa större förtroende och du bygger ett automatiserat system, eller en algoritm, att se till att du identifierar det som ett maskinbaserat system – och det finns ingen människa i kretsen – kan faktiskt öka förtroendet, "Detta är särskilt sant i områden där inblandning av människor kan leda till oförutsägbara och oönskade resultat."
Sundar tillade att personer med en hög grad av förtroende för maskiner bara behöver subtila designindikationer på att de interagerar med en maskin.
"I allt detta, en sak jag skulle vilja betona är att formgivarna måste vara etiska, ", sade Sundar. "De bör inte oetiskt försöka extrahera information från intet ont anande konsumenter."
Forskarna rekryterade 160 deltagare från Amazon Mechanical Turk, en webbsajt för crowdsourcing som ofta används i studier, för studien. Deltagarna ombads att använda antingen en mänsklig eller en maskinchattagent för att hitta och köpa en flygbiljett online. Efter att agenten returnerade flyginformationen, det uppmanade deltagarna att ange sin kreditkortsinformation. Deltagarna rapporterade sedan sina avsikter att tillhandahålla den informationen. Forskarna mätte deltagarnas förtroende för maskiner genom att be dem svara på en serie av fem påståenden om interaktion med maskiner.
Framtida forskning kommer att undersöka rollen av maskinheuristik för att främja människors förtroende för artificiell intelligens eller AI-system, särskilt chatbots, smarta högtalare och robotar.