Sociala medieföretag har anammat verktyg för artificiell intelligens för att skrubba sina plattformar av hatretorik, terroristpropaganda och annat innehåll som anses skadligt. Men kommer dessa verktyg att censurera annat innehåll? Kan ett program bedöma värdet av tal?
Facebooks grundare Mark Zuckerberg berättade för kongressen förra veckan att hans företag snabbt utvecklar AI-verktyg för att "identifiera vissa klasser av dålig aktivitet proaktivt och flagga det för vårt team."
Det är ett av flera drag av Facebook eftersom det kämpar med en urholkning av konsumenternas förtroende över sin insamling av användardata, dess tidigare sårbarhet för riktad politisk desinformation och ogenomskinligheten i de formler som dess nyhetsflöden bygger på.
Vissa teknologer tror att AI-verktyg inte kommer att lösa dessa problem som Facebook och andra sociala medieföretag står inför.
"Problemet är att övervakning är Facebooks affärsmodell:övervakning för att underlätta psykologisk manipulation, "sa Bruce Schneier, en välkänd säkerhetsexpert och integritetsspecialist. "Oavsett om det är gjort av människor eller (artificiell intelligens) är i bruset."
Zuckerberg sa att hans Menlo Park, Kalifornien, företaget förlitar sig på både AI-verktyg och tusentals anställda för att granska innehåll. Vid slutet av året, han sa, några 20, 000 Facebook-anställda kommer att "jobba med säkerhet och innehållsgranskning."
Företaget utvecklar sina AI-verktyg för att spåra hatretorik och falska nyheter på sin plattform och ser verktygen som ett "skalbart sätt att identifiera och utrota det mesta av detta skadliga innehåll, " han sa, indikerar flera gånger över 10 timmars vittnesmål under två dagar att Facebooks algoritmer kan hitta stötande innehåll snabbare än människor.
"I dag, när vi sitter här, 99 procent av innehållet från ISIS och al-Qaida som vi tar ner på Facebook, våra AI -system flagga innan någon människa ser det, " sade Zuckerberg vid en utfrågning i senaten, hänvisar till extremistiska islamiska grupper.
Systemen för artificiell intelligens arbetar tillsammans med ett gruppbekämpande team av människor som Zuckerberg säger har 200 anställda. "Jag tror att vi har kapacitet på 30 språk som vi arbetar med, " han sa.
Andra befintliga AI-verktyg "gör ett bättre jobb med att identifiera falska konton som kan försöka störa val eller sprida felaktig information, " sa han. Efter att falska konton placerat politisk information på Facebook som störde valet 2016, Facebook tog proaktivt ner "tiotusentals falska konton" före franska och tyska val 2017, och Alabamas särskilda val för en ledig senatsplats i december förra året, han lade till.
Facebook är långt ifrån ensamt bland sociala medieföretag som använder artificiell intelligens för att hjälpa människor att övervaka innehåll.
"AI-verktyg i samverkan med människor kan göra bättre än båda kan göra ensamma, sade Wendell Wallach, en utredare på The Hastings Center, ett bioetiskt forskningsinstitut i Garrison, New York.
Men Wallach noterade att många användare inte förstår artificiell intelligens, och Big Tech kan möta en motreaktion som livsmedelsproblem står inför över genetiskt modifierade (GMO) ingredienser.
"De ledande AI-företagen, som råkar vara samma som de ledande digitala företagen för tillfället, förstå att det finns en GMO-liknande elefant som kan hoppa ut ur AI-garderoben, " sa Wallach.
Redan, Oron ökar bland konservativa på Capitol Hill över att plattformar som Facebook lutar åt den politiska vänstern, oavsett om AI-verktyg eller människor är involverade i att fatta innehållsbeslut.
"Känner du igen de här människorna?" Rep. Billy Long, R-Mo., frågade Zuckerberg medan han höll upp ett foto av två systrar.
"Är det diamant och silke?" Zuckerberg frågade, hänvisar till två svarta sociala medier-personligheter som är ivrig anhängare av president Donald Trump.
Verkligen, det var, Long sa, och Facebook hade ansett dem "osäkra".
"Vad är osäkert med två svarta kvinnor som stöder president Donald J. Trump?"
Zuckerberg noterade senare att hans Facebook -team "gjorde ett verkställighetsfel, och vi har redan tagit kontakt med dem för att vända det."
Verktyg för artificiell intelligens är utmärkta när det gäller att identifiera framträdande information ur massor av data men kämpar för att förstå sammanhanget, speciellt i talat språk, sa experter.
"Exakt samma mening, beroende på förhållandet mellan två individer, kan vara ett uttryck för hat eller ett uttryck för förälskelse, sa David Danks, en expert på etik kring autonoma system vid Carnegie Mellon University. Han citerade användningen av "N-ordet, "som mellan vissa människor kan vara en vänlig term, men anses också allmänt som hatretorik i andra sammanhang.
Alla fel som AI-verktyg gör i sådana språkliga minfält kan tolkas som censur eller politisk fördom som ytterligare kan minska förtroendet för sociala medieföretag.
"Allmänheten, Jag tror, har mycket mindre förtroende för dessa företag, " sa Danks.
Så småningom, han sa, algoritmerna och AI-verktygen från en handfull företag kommer att vinna större allmänhetens förtroende, även om konsumenterna inte förstår hur de fungerar.
"Jag förstår inte på många sätt hur min bil fungerar, men jag litar fortfarande på att den fungerar på alla sätt som jag behöver den, " sa Danks.
Precis som bibliotekarierna en gång använde subjektivt omdöme för att ta böcker från hyllorna, sociala medieföretag kan också få kritik för att AI-verktyg kan överskrida.
"Twitter står inför detta, "sade James J. Hughes, verkställande direktör för Institute for Ethics and Emerging Technologies, i Boston. "Pinterest och Instagram tar alltid ner artisters webbplatser som råkar ha nakna kroppar i sig när de tror att de är porr, när de inte är det.
"Och de gör det baserat på artificiell intelligens algoritmer som flaggar hur mycket nakent kött som finns på bilden."
I sitt vittnesbörd, Zuckerberg sa att AI-verktyg blev allt skickligare på att "identifiera falska konton som kan försöka störa val eller sprida felaktig information."
Facebook har erkänt att en rysk byrå använde Facebook för att sprida desinformation som nådde upp till 126 miljoner människor runt tiden för presidentvalet 2016, och att 87 miljoner människors personuppgifter kan ha missbrukats av företaget Cambridge Analytica för att rikta in sig på väljare till förmån för Trump.
Zuckerberg sa till senatorerna att Facebooks försening med att identifiera ryska ansträngningar att blanda sig i valet är "en av mina största beklagar när jag driver företaget" och lovade att göra bättre för att bekämpa manipulation inför årets val.
När lagstiftarna brottades om huruvida Facebook och andra sociala medieföretag behöver reglering, Zuckerberg ställdes upprepade gånger inför frågor om hans företags karaktär. Är det också ett medieföretag för att det producerar innehåll? Ett mjukvaruföretag? Ett finansiellt tjänsteföretag som stöder pengaöverföringar?
"Jag anser oss vara ett teknikföretag, eftersom det primära vi gör är att ha ingenjörer som skriver kod och bygger produkter och tjänster för andra människor, " berättade Zuckerberg vid en utfrågning i parlamentet.
Experter säger att svaret inte tar upp komplexa frågor kring plattformar som allt mer liknar allmännyttiga tjänster.
"Elföretaget får inte säga, vi gillar inte dina politiska åsikter, därför kommer vi inte att ge dig el, "" sa Danks. "Om någon slås ut från Facebook, är det liktydigt med att elbolaget stänger av sin el? Eller är det mer som personen som är riktigt högljudd och motbjudande i en bar, och ägaren säger, "Du måste gå nu"?"
©2018 McClatchy Washington Bureau
Distribueras av Tribune Content Agency, LLC.
