• Home
  • Kemi
  • Astronomien
  • Energi
  • Naturen
  • Biologi
  • Fysik
  • Elektronik
  • Kan artificiell intelligens förhindra nästa Parkland-skjutning?

    Kredit:CC0 Public Domain

    Skolor vänder sig alltmer till lösningar med stöd av artificiell intelligens för att stoppa tragiska handlingar av studentvåld som skottlossningen på Marjory Stoneman Douglas High School i Parkland, Florida, ett år sedan.

    Bark Technologies, Gaggle.Net, och Securly Inc. är tre företag som använder AI och maskininlärning för att skanna studenters e-post, texter, dokument, och i vissa fall, sociala medier aktivitet. De letar efter varningstecken på nätmobbning, sexting, drog- och alkoholbruk, depression, och att flagga elever som kan utgöra en våldsam risk inte bara för sig själva, men klasskamrater.

    När potentiella problem upptäcks, och beroende på svårighetsgraden, skoladministratörer, föräldrar – och i de mest extrema fallen – brottsbekämpande tjänstemän, larmas.

    Hösten 2017 Bark drev en testpilot med 25 skolor. "Vi hittade några ganska alarmerande problem, inklusive ett bombdåd och skolskjutningshot, " säger Bark chefsförälder, Titania Jordan.

    Några månader senare hände Parkland och vi visste vad vi hade, och hur det kan hjälpa, men "vi ville inte verka opportunistiska eller dra nytta av en tragedi, " sa Jordan.

    Bark-produkten är gratis för skolor i USA för all framtid. Företaget säger att det har råd att ge bort tjänsten till skolor, på grund av pengarna det tjänar på en version riktad till föräldrar.

    Det finns begränsningar.

    • Inget av företagen USA TODAY pratade med för den här historien hävdar förmågan att fånga misstänkt beteende varje gång. Löst definierad, artificiell intelligens beskriver maskiner som kan visa mänskligt beteende och lära sig av den data de smälter. Falska positiva resultat uppstår ibland.
    • En skola kan inte bevaka en elevs smartphone eller andra enheter utanför de som den utfärdade, om inte studenten loggat in på ett socialt media, eller annat konto, med den e-post eller inloggningsuppgifter som skolan tillhandahållit.
    • Studenter är också ofta mer tekniskt kunniga än sina föräldrar och berättar inte för dem om alla konton de har.

    Om ett problem upptäcks, Bark skickar ett sms och/eller e-postmeddelande till föräldrar och skolor, med rekommenderade steg för hur man åtgärdar problemet.

    Barks moderprodukt kostar $9 per månad, per familj, eller $99 per år, och inkluderar övervakning över mer än 25 sociala medieplattformar, från Twitter och Instagram till Snapchat och YouTube.

    Bark används för närvarande i mer än 1, 100 skoldistrikt, täcker 2,6 miljoner barn. Om den upptäcker något som anses vara mycket allvarligt, såsom ett barnbortförande eller skolskjutningshot, frågan eskaleras till FBI.

    Enligt Jordan, Bark skickar ut mellan 35, 000 och 55, 000 varningar varje dag, många bara fall av svordomar. Men 16 troliga skolskjutningar har rapporterats till FBI sedan Bark lanserade sin skolprodukt i februari förra året, hon säger.

    Förhindra dödsfall genom självmord

    Snattra, som har gått runt 20 år, debiterar skolor $6 per elev, per år. Sedan 1 juli, företaget påstår sig ha stoppat 447 dödsfall genom självmord vid 1, 400 skoldistrikt som använder dess tjänst, och att det förra året förhindrade 542 potentiella dödsfall genom självmord.

    Gaggle säger också att det stoppade 240 fall förra året där ett barn tog med sig ett vapen till skolan för att skada en annan elev eller hade för avsikt att göra det. Under sådana omständigheter, Gaggle kommer omedelbart att larma en nödkontakt på skolan och, om det behövs, rättsväsende.

    "Studier har visat att barn kommer att kommunicera innan en våldsam handling inträffar och de kommer att kommunicera elektroniskt. Om du inte har möjlighet att höra dessa rop på hjälp kommer du att få barn i fara, sa Bill McCullough, vice VD för försäljning på Gaggle.

    McCullough tillägger att företaget inte förlitar sig enbart på maskininlärning för att göra hotbestämningar. Om en Gaggle-skanning av e-postmeddelanden och dokument från skolan avslöjar ett barn i kris, Innehållet analyseras av utbildade säkerhetsexperter som verifierar om hotet är legitimt och sedan avgör hur allvarligt det är. Om hotet bedöms som ringa, kanske användandet av svordomar, en elev kan varnas direkt. Om en elevs liv anses vara i fara, en akutkontakt på skolan meddelas omedelbart.

    För sin del, ett tredje företag, Säkert, fungerar med ca 2, 000 skoldistrikt. Det kostar $3 per student och år för en flaggskeppsprodukt som heter Filter, med premiumtillägg som kan lägga till cirka 2,50 USD per student till kostnaden.

    Den senaste oktober, en av Securlys premiumtjänster känd som 24 – den kombinerar AI med utbildade mänskliga analytiker – flaggade en student som hade sökt på Google efter både "hur man gör en bomb" och "hur man tar livet av sig". Analytikern kontaktade skolan.

    Ett annat exempel nyligen gällde en student som sökte efter "smärtfria sätt att ta livet av sig" och tittade på YouTube-videor om ämnet.

    Verkligt hot eller harmlöst språk?

    I takt med att AI-system har blivit mer sofistikerade, så har maskinernas förmåga att tillämpa kontextuell analys för att avgöra om det finns en verklig fara, eller om vänner i skolåldern harmlöst använder något som ser ut som ett hotfullt språk för att bara trasa på varandra, kanske när man spelar ett spel.

    "Vår maskininlärningsalgoritm är smart nog att veta skillnaden mellan en interpolering som sms:ar en annan interpolering "KMS" som står för "döda mig själv" om de bara är generade... och att använda det som en vardag. (Eller) någon med en verklig benägenhet att ha depression, ångest eller uttrycka önskan att ta sitt liv eller göra skada, " säger Jordan.

    McCullough på Gaggle, säger att företagets algoritmer ständigt uppdateras för att upptäcka tonen av förtvivlan i ett meddelande, att plocka upp symboler och felstavningar, och att bättre analysera språket.

    "Vi har haft självmord som vi har stoppat där det inte finns något ord av "döda" eller "självmord" där inne, säger McCullough.

    Gaggle kan till och med varna myndigheterna för hot som inte kommer från ett skoldistrikt som den övervakar utan utanför.

    "Vi hade ett fall där en tjej i tredje klass blev ombedd av en extern e-postadress som bad om nakenbilder eller att den personen skulle döda hennes föräldrar, " säger McCullough. "Hon försökte skicka de här bilderna men eftersom vi kör vår tjänst live, det kom aldrig ur vår miljö." Personen greps.

    Balanserar integritet, kosta

    Det finns en "känslig balans" när det gäller integritet, säger Rob McCartney, chef för teknik vid Sioux Central skoldistrikt i Iowa, som använder Bark. "Även om skoldistriktet vi hanterar och underhåller äger elevens e-postadresser, (studenten) har rätt till en tillräcklig mängd privatliv utan att vi går in och tittar och säger, 'åh det här är din pojkvän, eller kom du hem sent i går kväll? Det är inte det vi är där för."

    Vinay Mahadik, VD för Securly, navigerar också på den fina gränsen mellan integritet och säkerhet:"Vi anstränger oss mycket för att försöka vara ett ansvarsfullt företag. Inte en enda gång har en förälder som vi har betjänat eller ett skoldistrikt som vi hjälpt till att komma tillbaka och berättat för oss att det här är en hemsk sak du håller på med."

    McCartney uppskattar att Bark är fri, med tanke på de snäva budgetrestriktioner som många skoldistrikt står inför.

    Men Rich O'Malley, föreståndare för Florens 1-skolor i South Carolina, ett distrikt som betalar för Gaggle, säger att "bara att rädda ett liv eller att kunna röra en elev som har ett problem gör det ovärderligt. Som föreståndare, förmodligen den främsta frågan jag hör från föräldrar är skolsäkerhet."


    © Vetenskap https://sv.scienceaq.com