I grundskolor över hela landet pågår en ny guldrush av slag:Klassrum över hela landet tävlar för att ta med de senaste verktygen för artificiell intelligens, som plattformar som drivs av chattboten ChatGPT, in i klassrummet.

Alex Molnar, chef för National Education Policy Center (NEPC) vid CU Boulder, ser en fara i denna brådska att introducera AI i skolor. Dessa plattformar, sa han, använder ogenomskinliga och vanligtvis egenutvecklade algoritmer – vilket gör deras inre funktioner mystiska för både lärare, föräldrar och elever.

"Vad du har är en ficka med löften som AI kommer att leverera som utlovat", säger Molnar, en forskningsprofessor vid School of Education. "Problemet är att det för närvarande inte finns något sätt att självständigt utvärdera de påståenden som görs."

I en ny rapport lyfter Molnar och hans kollegor fram de potentiella fallgroparna med AI inom utbildning och kräver en obestämd "paus" i att integrera AI i grundskoleutbildning. Medförfattare var Ben Williamson från University of Edinburgh i Storbritannien och Faith Boninger, biträdande forskningsprofessor i utbildning vid CU Boulder.

Molnar ger sin syn på varför AI är en riskabel chansning för utbildning – och vad berörda föräldrar och andra kan göra för att engagera sig.

Medför ny teknik risker för grundskoleutbildning?

Det har funnits alla möjliga problem i samband med användningen av digitala plattformar i skolor, till och med innan det utbredda antagandet av artificiell intelligens.

Studentdata är ofta inte ordentligt skyddade. Till exempel har det förekommit alla typer av läckor från tredjepartsleverantörer, och det finns ingen lag eller effektiv policy som håller dem ansvariga. Du har också en oerhört mycket betatester på gång i skolor. Marknadsföringspåståenden låter bra, men digitala plattformar ger ofta inte de utlovade resultaten och är fulla av tekniska problem.

Digital teknik har gjort det svårt eller omöjligt att svara på grundläggande frågor, som:Vem bestämmer innehållet i läroplanen som byggs in i dessa plattformar? Vem recenserar deras arbete?

Kan AI göra dessa problem värre?

Alla frågor relaterade till digital teknik tenderar att förstärkas av artificiell intelligens.

Så kallad AI använder algoritmer och enorma mängder datorkraft för att producera resultat baserat på otaliga beräkningar av sannolikheter. Till exempel, vad är sannolikheten att nästa ord i en sekvens kommer att vara 'juice'? Dessa beräkningar producerar inte "sanning" eller ens, nödvändigtvis, noggrannhet. De producerar probabilistiska resultat.

För närvarande är konstruktionen och driften av AI-algoritmer till stor del utanför allmänhetens syn och utan något offentligt ansvar. Icke desto mindre pressas skolfolk, både av marknadsförare och statliga enheter, för att ses ligga i framkant av denna påstådda digitala revolution – allt fler skolprocesser överlämnas till teknologer med liten eller ingen kunskap om pedagogik eller läroplan.

Många människor kallar AI-verktyg för en "svart låda." Vad betyder det?

För att använda en gammaldags förklaring, föreställ dig om du sa:"Jag skulle vilja se mitt barns geografilärobok." Du kanske säger:"Jag har några problem här." Du kan prata med någon om det, någon som möjligen kan förklara de här problemen. Men med AI kan du inte göra det.

Du kan inte gå in och säga till exempel "Hur fungerade poängsättningen på det här?" Svaret skulle vara, "Nja, vi vet inte." "Hur vet vi att det här innehållet är korrekt?" "Tja, det vet vi inte heller."

Är oro för att AI kan fatta beslut i stället för lärare eller föräldrar?

Du kan använda AI för att hjälpa dig att avgöra om ett barn fuskat. Du använder den för att avgöra om ett barn ska vara med i det här programmet eller det programmet. Du kan använda AI för att bestämma alla möjliga saker om ett barn, och barnet låses in med liten eller ingen möjlighet.

Föräldrar kan klaga hur mycket de vill. De kan fortfarande inte få informationen om underlaget för ett beslut som AI tagit eftersom rektorn inte har det. Läraren har det inte. Överintendenten har det inte. Den är gömd bakom en egen gardin av en privat leverantör.

Du förespråkar en "paus" i användningen av AI i skolor. Hur skulle det se ut?

Lösningen skulle vara för statliga lagstiftare att, enligt lag, i huvudsak säga:Offentliga skolor i denna delstat får inte anta program för artificiell intelligens om inte och tills dessa program är certifierade av denna statliga enhet – de måste skapa enheten. Den har granskat dessa program. Den har sagt att de är säkra att använda, och den definierar vilken lämplig användning av programmet är och för vem.

Med andra ord, inget går i skolorna förrän vi har det lagstadgade och regelverk och institutionella kapacitet på plats för att självständigt bedöma AI-plattformar som föreslås för skolbruk.

Vad kan föräldrar, eller någon annan, som är oroad över det här problemet göra?

Kräv att era representanter tar dessa frågor på allvar – först och främst för att lagstifta en paus i införandet av AI i skolor. Period. Sedan kan de be sina företrädare att skapa en statlig enhet som är utformad för att reglera användningen av AI i skolor.

Detta är ett politiskt problem. Detta är inget tekniskt problem.

Vi har en lång historia av teknikföretag som inte följer sina egna regler, som i sig är skrattretande otillräckliga. För alla som på allvar försöker ta reda på hur man ansvarsfullt använder AI i utbildningen, om de inte pratar om politisk handling, pratar de inte riktigt. Teknologerna kommer inte att rädda oss.

Mer information: Williamson, B., Molnar, A., &Boninger, F. (2024). Dags för en paus:Utan effektiv offentlig tillsyn kommer AI i skolor att göra mer skada än nytta. Boulder, CO:National Education Policy Center. nepc.colorado.edu/publication/ai

Tillhandahålls av University of Colorado i Boulder