Förra veckan varnade chefen för Australiens valregulator att organisationen "inte har de lagstiftningsverktyg eller interna tekniska möjligheter att avskräcka, upptäcka eller adekvat hantera falskt AI-genererat innehåll angående valprocessen."
Denna kommentar, som gjordes till en senatskommitté för att anta artificiell intelligens (AI), är inte en isolerad kommentar. Förhållandet mellan AI och demokrati är ämnet för många, allt mer brådskande samtal som äger rum runt om i världen.
Mer än 60 länder kommer att gå till valurnorna 2024, i vad som har kallats "det största valåret i historien." Australien förväntar sig att hålla val i Northern Territory och Queensland i år, med ett federalt val i maj 2025.
Samtidigt förändrar explosionen av generativa AI-verktyg för text, bilder, ljud och video dramatiskt hur australiensare skapar och engagerar sig i information. Hur kan vi upprätthålla integriteten och förtroendet för val i en tid av generativ AI?
Den mest uppenbara risken AI utgör för demokratin är via syntetiskt innehåll (eller "deepfakes"), som kan användas för att felinformera väljarna. En undersökning från World Economic Forum som genomfördes förra året fann att experter rankade "desinformation och desinformation" och "samhällelig polarisering" som de första och tredje allvarligaste globala riskerna under de kommande två åren.
Dessa risker visar sig redan. I USA riskerar en politisk konsult, som använde USA:s president Joe Bidens syntetiska röst i robocall, böter på flera miljoner dollar. I Indien har AI-genererade videor blivit allt vanligare i årets valkampanj.
Men deepfakes och desinformation är långt ifrån de enda riskerna. AI ger också nya möjligheter. I bevisen jag gav till senatskommittén, och i en inlaga från mig och mina kollegor vid Tech Policy Design Center, hävdar vi att ett mer omfattande nationellt samtal om detta ämne är viktigt.
En heltäckande politik kommer inte att fokusera enbart på djupförfalskningar som svajar röster utan demokratins hälsa mer allmänt. Fria och rättvisa val är ett kännetecken för demokrati (även om det är otroligt viktigt), men det finns många andra.
Informerat samhällsengagemang, tolerans och politisk pluralism är andra viktiga ingredienser i ett blomstrande demokratiskt system. Systemet måste också identifiera och svara på väljarnas behov, och regeringen måste vara transparent och ansvarsfull.
Så när vi tänker på förhållandet mellan AI och demokrati, måste vi tänka på ständiga bekymmer som politisk representation, journalistik i allmänhetens intresse, mediekunskap och social sammanhållning.
En balanserad politik bör erkänna AI-tekniker innebär möjligheter för demokrati, såväl som risker.
Till exempel är det absolut rimligt att oroa sig för att informerat medborgerligt engagemang kan bli lidande på grund av tendensen hos generativa AI-modeller att "hallucinera" och producera felaktig information.
Men samma teknik kan också engagera fler väljare i medborgerlig diskurs:den kan omvandla komplexa policykoncept till relaterbart innehåll eller skapa automatiska översättningar till många språk.
Vissa delar av de utmaningar vi står inför är inte så nya eller säkra som de verkar.
AI, och den generativa AI-boomen i synnerhet, injicerar säkert några oöverträffade element i det demokratiska ekosystemet. Men det finns fortfarande lärdomar vi kan dra av det förflutna.
Oron för teknologier som gör nya kommunikationsformer allmänt tillgängliga är inte ny. Inte heller ansträngningar för att reglera och kontrollera vem som kan påverka offentliga informationsflöden.
På 1400-talet väckte uppfinningen av Gutenbergs tryckpress rädsla för vad vi nu kan kalla "falska nyheter". Det finns många nyare exempel, inklusive vad vi har lärt oss från framväxten av sociala medier (som i sin tur formar historien om AI och demokrati).
Vi måste vara medvetna om de element i generativ AI som är fundamentalt nya. Samtidigt kan vi leta efter tillämpliga policyverktyg och lärdomar från tidigare IT-revolutioner.
Australien står vid ett intressant vägskäl. Upp till ett år efter vårt nästa federala val är flera sammankopplade grenar av politik under utveckling.
Industriavdelningen arbetar med ett svar på förra årets Safe and Responsible AI-konsultation. Detta kommer att inbegripa att överväga regler för obligatoriska vattenstämplar i AI-genererat innehåll.
Kommunikationsavdelningen omarbetar också förslag till nya befogenheter för Australian Communications and Media Authority. Dessa kommer att hjälpa till att bekämpa desinformation och desinformation, och kan inkludera AI-specifika åtgärder.
Samtidigt ses Online Safety Act 2021 över. Detta kan resultera i befogenheter att ta itu med onlinemissbruk av offentliga personer, vilket återigen kan involvera AI.
Jag föreslår fyra nyckelåtgärder som den australiensiska regeringen bör vidta.
För det första bör den utveckla ett samordnat nationellt förhållningssätt till förhållandet mellan AI och demokrati. Mina kollegor på Tech Policy Design Center har erbjudit mer detaljerade rekommendationer om hur man kan samordna utvecklingen av nationella tekniska policyer.
För det andra bör regeringen ägna stor uppmärksamhet åt de dussintals nationella valen runt om i världen i år. Vi kan övervaka framgången eller misslyckandet för olika policyer i olika sammanhang för att lära av andras erfarenheter.
För det tredje kan vi lära av Sydkorea genom att kräva att politiker avslöjar och vattenmärker alla djupförfalskningar eller annat AI-producerat innehåll som används i valmaterial. Sydkorea har helt hindrat politiker från att använda AI-genererat material i sina kampanjer. Den lägre ribban för att kräva att australiska politiker ska vara transparenta kan dock vara mindre kontroversiell och lättare att genomföra.
Och för det fjärde måste regeringen se till att den australiensiska valkommissionen och Australian Communication and Media Authority har den personal och de resurser de behöver. Deras uppgift att ta itu med nya utmaningar, inklusive de som AI utgör, och att utrusta australiensare att engagera sig i ett komplext informationslandskap under det kommande året kommer inte att bli lätt.
Dessa steg borde bara vara början på ett omfattande, balanserat och informerat nationellt samtal om hur vi kan stödja Australiens demokrati att blomstra i AI:s tidsålder.
Tillhandahålls av The Conversation
Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln. 
