Ny forskning om generativa AI-bilder visar att bara över en tredjedel av medieorganisationerna som tillfrågades vid tidpunkten för forskningen har en bildspecifik AI-policy på plats.
Studien, ledd av RMIT University i samarbete med Washington State University och QUT Digital Media Research Centre, intervjuade 20 fotoredigerare eller relaterade roller från 16 ledande offentliga och kommersiella medieorganisationer i Europa, Australien och USA om deras uppfattningar om generativ AI-teknik. i visuell journalistik.
"Generativ visuell AI i nyhetsorganisationer:utmaningar, möjligheter, uppfattningar och riktlinjer" publicerades i Digital Journalism .
Ledande forskare och RMIT universitetslektor, Dr. TJ Thomson, sa att även om de flesta intervjuade personal var oroliga över effekterna av generativ AI på desinformation och desinformation, faktorer som förvärrar problemet, såsom omfattningen och hastigheten med vilken innehåll delas på sociala medier och algoritmisk bias, var utom deras kontroll.
"Fotoredigerare vill vara transparenta med sin publik när generativ AI-teknik används, men medieorganisationer kan inte kontrollera mänskligt beteende eller hur andra plattformar visar information", säger Thomson, från RMITs School of Media and Communication.
"Publiken klickar sig inte alltid fram för att lära sig mer om sammanhanget och tillskrivningen av en bild. Vi såg detta hända när AI-bilder på påven bär Balenciaga blev virala, och många trodde att det var verkligt eftersom det var en nästan fotorealistisk bild som delades utan sammanhang.
"Fotoredigerare som vi intervjuade sa också att bilder de får inte alltid anger vilken typ av bildredigering som har gjorts, vilket kan leda till att nyhetssajter delar AI-bilder utan att veta, vilket påverkar deras trovärdighet."
Thomson sa att att ha policyer och processer på plats som detaljerar hur generativ AI kan användas i olika kommunikationsformer skulle kunna förhindra incidenter av fel- och desinformation, såsom de ändrade bilderna av den viktorianska parlamentsledamoten Georgie Purcell, från att inträffa.
"Fler medieorganisationer måste vara transparenta med sina policyer så att deras publik också kan lita på att innehållet har skapats eller redigerats på de sätt som organisationen säger att det är", sa han.
Studien fann att fem av de undersökta butikerna hindrade personal från att använda AI för att skapa bilder, och tre av dessa butiker blockerade bara fotorealistiska bilder. Andra tillät AI-genererade bilder om historien handlade om AI.
"Många av de policyer jag har sett från medieorganisationer om generativ AI är generella och abstrakta. Om ett medieställe skapar en AI-policy måste det överväga alla former av kommunikation, inklusive bilder och videor, och ge mer konkret vägledning." sa Thomson.
"Att förbjuda generativ AI helt och hållet skulle sannolikt vara en konkurrensnackdel och nästan omöjlig att tillämpa.
"Det skulle också beröva mediearbetare teknikens fördelar, som att använda AI för att känna igen ansikten eller objekt i bilder för att berika metadata och hjälpa till med bildtexter."
Thomson sa att Australien fortfarande låg "bak i flocken" när det gällde AI-reglering, med USA och EU ledande.
"Australiens befolkning är mycket mindre, så våra resurser begränsar vår förmåga att vara flexibla och anpassningsbara", sa han.
"Men det finns också en avvaktande attityd där vi tittar på vad andra länder gör så att vi kan förbättra eller efterlikna deras tillvägagångssätt.
"Jag tycker att det är bra att vara proaktiv, oavsett om det är från regering eller en medieorganisation. Om vi kan visa att vi är proaktiva för att göra internet till en säkrare plats, visar det ledarskap och kan forma konversationer kring AI."
Studien fann att journalister var oroliga över hur algoritmiska fördomar kan vidmakthålla stereotyper kring kön, ras, sexualitet och förmåga, vilket leder till ryktesrisk och misstro mot media.
"Vi hade en fotoredigerare i vår studie och skrev in en detaljerad uppmaning i en text-till-bild-generator för att visa en sydasiatisk kvinna som bär en topp och byxor," sa Thomson.
"Trots att den detaljerade kvinnans kläder, fortsatte generatorn med att skapa en bild av en sydasiatisk kvinna som bär en sari."
"Problem som detta härrör från en brist på mångfald i träningsdata, och det leder till att vi ifrågasätter hur representativa är våra träningsdata, och vad kan vi göra för att tänka på vem som representeras i våra nyheter, stockfoton men även bio och bio. videospel, som alla kan användas för att träna dessa algoritmer."
Upphovsrätt var också ett problem för fotoredigerare eftersom många text-till-bild-generatorer inte var transparenta om var deras källmaterial kom ifrån.
Även om det har förekommit generativa AI-upphovsrättsfall som har hamnat i domstol, som The New York Times stämningsansökan mot OpenAI, sa Thomson att det fortfarande är ett område under utveckling.
"Att vara mer konservativ och bara använda tredjeparts AI-generatorer som är utbildade på proprietär data eller bara använda dem för brainstorming eller forskning snarare än publicering kan minska den juridiska risken medan domstolarna avgör upphovsrättsfrågan", sa han.
"Ett annat alternativ är att utbilda modeller med en organisations eget innehåll och på så sätt har de förtroende för att de äger upphovsrätten till resulterande generationer."
Trots oro för desinformation och desinformation, fann studien att de flesta fotoredigerare såg många möjligheter att använda generativ AI, som brainstorming och generering av idéer.
Många var glada över att använda AI för att skapa illustrationer som inte var fotorealistiska, medan andra var glada över att använda AI för att skapa bilder när de inte har bra befintliga stockbilder.
"Till exempel, befintliga stockbilder av bitcoin ser alla ganska lika ut, så generativ AI kan hjälpa till att fylla en lucka i vad som saknas i en stockbildkatalog," sa Thomson.
Även om det fanns en oro för att förlora fotojournalistjobb till generativ AI, sa en intervjuad redaktör att de kunde tänka sig att använda AI för enkla fotograferingsuppgifter.
"Fotografer som är anställda kommer att få göra fler kreativa projekt och mindre uppgifter som att fotografera något på en vit bakgrund", sa den intervjuade redaktören.
"Man skulle kunna hävda att dessa saker också är väldigt lätta och enkla och tar mindre tid för en fotograf, men ibland är de också en huvudvärk."
Mer information: T. J. Thomson et al, Generative Visual AI in News Organizations:Challenges, Opportunities, Perceptions and Policies, Digital Journalism (2024). DOI:10.1080/21670811.2024.2331769
Tillhandahålls av RMIT University
