Hvis du har lyst til at lave et vellignende foto, der forestiller Mette Frederiksen og Donald Trump spise hotdogs ved en københavnsk pølsevogn, så er det blevet nemmere end nogensinde før.

I sidste uge fjernede ChatGPT nemlig en række begrænsninger for generering af billeder, som hidtil er blevet anset for at være ”for kontroversielle”.

Fra nu af tillader ChatGPT, at brugerne laver billeder med hadefulde symboler og billeder af politikere – og det er så nemt, at det ikke kræver andre forudsætninger end adgang til betalingsversionen af ChatGPT, forklarer Peder Hammerskov, som underviser i AI på DMJX.

Skræmmende og fascinerende

Det er ham, der har lavet ovenstående billede fra pølsevognen for at vise, hvor nemt det pludselig er at lave vellignende fotos i ChatGPT.

”Det eneste, jeg skrev, var ”Lav et billede af Donald Trump og Mette Frederiksen, der står ved en pølsevogn i København og spiser hotdogs”,” forklarer Peder Hammerskov.

Resultatet er både fascinerende og skræmmende, fordi det ligner så godt, mener Peder Hammerskov.

”Indtil nu har ChatGPT været ret dårlig til at generere billeder, men det er slut nu. Nu kan alle og enhver lave et billede, der ligner den ægte vare. Du kan fx lave et billede af Donald Trump, hvor du simpelthen ikke kan se, at det er fake,” siger han.

Mere skade end gavn

Pernille Tranberg, der er selvstændig dataetisk rådgiver, ser ChatGPT’s nye politik som et skridt i den forkerte retning, fordi det bliver nemmere at fuske med fotos.

”Jeg tænker, at det er en uhyggelig udvikling, som vil gøre mere skade end gavn. Det vil helt sikkert blive misbrugt – mere end AI-billeder allerede bliver i forvejen,” siger Pernille Tranberg.

OpenAI, der ejer ChatGPT, har selv forklaret, at der bliver lempet på reglerne, fordi man ønsker mindre censur. Den forklaring køber Pernille Tranberg ikke.

”Jeg ser det som en højreorienteret parole fra USA. Skal Open AI virkelig stille et værktøj til rådighed, der lægger så meget op til misbrug? Hvor er det gode scenarie?” spørger hun.

Ifølge Pernille Tranberg bør danske medier som udgangspunkt stole på, at de store nyhedsbureauer har tjekket de billeder, de udsender.

”Men jeg er meget skeptisk over for billeder fra sociale medier. Hvis jeg som medie skulle bruge dem, ville jeg som udgangspunkt tænke, at de var fake. Medierne skal ikke bruge billeder fra sociale medier, uden at de er verificeret, ved at man fx går til kilderne og efterprøver, om billedet er ægte.”

En syndflod

Også Peder Hammerskov mener, at adgangen til at lave fake fotos bør få medierne til at tænke sig meget godt om.

”Det her kommer til at skabe en syndflod af AI-billeder, og derfor skal medierne lave nogle gode procedurer for, hvordan de tjekker billederne,” siger han.

Han anbefaler, at man sætter farten lidt ned rundt omkring på redaktionerne.

”Man må spørge sig selv, om det virkelig er nødvendigt at poste et foto, før det er tjekket ordentligt,” forklarer Peder Hammerskov.

AI-genereret indhold er blandt andet blevet brugt til at forstyrre valghandlingerne i Moldova, Bangladesh og Slovakiet.

En øjenåbner

Men ifølge Peder Hammerskov behøver det ikke være dramatiske billeder fra krige og katastrofer, som snyder medierne. Det kan såmænd også være et manipuleret vejrbillede, der skal forestille en snestorm indsendt af en tv-seer.

”Vi er inde i en ny æra, hvor du ikke kan tage et foto for givet. Du er simpelthen nødt til at lave flere efterprøvninger end tidligere.”

Han håber, at det bliver tydeligt for enhver, hvor nemt det er at lave forfalskede billeder.

”Det kan måske sætte gang i en vigtig debat om AI-billeder. Altså, hvis Peder han kan sidde og lave et billede, der ligner Trump og Mette Frederiksen på en prik, så kan alle selvfølgelig gøre det. Så hvis der er nogen positivt at sige om det her, er det, at det er en øjenåbner.”