”Jeg var faktisk overrasket over, at der var nogen, der var så dumdristige, at de tænkte, det var en god idé at lave en AI-genereret video af en politisk modstander.”

Sådan siger Valdemar Osted, Head of Tech i bureauet Common Consultancy, efter at Dansk Folkepartis formand, Morten Messerschmidt, i weekenden postede en deepfake-video med et fiktivt pressemøde med en AI-genereret udgave af Mette Frederiksen.

I videoen erklærer hun, at regeringen efter den ”succesfulde” afskaffelse af store bededag nu også har besluttet at sløjfe påske, pinse og selveste julen.

I den AI-genererede video er pressemødet en ond drøm, Morten Messerschmidt har. De AI-genererede videobilleder er deklareret som ”AI-genereret” i øverste højre hjørne af billedet. Og Mette Frederiksen ligner ikke helt sig selv.

I kommentarsporene er brugerne delte. Tilhængerne synes, videoen er tydeligt deklareret og sjov. Men videoen får også hård kritik for at være ”farlig”, og flere skriver, at den burde være forbudt.

Burde kræve samtykke

Valdemar Osted tror ikke, nogen forveksler videoen med den ægte vare, men alligevel ser han den som problematisk.

”Hvad så, hvis nogen klipper i deres video og fjerner den del, hvor der står, det er AI-genereret? Hvad hvis det går viralt på TikTok?” spørger han og tilføjer, at mens Mette Frederiksen ikke ligner helt godt på billedsiden, er stemmen i videoen mere lig statsministerens.

Og så siger hun flere ting undervejs i videoen, som bringer mindelser om ting, den ægte Mette Frederiksen har udtalt. For eksempel siger hun undervejs i det fiktive pressemøde: ”I tror, det er acceptabelt at tage hjem fra samlebåndet kl. 16. Men den går altså ikke.”

”Det er jo noget, som hun lidt har sagt, som de blander ind i en anden kontekst,” siger Valdemar Osted.

Han mener, politikere helt bør afstå fra at lave deepfake-videoer med politiske modstandere. I hvert fald bør der være krav om samtykke.

”Jeg synes, løsningen er, at Christiansborg sætter sig ned og bliver enige om ikke at lave AI-genererede videoer uden samtykke,” siger Valdemar Osted.

”Det kan være pissefarligt”

Også Peder Hammerskov, adjunkt på DMJX med fokus på AI, og Henrik Ebbesen, partner og nordisk digital direktør hos bureauet Geelmuyden Kiese, kritiserer videoen. De mener, det er en glidebane.

”Jeg kan sagtens se, at det egentlig er ret sjovt, men der er det allerstørste ’men’ i hele verden: Det er en virkelig dårlig idé,” siger Peder Hammerskov.

Han er usikker på, om alle kan gennemskue, at videoen er deepfake.

”Der er også det problem, at videoen blåstempler, at vi misbruger kendte mennesker online til alle mulige ting. Hvad så, hvis der kommer nogen og misbruger Morten Messerschmidt til at glorificere nazismen?” siger Peder Hammerskov.

”Jeg er bange for, at han kan være med til at skabe en glidebane for, hvad der er okay. Det kan være pissefarligt.”

Peder Hammerskov peger på, at videoen kan blive videredelt i alle mulige redigerede former på sociale medier, så deklarationen af AI forsvinder, eller det på andre måder bliver mindre tydeligt, at videoen ikke er ægte.

Undergraver tilliden

Samme faldgrube ser Henrik Ebbesen hos Geelmuyden Kiese. Og den måde, de fleste forbruger indhold på sociale medier, er med til at forstærke problemet.

”Hvis man ser filmen til ende, virker det klart, at det er satire. Men på sociale medier er det en lykkens dag, hvis man får nogen til at se noget fra start til slut,” siger Henrik Ebbesen.

”Jeg er nervøs for, om den kan blive opfattet som ægte på de 10 sekunder, folk ser, inden de ryger videre.”

Derfor mener både han og Peder Hammerskov, at politikerne skal afstå fra at lave deepfake-videoer.

”Det kan undergrave tillid, og det er det, vi har brug for allermest,” siger Henrik Ebbesen.

”Det burde være åbenlyst, at man som politiker lader være med at gøre det her, når man ved, hvad vi står med af problemer om manglende tillid. Det er en no brainer,” siger Peder Hammerskov.

Messerschmidt: Vi klæder danskerne på

Morten Messerschmidt afviser kritikken. Han mener tværtimod, at han med videoen er med til at klæde danskerne på til at skelne deepfake fra ægte indhold på sociale medier.

”Jeg er fuldstændigt enig i, at der vil komme stadig mere deepfake. Derfor er jeg også uenig i, at det ikke er noget, vi skal gøre danskerne klar på,” siger han og understreger, at det AI-genererede indhold er varemærket som sådan, og at videoen skal ses som satire.

”Det, vi kan gøre, er at vise danskerne, hvordan man kan bruge de nye teknologier, og hvordan man kan bruge det på en god måde, som her – en underholdende og satirisk måde,” siger Morten Messerschmidt.

Ville det også være okay for dig, hvis Socialdemokratiet lavede en deepfake-video med dig?

”Jeg synes, det er naturligt, at de politiske partier bruger de teknologier, der er, så det vil jeg ikke have noget problem med. Så længe, det er deklareret,” siger Morten Messerschmidt.

Han er også uenig i, at deepfake-indhold fra politikerne kan forværre tillidskrisen og få tilliden til politikerne til at falde yderligere.

”Der tror jeg mere, man skal kigge på den førte politik. Jeg tror ikke, at det her er noget, der forandrer tillidskrisen,” siger Morten Messerschmidt.

Ikke ny lovgivning

Han svarer ”nej” til spørgsmålet om, om han har bedt Mette Frederiksen om samtykke til at lave en fiktiv udgave af hende i videoen.

”Når man klart deklarerer, at noget er AI, og i øvrigt gør det klart, at det er satire og underholdning, så mener jeg ikke, at man skal rende rundt og spørge om lov,” siger han.

Venstres folketingsmedlem Preben Bang Henriksen, som er medlem af Udvalget for Digitalisering og It, har også kritiseret Morten Messerschmidts video i Jyllands-Posten.

Han mener, der er mange, som ”relativt let” hopper på videoen, og at politikere bør afstå fra at lave den slags deepfake-videoer.

”Politikere bør have en særlig tillid ude i befolkningen,” siger han til Journalisten.

Alligevel er han ikke umiddelbart parat til at foreslå ny lovgivning på området.

”Lad os nu lige se, hvordan det her udvikler sig. Vi kan jo lovgive om alt i kongeriget Danmark. Jeg vil da ikke udelukke, at vi skal kigge på det, hvis det her bliver dagens orden,” siger han.