”Manden på billedet blev fundet i kælderen, efter at fangevogterne var flygtet.”

Sådan lød det mandag i et indslag i ’19 News’ på TV 2 og TV 2 News om et fotografi fra det berygtede Sednaya-fængsel uden for Damaskus.

Men som TV 2 efterfølgende har erkendt, var billedet AI-genereret og har altså intet at gøre med den aktuelle situation i Syrien.

Det beklagede og rettede stationen i en nyhedsudsendelse senere samme aften, ligesom Seernes Redaktør på TV 2 også har udsendt en beklagelse online.

Men ifølge ekspert i AI-genererede fotos og forfatter til bogen ‘Listen Louder’, Jonathan Løw, kalder sagen på, at medierne tager deres AI-detection til næste niveau.

”Man kunne godt have opdaget det her, hvis man havde sat nogle lidt mere avancerede algoritmer op til at holde øje med det. Men det har man tydeligvis ikke gjort her, siden det er sluppet igennem,” siger han.

Foto stammede fra en video

Jonathan Løw er serieiværksætter og medstifter af blandt andet virksomheden JumpStory, som var de første i Skandinavien til at bruge AI til at generere fotos.

Han siger, at han egentlig godt kan forstå, at TV 2 i det konkrete eksempel faldt i og bragte det falske foto.

Billedet, som blandt andet var blevet delt på TikTok, har nemlig vist sig at være et skærmbillede fra en video, som TV 2 tilsyneladende ikke har haft adgang til. Og dermed bliver det straks sværere at opspore, hvor indholdet kommer fra.

”Hvis det bare havde været et billede, så findes der jo forskellige værktøjer derude til at lave reverse image search, så man kan se, hvor det ellers har optrådt. Men i og med at man kun har det her skærmbillede af videoen, så vil det kræve noget mere avanceret teknologi at finde frem til det,” siger Jonathan Løw.

Konkret anbefaler Jonathan Løw, at TV 2 og andre medievirksomheder får opsat systemer bestående af AI-agenter, der hurtigt og automatisk kan gå ind og bryde visuelt indhold ned i stumper og stykker og så søge tilbage på dem.

”Her kunne det for eksempel være en søgning på ”mand kravler op fra hule”. Og så ville man kunne have fundet den her videosekvens på TikTok, hvor den blev spredt,” siger han.

Rammer troværdigheden

På samme måde bør medierne ifølge Jonathan Løw opsætte robotter, som trawler de sociale medier og spotter AI-rygter.

”Sådan nogle diskussioner starter tit ude på TikTok og Snapchat og andre sociale medier, hvor folk debatterer, om et billede eller en video er ægte. Men det er jo ikke sikkert, at en journalist overhovedet er opmærksom på, at den her samtale foregår, samtidig med at de sidder og skriver deres historie,” siger han.

Men hvad koster det, hvis man skulle have sat sådan et system op?

”Det er ikke en millioninvestering – det er måske i hundredetusindekroners klassen. Men det kræver jo løbende udvikling, og derfor kunne det måske give mening, at man går sammen om det. For der kommer kun mere og mere af det her, og hver gang vi har de her sager, går der en lille smule af mediernes troværdighed,” vurderer Jonathan Løw.

Edderkop havde afsløret video

Hos TV 2 siger udlandsredaktør Jakob Vissing, at man allerede er på jagt efter systemer, der kan hjælpe med at undgå situationer som den med det falske foto fra Syrien.

”Vi har øjne og ører ude efter alle former for redskaber, der kan hjælpe med at detektere det her. Indtil videre har vi ikke fundet noget, der er præcist nok. Men al hjælp er velkomment, for lige nu er vi overladt til detektivarbejde, og det bruger vi rigtig meget tid på,” siger han.

I det konkrete tilfælde havde det dog næppe krævet det helt store detektivarbejde at gennemskue, at der var tale om indhold, der intet havde med situationen i Syrien at gøre, hvis TV 2 rent faktisk havde fundet frem til videoen.

Når man ser det fulde klip, står det nemlig klart, at videoen intet har med hverken Syrien eller fanger at gøre.

”Videoen viser en mand, der kravler op af en hule med en stor ulækker edderkop. Men edderkoppen ser man jo så ikke på skærmbilledet, som TV 2 bragte,” siger Jonathan Løw.