Der eksisterer ganske få verificerede billeder af tidligere Invidia-chef Jensen Huang og Alice Huang sammen. Dette er taget fra en videooptagelse fra en restaurant i Taiwan i 2025. Der florerer en del flere billeder, som de internationale billedbureauer mener, kan være genereret med brug af kunstig intelligens. Foto: Cti/Reuters/Ritzau Scanpix
”INFO: OBS! VIGTIG INFORMATION OM AI-GENEREREDE BILLEDER.”
Sådan indledte Ritzau i morges en besked til sine kunder på billedbureauet Scanpix.
Anledningen er, at Ritzau Scanpix de seneste dage har modtaget flere advarsler fra sine internationale samarbejdspartnere om, at der cirkulerer AI-genererede billeder af den fratrådte Nvidia-chef Jensen Huang og den kinesiske forretningskvinde Alice Huang.
Ansvarshavende chefredaktør og administrerende direktør i Ritzau Jacob Kwon siger, at billedbureauet benytter anledningen til at forsikre sine kunder om, at Ritzau er på stikkerne – og opfordrer kunderne til også at være det.
”Vi er del af et stort, vidtforgrenet internationalt netværk af billedbureauer, der udveksler billeder med hinanden. Og hvis først der kommer falske billeder ind ét sted, jamen så risikerer man jo, at de forurener hele netværket,” siger Jacob Kwon.
Han har selv set tre eksempler på formentlig AI-genererede billeder af den tidligere amerikanske techchef og hans formodede kinesiske elskerinde, der er blevet stoppet af de internationale billedbureauer.
Han gætter på, at der er usædvanligt mange falske billeder i netop den sag, fordi den er "kulørt og er båret af en meget, meget kendt person".
90.000 billeder om dagen
Jacob Kwon mener selv at kunne se, at Alice Huang på det ene af billederne har et unaturligt stort ben, og at Jensen Huang har mærkværdigt lange fingre. Men han understreger, at AI-teknologien nu er så god, at det ofte er helt umuligt at skelne.
”Det er et stykke tid siden, vi krydsede grænsen for, hvornår man med det blotte øje kunne se, om noget var uægte eller ægte. Det kan man ikke længere,” siger han.
Derfor er sagen en god påmindelse om, hvad man kan gøre for at gardere sig mod falske fotografier.
”Vi får 90.000 billeder ind om dagen, så vi kan ikke tildele alle billederne samme opmærksomhed,” siger Jacob Kwon og forklarer, at Scanpix i høj grad er afhængig af, at de kan stole på deres samarbejdspartnere som Reuters og dpa.
”Men vi er jo sårbare på den måde, at vi ikke har nogen som helst mulighed for at tjekke alle billeder selv, så vi er nødt til at stole på vores leverandører,” siger Jacob Kwon.
Når bureauet for tiden er særligt opmærksomme på billeder af Jensen Huang og Alice Huang, handler det blandt andet om også at tjekke fotografnavn og billedtekst samt at se, om andre har bragt de pågældende billeder, og om det nu også kan passe, at de to personer har været samtidig på det angivne sted.
Vandmærker
Men Ritzau Scanpix bruger ikke selv AI til at tjekke for AI.
”Vi mener ikke, at der findes AI-værktøjer, der kan detektere det troværdigt, så det ville kunne give os en falsk tryghed,” siger Jacob Kwon.
Han fæster stor lid til arbejdet med en form for vandmærker, som fotografer kan indlejre i deres billeder som en garant for, at der er tale om et ægte billede.
Ritzau kører i øjeblikket et pilotprojekt med firmaet Sasha, som også andre danske medier samarbejder med om et vandmærke, der skal følge billedet, så man kan se, om det er blevet manipuleret eller kørt igennem kunstig intelligens.
”Vandmærket er klart det bedste værktøj fremadrettet til at undgå, at nogen kommer til at bringe noget, der ikke er ægte,” siger Jacob Kwon.
Han tror og håber, at Ritzau Scanpix ikke selv er kommet til at videreformidle falske billeder.
”7-9-13, så er vi ikke faldet i. I hvert fald ikke, hvad vi er vidende om,” siger han.
Journalisten har valgt ikke at bringe de billeder, Ritzau Scanpix har modtaget som eksempler på billeder, der med stor sandsynlighed er AI-genererede.
Men blandt andet det tyske magasin Der Spiegel har bragt et af billederne, hvis ægthed Business Insider har betvivlet. Billedet er oprindeligt blevet delt på Alice Huangs nu lukkede konto på det kinesiske sociale medie WeChat.
0 Kommentarer
Du skal være logget ind med dit DJ-login for at kunne kommentere på artiklen.