Moderne krig er ikke bare krudt og kugler. Det er lige så meget en kamp om sandheden og om at påvirke holdninger.

Misinformation og propagandakampagner en blevet en central del af moderne krigsførelse, og at værne sig imod det udgør en tiltagende del af beredskabet i nationer verden over.

Det gælder ikke mindst i Ukraine. For i årevis har landet været i frontlinjen af krigsførelsen med information, hvor russisk misinformation og propaganda har været en alvorlig overhængende trussel.

”Jeg så, hvor skræmmende disse værktøjer, som man bruger til at infiltrere og påvirke samfund, kunne være. Det gjorde mig meget nysgerrig på, hvordan vi kunne være modstandsdygtige over for det,” siger Ksenia Iliuk.

Da Rusland invaderede Ukraine i februar 2022, bidrog Ksenia Iliuk derfor med det, hun var bedst til: At bygge AI-løsninger.

Det blev til LetsData, der ved brug af kunstig intelligens monitorerer enorme informationsstrømme på især sociale medier. Systemet er lavet til at opsnappe fjendtlige informationsoperationer – endda før de sker.

I dag har LetsData mere end 20 ansatte i Ukraine, Europa og USA, og Ksenia Iliuk blev sidste år udnævnt til Forbes 30 under 30-liste – og systemet bliver efterspurgt i en lang række lande.

Øget trusselsbevidsthed

Særligt krigen i Ukraine og de seneste års påståede valgindblanding i lande såsom Moldova, Georgien og USA er medvirkende til, at efterspørgslen på LetsData AI-teknologi er høj fra nationers offentlige myndigheder.

Især når man har tydelige statslige fjender såsom Rusland, Kina, Iran og Nordkorea, siger Ksenia Iliuk.

”Desværre har der været mange vilde sager,” siger hun uden at kunne dele meget mere om, hvilke angreb hun har været med til at forebygge grundet fortrolighedsaftaler og sikkerhedsmæssige hensyn.

Som ukrainer er Ksenia Iliuk flasket op med et højt niveau af trusselsbevidsthed, men det er ikke alle, der har været vant til at tænke sådan:

”Allerede længe før krigen var en enhver ukrainsk person ekstremt bevidst om, at Rusland udfører informationsoperationer.”

”Kigger man i stedet på holdningen til det i Vesteuropa, står mange uvidende tilbage med spørgsmål om, hvorvidt det er et problem,” siger hun.

Og det frustrerer Ksenia Iliuk, at vi kollektivt er bagud med at opbygge vores modstand og respons mod informationsangreb. Men værre er det, når hun stadig skal forklare, hvorfor det er vigtigt at investere i at sikre digital infrastruktur, siger hun.

”Jeg vil så gerne fokusere på spørgsmålet om, hvordan vi gør det, og hvad vi kan opnå med det. Det er meget frustrerende, når jeg stadig skal bruge en masse tid på at forklare, hvorfor det er et spørgsmål om national sikkerhed,” siger hun.

Spotter anomalier

I flere år havde Ksenia Iliuk som blandt andet sikkerhedsrådgiver været frustreret over, at man aldrig var foran, når man blev udsat for misinformationsangreb.

Derfor ville hun med LetsData bygge en AI, der kunne komme informationsangreb i forkøbet.

Systemet fungerer sådan, at når en konto for eksempel reposter Russia Today 89 gange i sekundet, eller en én dag gammel konti deler 500 deepfakes på en dag, er det en anomali, forklarer Ksenia Iliuk.

Den slags bonner ud i systemet, da man har trænet AI’en på, hvordan virkelige mennesker begår sig på internettet og på de sociale medier.

”Grundlæggende set opererer vi ud fra den opfattelse, at trusselsaktører ikke agerer på den måde, som mennesker opfører sig på platformene. I bund og grund udnytter de infrastrukturerne på platformene til at få det, de vil have,” siger Ksenia Iliuk.

Opskaleringen af monitoreringen med kunstig intelligens betyder, at det er langt nemmere at få øje på store, koordinerede angreb. Og det er i den grad interessant for myndigheder, regeringer og store internationale virksomheder.

Men LetsData samarbejder også med medier og varsler dem, hvis de er en del af et angreb. Primært ser Ksenia Iliuk fjendtlige aktører udgive sig for at være et medie ved blandt andet at lave duplikerede hjemmesider, hvor de poster falske artikler.

I høj grad brug for mennesker

Når noget mistænkeligt opsnappes, blinker det i bogstavelig forstand rødt i systemet, hvor menneskelige eksperter tilkaldes for at undersøge sagen nærmere. De er nødvendige flere steder i arbejdet med AI’en, understreger Ksenia Iliuk.

Det er en misopfattelse, at værktøjet fungerer af sig selv:

”Først og fremmest er der stor menneskelig involvering, når vi skaber disse modeller. Vi bruger viden om psykologi, sociologi og samfundsvidenskab til at besvare spørgsmålene om, hvad der er organisk og menneskelig adfærd på sociale medier,” siger hun.

For det andet er den menneskelige viden nødvendig i arbejdet med fortolkning og beslutningstagen.

Som analytiker er Ksenia Iliuk glad for at kunne uddelegere de trivielle opgaver til AI, så hun i stedet kan bruge tiden på rent faktisk at analysere og konsultere, som hun mener er den fede del af hendes job.

Det er AI’en nemlig ikke altid den bedste til at gøre, mener hun:

”Vi mennesker udmærker os ved at kunne træffe beslutninger selv med mange ubekendte faktorer. Vi træffer millioner af beslutninger uden at have det fulde billede og have alle datapunkterne på plads,” siger hun.