Foto: Jens Hartmann Schmidt
Kunstig intelligens skal hjælpe journalister som en form for troværdig digital sidemakker, men i weekenden var Politikens værktøj en makker fra helvede.
I et portræt i avisen lørdag om forfatteren Harald Voetmann var der en faktaboks skabt ved hjælp af AI, som viste sig at være spækket med fejl.
Det fremgik blandt andet, at forfatteren har skrevet bøgerne ’Konkylier’ og ’Vandmærket’, men det har han bare ikke. Den første bog findes ifølge bibliotek.dk kun i form af faglitteratur om snegle og muslinger i havet, mens sidstnævnte er en novellesamling af forfatteren Naja Marie Aidt.
Det fremgik også fejlagtigt i Politikens faktaboks, at Harald Voetmann har modtaget Montanas Litteraturpris, og at han fik Kritikerprisen for ’Helioskatastrofen’, men det er faktisk en roman af Linda Boström Knausgård. Ud over ovenstående eksempler var der flere fejl, som nu har fået Politiken til at indlede webartiklen med en omfattende fejlrettelse, ligesom Læsernes Redaktør har bragt en rettelse i mandagens avis.
Forkert værktøj
Til Journalisten oplyser chefredaktør Amalie Kestler, at fejlen opstod, da det forkerte kunstige intelligens-værktøj blev brugt. Politiken har nemlig flere værktøjer, hvoraf et af dem er et faktaboksværktøj, der bygger på Politikens arkiv.
”Det er ikke vores faktaboksværktøj, der er blevet brugt. Og det er heller ikke blevet faktatjekket og verificeret efterfølgende, så derfor er vores retningslinjer blevet brudt,” siger hun.
Der skal ikke ske mange af den her type fejl, før tilliden begynder at smuldre.
Maria Bendix Wittchen, forsker i presseetik ved Roskilde Universitet
Som følge af sagen har Politikens ledelse sendt en mail ud til alle medarbejdere om, at de interne retningslinjer for brug af kunstig intelligens tages op til fornyet revision.
Tillidsrepræsentant Pernille Mac Dalland kalder det for en ”pinlig” sag:
”I den her tid, hvor man bliver bombarderet af information, skal vi leve af at være troværdige. Det her går fuldstændigt kontra på det, vi gerne vil signalere,” siger hun.
Skeptiske ansatte
Netop introduktionen af AI-værktøjet ’Magna’ har mødt skepsis blandt Politikens medarbejdere. Det skete for eksempel i februar, hvor værktøjet erstattede avisens korrekturlæsere, som i den forbindelse modtog et opsigelsesvarsel.
For Pernille Mac Dalland er det et centralt spørgsmål, om det er gået for hurtigt med at implementere værktøjet:
”Jeg tror ikke, at den her fejl kunne være opstået med et menneske. Selvfølgelig kan man misforstå noget i sin research, eller der kan være noget, man ikke får med. Men ligefrem at sætte en anden forfatters værk på, det tror jeg ikke,” siger hun.
Ifølge hende er der stadig nervøsitet blandt nogle medarbejdere, både for de nye værktøjer og for, hvorvidt kunstig intelligens kommer til at føre til flere opsigelser. Derfor er det positivt, at ledelsen nu lægger op til at gentænke avisens tilgang til brugen af kunstig intelligens:
”Det er så vigtigt, at vi ikke kommer til at sætte troværdigheden over styr i ren teknikbegejstring,” siger hun.
Tillid kan smuldre
At troværdigheden kan lide skade, bakkes også op af forsker i presseetik Maria Bendix Wittchen fra Roskilde Universitet.
”En af grundene til, at brugerne betaler en relativt høj pris for de her medier, er, at man forventer, at det er korrekt. Det er punkt 1 i de presseetiske regler. Der skal ikke ske mange af den her type fejl, før tilliden begynder at smuldre,” siger Maria Bendix Wittchen, som kalder det en generel problematik, som kan påvirke hele branchen.
Vi vil selvfølgelig gøre mere i den kommende tid for at informere om den korrekte brug af værktøjerne.
Amalie Kestler, chefredaktør på Politiken
Samme toner lyder fra Peder Hammerskov, som underviser i kunstig intelligens ved DMJX:
”Man risikerer nemt, at den vil lave fejl. Og i sådan et tilfælde som hos Harald Voetmann, vil den faktisk lave fejl langt de fleste gange. Og så er spørgsmålet, om det er et godt værktøj eller en bjørnetjeneste, når der bliver en masse arbejde med at dobbelttjekke oplysningerne,” siger han.
Peder Hammerskov er på en måde glad for, at historien kommer frem i lyset. Ikke for at kritisere kunstig intelligens, men for at advokere for, at vi i branchen tager lidt af farten i forhold til at implementere det som værktøjer:
”Det her er et wakeupcall til alle i branchen,” siger han.
Ikke gået for hurtigt
Amalie Kestler afviser, at fejlen er et produkt af, at man har været for hurtig til at implementere løsninger, som medarbejderne ikke er fortrolige med endnu:
”På Politiken har vi været relativt langsomme. Andre i huset har været hurtigere til at implementere kunstig intelligens. Vi har haft mange testforløb og diskuteret løbende, før vi har rullet noget ud. Så vi er meget påpasselige og utroligt optagede af, at det, vi udgiver, er præcist og korrekt,” siger hun.
Hun fastholder, at fejlen skyldes, at værktøjerne ikke er anvendt korrekt. I stedet for et faktaboksværktøj er der blevet anvendt en åben søgning i en kunstig intelligens, hvor den kunstige intelligens så er begyndt at hallucinere, som det hedder.
”Vi vil selvfølgelig gøre mere i den kommende tid for at informere om den korrekte brug af værktøjerne, men i særdeleshed også om, hvad man ikke kan bruge dem til. Og man kan altså ikke bruge dem til at generere tekstdele i en åben søgning, som man bare ukritisk tager ind.”
”Det er slet ikke den måde, det er tiltænkt at blive brugt på. Og det vil vi selvfølgelig gøre endnu mere for at forklare medarbejderne,” siger hun.
Fakta: Her er Politikens fejlrettelser
Rettelse i artiklen:
”I en tidligere version af denne artikel indeholdt faktaboksen fejlagtige oplysninger. Politiken beklager disse fejl, som nu er rettet. Fejlene opstod i forbindelse med test af nye AI-baserede redaktionelle værktøjer, der skal assistere med bl.a. indholdsforslag til faktabokse. Værktøjerne bygger på Politikens arkiv, og vores procedurer kræver altid menneskelig kontrol og godkendelse. I dette tilfælde blev denne kontrol ved en beklagelig fejl ikke udført ordentligt. Politiken beklager fejlene og den eventuelle forvirring, de har skabt.”
Rettelse i avisens fejl og fakta-klumme i den trykte avis:
”Forfatteren Harald Voetmann blev interviewet i Bøger lørdag 24.5., og i den ledsagende faktaboks på side 7 fremhævede vi bøgerne ’Konkylier’ og ’Vandmærket’, men dem har han ikke skrevet. Sidstnævnte er en novellesamling af Naja Marie Aidt. Det fremgik også, at Harald Voetmann har modtaget Montanas Litteraturpris, men det har han ikke, og vi skrev, at han fik Kritikerprisen for ’Helioskatastrofen’, men det er en roman af Linda Boström Knausgård. Det var romanen ’Alt under månen’, der gav Harald Voetmann Kritikerprisen. Desuden fremgik det, at han fik Politikens Frit Flet-pris for ’Sotades’ kiste’, men begrundelsen for prisen var ”et mageløst forfatterskab”. Endelig stod der, at han blev medlem af Det Danske Akademi i 2022, men det skete i 2021. Det var vist det.”
2 Kommentarer
Du skal være logget ind med dit DJ-login for at kunne kommentere på artiklen.
Alle kilder, mennesker som maskiner, skal altid tjekkes/dobbelttjekkes. Det gælder naturligvis også AI.
Politikens læsere betaler for, at avisen bruger ressourcer på grundig research, kildekritik og overholdelse af andre journalistiske grundprincipper.
Og enhver god chefredaktør tager selvfølgelig skraldet, når det ikke sker. Det er blandt andet det, ledelsen får deres penge for.
Hvorfor ikke lave en fejlside, der indeholder en kort advarsel mod at tro på links fra AI?